Обсуждение

Неклесса нашей социогуманитарной неклессе, которая родственна гарадже, кем приходится?

Думаю, что это - сын его отца. Но ему не брат.

Понятия не имею, кто там гараджа (яндекс выдает сразу несколько гарадж, так что я не понимаю, о ком ты), но Неклесса из радиопередачи, судя по всему, именно тот самый социогуманитарный Неклесса (все его вопросы были про "социо" и "гуманитарность" -- правда, я на эти вопросы не ответил ;) Я не очень хорошо знаю теории Неклессы (он говорит про них с использованием одних терминов в значении других терминов, "которых еще нет" -- а я такой разговор банально не понимаю). Так что обсудить социогуманитарные аспекты Неклессы я не смогу, увы. Его роль на этом радио приводить разных людей, которые что-то пытаются рассказать про будущее (понимаемое как раз социогуманитарно, это я уже потом сообразил). Я же выдал социоНЕгуманитарную теорию, думаю, для противовеса хорошо получилось.

Однако будущее-то неравномерно распределено, так? Поэтому у человечества все время будет возможность выскользнуть в не затронутую тем, что вы называете "сенгулярностью" местность-область, и уйти от роли домашних кошек при суперинтеллектуальном киборге :) Тупо уеду в деревню, напьюсь и буду отстреливаться :)

Ну Вы даете. Исключительно интересно следующее: нечто, текст, устройство или существо, только что не обладавшее рефлексией, вдруг обретает ее. Если Вы когда-то говорили или писали именно про этот этап совсем подробно, либо (если нет) существует статья или книга на эту тему, с которой Вы согласны, то дайте ссылку. Что это вообще за штука - рефлексия (в Вашем строгом определении)? Почему, например, у Вас есть, а у коренного австралийца, например, нет? чем Вы принципиально лучше?

Весь вопрос, на что эту рефлексию употреблять. Моя "принципиальная лучшесть" -- это цели, на которые рефлексия направляется, контент, содержание. Только не нужно мне толкать, что дикарь "такой же человек" -- подумайте о Маугли, чтобы нам существенно сократить разговор. Не все, что в теле человека -- человек. Далее традиционная колея вечного спора про постмодернистский мир, в котором всех нужно внимательно выслушивать, в том числе идиотов на собраниях профессоров (ведь они же тоже люди!). Но это (с австралийским аборигеном) линия разговора, которую мне подсовывал ведущий программы, ему ведь не про программы интересно, а про людей -- а мне было интересно рассказать, как программы превратятся во что-то сравнимое с людьми (хотя и на краткий миг). Другая линия разговора, которую я пытался выстроить -- про другую рефлексию, техническое ее понимание. Насчет ссылок про рефлексию в программистских определениях: http://www.laputan.org/ref89/ref89.html (двадцатилетней давности статья -- а с этих времен много воды утекло ;) Рефлексивность -- это возможность программы судить о себе самой (или писать себя саму). Еще можно сразу помянуть до кучи интроспекцию в формальном смысле -- "Explanation and Self-Disclosure: All the personal computing systems we are aware of, including our own, are very poor at explaining themselves, even to professionals, and are essentially opaque to non-expert users. A number of AI and expert systems have employed filtered versions of deductive histories to produce a narrative explanation of their inferences [Exp]. We have experimented with these ideas to allow any structure to explain and show how it was made. These simple explanations can be annotated to produce richer and more forgiving renditions, but the real value in explanations are those that can be generated automatically in a setting that allows end-user exploration. Our particular approach to modeling time (see ahead) also allows extensive undo, redo, checkpointing, and the ability to run computations both forwards and backwards to understand what is going on. Our aim here is to have “the system be the curriculum”. This will eventually require this system to go beyond being reflective to being introspective via a self-ontology. This can be done gradually without interfering with the rest of the implementation." Это из http://www.vpri.org/pdf/NSFproposal.pdf

Еще десяток лет есть в запасе ;)

:-)

хорошая програмка получилась. было бы еще интересно в этой связи узнать ваше мнение по поводу суждения, что сеть есть единый компьютер, вобщем как ваше видение сойдется с Кевином Келли @ TED

Все говорят об одном и том же, хотя Келли очень уж попсов в своем изложении. Неправильно думать, что сеть -- единый компьютер. Наоборот, "единый компьютер" будет сетью -- и даже не одной сетью, а целым набором сетей. Я считаю, что слово "компьютер" относится уже к очень древним и не обозначающим ничего словам -- вон, в радиопередаче мне пришлось специально объяснять, что телефон является компьютером общего назначения, а не "гаджетом". Все что угодно становится "компьютером" -- значит слово "компьютер" потеряет значение. И "компьютерная сеть" потеряет свое значение, будет просто "сетью" (потому как других сетей не бывает). Мышление уже сегодня лучше бы выворачивать наизнанку, в децентрализацию. Обзывание же децентрализованной системы чем-то "единым" (а хоть и компьютером) только уводит от этого. Много-много разных наложенных разнотипных сетей самых разных объектов -- вот как это уже выглядит сейчас, и тем более в будущем.

пробовал слушать передачу, но не получилось. Вообще, как по мне, то термин "сингулярность" уже оброс большой и волосатой бородой. И в очень многих случаях уже стал фитишем. По моему мнению, подавляющая масса жителей земли её эту сингулярность и не заметят. А каких-либо катастрофических, или там наоборот райских изменений она не даст -- пустые надежды. Наши собственные проблемы нам придется решать и дальше самим. А вот что будет делать результат сингулярности, действительно от нас скрыто.

Проблема в том, что нынешние сети детерминированны (даже если используют стохастические алгоритмы) -- должны демонстрировать предсказуемое поведение. И всякая непредсказуемость в них -- это авария. А те что должны быть для постройки Большого ИИ -- должны быть вероятностны по сути, так же как и человеческий мозг. Каким образом вы представляете такой спонтанный переход от первого ко второму, это интересный вопрос?

И нынешние сети не детерминированы (время прохождения в сетях сигналов вносит огромную случайность), и мозг человеческий не детерминирован. Роль детерменированности сильно преувеличена. Ежели интересно про то, детерминирован ли мир, то вспомните спор Эйнштейна с Бором. Пока выигрывает Бор (хотя занялся этим Бор исключительно под влиянием Эйнштейна, за что ему большое спасибо). Но еще ведь не вечер? Будут и еще теории... ;)

Ну, надейтесь ;)

//И нынешние сети не детерминированы Я какраз это упомянул. Да, они могут быть основаны на стохастических алгоритмах работы, но конечный результат их деятельности -- строго детерминирован. А что до Бора с Эйнштейном, то это упоминание вообще мимо темы, так как для пояснения работы мозга не нужна ни теория относительности, ни квантовая теория. А несколько более другая теория...

Катастрофой для матушки-Земли может стать очень много разного чего. Но в данном случае, есть вполне определенные законы прохождения процесса, не несущие в себе ничего катастрофического. Так что, мне не на что надеятся, так как не на что уповать, или чего боятся...

Бор с Эйнштейном спорили о детерменированности и случайности. Никакой теории относительности в их споре и рядом не стояло, а квантовая теория тоже была лишь поводом. Вы преувеличиваете детерменированность мира. И у сетей нет "конечного результата". Да и единства сети тоже нет -- есть множество самых разных наложенных сетей, абсолютно непредсказуемых. И эти сети даже не сводятся к интернет-сетям, ибо в интернет втыкаются большие куски неинтернета.

Да не говорю я о детерминированности. О сингулярности я узнал в англоязычном сегменте, несколько лет назад.(того же Юдковского например) Но там свои дела, да и языковой барьер. С тех пор смотрел что появится в русскоязычном сегменте. Но покак то что я вижу еще на очень поверхностном уровне. Вот взять вашу передачу -- достаточно серьозное пояснение идеи на популяризаторском уровне. Но не больше, глубины не видать. То что вы говорите о сетях... это как здесь -- http://bishop3000.livejournal.com/100893.html Подобие между структурой Космоса и нервной системе -- а как же. :) Конечно, оно похоже, по внешнему виду. Но это не значит что такая похожесть дает основания делать какие-то выводы. На самом деле. И в человеческом теле практически подавляющая часть нейронных сетей не имеет никакого отношения к интелекту человека. Исполняет такие же служебные функции, как разнообразные сети составляющие Интернет, за которые мы так зацепились.

она идет не по всем параметрам а только по ряду критических связанных с функциональностью = конкурентоспособностью. Это значит что сингулярность может появиться гораздо раньше, например за счет оптимизации этих параметров слабым ИИ - не дожидаясь ИИ сильного.

Надо было еще про «Серую слизь» (белковая мыслящая плесень) рассказать. У меня сосед, слушая эту передачу, не донес стакан до рта. Так и замер на полпути – вывели мужика из запоя, за что Вам огромное спасибо :). Еще есть мнение, что до сингулярности мы не доживем http://www.pnp.ru/chapters/science/nauka_5728.html. Имхо, продвижение в массы лозунга "Все на борьбу с космическим катаклизмом" представляется в условиях кризиса более продуктивным :). Кстати, а почему бы вместо «сингулярности» не использовать термин «глобальная техногенная катастрофа»? Ну а теперь попробую серьезно – данная передача, тот случай, когда интеллект гостя существенно превосходит интеллект ведущего. Вы выглядели очень хорошо. Ну, а что касается поднятой проблемы, то мне кажется, что главная проблема человечества это все же не рукотворная интеллектуальная среда обитания (созданием которой я занимаюсь), а жадность и глупость. Ну а к Вам у меня два вопроса очень простой и очень сложный. Простой вопрос: чем живое отличается от неживого ? И сложный:– на сайте Вашей фирмы http://www.techinvestlab.ru был провозглашен тезис о создании интеллектуальной среды разработки проектов. Есть ли на эту работу техническое задание и календарный план?