Обсуждение

-- но кофейник и автомобиль не ограничены биологической конструкцией мозга, они могут демонстрировать понимание более сложных моделей мира, чем люди. Физиков, которые могут двигать физическую теорию вперёд, уже не так много на планете. Кофейник и автомобиль с более совершенным вычислителем, чем мозг, вполне могут продвинуть физическую теорию: кому демонстрировать? зачем они людям будут демонстрировать? известен факт создания 2 сетями своего языка, самостоятельно, без человека. И что то эти сети и не думали демонстрировать как у них это получилось. Для чайника,который способен продвинуть физическую теорию, человек - примитивный муравей, который спит полжизни, ест, а еще у него дефекация. А у вычислителя - вечное сияние чистого разума

>И, конечно, в кулуарах я много раз ехидно спрашивал, кто входит в состав всяческих "мы" и "наших" Ну так мы, как вы можете, отвлечьшись от теоретезирования, за вами следим и вобщем-то в курсе, чай не совсем дебилы. Но вам что, травка животик щекочет? Ведь ничего на самом деле нет, сплошная пустышка, что лет 20 назад, что сейчас. Только гонор и стон малолеток. 94-й - "не упомянуто слово Интернет". 2018 - не упомянутоещё что-то. Вон православнутые третье тысячелетие об одном пекуться, до сих пор не разобрались. А это - так и это пройдёт, не то, что ерунда, нет - интересно и полезно, но неинтересно. И уже. В рамках системного мышления, выпадает.

Вот и вы делите на "они" и "человека". А у меня в тексте ровно противоположный посыл. Нет никаких "они" и "человеков", нет игроков "Зенита" и "Динамо".

слабый ИИ мыслить системно не может в принципе, он мыслит строго в рамках, заложенных его создателем. для того что бы начать мыслить системно ИИ необходима как минимум автономность (очерчивание и осознание собственных границ), внутренняя мотивация и чувство ответственности (в человеческих аналогиях - страх смерти и т.п.) и это будет уже "сильный ИИ".

-- но кофейник и автомобиль не ограничены биологической конструкцией мозга, они могут демонстрировать понимание более сложных моделей мира, чем люди. Физиков, которые могут двигать физическую теорию вперёд, уже не так много на планете. Кофейник и автомобиль с более совершенным вычислителем, чем мозг, вполне могут продвинуть физическую теорию: ваш тезис неверен, никаких " более сложных моделей мира" чайники - вычислители не продемонстрируют

+1

Ну да, начинаем примерно так, с priors -- дальше дохакиваем хард и софт (до летучих мышей в данном примере). Без priors в голову даже идея полёта и каких-то крыльев не может зайти. ;-)

Если "слабый ИИ" это один алгоритм, то "сильный ИИ" это вообще непонятно что -- когнитивная архитектура, которая сложна. И что там будет её характеризовать, это отдельно можно обсуждать. Но системный подход не очень связан с мотивацией и чувством ответственности, так что про "системно мыслить" можно обсуждать и на меньших уровнях. Инструменты поддержки системного мышления сегодня, например, это PLM-системы, так они вообще не мыслят. Но в системном мышлении участвуют.

Вам не продемонстриуют, а мне -- продемонстрируют. Ибо вы о них не спросите у чайника, а я спрошу. ;-)

а, кстати, забыл спросить. вы приводите пример, люди и вещи, человек и автомобиль без водителя. а где же лошадь, почему в списке нет системно мыслящих лошадей ? лошадь всяко умеет передвигаться несравнимо лучше любого автомобиля без водителя, выпуск которого заявлен на сегодняшний момент хотя бы теоретически. но автомобили и кофейники вместе с людьми есть, а лошадей и дельфинов - нет.

Хвала Халве!

У меня ж в докладе вместо лошади из живых существ енот помянут. Более того, этот енот во мне самом сидит. Остальное всё, что делает меня человеком -- культура. Про лошадей много говорили другие докладчики. У лошадей по сравнению с автомобилями есть недостаток: они заваливают улицы навозом, и развитие гужевого транспорта просто топило города в дерьме. Хорошо передвигаться в навозе уже не хочется ;-)

redreptiloid +100500, да, типа того и еще добавлю во 1х, еще большой вопрос, что такое мыслить? стоит формализовать или хотя бы неформально определить, и тогда путаниц, которые в декларируются обсуждаемой статье, не будет во 2х, то, о чем ailev говорит, в моем понимании, это всего лишь продвинутые калькуляторы с элементами имитации когнитивных процессов, с элементами имитации отдельных функций сильного ИИ в 3х, если сделать 100500 слабых интеллектов, и над ними повесить диспетчер (гипервизор) отдельных процессов, то это не превратит его в сильный ИИ

Там будет не диспетчер, а еще один специализированный/слабый интеллект. А над ним еще. Представьте себе не 100500, а, скажем, 500 разных по функциональному назначению и внутренней структуре слабых интеллектов, объединенных в иерархию уровней эдак на 10. Или вы всерьез считаете, что у нас в головах оно по-другому устроено?

ничего хорошего не будет, нужна качественно иная организация!

ИИ это не алгоритм. это алгоритм+данные, связанные неразрывно. каждые новые данные меняют систему, включая те что генерятся внутри. участвовать как инструменты - конечно да. но не мыслить самостоятельно или принимать участие в мышлении на равных. молоток не будет никогда партнером строителя, даже если он сам будет ходить в магазин за гвоздями и сам забивать. куда и что забивать он сам решить не может. это все потому что у нас нет никакого универсального способа установить истину с необходимой в реальном мире детализацией. только постфактум, по результатам. для этого нужна собственная оценка, возможность самостоятельно изменить систему и желание это делать. а дальше будущее покажет какой именно организм, белковый или кремниевый оказался более успешен, это и будет истиной. для ИИ или животных этим критерием будет не весь реальный мир а только его часть, ограниченная человеческой волей - человек решает какую породу собак вывести или какой ИИ создать. предположительно, когда вычмощность на кремнии или что там будет достигнет как минимум вычмощности человеческого мозга, до этого еще очень далеко, но видимо когда то будет, тогда возможно он сможет стать партнером человеку или его превзойти. но не раньше. поэтому и единого ИИ не может быть, ни сильного ни слабого. он неизбежно проиграет, опыт то у него аппроксимирован один и тот же, хоть и предположим что несопоставимо мощный с отдельным организмом. но он все равно будет расходится с реальностью и ему от нее прилетит. только в виде отдельных организмов.

ну а ИИ не может быть культурным, культура это вся совокупность опыта и инкорпорированная на свой страх и риск ее часть, в каждом носителе уникальная. и тут животные куда ближе к людям чем автомобили с автопилотом. но не дотягивают, не могут передавать друг другу абстрактные знания и не рождается культура. а человека делает человеком именно способность управлять "внутренним енотом", а не когда он управляет. и использовать его енотные качества для достижения человеческих целей. мы же не в утилитарном плане эксплуатации обсуждаем, а относительно ключевой способности. автопилот лошади сильно продвинутее автопилота будущих автомобилей.

Чтобы "навесить" или "привить" (не знаю какое слово более подходящее) культуру на енотов, эти самые еноты должны какой-то пороговой сложностью обладать. Может быть личностями? Ну или как мне видится хотя бы приближаться по каким-то параметрам к этому. Может быть хотя бы суметь посчитать что "казаться культурным" это выгодно. Есть версия, впервые в книге у Farid Zapparov попадавшаяся, что мозг это некий агент (или раковая опухоль), захвативший наше тело, сам себе что-то думает, а тушка тела его обслуживает. Возможно в недалёком будущем что-то такое типа конвергенции каких-то агентов мы увидим.

Вот хардвер там должен обладать какой-то сложностью (когнитивная архитектура), но необязательно обучен. И должна быть, конечно, культура -- начальное обучение должно проходить в культуре. Это не так сложно выполнить. Сложность когнитивных архитектур для вещей в интернете быстро растёт.