Обсуждение

***Основная идея: раз уж эволюция создала мозг человека, то и "мозг AI" эволюция тоже может создать. эта идея у них наивна и скажу жестче - бредова ) по очевидным причинам, это дилетантизм )) контрпример колесо например ***И оказалось, что постепенно наученные роботы могут проходить конечные самые сложные среды, а попытки просто "решить проблему" без этих промежуточных научений проваливаются это совершенно тривиальнейшая вещь, до которой наконецто додумались ) и объявляют ее как прорыв когда пространство поиска слишком большое, то плохие алгоритмы плохо работают, очевидная вещь для многокритериальной оптимизации и прочего ******Это результат января 2019 года, предлагается "первопроходец" (trailblazer) -- алгоритм, который оставляет след решений на создаваемой им же целине новых и новых проблем, новых и новых ситуаций. скорее первопроходимец ) видимо )

***Он отвечал, что не считает: для развития всегда должно быть некоторое противоборство, а хоть и в одном мозгу. ***Единство -- это путь к стагнации, а не к развитию/эволюции/прогрессу, как это не назови. нет конечно, ваш же пример про ржавую батарею, не всякое изменение есть прогресс не всякое противоборство путь к развитию, не всякое раздвоение не шизофрения ) не всякое единство путь к стагнации, а часто путь прогресса

***В сфере AI нужно научить много более тупой кремний, и нельзя полагаться на то, что этот кремний обучится сам, если ему дать железное тело с моторчиками, снабдить множеством датчиков и не мешать быть любопытным к миру. вот именно нельзя, именно поэтому надо снабдить правильным алгоритмом, а не теми алгоритмы, которые сейчас распространены и пропагандируются как прорывы, эти алгоритмы никакие ) ***Возможности сегодняшнего AI более чем ограничены, поэтому инженерам AI нужно точней определяться с подходами, точней оперировать терминологией, чем педагогам -- разработчикам "естественного интеллекта". Ибо естественный интеллект может справиться и без педагогов, это легко представить. А AI без инженеров (пока) не справляется. вот именно, и именно поэтому нужен принципиально иной подход, а не улучшение существующего! раз столь разительная разница, значит дело в подходах, а не стратегии улучшения текущих алгоритмов

***-- мой любимый текст из good old AI -- это про accretion model of theory formation от Douglas Lenat, про программу Eurisco, которая должна была изобретать теорию и успешно её изобретала. мысль правильная, что надо машину которая будет изобретать новую теорию, очень правильная точнее это должен быть алгоритм по генерации и использованию моделей и это будет тогда сильны ИИ ***Но вычислительных мощностей тогда не хватало (вот тут я повторяю основные постулаты этой теории в связи с онтосинтезом, 2016: и сейчас результаты будут никакие, вопрос тут именно в подходе правильном к созданию такого алгоритма, а там был плохой подход ****Идея в том, что сегодня и про алгоритмику известно много больше, и про open-endedness, и вычислительных мощностей у нас много больше. Так что интересно было бы даже просто взять и запустить современную Eurisco на современных компьютерах с GPU и поглядеть, что получится. и ничего хорошего не получится, вопрос не в желез, а правильном подходе и как следствие в правильной структуре такого алгоритма ***Тут, кстати, железо может быть нужно более общее, чем именно ускорители нейронных сетей, так что NVIDIA GPU, которые целятся в том числе на сегмент высокопроизводительных вычислений (HPC), могут оказаться для этих open-ended алгоритмов к месту, в отличие от чисто тензорных вычислителей. ну буде еще один чуть более мощный "калькулятор", ну хорошо, но по сути неважно ***-- получается, что льюисовские возможные миры и контрфактуальность -- это тоже в каком-то смысле ход на получение рассуждений, выживающих во всех этих мирах. Всё более и более сложные миры-проблемы, всё более и более сложное выживание в этих мирах. Нужны не все миры, нужны интересные миры. Вот на этих интересных, goldilocks мирах и нужно сосредотачиваться. только бы еще отличать интересные миры от неинтересных )) а интересные миры обычно суперсложны к тому же так что новые модели и это по сути и есть новые возможные миры вопрос только как их правильно генерировать

***Disclaimer. Этот текст не предполагает, что вы что-нибудь поймёте, если вы не будете сами смотреть материалы по упомянутым в нём ссылкам. Этот текст не предназначен для попсового пересказа материала по ссылкам, он для презентации моих собственных мыслей по поводу материалов по этим ссылкам. Считайте, что это для довольно узкого круга людей -- и я точно знаю, что этот узкий круг читающих подобные тексты людей существует. Они отличаются тем, что читают не только сами буковки из поста, но и по ссылкам проходят. это пост и есть попсовый пересказ идей ИИ ) имхо ) но в целом это и нормально, нельзя же быть специалистом во всем и сразу ps и тем не менее, со всем уважением к автору текста, живая мысль и обширная эрудиция

Открытость (не в смысле «открытой платформы», а в смысле «система сама себя достраивает») для систем ии — ну это понятно. Иначе оно из стадии кольчатого червя не выберется. Конкуренция и гегель — ну тут как бы тоже понятно, без столкновения моделей и попытки создать более подходящую никакого изменения не будет, и или мир фиксируется в медленной энтропийной смерти, или локальный рост упорядоченности приходится обьяснять «синергетикой» или еще каким гегелем. Бесконечность изменения и столкновение моделей — тут видится или система, пытающаяся построить свою собственную модель, чтобы понять, что и куда крутить, или, «обратная задача обучения нейросети»: есть сетка как черный ящик, и система пытается построить «точно такую же», тестируя референсную.

«вопрос только как их правильно генерировать» — тут, кмк, уже следующая производная: как сгенерировать генератор, тестировщик и отборщик генераторов.

да, типа того в итоге как написать алгоритм сильного ИИ

***Бесконечность изменения и столкновение моделей — тут видится или система, пытающаяся построить свою собственную модель, чтобы понять, что и куда крутить, или, «обратная задача обучения нейросети»: есть сетка как черный ящик, и система пытается построить «точно такую же», тестируя референсную. именно так

«Написать алгоритм сильного ии» — не-не-не, дэвид блэйн. Пусть электроутюги сами пишут своих электроутюжат. Нам бы просто собрать машинку, которой мы сможем обьяснить, как собрать машинку, которая сможет обьяснить другой машинке... На непритязательный взгляд это кажется подвигом мюнхгаузена по вытаскиванию себя за волосы, однако тут есть один момент — даже конечный автомат способен не только на самовоспроизведение, но и на построение тьюринг машины, если к нему приделать «довольно много памяти», а тьюринг машины могут вообще все, кроме тех редких вещей, которые не могут по определению. В принципе, уже сейчас неверно говорить о том, что «люди строят все более сложные машины». В интеловских процессорах уже более ярда элементов, что где-то сидит волшебный инженер, который всю эту солянку на кульмане отчертил? Конечно нет. Нейросети уже вымахали до такого размера, что разобраться какой коэффициент что означает из человеков не способен никто. Все это обучение машин людьми похоже на то, что рисовать учат безрукие слепые (да, я в курсе про бетховена), и идея обучения машин толком не поменялась с той самой статьи тьюринга.

Ваша открытость упирается в датаизм, и, в познании мира модель гносеологии заменяется на модель конкурентного вытеснения гуманистического сознания трансгуманистическим и последующим ИИ. ЗЫ Посмотрите у Харари в "Homo Deus Краткая история будущего" ссылка тут

Что значит "конкурентного вытеснения"? Человек не вытеснил червей и кошечек, они все благополучно живут. И ИИ не вытеснит человека, будет заниматься своими делами, человек своими, и кошки своими, и черви своими.

вот как раз и вытеснит сильный ИИ не будет дружественным в связи с конкуренцией, тезис-теорема такая

***На непритязательный взгляд это кажется подвигом мюнхгаузена по вытаскиванию себя за волосы, однако тут есть один момент — даже конечный автомат способен не только на самовоспроизведение, но и на построение тьюринг машины, если к нему приделать «довольно много памяти», а тьюринг машины могут вообще все, кроме тех редких вещей, которые не могут по определению. да, вполне ***Все это обучение машин людьми похоже на то, что рисовать учат безрукие слепые (да, я в курсе про бетховена), и идея обучения машин толком не поменялась с той самой статьи тьюринга. такая аналогия вполне допустима на мой взгляд я и говорю, что наш удел видимо создание сильного ИИ и сход со сцены, единственный вариант спасения для нас, если мы сможем както переселиться/интегрироваться в сильный ИИ

Если найдется тема, по которой AI начнет доить нас как коров, то мы имеем все шансы расплодиться как коровы, которых на планете уже порядка 10-12 миллиардов. Но это лишь потому, что мы гуманисты и их едим. Как только народившийся ИИ начнет пользоваться нами, как эффективным переключателем между социальными сетями, рекламными и торговыми маркетинговыми устройствами распределения потоков финансов и материальных производств, то этот дефицит приведет к росту населения. Но, скорее всего, по моему имхо, разумеется, в этом вопросе ему будут более полезны акулы и кальмары - первые по причине наличия органов чувств напрямую воспринимающих электромагнитные поля, вторые как организмы, способные на восприятие информации в тензорной форме. Это на человеческо-математическом языке так звучит, для кальмаров реагировать в форме отношений потоков к приложению давлений на разные компоненты этих потоков наиболее естественно. На примере как если сидя в одном топике ЖЖ одновременно воспринимать все остальные близкие вам посты в Фейсбуке и твиттере с реакцией в виде не просто последовательной печати ответов на каждый, а одновременно на все возникающие изменения окружающей информационной среды сразу. В этом случае человечество останется в качестве представителей декоративных домашних кошечек или карманных собачек. Это я и подразумевал под термином вытеснение.

Колесу нужна дорога. Иначе как с медведем который ездит на велосипеде -- можно, но незачем. На уровне где "дорог" нет, с "колесом" все у природы ОК.

Это за что к примеру будет ИИ конкурировать с человеками?

"контрпример колесо например" А что значит колесо? Вращение на 360 градусов? В жгутиках (базальное тело+филамент), например, мотор с колёсиками даже крутит ось. Вариант сферического колеса (например, у перекати-поле) тоже есть.

естественно думал и про такие примеры перекати поле не проходит, ось хотелось бы про жгутик можно согласиться с небольшой натяжкой если честно, мне лень было выдумывать более корректный пример ) взял первый достаточно стандартный

я понимаю про что вы и даже гдето согласен ) ну в некотором смысле, если всетаки человек напишет сильный ИИ, то этот способ изобретения ИИ тоже можно считать природным и эволюционным в некотором смысле