Обсуждение

- интеллект людей сегодня сильно переоценен -- интеллект софта+железа сегодня сильно недооценен Похоже, что так. И похоже, что недооценена способность железа к мелкой моторике.

А если AlphaZero приспособить к NES-играм: вместо ответного хода аппонента будет просто отрисовываться следующий кадр игры. Input можно оставить символьным (а не графическим), благодаря схематичности NES-игр.

Они ее, скорее всего, будут сразу к Старкрафту прикручивать.

API старкрафта тоже символьный. Почему бы и нет. Но все же сомневаюсь, что NES игры пропустят и перейдут сразу на Старкрафт. Все-таки NES игры куда ближе к настольным играм, где всё поле в пределах видимости. А вот как к 3D стрелялкам прикрутить? Все-таки они куда дальше от настольных игр. Но почему бы и нет?

"ни один человек не может сделать всего того, что умеют делать все остальные люди" Человечество в целом то значительно поуниверсальнее диплернинга в целом. Пока что

дело не в переоцененном интеллекте, дело в ответственности, в широком смысле слова, не в юридическом. софт+железо ни за что не отвечают, понятие смерти, боли и наслаждения им не знакомо и их симуляцией проблема не решается, нет пока у софта+железа автономной субъектности. поэтому, кстати, и бессмертие невозможно ))

Мой пойнт в том, что программы диплёнинга (разные, а не "диплёнинг") уже в отношении интеллекта часть человечества, как и отдельные люди (разные, а не "человечество"). Разные системные уровни, и никаких фейковых обобщений типа "диплёнинг", который не объект и не программа ни разу.

И что, это кого-то волнует?!

конечно ) потому что без этого невозможно определять самостоятельно цели и, следовательно, несмотря на любое превосходство в интеллекте он остается лишь инструментом в субъектных руках т.е. универсальность человека, она не в скиллах а в целях, способности их выбирать. и, соответственно, их трениовать и разрабатывать и применять инструменты для достижения целей. без отмеченных выше ограничений это невозможно. т.е. "покажите мне универсального человека, которого за сутки можно подготовить стать чемпионом мира по шахматам, японским шахматам (шоги) и заодно Го." универсальность человека в том, что он решает по какой игре готовится и в какой участвовать, а универсальный ИИ этого не может. можно посмотреть и по другому - возможно ли сделать проект, в котором нет ни одного стейкхолдера ? вообще ни одного, ноль.

так мышление вообще центрируется не на субъекте, оно как бы "промеж людей". А сейчас ещё и "промеж людей и думающих машин".

нет. в первую очередь мышление именно на субъекте и внутри него, а вот что бы его развивать уже необходимо коммуницировать, искать консенсус и т.п., "промеж людей" это внешнее проявление мышления. сейчас мышления между людей и думающих машин нет, поскольку машины не думают пока. а вот когда будет сильный ИИ, с субъектностью, тогда и будет, но думающие машины от людей отличаться не будут существенно, только формой (хардвер с этой точки зрения это форма, мы же не считаем что содержание человека это кожа, кости, внутренние органы :) ) п.с. а что бы вы сказали о проекте без стейкхолдеров ?

1. А что мешает некоторым ИИ быть универсальными как человек и использовать узкоспециализированные ИИ про которые ваш поинт? При этом не делать узкоспециализированных глупых ошибок? 2. Даже если человек узкоспециализирован, то это не значит, что он не может научиться другому.

Правильней сказать, что мелкая моторика у современных людей никудышная и вся надежда на "железо". :-) Чтоб человек что то из себя в каком либо деле действительно представлял он должен заниматься этим делом лет 20 кряду, фокусируясь только на нем и ни о чем другом не думая ("глубокое учение", да, только тактовая частота у мозга в сотнях герц :-) . Потом 5 лет осмысленной активности, потом на погост. Современная система трудовых отношений делает такое поведение совершенно невыгодным (и без него легко прожить), так что по настоящему квалифицированных "мастеровых" осталось очень мало и только в нишевых областях. А о том, чтоб делать "как предки" хоть бы и столетней давности без спец-средств и мечтать не приходится, опыта и близко не хватает.

Универсальности по-прежнему нет: алгоритм применим лишь для небольших игровых полей в дискретном времени, и требует большое количество обучающих данных, что рубит большинство применений вне области игр. Теперь нужно прикручивать к компьютеру навык моделирования. А вот другой более важный прорыв вы не заметили: компьютер теперь не только гениальный тактик и сверхбыстрый вычислитель, он ещё и гениальный стратег. Если вы посмотрите матчи alpha zero против stockfish, то вы увидите умелую позиционную игру: компьютер может даже пожертвовать фигуру или две ради победы через 50 шагов, что перебор даже на суперкомпьютере не может сделать в принципе. До сих пор люди выигрывали компьютер в heroes of might & magic, в panzer general, в civilization за счёт стратегии. Теперь -- посмотрим, что будет, но, мне кажется, эти бастионы быстро падут. А "злой ИИ" со знанием стратегии и навыком моделирования... купит себе бесперебойник и перелезет в облако ещё до того, как вы его попытаетесь выключить!...

Ну, я стратегичность на гигантское число шагов просто давно заметил -- был же вал статей про иерархический RL, например. Зачем об этом писать? Это ж общее место. Про универсальность я ж ответил: одна сетка не должна быть универсальной, ровно как человек ни разу не универсален. Фишка в том, что этих сеток делают много очень разных, для разных задач. Интеллект этих искусственных интеллектов не в них сидит, а промеж них и промеж людей. И у людей тоже так: люди рождаются неучами, tabula rasa. Потом обучаются и специализируются.

Квалифицированных мастеровых нет уже вообще... (Я за процессом люблю смотреть по охотничьему оружию высокого разбора.) А тут и Кузьминов о бесполезности ремесленного образования говорит - https://thagastan.livejournal.com/335180.html Минусовая премия за обучение профессии!

>был же вал статей про иерархический RL, например. Зачем об этом писать? Это ж общее место. Гм, только оно переставало работать при малейших изменениях в правилах моделирования или же было слишком глупым/медленным на используемом железе. >Про универсальность я ж ответил: одна сетка не должна быть универсальной, ровно как человек ни разу не универсален Под "универсальностью" ваши оппоненты подразумевают несколько другое -- умение адаптироваться. (Ведь вы не будете делать одну нейросеть для робота, который красит стены в хрущёвках, и другую нейросеть для робота, который красит стены в кирпичных домах, одну нейросеть для московского робота-водителя, другую для питерского робота-водителя, третью специально для робота-водителя для дяди Васи, итп.?) Этот навык можно поделить на несколько уровней: а) умеет адаптироваться к небольшим изменениям внешней среды б) умеет адаптироваться к существенным изменениям внешней среды в) умеет сам научиться работать в любой внешней среде RL до AlphaZero, увы, редко дотягивал даже до уровня (а). У AlphaZero уровень между (a) и (б). Под человеческим уровнем подразумевается (в). При этом, если вы увеличите сложность добывания информации о внешней среде, то RL алгоритмы упадут ещё на уровень ниже по шкале "адаптивности". Вспомните Хайнлайна с его "специализация -- удел насекомых". Мы хотим такие универсальные алгоритмы, а не отдельную нейросеть для забивания только гвоздей только в квартире дяди Васи.

"Это все очень блаа-а-ародно, а как там насчет баб?" (c) Анатолий, вы пишете о двух прорывах в неделю и т.п. А есть ли какой ресурс, где можно почитать о реальных применениях всех этих прорывов в жизни? У меня ощущение (наверняка ошибочное), что пока что главное реальное применение ИИ, бигдата и т.д. - максимально адресная реклама, чтоб ей. И прочий маркетинг. Шире - кругом говорят и пишут об очередной технологической революции. А в чем это выражается конкретно?

Для забивания гвоздей тоже хочется швейцарский ножик со встроенным станком с ЧПУ и молотками шести типоразмеров. Но почему-то не делают. Ну и с искусственным интеллектом тоже не делают. Люди вот по необходимости одинаковы, и то из них воспитанием и обучением потом разных делают. Не вижу, почему искусственный интеллект должен быть совсем уж унифицирован, "для всего". Если очень хочется универсальности, возьми их несколько и объедини. Если уж совсем-совсем, приложи к ним несколько человек в подмогу. Люди тоже чаще не обучаться в новой среде выбирают, а приглашают спеца -- а хоть и для забивания гвоздей. Так что хотелки в одну сторону, а возможности осуществления этих хотелок -- в другую. Хочется всегда больше, чем можется.

У меня складывается впечатление и от взгляда на людей: главное их применение это реклама (политиков, продуктов, знаний и т.д.). Так что ничего странного в этих применениях. Как говорится, "по образу и подобию". Фишка в том, что эти прорывы в применениях становятся не "применением", а совсем другим. Так, нейронная сетка для диктовки в телефон перестаёт быть "применением нейронной сетки" (ибо никого не волнует, сеткой или лаптем там идёт диктовка), а соревнуются уже просто телефоны -- круче надиктовывать в Android или в iOS телефон? И всё, нейросетки оказываются где-то глубоко внизу, обсуждается суть дела, а не "применение". Есть, конечно, отдельные публикации именно про "гляньте, как удалось решить ту или иную задачу", но они рассыпаны по отраслевым журналам, отдельной ленты нет.