Обсуждение

Беда в том, что настоящий ИИ может решить все проблемы человечества сразу. Хоть и не факт, что мгновенно.

Сколько людей, столько и определений того, что такое "настоящий ИИ" ))) А все другие ИИ, конечно, каждый творец своего определения считает ненастоящим )))

Ну да, начиная с Тьюринга с его тестом. Чей ИИ должен быть лжив, болтлив и скудоумен. Простейшее антропоморфное (хомоцентричное) функциональное определение: настоящий ИИ есть интеллектуальная платформа, которую можно обучить выполнять любые интеллектуальные функции, доступные среднему человеку. Из этого определения. Когда такой ИИ пойдёт на доступном процессоре, а не на суперкомпьютере, в сфере интеллектуального и псевдоинтеллектуального труда останутся лишь таланты и гении, прочих он вытеснит сразу. Далее, ИИ должен совершенствоваться со скоростью, превосходящей скорость эволюции человеческого мозга на много порядков. По годам, а не по сотням тысяч лет. Ну и... всё. При сколь угодно высокой подконтрольности и дружественности такого ИИ, далее мы становимся "не нужны природе". Не нужны собственной экономике. Даже при дороговизне роботов, нас вытеснит для начала в сферу самого низкоквалифицированного труда. По Хаксли (Дивный, Новый Мир) - на уровень эпсилонов.

Вымрем, как бактерии. Как тараканы. )))

"не только решать известные задачи, но и ставить новые" -- да это open-endedness, формулировка бесконечного эволюционного развития.

Он их не только будет ставить, но и создавать. Мошенники и вахтеры уже радостно потирают ручки в предкушении.

;) Как сапиенсы. Роботы могут оставить нас в качестве домашних питомцев, если правильно запрограммировать. Будут кормить и выгуливать. Не вмешиваться в процесс нашей деградации... или, напротив, разводить породы людей, как мы разводим породы собак. В принципе, ВР, или даже дополненная реальность позволит даже оставить у людей иллюзию управления чем-то. Разумеется, не самим ИИ, которого нам - даже просто не понять.

в "эвереттовской метафоре" (работы с требованиями, и не только) как раз "неминуемо" встаёт ключевой вопрос: "по каким особым признакам мы, акторы, выберем из многообразия будущее, в котором система реализована успешно?" Про выбить из шаблона и ориентировать в важное. (Ну и - "каким особым образом...", но это уже про реализацию)

Ну вот у меня закончится "как я провёл этим летом: написал пару книг", и я в это чуть больше погружусь. Когда-то я это всё читал абсолютно без системного мышления и онтологики в голове )))