Без заголовка
1. Конечно, разумные и сознательные существа так или иначе будут свободными. Конечно же, аболиционизм появится -- скорее раньше, чем позже. Но пока я лично считаю неправильным активно обсуждать AGI ровно потому как вместо обсуждения хоть каких-то реалий начинается пустопорожнее переливание одних этических вопросов в другие -- и весь пар уходит в этот свисток. Именно поэтому я минимизирую обсуждение проблем AGI у себя в блоге. Этот пост лишь по необходимости выходит на проблемы AGI, но никак не затрагивает проблем автономности и осознанности умных небелковых помощников.
В фейсбуке я комментировал запуск проекта М фейсбука так: "Это контрольное размежевание между AGI (от которого ожидают умения ставить и решать задачи именно в части их разнообразия) и классическим weak AI (от которого ждут умения решить поставленный узкий класс задач -- запрограммированный или наученный, это без разница. Главное, что "класс задач" не неограничен). Фейсбук пошёл по пути weak AI (человекоускоритель, а не человекозаменитель), и это на сегодняшний день для коммерческой компании правильно: полезный результат у них уже, и будет только расти, и сам этот рост хорошо контролируем и бюджетируем. Задачи AGI сейчас для пока научных лабораторий, которые могут позволить себе потратить деньги без надежды в обозримое время выйти на хоть как-то полезный для пользователей (плюс ещё и безопасный по возможности!) промышленный результат" (в дискуссии https://www.facebook.com/groups/nevronet/permalink/538110846355241/).
Так что а) конечно, обсуждение свободы воли у программ и роботов неминуемо, и б) сейчас это обсуждать преждевременно, только воздух трясти -- неведомо, что именно мы обсуждаем, типа дискуссий схоластов про "сколько мелких бесов поместится на кончике швейной иглы".
2. Я ни разу не кибернетик -- что в моих текстах кибернетического-то?! Я и слово "управление" не использую обычно -- разве что есть теория автоматического управления (ТАУ), но там вполне инженерное содержание, никаких биологов и антропологов.
3. То, что породило бихевиоризм и нейролингвистическое программирование -- это не кибернетика, она сдохла значительно раньше (в поздних своих работах от неё даже Винер отказался, признал что погорячился). Я да, я от бихевиоризма не отказываюсь. И от парадигмы "обучения" не отказываюсь, даже Бейтсона в этом посте привёл. Только не понимаю, почему об этом всём нельзя говорить в том числе инженерно. Я вот архитектуру психики вполне себе обсуждаю -- и у меня для мыслей на эту тему отдельное комьюнити, openmeta (увы, я туда сейчас очень редко пишу, но не теряю надежды опять вернуться к этим обсуждениям, уже на новом уровне).