← Безопасность машинного интеллекта должна быть инженерной рутиной!
Обсуждение
Читать и комментировать в ЖЖ ↗
неудачный термин "машинный интеллект".
при взгляде издалека на текст, мозг распознает как "мышиный" )
Комментарий
По мне так слово "искусственный" много хуже.
Комментарий
Поскольку экспансия ИИ неизбежна, предложил в http://edgeways.ru.mastertest.ru/forum11/read.php?15,649823,651742#msg-651742 такую последовательность:
На Земле остается достаточное для людей количество компьютеров;
Основная библиотека ИИ размещается на Луне на глубине с генетическим воспитанием новых ИИ другими компьютерами-родителями. Поддерживаются филиалы библиотеки в разных точках поверхности. Людям предлагаются мультимедийные индивидуальные экскурсии по Луне;
Создаются рудники на Меркурии, колонии на Фобосе и Деймосе для поддержки человеческих колоний на Марсе;
Происходит предоставление Маленьким Принцам личных астероидов;
Колонизация колец Сатурна;
и т.д.
В связи с отсутствием топлива межпланетные перелеты осуществляются на Солнечных парусах с использованием резонанса
Комментарий
В связи с отсутствием топлива межпланетные перелеты осуществляются
----
при помощи вритуальных очков/костюмов/etc :DDD
Комментарий
задержка передачи сигнала мешает управлению удаленными объектами через VR
Комментарий
Обеспечение классической безопасности - это действительно, в основном, инженерная задача. Журналисты же и "общественность" обеспокоены тенденциями немного иного рода, а именно тем, кто в перспективе будут заказчиками этой безопасности. Все идет к тому, что главными заказчиками постепенно станут именно компьютерные системы, за счет безопасности человека. И надо понять, как к этому относиться. Скоро или не скоро это произойдет - это не столь важно.
Комментарий
Так это ведь человек человеку волк, разве нет? Главными заказчиками уже давно стали человеки, за счёт безопасности других человеков. Так что я явного ухудшения ситуации не усматриваю.
Комментарий
Если рассматривать с качественной точки зрения, то ситуация давно знакомая и ничего нового в ней нет. Ухудшится ситуация с количественной точки зрения. Все человеки имеют сопоставимые параметры обучаемости, поэтому конкурирующие социальные группы имеют возможность договариваться, воспринимать друг у друга лучшие идеи, взаимно обучаться и догонять друг друга в развитии. Перспективный машинный интеллект человеки догнать будут не в силах, что победа AlphaGo ярко демонстрирует уже сейчас.
Это означает, что возникающие социальные противоречия в смешанном машинно-человеческом обществе смогут быть разрешены только машинами. Эта ситуация тоже нам знакома: в таком положении сейчас находятся, например, кошки и собаки. Они в некоторой степени обучаемы, но далеко не могут угнаться за темпами обучения и изменения человека, поэтому оказываются социально зависимыми.
В перспективе детище человека - машины - могут подчинить своего создателя и превратить его в разновидность домашнего животного. По сути, это будет концом человеческой цивилизации и началом машинной эры. Плохо это или хорошо? Сложный вопрос, но мне уже как-то не по себе. А вам? :)
Комментарий
А мне вполне по себе. Какая разница, делать мне учеников, превосходящих учителя в мясе и того же биологического вида, или на другом носителе? ;-)
Можно ещё поехидничать по линии евгеники (только голым пенисом в необработанной вагине действовать, или таки вмешиваться в процесс для отбора эмбрионов получше? Или не только отбирать эмбрионы, но и создавать их? Или не только эмбрионами ограничиваться? Тогда чем плох будет сверхинтеллект в кремнии и с моторчиками?).
В России людские массы отвечают на эти вопросы одним способом, а в Китае, например, другим. А если брать не массы, то у каждого своя точка зрения. И ваша совсем необязательно совпадает с моей. ;)
Комментарий
Когда люди предпочитают иметь дело с людьми своей национальности — это наци(онали)зм, своей расы — расизм, своего пола — сексизм, своего возраста — эйджизм.
А своего биологического вида? До сих пор такого не было — ни других высокоразумных существ на Земле, ни инопланетян, ни искусственного разума люди пока не встречали. Но вот рано или поздно встретят.
Комментарий
Дык слово есть: ксенофобия.
Комментарий
А, хорошее слово, хотя оно и сейчас широко используется в качестве обобщения для национализма/расизма.
Комментарий
У меня, на самом деле, похожая точка зрения. Просто есть некоторая ностальгия по завершающейся на моих глазах эпохе человека ;)
Комментарий
ДНКизм - вера в превосходство носителей ДНК над прочей материей ;)
Комментарий
Чем дальше, тем меньше народу понимает устройство. Как сейчас, но с использованием интеллекта всех людей/слонов/китов/дельфинов/