Обсуждение

С аэс хотя бы понятно, чего боятся - бахнет на станции и результатом радиоактивное заражение и куча пострадавших. Еще и ущерба на многие-многие деньга. Чего бояться от ии (не в рамках художественной картины "терминатор", а серьезно) - никто так внятно и не сформулировал. Будут сильно умные машины? Так уже большая часть телефонов с андроидом умнее владельцев этих телефонов, и никто вроде еще не умер. Машины смогут считать принципиально другие по сложности задачи, и черт знает, как это будут люди использовать? Ну так это вопрос к людям, на самом деле. На Зд принтере можно распечатать дверную ручку, а можно пистолет - ну давайте создадим комитет спасения человечества от Зд принтеров. Ограничим, запретим, лицензируем, справка из милиции, вот это все. Понятно еще откуда берутся вопли против гмо - это сильные перестановки в сх, поэтому есть лобби и за, и против, и на этой "подкачке" вылезает весь этот информационный мусор, а ии-то кому жить мешает?

Дык, все до блевотины просто, сводится к этой ламентации - Нет финансируемых проектов по безопасности ИИ... "Джентльмены в поисках десятки" (С)

Добрые или недобрые - это про людей. С ИИ будет сложнее. Возможное зло от него никак не привязано к "недобрым ИИ индивидуумам". Наибольшую опасность представляет, как и в генной инженерии, сочетание автономии, лёгкой воспроизводимости (с потенциалом самовоспроизводства), и исполнительных рычагов (заметьте, тут речь не идёт об опасности интеллектуального превосходства ИИ). В обоих случаях у истоков катастрофы будет стоять человек - злоумышленник, условно незлоумышленный нарушитель норм безопасности / взломщик механизмов безопасности, или просто раздолбай (точнее, раздолбаев в цепочке должно быть множество, но они и найдутся легко, а "спусковым крючком" может быть и впрямь один человек). Но масштаб возможной катастрофы, запущенной ничтожными человеческими силами - это именно свойство данных технологий.

В генной инженерии и реальных опасностей предостаточно (я о технологии в целом, не об отдельном продукте просто на основании того, что он ГМО), и мишень для кликуш совершенно естественная, для объяснения воплей против - какие-либо интересы совершенно излишни (хотя и их участие нельзя исключить).

Хе! Все эти обсуждения про опасность ИИ, которгго нет очень напоминают разговоры про страшилки проблемы наступления 2000 года, дескать весь компьютин кончится если прям ща бабла не отвалить. А потом наступил миллениум... И ничего не произошло! :)

-- Ты чего в окно рукой машешь? -- Драконов отгоняю! -- Так нет же драконов? -- Значит, результативно и эффективно отгоняю!

иррациональный страх перед адаптацией. который рационализируется в акцентировании на безопасности. чсх, рассуждающие в таком аспекте как устровена безопасность не понимают, и получается что не будет ни безопасности, ни (в данном случае)) ИИ. но они то именно этого и хотят! хотя не признаются даже самим себе. и с этой точки зрения их рассуждения вполне рациональны. и получается что тот, кто поддерживает такие дискуссии о безопасности автоматически поддерживает их точку зрения по принципу "смотрите, вы уже торгуетесь!" (с) но и не поддерживать нельзя :) "Интеллект большой команды людей, связанных slack и jira" ха. так это уже давно поняли и уже довольно давно эту проблему решают. и чсх не только без дискуссии, проблема даже не рефлексируется, вопрос отрицается :) досмотр в аэропортах, контроль за трафиком в инете, контроль за банковскими транзакциями - это все отсюда. и это работает! так что хотите тру безопасности у ИИ - берите пример с разработчиков AML практик ;) и как их продавать, гггг.

Проблема всемерного торможения технического прогресса фетишем безопасности очевидно назрела, и всё интенсивнее вербализуется. В этом смысле мне кажется привлекательной идея техно-юридических оффшоров, где все желающие могли бы существовать без ограничений личной свободы по мотивам безопасности для человека и общества, в обмен на отказ от гарантий безопасности со стороны государства. С другой стороны, темпы развития ИИ, несмотря на весь скепсис в отношении экспоненциализма, вызывают обоснованные сомнения в способности (и на текущий момент несовершенной) цивилизации справиться со стремительно надвигающимися вызовами. Если человеческая мотивация, за истекшие несколько тысяч лет, была достаточно хорошо изучена (т.е. мы можем вполне определенно утверждать, сделал ли человек хорошее или дурное, за хорошее наградить нобелевской премией, а за плохое судить нюрнбергским трибуналом, и быть уверенными, что получивший премию будет радоваться, а осуждённый - страдать), то как будет функционировать в этом поле вторгающийся на место человека ИИ - покрыто мраком. Аналогично, пришедшие в повсеместный упадок механизмы долгосрочного планирования (практически невозможно эффективно планировать на срок, превышающий электоральный период), вызывают закономерные опасения, что адаптироваться ко вновь возникающим проблемам человечество не успеет.

Ну, честно говоря, постановка вопроса в таком виде: не стоит создавать нечто, могущее предстать серьезным оружием прежде, чем гарантируется его не-применение против его создателей - лично мне представляется обоснованной. И аргументами типа "что тогда, не разрабатывать новые технологии, что ли" ее не опровергнуть. Не разрабатывать, коли опасно. Люди разные и в том числе - в оценке уровня допустимых издержек. Надо договариваться, а не объявлять не похожих на себя дураками.

От 2д (да и 3д) принтеров давно уже все приняли, только Вы не в курсе :) (Боле того от _любого_ инструмента в области точного машиностроения приняли и даже купить бу ни как без кучи справок и зондов в купленном.)

Так это "реакция на конкурентов"? :)

Ну фуллерены как то вот плавно перешли в графен и все довольны. :)

И что у нас там за законы о Зд принтерах? Реально не в курсе.

Надо сначала сформулировать риски. Пока что есть только разговоры в стиле "а если бабахнет?" и "вот купит родик топорик, а потом пойдет и бабушку убьет".

То есть вот так вот пророчествовать вслух упоминая 3д печать, и не удосужиться хотя бы посетить страницу википедии о упоминаемом предмете?

Просто бабло ищут...

Ага, а телефон устанавливать только тем, кто предоставит список (по штучный и желательно с датами) на год вперед предстоящих разговоров по этому телефону. :)

Станки, продающиеся в любом инструментальном магазине, позволяют сделать волыну много лучше, чем пластмассовая поделка на 3д...

Риски "использования как оружия" считаются очень просто. Ну, скажем вот эти звонки о минированиях - АИ их уже потянет, ущерб известен, противодействие проблематично. Риски "само собой начнет действовать против создателя" - ну, там методологию надо создавать, но это не смотрится неисполнимым. Надо поработать. Так-то дело в том, что журналюги и ламеры обе эти проблемы вынесли в разряд маргинальных, типа упомянул про это - тебя "серьезные" исследователи и слушать не будут. Но проблемы есть и их надо решать. Действовать в стиле "я всего лишь решаю техническую проблему, а как оно пойдет дальше - мне плевать, просто мне интересно ее решить" - недальновидно.

Зачем?