15 января 2009 · Комментарий

Без заголовка

Тем, что сирин -- как на ладони (по сравнению с роботом). Кто он, что он, для чего и куда. Какие у него возможности. Даже если он недружелюбен -- ясно что от него можно ожидать. Человек -- это известное (сравнительно с роботами). Чего ожидать от робота -- совершенно неизвестно (сравнительно с людьми). Поэтому людей и заботит столь сильно вопрос прошивки безопасности, которую надо забить роботам в нутро, пока они ещё не вырасли из пелёнок. Защита для человека -- это возможность прогнозировать поведение недружелюбной силы. Поэтому от сиринов Юдковский себя чувствует защищённым (относительно роботов). Помимо фактора неизвестности его пугает фактор массовости, как одно из проявлений сверхвозможностей. Как плодятся человечки -- понятно в общих чертах. Рост популяции можно прогнозировать. А роботы, как все ожидают, это будет нечто сверхмассовое, в силу саморепликации и т.п. Роботы будут богами, в отличие от сиринов. Остро возникает желание не пущать. Банальный страх за жизнь, вопрос выживания.

К записи · К обсуждению