Без заголовка
Тем, что сирин -- как на ладони (по сравнению с роботом). Кто он, что он, для чего и куда. Какие у него возможности. Даже если он недружелюбен -- ясно что от него можно ожидать. Человек -- это известное (сравнительно с роботами).
Чего ожидать от робота -- совершенно неизвестно (сравнительно с людьми). Поэтому людей и заботит столь сильно вопрос прошивки безопасности, которую надо забить роботам в нутро, пока они ещё не вырасли из пелёнок.
Защита для человека -- это возможность прогнозировать поведение недружелюбной силы. Поэтому от сиринов Юдковский себя чувствует защищённым (относительно роботов).
Помимо фактора неизвестности его пугает фактор массовости, как одно из проявлений сверхвозможностей. Как плодятся человечки -- понятно в общих чертах. Рост популяции можно прогнозировать. А роботы, как все ожидают, это будет нечто сверхмассовое, в силу саморепликации и т.п. Роботы будут богами, в отличие от сиринов.
Остро возникает желание не пущать. Банальный страх за жизнь, вопрос выживания.