Не разделяю опасения Юдковского.

все же совершенно непонятно - откуда у ИИ мотивация? У сирина понятно откуда - он хочет кушать и одеваться, и желательно, не работать при этом.