Обсуждение

> Даже другие люди, организованные в государства, тоже становятся не страшны.

Знаете ли Вы исследования на эту тему? Если да, то можете что-то порекомендовать?

> Дальше ожидаем воспитания у сетки не только безвредности и полезности/услужливости/helpfulness, но "агентности" (инициативности, "активной жизненной позиции", непассивности по отношению к окружающему миру), а затем также и лидерских качеств, "вести за собой коллектив", то есть мотивировать собеседника, а не просто услужливо ему помогать.

Я бы не стал этого ожидать, потому что агентность в ИИ — быстро превращается в жупел, как атомная энергетика.

По делу или беспочвенно — на данный момент сказать нельзя, нужно больше исследований. Я писал об этом тут: https://www.lesswrong.com/posts/opE6L8jBTTNAyaDbB/a-multi-disciplinary-view-on-ai-safety-research#3_3__AI_self_control__tool__oracle__simulator__AI_vs__agent_AI

Будущее уже здесь, просто оно пока неравномерно распределено (с) Можно быть максимально защищенным в собственном бункере, выдерживающем мегатонный взрыв, не то что землетрясение, передвигаясь на бронепоезде и получая лучшую медпомощь, а можно быть обычным человеком, который будет выплачивать 25 лет ипотеку за конуру, которая просто стоит и не падает (как минимум на момент покупки), и на которой сэкономили на всём, потому что деньги опять же не лишние, даже если продавать в 5 раз дороже себестоимости. Как мы дошли до жизни такой, хотя всё может быть по-другому, это предмет для отдельного исследования.

Можно начать с банального бюрократизма - напомнить, собрать, проинформировать. Фактически секретарь.