10. Примеры инженерии личности

Анатолий Левенчук · Поиск в руководстве · MCP

Открыть это место в полном тексте руководства →

10. Примеры инженерии личности

Психотерапия и психологическое консультирование

Про психотерапию как «ремонт» личности в нашем курсе уже говорилось. Даже если считать, что мы от «психотерапии» переходим к более безобидному в плане медицинского подхода «достижения здоровья» какому-нибудь «психологическому консультированию» (counseling), всё равно инженерный подход предоставляет определённые преимущества — прежде всего потому, что в его основе создание и развитие, а не поддержка.

Современная медицина, конечно, отошла давно от использования плохо определённого понятия «медицинская норма» и говорит больше о «здоровье» и «самочувствии» (health, well-being), подчёркивая непрерывное расширение того, что включают в этом понятие и переход от чисто биологического здоровья к биопсихосоциальному здоровью1. Легко представить ситуацию, когда это будет что-то типа «прав человека», в числе которых легко можно обсуждать и коммунистические идеи, типа «хорошее самочувствие — это движущаяся со временем цель, правительство определило, что оно сильно зависит от денег, поэтому определило, что для надлежащего здоровья надо медицинским учреждениям, включая психотерапевтические их отделения, поправлять эту часть здоровья так, чтобы доход был не менее, чем минимальная заработная плата, плюс ежегодный рост не меньше, чем съедается инфляцией». Эта идеология «ремонта», даже если её закрыть другими словами, а также сказать, что каждый год всё будет лучше, и параметров будет больше — она всё равно идеология однообразия, уравниловки и выхода уже на какой-нибудь «медицинский коммунизм».

Давайте вернёмся от инженерии личности к инженерии агентов. В живом агенте-человеке как в киберфизической системе мы выделяем аппаратуру-организм (помним об экзотеле, о внешних ресурсах — это всё «аппаратура», возможно настраиваемая какими-то алгоритмами) и личность как «софт» для имеющейся аппаратуры. Рассмотрим медицину как инженерию человеческого организма. Возьмём радикальный пример, например медицинскую смену пола: это не считается ремонтом/терапией. Потом признаются страдания людей, которым это надо, и это признаётся терапией — после терапии страданий у пациента, которому очень хотелось сменить пол — меньше, медицина улучшает самочувствие.

На следующем такте представим, что медицина продвинулась чуть вперёд, и находится человек, который утверждает, что ему нужно отрастить шерсть, речь идёт о представителе сообщества furry2. Он приходит к врачу, говорит: хочу шерсть, длина 10 сантиметров, средней мягкости. Врач спрашивает, что у него болит. Ничего не болит. Плохо ли ему, что нет шерсти? Нет, не так уж плохо, но раз есть возможность отрастить — вот, хочу, вот мой чек. Биоэтика? Это вы придумали, вы и соблюдайте, я хозяин своего тела, хочу шерсть, у меня нет биоэтики, есть распоряжение собой. Психическое здоровье — нормальное! Хотеть шерсть ненормально? То есть отрастить на коже рыжий мех в форме кофточки нормально, а прямо на коже — это уже нездоровье? Кто сказал? Кому от этого будет плохо?

Тут можно привести целое литературное направление, которое описывает «ужасы» инженерного подхода к медицине и генной инженерии, когда вместо «здоровья» и «ремонта» ставятся инженерные задачи, биопанк3. Нужно помнить, что во всех тамошних произведениях поднимаются вопросы личности-на-альтернативной-аппаратуре, и авторы часто подчёркивают, что для «здорового человека» сегодняшнего дня все тамошние примеры представляют собой практически неразрешимые этические задачи.

Наш тезис в том, что ровно всё то же самое происходит, но в скрытой форме, в области инженерии личности: есть запросы «помогите с самочувствием», сводящиеся к «отремонтируйте», а есть запросы «помогите с самочувствием, отрастите мне в психике что-то ранее невиданное, просто потому, что вы теперь это умеете делать, а я хочу».

Но постановка задачи тут такая же, как в произведениях биопанка: одно дело «ремонт», другое дело — выращивание новых возможностей, которых раньше не было. Кто-то хочет, чтобы он научился, наконец, влюбляться в других людей (терапия, «влюбляться в других людей — норма, хотя есть ограничения по полу и возрасту»). Но кто-то хочет научиться влюбляться даже не в животных, не в роботов, а, например, в самолёты или на крайний случай, катера. Это ремонт, или отращивание новой возможности, или намеренная поломка и поэтому надо срочно отказать (но если есть спрос, то предложение появится). Единственная разница, это в генетической или меметической инженерии/memetic engineering4.

Дальше можно то же самое думать об экзотеле и внешних ресурсах личности: их тоже можно «ремонтировать» при повреждении (например, восстановить утраченные при крахе каких-то рынков ресурсы), или о развитии.

И тут нужно поднимать сразу более сложные вопросы: инженерия предлагает изменение мира к лучшему. Каким образом инженер личности будет реагировать на запрос об изменении мира к лучшему, когда к нему идёт запрос? Родитель просит научить ребёнка играть на скрипке, ребёнок активно не хочет, просит научить его играть в компьютерную игру, рекламу которой он видел буквально вчера, а этих скрипачей он видеть не может, у скрипок звук для него непривлекательный. Политик просит политтехнологов научить граждан любить родину, но граждане уже научились любить родину, которая им была предложена для любви предыдущим политиком. Лидер убалтывает ценного сотрудника играть важную роль в новом проекте, а ценный сотрудник хочет играть неважную роль в старом проекте, ибо у него там работает друг, а в новом проекте друзей нет, и новые друзья ему не нужны, времени и на старых друзей не хватает. Это практически нерешаемые этические задачи, если их рассматривать не как инженерные.

Если это не «психолого-этические», а просто инженерные задачи, в которых надо учесть и этику тоже (как всегда, ничего необычного!) то всё понятно:

  • Используем системное мышление, отслеживаем требуемое кем-то мастерство в момент его эксплуатации. Смотрим системное окружение, находим внешние системные роли. Помним о неизбежных конфликтах между системными уровнями, помним о неустроенностях. Предлагаем варианты (творчество!), пытаемся организовать многоуровневую оптимизацию (про этику помним сами). Проводим переговоры между агентами, играющими внешние проектные роли.

  • Каждый раз, когда внешние проектные роли нам предлагают рассмотреть этичность предлагаемого решения в пользу какой-то одной роли, поднимать вопрос о многоуровневой оптимизации этой этичности.

  • Предлагать новые инженерные решения (делать изобретения), а не реализовывать только уже известные варианты.

Сложные ситуации остаются сложными, если их переформулировать из «психологических» в «инженерные», из «политтехнологических» в «инженерные», из лидерских в «инженерные», но зато появляется какой-то рациональный способ думать об этих ситуациях. И это заодно учитывает и переход от развития личности к развитию агента в целом: его тела, его экзотела (включая экзокортекс), развитие внешних ресурсов агента (прежде всего приращение собственности).

Лидерство

Ситуация лидерства подразумевает, что личность агента-сотрудника должна быть «уговорена» заняться какой-то ролью, удерживать эту роль и даже получать удовлетворение от выполнения этой роли. Современное лидерство даже не слишком связано с каким-то выделенным агентом-лидером, оно сводится к распределённому/shared лидерству5. Более того, лидерство может быть и в сообществах, и даже обществе — но мы дальше будем всё равно говорить об организационном лидерстве, где ведомый/follower по отношению к ведущему/leader — это сотрудник.

О лидерстве тоже можно говорить как о ситуации обучения: лидер тут как совокупность учительских ролей (и сразу видно, что совершенно необязательно это один человек или даже один AI-агент), а сотрудник — это ученик. Речь тут идёт о трёх учебных программах, дающих:

  • Мастерство отыгрывания ролей («ролевое мастерство»). Ученик, когда станет мастером, должен будет уметь правильно выбирать роль, безопасно входить в роль и выходить из роли, переключать роли. Можно считать, что это часть интеллекта, набор практик интеллект-стека. Актёров учат актёрскому мастерству, но мы понимаем, что это обучение (часто сводящееся к актёрской игре в особых трансовых состояниях, умению разговаривать с неживыми предметами, если отыгрываешь роль из сказки и т.д.) не совсем подходит к нашей ситуации. Подробней это разбиралось в давнем докладе 2019 года «Стейкхолдерское мастерство»6. С тех пор, конечно, многое изменилось (и терминология, и замена театральной метафоры на игровую, изменились подходы к описанию ролевого мастерства, к обучению как инженерии личности), но стало много понятней, что развитие личности должно в себя включить обучение этому мастерству, и это не должно быть как в актёрских школах. Если нет этого мастерства, то обучение отыгрывать две других роли может быть неудачным.

  • Мастерство отыгрывания целевой роли (или даже связки ролей, назначенных на сотрудника как оргзвено) в рамках организационных ограничений конкретной организации. Собственно, это и понимается под классическим «лидерством»: работа учительской команды, после которой ученик становится мастером отыгрывания целевой роли. Мастер, выпускаемый лидером (командой инженеров личности/учебной командой) задействует своё ролевое мастерство, чтобы быстрее научиться отыгрыванию роли, а затем удерживать её в ходе творческого проявления мастерства отыгрываемой роли. Если надо мыть полы, то сотрудник понимает важность этого мероприятия, быстро учится использовать современные швабры, вёдра и отжимальные устройства, моющие средства для полов — и затем с удовольствием и не отвлекаясь моет пол.

  • Само мастерство лидерства, ибо лидерство должно быть в какой-то мере «заразным», люди должны научить друг друга отыгрывать лидерские роли, должны стать учителями друг друга в выполнении своих профессиональных/рабочих ролей в рамках организационных ограничений. Если кто-то рядом пытается уйти от мытья полов, но вроде бы это полезно для всей организации, то проходящий мимо сотрудник становится по роли лидером (заменяет собой учительскую команду) и проводит краткий учебный курс по важности мытья полов — это и есть «распределённое лидерство», когда роль учителя сотрудников предмету «добросовестная работа» выполняется всеми друг по отношению ко другу.

Если думать про лидерство как обычное обучение, то можно дальше задаваться вопросом о том, откуда будет известно, чему нужно учить сотрудника, где брать агента, который выполняет эту роль. Это же обычное инженерное рассмотрение! Идеи типа «нам надо готовить наших сотрудников, отбирая самых талантливых ещё на первых курсах вуза» при таком рассмотрении не являются «гениальными находками», а представляют собой обычные инженерные ходы типа «вот такие электромоторы нам никто не изготовит, давайте закупим для них сырьё и изготовим сами, это потребует таких-то ресурсов и займёт столько-то времени, альтернативы — такие-то, они в жизни обойдутся дороже и дольше».

В распределённом лидерстве помним, что одновременно надо учитывать уровни подпрактик этого лидерства (тут их показано всегда два, но в больших коллективах легко представить множество уровней, какую-то «иерархию лидерства»):

  • Удержание «атмосферы», работа с заранее неопределённым числом учеников, заранее необусловленными ситуациями обучения. Нельзя построить «классно-урочную систему лидерства», хотя в политике вполне можно найти попытки так устроить пропаганду на уровне страны: какие-нибудь обязательные курсы в вузах, обязательные учебные программы с идеологическим содержанием, которые надо заканчивать для карьерного роста, и много подобного, чтобы потом получить массовое знание людей о том, чему надо учить в ситуации уже конкретного личного контакта лидера с ведомым (leader — follower, где ведомым может быть и сотрудник, и гражданин, и кто угодно, кого надо «вести» в смысле убалтывать выполнять предписанную ему роль, да ещё и так, чтобы это выглядело как добровольное принятие обязательств). В современном лидерстве лидерами считают ровно мастеров создания «атмосферы», а не просто тех людей, которые реально проводят персональное обучение в каждом личном контакте, то есть в каждой ситуации, когда изменяется личность конкретного ведомого.

  • Ситуация проявления лидерства «на месте». Напомним тюремный пример: «пахан берёт зону», объясняя всем вроде как справедливые правила жизни, действуя как носитель какой-то культуры. Но он сам никогда никого не наказывает, он устанавливает «атмосферу», он явный лидер. Но вот в какой-то ситуации кто-то выбивается из роли «послушного авторитетам заключённого» и делает проступок, за который «по понятиям» должен быть наказан. И часто этот проступок замечают люди, которые устраивают «разовую сессию лидерства» (включая, возможно, и наказание), часто даже не извещая «пахана». Это жёсткий способ реализации «распределённого лидерства». Но вот эта «разовая сессия лидерства» — это тоже обучение, тоже инженерия личности. И её делают «ситуационные лидеры», уж кто как умеет. В программистских бригадах этому ситуационному лидерству учат: как наоборот, поддерживать продуктивную творческую атмосферу и обходиться в «разовых сессиях лидерства» без наказаний, но наоборот — поощрять к инициативе и творчеству.

Эти идеи «распределённого лидерства» используются обычно в самых разных ситуациях, отнюдь не только в командах, предприятиях, но и в сообществах, обществах. И речь идёт не всегда о рабочей роли, как мы видим, пропаганду и «патриотическое воспитание» вполне можно обсуждать как задачи инженерии личности, выстраивать все необходимые роли для разделения лидерского труда, но ещё этот подход ценен тем, что обязательно задаст в ходе инженерии вопросы про многоуровневую оптимизацию предлагаемых инженерных решений, попросит найти внешние проектные роли, заставит учесть этические ограничения на многих уровнях, а не слепо выполнять предписания «заказчика», даже если заказчиком выступаешь ты сам.

Продвижение

Продвижение — это объединяемые нами практики маркетинга и продаж (marketing and sales)7. Продвижение создаёт клиентуру: сообщество людей, которые обучены мастерству покупки какого-то сервиса или товара, который может дать провайдер сервиса или поставщик товара. Тем самым продвижение занимается нахождением личностей сначала потенциальных клиентов, а затем обучает потенциальных клиентов стать реальными клиентами. Для этого отдельных клиентов обычно учат самым разным вещам:

  • Признать необходимость функции, для которой нужен сервис или товар. Это самое важное. Если вы не знаете, зачем вам нужен смартфон, вы никогда его не купите.

  • Как именно функция удовлетворяется сервисом или товаром, какие свойства сервиса или товара служат удовлетворению функции, насколько это выгодно.

  • Как, где, когда приобрести сервис или товар.

Это всё вполне укладывается в рассказ об обучении, только в методике не будет ничего про классно-урочное обучение, но будут рассматриваться самые разные ситуации получения нейросеткой «потенциального клиента»::ученик содержания «маркетинговых материалов»::учебных материалов. И всё делится на две большие группы работ на двух системных уровнях:

  • Работа с клиентурой в целом, обращение к сообществам и обществу. Мы не рассматриваем сейчас того, как это строится.

  • Индивидуальное обучение, «развитие личности путём обучения её знаниям о необходимой для неё функции, которую удовлетворяет имеющийся сервис или товар, а также научение мастерству приобретения сервиса или товара».

Все этические проблемы решаются тем, что предусматривается многоуровневая оптимизация: ожидается, что продвигаемый сервис или товар действительно выгодно выполняет полезную для агента-клиента функцию, причём так, чтобы это удовлетворяло и потребностям многих других внешних ролей. Продвижение — это этично, это даёт возможность клиенту изменить его жизнь к лучшему!

В таком учебном проекте мы находим всё те же роли:

  • Культуртрегер — определение того, чему нужно учить, выполнять ли проект продвижения. Юнит-экономика8. Если вам нужно кого-то убедить в чём-то, то сколько это потребует ресурсов? Этично ли продавать этот товар? Договорились ли мы с визионером от инженеров сервиса или товара, бизнесменом от менеджеров?

  • Методолог — содержание того, что надо уметь клиентам: описание удовлетворяемой потребности (функция сервиса или товара), описание сервиса или товара, описание выгод от удовлетворения именно этим сервисом или товаром, а не товарами конкурентов. Описание того, что надо сделать, чтобы продать-купить.

  • Методист — каким способом потенциальный клиент получит мастерство? Как устроено обучение в части его формы? Например, вы ловите потенциального клиента::ученик и запираете его с продавцом::преподаватель в каком-то помещении на час, запрещая заниматься другими делами (классно-урочная система) — очевидно, что это не сработает. Тогда вы меняете метод: строите «воронку продаж», проектируете «касания» и т.д. Тут важно понимать, что методист работает с формой, методолог — с содержанием. И хотя форма и содержание связаны, всё равно будет какая-то их независимость и потребуется разделение труда. Авторы маркетинговой программы — по факту это авторы учебной программы.

  • Преподаватель, который может быть и человеком, и AI, и даже вовсе отсутствовать (как в случае self-paced онлайн-курсов или самоучителей в традиционном обучении). И там две роли: предметник, который ответит на все вопросы по сервису и товару, уберёт все ошибки восприятия, а также лидер, который удержит потенциального клиента достаточно долго, чтобы обучение стало успешным.

  • … и так можно смотреть и на все остальные роли проекта продвижения как проекта обучения.

И все материалы из нашей «Инженерии личности» как «обучения личности» вам тут будут в помощь. Так, кривые забывания учитываются и при изучении матана в инженерном вузе, и при изучении сервиса или товара вашей фирмы на предмет его покупки. Личность ученика учится, личность нейросемантически программируется (а не логически программируется), вот это важно — речь идёт об ученике, а что он клиент-покупатель, или пациент на психологической консультации, или сотрудник в ситуации лидерской с ним работы — это уже вторично.

21

https://ailev.livejournal.com/88102.html — давний текст 2003 года

23

https://arxiv.org/abs/2307.08674, в этом же направлении — https://github.com/microsoft/TypeChat, хотя кажется, что это на другую тему, но аннотация типами каких-то текстов просто повышает точность высказываний на естественном языке без излишней его формализации. Выучивание интерфейсов пользования какими-то инструментами тоже идёт в рамках тренда Software 3.0 как опоры на естественный язык: https://github.com/openbmb/toolbench

31

Типичный пример, хотя уже немного устаревший: https://blog.alexanderfyoung.com/how-to-use-chatgpt-to-learn-any-skill/

34

«Осознанность против зеркальных нейронов», 2016, https://ailev.livejournal.com/1284158.html и «Пониманию учить вдвое дольше, чем просто навыку», https://ailev.livejournal.com/1285014.html

41

например, новозеландская академия наук говорит, что нужно ориентироваться не только на западное научное знание, но и на древнее знание маори, и без этого никак. Об этом пишет Richard Dawkins, https://twitter.com/RichardDawkins/status/1467151216849260550. Вот пример коммента из этого треда: The amount of white supremacy here is disgusting. Māori have understood & conceptualised concepts like The Big Bang, evolution, & much more for centuries, while Europeans were still burning people at the stake for witchcraft & persecuting people like Galileo. The fact you don't understand the world view of The Ao Māori and the way these concepts are communicated & conceptualised displays your own ignorance. You should sit down, be quiet, listen, and learn to the immense knowledge contained in Mātauranga Māori, which Western science is barely beginning to catch up to. And brushing this off as 'woke' as an insult is incredibly intellectually dishonest and not a mind set appropriate to the search for knowledge and understanding. И там всё вот в таком духе.

46

Формулировки условий прохождения контрольных точек даны по мотивам упрощённой версии стандарта Essence, представленной в карточках состояния альф фирмы Ivar Jacobson International, https://www.ivarjacobson.com/publications/tools/alpha-state-cards-pdf-version.

48

Заседания лаборатории собранности, записанные на видео: https://www.youtube.com/watch?v=3BqYixZihsA&list=PLhPRVGfg1aeM2BmvSPpThM7V6kX1g5Boa&pp=iAQB

50

Пример шаблона для статьи по биологии — https://esajournals.onlinelibrary.wiley.com/doi/full/10.1002/bes2.1258

55

Популярный пересказ: https://zuckermaninstitute.columbia.edu/brain-context-key-new-theory-movement-and-memory, оригинал доступен в https://www.biorxiv.org/content/biorxiv/early/2020/11/23/2020.11.23.394320.full.pdf, пример для обучения танцам в https://vk.com/wall-179019873_1435.

75

Небольшой обзор в https://zuckermaninstitute.columbia.edu/brain-context-key-new-theory-movement-and-memory, оригинальная статья https://www.biorxiv.org/content/biorxiv/early/2020/11/23/2020.11.23.394320.full.pdf, Дальше нужно идти по статьям, которые эту статью цитируют: https://scholar.google.com/scholar?cites=10583813398280779251&as_sdt=5,33&sciodt=0,33&hl=en (и там уже с ноября 2021 года успело набраться довольно много разного интересного).

89

David Hestenes, «Notes for a Modeling Theory of Science, Cognition and Instruction» (2006, http://modeling.asu.edu/R&E/Notes_on_Modeling_Theory.pdf

95

https://www.knewton.com/, вот про адаптивное обучение в этой компании — https://www.knewton.com/the-power-of-altas-adaptive-technology/

106

Пример domain randomization для обучения роботов: https://docs.omniverse.nvidia.com/app_isaacsim/app_isaacsim/ext_omni_isaac_dr.html

111

История создания книги: http://danamackenzie.com/about/the-story-of-the-book-of-why/

123

вот небольшой обзор Twenty Years Beyond the Turing Test: Moving Beyond the Human Judges Too, https://riunet.upv.es/bitstream/10251/172312/7/Hernandez-Orallo%20-%20Twenty%20Years%20Beyond%20the%20Turing%20Test%20Moving%20Beyond%20the%20Human%20Judges%20Too.pdf

125

https://ailev.livejournal.com/1489047.html, три алгоритма сдали этот ЕГЭ на четвёрку, https://www.sberbank.ru/ru/press_center/all/article?newsID=72fb39fd-161e-423c-a58f-4ce41e4757f4&blockID=1303®ionID=77&lang=ru&type=NEWS

132

вот тут много таких докладов на видео, https://www.youtube.com/channel/UCJ0Uq_WB7GLmY-NTz2oFoUQ/videos, но немало таких материалов и в текстах, https://systemsworld.club/

138

«Измерение интеллекта: занимаемся миром/средой/окружением/контекстами/domain, становимся демиургами», https://ailev.livejournal.com/1609242.html и «Машинный интеллект на начало февраля 2022: до сих пор непонятно, как оценивать прогресс», https://ailev.livejournal.com/1610230.html