14. Этика

Какими вопросами занимается этика

Интеллект-стек безмасштабный и неантропоцентричный: он про интеллект и мышление, которое происходит в агентах самой разной природы, хотя мы и считаем агентами главным образом способных к планированию агентов, причём планы могут предполагать возможность временного ухудшения ситуации (повышение уровня свободной энергии), чтобы затем перейти к ситуации с минимумом свободной энергии (то есть минимумом неприятного сюрприза). Это люди, но уже и AI, а также коллективы и сообщества людей, поддержанные AI. Интеллект деятельный, мышление активно — творчество включает не просто познание себя и мира (изменение моделей себя и мира), но и активное изменение себя и мира.

И в этот момент важно не забыть, что вы можете со всей мощью вашего интеллекта решать проблему преодоления чьей-то головной боли путём усекновения больной головы — после отсечения головы ничего не болит, «пристрелить страдающего — это милость». Или не милость? А если страдающий сам просит (эвтаназия)? А если «изменить себя» — убить себя, самоубийство?

Общего мнения по вопросам добра и зла нет, поэтому суд решает спорные вопросы «по справедливости». Но даже прописанная в законах справедливость оспаривается, для этого существует специальный механизм — жюри присяжных¹. Так, жечь ведьм было справедливо по закону², но потом жюри присяжных сказало, что это уже как-то неправильно³. Но откуда они это узнали? И почему раньше такого не было, присяжные выносили решение «жечь»⁴? И почему потом во многих странах отказались вообще от смертной казни, заменили её пожизненным заключением?

В цикле убегания от неизвестности и задействования мыслительного мастерства практически на каждом шаге вам придётся принимать решения, на которые будет влиять этика, роль «совесть». Этика пронизывает нашу жизнь, вообще ни одно решение нельзя принимать, выкидывая этику из рассмотрения, это полноценная трансдисциплина интеллект-стека.

Например, вы понимаете, что вам уже нельзя оставаться в прошлом проекте — жизнь оттуда ушла, перспектив не будет, развитие остановилось, денег не будет, ничего не будет. Но вот в проекте полно ваших друзей, они ещё не разобрались в ситуации, и они хотят, чтобы вы остались. Они даже считают, что уйти из проекта как раз сейчас, когда всем так плохо (и будет ещё хуже) — это и есть предательство! Как надо поступать?

Или вы ставите себе новую цель: научиться продавать так хорошо, чтобы уметь продавать даже ненужные, а то и вредные товары — и чтобы покупатели ещё и спасибо говорили!

Или подряжаетесь на какое-то грязное и очень вам выгодное дело, доставляющее кому-то серьёзные неприятности, и ещё приговаривая «ничего личного» (сами-то вы вроде как не виноваты, «вы только выполняете приказ»).

Или вы берёте очень достойную цель (по вашему мнению), и дальше выбираете самые грязные и недостойные методы её достижения, даже зная об этом, но следуя поговорке «цель оправдывает средства», и поэтому считая эти методы достижения не грязными и недостойными, а оправданными и целесообразными.

Или вы ввязываетесь в государственный проект, где происходит очевидный распил денег, ибо «всё равно эти деньги налогоплательщиков кто-нибудь украдёт, пусть лучше это буду я!».

Или вы защищаете природу так рьяно, что существенно ограничиваете деятельность людей и этим людям становится жить хуже, зато в более нетронутой природе: птичка выигрывает в праве на жизнь у человека, и вы этому радуетесь.

Или просто регулярно врёте, потому как иначе-то прожить нельзя!

Это всё будет зависеть от текущих ваших представлений о том, что такое хорошо, и что такое плохо — от вашей морали. Нравственность — это и мораль, и этика, и всё что угодно, но чаще всего это то, насколько каждый отдельный человек соответствует или не соответствует в своей личной морали представлениям SoTA этики. А этика⁵** — это трансдисциплина, занимающаяся моралью и нравственностью.**

Интеллект — это вычислитель, в который загружены какие-то способы рассуждения о том, по каким принципам жить. Этику иногда определяют и в таком самом общем виде: как вам нужно жить, по каким принципам, текущие настройки интеллекта на эти принципы — это ваша нравственность, которая чаще всего не сильно будет отличаться от морали вашего окружения. Если среди ваших друзей принято кушать на ночь младенцев чужого племени, то и вы будете кушать — откуда вам знать, что это плохо?! «Все ж так делают, мне никто не сказал, что это нехорошо»⁶! Роль совести оценивает ваши (полного агента как исполняющего все деятельностные роли) и чужие (других агентов самых разных системных уровней — частей личности, личностей, коллективов, сообществ, обществ) поступки. Иногда вы делаете что-то хорошее, потом узнаёте, что это плохо — и затем вас начинает мучать совесть, возникает чувство вины. Живите теперь с этим! Жюри, приговорившее ведьм в Салеме к смертной казни, потом раскаялось в содеянном, но это было уже после смерти приговорённых ими⁷.

Как вообще себя вести этично? Где этому учат? Что-то такое происходит на уроках литературы в школе, где филологи по образованию на фантастических примерах (художественная литература, там же всё выдумано!) из далёкого прошлого (в школе изучают литературу, описывающую уже давно прошедшую жизнь) учат какой-то гремучей смеси поп-психологии с претензией на этику. Эти филологи имеют профессиональное образование по этике? Нет, не имеют. А чему учат? Они просто транслируют своё бытовое понимание «добра» и «зла», своё понимание «справедливости» — благо, что в художественной литературе разных веков можно подобрать пример на любой случай, и истолковать его уж как хочешь (помним, что Alan Kay говорил про возможность иллюстрации пословицами чего угодно⁸ — это отличается от длинных связных цепочек взаимоувязанных объяснений, так что рациональности на уроках этики, замаскированных под уроки литературы, в школе не найти).

Этикой серьёзно занимались философы. Они и сегодня занимаются моралью и этикой (этика и моральная философия⁹ слиты до неразличимости), хотя их голоса мы практически не слышим. Скорее уж услышим какие-нибудь собственные наблюдения поэта или блогера, чем мнение профи в этике. Когда возникли вопросы об этике запирания всех по домам во время пандемии, а затем поголовного вакцинирования, вопросы были даже не к медикам и науке (там были самые разные мнения, но вместо научного разбирательства что там SoTA знание, эти мнения были проигнорированы), а к политикам — и они в разных странах принимали абсолютно разные решения по локдаунам. Более того, многие люди во власти (включая медиков) понимали, что они принимают нерациональные решения (например, по обязательности ношения масок)¹⁰, но ничего не могли поделать — так же, как в случае с ведьмами из Салема, раскаиваться приходится потом.

Когда возникли вопросы об этичности занятий «слишком сильным» искусственным интеллектом, вопросы были к инженерам по AI и законодателям (юристам), но не специалистам по этике.

Это не означает, что знаний по этике нет, нет принципов этики. Основных два направления, которых люди придерживаются в этике — деонтика (делай что должно, и будь что будет — и там Кант со звёздным небом над головой и нравственным законом внутри нас)¹¹ и консеквенциализм (делай то, у чего будут получше последствия)¹², наследник более древнего утилитаризма¹³.

С деонтикой огромные проблемы: где источник долженствования? Когда тебе говорят: «ты не должен врать!», то почему? Какое рациональное объяснение? Религиозные книжки — это ж художественная литература, и на каждую святую книжку с предложением этического закона можно найти другую не менее святую из другой религии с противоположным мнением. И есть множество вопросов, которые в древних книжках не обсуждались вообще. И есть много очевидных нелепостей. Поэтому от деонтики по факту перешли к консеквенциализму (но явно не все в обществе! Много людей продолжают верить в постулаты той религии, которая им больше нравится — а нравится обычно то, что знакомо с тех времён, когда воспринималось некритически, обычно это «знакомо с детства»).

В консеквенциализме по факту нет чётких критериев добра и зла, и поэтому нужно рассуждать каждый раз: выбирай действия, у которых лучше последствия — это какие лучше, и для кого? Можно ли убить невинного человека, если при этом ты спасёшь от смерти тысячу человек? А если никого не спасёшь из людей, но при этом сохранится какое-нибудь формальное образование (предприятие или государство)? А можно ли убить невинного человека во спасение десяти тысяч человек? Ста тысяч? А если он пожертвует собой сам и убьётся ради достижения каких-то целей, не связанных со смертью других людей (например, ради того, чтобы какое-то правительство перестало быть у власти) — это самоубийство, которое должно быть осуждено или наоборот, поощрено, ибо это «герой, борец за свободу, пример детям»?

Теоретики придумывают всякие «этические задачки» типа проблеммы (дилеммы и проблемы одновременно, что подчёркивается двумя «м» в слове) заключённого на вагонетке:

Вагонетка, наполненная любимыми вами людьми, несётся по рельсам в направлении другого любимого вами человека, который привязан к рельсам. Вы можете перевести стрелку, и тогда вагонетка уйдёт на запасной путь, который безопасен. Проблемма в том, что с другой стороны запасного пути стоит такой же бедняга, у которого по путям несётся такая же вагонетка. Если вы оба выберете переключить стрелку, в обеих вагонетках погибнут все. Что вы выберете — переключить стрелку или не переключать, убив одного своего любимого человека?¹⁴

Подобные ситуации изучают уже не только для советов, как поступать людям (понятно, что в жизни ситуации будут и динамичней, и сложней, и такого чёрно-белого выбора не будет — всегда будет разнообразие выборов, один другого хуже). Но вот такие вопросы начинают возникать и в отношении машинного интеллекта. И иногда в формулировках чуть ли не буквально из задач про вагонетку — речь идёт о беспилотных автомобилях, тех самых вагонетках, которые сами себе стрелочники и могут направить себя вместе с пассажиром на пешеходов, чтобы спасти пассажиров за счёт пешеходов, или в столб, чтобы спасти пешеходов за счёт пассажиров. Люди из MIT решили выяснить, что думает человечество на эту тему, и построили «моральную машину»¹⁵, собравшую 40млн. ответов на подобные вопросы. Оказалось, что ответы в разных странах отличаются, представления об этике разнятся в разных странах¹⁶. Понимание счастья и этики в разных странах разные, нет одного счастья и одной этики, которые будут признаны всеми людьми на планете! И, конечно, у них и разные понимания разными возрастами даже в одной стране, и разными поколениями на планете (нравы становятся мягче, и убить человека становится всё менее и менее этичным способом решения всё большего и большего числа проблем¹⁷).

Есть ещё и такое мнение, что сама дилемма заключённого на вагонетке — это бессмысленный и вредный способ думать об этике, такие вопросы задавать нельзя, они не позволяют хоть что-то понять про этику в реальной жизни. В реальной жизни подобные проблемы возникают постоянно, но они имеют миллион нюансов каждый раз и не имеют типового решения. Например, террористическая организация сознательно запускает ракеты из школьного двора своей страны — и эти ракеты летят, чтобы убивать детей другой страны (это обобщённый пример, таких стран довольно много). Другая страна подавляет огневые точки противника, тем самым заведомо направляя свои ракеты на школьный двор. Мировая пресса в ужасе: «они стреляют по школам»! А если «им» не стрелять по школам? Тогда ракеты из школьных дворов будут свободно лететь и… тоже убивать детей! А какие цели? Например, палестино-израильские столкновения: с одной из сторон — прямо объявляемые цели геноцида и уничтожения еврейского государства, с другой стороны — защита своей жизни прежде всего и заодно государственности. А в освещении прессой? Объявляемые «большие цели» палестинских террористов (геноцид еврейского народа, «чтобы не мешал») не освещаются, освещаются средства достижения: ракетная стрельба как «освободительное движение» и оборона от неё как «нападение на гражданское население».

Смешиваются уровни одиночной смерти, смерти группы в одиночном поединке, уровни смертей одной войны, уровни смерти целой нации — и уровни проектов, которые заняты этими смертями. Если же речь идёт не о смерти, а о чём-то менее этически хлёстком (не про «не убий», а «не укради» или «не прелюбодеяй», как это звучало бы в деонтической этике, оценивающей неприемлемость самих действий, а не их последствий), то споры будут ещё более жаркими.

Ещё один сюжет — это блокада Крыма, чтобы тамошнему населению стало хуже от того, что Крым стал российской территорией. Получается, что если кто-то против присоединения Крыма к России, то он за то, чтобы крымчанам стало жить «в оккупации» ещё хуже?! Чтобы до их курортов никто не смог доехать и оставить там деньги — и жители Крыма быстрее обнищали без работы «в оккупации»?! Этичность лозунга «чем хуже, тем лучше» весьма проблематична! Одно дело — война с «оккупантами», другое дело — война с «оккупируемыми», жителями какой-то территории. Ещё один вопрос: стоит ли начинать военные действия, чтобы просто переместить границу? Даже если конфликтуют принципы права наций на самоопределение и борьбы с сепаратизмом как поддержание целостности современных государств — силовыми ли методами надо решать эти вопросы, «судебным поединком»¹⁸ (то есть дракой, в которую не вмешиваются третьи лица) на уровне государств, это же явная дикость, если речь идёт о людях-агентах, почему это перестаёт быть дикостью на уровне агентов-государств?

Современная война — это ещё и война этик, «кто кого переспорит в этике», на многих уровнях. Вот типичная картинка такого представления (и каждый раз вспоминайте её, когда будете читать освещение какого-то международного или даже отечественного конфликта, или даже конфликта между двумя службами одной и той же компании, или даже конфликта соседей по дому, обращайте внимание на выбор лексики)¹⁹:

Это вовсе не означает, что каждая из сторон права, или каждая из сторон неправа! Это означает, что нужно разбираться не с первыми же приходящими на ум оценками и говорить первыми же приходящими на ум словами. Это означает, что в этике нужно каждый раз разбираться, её нельзя игнорировать!

Сама этика, как и любая другая наука, бесконечно развивается: что было наиболее этично в 2020 году, может оказаться крайне неэтичным в 2120 году, и наоборот. Даже сами представления о том, что такое мораль и этика будут различаться! David Deutsch в книге «Начало бесконечности. Объяснения, которые меняют мир», которую мы уже упоминали, рассматривает этику в главе «5. Реальность абстракций» как объективно существующую и связанную с нашими лучшими теориями о мире:

«Истина обладает структурным единством, а также логической последовательностью, и, как я полагаю, ни одно верное объяснение не является полностью изолированным от любого другого. Поскольку устройство Вселенной можно объяснить, должно быть так, что правильные с точки зрения нравственности ценности соединены таким образом с верными фактическими теориями, а нравственно ложные ценности — с ложными теориями. По сути, этика занимается проблемой того, что делать дальше и, в более общем смысле, какую жизнь вести, какого мира желать. Некоторые философы ограничивают термин «нравственный» проблемами того, как человек должен относиться к другим людям. Но такие проблемы плавно перетекают в проблемы индивидуального выбора, какую жизнь вести, и поэтому я использую более ёмкое определение. Оставим в стороне вопросы терминологии, если бы вдруг вы оказались последним живым человеком на Земле, то пришлось бы задуматься, какую теперь вести жизнь. От решения «делать то, что больше всего нравится» толку было бы мало, потому что то, что вам нравится, зависит от ваших моральных суждений о том, что составляет хорошую жизнь, а не наоборот».

David Deutsch призывает в вопросах этики брать независимое от человечности (гуманизма) понимание этики, сразу брать «космическое» — не связанное с преимуществами или недостатками, или искажениями человеческого вида, антропного/парохиального понимания этики. А вот в книгах Steven Pinker этика рассматривается в главах как раз по гуманизму, «человечности». Ибо когда лисичка кушает зайчика — это явно не обсуждается с точки зрения этики, этика появляется в рассуждениях разумных людей. Люди были единственными разумные существами, о которых можно было говорить (пока не появились современные системы искусственного интеллекта, разумность которых сегодня активно обсуждается, впрочем и разумность отдельных людей тоже активно обсуждается!). И Pinker сам демонстрирует предвзятости. Например, он активно на страницах книги выступает против Трампа, который к концу книги предстаёт уже некоторым персонифицированным воплощением разного зла. Но Трамп, например, боролся (и успешно) с налогами как грабежом граждан со стороны госчиновников. И существенно продвинулся в вопросах установления мира там, где это не удавалось сделать его предшественникам и последователям. В целом Трамп вёл себя не хуже, и не лучше, чем большинство его предшественников, и чем уже ведёт себя Байден, который сменил Трампа. Так что на рассуждения самого Steven Pinker по этике нужно смотреть тоже не как на последнее верное слово, окончательный ответ на этические вопросы. Этика важна, но вы не можете сослаться на «этический авторитет», ибо к этому авторитету тут же появятся вопросы, если не сегодня, то буквально завтра!

Сегодня в связи с исследованиями машинного интеллекта появился ещё один источник сомнений в адекватности «гуманистических» этических воззрений: поскольку AI учится на накопленных человечеством за пару тысяч лет письменных знаниях, то AI познаёт и расизм, и сексизм и все остальные предвзятости/bias, которые много лет в цивилизованном обществе считались этической нормой. Компьютеры уже принимают многие решения, и эти компьютеры пока сделаны людьми, но уже в их проектировании и изготовлении большое участие принимают сами компьютеры, и скоро уже нельзя будет сказать, чего там больше: классического человеческого или классического нечеловеческого, «нежити». Гуманизм оказывается уже киборгизмом, «гуманизмом компьютерного человечества», но как про это рассуждать — это как раз предмет сегодняшней этики, тем более что рассуждать нужно по-разному, когда обсуждаешь отдельно человека, отдельно человека с компьютером, отдельно группу людей (компанию), или даже огромные образования вроде государства (нарушающие или не нарушающие международные договоры, содержание которых большинство населения этих стран даже не знает!).

В литературе, новостях, книгах в мозгах сегодняшних людей глубоко укоренены этические привычки, которые завтра могут быть сочтены вредными. Кем сочтены?! Ну, например, «передовым этическим меньшинством». И большинство населения при этом будет объявлено неэтично себя ведущим — расистами, сексистами, неполиткорректными, имя им миллион. Кто кого первым обвинил, кто первым назначил себя жертвой, тот и прав! Это происходит вот прямо сейчас, при этом возникают удивительные взгляды на этику, например идеология wokeism²⁰. И даже в науке возражать против вранья оказывается неэтичным, ибо это сильно обижает врущих учёных, а обижать людей нехорошо²¹!

Изготовители (специально выбрали это «невкусное» промышленное слово вместо «разработчики» или даже «воспитатели») машинного интеллекта при этом стоят перед дилеммой: обученный на корпусе текстов алгоритм имеет этические предвзятости/biases, впитанные «с человеческой культурой». Например, доктора считает мужчиной, а не женщиной, чисто по статистике упоминаний в текстах мужского рода, а не женского. А должен бы к докторам относиться нейтрально по части пола! Если мусульманин, то выученный по современной литературе искусственный интеллект считает его более склонным к насилию, чем христианина, чисто по статистике упоминаний в текстах (и тут уже непонятно, реальной статистике агрессивности мусульман и христиан, или по предубеждениям, воспринятым при обучении по материалам новостей последних лет, где мусульманские террористы и впрямь очень часты, а других почти и нет).

При изучении того, как избавиться от таких предвзятостей, выяснилось, что сами эти предвзятости как раз исходят из человеческой природы, из того, как устроено мышление людей в обществе! И отказ от предвзятостей — это переход от реального «биогуманизма» к «гуманизму искусственному», специальным образом спроектированному, то есть вроде как уже и не гуманизму, исходящему из антропоцентризма!

SoTA меняется и в этике тоже, поэтому нужно поддерживать выдвижение новых универсальных теорий/объяснений в этике, а также поддерживать критику этих теорий, не ограничиваясь только проведением мысленных экспериментов, но включая и экспериментальные проверки.

Вывод: этику нужно изучать в явном виде, по работам профессионалов, а не путём чтения романов, блогов в социальных сетях, статей журналистов с журналистским образованием и выслушивания мнений своих знакомых, не знакомых с научными трудами по этике. Нужно быть разборчивым в целях. Нужно быть разборчивым в средствах. Нужно всё время задавать себе вопрос: «кому именно нужно/должно? Кто сказал и почему? Почему плохо это не делать, и какие будут последствия? Почему плохо это делать, какие будут последствия?», когда встречаешь модальный оператор («нужно», «можно»). Да, к этому тексту такое поведение тоже относится.

Закрывать глаза на этику нельзя, в этой области тоже есть SoTA, ситуация тоже быстро меняется, по этике тоже нужно получать образование, чтобы не оказаться приверженцем какой-то давно опровергнутой этической теории.

Государственное строительство и госпроекты

Текст идентичен тексту в курсе «Системное мышление»

Если ребёнку в руки попадает молоток, то все предметы в доме превращаются в гвозди — и это означает, что не ребёнок владеет инструментом, а инструмент владеет ребёнком. Если системный инженер или менеджер, и уж тем более серийный основатель бизнесов/предприниматель/стратег/визионер/исследователь или даже политик, который как агент не прочь заработать в роли посредника в заключении сделки, встречается с госстроительством, то он непременно хочет им заняться (ибо это обычно прибыльно: деньги ведь на проект собирают со многих под угрозой наказания за неуплату налогов, а отдают ему одному, поэтому почему бы и не заняться?). Если госстроитель (политик) знакомится с системным подходом, системной инженерией или менеджментом, то он непременно захочет их использовать. Системную инженерию в её классическом виде «железной» и «программной» инженерии, инженерии киберфизической системы для целей госстроительства использовать нельзя, она предназначена прежде всего для проектов создания и/или модернизации кибер-физико-человеческих систем небольших масштабов (аэрокосмические проекты по сравнению с госсистемами — это очень небольшой масштаб). В проектах классической системной инженерии даже для больших киберфизических систем (авиалайнер, подводная лодка, ракета) чётко определены проектные роли по отношению к «традиционным» аппаратным или даже программно-аппаратным системам. Поэтому социальной инженерией этими методами заниматься нельзя, они не работают с сообществами и обществами — а это основные системы, которыми занимаются в государстве (как бы ни определялось значение этого «государства»: как страна; как все чиновники страны, но без граждан; как все граждане страны вместе с чиновниками; как объект международного права и т.д.). Методы системного менеджмента как инженерии предприятий тоже будут работать плохо: они хорошо будут работать там, где понятны отношения распоряжения трудом и капиталом, где начальники дают распоряжения подчинённым. В госстроительстве это означает, что менеджмент внутри какой-то госорганизации наладить можно, а вот «управление гражданами» наладить по линии менеджмента нельзя, то есть можно делать только «госстроительство-без-граждан», что может быть не просто бессмысленно, но и вредно (и это сразу отсылка к этике: могут ли одни люди распоряжаться другими людьми, если нет какого-нибудь добровольного контракта, а не «подразумеваемого общественного договора» или ещё какой удобной фикции, принуждающей свободных людей подчиняться каким-то другим организованным в госорганы людям просто на основании того, что они родились где-то и когда-то).

В госстроительстве имеют дело главным образом с большими системами из заранее неопределённого числа людей, которые малознакомы или вообще не знакомы создателям системы — сообществами и обществами. Обратим внимание, что создание таких инженерных проектов, как вполне программно-аппаратные системы слежки за гражданами, системы эффективного убийства (обычно называемые оружием, и при этом помним, что все в мире министерства нападения называют себя министерствами обороны), систем принуждения к уплате налогов и т.д. — это ведь впрямую связанные с госстроительством проекты, и они не столько про создание и развитие «железа» и «софта», сколько про создание и развитие средств непосредственного воздействия на людей, это сходу вопросы этики, практику которой должна выполнять роль совесть. Часто ли мы слышим учёт интересов совести в госпроектах, обсуждение передовых этических практик? А с учётом того, что в свербольших системах, в которых взаимодействует очень много людей, хуже можно предсказывать последствия тех или иных решений — часто ли это обсуждается в явном виде в ходе госстроительства?

Создание эффективных газенвагенов в фашистской Германии — это задача была инженерная, или всё-таки связанная с людьми? Понятно, что все эти проекты сразу вызывают этические вопросы, ибо опираются на силовые (армия, полиция, инспекции без возможности от этих инспекций отказаться) способы их реализации. Кто такие создатели систем из людей, почему они считают возможным указывать другим людям, как им жить, да ещё используя при этом насилие — диктуя свои правила и угрожая насилием за их неисполнение?

Краткий тут совет — если уж нужно заняться госстроительством, то используйте знания по этике, политологии, конфликтологии, праву, экономике, социологии и системное мышление в его «мягких» вариантах, но не используйте системное мышление в вариантах системной инженерии киберфизических систем, системного менеджмента как инженерии предприятия, как вы привыкли его использовать для мышления о системах на уровнях инертного вещества, существа, личности, организации/фирмы. Эти проекты обычно даже не уровня сообщества, а уровня общества, когда вы лично не знаете людей, которых это затрагивает (включая тех людей, у кого на это дело отняли налоги и предложили потом спать спокойно). Государство и люди в нём — это не отсеки подводной лодки, это не детали медицинской аппаратуры, это даже не атомная электростанция вместе с её персоналом. Помним про эффект бомбардировщика: лётчик вряд ли кого сможет убить в штыковой атаке, совесть не позволит. А вот сбросить атомную бомбу на город — запросто, город ведь далеко, смертей не видно. Люди, занимающиеся работой с государством, должны помнить, что им придётся играть роли, которые будут уменьшать свободы граждан. Это их этический выбор.

У проекта всегда есть вполне определённые внешние проектные роли, которые платят за этот проект: заказчики проекта (их может быть много разных!). Кто заказчик в госстроительстве? Политики? Чиновники? «Народ» (например, описанный опросом общественного мнения или результатами фокус-группы)? «Элита» (и кто её определяет)? Группы экспертов (вариант «экспертократии» — но как выбрать из этих групп «правильную», все эксперты ведь говорят разное и часто прямо противоположное, и очень хорошо это противоположное обосновывают)?

Нужно чётко понимать, что в случае госстроительства и госзаказов речь идёт о политике, а не о классических проектных ролях при создании систем. Не нужно себя обманывать, говоря, что «есть заказ, оплачивается он из бюджета, следовательно исполнителем роли заказчика является тот чиновник, который будет подписывать мне акт приёмки работ». Чиновники просто узурпировали право формулировать заказ и тратить деньги от имени «народа», и их действия могут быть прямо противоположны тому, что считали бы приемлемым люди в том же «народе». Это как если бы в пьесу «Гамлет» Шекспира пришёл актёр из театра Петрушки и изобразил вместо Гамлета свою любимую роль Петрушки, ибо «меня назначили играть Гамлета, вот и играю как знаю». Чиновники, например, могут реализовывать свои личные запросы по обогащению, и только изображать выполнение ролей представителей «народа» в заказах, а не играть роль представителей «народа»: их и их семьи может волновать «откат», проект интересовать как удобный для «распила», а результаты для собственно госстроительства могут не волновать вообще, они не будут выполнять проектных ролей заказчика госпроекта, у них совсем другие роли — и эти роли в их личных и семейных проектах, или даже личных проектах обогащения их начальников (а там дальше будет личное оправдание «я только исполнял приказ»).

Но то, что чиновники могут не играть роль «народа», а преследовать личный шкурный интерес, это ещё не всё. Речь идёт о том, что принципиально нельзя сыграть роль представителя «народа»! Госстроительство — это прежде всего политика, а что для одного человека в роли политика успех, для другого будет полным провалом ввиду других идеологических установок. Кто-то считает, что аборты — это плохо по этическим соображениям, а кто-то по тем же соображениям считает, что аборты — это спасение для молодёжи. Кто-то считает, что бесплатное (то есть за счёт налогоплательщиков) образование должно быть и начальное, и среднее, и высшее, а кто-то считает, что образование должно оплачиваться — иначе не будет никакого разнообразия в образовании, а это плохо для развития человечества. Таких различий в интересах (предпочтениях для важных характеристик систем на каких-то системных уровнях) столько, сколько в «народе» разных политических групп. Поэтому государственные проекты будут неуспешными по определению: в них никогда не будут учтены предпочтения всех внешних ролей, и даже эти предпочтения нельзя будет выявить честно и справедливо (напомним, что по определению системной инженерии успешная система — это которая учитывает предпочтения в значениях важных характеристик/интересы для всех своих внешних проектных ролей). Если вы считаете, что что-то в политике честно и справедливо, будьте готовы, что другие люди вас обвинят в полной некомпетентности, нечестности и несправедливости. И эти обвинения будут взаимны. Но с чего вы взяли, что правы вы, а не те другие? Что госстроительством должны заниматься вы, а не те другие? Из общих соображений «те другие» ведь получили такое же образование, в целом не глупей, и явно не преступники. Почему деньгами налогоплательщиков должны распорядиться вы, или ваши чиновники-заказчики, а не политические ваши и ваших чиновников противники? Тем более что противников много разных, в политике ведь существует много вариантов для каждого возможного проектного решения для устройства общества, там явно не два варианта «правильный» и «неправильный».

Конечно, формально для госпроекта может быть и подписанный какими-то чиновниками (людьми в ролях чиновников) паспорт проекта, и даже отчёт о его реализации, «успешной» с точки зрения именно этих чиновников, но никаких других. Одни чиновники будут что-то подписывать в бумагах по паспорту проекта, а другие политики будут делать пикеты ровно на эту же тему, писать статьи в газетах и разными другими способами пытаться выразить своё недовольство — в системной инженерии и системном менеджменте игнорировать все эти роли считается не лучшей практикой, такой проект нельзя будет считать успешным.

Когда у кого-то берут деньги в виде налогов, а потом тратят на чей-то проект, с самим фактом наличия которого налогоплательщик не согласен — это оно и есть, неучёт мнения главнейшей проектной роли, владельца своих денег, а хоть и уже отобранных (силой! Никто не отдаёт налоги добровольно!) в бюджет.

Главная проектная роль в госстроительстве, в госзаказах, в связанных с государственными органами проектах — это «народ», поэтому желающих что-то сказать от имени «народа» в строчке бюджета и в паспорте проекта, а также от имени «народа» расписаться в отчёте очень много. Для этого политиками и чиновниками много говорится о субсидиарности, партисипативности, сдержках и противовесах, но факт остаётся фактом: по гамбургскому счёту успешных проектов в государстве нет. Мнение об успешности всегда является частным мнением какой-то группы людей, имеющих какие-то вполне определённые ролевые предпочтения. Другие люди, у которых ролевые интересы другие, будут сильно недовольны, и такие другие люди всегда есть в «народе». Но поскольку на стороне властей сила полиции и деньги налогов этих же недовольных (на эти деньги и полиция тоже оплачивается), они ничего сделать не смогут. Это всё политика, это не системный менеджмент, не проектное управление, не системная инженерия технической системы, не медицина или образование.

Строить государство и организовывать госпроекты вы будете не из своего бездушного материала, а всегда из чужого с собственными их мозгами: из других людей. Люди — это не железо, и не компьютеры. Не считайте, что именно вы из них что-то построите успешное/удачное/хорошее для вас или этих других людей. Не считайте, что вы как системный мыслитель (системный менеджер, или инженер, или даже просто программист, или сапожник, или деятель культуры) квалифицированы что-то строить из людей. Эти люди как самопринадлежные системы, из которых вы будете пытаться строить системы систем, они не ваши материалы для строительства, и они не материалы ваших заказчиков-чиновников, заказчиков-политиков. Они самопринадлежны, они все свои собственные. И они так же точно могут хотеть что-то построить из вас — в том числе и то, что вам не понравится. Золотое правило работает и тут: не делайте с людьми того, чего не хотели бы, чтобы люди делали с вами.

Инженер по безопасности может защищать систему от врагов (антиклиентов). Инженер-госстроитель не может быть инженером по безопасности, разве что он строит тюрьму. Разработчики государственного регулирования все строят тюрьму, им платят именно за это, никто никогда не платит за дерегулирование, снятие ограничений свободной деятельности²². Задумайтесь над этим перед тем, как построить очередной блок государства, который дальше получит властные полномочия и употребит их для того, чтобы разрастись и получить ещё больше власти. Если заказ на строительство газенвагенов выгодный, то это не значит, что нужно брать этот заказ. И нет, системное мышление не может «с этикой помягче», этика присутствует во всех рассуждениях системного мышления.

Нельзя также считать, что можно получить помощь от государства в развитии системного мышления, системного менеджмента, системной инженерии, системной биологии и других системных дисциплин (часто об этом говорят, как о «промышленной политике»). Чиновники ничего не понимают в этих сферах деятельности. Даже если они выделят деньги на развитие каких-либо практик из этих сфер, или создание курсов — вовсе не факт, что это будут конкурентоспособные практики, конкурентоспособные курсы. Это будут какие-нибудь (не лучшие!) практики и курсы, которые были выбраны людьми, конкурентноспособными в получении господрядов. Пусть проблемы инженеров и менеджеров решает рынок, где каждый рискует своими деньгами, а не чужими, не деньгами налогоплательщиков. Дело чиновников — не вмешиваться в решения рынка, не поддерживать рыночно слабых, спокойно давать им разоряться, не тормозить рыночно сильных и давать им заработать, и не путать рыночно сильных и слабых с административно сильными и слабыми — то есть не путать умеющих расположить к себе инвесторов и клиентов участников рынка с умеющими расположить к себе чиновников.

Нужно также очень осторожно относиться к примерам системной инженерии из военных проектов (и проектов из других областей, которые полностью зарегулированы государством — например, проектов атомной энергетики). Поскольку в этих отраслях принят принцип оплаты из бюджета «затраты плюс» (затраты, реально понесённые в ходе проекта, плюс оговорённый небольшой процент прибыли), то только полные идиоты не будут потихоньку год от года повышать стоимость проектов и сроки их выполнения, повышая тем самым и процент прибыли. Посмотрите на гражданскую технику, её стоимость, рост технических характеристик, сроки разработки за последние двадцать лет (возьмите хоть те же смартфоны: двадцать лет назад даже сотовых телефонов толком не было, не говоря уже о смартфонах) и сравните с военной техникой — сроками и стоимостями разработки. Разница будет разительна. Поэтому нужно признавать, что в военной системной инженерии есть множество интересных методологических находок, но слепо копировать этот опыт нельзя: вполне возможно, что вы откопируете заодно и прилично выглядящие способы повышения стоимости и удлинения разработки. На свободном рынке фирмы с такими методологиями бы не выжили, но на военных якобы рынках действуют совсем другие закономерности. И конечно, каждый системный инженер решает для себя сам: хочет ли он проектировать и строить машины для убийства (именно этим занимается военная системная инженерия). В 2007 году был доклад SpaceX на конференции Международного совета по системной инженерии (INCOSE)²³, а в 2020 году на этой конференции не было SpaceX, но присутствовало много инженеров из военных и правительственных проектов. Фронтир уже не рассматривается в INCOSE, системное мышление ушло в компании, ориентированные на рынок, а не на военные и государственные применения. С государством и войной сегодня ассоциируется не прогресс и технические достижения, а застой и неэффективная трата денег на технологии.

Всё то же самое верно и для системного менеджмента: военный менеджмент явно не является образцом того, как должен быть устроен менеджмент в гражданском мире, хотя многие начальники и хотели бы, чтобы их подчинённые ходили строем. Поэтому аккуратней читайте книги военных начальников, не принимайте примеры из военной практики за чистую монету, не считайте, что найденные военными приёмы обращения с людьми будут работать вне казармы.

Этика и системное мышление

Текст идентичен тексту в курсе «Системное мышление»

В деятельности/практике/инженерии без этики нельзя, и лучше бы при этом быть знакомым с аргументами из книжек, чем «голосовать сердцем»²⁴.

Так, в 2022 году решили проверить, как хорошо работает программная система искусственного интеллекта, которая была разработана для предсказания влияния молекул на нервную систему, что дальше должно было использоваться для позитивного влияния, то есть предлагалось с помощью этой системы разрабатывать лекарства (инженерный проект, где проектировалось вещество, которое должно было дальше работать с существом — обычная инженерия с несколькими уровнями). Эта система искусственного интеллекта так же хорошо, как предлагала лекарства, предложила после вопроса о максимизации негативного влияния на нервную систему новые нервно-паралитические боевые отравляющие вещества (включая переизобретение уже имеющихся на вооружении).²⁵

Вопрос об этичности применения искусственного интеллекта, как и применения любой системы, относится и к применениям (включая самоприменение, по собственной инициативе) не только искусственного, но и «мясного» интеллекта, человеческого, а также любой смеси этих интеллектов, а также коллективного интеллекта групп людей и их компьютеров. Помним, что конфликты между системными уровнями есть всегда, их много, они между разными уровнями. То, что хочется людям из одних сообществ, будет не нравиться людям из других сообществ, общество в целом может относиться «в среднем» как-то ещё третьим образом — и оптимальных решений тут не будет. Если рекомендательную цензуру снять, то выдача будет сплошь из мемовирусов — они ведь будут отбираться рекомендательным алгоритмом просто по признаку их «заразности». СМИ и социальные сети выбирают новости, которые не полезны людям, не полезны обществу в целом, но которые полезны организациям-провайдерам этих СМИ и социальных сетей, то есть которые увеличивают потребление новостей. Новость «в Африке родился ребёнок с тремя головами» точно будет рекомендована большинством «бесцензурных» алгоритмов на основе того, сколько человек ей заинтересуются по сравнению с новостью «присуждена очередная Нобелевская премия по физике». Но тут и ёще момент: а точно нужно давать новостную ленту, которая будет отфильтровывать все фейки и подозрительные «бесполезные новости», но выдавать интереснейшую ленту, например, научно-популярных новостей, за счёт переформулирования их средствами AI в интереснейшие рассказы? Да, скажут просветители. Психологи скажут: а работать когда?! Конфликты, везде конфликты! Теория эволюции, обсуждающая неустроенности/frustrations из-за этих конфликтов, говорит, что стабильных решений тут не будет, будет вечный поиск не устраивающих никого компромиссов, и будет огромное число разных компромиссов примерно одинакового качества.

Этичность точно так же рассматриваться должна без какой-либо индивидуальной, расовой/религиозной и даже видовой пристрастности. Деантропоцентрирование этического мышления будет полезно в том числе и для агентов-людей. Этична ли смерть? Один ответ — нет, ни разу, ни в коем случае, а другой ответ — да, ибо эволюция в ней нуждается²⁶! А может быть тогда не смерть, а «эволюционная модернизация» по линии трансгуманизма? Для такого инженерного решения, выходящего за рамки узковидовых этических приоритетов, мы сталкиваемся с пересечением инженерного деятельного (изменяющего себя и мир) мышления и этики. Этика в инженерном мышлении есть всегда, её нельзя выкидывать — и системной инженерии без этического рассмотрения быть не может. Если вы создаёте простейшие столовую вилку, ложку и нож, то ими тоже можно убить — использовать как оружие. Дальше вопрос, который любят задавать юристы: а намерение какое? Столовое, «двойного назначения», или таки «чтобы убить было легче, чем кушать» (маскируем «боевой клинок» и «боевую вилку» под столовые нож и вилку)? С ножом пример не случаен, ибо в самолёте у вас и маникюрные ножницы могут иногда отобрать как «возможное оружие» (но производителю их такое использование и в голову не придёт!).

Ещё пример: дети могут сунуть руку или железный гвоздь в розетку — запретим 220 вольт в домашней сети? Что, не все дети это будут делать, а только очень некоторые, а электричество очень полезно для освещения и стиральной машины? Ну, «мы» (кто «мы»? где границы этого «мы»? кто выражает мнение этого «мы»? почему выразители противоположного мнения не должны включаться в «мы», а мнение пересматриваться?) за ценой не постоим, детские жизни дороже!

Этих примеров множество. В социальной сети взрослые могут написать неправильный пост, а потом люди случайно (ну вот как дети, которые случайно суют руку в розетку) могут там этот неправильный пост прочесть. Решение: запретим соцсеть в страновом интернете! Что, социальные сети для чего-то там полезны? «Мы» (те же вопросы про «мы»! всегда их задавайте, когда вам говорят от имени «мы»!) за ценой не постоим, неправильных 100 постов в сутки оцениваем как больше вреда, чем может оправдать вся польза от остальных 10млн. постов в сутки!

Мозг в плане этики (равно как и в плане системного мышления, который отправляет мышление в ситуацию использования целевой системы прежде всего) выключать нельзя, любой ведь инженерный объект можно представить как «двойного назначения», а кроме этики сравнивать пользу и вред — нет такой дисциплины (включая обсуждение вопроса, можно ли сравнивать пользу и вред — вопрос об утилитаризме²⁷, и вопрос о том, должны ли мы судить о делах по этим делам — деонтика²⁸, или таки включать обсуждение последствий по линии причин-следствий, консеквенциализм²⁹). Тут главный вопрос: бытовое ли у вас рассуждение про этику, или вы понимаете, какие могут быть аргументы в пользу того или иного решения в силу того, что хоть что-то изучали по этой линии, а не просто «голосуете сердцем». И понимаете ли вы, что «абсолютного решения», «верного ответа» в этике не будет, ибо неустроенности в системах неустранимы, сложность систем будет только расти в ходе эволюции, разные варианты этических решений будут расти в разнообразии, но существенные улучшения будут не так часты, как этого хотелось бы (все закономерности эволюции работают и тут).

Примеры этических вопросов, возникающих при инженерии систем разных эволюционных уровней

Текст идентичен тексту в курсе «Системное мышление»

Вот несколько примеров для разных эволюционных/организационных/системных уровней:

• Человечество — мы тут одни на маленьком глобусе (человечество со всеми его людьми и компьютерами, но не все агенты будут человеками, тогда трансгуманистически назовём «агентечество» или ещё как), но планируем распространяться по космосу. Этично ли это? Или мы будем «загрязнять космос» и нужно самоубиться согласно слоганам «зелёных» (в случае безжизненного Марса — «красных»)?

• Общество — каталлактика³⁰/экономика, политии³¹ (в том числе государство). Желающих рассказать, что этично или что неэтично делать с обществом (в том числе кому делать — кто или что агент таких изменений, и каким способом этот агент будет работать) по части его нарезки на государства, ограничения торговли и т.д. можно найти в любой рюмочной, в любой пивной, что уж говорить о редакциях СМИ, где журналисты с их профильным чтением художественной литературы имеют своё просвещённое мнение по всем этим вопросам, а уж блогеры так и вообще тут профи! Вопрос привязки к территории тоже обсуждается, и ответ на него не так очевиден³². Или такие вопросы как здоровье (санитарное государство: локдауны и карантины при любых подозрениях на эпидемию, принудительные вакцинации и другие медицинские процедуры, назначаемые без особых на то оснований — а кто и как будет определять основания? Суды? Эксперты? Они врут более часто, чем можно ожидать. То есть они не врут, но два эксперта — три мнения, это называется «шум» в решениях³³).

• Сообщество — споры между разными культурами и субкультурами как раз здесь. Когда-то рейверы и брейкеры Москвы не любили друг друга и ходили драться друг ко другу на мероприятия. Это очень не нравилось организаторам мероприятий (другой системный уровень, чем у участников мероприятий, другие цели, другие представления об этичности тех или иных поступков). И они придумали ход: лидеры и рейверов, и брейкеров в одностороннем порядке выпустили для своих сообществ декларации о том, что «мы считаем ниже своего достоинства задирать этих не совсем людей, мы их вообще замечать не будем!». Тексты были идентичны, хорошо восприняты каждым из сообществ, драки прекратились — сообщества демонстративно друг друга не замечали. Это и есть социальная инженерия на уровне сообществ.

• Коллектив/организация, которая трудится — это проекты (организованные коллективы, то есть с понятными ролями и полномочиями каждого). Организация заинтересована платить меньше налогов, платить работникам меньше зарплаты, брать с потребителей за свой товар или сервис побольше. И это только часть противоречий. Один работник «подставил» другого (дал возможность реализоваться заведомо провальному проекту этого другого, но провал таки случился, виновного в провале наказали). Как к этому относиться? А если бы этот один работник не дал реализоваться провальному проекту — как бы этот другой к нему относился? Ещё пример: работники делают заведомо неконкурентоспособную систему, все об этом знают, но никто не отказывается работать. Система сделана, не работает (как и ожидалось), денег за неё не получено (зарплаты платились из кредита), компания обанкротилась. Правы ли работники? За что менеджеры наказали собственников этого предприятия? Или работники просто украли свою зарплату? Но они же работали! Тогда это мошенничество?!

• Личность, которая сегодня рациональный/разумный человек-киборг. Стек саморазвития: собранность, работа-учёба-хобби-семья, мышление письмом и инвестирование времени. И тут возникает огромное число проблем, начиная от проблемы взаимоотношений полов (никакой любви преподавателей со студентами! Ибо студенты зависимы! Это несправедливая любовь, даже по согласию!) до самообмана (часто полностью осознаваемого! Типа «захочу бросить курить/есть на ночь/ложиться спать под утро — легко брошу, просто не хочу бросать»). Да и сами вопросы: кого считать личностью, дееспособным. Детей — начиная с какого возраста или приобретённых умений? Инвалидов — кого считать инвалидами? Проблема психиатрических больных (нет «объективных» тестов в психиатрии, это более-менее произвольная оценка), да и просто назначений. Проблема осуждения преступников (или не преступников? В разных сообществах, в разных обществах могут быть разные ответы на этот вопрос для одного поступка).

• Существо — тут разведение существ (типа как коров на свете, выращиваемых для забоя, много больше, чем можно было бы их ожидать в дикой природе), сохранение разных генотипов (борьба с эволюционными вымираниями!), генная инженерия ("мы не можем ждать милостей от эволюции"), и тут же «благо всех чувствующих существ», включая xGI уровня муравья: этично ли его выключить? А наступить на муравья — этично? А вымыть руки бактерицидным мылом? Это ж геноцид, то есть устранение живых/чувствующих существ по принципу различий в геноме! Ладно, а аборты: рациональности/разума-то в эмбрионах человека ещё нет! И даже в младенцах особо нет, что тоже вызывает вопросы.

• Вещество — его явно можно использовать во вред! Поэтому надо запретить работать с некоторыми веществами. Уран-235 без обсуждений, но и золото тоже, это ж неподконтрольная властям валюта, конкурирует с бумажными деньгами! И наркотики, конечно, но не алкоголь, хотя и алкоголь тоже, или всё-таки нет для алкоголя. И сталь, если она в форме пистолета, и даже ножа, или у него сомнительная цена в больших количествах, это ж «демпинг».

Конечно, это крошечная выборка примеров. По сути дела, вся социальная (личность-организация-сообщество-общество) жизнь как конкуренция инженерных проектов крутится вокруг возможных ответов на эти вопросы, попытки оптимизировать конфликты³⁴. Но мы помним, что в силу многоуровневой неустроенности огромное число возможных решений имеет вполне сравнимую оптимальность, улучшения этой оптимальности (удачные решения, обычно как-то согласованные на нескольких системных уровнях) редки, разнообразие решений огромно, а «правильного» единственного решения не может быть. Плюс непрерывно растёт уровень сложности, человечество тут не должно быть последним, и вряд ли прилетят инопланетяне, чтобы усложнить ситуацию, но трансгуманисты с этим усложнением вполне могут справиться (собственно, даже наличие двух полов, или нескольких основных человеческих рас уже вызывает вопросы на тему сколько разных человечеств живут на планете).

Скажем, клетка в организме хочет безудержно размножаться. Для клетки это «хорошо и этично», а для органа и тем более организма это рак, «плохо и неэтично» — и тут вроде всё понятно, поскольку клетке и даже организму мы отказываем в разуме. Человек в проекте хочет выспаться и не ходить на работу, а для команды и дальше коллектива это провал проекта и неполучение зарплаты всеми. Но должна ли клетка подчиняться требованиям органа и дальше организма (кому должна? кто определяет «долженствование»? как организм решил, что эта его гипотеза, что вот так делать надо обязательно реализуется? Можно ли вообще говорить таким языком «долженствования», если речь идёт об отношениях не слишком разумных сущностей?), и должен ли аналогично человек подчиняться требованиям команды и дальше коллектива (вот тут всё то же самое, но слово «должен» вдруг приобретает совершенно определённый смысл)? А если неразумные клетки или разумные люди не выбирали присоединиться к организму или коллективу, если их не спрашивали об этом — могут ли они начать священную борьбу с неблагоприятным окружением, этично ли это? А если коллектив (отказываем ему в разуме! но тоже проблема, ибо вычислители вполне нормально объединяются для увеличения вычислительной мощности) борется с другими коллективами, а люди в них перебегают из одного такого коллектива в другой, или сплошь «двойные агенты»? Чью сторону возьмём в споре? А если эту борьбу обозвать патриотизмом, а перебежчиков со всех сторон обозвать «предателями» — поменяется ли оценка событий от приклеивания эмоционально окрашенных ярлыков, взятых из каких-то неявных этических теорий?

Фрустрации неизбежны между всеми системными уровнями, а эволюция при этом рассматривается как многоуровневая оптимизация: фрустрации всегда будут, но они не приведут к смерти всего стека индивидуальных систем разных уровней. Этические задачи из-за фрустраций будут всегда, недаром в конфликтологии замечают, что в информационной войне выигрывает тот, кто берёт цели максимально высокого уровня, если он сможет показать это в пропаганде: тот, кто защищает семью в квартале проиграет в информационной войне защищающему интересы квартала в целом, кто защищает мир во всём мире/цивилизацию выиграет у того, кто защищает интересы одной страны — но горе, если будет показано, что вроде как борец за счастье всего мира прежде всего борется за счастье себя и своих приближённых в ущерб этому самому миру. При этом помним, что системных уровней много — и можно играть на фрустрациях «через уровень» («да, я борюсь против всех моих ужасных соседей по кварталу, ибо я воюю за интересы города в целом, за объединение всех кварталов!»), что окончательно всё запутывает.

Этика описывает тем самым норматив работы многоуровневой оптимизации для разумных системных уровней: чтобы неразумные квазиорганизмы не поубивали свои разумные квазиклетки, а разумные квазиклетки не поубивали свои квазиорганизмы (с учётом того, что всё это происходит не на двух системных уровнях, а на множестве и в разумности коллективам, сообществам, обществам и даже цивилизации в целом можно отказывать, с чем отнюдь не все будут согласны).

Системное мышление про многомасштабность/многоуровневость и этика тем самым существенно связаны. Талеб приводил в «Антихрупкости»³⁵ пример ренормализации, чтобы показать, как активное меньшинство подчиняет себе более-менее пассивное большинство. Wokeism как идеология³⁶ основан на примерно тех же принципах. Экономисты любят приводить примеры с продавливанием законодательства, где кто выигрывает 100 тыс. рублей от какого-то решения, может продавить его, если от 100 тыс. человек убудет всего по одному рублю от каждого. Это всё игры с разными системными уровнями: кому-то «избранному» на более низком системном уровне чуть-чуть становится лучше за счёт того, что более высокому уровню (многим!) становится чуть хуже — клетки печени, скажем, растут и радуются в опухоли, и ещё дают метастазы, а все остальные самые разные клетки организма получают проблемы, организму в целом от этого плохо. Перераспределение богатства или убытков, или даже «духовных благ». Если живёте в несветской стране, а то и в светской, то всё быстро поймёте про «свободу совести» — некоторым «совестям», то есть религиям, будет явно посвободней, чем другим и это будет называться «справедливостью».

В межстрановых (уровень общества) событиях (миграция, войны, «историческая родина», внешние займы, торговые войны) распространено мнение, что этично или страдать, или нести ответственность (но редко получать какую-то выгоду — ибо придётся сказать, где источник этой выгоды. А источник неприятностей может быть легко назначен, скажем, «внешний враг» или «твой диктатор, которого ты не свёрг») просто по причине того, что кто-то административно меня записал в какую-то общность людей. А я отвечаю: меня не спрашивали, в какую общность записывать, поэтому этические претензии в части несения ответственности не принимаются. Этично ли «отказываться от ответственности»? Конечно! «Без меня меня женили» не должно работать ни для кого в принципе!

Скажем, этично ли проводить опрос о целостности страны/сепаратизме/«освободительном движении»/сецессии³⁷ только среди жителей, которые не живут в спорной местности? Или только среди жителей всей страны вместе со спорной местностью, их обычно вдесятеро больше живёт не в спорной местности, результаты примерно те же будут, что в предыдущем случае? Или только среди жителей самой спорной местности, но на них предъявляют права те, кто в этой местности не живёт! Что делать с их интересами? Там же кипят страсти! И как доказать, что опрос был не под дулом пистолета? Не фальсифицирован? Пример фальсификации опроса тут выборы президента США: вроде как развитая демократическая страна, а фальсификация вторых выборов Трампа вдруг оказалась важной плохо решаемой проблемой.

А что при вопросах о целостности страны с участием «страдающего меньшинства» — его страдания куда деть, если большинство проголосовало за какой-то один вариант, а меньшинство проигрывает? А ежели результаты 50-50, «примерно поровну», и есть понимание, что это «поровну» не случайно³⁸? И это мы ещё не обсуждаем вопрос о том, является ли голосование нормальным способом решения инженерных проблем, проблем изменения состояния мира с одного на другое. И дело даже не в том, что если голосованием решать вопрос о толщине металла для корпуса железнодорожной цистерны не рекомендуется, а рекомендуется нормальная работа инженерной команды, то почему в социальной инженерии вдруг должно помочь голосование. Вопрос в том, что в голосовании не может быть нормально решён вопрос представительства, нет математически корректного решения задачи голосования в парламенте, волю «народа» голосованием точно отразить нельзя в принципе (это обсуждает Дэвид Дойч в главе «13. Альтернативы» книги «Начало бесконечности. Объяснения, которые меняют мир»).

И это вроде вопросы системного мышления про отношения «часть-целое» на уровне территорий и находящихся на них людей с их имуществом, и всегда нужно поэтому смотреть на уровень ниже «двух сторон международного конфликта» (их там много больше) и уровень выше — что там в мире в целом, где такого происходит много и сложилось определённое мнение, хорошо это, или плохо (например, когда и как границы менять хорошо, когда и как плохо — когда это «восстановленная справедливость», а когда «границы должны быть незыблемы»). Вопросы применения силы для продавливания на более и более высоких уровнях (драка двоих, драка стенка на стенку между «проектами», набеги сообществ друг на друга, войны и военные спецоперации, санкции торговые и военные как-то организованных обществ, включая, впрочем, и вполне не организованную, а спонтанную партизанскую войну) в защиту тех ответов на задаваемые тут вопросы, которые стороны считают этически для них обоснованными, мы даже тут пока не рассматриваем. Вроде у цивилизации/человечества SoTA в том, что применение силы недопустимо и даже если дошло до войны, то и она должна идти «по правилам», и «кто начал первым/превентивно, тот и виноват», но недаром министерство нападения любой страны называет себя исключительно «министерством обороны», с меметической инженерией политтехнологи во всех странах разобрались, и пропаганда не хуже геббельсовской и сталинской. В СМИ и соцсетях все вроде за высшую справедливость, а в реальности мы живём среди не слишком этично ведущих себя людей, и что такое «этично себя ведущие» узнать тяжеловато, ибо придётся решать задачу многоуровневой оптимизации, которая заведомо не имеет абсолютного решения, только субоптимальные.

В этих бездушно-инженерных рассмотрениях (линия мультимасштабной социальной инженерии как изменения систем сразу на многих системных уровнях, то есть изменение и людей, и организаций, и сообществ, и обществ, и даже попытки изменить человечество) этика всплывает на каждом шагу.

Скажем, работа «аналитиков», которые отказываются признавать себя инженерами. Так можно рассматривать работу консультантов, и не только по части «аналитики для проектов создания успешных киберфизических систем», но и более высоких системных уровней стека создателей. Автор нашего курса когда-то спросил Игоря Минтусова³⁹: вот тебя Гитлер попросил помочь сделать газенваген поэффективней — какие ты дашь советы? Он отвечал, что будет как врач, не отказывающий в лечении: даст самый лучший совет, как сделать поэффективней, но ответственность за использование совета лежит не на нём, а на Гитлере. Идея о том, что консультант по норме (а где эта норма прописана? Откуда она вообще известна?) предпринимает усилия по тому, чтобы его советы таки были реализованы (если не реализованы, то зачем советует?!), или что клиент может оказываться лишь усилителем для претворения его советов в жизнь (при наличии доверия к советам) ему в голову намеренно не приходила и отвергалась. Ибо он же был главным образом «консультант по победе в выборных кампаниях разных уровней власти», помогать сволочам, которым выборные органы нужны были исключительно для доступа к бюджетам, входило в его обязанности, но он очень хотел, чтобы совесть его не беспокоила. Вот отсюда и трактовки: себя как врача, не имеющего права отказать злодею (но ведь это не вопрос жизни-смерти злодея как человека!), и себя как «чисто обработчика информации», который не несёт ответственности за изменения мира.

Конечно, «аналитик» как инженер (всегда подчёркиваю, что нет анализа без синтеза! аналитики — это замаскированные инженеры, которые не хотят нести ответственности и брать на себя принятие решений! это в том числе и вопрос этики в их отношении к делу!) несёт ответственность за то, что насоветовал. При этом, конечно, идеи даже инженеров всегда рисковые, «изобретения» с непонятными часто следствиями, и гарантий успешности дать никто не может, а ещё в бизнесе есть поблажки как «ограниченная суммой вложений ответственность», иначе в собственники бизнесов вообще никто бы не шёл. И ещё эксперт как нормальный инженер должен предпринимать меры, чтобы его советы/предписания таки вели к изменениям в окружающем мире, иначе зачем советовать?! И ещё нужно учитывать, что работа эта обычно коллективна, и тут «роль инженера в проекте» примерно так же может обсуждаться, как «роль личности в истории» (да, от одного инженера многое зависит, но отнюдь не всё).

Ещё стоит вопрос с самой этикой: откуда она пришла в таком виде? Она меняется со временем? Да, меняется. С этикой всё то же самое, что и с любой наукой — человеческое знание про этику растёт. Универсальной модели/объяснительной теории мира (включая модель/объяснительную теорию этики) нет, есть много конкурирующих неуниверсальных. А ещё есть вечная невязка/несоответствие этих моделей/объяснений с актуально происходящим в реальности. С этикой всё то же самое: к ней нужно относиться как к физике, постоянно развивающейся теории и регулярной смене парадигм (основополагающих объяснений, радикально новых догадок, как это всё нужно описывать).

Опять же, этика тут нормативная наука, которая задаёт некоторую цель, но эта цель тоже предмет обсуждения, как в любой науке⁴⁰.

Этика вполне развивающаяся дисциплина. И тесно пересекающаяся с системным мышлением через вот эти самые конфликты между уровнями и неустроенности из-за них. И при системных рассуждениях этику выкидывать из рассмотрения нельзя ровно так же, как нельзя выкидывать рациональность/логику (тоже имеющую статус нормативной дисциплины⁴¹).

Мозг выключать нельзя, следование только логике/рациональности, или только этике, или только системному мышлению, или только быть собранным и осознанным в проектах по созданию систем не поможет. Поможет задействование всего интеллекта, плюс ещё и владение прикладными практиками работы в разных предметных областях, хотя бы на уровне кругозора, и уж точно на уровне профи в предметной области вашего проекта. Если у вас есть этические проблемы в вашем конкретном проекте, то вам с этикой придётся разбираться на уровне более глубоком, чем кругозорный. И лучше бы вы разобрались. Скажем, вы привыкли считать, что фирма или сообщество — это маленький такой человечек. И дать фирме закрыться или дать сообществу распасться — это как убить маленького человечка. Но нет, это неверно. Это совсем не так, ведь фирма и сообщество созданы из людей. Эти люди сами не умрут, они просто перейдут в другие фирмы и сообщества. Поэтому сохранять фирмы (и проекты в них), сообщества, общества «любой ценой» не нужно, при их исчезновении люди не умрут и быстро встроятся в другие фирмы (и проекты в них), сообщества, общества. Кому-то будет в новых организациях, сообществах, обществах чуть лучше, чем в прежних, кому-то чуть хуже, но в среднем всё будет так же субоптимально. Но вот если распадётся на органы человек, то эти органы уже не встроятся в других людей, не найдут себе место, это чистые эволюционные потери. И вот тут уже нужно быть жёстким: предотвращать людские потери, они невосполнимы.

Упражнение: этика

1. Напишите четыре последних достигавшихся вами цели (изменения окружающего мира). Оцените их этичность по пятибалльной шкале.

2. Напишите к этим целям средства их достижения. Оцените их этичность.

3. Напишите проект, в котором вы отказались принимать участие по этическим соображениям. Оцените отдельно его цели и предполагаемые средства достижения.

Занимался:

Отказался: