11. Рациональность

Рациональность = объяснения + принятие решений + действия

В интеллект-стеке эпистемологию/epistemology¹ как «объяснения по добыче объяснений» мы делим на познание/исследования как «практику непрерывного/бесконечного улучшения всех имеющихся знаний/теорий/объяснений» (роль: исследователь) и рациональность (роль: разум) как практику использования объяснений для принятия решений в деятельности. Так что эпистемологию мы можем смело считать учением о непрерывном рациональном познании. Напомним, что деление интеллект-стека на отдельные трансдисциплины и тем более последовательность изложения этих трансдисциплин весьма произвольное, они проводятся для удобства создания учебных курсов и организации справочного материала по этим трансдисциплинам.

Разные школы мысли по-разному трактуют познание/исследования и рациональность. Например, гносеология включает, в отличие от эпистемологии, не только «научное/инженерное» познание мира, но и религиозное, и художественное. Но и это не единственный вариант². Точно так же есть множество разных вариантов понимания и рациональности, например как «инструментальной рациональности»³.

В нашем варианте мы будем рассматривать рациональность как отдельную от познания/исследований мыслительную практику⁴, и в ней выделять:

• Объяснения/explanations как основной предмет рациональных рассуждений, используемых в рациональных рассуждениях о решениях по поводу дейтсвий

• Теорию решений⁵: как в ходе рациональных рассуждений принять решение о действии

• Прагматицизм⁶ как нацеленность объяснений в конечном итоге на действия, неразрывность знаний как моделей себя и мира и деятельности по изменению себя и мира.

Конечно, есть множество вариантов иного деления рациональности. Например, в теории active inference теория решения и прагматицизм слиты едино: даётся понимание того, как агент активно (телесно, меняя мир и себя в ходе познания, познание как требующее планирования и телесной работы действие) познаёт мир, чтобы принять в этом едином телесном/active/embodied рассуждении/inference решение об изменении моделей себя, мира (ментальные объекты), а также себя и мира (физические объекты).

Выше практики рациональности в интеллект-стеке всё можно считать по умолчанию «рациональным»: рациональное познание/исследования (как бесконечно развивать знание), а дальше обсуждаем рациональную бесконечно развивающуюся эстетику, потом рациональная этику, и так далее. «Рациональная X::практика» тут везде — не просто мыслительная практика, но деятельностная (меняющая мир с задействованием мышления как функции интеллекта), то есть оптимизирующая фрустрации между системными/эволюционными уровнями бесконечно эволюционирующего (как дарвиновская, так и меметическая/техно-эволюция) мира.

В рамках использования полного интеллект-стека, конечно, надо «зашнуровывать» между собой все объяснения мыслительных трансдисциплин, включая рациональность и познания/исследования (составляющие эпистемологии) в одно целое связное рассуждение. И учитывать, что практика объяснений — это прежде всего использование объяснений для планирования действий и дальше действий (время использования объяснений, функциональные характеристики объяснений/знаний/теорий), а практика познания/исследований — это время создания теорий-объяснений. При этом «рациональные агенты» имеют интерес практического использования объяснений, а «агенты-исследователи» — это системы создания знаний. В жизни это всё смешано и перепутано, но всегда полезно различать времена создания и времена использования.

Исторически получилось так, что сначала таки был прорыв в том, как устроено производство объяснений, причём главным образом для науки и без чёткого понимания того, что же наука производит (она как раз производит рациональные объяснения, которые потом используются в рациональном планировании действий и рациональной деятельности), и только потом уточнено, что же это такое должно получаться — оказалось, что результатами исследования должна быть не любая идея, а именно объяснение/теория/знание, которые обладают особыми свойствами (например, они должны быть сформулированы контрфактуально).

Изучаем в интеллект-стеке мы это наоборот: сначала что такое объяснения (рациональность как практика «времени использования объяснений»), а затем познание/исследования как практика создания и выбора лучших объяснений как моделей себя и мира для того, чтобы потом «брать лучшие объяснения всерьёз», то есть использовать в качестве основы для деятельности по изменению себя и мира.

Объяснения

Дойч в книге «Начало бесконечности. Объяснения, которые меняют мир» (и меньшей мере в книге «Структура реальности») продолжает линию Karl Popper⁷ для эволюционной научной эпистемологии как бесконечной добычи знаний. Karl Popper утверждал, что ключевая операция появления новых знаний — это догадка про то, какие объекты и отношения важны для эффективного изменения мира к лучшему (мы тут не касаемся того, что означает «к лучшему», это будет обсуждаться в этике). Это и есть основное отличие рационализма от эмпирицизма⁸: в эмпирицизме (по-русски иногда говорят ещё «эмпиризм») новое знание выводится из наблюдений («данных о мире»), а в рационализме в основе знания лежит догадка, невыводимая из наблюдений. Наблюдения нужны будут потом, для проверки догадки! В эмпирицизме наблюдения начинают всё дело.

Новое тут то, что догадка/guess (гипотеза) должна быть не в виде любой идеи, а именно в виде объяснения. В оригинале у Karl Popper создание знаний начинается с догадки в форме любой идеи, сами добываемые наукой знания он не конкретизировал.

Далее догадка должна пройти строгий контроль на то, что она среди всех других догадок является лучшей. David Deutsch в своих книгах предлагает проверять контрфактуальность формулировок объяснения (собственно, у него именно это отличает «объяснение» от «просто любой идеи» — причинно-следственность), на трудноизменяемость (тут нужно копать: похоже, это как-то связано с типами, но сам по себе критерий не очень понятен), на рациональность (не парохиальность, какая-то байесовская или квантовая, но не произвольная логика вывода, логическая стыковка с другими объяснениями, а не обособленность), на универсальность (покрывает большее число ситуаций, чем объяснения-конкуренты), на точность предсказания данных эксперимента (сравнение с другими объяснениями).

Объяснения, которые не удалось опровергнуть, нужно принимать всерьёз (то есть действовать в соответствии с ними). Это означает, что с самого начала объяснения должны быть направлены на действия, критерий хорошего объяснения — возможность использовать его в действии (такое обсуждается как прагматицизм). Если объяснения выглядят очень странно, но вы не можете их опровергнуть — вы должны строить свои действия на этих объяснениях, и это очень контринтуитивно, очень трудно принять, но именно так и надо действовать.

David Deutsch также предложил критерий удовольствия/fun criterium⁹ для объяснений, связанный с семантикой: удовольствие/fun — это когда сам процесс эволюции идей идёт беспроблемно в плане совмещения явных/explicit, неявных осознанных/inexplicit/tacit и совсем уж неосознанных/unconscious объяснений в рассуждении. Рассуждение только с явными объяснениями — это «логика», но нейросетевые вычислители работают не строго «логично», а подмешивают в рассуждения дополнительные интуитивные соображения, осознанно или совсем неосознанно. В этих трёх видах рассуждений людьми не должно ощущаться «онтологического дребезга» (ощущений в теле, соответствующих проблемности/противоречивости, обнаруженной в рассуждениях). Критиковать в объяснении тут можно только явную/explicit часть, что абсолютно недостаточно. Увы, даже если вы ощущаете этот «онтологический дребезг», он не даёт указаний о том, что делать — надо выявить сначала его причины, но потом всё одно придётся как-то решать возникшую проблему. Это хорошо характеризует ситуацию, описываемую как «когда мы найдём правильное решение — мы это почувствуем». Конечно, речь идёт именно о «почувствуем», ибо это уйдёт «онтологический дребезг», вы получите удовольствие, оно будет вполне ощутимо!

Множество вариантов критериев хороших объяснений нерациональны. Например, нерационален призыв следовать только explicit теории, исключать из рассмотрения какую-то интуицию. Объяснения/теории должны оцениваться по их содержанию, а не тому, откуда пришли — скажем, может быть письменное объяснение «из бульварных газет, они же буковками написаны» — опираться на это объяснение на основе критерия только письменности было бы неправильно. Романтический критерий, где чувства «интуиции» должны победить всё письменное/explicit — это тоже оценка не содержания теории, а источника откуда пришли, только в этом случае источником будет «интуиция», а не тексты. Но нужно как-то применить выдвижение догадок, критику, исправление ошибок к совокупности конфликтующих осознанных письменных и интуитивно ощущаемых, а также совсем уж неосознанных теорий (которые в рассуждениях принимают участие, но мы на это просто не обращаем внимание — но на результат рассуждений они влияют!).

David Deutsch предлагает решение в том, что все эти неосознанные, прочувствованные, явные (формальные писанные) объяснения/теории нужно воспринимать как эволюцию их в некотором окружении других теорий/идей в мозгу (или мозгах, или мозгах и компьютерах), и в этой совместной эволюции идёт учёт всех трёх видов идей (явных, осознаваемых неявных, неосознаваемых). Конфликт явных идей может быть проявлен логикой и экспериментом, а вот в случае двух других видов идей/теорий это может быть проявлено состоянием ума, в котором идёт эволюция всех видов идей одновременно, и вот в этом состоянии ума у вас тот самый fun/забава/удовольствие/развлечение.

Это совпадает с последней работой группы Karl Friston про биологическую эволюцию, в которой нельзя рассматривать отдельные организмы и отдельные генотипы, но нужно рассматривать взаимодействующие между собой организмы и генотипы в ходе совместного эволюционного взаимовлияния¹⁰.

Другой современный защитник рационализма (сначала предложим модель, потом проведём эксперимент) от эмпирицизма (сначала проведём эксперимент, потом из результатов его измерений выведем модель) — это Judea Pearl. Его последние работы посвящены уже не столько тому, что люди не в состоянии рассуждать рационально (то есть действовать на основе объяснений, прежде всего объяснений того, как причины дают их следствия), но и искусственный интеллект на основе современных нейросетей не даёт объяснений¹¹. В языке разработчиков универсальных алгоритмов рационализм получает знания model-based путём, эти знания дают cognitive bias плюс для проверки используются данные измерений — вот это правильно! Эмпирицизм: знания получаются из данных/измерений плюс «аппаратные» знания как innate priors — это неправильно! Вот три аргумента Judea Pearl в пользу рациональности против эмпирицизма:

• Целесообразность (expediency). Данные эксперимента и innate priors вполне можно использовать для эволюции знания. Но эволюция крайне неэффективна, на неё уходит огромное количество вычислений. Можно найти эффективные универсальные алгоритмы, реализующие эволюцию, но это поможет не радикально. При появлении какой-то неожиданной проблемы просто может не хватить времени для её решения! В биологии ответ на такое жесток: не успел убежать, защититься или напасть и съесть — смерть. «Пробы и ошибки» — это вполне рабочий метод, но человечество явно придумало и другие методы получения ответов на вопросы! Для того, чтобы выбирать новые эксперименты в ходе эволюции («что пробовать» в методе проб и ошибок), нужно уметь строить рациональные модели (в том числе и прежде всего — модели причинности, модели для рассуждений о причинах и следствиях).

• Прозрачность (transparency). Откомпилированное в теорию (абстрагированное и компактно представленное/сжатое) знание удобно хранить и переиспользовать. Понятно, как проводить с ним вычисления. Понятна его модульная организация. Разделение познания/learning (один раз задорого) и «рассуждений по использованию знаний/теорий»/вывода/inference (многократно задёшево) — это очень выгодно вычислительно! Рациональные (откомпилированные, формальные, в том числе причинные) модели могут отвечать на вопросы, не выводя эти ответы эволюцией из данных.

• Объяснимость (explainability). Ответы на вопросы должны быть объяснимы, что обычно происходит в терминах причин и следствий и правил рассуждений. Знание передаётся от агента к агенту не путём передачи исходного набора данных, из которого потом агент сам получит новое знание, но путём объяснения. Объяснение делается на причинных (с контрфактуалами!) моделях.

Judea Pearl и вслед за ним много кто ещё, например, Bareinboim со товарищи¹² заходят на формализацию причинности по линии «лестницы причинности»:

• Контрфактуальность. Рассуждения о причинах-следствиях ведутся контрфактуально, с вопросами «если бы не было причины X, то что было бы» к уже свершившимся ситуациям. Это означает, что рассуждения ведутся с графами причинности, из которых исключаются стрелки.

• Интервенции. Вероятности событий в графе причинности считаются как вывод в байесовской сети, и это do-calculus, исчисление интервенций, отвечает на вопросы «если делаем X причиной, то что будет следствием?».

• Ассоциации. Граф причинности должен быть догадкой (рационализм против эмпирицизма), а расчёты байесовской сети по данным эксперимента («ассоциации») только сдвигают вероятность наличия или отсутствия связи. В редких и особых ситуациях граф причинности может выводиться из данных, но это нужно особо обсуждать каждый раз.

Вот страница «The Book of Why», где изображена эта лестница причинности:

Использование только «ассоциаций» (статистических закономерностей, вычисленных из данных) не должно заменять индивидуализированное (а не по итогам всей выборки) принятие решений. Если принять аргументацию Pearl и Mueller, то сегодняшние клинические исследования двойным слепым методом¹³ оказываются не рациональны¹⁴! Они дают ненадёжные результаты (то есть часто врут)!

Нам нужны теории-объяснения про причины и следствия

Логика занимается тем, что выполняет правильные рассуждения над объектами, полученными в результате моделирования/онтологизирования/формализации. Но любые ли модели нам нужны для деятельности? Нет, нам прежде всего нужны модели, позволяющие предсказывать состояние мира в будущем, то есть generative/порождающие (противопоставляемые discriminative/различающим моделям). И нам нужны причинные/causal модели, позволяющие определять по причинам следствия для этих причин. Такие модели называются объяснениями. Они отвечают на вопрос «почему», «отчего» и «что будет, если», а не просто выдают какой-то результат. Самое главное, что эти модели позволяют отвечать на вопросы «а что, если…?» даже к уже прошедшим в реальности событиям с моделируемой ситуацией, и получать ответы про «альтернативное будущее для уже свершившегося», что явно будет «против фактов»/контрфактуально/counterfactual.

То есть модели, которые показывают нам просто ассоциации/корреляции между какими-то событиями, нам не подходят! Они не показывают, что в этих событиях причина, а что следствие! Солнце встаёт, потому что петух кричит, или петух кричит, потому что солнце встаёт? Или и солнце встаёт, и петух кричит потому, что есть некоторая для них общая причина, которую мы ещё не знаем? Статистики, показывающей связь между восходом солнца и пением петуха оказывается недостаточно, чтобы разобраться. Нам нужны объяснения.

Над статистическими моделями, отражающими ассоциации между какими-то событиями, есть ещё два уровня «лестницы причинности»/causal ladder, изучаемые относительно новым разделом логики¹⁵, называемым причинным обновлением (causal inference, называем по образцу «байесианского обновления» на основе получаемой информации на каждом шаге inference/вывода/обновления), оформившимся в более-менее самостоятельное направление в последние два-три десятка лет. Приведём ещё раз лестницу причинности, теперь дадим её с первой ступеньки, и пойдём вверх:

• Ассоциация (association) связана с наблюдением. Типичные вопросы: что это? Как наблюдение X изменяет мою веру в Y? Да, там сразу условные байесовские вероятности P(y|x), а не частотные фишеровские. Все эти p-критерии как «значимость фактора» нужно забыть, они остались в 20 веке, они оказались ведущими к кризису воспроизводимости. Примеры моделирования на этом уровне: «Что симптом говорит мне о болезни?», «Что опрос говорит нам о результатах выборов?» Проблема тут в том, что на этом уровне мы не можем обсуждать причины и следствия, обсуждать эксперименты и задавать вопросы «а что, если…?».

• Вмешательство (intervention) связано с деятельностью, влиянием на жизнь. Типичные вопросы как раз: что, если? Что, если я сделаю X? Это уже за пределами байесовской статистики, ибо не статистика вовсе: требуется дополнительное введение причинной модели, т.е. каких-то гипотез от предметного эксперта о том, что там на что в предметной области влияет. Это важно: гипотезу про причины и следствия даёт кто-то извне, предметный эксперт, она не получается из статистических данных! Дальше статистика подтвердит или опровергнет эти гипотезы, но не породит их! Знание про причины и следствия приходит извне, от эксперта, а статистика только критикует эти знания! Статистика не порождает знание! Знание не берётся из данных! То есть добавляется оператор do, P(y|do(x),z), а в остальном — те же байесовские статистические расчёты, что и в первом пункте, байесовские сети ассоциаций между событиями. Тут уже обсуждаются возможные миры, которых ещё не было, речь идёт о проектировании будущего мира, о планировании действий: «Если я выпью бутылку кока-колы, исчезнет ли моя головная боль?», «Что будет, если я брошу курить, пить и работать по ночам?». Логика выходит в мир деятельности, мы обсуждаем изменения мира каким-то агентом, эксперименты!

• Контрфактуалы (counterfactuals) связаны с возможными мирами, которые могли бы (прошедшее время! Нереализовавшаяся возможность!) реализоваться, но не реализовались — это вопросы, задаваемые в рефлексии. Это уже не столько проектирование/планирование, сколько воображение, ретроспекция, вопросы про механизмы: «Почему?», «Это X привёл к Y?», «Что было бы, если бы я действовал вчера по-другому?». Это уже совсем далеко от статистики, выражения там P(y_x|x′,y′), и рассуждения требуют учёта вмешательства (пункт второй, и помним, что эти рассуждения о вмешательстве в свою очередь опираются на байесовскую статистику!).

Объяснения как модели/теории — это как раз сформулированные как контрфактические модели/теории, которые дают ответ про механизмы происходящего: что там причины, а что следствия. Они позволяют давать ответ не на вопрос «что там с чем ассоциировано/связано в непонятную сторону» (ассоциации), не на вопрос предсказания «что будет, если я сделаю вот так» (интервенции, вмешательства, предсказание результатов эксперимента), а на вопрос о механизме «какие причины ведут к каким следствиям», «что было бы, если бы случилось вот это и это?». Объяснения позволяют отвечать на вопросы, в которых есть «бы»!

За последние тридцать лет в этих предметных областях произошла онтологизация в достаточной мере, чтобы навести формальную/строгую теорию (выразить рассуждения про причины и следствия математически, с доказательствами). Как пишет уже упоминавшийся нами Judea Pearl¹⁶, формализовывать нужно только то, что тебе реально важно (то есть нужно моделировать! Модель — это отражение реально важного и откидывание всего неважного. Формализация — это подбор ментальных/математических объектов, которые наиболее точно отражают важное в моделируемых объектах) — но тогда уж не жалеть сил и заниматься этим, а хоть и пару десятков лет, как он сам. Он отмоделировал и формализовал то, как могут быть представлены объяснительные теории, «объяснил объяснения» как трансдисциплину.

Мутные/образные/неточные околофилософские рассуждения про контрфактуалы (те самые, которые возникают в вопросах «Почему?», связанных с попытками выяснить механизмы каких-то явлений) работы последних тридцати лет вытащили из левой части спектра формальности/строгости мышления (работы философов) далеко-далеко в правую часть (работы по математическому моделированию явлений природы). В какой-то мере это была работа «физиков», хотя речь шла главным образом не про собственно физику с абстрактными «физическими явлениями» и их математическим моделированием, а про моделирование явлений в экономике, сельском хозяйстве, медицине, где с объяснениями было особенно плохо. Это тяжёлая работа интеллекта (создание предмета «объяснения»: люди не умели формально объяснять, а теперь появилась такая практика), но если уж она проделана, то дальше формальная машинка логики будет оберегать от многих и многих ошибок. Пользоваться готовыми формулами объяснений смогут при должной тренировке и студенты, и даже школьники. Использование результатов этой работы — это causal revolution/революция причинности, как называл Judea Pearl распространение новой модели формальных размышлений (т.е. математизированной онтологии) о причинности в эпидемиологии, сельском хозяйстве, экономике и социологии. Это подробно рассказывается в уже упоминавшейся книжке Judea Pearl (ему помог написать эту книгу популяризатор науки Dana MacKenzie) «Книга Почему: новая наука причины и следствия»¹⁷. Сейчас Judea Pearl называет это моделирование/формализацию причинности «одомашниванием причинности»/domestication of causal reasoning¹⁸, подразумевая то, что «охота и собирательство» хороших объяснений может быть заменена их массовым осознанным «разведением», от «диких» малопонятных «народных» объяснений с непонятными качествами можно перейти к «домашним», то есть сразу получаемым понятными, с отличными качествами!

Сама книжка призвана вытащить для использования широкой думающей публикой важные для формулирования объяснений и логических/аргументированных/безошибочных рассуждений о причинности идеи из догадок, сформулированных в самых разных дисциплинах: причинность постоянно обсуждалась в эпидемиологии, сельском хозяйстве, в разных других дисциплинах, которые опирались на «просто статистику» (первый уровень, ассоциации) или даже на эксперименты (второй уровень, вмешательства), но обсуждающие причинность в этих предметных областях люди сталкивались с неразрешимыми проблемами — пока не догадались работать с контрфактическими объяснениями. То есть речь идёт о том, что теория причинности как основа объяснений — это часть трансдисциплины, которая должна занять надлежащее место в интеллект-стеке, а не какое-то прикладное знание. Причинное рассуждение/causal inference — это часть трансдисциплины рациональности, задающая способ работы с объяснениями, что можно, а что нельзя считать объяснениями, почему нельзя объяснение получить из данных расчётом (но можно предложить объяснение эксперта «со стороны» в виде гипотезы о графе причинности, и далее сделать расчёт по данным, который опровергнет это объяснение).

«The Book of Why» (русскоязычного перевода книги уже есть, «Думай «Почему?». Причина и следствие как ключ к мышлению»¹⁹) задевает и планирование эксперимента (research/experiment design), что важно не только для проверки научных гипотез, но и для проверки инженерных утверждений — это важная связь с системной инженерией, там ведь есть поддисциплина инженерных обоснований.

И это же про объяснения как контрфактуальные теории рассказывает David Deutsch в своих книгах, одна из которых ссылается на важность объяснений прямо в заголовке: «Объяснения, которые меняют мир». Да, мир меняют именно теории-объяснения, а не какие-то другие виды идей. Знание человечества по изменению мира к лучшему состоит из контрфактических теорий, объясняющих причинность в их предметных областях²⁰.

Книга Chiara Marletto, которую мы тоже уже упоминали, называется «The Science of Can and Can’t», это прямая отсылка к контрфактическим рассуждениям, которые обсуждают, что «в принципе» (т.е. теоретически) может произойти, а что «в принципе» не может — какие «возможные миры»/possible worlds²¹ «в принципе» возможны, а какие нет.

Конечно, два уровня математических наслоений над байесовской математикой (используется математика «байесовых сетей»/Bayesian network/Bayes network/Bayes net/belief network/decision network²²) — это многовато, но человеческий интеллект довольно неплохо справляется с рассуждениями о причинности в простых случаях (хотя в «логике» признали, что по факту человеческий мозг реализует не байесовское рассуждение, а дополненное байесовское, то есть квантовоподобное рассуждение). Рациональность в части обсуждений говорит, что нам нужны объяснения, которые устроены самыми разными способами, в частности — через предложение специалистами причинных графов/causal graphs²³. Логический вывод/inference по этим графам может быть сделан, в частности, с использованием байесовского рассуждения или квантовоподобного (дополненного байесовского) рассуждения. Логика расскажет, как это делать. Рациональность в части создания объяснений объяснит, что именно надо вычислять, чтобы получить хорошее объяснение.

Вам не надо уметь решать дифференциальные уравнения, чтобы ездить на велосипеде, мозг отлично управляет велосипедом без этого. Математическая поддержка нужна в сложных случаях. Пример использования причинных рассуждений, строго следующих теории — это обнаружение, что курение укорачивает жизнь. «The Book of Why» рассказывает прямо детективную историю с объяснением того, что курение укорачивает жизнь. Сейчас примерно такая же история происходит по поводу пандемии ковида и пользы медицинских масок и вакцинирования, как средств снижения смертности. В своём твиттере²⁴ Джуда Перл сожалеет, что медики до сих пор плохо знакомы с положениями причинной логики, ибо опираются в большинстве своём на легко манипулируемое использование статистических p-критериев (с их помощью легко манипулировать результатами экспериментов) и не заботятся об объяснениях, ограничиваются ассоциациями, статистикой.

Статистика бесплодна без обсуждения причинно-следственных связей, без предложенной экспертом для проверки статистикой объяснительной модели!

Конечно, машинный интеллект должен брать все математические расчёты/логические рассуждения на себя, но для этого надо научиться его об этом просить. Не очень понятно, как получить универсальные алгоритмы, способные к контрфактическим рассуждениям. Такие универсальные алгоритмы AI, которые не просто решают проблему, но и показывают, на основе каких объяснений предлагается решение, часто называют «объяснимым искусственным интеллектом»/explainable AI. Люди с удовольствием передали бы своему (или даже чужому) персональному ассистенту возможность проводить все необходимые рассуждения в причинной логике для получения объяснений.

Конечно, кроме наиболее распространённых контрфактуальных объяснений, существуют и другие перспективные типы этих объяснений, например, направляющие/directive explanations, которые даются в терминах действий, нужных для получения желаемого результата. И оказывается, что люди предпочитают (хотя и не всегда) именно такие объяснения²⁵. И даже уже предлагаются фреймворки/подходы для выбора подходящих видов объяснений из их огромного разнообразия, включая направляющие/directive²⁶.

Есть множество самых разных теорий причинности²⁷, используемых при объяснениях, но современные теории предполагают использование формальных моделей причинности в виде графовых вероятностных моделей, где узлами графа являются какие-то факторы, а стрелки причинности указывают направление влияния этих факторов друг на друга. На английском graphical, на русском — это графовые модели, а не визуальные/графические! Не думайте, что причинная логика использует именно диаграммы, «графические модели». Нет, не диаграммы: речь идёт о графах, которые можно а) нарисовать как узлы и рёбра, б) задать матрицей связей, в) задать списками узлов и связей и т.д. Начинается всё с простых моделек типа вот таких причинных соотношений между образованием, опытом работы и уровнем зарплаты:

Проблема в том, что эти модели причинности, (пока гипотезы, которые потом будут проверяться расчётами — и если выдержат проверку, то станут объяснениями) должны делать разбирающиеся в предметной области люди, а не статистики — то есть по факту говорится, что data scientists (специалисты по машинному обучению, «учёные данных») никто, если они не работают рядом с subject expert (экспертом, разбирающемся в свой предметной области). И Big Data это ни про что, если с этими данными разбирается специалист-статистик, а не специалист по той предметной области, из которой взяты эти самые данные. И программист никто, если рядом нет специалиста, разбирающегося в причинно-следственных отношениях целевой предметной области.

Если у вас есть модель причинности, то вы можете делать следующее, чего не можете сделать на «чистой статистике»²⁸:

1. Записывать предположения о причинности в форме, которую можно тестировать, и которая затем непосредственно может быть использована для формального логического вывода (inference, как в «вывести формулу», тут «вывести причинность», мы часто передаём inference как «рассуждение»).

2. Исчисление вмешательств (do-calculus) и разбирательства с возможными скрытыми общими причинами (control of confounding).

3. Формализация (буквально: алгоритмизация) работы с контрфактуалами. Это нужно для уверенных рассуждений про «причины этих результатов» по сравнению с прямым рассуждением про «результаты этих причин». Пример: вопросы про необходимость и достаточность причин, типа «были ли занятия в бассейне достаточной и/или необходимой причиной для смерти Джо?».

4. Анализ механизмов переноса изменений от причины к результатам — по факту речь идёт о формализации объяснений и оценке объясняющей силы моделей. Типичный вопрос тут: «какая часть результата воздействия X на Y проходит через механизм Z?».

5. Перенос знаний о результатах экспериментов в одних условиях на другие условия. Все эти «нерепрезентативные выборки» могут теперь быть модифицированы, чтобы быть репрезентативными. Это всё про устойчивость (robustness) оценок.

6. Восстановление пропущенных данных в тех случаях, где не соблюдаются строгие условия случайности в пропусках (иначе бы и статистики хватало).

7. Выявление причин. Хитрые трюки с наблюдениями по всяческим ассоциациям/корреляциям приводят к тому, что мы в состоянии из данных сказать, в каком направлении там причинность, хотя отнюдь не всегда. Грубо говоря, мы сможем сказать, это солнце встаёт, потому как петух крикнул перед его восходом, или это петух кричит потому как солнце скоро встанет — но важно понимать, что это возможно не всегда (и всё равно нам нужно будет сформулировать гипотезу, которую мы будем потом проверять — предложить два графа с разными направлениями стрелки причинности, и расчёт опровергнет один из этих графов). Обычная статистика тут, вестимо, отступает: она ничего не говорит про причинность вообще, только про взаимосвязь каких-то величин.

Теории принятия решений

Теория принятия решений/decision theory — это каким образом агенту надо рационально (то есть оптимально, исходя из его вычислительных ограничений и неопределённости как во входных данных, так и результатах действий) выбирать действие между несколькими альтернативами. В принципе, обсуждаем все системы, только некоторые из них способны принимать решения.

Наша задача в теории принятия решений (впрочем не только в ней) уйти от антропоцентризма:

• уход в мышлении и языке от привязки к конкретному системному уровню в эволюции (клетка, организм, популяция, экосистема), целостное рассмотрение всей биосферы на всех временны́х масштабах²⁹, в том числе и техносферы с техно-эволюцией. Если мы имеем многоуровневую эволюцию, то нужно обеспечить внятный язык разговора о проблеме индивида в биологии, говорить о многоуровневости индивидов, иметь имя для "эволюционной единицы" (разговор о генетической и меметической эволюциях, репликаторах, генах, мемах).

• по линии рассуждений David Deutsch: уход от парохиального (частного, для текущей ситуации, в которой находятся люди) мышления, посадка мышления на общую привязку к физике. Астрофизики и математики — это физические системы, хотя и очень сложно устроенные. Предложение описывать мир в терминах агентов-как-создателей (constructor theory): одни устойчивые системы создают другие устойчивые системы, включая саморепликацию с мутациями, создание инструментов и т.д.

• выявление трансдисциплинарных рассуждений по линии вещество-существо-сознательное_существо-команда-сообщество-общество (в части простой физичности это создатели/constructors или IPU, в части выхода в мир «разумных существ» это агенты в узком их понимании как «планирующие системы» и мультиагентные системы. Фактически тут используется и constructor theory (Deutsch и Marletto), и multilevel evolution (Ванчурин со товарищи, Levine со товарищи), и active inference (Friston со товарищи).

• готовимся к рассмотрению не только животных и людей, но и киборгов, и органоидов («мозг на подложке электродов»), AI на разной элементной базе, и далее выход в коллективы и сообщества, включая эко-системы умных агентов³⁰.

• праксиология, социология, политика, экономика с их вечными попытками найти, как обсуждать коллективы в их связи с индивидами: преодоление застревания на «методологическом индивидуализме», предполагающем выделенность отдельных людей-организмов из общей дарвиновской и техно-эволюции, учёт распределённых вычислений в фирмах, на рынках, работы с коллективными пулами ресурсов, включая вычислительные ресурсы и коллективные/акционерные капиталы.

• отвязка проблемы управления вниманием (сознания) от особенностей именно человека, обсуждение людей с экзокортексом и эффекторами, а не «биологических людей», а также коллективов, включая гибридные эко-системы с «небиологическими интеллектами» (agent swarms тут даже не подходит, ибо сразу говорим о многоуровнево устроенных фирмах, эко-системах, сообществах, обществах, а не одноранговой сети агентов в роях/swarms).

• Теории принятия решений нужны будут и при разговорах про этику, и там возникнет вопрос про природу агента (экстропианство³¹, трансгуманизм³², биоэтика³³, этика AI³⁴ и органоидов³⁵, и так далее) в условиях бесконечной эволюции/open endedness³⁶.

• -- ... и много других достоинств от отказа мышления в чёткой привязке только к одному системному уровню (человеческой популяции), а часто ещё и к одной системе на этом уровне, одному взрослому человеку, использования «птолемеевской модели человека»³⁷, а далее ещё и птолемеевской модели мира вокруг человека.

Итак, есть агент («лицо» — физическое/человек или юридическое/фирма, но важно учитывать и различных других агентов, которые трудно представить «лицом», но которые тоже принимают решения, хотя иногда об этом трудно помыслить — сообщества, общества, человечество в целом, но даже и кошки с собаками и тиграми). Этот агент принимает решения. Как он должен принимать решения, чтобы они были оптимальными с точки зрения достижения целей этого агента? Таких теорий принятия решений есть несколько:

• Классическая доказательная/evidential³⁸ («логика в условиях неопределённости»). Там рассуждающий рациональный агент, делающий выбор при планировании действий/acts и результатов/outcomes в условиях неопределённости/uncertainty: выбирающий предпочтения/preferencies из опций/prospects/options. Decision theory is concerned with the reasoning underlying an agent’s choices, whether this is a mundane choice between taking the bus or getting a taxi, or a more far-reaching choice about whether to pursue a demanding political career. (Note that “agent” here stands for an entity, usually an individual person, that is capable of deliberation and action.). То есть «обычно какая-то отдельная личность». И дальше там beliefs/убеждения и desires/желания и главный предмет — рациональность выбора (классическая теория принятия решений — нормативная теория, говорит «как надо выбирать, чтобы добиться результата»). В том числе в классической теории говорится, что рационально выбирать варианты действия надо по ожидаемой пользе (expected utility). Множество вариантов этой теории серьёзно критиковались в том, что они плохо справляются с новостями, ибо не учитывают причинно-следственных отношений. Ещё интересно, что evidential переводят на русский как «доказательная», но более чётко тут было бы «основанная на данных измерений», что совсем другое!

• Причинная³⁹ (контрфактуальные рассуждения, работа с причинами и следствиями в байесовых сетях в условиях неопределённости). всё как в доказательной классике, только It evaluates an option’s utility by calculating the option’s expected utility. It uses probabilities and utilities of an option’s possible outcomes to define an option’s expected utility. The probabilities depend on the option. Causal decision theory takes the dependence to be causal rather than merely evidential. Там тоже агенты, причём не только рациональные, но и сверхрациональные⁴⁰ и их уже несколько, и их решения зависят от решений друг друга — там сразу теория игр, агенты играют друг против друга, но ни разу не командно, а каждый сам за себя: «агенты в агентном окружении».

• Квантовоподобная (использование «дополненного Байеса» в рассуждениях о причинности, excess Bayesian inference). Агент выполняет квантовоподобную оценку вероятности, и это даёт другие решения! Рациональность квантовоподобна, и вероятности в ней субъективны, разные агенты на основе разных знаний (добытой в ходе исследований информации) и с учётом известных им планов действий себя и других агентов оценивают вероятности в одной и той же ситуации по-разному! Количество литературы, которая опирается на квантовоподобные описания причинности, в том числе причинности в действиях агентов (прежде всего людей, но сейчас и не только людей, помним об AI и организациях), стремительно растёт⁴¹.

Теории принятия решений не затрагивают творчества: генерация альтернатив, «творчество». Альтернативы считаются в теории решений входными данными, так что нужно только учесть намерения агента при выборе. Творчество (генерация альтернатив) мы будем рассматривать в «исследованиях», ибо нужны догадки, чтобы пошли исследования. Но дальше в рамках рационализма нужно рационально не только исследовать, но главное — принимать итоговые результаты исследований (теории/объяснения, которые лучше других предсказывают состояния мира) всерьёз, то есть строить на их основе планы действий и воплощать их.

Традиционная теория принятия решений⁴² нормативна: какие предпочтения по выбору действий агент не просто может иметь (но не обязан иметь), но обязательно должен иметь, чтобы результаты для него были оптимальны. Традиционная теория принятия решений основывается главным образом на традиционной аргументации, чётком следовании логике. А далее идёт «классическая логика в условиях неопределённости», какие-то вероятностные расчёты — и это с точки зрения лестницы причинности просто учёт ассоциаций, первая ступенька лестницы из её трёх ступенек.

Например, праксеология⁴³ как общая теория деятельности, использующаяся в праве и экономике, опиралась именно на классическую теорию принятия решения. Там был постулат о рациональном принятии экономических решений, а дальше предполагалось использование агентами классической теории решений. Вероятности при этом считались принадлежащими миру, «физичными», предметом изучения физики, свойством мира.

После «одомашнивания причинности» появляются зачатки новой теории решений, использующей понятие причинности как основное для рассуждений о выборе действия из его альтернатив. Строится граф причинности, уточняется — и затем используется для предсказания наилучшего результата действия.

Людвиг фон Мизес даже считал экономику (в варианте австрийской школы⁴⁴) поддисциплиной праксеологии, а другими дисциплинами там были (тоже «австрийские», то есть праксеологические) право, социология, но эти проекты «не взлетели», а австрийская экономика вполне «взлетела» и до сих пор жива, находясь до сих пор в конкуренции с «мейнстримной» неоклассической экономикой именно по расхождению в теории принятия решений. Австрийцы ещё со второй половины 20 века интуитивно понимают, что речь идёт о графах причинности и объяснениях (и напирают на контрфактуальность в этих объяснениях), и это задолго до формализации в causal inference, которая более-менее оформилась где-то после выхода работ Judea Pearl 2009 года. Теории, построенные на основе рациональных объяснений, «австрийцы» называли «аксиоматическими», подчёркивая, что аксиомы «кладутся» из ниоткуда, они догадки/гипотезы/guesses, а дальше критика и логика делают своё дело, чтобы выжили сильнейшие наборы догадок/аксиом. Поэтому «австрийцы» уклончиво говорили всё время, что они избегают численных моделей, и модели их качественные, ибо в те времена, когда они работали, невозможно было обсуждать неклассические теории вероятности.

Экономисты-неоклассики (так называемый «экономический мейнстрим», ибо это большинство сегодня живущих экономистов) обходятся корреляциями и статистическими зависимостями, первый уровень causal ladder, они довольствуются предсказательными моделями, эмпирицизм в чистом виде. Это относится не только к экономистам (нормативным, которые на основе устаревшей теории принятия решений принимают плохо работающие законы в сфере экономики), но и к медикам (они принимают плохие решения по лечению людей и животных), социологам (плохие решения по поводу установления культурных норм поведения людей в группах), и так далее — везде, где опираются только на классическую статистику, игнорируя полную лестницу причинности, то есть опору на «аксиоматическую теорию»/контрфактуальные объяснения.

Если идти дальше по этой линии «объяснений причин и следствий в условиях неопределённости», то быстро попадаем в причинную теорию принятия решений⁴⁵.

В причинной теории принятия решений вероятность нужна только для принятия решений агентом, она относится к описанию отношений между агентом и миром, а не существует в мире «объективно». Формулировки вероятности идут через контрафактуальность и возможные миры. Речь тут идёт об основополагающем «принципиальном принципе»/principal principle, который был предложен David Lewis для связи теории вероятности и теории принятии решений, краткая формула этого принципиального принципа — «человек/агент принимает решения на основе шансов».

И дальше два варианта рассуждения:

• Вероятности «объективны», они относятся к миру. Бог играет в кости. В мире есть принципиально случайные события, к которым неприложимы объяснения причин и следствий. Это классическая теория вероятностей, она базируется на эмпирицизме. Мы просто наблюдаем вероятности, которые есть в мире! Мир недетерминистичен, из какой-то ситуации есть несколько выходов, какой-то из них происходит случайно.

• Вероятности субъективны, они зависят от нашего взгляда на мир, наших догадок. Это субъективная теория вероятности. Бог не играет в кости, случая нет, из каждой ситуации есть единственный выход, он не случаен. Но есть непредсказуемость этих неслучайных событий, ибо агент не всеведущ.

В теориях, опирающихся на субъективные теории вероятностей (аксиоматические теории/объяснения, сформулированные контрфактически), случайности (недетерминистичность) исключаются из физики, и это не противоречит непредсказуемости мира. Даже в эксперименте с котом Шредингера его судьба предопределена (детерминизм в физике), но непредсказуема (агент принципиально не может узнать, какая она, не предприняв измерения результатов, включая открытие ящика).

Есть вариант Functional Decision Theory⁴⁶ от Eliezer Yudkowsky и Nate Soares, этот вариант вводит контравозможное/counterpossible рассуждение/reasoning. и там тоже decision-theoretic agents, и ещё говорится про типы решений, а не только токены решений, у которых тип просто «решение». Она даётся как «Новая теория инструментальной рациональности». И там, конечно, тоже «рациональный агент». И инструментальный (в отличие от универсального/general) интеллект: skill at prediction, planning, and means-ends reasoning in general (в отличие от скорости решения широкого класса проблем и вменяемости, и других характеристик). И далее по этой линии уходим в обсуждение интеллекта как очень опасного инструмента, который выйдет из-под контроля людей и поставит их под контроль, принимая против них решения лучше, чем они против него. Грубо говоря, выиграет в теории игр. Ибо даже в ролевой игре в дочки-матери можно интересоваться, кто выиграл, а кто проиграл. Другое дело, что Functional Decision Theory как-то особо в мире не обсуждается, несмотря на все достоинства логических решений парадоксов.

Основная проблема всех этих классических и даже причинных теорий решений в том, что эксперименты над живыми людьми показывают, что люди вовсе не так рациональны, как требуют эти теории. То есть можно считать, что люди рациональны, но делают ошибки. Но при ближайшем рассмотрении оказывается, что сами теории тоже не слишком хороши. И есть теории, которые показывают результаты более похожие на те, что показывают в эксперименте люди.

По линии трактовки принципиального принципа, опирающегося на субъективную теорию вероятностей («вероятность нужна только для принятия решений, в природе/реальности вероятностей нет») есть два понимания:

• Субъективная вероятность — обычная байесовская вероятность причин-следствий. Она происходит согласно математике вероятности, предложенной аксиоматикой Андрея Колмогорова⁴⁷, просто связана с принятием решений агентом, а не «объективна». Вероятность субъективна и байесовская (условная! Зависит от априорного знания агента!). Рациональный агент добавляет учёт последствий своих действий в выбор.

• Квантовоподобная вероятность причин-следствий (excess Bayesian), при этом в современной физике это основная линия рассуждений. Вполне возможна, и даже необходима трактовка принципиального принципа не только на основе субъективной теории вероятности, но и на основе квантовой природы мира, отражаемой в математике квантовой физики⁴⁸.

Friston вводит агента в его телесном (emdodied/active) взаимодействии со средой и говорит об «ограниченной/bounded» рациональности как аппроксимировании байесовского обновления/update (последовательность этих updates — это inference), ибо совершенная/perfect рациональность физически невозможна, то есть вводит active inference⁴⁹ как теорию принятия решений в 2013 году. По факту active inference даёт стандартный агентный язык и для психологии (классическая decision theory) и для экономики (expected utility), плюс обсуждается связка с поведением мозга в ходе принятия решений (neuronal correlates). Всё это идёт по линии обучения с подкреплением/reinforcement learning и пониманием награды за принятое правильно решение, так что обсуждаются ещё и политики/policies, оптимизации и много чего ещё. Но в 2021 году язык active inference поменялся и теперь это звучит как formal way of describing the behavior of certain kinds of random dynamical systems that have the appearance of sentience⁵⁰. То есть это динамические системы, у которых появляется разумность. Или в первом же абзаце текста так: active inference is a formal way of describing the behavior of self-organizing (random dynamical) systems that interface with the external world, such as humans in their environment, with latent representations that maintain a consistent form (i.e., a particular steady-state) over time. То есть речь идёт о людях как системах. Причинность не обсуждается, в тексте всё evidential, несмотря на учёт действий. Counterfactuals и possible worlds не рассматриваются, разговор идёт об измерениях, марковских моделях и переходах между состояниями. Но тут обучение, новизна и любопытство (exploration vs. exploitation). С другой стороны, причинность всё-таки учитывается через «активность» вывода, понимаемую как «телесность» (active/embodied inference, ибо речь идёт не только о моделировании и изменении тем самым моделей себя-агента и мира, но и изменении себя и мира, поэтому нужно исчисление интервенций в каком-то виде, do-calculus из лестницы причинности).

В active inference в части теории принятия решений важно, что есть ход на моделирование социальности через теорию режимов ожиданий (regimes of expectations, ROEs)⁵¹. A ROE is a set of expectations about states of the world characteristic of a given cultural group. Individual agents acquire ROEs in ontogeny through the selective patterning of attention and salience, by leveraging shared expectations (often automatically and implicitly) to guide goal-directed behavior. Such practices lead agents to forage for information that is culturally marked as salient, which in turn resolves uncertainty about the world and underwrites the learning of context-specific expectations (e.g., preferences) that constitute a ROE. И там очень похожие рассуждения и про быстрые и медленные изменения в обучении, что делает Ванчурин в описании многоуровневой эволюции, и на ходы на меметическую эволюцию, которые делает Дойч, и даже на многоуровневую этику: The ROEs structures appraisals and automatic behavior upstream, via constraints on possible actions flagged by deontic cues in the generative process, and downstream, via policy selection within the generative model. Upstream constraints exist at the highest spatiotemporal scales of the architecture of expectations, in the sense that they are spatially extended (e.g., material setting vs. brain-based architectures), and change slowly, as they require the physical action of multiple agents (e.g., niche construction outcomes that emerge over hours and years vs. changes in neural connectivity that can change over milliseconds and seconds). This means that the higher levels of a ROE are more robust, as their physical implementation retains the traces of agents’ action over longer time scales. This allows for deontic cues encoded in the environment to be passed over generation via ecological and informational inheritance, and thereby allow the reproduction of attention, or epistemic foraging styles over ontogeny by shaping observations and states of the world encoded in an agent’s generative model. В этом месте разворачивается вполне традиционный системный подход, но вроде как без ярко выраженной причинности. И понятие «агента» оказывается то человеком (и там сразу нейрокорреляты), то даже agents, like the traffic officer, as well as non-human ‘agents’ like traffic lights.

Самое необычное тут, конечно, квантовоподобная/quantum-like/excess Bayesian теория принятия решений — и заключение, что кажущаяся «иррациональность» выбора «по Байесу» может оказаться просто «квантовоподобной рациональностью». Для байесовских вычислений может не хватить ресурсов (они медленны, это «вероятностная булева алгебра», и они просто откидывают в вычислении события, априорные вероятности в которых неизвестны, кроме того вероятностные алгебры в ходе квантовых вычислений оказываются принципиально несовместимыми («байес» — это просто вероятностная булева алгебра, поэтому если описания мира были выполнено разными агентами с разными субъективным оценками вероятностей, то формально логического вывода при совмещении высказываний из разных алгебр сделать нельзя). При переходе к квантовоподобной вероятности (из аксиом Колмогорова убираем одну, что рассказывается подробно в работах Андрея Хренникова⁵² и его научной группы) ограничение на совместный вывод/inference на данных, полученных с разными оценками вероятностей разными агентами, снимается.

Квантовоподобные вычисления используют дискретизацию, чтобы не считать непрерывные функции, при этом вычисление становится линейным и ускорение вычисления принимает экспоненциальный порядок, все биологические системы поэтому используют квантовоподобный вывод, а не классический байесовский и уж тем более не жёсткую булеву алгебру для своих вычислений. Кроме того, отход от булевской логики, зашитой в байесовый вывод делает результат вычисления «слегка резонирующим с неизвестным»⁵³.

Идею квантования и ренормализации давайте перенесём на многомерное пространство понятий, типа тех, что используются в нейросетях — каждая буква, каждое слово, каждая фраза и т.д. представлены там каким-то многомерным вектором. Если воспринимать такие пространства непрерывными, то будет огромное число вычислений. Поэтому их квантуют/дискретизируют, это называют grid/решётка. И в точках этого пространства представляют что угодно — события, понятия, объекты. Обычно это всё лежит между теми точками самой решётки, которые мы отображаем символами (да, символические вычисления как раз про это), но как-то «резонирует» с узлами этой решётки, которые мы отслеживаем в наших вычислениях. Физики такую операцию дискретизации делают рекурсивно, называют это renormalization group⁵⁴ (решётки внутри решёток внутри решёток). Но в принципе, все такие вычисления по дискретным представлениям чего-то непрерывного — они квантовоподобны, можно применять математику примерно ту, что в квантовой физике. И это экономит вычисления, вы вычисляете не всё, а только то, что находится в точках дискретизации. Бесконечность сводите к редким дискретам. Вычисления, требующие огромной вычислительной мощности для приближения к бесконечной точности, становятся линейными — а точность определяется точностью дискретизации («гонка мегапикселей» в фотоаппаратах ведь как раз про это, но начиная с какого-то момента «всё всех устраивает, разрешения больше не надо, слишком дорого и не нужно»).

Типичная статья последователей подхода Андрея Хренникова говорит о том, что классические теории психологии (большинство работ по теории решений основывается на том, что агенты — именно люди, и эти люди психологически склонны к тем или иным вариантам поведения, поэтому сразу отсылки к психологии как теории человеческого поведения) основываются на идее, что люди принимают решения с целью максимизировать «вознаграждения»/awards и минимизировать «наказания» - другими словами, чтобы их действия приводили к положительным результатам в большей степени, чем к отрицательным последствиям. Эта логика, известная как «обучение с подкреплением», соответствует павловскому обусловливанию⁵⁵ в выработке условных рефлексов, когда люди учатся предсказывать последствия своих действий на основе прошлого опыта.

В работах по классическим «психологическим» вариантам теорий принятия решений часто используется «индивид»/individual (человек!) с обсуждением его internal state, и практически не задействуется понятие «агент». Переход к обсуждению агентов в неклассической, то есть квантовоподобной теории принятия решений труден, ибо разбирающиеся в математике для квантовой физики обычно дальше разбираются в самой квантовой физике (изучают поведение вещества на микроуровне, физические явления), до изучения других предметных областей с приложением квантовоподобной математики они почти не доходят.

По этой линии quantum cognition⁵⁶ нужно иметь чёткую интерпретацию квантовой информации, это можно сделать по линии рассуждений, предложенной Deutsch, Wallace и Marletto, включая и то, что все они опираются как раз на теорию принятия решений/decision theory. В физике этого «принимающего решения» агента/constructor/IPU называют наблюдателем/observer, но когда переходят к обсуждению many-worlds interpretation⁵⁷, то переходят на обычного «агента». Рациональность тут не обсуждается, ибо как раз объясняется, что вроде как «иррациональное» поведение оказывается вполне расчётливым и оптимальным, только формулы для расчёта берутся не классические, а с использованием математики квантовоподобности.

Всё это направление абсолютно новое (ручеёк работ потёк только лет 15 лет назад, до этого были отдельные работы с туманными догадками), тут пока никто ни о чём ещё не договорился в части терминологии, процедур расчёта. Но то, что квантовоподобные расчёты регулярно показывают предсказание результатов психологических и социологических экспериментов лучше, чем неквантовые — этого никто не отрицает, проблема только в трактовке «физического смысла» этих расчётов, задействующих понятия «многих миров» или «коллапса функций», заимствованные из квантовой физики и её философско-логических оснований.

Точно так же, как байесианство стало известно людям массово только после бума искусственных нейронных сетей для AI, ибо в текущем поколении лучших систем AI используется байесовская математика, так и квантовая (некоммутативная, минус одна аксиома из Колмогоровской классической вероятности) вероятность станет известна после бума квантовых компьютеров, это неизбежно. А с учётом того, что квантовая вероятность — это генерализация байесовской⁵⁸, то можно ожидать примерно такой же революции в распространённой среди исследователей теорий принятия решений, как как с приходом Байесовской математики. Исследователи active inference уже совершили у себя такую революцию⁵⁹.

В связи с неизбежным бумом квантового компьютинга и квантового обучения (например, квантового обучения с подкреплением/quantum reinforcement learning, ибо там ожидаются невероятные скорости и энергоэффективность по сравнению с классическими подходами) число разобравшихся в квантовой вероятности будет расти, хотя и не так быстро, как число разобравшихся с байесовской вероятностью в момент прихода моды на глубокие нейронные сети. Опять же, один из отцов современной версии искусственного интеллекта на нейронных сетях Yann LeCun не устаёт повторять, что бросил бы вероятности под автобус⁶⁰, его больше привлекает free energy principle, основанный на физических теориях, ибо мозг людей работает не как «вычислитель по Байесу», и он физичен!

Все эти соображения про квантовоподобность в теории принятия решений стыкуются с квантовоподобными подходами к эволюции по линии Виталия Ванчурина со товарищи, а также Karl Friston, Chris Fields и Michael Levin со товарищами, которые рассматривают эволюционный процесс с неизбежными неустроенностями (разными состояниями, переходы между которыми легки, и все эти состояния примерно одинаково выгодны) на многих системных уровнях и многих масштабах времени как оптимизационный процесс, в том числе ведущий к непрерывному усложнению жизни. Математика эволюции-как-обучения оказывается квантовоподобной, эволюционная и многоуровневая (системный подход!) рациональность оказывается квантовоподобной, численные значения всех вероятностей оказываются другими, нежели вычисляемыми в старой классической математике «по Байесу». Байесианский вывод должен быть дополненным, excess Bayesian inference. Современные теории решений двигаются в их развитии от классических к причинным-на-байесовских-сетях, а далее до контекстных причинных-на-квантовоподобных структурах (contextual probabilistic quantum-like-structures) по Хренникову.

Действия

Прагматический поворот/pragmatic turn в философии прошёл где-то сто лет назад. Теории о том, что первично действие, а знания и рассуждения лишь ведут к действию и имеют смысл только в контексте конечного действия по изменению не столько моделей себя и мира, но изменений себя и мира получили имя прагматизма/pragmatism⁶¹ в целом и прагматицизма/pragmaticism в частности. Charles Pierce сформулировал прагматицизм (он назвал свою версию прагматизма прагматицизмом, чтобы меньше путалась с другими представлениями о действиях) «лабораторной философией», и наиболее известна его «максима прагматицизма», которая вносит в рационализм кроме моделей ещё и эксперимент, действие. Pierce сформулировал эту максиму (в русскоязычном переводе это называют «прагматическое правило») в работе «Как сделать наши идеи ясными»⁶²/«How to Make Our Ideas Clear» (1878): «рассмотрите, какого рода следствия, могущие иметь практическое значение, имеет, как мы полагаем, объект нашего понятия. Тогда наше понятие об этих следствиях и есть полное понятие об объекте». Нет связи с реальностью, проявленной в действиях — нет ясного понятия об объекте. Нет эксперимента — ничего не можем сказать про исследуемый объект.

Прагматицизм как связь мышления (вычислений, информационной работы) и действия (изменения мира для измерений) в качестве «лабораторной философии» получил существенное развитие в следующих поколениях понимания. Мы опустим тут исторические заметки, но в современном понимании:

• Мышление и действие очень близки. Мышление — это вычисления, вычисления физичны. Ментальные/математические объекты явлены в мире через поведение физического компьютера, так что с известной долей неопределённости можно ставить эксперименты и по вычислениям. С другой стороны, действие как изменение физического мира и себя-агента через взаимодействие можно воспринимать информационно — физика сейчас имеет множество идей, как представлять физику через информатику.

• В современном понимании вывод/inference (вычисления по правилам какой-то логики, «рассуждения») производится агентами с самой разной силой интеллекта (включая людей с AI как «планирующих агентов», так и не слишком «агентные» атомы и молекулы). В некоторых школах мысли, например, работах школы Ванчурина, все физические объекты, которые как-то устойчиво существуют в мире, называют information processing unit, IPU. Так, в active inference⁶³ общий вычислительный и деятельный процесс направлен на то, что принятие решений идёт на тему, что менять: модель себя, модель мира, себя, мир. Это не четыре разных вычисления, это одно связанное вычисление по распределению ресурсов на изменения. Поэтому говорим об active/embodied inference. Близки к этому более ранние идеи 4E (extended, embodied, enacted, embedded cognition)⁶⁴.

• Инженерия (включая инженерию себя! Скажем, медицину и развитие личности, если речь идёт о людях. Или социальную инженерию, если речь идёт о сообществах и обществах) и исследования тем самым оказываются по факту одним и тем же: построение моделей себя и мира в рамках общего 4E эволюционного процесса. Мышление об изменениях моделей (поиск компактных описаний через высказывание догадок) и мира (поиск аффордансов и использование их) оказывается частями общего эволюционного процесса. Современный интеллект-стек тем самым в рациональности не различает «рациональное мышление учёных» и «рациональное мышление инженеров». Все они выходят на действия, это общее мышление-действие.

David Deutsch подчёркивает то, что если какое-то объяснение не опровергнуто, то его надо «принимать всерьёз» — то есть планировать свои действия на его основе. Если расчёты на основе лучших объяснений показывают, что цепная реакция в уране-238 выделит какое-то невероятное и никогда ранее не наблюдавшееся на Земле количество энергии, надо принять эти расчёты всерьёз и запланировать «проект Манхэттен»⁶⁵, задействовав 130 тысяч человек и вложив $24 млрд. по ценам 2021 года. Рационализм заключается в том, что мы берём объяснения (модели себя и мира), принимаем на их основе решение о действии, а затем действуем: реально вкладываем ресурсы в изменение не только моделей себя и мира (исследования), но и в изменения себя и мира (инженерия).

Очень трудно определить место прагматицизма в интеллект-стеке. Прагматицизм предполагает выход на действия не только в ходе познания/исследований (создание знаний, следующая трансдисциплина интеллект-стека), но и инженерии (создание новых форм жизни в порядке необходимого увеличения сложности живых систем, а также изменение окружающей среды экосистемы живого для уменьшения неприятных сюрпризов, то есть реализации экзистенциальных рисков). Обсуждаем пока это в рамках рациональности («объяснения нужны не сами по себе, а для принятия лучших из них всерьёз — на них строятся действия»), но прагматицизм лежит в основе всего интеллект-стека.