12. Познание/исследования

Критический рационализм Поппера

И вот тут мы уже можем поговорить о том, как устроено познание/исследования/learning —не один результат размышления, выдержавший критику экспериментом, а в целом получение новых знаний на Земле. Раньше это была «наука»/science, занималось ей «науковедение» по-русски, эпистемология/epistemology по-английски (на основе греческого корня). Ещё по-русски говорили о гносеологии, где кроме научных знаний в число получаемых знаний в гносеологии включались художественные и религиозные знания, но акцент делался не на самих знаниях, а на «познании» научном, художественном, религиозном — а что там является итогом познания (то есть что является знаниями), было не так важно. В эпистемологии, наоборот, результат познания был важен, и таким результатом в современной эпистемологии являются знания в виде «паутины объяснений» (web of explanations, как это называет David Deutsch в своих работах: тесно перепутанный и постоянно меняющийся и улучшающийся набор самых разных объяснений, опирающихся друг на друга).

Эти знания/объяснения получает интеллект отдельных учёных, отдельных научных коллективов, всего научного сообщества Земли. Соответственно, индивидуальное и коллективное мышление для практики познания/исследований — это научное мышление, и мы должны понимать, что оно базируется на всех предыдущих трансдисциплинах. То есть научное мышление опирается на объяснения/теории того, что такое объяснения (контрфактуальность в обсуждении причин и следствий), предполагает логичное мышление (мышление по правилам логики), и так далее до самого основания интеллект-стека, где собранность и понятизация.

Особенность текущего момента в том, что исследованиями (мышлением в ходе создания объяснений) занимаются все, это составная часть интеллекта. Раньше исследованиями (осознанным выдвижением догадок/гипотез по потенциальной модели/теории/объяснению, постановкой экспериментов, улучшением объяснений) занимались только учёные. Теперь — и инженеры изучают свои системы в их окружении (например, выдвигают гипотезы по объяснениям сбоев в работе), и предприниматели выдвигают рыночные гипотезы и проводят эксперименты (например, А|B тестирование), и многие другие. Это всё исследования, это всё научное мышление, часть познания. Только теперь этим занимаются практически все люди, столкнувшиеся с чем-то новым. И, конечно, исследованиями начинают заниматься компьютеры с их универсальными алгоритмами/машинным интеллектом. А если принять современные неантропоцентричные безмасштабные теории эволюции (линии работ групп Виталия Ванчурина, Karl Friston и Chris Fields), то познаёт/learn вся Вселенная, и это многоуровневый эволюционный процесс, который происходит на разных системных уровнях пространственных/физических объектов и масштабов времени. И на каких-то уровнях агенты достигают такой сложности, что им становится доступно получение писанных объяснений. В писанных объяснениях единицы знания меняются в ходе эволюции примерно так же, как гены/genes — реплицируются на разных носителях и иногда мутируют, их по аналогии назвали мемами/memes. Эти объяснения могут кодировать особенности искусственно создаваемых агентами-создателями экземпляров каких-то технических систем (техно-феном) примерно так же, как геном¹ кодирует особенности фенома². В области техники мы наблюдаем техно-эволюцию, где онтогенез — это производство³, а филогенез — это работа инженеров-проектировщиков и архитекторов⁴.

Текущий SoTA по познанию/исследованиям — это критический рационализм Поппера, дополненный мыслью про то, что эволюция познания связана не с бесконечным развитием каких-то идей/теорий/моделей о мире, но идей/теорий/моделей, являющихся объяснениями.

Тем самым современная логика исследовательского научного и инженерного мышления — это контрфактуальная логика рассуждений о причинах и следствиях, основанная на планировании каких-то действий (предсказаниях) и вычислениях взаимозависимости этих причин и следствий.

Познание/learn/исследования/research (и научное, и инженерное — этому правильней было бы говорить research and development, R&D), которое базируется на современном критическом рационализме Поппера, оказывается устроено очень контринтуитивно. Например, нельзя доказать/подтвердить какую-то теорию/объяснение, но легко можно опровергнуть/фальсифицировать двумя способами:

• Критически: показав логическое противоречие — проблему.

• Прагматически: создав техническую систему и показав худшее соответствие предсказания теории эксперименту, чем у альтернативной теории.

Следствия такого подхода тоже нетривиальны. Так, это означает, что эксперимент бесполезен, если нет альтернативной теории-конкурента, которая является непротиворечивой. Почему важен эксперимент? Потому как он связывает модели с физическим миром. Эксперимент проводится в конечном итоге (иногда по цепочке наук) в физическом мире, мысленных экспериментов не хватит. Эксперимент идёт по физическим законам нашего мира/мультиверса, в этом его ценность. Это подробно обсуждается в уже упоминавшихся книгах Дэвида Дойча.

Предметом естественных наук являются объяснения поведения физических/материальных объектов в их взаимодействии на разных системных уровнях (уровнях крупности, уровнях частей-целых в материальном мире, мире физических тел и полей). Фильтрация плохих объяснений (опровержение гипотез, но не доказательство их верности!) в конечном итоге идёт проведением физического эксперимента (теория, которая плохо предсказывает результаты эксперимента, уменьшает свой вес в SoTA набора теорий данной науки). Объяснения включают в себя возможность предсказаний (предсказания не главное, если у вас хорошее объяснение — вы предскажете, а если есть предсказание без объяснения, то будут проблемы). Разные объяснения даются на разных системных уровнях и несводимы друг ко другу (эта несводимость называется эмерджентностью: на каждом системном уровне от взаимодействия частей появляются новые объекты внимания и их новые свойства, и описание делается в других понятиях). Химия, биология — вполне себе такие науки более высоких системных уровней по сравнению с физикой элементарных частиц или даже атомов.

Всё запутывается ещё сильнее, если учесть рассуждения не в классической логике «свидетельств», а байесовской логике и тем более дополненной байесовской логике, снимающей многие противоречия, возникающие в силу излишней формализации. Экспериментальная проверка тоже не так проста: речь идёт об измерениях, которые можно провести с ошибками, они должны быть воспроизводимы, то есть явление должно быть массовым, а теория приводить к относительно простым вычислениям, измерение не должно тонуть в шуме. Проблемы «доказательной медицины» и «доказательного образования», кризис невоспроизводимости экспериментов в психологии — всё это показывает, что познание устроено не так просто, как «придумай догадку, докажи её непротиворечивость огромному числу уже проверенных догадок, а затем покажи, что опираясь на эту догадку можно предсказать мир лучше, чем на основании уже известных других догадок — и твою догадку примут всерьёз как основание к действию».

Исследовательское/научное мышление тем самым требует, чтобы у нас были не просто объяснения, но опровергаемые/фальсифицируемые/критикуемые объяснения. Если какое-то объяснение нельзя фальсифицировать, то оно «ненаучно», не является результатом познания/исследований (например, объяснение «на всё воля господня, и сегодня господь решил, что будет вот так»). Рассуждения на базе пословиц (мы приводили пример из текста Алана Кея про пословицы против длинных цепочек рассуждений, вспомните его) тоже «ненаучны».

Критический рационализм⁵ — это как раз идея, что все теории должны быть прокритикованы, в итоге выживет лучшая, но и эта лучшая погибнет, когда придумают теорию, ещё лучше объясняющую поведение мира.

Рационализм сводится к тому, что критика должна быть логична/аналитична (рацио — это «деление», анализ), а сама логика (модели и рассуждения о моделях) привязана к реальности (адекватность, все рассуждения в теории так или иначе должны быть заземлены, критерием выигрыша у других теорий/объяснений будет эксперимент — тезис прагматицизма).

При критическом рационализме знание (совокупность теорий/объяснений, опирающихся друг на друга) перестаёт быть чёрно-белым, состоящим из «заведомо верных» и «заведомо неверных» теорий. В знании в любой момент его развития (помним, что непрерывно идёт эволюция знаний) появляется множество оттенков соответствия теорий реальности, обширные зоны серого: ни одна теория точно не описывает реальность, всегда есть какая-то невязка. Ни одна теория не является универсальным объяснением, ни одна теория не «заведомо верна». Но некоторые теории объясняют лучше, и специально сконструированные эксперименты (хотя ничего не мешает взять какие-то уже проводившиеся замеры, если знаете, какие из них корректно брать в качестве результатов эксперимента) показывают разницу в предсказаниях конкурирующих объяснений — и некоторые теории оказываются предсказывающими лучше, а некоторые хуже. Те, которые предсказывают хуже, считаются опровергнутыми. Которые лучше — SoTA, «пока не опровергнутыми» (особый акцент на «пока», ибо в какой-то момент будут опровергнуты и они), и их надо «брать всерьёз», то есть использовать для планирования действий по изменению мира.

Выражение «экстраординарные заявления требуют экстраординарных доказательств» теперь можно ещё и количественно оценивать, используя вычисления вероятности (помним: байесовской и дополненной байесовской/квантовоподобной). Фальсифицируемость (возможность опровержения) объяснений/теорий/моделей в знании важна, причём понимание, что же это такое, после причинной революции 21 века существенно изменилось, и продолжает меняться даже сейчас: мало того, что речь идёт о вероятностном знании, ещё и вероятность оказывается квантовоподобной!

Критический рационализм как вариант эпистемологии был в 21 веке существенно улучшен, стал более строгим и точным объяснением происходящего как в научных исследованиях, так и в познании/исследованиях в целом. Помним, что отнюдь не все исследователи работают в научных организациях, не все программисты работают в IT-отрасли, это всё обычная часть жизни, не требующая полной профессиональной погружённости. Чтобы что-то исследовать, нужно просто занять роль исследователя в текущем рабочем проекте, необязательно работать учёным в научном учреждении, можно быть и инженером. Инженера мы при этом понимаем как роль агента, создающего системы, изменяющие мир к лучшему, ведущие к «спасению», уменьшению «неприятного байесовского сюрприза».

Любое ли исследование должно проводиться, должны ли финансироваться любые проявления любопытства (то есть финансироваться создание новых догадок или smart mutations к уже имеющимся наборам догадок, финансироваться проведение экспериментов по опровержению тех или иных догадок)?

Ответ тут такой, что если по итогам этого исследования не идёт попытки изменения мира к лучшему, то этого исследования можно было бы и не делать, ведь шанс изменения мира к лучшему случайной мутацией ничтожен, в отличие от целенаправленного изменения мира «умной мутацией». Прагматицизм как отсылка к выходу мышления в деятельность, связи с реальностью изменения мира, применим и тут. Если исследователю-учёному или исследователю-инженеру что-то «любопытненько», и он пытается это выяснять, тратя свои собственные ресурсы и пытаясь прихватить на это ресурсы окружающих, то это не означает ещё полноценного и продуктивного участия в мировом процессе бесконечного развития. Наука и тем более инженерия так же целенаправленна, и так же служат «спасению», как и вся остальная деятельность. Исследователь не может сказать «я художник, я так вижу», от него всё равно требуется указание целей его исследований — и эти цели будут оценены так же, как любые другие: насколько вероятно они ведут к «спасению», к изменению жизни к лучшему в ходе дарвиновской и техно-эволюции. Если маловероятно, но выгода может быть большая — можно проинвестировать ресурсы, если маловероятно и выгода небольшая — ресурсы не надо инвестировать. Обычная теория принятия решений, только по поводу познания.

Чисто аналитическая/исследовательская/познавательная (создание моделей) деятельность оказывается в современном мире всегда подчинённой синтетической деятельности по созданию систем, то есть инженерной деятельности по изменению мира к лучшему. Анализ, понимание, любая мыслительная работа по моделированию (описанию важных черт чего бы то ни было) подчинена целям этого описания: в зависимости от выбора целей, то есть того, что мы хотим изменить в мире (в конечном итоге — изменить обязательно в физическом мире!) мы строим разные описания, получаем и применяем разные знания.

При этом очень похоже, что «какова реальность» (как устроен мир) нас интересует только с точки зрения выживания в ней, сохранения жизни. Это подтверждается даже компьютерными экспериментами: агенты, у которых была не «модель реальности, какова она есть», а только модель избранных свойств реальности, важных для выживания, процветали в экспериментах, а агенты с «настоящими моделями реальности» выживали хуже⁶!. По словам Дональда Хоффмана, всё что делается в ходе эволюции (в том числе того, что происходит на всей Земле, мы ведь часть эволюции), на что обращается внимание — это просто разные способы иметь побольше детей! И даже если на первый взгляд это не так, то через некоторое время о полезности того или сего утверждается только в том случае, если удаётся протянуть цепочку причинности к увеличению числа разумных жизней во Вселенной, и часто даже антропоцентрично добавляют, «и чтобы эти разумные жизни были нашего вида!». Хотя ксенофобия и расизм и не очень популярны, но «роботам себя не отдадим» — это ведь вариант ровно такого антропоцентричного отношения к эволюции: «пусть твой вид вымрет сегодня, а мой вид завтра». Вариант «зелёных» не лучше, «пусть твой вид не вымрет, хотя мой вид будет страдать и перестанет расти». Чтобы грамотно стратегировать (ставить цели по изменению себя и мира), нужно понимать и идеи эволюции/бесконечного развития, и идеи прагматицизма, и владеть «научным мышлением» как мышлением по практикам интеллект-стека, применяемых в рамках трансдисциплины познания/исследований.

Judea Pearl всё время описывает допрос природы с пристрастием как основной предмет своего рассмотрения при разработке практики создания объяснений — выдвижение содержательных гипотез, подтверждение данными эксперимента. Математизация понятия «причины», понятия «механизм», понятия «необходимость» и «достаточность» в связи с «причинами» — это всё необходимые составляющие исследовательского мышления в науке. Но это же составляющие исследовательского мышления в инженерии (проверка гипотез о работоспособности, или о возможных поломках), составляющие мышления визионера (проверка рыночных гипотез), составляющие медицинского мышления (где врачи тоже делают предположения о причинах болезни пациентов), правоохраны (делаются предположения о виновности подозреваемых). Дисциплина практики познания/исследований как создания SoTA объяснений/теорий/моделей — это трансдисциплина, она применима повсеместно, как и любая трансдисциплина интеллект-стека.

Человеческая интуиция базируется не на статистической логике (а хоть и байесовской, ступенька «ассоциации» в лестнице причинности), а причинной логике. Эта причинная логика оказывается не столько байесовской, сколько дополненной байесовской (квантовоподобность!). Причинная логика продуктивна только в сочетании с онтологическими посылками о природе предметной области: какие типы объектов с их отношениями как меняются в ходе взаимодействия, что из этих изменений является причиной, а что следствиями, как они описываются математическими объектами и отношениями (или объектами с операциями по их созданию в конструктивной онтологии).

Так что причинные рассуждения (causal reasoning/inference) и исследовательское мышление как использование научного подхода (подход: отработанные в науке приёмы мышления, переносимые далее в другие дисциплины) в самых разных сферах деятельности мы включаем в интеллект-стек в обязательном порядке.

Как строить исследования в целом (не разовое проведение эксперимента, а выдвижение догадок/гипотез, критика их нерациональности, проведение экспериментов для фальсификации/опровержения худших, возможность выдвижения более универсальных и лучше объясняющих догадок/гипотез по текущим проблемам и бесконечное развитие знания, состоящего из выживших в ходе критики объяснений и цивилизации как совокупности агентов с их инструментами) — это нужно знать каждому человеку, разбирающемуся с новыми проблемами.

Практики всего остального интеллект-стека дают основания и объекты для познания/исследований, поставляют проблемы для познания/исследований, помогают рассуждениям в познании/исследованиях, организуют работы по познанию/исследованиям, помогают в планировании и инженерии экспериментов, используют результаты исследований.

И наоборот: знания/объяснения/теории практики познания/исследований (сейчас — современного критического рационализма попперианской эпистемологии) помогают всем остальным практикам интеллект-стека. Интеллект-стек — это решётка/lattice знаний, а не строго упорядоченный стек практик. Мы упрощаем сам интеллект-стек главным образом для целей планирования образования: в целом, чтобы обсуждать исследования, уже нужно разбираться в онтологии (которая отнюдь не самая нижняя трансдисциплина в стеке), логике, нужно разбираться в том, как устроены объяснения. Но в жизни все дисциплины интеллект-стека перемешаны между собой и используются «по потребности» и по факту неразделимо (в ходе нейросетевого квантовоподобного «интуитивного», а не последовательного классического «строго логического» рассуждения).

Data scientists, которые ведут себя как «учёные», то есть «выдвигают гипотезы, проверяют их на больших массивах данных, извлекают эти гипотезы из больших массивов данных», должны осознать, что они те самые исследователи («учёные», scientists!). Они профессионально должны знать (это тоже знание!): что может статистика (это первый уровень обсуждения причинности: ассоциации между явлениями), а что она сама не может (так, для составления графа причинности требуется привлечение специалистов в данной предметной области, которые дадут гипотезу о том, как в ней связаны причины и следствия), как затем нужно планировать эксперимент (и это уже не работа с данными!), как нужно относиться к неизбежной разнице между результатами их работы как учёных (предсказательные модели, дающие какие-то предсказания) и измерениями в реальной жизни.

Системные инженеры, проводящие испытания, тоже должны понимать пределы чисто статистической обработки итогов этих испытаний. Они «экспериментаторы», так что в этой части своей практики — те же исследователи.

И операционные менеджеры, которые оценивают причины отклонений, цитируя Дёминга-Шухарта⁷, должны тоже понимать ограничения своих статистических по факту расчётов. Они тоже исследователи, задают вопросы к природе отклонений — и поэтому должны понимать, как состыковать свои знания в статистике со своими знаниями предметной области, где они считают отклонения.

Исследования как трансдисциплина оказывается общей для всех проектов: один раз выучишь, много раз задействуешь. Но это не означает, что уже сегодня можно что-то исследовать, выучившись на каких-то курсах по причинному обновлению/causal inference (разобравшись в том, как устроены объяснения, «причинные рассуждения», предыдущий уровень интеллект-стека).

Курсы causal inference как часть математического образования есть уже во многих университетах — революция причинности шла тридцать лет, с 90-х годов, и опыт чтения курсов студентам-математикам накопился достаточный. Но на этих университетских курсах, похоже, преподают не мышление о причинах и следствиях (помним, что причины и следствия всегда предметны! Нужен subject matter expert, чтобы из своего опыта и творческого воображения, питаемого нейронным шумом, генерировать гипотезы/догадки), а просто способ провести расчёты для выбора лучшей гипотезы из имеющихся. Там преподают не исследования как трансдисциплину, а дают просто матаппарат для вычислений причинности. Причинное обновление оказалось не увязано с другими трансдисциплинами, из курса для математиков остаётся непонятно, как оно используется в исследованиях. А оно используется для опровержения гипотез (даже не для подтверждения! В исследованиях есть опровержения, но нет доказательств/подтверждений!).

Очень похоже на ситуацию с системным мышлением как приёмах мышления о частях-целых (эти приёмы раскиданы по множеству трансдисциплин), где на курсах systems thinking в современных университетах часто можно найти изложение какой-нибудь systems dynamics как привет из 70-х, где системное мышление подаётся как подробное изложение дифференциальных уравнений для моделирования кибернетических моделей с обратными связями, вариант теории автоматического управления (ТАУ)⁸. И выучившиеся такому «системному мышлению» люди оказываются неспособными что-то сделать в прикладных проектах, ибо речь в системном мышлении будет идти сразу о многоуровневости и конфликтах между системами разных уровней, неустроенностях, системах создания, эволюции.

Содержание фундаментального образования опять изменилось, уже в 21 веке, и даже не в самом начале 21 века! Забудьте всё, что вы знали про «причины», «следствия», «корреляцию» и «механизмы», забудьте про «науку» с её «британскими учёными» и «доказано, что». Выучите это всё заново по современным статьям (часто даже учебников по этим новым мыслительным практикам нет, хотя бывают уже онлайн-курсы), там уже давно всё не так, как было в прошлом веке. Как? Наш курс «Интеллект-стек», который вы изучаете, как раз и даёт короткий обзор происходящего в области лучших мыслительных практик.

Разберитесь в том, как выдвигать гипотезы и проводить эксперименты, обеспечивая длинное связное эволюционное развитие знания: этому посвящено множество самых разных мыслительных практик, включая общее описание того, как это происходит в практике познания/исследований (хотя более честно было бы назвать её практикой творчества). Если вы не понимаете, почему нельзя экспериментом опровергнуть гипотезу, если у вас в руках нет второй конкурирующей гипотезы (то есть минимум — это две гипотезы и фальсифицирующий одну из них эксперимент, а не одна гипотеза и один эксперимент), то вы не понимаете того, что такое исследования в их современном варианте, ни научные, ни инженерные. Вы не понимаете сути R&D, не понимаете сути творчества.

Большинство из предлагаемых приёмов современного (лучшего из известных на данных момент, state-of-the-art) мышления крайне контринтуитивны — они не приходят в голову «от опыта», их нужно узнать из какого-то курса и понять. Это понимание даётся с трудом, надо делать собственные догадки и подтверждать их как приводимым учебным материалом, так и опытом выполнения каких-то практик в жизни. А ещё нужно добиться беглости в выполнении этих приёмов мышления. Но освоенные приёмы сильного мышления позволяют вам стать умнее, начать разбираться с проблемами, справиться с которыми раньше и мечтать было нельзя. Вы усилите свой интеллект, так что овчинка стоит выделки.

При познании-обучении/supervised learning в отличие от познания-исследования/self-supervised learning речь идёт об импорте одним интеллектом результатов работ других интеллектов.

У СМД-методологов этому соответствует коммуникация, и эту коммуникацию (а мы называем это обучением) нельзя убрать из мышления (наше общее «мышление» и для исследований, и для коммуникации, и для прикладных рассуждений СМД-методологи называют «мыследеятельность»).

David Deutsch сделал замечание, что с точки зрения познающего агента (конечно, не всего агента в целом с его телом, а его познающего интеллекта как познающего универсального вычислителя в составе агента) его обучение проходит не путём его «внешнего программирования», а путём выдвижения самим этим интеллектом собственных гипотез/догадок и уточнения имеющихся у него собственных объяснений по мере получения от других интеллектов в коммуникации с ними информации о понятиях и их связях, а также указания на примеры проявления получаемых описаний в реальном мире. Эта коммуникация может быть и через книги, и через упражнения на тренажёрах, необязательно с живым учителем, и даже может быть коммуникация с самим собой (внутренний диалог, а то и диалог, опосредованный записями — мыслим мы не с пустыми руками обычно, а раньше с карандашом и бумагой, а сегодня с клавиатурой, мышкой и экраном).

То есть в познании обучение имеет акцент вычислений интеллекта в ходе коммуникации с уже что-то познавшим интеллектом и с окружающей средой, а исследование — когда никакого познавшего интеллекта нет, поэтому общаемся только с окружающей средой. В познании, реализуемом интеллектом, существуют самые разные варианты сочетания исследования и обучения: алгоритмы интеллекта в разных ситуациях могут быть очень разными (взять хотя бы lifelong learning, pretrain-finetune для языковых моделей и т.д.).

Критическое мышление и его несовременность

Критическое мышление — это педагогическая традиция 20-го века для «мягкого» (исподволь, через много примеров) обучения адекватности и рациональности в мышлении и прикладных рассуждениях через выискивание «фактических ошибок». Впервые его использовал в 1910 году теоретик в области образования John Dewey в книге «Как мы мыслим».

Основание для такого названия были простые: «критика» — это был один из разделов логики⁹ (сегодня этот раздел — формальная/математическая логика как наука о правильных рассуждениях), а другими двумя разделами были эпистемология (наука о познании, как рассуждения отражают физический и абстрактный мир) и нормативная логика (логика как семиотика, работа со знаками). Критическое мышление подразумевало, что мы проверяем рассуждения логикой, и что не проходит этот фильтр, то просто отбрасывается. Критическое мышление поначалу означало просто логичные рассуждения, а не абы какие фантазии.

У термина была довольно бурная жизнь, его значение интерпретировалось то очень широко, то очень узко¹⁰. То, что это педагогическая традиция, а не что-то живое, используемое в жизни (просто логичное мышление), подтверждается графиком частоты запроса critical thinking в Гугле. Пик планетарного интереса ежегодно — 1 сентября, в каникулы интерес падает практически до нуля:

Изучение предмета «критического мышления» в его нынешней форме обычно не приводит к усилению интеллекта, а само критическое мышление в его текущем виде неприменимо в сложных проектах (например, в крупных инженерных проектах, где просто пользуются логикой), поэтому осталось на уровне учительских обсуждений в старшей школе и в силу исторических традиций в гуманитарных вузах на младших курсах. При внимательном рассмотрении критическое мышление сводится к призывам использовать в жизни попсовые (на уровне «здравого смысла») знания по логике и научному мышлению/исследованиям/эпистемологии. Но чаще нет и этого, дело ограничивается призывами «думать больше! думать точнее! проверять факты! сомневаться!». Для реализации этих призывов показывают разные способы, придумываемые «на коленке» тем или иным преподавателем критического мышления. О цивилизационном state-of-the-art речи не идёт.

«Критическое мышление» имеет консенсус¹¹ (он так и называется — «дельфийский консенсус» 1990 года) о том, что входит в хорошее мышление. Согласно консенсусу, в критическое мышление входит «всё хорошее против всего плохого», речь там идёт об интерпретации, анализе, логическом выводе (inference), объяснении, оценке и даже саморегуляции. Это сильно побольше, чем просто анализ каких-то фактов¹², но все эти умения больше ведут к суждениям об узнаваемом извне, чем появлению чего-то нового — в центре там «целенаправленное рефлексивное суждение» (purposeful reflective judgment) как результат мышления. Это не совсем то «творчество», порождение конструктивного нового, о котором довольно часто думают, как о результате мышления как работы интеллекта. Логика и следующее логике мастерство логичного рассуждения — это только один уровень интеллект-стека, только не самая большая часть интеллекта как мастерства мышления в целом, хотя претензия «критического мышления» именно в постановке интеллекта в целом, «за всё хорошее в мышлении против всего плохого».

Как и следует из названия, это мышление критическое по отношению к другим мышлениям, и это определённо не творческое мышление, как пытаются его представить. Логика и следующая ей логичность в рассуждениях — это меч, рассекающий иллюзии, а не создающий миры гаечный ключ. Критическое мышление как понятный комплекс идей по поводу логичных рассуждений хорошо пошло в педагогику: ему учат массово в школах, вузах, прививают все эти навыки хорошей критики как привычки мышления.

Проблема в том, что прививают логичность в рассуждениях уж как кто понимает: каждым педагогом критического мышления его содержание понимается по-разному. Мало ведь потребовать логичности в мышлении. Какое же мышление не хочет быть здоровым и богатым, а не бедным и больным — логичными хотят быть все! Этой логике ещё нужно научить, это значит, что нужно сформулировать сам предмет логики (куда сегодня входят отнюдь не аристотелевские силлогизмы и связанные с ними ошибки) и обучение этому предмету. Но вот беда: в самых разных школах мышления (системном, критическом, изобретательском и т.д.) предмет логики полностью не находится, только замечания о необходимости логичности и небольшие кусочки объяснений на этот счёт. Ну, типа как из «математики» даётся арифметика целых положительных чисел. И так по всем навыкам критического мышления: других предметов интеллект-стека (онтология, исследования/эпистемология/научное мышление и т.д.) в критическом мышлении не даётся, и тем более не ведутся исследования по этим предметам. Хотя изредка ведутся педагогические исследования.

Какие концепты привнесены в критическое мышление¹³ из других трансдисциплин, а какие появились и развиваются именно в critical thinking в результате тамошних исследований? Например, в системном мышлении появились и развиваются в ходе проведённых для его развития исследований понятия системы, эмерджентности — это собственные понятия системного мышления, взятые их физики и развивающиеся в рамках системного мышления. С удивлением обнаруживаем, что ничего своего из базовых понятий в критическом мышлении нет, всё заимствовано из других дисциплин. Поэтому улучшений в критическом мышлении, развития критического мышления быть не может — нечего развивать. Развитие может быть только педагогической формы, но не содержания предмета!

«Почему выпускники вузов до сих пор не могут мыслить»¹⁴ — так называется статья Rob Jankins про вырождение критического мышления в академической среде. Действительно, мыслить в вузах нигде явно не учат.

В инженерных и естественных дисциплинах мышлению тоже учат, и тоже учат «исподволь», в неявном виде. Сами методы/нормы/практики мышления не выделяют в явном виде. Логика даётся только математическая, без привязки к тому, как использовать её в жизни. Исключением является только логика на философских факультетах — формальная философия, философская логика. Системное мышление очень редко идёт как отдельная дисциплина, только у системных инженеров. И все эти дисциплины мышления как дисциплины частей интеллект-стека никакого отношения к критическому мышлению не имеют, о нём даже не вспоминают!

Само критическое мышление тоже никак не относится к другим школам мышления — ни рационалисты¹⁵, ни логики, ни системные мыслители не считаются «своими» в педагогическом мире критического мышления. Даже критикующий полный развал современного мышления Rob Jankins считает, что мыслить могут учить только люди, учащие «по старинке понимаемому критическому мышлению» (т.е. которое ещё не прогнило в современных гуманитарных факультетах, а сохранило прежний широкий смысл). Rob Jankins даже мысли не допускает, что учить можно думать не по антикварному варианту critical thinking, а как-нибудь ещё. Например, вместо призывов «думать больше!» взять и безо всяких призывов обучить людей логике. Вместо призывов «сомневаться!» обучить людей исследованиям/научному мышлению/эпистемологии (и научить отличать научное познание от других видов познания: художественного и религиозного). Вместо призывов «думать обо всём важном!» обучить людей системному мышлению, где будет указано, что именно в проектах считать важным.

Критическое мышление не имеет своих понятий, поэтому не может развиваться, интерес к нему поддерживается только консервативной системой образования, это дань учебной традиции 20 века. Призывы им заняться — это призывы идти «назад в будущее». Но это ведь тупик! Критическое мышление ждёт судьба кибернетики, которая была чуть ли не синонимом системного мышления, но потом перестала развиваться и исчезла. Системное мышление продолжает развиваться в инженерной среде, и осталось. Логика продолжает развиваться у математиков, поэтому осталась. Эпистемология/научное мышление продолжает развиваться у физиков, поэтому осталась.

Нужно ли добавлять критичность к архитектурным требованиям к мышлению? Например, должны ли мы специально говорить, что системное мышление должно быть критичным? Системное мышление основано на логике, онтологии, научном мышлении в их широком понимании (мы иногда даже называем этот клубок дисциплин «онтологика»). Чтобы обсуждать рациональность и логические основания высказываний/рассуждений, осознанность, адекватность и абстрактность системного мышления, совсем не нужно прибегать к педагогическому аппарату критического мышления. Есть много разных специальных дисциплин, в котором представления об абстрактности, рациональности, осознанности и адекватности мышления развиваются. Зачем брать ещё и критичность, переставшую развиваться? Логику лучше изучать как логику (включая байесовские рассуждения/inference, причинные/causal рассуждения/inference, контрфактические рассуждения, отношение логики и реальности, онтологические основания, квантовоподобный логический вывод), а не в составе тех огрызков логики, которые попадают в «критическое мышление». Исследования лучше изучать как исследования/научное мышление. Информационные модели системной инженерии лучше проверять на отсутствие противоречий логикой, как это делается инженерами, а не в соответствии с «критическим мышлением» — будет заведомо проще, надёжней, понятней.

А как же борьба с фейками? Если у вас есть интеллект (включая интеллект компьютера: Гугл в борьбе с фейками не менее важен, чем вас собственный мозг), то фейки вам не страшны. Вас спасёт мыслительное мастерство в целом, причём не только мастерство рассуждать логично, но и собранность, и трудовой кругозор, и все остальные практики интеллект-стека. С фейками борется весь интеллект, а не только логика как искусство рассуждений по правилам. Заклинания о том, что вам нужно просто всё-всё проверять, во всём-всём сомневаться — не спасут.

Больше к критическому мышлению мы возвращаться не будем.

Но вот понятие критики мы оставляем: это важнейшая часть критического рационализма, часть познания. Как относиться к критике? Вот пример рационального подхода к критике¹⁶, учитывающего ограниченность ресурсов познающего агента, затратность познания. Этот подход (назовём его «подход интересной критики») даёт главный совет — отвечать только на ту критику, которая интересна. Понятие интереса тоже легко формализуется, подробней об этом будет, как ни странно, в обсуждении практики эстетики. Вот этот подход:

• Критика помогает решать ваши проблемы

• Нет необходимости отвечать на всю критику

• Критика может высветить интересные проблемы

• Вы не обязаны решать эти проблемы

• Прислушивайтесь к критике только тогда, когда она интересна.

Творчество

Можно предположить, что в интеллект-стеке должна быть более общая трансдисциплина, чем познание/исследования: творчество. Познание/исследования — это просто творчество по созданию объяснений, подпрактика творчества, как инженерия роботов — это подпрактика инженерии, а алгоритмика квантовых алгоритмов — подпрактика алгоритмики.

Но предмет «творчества» (какие объекты меняет практика творчества) можно понимать очень по-разному. Вокруг «творчества» поэтому разворачиваются бесплодные споры о терминах: творцом могут назвать и шизофреника, бред которого каждый раз оказывается новым и неповторимым, и художника, картины маслом которого могут не иметь никакой связи с реальностью, и учёного-исследователя, ставшего «творцом новой теории», и инженера, сделавшего изобретение (нашедшего новый аффорданс для давно известной функции), и даже бога какой-то из религий, который «творец», потому как «сотворил мир». Слово «творчество» употреблять очень опасно: оно многозначно и лучше бы его разделить на какие-то отдельные слова, которые подчёркивают разные смыслы, кодируемые лексемой «творчество», а само слово табуировать. Похожее было сделано в наших курсах со словами «стейкхолдер», «предприниматель» — и это оказалось очень продуктивным. Возможно, со словом «творец» и его практикой «творчество» надо сделать что-то похожее.

Само понятие «креативности»/ «творческости» культурно обусловлено и может резко меняться. Например, в фильме про AlphaGo (программу, которая обыграла чемпиона мира в игре Го)¹⁷. В фильме Lee Sedol, проигравший чемпион мира, говорит¹⁸, что переосмыслил для себя понятие креативности ходов в игре, и что на самом деле «креативные/творческие ходы» — это всё обычные ходы, которые просто хорошо просчитаны. И если человек думает иначе - он ошибается.

Так что «результаты творчества» оказываются просто «результатами», только «хорошими результатами». Это даёт и другой вариант трактовки «творчества»: признание, что творчество всеохватно и пронизывает самые разные практики, просто «творчество» — это создание хорошо продуманного/просчитанного нового, что бы это ни было.

Что такое «новизна» и как она получается (novelty search) в ходе эволюции, подробно обсуждается в исследованиях Kenneth Stanley¹⁹ и Joel Lehman²⁰. Именно в их работах появилось понятие smart mutations²¹ — не любая мутация в мемоме, а только с наибольшей вероятностью ведущая к улучшению эволюционной приспособленности к среде (fit).

Если воспользоваться подходом active inference, то можно показать самые разные места приложения для творчества, как «что-то новое, дающее что-то полезное»:

• Изменения модели себя, смарт мутации знаний о себе. Получаются познанием/исследованием (тут интересный момент про осознанность и интроспекцию, различение границы между миром и собой, референтный индекс первого лица в описаниях per se).

• Изменения модели мира, получаются познанием/исследованием окружающего мира. Чаще всего познанием/исследованием называют этот пункт.

• Изменения себя как физической системы, это инженерия. Может быть в том числе и для того, чтобы «спастись» сейчас и/или в будущем, но и в целях исследований, получения данных для моделирования! Исследования активны, познание меняет агентов!

• Изменения физического мира вокруг себя, тоже инженерия. Тоже может быть в том числе и для того, чтобы «спастись» сейчас и/или в будущем, но и в целях исследований, получения данных для моделирования! Исследования активны, познание меняет мир!

Если мы делаем новые изменения моделей себя и мира или новые изменения себя и мира — это творчество (с точностью до термина «новые» и полезности полученных моделей и изменений). Можно открыть новый закон природы (высказать догадку, которую трудно опровергнуть, и которая окажется лучше других), а можно найти новый аффорданс, воплощающий какую-то идею о том, как изменить мир к лучшему (например, при создании компьютера догадаться, что логический ключ как функциональный объект надо делать на радиолампах как конструктивных объектах — и получить в итоге работающий ENIAC²²).

Уверенность в том, что «спастись» можно путём активного познания, то есть что для надёжного «спасения» не хватает только знаний, ничего кроме знаний, которые можно добыть исследованиями, поддержанными инженерией, называется оптимизмом. Никакой веры в злой рок, злые умыслы богов или людей, фаталистичность, неминуемость катастрофы и исчезновения цивилизации — никакого пессимизма! Только оптимизм, как понимание, что если будут необходимые знания (знания — это теории/объяснения/модели себя и мира, включая знания о том, что вообще в мире возможно, а что запретно), то можно собрать ресурсы и изменить себя и мир так, чтобы решить все проблемы — биологическое бессмертие, экзистенциальные риски типа «прилёта астероида» или «появления смертоносного вируса», и даже такие риски, которые человечеству сейчас неизвестны.

Главный тут вопрос: откуда вообще берётся что-то новое?! Что лежит в основе творчества?

Нужно чётко понимать: творец объяснений/моделей (исследователь) и творец систем (инженер) берёт начальную догадку из хаоса/шума/случайности. Да, речь идёт буквально о нейронном шуме, случайных ассоциациях, объектах, идеях, которые выдаёт его биологический мозг, возможно, простимулированный необычными режимами: сном или внешними событиями, такими, как по легенде падение на голову Ньютону яблока. Если это компьютерная система, например, система искусственного интеллекта, то хороший шум выдаст генератор случайных чисел, а для надёжности можно использовать и аппаратный датчик (например, на квантовых эффектах²³).

Дальше с этим шумом идут многочисленные процедуры оформления в отчуждаемом виде идеи объяснения, а затем критики/фильтрации. Большинство сгенерированных догадок по поводу объяснений на этой стадии отбрасываются: они оказываются нелогичными, они оказываются не-объяснениями, они оказываются хуже в объяснениях, чем уже существующие альтернативные объяснения. По итогам критики может быть модификация, а затем использование — если эти догадки-из-шума, из интуиции, из хаоса вдруг пережили всю эту критику. Критика, конечно, сначала идёт в голове одного человека или в одном компьютере, а потом к ней подключаются и все остальные люди и AI. Поток случайных значений из шума бесконечен, поэтому после каждой откинутой в ходе фильтрации догадки объяснения просто генерируем новую. Если догадка выдержала критику, то принимаем эту догадку всерьёз: считаем это на текущий момент лучшим объяснением (SoTA, state-of-the-art²⁴).

Обычная критика этого процесса — «если посадить миллиард обезьян печатать на машинке, то за миллиард лет они случайно напечатают в том числе и томик «Войны и мира» Льва Николаевича Толстого». Это миф, ибо эволюционные алгоритмы, использующие случайные мутации и селекцию по результатам этих мутаций (возможность модификации уже как-то успешных объяснений в нашем случае) работают неожиданно быстро по сравнению с просто случайной генерацией²⁵. Это подробно разбирается в каждом учебнике по эволюции, особенно в учебниках по эволюционным алгоритмам. Это эмерджентность: если брать не просто множество изолированных друг от друга случайностей, а организовать их взаимодействие (операции по их комбинированию) в рамках какого-то алгоритма, то экстраординарного качества результаты будут получаться быстро. Важно то, что прямой генерацией каким-то универсальным алгоритмом такие результаты не могут быть получены, а эволюционным процессом с «умными мутациями» — могут²⁶. Последовательное применение ума с запоминанием промежуточных лучших результатов даёт результаты лучше, чем просто «настойчивое непосредственное применение ума»!

Интересно также то, что теория вероятностей показывает, что не очень умные агенты могут добиваться в ходе буквально нескольких попыток творчества результатов лучше, чем более умные агенты. Так, GPT-4 летом 2023 года генерировала фрагмент кода, проходящий все тесты сразу в 76.2% случаев. Более глупые модельки типа GPT-3.5 тоже сгенерируют такой код, только запускать их нужно большее число раз, что не факт, что дороже по сравнению с очень дорогими одиночными запусками GPT-4. Глупые модельки нейросеток тоже думают, только думают дольше — больше шагов критики и улучшений, генерации гипотез и экспериментов. В итоге при генерировании одной модельки GPT-3.5 добивалась прохождения всех тестов в 63.4% случаев, но вот при 100 попытках это удавалось уже в 89.8% случаев, что уже ощутимо больше, чем 76.2% одиночного запуска дорогой более умной GPT-4²⁷.

Если есть шанс запомнить это улучшение, то получаем ускорение улучшений:

• Каждый частный результат при случайном поиске будет добыт в том числе потому, что случайность приводит к поиску в новом месте пространства решений, нет возможности «застрять в локальном минимуме».

• В случае генетического алгоритма улучшение идёт за счёт того, что используется память: каждый результат получается не бесчисленным числом повторений «с нуля», но модификацией уже достигнутых улучшений (опора на селекцию, эволюционный выбор лучших результатов). Каждое новое поколение результатов становится чуть лучше, «научается».

Это относится и к творчеству каждого отдельного человека, и к творчеству цивилизации (людей и компьютеров вместе) в целом: чтобы получить новое знание, нужно просто сделать больше попыток — но эти попытки должны быть эволюционными, работать со многими частными улучшениями. Ибо «в лоб» придумать «итоговое знание человечества» в ходе исследований или «итоговый набор рукотворных систем» в ходе инженерии не получится, творчество доступно только через эволюцию и оно всегда проходит в контексте творчества других творцов: эволюция одного вида (генома или мемома) самого по себе невозможна, она всегда идёт в контексте взаимодействия этого вида с другими эволюционирующими видами²⁸.

К догадкам в ходе научных (reverse-engineering природных систем) или инженерных (создание моделей систем и изменений в системах, а затем реализация этих моделей в реальности, «прямая инженерия», research and development, R&D) исследований как актов творчества, нужно относиться так:

• Если догадку оказывается нельзя опровергнуть логической критикой и затем проведением эксперимента по сравнению с другими догадками (объяснениями в случае науки и реализацией системы в случае инженерии, выход на рынок тут вполне эксперимент!), то это не результат научного или инженерного творчества. Это продукт искусства, религии или ещё чего-то подобного, где соответствие жизни не требуется. Лозунг/слоган исследователя — «сомневайся!» (ещё со времён Просвещения, которое не закончилось сегодня), и если сомневаться нельзя в принципе, то это не про исследования, а про фантазирование. Творчество тем самым мы делим на научное/познание, инженерное/спасение и фантазийное (зачем оно нужно, будем обсуждать в рамках трансдисциплины эстетики, но и там возможна критика — например, художественная критика, принятие зрителями и т.д.).

• Если результат научного и/или инженерного творчества (R&D, их трудно разделить) успешно прокритикован (или найдено логическое противоречие в объяснениях, или найдены объяснения (в том числе в инженерии — объяснения о том, как делать конкретную систему, design и технология производства), лучше предсказывающее события в реальном мире, включая «принятие рынком» или «выживание в ходе выращивания» для биосистем, и т.д.), или так же предсказывающее, но более универсальное, или более понятное людям и дающее такую же точность предсказаний, то нужно от него или отказаться, или модифицировать. С ним жить нельзя. Результаты творчества как осетрина: она или первой свежести, или не осетрина. Так и тут: или гипотеза (объяснение и/или созданная система) выдержала критику, и стала SoTA (в науке или инженерии) на какой-то период времени, или её считаем фальсифицированой и результат творчества должен быть или улучшен, или забыт. Про инженерные SoTA, равно как и про исследовательские, можно смотреть книгу Billy Koen, «Discussion of the Method» (2003)²⁹.

• Если объяснение SoTA, то как бы безумно оно не выглядело, нужно принять его всерьёз. Например, Эвереттовская интерпретация квантовой механики постулирует, что в мире бесконечное число вселенных. И как-то прокритиковать это утверждение не удаётся, а предсказания этой теории являются до сих пор лучшими (решают некоторые проблемы, которые альтернативные интерпретации, например, интерпретация Бора, решить не могут). Значит, надо некоторое время (пока не удаётся прокритиковать) эту интерпретацию, считать что в мире и в самом деле бесконечное число вселенных, исходить в своей деятельности (например, при строительстве квантовых компьютеров) из этого факта. А потом SoTA морально устареет: объяснение/теория/модель будет опровергнута, место SoTA будет какое-то новое объяснение/теория/модель. Но на то время, пока какая-то теория является SoTA, нужно принять её всерьёз, то есть считать, что мир устроен так, как говорит эта теория. Это очень подробно объясняется в книге Дэвида Дойча «Структура реальности. Наука параллельных вселенных»³⁰.

То есть мы берём догадку, которая когда-нибудь станет SoTA объяснением (в том числе научным объяснением, или объяснением того, как изготовить какую-то инженерную систему) из хаоса, шума, вечного и бесконечного источника самых разных догадок, уточняем её с помощью таких же вытаскиваемых из хаоса догадок по поводу улучшения начальной догадки — и если она выжила множество раундов самой разной критики, эта догадка имеет шанс стать SoTA догадкой, то есть текущим лучшим в мире объяснением имеющихся на сегодня проблем или объяснением того, как сделать инженерную систему. Выдвинуть догадку, которая потом станет SoTA объяснением очень, очень трудно! Для этого ведь каждая новая догадка должна объяснить всё то, что уже было объяснено, плюс объяснить что-то новое, что объяснено ещё не было! Но пока идёт проверка и улучшение старых догадок, кто-то наверняка уже породил новую догадку, и она потихоньку меняется, улучшается, проходит критику, чтобы заместить текущую SoTA догадку/guess/гипотезу/объяснение. А предыдущая догадка оказывается ошибкой, она будет фальсифицирована/опровергнута (и Дэвид Дойч в шутку говорит, что исследовательские гипотезы и теории вообще стоило бы сразу называть «ошибками/заблуждениями», ибо они неминуемо будут когда-нибудь заменены на более точные и универсальные, даже если некоторое время побудут SoTA. То же можно сказать в отношении инженерных систем, они тоже какое-то время могут быть SoTA, затем их заменяют в этом качестве системы получше).

Всё это похоже на «естественный отбор», эволюцию, которая тоже движется случайными мутациями, её идеи тоже берутся «из шума», «из хаоса». Поэтому такого сорта трансдисциплину познания называют иногда эволюционной эпистемологией (помним, что эпистемология — это практика научного/рационального/логичного познания), а поскольку это впервые в таком ясном виде описал Karl Popper, то это будет эволюционная эпистемология Поппера, и это же — критический рационализм Поппера, ибо догадки по поводу моделей тут противопоставляется эмпирицизму, в котором никаких догадок нет, а знание вычисляется из пассивно воспринимаемых данных измерений! В рационализме догадки первичны, а измерения могут быть использованы для критики/фальсификации/опровержения догадок о теориях/моделях (в том числе объяснений), но не для логического вывода этих моделей из каких-то данных.

Научное и инженерное творчество (исследования и разработки, R&D) даёт нам бесконечное развитие: знания человечества и доступные инженерные системы непрерывно улучшаются, уточняются, универсализируются. Эволюция бесконечна, как дарвиновская (биологическая, с реализацией центральной догмы молекулярной биологии, что геном в феном транслируется непосредственно, а вот в геном информация отбора попадает через случайные мутации, при этом неудачные мутации не передаются после неудач в размножении — ибо геном есть в каждом размножающемся организме, и опыт организма нельзя непосредственно передать в геном), так и техно-эволюция (в которой «опыт» эксплуатации системы как «техно-организма» инженер легко может закодировать в отдельно хранящемся мемоме системы, то есть объяснениях того, как создать эту инженерную систему).

В бесконечности мы находимся всегда в её начале. Мы в начале бесконечного развития знания и бесконечного развития технических систем, бесконечно идущих исследований и инженерии, бесконечного творчества, бесконечного R&D.

Помним: если кто-то умер из дорогих вам людей, то просто не было знаний, которые дали бы возможность этого не допустить — но творчество людей и компьютеров, то есть исследования и разработки, которые они ведут, рано или поздно дадут эти знания. И можно будет создать технические средства, которые смогут предотвратить подобные утраты в будущем. Но к этому времени появятся новые интересные проблемы, которые нужно будет решать — бесконечное развитие не закончится тем, что будет понятно, как обеспечить индивидуальное бессмертие. Да, есть проблема «программируемой смерти»³¹, но это же только при биологической эволюции проблема, к техно-эволюции это не относится!

Творчество как преодоление противоречий

Прирост знания человечества (людей, AI и их инструментов) идёт путём увеличения количества непротиворечивого знания, которое уже не удаётся прокритиковать чисто логически, «вычисляя по правилам». Это означает, что по спектру формальности/точности мышления мы получаем всё более и более формальное знание, и убеждаемся, что все рассуждения в этом знании не содержат логических ошибок, в них нет противоречивости. От знания, которое даёт некоторую вероятность соответствия поведения идеальных/математических объектов поведению реальных объектов в физическом мире, переходим к знанию, которое даёт вероятность больше, больше — и это улучшение бесконечно, хотя никогда не достигает полной точности и никогда не случается вовремя. Есть всегда невязка между знанием и миром: знание не полностью описывает мир, или описывает мир, но когда уже поздно его менять. Алгоритмы для их выполнения требуют ресурсов, а ещё вычисления требует времени — и вот этого всегда не хватает, даже с учётом прогресса в аппаратуре вычислителей/computers и прогресса в алгоритмах. Но оптимизм говорит, что прирост знаний неумолим.

В жизни при попытке объединить формальное знание нескольких дисциплин (междисциплинарность неизбежна во всех проектах!) неизбежно возникают противоречия. Как их снимать?

Первый ход тут — уменьшить формальность рассуждения, от строгой логики перейти к вероятностным её вариантам, учесть неопределённость. Деформализация/демоделирование/рендеринг — это необходимая часть мышления, логических противоречий при этом при объединении разных описаний мира становится меньше. Тут два хода:

• Просто вероятностные расчёты «по традиции», что ведёт нас к байесианской теории вероятности. Но эти расчёты вроде как должны делаться при оценке вероятности из одного и того же контекста, иначе эти оценки будут кривыми. Это та же булева алгебра с её теоретической несовместимостью вывода по разным вариантам распределений («разным алгебрам»), только вероятностная.

• Квантование. Знание берётся не о каждом изменении мира, а только об измеримом — переходим к квантовой физике. Мы уже говорили, что квантовоподобное вычисление даёт возможность оценивать вероятности из разных контекстов, ибо из определения вероятности по Колмогорову убираем аксиому коммутативности.

Но развитие цивилизации шло от интуитивных «прикидок» ко всё более точным моделям, в которых работают длинные цепочки рассуждений с точным результатом! Это иногда описывается, как «переход к цифре». Это важно, чтобы не накапливалась ошибка в рассуждениях. Если ты сто тысяч раз последовательно копируешь какой-то текст, представленный дискретным «цифровым» образом, то на выходе будет тот же самый текст. Если это формальное логическое («по правилам») рассуждение по каким-то объяснениям, представленным текстом, то результат будет тот же самый. Это означает, что накапливать мы можем только цифровое знание (и есть оценки, насколько точно должно выполняться копирование, чтобы была возможна эволюция³²), «аналоговые» оценки не подходят, ибо накапливающаяся ошибка будет приводить к забыванию найденных эволюцией решений — это прежде всего относится к эволюции дарвиновской, но для техно-эволюции тоже важна точность копирования, а также точность сборки (успехи современной системной инженерии во многом относят к тому, что резко была поднята точность изготовления деталей по информационным моделям: не нужно тратить время на «подгонку по месту напильником» для каждого экземпляра изделия).

Итак, чтобы была возможность эволюции, надо повышать точность высказываний, степень их определённости — и это означает, что в конечном итоге мы должны двигаться к формально-логическим высказываниям: точной, а не вероятностной, математике в объяснениях. Это относится и к research, и к development — и к познанию/исследованиям, и к инженерии.

Но при формализации неизбежно будут появляться противоречия. Если мы знаем, что вампиров нет, но также знаем, что граф Дракула — это вампир, то как мы можем проводить логические рассуждения с этим знанием? Как можем принимать такое знание всерьёз — строить жизнь как будто вампиры есть (хотя бы один есть — граф Дракула!), или как будто вампиров нет? Противоречия в знании — это проблемы, которые требуют решения перед тем как принимать эти знания всерьёз! Противоречия надо снимать, для этого менять описания, высказывать новые догадки, искать причины противоречивых описаний, находить ошибки, выкидывать ошибочные описания или оставлять их, но исправив ошибки. И если исправление ошибок не вызвало других ошибок (такое нередко) и результаты выдержали критику, то тогда уже принимать эти результаты всерьёз.

После снятия противоречий в каком-то фрагменте знания о ситуации нужно опять формализовывать представление ситуации, получить устойчивость к копированию. Дополнительно формализация упрощает нахождение ошибок в знаниях, нахождение противоречий: действительно, если вы знаете, что вампиры то ли есть, то ли их нет, а граф Дракула или был вампиром, или не был, то можно ли сказать, что тут что-то не так?! Такое неформальное объяснение трудно брать всерьёз, действия на нём не выстроишь. То, что электрон одновременно волна и частица — это тоже противоречие, оно тоже требует решения! Без снятия этого противоречия тоже будут проблемы, и для снятия этого противоречия была изобретена квантовая физика.

Противоречие останавливает формальное рассуждение и требует переключения на исследования, на нахождение выхода из логического тупика. Это типовая ситуация в междисциплинарности: при малой степени формализации рассуждения часто ошибочны, а при большой степени формализации рассуждать становится невозможно из-за явных противоречий при переходе от одной дисциплины к другой. Чтобы оставаться точным и безошибочным в ситуации нескольких дисциплин, нужны исследования, нужно творчество.

Есть два разных понимания противоречия:

• прикладная коллизия (квадратная дырка не подходит круглой втулке)

• парадокс, когда оба высказывания про систему оказываются верными, но противоположными.

Коллизии решаются обычным инженерным образом (и иногда там оказывается парадокс спрятан внутри), парадоксы требуют выхода в «чистое мышление», то есть включение полного интеллект-стека в творческом режиме — перехода к другим (возможно, ещё не существующим!) понятиям, другим описаниям из других дисциплин (и хорошо, если они существуют!) для того, чтобы парадокс разрешился. Если найдено противоречие, то нужно высказывать догадки, критиковать их, надо проявлять творчество: противоречия обычно невозможно «решить по алгоритму», задействовав какие-то правила. Нет, противоречия снимаются эволюционным алгоритмом, включащим творчество, то есть генерирование нового знания из шума, а затем фильтрацию этого знания (эволюционная эпистемология в варианте критического рационализма).

Преодоление противоречий связано с получением уточнённого мировоззрения: взгляда на ситуацию, в котором объяснения/теории/модели различных предметных областей не противоречат друг другу, то есть возможно связное и непротиворечивое междисциплинарное рассуждение. Трансдисциплины должны обеспечивать и формализацию знания, и обнаружение противоречий, и творчество по снятию противоречий, а также выявление лучшего знания:

• Лучших объяснений того, как ведут себя разные объекты (научное знание, результат исследований/научного творчества)

• Лучших объяснений того, как создавать те или иные инженерные системы (инженерное знание, включая инженерию художественных произведений, результат инженерии/инженерного творчества, к которому мы относим и художественное творчество)

Творчество помогает снять противоречия, обнаруживаемые логической критикой, а также помогает улучшить объяснения, чтобы добиться лучшего согласования их предсказаний с данными эксперимента.

Приведём примеры работы с противоречиями для трёх школ мышления, основанных на системном подходе разных поколений:

• системомыследеятельностной методологии (СМД-методологии)³³,

• теории решения изобретательских задач (ТРИЗ)³⁴

• теории ограничений³⁵.

СМД-методология предлагает способы преодоления противоречия, непосредственно связанные с использованием степени формальности/точности мышления: противоречие преодолевается через намеренные сдвижки степени формальности описаний. Вот шаги практики снятия противоречий (практики творческого акта) в СМД-методологии:

• Схематизировать, то есть формализовать различные предметные/дисциплинарные/ролевые/позиционные описания в достаточной мере, чтобы убрать из них неточности и ошибки и выйти на чётко сформулированное противоречие. Это соответствует движению по спектру строгости/точности вправо, в предметное/прикладное/дисциплинарное мышление на материале схем. Для формализации используется диаграммный язык СМД-подхода, но всё-таки основная работа идёт в текстовом виде. Формальность появляется главным образом из хорошо проделанной работы по типизации: диаграмма задаёт типы мета-модели объектов ситуации, а типы на диаграмме берутся из мета-мета-модели самой СМД-методологии. Мета-модель тоже задаётся диаграммно, эти диаграммы тоже называют «схемами», они имеют свои названия: «схема шага развития», «схема многих знаний», «схема мыследеятельности», и т.д. Схематизация — это выявление типизированных объектов внимания в ситуации и выражение их диаграммно (хотя к каждой диаграмме «приговаривается» довольно обширный текст. Диаграммы — это не «код», это «псевдокод»!). Наличие схем СМД-подхода гарантирует явное указание типа, заставляет пользоваться машинкой типов. Это подчёркивает противоречия. На этом на первом шаге «схематизации» нужно не столько строить схемы, сколько обязательно найти противоречие, заострить его, сделать абсолютно ясным, формально определённым, воспроизводимым. Поэтому ход — на формализацию/моделирование/теоретизирование и затем использование формальной логики для критики модели.

• Распредметить, то есть деформализовать, намеренно отходя от предложенных ранее схем ситуации (это понятно, ибо использованные схемы гарантированно вели к противоречию!), изложение идёт на естественном языке, типы мета-модели намеренно не используются, но могут быть использованы типы мета-мета-модели. После распредмечивания становится возможным проведение менее формальных интуитивных рассуждений без задействования формализмов модели с их жёсткой типизацией, а обсуждение становится более абстрактным. В этих беспредметных (вне каких-то дисциплин), ведомых интуицией свободных рассуждениях потом появляется возможность новой концептуализации, новой типизации, нового предметного формализма. От исходных противоречащих моделей и теорий распредмечивание приходит к текстам (и пиктографическим диаграммам-схемам, которые активно используют последователи СМД-подхода, но повторим — тексты при этом всегда есть, они «приговариваются» к этим диаграммам/схемам). В этих текстах ищут какие-то интуиции про важные новые объекты внимания, преодолевающие противоречие. Главная практика интеллект-стека тут — понятизация, но ещё до выдачи точных имён с точной типизацией. Аспект моделирования и приблизительности этого моделирования проявляется в речи присказкой «как бы», рассуждения ведутся по аналогии, метафорами. Теория понятий чаще всего используется — теория прототипов³⁶.

• Опредметить, то есть формализовать полученные после «распредмечивания» интуиции в новую объединённую дисциплину/«предмет», задаваемый объяснениями/теориями/моделями уровня middle ontology/мета-модели. Для этой дисциплины делается новая мета-модель — «конфигуратор» (помним, что старые мета-модели ситуации откидываются, ибо их использование вело к противоречиям!). Сама работа по формализации делается с использованием диаграммного/схемного визуального языка СМД-подхода и набором мета-схем СМД-подхода типа «схемы мыследеятельности» (которые сами когда-то были получены как результат работы по проблематизации схем СМД-подхода прошлых поколений). Этот диаграммный язык облегчает проверки результата на отсутствие логических противоречий в рассуждениях, а также уменьшает количество ошибок за счёт того, что каждое предлагаемое понятие результирующего «конфигуратора» получает тип мета-мета-модели языка схем СМД-методологии. Важно, что проверка «конфигуратора» делается не только на логическую непротиворечивость рассуждений с новым конфигуратором, но и конкретизацией/демоделированием/заземлением/рендерингом — привязкой описаний к конкретным ситуациям. Если есть онтологический дребез при использовании «конфигуратора», то находят его причину и предлагают исправление, а то и высказывают новые догадки «с нуля», если исправить конфигуратор не удаётся.

• Снятие противоречие в деятельности (если построение конфигуратора каким-то образом невозможно): начинается какая-то разработка в рамках подхода «непрерывного всего», явно запускается техно-эволюция. По факту это выражается в том, что различные описания не сравниваются абстрактно «в классах», но соотносятся с индивидами и по факту мышление начинает использовать экстенсионализм (хотя и не 4D) для совмещения разных описаний одних и тех же физических объектов. Переход от теоретической теории понятий к более примитивным теориям в надежде на то, что в какой-то момент новая теория/догадка/объяснение появится. Деятельность продолжается в условиях распредмечивания, но продолжаются попытки построить новый «конфигуратор» в режиме agile/«непрерывного творчества», а не up-front planning («сначала придумаем конфигуратор, а потом начнём действовать»).

Проблема СМД-подхода к творчеству в том, что он рационален, но не до конца: в нём нет особого упора на то, что все получаемые теории должны быть объяснительными (про причины-следствия), а не просто иллюстративными (описание, и только). То, что результат творчества представлен как контрфактические объяснения не проверяется, и это очень плохо. А ещё нет возможности использовать нормально вычислительную технику: диаграммная техника не позволяет легко редактировать схемы, легко обнаруживать противоречия, легко править привязку к типам, легко находить нужный фрагмент описания и т.д. — вся критика визуального моделирования тут полностью приложима. Нет текстового или табличного моделирования — нет нормальной масштабируемости для условий коллективного мышления, затруднены изменения в ходе «непрерывного всего», слишком трудоёмко и слишком легко ошибиться при внесении изменений.

Работа по созданию своего варианта полного интеллект-стека мыслительных практик в СМД-методологии прекратилась примерно в 1994 году, когда в работах методологов прекратилась эта работа по формулированию и преодолению проблем, выраженных как противоречия. Тем самым прекратилась явная работа с полным спектром скорости/точности мышления. Об этом говорила Вера Данилова на 19 Щедровицких чтениях в 2013 году: «СМД-методологи утеряли проблематизацию как органическую часть их культуры. Все эти «распредмечивания» и «опредмечивания» потом — это следствия проведённой проблематизации. Весь СМД-аппарат не будет работать, если проблематизации не сделать. А её уж давно не делают»³⁷.

В ТРИЗ³⁸ ввели понятие технического противоречия как ситуации, в которой попытка улучшить одну характеристику системы приводит к ухудшению другой её характеристики. В АРИЗ с 1977 года была постадийная работа по решению проблемы с целой цепочкой противоречий³⁹:

1. объект внимания «АП» (административное противоречие) по определённым правилам смещается к

2. объекту внимания «ТП» (техническое противоречие), который по определённым правилам смещается к

3. объекту внимания «ФП» (физическое противоречие).

Увы, неизменные отсылки к диалектическому противоречию явно не способствовали тут более чёткому моделированию. Аналитической философии/логики в ТРИЗ замечено не было. Диалектика — это тяжёлое наследие засилья советской «диалектической философии» как невероятно кривой версии логики, крайне далёкой от математической логики, на которую опирались аналитические философы/логики. Диалектическая логика с её «единством и борьбой противоположностей» больше похожа на буддийскую логику или логику талмуда, то есть логику для весьма странных легко варьируемых рассуждений. Такая логика не даёт возможности построить ракету или жить в сложно организованном обществе, выполнять сложные проекты. Так что ТРИЗ ограничивается обычно рамками одного «изобретения»: снятия одного противоречия путём нахождения какого-то нового аффорданса (нового конструктивного объекта, который может выполнить какие-то функции, желательно несколько сразу).

В ТРИЗ работа с противоречием типична: сначала противоречие формулируется и обостряется путём всё более формальной постановки задачи (двигаемся к большей формальности/точности, чтобы получить компактный набор удобных для ловли противоречий объектов внимания), затем чётко сформулированное противоречие/проблема снимается какими-то «творческими приёмами»⁴⁰, чаще всего означающими уход по степени формальности мышления от формальных представлений (например, жёстко типизированных диаграмм) к менее формальным языкам и даже ещё менее формальным плохо типизированным представлениям в рамках теории прототипов (метафорические рассуждения и conceptual blending) — это аналоги «распредмечивания» и «опредмечивания», как в СМД-методологии. Работа с типами объектов в ТРИЗ неявна (в отличие от СМД-методологии, где явно требуют использования мета-модели предметной области ситуации и мета-мета-модели «из схем СМД-методологии»), поэтому обучение нейронных сеток людей-мастеров ТРИЗ идёт путём просто многократной демонстрации решения задач опытными мастерами ТРИЗ, «традиция личной передачи мастерами», как в восточных единоборствах.

ТРИЗ отличается от других традиций творчества на базе поиска и преодоления противоречий тем, что включает методы развития творческого воображения, а также какие-то эвристики/шаблоны/лайфхаки для решения противоречий (например, таблицы/указатели физических эффектов, подходящих для снятия тех или иных противоречий⁴¹).

Творческое воображение в ТРИЗ сводится к эффективному «распредмечиванию», резкой смене языка представления предметной области за счёт метафор («аналогичных ситуаций» с какими-то контролируемыми изменениями — например, «представить систему огромной», «представить систему крошечной», «представить маленьких человечков, которые выполнят функцию»), т.е. уход от дисциплинарности, уход в многомерное пространство смыслов без жёсткой привязки описания к каким-то концептам. И генерация идеи новой схемы идёт по весьма неформальным, неточным, плохо определённым рассуждениям в совсем неформальной части спектра точности/строгости, а не с использованием хорошо типизированных мета-моделей. Используются менее типизированные описания на естественном языке, выраженные главным образом на базе теории прототипов. Помним, что сами идеи чего-то нового всегда идут из хаоса, из шума! Просто из них потом отбираются удачные начальные идеи, которые потом видоизменяются под давлением критики, худшие отбрасываются, а лучшие из них оказываются подходящим решением для проблемы/противоречия.

Противоречие в теории ограничений (Theory of Constraints, ToC)⁴² называется обычно «конфликтом», и оно снимается при помощи «грозовой тучи»⁴³, это одна из диаграмм мыслительных процессов⁴⁴ (объектов мета-мета-модели теории ограничений, выраженных в визуальном диаграммном представлении), эта диаграмма затем конкретизируется объектами предметной области, представляя собой мета-модель ситуации, описываемой противоречиво. Интересна не столько сама диаграмма «грозовой тучи», выражающая конфликт-противоречие и его причины, но метод «трёх туч», в которых противоречия выявляются для трёх наиболее важных нежелательных явлений (как и в ТРИЗ, характеристики тут делятся на желательные и нежелательные — это типы мета-мета-модели, они вводятся как посылки прагматицизма, это самые общие свойства для всех прикладных предметных областей, которые потом кодируются в мета-модели). Для всех выявленных нежелательных явлений высказывается догадка о корневом конфликте⁴⁵, то есть корневая проблема/противоречие.

Интересно, что работа с противоречиями в ТРИЗ и ToC имеет попытки объединения⁴⁶. Основной ход со стороны ToC тут на слабое место в ТРИЗ: шаг на формулирование противоречия, надёжная идентификация проблемы при помощи формализации с помощью диаграммы грозовой тучи как логически более строгой, чем основные приёмы ТРИЗ (помним, что в ТРИЗ плохо с типизацией, работа там идёт главным образом в прототипной теории понятий с аналогиями/метафорами, а не в теоретической теории понятий, в которой определяются объекты и отношения). Проблему легче находить, когда мы делаем шаги по спектру формальности мышления на дополнительную строгую типизацию, в данном случае переходя от «просто текстов» и пиктографических иллюстраций к типизированным диаграммам мыслительных процессов из ToC (элемент диаграммы из мета-модели ситуации, тип элемента — из мета-мета-модели самой теории ограничений). Но вот разрешение противоречия — это опять резкие шаги в неформальные рассуждения, чтобы преодолеть противоречие в протяжённом/геометрическом пространстве смыслов, а не в жёстко обусловленных точках этого пространства, указанных концептами из мета-моделей. И тут уже будут хороши стандарты снятия противоречий из ТРИЗ, где как раз избегается работа с жёстко определёнными типами: решение проблемы может лежать «между типов», а строгая типизация будет наведена потом. В какой-то мере это похоже на то, что происходит при понятизации: решение «ощущается» (часто как некоторое состояние в теле), затем это ощущение стабилизируется, и уже потом оно обзывается какими-то словами и дальше этому найденному решению присваивается какой-то тип.

Но как же это «творческое решение» появилось? Из шума, обработанного нейросетевым вычислением. При этом нейросеткой обрабатывалось довольно много шума, рассматривалось довольно много «догадок», но большинство из них было забраковано ещё до их осознания, и только какая-то одна вышла на уровень осознания — сначала, возможно, как некоторое ощущение, которое только потом превратилось в словесно оформленную идею. А если и эта вышедшая на уровень осознания и словесного её оформления идея провалилась при её обдумывании медленным логическим мышлением с более строго определёнными типами (S2 у человека, ускорители логических вычислений в AI)? Ну, просто порождаем ещё и ещё догадки по исправлению идеи (smart mutation), пока не добьёмся непротиворечивого результата. А если есть интуиция, что такого результата не будет, как догадку ни модифицируй? Тогда выкидываем догадку вообще, начинаем опять с нуля — берём новую догадку как «идею из шума». И, конечно, помним, что кроме непротиворечивости (внутри себя, с другими SoTA догадками) у идеи должны быть и другие свойства. Если это идея объяснения, то это должна быть контрфактически сформулированная идея, то есть она должна объяснять причины и следствия. Или она должна быть директивным объяснением (прагматицизм: идея о том, как что-то сделать, чтобы получить какой-то результат — конструктивное размышление, вместо объектов и отношений рассматриваем объекты и операции их создания и изменения). И ещё потом будет эксперимент: надо будет выиграть в предсказании результатов измерений.

Под творчеством всё чаще и чаще понимается даже не «нахождение иголки в стоге сена» как решения какой-то заведомо невозможной в решении переборной задачи: например, выигрышного хода в шахматной партии (давно не считается творчеством) или партии Го (уже несколько лет не считается творчеством). Это «простой расчёт», переборное «постмодернистское творчество», просто выбор хорошей картинки в заведомо известном калейдоскопе. Нет, всё чаще и чаще творчество понимается именно как решение противоречия, решение проблемы, преодоление остановки в рассуждениях: достижение того, что раньше считалось логически невозможным, а не просто очень дорогим по ресурсам. Часто это ход на создание новой предметной области (новых понятий), а не перебор решений в старой предметной области.

Demis Hassabis⁴⁷, как то сказал⁴⁸, что творчество для него — это не столько нахождение решения в игре, сколько синтез новой игры по каким-то требованиям (то есть не столько выигрыш в игре типа Го, сколько создание новой интересной игры по заданным условиям). На момент этого высказывания он был CEO DeepMind, фирмы, которая сделала AlphaGo, алгоритм, выигрывающий у чемпиона мира в игре Го. Он не считал, что алгоритм решает творческие задачи, находит «творческие ходы». Он считал, что это просто работает алгоритм! И даже создание алгоритма — это для него не было по большому счёту творческой задачей. Но вот нахождение интересных задач, для которых надо составлять сложные алгоритмы, а потом находить решения прогоном этих алгоритмов для конкретных ситуаций — это вот творчество!

Неудивительно будет выяснить, что на следующем такте (после решения задачи создания «по-настоящему творческого AI», создающего даже не новые алгоритмы выигрыша в играх, но новые игры по их неформальным спецификациям), творчеством будет считаться уже создание новых классов неформальных спецификаций. А создание игры — это будет уже решённой задачей, «алгоритм уже известен». То есть творчество — это нахождение любопытных для их решения проблем, нахождение интересных для их решения противоречий, нахождение интересных для ответа классов вопросов, а не создание алгоритмов, отвечающих на классы вопросов и уж тем более не прогон алгоритма, отвечающего на конкретный вопрос.

В какой-то мере трансформация понятия «творчества» по мере перехода вычислительной работы от людей к компьютерам похожа на трансформацию понятие «интеллект»: сначала это было что угодно, что могло как-то решать задачи (хотя бы на уровне обезьяны), потом надо было решать задачи на уровне хотя бы ребёнка в средней школе, затем на уровне «среднего человека из толпы», затем на уровне луших профи на Земле, затем (это сегодняшнее понимание) на уровне существенно выше профи, причём во всех областях знаний сразу! Между этими стадиями изменения понимания каждый раз проходило несколько лет, но AI сегодня не будет считаться «нормальным AI», если он не побьёт людей в их задачах! Так и «творчество»: если речь не идёт о чём-то таком, что не смогут сделать самые творческие люди на Земле, это не будет «творчеством».

Можно посмотреть, каким образом сегодня демонстрируется творчество в системах машинного интеллекта, каким образом реализуется «порождение нового». Потенциальные кандидаты хороших решений берутся из животного «горячего» существенно зашумленного и ошибочного неформального слабо типизированного мышления, то есть потенциальная идея/догадка берётся из хаоса, после чего некоторые такие догадки прорываются как гипотезы для дальнейшей критики и как-то формулируются/формализуются.

Правдивость описаний тут оказывается не самым главным фактором: если речь идёт о художественном произведении, которое должно стать «хитом», то относимся к его созданию как к инженерному проекту: удалось ли результату стать хитом, оправданы ли ожидания на репликацию какого-то паттерна в будущем? Если это «творчество для себя», а хоть и «графоманство» — то же самое: удалось ли добиться желаемого, привести себя «инженерно» в состояние, которого хотелось достичь через это «графоманство»? Если да — то всё ОК, это то же творчество, с точностью до определения новизны в этом творчестве и использования референтного индекса per se (от первого лица) или per re (от третьего лица) при описаниях.

Так что художественное творчество (религиозное творчество тут опускаем, относим его к линии художественного творчества: все рассмотрения идентичны) просто считаем одним из видов инженерии.

Чтобы понять, подходит ли нам догадка, нам нужно иметь формального «критика», который её оценивает. И этот «критик» действует на базе практик SoTA интеллект-стека (семантика, онтология, логика, объяснения, исследования, да ещё и теория информации и алгоритмика, а ещё практики собранности, ибо на критику нужно удивительно много времени — равно как и «докрутку» догадок по итогам критики). Так что логик-критик обычно сильно логичней представляющего догадки из хаоса творца-фантазёра. Этот алгоритм очень грубо описывает работу GAN, generative adversarial networks, порождающей состязательной сети⁴⁹, но этот алгоритм ещё и описывает работу творца (инженера, исследователя, артиста/художника — помним, что бывает и художественная критика, и признание художественности целевого произведения искусства внешним окружением, например, рыночная оценка).

Нужно просто запомнить: творчество появляется в соревновании доставаемых из хаоса потенциальных идей и всё более и более формальных и жёстких установленных ограничений на эти идеи (так, эти идеи должны чаще всего быть сформулированы в форме контринтуитивных высказываний, часто как математические формулы, не иметь противоречий с огромным количеством других уже известных идей, а ещё они должны давать предсказания лучше, чем уже известные другие идеи). Ни хаос сам по себе, ни формализация с достижением противоречий ничего не дадут для творчества, оно довольно сложно устроено.

Так для проверки на ограничения идей используется значительная часть интеллект-стека. Но сама «творческость» (понимание как «он достаточно безумен, чтобы быть настоящим гением») задаётся понятием типа «температуры»: количество шума, которое запускается в уже известный набор идей для генерирования smart mutations. Компьютеры это делают легко (и случайные значения координат, вытащенные из хаоса, легко приводят поиск решений в те зоны пространства, где поиска подходящих догадок ещё не было — вероятность нахождения решения тем самым поднимается), а люди должны быть немного более раскованы в своих фантазиях. Но не только люди. Karl Friston как-то неожиданно заметил, что агенты-организации тоже «думают», и тоже должны находить творческие решения, но уровень шума у них в работе крайне мал для творчества. Поэтому он высказывал идею создания чего-то типа «коллективных грибочков-галлюциногенов», чтобы поднять уровень творчества в организациях⁵⁰. Конечно, про «грибочки» он шутил, но сама идея о том, что творчество базируется на шуме и галлюцинировании догадок (что бы это ни означало для агента-организации) — она важна.

Бесконечное развитие в этом бесконечном познании, бесконечных исследованиях, поиске противоречий и их разрешении, бесконечном проектировании систем, изменяющих мир к лучшему и попытках их реализации (инженерии). Это и есть эволюция, в биологии дарвиновская, в техносфере меметическая (где мемом находится на отдельном носителе вне определяемой им системы). Мутации (полностью случайные, или тщательно вычисляемые smart, для которых вероятность достижения успеха сразу максимальна), ходы в неизвестное, где гарантией неизвестности служат доставаемые из хаоса случайные значения характеристик, а затем проверка жизнеспособности полученных из хаоса вариантов сначала «в рассуждении-вычислении», затем «в эксперименте, с выходом в физический мир». Есть самые разные практики/алгоритмы для такой «творческой работы», и скорость получения приемлемых новых решений удивляет: эволюция работает неожиданно быстро, речь не идёт о тупом переборе вариантов чистого хаоса, ибо удачные частичные решения запоминаются — и это ускоряет случайный перебор. Главное тут помнить: новое рождается путём инкрементальной (то есть не каждый раз новая догадка, а мутации к уже имеющимся!) творческой фильтрации берущихся из хаоса исходных догадок в ходе бесконечного развития.

Так что мастерство формализации/деформализации, мета-моделирования на множестве уровней абстракции, мастерство создания объяснений нужны не сами по себе, а именно для самого разного (научного, инженерного, художественного и т.д.) творчества как работы по преодолению противоречий в объяснениях (например, «инженерные согласования» — это как раз согласование найденных коллизий, а иногда и парадоксов). Затем эти объяснения (включающие в себя объяснения инженерии: того, как надо реализовывать изменения мира к лучшему) реализовывать в ходе инженерной деятельности.

Для появления творческого мышления можно использовать сильные стороны каждой из работающих с противоречиями методологий (согласованных наборов практик) мышления, взяв эти практики в состав изучаемых в интеллект-стеке:

• практики формализации вроде используемых в ToC для более точного формулирования корневой проблемы/противоречия/конфликта. Сами эти противоречия, конечно, будут появляться на более высоких уровнях интеллект-стека (например, в системном мышлении проблемы/противоречия появляются как несовместимость функциональных и конструктивных описаний: невозможность осуществить модульный синтез такой, какой нужен для реализации требуемых функций — и требуется задействовать исследования самых разных аффордансов, «изобретение»). Конечно, и в современном ТРИЗ тоже уже есть подобные инструменты. Это ход на формализацию: из просто текстов-баек с описанием ситуации в непонятной теории понятий (например, смеси прототипной теории понятий и теоретической теории) мы переходим как минимум к диаграммной технике с заведомым присвоением типов в теоретической теории. Попадая тем самым в «царство формальной логики» (чётко определённые типы, булева алгебра) формулируем противоречие в максимально достижимой жёсткой/строгой логической форме. Этот шаг поиска противоречий будет обычно называться «системный анализ». Увы, системный анализ сможет только показать проблему за счёт использования дополнительной формализации, показать противоречие за счёт использования логики, но решать проблему будет синтез, основанный на догадках.

• методы развития творческого воображения, шаблоны/способы/стандарты решения противоречий, не анализ, а «синтез», порождение работающей догадки/гипотезы. Конечно, тут всё не ограничивается только ТРИЗ, есть множество школ мысли, которые пытаются работать с этим шагом генерации идей. Аналитическая философия, увы, не занимается синтезом, её предметом является именно анализ! Так что тут нужно смотреть не только практики ТРИЗ, но и результаты работ по творчеству в AI (и понимать, что творить сейчас будут всё больше не только люди, но люди с компьютерами). Увеличивать долю шума (искать в тех областях пространства решений, в которые раньше интеллект не заглядывал) — это важное решение. Стохастические (основанные на теории вероятности) методы нахождения оптимальных решений набирают всё большую популярность в математике, когда речь идёт о решении в пространстве огромных размерностей, эти методы сочетаются с эволюционными алгоритмами. В любом случае: на вопрос, откуда идёт новизна, что происходит с воображением — ответ в увеличении разброса тех областей ментального пространства, откуда мы пытаемся вытащить решение. Собственно, сама «творческость» именно в этом, как попасть в такую область пространства решений, где это решение ещё никто не пробовал искать.

• Методы формализации как дотягивания удачной идеи синтеза (найденной интуиции по поводу догадки) до её формального выражения (моделирование, абстрагирование/отбрасывание неважного, логическая проверка на итоговую непротиворечивость), чтобы продемонстрировать итоговую бесконфликтную/непротиворечивую/согласованную мета-модель ситуации, отвечающей решению проблемы. Это опять «анализ», но уже результата синтеза (в области решений), а не начальной ситуации (в области проблемы) — и можно обсуждать, та же ли тут практика формализации, что и в первом «анализе», или другая. Первый анализ успехом имеет выявленное хорошо сформулированное противоречие, а во втором анализе успех — это, наоборот, ненахождение противоречия при той же тщательности этого поиска.

Как отдельные работы этих подпрактик творчества будут распределены по времени и ресурсам/исполнителям — это нужно обсуждать отдельно. Мы тут не предполагаем последовательного применения этих методов в развёртке по времени. Нет, речь идёт о «логическом времени», а в жизни будет сложная смесь из перемешанных между собой задействований самых разных подпрактик из указанных — всё будет проходить мучительно («муки творчества», когда или противоречие непонятно, а есть только ощущение «онтологического дребезга», или нет достаточно оригинальной догадки, или догадок много, но все они не подходят, или в современных условиях просто нет ресурсов денег и времени на заказ решения задачи каким-то AI), со многими итерациями, с тупиками и возвратами назад — это эволюция. Творчество лёгким бывает редко, алгоритмом творческий результат не выведешь, ещё должно работать и везение, что удачная догадка придёт раньше, а не позже (иногда на много лет позже, иногда на много десятков лет позже).

Пока такой «гибридной» для самых разных методологий мышления лучшей практики для работы с противоречиями не существует, хотя наверняка люди над этим работают (как уже начали работать над объединением своих практик творческого мышления люди из сообществ ToC и ТРИЗ), а через некоторое время можно ожидать, что над этими практиками начнут работать не только люди (AI, коллективы из людей и AI).

Методы творчества, основанного на выявлении проблем/противоречий и их последующее преодоление нужно включать в учебные курсы хотя бы в виде ссылок на уже имеющиеся методологии мышления, где явно обсуждаются методы формулирования и преодоления противоречий. И преподаваемое мыслительное мастерство с этого момента будет включать в себя творчество явно, а не только подразумевать его. Не нужно порождать отдельный термин «творческое мышление» (если это мышление/познание, прагамтически выходящее на изменение мира к лучшему, то оно по определению творческое), но нужно говорить о практиках творчества в мышлении, не нужно опускать этот вопрос и подчёркивать только аналитичность мышления в интеллект-стеке. Нет, SoTA мышление не только аналитичное/критичное, оно и синтетичное/творческое как в момент порождения догадок из хаоса, так и потом при воплощении переживших критику/аналитику догадок в форме инженерии, изменения физического мира к лучшему.