6. Вместо глоссария: онтология системного подхода третьего поколения

Анатолий Левенчук · Поиск в руководстве · MCP

Открыть это место в полном тексте руководства →

6. Вместо глоссария: онтология системного подхода третьего поколения

Онтология системы как набор описаний для понятийного наведения внимания

Часто просят дать глоссарий (краткие словарные определения основных понятий) нашего руководства, игнорируя замечание начальных разделов о том, что определения — это гробик для уснувшей мысли. Так что мы закончим наше руководство не глоссарием, а коротким текстом, излагающим онтологию системного подхода (мета-мета-модель), в котором напомним про понятия третьего поколения системного подхода и дадим литературу по теоретическим основаниям системного подхода. Обо всём этом в руководстве говорилось на многих страницах, но для продвинутого понимания мы крайне советуем посмотреть упоминаемую литературу.

Если вам нужно не продвинутое (исследовательское) понимание, а «обычное студенческое», то можете опустить изучение материала этого раздела и переходить к изучению руководств по методологии, системной инженерии, инженерии личности, системному менеджменту (в таком порядке). Если нужно продвинуться по «аспирантскому пути», то попробуйте пойти не по прикладным руководствам инженерного цикла программы рабочего развития, а по руководству по интеллект-стеку фундаментальных методов мышления программы исследовательского развития.

По необходимости в этом разделе (впрочем, и в предыдущих разделах руководства по системному мышлению) затрагивается и материалы руководства по методологии. Когда речь идёт о методах и работах, которыми заняты создатели, то приходится обращаться к понятиям создания и развития, рассматривать методы создания и предметы методов. Частично затрагивается и онтология системной инженерии. Системная инженерия как метод/способ/культура/практика изменения мира к лучшему базируется на онтологии системного подхода (иногда говорят «системная онтология»/systems ontology, включая в неё все понятия системного подхода).

Есть несколько современных инициатив по онтологическим посылкам/commitments такой онтологии, которые мы считаем третьим поколением системного подхода, учитывающим термодинамически обусловленную эволюцию. Мы предлагаем пути гармонизации этих подходов к созданию системной онтологии.

Gruber, Borst и Studer определили онтологию как явную спецификацию разделяемой концептуализации (an ontology is a formal, explicit specification of a shared conceptualization)1. Определим концептуализацию как задание важных для надёжного active/embodied inference2 объектов восприятия в мире. Это позволяет сформулировать задачу создания онтологии в терминах управления вниманием, а «явная формальная спецификация» тут говорит о том, что эти объекты внимания выделяются не спонтанно, а по какой-то явной модели этих объектов (онтологии), заданной при помощи другой модели-формализма (foundational ontology). В качестве foundational ontology мы выбираем объекты и отношения.

Мы решаем вопрос создания онтологий и объяснений на их основе (появления и улучшения объяснительных теорий, использующих для объяснения альтернативную нарезку мира на объекты) в соответствии с попперианской эпистемологией3: объекты в онтологии появляются путём догадок, приемлемость этих догадок для суждений о мире подвергается сомнению, но догадки, пережившие критику, принимаются всерьёз. То есть хорошие догадки о том, что мир состоит из систем (догадки о том, какие есть понятия в онтологии системы) и суждения о том, что эти догадки полезны для изменения мира к лучшему, можно взять из литературы, и если нам не известна их критика и мы не можем сходу предложить фальсификации этих догадок рассуждением и/или экспериментом, то мы считаем их нашими лучшими теориями (SoTA, state-of-the-art) о мире, принимаем их всерьёз и далее учим интеллектуальных агентов (реплицируем мемы этих теорий/знаний/объяснений/дисциплин/алгоритмов), чтобы эти догадки об объектах были общими/shared.

Конечно, мы не просто сообщаем агентам (людям, AI-агентам, организациям) онтологию системы, но мы учим их выделять в мире абстрактные и физические объекты, описываемые явной и по мере понижения уровня абстрактности всё более формальной спецификацией. Верхние абстрактные уровни системной онтологии чаще всего представлены в распределённых/нейросетевых представлениях, поэтому изложение системного подхода идёт не в формальном (математическая логика) виде, а в тексте на естественном языке, понятия вводятся не определениями, а их употреблением в разных контекстах. Но после перехода к прикладным специализациям в различных предметных областях/domains представления становятся локальными/знаковыми и выражаются в формализмах, удобных для обработки классическими информационными технологиями (то есть для обработки в реляционных, графовых и иных базах данных).

Конечно, если появляются проблемы в использовании этой онтологии, это означает её фальсификацию, но это просто повод поправить онтологию, исправив выявившиеся ошибки — онтология системного подхода тем самым развивается/evolve, она на каждый момент времени представляет собой лучшее, что нам известно на этот момент. Мы4 разработали программу рабочего развития инженеров-менеджеров, в которой дали набор руководств по методам ведения современных рабочих проектов. Эти руководства наставляют выявлять в мире объекты, описываемые/типизируемые онтологией на уровне абстракции мета-мета-модели мира. Основная последовательность руководств в части их освоения сейчас реализует подход сначала полностью осознанного, а затем интериоризированного «автоматического» понятийного наведения внимания инженеров-менеджеров на объекты, описываемые/типизируемые онтологией системы. Инженер-менеджер обучается тому, как:

  • наводить своё внимание и внимание других агентов на объекты из явной спецификации (онтологии), то есть наводить внимание понятийно, а не спонтанно, а также удерживать понятийно наведённое внимание на самых разных временных масштабах, в том числе включая коллективное внимание в таких агентах, как команда или целое предприятие, путём лидерства, или влияния на сообщество или общество (первая треть руководств программы рабочего развития),

  • наводить внимание на системы (руководство по системному мышлению),

  • моделировать системы, связанные с целевой системой (руководство по системному моделированию)

  • наводить внимание на методы, которыми работают системы-создатели (руководство по методологии),

  • структурировать деятельности и роли, которые обязательно удерживаются во внимании в ходе проектов системной инженерии, (руководство по системной инженерии),

  • обучать мастерству мышления агентов, задействуя в том числе и локальные, и распределённые представления (руководство по инженерии личности),

  • обращать внимание себя и организации (команды, коллектива, предприятия) на объекты, описываемые специализацией системной онтологии для таких видов систем, как организации (руководство по системному менеджменту).

Для того, чтобы учить инженеров-менеджеров SoTA (state-of-the-art, «лучшее из известного на настоящий момент») системной онтологии, мы гармонизировали между собой несколько частных концептуализаций понятия системы, которые вместе представляют собой третье поколение системного подхода. Как обычно, каждое поколение системного подхода включает в себя все достижения предыдущего поколения, но добавляет что-то новое.

Первое поколение системного подхода: система в её окружении во время operations/эксплуатации

Первое поколение системного подхода появилось в 40е годы прошлого века главным образом в результате работ von Bertalanffy5. Понятие системы как предмета рассмотрения, отделённого от его окружения, появилось в физике очень давно, но системный подход как рассмотрение всего мира в виде взаимодействующих систем появился главным образом после работ von Bertalanffy по общей теории систем. Подход — это обычный термин для ситуации, когда онтологию, успешно наработанную и опробованную в одной предметной области/domain, начинают использовать в самых разных предметных областях. Ключевым тут было осознание, что системы представляют собой взаимодействующие холоны (Koestler ввёл этот термин для того, чтобы описать часть целого, которая сама состоит из частей6), плюс эти системы как-то появляются в мире и потом исчезают из мира, то есть проходят обычный для биологии жизненный цикл. Von Bertalanffy был биологом и обобщал в том числе успехи применения системного подхода в биологии, то есть жизненный цикл — это цикл рождения-взросления-размножения и отдельно — смерти (которая после размножения уже не влияет на геном, поэтому может не учитываться в эволюции, но обязательно учитывается в техно-эволюции). В результате взаимодействия частей системы во время работы/operations получаются эмерджентные свойства целого. Шестерёнки в часах ещё не показывают время, часы показывают время, дом с часами внутри уже не показывает время. Ключевым тут было то, что первое поколение системного мышления оперировало по меньшей мере двумя разными способами разбиения на части, зависящими от времени рассмотрения:

  • функциональное разбиение в зависимости от назначения системы в надсистеме и назначения подсистем в системе. Оно предполагало рассмотрение системы в ходе её operations.

  • конструктивное/модульное разбиение, нужное для рассмотрения времени создания/construction системы.

Трудности в освоении системного мышления были главным образом в том, что людям трудно было воспринять концепцию выделения динамических объектов в мире своим вниманием — прямо в ходе работы/operations системы. Чаще всего при упоминании частей-целых они в голове представляли себе «взрыв-диаграмму»7, заодно теряя и многоуровневость такого разбиения. Понятно, что нельзя обсуждать эмерджентные свойства остановленной и разбитой на одноуровневые физические конструктивные части системы, ибо взаимодействие — это время operations и рассмотрение должно быть функциональным. Но и разбиение на конструктивные части важно, ибо такую систему нужно создать. Например, ножницы функционально состоят из режущего блока и ручки, а конструктивно из двух половинок ножниц и скрепляющего их винта. При этом пользователя интересует функциональное рассмотрение, а заводского инженера — конструктивное.

Берталанфи включил в состав предлагаемых им системных дисциплин в том числе и системную инженерию, которая быстро развивалась. В системной инженерии целевые системы были физичны: это давало гарантированное заземление/ grounding8 для всех описаний. При этом сами описания как система не рассматривались, взаимодействие (то есть изменения во времени под действием друг друга) частей описаний, которое давало бы эмерджентность, обсуждать строго не удавалось, формализма построить не удавалось — мереотопологические рассмотрения ментальных/абстрактных/математических объектов по большей части заканчивались неудачей.

Второе поколение системного подхода: целевая система в её окружении, которую создают системы-создатели в их графе

Второе поколение системного подхода опиралось главным образом на идеи системной инженерии: физические (в том числе киберфизические, в том числе киберфизические с людьми) системы создаются людьми, а не размножаются сами в цикле, и эти системы главным образом неживые. Это проблематизировало понятие жизненного цикла, который оказался не жизненный и не цикл, хотя само понятие осталось. Во втором поколении тем самым появились системы создания (enabling/constructor systems), которые вводят кроме отношения часть-целое для систем ещё и отношение создания для создателей/constructors, создающих и развивающих целевую систему (наиболее известны тут работы Peter Checkland9 конца 70х и начала 80х). В системной инженерии появился системноинженерный менеджмент, предметом которого стало создание и развитие систем создания (появились графы создателей целевых систем).

Диаграммы системной инженерии подчёркивали «водопадную» модель жизненного цикла, в котором система замышлялась, проектировалась, воплощалась, испытывалась, эксплуатировалась и выводилась из эксплуатации, на чём проект обычно заканчивался. Все эти работы самыми разными методами живая система выполняла для себя главным образом сама (при этом часть работ выполнялась за систему эволюцией, но это обычно не рассматривалось), а вот в инженерии всё это выполняли создатели. Для разных ролей (roles, stakeholders) в системе создания проявлялись разные интересы/concerns по отношению к системе и её проекту, что требовало различных аспектных описаний/views, которые делались исходя из каких-то методов описаний/veiwpoints, хорошо подходящих для обсуждения самых разных интересов самых разных проектных ролей.

Стандарты ISO 4201010 и ISO 1528811 закрепили концептуализацию системы для системной инженерии, это гарантировало то, что системноинженерная онтология второго поколения системного подхода разделяемая/shared в инженерных сообществах. Формализация системной онтологии на основе 4D экстенсионализма/4D extensionalism (идеи, что если два объекта занимают одно и то же место в пространстве-времени, то это один и тот же объект — и это физический объект) была предложена в ISO 15926-212 в 2003, она опиралась на идеи BORO13, и на базе этих идей было предложено ещё несколько других похожих онтологий, главным образом для военных применений, эту работу вела IDEAS Group14. Особо можно выделить работу Matthew West, который предложил в 2010 основанную на тех же идеях 4D экстенсионализма онтологию HQDM15, в которой понятие системы было сделано одним из центральных в онтологии. Все эти подходы предполагали наличие не просто спецификации концептуализации, но и формальное выражения концептуализации на логических языках описания онтологий (таких как очень редко используемый EXPRESS16, но также и появившийся позже более популярный OWL17) для создания моделей данных в базах данных PLM систем18. Основная онтологическая посылка была в использовании 4D онтологии, что давало хорошее и компактное описание изменений, которые претерпевает система в ходе её создания из частей19.

Пик этой линии работ по инженерному пониманию системы в рамках второго поколения системного подхода пришёлся на 2008-2013 годы, после чего интерес к подобному формально-логическому онтологическому описанию системы немного угас: создание онтологий как явная формальная спецификация разделяемых концептуализаций больше не воспринималось как продвижение по пути создания AI, и не помог даже ребрендинг формальных онтологий как графов знаний20. Web 3.0 как semantic web ожидался как будущий интернет-мейнстрим, но семантические методы, поддержанные инструментами на базе OWL так и остались нишевыми. В конечном итоге в больших языковых моделях (LLM) удалось задействовать распределённые представления для генерации объяснений, а локальные (знаковые) представления оказались удобными главным образом для критики идей, а не для тотально всего мышления. На сегодняшний день семантика включает как локальные, так и распределённые представления, хотя задача их объединения одной теорией (нейро-символические вычисления) пока не решена.

Continuous everything в инженерии как техно-эволюция

Ограничением водопадной модели21 была идея однократного однонаправленного прохождения создателями жизненного цикла как набора работ, проводимых по практикам, причём целевая система рассматривалась как пассивно претерпевающая это разовое создание. Поэтому в инженерии развивались agile-подходы, преодолевающие понятие «водопадного» жизненного цикла, в 2001 году появился Manifesto for Agile Software Development22. В 2017 году идея evolvability как основного архитектурного свойства, отражающего идею «непрерывного всего»/continuous everything закрепилась не только в передовой инженерной практике, но и отразилась в литературе23, а архитектура окончательно выделилась из разработки в отдельную предметную область, ибо литература стала отражать неизбежные «продуктивные конфликты» архитекторов с разработчиками. Архитектура работала над нарезкой системы на минимально взаимодействующие конструктивы/модули для поддержания стабильности общего целого в эволюционном масштабе времени (хорошо известные инженерам -ости/-ilities оказались архитектурными характеристиками), а разработчики заботились о максимизации функциональности, что могло влечь временное ухудшение архитектурных характеристик как накопление технического долга (работ, направленных на поддержание выбранных архитектурных решений, но не затрагивающих напрямую функциональность), который оказался архитектурным долгом.

В инженерию пришли идеи техно-эволюции, но они отличались от идеи биологической эволюции тем, что мемом как аналог биологического генома не находился в самой изготавливаемой системе, а хранился в цифровой (то есть подразумевающей точное повторение при репликации без накапливания аналоговой ошибки) форме где-то в системах-создателях. Это позволяло существенно ускорить эволюцию, ибо для какого-нибудь технокраба не надо было ждать, пока умрёт целый краб, чтобы путём мутаций формирующих феном клешни генов заменить неудачный вариант клешни только вместе с крабом. Также можно было использовать умные/smart мутации, получая результаты, то есть в реальной жизни пробовать только варианты клешни, показавшие успешность при моделировании в виртуальном мире — и менять только клешню, но не всего краба. Это давало высокую скорость техно-эволюции и её результаты, недостижимые только разовым предложением набора новых фич (разовое прохождение «водопада» для одного экземпляра системы) или только эволюцией со случайными мутациями24. Для понимания, насколько удачна система в эксплуатации, появилось моделирование системы для времени операций — цифровой двойник, отражающий не только текущее состояние мемома, но и состояние фенома системы. Так что онтологии системы, ориентированной на два времени (1. эксплуатации и 2. создания одного инкремента/фичи) оказалось недостаточно. Недостаточно было и средств моделирования целой группы систем (product lines25, иногда system families) как сосуществующих в один момент времени разных вариантов системы.

Выход оказался в идее непрерывного всего/continuous everything26 как бесконечно длящейся разработки с непрерывным вводом в эксплуатацию/continuous delivery всё новых и новых версий целевой системы со всё новыми и новыми изменениями, причём незамедление темпов разработки при растущей сложности целевой системы поддерживается как изменяющейся по ходу разработки (evolving) архитектурой, так и изменяющейся структурой команд/teams, которые осуществляют эту разработку (использование обратного манёвра Конвея27). В software engineering эта идея развивалась в рамках подхода DevOps/SRE/platform engineering (инженерия внутренней производственной платформы)28, в «железной» инженерии эта идея обсуждается сейчас на традиционных для системной инженерии примерах аэрокосмоса, когда испытания двигателей следующей версии начинаются раньше, чем испытанные двигатели предыдущей версии в составе ракеты улетают в свой первый полёт, а каждый новый экземпляр ракеты имеет новые фичи и/или улучшенную конструкцию по сравнению с предыдущим экземпляром. Но уже подобным способом работают не только в аэрокосмосе, но и автомобилестроители, а также робототехники. «Непрерывное всё» означает переход инженерии к техно-эволюционным проектам, то есть умным (неслучайным) мутационным/эволюционным изменениям мемома (информационной модели проекта/design системы), а не только изменениям фенома как «доработке по месту напильником» экземпляра системы. В ходе эволюции система рассматривается уже не как экземпляр (возможно, промышленная серия с одинаковыми экземплярами), а как вид — где конфигурация каждого экземпляра может быть уникальной, непрерывно обсуждаются умные мутации/smart mutations29, с наибольшей вероятностью ведущие к успешности системы (в дарвиновской эволюции — это случайные мутации при репликации) и даже в отличие от естественного отбора ведётся промышленное A|B тестирование, (и даже больше, ибо тестируются не только два варианта, а во множестве подсистем множество вариантов сразу) как направленная селекция таких мутаций. Развитие/evolving системы стараются делать как можно более приближенным к бесконечному, максимально долго приспосабливая систему к неизбежным изменениям как в окружении, так и в ней самой, так и в системах создания. В биологии и науках о жизни аналогичные проблемы приближения к бесконечному по времени развитию обсуждают как бесконечное развитие/open-endedness30.

Тем самым в онтологии системы появилось отражение идей эволюции и её начали развивать в рамках третьего поколения системного подхода, который не только учитывает системы создания из агентов в их разных проектных/деятельностных ролях, но и учитывает в явном виде с тремя временами: оперирования системы как фенома, создания инкремента фенома из мемома (проектирование/design и изготовление/implementation), изменения мемома (эволюции, continuous everything).

Безмасштабные описания физических систем

В обсуждении эволюции в биологии системный подход проявлялся как большие эволюционные переходы/major evolutionary transitions — переходы роста сложности между большими молекулами и клетками, клетками и многоклеточными организмами. Примерно такое же усложнение систем идёт и в техно-эволюции: из транзисторов делают микросхемы, из микросхем компьютеры, компьютеры соединяют в датацентры, датацентры в компьютерную сеть. Аналогия вроде бы понятна, но требовалось получить безмасштабную/scaleless/scale-free теорию (описание, применимое для систем любого масштаба/size/scale, то есть для мира микрочастиц с учётом явлений квантовой физики, но также и для макрообъектов). Безмасштабные описания применимы для систем самого разного масштаба, в том числе живых и неживых, а также живых сознательных и коллективов живых сознательных существ (например, человечество в целом). Безмасштабность в том числе означала и безмасштабность в четвёртом измерении, времени: учёт времени создания системы, времени жизни/эксплуатации/использования, но ещё и времени эволюции.

Ключевым стал переход к формулировкам физических явлений как информационных, а также объяснение феномена стабильности объектов в физическом мире — почему какие-то объекты (например, молекула или человек) поддерживают свою форму в пространстве-времени. Fields, Glazebrook, Levin, Friston предложили онтологический фреймворк панпсихизма в форме минимального физикализма для описания физически стабильных систем как реализующих принцип минимизации свободной энергии и охватывающий всю шкалу сложности/масштабов от элементарных частиц до людей и обществ31. Свободная энергия определяется как информационная характеристика системы, а не традиционная энергия механической работы или работы электромагнитных сил. Системы эти усложняются от элементарных частиц через молекулы, через системы из косной материи до живых созданий, где они усложняются от одноклеточных до многоклеточных организмов и их популяций. Все эти виды систем уменьшают байесовский (или расширенный байесовский/excess bayesian, чтобы учесть квантовоподобность/quantum-like вычислений в биологии32) сюрприз несоответствия определяемых порождающей/generative моделью33 ожиданий измерений реальным измерениям в реальности.

Эта безмасштабная онтология физически стабильных систем формализована с использованием теории категорий как foundational ontology в части мереологии34 и высказана в форме, позволяющей описать квантовоподобный active/embodied inference35. Эта линия онтологической инженерии хорошо показывает то, как думать о функционировании систем самой разной эволюционной сложности, в том числе как применить стохастические рассмотрения к неэргодическим системам, то есть системам с памятью. Одним из самых сильных подтверждений рассуждений по этой линии было создание hybrot36, который научился играть в Pong: достаточно сложная система, способная к научению (например, естественная нейронная сеть) должна демонстрировать в силу принципа минимизации свободной энергии поведение, минимизирующее непредсказуемость внешней среды, что было продемонстрировано в эксперименте37. По факту в этой линии работ была сделана формализация и математизация основанных на физике идей онтологии первого поколения системного подхода, хотя в силу безмасштабности теории можно так же рассматривать и другие масштабы времени: жизненные циклы систем, и их эволюцию. Ключевым в этом было разработанное в квантовой физике для решения проблемы наблюдателя понятие измерения как взаимодействия систем, а не просто пассивного восприятия/наблюдения. Обратное тоже верно: взаимодействие систем, приводящее к изменению, то есть создание, описывается как обратное измерению. Это означает, что любое взаимодействие даже молекулы как системы с её окружением можно рассматривать как измерение или создание: молекула является прото-агентом, который как-то воспринимает/познаёт/измеряет и/или создаёт/изменяет окружающий мир, как-то поддерживая в нём свою стабильность в силу соблюдения принципа минимизации свободной энергии.

Эта линия рассуждений (восприятие/измерение обратно изменению/созданию и оба являются взаимодействием систем) была проведена в теории создателей/constructor theory, предложенной Deutsch и развиваемой разными исследователями квантовой гравитации, ибо там крайне нужны именно безмасштабные описания38. Создатель/сonstructor — это какое-то физическое устройство, которое может долго поддерживать свою собственную неизменность/стабильность, изменяя при этом окружение какими-то заранее описанными последовательностями операций (например, это молекула катализатора, или робот с универсальным компьютером, или живое существо — то есть достаточно продвинутые создатели могут в том числе и реплицировать себя, участвовать в эволюции). Безмасштабные физические теории, опирающиеся на представления о связанных с информацией изменениях как вычислениях, оказались весьма продуктивны. Концепция создателя стала расширением хорошо разработанного понятия универсального вычисления и универсального вычислителя/компьютера (все универсальные компьютеры аналогичны машине Тьюринга: при достаточном времени и памяти они все могут вычислить всё, что принципиально вычислимо, то есть не запрещено принципами математики) на понятие универсального преобразования/transformation: универсальный создатель/constructor может при наличии достаточного времени и материалов выполнить все возможные преобразования физического мира, которые не запрещены принципами физики (возможно, для этого универсальному создателю потребуется создать многочисленные копии/реплики себя, а также создать самый разный инструментарий/tools).

Конструктивизм: системы выполняют операции как с физическими объектами, так и с абстрактными объектами

Следующее, что должно быть учтено в онтологии системы, опирающейся на физику — это онтология самой физики и математики. Такая онтология предлагается во множестве работ, но выделим работу Deutsch39, в которой предложено считать физику наукой о реальных объектах, математику — наукой о ментальных/абстрактных/математических объектах, а компьютерную науку — экспериментальной наукой о доказательствах того, что поведение физических объектов как-то может отражать поведение идеальных/абстрактных/математических объектов (то есть наука об универсальных компьютерах как физических устройствах, способных выполнять вычисления/рассуждения/inference — традиционных электронных, квантовых и т.д., включая вычисления/рассуждения человека или даже человеческих коллективов вместе с их компьютерами). Эти идеи предполагают сдвиг обсуждения с моделей и данных на универсальные вычислители/computers как физические устройства, интерпретирующие такие данные и меняющие в зависимости от этих вычислений состояние окружающей среды (ввод исходных данных для вычислений и вывод результатов в символьной форме тут просто частный случай. Восприятие окружающего мира и изменение окружающего мира и/или «себя» как embodied computer/constructor — это просто более общий случай). Центральным в этом подходе будет понятие создателя/constructor — физического устройства, которое может взаимодействовать с окружающей средой, производя в ней многократно какие-то операции согласно описаниям, и при этом удерживая свою стабильность (например, молекула катализатора, или робот, или человек). Создатели дают подход к формальному описанию второго поколения системного подхода: какие-то системы разной степени агентности/разумности (из косного вещества, роботы, разумные агенты и всевозможные их гибриды) создают по каким-то описаниям целевые системы, а дальше уже можно обсуждать всё как в системном подходе первого поколения, то есть как целевые системы функционируют в их окружении.

Примерно такой же подход, интегрирующий физику, топологию, логику и компьютерную науку с переносом внимания на операции с объектами вместо рассмотрения объектов в их статических отношениях, предложили Baez и Stay в подходе Rosetta stone40. После перехода от описания взаимодействия систем как процессов в сетях/networks (электрические, гидравлические сети, а также сети взаимодействий в системной динамике, обычно связываемых с функциональными представлениями системы, то есть представлениями времени функционирования, первое поколение системного подхода) Baez делает предложение о переходе к использованию формализма теории симметричных моноидальных категорий для описания не просто процессов, но процессов открытых систем, подразумевающих взаимодействие с окружающей средой41.

Снова и снова мы видим ход на использование теории категорий (а не объектов и отношений, базирующихся на идеях классической теории множеств) как foundational ontology для онтологии системы, и основной ход — это переход от выражения онтологии в статичных отношениях к морфизмам, изменениям. Этот мыслительный ход соответствует ходу на конструктивизм в математике, когда от «вечных классов»/eternal classes и их отношений мы переходим к операциям построения/construction42. Это даёт возможность конструктивистского переформулирования мереологии как центральной онтологической дисциплины системного подхода, она как раз изучает отношения «часть-целое»43, а поскольку тут говорится об операциях по созданию целого из частей, то конструктивизм даёт ход и на формальное выражение идей создателей (то есть позволяет описать идеи не только первого поколения системного подхода, но и идеи второго поколения).

Этот ход на конструктивистскую мереологию был предложен Fine, его мереология включает уже не только физические, но и абстрактные объекты44. Она предлагает операции конструирования целого из физических и абстрактных частей (например, конструирование множества из его элементов). Хотя Fine в явном виде этого не говорит, определяя операции конструирования (равно как и морфизмы теории категорий) выполняющимися как бы «никем», но за этими операциями легко увидеть физическое устройство-constructor из constructor theory, в том числе для абстрактных частей — физическое устройство, воплощающее «универсальный вычислитель», в том числе и квантовый компьютер, и живой математик — вычислительно они эквивалентны и физичны, чтобы как-то получить информацию о входных и выходных данных вычисления. Подход Fine позволяет ставить вопрос о понятии системы, простирающемся за пределы физически взаимодействующих частей, ибо взаимодействие физических частей, управляемое абстрактными объектами, может быть в вычислителе — определение системы как взаимодействующих частей с получением эмерджентности сохраняется, только взаимодействие идёт в системе-создателе, а не целевой системе. По этой линии можно обсуждать системность в сложных случаях сообществ, которые вроде как существуют, но которые трудно обсуждать на основе взаимодействия членов этих сообществ друг с другом: взаимодействие происходит путём проведения операций рассуждения об этих сообществах в вычислителе создателя45.

Эта линия работ на конструктивистское переописание системной онтологии второго поколения была продолжена при создании Core Constructional Ontology46, которая предлагает конструктивистский взгляд на теорию частей, множеств и отношений и служит одним из уровней foundational ontology для инженерных описаний. Для неё более низким уровнем foundational ontology является математика, а выше неё — соображения по выражению 4D мереотопологии пространства-времени в 4-Dimensionalist Top Level Ontology47.

Использование какой-то математики (чаще всего в computational ontology это какие-то варианты логик первого порядка, но всё чаще и чаще это заход на морфизмы и, соответственно, теорию категорий) в качестве foundational ontology с пропуском всех остальных (upper ontology, middle ontology) онтологических уровней обычно для физики. Сама физика с точки зрения системной онтологии работает с функциональными объектами (например, «физическое тело»), роли которых выполняют разные объекты физического мира (стулья, камни, молекулы, фотоны). Далее в догадках и экспериментах выясняются особенности поведения этих функциональных объектов, они выражаются математическими соотношениями/формулами. При структурном совпадении формул, описывающих какие-то разные объекты, может делаться предположение об общей природе этих объектов как рассуждение по аналогии/analogical reasoning. Этот приём используется и для онтологий, выраженных логически в виде решёток/lattices, примером тут может быть VAE (VivoMind Analogy Engine)48. Примером использования такого приёма физиками могут служить также работы по теории информации («свободная энергия» в теории информации названа так в силу того, что в теории информации и термодинамике используются похожие формулы49). Так что есть тенденция использовать математические объекты и формульные отношения между ними так же и для формулирования системной онтологии третьего поколения, то есть физического объяснения эволюции, приводящей к большим эволюционным переходам.

Вся эта формализация, конечно, связана главным образом не с направлением порождения новых знаний в ходе системного творчества, а с направлением критики.

Третье поколение системного подхода: учёт времени эволюции

Vanchurin, Wolf, Koonin, Katsnelson заметили, что рассуждения по аналогии в классической термодинамике и теории информации, применённые к величинам/quantities в термодинамике, машинном обучении и эволюционной биологии50 ведут к неожиданной общей для них всех онтологии (framework). Другими словами, эволюция могла бы быть описана как обучение/познание/learning, а обучение носит термодинамическую природу, то есть вполне физический феномен. На базе замеченных аналогий они сформулировали теорию эволюции как многоуровневого познания/deep learning51 (deep — это многоуровневость представлений52). В этой теории движущая сила эволюции — это конфликты между объектами разных системных уровней, приводящие к неустроенностям/frustrations53. Это понятие неустроенности было введено в системный язык по итогам исследований спиновых стёкол как примера поведения неэргодических (с памятью) систем и там оно означало геометрические неустроенности (невозможность устойчивой геометрии спинов в стёклах). Эволюция тем самым представляет собой процесс познания/обучения/learning, который сводится к решению оптимизационной задачи нахождения минимума свободной энергии за счёт изменения структуры многочисленных системных уровней. В ходе этого эволюция находит квазиминимумы, но не абсолютный минимум. Время от времени возникает скачок роста сложности (большой эволюционный переход, появление ещё одного системного уровня, ещё одного вида целых систем), что даёт резкую минимизацию свободной энергии эволюционирующей системы, но всё-таки это просто очередной квазиминимум, а не абсолютный минимум. В этой серии работ54 была показана физическая природа роста сложности систем (на примере биологических систем, но рассуждения там безмасштабны, то есть биологичность систем или наличие сознания не влияют на выводы работы). Так что в системной онтологии появляются ещё и конфликты между системными уровнями, и явление неустроенностей из-за этих конфликтов, и вывод о неизбежности роста сложности системы как увеличении числа системных уровней.

Все эти исследователи контактируют друг с другом (например, были обсуждения между Vanchurin и Friston), потому как в основе большинства этих работ лежит термодинамика и понимание того, что все системы реализуют принцип минимизации свободной энергии и во время своего существования, и во время своего создания, и в ходе эволюции. Перевод традиционных формул для выражения этой онтологии (сейчас эта онтология выражена в привычном физикам формульном виде, традиционном для термодинамических выкладок) в конструктивистскую форму теории категорий — отдельная тема, но такая постановка задачи для математиков более-менее привычна и можно обсуждать программу исследований на эту тему. То же можно сказать про переформулирование дифференциальной формы в квантовоподобную/quantum-like55, что могло бы увеличить точность физического моделирования биологической эволюции и техно-эволюции (меметической эволюции) в силу квантованности/цифровости большинства описываемых явлений, а заодно уменьшить время вычислений за счёт того, что вычисления ведутся в дискретных точках, а не в каждой точке непрерывных функций.

Третье поколение системного подхода учитывает, что эволюционируют прежде всего знания (в том числе знания о системах), а не только сами системы, понимаемые уже ближе к биологическим видам, это близко к изменению воззрения биологов на эволюцию как прежде всего эволюцию генома, а не эволюцию фенома. В основе современных биологических классификаций уже лежат не феномы организмов, а их геномы.

Таким образом, современная/SoTA (третьего поколения системного подхода) онтология системы:

  • даёт типы объектов для многоуровневого наведения внимания с целью обеспечения эволюции целевых систем (continuous everything) системами-создателями

  • рассматривает минимально три времени существования системы: operations, construction/evolving of phenome, evolution/development of genome/memome — базируется на физике, математике и computer science

  • рассматривает системы как стабильные сущности в рамках минимального физикализма (в том числе системы активны по отношению к себе и окружению, системы ищут минимум свободной энергии, ведя active/embodied inference, независимо от уровня своей «разумности»)

  • даёт безмасштабные описания систем (феномены квантовой физики тем самым учитываются), объясняет возникновение системных уровней (рост сложности) в силу многоуровневой оптимизации для достижения минимума свободной энергии

  • мереология выражается уже не через «вечные классы» и отношения между ними, а через морфизмы, отражающие операции с физическими системами в ходе их взаимодействия. Учитывается также и то, что операции с абстрактными объектами выполняются физическими системами-создателями с (универсальным в смысле эквивалентности машине Тьюринга) вычислителем в их составе, «математик, рассуждающий о математике — тоже физический объект».

Текущее развитие системного подхода прежде всего связано с развитием знаний о распределённых представлениях, ибо все три поколения системного подхода развивались в ситуации, когда природа распределённых представлений понималась плохо, это были больше поколения системного подхода, выражаемые формально в локальных представлениях и поэтому удобные для критики:

На сегодня ещё не решена задача создания общей локально-распределённой семантики, объединяющей классическую семантику локальных представлений на базе треугольника Фреге, объёдиняющую локальные представления о знаках (семиотику), понятиях (абстрактные объекты даёт математика) и физике (объекты физического мира, отражаемые понятиями, выражаемыми в знаках, даёт физика) и нарождающуюся в работах по большим языковым моделям в AI распределённую семантику, в которой на месте семиотики стоит обучение представлениям/representations learning (главным образом векторным/распределённым/distributed56, отвязанным/disentangled57, непрерывным/continuous58 представлениям):

Вполне возможно, что развитие теории распределённых представлений и обобщение семантики до включения не только семиотики, но и обучения представлениям приведёт к появлению четвёртого поколения системного подхода, но это пока только гипотеза.

Что дальше

Вот вы и завершили освоение руководства по системному моделированию. Что дальше? Конечно, переходить к освоению руководства по методологии. Если что-то и осталось непонятным, мы рекомендуем продолжать освоение руководств полной программы рабочего развития инженеров-менеджеров, ибо каждое очередное руководство в этой программе как-то повторяет материал предыдущих руководств и даёт примеры использования введённых в этих руководствах понятий — поэтому многие вопросы будут сняты. Не надо застревать на материале одного руководства, надо продвигаться вперёд и вперёд.

Тем не менее, подумайте над тем, что вы можете прямо сейчас получить пользу от освоенных методов системного моделирования. Просто думайте так в своих проектах, как наставляется в руководстве («мышление моделированием»: составляйте и заполняйте таблички в универсальных моделерах или даже в более простых, чем таблички, формах — списках, просто текстах, это и есть системное моделирование в его текущей версии!), используйте мета-мета-модель системного мышления из нашего руководства.

Добейтесь беглости в системном мышлении, в системном моделировании. Это долго, ибо синапсы растут где-то три месяца, капилляры в мозгу тоже отрастают в нужных местах медленно, месяцы. Без этого будет «английский со словарём», то есть нерабочий вариант, очень трудоёмко, не бегло. И все эти три месяца надо всё-таки пытаться что-то делать. Не откладывайте на «когда-нибудь, а то некогда».

Системное моделирование, системное мышление — это заполнение таких же табличек, какие вы заполняли при освоении работы по нашему руководству, это не что-то особенное, что вы ещё не пробовали делать. Заполняйте эти таблички для ваших текущих проектов, заполняйте для новых проектов, не бойтесь модифицировать эти таблички. Используйте какие угодно моделеры для этих табличек, вам должно быть уже легко это делать. Это соответствует «Проекту-2» из подраздела «Прикладная функциональность против универсальной конструкции», то есть вам нужно научиться рассуждать системно о ваших предметных областях (мета-модели), удерживая во внимании типы понятий системного подхода (мета-мета-модель) — но делать это бегло, без особых затрат ресурсов, длинными ходами мысли не на пару понятий мета-мета-модели, а сразу на десяток-другой понятий. Помним, что за месяц занятий музыкой или за месяц тренировок, или за месяц занятий иностранным языком результаты будут «никакими», за год — вы будете существенно отличаться от «людей с улицы», за три года — можно будет этим зарабатывать деньги, десяток лет — и можно говорить о том, чтобы побеждать в мировой конкуренции. К системному мышлению это относится в полной мере.

Для чего надо использовать наставления руководства? Для критики многочисленных идей, которые порождаете вы сами, а также ваши коллеги. Вы сэкономите много времени, если не будете делать ошибок, на которые указываем в руководстве. Вы сэкономите много времени, если будете больше думать о тихо молчащем в проекте важном и меньше о неважном, которое кричит и привлекает (можно даже сказать — отвлекает) ваше внимание. Вы уже многое знаете, так используйте это знание! Сделайте доклад на конференции о своих успехах, напишите пост в клубе (не только «мышление системным моделированием», но и «мышление письмом» существенно помогает поднять беглость системного мышления!).

Если материал оказался трудным, вы не очень поняли, о чём говорится в руководстве, то попробуйте осваивать работу по руководству с наставником, возможно, в составе корпоративной группы стажировки с мастерами мастерской инженеров-менеджеров. Варианты освоения работы по руководствам в ходе стажировок с наставниками ищите на вебсайте мастерской инженеров-менеджеров59. Наш опыт показывает, что освоение работы по руководствам с наставником в разы эффективней. И помним, что если вы сэкономили «прохождением мимо» стажировок по пререквизитам (первая половина руководств программы рабочего развития), то вряд ли вы сэкономили, вряд ли наше руководство оказалось вами полностью понято (и это ещё мягкая формулировка!).

Повторим: после освоения работы по нашему руководству по системному моделированию мы рекомендуем не делать себе каникулы, но продолжать рабочее развитие, изучая работу по руководствам по методологии, а затем работу по руководствам по инженерным методам — по системной инженерии, по инженерии личности, по системному менеджменту. Это направление можно назвать «дьявол в деталях»: углубиться в изучение отдельных инженерных, менеджерских, творческих, социальных методов работы, то есть изучать отдельные прикладные методы работы. Это традиционное обучение инженеров-менеджеров инженерии, менеджменту, другим специальностям в их связи с реальной жизнью, результативностью в рабочих проектах. Системное мышление позволит удерживать целостность изучаемого набора кругозорных и прикладных методов работы, а также переносить накопленный опыт из проекта в проект. Это образование инженера, менеджера, предпринимателя/основателя компаний, деятеля искусств, общественного деятеля/политика и т.д.: человека, который овладел системным мышлением и использует его для изменения мира к лучшему.

Но можно предложить и альтернативный вариант, «ангел в абстракциях» («знание принципов освобождает от знания фактов»): обобщить предлагаемое системное мышление с целью поднятия беглости в использовании его приёмов и распространения его на самые разные виды систем — для экспансии системного мышления на новые методы работы, новые классы систем (например, системы машинного обучения и искусственного интеллекта, системы из молодёжных субкультур и т.д.). По этому направлению можно углублять свои знания интелект-стека фундаментальных методов мышления программы исследовательского развития. Это развитие человека, который занимается бесконечным познанием, бесконечным развитием, бесконечным фундаментальным образованием. Хорошим подспорьем на этом пути будет изучение литературы, которая упоминается в нашем руководстве, особенно литературы из последнего раздела руководства (этот раздел исследовательского, а не рабочего уровня).

74

https://en.wikipedia.org/wiki/Geometrical_frustration — и посмотрите на видео, которое очень хорошо объясняет суть этой «неустроенности/неустаканенности».

78

https://en.wikipedia.org/wiki/Geometrical_frustration — и посмотрите на видео, которое очень хорошо объясняет суть этой «неустроенности/неустаканенности».

89

Напомним источники, где всё это можно прочесть в подробностях: прежде всего надо посмотреть фильм Frustrated magnetism in solids в https://en.wikipedia.org/wiki/Geometrical_frustration, затем https://www.pnas.org/doi/abs/10.1073/pnas.1807890115 и https://www.pnas.org/doi/10.1073/pnas.2120037119. С поправкой на то, что генокод не содержится внутри самой целевой системы, сама эта система не размножается, а её делают системы создания/создатели, которые имеют память о целевой системе. Но это мало что меняет в ходе рассуждений.

90

См. пример литературы по музыке и танцам (в обратном хронологическом порядке): https://vk.com/wall-179019873_615, https://vk.com/wall-179019873_586, https://vk.com/wall-179019873_505, https://vk.com/wall-179019873_483, https://vk.com/wall-179019873_258, https://vk.com/wall-179019873_237, https://vk.com/wall-179019873_232: Рекомендуем также смотреть работы, посвящённые распознаванию и порождению ритма программами искусственного интеллекта.

97

Социальный танец может пониматься как «игра в загадки», https://vk.com/wall-179019873_1550

98

Табличка в полном разрешении есть в https://disk.yandex.ru/i/QbcxOA1uuf5AAA

99

видеоролик, где очень кратко рассказывается о том, как именно уровень телесных практик ответственен за то, будет ли танцор студнем, тяжёлым или лёгким буратино, или же всё-таки танцором: https://vk.com/wall-179019873_511

104

Уровень композиции подробней описан тут — https://vk.com/wall-179019873_432

105

Пример тем, обсуждаемых на этом уровне — https://vk.com/wall-179019873_1740

108

Роберт Хайнлайн, «Достаточно времени для любви», 1973

112

в более ранних версиях руководства это были «системы обеспечения», enabling передавалось как https://en.wiktionary.org/wiki/обеспечение — ударение можно ставить двумя способами, обеспе́чение или обеспече́ние.

116

Leidraadse (2008), Guideline Systems Engineering for Public Works and Water Management, 2nd edition, http://www.leidraadse.nl/

123

Подробней про системное моделирование на примере предприятий см. доклад А.Левенчука, 2022, "Как мы наладили обучение организационному моделированию", видео с 6:18:13, https://www.youtube.com/watch?v=lpgpnCoV14w&t=22693s, слайды https://disk.yandex.ru/i/ixpCGYY4kROrmA. Про вред от визуального моделирования см. книгу А.Левенчука «Визуальное мышление. Доклад о том, почему им нельзя обольщаться», 2018, https://ridero.ru/books/vizualnoe_myshlenie/

126

Brandon Keim, «Your computer really is a part of you», https://www.wired.com/2010/03/heidegger-tools. Мозг управляет компьютерной мышкой так, как будто это и впрямь продолжение руки.

131

Тексты про танцы и системное мышление публикуется в https://vk.com/buffdance

133

См. литературу в П.К.Гречко «Сложносистемное мышление: методологические перспективы. Парадигмальная эвристика complexity в современном социально-гуманитарном познании», https://journals.rudn.ru/philosophy/article/view/11283/10713

134

Различение случайности и детерминистичности в физике: https://arxiv.org/abs/1507.03287

137

Материалы по этике на русском в каком-то количестве есть вот тут, но там не обсуждается многоуровневость этики: https://vk.com/reducing_suffering

145

текст А.Левенчук 1999 года про контрактные юрисдикции, https://old.computerra.ru/1999/320/196008/, более свежий обзор панархизма/контрактных юрисдикций/частных юрисдикций — https://medium.com/libertarian-state/контрактные-юрисдикции-краткое-введение-8153668ed268

146

Есть книга на эту тему: https://www.litres.ru/daniel-kaneman/shum-nesovershenstvo-chelovecheskih-suzhdeniy/, но можно сомневаться, что предлагаемые в ней меры как-то решат проблему.

151

Карл Фристон: по важным вопросам разделение всегда будет 50-50, дело в самих обсуждениях/коммуникациях, в «Теория демократии и "всё новое приходит сбоку"», https://ailev.livejournal.com/1616855.html

158

https://plato.stanford.edu/entries/metaethics/ и там дальше https://plato.stanford.edu/entries/constructivism-metaethics/, и в целом про возникновении знания по морали https://plato.stanford.edu/entries/moral-epistemology/, но ещё это развитие этики как объяснительной теории (хотя и нормативная, но всё-таки это объяснительная теория, объясняющая причины и следствия принятия этических решений) у Дойча популярно и по-русски раскрывается в «Начале бесконечности».

161

Формально у госорганов есть многочисленные инициативы по дерегулированию, например, деятельность по сокращению перечня лицензируемых видов деятельности, реформа контроля и надзора, но это только для отвода глаз, просто упоминания в идеологических документах: результаты этой деятельности практически нулевые много лет, нет реального дерегулирования.

167

Complexity is notoriously difficult to define precisely, and no single, universal definition has been agreed upon (24–26), although it seems to be commonly held that “when we see it, we know it.” The definitions of complexity that appear to be meaningful in biology involve, depending on the level of analysis, the number of evolutionarily conserved nucleotide sites in genomes and the number of genes or functional components in organisms or suborganismal functional systems, as well as the hierarchical organization of biological entities, be it functional networks and pathways, cells, organisms, or communities (20–23, 27). Perhaps the most general definition, pathway complexity, deriving from the concept of algorithmic complexity in mathematics, includes the number of steps required to create a given object. It has been proposed that entities with a pathway complexity above a certain threshold can only originate from biological processes (23).И далее по ссылкам в работе «Physical foundations of biological complexity», откуда взята эта цитата, https://www.pnas.org/doi/full/10.1073/pnas.1807890115

182

Социализм этим и отличался: отсутствие инвесторов позволяло почти не обращать внимания на целевые системы, основное внимание было направлено на системы создания, см. http://odesskiy.com/zhvanetskiy-tom-3/parovoz-dlja-mashinista.html

185

Что происходило с нейролингвистическим программированием и подобными подходами можно посмотреть по ссылкам в тексте «психопрактики движения по шкале формальности мышления», https://ailev.livejournal.com/1461939.html

195

И опять напомним, это ведь важное слово: https://ru.wikipedia.org/wiki/Метонимия

200

При этом компонентой иногда называют функциональную часть, а иногда конструктивную (например, отдельно закупаемый продукт согласно IEC 81346-1:2022). Будьте внимательны: в разных предметных областях это слово употребляется по-разному. А ещё в современном русском языке компонента/компонент примерно одинаково по частоте употребления как в женском роде, так и в мужском, никакой нормы на этот счёт нет.

205

https://en.wikipedia.org/wiki/View_model — тут примеры разных вариантов для системной архитектуры предприятия

208

Э.Успенский, «Дядя Фёдор, пёс и кот», https://youtu.be/qPeUokgTRik

231

Вот эта диаграмма в высоком разрешении — https://ic.pics.livejournal.com/ailev/696279/247262/247262_original.jpg, оригинал файла делался в редакторе yEd, https://disk.yandex.ru/d/qMDMgCZTkkT4-w

241

Почему важно уточнять, что речь идёт именно о структурных моделях? Потому что сейчас есть и коннекционистские (нейронные) компьютерные модели, для которых эти рассуждения неприменимы.

244

IEC 81346-1:2022, Industrial systems, installations and equipment and industrial products — Structuring principles and reference designations — Part 1: Basic rules, https://www.iso.org/standard/82229.html

249

Подробнее в разделе History https://en.wikipedia.org/wiki/Use_case

257

Соглашение о взаимодействии, подразумевающее какую-то последовательность/порядок действий двух систем, называют протоколом. Стандарты, описывающие обмен данными, часто тоже называют протоколами: они ведь описывают последовательность обменов данными.

262

До 2003 года стандарт был 220 вольт, но сейчас 230 вольт, хотя в некоторых нормативных документах по-прежнему 220 вольт, ГОСТ 29322-2014 определяет стандартное напряжение 230В с возможностью использовать 220В. Электросети поставляют электроэнергию согласно действующего на сегодняшний день ГОСТ 32144-2013, устанавливающего напряжение 220В. https://ru.wikipedia.org/wiki/Сетевое_напряжение

266

Болваны для искусственного интеллекта http://ailev.livejournal.com/1356016.html, NVIDIA как поставщик инфраструктуры для интеллект-стека, https://ailev.livejournal.com/1380163.html, NVIDIA как поставщик инфраструктуры для роботакси-стека https://ailev.livejournal.com/1384766.html

1

Nicola Guarino, Daniel Oberle, and Steffen Staab, What Is an Ontology?, in S. Staab and R. Studer (eds.), Handbook on Ontologies, Springer-Verlag, 2009

2

Karl Friston, Embodied inference: or "I think therefore I am, if I am what I think" In W. Tschacher, C. Bergomi (Eds.), The implications of embodiment: Cognition and communication (pp. 89–125). Imprint Academic., https://www.fil.ion.ucl.ac.uk/~karl/Embodied%20Inference.pdf

4

Мастерская инженеров-менеджеров (ранее ШСМ, школа системного менеджмента), https://system-school.ru/

6

Koestler, Arthur (1967). The Ghost in the Machine

10

ISO/IEC/IEEE 42010, Systems and software engineering — Architecture description, https://www.iso.org/standard/74393.html

11

ISO/IEC/IEEE 15288, Systems and software engineering — System life cycle processes, https://www.iso.org/standard/63711.html

12

ISO 15926-2, Idustrial automation systems and integration — Integration of life-cycle data for process plants including oil and gas production facilities — Part 2: Data model, https://www.iso.org/standard/29557.html

14

IDEAS Group, https://ideasgroup.org/

16

ISO 10303-11:2004 Industrial automation systems and integration — Product data representation and exchange — Part 11: Description methods: The EXPRESS language reference manual, https://www.iso.org/standard/38047.html

17

Web Ontology Language (OWL), https://www.w3.org/OWL/

18

What is PLM (Product Lifecycle Management), https://www.oracle.com/uk/scm/product-lifecycle-management/what-is-plm/

19

Ian Bailey, The simplification in integration architecture that 4D supports, https://gateway.newton.ac.uk/sites/default/files/asset/doc/2105/Ian%20Bailey.pdf

20

John Sowa, Knowledge Graphs for Language, Logic, Data, Reasoning, https://www.youtube.com/watch?v=J9_kXpZAcQY (Part of the Ontology Summit 2020)

22

Manifesto for Agile Software Development, https://agilemanifesto.org/

23

Neal Ford, Rebecca Parsons, Patrick Kua, Building Evolutionary Architectures, 2017, https://www.oreilly.com/library/view/building-evolutionary-architectures/9781491986356/

24

Joel Lehman, Jonathan Gordon, Shawn Jain, Kamal Ndousse, Cathy Yeh, Kenneth O. Stanley, Evolution through Large Models, 2022, https://arxiv.org/abs/2206.08896

25

Software Product Lines matures into the next generation of Systems and Software Product Line Engineering, https://www.softwareproductlines.com/

27

Nicole Forsgren, Jez Humble, Gene Kim, Accelerate, 2018, https://www.oreilly.com/library/view/accelerate/9781457191435/

28

Aeris Stewart, How Is Platform Engineering Different from DevOps and SRE?, 2022 https://thenewstack.io/how-is-platform-engineering-different-from-devops-and-sre/

30

Kenneth O. Stanley, Joel Lehman and Lisa Soros, Open-endedness: The last grand challenge you’ve never heard of, 2017, https://www.oreilly.com/radar/open-endedness-the-last-grand-challenge-youve-never-heard-of/

31

Fields, C., Glazebrook, J. F. and Levin, M., Minimal physicalism as a scale-free substrate for cognition and consciousness. Neuroscience of Consciousness 2021, https://chrisfieldsresearch.com/min-phys-NC-2021.pdf

32

Yukio-Pegio Gunji, Shuji Shinohara and Vasileios Basios, Connecting the free energy principle with quantum cognition, https://www.frontiersin.org/articles/10.3389/fnbot.2022.910161/full

34

Fields, C. and Glazebrook, J. F. A mosaic of Chu spaces and Channel Theory I: Category-theoretic concepts and tools. Journal of Experimental and Theoretical Artificial Intelligence 31: 177-213, 2019, https://chrisfieldsresearch.com/mosaic1-pre.pdf и Fields, C. and Glazebrook, J. F. A mosaic of Chu spaces and Channel Theory II: Applications to object identification and mereological complexity. Journal of Experimental and Theoretical Artificial Intelligence 31: 237-265, 2019, https://chrisfieldsresearch.com/mosaic2-pre.pdf

35

Fields, C., Friston, K., Glazebrook, J. F. and Levin, M., A free energy principle for generic quantum systems. Progress in Biophysics and Molecular Biology 173: 36-59, 2022, https://chrisfieldsresearch.com/qFEP-2112.15242.pdf

37

Brett J. Kagan, Andy C. Kitchen, Nhi T. Tran, Forough Habibollahi, Moein Khajehnejad, Bradyn J. Parker, Anjali Bhat, Ben Rollo, Adeel Razi, Karl J. Friston, In vitro neurons learn and exhibit sentience when embodied in a simulated game-world, 2022, https://www.cell.com/neuron/fulltext/S0896-6273(22)00806-6

39

David Deutsch, The Beginning of Infinity, 2011, https://www.thebeginningofinfinity.com/

40

John Baez and Mike Stay, Physics, topology, logic and computation: a Rosetta Stone (2011), in "New Structures for Physics", ed. Bob Coecke, Lecture Notes in Physics vol. 813, Springer, Berlin, 2011, pp. 95—174, https://arxiv.org/abs/0903.0340

41

John Baez, Symmetric Monoidal Categories: a Rosetta Stone, https://johncarlosbaez.wordpress.com/2021/05/28/symmetric-monoidal-categories-a-rosetta-stone/

45

Kit Fine, The Identity of Social Groups, 2020 https://metaphysicsjournal.com/articles/10.5334/met.45/

46

Salvatore Florio, Core Constructional Ontology (CCO): a Constructional Theory of Parts, Sets, and Relations, 2021, https://gateway.newton.ac.uk/presentation/2021-04-22/29947

47

Chris Partridge, 4-Dimensionalist Top Level Ontology, https://gateway.newton.ac.uk/presentation/2021-04-22/29946

48

John F. Sowa and Arun K. Majumdar, Analogical Reasoning, 2003, http://www.jfsowa.com/pubs/analog.htm

49

Entropy in thermodynamics and information theory, https://en.wikipedia.org/wiki/Entropy_in_thermodynamics_and_information_theory

50

Vitaly Vanchurin, Yuri I. Wolf, Eugene V. Koonin, Mikhail I. Katsnelson, Thermodynamics of evolution and the origin of life, 2022, https://www.pnas.org/doi/full/10.1073/pnas.2120042119

51

Vitaly Vanchurin, Yuri I. Wolf, Mikhail I. Katsnelson and Eugene V. Koonin, Toward a theory of evolution as multilevel learning, 2022, https://www.pnas.org/doi/10.1073/pnas.2120037119

54

Yuri I. Wolf, Mikhail I. Katsnelson, and Eugene V. Koonin, Physical foundations of biological complexity, 2018, https://www.pnas.org/doi/10.1073/pnas.1807890115

55

Irina Basieva, Andrei Khrennikov, Masanao Ozawabc, Quantum-like modeling in biology with open quantum systems and instruments, https://www.sciencedirect.com/science/article/pii/S0303264720301994