10. Логика

Что происходит с логикой сегодня

Логика — это учение/трансдисциплина, занимающаяся рассуждениями по каким-то правилам/нормам рассуждений, ведущим к надёжному и безошибочному результату о верности какого-то суждения/утверждения. В последнее время речь идёт не столько о надёжном (вычислимом, ибо не все рассуждения могут быть вообще сделаны с достижением результата — это вычислимость/decidability¹) и безошибочном результате как таковом (математическая логика), но о надёжной и безошибочной оценке вероятности верности суждения. Роль — логик.

Эти правила рассуждений могут быть очень разными, хотя только некоторые варианты наборов правил ведут к безошибочным (в классической математической логике) или рассуждениям с возможностью оценки вероятности о верности каких-то высказываний. Логикой называют и трансдисциплину про то, какие вообще бывают правила/нормы рассуждений, и отдельные дисциплины про то, как рассуждать по конкретным наборам правил. Рациональность как трансдисциплина о принятии надёжных решений с минимальной ошибкой требует надёжных рассуждений с минимальной ошибкой.

В классическом делении философских дисциплин (обычно под «классикой» имеют в виду состояние где-нибудь на середину 20 века) логика, онтология и эпистемология практически слились в одно целое. Иногда это слияние называют философской логикой (главным образом в аналитической философской традиции), чтобы подчеркнуть, что это не совсем математическая логика, ибо в ней затрагивается ещё и связь рассуждений и реального мира (в математической логике реального мира нет, там только математические объекты). Мы часто называем слитые воедино онтологию, эпистемологию и логику «онтологикой», это честнее, чем просто «логика». Это линия работ философских логиков Витгенштейна, Куайна, Крипке, Льюиса, только нужно её брать по состоянию на сегодня, а не по наиболее цитируемым работам полувековой давности. И, конечно, тут волнует отношение логики и языка — рассуждений и языка, который используется для их выражения. Это иллокутивная логика, исследующая речевые акты². А ещё есть возможность рассуждений «вне языка», что тоже важно — рассуждения, делающиеся быстрым интуитивным мышлением в распределённых коннекционистких представлениях в нейронных сетях³, это S1 по Канеману). И есть вероятностное программирование/probabilistic programming⁴, которое тоже развивает классические представления о логике. Помним, что информатика как computer science состоит из теории A (алгоритмика, учение о сложности и эффективности алгоритмов) и теории B (о том, с чем и по каким правилам идут вычисления, то есть семантика и логика прежде всего, а также математика, определяющая вычисление как операции над ментальными объектами с хорошо определённым поведением).

Очень часто говорится не о логике как учении о правилах безошибочных и надёжных рассуждений, а о каком-то наборе правил рассуждений. И часто говорят о рассуждениях по правилам как о «логическом выводе» (inference). Скажем, в машинном обучении речь очень редко идёт о «логике» и это слово не используется, но inference, логический вывод как строгий символьный, так и вероятностный, обсуждаются во многих работах (а правила подразумеваются известными и не обсуждаются вообще, что классических логиков сильно удивляет).

В последнее время активно обсуждается байесовский вероятностный вывод, которая в математике соответствует выводу в дискретной булевой (математической) алгебре, а также квантовоподобный/quantum-like вывод, в том числе дополненный байесовский вывод/excess Bayesian inference, который выводит логику за пределы ограничений булевой алгебры — и именно такой дополненный байесовский вывод лежит в основе вычислений, которые делают биологические системы⁵, это подробно обсуждается в рамках подхода active inference. Или же просто речь идёт о рассуждениях quantum-like расчётом «в лоб»⁶ как объясняющим итоги социальных, психологических, экономических и биологических измерений лучше, чем альтернативные методы. Так что «логика» сегодня очень далеко ушла от «Аристотелевской логики», с которой она ассоциируется у большинства людей.

Как в геометрии есть геометрии Римана и Евклида, так и в логике в целом есть математическая логика и логика талмуда, буддийская логика и нечёткая логика, иллокутивная логика, занимающиеся правилами рассуждений в соответствующих традициях. На буддийской логике и аристотелевской логике не сделаешь рассуждений, достаточно надёжных для строительства космических кораблей, работы крупных компаний. На булевой логике невозможно показать, как «рассуждают» биологические системы (клетки, органы, организмы и даже популяции, в том числе квантовоподобные свойства хорошо выражены в нейронных сетях⁷). Поэтому нужно для повседневного использования отбирать SoTA логики-как-наборы-правил-рассуждений, а не старинные или фантазийные варианты, которых существует предостаточно. Логические поддисциплины и связанные с ними наборы правил точно так же устаревают, как и любые другие учения/трансдисциплины. Логика начала 21 века существенно отличается от логики начала 20 века.

Поначалу критическое мышление означало просто логичные (то есть по правилам, позволяющим быть уверенными в результате) рассуждения, а не абы какие фантазии. Когда-то к логике относили и семиотику (как работать со знаками), и эпистемологию (как познавать мир), и критику (как ловить ошибки в рассуждениях), которую понимали как формальную (математическую) логику, основанную на теории множеств.

Через некоторое время из логики выделились как отдельные дисциплины и эпистемология (иногда её называют «логика науки», мы её будем делить на две части: рациональность и познание/исследования), и семиотика (дальше развившаяся в семантику). Логикой продолжили считать только формальную логику как основу для критики как поиска ошибок в рассуждениях — эту традицию задал Gottlob Frege⁸, который формализовал логику в виде математического «исчисления предикатов».

Но на Западе традиция логики как дисциплины о правильных рассуждениях в целом (а не только в части критики) осталась, в том числе развиваясь как «философская логика» в работах философов традиции аналитической философии⁹ (Куайна, Крипке, Льюиса и т.д.). Все эти философы признаются логиками «своими», и наоборот — все эти логики признаются философами «своими». В континентальной и немецкой классической философии связь рассуждений с формальной/строгой/математической логикой не слишком прослеживалась и связь философии с хотя бы формальной/математической логикой была в значительной мере утеряна, но аналитические философы-логики отслеживали эту связь специально и легко переходили от текста на естественном языке к формулам и формальному выводу, и наоборот — от формул к их выражению в тексте на естественном языке.

В СССР из логики по идеологической необходимости также выкинули связь с философией (т.е. как правильные рассуждения связаны с реальным миром), и оставили только математическую логику. Для правил рассуждений в философии оставили диалектику, в которой правильность/безошибочность рассуждений проконтролировать невозможно. Всё, с этого момента рассуждения по правилам на естественном языке в советской философии перестали хоть как-то цениться, выжили только правильные цепочки математических операций — и не в философии, а в математике, а позже — в информатике. Дальше на всём постсоветском пространстве эта линия сохранилась: история философии без логики, а логика только математическая (то есть без текстов на естественном языке, только формулы).

Впрочем, бурное развитие философской логики/аналитической философии и математической логики в мире привело к тому, что логический state-of-the-art оторвался от жизни не только в СССР, но и на Западе. Логика как искусство публичного доказательства правильности произвольного рассуждения на естественном языке перестала изучаться (преподавание критического мышления выродилось, это перестало быть изучением логики¹⁰), а математическая логика стала использоваться только для целей публичного доказательства правильности математических выкладок/вывода/inference. Сегодня политики, учёные, блогеры, менеджеры и даже инженеры с высшим образованием во всех странах мира логике не обучены, разве что как-то в ходе самообразования. У гуманитариев вроде как остались где-то курсы критического мышления, но в них вместо логики учат внимательно относиться к надёжности первоисточников и проверять цитаты (искать «фейки» в новостях¹¹), а не рассуждать логично.

Тем самым общество необученных современной логике людей утратило возможность продуктивной критики предъявляемых ему рассуждений на предмет ошибок в этих рассуждениях. Это чисто человеческая способность, недоступная животным, она связана с наличием режима медленного рассудочного движения S2 по Канеману: взять собственное рассуждение и проверить его на правильность/соответствие каким-то правилам, которые гарантируют надёжность выводов этого рассуждения.

Дело оказалось плохо даже не в том, что людям трудно удерживать во внимании длинные цепочки операций математической логики, то есть люди в массе своей несобранны, и синдром дефицита внимания и гиперактивности наличествует не только у детей, но и взрослых (СДВГ, когда два часа сидеть и спокойно читать книжку не отвлекаясь, или два часа сидеть и спокойно думать о важной задаче, не отвлекаясь, оказывается невозможно — и ошибки идут от нехватки времени на рассуждения, от нарастающей с каждой минутой долгого сидения невнимательности). Дело оказалось в том, что понятия аргумента, рассуждения, доказательства перестали ассоциироваться с реальной жизнью и рабочими рассуждениями, а стали ассоциироваться только с работой математиков. А как тогда проверять рассуждение? Интуитивно, используя быстрое мышление S1. Беда в том, что:

• интуитивная проверка рассуждений даёт ошибки, и это связано с особенностями аппаратуры нашего вычислителя/мозга, когда он работает в режиме S1. Поэтому ничего не получится без умения намеренно удерживать свои рассуждения в S2 или умения задействовать внешний логический вычислитель мат.логики («доказатель»/prover¹², иногда «проверяльщик модели»/model checker¹³, решатель вопроса о достаточности/SAT solver¹⁴), или умения написать и выполнить программу вероятностного программирования (например, для байесовского вывода) или квантовоподобного вывода.

• И даже когда удаётся удерживать долго размышления в S2, то трудно договориться, что считать правильным рассуждением. Строгая булева логика? Если речь идёт о двух высказываниях, полученных в разных онтиках, то матлогика говорит, что их нельзя использовать в рассуждении вместе — они несовместимы. Если высказывания носят характер утверждений о вероятности, то байесовское рассуждение/Bayesian inference (нынешний мейнстрим «правильности» в рациональном принятии решений) конкурирует с дополненным байесовским рассуждением/excess Bayesian inference за то, чтобы считаться «правильным». Надо договориться сначала о том типе логики, который будет использован (точно так же, как геометрам нужно договориться о том типе геометрии, который они будут использовать: Евклидова, Римана или какая ещё).

Предвзятости

Ошибки интуитивного мышления (быстрое мышление S1 по Канеману) на быстром-неточном конце спектра скорости/точности мышления часто называют предвзятостями/когнитивными искажениями/cognitive bias. Ошибки эти не замечаются мозгом, если только вы сознательно не включаете механизм медленного осознанного рассудочного мышления S2.

Этих ошибок очень много¹⁵:

Сегодня стало модным искать в суждениях когнитивные искажения, вроде как это должно поднять логичность этих суждений. В результате вы тратите 15 часов на разговоры с любителями выискивать когнитивные искажения не на тему самого разговора (инженерию, менеджмент, предпринимательство, тему другой деятельности), но о ваших ошибках и вашей к ним толерантности, их классах, недостатках мышления обезьяны по сравнению с чётким логическим мышлением со ссылками на литературу по когнитивным искажениям, важности совпадения описания карты с территорией и т.д. Через пятнадцать часов вы выясняете, что ошибок тьма, жизнь нелепа, в любом высказывании ошибок можно найти не менее пяти или шести, карта вашего мышления плохо соответствует территории предметной области, а быстрое мышление по Канеману (S1) дурит — и вы не продвинулись ни на шаг, analysis paralysis, ибо в каждой попытке продвинуться вам укажут на очередные когнитивные искажения. Если вы их хотите найти, то всегда найдёте. Если очень хотите, то будете видеть только эти искажения, а продвижения вперёд и интересные идеи будут полностью незаметны и будут ускользать от внимания.

Во фразе «пайди вазьми 150 рублей прямо сейчас вон в том акошке», вы будете обсуждать только ашипки и почему нельзя так ниграматно писать, а до пойти и взять 150 рублей дело не дойдёт!

Беда с этими когнитивными искажениями, даваемыми длинными списками, как раз в этом: лекарство незаметно и как-то печально неизбежно становится болезнью. Как бороться с когнитивными искажениями? Сознательно уходить от интуитивного мышления, развивать логику. Если известно, как рассуждать правильно — то можно отслеживать все отклонения от этой правильности, какие бы они ни были, а не заучивать списки «чего делать нельзя». Если 2*2=4, то неправильные ответы — 5, 26, xbc, 4.41, «число», и не нужно запоминать список того, что могло пойти не так. Правильно «по правилам логики» вот так, а всё остальное — неправильно, не нужно проверять специально. Но нужно помнить, что человеческий мозг — это очень плохой логический вычислитель, если работает «интуитивно» в быстром и нетрудном режиме S1. Его логике нужно специально учить, используя трудный медленный осознанный режим работы S2!

Для логичных рассуждений нужно научиться моделировать/формализовать предмет обсуждения (всё это разные способы называть одно и то же: переход к логической строгости начинается с формализации предметной области). То есть логическое рассуждение базируется только на том, что вы рассуждаете, применяя правила логики к каким-то объектам, но ещё и на том, что вы выделяете подходящие объекты внимания из фона, планируете ресурсы для рассуждений, уточняете типы объектов и их отношения. Логичное рассуждение возможно только тогда, когда у вас в порядке с применением мыслительных практик всех предыдущих уровней интеллект-стека. Если там непорядок (плохо с онтологией, плохо с семантикой, плохо с собранностью — много с чем может быть непорядок), то у вас будут правильное применение правильных логических операций к неправильным объектам, результат будет печальный.

Логика тесно связана с формализацией знания. В западной культуре аналитике, т.е. основанных на логике формализации и моделированию, исторически придаётся большое значение. Результаты этой западной ветки цивилизации с её аналитичностью и логичностью хорошо видны: восточная цивилизация успешна сегодня примерно в той мере, в какой она копирует западные достижения научной, инженерной, менеджерской, предпринимательской, да и всей остальной (кроме искусства и религии) мысли¹⁶. Формализация/моделирование/онтологизирование в связке с рассуждениями по правилам с элементами этих моделей лежит в основе западной цивилизации. Знания накапливаются прежде всего в форме моделей, важных объектов с важными связями! И дальше с этими моделями производят вычисления/рассуждения — и люди, и компьютеры, и люди вместе с компьютерами, и в одиночку, и коллективно.

Быть логичным, не умея моделировать/абстрагировать — нельзя! Или вы обучаетесь моделированию, с которого и начинается медленное рассудочное (формальное, логичное, по лучшим цивилизационным образцам) мышление S2 по Канеману, и будете защищены от когнитивных искажений в силу самого устройства этого мышления, или вы будете вечно искать в результатах вашего интуитивного мышления, вашей «смекалистости» ошибки от искажений/предвзятостей быстрого мышления S1 по Канеману, то есть предвзятостей интуитивного мышления животного.

Вместе с тем, часть этих «когнитивных искажений» не является искажениями. Люди являются совсем плохими формально-логическими вычислителями, а даже плохими, но не такими уж плохими байесовскими вычислителями, когда работают в режиме S1 (то есть без использования сознательного рассуждения), это давно было установлено экспериментально. И при этом отлично живут! Если вам не надо супернадёжного логического вывода, чтобы запустить ракету в космос, то можно полагаться и на интуицию — это много менее энергозатратно, требует меньше внимания, результаты доступны быстрее (надо «прикинуть», но не надо «рассуждать по правилам»). Сейчас это наблюдение уточнено: люди являются плохим байесовским вычислителем, но при этом неплохим квантовоподобным вычислителем! Некоторые психологические эксперименты, которые нельзя было объяснить, если считать человека байесовским вычислителем, можно объяснить, если принять гипотезу о быстрых квантовоподобных вычислениях «по интуиции», и результаты при этом не совпадают с логическими и «чистыми байесовскими». Например, эффект порядка ответов (люди оценивают вероятность разных ситуаций по-разному, в зависимости от порядка предъявления вопросов) оказался лучше всего объясним, если предположить квантовоподобность в рассуждениях¹⁷. Кроме того, квантовоподобное рассуждение даёт быстрый ответ (за счёт того, что вычисления идут не непрерывных функций и тем самым не должны быть верными для бесконечного числа точек, квантовоподобные вычисления привязаны к квантам/дискретам различимости, то есть вычислений надо меньше, и решения можно сделать линейными, что много быстрее), а ещё там учитывается априорная информация, о которой мы не знаем, и которая в чисто байесовском расчёте просто откидывается. Если у вас ограниченное время и ресурсы на вычисление, то квантовоподобная логика (как раз «интуиция», S1 человеческого мышления) становится вполне рациональным и правильным выбором логики! А бесконечное выискивание «предвзятостей, искажающих суждения» — оно ведёт к analysis paralysis, застреванию в бесконечных бесплодных рассуждениях вместо выхода на продуктивное действие. В животном мире лишние раздумья приводят к тому, что вас съедают, или вы сами не успеваете кого-то съесть. В мире конкурентного рынка всё то же самое: если выбрана не та логика, то будут или ошибки, или вы просто не успеваете всё продумать, или хотите получить результат точнее, чем это теоретически возможно — в любом случае, проигрываете в конкуренции. Логика важна!

Аргументация

Язык, на котором выражается рассуждение, совершенно необязательно формальный искусственный язык математической логики. Нет, это чаще всего как раз естественный язык — самый мощный из известных человечеству. На естественном языке вы можете выразить всё то, что выразимо на формальном языке, и заодно сделать заметки по тому содержанию рассуждений, которое не укладывается в формальный язык (помним, что формализация — это сжатие информации, выкидывание ненужного. Но если всё-таки что-то хочется оставить? Нужно менять формализм, или добавлять описания в других формализмах, в том числе описания на естественном языке). На естественном языке вы можете бесконечно уточнять высказывание: как уточнять понятия (на какие места в многомерном семантическом пространстве вы указываете), так и уточнять отношения между ними (например, использовать N-арные отношения, не все формальные языки это позволяют).

Критика и доказательства безошибочности суждений происходят чаще всего в форме диалога (полилога¹⁸, разговора многих агентов) на естественном языке. И на этом естественном языке делаются содержательные суждения/заявления/claims как аргументы¹⁹, которые затем критикуются на предмет их логической непротиворечивости.

Собственно, практика логики в интеллект-стеке в существенной мере заключается в выдвижении и критике аргументов. Дедукция, индукция, абдукция, аналогия, заблуждение (неверный аргумент) — всё это типы аргументов. Аргументирование тоже может быть устроено по-разному. При этом помним, что логическое рассуждение необязательно следует именно правилам формальной/математической/булевой логики, оно может следовать правилам байесовского вывода (уточнений/обновлений по мере накопления информации), а также правилам квантовоподобного вывода.

Alan Kay в тексте про мощные идеи²⁰ пишет, что надо отличать мышление и коммуникацию байками-повествованиями или красочными пословицами от эссе с серьёзной аргументацией без привязки к байкам-историям-пословицам:

Царь Соломон считался самым мудрым человеком, который когда-либо жил, и поясняется, почему: он знал более 3000 пословиц! А пословицы работают следующим образом: если вы возвращаетесь домой из поездки, и ваша семья рада вас видеть, тогда «Разлука заставляет их сердца любить сильнее». Но если вы вернетесь из путешествия, а они не очень-то вам рады, тогда причина этому… что? Правильно: «С глаз долой, из сердца вон». Каждая пословица существует для придания конкретной ситуации определенного смысла, и каждая из них приходит на ум от случая к случаю. Если пословица, которую вы сегодня используете (или игра, или фильм, который вы сегодня смотрите), противоречит той, что была на прошлой неделе, то это не имеет значения, потому что пословицы и рассказы оцениваются, в основном, на основании того, насколько они хорошо подходят в текущий момент времени, а не как они соотносятся с другими пословицами и рассказами в целом.

Способ мышления и придания смысла своей жизни и обществу с помощью историй и повествований является универсальным во всех культурах, а также служит основой для «настройки соединения» с другими людьми.

...Мышление на основе историй победило. Клод Леви-Стросс и Сеймур Пейперт назвали это инкрементным изолированным «естественным» обучением через процесс создания «любительских поделок», что означает сделать что-то, «повозившись с техникой». Это одна из причин, по которой инженерное дело начало свой путь за тысячи лет до науки; некоторые конструкции могут быть реализованы постепенно, путем проб и ошибок, не требуя каких-либо подробных объяснений, как все это работает.

Однако, если мы оглянемся на последние 400 лет, и задумаемся о том, какие идеи стали причиной самых значительных изменений в человеческом обществе, и какие вывели нас в современную эпоху демократии, науки, техники и здравоохранения, то мы будем немного шокированы, когда осознаем, что ни одна из них не представлена в виде истории [и не обоснована пословицами]! В трактате Ньютона о законах движения, силе тяжести и поведении планет задаётся последовательность аргументов, имитирующих книги Евклида по геометрии. С тех пор все научные статьи также представляются в форме доказательств [последовательностей аргументов], а не историй.

Дальше Алан Кей говорит, что не нужно отказываться от историй, они хороши для развлечений и театра. Но по итогам исследований 5% взрослых американцев, менее 7% жителей Великобритании (в России и других постсоветских странах можно ожидать того же самого) научились мыслить в свободных формах (эссе) о причинно-следственных отношениях без привязки последовательности рассуждения к историям. Из 150 самых продаваемых книг в США ни одной книги не было в формате серьёзного эссе с аргументированными доказательствами какой-то связной теории. Это означает, что развивать цивилизацию и задумываться о длинных, а не однозвенных цепочках причин и следствий будут те самые 5-7 процентов населения, и не больше. Вы сами способны разбираться в длинных цепочках аргументов? Или на третьем аргументе вам уже «многабукаф»²¹?

Конечно, для удержания логики/правил в рассуждениях мы не надеемся на просто собранность «голого мозга», «медитацию-размышление», а хоть и с использованием аргументов в качестве содержания мышления. Мы надеемся на экзокортекс, письменные формы, киборгизацию в аргументировании.

В начале 21 века методы работы с аргументами с использованием экзокортекса сводились главным образом к диаграммной технике, построению карт аргументов/argument maps²². Это техника использования деревьев аргументов и их связей, очень похожая на технику Mind Maps и технику Concept Maps, но только типы узлов и ограничения на типы связей в этих техниках разные. А форма — одна, граф-дерево. Сейчас мода на визуальные представления прошла, ибо с ними неудобно работать. Так, Mind Maps как диаграммная форма представления информации в виде графа-дерева уступила место аутлайну, полностью эквивалентному способу представления графа-дерева. Сначала люди пользовались для быстрого создания и редактирования Mind Maps режимом аутлайна в специальных программах, а затем обнаружили, что оглавления в MS Word устроены ровно как этот аутлайн, и даже ещё удобней — а сами Mind Maps оказываются не нужными для рабочих целей, и используются только как красивые картинки для презентаций. И мода на эти «ментальные карты» прошла!

Тот же процесс идёт с софтом Argument Maps (это на сегодня десятки программных средств). Как пример — софт Argdown²³, в котором предлагается простой текстовый язык для описания графов-деревьев аргументации. Основное время работа с аргументацией идёт в режиме текстового представления, но затем для иллюстративных целей программы могут это представление отображать в виде диаграммы, при этом визуальное представление не главное. Вот текст с аргументацией того, что Argdown — это лучший инструмент для изучения сложной аргументации:

А вот представление того же самого картинкой, её вроде как приятно разглядывать, но много сложнее редактировать, особенно если надо вносить много мелких правок разными людьми (обычная коллективная мыслительная работа, включающая подготовку письменной аргументации и удержания коллективного внимания в большом проекте за счёт письма):

Хорошими средствами для моделирования сложной аргументации будут productivity tools, при этом важно, что это инструменты для коллективного моделирования (лидерами таких средств на сегодня являются coda.io, notion.so).

Опора на технические средства в аргументировании, в представлении логики рассуждения и спокойной проверке безошибочности рассуждений по правилам логики — это сегодняшний мейнстрим. Этот мейнстрим движется от поддержки только булевой логики к поддержке вероятностной логики, и дальше можно ожидать движения к поддержке квантовоподобных рассуждений.

Логика в рассуждениях на невысоких уровнях формальности (мы тут про «размышления» о реальной жизни, а не про математику на высоком уровне формальности/точности/строгости) поддерживается уже и программами машинного интеллекта, универсальными алгоритмами. Можно выделить Project Debater²⁴ как одно из первых таких приложений, но сейчас спорить и аргументировать способен практически каждый чат-бот, так что этих помощников в дебатах множество²⁵.

Все эти программные системы могут с разной степенью успешности (чаще — более успешно, чем другие живые спорщики) спорить с компетентными людьми по сложным вопросам. Цель — помочь сформулировать убедительные (трудно критикуемые, логически выверенные) аргументы, чтобы на основе этой аргументации дальше принимать рациональное решение о действиях.

Обратите внимание, что речь сейчас идёт о задействовании всего интеллект-стека: в том числе мы говорим о моделях рассуждений, способах записи этих моделей на носителях, аргументах и аргументировании с критикой как способах уменьшать число ошибок в рассуждении, использование компьютерных моделеров для удержания во внимании сложных рассуждений, и даже об универсальных алгоритмах, которые способны рассуждать логически и презентовать результаты рассуждений в виде аргументов на естественном языке, а не абы как!

Логические рассуждения вероятностны

Современная логика включает в себя работу с вероятностными утверждениями, даёт средства для вычисления степени уверенности в выводе рассуждений, сделанных в условиях неопределённости. Строгая математическая логика оказывается просто частным случаем вероятностной (байесовской) логики! Этот революционный поворот в логике науки произошёл совсем недавно — по факту уже в 21 веке. Он отражён в работах E.T.Jaynes²⁶, плохо доступных широкой публике, ибо это работы для математиков, занимающихся теорией вероятности. Это байесовская вероятность (а не «фишеровская» частотная вероятность, так её называют по имени одного из наиболее выдающихся статистиков прошлого, Рональда Фишера²⁷), а традиционная логика дискретной «истины-лжи» — это просто частный предельный случай байесовской логики, где уверенность в выводе обновляется при появлении каждого нового аргумента (аргументы ничего не «доказывают» абсолютно, ибо в любом аргументе может быть незамеченная ошибка!). Так что правила правильных рассуждений — это правила байесовского вероятностного логического вывода. Логика оказывается не игрой между символьными дискретными значениями «истина» и «ложь». Логические выражения вычисляются наподобие физических вычислений с непрерывными значениями²⁸.

Это очень контринтуитивно: вероятностные ответы теперь принято считать не самими по себе существующими, а зависящими друг от друга. Если известно, что динозавры вымерли, то вероятность встретить динозавра в мире сегодняшнего дня практически 0% (но не точно ноль!). И действовать нужно, исходя из того, что динозавров мы не встретим. Если известно, что множество экспериментов показало отсутствие потусторонних влияний на наш мир, то одно чудо только чуть-чуть сдвигает вероятность обнаружения бога, и нужно действовать, как если бы бога не было. «Экстраординарное заявление требует экстраординарных доказательств» — это получило количественное выражение, это теперь можно вычислять. Современный машинный интеллект использует вот эти логические вероятностные вычисления 21 века, а не строгие логические символьные вычисления 20 века.

Так что всем изучавшим статистику и научное мышление в 20 веке можно с уверенностью сказать, чтобы они выкинули на помойку свои знания. Кризис воспроизводимости в науке вполне объясняется массовой неграмотностью среди учёных: они не заметили этой революции в логике и научном мышлении²⁹. Это всё равно как если бы физики не заметили прихода термодинамики вместо теории флогистона, квантовой механики, теории относительности. Дело осложняется тем, что речь идёт отнюдь не только о физике, речь идёт практически о всей науке, инженерии, менеджменте, предпринимательстве, медицине и всём остальном — логичность мышления, его адекватность (соотнесение с физическим миром, не-фантазийность) как раз и обеспечиваются логикой. Эта логика вероятностна, байесова.

Но ведь и байесова логика тут не последний шаг! Квантовоподобная логика использует тот факт, что с вероятностями из двух разных распределений нельзя проводить операции, они из разных алгебр! Для устранения этой проблемы невозможности вести общий вывод на множестве онтологий приходится из аксиом исчисления вероятностей, предложенных Колмогоровым убирать одну из аксиом — и после этого оказывается, что расчёт этих вероятностей становится квантовоподобным. «Квантовоподобный» — это не «истинно квантовый» (на квантовых эффектах из физики), но математика квантовоподобности берётся из квантовой физики так же, как математика дифференциального и интегрального исчислений была взята из механики. Это подробно изучается в работах Андрея Хренникова³⁰ и его коллег из лаборатории International Center for Mathematical Modeling³¹ в Linnaeus University. Логика не прекращает развиваться, хотя разные способы inference уже не всегда считают именно логикой — но выбор лучшего способа «логического вывода»/inference как раз и есть предмет логики!

Современный человек должен быть знаком с логикой, знаком с вероятностной и даже квантовоподобной природой логики, компьютерной поддержкой логики, должен уметь проводить логические рассуждения в естественном языке и учитывать неопределённость, уметь моделировать/записывать эти рассуждения в виде структуры из взаимоувязанных аргументов.

Увы, учат логичности мысли сегодня только косвенно, и уж тем более учат совсем уж косвенно логическим основаниям рационального мышления³². Логике полноценно в ходе обучения математике и физике не выучишь, если не обращать внимания на сам предмет логики! Логическим основаниям рационального мышления нужно учить:

• Непосредственно, то есть давая навыки логических рассуждений не по ходу рассуждений в других предметах, а прямо занимаясь постановкой логических оснований мышления, в том числе 1. изучением учебников, 2. решением задач, 3. работой в конкретных жизненных проектах.

• Выводить эти навыки на уровень осознания, моделировать «рассуждения по правилам», а не оставлять их выученными «исподволь». Это даёт возможность рассуждать по поводу логических оснований мышления — проводить рефлексию своей логичности, исправлять ошибки и развивать мышление³³.

• Задействовать моделеры и программное обеспечение для логического вывода и формального булевского, и вероятностного байесовского, и дополненного байесовского (квантовоподобного).

Логическое мышление, следование правилам логики, формулирование аргументов и их проверка весьма энергозатратно, если задействовать медленное точное мышление S2. Учиться логике нужно именно для того, чтобы логическое мышление было в какой-то мере автоматично, проходило с минимальным числом искажений, вносимых «быстрым» интуитивным мышлением (S1 по Канеману), чтобы оно было тоже быстрым и лёгким. Это тренируемо, и современные исследования показывают, что в достаточной степени³⁴.

Основная проблема в обучении логике — это проблема «А чо такова?»³⁵. Суть проблемы в том, что если указываешь на отсутствие логического мышления — то это не признаётся проблемой. Совершенно непонятно, как человеку объяснить, что он мыслит нелогично — он ведь нелогичен, поэтому аргументы для него просто пустой звук! «Два плюс два у тебя пять, это неправильно» — и в ответ: «А чо такова?!», при этом аргументы искренне не понимаются, кошка ведь тоже аргументы не понимает, она невменяема! Даже взрослые люди часто оказываются недоученными и не понимают рациональных объяснений — слабый интеллект включает только S1 по Канеману, «интуитивное мышление нейросетки» без подключения эмулируемого этой нейросеткой медленного логического вычислителя S2. Нейросетка — это универсальный алгоритм, универсальный аппроксиматор, она может бесконечно точно аппроксимировать при достаточных ресурсах (память и время) любой тип логики, хотя это может быть даже при достаточных ресурсах за пределами возможностей (например, «вот это вычисление можно сделать за 6 тысяч лет, будем начинать?»).

Если у человека в голове нет логики, нет понимания, как ему управляться с доступным ему (в отличие от кошки) режимом вычислений S2, нет понимания того, зачем логика нужна (и нет понимания онтологии, ибо логический вывод делается над какими-то мыслительными объектами, и нет семантики, ибо связь мыслительных/математических объектов, объектов физического мира и знаков, их обозначающих — это всё семантика, и понимания, что речь идёт не о знаках, а о понятиях — то есть нет в голове понимания теории понятий, и т.д.), то человек оказывается слабо вменяемым. Невменяемых агентов нельзя учить быстро! Поэтому невменяемых людей нужно:

• сначала дрессировать как кошку, но эту дрессировку посвящать освоению лучших практик умности, то есть дрессировать на мышление по практикам интеллект-стека

• когда получаем надрессированного хоть на какой-то уровень вменяемости человека (это медленно и трудоёмко!), то начинаем учить его рациональными объяснениями. Это быстро и просто.

• но не забываем, что по мере роста вменяемости надо возвращаться к «надрессированному» и давать рациональное объяснение этому «надрессированному»! Мало быть интуитивно логичным, надо быть осознанно логичным. Можно ввести понятие learning debt как раз для того, чтобы показать отсутствие понимания того, что ты умеешь делать после дрессировки (включая дрессировку «обезьянниченьем», через зеркальные нейроны)³⁶. А не понимаешь — не можешь рационально изменить, улучшить, научить кого-то ещё³⁷.