Научная и ненаучная наука -- косил косой косой косой.

Нельзя одно слово "наука" использовать в разных значениях. Алексей Каптерев продолжает серию постов про науку, вот у него про фаллибилизм Поппера и чайник Рассела: https://www.facebook.com/kapterev/posts/10224052025662359. У меня там замечание в унисон с Борисом Львиным, про необходимость отслеживать разные типы значений слова "наука". Я и раньше это отмечал, но это как-то незамеченным проходило, а Борис тоже поднял эту проблему. Это ведь реальная проблема! Онтологический дребезг (несоответствие операций нужным типам операндов, типа как "кипятить шероховатость") в этих текстах "про научный консенсус против фриков" дикий, работа идёт со словами, а не с понятиями. Слово означает все три понятия, а в мышлении вдруг потом вместо одного понятия выскакивает другое -- и разобраться уже невозможно, ошибки с типами. Если в тексте с разными типами операндов, обозначенными одним словом, выполняются разные операции, перескок типа становится неявным. Использование слова "коса" сразу во всех его значениях вдруг заставляет точить женскую косу до попы и пытаться заплести песчаную косу -- отвечая, что "коса -- это всё вместе!". У слова "наука" три словарных гнезда (на самом деле -- больше). Нужно каждый раз уточнять, если работаешь со всеми тремя значениями (терминология из треугольника Соссюра/семантического треугольника -- знак-термин/слово, значение-понятие/концепт, референт-объект в мире), то лучше вообще разными словами называть, или каждый раз уточнять значение. Например, если наука -- это бесконечное развитие объяснений (процесс), то нельзя в этом же тексте говорить наука -- это набор текущих объяснений/теорий (результат процесса) и нужно говорить, например, наука и вырабатываемые им знания (а не наука и вырабатываемая ей наука). И нельзя говорить про предсказания, полученные из этих объяснений "наука". То есть "наука даёт нам науку" (наука-процесс, даёт нам науку-объяснения [уже пропущено! в исходном высказывании], они дают нам науку-предсказания -- ужас же! А если наука даёт нам знания/объяснения, которые дают нам предсказания -- вот так уже без "науки-науки-науки" много понятней и можно уже как-то обсуждать содержательно). Это безотносительно того, что наука как труд/практика/метод/деятельность/процесс на выходе таки даёт объяснения (описания, ментальные объекты), а инженеры (используя и не используя эти объяснения) делают изменения физического мира, а художники они делают тоже описания, а не меняют мир. Но пока нет слов про "описания/объяснения", а есть только слово "наука", такое обсуждать невозможно. Через слеш я указываю синонимы, которые все имеют нюансы значений, но более-менее близки и ссылаются на одно понятие. Это обычное инженерное соглашение, его не я придумал. Разделять слова и понятия крайне важно, а вот определения как раз неважны, они лишь ухудшают дело (и Борис Львин, кстати, тоже это же подчёркивает: определения уместны в математических текстах). Понятия не определениями описываются. У меня в учебнике "Системное мышление 2022" про вред определений отдельный подраздел, в курсе "Онтологика и коммуникация" про это тоже говорится. Значения знаков/терминов не определениями даются, а (по Витгенштейну) их использованием. А люди так просто этими использованими свою нейронную сетку прокачивают, поэтому иногда говорят, что к новым понятиям (и языкам) люди "привыкают", а не "программируются, как компьютер, через определения". Про технологии (которые если хитры достаточно, то неотличимы от магии?) которые вдруг стали инженерами (неотличимыми от магов -- магами?) -- метонимия/conceptual blending (см, например, https://markturner.org/blending.html) мне очень не нравится по тем же соображениям ошибок в типах и операциях. Если, например, обсуждается тезис "наука -- это не учёные" (и мы даже как-то договорились не называть учёных "наукой", что более чем регулярно), а что-то большее, чем учёные (учёные каждый сильно ошибается, а наука обеспечивает непрерывный прогресс, выбирая догадки учёных с ошибками меньшими, чем у просто учёных, рассматриваемых вне научного процесса в целом), то фразы в которых говорится "технологии -- это инженеры" вызывают большие вопросы. И ладно, наука выдаёт знания/объяснения/теории, которые потом у инженеров становятся рекомендациями/требованиями -- и перед реализацией требований "в металле" мы им верим или не верим. Но что выдают "технологии", чтобы им верить или не верить? Вы верите или не верите в полёты SpaceX?! Они или летают, или нет, это ж не вопрос веры! То есть у меня претензии главным образом онтологические. Изложение художественное, но если начинать его понимать (разлеплять науку, результаты науки, учёных, равно как инженерию, результаты инженерии, инженеров, разбираться с тем, что из этого делают врачи и чем они отличаются от гомеопатов, которые тоже вроде как врачи, только методы у них другие), то понимание быстро теряется: обсуждаем объекты неизвестной природы, знакомые по газетам, а не по спецлитературе. Скажем, мир из учёных (на-гора выдают объяснения, то есть описания мира) и художников (на-гора выдают художества, то есть тоже описания мира, "картины мира", буквально). А мир-то кто меняет? Инженеров таки куда деваем? Инженерия ведь не сводится к "воплощению идей науки в физическом мире", это Billy Koen в своей "Дискуссии о методе" хорошо показал, даже Талеб любит по этой линии пройтись, даже в максимах это говорится ("Я не откажусь от обеда на основании того, что полностью теория происходящего с энзимами при переваривании пищи противоречива и не определена" или по тому же Коену ответ средневекового инженера, которого попросили построить мост через реку "Приходите через двести лет, когда люди напишут учебник сопромата, а я по нему выучусь"). Инженерия таки меняет мир, и использует всю доступную науку, но и много больше, чем науку. Исключать инженеров из мира нельзя. Кстати, я тут пишу даже не "системные инженеры", а просто "инженеры". Системная инженерия за последний десяток лет уже вошла по факту в образование большинства инженеров, без требований и архитектуры, без испытаний проверки и приёмки никто уже не работает, кроме самоучек-новичков, этому учат прямо в инженерном вузе. А я сам признаю, что мои собственные guesses, которые я не прокритиковал достаточно и считаю их SoTA, по Дойчу -- "ошибки"? Отдельный вопрос про SoTA (кстати, часто говорят, что SoTA я пишу неправильно, не нужно T капитализировать, или капитализировать нужно всё вместе. Но я не сам это выдумал, люди в AI именно так и пишут, см., например, прямо в абстрактах https://arxiv.org/abs/2112.03857, https://arxiv.org/abs/2112.03752, https://arxiv.org/abs/2111.15113, тысячи их). Должны ли мы считать SoTA объяснения надёжными? Нет, они ни разу не "надёжны". Там тот же Дойч предлагает одновременно два хода: 1) Догадку называть сразу "ошибкой" (чтобы точно помнить про опровержимость, и что придёт следующая догадка получше), а когда догадка становится SoTA, то она по-прежнему будет называться "ошибкой". То есть любая SoTA -- это ошибка. 2) К SoTA относиться всерьёз (согласно principal principle). То есть если SoTA говорит, что E=mc2, то в любом грамме вещества энергии реально до чёртиков, и её можно высвободить. ОК, переходим к инженерии (вот этот момент важен: это уже не наука, не объяснения, это использование объяснений: серьёзное к ним отношение), вкладываем дикие бабки и жахаем ядрёную, а затем и термоядрёную бомбу. То есть к SoTA "относимся серьёзно" (это не эквивалентно "считать надёжным"), и постоянно следим за изменениями. К SoTA по части понимания самих методов исследований (научное мышление, наука) тоже относимся так же. SoTA там -- попперианство с поправкой Дойча (не любая идея, а объяснение как теория) и три уровня лестницы причинности (causal inference) по части того, что же такое объяснение (все эти дойчевские "трудоварьируемости" увы, не идут в зачёт, ибо не очень формально определены). В до сих пор тлеющей дискуссии по посту "Сначала стань грамотным, потом обсуждай грамотность" https://freefeed.net/ailev/f027e8fa-235c-4863-9793-f9661b813532 меня спросили, как раз про мою уверенность в собственных выводах, собственных решениях: какие я сделал в 2021 году ошибки? Я думаю, что самые крупные ошибки (определим их как догадки, которые удалось после их высказывания таки прокритиковать и нужно бы выкинуть или улучшить: по Дойчу часть догадок просто откидывают, а часть улучшают, модифицируя так, чтобы снять возражения) ещё выяснятся чуть попозже, через пару-тройку лет. У меня ведь все ходы пишутся, потом легко смотреть, что делал и что из этого получилось. Вообще, так мне сейчас кажется, что 2021 был у меня как раз годом сплошного исправления ошибок предыдущих лет. Скажем, ОдО2020 было организовано вокруг идеи курсов по интеллект-стеку. Это абсолютная ошибка была, и хуже всего, что я ещё и своих преподов за такое ругаю. ОдО2021 переписывалась в итоге полностью, курсы ушли в тень, а на первый план вышли дисциплины. Есть большое подозрение, что эти дисциплины неправильно укладывать в стек так, как я это делаю, там онтологический ад и коровники в этом месте. Это объяснительный стек, но из книги можно понять, что это какой-то системный стек. Вообще, онтология дисциплин мутна, и я её плохо проработал (но я честно везде пишу, что с онтологией ментальных объектов всё плохо). То есть в этом месте всё плохо и нужно переделывать, но я не понимаю пока, как (более того, и не планирую пока переделывать). Ещё одна дыра -- у меня эволюционная теория в интеллект-стек сейчас явно не вписана, хотя первая глава базируется на одном из эволюционистов, Stanley. Но работа Ванчурина et al вышла сильно позже, и в итоге эволюция в явном виде в стек не попала (то есть она, конечно, есть в исследованиях, но она там как "бесконечное развитие" и не положена на физику, а надо бы). У меня на эти темы большой план уже есть (вот: https://ailev.livejournal.com/1602185.html), но пока это план. Дальше вопрос, не ошибкой ли было переписывать три месяца системное мышление на версию 2022 года, вместо того, чтобы потратить время на добавку эволюции в интеллект-стек. Скажем, Виктор Агроскин предлагал именно так и сделать, чтобы учесть в системном мышлении многоуровневую эволюцию и, главное, фрустрации между уровнями. Я же ответил ему "release early, release often" и выпустил текущий вариант, без этих фрустраций. Ошибка ли это? И ошибка моего понимания, или инженерная ошибка моего решения что-то делать? Вот не знаю, вполне может быть. И такого у меня до чёртиков, бег по тонкому понятийному льду. Наука и статистика. Принципиальный принцип: шансы против случайности. Про науку хорошо бы читать про нельзя и льзя у Марлетто, https://ailev.livejournal.com/1566392.html. Вообще, у Перла лестница причинности, и вся статистика (не фишеровская! байесовская!) это только первый уровень лестницы причинности. Если говорить про науку в терминах priors и статистики, то это допотопное представление из 20 века. Наука 21 века (после 2009 года, основных работ по causal inference) -- это объяснения, основанные на контрфактических высказываниях, это третий уровень лестницы причинности (интервенции там второй уровень). В 21 веке (ибо уже после 2000 года прошла причинная революция, или одомашнивание причинности, как любит говорить тот же Перл) любые ссылки на просто статистику (ага, байесовскую) без дополнительных соображений по части графов причинности -- не наука. Если обсуждать восход Солнца, то всё ОК про учёных и предсказания. Если обсуждать "вакцины" по части предсказаний, то есть инженерный проект, в отличие от Солнца, это опять таки требует инженерного захода, а не научного. И ещё мы должны обсуждать вопрос о том, мы шансы успеха в действии обсуждаем (вопрос про человека) или случайности, происходящие в природе (независимо от того, человек ли их наблюдает). Это проблема "принципиального принципа": основная идея, предложенная David Lewis в том, что человек действует исходя из шансов, а случайность -- это другое. Это предложено David Lewis, "человек действует, исходя из шансов", вот тут подробное обсуждение: https://plato.stanford.edu/entries/chance-randomness/basic-chance.html Это очень горячее место сейчас в создании как-то связной рациональной картины мира. Например, квантовый компьютер построен исходя из того, что в природе вероятностей нет, это чисто человеческий конструкт, нужный для принятия людьми решений. А природа сугубо детерменистична, ничего случайного, даже в квантовой физике! И доказательство того, что квантовый компьютер таки работает в 1985 году было получено Дойчем именно на основе principal principle, эта идея разрабатывалась им с Wallace (при этом они с Wallace до конца так и не договорились по этому поводу). Вот попытка построения теории вероятности как "теории наблюдателя, а в природе всё неслучайно", это линия Дойча-Марлетто, https://arxiv.org/abs/1507.03287. И это до сих пор горячее место, вот последний наезд на это был буквально в прошлом году: https://arxiv.org/abs/2010.11591 Основная решаемая проблема в основаниях науки -- это то, что не так много универсальных законов. Скажем, та же термодинамика вроде как верна для макротел, но вот на микроуровне там сразу каюк (смотрим проблемы в https://arxiv.org/abs/1608.02625), а ведь термодинамика и к эволюции применяется, https://arxiv.org/abs/2112.02809, и к оценке энергоэффективности Машины Тьюринга, https://arxiv.org/abs/1912.04685. Электроника вся как раз дошла до таких размеров, что она на квантовых эффектах работает, а энергоэффективность -- наше всё. И иметь много разных физик, много разных моделей мира оказывается очень неудобно. Ищутся объяснения, как бы всё на всех масштабах системности (крупности вещества) обсуждать, чтобы не оговаривать: "вот тут работает, тут жирное пятно, не читать, это я рыбу заворачивал, вот тут нужно на соседней бумажке с этого места". То есть современная картина мира многоуровнева (системна), это признаётся практически консенсусно, но вот сама системность плохо объяснена ещё -- её приписывают "глазам наблюдателя", а физикам зависимость от "глаз наблюдателя" сильно не нравится. Вот и начинают обсуждать, где там "случайность происходящего в мире", а где "оценка человеком того, что там случайно, и от чего эта оценка зависит, и как будет действовать человек на основании этой оценки". Но ведь статистика решает многие задачи, все эти каузальности не очень нужны. Ну вот мнение такое, что для всех задач каузальность нужна. И нужно просто проверять, что если познаются (в AI -- learn/выучиваются) какие-то распределения в рамках statistical learning (или используется термодинамика для оценки этих распределений в условиях, когда никаких данных для понимания, что там происходит, нет, это хорошо объясняется у Jaynes в его "Логике науки"), это всё равно делается в рамках каузального размышления как его часть, не независимо от причинных рассмотрений. То есть statistical learning вполне норм, но задаётся вопрос о том, куда и зачем его втыкают (системный ход: на рассмотрение окружения). И если оказывается, что "каузальность не предусмотрена вообще", то машут рукой и желают приятных удовольствий. Это я пишу уже по итогам обсуждений в чате блога, с https://t.me/ailev_blog_discussion/12523 Грубо говоря: — всё статистическое — это первый уровень лестницы причинности. — пока не будет трёх уровней (статистика, интервенции, контрфактуальность), не будет никакого познания/науки/learning, это не интеллект ни разу. Результаты мышления как вычислений интеллекта должны быть объяснениями, интеллект сам должен быть explainable. Дойч про это же другими словами: "предсказания сами по себе нафиг не помогают", у него целый раздел в "Начало бесконечности" об этом. — для следующих уровней нужно не learning, а порождение: guess в части причинности, привносимый экспертами "от балды" (не выводом, не статистикой, а "из шума/Хаоса", творчество в чистом виде. Отфильтрованный, но таки шум/мутации/ходы в "невыводимую" новизну/прилёт сбоку) — дальше мы критикуем эти guess/"порождённые из шума ошибки", используя статистику, она нужна для этого. Знание не выучиваемо статистически, оно статистически лишь критикуемо! Ну, и выжившая ошибка становится SoTA, к ней относимся серьёзно. По этой линии рассуждений от языковых моделей/foundational models остаётся лишь мокрое место, которое слегка пованивает. Моя гипотеза, так ответом могут быть режимы GAN/diffusion models и аналогичные по graph models (выучиванию графов, только инвертированные). Графы с их дискретностью нам нужны, чтобы добиться некоторой устойчивости/повторяемости (цифра позволяет одинаково проводить вычисления, а не накапливать ошибку, как аналог). И далее делаем архитектуру на порождении guesses (generative network какой-нибудь природы, много их) и далее уже statistical learning будет осмысленным, будет выбирать между разными догадками самую сильную. Но это чисто мои спекуляции. С другой стороны, к чему-то такому потихоньку и сползается, только абсолютно безалаберно и с продвижениями в каждой части отдельно. Типа как автомобиль собирают: кто-то двигатель придумал, кто-то шины, кто-то руль. Но вместе пока не собирают ))) Это вот очень интересное место, связывающее физику, эволюцию и познание/learning. Так, почему эффективно глубокое обучение я бы оценивал по другой линии, о которой говорил ещё в 2015 году и до сих пор её придерживаюсь: https://ailev.livejournal.com/1197148.html (линия физичности, работы по стёклам, и дальше в 2016 там продолжается https://ailev.livejournal.com/1274014.html). И сейчас к этой линии привязывается эволюция и всякое такое, и таких работ у физиков до чёртиков. В русскоязычных кругах обсуждается больше всего вот эта свежая работа Ванчурина, Вольфа, Кацнельсона, Кунина: https://arxiv.org/abs/2110.14602 (там все авторы русскоязычные, хотя и все эмигранты). Математика нейросетей очень похожа на математику стёкол, как простейших физических объектов, в которых действия не полностью обратимы (то есть зависимость от предыдущих состояний при попытке нагреть-охладить сохраняется, у них есть "память"). Для эволюции тоже нужна память. И она идёт на разных масштабах времени. И примерно то же самое говорится про нейросетки. Ванчурин сотоварищи это применяет наоборот: "эволюция похожа на нейросетки", но нейросетевики говорят в обратном порядке: "нейросетки похожи на эволюцию". * * * Вообще-то это только небольшие кусочки того, что я наговорил в последнюю пару дней в этих ваших интернетах. Надо бросать всё это комментировать и писать самому. Пусть меня комментируют! ))) UPDATE: https://www.facebook.com/ailevenchuk/posts/10222265527601155