Обсуждение

Активно пользую лет пять как минимум http://www.bnlearn.com/

>Что симптом говорит мне о болезни? Возможно звучало бы лучше: что говорит мне симптом? Или, что говорит мне о болезни?

Вот это как раз в развитие идей байесовских сетей от их автора.

Это перевод "What does a symptom tell me about a disease?" из статьи по ссылке. Это я не сам придумываю формулировку ))) Более того: обратите внимание, что там по тексту везде X и Y (то есть во всех вопросах нечто говорит о другом нечте), а иногда ещё и Z участвует. Так что никак нельзя опускать в этих вопросах какие-то причины или следствия -- они указываются явно.

Какие открытия/прорывы были совершены с использованием этой формализации причинности? ТРИЗ тоже предпологал взрыв в сфере решения изобретательских задач, но где он? Да, есть формальный план научного познания: 1. Накопление возможно большего количества достоверных фактов, найденных при исследовании явления и информации об условиях, в которых эти факты проявлялись. 2. Ассоциативные сопоставления фактов с уже известным, ранее пережитым жизненным опытом. 3. Моделирование в различных ситуациях и условиях с целью оставить непротиворечивые ассоциации и найти им эквивалент для описания явления. 4. Нахождение наиболее общих условий, для которых непротиворечивые описания оказываются взаимно непротиворечивыми(определение граничных условий использования предположительного утверждения или модели понимания). 5. Нахождение конкретных способов проверки в реальном опыте утверждений, т.е. реальных условий, в которых можно было бы получить реальный результат и сравнить его со сделанным утверждением. 6. Формализация модели понимания. Но открытия не совершаются идя четко по этим пунктам и это очевидно следует из механизмов мышления, которые едины вследствие определенной организации памяти мозга. Все эти формальные пути решения возможны лишь задним числом, когда уже есть эвристический результат.

Вот вы тут кратко пересказали основные идеи книжки Judea Pearl -- "Все эти формальные пути решения возможны лишь задним числом, когда уже есть эвристический результат". Именно так: берём эвристический результат и дальше формально его проверяем на валидность. Нет причинной модели (эвристического результата или его идеи) -- нечего проверять. Предлагается же не генератор идей! А вот какие открытия/прорывы были с верификацией по частям предложенных методов -- вот об этом и в самой книжке есть. И что становится возможным только в последние годы, и какие трудности были без предложенных в последние годы методов.

****И так дальше: по идее, научное мышление оказывается не менее важным для современного человека, чем системное мышление. хехе, помню у вас на диаграммке научное входило в системное (вроде не ошибаюсь) научное то мышление доказало свою пользу а вот системного мышления похоже еще не создано никем, в том числе и вами, так нащупываются отдельные элементы вы этими элементами постоянно жонглируете, что как раз и говорит о том, что нащупываете, т.е. по сути на настоящий момент нет это концепции системного мышления, вы не понимаете, что это, пока не понимаете, но пытаетесь видимо понять вот как раз об этом свидетельствует и это: ***И содержание фундаментального образования (https://ailev.livejournal.com/1427073.html) опять изменится. Забудьте всё, что вы знали про "причины", "следствия", "корреляцию" и "механизмы". Выучите это всё заново. --- и я так и не увидел определения причинности в посте

> можно думать о курсе "научное мышление", который учит научному подходу в его самой современной версии. Научный подход -- это набор приёмов по созданию всё более и более точных в предсказании поведения реального мира теорий (т.е. моделей реального мира, абстрагирующих свойства его индивидов). Вот на эту конкретно тему Пёрл добавил не так много в книге к научному подходу Поппера, которого Пёрл придерживается. Поэтому я бы не сказал, что Пёрл устроил целую революцию. Он скорее развенчал заблуждения и мифы по "статистической науке", которые уводили от Поппера (возможно, сами того не сильно осознавая). А Пёрл добавил в основном "дифуры", если продолжать аналогию. Но эти "дифуры" в ML уже убежали, конечно, сильно дальше, в causal representation learning и т. п.

Тут интересная линия: Дойч поправил Поппера, говоря, что наука должна продуцировать не "любые идеи", догадками будущих теорий (выживших в ходе критики догадок, которые "будут приняты всерьёз") должны быть не "любые идеи", а именно объяснения. Но сам он не слишком много говорил, что же такое "хорошее объяснение", его критерий "сопротивляется лёгкости изменения" ну очень субъективен. И тут приходит Перл и рассказывает, что такое "объяснение". Я так и рассказываю: у Дойча нужно читать про "исследования" (как устроена наука во времена просвещения), а у Перла — про объяснения. При этом у Дойча про объяснения практически ничего нет (кроме указания на важность контрфактуальности, без особого раскрытия тезиса), а у Перла ничего на тему откуда берутся его "графы причинности" и как это вообще связано с наукой (он только говорит, что графы должны быть догадкой предметного эксперта, а потом поверены расчётами в порядке критики, связь с попперианством главным образом тут).

Спасибо за пояснение, теперь понятно почему вы упоминаете их часто вместе. Мне кажется, Дойч и Пёрл используют термин "counterfactual" в двух довольно разных смыслах, и это сильно запутывает. Смысл Пёрла кристально ясен (в рамках какой-то причинной модели), он дает конкретные математические выражения. Дойч не использует термин в The Beginning of Infinity ни разу. В первой работе по constructor theory (https://arxiv.org/pdf/1210.7439.pdf), "counterfactual" впервые используется вот в этом абзаце: Causation is widely regarded by philosophers as being at best a useful fiction having no possible role in fundamental science. Hume (1739) argued that we cannot observe causation and therefore can never have evidence of its existence. But here I shall, with Popper (1959, 1963), regard scientific theories as conjectured explanations, not as inferences from evidence, and observation not as a means of validating them, but only of testing them. So Hume’s argument does not apply. Nor does the argument (e.g. by Russell 1913) that the fundamental laws of physics make no reference to causes – for that is merely an attribute of a particular way of formulating those laws (namely, the prevailing conception) not of the laws themselves. Moreover, the prevailing conception itself is not consistent about that issue, for the idea of a universal law is part of it too, and the empirical content of such a law is in what it forbids by way of testable outcomes (Popper 1959, §31 & §35) – in other words in what transformations it denies can be caused to happen, including to measuring instruments in any possible laboratories. Explanatory theories with such counterfactual implications are more fundamental than predictions of what will happen. For example, consider the difference between saying that a purported perpetual motion machine cannot be made to work as claimed ‘because that would violate a conservation law’ and that it won’t work ‘because that axle exerts too small a torque on the wheel’. Both explanations are true, but the former rules out much more, and an inventor who understood only the latter might waste much more time trying to cause the transformation in question by modifying the machine. Из этого абзаца я вывожу, что он вкладывает вот что: counterfactual explanation = explanation (theory) that can generate testable predictions, that is, predictions of what can *not* be caused to happen. Получается, по Дойчу, counterfactual это P(Y|do(X)) = 0. И проверяем вот это do(X) в эксперименте. Что в терминах Пёрла вообще не counterfactual, а intervention, да еще и частный случай (P = 0).

Я ж говорю, что Дойч плохо пишет про объяснения. По этой линии с объяснениями пошла дальше Марлетто. Помним, что в её книжке контрфактуалы вынесены в название: The science of can and can’t : a physicist’s journey through the land of counterfactuals. И вот у неё в списке Essential Further Readings есть и The Book of Why. То есть Дойч идею "что такое объяснение" не додумал, а вот Марлетто додумывает, соединяя с линией Перла.

Вот тут я ещё чуть-чуть развернул свой тезис: https://ailev.livejournal.com/1605383.html Там рассказываю хронологическую последовательность: сначала Дойч уточняет в 2011 Поппера тем, что итогами исследований/науки должны быть "объяснения", но про сами объяснения говорит очень невнятно. Перл в 2018 попсово подводит итоги "одомашнивания причинности" и объясняет, что такое объяснения (pun intended), но не что такое исследования в целом (его волнует "одно исследование", а как там одни объяснения заменяют другие — нет). Марлетто в 2021 году соединяет эти обе линии рассуждений. Я же намеренно и явно в эпистемологии выделяю две главные мыслительные практики, которые нужно обсуждать отдельно и специально. Ещё нужно учитывать, что надо потом зашнуровывать эти обсуждения объяснений и исследований в одно целое в рамках полного интеллект-стека. И что объяснения (работа над получением приличного графа причинности в одном исследовании) и исследования/наука (замена одних графов причинности другими получше, и так до бесконечности) -- это практики разных системных уровней.