Анатолий Левенчукailev.ru

Упражнение: чему посвящены трансдисциплины практик интеллект-стека

Анатолий Левенчук · Поиск в руководстве · MCP

Открыть это место в полном тексте руководства →

Упражнение: чему посвящены трансдисциплины практик интеллект-стека

Запишите несколькими предложениями, какими вопросами занимаются трансдисциплины практик интеллект-стека. Пишите своими словами (хотя можно использовать термины), не копируйте текст учебника. Далее вспомните хотя бы одну ситуацию, когда вам могло бы помочь знание той или иной трансдисциплины.

Мыслительная трансдисциплинаЧем занимается трансдисциплинаСитуация, в которой мне пригодилось бы её знание
Системная инженерия
Методология
Риторика
Этика
Эстетика
Познание/исследования
Рациональность
Логика
Алгоритмика
Онтология
Теория понятий
Физика
Математика
Семантика
Собранность
Понятизация
6

«On the Measure of Intelligence», last revised 25 Nov 2019, https://arxiv.org/abs/1911.01547

11

Фирм, занимающихся нейроинтерфейсами, сейчас множество: Blackrock Neurotech, BrainGate, ClearPoint NeuraLink, Neurable, Precision Neuroscience, Synchron, Kernel, Motif Neurotech. Гуглите, чтобы узнать текущее состояние дел в этой предметной области, там всё меняется очень быстро.

14

замена в нейролингвистическом программировании неудачного термина "четверка" заимствованными из теории автоматов словами "первый доступ", означающими набор ощущений во всех модальностях восприятия, но до их языковой обработки. Соответственно, "прямой доступ" — это информация об объекте, получаемая в терминах входного потока (фотоны, звуковые волны и т.д.), человек не имеет "прямого доступа", только "первый доступ". "Второй доступ" — это после подключения языка, именования паттернов, наблюдаемых первым доступом.

40

https://en.wikipedia.org/wiki/Agency_(philosophy), the capacity of an autonomous agent to act, relating to action theory in philosophy. https://en.wikipedia.org/wiki/Agency_(psychology), the ability to recognize or attribute agency in humans and non-human animals. https://en.wikipedia.org/wiki/Agency_(sociology), the ability of social actors to make independent choices, relating to action theory in sociology. https://en.wikipedia.org/wiki/Structure_and_agency, ability of an individual to organize future situations and resource distribution.

42

обсуждение коннекционизма против символистского знания, 2016 https://ailev.livejournal.com/1281819.html, а также 2023 в «Об духовность и нечленораздельность», https://ailev.livejournal.com/1665855.html

46

https://en.wikipedia.org/wiki/Extended_cognition, хотя это в разы менее популярный тезис, чем embodied cognition — но кроме embodied, то есть «мозг-не сам по себе, а в-теле», в этот тезис включаются embedded, то есть мышление функционирует только в связанном с ним окружении/environment, enacted — включает не только вычисления в нейронной сети, но и действия, которые делают вещи и организм, а также extended — распространяется на окружение организма

47

https://en.wikipedia.org/wiki/The_Extended_Mind — «And what about socially-extended cognition? Could my mental states be partly constituted by the states of other thinkers? We see no reason why not, in principle."

49

Каламбур намеренный.

55

«Болваны для искусственного интеллекта», https://ailev.livejournal.com/1356016.html

75

Посмотрите примеры неоптимальности эволюционных решений. Всё работает, но крайне неэффективно, ибо наследуются какие-то черты конструкции из предыдущих поколений. Скажем, у рыб не было шеи, и гортанный нерв от мозга к горлу шёл по оптимальной прямой траектории, у человека с этим уже плохо и не оптимально, нерв «возвратный», ибо проходит через петельку кровеносных сосудов около сердца а у жирафа такая петелька вообще вызывает удивление своей неоптимальностью: https://ru.wikipedia.org/wiki/Возвратный_гортанный_нерв. Ни один рациональный конструктор такого бы не допустил!

80

Ключевая работа тут была — https://arxiv.org/abs/2203.15556

81

we show in the technical paper that with just 30 minutes of focused training on a newly presented complex task, the [pretrained on multiple tasks] agents can quickly adapt, whereas agents trained with RL from scratch cannot learn these tasks at all, https://deepmind.com/blog/article/generally-capable-agents-emerge-from-open-ended-play

85

«Этот человек в топ-1% по навыкам кодинга 💯, скорее даже 0.01%, и при этом он делает то, чего я часто не вижу у вопрошающих людей в Slack/телеграм чатах/у стажеров на работе. Он видит ошибку И СРАЗУ ЕЕ ГУГЛИТ, НЕ СТЕСНЯЯСЬ. И, внезапно, находит решение 😱. Я не знаю, почему люди этого не делают, быть может думают, что умные и сами разберутся» — https://t.me/seeallochnaya/414

90

, The Book of Why: The New Science of Cause and Effect, https://www.amazon.com/Book-Why-Science-Cause-Effect-ebook/dp/B075DCKP7V/

100

хорошо описано у него в книжке «Думай медленно... решай быстро» — https://www.amazon.com/Thinking-medlenno-reshay-bystro-Russian/dp/5170800533/

101

https://arxiv.org/abs/2203.15556, пояснения на русском с https://t.me/gonzo_ML/1216

107

https://libcat.ru/knigi/religioznaya-literatura/samosovershenstvovanie/390938-dzhon-grinder-shepot-na-vetru.html — описание подхода на русском языке, от одного из соавторов подхода, профессора лингвистики.

108

The Routledge Handbook of Semiosis and the Brain, 2022: Neurosemiotics aims to identify and explain the neural processes and mechanisms that manifest as sign-relations in the animal kingdom, thereby supplying semiotic models to neurobiological accounts.

120

Shlomo Vaknin, «The Big Book of NLP, Expanded: 350+ Techniques, Patterns & Strategies of Neuro Linguistic Programming», 2010, 828 страниц

121

https://arxiv.org/abs/2210.12761 от Friston со товарищи, https://arxiv.org/abs/2301.10077 от Ванчурин со товарищи, https://www.mdpi.com/1099-4300/25/1/129 вот от от Hoffman со товарищи, https://writings.stephenwolfram.com/2023/02/computational-foundations-for-the-second-law-of-thermodynamics/ от Wolfram, constructor theory https://www.constructortheory.org/ по факту про то же.

149

//www.f******k .com/igorberkhin/posts/935121679939782

150

Джудит Анодея, «Чакры. Полная энциклопедия для начинающих», https://www.ozon.ru/context/detail/id/139419314/

156

Статья: https://disk.yandex.ru/i/R-KOlFtVUUttcg (можно почитать краткий пересказ её идей — https://selfawarepatterns.com/2019/09/29/a-standard-model-of-consciousness/).

168

https://www.litres.ru/book/dzhedayskie-tehniki-23590168/ и https://www.litres.ru/maksim-dorofeev/put-dzhedaya/. Тщательно отфильтровывайте в этих книгах восточную эзотерику! Вся эта «восточная философия» легко уводит от сути дела. Оставляйте только рациональные советы.

174

см. «Визуальное мышление. Доклад о том, почему им нельзя обольщаться» с возражениями против визуального мышления в пользу текстовых моделей https://ridero.ru/books/vizualnoe_myshlenie/

175

доклад Антона Меркулова про успех текстового представления для мышления об архитектуре предприятия — https://www.youtube.com/watch?v=6EWUpa-5lSo, эксперименты в OpenMeta в 2003-2005 году по усилению формализма в текстах, стиль «метлан» — https://openmeta.livejournal.com/16970.html

176

пара видео выпускников курса системного менеджмента ШСМ о результатах таблично-текстового моделирования в современных productivity tools (главным образом coda.io): https://www.youtube.com/watch?v=JlXeQxAkDf0 и https://www.youtube.com/watch?v=KAQzn5GvMNw.

178

Модели выражаются преимущественно схемами, а не диаграммами. Диаграммная техника хороша только на самых начальных стадиях умственной работы, начальных стадиях группового размышления. См. подробней в книге «Визуальное мышление. Доклад о том, почему им нельзя обольщаться», https://ridero.ru/books/vizualnoe_myshlenie/

187

Впервые иллюзия была предложена ещё в 1901 году, https://archive.org/details/factfableinpsych01jast/page/295/mode/2up

196

https://lab42.global/arcathon/ — набор задач на распознавание паттернов компьютеры решают на 31%, а люди — на 80%. Хотя многие другие тесты компьютеры уже проходят не хуже людей — https://super.gluebenchmark.com/leaderboard

197

Обучение представлениям (representation learning), https://ailev.livejournal.com/1045081.html

198

«The Geometry of Meaning: Semantics Based on Conceptual Spaces», Peter Gärdenfors, https://www.amazon.com/Geometry-Meaning-Semantics-Conceptual-Spaces/dp/0262533758/

199

https://www.ruthenia.ru/ruth/contents_semiotica.html — оглавление спецвыпуска 125 журнала Semiotics, 1999 год

201

https://en.wikipedia.org/wiki/Chinese_characters — история китайского иероглифического письма

205

https://www.amazon.com/dp/0262720205, Handbook of Theoretical Computer Science - 2 Vol Set by Jan van Leeuwen, 1994, 2293 pages

209

https://arxiv.org/abs/2301.00942, раздел 2.3.1. Universal approximation results

218

это подробно обсуждается в книге «Визуальное мышление», https://ridero.ru/books/vizualnoe_myshlenie/

228

«Теоретическое и компьютерное моделирование логических рассуждений» http://ailev.livejournal.com/915253.html

238

Хренников А. Ю. Введение в квантовую теорию информации. — М.: ФИЗМАТЛИТ, 2008. — 284 с.

258

https://en.wikipedia.org/wiki/Proof_theory (и там смотрите Formal and informal proof)

261

https://royalsocietypublishing.org/doi/10.1098/rstb.2014.0167, "Consciousness: here, there and everywhere?", 2015, by Giulio Tononi and Christof Koch

318

https://arxiv.org/abs/2012.01150, слайды и видео рассказа от декабря 2022, https://philomatica.org/2022/12/univalent-foundations-and-applied-mathematics/

323

The simplification in integration architecture that 4D supports https://gateway.newton.ac.uk/sites/default/files/asset/doc/2105/Ian%20Bailey.pdf

332

https://planetmath.org/informaltypetheory, и такие тексты, как "свобода от логики", https://golem.ph.utexas.edu/category/2012/11/freedom_from_logic.html, traditional mathematics is usually written in natural language (with some additional helpful symbols), but in a way that all mathematicians can nevertheless recognize as “sufficiently rigorous” — and it’s generally understood that anyone willing to undertake the tedium could fully formalize it in a formal system like material set theory, structural set theory, or extensional type theory. By analogy, therefore, we would like an “informal” way to write mathematics in natural language which we can all agree could be fully formalized in homotopy type theory, by anyone willing to undertake the tedium.

333

On the Measure of Intelligence, https://arxiv.org/abs/1911.01547, 2019

355

типа вот этого: https://www.motionmountain.net/index.html и в нём какие-то обобщения типа вот этого: https://www.motionmountain.net/9lines.html.

357

вот пример 1973 года изготовления, на относительно древнем физическом материале: https://triz-summit.ru/triz/metod/physics/

371

Проблемы обучения методологическим дисциплинам, 2019, https://ailev.livejournal.com/1466484.html

375

Тяни-толкай в коннекте и минимизация усилий для рывка и блокирования — https://vk.com/wall-179019873_1622

388

Наиболее ярко это делает в своих работах George Lakoff, https://en.wikipedia.org/wiki/George_Lakoff

397

Nicola Guarino, Daniel Oberle, and Steffen Staab, What Is an Ontology?, in S. Staab and R. Studer (eds.), Handbook on Ontologies, Springer-Verlag, 2009

398

Karl Friston, Embodied inference: or "I think therefore I am, if I am what I think" In W. Tschacher, C. Bergomi (Eds.), The implications of embodiment: Cognition and communication (pp. 89–125). Imprint Academic., https://www.fil.ion.ucl.ac.uk/~karl/Embodied%20Inference.pdf

400

Онтологическая инженерия в 2022, https://ailev.livejournal.com/1653296.html

401

Раздел «CYC никуда не делся, продолжает делать и исправлять свои ошибки», https://ailev.livejournal.com/1610230.html (2022)

404

Эти разные, разные «меты», https://ailev.livejournal.com/1053878.html

405

Этот сценарий взят из «Слова-термины важны, и не важны» https://ailev.livejournal.com/1442764.html, этот материал в каком-то виде присутствует в курсах системного мышления и системного менеджмента.

411

Kit Fine, The Identity of Social Groups, 2020 https://metaphysicsjournal.com/articles/10.5334/met.45/

412

Salvatore Florio, Core Constructional Ontology (CCO): a Constructional Theory of Parts, Sets, and Relations, 2021, https://gateway.newton.ac.uk/presentation/2021-04-22/29947

413

Chris Partridge, 4-Dimensionalist Top Level Ontology, https://gateway.newton.ac.uk/presentation/2021-04-22/29946

416

https://ai.googleblog.com/2022/04/pathways-language-model-palm-scaling-to.html — там одна из самых популярных иллюстраций, мы уже приводили эту работу, когда обсуждали нейросемиотику в подразделе «Понятизация». Вот ещё одна работа на эту тему: https://arxiv.org/abs/2206.07682

424

https://ailev.livejournal.com/1265432.html, Этот подход продолжает реализовываться, см. доклад Кушниренко и Райко «Дошкольная информатика без компьютера» (видео второго доклада https://vimeo.com/337031069, слайды http://g-l-memorial.ice.ru/files/941738/Kushnirenko_Raiko_2019.pptm).

426

SICP (Structure and Interpretation of Computer Programs вышел в 1979 году, 41 год назад), он был «фундаментальным курсом» для computer science (https://mitpress.mit.edu/sites/default/files/sicp/index.html).

427

In short, SICP, Scheme, and functional programming don’t prepare students properly for other programming courses and thus fail to meet a basic need — https://www2.ccs.neu.edu/racket/pubs/jfp2004-fffk.pdf. Название этой критики SICP ровно то, что нам нужно — The Structure and Interpretation of the Computer Science Curriculum (Matthias Felleisen, Northeastern University, Boston, MA, USA, Robert Bruce Findler, University of Chicago, Chicago, IL, USA, Matthew Flatt, University of Utah, Salt Lake City, UT, USA, Shriram Krishnamurthi, Brown University, Providence, RI, USA).

435

самое ранее упоминание было в 2019 году — http://chemistry-chemists.com/forum/viewtopic.php?f=45&t=1600&start=100, это краткое изложение более длинного и полного рассказа catcha в 2011 году, https://www.multitran.com/c/m.exe?a=4&MessNum=257738&l1=1&l2=2

436

первый доклад в https://vimeo.com/553810189, слайды https://yadi.sk/i/F6e33aVANX3J3g

451

http://www.isattentionallyouneed.com/, но есть и разные другие варианты оценок, например, https://www.metaculus.com/questions/4892/transformers-as-lm-sota-in-2025/

464

См. ленту новостей по алгоритмике для универсальных алгоритмов (алгоритмов AI), https://syncedreview.com/

470

Краткий рассказ в https://selfawarepatterns.com/2019/09/29/a-standard-model-of-consciousness/, полное изложение в https://yadi.sk/i/jNrkSyc-9ohRIA

481

Friedrich Ludwig Gottlob Frege (b. 1848, d. 1925), https://plato.stanford.edu/entries/frege/

489

Подробней эту линию рассуждения про преимущества рациональности перед восточным упованием на интуицию и «непосредственное знание» см. в текстах «об членораздельное и голографическое в социологии» http://ailev.livejournal.com/1281819.html и «об интуицию и чуйку» http://ailev.livejournal.com/1295595.html.

499

E.T.Jaynes, «Probability theory: the logic of science», 2003, https://b-ok.cc/book/539703/d8b66c

501

E.T.Jaynes, «… if degrees of plausibility are represented by real numbers, then there is a uniquely determined set of quantitative rules for conducting inference. That is, any other rules whose results conflict with them will necessarily violate an elementary and nearly inescapable desideratum of rationality or consistency. But the final result was just the standard rules of probability theory, given already by Bernoulli and Laplace; so why all the fuss? The important new feature was that these rules were now seen as uniquely valid principles of logic in general, making no reference to «chance» or «random variables"; so their range of application is vastly greater than had been supposed in the conventional probability theory that was developed in the early twentieth Century . As a result, the imaginary distinction between «probability theory» and «statistical inference» disappears, and the field achieves not only logical unity and simplicity, but far greater technical power and flexibility in applications».

502

«Правдоподобия, P-значения и кризис воспроизводимости»: https://habr.com/ru/post/430190/

505

«за пределами STEM-образования», http://ailev.livejournal.com/1283663.html

506

«пониманию учить вдвое дольше, чем просто навыку», http://ailev.livejournal.com/1285014.html

509

«Осознанность против зеркальных нейронов», https://ailev.livejournal.com/1284158.html

510

«Пониманию учить вдвое дольше, чем навыку», https://ailev.livejournal.com/1285014.html

512

Вот тут говорится с одной стороны о синонимии, но с другой стороны подчёркивается изучение разных отношений в ходе познания: https://ru.wikipedia.org/wiki/Эпистемология

516

https://plato.stanford.edu/entries/pragmatism/ — и найдите там поиском pragmaticism и описание отличия от pragmatism.

525

Judea Pearl: «I will treat causal inference as a new branch of logic, thriving upon its own semantics, grammar and computational tools and capable of quantifying its own capabilities and limitations» — https://www.cs.ucla.edu/upcoming-events/cs-201-what-is-causal-inference-a-logical-perspective-judea-pearl-ucla-computer-science-department/

527

, The Book of Why: The New Science of Cause and Effect, https://www.amazon.com/Book-Why-Science-Cause-Effect-ebook/dp/B075DCKP7V/

538

краткое изложение по черновику статьи Pearl для Communications of ACM, http://ftp.cs.ucla.edu/pub/stat_ser/r481.pdf

563

https://www.sciencedirect.com/science/article/pii/S0303264720301994, там 8.4. Linearity of quantum representation: exponential speed up for biological functioning и ещё в https://www.frontiersin.org/articles/10.3389/fnbot.2022.910161/full.

567

см. раздел decision theory в https://en.wikipedia.org/wiki/Many-worlds_interpretation

584

The three kinds of value judgments are Beauty, Goodness, and Truth. They determine the three kinds of normative science: Aesthetics, Ethics, and Normative logic. Peirce equated normative logic with logic as semiotic. But all sciences, including the normative sciences, depend on mathematics and mathematical logic (AKA formal logic). All empirical sciences, including the normative sciences, depend on phenomenology for the analysis and interpretation of perception. The three parts of normative logic (AKA logic as semiotic) are (1) Critic, which is formal logic; (2) Grammar; and (3) Methodeutic, which is Peirce's name for the methodology of science. All these issues were discussed and analyzed in detail by Aristotle, debated for centuries by the Greeks, Romans, and Arabs, and developed to a high level of sophistication by the medieval Scholastics. The books called «logic'' from the 13th to the 19th centuries discussed all these issues. But the 20th c. logicians ignored all but the formal logic. They did a lot of good work on logic, but they also lost a great deal. That is why I said that they wasted too much time studying Frege — who ignored everything except the formal part. — это рассказано John Sowa в https://groups.google.com/g/ontolog-forum/c/xwFwCa0j8qI/m/iufObRmbAAAJ

585

Обсуждение критического мышления в Стенфордской философской энциклопедии: https://plato.stanford.edu/entries/critical-thinking/

586

http://www.insightassessment.com/content/download/620/3992/file/DELPHI+RESEARCH+TABLE+4+2014+redesign.pdf. Critical thinking is a process, a purposeful and reflective process of problem solving and decision making, aimed at making a reasoned judgment about what to believe or what to do. In forming this judgment a person employs their critical thinking skills. These skills are described in detail, with examples, in the 1990 APA Delphi Report which presented an expert consensus conceptualization of critical thinking.

587

подборка материалов на русском — http://evolkov.net/critic.think/

624

более формальное описание в https://arxiv.org/abs/1406.2661

632

по мотивам https://arxiv.org/abs/2106.06561 и чуть более старой работы https://arxiv.org/abs/1905.10742

674

Пример такой истории: «Семеро «жестоких вредителей» спасли морских рыб от уважаемого автора 250 научных работ», https://naked-science.ru/article/nakedscience/semero и в пределе это сформулировано в «не быть токсичным учёным», http://lleo.me/dnevnik/2021/03/05_toxic

675

Формально у госорганов есть многочисленные инициативы по дерегулированию, например, деятельность по сокращению перечня лицензируемых видов деятельности, реформа контроля и надзора, но это только для отвода глаз, просто упоминания в идеологических документах: результаты этой деятельности практически нулевые много лет, нет реального дерегулирования.

677

Материалы по этике на русском в каком-то количестве есть вот тут, но там не обсуждается многоуровневость этики: https://vk.com/reducing_suffering

685

текст А. Левенчука 1999 года про контрактные юрисдикции, https://old.computerra.ru/1999/320/196008/, более свежий обзор панархизма/контрактных юрисдикций/частных юрисдикций, https://medium.com/libertarian-state/контрактные-юрисдикции-краткое-введение-8153668ed268

686

Есть книга на эту тему: https://www.litres.ru/daniel-kaneman/shum-nesovershenstvo-chelovecheskih-suzhdeniy/, но можно сомневаться, что предлагаемые в ней меры как-то решат проблему.

691

Карл Фристон: по важным вопросам разделение всегда будет 50-50, дело в самих обсуждениях/коммуникациях, в «Теория демократии и "всё новое приходит сбоку"», https://ailev.livejournal.com/1616855.html

693

https://plato.stanford.edu/entries/metaethics/ и там дальше https://plato.stanford.edu/entries/constructivism-metaethics/, и в целом про возникновении знания по морали https://plato.stanford.edu/entries/moral-epistemology/, но ещё это развитие этики как объяснительной теории (хотя и нормативная, но всё-таки это объяснительная теория, объясняющая причины и следствия принятия этических решений) у Дойча популярно и по-русски раскрывается в «Начале бесконечности».

726

Подробней про современные подходы к рациональности: https://ailev.livejournal.com/1619025.html.

727

Речь идёт о подходе active inference, https://www.activeinference.org/

732

Юрий Кузнецов, «Игры с пустотой: трактовка рациональности в общественных науках" (слайды: http://g-l-memorial.ice.ru/files/389900/Kuznetsov_2015.ppt, видео — первый доклад в https://vimeo.com/128684810).

736

Фридрих Август фон Хайек, «Дорога к рабству», http://libertarium.ru/l_lib_road97a7.html?PRINT_VIEW=YES

737

Фридрих Август фон Хайек, «Индивидуализм и экономический порядок», глава 1. Индивидуализм истинный и ложный, https://libertarium.ru/994097a7.html?PRINT_VIEW=YES

743

На примере нейронной сети Stable Diffusion понятие модели: https://stable-diffusion-art.com/models/ (и там модели checkpoint, LoRA, hypernetworks, textual inversions), что такое LoRA модели (https://stable-diffusion-art.com/lora/), LoRA модели (библиотечка, поглядите на разнообразие, там счёт на тысячи): https://civitai.com/tag/lora. Активно развиваются подобные подходы и для текстовых больших языковых моделей (LLM).