Обсуждение

В строчке Аппаратное / физиол. сост. H мне кажется, проблемы в Active Inference и Learning Sciences. В Active Inference говорят про (internal) state-space trajectory/path: https://www.sciencedirect.com/science/article/pii/S1571064523001094.

Если уж говорить про path, то не хватает горячего сейчас понятия reasoning. Cf.

Я прочитал программу, она интересная. Но есть несколько пятен внимания, которые, по-моему, важны для темы. 1. Будет хорошо, если получится уйти от "максимума пользы" к чему-то более адекватному в условиях нескольких системных уровней и множества параметров этой самой пользы. Понятно, что математически можно что угодно превратить в функцию максимизации, но есть гипотеза, что реальная функция при этом не просто нелинейная, а негладкая или разрывная так, что малые шевеления параметров могут менять значения принципиально. Модельным источником тут, возможно, могут быть работы по эволюции пищеварительных возможностей организмов, включая человека, который на этом уровне не сильно отличается от других животных. Там же сложная конструкция из собственных возможностей и возможностей микрофлоры пищеварительных органов, мутирует и то и другое, но микрофлора — гораздо быстрее, потому что бактерии, и ее мутации тоже передаются от матери к детям. У Маркова в эволюции много примеров на эту тему, но именно как примеры, обобщений и направлений эволюционного развития нет. Но вдруг что уже есть? 2. Вопрос целеполагания активного агента при выборе этой самой целевой функции, с которой он соотносит собственное развитие. Это не просто хорошее соответствие внешнему миру (социуму), потому что живет-то он в локальных условиях и эти условия может поменять (пойти в другое место). И началось это не с человека, а с млекопитающих, на которых природа перешла от эволюции за счет рефлексов и инстинктов к эволюции за счет обучения потомков родителями. Появился механизм эмоций, есть гипотеза, что он обеспечивает механизм эмоциональных маркеров обучения, за счет которого однократный опыт может запечатлеться в памяти так же. как многократный (30-50 повторений, цифры по памяти из Маркова). И появилась свобода воли (выбора) и целеполагания: каждый родитель-индивид определяет чему, когда и как из своего опыта учить дитенка. Тут, возможно, надо на этологов смотреть и зоологов, которые исследуют животных. Может у антропологов тоже что-то может быть. Вообще интересно этот качественный переход от эволюции через мутации ДНК к эволюции через научение посмотреть внимательнее. И сопоставить его с другим качественным переходом. который человек совершил, когда появилась память и передача знаний через письменность. Может, заодно и разобраться, в чем был качественный переход от животных к человеку ДО письменности, и был ли он. Кажется, был, поскольку люди за счет коллективной деятельности в неолите уже массово охотились на животных охотой с загонами, что приводило к изменению экосистем и, по некоторым гипотезам, к вымиранию отдельных видов, а остальные животные в таком поведении не замечены.

Я интенсивно дорабатывал это последние несколько дней. Там всё уже сильно поправлено, и уже давно всё не так. Можно смело считать эту таблицу тизером проекта )))

Да, это самое интересное в получающемся фреймворке (я работаю над ним сейчас full time). Там, конечно, рекурсивное все с этими отптимизациями — эта рекурсивность уже учитывается. Ну, и выбор собственной функции тоже учитывается (active inference как раз про это). Там много доделок, конечно. Скоро опубликую результаты. Там уже отдельно мыслительный фреймворк и отдельно будет про личность (проект слишком большой, чтобы быть единым для них).

Там фишка в том, чтобы посадить термодинамику и агентов на похожую математику, но там не столько именно ризонинг, сколько выбор policy, planning, а потом action — и вот это протягивается чуть ли не до термодинамики. И вот тут уже можно рассуждать, "автомагически" или ризонингом всё это происходит. Но поглядим, что выйдет. Там сейчас работа кипит, виртуальные эксперты потеют ))) В жизни-то это внимательно никто смотреть не будет из живых людей )))

Когда прорвёмся, такое можно будет делать on-the-fly )))