lytdybr

Пишу практики интеллект-стека, один из разделов в ОдО, чуток расширяю раздел по понятизации. Заканчивать переписку буду по time-boxing, к весенней конференции. Материала очень много, каждую неделю выходят новые тексты. Как удержать это описание современным -- пока не понимаю. Одна из идей -- это держать не столько объяснения, сколько кратенький синопсис, а объяснения выносить в отдельные курсы. Эти отдельные курсы давать до ОдО. Сам текст ОдО держать как курс (а не как книгу, чтобы иметь возможность быстро менять), он нужен будет "на третий год" (наша "аспирантура" трёхлетки "подготовки реформатора"). Синопсис всего интеллект-стека нужен будет для того, чтобы задать более-менее полную картину мира ("теорию всего"), склеить все эти знания из курсов в какую-то общую картинку происходящего -- опыт показывает, что это оказывается более чем полезным. По большому счёту, у меня так устроен СМС: есть материалы четырёх курсов (и даже шести, учитывая онтологику и собранность), а мои 56 преподских часов по факту являются ещё одним курсом "сверху" -- одна из важнейших целей как раз склеить материалы всех этих курсов в головах студентов, чтобы не было разрывов в рассуждениях на границах этих курсов. Вот ОдО имеет ту же цель, только для всех трёх лет "бакалавриат-магистратура-аспирантура". Учитываем, что пока готовы курсы только для примерно полутора лет из трёх -- и то, готовы с некоторыми оговорками. Первый год это "работаем с ограниченно разумными объектами" (менеджмент даётся как инженерия организации, лидерство там есть, но неподробно, только одна из практик), второй "работаем с разумными объектами" (с людьми, а также людьми в организациях и клубах), третий год "как оно всё в мире быстро меняется, и как в этом выжить" ("как управлять миром, не привлекая внимания санитаров: стать главврачом!"). Ну, и заодно это мой продукт как культуртрегера (он же в инженерии визионер, он же в бизнесе бизнесмен): что давать в наших курсах, внутренний документ для команды разработчиков курсов. По факту это сейчас мой основной проект, хотя меня и немного смывает текущим информационным потоком. Чтобы писать хорошо и много, надо читать хорошее и читать этого много -- вот и читаю, много больше чем пишу. В результате у меня много tacit knowledge -- и я не очень понимаю, как это всё выкладывать в письменном виде. Формат ОдО вроде как другой, там не до объяснений. Ridero прислало мне письмо, что "Практическое системное мышление 2022" опять в списке бестселлеров, но следующая версия книги была послана в Ridero 24 января 2023 -- так что меня успехи продажи предыдущей версии при готовности уже следующей версии радуют, но радуют ограниченно. Моё позавчерашнее письмо по поводу запретной ссылки на facebook было сегодня к вечеру отвечено: там вопрос -- какой же смысл в ссылке, если убрать синтаксис ссылки (если его сохранить, то будет ругаться робот ЛитРес), и если убрать написание слова facebook (будет ругаться робот Ridero и робот Роскомнадзора)? Я ответил, что надо просто это сделать -- тогда роботы-цензоры угомонятся, а читатели-люди догадаются, что надо сделать. Собственно, вот ссылка: https://www.facebook.com/academictoolkit/posts/126529044587676, я предлагаю заменить на //www.f******k com/academictoolkit/posts/126529044587676. И вот эту текстовую замену обсуждаем с 17 февраля 2023, и я до сих пор не понимаю, когда это обсуждение закончится и книга будет опубликована. Вопрос-ответ проходят раз в два дня (быстрее этот чат письмами не идёт, ссылка на "большую очередь" -- но очередь не диалогов, а реплик!). В итоге уже больше дней на переписку, чем заменяемых букв в тексте. Производительность труда по замене нескольких букв: уже меньше буквы в день! Склоняюсь к тому, чтобы занятия по основному курсу вести как в СМС, а не "микромодулями": -- чем более высокопоставленный у нас студент, тем трудней ему выделять время строго по расписанию, договариваясь с собой, работой и семьёй. Как мне объясняли, "время и нервы на переговоры и разгребание расписания что для 4х часов, что для 8 часов -- оно примерно одинаково. Но для 4х часов надо затратить времени и нервов вдвое больше, и нервы семьи и работы это дёргает вдвое больше. Так что лучше чуть больше устать в ходе учёбы один раз, чем разруливать дополнительное время ситуацию вокруг себя два раза. А уж если это ежевечерне по чуть-чуть, так вообще координационные затраты становятся запредельно большими". -- поднять количество и качество асинхронной работы в ходе двухнедельных перерывов (чаты, проверки заданий и т.д. -- никто не чувствует, что его оставили в покое на пару недель). -- дополнительно объяснять, что время чтения учебников ещё как-то можно списать на "учебное время", но вот выполнение заданий на моделирование по поводу рабочих проектов -- это надо бы делать в рабочее время, ибо польза от этого не только лично студенту, но и его проекту. -- и недавно всплывший "старый новый аргумент": ковидные времена прошли, и люди возвращаются к очной работе там, где считают её более продуктивной. К нам опять прилетают в офис на занятия из разных городов, и на полдня раз в неделю прилетать не будут, а вот на полный день раз в пару недель -- желающие были, и есть сейчас. OpenAI предлагает API (https://openai.com/blog/introducing-chatgpt-and-whisper-apis) для встраивания её нейросетки GPT-3.5 (которая из ChatGPT) в корпоративные продукты. Цены не маленькие, но и не заоблачные, $0.002 per 1K tokens, which is 10x cheaper than the existing GPT-3.5 models. И есть очень интересные детали для prompt engineering -- общая длина ответа и промпта для сетки gpt-3.5-turbo (которая и продаётся) составляет 4096. Если задать слишком много контекста, например, 4090 токенов (страница текста), то на выходе будет ответ максимум из 6 токенов (слогов), https://platform.openai.com/docs/guides/chat/instructing-chat-models. Модель turbo преднастроить нельзя, можно преднастраивать только вдесятеро более дорогие предыдущие модели. Как всегда, есть широкий выбор вариантов: плохо-дёшево, хорошо-дорого, или походите по базару, попробуйте найти лучше и дешевле. В любом случае, Bard и ERNIE Bot только готовятся к выходу -- так что мы видим пока попытку захвата рынка со стороны OpenAI. Какая будет судьба этого продукта дальше, непонятно. Так notion.so прямо поместил у себя ценовую рекламу выгодности своего AI: просит $10 в месяц за своего бота, уже интегрированного в notion.so (и тоже "без преднастройки на предметную область"), и указывает, что у ChatGPT это $20 в месяц. Coda.io имеет интеграцию с ChatGPT -- так что это опять те же $20 в месяц. Ждём рынка преднастройки. Пока же сервисов появилось ой-ой сколько: Вот ещё: https://www.bundleiq.com/post/alani-your-ai-powered-data-insights-sidekick, https://ingestai.io/, https://www.filechat.io/, https://askoracle.app/, https://www.humata.ai/, https://github.com/arc53/docsgpt, https://github.com/mmz-001/knowledge_gpt, https://github.com/deeppavlov/dream/wiki/How-to-Create-Generative-AI-Assistant-Distribution и так далее. Прямо таки поисковые машины в интернете, главной из которых была Altavista, как сейчас помню! Или текстовые редакторы, среди которых особо выделялся WordPerfect и в России Lexicon. Но развитие тут идёт быстрее. Уже пришли в головы идеи о том, что сетка сама себе может и выбор инструмента и его вызов организовать (Toolformer), и даже prompt сгенерировать ("я тебе скажу идею, а ты сгенерируй prompt для Midjourney") и даже prompt для людей ("я тебе скажу идею, а ты налей к этой идее воды в письмо клиенту, чтобы звучало вежливо и маркетингово"). Темы этики, безопасности AI, веры (в бога и государство) продолжают пересекаться, поток исследований растёт. Вот Josha Bach в https://www.lesswrong.com/posts/KdFqKsA6PaFR6SJjF/joscha-bach-on-synthetic-intelligence-annotated трактует Фому Аквинского в свете современных агентских теорий, требующих признать существование агентности более высокого уровня: надо действовать на уровне внутри себя, на уровне peers, на уровне надагента. И вот для этого уровня выше по Фоме Аквинскому -- the first one is that you need to be willing to submit to the project of this next level agent and that is what he calls faith. And you need to be willing to do so, not in some kind of abstract sense, but with others around you. You need to find other agents that serve that same next level agent and coordinate with them. And this discovery of the shared higher purpose, this is what he calls love. And the third one is that you need to be willing to invest in it before it’s there, before it can give you any return, because otherwise it’ll never emerge. And this is what he calls hope. It terms that we have overloaded our society because they have become so ubiquitous in the Christian society that they became part of the background and are no longer understood as something that is logically derived, but they’re in fact, for him, they’re logically derived policies for a multi-agent system that are forming a coherent next level agent.”. Это пересекается с "простым решением проблемы враждебного AI": предлагается AI запрограммировать любовь к человеческому роду (типа любви человека к кошкам, которых мучать -- ни-ни, но лучше бы гладить и кормить. И даже не требовать службы и взаимной любви, как для собак. Просто вот "безусловная любовь", мимими), и "любовь спасёт этот мир", только её для машин нужно переопределить. Вот статья на эту тему, Machine Love, https://arxiv.org/abs/2302.09248. Всё больше и больше текстов, в которых эти "проблемы автономных агентов" обсуждаются в терминах физики частиц, "автономных частиц" -- идёт сдвижка терминологии. Вот https://arxiv.org/abs/2210.12761 от Friston со товарищи, вот Autonomous Particles от Ванчурина со товарищем, https://arxiv.org/abs/2301.10077, вот от от Hoffman со товарищи, https://www.mdpi.com/1099-4300/25/1/129, вот Wolfram (сотоварищи подразумеваются, но слава будет у самого Вольфрама, https://writings.stephenwolfram.com/2023/02/computational-foundations-for-the-second-law-of-thermodynamics/). Дойч с его constructor -- это про то же самое. Если всё на свете более-менее устойчивое -- системы (в физике -- нечто с границей к окружению), и они же агенты (что-то такое думают и делают: в той или иной степени автономны в планировании и действуют независимо от окружения, то есть системы, но не эргодические, то есть с памятью), и мы переходим к обсуждению многих таких агентов, то разговор получается про отношения "часть-целое", а система/агент/частица/particle становится общим словом. Привет, мы опять в просто "системном мышлении" вокруг отношения "часть-целое", можно строить системное описание. Физики строят "физику частиц" и общая у них тема -- "давай частицей обзовём что-то мелкое с хитрой математикой динамики, типа струны, нейрона или правила, а затем покажем, что в целом взгляд на рой частиц с лёгкой степенью размытия деталей поведения отдельных частиц приводит к чему-то типа теории поля -- просто потому, что теория поля хорошо работает на крупных масштабах этих частиц". А "фазовые переходы в ходе оптимизации" типа "реплицировались молекулы своими феномами, теперь реплицируется геном, проявляющийся в феноме" -- ну, это отдельные рассмотрения, но просто разные уровни эволюции частиц. Шесть лет назад вышел мой текст про танцевальное мышление и его развитие (https://ailev.livejournal.com/1332624.html, 25 февраля 2017), с него начался мой проект системного фитнеса и системного мультиданса. Проект этот продолжается, польза от него и мне лично (я сильно поздоровел!), и многим другим людям (спросите у выпускников курса системного фитнеса -- их качество жизни стало сильно получше!), а ещё была и польза и для понимания системного мышления. Движения в целом и танцы в частности посложней какой-нибудь киберфизики (реализуется людьми), но попроще какой-нибудь организации (там "танцуют" не один или даже двое, а сразу команда, а то и тысячи людей), отличная предметная область для экспериментов по системным описаниям, экспериментам по методологии, экспериментам по методикам. Завтра буду встречаться с парой преподавателей танцев по поводу прохождения ими нашего основного курса (программа первого года): у нас уже были преподаватели танцев, которые прошли мой СМС, но времена нынче сложные -- и они оказались далеко от Москвы, так что для продолжения проекта нам нужно подготовить хотя бы несколько человек по программе первого года, но которые были бы "танцующими системными мыслителями". И мы двинем проект дальше. Кстати, недавно я опубликовал ещё одну практику в рамках этого проекта: "быструю настройку фолловера", https://vk.com/wall-179019873_1670. На фото я демонстрирую эту практику на преподском семинаре кизомба-фестиваля (результат выполнения этой десятиминутной практики: сила ведения-следования в этом конкретном случае была уменьшена x10):