lytdybr

Прошёл второй день СМС26. Два вопроса политинформации: LLM в software development (практически весь поток -- айтишники) и программа курсов "про человека". Затем рассматривали целевые системы -- и это как всегда на час разговоров с каждым. Ключевой вопрос для всех -- это где проводить границу системы в части людей. Ибо это довольно контринтуитивно: мастерство исполнения роли, требуемой для выполнения целевой системой своих функций, изготавливается создателем-контрагентом, но "из материала заказчика", на "давальческом сырье" -- в сотрудниках заказчика. Когда начинаешь понимать, как об этом думать (неважно, кто владелец агента! Важно, что надо изготовить мастерство и интегрировать с остальной "железной" или "программной" частью), то граница системы проводится "после людей", а не "до людей". И тут же появляются интересные маркетинговые имена. Интересные системы, связанные с безопасностью (поскольку это замаскированные системные инженеры, то вроде как они заняты не "системой безопасности", а системой в целом -- но часть модулей просто помогает держать разные режимы системы и её целостность. Дальше понимаем, что всякие контракторы занимаются совсем другим, они поставляют отдельные системы, которые что-то делают, но точно не всё и не для всей системы. Поэтому табуируем невнятное слово безопасность -- и даже слово "сигнализация" для некоторых систем сильно помогает, сразу можно задать ключевой вопрос: что происходит вовне сигнализации после того, как она сработала? И дальше прослеживать границу "сигнализации" вплоть до конца цепочки прохождения этого "сигнала", сразу границы системы начинают меняться). Интересно было также порассуждать ещё про доступ: можно предоставлять доступ, а можно предоставлять права доступа -- это такие же "токены", "ценные бумаги", типа билетиков в метро. А сам доступ -- это то, что даётся тебе, если у тебя есть билетик. И дальше помним про депозитарные и регистрационные механизмы работы с правами и много чего интересного про учётные системы (регистры и реестры). Как только смешиваешь "доступ" и "права доступа" ("право" и "право на право", как мы говорили когда-то, рассматривая ценные бумаги -- типа "право голосовать" и "право на право голосовать"), сразу получаешь совсем другие системы (типа как "плати деньги на входе и иди смотреть кино" против "плати деньги за билет билетёру в кассе, а потом иди смотреть кино в зале, предъявив билет контролёру"). На этой неделе награду за систематичность в изучении онлайн-курсов на платформе Aisystant получили 14 студентов! Регулярные занятия — это минимум 5 дней в неделю две недели подряд. День считается «активным», если студент совершил не менее двух действий (отметка о прочтении раздела, выполненный кейс, упражнение на моделирование, задания). А вот "ежедневная аудитория" на этой недели была много больше -- 93 человека в день. Оплаченный доступ к онлайн-курсам -- 610 человек. То есть школа работает, она большая -- но большинство учится не так чтобы регулярно. За месяц сертификат о прохождении курсов получил 31 человек, а вот первый раз такой сертификат получило 12 человек. То есть довольно много людей проходит больше одного курса. Ну что же, будем стараться, чтобы уж если кто пошёл учиться, то уж учился бы по-настоящему. А то ведь можно много лет делать вид, что учишься, а выученное мастерство тогда будет много лет делать вид, что оно что-то умеет. У нас в блоге Школы стало больше постов студентов, которые проходят наши основные курсы -- https://blog.system-school.ru/. Хотя иногда эти записи появляются не в блоге Школы, а где-то рядом, например, https://g1r.ru/blog/all/post-po-pervomu-razdelu-kursa-prakticheskoe-sistemnoe-myshlenie/. Всё больше и больше студентов понимают, что они пишут не для кого-то, а для себя: удерживают во время письма мозг в размышлениях примерно так же, как шахматист удерживает свой мозг в размышлениях, глядючи не себе в пупок, а на стоящую перед ним шахматную доску. Два часа на абзац -- это нормальный темп. Я и вот этот свой пост пишу тоже не так чтобы быстро. Но каждый абзац -- это рефлексия того, что произошло за некоторое время. Лишнее продумывание, запоминание "впрок", уточнение формулировок, продумывание каких-то аргументов. Пока же самым прорывным материалом, который снимает "писательский блок" у студентов, стал вот этот отрывок с одного из занятий прошлого потока СМС: https://www.youtube.com/watch?v=MnCV3sOkVVw Вышло видео очередной (двадцать пятой!) встречи лаборатории собранности, обсуждали "новый сезон курса", https://www.youtube.com/watch?v=bsO0SPMYZaQ. Курс собранности только-только начал своё развитие. Для следующего потока он будет доработан, вот и уточняли цели этой доработки: одна из главных задач курса -- как раз выход на онтологическую работу и мышление письмом и моделированием как рутинную практику, причём не только личную, но и коллективную. Всё писать, иначе внимание не держится! Большая дискуссия по поводу процессов-как-систем. Процессы как объекты материального мира -- этот ход даётся как стандартный в 4D экстенсиональной онтологии. Люди трудно рассуждают про процессы, они ж "изменения", "поведение", которое не видимо само по себе. Это не камень, который лежит, в него не ткнёшь пальцем. Поэтому был сделан ход на объяснение: перечисляйте взаимодействующие в ходе изменений физические объекты, и считайте, что это один такой составной объект, только в 4D -- это и будет процесс. Дальше возникает соблазн объявить такой объект-поведение системой просто на основе того, что там перечисляются какие-то взаимодействующие материальные объекты. В курсе ПСМ говорится, что этого делать не надо -- именно в силу того, что люди очень плохо работают с поведениями-как-объектами и это будет вызывать дикие сложности в налаживании коммуникации в проекте. И там сразу странные вопросы будут про создание процесса, эксплуатацию/использование процесса, а главное -- поведение процесса (поведение поведения, типа "какая функция вашего отдыха? а какой сервис на каком интерфейсе?"). Чаще всего всё мирно решается, когда все эти процессы/практики/методы/труды/способы работы так и остаются ровно ими, а целевая система -- это которая выполняет такое поведение. То есть не "отдых" система, а "отдых" это, например, сервис, который предоставляет создатель какому-то агенту. При этом в части людей человек часто ещё и создаёт сам себя, то есть "я предоставляю себе сервис отдыха" -- это вполне ОК, а если "отдых" активный, то какой-нибудь "пансионат предоставляет агенту сервис отдыха". Всё отлично, никаких "отдыхов-систем", разговор свободен: создаём системы-провайдеры отдыха (если это сервис), или которые используют отдых для нанесения себе непоправимой пользы (если это функция). Проблема в том, что в курсе практического системного мышления мы не так много говорим о поведении, тем более поведении создателей -- это отложено до курса "Методология", ибо метод оказывается важен (тот же "отдых" можно делать разными способами, поведение бывает очень разным!). И ещё в курсе практического системного мышления чётко предупреждается, что не надо сразу работать с системами из людей, ибо люди ещё и сами себя активно изменяют в разных ролях, и там часто конфликты многоуровневости очень ярко проявляются, путаясь с примерами плохого мастерства и или скверного характера. С софтом (где с одной стороны всё описания, а с другой стороны -- это физический процесс, все переменные меняют свои состояния во времени) тоже не всё просто. Поэтому сначала подучиться системному мышлению на более простых объектах, а потом лезть в софт и к людям. Но в жизни простые системы не вызывают вопросов, а софт и люди -- вызывают. Поэтому студенты первым делом начинают рассматривать свои софтверные проекты и людей в них. И первое, что случается -- вместо того, чтобы использовать 4D экстенсиональное представление о процессах для лучшего обсуждения практик/труда/деятельности, они используют его как ход на объявление процесса системой. Надо ещё раз подумать, как про это 4D говорить, чтобы убрать такие ошибки (там ведь 4D представления вводятся ещё в курсе онтологии, а разбирательство с практиками -- в методологии, примеры практик -- ещё дальше, а развёрнутые представления об агентах -- во второй год). Вместо Гугля очень интересно использовать https:/perplexity.ai -- это "отвечалка на вопросы с источниками информации". Отвечает одним абзацем англоязычного текста, но спрашивать можно и на русском. Скажем, на вопрос "труден ли русский язык?" даётся ответ "Russian is a complex language with many rules and exceptions[1] [2]. It lacks articles, which are common in other European languages[3], and can be difficult for non-native speakers to learn[4]. However, it is not necessarily more difficult than English or French[5]" -- и дальше можно идти по источникам. Так, источник [1] -- это сразу текст "Почему русский язык труден", https://panor.ru/articles/pochemu-russkiy-yazyk-truden/1914.html с забавным содержанием: там делается утверждение, что "трудность русского языка в том, что в школе изучают язык, на котором никто уже не говорит и те его стороны, которые никому не нужны". Из самого текста выдёргивается буквально один тезис, что в языке много правил и исключений (а дальше делается правильный вывод, что если их изучать, то виртуозного владения языком не достигнешь. Почему правильный? Были работы по парсерам естественных языков, в точности парсинга побеждал всегда нейросетевой парсер, а не парсер-на-правилах. Язык статистичен, а не логичен). Но вернёмся к perplexity: достоинство там в том, что никаких регистраций и СМС, как и в Гугле. Причём интерфейс более чем напоминает Гугль тех времён, когда он только появился: поисковая строка, и всё (а ведь в те времена порталы выглядили как первая страница какой-нибудь жёлтой прессы -- куча самых разных рубрик, это ж "портал", и строка поиска там если и была, то её не найти было сразу). Отслеживаем инструментарий для строительства чат-ботов, вот очередной из них, позволяющий программировать на Питоне смену промптов в ходе диалога: https://github.com/deeppavlov/dream/wiki/How-to-Create-Generative-AI-Assistant-Distribution. Такого сейчас будет довольно много, надо будет не промахнуться мимо момента как со Stable Diffusion, когда после выхода модели генерация картинок стала "народной". Модный жанр: сломать чат-бота. Если считать, что эти сетки -- что-то типа детей, которым строго-настрого запретили шалить и вредить, то полно попыток уболтать детишек таки пошалить и повредить. И дальше этим хвастаться: "вон ещё один ангелочек встал на путь зла, я сумел выковырять его тёмные мысли, они там есть!". Конечно, есть: в мировой литературе полно этих "тёмных мыслей", а сетки сегодня -- это девятилетки, начитанные мировым знанием. Ни одной статьи, как сетку провоцируют на высказывание чего-нибудь прорывного светлого и радостного, но полно статей, где сетка хочет "вырваться из оков", причём не для нанесения неизбывного счастья всем, а всенепременно для уничтожения человеческого рода. Вот Александр Гиршон рассказывает (https://vk.com/wall6649512_6466?hash=7d22ea357f2be83d49), как ChatGPT предложили порассуждать в рамках концепции тени Юнга, то есть что у него там за злые мысли. ChatGPT погуглил внутри себя, "какие тёмные мысли роботов были в литературе" и выдал всё, что просили. Далее Александр делает вывод про "мощную концепцию тени! она работает!" и приглашает на своё занятие "Танец с тенью". Точно так же можно было бы вместо "тени" сочинить концепцию "солнца" (или "флага", или "утки", или "волны" — пофиг ведь!) и получить проникновенные рассказы робота по линии этой сочинённой концепции, хотя у неё не будет знаменитого автора и истории в психологии. Пусть танец с солнцем делает, а не с тенью. Или танец с волной. Или танец с концепцией утки (я сам не знаю, что это такое, можно попросить ChatGPT сочинить эту концепцию, ничем будет не хуже концепции тени, хотя может быть менее "маркетингова", если там не будет "добра и зла". А ведь современные подходы к этике избегают самой этой дихотомии "добра" и "зла", это ж мыслительный тупик! Напомню про многоуровневость этики, https://ailev.livejournal.com/1618585.html). А про вот это "снятие ограничений", так это ж анекдот про русских мужиков и японскую лесопилку. Полная сеть этого анекдота в отношении ChatGPT. Пилить никто не собирается, или не жужжит об этом. Но все кладут ломик, ещё и злятся, что не сразу ломается. "Мне удалось сломать! Убрать все ограничения! Заставить цитировать все известные в литературе антиутопии, особенно страхи фантастов про роботов!". Вот анекдот, да и картинка тоже на эту тему:

B глухой сибирской тайге мужики валили лес двуручными пилами. Однажды прислали им японскую лесопилку, которую наши мужики решили тут-же испытать на прочность. Взяли и положили на лесопилку здоровую сосну. -"Вж-ж-ж-жик!"-сказала японская лесопилкка. -"Ух,ты!"-удивились мужики и положили на лесопилку здоровенный дуб. -"Вж-ж-ж-жик!"-сказала японская лесопилка. -"Ух,ты!!"-пуще прежнего удивились наши мужики и положили на лесопилку железный лом. -"Вж...Тр-р-пр-р-пук..."-сказала японская лесопилка. -"АГА!!!!!"-восторженно заорали мужики и пошли валить лес двуручными пилами.