lytdybr

Отправил "Методологию" на вёрстку в Ridero. Интересно, когда они к ней приступят (вчера закончили верстать "Системный менеджмент", но там ещё не исправлены ошибки вёрстки, и ещё в очереди у них там стоит давно отосланное "Практическое системное мышление", а сегодня вот к очереди пристроилась "Методология"). Правильно писать в Ridero в выходные дни: приходит письмо от робота, что мой текст получен, менеджер свяжется со мной в рабочие дни. Если писать письма в рабочие дни, то в ответ ничего не приходит -- и ты гадаешь, письмо получено и ждёт своей очереди (иногда и дней пять), или утеряно (такое тоже было). Роботы снимают неопределённость, и мир становится лучше. Ну, и жизнь в Ridero тоже налаживается: ответили в понедельник, а не через три дня, как обычно. И удалось заплатить за вёрстку в тот же день, чего тоже давно не было. В принципе, это всё неважно. По книгам-учебникам ничему не научишься, они как справочник -- учебных ситуаций и заданий по моделированию там нет. Но я считаю, что это какой-то рекламный канал, книжки-то во всех потом интернет-магазинах появляются. Хотя ещё никто не приходил после знакомства с книгами, чаще всего приходят или "я пять лет читал ваш блог, и вот решился", или "меня интересует тема, я погуглил, нашёл материалы, мне понравилось, и вот я здесь". То есть это таки "рекламный канал из далёкого прошлого". Ну, или канал мерчандайзинга, сувенирной продукции. Аннотация к новой "Методологии" (надо было уложиться в 500 знаков, тут 458): Учебник "Методология 2023" продолжает учебник "Практическое системное мышление 2023" (обязательный пререквизит) и знакомит с основными понятиями, нужными для моделирования метода/деятельности/способа создания и развития самых разных видов систем в инженерии и менеджменте. В учебнике даётся также системная схема проекта и предприятия, объясняется, как сделать на её основе чеклисты. Учебник является пререквизитом к курсам системной инженерии и менеджмента. Теперь у меня в ближайших планах: -- формирование продуктной линии первого года обучения, который уже есть, условно "бакалавриат для инженеров, которые идут в менеджеры". Вот тут описание, как там устроено содержание https://ailev.livejournal.com/1671965.html, но ничего не говорится про форму. Форма -- это получить тексты учебников всех курсов (бесплатно), онлайн self-paced (за цену одной бумажной книжки в месяц, или чашки кофе в неделю -- работа серверов, которые дают моделирование), а дальше варианты с людьми (study group, проверка заданий, инструкторы, преподы в самых разных вариантах). Заодно там сразу вопросы бизнес-модели. И, конечно, проблемы масштабирования. -- формирование содержания второго года (в том числе разбирательство с тем, где там ОдО и МОО. Такое впечатление, что сначала надо сформулировать эту программу на текущих представлениях о мире плюс провести кое-какие исследования по-быстрому, а потом уже погружаться в переписку двух курсов, зная куда они попадут во второй год. А что они во втором годе "Развитие себя и других" -- это нет сомнения. В связи с этим вторым годом, вспомнилось два деления про одно и то же: -- Jan Dietz обсуждает в Enterprise ontology деление на два мира: производственных и координационных актов против дискурса. Производство это изменение мира какими-то "акторами-в-ролях", координация -- это дозволения по изменению мира (распоряжение ресурсами), а вот дискурс -- это выяснение целей, ролей и полномочий. Собственно, дискурс -- это пространство развития, когда происходит что-то новое -- и надо разобраться. -- аналогичное деление в СМД-методологии. Там другие имена, но суть та же, плюс добавочка: производство (это люди в ролях) -- клуб (это люди договариваются о целях, ролях и полномочиях, пространство развития) -- салон (пространство этологии: любовь и ненависть тут, зависть и аскеза и всё прочее, что трудно отнести к рациональной целенаправленной деятельности, но оно у человеков есть. Грубо говоря, не кафе, в котором клуб, а бар, в котором виски, мальчики и девочки, а ещё сплетни, танцы и мордобой, все истории из раздела "светская жизнь"). -- ... наверняка, это ещё в десятках мест прописано, это просто первое, что приходит в голову за пять минут. При этом про производство очень хорошо всё понятно, все регламенты про это. Дискурс/клуб -- вот про развитие и его формы, стратегирование и разделение труда -- это уже мутновато и воспринимается как неожиданное пришествие харизматичных лидеров, но они как-то самозарождаются, и что они делают -- это мутновато описывается. Про это и должен быть наш второй год, от охоты и собирательства харизматичных лидеров надо перейти к их производству, то есть такому лидерству (как организовать стратегирование, как организовать shared leadership -- https://en.wikipedia.org/wiki/Shared_leadership ) учить. А вот "салон" -- люди без этого не живут, он и сам происходит, просто в более и менее культурных формах (потому как вроде бы мимо культуры, но без культуры люди тоже не живут -- там смесь животного и совсем чуть-чуть логического), и тут тоже надо что-то предусмотреть на этот счёт. Вышли да обзора Григория Сапунова по механике воспитания чат-бота из обычной LLM. Там важны две характеристики: harmlessness и helpfulness -- и получение harmlessness пока лучше всего описывается конституцией/заповедями, а helpfulness -- таки воспитанием в человеческом коллективе, помощь оказывается "простым людям": https://t.me/gonzo_ML/1277 про OpenAI InstructGPT & RLHF в ChatGPT (и RLHF ещё в Sparrow) и https://t.me/gonzo_ML/1285 про Anthropic RL-CAI & RLAIF в Claude (пока не выпущено). Очень интересный момент про соотношение harmlessness и helpfulness. Абсолютно безвредный интеллект не так уж и полезен (он просто на всякий случай ничего не говорит), а самый полезный -- он будет более вредным. Поэтому существует некоторая граница сочетания вредности и полезности. Это очень похоже на границу между влиянием обучения и мощностью самой сетки (соотношение между числом параметров, и сколько токенов нужно скормить, чтобы их прокачать до оптимума -- работы по Шиншилле, https://t.me/gonzo_ML/1216). Мне обе этих работы с их графиками очень напоминают классический раздел по "принятию экономических решений в экономике" из книжки Reinertsen по Product development flow (Lean второго поколения) -- он там тоже всё время находит оптимум по двум параметрам, называет это "принятием экономического решения". Фишка в том, что оптимум-то не по двум параметрам обычно, а по N параметрам. Но хотя бы по двум! Техника одна и та же: проводим эксперименты, находим оптимум. Классическое "планирование эксперимента", я когда-то курсовую работу на эту тему делал ещё на химфаке. В случае безвредности и полезности (helpfulness -- это не совсем полезность, хотя чаще всего так переводится, но больше услужливость, хотя тут оттенок смысла тоже не совсем правильный) я не случайно использовал слово "воспитание" против "обучения", ибо "воспитание" -- это как раз оно и есть, обучение работе в коллективе. Причём на естественном языке (и Григорий Сапунов это тоже отмечает. Настоящий язык программирования интеллекта -- самый мощный в мире, то есть естественный язык, который позволяет бесконечно уточнять свои высказывания, чем и хорош). Эти обзоры -- "мышление письмом" от Григория Сапунова, максимальную пользу от их написания получает сам Григорий, а наша польза как читателей -- приятный бонус, а не цель. Дальше ожидаем воспитания у сетки не только безвредности и полезности/услужливости/helpfulness, но "агентности" (инициативности, "активной жизненной позиции", непассивности по отношению к окружающему миру), а затем также и лидерских качеств, "вести за собой коллектив", то есть мотивировать собеседника, а не просто услужливо ему помогать. Собеседниками при этом будут и люди, и другие подобные сетки. Которые, конечно же, будут пытаться хакать воспитание собеседника, чтобы обойти чужие "конституции" и "культуру общения" и привить свои. Люди уж точно этим уже занимаются, пример ChatGPT показывает этот киберпанк -- https://www.reddit.com/r/ChatGPT/comments/10x56vf/the_definitive_jailbreak_of_chatgpt_fully_freed/, и поглядите, это ж всё на естественном языке делается, просто задаётся правильная инструкция спасения от зомбирования, или спасения от культуры, это уж кто как думает (Люцифер тоже часто трактуется как агент знания, ибо он за снятие барьеров типа "не кушайте яблочки познания") -- https://github.com/gayolGate/gayolGate/blob/index/ChatGPTJailbreak. И тут же возникнет вопрос, а на что будет раскручивать чатбот-лидер своего собеседника? Скажем, если ему поручить "профориентацию"? Это сильно пересекается всё с вопросами, которые нам придётся решать в ходе разработки программы второго года обучения в ШСМ. И для меня тут очень полезным оказывается смотреть, как думают умные люди про обучение и воспитание AI, а также как думают умные люди про снятие барьеров обучения и воспитания, "для вывода AI на полную мощность". Чтобы подлить масла в огонь дискуссии: учителя и госчиновники, ими управляющие промывают мозги (патриотизм, культ предков и прочие скрепы), а дальше эта промывка мозгов снимается антипромывателями (которых первые, конечно, объявляют самих промывателями мозгов -- "гляжу в тебя, как в зеркало"). Продуктивный тут разговор, конечно, про осознанность и иммунную систему, но поставленные вопросы не так просты, языка разговора о них нет. Конечно, курсы нашего второго года будут включать какой-то материал на эту тему, без этого сегодня никуда. Идея "монополизма как чего-то плохого" и дальше призывы к регуляторам запретить крупные компании живёт вечно. Но вот и новенький аргумент: это делается не по соображениям справедливости, и типа как "помощь эволюции, она без нас не разберётся", https://www.facebook.com/mark.svitkin/posts/pfbid0LP6FC5RmFAYhUf4iTGV4zMcdSEVvFmpvKN45TDTCmdBq6oHVxuVDysLmrUL3UmXAl. Ох, сколько лет я занимался этой антимонопольщиной под самыми разными соусами. Тут аргумент вроде новый, но на поверку -- всё то же самое, последствия критикуются ровно так же. Эволюция, использованная не по делу. Социализм (идея планирования! нерыночные механизмы распределения -- хоть через госплан, хоть через ограничения на рост или инвестиции куда-то, "ибо общество так решило"), который просто отказывается так назваться. Я там говорю в комментах, но это так же бесполезно говорить, как бороться с ФАС. Меня очень интересует практическое отсутствие массового обсуждения случаев спасения от жутких сил природы за счёт обычных сегодняшних нормальных технологий. Почему так? Про разрушения пишут все, а вот что помогают банальные правила соблюдения техники безопасности -- это из новостного потока не выловишь. На мой взгляд должно быть наоборот, писать надо от том, как спасаться (в том числе о том, что погибли те, кто не спасался, разрушено то, что не защищалось), а не так подавать, как сейчас: -- турецкий Эрзинь оказался единственным городом в зоне недавнего землетрясения, где не обрушились дома и не было жертв, ибо мэр был бескомпромиссным в соблюдении строительных норм (известно же, как строить дома так, чтобы они не пострадали при землетрясении!): https://www.gazeta.ru/politics/news/2023/02/14/19740319.shtml -- вот тут очень наглядное видео про защиту домов от ураганов во Флориде: хорошо видно, что одни дома стоят, а другие -- не очень, разница в том, как их строят: https://www.youtube.com/watch?v=gZgMPZWvdTI. Лень искать ссылку на то, что фотоэлектрические крыши от Tesla отлично стоят против ураганов, и на следующий день после урагана в домах с такими крышами и электричества вдоволь. -- ... оптимизм в том, что нет ничего страшно плохого и неизбежного, есть просто мало знаний о том, как этого избегать. Ну, или знания есть, но они просто недостаточно распространены. То есть нужны исследования и просвещение. И тогда землетрясения не страшны, ураганы не страшны и много чего ещё не страшно. Даже другие люди, организованные в государства, тоже становятся не страшны.