?

Log in

No account? Create an account
Лабораторный журнал
 
[Most Recent Entries] [Calendar View] [Friends]

Below are the 20 most recent journal entries recorded in Anatoly Levenchuk's LiveJournal:

[ << Previous 20 ]
Sunday, March 24th, 2019
7:06 pm
lytdybr
Я перестал задавать вьюношу традиционный вопрос "что ты узнал нового сегодня". Он уже достаточно вырос, чтобы я спрашивал его "что ты создал нового сегодня". Несколько дней он тупил в ответ, ибо всякие "читал физику" вдруг превратились в тыкву. Но сегодня он чётко ответил "пожарил мясо". Зачёт, с типом вопроса на "изменение мира", а не "чтение описаний мира" он разобрался. Теперь он должен понять, что этот вопрос перед ним будет стоять всегда.

OneTab у меня сейчас хранит 10018 табов (с середины апреля 2016 -- https://ailev.livejournal.com/1259552.html). Часть из них прочтена, часть так и осталась открытой просто из жадности. При этом большинство открытых табов я таки закрываю -- и в OneTab попадают только самые-самые. Я уже давно не человек, а киборг. И память у меня тоже нечеловеческая. А мозг всегда пустой: все ходы где-то записаны, ничего помнить не нужно.

Поменял пару дней назад аватарку в соцсетях. Прошлая была сделана между слоновником и обезьянником в Московском зоопарке, и это было в 2011 году. С тех пор я изменился, и меня перестали узнавать. Новая фотка была сделана в декабре 2018 на одной из вечеринок "Посада" (оригинал -- https://vk.com/photo2449939_456239957). Ужас в том, что в фейсбуке эту аватарку за пару суток лайкнули 150 раз. Мои самые крутые посты, в которых собран самый сок мысли, собирают там по тридцать-сорок лайков. А тут просто фотка даже без комментариев -- и этих лайков 150. Вот она, сила визуального мышления: неважно, что я думаю, но важно, как я выгляжу!

Синтезатор ритмов Groove Pizza https://apps.musedlab.org/groovepizza/ (работает в браузере, в моём случае в FireFox), сделанный по мотивам книги "The Geometry of Musical Rhythm: What Makes a "Good" Rhythm Good?" https://b-ok.cc/book/2551598/846a5d (2013). Теперь ждём софтинку с обратным преобразованием: нейронную сетку, которая слышит ритм и показывает его геометрию. А то замучали уже обсуждениями про отличия реггетона, дансхолла, мумбатона и басс зука и отнесением к ним тех или иных треков.
2:53 pm
Онтологическая инженерия в Школе системного менеджмента, март 2019
Онтика продвижения продукта
В четверг смотрели наброски онтики системного маркетинга, одной из практик в составе практик предпринимательства. Я высказал гипотезу, что люди перестают пользоваться словом "маркетинг", потихоньку переходя к слову "продвижение", и это отражает некоторые сдвиги в онтике маркетинга: она начинает описываться как онтика понятий практик некоторого жизненного цикла клиента (lifecycle marketing -- target, attract interest, collect leads, educate, offer, close, deliver and wow, offer more, referral, или awareness, interest, desire, action, loyalty, advocacy, или awareness, research, comparison, purchase, retention -- этих вариантов миллион) в сочетании с онтиками практик жизненного цикла продукта/сервиса (типовые стадии жизненного цикла системной инженерии). И тем самым marketing начинает пониматься как продвижение по этим стадиям -- все эти "воронки продаж" и "путешествия клиента" отражают именно это "продвижение по стадиям жизненного цикла". При этом все дискуссии про "чем отличаются маркетинг, реклама, продажи" прекращаются: это всё обсуждается в рамках отдельных практик общего для них жизненного цикла, и сами эти слова "маркетинг", "реклама", "продажи" прекращают хорошо моделировать действительность этого жизненного цикла. По факту SoTA маркетинга изменилась, в эпицентре теперь продвижение по жизненному циклу клиента -- от замысла клиента через обретение клиента к превращению клиента в пропагандиста вашего продукта. Так что термин для SoTA сегодня -- "продвижение", а старый маркетинг, как обычно, мёртв (вот одноимённая статья из HBR, это ещё 2012 год -- https://hbr.org/2012/08/marketing-is-dead. Маркетинг ведь уже много раз хоронили, даже у Котлера было три разных версии -- и каждая оказывалась сначала "новой", потом "традиционной", и умирала). Но сейчас и имя умирает, "продвижение" означает сущность размером побольше. И да, "продвижение" это уже повсеместно в языке по-русски, а что там по-английски -- это пока мутное место.

Ещё рассматривали вопрос унификации маркетинга/продвижения по его механизму: на нижележащем системном уровне это просто управление выработкой дофамина при упоминании вашего продукта, вопрос становится инженерным -- нейрофизиологические механизмы, заставляющие вас что-то купить, изучены уже более-менее подробно, осталось их задействовать. И тут же поднимается вопрос про манипуляции и этичность (responsible design, в данном случае ответственное проектирование продвижения). Ещё неделей раньше я ровно этот вопрос (и даже на более широком букете гормонов -- дофамин, окситоцин, адреналин) я ставил в паре постов в проекте инженерного проектирования танца: про максимизацию выработки гормонов в посте про потребности https://vk.com/wall-179019873_115, про responsible design в этом вопросе в посте https://vk.com/wall-179019873_117. Нужно быть крайне осторожными в этике.

Если мы занимаемся инженерией людей (а в продвижении мы занимаемся инженерией клиента -- превращением мозга не знающего о вас человека в нейромашину, крайне заинтересованную в покупке, а потом и крайне заинтересованную в проповеди другим людям необходимости такой попкупки. Это ж классический сюжет о зомби! Вы кусаете вашим "продвижением" невинных людей, они вдруг становятся счастливы и бросаются зомбировать дальше: кусать других людей, превращая их тоже в зомби-покупателей, и проповедников вашего товара!). Помним, что спамеры должны гореть в аду, но ведь они отлично маскируются: говорят, что они занимаются "прямым маркетингом", "холодными звонками", обманщики поисковых систем называют себя "оптимизаторами" (SEO), но по факту -- это всё разные способы втереться в доверие, привлечь внимание и зазомбировать. Я приводил пример, что одно и то же действие даже хорошего продвижения может быть заведомо плохим или хорошим в зависимости от товара -- продвижение обучения математике считается хорошим, а продвижение табачных изделий -- плохим.

И тут возникает традиционный вопрос: считать все эти этические рассмотрения, а равно замысливание самого продукта-генерирующего-дофамин (т.е. с требованиями, отвечающими на потребности -- это ж часть стратегирования для вашего бизнеса) практиками продвижения, или они находятся во внешнем окружении по отношению к продвижению? Воплощение продвижения продукта, т.е. практики продвижения, назначенные на какое-то оргзвено, т.е. превращённые в capability, т.е. -- это же обеспечивающая система, так что все системные рассмотрения к capability продвижения возможны. И, как всегда с жизненным циклом, назвать обеспечивающую систему можно, собрав внимание на ней в её отношении к продукту/сервису -- поэтому говорим о жизненном цикле продвижении продукта aka практикам жизненного цикла, задействующимся в обеспечивающей системе для продукта как целевой системы.

Ещё интересная тема была -- это различие "конкуренции" как "соревнования за потребителя" и "борьбы с конкурентами". Онтика должна следовать сути: выигрыш души, тьфу, букета нейромедиаторов/гормонов типа дофамина, окситоцина, адреналина в мозгах популяции потребителей. Выигрыш у конкурентов -- это работа с потребителем, а не с самими конкурентами. Ещё вопрос: все эти "конкуренции за рынок" против "конкуренции на рынке" (то есть выгирыш нейромедиаторов у немногих чиновников, например, через правильное употребление слов из bullshit bingo, которые кодируют разные строчки в бюджете, или разные направления регулирования, и затем получение эксклюзива на какую-то услугу, иногда даже такой эксклюзив подаётся как "защита конкуренции", если ты уместно задействовал чиновничьи мозги, начитавшиеся антимонопольного законодательства -- никакого даже личного интереса, просто использование чьей-то зомбификации в целях "победы над конкурентами", а не выигрыша в соревновании/competition/конкуренции продуктов за место в душе потребителя). Это реалии рынка, но там тоже встаёт вопрос этики -- насколько цинично можно разыгрывать и эту карту "уполномоченности" и "лицензирования" в её разных формах?

Было и много других интересных моментов, но дело потихоньку сдвигается с мёртвой точки. Для чего это делается? Для создания в рамках кругозорного курса по предпринимательству подкурса "продвижение". Ибо курс "стратегирование" уже есть (в рамках моего курса "Системный менеджмент и стратегирование"), а вот "продвижение" пока не закрыто.

Эта онтика будет доложена в докладе Дмитрия Сизова на конференции "Прикладное системное мышление" 30 марта 2019, https://www.facebook.com/events/263060364375731/

Онтика телесного мышления
Вчера с А.Климатом закончили работать над первым вариантом онтики телесного мышления -- тот минимальный набор понятий, который даётся на тренинге системного фитнеса. Мы сделали существенные правки как в наборе понятий, так и в терминологии. В этой онтике перечисляются концепты, необходимые на пяти стадиях работы системного фитнеса:
1. Управление локальным усилием (натяга, напряга, обмяка, гибрида) через его осознание. Мы лингвистически заменяем тонус (постоянное напряжение в мышцах) и тетанус (дополнительное к тонусу силовое напряжение в мышцах) на "усилие" и выделяем ощущение для этого усилия -- задача тут в поднятии чувствительности, сила не нужна.
2. Глобальное (по всему объёму тела) управление вниманием к локальным усилиям. Работаем с различными видами внимания и с различными интенсивностями (сверхусилие, надусилие, усилие, подусилие), видами (натяг, напряг, обмяк, гибрид) и направлениями (по отношению к объёму кости) усилий. Опять-таки, сила не нужна, важно внимание.
3. Устранение паразитного усилия в статике и локальных объёмах. Обнаружение и устранение паразитных (лишних, нефункциональных, "зажимов") усилий в разных частях тела в цикле напряжение-расслабление-дорасслабление-запоминание дорасслабления.
4. Включение чистых усилий натяга в полном объёме тела. Активация (совершенно необязательно "качаем мышцы", хотя и это можно) усилий натяга при одновременном устранении паразитных усилий напряга по п.3 в объёмах, сравнимых с длиной тела.
5. Управление усилиями при смене позы. Это динамика, управление инерцией -- тренинг скорости (в ходе движения) в воспроизведении нужных усилий по памяти.

Эта онтика очень компакта, равно как и курс по освоению этой онтики (похоже, что полная длина кругозорного курса должна быть 5 дней -- хотя беглость в этих практиках достигается примерно годом тренировки, но понимание того, что именно тренировать -- пять дней).

Теперь будет проще поддерживать разговор про системный фитнес и телесную инженерию. Объяснения курсов будут модифицированы на основе этой онтики. Эта онтика будет представлена А.Климатом его докладе на конференции по прикладному системному мышлению 30 марта -- https://www.facebook.com/events/263060364375731/

Дальше начинается работа над прикладными онтиками -- для танцев, спорта, единоборств, сценического движения, бытового движения (борьба с "офисным телом") и т.д.. В частности, мы потихоньку начинаем работы по приложению телесного мышления к социальным танцам в рамках проекта буфф -- https://vk.com/buffdance.

Онтики методологических дисциплин
Эту работу сейчас ведёт Пион Медведева, я подробней писал о ней в https://ailev.livejournal.com/1466364.html. Как это будет выглядеть? "Как обычно", ведь это уже третья итерация по дисциплинам онтологики. Текущая вторая онтика представлена сейчас в сентябрьских 2018 года постах https://thpectrum.livejournal.com/11639.html и https://thpectrum.livejournal.com/11881.html. Результаты этой работы тоже будут представлены на конференции "Прикладное системное мышление".

Ещё онтологической работой занимается Вячеслав Мизгулин, который онтику системного мышления пытается выразить как язык моделирования в Product Studio (http://product-studio.ru/), развивая там системный язык по мотивам SysMoLan (https://ailev.livejournal.com/1443879.html). Онтика системного мышления дана в 2016 году в https://ailev.livejournal.com/1278600.html -- и именно этот набор понятий кладётся в основу языка моделирования в Product Studio. Будет доложена на Конференции и эта работа, а моделер с первыми набросками этой онтики уже используется в курсе "Системная инженерия. Менеджмент продукта" -- .

Я сам активно вовлечён в эти наши проекты онтологической инженерии. Для меня это привычное дело, всю жизнь этим занимаюсь, под разными названиями. Вот моя статья про "понятизацию", текст был опубликован в самом начале 90-х годов, но написан был ещё в конце 80-х годов. Интересно, что там тоже речь идёт о технологии создания учебных курсов, а "понятизация" нужна была для создания имитационных программных моделей предметных областей, и по факту речь шла о DDD (domain driven design) -- http://www.libertarium.ru/l_libsb3_3-5. А вот заметки про мою понятийную/онтологическую работу в области системной инженерии, это 2008 год, я назвал это "модифицированной понятизацией/онтологическим переводом" -- https://ailev.livejournal.com/631742.html (результат этой работы был "Понятийный минимум подхода системной инженерии к управлению жизненным циклом", и из этой работы и появились потом курсы и системной инженерии, а затем и системного мышления, и системного менеджмента -- https://ailev.livejournal.com/638740.html. Конечно, с тех пор в этот понятийный минимум было внесено огромное количество изменений, да и исходные стандарты тоже поменялись -- и изменения эти были документированы уже в разных других местах).

Больше онтик хороших и разных!
Sunday, March 17th, 2019
1:14 am
lytdybr
В четверг побывал на экспертном обсуждении "большого конкурса по AI", который собирается проводить UpGreate -- http://upgreat.one/. Конкурс по "семантическому AI" (ибо робомобили с 33 командами прямо сейчас прошли, тоже ведь AI) должен будет закончиться через пару-тройку лет, и задание должно быть соответствующее. Моё предложение было -- сдать экзамен на аттестат зрелости (злополучный ЕГЭ по всем предметам), наряду со всеми школьниками (без шпаргалок и доступа к интернету, конечно!). После этого министерство образования съедает свою фетровую шляпу и думает, что новому поколению наших индейцев обряд инициации нужно опять менять -- людям нужно будет доказывать наличие человечьих умений, а не умений, которые могут демонстрировать роботы. Судейство обычное для ЕГЭ, теми же судьями, можно даже апелляцию разрешить. Да ещё и участвовать можно будет в разных городах, не возить же компьютеры далеко! Выбирай ближайшую школу, да участвуй! И задания готовить не нужно, и тайну заданий охранять -- всё уже предусмотрено могучим ураганом. Проблемы AI для такого конкурса известны (например, нужно уметь читать условие задачи с картинками и текстом одновременно, уметь объяснять путь решения). Эту "сдачу экзаменов" уже и китайские товарищи делали (на медицинскую лицензию -- http://www.chinadaily.com.cn/bizchina/tech/2017-11/10/content_34362656.htm, вступительная в университет математика -- http://www.xinhuanet.com//english/2017-06/07/c_136347963.htm), британские (тоже по медицине -- https://www.forbes.com/sites/parmyolson/2018/06/28/ai-doctors-exam-babylon-health/), и американские (конкурс был три года назад, и кончилось это не слишком удачно -- роботы сдавали мультипредментый экзамен всего за восьмой класс, причём на троечку, https://www.kaggle.com/c/the-allen-ai-science-challenge), и японские (входные экзамены в Тодай -- https://www.businessinsider.com/robot-beat-most-students-on-university-tokyo-entrance-exam-2017-9) -- но там везде были и экзамены по другим предметам, и тесты организованы по-другому, и язык не русский. Из вариантов модификации условий конкурса -- участие AI в олипиаде по информатике, математике, физике. Приём экзаменов в ВУЗ. В любом случае, это должен быть какой-то "экзамен", идущий ограниченное количество времени, и проверяемый известным способом. Экзамены и олимпиады, или что-то подобное. Проверять AI на интеллект ровно так, как проверяют людей. А неизбежная дискуссия покажет с ещё большей очевидностью, что все эти "проверки на интеллект" не работают -- ни для людей, ни для роботов.

Вышла рецензия М.Цепкова на мою книжку "Визуальное мышление" -- http://mtsepkov.org/Левенчук._Утопия_визуального_мышления и дискуссия к ней https://www.facebook.com/mtsepkov/posts/2165441243512818. В дискуссии, как всегда, много критики от нечитавших. Тем временем эту книжку неожиданно купили в количестве 488 экземпляров на сегодняшний день (тут -- https://ridero.ru/books/vizualnoe_myshlenie/), а "Системного мышления" куплено так и вообще 2312 штук (тут -- https://ridero.ru/books/sistemnoe_myshlenie/). Суммарный тираж тем самым -- 2800 книжек, и это без учёта киевского бумажного издания, и без учёта результатов электронных продаж за уже половину марта. А цена на книжку в ридеро снизилась, теперь она 36 рублей! А в литресе по-прежнему 40 рублей, а в Амазоне 73 цента. "Системное мышление" в Амазоне, кстати, продолжает быть прямо сейчас №5 в списке Best Sellers in Religion in Russian, https://www.amazon.com/gp/bestsellers/digital-text/9938704011/.

В четверг же провели и заседание лаборатории телесного мышления, где заслушали доклады проф. Б.Майера про системные уровни управления движением по Бернштейну и тайцзицюань (слайды https://yadi.sk/i/kq6Oafr_S4fkRQ), мой доклад про те же уровни (но прочтённые по-другому!) и системный фитнес (https://yadi.sk/i/JjQYmB2dgO3PtA) и А.Климата про особенности методики системного фитнеса (слайдов не было). Видео записывалось, но оно получилось не слишком разборчивым (разве что мой доклад записался сносно, я орал близко к камере и микрофону -- опубликовано видео в чате лаборатории https://t.me/labolatoryTM). Основные идеи в моём докладе были на слайде 7. В уровнях Бернштейна мы берём за основу не описание структур мозга, не виды управляемых движений тела (в части эволюционного их появления, или даже в конечном итоге), а виды управления движениями мышц. Задача тут будет -- вынести управление движением на уровень сознания, начиная с самых нижних уровней этого управления, перенастроить тело с использованием сознания, а затем автоматизировать это управление заново -- погрузить откорректированное управление на новом (подкачанном в одних местах и подрасслабленном в других) опять в на бессознательный уровень. Вот что мы делаем на каждом уровне (и это "делаем" -- практики, то есть логическая последовательность, а не "этапы"):
-- А – уровень тонуса мышц (всех, а не только статокинетика туловища. Бернштейн говорит, что «тонус практически не выходит в сознание». Ключевая задача – вывести его в сознание! Использование ПИР (постизометрической релаксации) в упражнениях, центрирующих внимание на тонусе отдельных групп мышц. Результат: умение ощущать тонус и вследствие этого -- управлять тонусом.
-- B – уровень мышечно-суставных увязок, уровень синергий. Простейшие движения в суставах, увязанные между собой. Их делать нельзя, если будут «провалы» в работе конкретных мышц. 1. избавляемся от мешающих усилий через управление тонусом, 2. закачиваем силу (норма: вес тела) в проваленные мышцы, учимся изолированно управлять их напряжением. Хинт: провалены обычно вытяжители и вращатели (функциональные!). Их и тренируем.
-- С – уровень пространства. Тренинг достижимости по «большим линиям» (анатомические поезда) без провала в уровнях А и B – балансы, скрутки (на полу, у стены), диагностика для целевого тренинга уровней A и B. Работа с динамикой (знакомство с управлением инерцией) на больших скоростях: махи, вращения.
-- За пределами фитнеса (прикладной! тайцзицюань, танцы, сценическое движение, спорт и т.д.) -- D – уровень действий, сложные последовательности целенаправленных движений.

Я продолжаю танцевать вечерами пятницы кизомбу-под-некизомбу, считая, что это и есть мой вариант реализации проекта "буфф -- фьюжн всего хорошего в социальных танцах" (https://vk.com/buffdance). "Обычные кизомба-вечеринки" после этой хорошей музыки кажутся какими-то нудными, а тамошние треки неразличимыми. Алёна Фортунова выложила в инстаграмме очередной видеоролик с моим участием: https://www.instagram.com/p/Bu85UzyBMoQ/. А ещё мы провели две "лаборатории" социального танца: в первой я с первого раза смог повести пару человек на head movements в зуке (вот видео: https://yadi.sk/d/9DV9VVHleUTmuA/S2290006.MP4), а на второй я дважды продемонстрировал умение музыкально танцевать на музыку форро 7/8 (я к такой музыке с нечётными размерами почему-то привычный, мне в танце от таких размеров крышу не сносит, в отличие от многих других присутствовавших).

Вьюнош окончательно впал в пубертат, носит бороду (видите ли, "без бороды холодно ходить") и сутками ведёт задушевные беседы с Алисой на музыкальные темы. Учёба стоит, ничего не происходит, активная прокрастинация по всем учебным фронтам. Хотя это не совсем так. Выяснилось, что в интернетах он отнюдь не только мультфильмы смотрит, но и много разного другого визуального мусора, повышает свой кругозор в не-пойми-чём от самых разных "видеоблоггеров". Так что всё не так плохо, и всё именно так плохо. Но и это пройдёт.

Матерный вариант песни Sunny называется Ooh Wee и это то ли электрик свинг, то ли реп, то ли диско, то ли какая-то латина, послушайте для коллекции -- https://music.yandex.ru/album/212581/track/653591. Яндекс.музыка -- это великое изобретение человечества, этот робот откуда-то знает мои тайные музыкальные желания. Вообще, слушать мои любимые песенки можно тут: https://music.yandex.ru/users/ailev/playlists/3, это не единственный плейлист, но один из самых больших (920 треков на сегодня).

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10215016878869467
Sunday, March 10th, 2019
7:34 pm
Машинный интеллект/мышление, искусственное обучение, машинное обучение, искусственный интеллект
Слово "искусственный" уже нужно опускать рядом со словом "интеллект", а вместо слова "интеллект" можно писать слово "мышление" -- не слишком искажая смысл. Это как с "электронной почтой" -- сегодня другой уже, по факту, и не бывает, да и почта сменилась на чатики.

Сегодняшний человеческий интеллект не живёт без компьютерных моделей, доступного из любого телефона Гугля и чатиками с другими интеллектами, машинными и не очень. Дикарский интеллект -- это ведь не интеллект вовсе, а не-дикари сегодня уже киборги насквозь: сращены со своими смартфонами, корпоративными информационными системами и прочей вчера ещё нежитью, а сегодня буквально частями тела и мозга. Вот это всё вместе и есть сегодняшний "интеллект", сегодняшнее "мышление" в их машинном и человечьем винегрете. И даже не винегрете (где всё варится по отдельности, а потом смешивается), а сборной солянке (где всё проваривается вместе). Современные компьютерные приложения очень даже учитывают особенности человечьих мозгов (спросите у маркетологов и игроделов), а человечьи мозги очень даже учитывают особенности сегодяшних программ (спросите у себя, как ваши мозги вообще добрались до этого текста, чтобы его прочесть. Нашли ведь как-то?). И да, машинный интеллект и машинное обучение (внутри которого сидит обучение репрезентациям, а внутри которого сидит глубокое обучение) -- это одна и та же традиция, эпистемологическая. Где важна не мысль, а "как узнали". Обучились! С учителем, или без, или самообразованием -- это уже второй вопрос.

Уследить за всем, что происходит в области исследования интеллекта aka мышления уже нельзя, никакие одни мозги, даже поддержанные компьютерами, с этим не справятся. Но можно выделить некоторые точки особого внимания в происходящем: сдвиги понимания, приводящие к сдвигам в планах, приводящие к сдвигам в делах. И получается так, что на какие-то прорывы в чисто человеческом мышлении уже надежд нет, результаты в этой сфере более чем умеренные уже довольно долго: сильно умней не станешь, гениев на потоке не научились производить. Поэтому основные прорывы идут в сфере машинного интеллекта, пока ещё не совсем слившегося с интеллектом человека. Хотите стать таким умным, чтобы проектирование в машиностроении ускорить вдвое? Используйте AI, как это делают в General Elecric -- https://www.forbes.com/sites/jeremybogaisky/2019/03/06/general-electric-ge-artificial-intelligence/#1d66173ad881 (там использовали "машинную интуицию", т.е. нейронные сети, чтобы аппроксимировать точные вычисления -- и в результате сократили время, потребное на моделирование в миллионы раз, получив в итоге проект дизельного двигателя с 7% экономией топлива. И это не важно, что нейронная сеть была всего лишь "аппроксиматором". Обучение было примерно таким же, каким раньше учили операторов доменной печи: замечать разные мелочи, и действовать "по интуиции"). Этих "применений искусственного интеллекта" уже столько, что за ними следить совершенно неинтересно. Примерно как "применения электричества в промышленности и в быту": в 1919 году отдельно отслеживать такие новости уже было бессмысленным, а в 2019 году даже думать о таком, как чём-то особенном, странно. Вот в 2019 году отслеживать "применения искусственного интеллекта" стало бессмысленным. Это уже как электричество: используют все, это перестало быть новостью. Вот получение термоядерного электричества, или дешёвые батареи, или дешёвая фотовольтаика -- это новости. Производство дешёвого электричества -- новости до сих пор. Так что "производство машинного интеллекта" будет новостями и много позже того, как использование машинного интеллекта перестало быть новостью.

1. Основная битва происходит в области скорости, с какой происходит мышление. И человечье мышление тут не на фронтире, ибо проектируют тут уже не столько человечьи интеллекты, сколько машинные интеллекты:

1.1. Алгоритмы мышления. Всё должно быть точнее при заданной скорости, или быстрее при заданной точности, а ещё лучше -- и быстрее и точнее. Поиск нейроархитектур тут только одно из направлений, но немаленькое: https://www.automl.org/automl/literature-on-neural-architecture-search/ (и там, например, достижения типа Evolved Transformer, https://arxiv.org/abs/1901.11117, At big model size, the Evolved Transformer is twice as efficient as the Transformer in FLOPS without loss in quality. At a much smaller - mobile-friendly - model size of ~7M parameters, the Evolved Transformer outperforms the Transformer by 0.7 BLEU on WMT'14 English-German. Ещё пример -- ускорение алгоритмов, использовавшихся для сверхчеловеческого уровня игры в Go, чтобы такие эксперименты были доступны не только гигантам рынка типа DeepMind или Facebook: https://arxiv.org/abs/1902.10565,
Like AlphaZero and Leela Zero, a popular open-source distributed project based on AlphaZero, our bot KataGo only learns from neural net Monte-Carlo tree-search self-play. With our techniques, in only a week with several dozen GPUs it achieves a likely strong pro or perhaps just-super-human level of strength. Compared to Leela Zero, we estimate a roughly 5x reduction in self-play computation required to achieve that level of strength, as well as a 30x to 100x reduction for reaching moderate to strong amateur levels.

1.2. Компьютерное железо. Тут совпало, что приказал долго жить закон Мура, и одновременно потребовались ускорители для алгоритмов машинного обучения -- при этом спрос оказался главным образом на ускорение вычислений для deep learning алгоритмов (прежде всего свёрточных нейронных сетей). Поэтому инвестиции пошли не только в альтернативные CPU на разной архитектуре, но и в эти самые ускорители. Основной сюжет тут в том, что алгоритмов искусственного интеллекта оказывается множество, и непонятно, какие из них поддерживать аппаратно (вплоть до аналоговых вычислений, очень быстрых, но и самых ограниченных алгоритмически). Поэтому за обычными цифровыми компьютерами тут приоритет: их легко перестраивать на самые разные алгоритмы -- дифференцируемое программирование, эволюционные вычисления, символьные вычисления и всё остальное (помним про no free lunch theorem -- что нет универсального алгоритма. Идеальный для одного класса задач алгоритм будет ужасен для другого класса задач, и наоборот).

Наиболее легко делать ускорители класса "мозг насекомого", для computing at the edge -- то есть всякие микроустройства. И их уже тьма, самой разной архитектуры, ключевая их характеристика -- экономия электроэнергии. Производительность минимальная, но всё лучше, чем у CPU. Последняя новинка -- Google начал продавать за $150 Coral Dev Board на базе Edge TPU чипа -- https://venturebeat.com/2019/03/06/google-begins-selling-the-150-coral-dev-board-a-hardware-kit-for-accelerated-ai-edge-computing/. Все сравнения этого компьютера -- что это аналог Raspberry Pi, только для искусственного интеллекта. И таких крошечных компьютеров много, например Intel Movidius Myriad VPU 2 -- https://www.movidius.com/myriad2.

Для ускорителей побольше всё не так быстро, но тоже весело: квантовые компьютеры, мемристорная память, универсальные GPU, ещё более универсальные FPGA, не слишком универсальные TPU, инициативы не только NVIDIA, Intel, Google, Microsoft, новичков с valuation 1.7М типа Graphcore, и даже начинающий разработку своих чипов Facebook -- будет весело. А нейроморфные компьютеры пока "не взлетели", уж больно они неуниверсальны получаются.

Особо нужно упомянуть, что в сочетании с концепцией внимания-к-памяти (см. пункт 3 этого поста), грядёт возврат интереса к аппаратной ассоциативной памяти - последние разы мы видели этот интерес ещё в восьмидесятых годах 20 века, а потом победа wintel по факту закрыла это направление (жизнь там едва теплится -- https://en.wikipedia.org/wiki/Content-addressable_memory). Но нет ничего более нового, чем хорошо забытое старое.

Вот эти железо и алгоритмика решают всё. Дешевизна интеллекта решается именно в этом месте. А дорогой интеллект -- его мало, это и не интеллект вовсе. Интеллект должен быть дешевле грибов! И он будет дешевле грибов!

2. Переход от мантры "обучение без учителя" (unsupervised learning) как ключевого в машинном интеллекте к "самообучению" (self-supervised learning) и предсказаниям, как ключевому: изменилась "метафора торта" у Yan LeCun, в феврале вышла вторая версия (первая версия -- 2016 год, совсем недавно!) -- https://syncedreview.com/2019/02/22/yann-lecun-cake-analogy-2-0/ (больше ссылок см. в первом абзаце https://ailev.livejournal.com/1466364.html). По факту это переход к использованию моделей языка, моделей мира, дающих возможность предсказывать прошлые и будущие состояния.

3. Интеграция символьных и коннективистских представлений, канемановских "системы 1" и "системы 2". По этой линии свежие выступления Yoshua Bengio, особенно его выступление в университете Синьхуа 7 ноября 2018г, https://medium.com/syncedreview/bengio-at-tsinghua-university-on-maturing-deep-learning-and-babyai-aa0be56e4098 (вот слайды -- http://www.iro.umontreal.ca/~bengioy/talks/MSR-Beijing-Tsinghua-7nov2018.pdf) и недавно опубликованное интервью https://syncedreview.com/2019/02/16/yoshua-bengio-on-ai-priors-and-challenges/. Тут всё, как мы любим:
-- необходимость разбираться с символьными вычислениями
-- связь абстракций и формального выражения (у меня ведь давно было в to do про "распутать ортогональность абстрактности и формальности/символьности" -- вот эти материалы Bengio как раз касаются этой темы. Я только в августе последний раз писал про активную гибридизацию нижних уровней интеллект-стека, https://ailev.livejournal.com/1442172.html). Сюда же -- сюжет о "дифференцируемом всём", https://ailev.livejournal.com/1464563.html
-- внимание как способ работы с абстракциями. Память и внимание. Помним, что абстракции -- это то самое representation learning. А модели выражаются в терминах абстраций.
-- внимание и сознание (по той же линии рассуждений, что Attention schema theory -- https://ailev.livejournal.com/1193568.html)
-- символьность как отражение мира (а не только текстов), grounding
-- символьность как коммуникация
-- важность работы с причинностью. При этом проблема объяснения (explanation) оказывается частью проблемы работы с причинностью. И тут с объяснениями не всё так однозначно, см. https://arxiv.org/abs/1802.07810 (increased transparency hampered people's ability to detect when a model has made a sizeable mistake. These findings emphasize the importance of studying how models are presented to people and empirically verifying that interpretable models achieve their intended effects on end users).
-- модели мира и предсказания: виртуальные простые миры как "тренировочные" перед переходом к более сложным для обучения мирам.

Откуда берутся priors? Я уже много раз писал, что из культуры -- чем закончилась человечья эволюция, тем и начнётся эволюция машинизированного человечества, модели AI будут учиться на образцах текущей культуры, а не с полного нуля. И Bengio полностью эту точку зрения подтверждает.

Тут важно, чтобы наши курсы методологических дисциплин не противоречили представленным тут state-of-the-art идеям о мышлении -- поэтому мы будем проверять явно, насколько содержание курсов по плану в "Курс научного мышления -- в середине целого ряда методологических курсов" https://ailev.livejournal.com/1466364.html соответствует этим представлениям. Пока это всё совместимо с тем, что а рассказываю в книжке "Визуальное мышление" и по факту даётся в нынешнем курсе онтологики, но есть и много интересных поворотов мысли, которые нужно как-то осмыслить. Мне эти работы по машинному интеллекту важны тем, что они:
-- общие для человечьего и машинного интеллектов
-- дают некоторый способ думать об окружающем мире, о науке (моделировании мира).
-- дают идеи для выстраивания обучения людей, и выстраивания их симбиоза с умной нежитью

4. Мысль всегда распределена среди агентов. Поэтому многоагентность, где все агенты участвуют в общей эволюции -- это наше всё. Никакой интеллект/мышление не живёт в одиноком мозгу. Последние исследования OpenAI бьют в эту точку, например A Massively Multiagent Game Environment https://blog.openai.com/neural-mmo/, или с чуть менее выраженной мультиагентностью, но с тем же акцентом на куррикулум/развитие Unity Tower Environment: https://github.com/Unity-Technologies/obstacle-tower-env. А из новинок тут можно указать ещё и A Manifesto for Multi-Agent Intelligence Research, выпущенный DeepMind -- https://arxiv.org/abs/1903.00742, и там тоже прежде всего адресуются к эволюции: Evolution has produced a multi-scale mosaic of interacting adaptive units. Innovations arise when perturbations push parts of the system away from stable equilibria into new regimes where previously well-adapted solutions no longer work. Here we explore the hypothesis that multi-agent systems sometimes display intrinsic dynamics arising from competition and cooperation that provide a naturally emergent curriculum, which we term an autocurriculum. The solution of one social task often begets new social tasks, continually generating novel challenges, and thereby promoting innovation. Under certain conditions these challenges may become increasingly complex over time, demanding that agents accumulate ever more innovations.

Тут всё кипит и бурлит, причём есть общий признак: при слове "агент" появляется слово "среда" (environment), в которой этот агент/агенты действуют. И по факту простая задача моделирования агента сводится к моделированию виртуального и моделированию этого мира внутри агента (или их сети). Вот эта смена акцента с развивающегося "агента" или "множества агентов" на "агенты в развивающемся мире" и акцент на эволюционный характер этого развития -- вот это новое. См. подробней в "Open-endedness: понятие шире, чем эволюция" -- https://ailev.livejournal.com/1463013.html

5. Искусственный интеллект поднимает кучу старых вопросов, которыми начинают заниматься всё новые и новые люди:
-- вопросы того, что такое "человек" и даже "человечество". Ибо всякие идеи научных фантастов о том, что уважать нужно разум, а не биологическое оформление разума, вдруг начинают быть не совсем фантастическими.
-- возврат к идеям эволюции и развития, но на новой понятийной базе (open-endedness): https://ailev.livejournal.com/1463013.html
-- идеи социализма (например, возврат к идеям коммунизма в форме "работать будут роботы, и они должны наработать нам на потребности, а мы будем работать по возможности. А кому будут принадлежать эти роботы? Государству, которое нас должно теперь всем обеспечить по тем самым потребностям! Начнём с безусловного базового дохода, и без этих ваших трюков с бюджетом и льготами, просто гоните деньги на бочку").
-- этика, ибо требуется объяснить идеи этики вроде как "тупой машине". А тупая машина не требует "объяснений", но выучивает этику как общепринятые правила поведения -- мораль. И мораль оказывается всё время не слишком этичной, когда её начинают пробовать на прочность. Это я о проблеме bias в искусственном интеллекте: мы не можем научить компьютер быть лучше, чем мы сами -- примерно так же, как мы не можем научить наших детей быть лучше, чем мы сами. А ещё военные применения AI. А ещё регуляторные вопросы -- например, можно ли использовать малоинвазивные методы лечения рака роботами (FDA говорит, что риски непонятны, поэтому рисковать нельзя -- https://edition.cnn.com/2019/03/01/health/fda-warning-robotic-surgery-mastectomy/index.html).
-- политическая система, правоприменение и вообще жизнь во времена, когда можно легко сгенерировать фейки. Это вообще отдельная проблема, "производство правдоподобной лжи в промышленных масштабах" (про "кадавра, неудовлетворённого графомански", я уже писал -- https://ailev.livejournal.com/1465347.html, и про AI Калашникова, которым дикари уже вооружились -- https://ailev.livejournal.com/1465183.html).
-- ... такого сорта вопросов огромное количество, и даже интересно, сколько свежеиспечённых "специалистов по социальным наукам" найдут себе рабочие места, обсуждая их, уж как могут. Про социальные сети, в которых каждый может выступить экспертом по этике или политике, особенно, когда речь идёт о присущем нежити интеллекте, я вообще молчу: о чём говорить, если не об этом? О том, должно ли правительство бороться с грядущим глобальным потеплением, или грядущим малым ледниковым периодом? Нет, обсуждать себе подобных, а хоть и неживых, гораздо интереснее!

Но есть в этой области "нового мировоззрения" и "неполитические" идеи, которые достаточно мощны, чтобы на них обратить внимание. Так, обучение искусственных мозгов должно быть авторским: если учить не на безымянных примерах разных учителей, а на подписанных этими учителями примерах разметки данных, то тогда можно будет придавать больше веса разметке данных от уникальных людей, которые обладают интуицией получше. Поэтому все данные в мире хорошо бы иметь подписанными, кто их произвёл -- это ведь даёт "слабое свидетельство по Байесу" в части доверия к этим данным, что может быть учтено алгоритмом обучения, Who said what: Modeling individual labelers improves classification -- https://ai.google/research/pubs/pub46497. То есть требования цитирования имени того, кто произвёл тот или иной факт -- это важное требование, и оно мало имеет отношения к "признанию заслуг", но больше к оценке правдоподобия представленных фактов. Имена производителей фактов оказываются нужными, авторство важно.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10214981475064394, Вконтакте -- https://vk.com/wall-44016343_22869, фрифиде -- https://freefeed.net/ailev/6c295a5d-ee2b-45c1-8dd3-c617853a0020
Saturday, March 9th, 2019
1:25 pm
Приглашение на пятнадцатые Лебедевские чтения
Пятнадцатые чтения, посвящённые памяти Геннадия Лебедева, состоятся в субботу, 18 мая 2019 года, в 10:00, в Москве.

Многие из нас ведут проекты, которые начинали вместе с Геннадием, продолжают размышлять над темами, обсуждавшимися с ним, и вызвавшими его интерес, начинают новые дела, которые, мы уверены, привлекли бы и его внимание, дела, в которых нам так не хватает его острого ума, неожиданных подходов, полезных советов и необычайной целеустремлённости.

Геннадий приложил немало сил к тому, что мы можем назвать продвижением «дела свободы» – в экономике, в политике, в образовании. Поэтому именно свободу мы решили сделать темой чтений, организуемых в его память. Собравшись вместе, мы и поделимся воспоминаниями о Геннадии Лебедеве, и расскажем о своих работах, ведущихся в разных областях, но объединенных идеей свободы. Девизом чтений является сформулированный Лебедевым принцип «Всё новое – свободно».

Доклады и сообщения на чтениях делаются на темы экономической теории, этики и права, политики и идеологии. В докладах представлены фундаментальные исследования, прикладные модели, практики их применения и обратная связь с реальностью.

Участие в чтениях открыто для всех желающих. Доклады, сообщения и статьи для распространения среди участников будут отобраны оргкомитетом в соответствии с изложенной выше идеологической направленностью и содержанием чтений.

Участие
Оргкомитет просит желающих принять участие в чтениях зарегистрироваться до 19-00 15 мая 2019 года. Регистрация может быть осуществлена на сайте чтений http://g-l-memorial.ice.ru, а также по электронной почте ailev@asmp.msk.su. Незарегистрировавшиеся участники будут допущены на чтения при наличии свободных мест в зале, поэтому просим вас регистрироваться заранее.

Участие в чтениях бесплатно. Проведение чтений финансируются из добровольных пожертвований, желающие внести средства могут указать своё намерение при регистрации или связаться с оргкомитетом до или во время чтений.

Оргкомитет не обеспечивает проезд и проживание иногородних участников чтений.

Доклады
Желающие выступить на чтениях с докладом, кратким сообщением, или распространить свои материалы среди участников, могут зарегистрироваться на странице заявок http://g-l-memorial.ice.ru или по электронной почте ailev@asmp.msk.su. Заявка должна содержать тему доклада или сообщения, развёрнутые тезисы и/или слайдовую презентацию и/или полный текст доклада.

Продолжительность доклада – не более 30 минут, сообщения -- не более 10 минут. После каждого доклада программой чтений будет предусмотрено время для обсуждения.

Срок регистрации заявок на доклады и сообщения – до 10 мая 2019 года. Оргкомитет оставляет за собой право отклонить предложенные выступление или материалы для распространения без объяснения причин отказа. Оргкомитет свяжется с докладчиками для дальнейшего согласования времени и формы выступления.

Предварительная программа будет публиковаться и уточняться на сайте чтений. Окончательная программа чтений будет объявлена Оргкомитетом не позднее 15 мая 2019 года.

Список членов оргкомитета чтений доступен на настоящем сайте (http://g-l-memorial.ice.ru).

Оргкомитет

Событие в фейсбуке -- https://www.facebook.com/events/352832638659209/
Thursday, March 7th, 2019
7:33 pm
Школа системного менеджмента -- весна 2019
В ШСМ прямо сейчас идут занятия по моему курсу "Системный менеджмент и стратегирование v2" (уже прошло два из шести занятий), Вячеслава Мизгулина "Системная инженерия и менеджмент продукта", Антона Климата "Системный фитнес", Церена Церенова "Системный подход в менеджменте и инженерии". Так что март уже полон занятий текущих групп, плюс стартуют ещё два курса:
-- 22 марта (пятница) один вечер будет проходить первый тренинг-игра Церена Церенова «Я – стейкхолдер», http://system-school.ru/game. За 3 часа знакомимся с некоторыми понятиями системного подхода 2.0, проверяем их понимание на учебных задачах, а затем даём возможность прочувствовать своё стейкхолдерское мастерство в деловой игре.
-- 24 марта (воскресенье) Антон Климат проводит уже третий поток однодневного тренинг «Телесная инженерия» (http://system-school.ru/body). В нём делается упор на набор упражнений для решения проблем свободного движения (выходите с новым телом, в полном удивлении), но не даётся подробных объяснений и отчуждаемой методики. Это существенно сокращённая версия идущего сейчас полного курса «Системный фитнес» (следующий поток полного курса будет в Питере с 4 по 12 мая, http://system-school.ru/movereg, а в Москве с 20 июля по 10 августа, http://system-school.ru/move).

А ещё в марте будут мероприятия исследовательской программы:
-- 14 марта (четверг) вечернее заседание Лаборатории телесного мышления, где будет три доклада (Б.Майера -- дистантно из Новосибирска, А.Климата и мой) по использованию идей Бернштейна в части системных уровней управления движениями, https://www.facebook.com/events/2374635926114876/
-- 21 марта (четверг) вечернее заседание рабочей группы по системному маркетингу, будем продолжать формулировать дисциплину, https://www.facebook.com/events/2251086101877054/
-- 30 марта третья ежегодная однодневная конференция «Прикладное системное мышление», которую организуют совместно ШСМ, Русское отделение INCOSE, АНО «НИСИПП» -- https://www.facebook.com/events/263060364375731/. Программа докладов практически сформирована, но продолжает изменяться. Конференция бесплатная, но будем благодарны за поддержку (https://system-school.timepad.ru/event/871300/…).

В апреле и начале мая будут доступны практически все наши основные курсы:
-- 6 апреля (суббота) Александр Турханов проводит однодневный тренинг «Как быстро договариваться в сложных ситуациях» (http://system-school.ru/stakeholders). Это тренинг начального уровня для тех, кто хочет научиться договариваться в сложных ситуациях, понимать мотивы и цели людей в команде, интуитивно разделять рабочие и личные конфликты и не позволять им смешиваться на переговорах. И это всё на базе системного подхода 2.0.
-- 7 апреля (воскресенье) однодневный тренинг «Дисциплины для апгрейда образования инженера, менеджера предпринимателя» (http://system-school.ru/uptodate). Он расскажет про фундаментальное образование и деятельностный кругозор ("второй бакалавриат", поднимающий общий уровень возможностей личности, в отличие от традиционной "второй магистратуры", дающей просто новую быстро устаревающую профессиональную специализацию). Именно в этом тренинге я рассказываю про идеологию образования, лежащую в основе всех текущих и будущих курсов Школы, в этом тренинге отражаются мои текущие исследования. Предполагается, что после тренинга его участники смогут спланировать свою образовательную траекторию: что читать, на какие курсы в какие школы ходить.
-- 12 апреля (пятница) стартует шестой поток курса Пион Медведевой «Основы онтологики», http://system-school.ru/ontologics. Курс будет идти четыре вечера раз в неделю по пятницам. Этот курс особо рекомендуется тем, кто хочет навести порядок в собственном мышлении. После этого курса проходить курсы всего системного (мышления, менеджмента, инженерии) будет много проще.
-- 13 апреля (суббота) Александр Турханов проводит первый открытый поток нового тренинга «Механизм расстановки приоритетов задач в портфеле проектов» (http://system-school.ru/priority). Альтернативное название -- «Как без полномочий выбрать и сделать самое важное и не вызвать конфликты?». В этом тренинге показывается, как совместно использовать практики системной инженерии и операционного управления, чтобы приоритеты задач выставлялись из понятных экономических соображений (и поэтому не вызывали споров), но на базе чёткого представления о продуктах и сервисах. До этого Александр успешно проводил подобный тренинг в корпоративном формате.
-- 13 апреля (суббота) стартует шестой поток четырёхдневного (по субботам) практикума «Системная инженерия и менеджмент продукта», который ведет Вячеслав Мизгулин (http://system-school.ru/engineering). Моделирование ведётся с с помощью нашего моделера Product-Studio, который поддерживает понятия системного подхода. Результат получается лучше, чем использование SysML или даже ArchiMate в варианте SysArchi.
-- 20-21 апреля Церен Церенов проведёт юбилейный двадцатый поток базового курса «Системный подход в менеджменте и инженерии» (http://system-school.ru/base). Из нового в этом потоке – кроме решения задач будут ещё и деловые игры.

Мой пятый (или четырнадцатый, если включать первую версию курса) шестидневный марафон «Системный менеджмент и стратегирование 2.0», http://system-school.ru/sms начнётся в воскресенье 12 мая 2019. Будет очередное трехмесячное погружения в системное мышление в приложении к менеджменту и стратегированию. Мои там занятия, семинары будет вести Церен Церенов, после курса защита. Кто защищается -- сертификат "прослушал и освоил", а кто не защищается -- "прослушал". Впрочем, это приложимо и ко всем остальным курсам.

Диаграмма курсов (и календарь) на сайте Школы -- http://system-school.ru/
События Школы в фейсбуке -- https://www.facebook.com/pg/system.school.ru/events/
Чат абитуриентов Школы -- https://t.me/welcomeSSM (отвечаем оперативно на организационные и содержательные вопросы).
И не забываем, что у выпускников Школы скидка!
Wednesday, March 6th, 2019
2:47 am
Доклад "Проблемы обучения методологическим дисциплинам"
Сегодня на семинаре Школы системного менеджмента прочёл двухчасовой доклад "Проблемы обучения методологическим дисциплинам". Видео (https://youtu.be/dOYyWD49X9k):


Слайды -- https://yadi.sk/i/-8PgheROVaeTdQ

Развёрнутые тезисы доклада были опубликованы в https://ailev.livejournal.com/1466484.html
Sunday, March 3rd, 2019
1:49 am
lytdybr
Судя по комментам, читающие меня инженеры, менеджеры и предприниматели (да и все остальные тоже) потеряли нить того, чем я занимаюсь сегодня основное время. Значит, меня таки вынесло на очередную новую полянку, и я на этой полянке оказался немного раньше других. Я делаю новое образование, которого ещё не было примерно так же, как делал до этого консалтинг -- реализуя мою миссию, сформулированную ещё в 2007 (https://ailev.livejournal.com/500732.html): "Откапываю и распространяю мощные идеи, способные существенно повысить эффективность людских усилий".

Мощные идеи -- это которые "против здравого смысла", "контринтуитивные" (типа идеи, что земля не "очевидно же" плоская, а вовсе круглая. Или что земля вращается вокруг солнца, а не наоборот. Или что умножать нужно в арабских цифрах в то время, как весь цивилизованный мир считает в римских цифрах). Эффективность усилий -- это про затраты времени, денег, нервов, энергии, материалов, рутинного труда, интеллектуального труда и т.д. для приближения к цели. Конечно, хорошо видимой цели, а не туманной мечты "цельного человека".

А почему образование? Потому что по сравнению с консалтингом, которым я занимался десятки лет, а) можно на этом сфокусироваться (то есть меньше заниматься всем остальным, выделяя больше времени на откапывание новых идей) и б) проще обеспечить масштабируемость, если я нашёл что-то интересненькое.

Например, живой и современный системный подход в системной инженерии я нашёл осенью 2007 года (решая консалтинговую задачу, подкинутую Петром Щедровицким). Но с его распространением в консалтинге дело буксовало из проекта в проект: консалтинговые задачи решались, распространялись мощные прикладные идеи, а вот собственно системное мышление распространять не очень получалось. Но когда занялся образованием (втянул меня в это дело Вячеслав Чикин, в 2012) -- всё отличненько пошло. Медленно, но верно. Год назад назад появился курс "Системное мышление" на coursera -- и на этой неделе там круглая цифра, 200 человек, получивших сертификат об окончании (это те, кто оплатил проверку задач. А тех, кто почитал учебник или хотя бы поглядел видео, так их вдесятеро больше). А ещё полторы сотни студентов. А ещё выпускники Школы.

Так что я как научный руководитель Школы системного менеджмента значительную часть дня сижу в этих моих интернетах, аки какой киборг, и выкапываю из гугля, новостных лент и множества чатов во всех соцсетях и мессенджерах те самые мощные идеи. И считаю это рабочим временем. А потом Школа эти идеи вколачивает в головы выпускников.

Особенность момента в том, что идей начало выкапываться много, и их начинает хватать уже на полноценное образование. И мне нужно сделать curriculum, спроектировать и воплотить в жизни. Это трудно, но возможно. При этом приходится работать на разных системных уровнях: обсуждать жизнь людей и их потребности, обсуждать сам куррикулум (его состав из методологических и когнитивистских дисциплин, а также деятельностный кругозор -- "второй бакалавриат", https://ailev.livejournal.com/1453126.html), обсуждать содержание отдельных дисциплин (от онтологики через стейкхолдерское мастерство и прокрастинатологию до операционного менеджмента и стратегирования).

И вот тут люди меня и потеряли. Написал про телесное мышление -- "ах, Левенчук занялся физкультурой! Он потерян для инженерии требований!". Рассказал о стейкхолдерском мастерстве -- всё, "Левенчук занялся формой, потерял содержание". А неделю назад занимался онтологикой -- это я что, формой или содержанием занимался?! А когда про AI пишу -- это я про softskills или hardskills?

А я ведь ничем я таким не занялся: тексты, которые я пишу, они для коллективной работы, а не только для моей личной. Я (и не только я, что уже счастье!) определяю образовательные потребности, формулирую требования к этому новому образованию, дальше определяю архитектуру куррикулума "второго бакалавриата" в целом, выставляю требования к его частям. Занимаюсь архитектурой, действую по норме, беседую со стейкхолдерами, а поскольку полянка совсем новая, то иногда и немножко исследовательской работой по каким-то отдельным частям приходится заниматься, и онтологическим оформлением этой работы. А в тех областях, которые я уже исследовал и хорошо знаю, так идёт уже "рабочая" работа, то есть читается курсы -- идеи откопаны, их просто распространяем. Скажем, я хорошо знаю менеджмент и стратегирование -- я ж в консалтинге по этим вопросам 29 лет, с лета 1990 года, когда начал консультировать биржевой совет РТСБ на тему корпоративного управления (corporate governance) и того самого стратегирования. Сейчас идёт тринадцатый поток шестидневного курса на эти темы, курс регулярно перерабатывается. Что об этом писать? Там все ходы записаны на многочисленных корпоративных видео, там сотни и сотни слайдов -- материала на несколько толстых книжек. Кругозорный курс по системной инженерии идёт в МФТИ, курс по продакт-менеджменту идёт в ШСМ. Прикладные курсы, если захотят, люди где-нибудь найдут -- это уже магистратура, специализация, а в специализациях нельзя объять необъятное. Объять необъятное можно в самых фундаментальных дисциплинах, в том же системном мышлении: один раз выучил, а потом везде используй.

Поэтому новые темы в разработке у меня появляются, оформляются, а потом переходят в курсы. Помните, я писал о рационализме и рационалистах? А теперь идут курсы онтологики. Вот и с другими темами так будет. Не бойтесь, что я чем-то не тем занялся, и занялся надолго. Долгое тут -- это формирование curriculum. Но ввиду необъятности задачи почему-то мало кто понимает, что я именно этим занимаюсь, а не НЛП в стейкхолдерском мастерстве (чем я тоже занимаюсь, но это третий сверху уровень, поэтому времени у меня на это уходит не так много).

А почему вдруг я занялся этим куррикулом для современного "второго бакалавриата"? А потому что на эту тему адекватных материалов, которые меня бы удовлетворяли, существует в мире практически ноль. Вот я эти материалы и делаю, уж как могу. И надеюсь, что с помощью коллег я таки раскопаю для этого куррикулума мощные идеи, поднимающие эффективность людских усилий, а потом мы эти идеи распространим -- самым прямым методом: будем им учить. А как же противоречие жёсткого куррикулума и непрерывного образования, как же идея о том, что всех выучит искусственный интеллект и прочее такое? Да знаю я об этом, есть и на эти вопросы ответы. И я понимаю, что собственного сына через такой куррикулум я вряд ли успею пропустить. Хотя через некоторое время -- почему бы и нет, и он дорастёт, и куррикулум доделается.

Пока же я целый день и полночи пялюсь в экран и чатюсь, по вечерам когда читаю доклады и семинарю, а когда танцую, плюс по воскресеньям ещё веду тренинги на целый день. И так день за днём. Раскапываю мощные идеи и распространяю, организую раскапывание и организую распространение. Шире спектр идей, масштабней распространение.

С танцами потихоньку всё происходит, я продолжаю ходить и на занятия, и на вечеринки. Вчера я создал ВКонтакте сообщество для желающих потанцевать винегрет/солянку/raggle-taggle из самых разных танцев -- https://vk.com/buffdance. Уже некоторое время мы танцуем микс из всех танцев: кизомбы-урбанкиза-таррашо, танго, зука, хастла и многих других. И делаем это под самую разную музыку. Начали мы это делать в московском клубе "Буфф" на импро-хастл дискотеках (откуда и пошло название нашего стиля), хотя в основе этого стиля оказалась биомеханика кизомбы-урбанкиза-таррашо, удобная для включения в неё танцевальной лексики всех остальных танцев. За сутки в сообщество записалось 37 человек, практически без рекламы. У мультидансеров нет своего стиля и площадки для его обсуждения, так вот по факту сделали.

Меж тем, самокатный сезон опять закрылся, на улицах мокро и скользко. Пришёл марток, надевай семь порток. У меня с прошлой пятницы сезон новых портков, уже 44 размера. Новые штаны куплены уже в подростковом магазине, ибо взрослых размеров таких уже нет -- http://www.dresslux.ru/customers/all_sizes/. Я таким стройным всю жизнь ходил, так что просто вернулся в свой размер. В зеркале я сейчас выгляжу привычно для себя, а новые штаны сидят ещё и с небольшим запасцем. Самый же большой размер у меня был 54, это в конце 90х. Худеть-толстеть дело не хитрое.
Saturday, March 2nd, 2019
2:05 am
Доклад "Стейкхолдерское мастерство"
Сегодня на семинаре Школы системного менеджмента прочёл двухчасовой доклад "Стейкхолдерское мастерство". Видео (https://youtu.be/-ndcKZoj4P0):

Слайды -- https://yadi.sk/i/jftY5y-gCO6MOQ

Из нового в этом докладе рассказывается более подробно про театральную метафору, как задействовать практики актёрских школ (которые по системе Станиславского и прочих подобных), что уходит в методологические курсы, связь актёрского мастерства с психопрактиками (в том числе "НЛП-моделирование" по Дж.Гриндеру), управление эмоциями своими и стейкхолдерскими, идея о трёх уровнях работы с вниманием (макро, микро и нано), связь с телесными практиками/снятием зажимов и много всего другого по мелочи.
Tuesday, February 26th, 2019
11:15 pm
Проблемы обучения методологическим дисциплинам
Обучение методологическим дисциплинам (от онтологики через научное мышление до системного и вычислительного мышления, см. https://ailev.livejournal.com/1466364.html) имеет следующие проблемы:

1. Проблема содержания образования.
Отсутствие в явном виде компактно изложенного содержания современного (state-of-the-art) методологического мышления. Минимальный набор понятий каждой методологической дисциплины приходится набирать заново -- по факту речь идёт о написании такого рабочего продукта, как учебник, но без дидактической составляющей. Цель тут -- просто собрать в одном рабочем продукте то, чему нужно учить. Так был создан учебник "Системное мышление" (2018, https://ridero.ru/books/sistemnoe_myshlenie/). Но то же самое нужно делать и в отношении всех остальных методологических дисциплин. Вот тут какой-то заход на подобную работу, создание книжки для части этих дисциплин: https://ailev.livejournal.com/1461525.html

Другими словами: если не знаешь точно, чему учить, то содержание всех следующих пунктов не имеет значения. Они осмыслены только тогда, когда это учебное содержание сформулировано, и понятно, зачем ему учить -- что будет у человека лучше, если он выучится.

2. Народные представления о методологических дисциплинах.
Наличие folk ontology (уже имеющихся "народных представлений") о методологических дисциплинах. Во-первых, это приводит к отсутствию мотивации учиться. "Я знаю, что Земля плоская, и с этим прожил много лет. Ваши мысли о круглой земле -- это мелкие вариации на темы формы земли, мои мысли про плоскую землю не хуже, и ведут к результатам в жизни не хуже". Дальше наблюдаем ещё и эффект Даннинга-Крюгера (https://ru.wikipedia.org/wiki/Эффект_Даннинга_—_Крюгера -- чем меньше знает человек, тем больше у него уверенность в своих знаниях). Скажем, при знакомстве с системной инженерией средний советский инженер утверждает, что он делает то же самое, что системный инженер, только лучше. Системное мышление в народном представлении -- это просто сообразительность чуть выше среднего. Логика в народном представлении -- это умение связно излагать мысли, делать презентации. Зачем нужно научное мышление инженеру -- этого не объяснить вообще. Это, пожалуй, самое слабое место: нулевая мотивация к обучению даже не в ходе обучения (тут можно задействовать бихевиоризм, обучение с подкреплением, двигать мотив на цель и хоть как-то проявлять лидерство, загоняя вывёртывающегося из позиции ученика человека -- см. обсуждение принудительного учебного труда в http://ailev.livejournal.com/1316601.html), а ещё до обучения. Если человек не поступил в вуз, то его уже нельзя "вовлечь в учебный процесс и увлечь им", процесса-то ещё нет, и этот процесс считается ненужным.

То, что после освоения методологических дисциплин будет легче овладеть деятельностным кругозором и менять сферы деятельности -- это не слишком сильный аргумент.

3. Воспринимаемая трудность обучения
Проблема воспринимаемой когнитивной нагрузки (percieved cognitive load из теории мотивации ожидаемой пользой, expectancy value theory -- https://en.wikipedia.org/wiki/Expectancy-value_theory). Если человек не уверен в пользе от изучения (см. предыдущий пункт), и уверен в сложности самого изучения (у него ведь есть свои собственные представления о своих способностях, а также о сложности предмета -- не реальной сложности, реальной когнитивной нагрузки http://en.wikipedia.org/wiki/Cognitive_load, а воспринимаемой им, perceived cognitive load, воспринимаемой кривой обучения perceived cognitive curve), то он просто не будет учить предмет.

Методологические дисциплины во-первых, не легки. Во-вторых, они и не воспринимаются лёгкими. Поэтому чаще всего люди принимают решение их не учить -- даже если они понимают, что знание этих дисциплин будет им как-то полезно.

Какие-то рассуждения на эту тему для системного мышления были сделаны в https://ailev.livejournal.com/1398599.html, но ситуация (как видно через год после написания этого текста) не стала сильно лучше. И тут нужно учесть, что дисциплин у нас много, поэтому их perceived cognitive load суммируется -- и на полный куррикулум может найтись не слишком много желающих, единицы на всю страну.

Вообще, этот пункт -- очередной заход на проблему "никто не хочет учиться XYZ", https://ailev.livejournal.com/1158826.html.

4. Обучение современному состоянию дисциплин против знакомства с историей вопроса
Поскольку мы собираемся обсуждать новое мировоззрение, то нужно не только учить ему непосредственно. Нужно ещё и давать знания о его отличии от расхожих, но устаревших положений логики, онтологии, научного мышления и т.д. -- чтобы выпускники могли легко обнаруживать это типовое поведение в своём окружении, чтобы они легко понимали, с какими именно заблуждениями они сталкиваются в своей коммуникации с другими людьми. Но вот это "учить сразу новому, безошибочно и практично" и "учить в отстройке от старого, добавляя историю предмета" противоречат друг другу (см. дополнительно "антиисторичность в преподавании", https://ailev.livejournal.com/1403421.html).

Конечно, наличие folk ontology в мышлении нужно специально учитывать в обучении, ориентируясь на concept inventory -- http://en.wikipedia.org/wiki/Concept_inventory (гнездо там и много-много материалов на тему как учить концептам http://modeling.asu.edu/R%26E/Research.html). Идея простая: если в аристотелевской физике палец давит на стол, но стол не давит на палец, а в ньютоновской физике они оба давят друг на друга с одинаковой силой, то в наборе задач обязательно должна быть задача на проверку пользования аристотелевской физикой, задача-ловушка на каждый известный случай подобной ошибки. В курсе "Системное мышление" на курсере (http://systemsthinkingcourse.ru/) есть более 200 задач, составленных по принципу concept inventory -- они специально ловят ошибки системного мышления. Но этих задач мало, проходившие этот курс указывают, что число задач нужно бы поднять вдесятеро. И этих задач нет для других дисциплин методологического куррикулума.

Хотя это ещё не венец развития -- Лей Бао сотоварищи показали, что умение рассуждать и тренинг в мышлении на базе какого-то набора концептов это не одно и то же, http://arxiv.org/ftp/arxiv/papers/0807/0807.2061.pdf. Изучение физики оказывается не таким уж "выправляющим мозги" -- A historically held belief among educators and researchers is that training in physics, which has a beautiful structure of logical and mathematical relations, would in general improve students’ abilities in conducting reasoning that is intellectually challenging. However, the result from this study suggests that training in physics content knowledge in the traditional format alone is not enough to improve students’ general reasoning abilities). Ну, и появились материалы, обсуждающие beyond concept inventories towards measuring how students think -- http://www.ncbi.nlm.nih.gov/pmc/articles/PMC2830154/ (concerns about measuring student thinking as opposed to student knowledge, но все эти попытки плохо технологизируются по сравнению с concept inventory). Больше на эту тему в моём тексте "Заметки к "Заметкам по теории моделирования" Давида Хестенеса" -- https://ailev.livejournal.com/1197467.html.

Так что непонятно, нужно ли учить людей, что земля имеет форму шара или геоида, и таки рассказывать про существование идей про плоскую землю и основные аргументы против, или ограничиться только изложением основной версии и освоением мышления в рамках этой версии. Нужно ли учить людей, что такое "требования" и ограничиваться этим, или одновременно обязательно объяснять, что "типовое техническое задание в России -- это не требования, это именно задание на выполнение работ, и там прежде всего перечисляются работы, которые нужно сделать. И там часто только в одном из разделов есть что-то, похожее на требования, вперемешку с ограничениями/архитектурой. И обычно совсем нет потребностей. И вообще, техническое задание это рабочий продукт/описание, а требования это альфа/определение".

5. Методика обучения
Как именно проводить обучение (форма!), чтобы оно было быстрым, а ещё чтобы знания донести до возможности использования в жизни. Например, peer instruction -- http://erazvitie.org/article/pervyj_kavaler_minervy ("Представь себе двух студентов, которые сидят рядом. Их зовут Джон и Мэри. У Мэри есть правильный ответ, потому что она понимает сам вопрос, а Джон не понимает его. В большинстве случаев Мэри убедит Джона в правоте своего ответа, благодаря силе логики. Но главное не в этом. Главное в том, что Мэри наверняка сможет объяснить проблему Джону более успешно, чем это сделает профессор Мазур. Почему? Да потому, что Мэри только что поняла, как её надо решить... Она ещё помнит, какие трудности возникают у студента, который приступает к решению этой задачи в первый раз, тогда как профессор Мазур решил её давно и считает решение лёгким и очевидным" -- это описание "проклятия знаний").

На эту же тему -- методики скоростного обучения "уровня техникума", разработанные на основе теории поэтапного формирования умственных действий П.Я.Гальперина (https://ru.wikipedia.org/wiki/Теория_планомерно-поэтапного_формирования_умственных_действий_и_понятий ), как создавать такие методики написано в книжке Б.Ц.Бадмаева "Психология и методика ускоренного обучения", http://www.klex.ru/3hh. Книжка хорошая, и во многом стыкуется с нашими представлениями об обучении, но использовать её непосредственно для обучения мышлению проблематично (она базируется прежде всего на алгоритмах, процедурных описаниях деятельности -- последовательностях мыслительных шагов, предпринимаемых в тех или иных обстоятельствах. Трудно по этой методике учить всему, что плохо алгоритмизируется и плохо представляется как последовательности шагов с условным выполнением и циклами).

На эту же тему -- материалы моей цепочки текстов про сержантский метод (обучение путём решения многих мелких задач) "Подстрочник рассказа о клубе одиноких мозгов сержанта Солта" -- http://ailev.livejournal.com/1287293.html

Тут можно приводить много разной литературы о скоростном и практичном обучении: все эти методы легко декомпозировать и создать собственный метод -- монстрообразные методологии прошлого благополучно разваливаются, и части методов начинают принимать участие в эволюции, выживают не монстры, а их отдельные находки.

Трудность тут в том, что всё одно должен быть создан (а не просто позаимствован в готовом виде) достаточный для обучения ситуационный (набранный из самых разных частей, взятых из самых разных источников) метод, в котором есть всё, нужное для обучения. И дальше в рамках этого метода должны быть разработаны учебные пособия (даже в методах, которые постулируют отсутствие учебника требуется разрабатывать карты действий и другие поясняющие материалы), а ещё нужно разрабатывать задачи и тесты. И чем легче и быстрее предполагается последующее обучение, тем более трудоёмка разработка этого ситуационного метода.

6. Как строить куррикулум для методологических дисциплин
В методологических дисциплинах нас ожидают длинные понятийные расстояния (https://lesswrong.ru/w/Ожидая_короткие_понятийные_расстояния ). По сути дела, речь идёт о большом объёме пререквизитов к каждой дисциплине. Это сильно отличается от профтехобразования, где каждое новое понятие можно быстро вводить само по себе. Но и в профтехобразовании курсы получаются длинными. Для обучения наладчика станков с ЧПУ по данным из упоминавшейся книжки Б.Ц.Бадмаева нужно овладеть 700 действиями, "учебник" там -- 40 страниц машинописного текста, а решение задач занимает 2-3 месяца на полный рабочий день. Для овладения работой на радиолокационной станции (определение азимута и дальности для 6-8 воздушных целей) у автором методики ускоренного обучения требуется -- 41час, 80 часов у специально подготовленных инструкторов, а у "просто инструктора" -- 200 часов. Для сравнения: официально курс системного мышления в вузе идёт 36 очных часов (академических, а не рабочих!), с учётом выполнения домашних заданий можно рассчитывать ещё на пару раз по столько -- в любом случае это не более 100 часов. Насколько можно овладеть системным мышлением за это время? Но не это главная беда: главная беда, что ключевые ошибки в овладении этим мышлением лежат в других методологических дисциплинах (подробней: https://ailev.livejournal.com/1465753.html), и тем самым обучение системному мышлению требует каких-то пререквизитов -- понятийные расстояния от понятий среднего человека до понятий системного мышления оказываются далёкими.

Тем самым проблема "курса обучения" превращается в проблему создания какого-то куррикулума, цепочки курсов. Такая цепочка курсов для методологических дисциплин и была предложена в https://ailev.livejournal.com/1466364.html, процитируем её тут:
-- онтологика классическая: термины, которые важны и неважны, отслеживаемость типов и отношений в схемах и в естественном языке, формальность и недискретность/вероятностность моделирования, проверка типов и работа с наследованием, холархия/мереология и 4D, классификации и специализации. Описания как модели с интерпретаторами-людьми и компьютерами.
-- понимание и выражение: от многабукофф к смыслу и обратно (вот это нужно специально тренировать!)
-- как сообразить на троих: множествественность описаний -- дисциплины, стейкхолдеры. Коммуникативные стратегии: как стейкхолдерам договориться.
-- научное мышление. Правдоподобность моделей, эксперимент, возможные миры, предсказания, вероятностная логика, причинность и контрфактуальность.
-- принятие решений, прагматика. Методы принятия решений, упаковка решений в модель, согласование решений с другими стейкхолдерами.
-- системное мышление: виды систем, системные уровни и эмерджентность, требования и архитектура, жизненный цикл.

Тут проблема в том, что сталкиваются две разные теории обучения: в одной из них речь идёт о поэтапном освоении материала, а в другой говорится, что много быстрей получается обучение, когда ставятся реальные сложные задачи и сразу применяется (хотя это и очень медленно) полный объём знаний. В упоминавшейся уже книжке Б.Ц.Бадмаева приведён пример, что обучение "по темам" орфографии занимает вдвое больше времени, чем обучение сразу всей орфографии. То же относится к печатанию на пишущей машинке: овладение печатью сразу всеми пальцами, а не "по зонам" оказывается эффективней в разы. Верно ли это для обучения каким-то практикам именно мышления? Скорее всего, верно. Но верно и другое: слишком большие учебные модули вредны, куррикулум должен быть модульным! Хорошие системы имеют хорошую модульность -- иначе их трудно разрабатывать, "всё со всем связано", и ошибки в каком-то модуле дают неожиданные эффекты (модульность: https://ailev.livejournal.com/1294242.html).

7. Обучение шаблонам против обучения творчеству
Любой метод ускоренного обучения декларирует, что он учит именно мышлению, но очень похож на "натаскивание" на какие-то шаблонные ситуации. Так, при обучении системному мышлению каждый раз приходится рассказывать, что шаблонность мышления в типовых ситуациях -- это хорошо, и нешаблонность всегда найдёт своё место при встрече каких-то особых ситуаций. Но часть людей принимает решение не учиться мышлению ровно из-за боязни ограничить своё творчество. Проблема: как продемонстрировать, что выпускники курсов мышления способны не просто "решать задачи", но способны к творчеству?!

Тут ещё и такая проблема, что для методологических дисциплин нужно показать связь их с творчеством. Знание онтологики мешает проектному творчеству, или помогает, и как именно? А что такое творчество в самой онтологике?

8. Масштабируемость обучения.
Понятно, что много людей с использованием живых преподавателей не обучишь. Но и недостатки MOOC хорошо известны: окончившие онлайн-курсы люди часто не блещут в части качества использования полученных ими знаний в жизни. Люди из стандартных вузовских обычно мыслят чуть получше, но это существенно дороже. Менторство (плотное общение с преподавателями в рамках выполнения каких-то проектов) тут самое дорогое, но и качество обучения максимально. Такое позволяют себе главным образом докторанты, и во много меньших масштабах магистранты. Использование AI для замены живых преподавателей ещё далеко. Поэтому нужно понимать, как выбрать золотую середину между качеством обучения и его масштабом. Выпускать по 100 человек в год маловато будет, но гарантировать качественное обучение хотя бы 10тыс. человек (если удастся их заманить!) методологическим дисциплинам при современном уровне педагогических технологий практически невозможно.

* * *
Конечно, это не полный список, но пока и его достаточно. На решении проблем из этого списка мы и сосредоточимся.

UPDATE: дискуссии в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10214907809422799 и https://www.facebook.com/groups/771940449578453/permalink/1871701092935711/

UPDATE: Видео доклада -- https://youtu.be/dOYyWD49X9k, слайды -- https://yadi.sk/i/-8PgheROVaeTdQ
Monday, February 25th, 2019
3:06 am
Курс научного мышления -- в середине целого ряда методологических курсов
Интереснейшая лекция "Эпистемология глубокого обучения" Яна ЛеКуна была 22 февраля 2019 (он сам её назвал "Глубокое обучение: алхимия или наука?", я бы её назвал -- "Глубокое обучение: инженерия или наука") -- https://youtu.be/gG5NCkMerHU. И это нужно обязательно смотреть вместе со слайдами его выступления на предмет аппаратуры машинного обучения 18 февраля 2019 -- https://twitter.com/ylecun/status/1097532314614034433. Он подтверждает давно известный тезис (я даю его в учебнике "Системноинженерное мышление" http://techinvestlab.ru/systems_engineering_thinking/ в разделе "инженерия и наука" в изложении Billy Koen), что инженерия не научна: она не дожидается, пока какая-то теория построит хорошую модель предметной области. Мосты строили и в средние века, когда предмета "сопротивление материалов" в университетах не преподавали. И построенные тогда мосты стоят до сих пор, и никого это не удивляет.

Второй закон Кларка: если пожилой учёный говорит, что что-то возможно -- то, скорее всего, это возможно. Поэтому всё, что ЛеКун говорит про мощь инженерного подхода и примат эксперимента/эволюционных проб над теоретизированием -- да, это верно.

Но этот же закон Кларка утверждает, что если пожилой учёный говорит, что это невозможно, то это скорее всего возможно. Например, ЛеКун говорит в слайдах про аппаратуру, что обучение с подкреплением плохо работает в реальном мире, что дети мало пробуют и больше наблюдают -- реальный мир слишком медленный, чтобы в нём учиться. Но вот пример, где время обучения в реальном мире уже более-менее прилично: 35 часов для руки робота https://www.forbes.com/sites/bridaineparnell/2019/01/31/robot-know-thyself-engineers-build-a-robotic-arm-that-can-imagine-its-own-self-image/#185954244ee3 и 3 дня для закидывания шарика в стакан -- https://sites.google.com/view/rss-2019-sawyer-bic/. Это уже сравнимо со временем обучения моторным навыкам у людей. Можно спорить, сколько там именно "классического RL", а сколько разных трюков, но прогресс в этой области налицо -- обучение происходит не только в виртуальных мирах, но и в реальном мире. Инженерный подход пока существенно опережает теорию. Это нормально, это так и должно быть. Учёные не знают и работают над теориями полегче (ровно как рассказывает Ян ЛеКун), а инженеры не знают, но делают работающие артефакты. В AI всё бежит бегом, два прорыва в неделю продолжаются, всё невозможное становится возможным. И это безо всякой научной основы в форме классических теорий, хотя и теорий уже хватает.

В ШСМ мы хотим дать людям адекватную картину мира, в которой они смогут понимать, что происходит вокруг них. Нам нужно изготовить у людей такие мозги, которые не сойдут с ума во время всех этих крутых перемен перемен двадцать первого века. Нужно дать адекватное научное мышление, которое работает не только со строгими теориями, появляющимися через много лет после инженерных прорывов. Нужно дать такое научное мышление, которое можно использовать в текущих научных и инженерных проектах. Увы, чтение Поппера и Латура не даст такого мышления (я уже ругался три дня назад на университетский курс логики и методологии науки в первом же абзаце тут: https://ailev.livejournal.com/1465997.html). Мы в ШСМ читаем и методологические курсы, в числе которых планируем давать и "научное мышление".

Вот наш список методологических курсов "второго бакалавриата" (полная цепочка текстов -- https://ailev.livejournal.com/1453126.html), и обратите внимание, что научное мышление там в самой середине, так что есть его пререквизиты, и есть курсы после него:
-- онтологика классическая: термины, которые важны и неважны, отслеживаемость типов и отношений в схемах и в естественном языке, формальность и недискретность/вероятностность моделирования, проверка типов и работа с наследованием, холархия/мереология и 4D, классификации и специализации. Описания как модели с интерпретаторами-людьми и компьютерами.
-- понимание и выражение: от многабукофф к смыслу и обратно (вот это нужно специально тренировать!)
-- как сообразить на троих: множествественность описаний -- дисциплины, стейкхолдеры. Коммуникативные стратегии: как стейкхолдерам договориться.
-- научное мышление. Правдоподобность моделей, эксперимент, возможные миры, предсказания, вероятностная логика, причинность и контрфактуальность.
-- принятие решений, прагматика. Методы принятия решений, упаковка решений в модель, согласование решений с другими стейкхолдерами.
-- системное мышление: виды систем, системные уровни и эмерджентность, требования и архитектура, жизненный цикл.

Отдельно -- вычислительное мышление/информатика/AI: моделирование и обучение/learning (символьные и коннективистские модели), исполнение моделей/inference, кодирование-декодирование-перекодирование, алгоритмика и парадигмы вычислений, no free lunch theorem, the master algorithm. В этой строчке пока винегрет, уж слишком быстро всё меняется, не успеваем осмыслять. Старая информатика была как-то описана тут: https://ailev.livejournal.com/1008054.html, но вот коннективистские модели -- это тоже информатика? Когда-то в 1989 году я провёл на ВДНХ в Киеве организационно-деятельностную игру "Перспективы и программы развития сферы информатики". Итогом этой игры было то, что единственная перспектива в развитии сферы информатики -- это AI. Прошло тридцать лет, и так оно и получается. Но это нужно осмыслить.

Названия всех этих методологических дисциплин рабочие, цель тут была подробить целостное методологическое знание на не слишком большие части, упаковываемые в отдельные курсы. И все эти дисциплины проходить последовательно, потом параллельно, по диагонали, и всяко-разно, чтобы связать их знание в рамках одной методологической компетенции.

И тут нужно честно сказать, что это всё можно более-менее освоить за год, не меньше. И ещё год потратить на когнитивистские дисциплины (акторское/стейкхолдерское мастерство, антипрокрастинатология, системный фитнес и т.д.). И ещё год на деятельностный кругозор (системная инженерия, системный менеджмент, системное предпринимательство и прочие сферы деятельности). Итого три года, как и обычный бакалавриат -- вот текущий набор дисциплин: https://ailev.livejournal.com/1443837.html

Если очень постараться, то можно уложиться и за два года -- те, кто попал на второй бакалавриат могут учиться быстрее, чем вчерашние школьники, учащиеся в первом бакалавриате. И это даже при вечерних занятиях, ибо днём люди работают, а учатся вечером.

Вопрос только в том, что большинство людей, закончивших свой первый бакалавриат, уже считают себя достаточно умными. Действительно, они в своих глазах (онто)логичны, научны, хорошо принимают решения, у них мышление системно, они деловиты, бодры и кругозор у них более чем широк. Зачем им ещё учиться, грызть гранит методологии? Объяснить, что мир поменялся, и за всеми этими расхожими терминами "логики" и "системного мышления" сегодня стоят совсем другие мышления, чем это было ещё двадцать лет назад, очень трудно (если не невозможно). Но мир таки серьёзно поменялся: в нём мы ежедневно разговариваем с нежитью, квантовые компьютеры уже существуют, архитектура нейронных сеток разрабатывается эволюционными алгоритмами, и в этом новом мире хорошо бы иметь крепкие мозги. Вот эти мозги мы и будем делать. Инженерными методами, не дожидаясь строгой теории, но опираясь на научное мышление.

И это научное мышление мы будем ещё и преподавать. У нас в четверг в Школе прошёл очередной методологический совет, где мы пару часов разбирали этот вопрос, а потом мы с piongaibaryan ещё и часовое методологическое совещание на эту тему провели. Так что всё медленно, но будет.

Можете сравнить, как продвинулось понимание за пару лет с 2016 года, когда я писал текст "Программа общего верхнего образования умерла, но пока не да здравствует программа", https://ailev.livejournal.com/1259411.html и уж тем более с июня 2012 года, когда вышла последняя версия моей программы общего верхнего образования https://ailev.livejournal.com/1008939.html. Повторюсь, что текущий набор дисциплин живёт вот тут: https://ailev.livejournal.com/1443837.html
Thursday, February 21st, 2019
2:03 am
lytdybr
Сегодня долго чатился с университетским преподавателем логики и методологии науки -- "философскую" ли версию курса давать студентам, или "практическую". В практической версии студентов нужно ознакомить с материалами типа https://habr.com/post/430190/, с результатами революции причинности и т.д. -- и полученные компетенции в научном мышлении пригодились бы студентам в их научных проектах. Я бы назвал эту версию курса "научное мышление" и это разительно бы отличалось от традиционного нынешнего курса "логика и методология науки", который весь историчен насквозь и построен на старинных примерах научных разборок (квантовая физика), но к современным проектам который не пришьёшь впрямую (вот рассказали вам об идеях Латура. Что вы с ними будете делать? "Примете к сведению". И дальше что?!). Медленно-медленно, но мы будем разрабатывать курс "научное мышление". Собственно, текущие наши курсы онтологики уже лежат в этом направлении. Нужен курс про то, как делать полезные и точные модели -- это и есть "методология науки". Пока же обсуждение показало, что модель науки, предлагаемая в стандартном кафедральном курсе "логика и методология науки" не полезна (в каких проектах её применять? как можно улучшить научные проекты с использованием материала курса?) и не точна (про предсказательную силу этих моделей науки мы ничего не знаем). Я вот думаю, нужно ли мне достать из чата пяток написанных мной на эти темы страниц и опубликовать их, или не нужно. Пока же все, с кем я беседовал на эти темы в университетах, говорили мне, что содержание курса они даже не заикаются обсуждать, ибо кафедры и факультеты философии имеют примерно то же влияние, которое имели в СССР -- ибо могут принести неисчислимые неприятности. Идеологи, они и в 2019 году идеологи. И общее мнение такое, что часов своих эти кафедры никому не отдадут, под любыми предлогами -- и у них есть механизмы настоять на своём. Поэтому учить будем научному мышлению мимо вузов, в вузах это невозможно.

Вот видео рабочей группы по инженерии требований русского отделения INCOSE, которая прошла на совместном заседании с сообществом Школы системного менеджмента 14 февраля 2019: https://www.youtube.com/watch?v=WhDpWe3_NBg, там доклады:
-- "Системная инженерия требований в связке с архитектурной практикой", докладчик - начальник отдела инженерии требований компании Международные аэронавигационные системы Кирилл Гайдамака
-- "Разработка технических решений на основе функционального и объектно ориентированного подходов к проектированию". Докладчик - начальник отдела общесистемных средств и технологий, Бортовые Аэронавигационные Системы, Лучков Александр.
Эти доклады приятны тем, что они именно по инженерии требований и по инженерии системной архитектуры, а не по "управлению требованиями" и прочим не инженерным, а менеджерским дисциплинам, как это часто было у нас в русском отделении INCOSE. То есть обсуждалось и то, как устроено управление требованиями, но главное -- как была устроена сама инженерия требований в связке с инженерией системной архитектуры.

Конференция "Прикладное научное мышление" (https://www.facebook.com/events/263060364375731/) в части докладов более чем собрана, и стоим перед дилеммой: иметь множество 10-минутных докладов, или запустить несколько треков в параллель (но мы ж не большая конференция!), или ввести конкурс и отобрать только самые сильные доклады (но известно, что отбор докладов по силе обычно весьма и весьма произволен -- все научные конференции за это критикуют, и вряд ли мы тут будем лучше всех остальных по качеству отбора). Но ещё больше месяца до начала конференции (она 30 марта 2019), а заявки продолжают поступать.

Очередное заседание лаборатории телесного мышления объявлено на 14 марта 2019, https://www.facebook.com/events/2374635926114876/, буду делать там один из докладов, о системных уровнях управления движением.

Поучаствовал в дискуссии о целевой системе ERP -- поднял вопрос о "тебеучёте" (с себестоимостью) и "себеучёте" (без себестоимости), https://www.facebook.com/ttv22/posts/10215809383981655.

У Гр.Сапова интересная мысль, что этические решения очень похожи на предпринимательские: они требуют занять вполне определённую позицию, и держать её. Я связал это с мыслями об open-endedness, этика ведь тоже развивается -- этические решения/нормы появляются в ответ на непрерывно появляющиеся новые проблемы, и этому нет конца: https://www.facebook.com/grigory.sapov/posts/10210375432901548

Откомментировал пару текстов Алексея Боровских:
-- мысль, что деятельность появляется только по мере отдаления от нирваны, когда всё ОК. Нет, деятельность появляется только в ответ на неприятности, или на потенциальные неприятности. Так и мышление: есть неудовлетворённость (немыслительного рода, а состоянием дел). В ответ на неё появляется мышление (возможно, как конструирование нового способа мыследействовать -- "мета", а может и просто в составе "мыследействия", ибо очень похоже на ту же деятельность, неразделимо, неразличимо, в том числе и по причинам появления): https://www.facebook.com/groups/508023525973810/permalink/1914947001948115/
-- про то, что не педагог меняет мышление, и что метафоричность в моделях мира -- это не порок: https://www.facebook.com/groups/508023525973810/permalink/1909959212446894/

Катался всю последнюю неделю на самокате, а сегодня вечером пошёл дождь -- и я вернулся домой, заляпанный грязью до самой макушки. Вот он, главный недостаток micromobility (как называют сегодня езду на самокатах по городу).

Один из курсантов на первом тренинге СМС2.4 вдруг недоверчиво стал спрашивать, правда ли, что мне 61 год. А то слишком молодо выгляжу, на "того самого аксакала" явно не похож. Да, машина времени работает. Не кушать на ночь и регулярно танцевать -- вот и весь секрет её включения.
Tuesday, February 19th, 2019
12:30 pm
Два балла по системному мышлению обычно не связаны с системным мышлением
Более-менее (21 февраля будет ещё защищаться моя группа СМС2.3 в ШСМ) закончились самые разные сессии и защиты зимы 2019. Для препода это, кстати, тоже напряг: во-первых, тупо больше работы -- приходится внимательно вникать в каждую новую работу и давать содержательные отзывы, во-вторых дополнительная административная суета с ведомостями/сертификатами и сроками, в-третьих -- уменьшается вера в благополучное будущее человечества, единственная надежда тут -думающие машины. А ещё появилась новая вузовская мода, когда для постановки двойки подъём переворотом требуется сделать не студенту, а преподу: много лет назад нужно было обосновывать выставление необычно положительных оценок, получение золотых медалей и красных дипломов тщательно проверялось. Вылетали же в рабочем порядке. А теперь мне требуется тщательно обосновывать двойки, причём объем письменного обоснования двойки (а там ведь можно трижды пересдавать, последний раз пересдача комиссии) в моём случае разве что не превышает объем сдаваемого эссе.

Какие ошибки, которые гарантированно ведут к двойке? Или незащите в случае ШСМ?

Полное игнорирование (онто)логики. Ужас в том, что с системным подходом всё ОК, но нет никаких умственных возможностей его применить -- не хватает более базовых мозговых умений.

Прежде всего это неумение работать с типами. Если ты пишешь, что "система X -- это система отношений между покупателями и продавцами", то нельзя через три строчки писать, что "система X -- это софтверная платформа", а ещё через три строчки писать, что "система X -- это проект по предоставлению сервиса". Проект (обеспечивающая система) -- это не целевая система. Платформа -- это не система отношений. Если такое видишь в тексте, то чётко понимаешь, что целевой системы в голове студента или курсанта нет. Нет чёткого объекта в 4D, о котором говорится, есть эдакое "облачко смыслов", не доведённое в мыслях до какой-то физической реализации -- то есть представления того, что такое система в физическом мире, нет. Сюда же я бы отнёс суперобобщения, это тоже к работе с типами. Этим чаще всего грешат айтишники -- вместо любого объекта указывать его супер-супер-супер тип, очень высоко стоящий в классификаторе, и считать, что дальше всё берётся операцией наследования свойств типа. Например, вместо "тигра" везде говорить про "зверя" -- а потом удивляться, почему другие люди подставляют в разговоре вместо зверя свою "мышь").

Второй тип онтологической ошибки -- это невозможность отслеживать отношение часть-целое, то есть полное игнорирование конфигурации. Система представляется как состоящая из не-пойми-чего. Путаются (отчаянно!) функциональные элементы и модули, соответствующие холархии (это то же неумение работать с типами -- складывание колбасы в штуках и яблок в тоннах), а отношения часть-целое/композиции мереологической иерархии (холархии) влёгкую заменяются в голове на любые другие отношения (классификации и специализации чаще всего). Это тоже типы, но на отношениях. Theory theory (https://www.iep.utm.edu/th-th-co/) не понимается вообще, поэтому внятно представить структуру системы не получается. Этот тип ошибки очень хорошо проявляется в многочисленных перечислениях частей системы на разных диаграммах и обрывках текста, при этом состав частей везде разный, равно как и используемые слова. Привязки к 4D тут тоже нет (непонятно же, что в 4D сама целевая система, поэтому непонятно и что с частями использующей системы, и что с частями обеспечивающей системы), поэтому и справиться с проблемой разбиения на части тоже нельзя. И дело не в том, что студент не понимает разницы между функциональными элементами и конструктивными -- часто даже понимает, но удержаться от их перемешивания в голове он не может, равно как от сложения колбасы в штуках и яблок в тоннах.

Дальше идут ошибки "не читал учебник, вообще". Чаще всего это проявляется в том, что определение системы приводится как словарное определение. Или архитектура системы приводится отдельно, а функциональные и модульные диаграммы -- отдельно. Возможности понимаются как possibility. Требования и потребности вообще не различаются, и формулируются в стиле "хорошо быть здоровым и богатым", типа "требования к системе: чтобы система была как можно дешевле, чтобы система была лёгкой в использовании" -- немного умственного труда нужно, чтобы такие "требования" написать?

Тема стейкхолдеров вытягивает на двойку по простой причине: в учебнике на странице 128 приведён список типичных ошибок. Студенты (но и курсанты тоже!) этой страницы не читают никогда. Поэтому в стейкхолдеры записывают большие организации, если не организации, то должности, и уж точно всех начальников. И приписывают бытовые основания (а не стейкхолдерские компетенции) того, что люди на этих должностях должны бы делать в проекте. Про нюансы с различением интереса/concern (домен, как чёрный ящик, тут нет хотелки, это объекты внимания) и оценки интереса/assesment (хотелка -- что делать с объектами внимания -- как раз вот тут) я вообще молчу: это и у отличников частая ошибка. Но есть и ещё одна ошибка, которая приводит к завалу работы со стейкхолдерами: отсутствие кругозора. Люди не знают, как называются те или иные компетенции, те или иные практики. Это беда: без кругозора мир вокруг неизвестен, и стейкхолдеры просто не замечаются как таковые.

Ещё одна ошибка -- это полное непонимание инженерной сути дела. Это когда менеджер пытается рассказывать о семи альфах и "как работает система" и "из чего состоит система" (функциональное описание и конструктивное описание) ему недоступны в принципе, просто нет кругозора, чтобы его понять. Эссе в таком случае представляет эссе про систему, в которой все электроды сделаны из дерева -- "слышал звон, не знает, где он". Положительную оценку получить невозможно, ибо это приводит к тому, что в сознании такого человека система представлена неясными облачками каких-то терминов, до 4D не дотягивается, и дальше никакого системного мышления. Системное мышление -- это прежде всего многоуровневое управление вниманием, работа с холархиями. А какие тут холархии, когда непонятно, из чего состоит система, и как эти части взаимодействуют? Поэтому порождаются гладкие большие тексты ни о чём, и удивление, что за такие тексты полагается двойка -- ничего системного в этих текстах не обнаруживается.

Смежная ошибка -- полное игнорирование функционалных описаний. Эссе всё описывает только модули, и "как собрать". Но сама система задаётся в своей функциональной ипостаси, системное разбиение -- это прежде всего функциональное разбиение, даже в определении системы подчёркивается, что части системы взаимодействуют (это ж функциональные части!), что и даёт эмерджентность. Когда этого в эссе нет (а при непонимании инженерной сути дела чаще всего так и бывает), оно обычно на двойку, и не более.

Итого: системное мышление трудно сдавать по двум главным причинам -- если не в ладах с логикой (и онтологией, они ведь неразрывны), если не читал учебник, если у тебя нулевой кругозор (в том числе кругозор в части своего собственного проекта и всего к нему причастному). И это не берётся курсом системного мышления.

Про то, что студенты просто не могут надолго (на пару десятков дней по паре часов, а не на пару дней по паре минут) сосредоточиться для выполнения какого-то дела (внимательное чтение учебника, проработка представлений о своей системе, что эквивалентно написанию эссе) я молчу. Я считаю, что без умения сосредотачиваться никакое обучение не возможно, никакая инженерная, менеджерская или предпринимательская работа. Но результат (эссе) часто выглядит именно так, как выглядела бы работа не умеющего сосредотачиваться человека -- например, часто копируются тексты из пятка документов, но сосредоточения не хватает, чтобы прочесть таким образом полученное эссе и согласовать содержание этих текстов. Преподаватель же читает эссе, и поскольку его учили когда-то именно читать, и читать много, а не смотреть мультфильмы и слушать презентации, параллельно разглядывая свежие посты ВКонтакте, то находит все эти противоречия именно он, а не студент.

Поневоле тут вспоминается высказывание про трудности освоения ТРИЗ: там ведь тоже системный подход в какой-то мере. И замечание, что хорошему инженеру ТРИЗ помогает, а плохому -- не помогает. Да, конечно. Ибо в образование хорошего инженера и онтологика входит, и кругозор (см. про Т-людей -- https://ailev.livejournal.com/1459798.html), а дальше собственно ТРИЗ даёт нужную глубину прикладных знаний. С самим системным мышлением то же самое: умным людям с каким-то кругозором оно помогает, а вот не очень умным и без кругозора -- не очень помогает. Перед его освоением нужно получать хорошее фундаментальное образование и иметь какой-то кругозор, но эта необходимость не видна, пока не упёрся в трудности освоения системного мышления. Замкнутый круг.

Поэтому к системному мышлению наиболее вероятно, что нужно делать два подхода:
-- первый неудачный, чтобы осознать, что трудности в освоении системного мышления лежат не в самом системном мышлении.
-- затем нужно поднять свои компетенции в онтологике/моделировании мира, попробовать применить хоть какие-то обрывки системного мышления к организации своего кругозора в различных сферах деятелности. То есть работать не с системным мышлением, а поднимать фундаментальное образование и кругозор.
-- пройти системное мышление ещё раз, получить совершенно другой результат. Если калибр личности вырос, то и системное мышление ему больше поможет.
-- повторять в цикле до достижения беглости в мышлении.

Но за семестр обучения системному мышлению или за три месяца в ШСМ это трудно получить: и онтологика, и кругозорные курсы оказываются не более лёгкими, чем само системное мышление. В ШСМ в этом плане чуть легче: там проблема эта осознана, поэтому есть и поддерживающие курсы (та же онтологика), и курс системного мышления и сопутствующего кругозора можно пройти несколько раз. А в вузе можно просто получить два балла и не знать, что делать дальше. Вузовская система образования такие ситуации не помогает решать. Например, вместо онтологики там студент тратит время на историю философии и историю методологии науки, которые ни разу не помогают ни в чём в их жизни -- и бороться с этими предметами никто из кафедральных людей не хочет, рудимент коммунистического прошлого с комиссарами-философами на всех соответствующих кафедрах. Мне все прямо говорят, что там идёт жёсткая борьба за часы, и научить людей работать с типами и отношениями не получится: вместо этого будут рассказывать про Платона, в лучшем случае доходя до Хайдеггера (это ж и есть "свежатинка" для философов! Умер всего-навсего в 1976 году, совсем ведь недавно!). А системное мышление оказывается тем самым неподдержанным в части онтологики. Историей философской мысли его не поддержишь, увы.

Утешает лишь то, что в каждой группе случаются студенты, которые способны сосредоточенно провести более-менее связные рассуждения, в которых нет сложения колбасы с яблоками, нет злоупотребления суперобобщениями, которые разобрались в том, как работают их системы и где они будут использованы -- и вот у них с оценками всё в порядке. И не только с оценками. Они потом пишут личные письма с благодарностями, ибо системное мышление им начинает круто помогать в жизни. Проблема с двоечниками тем самым оказывается не в предмете, не в способе обучения предмету. Проблема в людях, в их мыслительных и психотехнических компетенциях на момент освоения системного мышления. Проблема налицо, хоть вступительные экзамены на курс вводи.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10214856834348454 и https://www.facebook.com/groups/771940449578453/permalink/1860055977433556/, ВКонтакте -- https://vk.com/wall2449939_2091
Friday, February 15th, 2019
2:15 pm
Кадавр, неудовлетворённый графомански
OpenAI сделал кадавра, неудовлетворённого графомански -- https://blog.openai.com/better-language-models/ Подробности про кадавра, неудовлетворённого желудочно, погуглите -- тут такой же, только он не ест, а пишет! Пишет, например, рецензии к продуктам -- от живых рецензий не отличишь, ни за что не догадаешься, что их кадавр написал. Пишет короткие рассказы. Пишет реплики в чужие блоги. Пишет всё, разнообразно и красочно. И внутре у него не неонка, а нейронная модель GPT-2 с полутора миллиардами параметров, натренированная на 40GB текста из 8 миллионов интернет-страниц. Оказывается, в мире нейросетей размер имеет определяющее значение. Если сделать достаточно большую нейросетку, натренировать на достаточно больших объемах качественных данных, то можно получить чудесного кадавра, предобученного болвана искусственного интеллекта.

В тексте про этих болванов, этих кадавров (https://ailev.livejournal.com/1356016.html) я писал "интеллект общего вида в варианте полностью необученном и неотёсанном (болван, Маугли, tabula rasa) будет массов, похож друг на друга, и крайне дёшев. Болван -- это платформа когнитивной архитектуры общего вида, которая способна относительно легко и задёшево выучиться чему угодно -- примерно так же, как относительно легко и задёшево чему угодно может выучиться человек. Думать нужно как об очередной Wintel, iOS и Android, только исполняться на этой когнитивной платформе будут не столько традиционные "приложения", сколько компетенции, skills. И стоить дорого будут уже эти skills".

До более-менее общего искусственного интеллекта ещё как до Луны, но получить кадавра, легко получающего skills писателя спама, скама, троллинга, буллинга и прочего подобного -- вот, удалось уже сейчас. Пишет гладко, быстро, очень дёшево. The model is chameleon-like — it adapts to the style and content of the conditioning text. This allows the user to generate realistic and coherent continuations about a topic of their choosing.

И OpenAI, публиковавший раньше в open source (он поэтому и называется OpenAI!) все свои достижения, принимает решение не отдавать код этого кадавра в общественное пользование. Ибо это атомная информационная бомба: включаешь кадавра, дообучаешь его на каких-то своих нехитрых маленьких данных свечного заводика, и завтра вся Сеть будет забита самыми разнообразными (кадавр дьявольски изобретателен! он учился на опыте миллионов людей!) текстами на свечно-заводскую тему. Хотя о заводиках никто не думает, больше думают, конечно, о "влиянии на выборы". Когда этот код дали поюзать Gardian, журналисты сразу предложили писать о Brexit -- и вот, быстро и свободно этот кадавр подхватил тему! Поглядите, как лихо: https://youtu.be/XMJ8VxgUzTc

Что тут страшного? Ну, ничего особенно -- но за ночь написать правдоподобных (фейковых, лживых, но очень правдоподобно выглядящих текстов) примерно столько, сколько уже написано человеками, и запостить эти тексты везде, куда их можно постить, этот кадавр сможет. Капчи его не остановят, эта проблема с капчами давно решена. Ольгинские тролли отдыхают и уходят пить горькую, их окно возможностей закрылось.

С этого момента удивление чудесами науки и инженерии заканчивается, и обсуждается только один момент: должны или не должны люди из OpenAI выпустить на волю кадавра, неудовлетворённого графомански, эту атомную информационную бомбу, или не должны. Что должно быть для них ответственным поведением? Вот комменты, про само техническое достижение в них много меньше (к чудесам привыкают), чем про проблему выпуска на волю кадаврического кода: https://venturebeat.com/2019/02/14/openai-let-us-generate-text-with-an-ai-model-that-achieves-state-of-the-art-performance-in-several-nlp-tasks/, https://medium.com/syncedreview/openai-guards-its-ml-model-code-data-to-thwart-malicious-usage-d9f7e9c43cd0, https://news.slashdot.org/story/19/02/14/2029259/new-ai-fake-text-generator-may-be-too-dangerous-to-release-say-creators, https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction

OpenAI взял полгода на "подумать, что делать дальше". У него ведь была с самого начала оговорка на эту тему: We will not keep information private for private benefit, but in the long term, we expect to create formal processes for keeping technologies private when there are safety concerns (https://openai.com/about/). UPDATE: тут оценки времени, чтобы повторить этот zero day threat in AI -- месяц и $100k -- https://www.fast.ai/2019/02/15/openai-gp2/. И напоминание, что в AI было рекомендовано использовать практики software security сообщества, в том числе поведение в части zero day threats.

Этих кадавров сейчас будут мочить в компьютерных сортирах -- пресса, "общественность" (политики), чиновники, университетские профессора. Например, кадавры, полицейски неудовлетворённые, пытаются воспроизводить лучшие практики работы полиции -- но фишка в том, что эти практики не являлись лучшими! Вот: https://medium.com/mit-technology-review/police-across-the-u-s-are-training-crime-predicting-a-i-s-on-falsified-data-2be332bbc60e. А представляете, если наших кадавров-судей (а всё чаще и чаще раздаются голоса, что "пусть лучше меня будет судить искусственный интеллект, чем судья басманного суда") будут учить по актуальным примерам работы наших басманных судей? Яблочко от яблони-то недалеко упадёт, искусственный интеллект влёгкую может быть хуже людей или таким же (наш робот-юрист от "Мегафона", например, в конце демонстрации матюкнулся -- и именно это попало в заголовки, а не "чудо! Робот понимает в юриспруденции!" -- https://news.sputnik.ru/obschestvo/3f0f1789d3a4679304c6c9da612f8b072a27d139. Как его учили, так он себя и вёл. Яблочко от яблони. Создавался ведь "по образу и подобию своему". При этом из ребра, а не из рациональной части мозга).

Как сделать кадавров, эту нежить, этих болванов лучше? Как сделать так, чтобы этот компьютерные интеллекты (как и автоматы Калашникова, как и атомные бомбы) служили благим целям? И что считать благими целями? Гугль делает свой цензурируемый поиск для Китая, а сотрудники пытаются этому воспрепятствовать -- и вот лидер "оппозиции" уходит из компании, https://medium.com/s/story/google-workers-lost-a-leader-but-the-fight-will-continue-c487aa5fd2ba. Приглядываемся -- а там ведь "профсоюзное движение", только со слегка другими целями! Не за зарплату, а "за политику"! При этом политика, конечно, устроена так, что "миллионы мух не могут ошибаться" -- голосование вроде как решает всё, расчёты (как в инженерии) не принимаются во внимание, а меньшинство пусть заткнётся.

Если какая-то секта, считающая, что жителей Земли нужно побыстрее всех убить, чтобы они гарантированно попали в Рай и не мучились своим существованием в этом мире, получает супер-пупер искусственный интеллект (ну, получает ключи от сарая, где ядерные ракеты лежат, это ж почти то же самое), что делать-то? Признать их право? Отказать им в праве? Отобрать этот интеллект? Поставить интеллект под запрет? То есть ввести полицию компьютерной мысли? Нейронные сетки особо сильные не публиковать, опубликованные находить и уничтожать! Вот прямо как в комментируемой статье -- чёрт с ним, с колл-центрами и хелп-десками без таких сетей, главное что ольгинские тролли это не получат! А фирмы типа https://autofaq.ai/ пусть посидят без этих новаций, сами что-то придумают.

Прецедент задействования кадавра, неудовлетворённого в спорах, случился буквально на прошлой неделе: IBM Дебаторша начала защищать социализм, став по факту AI Калашникова (https://ailev.livejournal.com/1465183.html) -- вместо того, например, чтобы подебатировать с каким-нибудь инженером, двух или трёхступенчатую ракету делать (где придётся что-то обосновывать реально, вплоть до расчётов). Нет, сразу в политику (где никаких расчётов не нужно) -- и там занять сторону социалистов, попробовать им помочь не делом, так словом. Мирный атом много, много сложней делать, чем атомную бомбу. Мирную Дебаторшу, помогающую инженерам и проверяющую логику, сложней построить, чем простого "убедителя бывших обезьян". Как вы помните, Каа говорил бандерлогам "подойдите ближе", не используя логических доводов, а используя другие методы. Недостаток Дебаторши оказался в недостаточной эмоциональности. Стоп: это ж как раз путь получить Каа для бандерлогов -- психотехническое, а не рациональное убеждение!

Дальше берём такую Дебаторшу как интеллектуального наёмника, свободного от угрызений совести ("ничего личного, это бизнес", "я только выполняю приказ" -- в прошедших дебатах задачу для Дебаторши даже не сама IBM ставила), соединяем её выход со входом графоманского кадавра из OpenAI, и заваливаем всю сеть убедительнейшей пропагандой, разнообразной и в количестве. Ну, или немногие слова правды разводняем миллионом вариантов фейка. Сценариев-то много. Все эти технологии интеллекта легко объединяются в стеки.

И в этом мире нам жить. Код этой атомной спаммерской бомбы не опубликован, но статья о том, как она устроена -- вот: https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf (обратите внимание, это не arxiv.org -- из arxiv.org текст не уберёшь. Предыдущие тексты от OpenAI были все в arxiv.org).

Из-за этого шума с публикацией кода потерялось существенное научное достижение: начинает подтверждаться гипотеза о том, что общие модели языка будут становиться лучше по мере увеличения количества вычислений и данных. И комментируемая работа об этом, и https://arxiv.org/abs/1901.11373. До человеческого мастерства этим нейросеткам ещё далеко, но можно оценить скорость прогресса, она оказывается немаленькой. Размер таки имеет значение. Эти кадавры будут становиться смышлёней и смышлёней в удовлетворении своих страстей. Но продолжат быть так же неразборчивы в использовании себя. Топором можно по чужой голове, можно по полешку, но топоры дёшевы и их продают в любом магазине. С атомной бомбой и мирным атомом получилось по-другому. И атомные технологии по факту стагнируют из-за этого. Генетические технологии для людей стагнируют тоже, хотя на уровне бактерий что-то таки происходит. С искусственным интеллектом только-только столкнулись.

И да, искусственные интеллекты будут, конечно, биться с искусственными интеллектами -- Дебаторши дебатировать между собой, ольгинские кадавры писать отрицательные обзоры, а техасские кадавры положительные кадаврами, люди будут куда-нибудь тихо отползать от всего этого (а куда?! Кадавры ведь специально затачиваются на то, чтобы быть похожими на людей -- более того, превзойти людей!). Очень интересный мир, где сам "человек" и видовая его идентичность (и вспоминаем фантастические рассказы, где защищалась не видовая идентичность, а "разумность" как главный критерий выделения из мира неживой природы и требующей особого отношения) будут проблематизированы. Попкорн не идите покупать, этот фильм вам не смотреть издалека, в этом кино вам участвовать.

DISCLAIMER. Текст написан мной собственномозгово и собственноручно, с очень ограниченной помощью компьютерного инструментария.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10214832571101888, обсуждение во фрифиде -- https://freefeed.net/ailev/aa250d10-7f01-421b-8b0a-d966b349e270

UPDATE:
Из https://venturebeat.com/2019/02/14/openai-let-us-generate-text-with-an-ai-model-that-achieves-state-of-the-art-performance-in-several-nlp-tasks/:

We tested the first model with this phrase: “The quick brown fox jumps over the lazy dog.”

Here’s what it wrote: “The quick brown fox jumps over the lazy dog. This dog looks lazy! ‘What’s so great about that?’ I asked, and the quick brown fox laughed, and the lazy dog licked his lips. ‘I don’t know. But you won’t have to know, because once you’re in… ‘ ‘I know,’ I said.”



Сравните это с напомненным dsumin в https://freefeed.net/dsumin/77c0c8a9-52ad-463a-8cb5-1af5f60679ab #Викторолегович в романе SNUFF 2011 года:

Грым не знал точно, как работает доводчик — и никто толком не знал. Дамилола сказал только, что в нём заложен тот же алгоритм, что и в Кае — программа учитывает всё, когда-то сказанное людьми, все бесчисленные смысловые выборы, которые делались в течение веков и сохранились в информационных анналах. Пальцы Грыма как бы управляли армией мёртвых душ, двигавших для него кубики слов.

Это походило на игру — словно он бросал в невидимую борозду мгновенно прорастающие семена. Их ростом можно было управлять самым причудливым образом. Новорожденный абзац-кубик можно было сдвигать вдоль множества осей с надписями вроде «сложнее», «проще», «злее», «добрее», «умнее», «наивней», «задушевнее», «острее», «безжалостней» — и текст при этом мгновенно менялся в соответствии с выбранным маршрутом, причём в новых точках бесконечной траектории возникали новые смысловые оси, по которым мысль можно было двигать дальше. <…>

Но больше всего Грыму нравилось, что доводчик делал его невероятно, обжигающе умным. Он специально вводил в маниту тупое косноязычное словосочетание, набранное почти наугад — и несложными манипуляциями трансформировал его самым радикальным образом.
Например, в ответ на зародыш «в Биг Бизе все суки и охреневшие задроты» доводчик, после пары тычков обгрызенным пальцем в оси «умнее» и «рафинированнее», выдал следующий абзац текста:
«Жители Бизантиума должны быть тщеславными и закомплексованными сексуальными неврастениками, склонными прятать наслаждение чужой болью за фальшивым сочувствием и лицемерной моральной проповедью — просто потому, что ни один иной умственный модус несовместим со здешней жизнью. При всех иных балансах сознания здешнее бытие немедленно обнажит свое естество и станет приносить жгучую боль».
А смутное «без маниту они никто, а с маниту им кажется, что они крутые» превратилось после ряда более сложных перемещений пальца вот в такое:
«И если ободрать с их мира все маниту, мы увидим галлюцинирующих термитов, работающих в каменных сотах, а если вырвать все щупальца маниту из их умов, мы увидим разлагающиеся белковые тела, лихорадочно вырабатывающие один мозговой наркотик за другим, чтобы забыть о надвигающемся распаде».
Wednesday, February 13th, 2019
12:09 pm
AI Калашникова изобретён, и дикари им уже вооружились
Дебаторша (это она, даром что компьютерная!) из IBM выступила в баттле против финалиста чемпионата мира по дебатам и чемпиона Европы 2012 года Harish Natarajan -- https://venturebeat.com/2019/02/11/ibms-ai-takes-on-world-class-debater-in-argument-about-preschool/, https://edition.cnn.com/2019/02/11/tech/ai-versus-human-ibm-debate/index.html, https://www.dailymail.co.uk/sciencetech/article-6695515/Human-debate-champion-defeats-IBMs-smartest-AI-powered-machine.html. Natarajan and Debater were informed of the debate topic 15 minutes in advance. Each participant was given a total of eight minutes to share an opening argument, a rebuttal, and a two-minute closing argument. Результаты получились смешанные: обоим участникам дебатов удалось изменить мнения присутствующих в зале, склонив их на свою сторону. Но пока победил Natarajan. Но он чемпион по дебатам, а вы не чемпион -- поэтому вас Дебаторша победит влёгкую.

Дебаторша на тех дебатах защищала социалистическую точку зрения (хотя что её защищать? 79% из присутствующих в зале 700 человек разделяли эту точку зрения -- и в любом политическом голосовании эта точка зрения бы победила безо всяких дебатов), а Harish Natarajan -- рыночную/либертарианскую. Для меня проблема именно в том, какую точку зрения взялась защищать Дебаторша. Вернее, какую точку зрения ей поручили защищать, а она взялась, не усомневая её сама. "Дебаторша только выполняла приказ".

Гена Лебедев мне как-то рассказал в начале 90-х годов прошлого века, что всегда считал, что быть социалистом или рыночником/либертарианцем это как в религии: свобода совести, можно верить во что угодно, всё одно ничего не докажешь. Но оказалось, что у социалистов в рассуждениях логические ошибки, и вера в социализм -- это вера в то, что 2*2=5. И каждый раз на провал социализма у очередного диктатора можно говорить, что "в этот раз не получилось, получится в следующий", ровно как в случае каждого получения 2*2=4 говорить "в следующий раз обязательно будет пять!". Так Гена стал либертарианцем: он же математик по образованию, и верить в ошибочную теорию он просто не мог.

Тупая айбиэмовская Дебаторша не интересовалась истинностью своих аргументов и рассуждений в той позиции, которую она защищала. Поручено защитить позицию, что 2*2=5 -- она честно для заказчиков будет её защищать. Если заказчик даст задание защитить идею строительства газенвагенов для устранения недовольных и инакомыслящих, то Дебаторша радостно подберёт все необходимые аргументы из обширной мировой литературы, облечёт их в максимально убедительные высказывания и представит публике. И если сейчас у неё с мировыми чемпионами в дебатах ничья, то следующее поколение софта легко выиграет и у мировых чемпионов, и у других политиков.

Вы думаете, я вру? Вот как выглядят юридические дебаты на русском языке (разработчик -- "Мегафон", такая же профильная в юриспруденции фирма, как IBM профильная в политических дебатах): https://www.youtube.com/watch?v=2IUZnvjN9Z8 (по слухам, сегодня этого робота-юриста "Мегафон" торгует за 1млн.рублей, это явно недорого по сравнению с живыми юристами при сравнимом качестве!). Ключевой момент в этих дебатах -- это фраза юридического робота "я могу обосновать любую позицию!". Для адвоката это нормальное качество, да? При этом человек-адвокат ещё воздержится, может быть, а вот робот-адвокат честно будет обосновывать и 2*2=5, и строительство газенвагенов для устранения инакомыслящих: подберёт для этого законы, сформулирует аргументы, облечёт их в форму страстной и убедительной речи. И убедительно прочтёт эту речь с интонациями народного артиста. Это ведь всё уже доступно: у меня дома Алиса из Яндекс.Станции уже сейчас читает новости с интонациями народного артиста, заслушаешься!

Я писал про то, что этику людей можно будет понять только после того, как подробно разберёмся с этикой роботов: сможем объяснить разницу между этичным и неэтичным машине и проверить понимание -- и начинать в 2009 году предлагал с военных роботов, в "Этика из будущего: сначала военная, затем и гражданская", https://ailev.livejournal.com/662638.html. Но уже прошло 10 лет и пора заняться и роботами гражданскими с их этикой защиты 2*2=5. Ибо дикарь с автоматом Калашникова, которому этот автомат нужен для того, чтобы вас было легче поймать и съесть (мозг съесть, "чтобы стать таким же умным, как тот, чей мозг") -- это большая сила. Тот же дикарь, только с AI Калашникова -- не меньшая сила, он тоже будет использовать AI, чтобы поймать вас и съесть. Только более изощрённым способом: AI вас убедит так, что вы сами к дикарю придёте и сами себя перед его едой сварите, полностью уверенные, что делаете благое для человечества дело. Эту параллель между военными (борющимися за землю) и гражданскими (борющимися за кусок вашего мозга) интернетами воюющих вещей я уже приводил в "интернет воюющих вещей" год назад, https://ailev.livejournal.com/1418468.html. Но будущее уже наступило: айбиэмовская Дебаторша уже агитирует за социализм, и какой-то процент мозгов в одной аудитории она сагитировала. Дикари радуются: AI Калашникова изобретён, и дикари им уже вооружились. Первыми покупателями Дебаторши, конечно, должны стать диктаторские режимы с их идеей лечения головной боли путём усекновения головы. И не спорьте, AI у вас этот спор про необходимость отсечения головы для её лечения легко выиграет, она(!) и у чемпионов мира по дебатам выигрывала, что ей вы с вашими аргументами.

UPDATE: обсуждение в фейбсуке -- https://www.facebook.com/ailevenchuk/posts/10214818827958318, обсуждение в телеграме -- https://comments.bot/thread/tvNjb8KqO
Monday, February 11th, 2019
5:08 pm
lytdybr
Вчера закончил поток шестидневного СМС2.3, почти вся группа пошла на защиту через пару недель (сертификат с защитой -- "освоил курс", без защиты -- "прослушал курс"), а один из курсантов даже будет готовить доклад на конференцию в марте. Сильный момент: в одном из департаментов под управлением курсанта наладили отчёт по 19 альфам (7 основных плюс адаптированные подальфы) для менеджеров проектов -- прямо по ходу курса, не дожидаясь окончания. И жизнь в департаменте стала чуток упорядоченней. Из особенностей группы -- какие-то проблемы с темой архитектуры предприятия и использованием архимейта. На шестой день обычно половина уже что-то делала в Archi, а тут вдруг случился затык. Очередной поток (СМС2.4) пойдёт уже в это воскресенье, 17 февраля. А сегодня и завтра вечерами я читаю "как выжить во время перемен перемен". А ещё в четверг я провёл полный тренинговый день на тему стейкхолдеров и целевой системы с MBA по одной из программ РАНХиГС. Там был забавный момент: один муниципальный чиновник в упражнении "кто присутствовал на последнем совещании" сказал, что он выполнял стейкхолдерскую роль "общественники". Кто ж там общественники? Депутаты, полиция, экологический надзор -- вот такие у нас теперь "общественники". При этом из почти сорока человек предварительно "начали читать учебник" до очного однодневного занятия всего человек пять. И проверки знаний не будет. Могу ли я считать, что за один день занятий там "понюхали системное мышление"? Не уверен. Это как за один день занятий высшей математики считать, что ученики "понюхали высшую математику". В лучшем случае, человек пять заинтересуются и таки прочтут учебник до конца -- это максимум, на что я могу надеяться в плане учебных результатов. Хотя полгруппы может перестать путать стейкхолдерские роли и должности, и полгруппы будет догадываться, что кроме обеспечивающей системы ещё где-то есть и целевая (там же менеджеры, ошибку с определением целевой системы делали поначалу все -- несмотря на подробные разъяснения и примеры).

Вьюношу по централизованным школьным каналам предложили в каникулы принять участие в "инженерном образовательном лагере", где будет 50 учебных часов физики, математики, LabView и SolidWorks. Ну вот математика-физика это ширпотреб, программа там непонятна, и в школе это есть, и во всех кружках это есть, и в ЗФТШ это есть. LabView -- это бесперспективное графическое программирование (у меня на тему бесперспективности графических языков программирования книжка написана -- "Визуальное мышление. Доклад о том, почему ими нельзя обольщаться"), но даже на этот LabView придётся всего 10 часов. А ещё SolidWorks -- популярный в узких кругах CAD, на который 10 часов маловато будет, и который имеет специфическую лицензионную политику для продолжения работы на нём именно школьника. При этом у Autodesk и софт проще и массовей, и лицензионная политика "бесплатно" для любых учебных целей. Но всё одно 10 часов на это дело -- мало. Итого: по чуть-чуть всему будут учить, но ничему дельному не научат, увы. А жаль, 50 часов это ведь довольно много учебных часов. Это эквивалент двух с половиной месяцев по уроку в день -- целая четверть какого-то профильного предмета! Вот это "будем учить всему по 10 часов" -- это IMHO и губит образование. При этом я понимаю, если бы речь шла об обзорных курсах -- о кругозоре. У меня у самого есть такие короткие обзорные курсы. Но нет, начинают так, как будто впереди пара лет полномасштабного обучения, а там -- уж сколько успеют из двух лет пройти за 10 часов, "в надежде заинтересовать".

ВКонтакте препод танцев меня спрашивает, почему прошёл целый месяц без новых моих текстов о танцах. Ну, я даже танцую в связи с этими всем тренингами не каждый день, когда уж тексты писать! При этом запуск лаборатории телесного мышления на прошлой неделе и мой полуторачасовой доклад танцорами не воспринимается как что-то танцевальное. Другой системный уровень, более низкий, это чистая правда. Но в чат лаборатории в телеграм между тем записалось за неделю больше 70 человек. Я скептичен: думаю, человек 5-7 там и впрямь что-то хотят поисследовать, а остальные -- зеваки. Поначалу поразбираемся с моделированием тайцзицюань Б.Майера (Новосибирск), в чат уже вброшена пара его статей. И ещё разберём телесные практики для стейкхолдерского/акторского мастерства -- нашлось много статей для использования тайцзицюаня и йоги в тренинге актёров, там многое прямо совпадает с требованиями метода Станиславского. То, что делает А.Климат тоже отлично подходит. С этими актёрскими школами много любопытного обнаруживается. Суть большинства этих методов -- чтобы актёр бессознательно воспроизводил черты поведения своих персонажей, не теряя при этом сознательного контроля за этим. Разве не этого мы хотим от инженеров, менеджеров, предпринимателей? Я некоторое время эту тему буду копать, и будет на выходе набор курсов. Но во всех замечаниях указывается, что нужно 4-6 месяцев постоянных упражнений с кинестетикой, чтобы эти занятия начали оказывать влияние на собственно актёрское мастерство. А чтобы просто прочесть книжку и чувствовать себя в актёрском/акторском/стейкхолдерском деле молодца, вот нет такого, никаких тебе царских дорог в мастерство. И снова мы упираемся в "Никто не хочет учиться играть на XYZ" (https://ailev.livejournal.com/1158826.html) и "что делать с желающими попроще? С ними -- ничего не делать. Делать без них!" (https://ailev.livejournal.com/1385867.html).

У меня чёткое предчувствие, что жизнь в следующие пять лет поменяется кардинально, несмотря на "инвестиционную инерционность" (типа "не хватит инвестиций для налаживания действительно массового производства хоть чего-нибудь"), "парадигмальную инерционность" (типа "парадигмы вымирают только вместе с их носителями, а носители старых парадигм сегодня ещё очень молоды") и прочие расхожие аргументы. Где-то в 2025 году сегодняшняя полупроводниковая промышленность упрётся в стенку окончательно, и всякие аналоговые компьютеры выйдут из тени -- мемристорные архитектуры (IBM уже объявила о вливании туда $2млрд., штат NY добавляет свои $0.3млрд.), квантовые компьютеры (уже появились первые софтверные квантовые компании) и многое другое, что сегодня экзотика, а завтра будет общее место. И да, новые алгоритмы того самого искусственного интеллекта, в том числе делающие разные открытия и придумывающие разные инженерные штучки. Очень интересное время наступает, всем будет весело. Думал, что про это нужно пост написать, но что толку его писать? Пусть попсовики-затейники такие посты пишут. Читайте ленту http://nextbigfuture.com/ -- там про это много пишут.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10214806232963451
Wednesday, February 6th, 2019
12:43 am
Демо-день против чатизации бизнес-жизни
Сегодня я сходил на демо-день 30 стартапов, устроенный акселератором "500 startups" из США и Сбербанком. 840 входных стартапов, 30 выходных (и 7 отобранных для акселерации дальше) -- https://www.sberbank-500.ru/. Хотелось понять, чем "топовые стартапы" отличаются "обычного стирального порошка".

И нашёл я там всё то же, что я уже писал в "большое невидимо, маленькое шумит" https://ailev.livejournal.com/1327732.html, "холодная жаркая стартап деревня 2015" https://ailev.livejournal.com/1192344.html и т.д.. Очная форма с двухминутными питч-сессиями под разве что не фанфары, а просто бравурную музыку, пришедший "на Грефа" инвест- и корпоративный бомонд -- это всё пиар, к реальной инвестиционной жизни имеет отношение небольшое. Масштаб пиара был чуток побольше, чем масштаб самих этих стартапов, даже если собрать их всех вместе. Ну, так большое невидимо, маленькое шумит, я как раз об этом уже писал. Содержание питчей мало отличалось от традиционных "у нас самая крутая команда и самый востребованный продукт" (а у кого не крутая? а у кого не востребованный?). Чем же именно торгуют, из питчей было совершенно непонятно, приходилось подробно беседовать с командами -- благо для этого были все условия. Всё, как всегда.

Но представленные стартапы и впрямь были классом чуток повыше, чем в среднем по больнице, всё-таки там был некоторый отсев плюс пара месяцев стадии "акселерация в Москве" перед демо-днём. Но не сказать, что итоговые "питчионеры" отличались от типичных проходящих мимо меня стартапов так уж сильно. Мне есть с чем сравнивать, через меня ведь постоянно идёт поток каких-то "проектов". Я ж есть в некоторых экспертных пулах (и там через меня проходит часть потока "с улицы"), плюс у меня в количестве учатся именно "технологические предприниматели", и я подробненько знакомлюсь с их детищами.

Нейронные сети были использованы в половине представленных проектов и даже не упоминались как отличительная черта. И правильно, про их употребление в 2019 году не нужно говорить специально, как в 80-е не нужно было говорить специально про применение компьютера. Слово "блокчейн" я нашёл только в одном стартапе из тридцати, священный трепет перед этим словом уже прошёл. Два стартапа "маркетплейсов" радостно говорили, что им пришлось разработать стандарт обмена информацией, которого в отрасли до них не было, и сейчас этот стандарт потихоньку становится "стандартом де факто" -- но это были "детали реализации".

А если бы я не пошёл на этот демо-день, а просто провёл бы это время за своим 4К окном в мир? У меня такое впечатление, что ничего бы существенно не изменилось. Я бы узнал что-нибудь крутое из жизни нейронных сетей, написал бы ещё один какой-то малопонятный широким массам текст. Последний час я провёл с Александром Колесниковым, с которым обсуждал все эти бесчисленные "деловые мероприятия", к которым у него "обозревательский" интерес. В последнее время я отказываюсь посещать многие очные мероприятия: всяческие "деловые встречи", конференции, демо-дни, хакатоны и т.д.. Александр это заметил, и задал вопрос, почему это? А я просто "в тренде": мир переходит от оффлайна к онлайну, от синхрона к асинхрону (грубо: от звонков к чатам), вот и я перехожу -- собственными ногами, которыми на эти тусовки уже не хожу. Можно, конечно, ждать "судьбоносных встреч" со случайными собеседниками, но чаще это просто встречи со старыми знакомыми, "привет-привет, давно не виделись". Десяток таких встреч у меня был и на этом демо-дне: "привет-привет", и наверняка без последствий. У меня раньше собирались тысячи визиток, на этом демодне все просили визитки -- но это ж анахронизм, все эти обмены визитками на самых разных тусовках на 99.99% заканчивались ничем, просто акты вежливости. Ну, в папку спам часто после обмена визитками начинает валиться какая-нибудь реклама чего-нибудь мне сугубо ненужного. Так спама и без этого хватает.

А раньше я это дело любил, соцсетей-то не было -- не встретишь какого-то человека "из тусовки" лично, не узнаешь, чем он живёт. Без гугля не увидишь товар живьём, не узнаешь о его существовании. Но сейчас и соцсети, и гугль, и экран 4К, и множество нишевых профессиональных обзоров (например, только во AI я читаю штуки четыре ленты постоянно), которые дают владение ситуацией покруче, чем беготня по тусовкам в надежде на "судьбоносный нетворкинг". Нет, воркинг -- вместо неворкинга. Сидеть дома и работать (общаясь сразу в десятке чатов, в некоторых из которых с сотнями человек сразу), полезней будет.

Я не зарекаюсь, что ещё куда-нибудь схожу потусоваться, я ж не затворник! В жизнь свою вполне можно пускать случай, и даже знать, что у событий разных может не быть "пользы". Но в любом случае я тусоваться вживую буду делать не с тем рвением, с которым я тусовался раньше. Всё-таки на дворе 2019 год. Бумажных газет нет, телефоны по большей части молчат, кухонные разговоры ведутся вечерами на пяти кухнях сразу в пяти нишевых чатах, у половины участников этих разговоров параллельно с просмотром свежайших фильмов, которые ещё не вышли на киноэкраны (я фильмы не смотрю, но вполне могу читать что-нибудь интересное по ходу ожидания реплик собеседников. Все ходы ж записаны, реплики не забываются, нить разговора не теряется!). Да, Все поведения сохраняются (даже в гости сегодня люди продолжают ходить друг ко другу домой! а не в ближайшее кафе!), но этими поведениями занимаются уже не все. И демо-дни ведь тоже будут, но через них и сейчас проходят отнюдь не все стартапы, и потом будут проходить не все. Браки ведь случаются, но не все из них происходят после очных speed dating мероприятий, ох не все. Даже если перед таким мероприятием потенциальных партнёров по жизни пару месяцев готовить к этим двухминутным свиданиям. Другое дело, что браки после мероприятий speed dating тщательно пиарят, а вот после "кухонных чатов" -- нет, ибо их несть числа, и они спонтанны, и очень часто они ещё и "не формат" для пиара. Чатизация бизнес-жизни не видна, рыбка ж воду не замечает. Видим только пропиаренное, только отражение своих жизней через проплаченное зеркало. А непропиаренного много, и оно очень разное, и там даже не только чатизация происходит.

Вот накидайте сюда комментов, что там ещё происходит, поиграйте в футурологов ;-)

Обсуждение в фейсбуке: https://www.facebook.com/ailevenchuk/posts/10214767595157530
Monday, February 4th, 2019
3:28 pm
Дифференцируемое всё: от чёрно-белой картины мира к рябенькой
Тренд цифровизации означал прежде всего переход к цифровым вычислительным машинам с их восхитительно неаналоговыми, дискретными вычислениями. Нули и единицы, никаких там тебе вероятностей нулёвости и единичности. Целые как настоящие целые, плавающие вполне себе тоже целые, только обрабатываются по-другому. Computer science -- это дискретная математика.

Нынешний тренд заключается в обратном переходе: от дискретных "да" и "нет", от базирующихся на них целых, к плавающим переменным и непрерывным функциям. Название это получило как differentiable everything. Ну ладно, differentiable, а уж everything это я прямо сейчас придумал.

Дифференцируемое программирование -- появилось как ребрендинг для deep learning, когда стало понятно, что речь идёт совсем не только о нейронных сетках с регулярной структурой, а каких-то сложных вычислительных структурах, у которых просто есть свойство дифференцируемости (и там в этих структурах нейронных сеток может быть несколько разных, а то и не нейронных сеток вообще): https://www.edge.org/response-detail/26794, https://www.edge.org/response-detail/26794. Вот тут чуть более развёрнуто https://arxiv.org/abs/1803.10228: Differentiable programming is of joint interest to the machine learning and programming language communities. As deep learning models becomes more and more sophisticated, researchers have noticed that building blocks into a large neural network model is similar to using functions, and that some powerful neural network patterns are analogous to higher-order functions in functional programming [Fong et al. 2017; Olah 2015]. This is also thanks to the development of modern deep learning frameworks which make defning neural networks “very much like a regular program” [Abadi et al. 2017; LeCun 2018]. Some recent research demonstrates this direct mapping between these two areas by implementing differentiable analogues of traditional data structures [Cortes et al. 2015], and with differentiable programming, neural networks could do more than expected [Graves et al. 2014]. In the functional programming community, a similar effort is being undertaken. Siskind and Pearlmutter implemented forward-mode AD as an operator [Siskind and Pearlmutter 2008] and reverse-mode AD as lambda [Pearlmutter and Siskind 2008], all within a functional framework. After this, they augmented a high-level language with frst-class AD using operator overloading [Siskind and Pearlmutter 2016] and implemented a differentiable functional programming library called DiffSharp [Baydin et al. 2016]. A Haskell implementation of forward-mode AD was proposed by Elliott [2009]. И дальше знаменитый твит от Andrey Karpathy, что в Software 2.0 писать программы будут не люди: "Gradient descent can write code better than you. I’m sorry." -- https://medium.com/@karpathy/software-2-0-a64152b37c35

Дальше -- больше. Самое интересное -- это дифференцируемая архитектура, continuous relaxation of the architecture representation, "связанное с непрерывностью смягчение представления архитектуры", что даёт возможность использовать другие алгоритмы (например, градиентный спуск для поиска оптимума -- оптимума в архитектуре!). Например DARTS: differentiable architecture search -- https://arxiv.org/abs/1806.09055, FBnet: Hardware-Aware Efficient ConvNet Design via Differentiable Neural Architecture Search -- https://arxiv.org/abs/1812.03443, и множество других только для архитектуры нейросетей. Но это ж общая штука, это и не для архитектуры нейросетей может быть использовано. Архитектура, понимаемая как дискретные инженерные решения, подвергается continuous relaxation of the architecture representation, allowing efficient search of the architecture using gradient descent. А потом? А потом опять дискретизация: на выходе вполне дискретные решения -- текст (речь, или даже программный код), структура нейронной сети, растеризованное изображение, что угодно. Дифференцированные представления дают огромный потенциал для порождения/generative methods.

Вот это "связанное с непрерывностью смягчение представления", уход от грубой квантованности в мозгах (не в жизни! в жизни как раз на макроуровне всё непрерывно!), сегодня вообще ведущий тренд. Переход от "истины" и "лжи", наличия или отсутствия какого-то факта к байесовским фнукциям правдоподобия -- это ровно такой переход (в том числе от этого хода ожидают помощи в борьбе с кризисом воспроизводимости, и вообще оздоровления науки -- https://habr.com/en/post/430190/. Наука оказалась не про "цифровые" чёрно-белые, нуль-единичные дискретные утверждения, а про вероятностные, непрерывные по своей природе (книга E.T.Jaynes "Probability theory: the logic of science", http://b-ok.org/book/539703/d8b66c. ... if degrees of plausibility are represented by real numbers, then there is a uniquely determined set of quantitative rules for conducting inference. That is, any other rules whose results conflict with them will necessarily violate an elementary and nearly inescapable desideratum of rationality or consistency.). Логика науки оказалась не булева (дискретная, "цифровая"), а численная (хотя и моделируемая цифрово по большей части, но думать о ней можно как об аналоговой, почему бы и нет. И это неважно, что там идёт работа с вероятностью -- главное, что булевская логика там оказалась просто частным случаем, хотя и важным).

Максим Дорофеев подсказал, что даже деминговский переход от "попадания в допуск" (да-нет, дискретная математика) к дифференцируемому отклонению и работе с этим отклонением -- это тот же переход. И голдратовский переход от "продолбали заказ-пока не продолбали" к оценке по долларадням задержки -- то же самое, переход к непрерывным, дифференцируемым представлениям. И после этого возможно использовать алгоритмы минимизации всех этих показателей в операционном менеджменте. Можно придраться к слову "алгоритмы", но меня учили ещё в те далёкие времена, когда слово "алгоритм" относилось отнюдь не только к компьютерным программам, а вычисления/исполнение алгоритмов (то есть необязательно "вычисление", просто execution -- алгоритм это ж обобщённый план, "выполнение плана с обусловленностями") предполагались отнюдь не только в компьютерах. Так что пусть будут "алгоритмы". А сам Максим Дорофеев предложил от "пустой инбокс-непустой инбокс" (булева переменная) перейти к оценке полноты инбокса по письмодням (и считает эти письмодни с точностью до тысячных -- плавающая переменная) -- https://youtu.be/Lq2fYlYeGEE.

Если чуток обобщить, и сказать, что этот переход от "чёрное-белое" к каким-то непрерывным показателям может быть ещё и векторным (от дискретных букв, например, переходим к векторам букв, векторам предложений и даже векторам текстов -- стандартный ход в современном языковом моделировании, где дискретное представление лингвистики вдруг сменилось непрерывным -- см., например, все работы из "10 волнующих идей обработки естественного языка в 2018", http://ruder.io/10-exciting-ideas-of-2018-in-nlp/), то получим state-of-the-art сегодняшней цифровизации.

Современная цифровизация приводит не к булевым переменным, а векторам плавающих. Дифференцируемым становится всё. Картина мира оказывается в каждой ситуации не чёрно-белой одного булевого параметра как в 20 веке, а рябенькой -- цветной векторной. И дело не только в том, что эту "рябенькость" раньше могли обрабатывать только человечьи мозги, а сейчас в этом можно ожидать помощь компьютера. Нет, эта "рябенькость" проникает и в человечьи дела: мир перестаёт представляться догматичным и однобоким как это было массово ещё в конце 20 века, сегодня он массово начинает представляться более адекватно: как многоплановый, вероятностный, непрерывный.

UPDATE: обсуждение в FreeFeed -- https://freefeed.net/ailev/5814fe24-551a-406a-a574-d87660160b62, обсуждение в фейсбук -- https://www.facebook.com/ailevenchuk/posts/10214757726550821
Sunday, February 3rd, 2019
1:12 pm
Конференция "Прикладное системное мышление" 2019, call for papers
Конференция "Прикладное системное мышление" ШСМ и INCOSE RUS пройдёт 30 марта 2019 года, с 11:30 до 19:30 -- https://www.facebook.com/events/263060364375731/ (участие бесплатно). Она посвящена основным трендам развития системного мышления и его использования в менеджменте, инженерии, предпринимательстве и других сферах человеческой деятельности. На конференции будет представлен опыт применения лучших инженерных, менеджерских и предпринимательских практик, основанных на системном мышлении. Важными темами будут также фундаментальное образование на базе системного мышления, системный кругозор в сферах человеческой деятельности.

На конференции планируется четыре секции:
1. Системная инженерия и продакт-менеджмент (инженерия требований, инженерия системной архитектуры, разработка концепции использования, моделеориентированные практики системной инженерии и т.д.).
2. Опыт системного менеджмента (операционный менеджмент, организационные изменения, лидерство и т.д.).
3. Системный кругозор и фундаментальное образование инженера, менеджера, предпринимателя (курсы, методика образования).
4. Стратегирование: что происходит с практиками (эволюция с её прорывами и подрывами, искусственный интеллект и т.д.)

Присылайте ваши предложения по докладам на ailev@asmp.msk.su (Левенчук А.И., научный руководитель ШСМ, директор по исследованиям INCOSE RUS). В предложении нужно указать название доклада и привести полстранички с тезисом и основными разворачиваемыми в докладе аргументами в поддержку тезиса.
1:12 am
Курсы ШСМ в феврале 2019
Мой курс "Дисциплины для апгрейда образования инженера, менеджера, предпринимателя" пройдёт за два вечера 11-12 февраля 2019 (с 19 до 22 часов оба вечера). В курсе я рассказываю про последние результаты моих исследований в части личного стратегирования и построения образовательной траектории (как мне недавно заметили, "для тех, кто и так умный"). Страница курса: http://system-school.ru/uptodate. Интересно, что на этот курс приходят и ещё студенты, и давно профессура: жизнь меняется так стремительно, что все за ней не успевают одинаково, я сам для себя называю этот курс "как выжить во время перемен перемен". В курсе последовательно раскрывается материал цепочек текстов моего блога: "фундаментальное образование" https://ailev.livejournal.com/1427073.html и "второй бакалавриат" -- https://ailev.livejournal.com/1453126.html. Вот список обновлений, который сделан для этого, уже четвёртого, потока: https://ailev.livejournal.com/1463497.html.

Однодневный курс "Телесная инженерия" Антона Климата пройдёт 16 февраля -- с 11:30 до 18:30, http://system-school.ru/body. На курсе даётся набор упражнений для настройки тела на свободное движение. Понять, о чём этот курс, можно из текстов цепочки "Системный фитнес", https://ailev.livejournal.com/1429126.html. Дополнительные материалы можно смотреть на странице Антона ВКонтакте -- https://vk.com/klimat. Объяснений минимум, объяснения идут на четырёхдневном "Системном фитнесе" (он будет в марте: http://system-school.ru/move). Телесная инженерия и системный фитнес -- это единственные курсы, которые идут только очно, ибо тренер должен тыкать пальцем в тело. Остальные курсы возможны и в онлайн-варианте.

Четвёртый (а с учётом первой версии курса, так и тринадцатый) поток моего шестидневного марафона "Системный менеджмент и стратегирование v2" стартует 17 февраля 2019, это будет каждые две недели по воскресеньям с 11:30 до 19:30, и раз в неделю будут ещё онлайн семинары. На курс приглашаются все те, кто прошёл курс системного мышления и прочёл учебник, ибо это flip teaching: со мной решаем задачки и обсуждаем материал, а "говорящая голова" и учебник доступны бесплатно на http://systemsthinkingcourse.ru/. К первому дню тренинга нужно одолеть недели/главы 1-2, ко второму дню 3-5, к третьему 6-8 -- видеокурса и учебника хватает только на два с половиной дня. А с середины третьего дня материал идёт уникальный: в учебниках, в моём блоге и на опубликованных видео его нет. Два с половиной дня даётся кругозор (основные понятия основных подпрактик) современного системного менеджмента, и ещё день уходит на обсуждение корпоративного стратегирования. Доступна опция менторства (самый дешёвый вариант получить мой консалтинг). Страница курса тут: http://system-school.ru/sms.

Четвёртый поток (богат февраль на четвёртые потоки!) курса Вячеслава Мизгулина "Системная инженерия и менеджмент продукта" начнётся 24 февраля 2019, он будет идти четыре дня по воскресеньям раз в две недели, а вдобавок будут ещё онлайн семинары -- http://system-school.ru/engineering. От участников курса требуется предварительное знакомство с курсом "Системное мышление" в объёме учебника (а ещё лучше, чтобы было знание и кругозора системного менеджмента), на самом курсе будет тренинг практики моделеориентированной разработки концепции использования (model-based conceptual development) в нашем учебном моделере Product Studio, участники курса заканчивают его защитой модели на материале их рабочего (а не учебного) проекта.

Остальные курсы будут стартовать по мере набора групп (см. http://system-school.ru/). А ещё в телеграме есть чат абитуриентов Школы, где можно задавать вопросы по поводу курсов -- https://t.me/welcomeSSM.
[ << Previous 20 ]
Лабораторный журнал   About LiveJournal.com