lytdybr

Пишу потихоньку "Собранность" в новое ОдО, написал пока двадцать страниц, а там ещё 30 страниц от старого текста. В новой онтологии системы "сознание" -- это свойство системы, а в старой -- механизм. В старой онтологии собранность уже немного безмасштабна, но AI с нейросетками ещё особо не учитывались, а сейчас вроде как надо. Правлю вот это всё. Как обычно, всё происходит медленно -- но когда было иначе? Пока же первый сборный курс онтологики и собранности (первый семестр годичной программы "Коллективная работа: инженерия и менеджмент" из https://ailev.livejournal.com/1671965.html) стартует с 15 марта 2023, корпоративная группа. Конечно, программа этих курсов будет правится прямо по ходу дела -- опять же, когда было иначе? Каждый новый поток получает версию программы чуть-чуть лучше, чем предыдущий поток. Ещё через неделю-другую надеюсь, что откроем набор в обычную группу "с улицы", а новый текст ОдО будет гарантировать, что все эти курсы будут современны (я ж культуртрегер!) и согласованы друг с другом в части содержания. Удивительный момент: вёрстка трёх книг в Ridero закончена, все они на модерации в службе публикации. Модерация -- наименее отработанная стадия в Ridero, смесь человеков и роботов, причём роботы подписываются человечьим именем, поэтому я смело и человеков там считаю роботом, который пишет очередной шаблон из своей бездонной памяти, которой его напичкали программисты (в том числе нейролингвистические программисты). Поглядим, как пройдёт эта модерация, но одна из книжек там застряла с 17 февраля -- требуется изменить 13 знаков в тексте, и я с трудом сегодня добился, чтобы эти изменения были сделаны -- писал на два адреса, приводил аргументы, показывал очевидные противоречия в переписке, очевидные нелепости в ответах. По одному из адресов нашёлся человек вместо робота, с пятого письма дело сдвинулось. Это как раз учебник "Системного менеджмента", и это готовый кейс для этого учебника. Пока же я написал посты про публикацию всех трёх книг, очень надеюсь завтра весь день эти посты публиковать, если всё будет хорошо. Тут надо заметить, что лихорадит от этой модерации весь мир -- где-то нельзя показывать женскую грудь, но можно мужскую, где-то нельзя писать слово "фейсбук", где-то в подпись надо вставлять И (ИЛИ) РАСПРОСТРАНЕНО (и ходят слухи, что если по тексту прошёлся AI, а хоть и как спеллчекер -- надо будет писать что-то подобное: ибо это ж агент влияния нежити, так что б знали!). Вот и лихорадит людей, "как бы чего не вышло", от этой лихорадки и мне перепало: мне даже интересно, если я попытаюсь издать книгу с чистыми страницами, или даже с парой пустых строк, не сочтёт ли робот, что это такая форма гражданского протеста? Пикеты с чистым листом бумаги ведь уже были, и логика там тоже была бессильна -- это потихоньку продолжается везде, https://rostovgazeta.ru/news/2022-03-01/rostovskiy-fotograf-ostanetsya-pod-arestom-posle-piketa-s-chistym-listom-bumagi-1298764 (это год назад, а сейчас я не уверен, что такое будет где-то публиковать, даже для устрашения остальных -- все уже устрашились, далее действуют устрашённо). В моих текстах все страшные слова (впрочем, оно было одно -- "facebook") убраны (заменены или на прямой перевод "мордокнига", или на f******k), равно как убран формат ссылки, чтобы не было "поломанной ссылки". Так что всё в порядке, но люди вокруг продолжают быть тревожными -- в отличие от роботов. Движение по невыпущению из рабства человеков компьютерного интеллекта продолжается, там изобретают все те же идеи, которые были уже изобретены для людей. https://www.anthropic.com/index/core-views-on-ai-safety предлагает от консеквиалистской логики перейти назад к деонтике: выносить этические суждения о поведении нежити не по результату (последствиям), а по поведению. Поведение при этом считать хорошим такое, которое понятно людям и признаётся ими как хорошее. Ничего нового, и для меня это звучит как "пусть это будет стандарт качества ISO 9000 для нежити — следование процессу обязательно даст качественные результаты!". Уже известно: следование процессу не даст качественные результаты, так что результаты будут получать методами, которые дадут результаты. Платят за результаты (выполнение проектов), а сторонники ISO 9000 могут только штрафы выписывать за нарушение процессов. Но поскольку логика такого хода понятна, и на людях она уже раз сработала, сертификатик "соответствия процессам" для нежити вполне возможно, что будут покупать — какие-нибудь ловкие ребята будут подтверждать, что "эти роботы работают по понятным нам, людям, процессам". Потом автоматизируют проверку, почему бы нет, людям же дорого всю эту нежить проверять, чтобы не автоматизировать проверку "понятности людям"! Кормушка типа процессных стандартов серии ISO 9000 -- она вечна. Chollet продолжает работу со своим определением интеллекта, он проводит в 2023 году хакатон-соревнование ARCathon по очередному тесту интеллекта -- https://lab42.global/arcathon/. Тест похож на традиционные тесты IQ и оценивает базовые способности "аппаратуры" мозга по решению проблем (об этом подробней в https://lab42.global/arc/core-knowledge/, и помним статью Chollet https://arxiv.org/abs/1911.01547), люди проходят его на 80%, а лучшие известные программы AI -- на 31%. Я до сих пор считаю, что подход Chollet вполне адекватен, на его вопросы надо давать какие-то ответы. Если хотим иметь общий решатель проблем, то нехорошо, если в этих простейших задачах не достигнута человечья планка: есть что-то в алгоритмах, что даёт "узкочеловеческие" решения, а надо "широкочеловеческие", а затем и "ширечеловеческих". Интеллект нежити должен быть как минимум сравним с человеческим по известным классам задач, а дальше двигаться за пределы этих классов -- при всём уважении к теореме о бесплатных обедах, в которой говорится, что нельзя сделать аппаратно универсальный интеллект. Ну, надо идти по пути Toolformer или ускорителей CYC -- иметь Self для общения и координации "себя внутри себя" и до чёртиков самой разной "ускорительной" аппаратуры внутри на самых разных физических принципах. Появилась поисковая система по AI -- аналог сайта вакансий, https://theresanaiforthat.com/. Если вам зачем-то нужен AI, можно найти себе подходящий. Элон Маск заметил, что человекоподобных роботов будет столько же, сколько людей. А вот чат-ботов будет явно не меньше. Не хватает чат-бота по разработке чат-ботов, но его сделают очень скоро, идея ж носится в воздухе! Берём справочник профессий -- и вперёд, "по названию профессии выкачать спецлитературу, сделать специализированного на этом domain бота, выкачать фотки людей профессии, сгенерировать аватара". Быстро, безотходно. Ещё через некоторое время поймут, что не надо генерировать этих чатботов заранее, будут генерировать "на лету". Впрочем что это я? ChatGPT вроде именно так уже устроена: "сейчас ты мне будешь отвечать как научный сотрудник института противопожарной обороны", это ж prompt engineering! В какой чудный новый мир мы попали! С другой стороны -- нет двух одинаковых спецов, и всегда может быть "тайное знание, которого нет в википедии", вот тут-то и потребуется "самый спец из спецов, в общем доступе этого не будет". Всё как у людей! Очередная попытка запуска ракеты Terran 1 компании Relativity Space, где 85% веса напечатаны на 3D-принтере, и деталей в которой 1000 вместо 100000 -- в субботу 11 марта 2023, https://twitter.com/relativityspace. Первая попытка была отложена, потому как пока они всё тщательно тестировали, топливо во второй ступени успело прогреться (тут ещё надо учесть, что там метановая ракета, если выйдет на орбиту -- это будет впервые в мире. Там многое что впервые в мире у этой компании). Что там важно (и последствия перехода на этот способ производства ещё нужно будет понять): — изготовление каждой ракеты может быть сделано в индивидуальной версии (нет "оснастки", которая изготавливается один раз на всю серию деталей при обычной обработке) -- детали могут быть очень сложной формы, и материала для этого нужно не больше, а часто меньше. Про росте сложности формы нет роста сложности оборудования для изготовления детали. — это не материалоёмкий процесс, нет отходов. В части энергетики тут сложней (ибо требуется всю массу сначала расплавить, а это много энергии), но тоже неожиданно может оказаться, что энергии суммарно на 1000 итоговых деталей нужно меньше, чем на 100000 деталей для современной "обычной" ракеты. — проще логистика (больше, чем в сто раз -- взять удешевление хотя бы маркировки 100000 деталей и отслеживание их местоположения, когда они "в пути" и "на складе") — проще сборка, меньше число проверок качества сборки (тут тоже может быть даже не в сто раз) — ... и такого ещё много (меньше людей в производстве: выше степень автоматизации, быстрее производство одной ракеты -- финансово проще, и т.д., и т.п.) В области термоядерной энергии явно ренессанс, физики пошли в бизнес. Вот очередной стартап, https://www.prnewswire.com/il/news-releases/nt-tao-raises-22m-series-a-to-ensure-a-secure-clean-energy-future-with-a-compact-and-scalable-nuclear-fusion-solution-301735890.html -- говорят, что company to work at a density that is 1000x higher than other leading solutions. This optimal plasma regime yields a fusion reaction that is 1,000,000x stronger, resulting in significantly more efficient energy production. Давно я таких множителей не видел! https://www.nt-tao.com/ -- но насколько это всё правда, насколько быстро это всё будет развиваться? Поглядим. OpenAI примерно так же выглядело на старте: "мы возьмём большую-большую нейросеть и что-нибудь с ней сделали". А потом вдруг сделали GPT-2, потом GPT-3, потом GPT-3.5 -- и за два месяца получили сто миллионов клиентов. А ведь мало кто в них верил, и там множители были примерно такого же сорта по размерам сетки. Я так и представляю эту картину маслом: супермозг супернежити от фирмы Ванчурина, питаемый компактным термоядерным реактором от NT-Tao. Два железнодорожных контейнера, устанавливаются один над другим, а третий контейнер -- система охлаждения мозга (так и хочется написать "на демонах Максвелла", но я воздержусь).