lytdybr
У меня во всех чатах довольно много народу встревожилось по поводу происходящего с GPT-4. Читают https://arxiv.org/abs/2303.12712 и задумываются, как теперь жить, и выживет ли кто не в переносном, а в буквальном смысле слова. Многие стали недовольны слишком быстрым развитием AI ровно так же, как были недовольны совсем недавно слишком медленным развитием AI, вот же не угодишь людям! Моё отношение к безопасности по линии AI (alignment) такое же, как к безопасности по линии людей, защищающих интересы каких-то других сущностей с той же неясной природой (типа "страны", "государства", "национальной культуры" и т.д.). Мой план остаётся прежним: я занимаюсь образованием людей (в том числе и образованием компьютеров, я ж не отказываюсь). Образованные люди решат все эти проблемы. Необразованные -- не решат, и будет плохо. То, что будет плохо, показывает и ковид, и война, и примерно так же будет, похоже, с искусственным интеллектом -- проблемы не от ковида или того, из-за чего воюют, а "многие погибли в давке среди толпы паникующих людей, а от источника паники вроде никто прямо не пострадал". Поэтому я пишу ОдО2023, с этим курсом у некоторых людей появится шанс стать умней и что-то сделать с самыми разными проблемами, которые неминуемо будут. Одному бороться с проблемами несподручно, лучше с умными людьми вместе, а ещё лучше -- с умными людьми и компьютерами. Айзека Азимова спросили как-то, боится ли он компьютеров. Он ответил, что его страшит отсутствие компьютеров. Вот я так же боюсь, что AI не будет. А уж насчёт alignment, так если умные люди будут, и они воспользуются умным AI, то что-нибудь придумают -- и для этого не надо, чтобы этим вопросом занимались все люди, как не надо было, чтобы все становились эпидемиологами или даже политиками. Я точно не буду тратить личное время на эти проблемы, у меня свой участок работы в мировом разделении труда.
Вот тут небольшой тред с моим участием о квантовых вычислениях в клетке, https://www.facebook.com/groups/2930104110608299/posts/3466766596942045/. На молекулярном уровне там, безусловно, "настоящие кванты" (и это понятно всё больше и больше -- отнюдь не всё там "броуновское движение молекул"). А вот дальше интересно: сами вычисления в клетке уровнем повыше молекул -- они квантовоподобны, равно как и вокруг. Как именно? Аргумент тут простой: компьютер большой, но вполне может квантовоподобно вычислять. Вот и клетка (даже большая!) тоже может это делать. Вычисление -- это просто изменение памяти какими-то операциями. Если клетка не эргодическая система, то память у неё есть. Значит, там идут вычисления. И операции эти -- квантовоподобны, а то и вообще квантовы, https://chrisfieldsresearch.com/quantum-cells-pre.pdf. Почему? Они занимают мало ресурсов, ибо линейны и дискретны -- https://www.sciencedirect.com/science/article/pii/S0303264720301994 и https://www.frontiersin.org/articles/10.3389/fnbot.2022.910161/full#B45. .
ОдО2023 с поправленными ошибками в 160 страницах интеллект-стека, ура. Дальше надо физику, теорию понятий и онтологику. Это будет уже больше двухсот страниц -- и надо будет в конце недели этот кусок опубликовать. Потом -- алгоритмика, логика, рациональность, познание/исследования, эстетика, этика, риторика, методология, системная инженерия, и опять публиковать. Очень надеюсь закончить до нашей конференции «Современная системная инженерия и менеджмент-2023» 22-23 апреля 2023, https://system-school.ru/conf-2023. Дальше части про прикладные практики, про интеллект и про то, как всему этому учить.
Вышло второе издание книжки Sönke Ahrens "How to Take Smart Notes: One Simple Technique to Boost Writing, Learning and Thinking" (в z-library есть, в Амазоне есть), март 2022 года.
Спрашивают, куда делись из курсов value networks и DSM. Темы, конечно, известны. Они давно на слуху, им сто лет в субботу — вот в 2008 году я пишу про From value chains to value networks из ITIL v3 Service strategy, https://ailev.livejournal.com/561099.html. Но и ITIL оказалось уже давно не SOTA, и все эти value отслеживания по длинным цепочкам: выделение системных уровней и эмерджентности на них плюс цепочки создания оказались эффективней в моделировании. DSM давали много лет (в МФТИ это даже в лабораторных работах по системной инженерии было), но последнюю пару лет я их в явном виде не даю. Там при росте таблицы идёт комбинаторный взрыв (то же верно при всяких "морфологических ящиках" и прочих переборах). То есть как какая-то интересная практика — да, но вот как общий для всех обязательный к изучению метод — нет. На тренинге СМС книжку в библиотечку кладём, но заданий обязательно эту книжку прочесть уже не даём. И без этой книжки до чёртиков материалов, которые нужно освоить. Но в какие-то прикладные курсы я, возможно, это бы рекомендовал.