Комментарий
«А вон тот компьютер 2000 года выпуска, который ты сейчас выкинешь?», — только если он надоел в качестве подставки: один черт кроме этого он только шуметь и место занимать способен.
← О текущем моменте и смысле жизни
Обсуждение
Читать и комментировать в ЖЖ ↗
Комментарий
Странное ты пишешь. "Каждая буква, каждое слово, каждая фраза" — это уже дискретное пространство. Никто их не "воспринимает непрерывными".
Конечно нейросеть (любая) затем и имеет пороги активации, чтобы на каждом шаге вычислений, на каждом коннекшене вновь и вновь снижать _точность_ вычислений, приводя к 0 и 1. Но только входной слой можно считать хоть сколько-то непрерывным (насколько можно считать непрерывными сингалы естественных или искусственных физико-химических рецепторов по сравнению с активацией).
А вот чем занимается нейросеть интересным — так это снижением размерности пространств. В этом и есть экономия вычислений. Но это к квантизации отношения не имеет.
Комментарий
Да, я хотел ещё написать, что в компьютере это уже будет даже real (особенно восьмибитные) дискретные, но не написал. В дискуссии в канале Гриши Сапунова написал.
Снижение размерности там имеет место быть (при классификации это ж оно), но описывают его всё равно как ловлю точки каким-то гридом (всё одно через точность идут) и обсуждают дальше рекурсивность, renormalization group и прочее такое.
В любом случае, всё сводится к моделированию и сопутствующему ему рендерингу/порождению (и тут возможны самые разные архитектуры с самой разной эмерджентностью по сравнению с ванильной LLM).
И это мы ещё квантовые алгоритмы на квантовых компьютерах не берём пока. Там отдельная песня (всё то же самое, но другие оценки реальной вычислимости того-сего. Дикий поток статей).
Комментарий
С учетом того, что "успех" в минимизации свободной энергии (показатель "спасения") — это максимальное запутывание со средой, и в конечном счете, тепловая "смерть" вселенной (хотя, похоже, правильнее назвать тепловое "спасение") — это состояние максимальной запутанности всех степеней свободы во вселенной ("вся вселенная спаслась") — получается, что "смысл жизни — во спасении" — это переформулирование принципа унитарности. Это нефальсифицируемо (наверное, в рамках наших текущих представлений о физике), но и не очень интересно.
Интереснее, если мы принимаем этот принцип "спасения" — ответить на содержательный нормативный вопрос, как именно мы должны спасаться. FEP в текущем виде не дает ответа на следующие вопросы:
- Локус вычисления находится во множественном подчинении — как я должен понять, мне надо спасаться самому, или спасать свою семью, или свое общество, или человечество?
- Я могу увеличить свои шансы на спасения на горизонте год — сильно, а могу — на горизонте десять лет, чуть-чуть. Как я должен выбрать из этих двух вариантов?
- Контекстуальность — я могу увеличить свои шансы на спасение в одном контексте (например, "контексте координат"), а могу — в другом ("контексте импульсов"). Какой из контекстов я должен выбрать?
- Классический FEP (и просто наблюдения мира вокруг) говорит нам о том, что выживаемость не обязательно идеально коррелирует с сознанием. Самый простой пример — популяции (и виды) гораздо более живучи, чем отдельные особи, при этом, очевидно, почти не обладают сознанием. В то же время, у нас есть очень сильная интуиция, что этика связана с сознанием как в отрицательном (боль), так и положительном ключе (мир был бы "бессмысленным" и поэтому не содержал бы никакой ценности (или очень мало ценности), если бы в нем не было сознаний наподобие человека. Я готов отмахнуться от многих "парохиальных" этических интуиций, но не от этой, потому что она кажется вполне безмасштабной — людям также кажется, что было бы здорово быть частью глобального планетарного сознания. Если эта интуиция все-таки неверна, то теория безмасштабной этики должна объяснить, почему. (Тут еще надо посмотреть, будет ли вселенная в состоянии "теплового спасения" иметь сознание по IIT, или нет, потому что там не будет никакой causal structure.)
- Все эти рассуждения про "групповую/коллективную несознанку", causal structure (которая не физична, а семантична), Functional Decision Theory (которая кажется близкой к правильной теории групповой/коллективной рациональности) которая оперирует абстрактными объектами вроде тех же causal graphs и counterfactuals, а не только физическими — также пока нормально в FEP не объяснены (да и сама FEP-теория коллективного интеллекта сейчас еще в стадии гипотез и наметок, а не устоявшейся теории, как обычный FEP).
Поэтому работы по безмасштабной теории этики еще много. Правильнее даже сказать, что она еще толком не начиналась.
Комментарий
И еще вдогонку ссылка — надо ко всему этому добавить resource theories (https://ailev.livejournal.com/1567297.html). В quantum FEP статье говорится про разделение границы на "информационный" и "ресурсный/энергетический" сектора, но этого пока мало.
Комментарий
"гонка мегапикселей" в фотоаппаратах ведь как раз про это, но начиная с какого-то момента "всё всех устраивает, больше и дороже не надо"
Увы, надо... Вот прошлый год терзался над Z-проблемой — переходить ли на Nikon-Z, или погодить?
Комментарий
Очень интересно, но есть пара вопросов
Вопрос номер 1:
The energy required to irreversibly obtain one bit, i.e., to receive and irreversibly record one bit, is given by Landauer’s Principle
How do you irreversibly do anything if wave function evolution is time-symmetric?
Комментарий
Напишите авторам, они ответят. В принципе, это отсылка к https://sites.pitt.edu/~jdnorton/lectures/Rotman_Summer_School_2013/thermo_computing_docs/Landauer_1961.pdf
Комментарий
Конечно, погодить! )))
Комментарий
По факту нет работ по безмасштабной теории многоуровневой этики и нормальных работ по иммунологии как вычислению (да ещё это и связано: все эти "мы с тобой одной крови ты и я" из Маугли можно трактовать и как отсылку к чему-то в этике, и как отсылку к чему-то в иммунологии).
Комментарий
Вопрос 2, чуть более риторический:
time to irreversibly obtain one bit is then ћ/ln 2 kBT , roughly 30 fs at 310 K
Хотел спросить, что такое 310K (потому что в естественных науках более принято 298К, но пока писал, понял, что это температура мозга. Всё равно странно ставить рядом мозг и 30fs.
Комментарий
Вот грега игана люде нечиталле, а потом и удивляццо будут!..
Комментарий
So, the tipping point in the history of AI was tits up. Don't you want to comment something?
Shares of Google parent Alphabet plunged 7.4% – losing the equivalent of $100 billion in market value – as social media users reacted to Bard’s flub.
https://www.9news.com.au/world/google-ai-chatbot-bard-gives-inaccurate-answer-demo/2136bc9f-2cc2-41ec-bd22-60e8db221577
https://nypost.com/2023/02/08/google-ai-chatbot-bard-flunks-during-firms-highly-touted-rollout/
Комментарий
Archive of chatGPT failures
https://docs.google.com/spreadsheets/d/1kDSERnROv5FgHbVN8z_bXH9gak2IXRtoqz0nwhrviCw/htmlview#gid=1302320625
A Categorical Archive of ChatGPT Failures
Large language models have been demonstrated to be valuable in differentfields. ChatGPT, developed by OpenAI, has been trained using massive amounts ofdata and simulates human conversation by comprehending context and generatingappropriate responses. It has garnered significant attention due to its abilityto effectively answer a broad range of human inquiries, with fluent andcomprehensive answers surpassing prior public chatbots in both security andusefulness. However, a comprehensive analysis of ChatGPT's failures is lacking,which is the focus of this study. Ten categories of failures, includingreasoning, factual errors, math, coding, and bias, are presented and discussed.The risks, limitations, and societal implications of ChatGPT are alsohighlighted. The goal of this study is to assist researchers and developers inenhancing future language models and chatbots.
arxiv.org
A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity
This paper proposes a framework for quantitatively evaluating interactiveLLMs such as ChatGPT using publicly available data sets. We carry out anextensive technical evaluation of ChatGPT using 21 data sets covering 8different common NLP application tasks. We evaluate the multitask, multilingualand multi-modal aspects of ChatGPT based on these data sets and a newlydesigned multimodal dataset. We find that ChatGPT outperforms LLMs withzero-shot learning on most tasks and even outperforms fine-tuned models on sometasks. We find that it is better at understanding non-Latin script languagesthan generating them. It is able to generate multimodal content from textualprompts, via an intermediate code generation step. Moreover, we find thatChatGPT is 64.33% accurate on average in 10 different reasoning categoriesunder logical reasoning, non-textual reasoning, and commonsense reasoning,hence making it an unreliable reasoner. It is, for example, better at deductivethan inductive reasoning. ChatGPT suffers from hallucination problems likeother LLMs and it generates more extrinsic hallucinations from its parametricmemory as it does not have access to an external knowledge base. Finally, theinteractive feature of ChatGPT enables human collaboration with the underlyingLLM to improve its performance, i.e, 8% ROUGE-1 on summarization and 2% ChrF++on machine translation, in a multi-turn "prompt engineering" fashion.
arxiv.org
And I don't even start to put links to Gary Marcus' critics or the last revelations of Le Cun himself.