Обсуждение

Замечательный текст. Современная "Ильенковщина" (в хорошем, позитивном и конструктивном смысле этого слова) в аспекте "деятельностной" природы мышления.

Хотелось бы картинку простенькую, где онтология со временем.

Читайте Криса Партриджа, у него много в книжке картинок для онтологии со временем: http://www.borosolutions.co.uk/research/content/files/books/BusObj-Printed-20050531-with-watermark.pdf

Пишите, пожалуйста, попроще -- а то вроде все слова знаю, но совершенно ничего не понятно!

Спасибо, быстро пролистал, и увидел 1) иерархию состояний (глава 10) 2) состояния иерархий (глава 17). Это все, что можно сказать про онтологию во времени?

Не понял вопроса. Вы про онтологию времени спрашиваете (например, модели данных в шестой нормальной форме), или про онтологическую инженерию (скажем, управление конфигурацией онтологии, всякие diff/merge), или про проблемы типа ontology revision? Я вам дал ссылку на книжку по 4D экстенсиональной онтологии, в которой подробно рассказывается, как представлять онтологически корректно всякие изменения в мире -- типа смены насоса или президента, жизненные циклы, процессы на предприятиях и прочие связанные со временем ситуации. Почитайте подробней, мне за эту книжку много разных людей спасибо говорили.

Там вряд ли все слова понятны, если не проходить по ссылкам (а при проходе могут целые книжки обнаруживаться, увы). Ну, и я в самом тексте написал, что на данный момент проще не могу. Я вообще рад, что удалось это всё как-то записать хотя бы для себя самого, а не просто "думать в голове". Мне кажется, что в этом тексте есть несколько идей, которые я в литературе в таком виде не встречал вместе. Хотя понятно, что порознь все идеи давно описаны -- но в разных местах, и поэтому вместе не встречались.

Поделитесь ссылкой на используемую Вами классификацию.

Там всё понятно, если владеть матчастью)

нет.

Ну, на самом деле, посты Анатолия лишь на первый взгляд кажутся выполненными в "простом и понятном" ключе. Чтобы их понимать правильно, нужно иметь опыт автора или сопоставимый в обсуждаемом вопросе. Так что я Ваше возражение понимаю :) Я попробую объяснить немного. Есть две проблемы онтологического моделирования. Первая -- это вычислительная трудность точного вывода на выразительных онтологиях. Кто пробовал плотно работать с OWL, тот знает. Проблема фундаментальная и не лечится ничем. Физически возможен только либо неполный вывод, либо онтология не может быть выразительной. Т.е. встает другая, не менее фундаментальная, проблема практичски достаточной полноты вывода и выразительности онтологии. Попытки обуздать эту проблему есть (TrOWL, например), но они пока носят сугубо экспериментальный характер. Вторая, куда более сложная, проблема онтологического моделирования -- это "несимвольные" онтологии. И дело здесь вовсе не в том, что онтологии трудно расширить на, например, числовые данные или те же изображения. Речь идет о таких пока сложных элементах когнитивного кодирования как чувства, интуиция и др., которые, как оказывается, играют важнейшую роль в системе знаний человека. Формализация чувств -- это одна их постановок проблемы Сильного ИИ в узком смысле. Проблема формализация чувств не проще проблемы формализации сознания. Есть известный концентуальный разрыв ("трудная проблема" по Чалмерсу) между символьным знанием и образным (феноменальным). Тот коннекционизм, к которому обычно аппелируют, как к возможному решению "трудной проблемы" на самом деле фундаментально ничего не решает. ИНС (как квинтессенция коннекционистского подхода) работают на цифровых ЭВМ, т.е. сугубо символьны по своей базовой природе. Эти две трудных проблемы проходят красной линией через весь ИИ, имеют множество манифестаций в разных его подразделах. И, соответственно, есть много попыток так или иначе их преодолеть. Спектр очень широкий: от полного отрицания наличия проблемы как таковой, до полного отрицания вообще возможности создания "ИИ уровня человека" на цифровой ЭВМ. Как мне здесь видится, именно о них Анатолий рассуждал, со своей колокольни.

>Ну, на самом деле, посты Анатолия лишь на первый взгляд кажутся выполненными в "простом и понятном" ключе. Чтобы их понимать правильно, нужно иметь опыт автора или сопоставимый в обсуждаемом вопросе. Так что я Ваше возражение понимаю :) Вот именно. "Матчасти", как вы написали выше, недостаточно, нужно ещё обладать таким же или сравнимым опытом. У меня с теорией всё хорошо, но практический опыт несколько другой. За объяснение спасибо. Ну, мне кажется, ограничиваясь именно существующими онтологиями для решения этих проблем, далеко не уйдёшь -- если в руках молоток, всё кажется гвоздём, но не все гвозди можно забивать этим молотком :) А вот если говорить про весь класс онтологий -- то легко заметить, что он вычислительно эквивалентен любой другой базе данных (конечно, если сверху добавить инструменты для работы с онтологией, т.е. если забить на воображаемо-полезный маппинг "одно понятие онтологии -- одно понятие реального мира"). Да и вообще, все беды онтологов -- именно от этой попытки натянуть объекты онтологии на объекты мира. Даже сама задача в такой формулировке кажется странной. С т.з. инструментария глубоких нейросетей, формализация и обработка чувств (не органов чувств, а эмоционального аппарата человека) -- это очень легко. И "сознание" само по себе сделать -- очень легко. Но "сознание" -- лишь одно из тысячи компонентов мозга. И вот большая часть этих компонентов пока что работает "через раз" -- что с помощью нейросетей, что с помощью онтологий, что с помощью руками написанных детерминированных алгоритмов. Так что проблема ИИ -- это на текущий день проблема, как собрать из кучи плохо работающих компонент одно хорошо работающее целое.

> "Матчасти", как вы написали выше, недостаточно, Под матчастью я как раз имел в виду те самые сложные проблемы ИИ, которых сейчас известно две основных (проблема вычислительной сложности универсального обучения и проблема сильного ИИ), но у них очень много частных манифестаций. И, так или иначе, все текущие обсждения в ИИ крутятся вокруг них. > С т.з. инструментария глубоких нейросетей, формализация и обработка чувств (не органов чувств, а эмоционального аппарата человека) -- это очень легко. Не то, чтобы я с этим как-то спорил. Я сам считаю, что проблема сильного ИИ уже благополучно решена как на философском, так и на математическом уровнях. Но характеристика "очень легко" применительно к трудной проблеме сознания пока еще преждевременна, на мой взгляд. Особенно, учитывая имеющийся сейчас инструментарий глубоких нейронных сетей. Т.е. я что хочу сказать. Сейчас известно, что две выше обозначенных трудных проблемы имеют частные решения. И придумать какое-то частное решение-кандидат, более-менее хорошее, не так уж трудно (посильно человеку). А вот придумать решение, которое бы хорошо работало на человеческом когнитивном материале в широком случае и обладало еще и предсказательной силой, пока не удавалось. Кроме всего прочего, консенсуса ни в отношении того что искать, ни, тем более, в отношении того как искать.

>А вот придумать решение, которое бы хорошо работало на человеческом когнитивном материале в широком случае и обладало еще и предсказательной силой, пока не удавалось. Решения-то придуманы. И предсказательной силой обладают, и неплохо работают -- для некоторых задач уже достаточно. Но недостаточно хорошо, и в основном потому, что 1) пока что по прежнему слишком дорого учить компьютеры 2) недостаточно качественно работают -- вычислительной мощности не хватает! Так вот: если решение есть, но работает только на суперкластере -- это "решено", "хорошо" работает или нет? Вот возьмите sentiment analysis. Уровень предсказания позитивности/негативности утверждения на тестовом множестве -- 87%. Это плохо или хорошо? А достаточно для практических применений? Или, уровень синтаксического анализа в английском языке -- около 95.5-96% (на русском -- 85-90%). Это достаточно для трансформации языка в онтологию? А без "предсказательной силы" современное распознавание речи вообще не работало бы. Потому что до половины букв именно предсказывается. Ударное "а" и "е" от безударных "о" и "и" не отличить без контекста (т.е. это уже предсказание!) а "б", "в" и "д" вообще почти не отличить друг от друга в словах. Но это мелочи по сравнению с тем, что для каждого слова есть десятки почти-омофонов, и только предсказание позволяет выбрать из них то, что сказал человек. В общем, моё резюме: проблемы уже решены в теории, но решения ещё пока слишком непрактичны -- что всего лишь вопрос времени и вложенных денег в железо и в данные для обучения. Но дискуссии по поводу "возможности решения" точно можно сворачивать. >Кроме всего прочего, консенсуса ни в отношении того что искать, ни, тем более, в отношении того как искать. А когда это инженерам и учёным для своих работ нужен был консенсус?

> Решения-то придуманы... и неплохо работают. > Вот возьмите sentiment analysis... Это только потому, что та постановка задачи S.A., которая сейчас в работе, очень сильно сужена по сравнению с общей. В общем случае S.A. должен определить структуру эмоции, а не только её знак. Поскольку эмоция имеет мотивообразующие свойства, то у неё есть структура -- конкретное действие, к которому побуждается субъект. И, хотя мы сейчас знаем, как там и что тикает, перейти к практическим экспериментам пока еще нельзя. Всё уприрается в уровень машинного обучения, который пока еще не достигнут, на сколько я знаю. > В общем, моё резюме: проблемы уже решены в теории, но решения ещё пока слишком непрактичны -- что всего лишь вопрос времени и вложенных денег в железо и в данные для обучения. Это очень легко может стать вопросом слишком большого времени :) Между "я в принципе понимаю как оно тикает", "я знаю, как это сделать" и "у меня заработало" -- пропасти. Хорошо, когда есть тот же torch и на нем запилить какой-нибудь neural-style -- это вопрос одного скрипта. Но если проблема не вписывается в инструменты, то очень легко можно надолго зарыться в очень сложном программировании. > А когда это инженерам и учёным для своих работ нужен был консенсус? Тогда, когда им нужно как-то начинать объединяться в группы, чтобы совметно работать над общей задачей. В ИИ уже давно один в поле -- не воин. А как объединяться, если нет хотя бы элементарного консенсуса? Сколько исследователей, стольк и когнитивных архитектур.

>> Вот возьмите sentiment analysis... >Это только потому, что та постановка задачи S.A., которая сейчас в работе, очень сильно сужена по сравнению с общей. В общем случае S.A. должен определить структуру эмоции, а не только её знак. >Поскольку эмоция имеет мотивообразующие свойства, то у неё есть структура -- конкретное действие, к которому побуждается субъект. И, хотя мы сейчас знаем, как там и что тикает, перейти к практическим экспериментам пока еще нельзя. Всё уприрается в уровень машинного обучения, который пока еще не достигнут, на сколько я знаю. Та постановка S.A. успешно предсказывает цифру отзыва, которую поставит человек. Вот и всё. А ваша расширенная формулировка -- это уже задача синтаксически-семантического анализа, для которой данные я тоже привёл. Для хорошего анализа, увы, в основном не хватает данных (человеку в мозг залезть пока не можем, описывать всё дорого, компьютеры сами учиться умеют плохо -- слишком много ошибок, что сводится). Структуру эмоций при этом на построенных графах предложений выучить с помощью того же word2vec достаточно просто. >> В общем, моё резюме: проблемы уже решены в теории, но решения ещё пока слишком непрактичны -- что всего лишь вопрос времени и вложенных денег в железо и в данные для обучения. >Это очень легко может стать вопросом слишком большого времени :) Между "я в принципе понимаю как оно тикает", "я знаю, как это сделать" и "у меня заработало" -- пропасти. Хорошо, когда есть тот же torch и на нем запилить какой-нибудь neural-style -- это вопрос одного скрипта. Но если проблема не вписывается в инструменты, то очень легко можно надолго зарыться в очень сложном программировании. Согласен полностью, время до практического решения может пройти любое. В основном, время будет зависеть от разрешения вспомогательных проблем, о которых я говорил выше, ну и от характерного размера задачи, конечно. 1) железо 2) данные 3) петля обратной связи для данных Кстати, в machine translation и speech recogniton петля обратной связи есть -- ведь это задачи маппинга известного на известное. А вот в синтаксически-семантическом анализе увы такой петли пока не нашли -- это маппинг известного на неизвестное, поэтому количество данных для обучения в тысячи раз меньше возможного. Ну а в анализе эмоций характерный размер задачи намного ниже -- эмоций всего сотни (сравните с миллионом слов), в 10 измерений вполне впишутся. >> А когда это инженерам и учёным для своих работ нужен был консенсус? >Тогда, когда им нужно как-то начинать объединяться в группы, чтобы совметно работать над общей задачей. В ИИ уже давно один в поле -- не воин. А как объединяться, если нет хотя бы элементарного консенсуса? Сколько исследователей, стольк и когнитивных архитектур. На мой взгляд, причина и следствие тут перевёрнуты: люди не хотят объединяться в коллективы, поэтому и не ищут консенсус. Надо понимать, что упёртые проповедники самостоятельно изобретённых максим всегда будут. Большинство исследователей всё же принимают последние объединяющие веянья технологий, правда, в рамках нелюбви к работе и обучению в коллективах у них на это может уйти у них лет 5 или 25... Ну, сами себе злобные буратины!

> Та постановка S.A. успешно предсказывает цифру отзыва, которую поставит человек. Вот и всё. > Структуру эмоций при этом на построенных графах предложений выучить с помощью того же word2vec достаточно просто. > Ну а в анализе эмоций характерный размер задачи намного ниже -- эмоций всего сотни (сравните с миллионом слов), в 10 измерений вполне впишутся. Терминологическая чехарда в психологии начинает служить нам очень плохую службу. Эмоции -- это внешнее проявление чувств. И то, что их "всего сотни" -- лишь проблема распознавания проявлений эмоций (у них есть своё кодирование, которое мы плохо знаем). Чувств же на несколько порядков больше, чем слов. Именно поэтому существует искусство как механизм выражения и передачи чувств. Т.е. как только мы начинаем расширяем рабочий словарь проявлений эмоций, всё быстро становится слишком сложным. Не говоря уже о полной дешифровке message, которое "закодировано" в чувстве. Для этого нужно иметь модель чувств, а это уже трудная проблема сильного ИИ, т.е. здесь все далеко не так просто как обычно кажется практическим специалистам. Не то, чтобы у нас сейчас не было моделей чувств вообще, просто они пока что все либо очень теоретические, либо слишком частные. Т.е. фокусирующиеся на каком-то отдельном аспекте проявления эмоций. В этом и состоит проблема "отсутствия консенсуса". Просто слишком много частных мнений, которые друг с другом не стыкуются. Вплоть до того, что правильное понимание определения эмоции встречается довольно редко по моему опыту :) > На мой взгляд, причина и следствие тут перевёрнуты: люди не хотят объединяться в коллективы, поэтому и не ищут консенсус. Именно тут, скорее, другое. ИИ прошел через два десятилетия почти полного забвения со стороны организованной науки. Вырасло аж несколько поколений исследователей, которые привыкли работать в одиночку и без какого-либо контроля (и у же тем более валидации результатов). Тут больше надежды на новые, подрастающие, поколения исследователей и инженеров, консенсус среди которых идет от эмпирики: строится вокруг инструментов и практических результатов. Лишь бы они в угаре энтузиазма не повторяли ошибки своих предшественников :)

>Чувств же на несколько порядков больше, чем слов. Я правильно понимаю, что вы только что назвали все мыслеобразы или какую-то часть мыслеобразов словом "чувство"?

Да, правильно. И мысли -- это тоже частный вид чувства. Здесь пока еще есть острый дефицит терминологии, что как называть. Скажем так, есть некоторое промежуточное представление, "когнитивное кодирование", который на более высоком уровне само-отчета выходит как "внутрення речь", "мысли", "чувства" и интегральные "мыслеобразы". Лично мне проще всё называть чувствами, так как они в ряду манифестаций когнитивных кодов самые низкоуровневые. Когда появится общепринятая терминология, я с радостью на неё перейду. Вопрос о когнитивном кодировании, как некотором общем промежуточном представлении, порождающем и итоге всё многообразие феноменальных само-отчетов субъекта, -- это переформулирование проблемы Сильного ИИ применительно к когнитивным архитектурам.

Всё очень просто с мыслеобразами и когнитивным кодированием. В пространстве проекции мыслеобразов на текст -- кодируем последовательности из одного или более слов в виде сжимающего отображения. p1 = ("Василий", "Петрович") p2 = ("Я", "Пришёл", "Домой") И так далее. q[i] = code(p[i]) , такое, что similar(p[a], p[b]) => similar(q[a], q[b]) . Правда, сложно определить что такое similarity без мозга, поэтому пользуются суррогатами: близость перевода, или "рядом были те же слова", или "слова относятся к одной картинке", или "вместе с этими фразами поставили одну и ту же оценку на imdb" или ещё каким. В Machine Translation как раз используется векторное кодирование слов + иерархия LSTM для подобного сжатия. Не идеально работает, конечно, но неплохое приближение. Для визуальных проекций -- берётся распознавание образов и полученные в его рамках вектора с предпоследнего слоя нейросети. И тому подобное. В общем, технология вполне работает, хоть и прожорливая и ненадёжная.