Обсуждение

> Я продолжаю утверждать, что ключ к созданию хоть как-то думающих информационных систем -- это гибридизация в них минимально двух (а лучше больше) механизмов: символистского (формального) и коннекционистского/распределённого (непрерывного). "Гибридизация" обоих указанных механизмов это базовая концепция в технонауке. А происходящее оформляет новые научно-технические дисциплины

Анатолий Игоревич, вы пишете быстрее, чем я успеваю читать!!!!

Это вы не мне, это вы Сергею Шишке написали )))

Отсутствие зависимости от того, работаешь ли с дискретным или непрерывным, структурным или распределенным -- это и есть то, что меня всегда привлекало в ТК. Но я нахожусь в большом пессимизме относительно возможности использования ТК в качестве более-менее широко используемого языка. Нужна какая-то система образования для этого, какой-то способ разрушить понятийный барьер и страх. Но я не нашел пока лучшего способа это сделать чем алгебраическая верификация.

Воспользуюсь аналогиями, потому что смеяться и плакать уже надоело. О! Кроме молотка, который был с нами с 60х, у нас появился шуруповёрт! Одним молотком работать было крайне неудобно, но теперь-то я точно уверен, что шкаф из брёвен можно сделать с помощью молотка и шуруповёрта! Осталось только молоток и шуруповёрт правильно соединить в одно целое... С точки зрения науки, их объединение вполне описывается Теорией Категорий (а значит, она тут нужна!), и значит, наше дело верное! Буду следить за научными работами по теме, революции не избежать!

Нет, этот сценарий маловероятный (я, вроде, про это и написал). Но без молотка и шуруповёрта в конечном итоге никак, это точно.

Я полностью разделяю этот пессимизм. Мне кажется, что уже добавление байесовской статистики даёт запредельную сложность в deep learning, но добавление ТК -- окончательный перебор. Туда пройдут на весь мир единицы, поэтому в этой точке прорывов не будет. Прорывы возможны только в том случае, если они хоть как-то попсовы.

P.S. Будет много времени -- напишу серьёзно, что здесь не так и почему, кроме того, что не так примерно всё. Уже писал, но, видимо, нужно проще. Неправильные у вас акценты, не с тем сложности, с чём вы их видите. Если совсем в двух словах -- основная проблема по-прежнему в том, чтобы хорошо делать "grounding" групп слов в понятия, всякие co-reference resolution. Distributional semantics и прочие извращения лишь немного помогают (и, кстати, обучение на словарях и применение knowledge databases помогает по-прежнему лучше, чем unsupervised distributional word analysys aka word2vec/Glove -- т.к. в последних неизбежно присутствует большое количество ошибок). Точность синт. анализа -- 94.5%, точность grounding -- не выше 90%. Хоть тут присоединяй логику, хоть нет -- косяки будут, просто уже из-за ошибок на этих стадиях. И, замечу, точность синт. анализа сама повысится, когда повысится точность grounding. В https://vk.com/deeplearning?w=wall-44016343_9406 указывается, что в 2016м году точность определения верности рассуждений / перефразировки получилась порядка 85-86%. Это крайне неплохо. А делать word composition с помощью LSTM вообще уже стало привычным делом -- но вот если бы оно играло решающую роль!

Я ведь абсолютно признаю часть ваших тезисов. Действительно, если что-то не так с grounding, то исправить это будет дальше трудно -- тем не менее, именно эрудиция+логика (всякие FreeBase, тут нужно думать про тесты Винограда) и синтаксис могут помочь, равно как перенос акцента не на словосочетания, а наоборот -- внутрь редких слов (работа с корнями обычно много чего добавляет). В принципе, все эти ваши тезисы не к этому конкретному тексту про работу с теорией категорий, а к предыдущему -- где я обсуждал больше мейнстрим типа http://wwwusers.di.uniroma1.it/~collados/Slides_ACL16Tutorial_SemanticRepresentation.pdf и только чуть-чуть все эти изыски с symbolic variable binding и categorical compositional disctributional semantics: http://ailev.livejournal.com/1283541.html Но есть и различия в ожиданиях. Так, лучший в мире парсер сделан был как раз с использованием машинного обучения (классические парсеры там были использованы для создания достаточно обширной учебной выборки, этот приём мне очень понравился). Grammar as a Foreign Language, http://arxiv.org/abs/1412.7449 -- и вряд ли на этом остановились (просто не следил за парсерами с тех пор). А ещё интересно, что распределённые представления работают с языком, аудио, видео -- а не только текстами. Так что достижения классики не во всех задачах применимы, даже если они есть. Конечно, сегодня всё плохо, серебряной пули не найдено. Вон, те же тесты Винограда пройдены на 60%, а у людей это 90%. Работа с вниманием и памятью плюс выход на иерархические сетки только-только начались по сути, эрудицию раньше некуда было подключать. Сейчас есть, так что с интересом следим за развитием событий. В принципе, самое время делать какие-нибудь пари: когда все эти новомодные методы обойдут классический state-of-the-art в собственно работе с текстами. Потому как там, где хотя бы чуть-чуть затрагивается аудио или видео, уже всё ясно. А с чистым текстом есть ещё некоторые проблемки, это да.

про "Разделить труд (один знает линейную алгебру, другой матан, ... шестой для них программирует, седьмой статьи пишет на английском) не получится. Разделить труд этот можно, но не слишком глубоко." Анатолий Игоревич, а как же реактор знаний и ОДИ? Ведь это и есть та самая искомая технология сведения в единую команду экспертов по разным отраслям знаний для выработки уникальных решений. Дело за тем, чтобы кто-нибудь наконец-то взялся на сведение такой группы вместе на недельную сессию...

>Действительно, если что-то не так с grounding, то исправить это будет дальше трудно -- тем не менее, именно эрудиция+логика (всякие FreeBase, тут нужно думать про тесты Винограда) и синтаксис могут помочь Не могут они помочь, их самих нужно настраивать. Представьте, что у вас афазия. Много ваших логических утверждений ваши друзья своей эрудицией исправят, если у вас в речи правильные только слова связки? Чтобы развить интеллект, нужно обучиться. Чтобы обучиться, нужно большой объём текстов осознать. Чтобы у компьютера был большой объём текстов, его нужно или вручную ввести (увы, это очень долго, нормальных корпусов нет), или сделать качественный синтаксический и семантический анализ. "Самообучение" через цикл обратной связи не работает, т.к. уровень имеющихся знаний и уровень "стройности мира" для этого недостаточно высокий. Грубо говоря, компьютер-"школьник" не может осознать свои ошибки, ему обязательно нужны учителя. Или другая аналогия -- древний человек всё равно верит в духов, как его не корми трудами французских скептиков 17 века. Проблема глубже: чем хуже качество обработки поступающей информации, тем у'же спектр задач, которым можно надёжно обучить компьютер. >Так что достижения классики не во всех задачах применимы, даже если они есть. Лучший парсер уже давно с нейросетями внутри. Я же говорю -- 94.5% на синт. анализе. И grounding / reference resolution на нейросетях тоже. Это лучше, чем machine learning и годы ручного feature engineering-а до этого. И этого всё равно мало для запуска петли самообучения и самокорректировки. >А ещё интересно, что распределённые представления работают с языком, аудио, видео -- а не только текстами. Это да, но везде нейросетевые представления работают с той же низкой степенью точности, и их нельзя применять почти ни в одной задаче. И самостоятельный вывод по этой же причине доверять компьютеру нельзя. Про fizzbuzz на tensorflow вы читали. Напомню: http://joelgrus.com/2016/05/23/fizz-buzz-in-tensorflow/ Устраивает такая точность кого-нибудь, когда 10 из 100 ответов в элементарной задаче неверные? В теории цифры высоки (ах, целых 90% точности!), в работах часто красивые примеры. Но вы попробуйте эти работы хотя бы просто воспроизвести с такой точностью! (А потом посмотреть на средние их результаты, а не на лучшие). Это выглядит так же удручающе плохо, как заставить годовалого ребёнка, едва вставшего на ноги, танцевать самбу. >Конечно, сегодня всё плохо, серебряной пули не найдено Ну, я бы сказал по-другому: серебряная пуля, это универсальное средство решения задач, найдено -- и это нейросети. В теории. В том смысле, что в теории она все задачи уже отлично решает. Но пока что всё, что у нас есть на практике -- это "бета-версия" этой пули. Будь у нас на 3-4 порядка больше вычислительной мощности -- наверное, теория и практика бы совпадали. Но пока что мы снова, как и в прошлую AI-оттепель, стоим у порога рая, и никто не знает, что дальше делать. "Вот-вот" да "вот-вот", и тянется это уже 55 лет. Так вот, я это текущее подвешенное состояние вещей не считаю большим достижением. Именно потому что практические задачи не решаются как надо! Но ещё больше я не считаю, что треш типа отсылок на теорию категорий и очередной link grammar с новым названием что-то изменит. Я понимаю, что вам нравится находить во всём глубокие корни и теоретически совмещать в уме сложные вещи. Но иногда, как говорится, сигара это просто сигара. Нейросеть -- это нейросеть, как с абстрактной логикой и абстрактной эрудицией её не совмещай, всё равно никакого роста качества нет. И ни в одной достаточной сложной задаче качество решений не превышает 95%. И выглядит это как стенка для текущего уровня технологий. Кто-то в своей задаче к ней долго подбирается, кто-то с размаху на неё натыкается, кто-то даже немного в неё погружается. Но перешагнувших -- нет. (И единственная технология, которая пока что уверенно перешагнула 95% и вплоть до 100% для более простых задач -- это мемоизация. Таблицы/базы данных, и if-ы, которые составили люди. То же алгоритмическое решение для fizzbuzz или таблица ответов.) Так что лучше давайте ждать, когда будет хоть один существенный результат. Или, ещё лучше, делать что-то для этого, конечно. Но стараться без этого "вот-вот" (и "а один мой знакомый фрик в своей работе утверждает...").

Я считаю, что ailev видит проблему неправильно, и дело вовсе не в людях, обладающих всеми этими знаниями. Выше написал, почему. Проверьте экспериментально, будет интересно.

(Про "один мой знакомый фрик" -- почитайте http://klnran.ru/2015/04/alexandrov1/ про "энергию из камня". Вот у меня именно такое же отношение создаётся, глядя на ваши фрикоссылки, как к Ельцину: "Ельцин выслушал с недоверием и заявил: «Это вы так считаете, а мне докладывали, что можно»". )

Все эти ОДИ про совсем другое, они про собраться-разбежаться. Тут же речь идёт о разработке, и совсем другая экономика-организация-инструментарий-уровень сложности.

Вы тут много тезисов написали разных, я с частью согласен, с частью нет. У человека тоже нейросетка, он тоже плохо работает регулярно -- поэтому переходит с быстрого приблизительного мышления на тяжёлую для него логику, перепроверяется и поднимает свой процент, и тоже не 100% у человека (особенно у детей). Так что потихоньку, по мере роста ресурсов (да, тут бы пару порядков добавить срочно -- согласен, что речь идёт даже не об одном порядке для прорыва). И я тут согласен, что нужен smart учитель (кстати, всякие архитектуры с несколькими сетками в роли учителей-учеников уже довольно распространены, и они ещё обычно хитро связаны), человеческий учитель тоже хорош был бы (и тогда нужно one shot learning развивать). Но я не согласен, что всё упёрлось в стенку и нет полезных применений. Они появляются, потихоньку, повсеместно. Просто искусственный интеллект такая неуловимая штука, что всё, к чему он прикасается, перестают называть интеллектом. Опять же, я никогда не говорю про GAI, просто я давно disclaimer тут этот не писал. Я всегда говорю об узких классах задач. Узких классов производственных задач, а не общей якобы узкой задачи понимания любых текстов со стопроцентной точностью и последующей выдачей советов, как обустроить вселенную, жизнь и всё-всё-всё.

про "проверьте экспериментально" ответил Высоцкий: настоящих буйных мало, вот и нету вожаков....

про "Все эти ОДИ про совсем другое," Анатолий Игоревич, разрешите не согласиться! Сам принцип ОДИ весь в этом: эта технология создания команды, думающей как один человек, обладающий компетенциями всех этих людей, плюс сам факт того, что это не один человек, а группа, создает эффект, невозможный у одиночки, пусть даже он один знает все, что знают все. Другое дело, что нету человека, сумасшедшего настолько, чтобы взять на себя труд собрать такую команду и обеспечить ее качественным сопровождением команды игротехников. Еще раз: чисто по понятиям "ОДИ может все", но нету людей, верящих в это. Поэтому Вы правы: "совсем другая экономика-организация-инструментарий-уровень сложности." Как только появится заводила, все уровни сложности будут преодолены. Потому что ОДИ есть идея преодоления орг и псих сложностей. И новый вызов: сделать это не разовым сборищем, а on-going! потому что этого требует материал проблемы, которую, Вы правы еще раз, с наскока не возьмешь.

Я на ОДИ (классических, в том числе с участием ГПЩ) много раз бывал, там другое совсем.

про "там другое совсем." так оно, скорее всего, и есть. Другое дело, что можно пофантазировать так: 1. небольшая группа (3-4 человека) разрабатывают общую концепцию такой команды. 2. высчитывают по персонам, кто туда должен войти (учет особенностей личности и требуемого уровня компетенции) 3. проводится расчет предварительной психологической обработки кандидатов в команду, требований к набору компетенций игротехников, 4. Работа с командой игротехников (оценка их возможностей, тренировка того, чего у них не хватает) 5. Набор команды экспертов, с которыми тоже надо проводить спец работу по настрою на нужный результат (НЛП техники). 6. Все это надо как-то вписать в существующие академические организации, журналы, госструктуры (ибо тема уж больна горячая), сети. и можно начинать...

Разделить труд (один знает линейную алгебру, другой матан, ... шестой для них программирует, седьмой статьи пишет на английском) не получится. Разделить труд этот можно, но не слишкомглубоко. "Конец" эпохи разделения труда - для меня даже более важный тренд (более глобальный) нежели ИИ. Под "концом" имеется в виду не то, что разделение труда больше не акутально, а то, что принцип разделения труда все чаще дает сбой, ну т.е. собрать разделенный труд часто выходит шибко накладно. Ну т.е. мир и экономика вошли в какую-то новую, неизведанную область коммуникации. Это часто называют постиндустриальным обществом/экономикой, а иногда даже пост-информационным. Под пост-информационным я имею в виду, что обработка идет не на уровне данных, а типа на уровне смыслов, ну т.е. как раз всякие онтолоии и дип лёрнинги. Вобщем всякий weak AI. Оно конечно кардинально влияет на то как происходит разделение труда, и уже не только между человеческими мозгами, а и между человеческими и железячными мозгами. Т.е. для меня нейросетки и проч маш лёрнинг не столько искусственный интеллект, сколько инструмент, усиливающий человеческий моск. Экзокортекс, в Ваших терминах :). Ну и Вы тоже не раз писали про киборгов, но не так как это демонстрируется в фантастических фильмах (не только как это демонстрируется в фантастических фильмах). Т.е. лично для меня наиболее интересное в дип лёрнингах и байесах - это то, как они повлияют на мышление мокрых мозгов, как изменят коммуникацию, восприятие мира и проч. Конечно, всякие weak AI это тоже круто, но мне думается, косвенные последствия, когда они проявятся в обществе и экономике - это еще круче и интереснее :). Хотя конечно не всем это понравится, ну а что делать.