Обсуждение

ну вот и свершились тысячи бесконечных обезьянок а мы не верили

Мне почему-то кажется, что настоящий прорыв в машинном переводе случится, когда удастся каким-либо образом соединить технологии типа ABBYY Compreno с нейронными сетями. Типа базовую (учебную, общелексическую, ...) онтологию зададут с помощью а-ля ABBYY Compreno, а все остальные предметные онтологии нейросеть уже научится строить/достраивать сама. :-)

у "рациональщиков" и других приверженцев формально-математических методов, базовая ошибка в том, что то, что хорошо ложится в формально описываемую модель ими признается и реализуется, ну а то, что не ложится - отбрасывается и игнорируется. ну или приводится в соответствие с моделью методом товарища Прокруста. в кейсах где возможная формальная модель не сильно расходится с реальностью, все получается продуктивно и замечательно, ну а где нет... то нет.

Так модели и методы пока что очень слабые: если построить "модель решения смысла жизни и всего такого" то кроме ответа "42" из нее сложно что-то получить. А модели с которыми что-то можно сделать - очень простые. Но это пока, как я понимаю сейчас аи продвигается как раз к тому, чтобы самому определять модель и строить на основании ее выводы. А это уже принципиально другая сложность, чем "построение экономической системы основанной на теории игр в квадратике 2х2".

Основная идея тут в том, что нейросетка сделает формальную модель, подходящую под данный случай. Но фишка цивилизации не в том, чтобы сделать модель-онтику. Фишка цивилизации в том, чтобы вмазать эту онтику в лучшую известную онтологию -- или улучшить эту онтологию, а не только вмазываемую в неё онтику. Вот с этим пока проблемы и теоретические (метафизика не работает, а "вероятностная метафизика" практически не разработана), и практические (так вопрос пока очень мало кто ставит).

Ну да. Работается с простейшими онтиками, а нужно понимать, как вмазываться в онтологии. Мало сделать физическую онтику для какого-то эксперимента, нужно ещё вмазать её в стандартную теорию, или предложить поправки к стандартной теории -- цивилизация-то таким путём шла до сих пор. Сейчас или этот цивилизационный путь поменяется (наука опять станет другой), или что-то из этого пути повторится (петафлопсы вольются в современную науку и перестанут быть кулибинами в своих проектах), или всё это будет мелкое шебуршение в кустах, несмотря на все доступные петафлопсы.

тут принципиальное уточнение - обученная соответствующим образом нейросетка. и обучение (с самообучением конечно) это самая важная часть. а еще более принципиальное - то, что из нейросетки обратно модель в формальном виде неизвлекаема, прямо как из человеческого мозга. т.е., по большому счету, это "третий путь". вот да, именно так. более того, эти проблемы даже не осознаются, люди больше предпочитают делится на "технарей" и "гуманитариев", поэтому вас так и интересно читать, что вы редкий пример того, кто это все понимает.

так и есть, но я больше имел ввиду позицию тех, кто считает что нам надо больше более лучших моделей которые более точно считаются на более мощных вычмощностях и так победим.

Я ж в посте специально указал на объясняемость (interpretability) -- это и есть формальные модели. Ну, и постановка задач сейчас часто такая, что сеть просят выдать не решение, а прямо формальную модель. Насчёт деления людей на технарей и гуманитариев, так это печалька. Я как раз и подчеркнул, что мышлением как таковым в связи с новой волной искусственного интеллекта занялись, наконец, технари и математики -- в огромных количествах (десятки тысяч человек на планете), а не немногие гуманитарии с их художественными рассуждениями "как я думал вчера ночью, долго интроспектировал, и вам сегодня расскажу в метафорах".

Всё это веселит душу и вселяет в неё оптимизм. Но! При всё восхищении "машинным гением" нужно всё же помнить, что это всего лишь ещё одна инкарнация "гения" человеческого. Но запущенного в самостоятельное плавание и ориентированого на самовоспроизводство и саморепликацию. Насколько он способен к созданию, в режиме обратной связи, новых рефлексирующих и саморефликсирующих алгоритмов? Мне кажется, что не стреноженный человеческими заботами, этот "гений" вполне сможет начать жизнь по законам раковых клеток. Всё же парадигматику и ценности, на мой взгляд, должен задавать белковый организм. Соответственно он просто обязан отслеживать внутренние эволюции и мутации происходящие в синтетических нейронных пространствах, ибо, не дай Бог!... Смена античных "варварских" парадигматик на христианские в течение трёх - четырёх столетий перевернула европейский space. Ломка материального мира с началом Промышленного переворота, которая также шла "в автоматическом режиме", (были, конечно попытки контроля и руководства в виде всяких социально-политических утопий, но всё утряслось само собой, хотя и не без человеческого креатива ), помимо благ индустриальной цивилизации, дорого обошлась уже всему человечеству: мировые революции и войны, экологические бедствия и пр. Неуправляемая "автоматизация" интеллектуального пространства, ноосферы, без должного системного контроля, может иметь не менее впечатляющие последствия. И об этом надо помнить всегда.