Обсуждение

А теперь появился первый министр искусственного интеллекта, В своё время японцы хорошо вложились в искусственный интеллект и компьютеры пятого поколения. С тех пор у них роботы красивые и поезда без машинистов ездят. Но прорыва так и не вышло.

Да, я именно про это.

«Лет через 15...» — выглядит на уровне фантастики, но из банально-прикладного: жена говорит — «может машину поменяем? Еще лет пять проездим — дальше все одно будет электрическая».

Спасибо за интересный материал! В среду хочу написать про Нейронет - можно пару цитат спереть? :)

Пока ИИ не начнет реально управлять социумом, большинство прорывов останутся "прорывами".

"если бы президент был программистом, он большинство министров заменил скриптом" (с) не знаю кто с развитием ИИ все только хуже есессно министры (если говорить шире, то менеджеры вообще, и даже можно еще шире - люди в целом) не хотят, чтобы их скриптом заменяли тем не менее, есть такое направление которое прорвет рано или поздно, что повлечет смену технологий управления и сопутствующего вот это будет в моем понимании прорыв - социальная и/или политическая революция (оно вероятно будет крайне неприятно для подавляющего большинства участников) Я бы еще отметил прогресс в области алгоритмов - он наверное в популярную литературу вообще никак не попадает. Да и те кто МЛ занимается "на земле" об этом не всегда в курсе. Но последнее время идет какой-то прогресс в том чтобы чисто на алгоритмическом уровне все работало в разы или в десятки раз быстрее. Впрочем, какой-нить ReLU сюда тоже можно отнести - сети с ReLU в разы быстрее тренируются. Но также можно отметить Randomized Linear Algebra, какой-нить randomized svd в сотни (или даже тысячи) раз быстрее работает. Алгоритмы типа SAG/SVRG. Какие-нить (accelerated) ADMM которые может сами по себе не шибко быстрые, но хорошо распределяются, т.е. можно несложно задействовать кластера. Недавно (в мае) появилась статья про "accelerated: SAG/SVRG - ну типа вроде еще быстрее работает, я не изучал подробно. Second order optimization к нейросеткам вроде более-менее научились применять - K-FAC алгоритм. Может это еще исследовательнская стадия, по большей части, но ускорение в сотни и даже тысячи раз. И еще можно параллелить все это дело (second order оптимизация интересна тем что там больше возможностей для параллелизма, нежели в SGD). Это только то что я знаю, остальное для меня пока сложновато, точнее подробно не смотрел :).

Я это все к тому, что у меня есть подозрение, что в самом МЛ будет концептуальный прорыв. Т.е. есть классические постановки задач, и как следствие, классические алгоритмы решения, но они уже на раз "оспаривались". Не в том смысле, что все это неправильно. Просто накопленный опыт позволяет уточнить цели, и тут получаются немного другие ответы. И немного другие алгоритмы. Я у меня есть подозрение, что это как раз путь который дает 100-1000 кратное преимущество в скорости. Т.е. мы получаем немного другие ответы, просто гораздо быстрее. Но "немного другое" не факт что плохо, возможно это как раз то что нам и нужно.

Прите, конечно. Я не придаю большого значения копирайту )))

Занудное - AlphaGo через ph пишется.

И то верно. Поздно вечером писал, фанетичиские ашипки в количестве должны быть. Наверняка там и ещё что-нибудь найдётся подобное.

Да, мне кажется, что в ML/DL прорывы далеко не кончились, там ещё много будет интересного, и необязательно через много лет. Математика ещё несколько раз поменяется, наверняка.

Люди в целом и менеджеры в частности может быть и не хотят, что бы их заменяли, но владельцам бизнеса обычно на это их не желание наплевать, когда они видят, что заменить возможно

В мелком и среднем бизнисе оно может и так, но я его меньше всего имею в виду. А вот в крупном бизнесе и госструктурах на мнение владельцев давно уже положили, это называется "революция менеджеров". Т.е. топ-менеджмент конечно можно заменить, но кем? Придут другие люди, но с тем же образом действий. И им вовсе не интересно чтобы их заменили скриптом.

Я полистал ссылки и ..... не нашел: где можно почитать про наиболее популярные часто используемые библиотеки для программирования неросетей? По таким библиотекам материалов должно быть много, чисто практических....

Вся информация по новостям популярных библиотек проходит тут: https://vk.com/deeplearning

Спасибо!! _ Я сразу нашел то что нужно.....