Без заголовка

Там столько всего в нейросетках происходит, что я точно не успеваю всё понять и всё прокомментировать. Два прорыва в неделю, и к этому ещё подключаются и подключаются новые люди по мере финансирования всё бОльшим и бОльшим числом инвесторов. Меня сейчас заботит, как будут развиваться события в связи с no free lunch theorem: потихоньку будет оказываться, что кроме классического deep learning на глубоких сетях много чего ещё может быть универсальным аппроксиматором. Это означает, что и математика/алгоритмы будет поразнообразней, и аппаратура будет поразнообразней, и мало никому не покажется. Капсульные сети, кстати, ход ровно в том направлении, хотя и внутри классики deep learning. А ещё глубокие леса и куча подобных инициатив могут рвануть в разных нишах. Удивительно, что туда мало кто копает. Стык символьных и коннективистских вычислений остаётся Святым Граалем, его будут искать и потихоньку найдут во множестве вариантов. Основная война, конечно, в составлении cognitive architecture изо всех этих новых придумок нейросетевых и прочих архитектур. Эти придумки уже сами по себе commodity, их начинают по-разному складывать для целей multitask, многоуровнего RL и т.д.. Тут очень много любопытного происходит, всего не обозреть.