ailev.ru

19 сентября 2015 · Комментарий

Без заголовка

Идущий за мной докладчик на BigData прямо сказал тезис "чем больше данные, тем более простые могут быть алгоритмы", который общий и для бигдатовцев (они как раз про shallow learning) и deep learning (для которых "ихняя бигдата" просто "небольшая обучающая выборка", см. http://habrahabr.ru/company/meanotek/blog/266961/ -- я именно этот текст с уводящим от сути дела названием помянул в своём выступлении). А вообще, kernel trick и в deep learning набирает популярность. И простейшие передаточные функции (вместо хитрого сигмоида тупой ReLU). А shallow learning норовят применить последовательно пару раз (даже без back propagation, но и там есть свои заморочки), или даже тройку раз. Буйно восцветают сто цветов, но все они клонятся в сторону не "определения фич", а "выучивания". Опять же, герменевты много говорят об "интерпретируемости". Один из вариантов тут -- привыкать к новым найденным фичам, давать им имена, понимать отношения между ними, и дальше демонстрировать "понимание" в терминах этих новых фич. Что-то такое с нейросетками уже начинают делать (особенно этим любят заниматься со свёрточными сетями и изображениями -- глаз смотрит, прикидывает, что это за фича, называет её, далее объявляем элементом онтологии и уже объясняем мир в её терминах. Все довольны). Восхитительное время, смена парадигмы. Относительно быстро, как когда-то с квантовой механикой и теорией относительности.

К записи · К обсуждению