ailev.ru

10 апреля 2019 · Комментарий

Без заголовка

У меня недавно был кейс в котором тесно переплетались human-knowledge-based, search, long term и short run :). Я консультировал одну компанию по поводу МЛ, там задача была в обработке сигналов, и там было много физики, так что ребята делали все упорно через human-knowledge, но результат их не устраивал. Я сразу подумал что конволюционная нейросетка туда хорошо ложиться, тем не менее мы последовали по некоторому промежуточному пути, а именно некий систематический поиск решения в пространстве, которое было где-то посередине между knowledge-based и нейросеткой. По причине высоких затрат (не только вычислительных) на проект с нейросеткой, там целый список затрат был, которые на первых порах были нежелательны по обоюдному согласию. Хотя in the long run нейросетка рано или поздно была бы актуальнее. Но мое видение было в том, чтобы подвести к этому решению через промежуточный поиск среди моделей попроще - и ближе к human-based, но так чтобы потом сподручнее перейти к более сложным архитектурам, включая CNN. Т.е. в целом сей кейс лично для меня укладывается в канву Rich Sutton'а, с тем замечанием, что short term все равно актуален. Да, если мы можем жахнуть general методом пусть и с высокими вычислительными затратами - это хорошо. Но не всегда можем :). В то же время отмечу, что систематический поиск решения там был основой подхода. И мне в этом видится куча бенефитов, с точки зрения инженерии, с точки зрения балансировки между различными ограничениями. В частности, мы можем разделить задачу на кусочки, которые могут выполнять не особо квалицифированные специалисты. В то же время, эти задачи есть и "повод" подучить их, и в любом случае, по мере реализации, они получат опыт и повысят квалификацию. Т.е. тут у нас есть масштабирование не только на компьютерные выч мощности, но и на человеческие ресурсы тоже. В целом поисковый подход наверное можно так описать - мы декомпозируем целевую задачу на подзадачи. Для каждого этапа находим какие-то простые варианты решений (возможно тоже их декомпозируем), учитываем ограничения, ну и генерим какие-то наборы сочетания этих вариантов, которые составляют решение основной задачи. В целом чтобы это проделать, нужна высокая квалификация, но вот отдельные задачи могут делать ребята и не шибко подкованные в МЛ, особливо, если им пояснить, что к чему. Декомпозиция инженерам очень понятна, но видимо им не вполне понятен подход, что взяв кучу вариантов решения подзадач, мы из всего этого можем организовать систематический поиск решения. Который может и тупой, но кагбэ вполне работает, ежели "выч мощностей" хватает.

К записи · К обсуждению