Без заголовка
Ну ок, понял вашу идею: применение науки не является наукой. Отсюда и утверждение "науки в нейросетях нет", с которым хочется поспорить, потому что технология нейросетей основана на научных работах -- т.е. это и есть "наука", которая есть в нейросетях. Вот такой парадокс...
>Ну, и физику эзотерикой называть нехорошо!
>А вы говорите о каких-то очень общих идеях типа градиентного спуска (почему-то игнорируя современные аспекты проблемы, например обсуждения типа https://charlesmartin14.wordpress.com/2015/03/25/why-does-deep-learning-work/)
"Эзотерика — учения о скрытой мистической сути объектов мира и человека; область изучения эзотерики — процессы, происходящие во Вселенной, синхронно отражающиеся в глубинах человеческой души."
Если взять переносное значение ("учение о скрытой мистической сути объектов") -- то это оно и есть. Объяснить механизм работы одной системы существованием (!) другой системы с похожими элементами. "Принцип подобия" из астрологии в чистом виде.
Ок, вы объяснили чистый SGD, ссылаясь на работы физиков 70х годов, у которых природный объект делал SGD. Ну, теперь объясняйте, почему какой-нибудь метод обучения типа RMSProp сходится таким же образом -- что вы теперь будете искать за природный объект?
Понимаете, я-то как раз в курсе "современных аспектов проблемы", да и термодинамику ещё чуть-чуть помню, поэтому понимаю, что Лекун скорее стебётся, а автор статьи тупо рекламирует свой консалтинг.
Выглядит это и правда весьма мистично -- незнакомые с deep learning люди внезапно испытывают просветление от такой удивительной аналогии. На то и расcчёт.