Без заголовка

Что-то опять у вас всё в кучу, и кони, и люди. "Перцептро́н, или персептрон[nb 1] (англ. perceptron от лат. perceptio — восприятие; нем. perzeptron) — математическая или компьютерная модель восприятия информации мозгом (кибернетическая модель мозга), предложенная Фрэнком Розенблаттом в 1957 году и реализованная в виде электронной машины «Марк-1»[nb 2] в 1960 году. Перцептрон стал одной из первых моделей нейросетей," Описание его в 69м году не является чем-то новым. Более того, нет ни одной отсылки к тому, что у "кристаллоблока о 88 тысячах ячеек" есть слои. Так что, я думаю, это был персептрон. >про "науку нейронных сетей" (http://www.quora.com/What-is-the-theory-of-neural-networks/answer/Anatoly-Levenchuk) -- науки там нет Наука там есть, и в достаточном количестве. Расчёт любого градиента в нейросети -- это наука, как бы вам не хотелось это называть инженерией. Вычислительные численные методы -- это наука. Вас смущает "неточность"? Ну так решайте точными методами, пожалуйста. Ах, не можете? Вот видите, просто для точных задач набор методов ограничен. Ненаучен выбор именно такой нейросети? Ну тогда и сама наука ненаучна, потому что выбор методов решения математических задач ненаучен (а тем более, ненаучен выбор методов доказательства теорем). Выбор критерия оптимизации (метрики) ненаучен? Наоборот, это часть науки, ведь кратко и 100%-точно сформулировать задачу нельзя, поэтому и другие научные методы не работают. Не нравится невыпуклость и отсутствие гарантии сходимости? Обеспечивайте выпуклость выбором критерия оптимизации -- тогда не только сходимость, но и попадание в глобальный минимум гарантировано. Были работы и про выбор нелинейности, и про сходимость, и замечательная работа про связь НС с probabilistic models, позволяющая определить уверенность нейросети в терминах вероятности ( http://mlg.eng.cam.ac.uk/yarin/blog_3d801aa532c1ce.html ). Даже основе нейросетей -- тому, что Deep Learning стал работать в 2006м, но не работал до этого -- обязаны именно науке, а не "быстрым компьютерам и видюшкам". Было получено именно научное знание о сходимости, а не инженеров били яблоками по голове, пока они случайно не наткнулись на сходящийся метод. Единственная "не наука" здесь -- это когда очередной любитель начинает применять нейросети, не понимая внутренние мат. модели -- вот тогда нейросеть для него "эвристика", а нейросеть сводится к инженерии. Если бы было дело в инженерии, то почему же качество распознавания речи не росло с 1998й по 2008й год? Компьютеры становились быстрее, GMM-HMM модели больше... а точность не росла (уж не говоря о том, что GMM и HMM тоже мат. модели, а не инженерами придуманные алгоритмы). В общем, как показывает практика, такие инженеры-любители могут только повторять имеющиеся решения, но не придумывать новые. Использовать, как обезьяна палку. Да, тогда это не наука. (Кстати, подозреваю, на хакатоне действия большинства, если не всех участников как раз попадали под критерий обезьяны с палкой -- победила обезьяна, что смогла быстрее всего палку раскрутить и заточить с удачной стороны, ведь для научного подхода нужно время.) Скорее, я бы описал Deep Learning как смесь науки и инженерии. Наука обеспечивает методологию и выбор нейросети, а инженерия обеспечивает построение и развёртывание системы на имеющемся железе. Уберите отсюда науку -- и вы не сможете решать новые задачи. А решение старых задач -- применение уже изученных научных методов.