Без заголовка
Ну, у вас тоже в куче кони и люди )))
1. Роман "Открытие себя" не 69, а в 67 году был написан -- я это указал. Идея глубоких архитектур была давно, просто много лет не удавалось научить глубокую сетку. Первая глубокая сетка была научена как раз на русском языке -- вот исторический обзорчик по глубокому обучению (http://people.idsia.ch/~juergen/deep-learning-overview.html, первую глубокую нейронную сетку по этой версии задумал в 1965 и восьмиуровневую научил в 1971 А.Г.Ивахненко в Киеве, в институте Глушкова, его работы легко гуглятся), Я писал об этом почти год назад. Более того, сам Савченко работал в институте кибернетики в Киеве (https://ru.wikipedia.org/wiki/%D0%A1%D0%B0%D0%B2%D1%87%D0%B5%D0%BD%D0%BA%D0%BE,_%D0%92%D0%BB%D0%B0%D0%B4%D0%B8%D0%BC%D0%B8%D1%80_%D0%98%D0%B2%D0%B0%D0%BD%D0%BE%D0%B2%D0%B8%D1%87), так что вполне мог быть знаком с идеями глубоких сетей лично.
2. Про инженерию нейронных сетей как науку: нужно разделять науку "предмета" и науку собственно инженерии, я подробней пишу об этом в учебнике http://techinvestlab.ru/systems_engineering_thinking (раздел 3 "инженерия и наука" с подразделами "инженерия не научна" и "инженерия научна" -- там 14 страниц текста, начиная со страницы 84). Там довольно подробно, но начало одного подраздела выглядит так:
Предмет инженерии и научные предметы для инженерных объектов
Нужно различать предмет самой инженерии (engineering) и предметы, изучающие объекты инженерии — механику, электрику, компьютерную науку и т.д. Инженерия (в том числе системная инженерия) описывает то, как работают инженеры. Инженерная наука (engineering science) даёт описание того, что делают люди в
инженерном проекте. Другие предметы и другие науки описывают поведение инженерных объектов, то, как работают они: механические устройства, электрические схемы, компьютерные программы.
Наиболее просто понять разницу между такой “наукой про инженерный объект” и самой инженерией можно на примере computer science (компьютерной науки) и software engineering (программной инженерии).
Наука про сами нейронные сетки как системы только-только появляется (и я указал на эволюционную физику: там пытаются ответить на вопрос, почему вообще глубокая нейронная сетка работает), и она не полностью математична, там сильно пахнет и физикой тоже. Тем не менее, при создании архитектуры нейронной сетки нет ответов на вопросы -- сколько будет оптимально слоёв, сколько в них нейронов, какого типа должны быть слои и т.д.. Эти архитектурные вопросы в каждом проекте решаются не "формулой" и оптимизацией, а эвристически. Разговоров про "генерацию нейронных сеток", "метапрограммирование" и т.д. много, а дел пока мало.
А вот про собственно инженерию нейронных сеток (как начать с требований, пройти через архитектуру, получить сетку и проверить её работу) науки пока нет, предмет отсутствует. Вот я написал, наука начала появляться )))
Хотя я уже встречал на хакатоне людей, которые абсолютно осознанно применяли к построению сетки системноинженерное мышление -- то есть прикладывали к самой инженерии какое-то знание. Так что ждать учебничков именно по инженерии нейронных сетей (а не математике/физике нейронных сетей -- почувствуйте разницу) недолго осталось.
И, кстати, инженерия часто опережает науку: сначала инженеры строили мосты, а затем через много столетий разработали сопромат.