Без заголовка
Вы меня неправильно тут читаете. Я обычно или род и пару видов задаю, или в рамках теории прототипов пару-тройку прототипов для задания концепта. Так что количество элементов в слоях это только пример. И даже кроме функции потерь там много чего есть. Про соотношение науки и инженерии -- так инженерия ровно так и устроена: как говорил мне один из опытных инженеров, компрессор на пару мегават очень легко сделать, нужно просто сделать их штуки четыре (представляете размеры и цикл их проектирования?), после чего будет абсолютно ясно, как их делать -- и пятый уже будет вполне ничего. По вашему разумению, это и есть наука в чистом виде: сделать гипотезу, проверить её, если не работает, что-то поменять. А по моему мнению, так это как раз инженерия. Software engineering тоже такая же, инженерия. Учёные не сетки делают на выходе работающие, учёные теории новые разрабатывают. А вы тут описываете Эдисона с его лабораториями и тысячей попробованных лампочек. Эдисон не учёный, он изобретатель. И ваши настраиватели сеток не учёные, а изобретатели. А если они иногда и определяют какие-то гиперпараметры вычислением или какими иными эвристиками, так и инженеры регулярно что-то вычисляют-моделируют, а не просто используют метод проб и ошибок. Но испытания даже в случае использования каких-то теорий и расчётов таки проводят: расчёты расчётами, а реальность реальностью.
Про облако я пишу, потому как вычислительные мощности всё больше и больше как водопровод: бутылки дорогие все покупают, но кран в квартире и в офисе всё одно есть. Так что я недаром привёл тут обе архитектуры -- и бесстековую и полного стека. А консалтинг или аутсорсинг возможен в сочетаении с любой из этих архитектур. На хакатоне использовалось и облако, и местные компьютеры.