Без заголовка

С философами давно уже все понятно. Случайно наткнулся на ваш блог, мощно задвигаете ) По поводу почему глубокие сетки так хорошо аппроксимируют, у меня теория, что мы просто имеем capacity constrained функцию(несмотря что пишут про экспоненциально усложняющийся апроксиматор), если мы давим лосс, то должны как-то сжимать входные данные, потому что capacity входных данных > capacity сетки, и если мы уменьшаем лосс нашего апроксиматора, то чисто физически, сетка должна найти избыточность в данных и ее "дистелировать". То есть это лишь следствие того что входные данные(картинки) избыточны(инвариантны относительно, сдвига, масштабирования, поворота) относительно категорий, которыми мы их хотим описать.