TEST Скорость обучения нейросети
!!! Прогресс в машинном интеллекте существенно зависит от мощности вычислителя и качества алгоритма. Известно, что мощность вычислителя растёт экспоненциально, по закону Мура. Что растёт быстрее — мощность аппаратуры, или качество алгоритмов обучения нейросети?
--- мощность аппаратуры, она растёт экспоненциально по закону Мура. С 2012 года, когда начали тренировать нейронные сети, к 2020 году согласно закону Мура скорость обучения была бы выше в 11 раз ### Нет, в реальности алгоритмы ускоряются быстрее — скорость вычислений стала больше в 44 раза за счёт алгоритмов, https://openai.com/blog/ai-and-efficiency/
+++ рост скорости алгоритмов обучения нейросети быстрее скорости роста аппаратуры ### Да, каждые 16 месяцев скорость алгоритмов увеличивается вдвое с 2012 года, это даёт x44 алгоритмически, а по закону Мура это было бы только x11, https://openai.com/blog/ai-and-efficiency/