Без заголовка

>если всё из этой серии соберётся под зонтиком термина transfer learning Всё же под transfer learning обычно подразумевают перенос данных, уже накопленных нейросетями. Если переносят накопленные не нейросетями данные -- то это просто "machine learning/deep learning", в зависимости от строения системы, которая данные принимает. >с модулей (онтологии, "что есть") акцент переходит на обучение (эпистемологию, "как узнал") Давайте дальше с терминами разбираться. Я выше привёл питоновский модуль из 5 строк, 10000 ячеек данных и простого алгоритма. Это "что есть" или "как узнал"? Если онтологию порождает нейросеть, то это эпистемология? Если закодировать обученную нейросеть в виде данных, то это отнология? Как вы отличаете на практике эти две вещи? В чём их объём? > Когда-то "нейронными сетями" считался очень ограниченный класс архитектур (и даже автоэнкодеры-декодеры туда не попадали), autoencoder-decoder -- это не нейронные сети, потому что это архитектурный паттерн, и он может строиться на чём угодно -- хоть на нейросетях, хоть не на нейросетях. Например, на SVM или decision tree в роли декодера и/или енкодера. Он будет нейросетью, если построен на нейросетях (см. ниже). "Нейросеть" -- это что-то, что содержит в основном нейроны и обычно обучается методом обратного распространения ошибки, а нейрон -- это что-то, что суммирует данные на входах и обычно обрабатывает сумму какой-либо нелинейностью. >Так и transfer learning всё под себя утянет, что шевелится в плате обеспечения модульности. Зонтичный термин -- learning. Классифицируется так: что обучается и каким именно образом. Для learning нужен dataset, который может быть динамическим, аугментированным или набором сэмплов. Обычно представляется в виде таблицы из samples, где поля таблицы -- поля сэмплов. Обучается model, она учится аппроксимировать какие-то поля из dataset на основе других полей. Она классифицируется по внутреннему строению (linear regression, naive bayes model, GMM, SVM, глубокая нейросеть, decision tree, model ensemble,recurrent network, итп.). Модель может использоваться как самостоятельный модуль, может использоваться как замена для dataset при transfer learning, а может использоваться после обучения какой-то выдернутый кусок из неё для построения других моделей. Модель может обучаться -- learning или training -- (веса меняются), а может использоваться (веса не меняются). Отдельный класс моделей -- online learning models -- меняются непосредственно во время использования. Это название по принципу работы: алгоритмы online learning доучиваются за линейное от количества дополнительных данных время и не требуют повторения прошлых данных при дообучении. Нейросети при дообучении потребуется повторение всех данных, или она "уедет" и перестанет предсказывать первоначальные данные. А вот naive bayes хранит счётчики для уже полученных данных, добавление новых данных -- это лишь прибавление к соответствующим счётчикам.