Без заголовка
А почему "на одной видюшке" нет резервов? Речь как я понимаю про то, что обучение медленный процесс, а применение модели быстрый. Ну так обучение с оптимизацией структуры сети может прекрасно идти изолировано на "миллионах видюшек". Какая тут проблема?