Без заголовка

Суть предлагаемого мной -- это использование одного GPU для множества разнородных моделей. Речь не идёт о том, чтобы просто грузануть модель в GPU и там её задействовать. Речь идёт о том, чтобы грузить и задействовать независимо много разных (или однотипных -- по всякому бывает) моделей. Сервировка и контейнеризация, но для GPU. Немонопольный захват моделями одной аппаратуры. Мне кажется, для этого нужно немного постараться: это ведь типичная задача для операционной системы -- многозадачность и многопользовательскость, планировщик как существенная часть, виртуализация и т.д.. Под такой фреймворк и стартап можно сразу делать, потом его NVIDIA купит )))