Без заголовка
Microsoft с весенним обновлением Win10 добавляет WinML API (Windows Machine Learning).
Основная задача - загрузка модели ONNX, обученной другими средствами, и компиляция модели под имеющееся железо.
Есть GPU - будет собрано под GPU, причем с оптимизацией под NVIDIA, AMD, Intel. Нет GPU, будет скомпилирована под CPU.
В качестве примера показали компиляцию под экзотическое железо Intel - VPU.
Кратко описал тут: https://habr.com/post/351724/
Например, можно сделать модель, которая по движению стилуса предсказывает, что человек хочет нарисовать и заканчивает за него.
Полезно при рисовании схем/диаграмм.
Можно сделать 3D-модель аватара, у которой входными переменными могут быть эмоции, направление и форма движения, направление внимания, цель, интенции ....
Судя по комментариям к моей статье, некоторые профи из мира DL/ML даже не понимают неизбежность и необходимость сервировки моделей.