Без заголовка

Там только градиенты однобитные, а не сама модель. Про итоговую модель же сказано, что это ансамбль из 3х моделей из примерно 50М параметров в каждой. Пусть даже до 16-битных float их сожмут -- будет 50M*3*2 = 300Mб. Но в современных телефонах вполне в память влезет даже без дополнительного сжатия! (Что тоже не проблема -- раз в 5 сожмут). Проблема в другом -- см. в комментарии ниже.