Без заголовка
Там еть параметр для генерации - temperature.
У меня получалось так, что если указывать маленькое значение (генерировать близко к исходному тексту), генерируемый текст начинает сходиться к одному слову или фразе, а если большое - начинают появляться слова, которых нет в языке.
Пробовал учить на большом файле с русским языком - не дождался окончания (но текст генерировался, тоже бессмысленный). Нужна видеокарта.
Фреймворк, на котором написано, с недавнего вемени частично поддерживает помимо CUDA еще OpenCL, у кого есть карта от AMD - тоже можно попробовать.