Без заголовка

Радикальным конструктивистам ничего не "известно", они всё постулируют. Могут иногда ещё и эксперименты ставить,чтобы проверить выполнение своих постулатов на практике -- и будут счастливы, если их постулаты выполняются не всегда, а по большей части (т.е. все эти постулирования -- эвристики, абсолютная верность никому не нужна, нужна работоспособность для решения интересных задач). Про буквы -- так распределённые представления даже на буквенном уровне вполне семантичны, даже не доходя до буквосочетаний. А для буквосочетаний можно цепочку пространств брать. Вспомните, например, классическую древнюю работу http://karpathy.github.io/2015/05/21/rnn-effectiveness/ Люди работают, программки пишут, гипотезы проверяют. Все статьи так и устроены: сказал мысль -- продемонстрируй её рабостоспособность программой. Вот вы сказали, что "пространство памяти имеет дыры", дальше по идее вам нужно продемонстрировать программкой и наборами данных, что вот они дыры, вот их границы, вот что нужно сделать, чтобы в дыры не попадать.