Без заголовка
"Если речь идёт не о людях и человечьем языке -- то можно ли поднять "разрешающую способность" этого пространства, сделав шаг к большей формализации/дискретности/разрешению представления мира? Не даст ли это возможность "лучше думать" (если думает не человек)?"
Не получится, пока оно не стало независимым от челоека, пока input и output должны быть понятны человеку.
Но и потом.
Если представить нейросеть как сеть сетей, то у каждой подсети немного свое смысловое пространство, они не могут быть объединены в очень плотное пространство. Правда подсети всё время должны влиять друг на друга, то есть все время уплотнять пространство. Чем меньше (сложная) сеть получает информации извне, тем больше успевает уплотнится ее смысловое пространство.
А если машина не одна, а несколько, то у каждой немного отличное свое смысловое пространство.
"сама сетка может быть устроена попроще -- и желательно устроить её вообще аппаратно"
Поэтому не отпускаю тему полезности/бесполезности чипа TrueNorth. Точнее не TrueNorth (допускаю, что он неудачен), а вообще спайковые чипы. Основной аргумент против них в том, что они долго умножают, а нужны ли будут умножения в обозримом будущем? Второй основной аргумент, что они получятся дороже видеокарт. Но видиокарты хороши только с умножениями плотных матриц и потом при такой плотности вычислений кремний наверное деградирует быстрее, а при таких энергозатратах энергостабилизирующие элементы тоже деградируют быстрее. Видеокарточки под нагрузкой вряд ли протянут дольше двух-трех-четырех лет кушая небесплатную электроэнергию и работа по их обслуживанию и замене не бесплатна. А спайковые меньше едят электричества, меньше изнашиваются, дольше прослужат и с малым энергопотреблением лучше годятся для мобильных применений. Кстати, недавно китайцы сделали спайковый Darwin. А TrueNorth решили пока что применить для диагностики обычного фон-неймановского суперкомпьютера предэкзафлопного масштаба (одна пятая экзафлопа). Поскольку в этом предэкзафлопном элементов будет пруд пруди, то и вопрос надежности и диагностики выходит на передний план.