Обсуждение

Если память мне не изменят, именно в нематодах в начале 2000х обнаружили способность к синтаксису -- прекурсору языка. Эта гипотеза в том числе поставила и под сомнение гипотезу Хомского о праязыке.

Ай-яй-яй, бедные философы, что же им останется лет через 50, когда сделают робота-шимпанзе и вплотную начнут подбираться к человеку...

Как-то Вы опять преувеличиваете масштабируемость подхода. Я так понимаю в случае с нематодой прикол в том, что сетка особо не обучается, ну и просто поскольку она небольшая по размеру, и ее реакции оцифрованы, то идея реализовать это в софте, в смысле натренировать искуственную сетку, чтобы вела похоже. Отсюда до моделирования самообучающихся сеток у жывотных как до Андромеды. Если не поменять парадигму, а ее может не один десяток раз сменить придется.

Я конечно могу ошибаться, но мое впечатление что механизм самообучения естественных нейросеток совершенно непонятен (и уж вряд ли имеет какое-то отношение к backpropagation и прочему методу градиентного спуска). И вроде как более-менее реалистичная модель (около 400 параметров) одного(!) нейрона на суперкомпьютера как-то очень долго моделируется. В общем, у меня пока стойкое понимание, что по крайней мере в публичной науке, даже близко никто не понимает принципы самообучения естественных нейросеток. По крайней мере, не до такой степени, чтобы можно было говорить о моделировании.

С тех пор как математики изобрели теорию категорий, философы не нужны.

Нужны-нужны. Кто же будет выводить "сознание" за пределы науки?

Так математики же! Вон тут только вчера Горькавый писал: "Математика щедра, а физика скупа. Математики могут построить миллион моделей Вселенной, а физика выберет из них одну, реальную."

Струнные теоретики смотрят на Горькавого как-то недовольно, свирепо и в то же время грустно и с недоумением.

Струнные теоретики и есть те, кто займет место философов.

У меня такое же понимание сформировалось десять лет назад, когда я пытался разобраться куда можно применять нейросетки и как подходить к их проектированию. Получилось, что пока нейросетку на прагматическом уровне можно рассматривать как размен большого массива данных (таблица всевозможных входов и реакций) на вычислительную мощу. Этакая аналогия фрактальной архивации. Какой-то парадигмы по определению сложности задач и вытекающих из них расчетов архитектуры а также алгоритмов обучения- не видно. Большей частью занимаются шаманством и созерцанием результатов а также классификацией полученных результатов созерцания.

Простите, а что это был за эксперимент? И что такое прекурсор языка?

Мне знакомый говорил что его знакомый математик вроде начал какую-то спец математику для нейросеток делать - они вроде как занимаются ими и затрахались уже считать :). Посмотрим что получится, может интересное что. Я раньше тоже относился к нейросеткам пренебрежительно. Но сейчас я сменил немного парадигму. Нейросетка - это по сути удачный нейминг, который сделал тему популярной. Плюс конечно недавние успехи в deep learning. Но просто я в начале года поподробнее разобрался с convex optimization, machine/statistical learning, ANN, econometrics, а также image processing и asset pricing. И получилась интересная картина, что современные нейросетки - это просто статистические эстиматоры определенного вида, с большим кол-вом параметров, для которых нашли достаточно эффективные методики регуляризации. Т.е. за счет мощи современных GPU и эффективных методик регуляризации/установки начальных параметров, можно сделать относительно большое кол-во нейронов/весов, и это как-то все оптимизировать не боясь, что подстроишься под кривую. При этом народ экспериментрирует еще и с архитектурами, там с мультипликативными связями. Ну типа просто можно выработать относительно унифицированный подход к построению сложных статистических моделей. Который много где применим. Ну т.е. asset pricing можно тоже рассматривать как специфическую нейросетку к примеру. Ну простые статистики понятно что можно рассматривать как простой случай нейросетки. Т.е. сами нейросетки - фигня. А вот всякие сложно-структурированные статистики и machine/statistical learning - это интересно. В частности за счет того, что некоторые, например, пороговые функции можно апроксимировать с помощью нейросеток. И типа пытаться делать кастомизированный бэкпропагейшен, там где раньше был перебор вариантов. Ну т.е. подход родил во мне новую парадигму, я пока не опробовал подробно, но интересно :). Тем боеле что есть западный народ, с которым можно посотрудничать.

Так они в общем-то уже. Но и помимо них есть кому порассуждать о сути вещей (описание это описание, взаимодействие это взаимодействие, а что такое суть?), о несводимости сознания к нейронам, о квалиа, и помедитировать на вопрос "ощущает ли мой сосед красный цвет так же, как его ощущаю я?".

вобщем, я хочу сказать что нейросетки - это попсня, а вот сложный machine/statistical learning - это hot :)

Кстати, я думал о квалиа с т.з. теории категорий. Очень похоже что это связность на каком-то расслоении. Т.е. у нас нет возможности "пощупать" значение квалиа, но есть возможность "пощупать" его класс эквивалентности ("красный"), а это вполне выразимо в терминах ТК. Опять же, калибровочные преобразования тут напрашивается - вся эта физика выразима в ТК.

Философы нужны. По большому счету, там где не математика - там философия. Ну типа например в экономике: что такое богатство? откуда оно произрастает? какие цели экономики? что это ваще за хрень такая? Это все вопросы философские. Ну т.е. когда эти вопросы конкретизировались до уровня когда можно посчитать - тут математики и считают, модели всякие делать. Но всякого бла-бла-бла все равно много остается. Типа математика царица всех наук, конечно, но вот чтобы к ней свести обсуждение, нужно изрядно пофилософствовать :).

Философы не нужны. Потому что вопрос "что такое богатство" совершенно не имеет смысла в области экономики. Имеет смысл вопрос "чего ожидает среднестатистический человек для того, чтобы считать себя богатым". Но на этот вопрос должны отвечать не философы, а социологи. Путем полевых исследований этих самых среднестатистичеких людей. Есть у нас какая-то система в реальном мире (система состоящая преимущественно из людей, социальная). Мы хотим что-то с ней сделать. Очевидно, что философ для того, чтобы сформулирвать наши цели нам не нужен. Любой власть имущий прекрасно представляет себе свои цели - ну там, получить максимально высокий рейтинг и гордиться тем, что я такой крутой, или получить систему, которая будет исправно кормить и меня, и детей и внуков, или вдоволь потоптаться по головам этих яйцеголовых, которые надо мной смеялись детстве. Если ему и нужен кто-то чтобы помочь сформулироаать эти цели, то это не философ. а психотерапевт. Далее, когда эти цели сформулированы, нужно сформулировать их уже не для себя, а для людей, входящих в эту систему. Здесь опять же нужен не философ, а пропагандист. Ну и социолог не помешает, чтобы знать, в каких случаях говорить правду. а в каких - лучше не. Далее, нужно выбрать средства достижения целей. Здесь опять же нужны не философы, а те же социологи, бизнес-аналитики, системные инженеры - те, кто знает как выяснить состояние системы и как перевести ее в желаемое состояние.

Витус был прав :(

Потому что вопрос "что такое богатство" совершенно не имеет смысла в области экономики. Ну это Вы загнули :) Адам Смит был философом, родоночальнег современных экономических воззрений. Среднестатистический человек четта может ожидать ибо Адам Смит с товарищами для него систему понятий разработал.

Просто если без философов, то будет так как сейчас в рашке. Среднестатистический скажет что ему надо бабла побольше. Ну бабла допустим напечатают, а что они на него купят? Реальное богатство-то от этого не вырастет. Вот и получается ситуация, что вроде четта все делают, но в целом страна на уровень Африки сливается, может и даже ниже в чем-то. Анекдот на тему: Два русских на необитаемом острове. Один типа ловит рыбу, второй собирает бананы. Банан стоит сто рублей, ну и рыбина тоже сто рублей. Тут прибило сундучок с сокровищами. И теперь рыбина стоит миллион и банан стоит миллион.