15 февраля 2025 · Комментарий

Без заголовка

Там разделяют меметические алгоритмы и генетические. Но да, Зеро подход явно оттуда — при этом у DeepSeek недаром одна из моделей называлась Zero. Но не взлетела. Сначала надо иметь достаточно сложную структуру, чтобы на ней эволюция завелась. Поэтому её учат "как обычно". Собственно, до гоминид с мозгами на Земле было не очень, культурной эволюции как-то не случалось. С LLM тоже так же — надо уровень гоминид, чтобы оно завелось. Поэтому выучиваем LLM на pretrain, и затем уже много проще с эволюцией.

К записи · К обсуждению