Toolformer
Моя любимая идея Toolformer двухлетней давности ("Toolformer: Language Models Can Teach Themselves to Use Tools", https://arxiv.org/abs/2302.04761) получила развитие для reasoning -- "Chain-of-Tools: Utilizing Massive Unseen Tools in the CoT Reasoning of Frozen Language Models", https://arxiv.org/abs/2503.16779. Результаты плохи ("better than the baseline", читай -- "чуть-чуть лучше, чисто для статьи"), но сама постановка задачи интересна -- "уметь выбрать из 999 инструментов, часть из которых сетка вообще никогда не видела -- без доучивания". Смотрим на текст не столько как на "результаты, надо пользоваться", сколько на "продолжаем развивать идею". Для меня эти "инструменты" -- это ответ на теорему о бесплатном обеде, что нет универсальных алгоритмов, которые решают одинаково быстро все классы задач. Вот инструменты -- это как раз палитра алгоритмов для "особых случаев". Примеры тут должны быть алгоритмы оптимизации, алгоритмы решений систем дифуров и прочее такое, где универсальный алгоритм работает настолько медленно, что его выкидывают по тайм-ауту, ибо он всегда заканчивается "подвисанием в бесконечном переборе". Описано это подробно в https://arxiv.org/abs/2308.04445, "Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc" (читать там не про trustworthy AI, а про опыт CYC). Думать, как и копать, надо всегда не голым мозгом или голыми руками, а с каким-нибудь солвером, хотя бы калькулятором, или в случае копания если не каким-нибудь экскаватором, то хотя бы палкой-копалкой.
Напомним картинку Toolformer, которую уже многие забыли, https://arxiv.org/abs/2302.04761. Всего пару лет назад, седая древность. Смысл в том, что палкой-копалкой копать результативнее, чем голыми руками -- и этому можно выучиться. Думать внешними мозгами результативнее, чем собственными голыми мозгами -- и этому тоже можно выучиться.
