Mobile Development by AppTractor

Иллюзия мышления - исследование Apple "рассуждающих" языковых моделей

В выходные вышла разгромная исследовательская работа под названием «Иллюзия мышления: понимание сильных сторон и ограничений моделей рассуждения через призму сложности проблемы», в которой команда Apple по машинному обучению утверждает, что модели, разработанные для имитации человеческого рассуждения, не представляют собой значительного прогресса по сравнению с традиционными большими языковыми моделями (а они и так сильно ограничены).

Если вкратце, то на задачах высокой сложности модели терпят крах. Когда задачи требуют нескольких уровней логики, как модели рассуждений, так и стандартные LLM дают сбой. Даже при наличии достаточного количества токенов и времени модели рассуждений начинают регрессировать, давая худшие результаты при решении более сложных задач. Один из самых поразительных выводов - по мере увеличения сложности модели рассуждений часто рассуждают меньше, а не больше. Их производительность резко падает, демонстрируя неспособность масштабировать глубину логики или поддерживать связные цепочки рассуждений при решении сложных задач. При этом даже если такой модели дать точный алгоритм, то она не будем ему следовать и не сможет выполнить задачу.

Кроме того, компания обнаружила, что внесение небольших, несущественных изменений в подсказку, например добавление лишнего предложения, может снизить производительность на 65%. Это говорит о том, что модели рассуждения в меньшей степени полагаются на фактическую логику, а в большей степени на распознавание паттернов, которые легко сбиваются шумом.

Не было найдено никаких значимых доказательств того, что эти модели используют фактическое дедуктивное или символическое мышление. Вместо этого они действуют скорее как вероятностные магнитофоны, предсказывая следующий символ на основе шаблонов, которые они видели во время обучения, а не выводя ответы на основе первоначальных принципов.

Фактически, это доказательство несостоятельности нынешнего ажиотажа вокруг «цепочки мыслей». Эти результаты могут казаться продуманными, но на самом деле модели не занимаются ничем похожим на логическое решение проблем. Компании, занимающиеся искусственным интеллектом, стремятся создать «мыслящие» модели, но работа Apple показывает, что многие из этих усилий по-прежнему являются скорее иллюзией, чем интеллектом. В настоящее время рассуждения являются неустойчивыми, неэффективными и не являются панацеей.

Другими словами, мы не учим машины думать — мы просто делаем их более точными в своих предположениях. И, как напоминает нам исследование, больше предположений не всегда означает больше интеллекта. Эти выводы ставят под сомнение растущее убеждение, что способности к рассуждению необходимы для создания более «интеллектуальных» моделей. Вместо этого Apple утверждает, что эти так называемые «рассуждающие» LLM могут давать лишь ограниченные преимущества, а в некоторых случаях могут работать хуже, чем более простые модели.

С другой стороны, любой, кто думает, что LLM — это прямой путь к AGI, которая может коренным образом изменить общество к лучшему, обманывает себя. Это не означает, что область нейронных сетей мертва или что глубокое обучение мертво. LLM — это лишь одна из форм глубокого обучения, и, возможно, другие — особенно те, которые лучше работают с символами — в конечном итоге будут процветать. Время покажет. Но этот конкретный подход имеет ограничения, которые с каждым днем становятся все более очевидными.

👍14❤3🔥3🤡2

2.23K views06:23