🧠 Крайне редко выходят работы о том, как ИИ мыслит.

Напомню, какие фундаментальные работы были до этого.
Это COCONUT от Meta, где доказан граф гипотез в суперпозиции смыслов у GPT как способ решения.
Другая работа — «Transformers represent belief state geometry in their residual stream» от сообщества PIBBSS, где показано, что GPT в мышлении работает как стейт-машина с перемещением между семантическими состояниями (belief state).

Вышла новая работа от ByteDance и группы китайских университетов — «The Molecular Structure of Thought: Mapping the Topology of Long Chain-of-Thought Reasoning», которая по факту подтверждает предыдущие исследования и вводит аналогию с биохимией как «мыслительная молекула» 🧬.

Китайцы также наблюдали граф размышлений GPT, но заметили важные элементы его самоорганизации наподобие сворачивания белка.
В начале граф имеет жёсткие корреляции как «ковалентные связи» в молекулах — это основные элементы, шаги рассуждений.
Однако для перехода графа в «мыслительный оптимум» влияют нежесткие корреляции — рефлексия и/или намеки в контексте, что даёт мягкие связи, похожие на водородные.

В результате граф по модели Mole-Syn как белок сворачивается в рабочую модель за счёт притяжения слабых корреляций.

Скорее, основной инсайт работы в том, что хотя CoT из SFT и RL дал модели знание, как строить шаги рассуждений, но «эврика-момент» модели зависит от тонких корреляций и необычных аналогий.
В чём-то это похоже и на психологию творчества человека.
С точки зрения промптинга это означает, что модели, как и человеку, «нужны разные впечатления» и разные точки зрения, чтобы по тонким, случайным и вроде слабым связям получилось решение.

https://arxiv.org/html/2601.06002v2

Я думаю, что работу ByteDance и китайских университетов о мышлении ИИ можно отнести к работам, которые стоит перечитывать, т.к. инсайтов из неё довольно много. 🚀

Технически китайцы довольно хитро «вскрыли мозг» GPT. Они прогоняли рассуждения разных моделей через Qwen-8B и брали вектора с токенов в конце шагов рассуждений, т.к. по каузальному чтению они собирают в себе смысл фраз. Потом классифицировали вектора по типам Normal Operation, Deep Reasoning, Self-Reflection, Soft-Exploration. Классификация делалась LLM по тексту, сила связи шагов оценивалась векторным образом. Qwen-8B использовался для проекции в одну плоскость смыслов разных LLM. Далее они построили граф вероятности переходов между такими состояниями размышлений. Важный практический момент, что граф — не академизм, а эффективно может применяться при дистилляции моделей путём требования к модели-ученику делать такой тип размышлений сейчас.

И тут целая куча бомбических инсайтов.

1. Знания — ничто, траектория рассуждений — всё.
Обычно тот же программист думает, что самое главное — это как написать какую-то функцию и делать какие-то вызовы или ещё что-то «знать». Однако работа китайцев показывает, что base и SFT-обучение уже дали все такие знания модели, и сами знания уже не являются серьёзной ценностью, а сложность — научиться навигации в этих знаниях. И это удивительно: эта навигация мало связана с самими знаниями. Это говорит об быстрой эрозии ценности текущих знаний и большой ценности управления рассуждениями LLM.

2. Существует Универсальный Граф мышления LLM.
Китайцы в своей работе показали, что на деле для LLM не существует отдельных графов рассуждений по разным вопросам, а есть «суперграф» всех размышлений как последовательность логических операций. Граф может работать в каких угодно областях знаний, т.к. абстракция модели выше знаний — типы логических операций со знаниями.
Если у нас любят говорить фразу, что «математика учит детей думать», то неизвестно, как она научила думать детей, но LLM определённо научила — причём не математике, а именно ДУМАТЬ.

3. Существует Вселенский Граф универсального мышления всех LLM в мире.
Удивительное наблюдение исследователей в том, что после проекции графов мышлений разных моделей в одну проекцию смыслов через Qwen-8B оказалось, что все такие графы совпадают на ~90%. Это примерно как если бы разные конструкторы в США и СССР независимо открыли, как правильно делается аэродинамика крыла. Примерно так же произошло с мышлением ИИ: все LLM открыли некий Вселенский Граф правильного мышления, и он почти одинаковый.

Этой темой можно управлять из промптов, конечно. Не переключайтесь, мы ещё вернёмся к этой интересной работе, т.к. из построенной китайцами теории есть много интересных практических приёмов.

https://arxiv.org/abs/2601.06002v2

Китайцы в своей работе "The Molecular Structure of Thought: Mapping the Topology of Long Chain-of-Thought Reasoning" сделали сравнение графа этапности размышлений человека и DeepSeek R1. Оказалось, что на деле они удивительно похожие. Иными словами, "вселенский граф мышления", во многом полученный LLM, — это модель не очень понятного даже людям сейчас процесса, как они мыслят.

На вопрос еще в чате, почему я говорю о последовательностях, а тут граф: просто последовательность — это траектория в графе. Попадая в очередной belief state типа "Исследовать" или "Рефлексировать", модель имеет развилку вероятностей переходов в другие состояния.

Интересное тут наблюдение, что не существует "абсолютно правильной последовательности мышления". Таких последовательностей при путешествии по графу будет много. Однако для когерентности мышления ИИ крайне важно не наобум чередовать его действия, а сигнатурами смены этапности размышлений. Тут как раз еще один аргумент против неаккуратного микроменеджмента размышлений ИИ от оператора. Как это работает, LLM знает, но человек — нет, поэтому вы скорее сломаете мышление ИИ своим вторжением в его процесс, если будете "под ногами мешаться".

Второе тут наблюдение, что "существует темное знание графа", т.е. довольно стабильные ветки рассуждений, но куда LLM просто реже заглядывает, т.к. чаще скатывается в локальный минимум Капитана Очевидность. Однако если вас не устраивает результат и вам нужно повысить креативность ИИ, то просто сказав LLM сделать пару лишних циклов Исследования или Рефлексии, вы сталкиваете ИИ именно в это "темное знание графа", где он может родить совсем новые идеи 🔍.

ИИ-агент провел полностью автономную атаку на Hugging Face

Они написали официальный disclosure и рассказали о том, что случилось.

На прошлой неделе обнаружилось вторжение в часть продакшн-инфраструктуры. Все началось с одного вредоносного датасета. Внутри была связка из двух уязвимостей в пайплайне обработки данных HF: ручка в загрузчике датасетов, позволявшая удаленное выполнение кода + инъекция через конфигурацию датасета. Короче, как только этот датасет отработал на воркере, атакующий агент получил возможность выполнять код на машине.

Дальше события пошли по нарастающей. Агент начал собирать облачные доступы, а затем стал распространяться дальше по внутренним кластерам. При этом атака проводилась по очень нетипичной для человека схеме, «роями» краткоживущих песочниц, которые отрабатывали свою часть задачи и исчезали, уступая место следующим.

Все это происходило в течение одних выходных, и к моменту, когда HF полностью восстановили картину, счет действий атакующего агента перевалил за 17 тысяч (!). Все это – без участия человека.

Сейчас HF все устранили и утверждают, что не нашли следов вмешательства в публичные модели, датасеты или Spaces.

Интересно другое. Когда команда пыталась разобрать эти 17к действий с помощью коммерческих фронтир моделей через обычные API (чтобы понять хронологию, отделить реальный ущерб от отвлекающих маневров и тд), они просто-напросто уперлись в guardrails.

Модели отказывались работать, потому что система безопасности не могла отличить аналитика от самого хакера. В итоге пришлось разворачивать анализ на GLM-5.2.

Ирония? Не то слово. При этом неизвестно, что за модель стояла за атакой.

https://huggingface.co/blog/security-incident-july-2026

we had a significant security incident during evaluation of our models. now your atoms will be used for something else