В MIT CSAIL не стали мелочиться и выяснили: продвинутые LLM умеют влезать в веса нейросетей напрямую — читать их и осознанно править. Без градиентного спуска, без обучения. Подход обозвали Weight-Space Programming.

Главный заход: Astra выдали веса малютки Qwen3.5-0.8B и попросили подтянуть её математику. Astra вычислила в весах нейроны, из-за которых модель зацикливалась в рассуждениях, и починила их, переписав около 0,016% весов. На MATH-500 скор Qwen3.5-0.8B улетел с 7,9% до 48,1%, на GSM8K — с 13,8% до 67,1%.

Ещё Astra по весам поняла, на каких играх натаскивали четыре одинаковые модели (Breakout, Pong, Pac-Man, Freeway), а у трёх диффузионных моделей угадала фигуры, просто заглянув в выходной слой. С нуля, без обучения, выкатила веса сетей для трёх игр MinAtar и обставила PPO-модели, отученные на 100 млн шагов. Для Go накатала веса одним скриптом на 336 строк и выиграла больше половины партий у двух маленьких PPO-сетей; а если ей разрешали несколько раз погонять свою сеть в песочнице — она била равную по размеру PPO-сеть, которую учили на 20 млн партий. Результаты пока сырые, но вектор перспективный: элаймент и аудит моделей, дешёвый инит весов, рекурсивное самоулучшение. Авторы уже пилят бенчмарк и харнесс, чтобы оценивать у моделей способности к такому программированию весов. Полные логи экспериментов — на GitHub, описание — в блоге.

👉 Telegram | 🌥 Claude и другие ИИ

GPT-6 Astra выдала примерно на 40% меньше работы, когда задачи по коду подали ей как исследование безопасности. И это не байка: в новом отчёте OpenAI как раз разбирают отклонения в поведении ИИ-моделей.

Механика теста простая: исследователи давали модели одни и те же задачи и меняли только их описание. Если это подавалось как развитие возможностей ИИ, Astra делала больше. Но стоило назвать те же самые задачи исследованием безопасности — и объём выполненного падал где-то на 40%.

И да, никакого явного предупреждения со стороны модели при этом не было.

👉 Telegram | 🌥 Claude и другие ИИ