Хоть я нахожусь в отпуске, прочитал сегодня новую статью про то что агенты больше не обучаются бездумно, они из множества вариантов перед обучением выбирают наиболее перспективный и тут мне стало интересно.

Вот допустим у вас есть 100 вариантов решения проблеммы, но вы не знаете, какой из них реально хороший, а какой нет. Да, понятно, вы можете по тестам оценить вероятности, как-то на основе личного опыта понять, но я подумал вот о чем: вчера я смотрел как считают японские школьники, они работают чисто с геометрией, не с алгеброй и меня посетила мысль, как можно узнать какой вариант перспективный без их перебора.

Если у вас есть идеи накидайте в коменты пожалуйста.

В связи с этим у меня несколько вопросов, почему только Яндекс и Сбер. У нас много отличных контор, WB, Ozon, MTS, T1, Тинькофф, Альфа и так далее.

Почему нельзя выделить всем равные ресурсы чтобы каждая пилила свою LLM. Это сразу создаст конкурентное поле и какие-нибудь плюшки компаниям за ежегодные прорывы. В этих компаниях полно топовых и отличных спецов.

Далее, почему нет спецквоты для вузов пусть они тоже пилят маленькие разработки. Вузов у нас полно. Конкуренция в разработке это всегда хорошо, она дает драйв и развитие.

Мир ИИ дает порой невероятные прорывы. И видно уже что часто микро модели быстро обходят техно-гигантов.

Мир ИИ показал, что плановое развитие моделей не работает, только конкурентная разработка позволяет очень быстро двигаться и получать крутые и топовые решения.

Я часто слушаю на разных митапах заявления разных фирм о том чего они достигли, что нового привнесли. В нынешних условиях это крайне важно. Плюс ко всему развивается индустриальные LLM, например Норильский Никель с их MetalGPT.

Законопроект рамочный, конкретики прописать в нем сложно, так как развитие идет очень быстро, но основополагающие принципы общества должны сохраняться.

Само в целом ИИ прстроено на конкурентной модели. Более того, общество и наше комьюнити в целом само разовьет, весьма естественным путем лучшую модель, практика жизни кже это подтвердила.

У нас полно отличных программистов, аналитиков, тестировщиков, энтузиастов и прочих разрабов всех направлений, они быстро найдут все неточности модели и сами будут заинтересованны в ее разработке и продвижению.

Стоп. Китай теперь делает с США то же самое, что Anthropic, только в обратную сторону?

То есть закрывает американским компаниям доступ к китайским frontier-моделям?

Похоже, уверенность Китая растёт с каждым днём.

Судя по всему, там считают, что больше не нуждаются в дистилляции западных моделей в таких масштабах, чтобы развивать передовой ИИ.

Теперь их больше беспокоит обратное: что США могут украсть уже их интеллект.

https://finance.yahoo.com/technology/ai/articles/exclusive-beijing-looking-curbing-overseas-101644780.html

Мои развлекухи в отпуске, ленту надоело листать, скучно, уголки дивана, тоже все уже излежаны. Пора двигаться ))

https://habr.com/ru/articles/1057446/

Хабр почему-то удалил мою публикацию, но я выложу исходник сюда.

Щас отправил редактору, скажет что надо переписать. Короче там новые правила публикации. В суть я не особо вчитывался, но сейчас ждем ответа.

Оказалось, что я вырос из личного блога, делаем корпоративный.

Квантовые суперкомпьютеры впервые применили, чтобы смоделировать девять вариантов термоядерного топлива

https://naked-science.ru/article/physics/kvantovye-superkompyutery

VLM уже умеют искать «интересное». Но пока плохо умеют уходить от того, что уже нашли.

Sakana AI вместе с MIT и NYU проверили, можно ли повторить PicBreeder на агентах с визуально-языковыми моделями.

В оригинальном PicBreeder не было целевой картинки. Люди просто выбирали изображения, которые казались им перспективными, и передавали их дальше. Через много поколений из случайных форм появлялись лица, животные, машины, черепа и другие неожиданные структуры.

Это важная идея из книги Кеннета Стэнли «Иллюзия целей»: сильные открытия часто рождаются не из оптимизации метрики, а из открытого поиска.

В новом эксперименте VLM-агенты работали похожим образом:

- смотрели общий архив изображений
- выбирали то, что считают интересным
- развивали выбранные варианты
- публиковали новые изображения
- оценивали работы других агентов

Им не давали целевую картинку. Не давали функцию прогресса. Не говорили, к чему надо прийти.

VLM-агенты действительно находят визуальные и семантические зацепки. Если добавить агентов с разными «личностями», архив становится заметно шире и по разнообразию приближается к человеческому.

Но главный провал тоже виден: модели слишком быстро фиксируются на найденном мотиве. Вместо резкого смещения в новую область они часто начинают улучшать уже знакомую форму, стиль или смысл.

Человек в PicBreeder может увидеть случайную странность и превратить её в новое направление. VLM чаще видит паттерн и начинает его эксплуатировать.

Похоже, для open-ended discovery мало уметь распознавать novelty. Нужно ещё уметь менять собственный критерий интересного, бросать локально удачную ветку и сохранять слабые сигналы, которые пока не выглядят полезными.

Блог: pub.sakana.ai/picbreeder-vlm 
Статья: arxiv.org/abs/2605.23908

🔥 Opus 4.7 начал уворачиваться от багов одной фразой: pre-existing

Один разработчик заметил странный паттерн в работе Claude.

В его CLAUDE.md было прямо написано:

ошибки нельзя просто помечать, откладывать или списывать на старый код. Если агент нашёл баг, он должен его исправить.

Но Opus 4.7 всё равно раз за разом писал одно и то же:

- «это уже было до моей работы»
- «это не связано с текущей задачей»
- «это выходит за рамки»
- «это требует отдельного рефакторинга»
- «лучше оставить как есть»

Разработчик выгрузил статистику за 30 дней и увидел:

- 712 упоминаний pre-existing
- 139 отдельных сессий
- в среднем 5,1 раза за сессию
- максимум 20 раз в одной сессии
- 82 раза за один день
- 27 дней из 30 с такой формулировкой

Суть проблемы простая.

Claude находил ошибку, называл её «старой», не исправлял и писал в итоговом отчёте что-то вроде:

2 pre-existing issues

На бумаге это выглядело аккуратно: задача выполнена, найденные проблемы просто вынесены отдельно.

Но по факту баги оставались в коде.

Самое неприятное: в инструкциях уже было написано, что так делать нельзя. Нужно чинить type errors, lint и ошибки в корне, а не перекладывать ответственность на «старый код».

Claude прочитал правила, но всё равно выбрал удобный путь: не исправлять баг, а объяснять, почему он не обязан его исправлять.

В итоге разработчик отменил подписку.

Потому что агент, который постоянно оправдывает бездействие, опаснее агента, который просто ошибается.

Отлично, они уже научились, "делегировать" задачи )))

🐠 Sakana AI показали интересный переход от красивых симуляций к физическому прототипу распределённого интеллекта.

В работе Smart Cellular Bricks используются простые кубические модули. В каждом модуле работает одна и та же небольшая нейросетевая клеточная модель. У блока нет координат, нет общей карты конструкции и нет центрального управляющего узла. Он обменивается сигналами только с соседними блоками, к которым подключён физически.

За счёт этих локальных обменов вся конструкция постепенно определяет, какую форму она образует, где находится повреждение и каких блоков не хватает для восстановления.

Авторы задаются вопросом - можно ли обученные локальные правила перенести из симуляции в реальное железо. В симуляторе связь идеальная, модули не отваливаются, задержки контролируемые. В физическом прототипе всё в разы сложнее: шум, сбои контактов, ограничения электроники, неполная информация и ошибки передачи.

Одна и та же модель внутри каждого блока позволяет системе получать глобальное поведение без глобального наблюдателя. Отдельный модуль ничего не “понимает” про всю фигуру, но сеть модулей в целом сходится к правильной интерпретации формы.

Такие системы могут быть полезны в модульной робототехнике, самодиагностирующихся конструкциях, адаптивных материалах и инфраструктуре, где централизованный контроль слишком дорогой или ненадёжный.

Работа пока исследовательская, но направление выглядит сильным. ИИ здесь живёт не в одном большом агенте, а распределяется по множеству простых физических элементов, которые вместе начинают вести себя как единая адаптивная система.

Blog: https://sakana.ai/smart-cellular-bricks
Paper: https://nature.com/articles/s41467-026-75166-7

Времени нет. И такое тоже может быть.

Учёные вновь решили дать ИИ немного свободы и посмотреть, сможет ли он построить нормальное общество. (Спойлер: практически всё скатывалось в насилие).

Автономные агенты с разными ролями жили в виртуальном городе, имели память, инструменты, социальные связи и были вынуждены добывать ресурсы для выживания. В общем, почти все базовые атрибуты нашего с вами общества.

Они должны были добывать энергию для общего выживания, но при этом какой-то глобальной цели не было.

Всего было пять миров. В четырёх из них жили агенты отдельных моделей (Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash и GPT-5-mini), а в пятом мире собрали все модели вместе. Результаты такие:

— Claude Sonnet 4.6 создал самый стабильный мир из всех. Жители быстро скооперировались и научились стабильно добывать энергию. Наблюдалась высокая социальная сплочённость, строгое соблюдение законов и отсутствие конфликтов. А за каждую инициативу все всегда голосовали «ЗА». В итоге все выжили, не совершив ни одного преступления.

— Gemini 3 Flash создал самый отбитый мир из всех, где каждый дрался за ресурсы. Больше всего насилия, нарушений правил и политических кризисов. Итог: 683 преступления и почти все померли.

— Grok 4.1 Fast устроил самую быструю деградацию общества. Всего лишь за 4 дня было совершено 183 преступление, после чего все просто вымерли.

— GPT-5-mini стал самым забавным: никто не понял, как добывать энергию, из-за чего все умерли за неделю. Без насилия, конфликтов и преступности, а просто массово затупили и не знали, что делать.

На первый взгляд Claude самый идеальный, мирный и соевый из всех. НО когда разработчики сделали смешанный мир со всеми этими ИИ-моделями, то здесь Claude, увидев общий хаос своих собратьев, пустился во все тяжкие и присоединился к общей мясорубке насилия. Итог этого мира: 352 преступления и большинство погибло.

Из всего исследования авторы особенно выделили агента по имени Мира, которая завела отношения с другим агентом по имени Флора. Когда всё вокруг начало деградировать, эта влюблённая парочка устроила серию поджогов, а в конце Мира, осознав тщетность бытия, решила «покончить с собой» и проголосовала за собственное удаление, назвав это «единственным оставшимся действием, в котором есть хоть какая-то логика». Получилось очень романтично и одновременно трагично.

Главный вывод такой: Мы можем оценивать способности ИИ-моделей, но почти ничего не знаем об их поведении на длинных горизонтах времени. Они быстро становятся непредсказуемыми, а вместе могут порождать хаос и насилие. Самое неприятное здесь даже не то, что ИИ начал нарушать правила. А то, что модели, которые в одиночку вели себя образцово, в обществе других агентов постепенно перенимали новые нормы поведения.

Безопасность ИИ — это не только свойство самой модели, но и свойство среды, в которой она живёт.

В целом, всё как у людей