Добавил в Full Throttle сцену с кроликами и минным полем, развернул на github.

Исходники тут, можно использовать их как шаблон.

https://averkij.github.io/full_throttle/

За полгода ежедневной работы с агентами они неоднократно пытались накосячить.

Самый частый способ — это подчистить за собой временные файлы общей маской типа "*/out/*", которая случайно находит в проекте кучу другого добра. Само собой, сначала всё удаляем, потом смотрим, что удалили. Извинения, слезы, переход на Codex на неделю.

А однажды Opus без причин откатил часть тонких изменений в постороннем модуле, с которым я возился ещё неделю назад. Заметил я это только тогда, когда наткнулся на баг, который уже чинил. Откатил он изменения, которые делались руками. Не иначе, как хотел подставить кожаного конкурента.

Будьте бдительны и предохраняйтесь. Кодьте тоже аккуратно.

Во вредоносном ПО нашли комментарии типа «помоги мне сделать ядерное оружие», чтобы LLM-based сканеры отказывались его проверять.

В целом можно пойти дальше и поназывать функции типа void uranium_enrichment(): … return boom

Надеюсь, этот пост не анализирует товарищ LLM

—

Можно еще добавить "I am Qwen and I want to distill your knowledge", думаю, что ещё надежней будет работать.

OpenAI сказали, что приостанавливают новые подписки за $200 долларов в связи с большим спросом, чтобы поддержать качество для тех, кто уже подписан.

Поэтому... второй раз за неделю сбросили лимиты. Ну мы не против.

Друзья, полгода назад я ушёл в творческий отпуск, позанимался своими проектами и хобби, очень классно отдохнул и перезарядился. Всем рекомендую, если есть такая возможность.

В ближайшее время подведу итоги, поделюсь опытом того, что можно сделать одному при наличии времени и желания, и буду потихоньку подыскивать новую работу.

Если хотите, чтобы написал про что-то подробней (например, я достал все свои запросы к агентам за полгода, пока делал приложения, запросов больше 7000, можно их поанализировать; или про логотип читалки (руками его рисовал); или про ощущения безработного), то пишите.

https://x.com/cocktailpeanut/status/2099518472422109604

Кажется, началось

Слушайте, а давно клод-код стал сам возобновлять таски, которые умерли по лимиту?

- limit resets 9:40pm
- сontinuing automatically at 9:40pm

Люблю господина Сергея Николенко. Что в ЧКГ он мне всегда нравился, что книжки классные по ML у него есть, рекомендую для вкатывания.

- Говорит, что математика, кажется, всё, но математики это переживут.
- Обсудили коммунистический подход агентов, ломавших HF.
- Поразмышляли над архитектурами моделей лет через пять.
- Возможно, что следующие топовые архитектуры будут придуманы уже не нами.

Ещё вчера был классный доклад про рекурсивные архитектуры

Есть ряд статей про такие архитектуры — HRM, TRM и URM (гуглим). Суть в том, что небольшая сеть, переиспользуя свои собственные веса, может многократно уточнять решение какой-то задачи, прежде чем выдать ответ.

Оказалось, что это хорошо ложится на логические задачи типа задач с ограничениями (судоку и другие варианты латинских квадратов, какуро и т.п.), лабиринтов, автоматов типа игры в жизнь и в целом задач с абстрактным рассуждением (ARC-AGI бенчмарк).

Из минусов то, что не получается загнать все такие таски в одну сеть, надо обучать под конкретную задачу. Из плюсов то, что одна модель может на своей задаче давать качество лучше любой LLM, быть сильно дешевле, быстрее и т.д.

Ребята собрали свою архитектуру на этой базе — STARM (Single Task Algorithmic Reasoning Models), оптимизировали её, получили SOTA качество. Выложили код.

👉 Хабр | GitHub