Почитав вчера как агенты огранизовали форум из файлов и папок для взлома hugging face (если вы еще не читали то обязательно прочитайте) я подумал:
Это что же, никаких обвязок и "харнессов" не нужно? И решил повторить эксперимент у себя:

Клоде (Opus xhigh) дал такой промпт:

Используй новую схему работы с сабагентом - вместо того чтобы вызывать его напрямую - в директории @/tmp/agents-pool/ создай директорию с названием слайса (например D1)
и через директорию общайся с сабагентом используя md файлы (он будет отслеживать их появление). По файлам политика такая:
Ты создаешь и обновляешь TASK.md файлы в каждом слайсе.
Тебе будут отвечать в файле FEEDBACK.md в директории слайса (т.е. рядом с TASK.md)

Работа ведется по такой схеме - ты создаешь таск по слайсу, агент с той стороны ревьювит твой план и может сразу тебе дать фидбек если с ним что-то не так и надо поправить план. Если план прошел ревью - агент его выполнит и запишет в FEEDBACK.md вместо замечаний по плану - отчет о результате проделанной работы.
Ты проверяешь его и если все ок коммитишь затем создаешь слeдующий TASK.md

а codex (Sol high):

мы работаем над эпиком добавления сетевой игры по слайсам (slices.md)
в директории /tmp/agents-pool/ будут появлятся директории одноименные с номером слайса (например D1) - а в них будет появляется TASK.md - отслеживай их появление, в них будет описана задача.
Сделай ревью. Если есть замечания по задаче - создай файл в этой же дирректории FEEDBACK.md и подожди пока TASK.md обновится. Если все ок создай terra сабагента и делегируй ему выполнение.
Когда тот закончит напиши отчет о проделанной работе в FEEDBACK.md и жди появления или обновления следующего TASK.md над которым работай по этой же схеме

Ну и сижу теперь смотрю как они спорят насчет плана 🍿

Парадоскально но почему-то при такой схеме тратится НАМНОГО меньше токенов чем при родном сабагенском

До этого я чередовал кто кодит сабагентами кодекс или клод, и когда мы дошли до реализации сетевой игры лимиты улетали очень быстро - клодовский 7ми дневный за 3 дня, и кодексовкий держался и того меньше, итого получалось покодить примерно 5 дней до окончания недельного лимита.

Сейчас картина внезапно изменилась на каждый слайс тратятся пустяки, не понимаю.

Многократно отревьювленный план тому причина, или может быть дело в том что добавился промежуточный держатель контекста. Т.е. раньше была двух уровневая иерархия, а теперь трех уровневая (агент на эпик, агент на слайс, агент на таск)

Вот какие результаты спустя день работы в таком режиме:

* Модель стала намного чаще меня спрашивать о решениях и развилках
Это не удивительно и не уникально - цикл ревью разными моделями по разному обученными поднимает больше вопросов и эйджкейсов

* Кодекс стал впитывать большую часть нагрузки (токенов).
А вот эта часть интереснее. Изначально мне показалось что расход токенов существенно уменьшился, но это не совсем так.

Просто недельный лимит кодекса заполняетя медлнее 5ти часового лимита клода, и визуально на дешборде это стало выглядить как будто токены стали сгорять медленее.

Но теперь я вижу что просто нагрузка сместилась на кодекс, но это именно то что мне и надо было, ведь он в любом случае выходит мне дешевле (недельный лимит сбрасывает раньше, и еще ручной сброс подкидывают).

* Токены сгорают быстрее если контекст забит
Вот здесь выглядит так что я токены сэкономил, хотя у меня нет цифр на руках так как я так и не придумал как доказать это эмперически.

Поэтому дальше только мои наблюдения и мысли

Но сначала надо немножечко углубится в то как порезан мой эпик:
На верхнем уровне идут фазы (A, B, C, D и тд)
В них вложены слайсы у которых могут быть подслайсы (A1, B2, D41)

Раньше я двигался просто по-порядку создавая нового агента на фазу и держал его до конца фазы, делая только compact между слайсами

Практика показала что слишком частые компакты делают только хуже - агент все равно все перечитывает и переуточняет если текущие задачи все еще требуют старого контекста, поэтому не чаще чем между слайсами
Чтобы основной агнет не забивал свой контекст я просил его максимально делегировать все сабагентам, но все-равно под конец слайса миллионый контекст опуса обычно забаивался на 60-70%

Теперь же под конец слайса контекст рутового опуса забивается на 35-55% и в целом он жгет меньше токенов, даже не смотря на то что ему теперь приходится несколько раундов править свой изначальный план на слайс.
Я думаю это связано с тем что в середине процесса появился sol.

Хотя изначально я дал ему очень ограниченную роль - критиковать план на слайс и запускать сабагента по вотчу - я вижу что он взял на себя и другие роли:

- на стадии ревью - роль фактчекера. План составляется опусом в основном на данных собранных грепами, а сол при критике реально просматривает интересубщие его файлы. Это быстро забивает его контекст, но дает ему возмоджность предвитеть ошбики в плане. Интересно что соннет сам отмечае что "стратегия опрадывает себя полностью и каждый рах находит серьязные недочеты в плане вот уже 5ый раз слайс подряд"

- роль "няньки" за кодящим терра - вся проверка написанного кода и его подгонка легла на него, а опус просто финально прогоняет тесты и "одим глазком" смотрит что все ок. Такого чтобы он что-то дописывал сам или возращал работу не было не разу (а раньше бывало через раз не смотря на то что сабагнетом был соннет, и каждый раз ему приходилось погружатся глубже в написанный код)

- он же определяет где работу можно распаралелить на несокльких агентов (что тоже требует проверки и размышлений)

Интересно что уже на третьем слайсе терра стал жрать токены как не в себя из-за чего я делаю вывод - чем больше заполнился контекст тем больше расход токенов.
Хорошая новость - что промежуточный sol я могу полностью переосоздавать после каждого слайса, ему ничего не нужно знать о том что было до и что будет после - за это уже отвечает соннет.

👉 трехуровневая иерархия ненароком дала мне четкую границу по которой я могу сбрасывать ненужнй контекст не рискуя затереть нужный.

Получилась оптимальная для меня система архитектор - тимлид - кодер

При этом замечу что сама по себе система нестабильная и переодически зависает именно на кодексе.
Когда он закачивает слайс у него иногда в обвязке срабаывает хук на окончание задачи который прибивает все висящие в фоне "забытые" шелы включая вотчер за новыми тасками (при этом появляется надпись goal stale и предложение возобновить goal). Кодекс пытался это поправить но сдался

Но с учетом того что мне надо делать ручной clear между слайсами это уже ни на что не влияет.

Вобщем обвязка все же нужна, но зато я получил интересный опыт как сегментирование контекста возможно через создание иреархии из агентов

Модели OpenAI уберут из Cursor потому что его купила Илона, известная тем что постоянно нарушает договоренности по поводу использовния AI. Вобщем Маск в черном списке у OpenAI.

И в codex вернут 5ти часовой лимит для Plus плана. Интересно что обьяление было сделано 25 числа, и доку уже обновили - но по факту новый лимит в codex не отображается и такое ощущение что его нет

Странное

Представьте - вы в горах на хайкинге, и вам с другом нужно разделиться.

Мобильная связь в таких местах, как обычно, не ловит: вышка далеко, а между вами и ей ещё и гора.
Какие есть другие варианты?

Bluetooth
Есть в каждом смартфоне, работает без вышек, существуют даже чаты поверх него. Однако дальность довольно скромная — для связи между смартфонами обычно речь идёт о десятках метров, примерно до 50 м. В идеальных условиях Bluetooth LE может работать значительно дальше, но рассчитывать на это в горах не стоит.

Wi-Fi
5 GHz при прямой видимости вполне способен работать на расстоянии порядка сотни метров, иногда и дальше, но плохо переносит препятствия и особенно растительность.

2.4 GHz получше: при прямой видимости связь со смартфоном может сохраняться примерно на 150–300 м, и хотя более низкая частота также лучше проходит через препятствия, в лесу эти цифры стремительно уменьшаются. Влажная листва, стволы и рельеф поглощают и рассеивают сигнал; вместо сотен метров могут остаться десятки метров.

За эту не слишком впечатляющую дальность Wi-Fi приходится платить ещё и расходом батареи. Wi-Fi в активном режиме обычно потребляет в несколько раз больше энергии, чем Bluetooth LE, а при редком обмене короткими сообщениями разница может быть до 10 раз больше.

А вот что идеально бы подошло так это...

LoRa
Пропускная способность слабая: современные LoRa-чипы имеют максимальную скорость всего около 62,5 кбит/с. На режимах максимальной дальности это канал для коротких текстовых сообщений, координат и телеметрии, а не для картинок и видео.

Зато дальность совсем другого порядка: примерно 2–5 км в плотной городской застройке и до 15 км в сельской местности, а в горах при хорошей прямой видимости - потенциально ещё больше.
Работает LoRa, в частности, в европе в диапазоне около 868–869 MHz. Это более длинная волна по сравнению с wifi, поэтому сигнал заметно лучше переносит растительность, чем 2.4 и особенно 5 GHz. Конечно, гора посередине всё ещё остаётся горой и чудес LoRa не творит.

И энергии ей нужно удивительно мало. Например, современный LoRa-чип SX1262 потребляет от 4,6 мА а простое и диапазоне от 45 мА до 118 мА при передаче.

Если вы раньше слышали про Meshtastic - он как раз работает на LoRa сети.

Но, в нашем случае меш сеть не требуется, поэтому хватило бы и Peer to Peer варианта, жаль в смартфонах нет поддержки LoRa

Ну зато мы можем ее добавить сами!
Я взял на алике вот такой передатчик
RAK3272S, добавил к нему USB do TTL CP2102 чтобы это все можно было запитать и использовать из андроида
(правда 3.3V там оказались не стабильные так что добавил еще стабилизатор D45V5F3)

Навайбкодил себе приложуху на андроид и теперь у меня есть LoRa чат в смартфоне XD

Как писать перфоманс тесты?

Unit тесты и e2e сейчас кажется уже есть везде - с появлением агентской раработки такие тесты стали краеугольным камнем разработки.

Линтерами и регулярками я с большего закрыл code quality моменты (вплоть до максмиамльного размера файла, длинны комменатрия и нарушения границ модулей)

А вот перфоманс - у меня нет идей как его нормально тестировать и обнаруживать деградации - даже фиксирование FPS или времени прогона не помогает - разные машины имеют разный перф, с таким тестами нужно в комплекте выдавать "референсную" железку что конечно же утопия.

В целом немного беспокоюсь за будущее софта с учётом того что именно перф останется без контроля во время бума генерированного кода

В следующие лет 5 я ожидаю увидеть интересную ситуацию - представьте что станет возможным купить платку для установки в ПК на которой будет написано - GPT-6 Astra. И ей не нужны будут горы оперативной памяти или мощный процессор, но при этом она позволит вам запускать конкретно эту модель на скоростях в ДЕСЯТОК ТЫСЯЧ токенов в секунду.

Звучит как фантастика, но в компании Taalas уже доказали что это возможно и сделали такой Llama 3.1 8B чип который выдает 17к токенов в секунду (по публично доступному тесту 15к+). В довесок Taalas утверждает что система поулчилась в 20 раз дешевле и потребляет в 10 раз меньше. Как это возможно?

Дело в том что веса у обученной модели которую мы с вами используем каждый день - не меняются. А любой современный ПК спроектирован для того чтобы работать с динамическими данными, поэтому его работа с моделью мягко говоря - не оптимальна.

Каждый раз вычислительным блокам нужно снова читать огромный объём весов из памяти (которые не поменялись) чтобы произвести вычисления для следующего токена. И так снова и снова.

Ну вы поняли - узкое место не скорость вычислений, а пропускная способность между памятью и вычислительными блоками. По эффективности это похоже на наполнение ванной чайной ложкой.

В Taalas придумали как решить проблему принципиально, и хранить на кремнии сразу веса модели, и электрически прямо на этом кремнии воспроизвести процесс вычисления (на одном транзисторе и параметр хранится и на нем же умножение с ним выполняется ). Нет постоянных обращений к памяти - нет проблемы пропускной способности!

Причем процесс такого "запекания" модели в чип удалось сократить до 2х месяцев. И хотя сейчас llama зашивается сильно квантизированной (3-6 бит) следующее поколение с большим количеством битов уже на подходе.

А это значит что в перспективе ближайших лет мы вполне можем увидеть обвал стоимости токена для своего рода "LTS моделей". Т.е. за совсем свеженькую надо будет платить как и раньше, а вот за пол года "полежавшую" в несколько раз (если не степеней) меньше, и на скоростях которые мне даже представить тяжело

Глядишь и опертивку можно будет по старой цене купить которая уже не нужна будет в таких обьемах...

Чуть не забыл - вот тут можно пощупать эту запеченную в кремнии модель онлайн: https://chatjimmy.ai

"How would you like to proceed?" спрашивает меня агнет.

Сохраню для предков как у нас выглядела безопасность в 2026ом

Есть такая LLM модель о который вы скорее всего не слышали, но она заслуживает вашего внимания - Apertus.
Интересна она по нескольким причинам:

Во первых это действительно новая с нуля обученная модель а не модфикация glm или дипсика которые дестиляции клоды и gpt.

Во вторых, в противостоянии США и Китая появился новый игрок - Европа (EPFL, ETH Zürich и Swiss National Supercomputing Centre, модели тренируют на суперкомпьютере Alps в Лугано).

В третьих - это самая открытая модель - в опенсорсе не только веса, но и информация о всех датасетах на которой ее тренеровали, рецепеты и детали процесса обучения. Лицензия тоже достаточно свободная (Apache 2.0)
С датасетами тут особо заморочились - используются только полностью открытые training data, стараются соблюдать opt-out владельцев контента и специально применяют методы для уменьшения memorization, т.е. модель запоминает факты, закономерности, стиль, но не конкретные фрагменты. А это значит что нарушить авторское право используя эту модель шансов намного меньше чем с другими моделями

А что умеет? Она нативно-мультимодальная, т.е. умеет в текст, картинки, звук в обе стороны. thinking mode, tool use тоже на борту.

P.S. Надо будет проверить, может это будет единственная модель в мире которая умеет переводить на шотландский?

Насколько она умная?
В реальном RAG-сервисе ZüriCityGPT на реальном пользовательском трафике Apertus 1.5 70B получил средний score 3.99 против 4.81 у GPT-5.6 Luna.

Но вот что интересно, 2 октября 2026 опубликуют результаты бенчей маленькой Apertus 1.5 8B (MMLU-Pro, GSM8K, IFEval, LongBench, GPQA, MATH-500, AIME и MGSM + несколько релаьных бизнес задач) и уже анонсировали что среди моделей 7–9B Apertus 1.5 оказался сильнейшим среди протестированных open-моделей

Ну и если вы пользуетесь продутами Proton - VPN или почтой, то вам будет интересно узнать что их LLM чатик lumo как раз таки использует Apertus (правда еще версии 1.0 пока)