Как уменьшить расход токенов?

Если вы уже состоите в нашем чатике, то вы могли заметить как я там крою Антропиков на чём свет стоит из-за мизерных лимитов которые я получаю в рамках своей 200$ подписки.

Начал я анализировать, куда же утекают мои токены, и понял, что огромная «статья расходов» – это вывод различных бэшовских команд, скриптов, в целом, tool calling output жрёт порядочно.

Сразу же полез на реддит искать что-то, что решит мою проблему и, о чудо, нашёл богом целованный тул – Rust Token Killer RTK.

В чём замес?

Помните как выглядит вывод команды

ls -la

?

total 928
drwxr-xr-x  41 patrick  staff   1312  2 feb 21:43 .
drwxr-xr-x  25 patrick  staff    800  2 feb 21:35 ..
-rw-r--r--   1 patrick  staff  16394  2 feb 21:35 cargo_cmd.rs
….

с RTK CLI proxy

rtk ls -la

вывод той же команды выглядит так:

cargo_cmd.rs  16.0K

Теперь прикиньте как часто агент пользуется этой командой для навигации по проекту и как часто grep возвращает мусорные данные прямиком к вам в контекст.. (про context rot и dilution effect писал 👉тут)


Лично для меня это имеет огромный смысл – в отличие от скилов, которые делают из вашей модели пещерного человека (caveman skill).

Там замес был такой –
до использование caveman skill:

Проблема, скорее всего, в том, что код предполагает наличие `user`, но в неавторизованном сценарии он может бытьстоите в наше Нужно добавить проверку и тест.

С caveman:

Причина: user может быть undefined.
Фикс:
- Проверить user
- Вернуть 401
- Добавить тест

Интуиция подсказывает, что качество ризонинга с таким скиллом может значительно просесть поэтому я себе его не ставил.

Хотя, это может быть полезно, но он режет исходящие от модели токены. То есть заставляет вашего агента меньше объяснять и ризонить.

RTK режет другое – входящий из терминала мусор. И эта оптимизации мне нравится больше.


RTK CLI это теперь такая же база как context7 в своё время (об этом я писал ещё 👉тут).

В благодарность, даже денег не буду у вас просить, огонёк + поделиться с друзьями-нёрдами и я буду счастлив.

#ai #dev_tool

М, ага, ага, на канал зайди ко мне:

Багодельня Соколовского 👾

Для чего нужны сэндбоксы?

Сэндбоксы – это изолированные облачные окружения, внутри которых можно запускать код, сгенерированный ИИ-агентом.

Сейчас есть два пути:
1. Дать вашему агенту доступ к MCP / написать кастомные тулы и описать логику оркестрации доступных тулов в SKILL или системном промпте.
2. Дать вашему агенту доступ к CLI и/или к REST API сервиса, с которым вы хотите интегрироваться, и попросить агента выполнить какое-то действие с помощью генерации кода.

Большинство компаний всё ещё пробуют оседлать первый вариант, даже не задумываясь об альтернативе. Он неплох в случае, когда у вас есть чёткие user stories, которые можно покрыть парой высокоуровневых тулов, — о том, как правильно писать свой MCP-сервер, я уже писал 👉тут. В случае, когда у вас есть посредственное представление о том, какие юз-кейсы придумает пользователь, – дать агенту полную свободу в том, как и в каком порядке вызывать тулы, может быть хорошим решением.

Проблема в том, где вы будете исполнять этот код – не на своей же инфраструктуре. Нужно настроить скейлинг, ограничить компьют и память, спрятать все файлы, к которым агент не должен иметь доступ, — security/devops-гемор.

Эту проблему элегантно решают продукты типа e2b, daytona, modal, runloop, vercel sandbox, cloudflare sandbox и другие.

Пример использования:

from e2b_code_interpreter import Sandbox

agent_code = "x = 21 * 2\nx"  # это вернул твой агент, тут может быть что угодно

with Sandbox.create() as sandbox:
    result = sandbox.run_code(agent_code)
    print(result.text)

Сэндбоксы эфемерны – никакие лишние артефакты и подозрительные файлы не останутся на вашей инфре. Запускаются за десятки миллисекунд.

Эта парадигма ещё не так популярна в кругах людей, пишущих кастомных агентов, но каждый из вас, кто пользуется CC/Codex работает с сэндбоксами, того не подозревая. Все команды кодинг-агентов по дефолту исполняются в сэндбоксах – чтобы не просить вас approval на каждую команду и не сломать вашу систему. Вот как сэндбоксы работают в Codex.

Ваш покорный слуга, кстати, по долгу службы написал интеграцию e2b для библиотеки langchain langchain-e2b, чтобы флексить своими Open Source contributions перед припудренными лицами прекрасных HR-дам.

AI Engineering-стэк уже сейчас достаточно широкий и комплексный, нужно постоянно держать руку на пульсе трендов, но рынок это вознаграждает. Рынок для ИИ-мастеров сейчас – это как cloud в 2015, когда было достаточно написать AWS в шапке профиля, и от входящих предложений от эйчаров приходилось отбиваться. Если не верите – напишите себе на LinkedIn пару ключей типа RAG/agent/OpenAI API, и будет вам счастье, хоть немного сотрёте пыль со своего богом забытого LinkedIn.

Солнце стреляет в мой эпидермис своими фотонами, и я чувствую, как моя кожа покрывается вкусной корочкой, словно курица гриль. Поставьте огоньков, чтобы мне было ещё жарче 🔥

#ai #dev_tool

Багодельня Соколовского 👾

Bye bye, terminal

Я терминальный червь в терминальной стадии. Ещё с универских годов меня выдрессировали пользоваться командной строкой: делать мелкие правки через Vim, не открывая VS Code, запускать и собирать проекты скриптами прямо из терминала.

Мне было искренне непонятно, зачем настраивать IDE, чтобы запускать проект зелёной кнопочкой, если в терминале всё прозрачнее и я понимаю каждый шаг на пути к запуску. Возможно, этого мне хватало, потому что я всё-таки был ML-инженером, а не хардкод джавистом или веб девелопером.

tmux, разные эмуляторы терминала типа Ghostty, Warp или iTerm2, oh-my-zsh и весь этот обвес, который делал работу в терминале приятной и удобной, медленно, но верно уходят в небытие.

В мае я уже писал, что всё чаще пользуюсь Codex Desktop, потому что его CLI слишком low-dopamine 👉тут. Но я недооценил масштаб происходящего. Сейчас я пользуюсь почти исключительно десктопными приложениями Codex и Claude Code – не вижу особого смысла открывать IDE если абсолютно всё что мне нужно и даже больше есть внутри Codex.

Единственный оставшийся юзкейс – окинуть взглядом структуру всего проекта или что-то найти через глобальный поиск. Но и для этого десктопные приложения уже the way to go, просто я не успеваю адаптироваться к тому что там уже есть встроенная файловая система. Главная проблема тут забыть привычные шорткаты.

Cursor, конечно, опередил время со своим Agent Mode (кстати, это было почти 2 года назад), над которым смеялись на релизе. Сейчас это уже стандартное окружение разработчика – всё строится вокруг чатов.

Основные плюсы десктопных приложений:

1. Встроенный Git diff для ревью изменений.
2. Параллельные сессии в нескольких проектах с нативными уведомлениями, удобной очередью запросов и подключением через приложение ChatGPT, чем я на удивление действительно пользуюсь.
3. Нативный голосовой ввод. В Codex он работает в разы лучше чем Claude Code.
4. Встроенный браузер, с которым агент может взаимодействовать без Playwright и расширений вроде chrome-devtools.
5. Нормальный рендеринг артефактов, например Mermaid-диаграмм, прямо в окне чата.

Даже терминал внутри этих приложений уже есть.

На Linux Codex и Claude Code пока не завезли. Zed пробовал, но всё это выглядит архаично: в 2026 году выстраивать IDE вокруг файлов, а не диалогов, как по мне, странно.

Из того, что удалось нарыть на Reddit из OSS альтернатив:

- Paseo – по-настоящему зрелый OSS-кандидат: один интерфейс для Claude Code, Codex, Copilot, OpenCode и Pi, параллельные агенты, Git worktrees, diff, голос и десктопный клиент для Linux. Похоже, это лучший способ прочувствовать такую developer experience вне macOS на данный момент
- Limboo – очень молодой conversation-first workspace вокруг Claude Code: сессии, Git, терминал, память проекта и глобальный поиск.

Никого ни к чему не призываю, каждый дрочет как он хочет, как говорится, но настоятельно советую попробовать desktop приложение тем кто до сих пор пользуется терминалом, а таких у нас треть.

#ai #dev_tool

Багодельня Соколовского 👾