FreeLLMAPI

Роутер, который складывает бесплатные тарифы десятков провайдеров в один OpenAI-совместимый эндпоинт /v1. Идея простая: по отдельности каждый фри-тир мелочь, вместе — около 7.4 млрд токенов в месяц.

• 34 провайдера и 635 бесплатных эндпоинтов, 474 семейства моделей
• Умный роутинг: на каждый запрос выбирается доступная модель
• Автоматический фейловер при лимитах, учёт расхода по каждому ключу
• Ключи хранятся в зашифрованном виде
• Поддержка не только чата, но и эмбеддингов, картинок и аудио
• Подключается к любым OpenAI-совместимым клиентам и кодинг-агентам

• Установка: десктоп для #macOS и #Windows #Docker, мобильные приложения
• Каталог моделей обновляется по подписанному фиду без git pull
• Сам роутер бесплатный, новые модели подтягивает ч5ерез 30 дней. Впрочем за $19 в год можно и сразу

Не рекомендовано для продакшена

github.com/tashfeenahmed/freellmapi

#router

MAX

🤖 Claude Code частично заменил джунов в Anthropic

В компании Anthropic подтвердили, что ИИ значительно влияет на рабочий процесс. За год доля новых технических сотрудников на младших позициях снизилась с 27% до 9%, тогда как общая численность сотрудников увеличилась в три раза.

Claude Code сделал оставшихся сотрудников более эффективными. К августу ИИ-агенты отработали в шесть раз больше часов, чем их управляющие, ожидая ответа 80% времени.

Подробнее.

————————————————
@DeepTechNET - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.

А Антропик тоже решил своего персонального бота выпустить - Claude Duet.

Отдельное приложение (iOS, Android и в claude.ai), где Claude не ждёт промпта, а сам следит за твоими сервисами и пишет, когда что-то требует внимания. Целятся в профессионалов и малый бизнес, у которых дел больше, чем рук.

Все в принципе стандартно:
– под капотом Opus 5.5, память, скиллы и коннекторы подтягиваются из твоего аккаунта Claude
– утром присылает короткий брифинг по всем подключённым приложениям, днём пишет, только если реально надо
– своя виртуалка с браузером, так что работает, даже когда ноут и телефон выключены
– один тред на всё: голосом или текстом, от «перенеси встречу» до «собери финмодель»
– 6000+ коннекторов и плагинов: Gmail, Slack, QuickBooks, Stripe, Gusto (зарплата), HubSpot, Docusign, Shopify, Canva
– покупки через Stripe Link виртуальной картой, чекаут через Shop Pay, скоро – логин через 1Password
Безопасность:
– перед отправкой сообщения, платежом, подписью или удалением показывает, что именно собирается сделать, и ждёт апрува
– торговать бумагами и переводить деньги между счетами нельзя даже с апрувом
– отдельный классификатор не даёт слить номера карт и документов, медицину и личные финансы отправляет только по явной команде
– пароли агент вообще не видит, всё по схеме Managed Agents

Прикол, что сервисы он проверяет раз в несколько часов, а не постоянно – иначе лимиты подписки сгорят слишком быстро. Фоновые проверки и тяжёлые задачи едят те же лимиты Pro/Max, что и обычный чат. Подозреваю, на Pro будет сложновато :)

Из кейсов понравился владелец сети кебабных на 110 сотрудников – разбирал инвойсы по точкам без «сотни вкладок».
Доступ – research preview по вейтлисту, только Pro и Max в США. Скорее всего все очень сыро пока. Но тренд конечно прикольный.

Короче, это уже не чат-бот, а секретарь с правом голоса. Типа такой помощник для малого бизнеса – большинству владельцев не нужен агент, который пишет код, им нужен тот, кто напомнит про неоплаченный счёт и подготовит зарплату.
Хороший продукт, но кажется сильно "приземленнее" пока, чем у того же GrokBot или Dots.

https://claude.com/resources/articles/claude-duet

Команда Claude Code рассказала, как ревьюит код, который на 90% пишет сам Claude.

Очень люблю читать именно статьи OpenAI/Anthropic/Google, потому что они сейчас в фарватере изменений, а не блогеры и инфлюенсеры. Рекомендую больше, чем всякие курсы. Как раз хотел на этой неделе разобрать несколько.

В общем, цель они сформулировали так: минимум человеческого времени на ревью при том же уровне откатов и инцидентов. Меряют число апрувов на PR, комментарии и время ожидания человека, а откаты и инциденты – как ограничитель.

Что внутри:
– До PR. Claude сам гоняет тесты, билд и линтер, потом сабагент со свежим контекстом смотрит дифф. Плюс внутренние скиллы: поиск багов, упрощение диффа, e2e-проверка.
– AI-ревью на каждый PR. Несколько агентов параллельно ищут баги, отдельная группа голосует за каждую находку, чисто стилистика выкидывается. Находки размечены: Important, Nit, Pre-existing – чтобы старый баг не повесили на автора. На каждую находку обязательно надо ответить. Когда запускали превью, доля PR с содержательными комментариями выросла с 16% до 54%.
– Security-ревью, которое блокирует мерж.
– Обычный CI: линт, типы, тесты на всех платформах.
– Апрув по риску. Классификатор решает, сколько людей нужно: доки, тексты, фичи за флагом – ноль, обычные изменения – один, самое критичное – двое. Биллинг, автоапдейтер и CI-воркфлоу всегда требуют человека.
– Merge queue, флаги, сначала внутренние пользователи, потом канал latest, потом stable.
– Быстрый откат.

Важные правила: уровень риска определяется изменением, а не автором. Облегченный путь – только для доверенных авторов. Апрув агента никогда не засчитывается за человеческий. А тот, кто дал агенту задачу, отвечает за код так, будто написал его сам(!)

Прикол, что агент-автор и агент-ревьюер могут бесконечно гонять друг друга. Один PR за ночь прошел 50+ раундов ревью, пока автор его не остановил. Посмотрели – около 59% замечаний касались старого кода, то есть ревьюер каждый раунд находил еще пару старых багов, а не новых. Ввели лимит в 3 раунда и повторное ревью только по новому диффу.

С июня по сентябрь мержей стало в 2+ раза больше, а доля откатов упала больше чем на 40%. Каждый прошлый инцидент превратили в eval, ревьюера гоняют по нему каждый день, и любое изменение промпта или модели, ухудшающее скор, откатывают.

Короче, это лучший публичный разбор того, как ревьюить агентский код, который я видел. Это можно внедрять хоть завтра, Code Review для Claude Code как раз вышел в GA на Team и Enterprise. Можно просто натравить ваших агентов на эту статью и попросить применить лучшие практики.

Я еще когда токены не закончились недельные гоняю код-ревью по всем продуктам, тоже находится много чего среднего уровня. В общем, не верьте всему, что делает даже самая умная ИИ-ка - создавайте системы, в которых ее действия тщательно проверяются.

https://claude.dev/blog/solving-code-review-at-anthropic/

А вот от OpenAI – про агенты, которые не пишут новое, а чистят старое

Пишет команда Core Experimentation, которая отвечает за систему экспериментов во всей компании. Раньше мертвый код искали статическим анализом плюс рантайм-логи, и все равно бывали инциденты из-за ошибочных удалений.

Что сделали:
– GPT-6 Astra дали один расплывчатый промпт (прямо с опечатками): найди мертвый код, проверь в Slack, Statsig и где угодно, что он не используется. Вот чего писали :)
Can you help identify and clean up dead code in the repo please, feel free to check slack,
statsig [a feature flag and experimentation platform we use], or any other source you need to
confirm that things are indeed no longer being used and can be cleaned up or simplified

– модель сама смотрела старые PR, треды в Slack, трекеры и прод-профилирование, и объясняла каждое удаление
– 5 инженеров между делом за две недели смержили 1 400+ PR и удалили 800k+ строк
– образ одного сервиса похудел с 3.31 до 1.72 GB, из тестов ушло около 400 вариантов визуальных снапшотов

Дальше – устаревшие эксперименты и фичефлаги. Это сложнее, потому что такой код может еще выполняться в проде. Промпт для полного аудита они попросили написать саму модель, и она же посчитала стоимость каждого флага по CPU. Нашелся флаг, который годами незаметно размножал проверки на все фичи сразу. Модель его не удалила сама, а подняла на ревью человеку, потому что он был помечен как "Permanent". После удаления – около 0.42% экономии CPU на сервисе.

Самое практичное – сравнение моделей на одном аудите (6 000 файлов, 1 млн строк на Python, TS, Go и Rust):
– GPT-6 Astra Ultra: $109.06, 142 находки, $0.77 за находку
– GPT-6.1 Sol Ultra: $15.12, 131 находка, $0.12 за находку
– GPT-6.1 Sol Medium: $5.27, 86 находок, $0.06 за находку

То есть 92% находок за 14% цены. Разницу разобрали – Sol пропускал флаги, от которых зависят другие флаги, и это компенсировали промптом. То есть можно добить среднюю модель до лучшей просто нормальным промптом.

Плюс CI: модель предложила оптимизации по истории прогонов, смержили около 30 PR, медиана CI упала с ~10 до 4.5 минут, p90 – с 12.5 до 6. Один набор из 63 тестов ускорился с 592.6 до 29.8 секунд. Вот таким вот базовым промптом: What ideas do you have to relieve CI load in this repository? List your ideas in a table and rank all of them by estimated CI minutes saved per day based on this repo's CI run history :)

Прикол, что они честно пишут: часть предложений добавляла больше сложности, чем пользы. Модель находит столько оптимизаций, что без приоритизации и метрик в них тонешь.

Короче, берите одну мелкую задачу (мертвый код, флаг, флаки-тест), сравните модели и уровни effort, а комментарии из ревью скармливайте в следующий промпт. Когда все ок - можно масштабировать на более крупные вещи. Для любой компании с легаси это самый быстрый ROI от агентов.

https://developers.openai.com/blog/maintaining-software-with-the-gpt-6-family

Тибо сегодня с прекрасными новостями!

– Лимиты увеличили в 2 раза для всех тарифов Pro 100/200/500 и Business Premium. Уже с сегодняшнего дня!
– Для Pro 200 передумали урезать лимиты, так что Work и Codex продолжат работать с прежними ограничениями.
– Повышенные лимиты для dots пока тоже оставляют, причем их использование по-прежнему не расходует основные лимиты.

Максимальный респект!

📸 ChatGPT теперь создает гифки: OpenAI представили Images 2.6

OpenAI выпустила новую модель генерации изображений, которая оживляет любые картинки, включая фото товаров и мемы. Даже простой набросок на бумаге можно анимировать. Новая версия на 50% быстрее, и персонажи остаются постоянными при редактировании.

Все пользователи уже могут попробовать её. Проверьте здесь.

————————————————
@DeepTechNET - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.