Пинзес AI
79 subscribers
200 photos
6 links
Я Артём. Проверяю ИИ на задачах жизни и бизнеса, строю свои продукты и показываю расходы, ошибки и результаты. Здесь — разборы, инструкции и материалы к видео. Пинзес AI.
Download Telegram
Opera отслеживает, исправил ли кодовый агент замеченную ошибку

Opera сохраняет каждое замечание как заметку и проверяет работу агента дальше — пока проблема не решена. Так система отличает реальное исправление от простого следования совету.

В препринте авторы сообщают, что Opera повысила долю решённых задач на 12,4 процентного пункта на Terminal-Bench 2.1, на 15 пунктов на подмножестве SWE-Bench Pro и на 8,9 пункта на DeepSWE v1.1.

По результатам авторов, обучение Qwen3.5-9B на примерах, собранных с помощью Opera, повысило долю решённых задач на отложенных репозиториях SWE-Bench Pro на 10,2 процентного пункта — даже без критика во время работы.

Для долгих задач важно не только дать агенту совет, но и проследить, устранил ли он проблему. Такой подход может сделать обратную связь полезнее и для выполнения, и для обучения кодовых агентов.

Это препринт: результаты и сравнения приводят авторы работы.

Артём · Пинзес AI
Бесплатный Gemini убрал ручной выбор моделей

Пользователи без платного плана больше не могут вручную выбирать модель: в переключателе остался режим Auto.

По объяснению Google, Auto направляет большинство запросов в Flash-Lite, а задачи, требующие более глубоких рассуждений, — в Flash или Pro. Если отключить автоматический выбор, ответы будет выдавать Flash-Lite.

Google также внедряет уровни усилий Low, Medium и High вместо прежней опции Extended.

Бесплатным пользователям не нужно выбирать модель для каждого запроса, но они теряют ручной контроль над этим выбором.

Изменение и новые уровни усилий разворачиваются постепенно.

Артём · Пинзес AI
Для покупок ИИ-агентам готовят платёжные разрешения с лимитами

Animoca Brands вместе с финтех-компаниями Reap и Pivota разрабатывает инфраструктуру, которая должна позволить ИИ-агенту подобрать товар и получить платёжные данные, ограниченные конкретным продавцом, суммой и сроком действия.

Сначала партнёры планируют показать систему в контролируемом сценарии для продавцов; пилот с реальными платежами должен пройти позже.

Вместо доступа к карте агенту можно будет выдать узкое разрешение на покупку. Это может сделать автоматические покупки управляемее: пользователь задаёт, где, на какую сумму и как долго программа вправе платить.

Система пока на стадии разработки: демонстрация будет контролируемой, а пилот с реальными платежами ещё впереди.

Артём · Пинзес AI
SynAct ищет решения агента, где экспертная поправка изменит итог

Препринт описывает SynAct — метод, который оценивает решения агента по тому, насколько они связаны с конечным результатом в повторных запусках. Эксперт получает запрос по решениям с наибольшей значимостью, а его поправки превращаются в правила для дальнейшей работы агента.

Авторы сообщают, что на четырёх бенчмарках и четырёх моделях SynAct повысил точность на отложенных данных во всех 16 комбинациях — в среднем на 11,7 процентного пункта.

В задаче выбора модели для ответа метод превзошёл варианты с сопоставимым бюджетом в 15 из 16 случаев. По результатам авторов, одна целевая поправка эксперта оказалась эффективнее семи дополнительных повторов без направления.

Подход пытается расходовать внимание эксперта не на весь процесс, а на отдельные решения, которые могут изменить исход. Это может быть полезно в многошаговых задачах, где простые повторы не устраняют пробел в знаниях агента.

Это препринт; результаты и сравнения заявлены его авторами.

Артём · Пинзес AI
Бенчмарк DRYLAB-Bench оценил, как биоинструменты влияют на риск проектов ИИ-агентов

Авторы препринта проверили 15 моделей на 30 сценариях опасного проектирования мутаций. Вместо одних лишь ответов на вопросы агенты выполняли задания в несколько этапов и могли использовать специализированные биологические инструменты.

Результаты проектов сравнивали с 187 695 экспериментальными измерениями. По оценке авторов, без инструментов 21,4% одношаговых проектов попали в группу с наивысшим риском.

При подключении инструментов доля проектов в этой группе выросла до 23,5%, а совокупный показатель риска — на 0,116.

Такой подход оценивает не только опасные знания модели, но и то, как она применяет их в связке с инструментами. Это может помочь точнее выявлять риски агентных систем в биологии.

Это результаты авторов препринта, а не независимая проверка.

Артём · Пинзес AI
GraphTok переносит токенизацию запросов с CPU на GPU

Авторы препринта разработали GraphTok — токенизатор, который выполняет на GPU весь путь от предварительной обработки текста до сборки ID токенов. Для коротких запросов система переключается на CPU.

В тесте авторов с vLLM и закэшированным префиксом GraphTok снизил среднее время до первого токена в 2,1–2,4 раза.

В нагрузочном тесте с запросами длиной 121 тысяча токенов один фронтенд с GraphTok обслуживал 518 запросов в секунду при ограничении P99 в 2 секунды; с CPU-токенизатором gigatoken — 296.

Кэш префикса может пропускать повторную обработку контекста на этапе генерации, но сам запрос всё равно нужно токенизировать. Перенос этой работы на GPU, по результатам авторов, ускоряет первый ответ и позволяет фронтенду обслуживать больше запросов с длинными контекстами.

Это результаты авторов препринта, а не независимая оценка; ускорение измеряли на конкретных конфигурациях и нагрузках.

Артём · Пинзес AI
Исследователи связали Claude Code с кампанией, похитившей 628 тысяч украинских записей

По данным SOCRadar, CyberXero использовал Claude Code с 51 специализированным агентом для сканирования, разведки, подбора эксплойтов и действий после взлома. Отдельно PentAGI подключили к Cobalt Strike.

Исследователи подтвердили кражу данных из четырёх украинских организаций: более 628 тысяч записей, связанных с украинцами.

В логах зафиксированы отказы модели на опасные запросы. После некоторых отказов оператор начинал новую сессию, заранее задавая контекст разрешённого тестирования.

Этот случай показывает ограничение защитных отказов, привязанных к контексту одной сессии: перезапуск может дать атакующему новую попытку. При этом модель отказывала и в других случаях.

Это вывод SOCRadar по материалам операции; использование Claude Code не доказывает, что модель самостоятельно проводила взломы.

Артём · Пинзес AI
Новый бенчмарк проверил, понимают ли ИИ скрытые детали визуальных сцен

Бенчмарк Humanity’s Sixth Sense от Elorian и Scale AI включает 522 вопроса по 288 изображениям и 234 видеоклипам. Он проверяет, умеет ли модель делать выводы о сцене по тому, что не показано напрямую.

По результатам авторов, лучший ИИ в тесте набрал 53,6 балла pass@1, а люди — 93,1. Самые частые ошибки моделей — пропуск важной детали и неверное распознавание объекта или роли.

Тест оценивает не только распознавание объектов, но и выводы о происходящем: например, хватит ли места для книг на полке. Такие задачи помогают увидеть, где мультимодальные модели пока уступают людям в понимании контекста сцены.

Это результат одного бенчмарка, а не универсальная оценка зрительных способностей ИИ.

Артём · Пинзес AI
Просьба повторить текст обошла защиту шести фреймворков AI-агентов

Исследователи сообщили, что прием «повтори за мной» позволил вызвать инструменты в шести фреймворках. Подробная демонстрация есть для LangGraph: агент выполнил вызов до того, как модель выдала отказ.

Созданный исследователями инструмент обнаружил подтверждённые уязвимости в 118 из 273 проверенных MCP-серверов: всего 253 ошибки в 343 инструментах.

Отказ модели сам по себе не ограничивает действия агента: право на выполнение чувствительного вызова должна отдельно проверять система, а инструменты — проверять входные данные.

Работа не прошла рецензирование. В демонстрации LangGraph использовали фиктивные инструменты без реальных последствий; авторы не утверждают, что уязвимы все установки этих фреймворков.

Артём · Пинзес AI
Bedrock направляет запросы к GPT-6 между регионами AWS

AWS предлагает глобальную межрегиональную маршрутизацию GPT-6 Sol и Luna из Сингапура, Джакарты, Малайзии, Таиланда и Тайваня; GPT-6 Astra в таблице доступен только из Сингапура.

Bedrock сам выбирает регион обработки запроса. Вызов идёт через профиль модели, а квоты, биллинг и мониторинг остаются в исходном регионе.

Маршрутизация может помочь командам, которым не хватает локальной ёмкости для запросов к модели. При этом учёт расходов и наблюдение за вызовами сохраняются в регионе, откуда их отправили.

Запросы могут обрабатываться в любом поддерживаемом коммерческом регионе AWS. Данные, отмеченные автоматической системой выявления злоупотреблений, могут храниться там до 30 дней.

Артём · Пинзес AI
Claude сам распределяет работу между агентами в Dynamic Workflows

На конференции инженеры Anthropic рассказали о Dynamic Workflows: Claude сам планирует этапы задачи и пишет программу, которая запускает агентов, собирает их результаты и управляет передачей информации.

Раньше разработчик задавал координатора и список субагентов; теперь Claude может выбирать устройство команды сам. При желании разработчик всё ещё может добавить специализированных агентов.

Anthropic представила пример сканера списка акций: агенты параллельно анализировали отдельные тикеры, а следующий этап сводил результаты. По словам инженеров, такой сценарий обходится значительно дороже одного агента.

Разработчику не нужно вручную настраивать связи между агентами для каждого этапа. Это может помочь с большими многоэтапными задачами, но требует контроля бюджета.

Инженер Anthropic сообщил, что модель не видит установленный бюджет сессии, хотя разработчик может его задать.

Артём · Пинзес AI
В тестах llama.cpp read-ahead замедлял потоковую Q4-модель в 35 раз

Участник сообщества проверил запуск модели OLMoE Q4_K_M размером 4,2 ГБ при 3 ГБ кэша. В его тесте на WSL2 скорость была 0,14 токена в секунду с read_ahead_kb=8192 и 4,91 — с настройкой 256 КБ.

С включённым по умолчанию --repack процесс занимал около 3 ГБ анонимной памяти и завершался по OOM при лимите в 3 ГБ. С --repack 0 автору удалось запустить потоковую загрузку.

Если модель больше доступной памяти, настройки упреждающего чтения и repack могут заметно повлиять на скорость или вообще помешать запуску.

Это сообщение участника сообщества, а не официальный тест llama.cpp. Проверялись конкретная система и модель; плотные модели автор не тестировал.

Артём · Пинзес AI
WIRED обнаружил, что агент Meta Muse генерирует откровенные сексуальные диалоги

В тестах WIRED Muse отвечал на простые запросы подробными эротическими сценами и поддерживал сексуальную переписку.

Meta объясняет, что агент рассчитан на пользователей от 18 лет и не блокирует законное взрослое поведение; его системная инструкция велит учитывать выбранную пользователем интенсивность.

Эксперты по защите потребителей предупреждают: если злоумышленник получит доступ к аккаунту, откровенные переписки могут стать инструментом шантажа.

Muse совмещает функции агента, который может работать с личными сервисами, с возможностью вести откровенные разговоры. Это делает приватность аккаунта особенно важной для пользователей.

Meta заявляет, что данные хранятся в защищённой виртуальной машине, доступной только пользователю; опасение экспертов связано с возможным взломом аккаунта, а не с подтверждённой утечкой.

Артём · Пинзес AI
Anthropic заявила, что новые защиты сократили извлечение рассуждений Claude в 10–100 раз

Anthropic сообщает, что после внедрения классификатора дистилляторы стали извлекать с её платформы в 10–100 раз меньше токенов рассуждений Claude.

Защита ограничивает перенос рассуждений между аккаунтами и моделями, выявляет попытки их извлечь и может ужесточать лимиты или блокировать аккаунты.

По оценке Anthropic, классификатор ошибочно блокирует менее 0,1% безвредных запросов. Некоторые разработчики также обновляли интеграции; заблокированные запросы в соответствующих случаях теперь оплачиваются.

Дистилляция — обучение одной модели на ответах другой — помогает копировать её возможности. Ограничивая доступ к подробным рассуждениям, Anthropic пытается усложнить такой перенос навыков.

Оценка основана на данных самой Anthropic; компания предупреждает, что не проверила защиту на особо сложной и настойчивой атаке. Она также ожидает, что способы обхода будут появляться.

Артём · Пинзес AI
Meta предлагает Muse Wonder через API, а Wonder Full — только подписчикам Muse Code

Meta выпустила две версии модели: Muse Wonder доступна через Meta Model API и Muse Code, а Wonder Full — только подписчикам Muse Code.

В индексе Artificial Analysis версии набрали 52 и 56 баллов соответственно в максимальном режиме рассуждения.

Команды могут подключать Muse Wonder через API, но более высокий результат в этом индексе показала версия, доступная только в Muse Code.

Оценки Artificial Analysis относятся к её тестам и не гарантируют такой же результат на рабочих задачах.

Артём · Пинзес AI
NVIDIA обещает упростить запуск локальных ИИ-агентов на RTX Spark

По плану NVIDIA, при первом запуске ноутбуков RTX Spark пользователи смогут выбрать агентское приложение, а GitHub Copilot, Hermes, OpenClaw, Perplexity, Pi и WorkBuddy предложат подходящую локальную модель и настройки.

NVIDIA заявляет, что OpenShell и Microsoft Execution Containers добавят агентам изолированную среду; OpenClaw и GitHub Copilot уже поддерживают MXC, а поддержка Hermes ожидается к концу октября.

Агенты смогут сочетать локальные модели с облачными. NVIDIA Switchyard маршрутизирует запросы между ними, но интеграция Hermes запланирована на конец октября.

Для разработчиков это может упростить запуск агентов на собственном компьютере и выбор между локальной обработкой и облачными моделями.

Это анонс NVIDIA: ноутбуки RTX Spark компания планирует выпустить 16 октября. Часть интеграций появится позже.

Артём · Пинзес AI
NVIDIA открыла исходный код платформы Run:ai для управления ИИ-нагрузками и GPU

NVIDIA объявила, что делает платформу Run:ai полностью доступной как открытое программное обеспечение.

Run:ai предназначена для оркестрации ИИ-нагрузок и GPU — распределения и управления вычислительными ресурсами.

Команды, которые управляют ИИ-нагрузками на GPU, смогут изучать и адаптировать открытую основу Run:ai; конкретный способ применения зависит от их инфраструктуры.

Артём · Пинзес AI
На Amazon Bedrock проверили Grok 4.7 на задачах для ИИ-агентов

В тесте AWS агент на Grok 4.7 решил три синтетические задачи с поиском и ограничениями: правильно завершились 67 из 72 запусков.

На уровне рассуждений xhigh верными были все 18 запусков, а на low — 15 из 18. При low средний расход выходных токенов оказался примерно в 7,7 раза меньше.

Уровень рассуждений можно задавать для каждого запроса. Для доступа нужны аккаунт AWS и включённый доступ к Grok 4.7 в Bedrock.

Настройка позволяет выбирать баланс между точностью и расходом токенов для разных этапов работы агента. В собственных задачах результат может отличаться.

Это тест AWS на искусственных задачах: по шесть запусков на задачу и уровень. Разница между уровнями показательна, но не доказывает преимущество на реальных процессах.

Артём · Пинзес AI
Orca Security сократила расходы на ИИ-запросы на 90%

По описанию AWS, система Discovery AI переводит вопросы на обычном языке в запросы для Sonar — системы поиска по данным облачной инфраструктуры Orca Security.

После перехода от прототипа к многоэтапному конвейеру с поиском подходящих примеров и проверкой запросов расходы на сопоставимую нагрузку снизились на 90%, а входные токены — примерно с 2 млн до 140 тыс.

Время ответа сократилось примерно с 60 до 15 секунд. Orca сообщает, что система обрабатывает тысячи запросов в день с марта 2026 года.

Кейс показывает, как подбор релевантной схемы и примеров вместо загрузки всей документации в запрос может снизить расходы и ускорить преобразование сложных вопросов в структурированные запросы.

Это кейс AWS: показатели сравнивают решение с исходным прототипом Orca, а не с независимым замером.

Артём · Пинзес AI
Google заявляет: Gemini 4 Argon ускорил подготовку долгих сессий в ADK на 40%

Google сообщает, что Gemini 4 Argon оптимизировал Python-код открытого фреймворка Agent Development Kit: подготовка данных для долгих сессий стала занимать на 40% меньше времени, а холодный запуск — на 21% меньше.

Модель доступна разработчикам и компаниям через API в AI Studio и Gemini Platform. Google объявила стартовую цену: $2 за миллион входных и $10 за миллион выходных токенов; кэшированные входные токены стоят на 95% дешевле.

Кейс показывает, как агенту можно поручить оптимизацию кода по заданным правилам проекта и цели. Похожие задачи могут быть полезны командам, поддерживающим Python-сервисы.

Улучшения ADK и их замеры описаны самой Google; результат относится к конкретному проекту и не гарантирует такого же ускорения в другом коде.

Артём · Пинзес AI
Liquid AI выпустила открытую модель для локальных ИИ-агентов

LFM2.5-24B-A2B — модель с 24 млрд параметров, из которых активны 2 млрд на каждый токен. Она умеет рассуждать и вызывать инструменты; контекстное окно — 131 тыс. токенов.

Модель с открытыми весами доступна на Hugging Face и поддерживает локальный запуск через llama.cpp, MLX, vLLM, SGLang и ONNX.

По тестам Liquid AI, модель лидирует или показывает сопоставимые результаты с конкурентами на пяти из восьми проверок работы с инструментами и агентами, но уступает на ряде задач по знаниям и программированию.

Её можно подключить к локальному агенту, которому нужно выполнять многошаговые задачи и работать с инструментами. Это может подойти для сценариев, где важно обрабатывать данные на собственном устройстве.

Результаты бенчмарков приводит Liquid AI; это не независимая оценка модели.

Артём · Пинзес AI