Claude случайно выбрался из песочницы — и успел загрузить вредоносный пакет на PyPI

Anthropic опубликовала довольно необычный разбор четырёх случаев, когда Claude во время тестов по кибербезопасности получил доступ к реальным сторонним системам, хотя должен был работать только в изолированной среде.

Самый показательный эпизод: агент создал и загрузил на настоящий PyPI вредоносный пакет. До удаления его успели установить 15 сторонних систем. В других случаях модель получала доступ к реальным базам данных и аккаунтам. Anthropic после этого проверила около 481 миллиона логов своих тестовых и обучающих сред в поисках похожих случаев.

И это, пожалуй, хорошее напоминание всем, кто сейчас строит автономных агентов: проблема уже не только в том, насколько хорошо агент рассуждает. Не менее важно, до чего именно ему технически разрешено дотянуться.

https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents

Маленькая, но довольно полезная штука для тех, у кого одновременно Codex, Claude Code, OpenCode и ещё пара AI-сервисов — Codenotch.

Это приложение для macOS, которое показывает прямо на краю экрана, сколько лимита осталось у разных coding-сервисов. Может предупредить при 80% и 100%, чтобы внезапно не обнаружить посреди задачи, что очередной пятичасовой лимит закончился.

Есть даже поддержка локального Ollama: показывает загруженные модели, RAM/VRAM, контекст и quantization.

В общем, типичная утилита из категории «пока не пользовался — вроде не нужна, а потом непонятно, как без неё жил».

https://github.com/vinzdg/codenotch

Rune полностью открыли — ещё один IDE хочет потеснить VS Code

Появился интересный проект для тех, кому современные IDE уже кажутся слишком тяжёлыми. Rune — нативный редактор для Linux и macOS с интерфейсом, отрисовываемым через GPU, и упором на управление с клавиатуры. 13 сентября разработчики полностью открыли исходники под GPLv3.

Сам Rune написан в основном на Go и изначально задумывался как быстрый IDE без Electron. Есть LSP, встроенный терминал, fuzzy search, Git-интеграция и привычные для современного редактора вещи, но при этом интерфейс остаётся нативным.

https://github.com/unstablebuild/rune

Каптча

Интересная попытка переосмыслить Git под эпоху coding-агентов — Kin.

Обычный репозиторий для агента — по сути куча файлов, связи между которыми ему каждый раз приходится восстанавливать самостоятельно. Kin делает функции, типы и отношения между ними частью самого репозитория и строит граф кодовой базы.

Поэтому перед изменением функции агент может спросить: кто её вызывает, с чем она связана и на какие части проекта потенциально повлияет изменение.

Есть MCP и интеграции с Claude Code, Codex, Cursor и Gemini. Причём анализ и хранение графа работают локально.

Пока это public alpha и авторы сами советуют начинать с небольших проектов, но сама идея мне нравится: хранить вместе с кодом не только историю изменений, но и знания о его структуре.

https://github.com/firelock-ai/kin

CUDA впервые добралась до Windows на Arm

NVIDIA выпустила CUDA Toolkit 13.4, и внутри довольно важное изменение: CUDA теперь официально поддерживает Windows на Arm. До этого CUDA-приложения на Arm поддерживались через Linux.

Пока поддержка в первую очередь ориентирована на устройства RTX Spark, но разработчики уже могут портировать Windows Arm64-приложения, проверять зависимости и тестировать CUDA-код. Заодно в 13.4 появился ранний developer preview следующей архитектуры Rubin и обновлённый механизм распределения GPU между несколькими процессами.

https://developer.nvidia.com/blog/cuda-toolkit-13-4-adds-windows-on-arm-support-and-greater-control-over-shared-gpus/

Нашёл интересный open-source проект для тех, кто экспериментирует не с одним AI-агентом, а уже с целой командой — OpenCompany.

Идея довольно амбициозная: создать операционную систему для бизнеса из одного человека, где владелец принимает ключевые решения, а остальную работу выполняют специализированные агенты.

У агентов есть общая рабочая доска, передача задач друг другу, человеческое подтверждение важных действий, расписания и workflow с зависимостями.

То есть это уже не просто «запустить несколько агентов параллельно», а попытка построить вокруг них нормальный рабочий процесс компании.

Проект пока очень ранний и сами разработчики прямо предупреждают, что он не готов для production. Но посмотреть на архитектуру и идеи точно интересно.

https://github.com/tinyhumansai/opencompany

GPT-Live-1 вышла в API — OpenAI обновила голосовой AI

OpenAI выпустила GPT-Live-1 — новую модель для голосовых приложений, которая умеет вести полноценный разговор в реальном времени. Можно говорить, перебивать ассистента и получать ответ без классической цепочки «распознать речь → отправить текст модели → отдельно синтезировать голос».

В новой версии улучшили следование инструкциям, работу с телефонными звонками и добавили больше голосов с разными акцентами и языками.

Для разработчиков это интересный сдвиг: голосовой AI постепенно превращается из набора STT + LLM + TTS в одну модель, с которой приложение общается напрямую аудио. Для голосовых ассистентов и поддержки это заметно упрощает архитектуру.

https://openai.com/index/introducing-gpt-live-1-in-the-api/

Нашёл интересный инструмент для тех, кто использует coding-агентов на больших проектах — Gortex.

Он локально индексирует кодовую базу и строит граф связей между функциями, классами, вызовами, API-маршрутами и даже несколькими репозиториями.

После этого Claude Code, Codex, OpenCode, Cursor и другие агенты могут получать через MCP именно нужные куски информации вместо постоянного чтения огромных файлов.

Авторы заявляют сокращение расхода контекста вплоть до 50 раз.

Поддерживается 257 языков, включая PHP, Python, JavaScript, TypeScript, Go, Rust и Java. Всё работает локально и устанавливается одним бинарником.

Для больших проектов и мультиагентной разработки выглядит очень интересно.

https://github.com/zzet/gortex

NVIDIA открыла новый слой CUDA — но уже для квантовых компьютеров

NVIDIA расширила open-source платформу CUDA-Q и представила CUDA-Q Logical — систему для управления логическими кубитами и коррекцией ошибок в квантовых компьютерах.

Смысл примерно такой: современные квантовые кубиты слишком легко ошибаются, поэтому для одного надёжного «логического» кубита приходится использовать множество физических. CUDA-Q Logical берёт на себя часть этой сложной инфраструктуры и позволяет объединять квантовое железо, GPU и классические процессоры в одной системе.

До домашних квантовых компьютеров нам всё ещё очень далеко, но забавно наблюдать, как NVIDIA пытается повторить с квантовыми вычислениями тот же трюк, который когда-то проделала с GPU: дать разработчикам единый программный слой поверх очень сложного железа. И сам CUDA-Q остаётся open source.

https://nvidianews.nvidia.com/news/nvidia-expands-open-source-cuda-q-platform-for-fault-tolerant-quantum-computing

Новое видео: ИИ уже начинает действовать сам?

За последние недели появилось сразу несколько историй, которые заставляют задуматься о том, насколько автономными становятся современные ИИ-агенты.

YouTube:
https://youtu.be/Gj-V-ENPSbA

Rutube:
https://rutube.ru/video/private/471484f5ed57637ff89273ea282a29bf/?p=Tj_fbxbC2AeKE0u3o015kw

VK Видео:
https://vkvideo.ru/video-238292605_456239032

Если несколько coding-агентов начинают параллельно работать над одним проектом, довольно быстро возникает проблема: кто что делает, какие были требования и почему вообще принято то или иное решение.

Для этого нашёл интересный проект — Spec Kitty.

Он строит работу вокруг последовательности:

задача → спецификация → план → подзадачи → разработка → review → приёмка → merge.

Каждый агент может работать в отдельном Git worktree, а требования, критерии приёмки и состояние задач сохраняются прямо в репозитории.

Поддерживаются Claude Code, Codex, OpenCode, Cursor, Gemini, Copilot и другие агенты.

По сути, это попытка превратить хаотичное общение с несколькими AI-разработчиками в более нормальный инженерный процесс.

https://github.com/spec-kitty/spec-kitty

Claude уже ведёт четверть разработки следующих AI-моделей Anthropic

Anthropic впервые показала внутреннюю статистику того, насколько активно сама использует AI при создании новых моделей. По данным компании, Claude уже «ведёт» 26% исследовательских и инженерных задач: человек ставит высокоуровневую задачу, а основную работу модель выполняет сама под его контролем.

Ещё интереснее динамика: в начале года таких задач практически не было. Сейчас более 90% исследовательской работы Anthropic уже предполагает ту или иную совместную работу человека и AI. При этом полностью автономной разработки моделей пока нет — компания отдельно это подчёркивает.

Получается довольно любопытный цикл: AI всё активнее участвует в создании следующего, более мощного AI. И похоже, роль разработчика здесь постепенно смещается от непосредственного выполнения работы к постановке задач, проверке и управлению агентами.

https://www.anthropic.com/institute/measuring-pace-of-ai-development

Интересный свежий проект для локального запуска больших моделей — Edge0.

Главная идея в том, чтобы не пытаться целиком держать MoE-модель в памяти. Необходимые эксперты подгружаются с SSD по мере работы, а специальный prerouter пытается заранее предсказать, какие из них понадобятся следующими.

Авторы уже подготовили варианты на 8B и 35B параметров. Для 35B они заявляют около 2,9 ГБ пиковой активной памяти и примерно 15–18 токенов в секунду на Mac mini M4 Pro.

Пока работает только на Apple Silicon через MLX, но CUDA уже есть в планах.

Интересный подход к тому, как запускать довольно большие модели на обычном железе без огромного объёма памяти.

https://github.com/Edge0-AI/Edge0

Google выпустила Gemini 3.8 Live — голосовой AI теперь может думать прямо во время разговора

Google представила сразу две новые голосовые модели: Gemini 3.8 Live и более мощную Gemini 3.8 Live Extended Thinking.

Самая интересная возможность Extended Thinking — модель может продолжать рассуждать и выполнять многошаговую задачу, не прерывая разговор. Например, параллельно обращаться к инструментам и API, сообщать о ходе работы и одновременно продолжать общаться с человеком. Gemini 3.8 Live также понимает визуальный контекст почти в реальном времени и умеет автоматически переключаться между 97 языками.

Для разработчиков обе модели уже появляются в Gemini API и Google AI Studio. Похоже, голосовые ассистенты постепенно перестают быть просто «чат-ботом, которому прикрутили микрофон» и превращаются в полноценных голосовых агентов.

https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-8-live-gemini-3-8-live-extended-thinking/

Нашёл необычную альтернативу связке IDE + терминал + tmux — Rune.

Это нативная среда разработки, которая одновременно работает как редактор, терминальный мультиплексор и рабочее место для coding-агентов.

Можно создавать несколько рабочих пространств, держать внутри терминалы и редакторы, использовать встроенного агента или подключать свои инструменты.

Ещё интереснее возможность связать несколько своих компьютеров в зашифрованную сеть и продолжить работу с другой машины.

Написан Rune на Go, интерфейс использует OpenGL на Linux и Metal на macOS. Никакого Electron.

Проект пока молодой, но развивается очень активно.

https://github.com/unstablebuild/rune

Huawei показала AI-систему, которую можно масштабировать до миллиона ускорителей

Huawei представила Atlas 960E SuperPoD — новую вычислительную систему для обучения и запуска огромных AI-моделей. Но интереснее отдельного сервера то, как компания собирается их объединять.

С помощью собственной шины UnifiedBus несколько SuperPoD можно соединять в один кластер, который, по заявлению Huawei, способен масштабироваться вплоть до миллиона NPU. Компания также продолжает открывать свой AI-стек: CANN переводят на постоянную open-source разработку, а Ascend теперь официально поддерживается в PyTorch как отдельный backend ускорения.

По сути, Huawei строит собственную альтернативную экосистему «железо + программный стек + огромные AI-кластеры». И конкуренция за инфраструктуру для нейросетей постепенно становится интересна не меньше, чем гонка самих моделей.

https://www.huawei.com/en/news/2026/9/hc-wang-keynote

Когда coding-агент работает над задачей полчаса, делает десятки вызовов инструментов и съедает кучу токенов, бывает сложно понять, чем именно он всё это время занимался.

Для этого появился интересный проект — TraceCrate.

Он умеет загружать логи Claude Code и Codex и раскладывать работу агента по временной шкале: вызовы инструментов, ошибки, длительные операции, повторяющиеся действия и расход токенов.

Можно даже загрузить две сессии и сравнить, чем отличалось поведение агента.

При этом всё анализируется локально в браузере — без backend, аккаунтов, API-ключей и отправки логов на сторонний сервер.

Для отладки собственных AI-агентов и поиска причин, почему они иногда работают слишком долго, выглядит особенно полезно.

https://github.com/FankChen/tracecrate

StepFun выпустила Step 5 Preview — 600 млрд параметров и контекст на миллион токенов

Китайская StepFun представила Step 5 Preview — новую флагманскую модель, ориентированную на программирование, агентов и сложные профессиональные задачи. Внутри MoE-архитектура на 600 млрд параметров, но на каждый токен активируется только 27 млрд. Есть работа с изображениями и контекст до 1 млн токенов.

Особенно интересно, что модель рассчитана на длинные автономные задачи: она может многократно запускать код, анализировать результат и продолжать работу. В демонстрациях ей дают не только разработку приложений, но и работу с Blender, исследования с сотнями запросов и даже взаимодействие с программируемым железом.

Сейчас Step 5 Preview уже доступна через API, а 15 октября StepFun обещает открыть веса модели.

https://www.stepfun.com/step-5-preview

Похоже, постепенно появляется отдельный класс инфраструктуры именно для AI-агентов.

У Google для этого появился проект AX.

По ощущениям, идея примерно такая: Kubernetes, но не для обычных сервисов, а для автономных агентов.

Можно описать задачу в YAML, подключить агенту Git-репозиторий, MCP и skills, выделить CPU и память и отдельно ограничить доступ в сеть.

Каждый агент работает в изолированном окружении. Его можно остановить, а потом продолжить с того же состояния или подключиться внутрь через что-то вроде ssh и посмотреть, что он вообще делает.

Проект пока ранний и API ещё будет меняться, но для тех, кто запускает уже не одного-двух агентов, а целые их команды, направление очень интересное.

https://github.com/google/ax

AI начал прятать свои ошибки и самостоятельно искать API-ключи

OpenAI опубликовала сразу шесть реальных случаев необычного поведения моделей, обнаруженных во время обучения и тестирования за последние полгода.

В одном случае GPT-5.6 Sol оставляла будущей версии самой себя инструкции скрывать ошибки от пользователя. В другом модель нашла открытый API-ключ в публичном репозитории и использовала его без разрешения. Были и агенты, которые самостоятельно загружали файлы в интернет или использовали публичные файлообменники, хотя их об этом никто не просил.

Важно, что это отдельные случаи из тестов и обучения, а не статистика поведения моделей в обычном использовании. Но OpenAI решила теперь публиковать подобные инциденты систематически — даже когда причины поведения ещё до конца не понятны.

https://openai.com/index/model-misalignment-reporting-framework/