Тимлид команды Google Gemini, Адди Османи собрал воркфлоу и стандарты разработки, накопленные старшими инженерами за много лет, в унифицированную библиотеку скиллов, позволяющую ИИ-агентам выполнять каждый этап написания кода по единым высоким стандартам.

Это можно рассматривать как снабжение ИИ операционным мануалом от опытных инженеров. 🤩

Tencent выпустили полностью опенсорс модель перевода, которая, по заявлениям, превосходит Google Translate — и при этом запускается локально прямо на смартфоне. 🤩

Модель поддерживает:

- 33 языка;
- полностью офлайн-перевод;
- запуск прямо на устройстве без облака.

Размер модели всего около 440MB.

Для сжатия используется AngelSlim — внутренний тулкит Tencent для компрессии моделей. За счёт этого удалось сильно уменьшить размер и сохранить производительность.

Веса модели и GGUF-версии доступны на Hugging Face: Hy-MT1.5-1.8B-1.25bit

Также разработчики выложили Android-демо для тестирования локального перевода прямо на телефоне. Ссылка доступна на странице модели в Hugging Face.

Парень крашнул телевизор с помощью Claude Code

Понимая, что он работает на Linux, он попросил Claude подумать о типичных уязвимостях, которым могла бы быть подвержена обычная Linux-машина 2014 года, учитывая, что она доступна только из локальной сети.

Они протестировали несколько вариантов (например, Heartbleed) и в итоге нашли CVE-2012-5958 — баг в libupnp, C-библиотеке, которая есть почти в каждом Smart TV того времени.

Отправили один сетевой пакет с одним полем, где было на несколько байт больше, чем нужно, что привело к переполнению стекового буфера и падению телевизора.

Дальше пошла декомпиляция прошивки, попытка понять, что именно эти производители телевизоров могут видеть о пользователях через свои сомнительные рекламные программы.

Vizio в 2017 году был засужен FTC за тайное отслеживание всего, что смотрят люди, и продажу этих данных рекламодателям. 😕

Появился новый подход для RAG, который:

- уменьшает размер корпуса данных в 40 раз;
- снижает количество токенов на запрос в 3 раза;
- повышает релевантность векторного поиска в 2.3 раза.

И всё это в open-source. Читать подробности 😈

Microsoft выпустила waza — CLI-инструмент на Go для системной оценки качества Agent Skills.

Может быть полезен для повышения качества разработки агентов и построения бенчмарков.

исходники 🐀

Дай любому ИИ-агенту полный контроль над файлами Office: OfficeCLI 🤩

Создан специально для ИИ-агентов. Позволяет работать с документами Word, Excel и PowerPoint без установки офисного пакета, прямо из терминала. Поддерживаются создание, чтение и изменение файлов, что удобно для автоматизации.

После установки такие инструменты, как Claude Code и Cursor, могут обрабатывать офисные файлы автоматически.
Типовые сценарии:

- пакетное изменение Excel-файлов через скрипты
- генерация Word-документов
- обработка презентаций PPT
- автоматизация без ручного открытия файлов

Бесплатный, с открытым исходным кодом, один бинарный файл.

Исследователи нашли способ ускорить большие языковые модели в 8.5 раза? 🤓

Спекулятивное декодирование — довольно эффективный способ решить проблему узкого места одного токена в традиционном инференсе больших языковых моделей.

Сначала маленькая черновая модель генерирует несколько следующих токенов, затем большая модель проверяет их все сразу за один прямой проход.

Если токен на любой позиции оказывается неверным, сохраняется всё до него, после чего генерация продолжается с этой точки. Такой подход никогда не работает хуже обычного декодирования.

Но текущие черновые модели в спекулятивном декодировании всё ещё предсказывают токены по одному. Из-за этого сам этап черновой генерации становится узким местом, ограничивая ускорение в реальных сценариях примерно 2–3 разами.

DFlash — новая техника, которая заменяет авторегрессионную черновую модель на облегчённую блочную диффузионную модель, предсказывающую все токены параллельно за один проход.

Стоимость черновой генерации остаётся постоянной независимо от количества спекулятивно предсказываемых токенов.

Дополнительно черновая модель получает скрытые признаки из нескольких слоёв целевой модели, которые внедряются в каждый слой генерации черновика. Благодаря этому она делает заметно более точные предсказания по сравнению с моделью, работающей без такого контекста.

В демонстрации выше обычное декодирование работает со скоростью 48.5 токена в секунду. DFlash достигает 415 токенов в секунду на той же модели без какой-либо потери качества.

Техника уже интегрирована в vLLM, SGLang и Transformers, а модели для черновой генерации доступны на HuggingFace для Qwen3, Qwen3.5, Llama 3.1, Kimi-K2.5, gpt-oss и многих других моделей.

- репозиторий на GitHub

KV-кэширование — ещё одна обязательная техника для ускорения инференса больших языковых моделей. Вот об этом статья.