Модель на 800 млн параметров обошла Qwen 9B и Gemma 4 в генерации Linux-команд

На Hugging Face появился dale-0.8b-GGUF - специализированная модель, которая превращает обычные текстовые запросы в команды Bash для Linux.

Что умеет:

Пишешь обычным языком: «Найди все большие файлы в текущей директории».

Модель возвращает одну Bash-команду в структурированном JSON с кратким объяснением.

Она также умеет отказываться от неподходящих запросов (`refuse`) и сообщать о неоднозначных (`unsure`).

Результаты на тесте из 471 задачи:

- dale-0.8B: 79,4%
- Qwen3.5-9B: 62,8%
- Gemma 4 E4B: 62,8%
- Qwen3.5-4B: 54,6%
- Qwen3.5-0.8B: 14,9%

По заявленным автором результатам, небольшая специализированная модель обошла значительно более крупные универсальные модели.

Технические характеристики:

- 0,8 млрд параметров.
- GGUF, квантование Q4_K_M.
- Размер файла: около 529 МБ.
- Запуск на CPU через llama.cpp.
- Медианная задержка: 1,72 секунды на ноутбуке 2020 года.
- Лицензия Apache 2.0.

Модель лежит в основе CLI-инструмента dale. Он может предлагать команды, запрашивать подтверждение перед выполнением и классифицировать опасные операции.


Модель: https://huggingface.co/manuelgscom/dale-0.8b-GGUF

GitHub: https://github.com/manuelgscom/dale

@data_analysis_ml

Anthropic объяснила, как правильно промптить Claude Fable 5.2. Старые инструкции могут мешать новой модели работать эффективно.

Anthropic опубликовала техническое руководство для разработчиков ИИ-агентов. В нём собраны особенности новой модели и рекомендации по настройке системных промптов.

Самое интересное:

1. Правильно выбирайте уровень reasoning
- low - быстрые задачи и простые агенты.
- medium - повседневная разработка.
- high - сложный код и исследования.
- xhigh и max - наиболее сложные задачи, но с большим расходом токенов.

2. Не позволяйте агенту останавливаться раньше времени

Модель иногда завершает работу, перечислив оставшиеся задачи. Anthropic рекомендует явно прописывать в системном промпте требование доводить работу до конца.

3. Дайте модели право улучшать архитектуру

Инструкция This codebase is yours заметно повышает вероятность объединения дублирующегося кода. В экспериментах Anthropic это происходило примерно в половине случаев против менее 10% без инструкции.

4. Контролируйте субагентов

Избыточная делегация увеличивает расходы. Нужно явно указывать, когда запуск дополнительных агентов оправдан.

5. Следите за системными инструкциями

Накопившиеся ограничения и запреты могут заставлять модель запрашивать лишние подтверждения и избегать обычных действий.

6. Не забывайте про прогресс

Claude может долго выполнять вызовы инструментов без обычных текстовых сообщений. Anthropic рекомендует использовать thinking.display: "updates", чтобы показывать пользователю промежуточный прогресс.

Отдельно разобраны миграция с предыдущих моделей, сохранение контекста, обработка отказов и формирование итоговых отчётов.

Руководство: https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/prompting-claude-fable-5-2

Meituan выпустила веса LongCat-2.5: 1,6 трлн параметров и полностью китайские чипы 🔥

Meituan открыла веса новой модели LongCat-2.5.

Основные характеристики:

- 1,6 трлн параметров всего.
- 48 млрд активных параметров (A48B).
- Обучение полностью проведено на китайских отечественных чипах.
- MIT License - открытая лицензия.

Веса уже доступны на Hugging Face:

https://huggingface.co/meituan-longcat

Ram Altman

⚡️️️️️️️ Google снизила ошибки квантовых вычислений в 40 раз

Google Quantum AI впервые продемонстрировала технологию Magic State Cultivation на реальном квантовом процессоре Willow.

Magic States - специальные квантовые состояния, необходимые для выполнения универсальных квантовых вычислений. Их создание может занимать до 95% ресурсов будущего квантового компьютера.

Новый метод работает как фильтр: система многократно проверяет состояние и отбрасывает неудачные попытки, выращивая более точное состояние из исходного.

Результаты:
- В 40 раз меньше ошибок.
- 99,99% логической точности T-состояний.
- Успешно продемонстрирован перенос состояний между двумя типами кодов коррекции ошибок: Color Code и Surface Code.

Эксперимент проведён на процессоре Willow. Результаты опубликованы в журнале Science.

До практического применения ещё предстоит масштабировать технологию, но Google удалось перенести теоретическую разработку на реальное квантовое оборудование.

Исследование: https://blog.google/innovation-and-ai/models-and-research/quantum-computing/magic-state-cultivation-quantum-computing/

NVIDIA ускорила Mamba-2 до 1,82 раза с помощью Python и CUDA Tile
NVIDIA и Jane Street оптимизировали вычисления Mamba-2, используя CUDA Tile (cuTile) - Python DSL для разработки высокопроизводительных GPU-ядер.

Результат: новые CUDA-ядра работают в 1,14-1,82 раза быстрее реализации на Triton. Причём преимущество растёт вместе с длиной последовательности и размером состояния.

Оптимизация затрагивает три операции:
- chunk_cumsum - вычисляет накопленные значения затухания внутри блоков.
- fwd_pass_state - обновляет скрытое состояние с использованием Tensor Cores.
- compute_out - объединяет несколько вычислений в одно ядро, сокращая обращения к глобальной памяти.
Тестирование проводили на NVIDIA B300 Blackwell Ultra с последовательностью из 16 384 токенов.

cuTile позволяет писать GPU-ядра на Python, а компилятор самостоятельно оптимизирует распределение вычислений и использование аппаратных возможностей GPU.

Mamba-2 использует рекуррентное состояние фиксированного размера вместо классического хранения всей истории внимания. Это делает эффективную реализацию особенно интересной для длинных последовательностей.

Есть оговорка: ускорение измеряли на уровне forward-pass ядер. Это не означает, что вся модель или полный цикл обучения стали быстрее в 1,82 раза.

Статья NVIDIA: https://developer.nvidia.com/blog/accelerating-mamba-2-with-high-performance-forward-pass-kernels-in-nvidia-cuda-tile/

Код и бенчмарки: https://github.com/KnowingNothing/TileGym