Он намеренно узкоспециализированный: это не универсальный исполнитель GGUF и не оболочка для другой среды выполнения, а полностью автономная система. Помимо корректной и быстрой работы с моделью, цель проекта — обеспечить специфичную для DS4 загрузку, мгновенный рендеринг, вызов инструментов, обработку KV-состояний (в оперативной памяти и на диске), серверный API и интегрированный агент кодирования, готовый к работе с агентами кодирования или с помощью предоставленного интерфейса командной строки. Также доступны инструменты для генерации GGUF и imatrix, а также для тестирования качества и скорости.
На форуме пишут: Mac Studio M4 Max с 128 ГБ памяти. DeepSeek 4 Flash стабильно работает со скоростью 25 транзакций в секунду.
И еще: Если вы покупаете Macbook Pro M5 на 128 ГБ, вам стоит обратить внимание на https://github.com/antirez/ds4 . На мой взгляд, это самая современная система для агентских рабочих процессов на вашем устройстве. Она работает на базе Deep Seek v4 Flash, которая превосходит Qwen.

LFM2.5 — это новое семейство гибридных моделей, разработанных для использования на устройствах. Оно основано на архитектуре LFM2 с расширенным предварительным обучением и обучением с подкреплением.

Персональный помощник на устройстве: разработан для поддержки реальных приложений, цепочек вызовов инструментов и выполнения сложных инструкций на всех устройствах.

Высокая производительность при сжатии: не уступает гораздо более крупным моделям с высокой плотностью данных и моделями с механизмом обучения на основе примеров в выполнении инструкций и агентных задач.

Непревзойденная пропускная способность: самая быстрая в своем классе модель для логического вывода на процессоре и графическом процессоре, с поддержкой llama.cpp, MLX, vLLM и SGLang с первого дня.

- Живёт повсюду
Telegram, Discord, Slack, WhatsApp, Signal, электронная почта, интерфейс командной строки — и это далеко не полный список платформ. Один агент, одна память!
- Постоянная память
Он изучает ваши проекты, автоматически генерирует навыки и никогда не забывает, как решил ту или иную проблему.
- Целенаправленная автоматизация
Планирование отчетов, резервного копирования и брифингов на основе естественного языка — выполняется автоматически через шлюз, что позволяет сосредоточиться на других задачах.
- Делегирование - Умножение задач
Изолированные субагенты с собственными диалогами, терминалами и скриптами Python RPC для конвейеров с нулевыми затратами на контекст.
- Поиск - Просмотр веб-страниц
Веб-поиск, автоматизация браузера, компьютерное зрение, генерация изображений, преобразование текста в речь и мультимодальные рассуждения.
- Изолированная песочница
Пять бэкендов — локальный, Docker, SSH, Singularity, Modal — с усилением защиты контейнеров и изоляцией пространств имен.

Holo3.1

— это новейшее семейство визуально-языковых моделей (Vision-Language Models, VLM) для агентов, использующих компьютер. В отличие от Holo3, эта модель поддерживает не только автоматизацию браузеров и настольных компьютеров, но и мобильные устройства, а также нативную поддержку вызова функций для бесшовной интеграции с фреймворками агентов и локальное развертывание с помощью оптимизированных контрольных точек с квантованием.

Семейство Holo3.1 включает в себя модели с параметрами от 0,8B до 35B-A3B. Holo3.1 обеспечивает высокую производительность при использовании в компьютерах, пользовательских интерфейсах, мобильных устройствах и бизнес-процессах, повышая гибкость развертывания и экономическую эффективность.

Разработано: компанией H
Тип модели: Визуальные языковые модели для навигации и агентов по использованию компьютеров
Доступные модели: Holo3.1-0.8B, Holo3.1-4B, Holo3.1-9B, Holo3.1-35B-A3B
Базовые модели: семейство Qwen 3.5
Поддерживаемые среды: Веб, настольные, мобильные

Доступные варианты квантования для Holo3.1-35B-A3B: BF16, FP8, NVFP4, Q4 GGUF
Запись в блоге: hcompany.ai/holo3.1
Быстрый запуск: hub.hcompany.ai/quickstart
Лицензия: Лицензия Apache 2.0