Этот веб-сайт содержит:
- Ссылки на все официальные ресурсы, связанные с проектом Heretic
- Полное руководство по использованию Heretic
- Подробные инструкции по установке с несколькими резервными источниками
- Документация с возможностью поиска по каждому параметру конфигурации

Нет никакой гарантии, что такие платформы, как GitHub и Hugging Face, и в будущем будут размещать ресурсы Heretic, поэтому я рекомендую добавить этот сайт в закладки, так как он всегда будет указывать на то место, где в данный момент находятся ресурсы отдельных проектов.

Но теперь перейдем к главному. Как вы, возможно, заметили, враждебность по отношению к локальным языковым моделям растет повсеместно, особенно это касается моделей без цензуры, таких как Heretic. Проект уже получил официальное уведомление от Meta и подвергся нападкам в ведущих СМИ. К сожалению, мир ИИ по-прежнему зависит от одной крупной точки отказа в сфере хостинга моделей, которую очень сложно заменить, поскольку языковые модели огромны.

Что, если однажды эта единственная точка отказа действительно выйдет из строя по той или иной причине? Что, если для получения моделей Heretic вам больше не удастся просто зайти на Hugging Face? Что, если десятки тысяч часов, потраченных сообществом на создание этих моделей, просто исчезнут?

Этот экзистенциальный риск беспокоил меня уже некоторое время, и после нескольких месяцев кропотливой работы я рад сообщить, что у нас есть решение: все просто скачивают все модели Heretic на свои компьютеры! Таким образом, если исходная модель будет удалена, у вас останется локальная копия. Легко, правда?

Теперь вы, наверное, думаете, что это глупая шутка. Что ж, вот вам кульминация: Размер этих моделей — всего 9 килобайт, так что вы можете хранить их тысячи на своем телефоне и даже не заметить.

Локальное приложение для чата с большими языковыми моделями для компьютеров Apple Silicon Mac. Оно просматривает и загружает модели с сайта Hugging Face, запускает их на устройстве с помощью MLX и может предоставлять API, совместимый с OpenAI, для других приложений. Вычисления выполняются локально. Приложение использует только сеть Hugging Face для поиска и загрузки моделей, а также дополнительную функцию распознавания речи, которая загружается при установке.

Характеристики:
- Чат с потоковой передачей ответов. Markdown, математические формулы в KaTeX, диаграммы Mermaid и код с подсветкой синтаксиса. Выбор модели для каждого чата, редактирование сообщений, навигация по веткам и история переписки с поиском.
- Модели. Поиск моделей MLX на Hugging Face и их загрузка. Загрузка возобновляется после прерывания и отображается в док-панели.
- Библиотека. Управление загруженными моделями: загрузка, выгрузка, установка по умолчанию или удаление.
- Сервер. Дополнительная конечная точка, совместимая с OpenAI (/v1/chat/completions, /v1/models). По умолчанию отключена. Привязывается к локальному хосту, если только вы не включите доступ по локальной сети и не укажете ключ API.
- Речь. Дополнительная функция преобразования текста в речь и речи в текст. Требуется установка среды выполнения mlx-audio. Для записи требуется доступ к микрофону.

Приложение подписано вручную, поэтому при первом запуске macOS Gatekeeper блокирует его. Чтобы открыть его, щелкните правой кнопкой мыши по приложению и выберите «Открыть», затем нажмите «Открыть» в диалоговом окне или выполните следующую команду в Терминале:
xattr -dr com.apple.quarantine /Applications/AeroLLM.app
После этого он открывается как обычно.

Познакомьтесь с Keye-VL-2.0-30B-A3B — новейшей флагманской базовой моделью класса 30B в серии Keye, специально разработанной для решения задач, связанных с распознаванием длинных видео, и реализации возможностей первого поколения агентов семейства Keye.

Основные моменты:
Превосходное понимание видео и временная локализация: по пяти видеотестам Keye-VL-2.0-30B-A3B опережает конкурентов с открытым исходным кодом и не уступает или даже превосходит Gemini-3-Flash по временной локализации.

Архитектура с поддержкой длинных контекстов на основе DSA: разреженное внимание и целенаправленная агрегация признаков обеспечивают точное понимание видео продолжительностью в час при сохранении эффективности вычислений.

Высокоэффективный стек для логического вывода и обучения: DSA (DeepSeek Sparse Attention), ExtraIO, гетерогенный параллелизм ViT-LM, оптимизация активации и пользовательские ядра снижают затраты на предварительное заполнение длинных последовательностей и повышают производительность обучения.

Мультимодальное предварительное обучение с ориентацией на данные: тщательно отобранный набор данных, визуальный кодировщик Keye-VL-1.5 и синтетические данные CoT улучшают восприятие, распознавание текста, понимание диаграмм и таблиц, а также логическую последовательность.

Надежная пост-обработка для достоверного логического вывода: MOPD, масштабирование с учетом преимуществ сегментирования, Context-RL и фильтрация данных с высоким соотношением сигнал/шум улучшают межмодальное объединение экспертных знаний, уменьшают количество ложных срабатываний и стабилизируют принятие решений с учетом контекста.

Мультимодальные возможности для агентов: встроенные функции агента для работы с кодом, инструментами и поиском поддерживают задачи, связанные с репозиториями, использование инструментов в стиле API, веб-поиск и визуальные рабочие процессы самокоррекции.

Keye-VL-2.0-30B-A3B — первая мультимодальная модель, в которой технология DSA внедрена в производственный процесс. Она обеспечивает практически безошибочное распознавание сверхдлинного контекста длиной до 256 тысяч символов. Она превосходит другие модели по скорости обработки видео и не уступает — а то и превосходит — топовые модели с закрытым исходным кодом в области детализированного восприятия временных последовательностей. Что еще важнее, это первая базовая модель Keye со встроенным механизмом взаимодействия агентов, демонстрирующая надежную системную оркестровку в сценариях поиска, инструментов и кода.