- Мультимодальный граф: видео, аудио, изображения, текст и действия с инструментами в одном конвейере.
- Собственный Metal-вывод: пользовательские ядра и отсутствие сторонних тензорных фреймворков для оптимальной скорости.
- Базовая модель для Mac: потоковая передача весов и подготовка 4-битной модели для генерации изображений/видео на компьютерах с 16 ГБ памяти.
- Готовые рабочие процессы: редактирование изображений, видео в MiniMax H3, чат Qwen, VQA в реальном времени, ASR/TTS и вызов локальных инструментов.
- Воспроизводимый Composer: сохранение макетов, подсказок, параметров и конфигурации модели для каждой спецификации пайплайна.
- Простота в использовании: приложение для macOS, управление через веб-интерфейс и удаленный доступ через браузер на телефоне.

Почему VPIPE:
- Запускает MiniMax H3 FL2VA и REF2VA на Apple Silicon Mac — модели 33B, которая генерирует видео и его звуковое сопровождение на накопителе объемом всего 16 ГБ. Теперь с поддержкой Turbo LoRA!
- Работает LTX-2.5 на Apple Silicon Mac — модель 22B генерирует видео и саундтрек одновременно, опять же на 16 ГБ, с помощью плагина vpipe-ltx-2.5.
- Использует Krea-2 Turbo — модель преобразования текста в изображение, оптимизированную для 12B CFG, — на опубликованных весах bf16, без этапа квантования. 
- Генерация изображений и видео на компьютерах Mac с базовой моделью.
- Мультимодальные конвейеры в реальном времени для VQA, ASR, чата, TTS, редактирования изображений, генерации видео и использования инструментов. Теперь с поддержкой Qwen 3.8 27B!

Это не LLM-чат, а локальная мультимодальная pipeline-система с собственными Metal kernels.
Видео → аудио → изображения → VLM → ASR → TTS → инструменты можно соединять в единый граф. Есть image generation / editing, MiniMax H3 video+audio, LTX-2.5, Krea, realtime VQA, Qwen chat и локальные tools.
И что особенно приятно — на официальном сайте разработчики прямо относят M4 Max 48–128 GB к классу машин для:
Video generation + Video/Audio + Batch runs.
Если Draw Things — удобный генератор, то VPIPE — скорее локальная лаборатория мультимодального AI.

Это не ещё один inference engine. Это инструмент, который позволит понять, какой из всех этих движков реально лучше работает на вашем конкретном M4 Max.
С версии 3.0 он умеет также тестировать Apple Intelligence / Foundation Model.
Anubis подключается к Ollama, LM Studio, MLX, oMLX и любому OpenAI-compatible серверу и одновременно измеряет output tok/s, prefill tok/s, TTFT, GPU, CPU, process/model memory, энергопотребление, частоту GPU и thermal state. Есть сохранение результатов и Arena Mode.
Приложение создано на SwiftUI для Apple Silicon и предоставляет аппаратную телеметрию в режиме реального времени, сопоставленную с полной производительностью логического вывода с сохранением истории — такого нет ни в одном инструменте командной строки или чат-обёртке. Экспортируйте результаты тестов напрямую, без скриншотов, а необработанные данные — в формате .MD или .CSV из истории. Вы даже можете OLLAMA PULL моделировать прямо в приложении.
Можно поставить его до начала сравнений gmlx / Rapid-MLX / oMLX / LM Studio / MLX Studio.

Swama — это высокопроизводительная среда выполнения для машинного обучения, написанная на чистом Swift, разработанная специально для macOS и основанная на фреймворке Apple MLX. Она представляет собой мощное и простое в использовании решение для локального логического вывода в больших языковых моделях (Large Language Model, LLM) и визуальных языковых моделях (Vision Language Model, VLM).

✨ Возможности:
🚀 Высокая производительность: построено на фреймворке Apple MLX, оптимизировано для Apple Silicon
🔌 API, совместимый с OpenAI: стандартная поддержка конечных точек /v1/chat/completions, /v1/embeddings, /v1/audio/transcriptions и /v1/audio/speech (экспериментальная) с вызовом инструментов
📱 Приложение в строке меню: элегантная интеграция с собственной строкой меню macOS
💻 Инструменты командной строки: полная поддержка интерфейса командной строки для управления моделями и логического вывода
🖼 Мультимодальная поддержка: поддержка текстового и графического ввода
🎤 Локальная аудиотранскрипция: встроенное распознавание речи на основе Qwen3-ASR и других моделей MLX ASR (без использования облачных сервисов)
🔍 Текстовые эмбеддинги: встроенная генерация эмбеддингов для семантического поиска и приложений RAG
📦 Умное управление моделями: автоматическая загрузка, кэширование и управление версиями
🔄 Потоковые ответы: поддержка потоковой генерации текста в реальном времени
🌍 Интеграция с HuggingFace: прямая загрузка моделей из HuggingFace Hub

Klee использует MLX для запуска больших языковых моделей непосредственно на Apple Silicon, поэтому ваши диалоги никогда не покинут ваше устройство.

Возможности:
- 100% локальный вывод - ваши данные остаются на вашем Mac
- Учетная запись или ключ API не требуются - скачайте и начните общаться в чате
- Загрузка модели в один клик - выберите модель, Klee сделает все остальное
- Вызов встроенного инструмента - искусственный интеллект может читать / записывать файлы, искать в Интернете и запускать команды командной оболочки
- Поддержка Vision - прикрепляйте изображения к вашим сообщениям с помощью поддерживаемых моделей VLM
- Поиск в Интернете - выполняйте поиск в Интернете с помощью Jina AI (бесплатный ключ API, настраивается на боковой панели)
- Потоковые ответы - токены отображаются по мере их создания
- Встроенное мышление - смотрите процесс рассуждений модели на складной карточке
- Платформенные модули - расширяйте искусственный интеллект с помощью встроенных интеграций Swift (скоро появятся)
- Легкий - ~ 75 МБ встроенного приложения SwiftUI, без Electron, без Docker, без фоновых служб

Klee — небольшой нативный SwiftUI AI-agent с MLX. Есть файловые инструменты, shell, web, vision и tool calling.
Что интересно именно вам: разработчики дают прямую аппаратную градацию и для 96 GB+ рекомендуют Qwen 3.5 122B MoE, примерно 70 GB в 4-bit.
Это хороший вариант, если хочется посмотреть, как 122B работает без настройки серверов, Python, портов и API.
(проект пока существенно моложе Osaurus; первая большая версия вышла в марте 2026 года.)

Здесь можно сделать цепочку:
PDF/DOCX → очистка → автоматическое создание instruction/Q&A dataset → LoRA fine-tuning → тестирование → экспорт в MLX/LM Studio/Ollama. Причём всё через GUI.

Почему M-Courtyard?:
M-Courtyard — это настольный помощник, призванный упростить тонкую настройку больших языковых моделей. Забудьте о написании скриптов на Python, управлении зависимостями CUDA или аренде дорогих облачных графических процессоров. Если у вас Mac на базе Apple Silicon, вы можете создать собственный ИИ-процессор локально.

- Zero-Code Pipeline: от необработанных файлов PDF/DOCX до локальных наборов данных, тонкой настройки MLX и экспортируемых локальных сред выполнения — всего за 4 простых шага.
- 100% локально и конфиденциально: данные не покидают ваш компьютер. Идеально подходит для тонкой настройки конфиденциальных корпоративных данных или личных журналов.
- Оптимизировано для Apple MLX: на базе mlx-lm, максимально использующей потенциал унифицированной памяти на чипах M1/M2/M3/M4.
- Подготовка данных с помощью ИИ: автоматическое преобразование неструктурированных документов в высококачественные наборы инструкций с использованием локальных моделей или использование встроенных правил, если генерация с помощью ИИ не требуется.

Для многих задач с продуктовой информацией, обучающими материалами, бизнес методиками и внутренними документами это потенциально интереснее, чем просто RAG: можно экспериментировать с дообучением модели на стиле, терминологии и правилах компании.

Напишите сценарий, выберите или опишите голос и сгенерируйте речь на устройстве — быстрее, чем в реальном времени, на Mac mini с M2 и 8 ГБ памяти. Нативный Swift + MLX, без Python. Приложение для Mac уже доступно, бета-версия для iPhone — в TestFlight. (Ранее QwenVoice.)
Vocello — бывший QwenVoice. Нативный Swift + MLX voice studio на Qwen3-TTS: готовые голоса, Voice Design и локальное клонирование голоса.

Что умеет Vocello:
- Встроенный голос: выберите один из девяти встроенных голосов Qwen3, затем настройте язык и манеру речи.
- Создание голоса: опишите голос простыми словами и сгенерируйте его на основе этого описания.
- Клонирование голоса: запишите эталонный голос, на использование которого у вас есть разрешение, подтвердите согласие и сохраните его в своей голосовой библиотеке. На обеих платформах можно записать фрагмент или импортировать аудиофайл; на iPhone в качестве эталона можно использовать сохраненный голос, созданный с помощью функции «Создание голоса».

Самостоятельный хостинг. Получайте ответы из интернета или из документации. Создавайте собственных агентов, планируйте автоматизацию, проводите глубокие исследования. Превратите любую онлайн- или локальную языковую модель в свой персональный автономный ИИ (gpt, claude, gemini, llama, qwen, mistral). Начните работу бесплатно.

Khoj — это персональное приложение с искусственным интеллектом, которое расширяет ваши возможности. Оно легко масштабируется от персонального ИИ на устройстве до корпоративного ИИ в облаке.
Общайтесь с любой локальной или онлайн-моделью больших языковых систем (например, llama3, qwen, gemma, mistral, gpt, claude, gemini, deepseek).
Получайте ответы из интернета и своих документов (включая изображения, PDF, файлы в форматах Markdown, Org-Mode, Word, Notion).
Доступ к ним возможен из браузера, Obsidian, Emacs, на рабочем столе, с телефона или через WhatsApp.
Создавайте агентов с индивидуальными знаниями, образом, моделью общения и инструментами для выполнения любых задач.
Автоматизируйте повторяющиеся исследования. Получайте персональные рассылки и интеллектуальные уведомления на свой почтовый ящик.
Быстро и легко находите нужные документы с помощью нашего расширенного семантического поиска.
Создавайте изображения, озвучивайте сообщения, проигрывайте их.
Khoj — это платформа с открытым исходным кодом, которую можно разместить на собственном сервере. Всегда.
Запустите его в приватном режиме на своем компьютере или попробуйте наше облачное приложение.
Зайдите на https://app.khoj.dev, чтобы посмотреть Khoj в прямом эфире.