Local Ai
442 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🤖 Klee - Собственный ИИ-агент для macOS, который работает исключительно на вашем Mac.
Никаких облачных сервисов, аккаунтов и подписок.
Klee — чрезвычайно простой путь к моделям 122B!
Klee использует MLX для запуска больших языковых моделей непосредственно на Apple Silicon, поэтому ваши диалоги никогда не покинут ваше устройство.

Возможности:
- 100% локальный вывод - ваши данные остаются на вашем Mac
- Учетная запись или ключ API не требуются - скачайте и начните общаться в чате
- Загрузка модели в один клик - выберите модель, Klee сделает все остальное
- Вызов встроенного инструмента - искусственный интеллект может читать / записывать файлы, искать в Интернете и запускать команды командной оболочки
- Поддержка Vision - прикрепляйте изображения к вашим сообщениям с помощью поддерживаемых моделей VLM
- Поиск в Интернете - выполняйте поиск в Интернете с помощью Jina AI (бесплатный ключ API, настраивается на боковой панели)
- Потоковые ответы - токены отображаются по мере их создания
- Встроенное мышление - смотрите процесс рассуждений модели на складной карточке
- Платформенные модули - расширяйте искусственный интеллект с помощью встроенных интеграций Swift (скоро появятся)
- Легкий - ~ 75 МБ встроенного приложения SwiftUI, без Electron, без Docker, без фоновых служб

Klee — небольшой нативный SwiftUI AI-agent с MLX. Есть файловые инструменты, shell, web, vision и tool calling.
Что интересно именно вам: разработчики дают прямую аппаратную градацию и для 96 GB+ рекомендуют Qwen 3.5 122B MoE, примерно 70 GB в 4-bit.
Это хороший вариант, если хочется посмотреть, как 122B работает без настройки серверов, Python, портов и API.
(проект пока существенно моложе Osaurus; первая большая версия вышла в марте 2026 года.)

🔗 https://github.com/signerlabs/Klee
Скачать: Klee-v1.0.0.zip
#Klee #AiAgent #AgentAi #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
M-Courtyard - Локальная тонкая настройка больших языковых моделей и подготовка данных без программирования на Apple Silicon. Приоритет конфиденциальности, на базе MLX.

M-Courtyardсобственная специализированная модель без Python
Здесь можно сделать цепочку:
PDF/DOCX → очистка → автоматическое создание instruction/Q&A dataset → LoRA fine-tuning → тестирование → экспорт в MLX/LM Studio/Ollama. Причём всё через GUI.

Почему M-Courtyard?:
M-Courtyard — это настольный помощник, призванный упростить тонкую настройку больших языковых моделей. Забудьте о написании скриптов на Python, управлении зависимостями CUDA или аренде дорогих облачных графических процессоров. Если у вас Mac на базе Apple Silicon, вы можете создать собственный ИИ-процессор локально.

- Zero-Code Pipeline: от необработанных файлов PDF/DOCX до локальных наборов данных, тонкой настройки MLX и экспортируемых локальных сред выполнения — всего за 4 простых шага.
- 100% локально и конфиденциально: данные не покидают ваш компьютер. Идеально подходит для тонкой настройки конфиденциальных корпоративных данных или личных журналов.
- Оптимизировано для Apple MLX: на базе mlx-lm, максимально использующей потенциал унифицированной памяти на чипах M1/M2/M3/M4.
- Подготовка данных с помощью ИИ: автоматическое преобразование неструктурированных документов в высококачественные наборы инструкций с использованием локальных моделей или использование встроенных правил, если генерация с помощью ИИ не требуется.

Для многих задач с продуктовой информацией, обучающими материалами, бизнес методиками и внутренними документами это потенциально интереснее, чем просто RAG: можно экспериментировать с дообучением модели на стиле, терминологии и правилах компании.

🔗 https://github.com/Mcourtyard/m-courtyard
Скачать: M-Courtyard_0.5.9_aarch64.dmg
Откройте терминал и выполните эту команду, чтобы запустить приложение (поскольку оно еще не подписано кодом):
sudo xattr -rd com.apple.quarantine /Applications/M-Courtyard.app
#MCourtyard #RAG #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔈 Vocello - локальная голосовая студия для Apple Silicon.

Напишите сценарий, выберите или опишите голос и сгенерируйте речь на устройстве — быстрее, чем в реальном времени, на Mac mini с M2 и 8 ГБ памяти. Нативный Swift + MLX, без Python. Приложение для Mac уже доступно, бета-версия для iPhone — в TestFlight. (Ранее QwenVoice.)
Vocello — бывший QwenVoice. Нативный Swift + MLX voice studio на Qwen3-TTS: готовые голоса, Voice Design и локальное клонирование голоса.

Что умеет Vocello:
- Встроенный голос: выберите один из девяти встроенных голосов Qwen3, затем настройте язык и манеру речи.
- Создание голоса: опишите голос простыми словами и сгенерируйте его на основе этого описания.
- Клонирование голоса: запишите эталонный голос, на использование которого у вас есть разрешение, подтвердите согласие и сохраните его в своей голосовой библиотеке. На обеих платформах можно записать фрагмент или импортировать аудиофайл; на iPhone в качестве эталона можно использовать сохраненный голос, созданный с помощью функции «Создание голоса».

🔗 https://vocello.vercel.app
🔗 https://github.com/PowerBeef/Vocello
Скачать: Vocello-macos26.dmg. (V 2.4.0 от 01.08.2026)
#Vocello #TTS #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Media is too big
VIEW IN TELEGRAM
⚡️ Local Code - Публичная бета-версия от Draw Things

Создана на основе механизма логического вывода Draw Things, поэтому она обычно в 1,2–1,6 раза быстрее выполняет предварительное заполнение для поддерживаемых моделей (~980 токенов в секунду для Qwen 3.8 27B на M5 Max и ~900 токенов в секунду для DeepSeek 4 Flash 0731).
Но это еще не все: он разработан для работы в рамках своего автономного пакета, который изолирован от внешнего мира с помощью песочницы, предусмотренной Apple в соответствии с требованиями macOS AppStore (App Sandbox, Hardened Runtime), но при этом содержит множество готовых инструментов (Python, Node.js, Lean, Bash и т. д.).

На видео видно, что он выполняет несколько задач одновременно на одном и том же ноутбуке M5 Max. И вы можете воспроизвести то, что происходит в этом видео, просто скачав приложение из TestFlight, загрузив модель и приступив к работе без регистрации (в OpenCode это невозможно, так как, насколько я знаю, для использования инструмента веб-поиска требуется регистрация).

Модели:
В настоящее время компания Local Code рекомендует использовать DeepSeek 4 Flash 0731 с нашим 2/3-битным квантованным вариантом на устройствах с унифицированной памятью объемом 48 ГиБ и более.
Мы также поддерживаем Qwen 3.8 27B с нашими 2-битными и 4-битными квантованными вариантами. В наших внутренних оценках эти варианты показывают результаты, аналогичные полной модели.
Для Qwen 3.8 27B мы также предоставляем варианты, совместимые с llama.cpp, чтобы вы могли попробовать те же квантизации с вашим собственным предпочтительным механизмом вывода и инструментом: https://huggingface.co/drawthingsai/Qwen3.8-27B-GGUF .

Подробнее:
🔗 https://releases.drawthings.ai/p/public-beta-of-local-code-by-draw
Local Code для публичного бета-тестирования через TestFlight.
(Обсуждение)
#LocalCode #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Khoj - Ваш второй мозг — ИИ.

Desktop-клиент следит за выбранными папками и синкает их в локальный сервер. Чат по документам, PDF/MD/DOCX, локальные или облачные модели. Ближе к «второму мозгу», чем к мгновенному поиску по всему диску.
Самостоятельный хостинг. Получайте ответы из интернета или из документации. Создавайте собственных агентов, планируйте автоматизацию, проводите глубокие исследования. Превратите любую онлайн- или локальную языковую модель в свой персональный автономный ИИ (gpt, claude, gemini, llama, qwen, mistral). Начните работу бесплатно.

Khoj — это персональное приложение с искусственным интеллектом, которое расширяет ваши возможности. Оно легко масштабируется от персонального ИИ на устройстве до корпоративного ИИ в облаке.
Общайтесь с любой локальной или онлайн-моделью больших языковых систем (например, llama3, qwen, gemma, mistral, gpt, claude, gemini, deepseek).
Получайте ответы из интернета и своих документов (включая изображения, PDF, файлы в форматах Markdown, Org-Mode, Word, Notion).
Доступ к ним возможен из браузера, Obsidian, Emacs, на рабочем столе, с телефона или через WhatsApp.
Создавайте агентов с индивидуальными знаниями, образом, моделью общения и инструментами для выполнения любых задач.
Автоматизируйте повторяющиеся исследования. Получайте персональные рассылки и интеллектуальные уведомления на свой почтовый ящик.
Быстро и легко находите нужные документы с помощью нашего расширенного семантического поиска.
Создавайте изображения, озвучивайте сообщения, проигрывайте их.
Khoj — это платформа с открытым исходным кодом, которую можно разместить на собственном сервере. Всегда.
Запустите его в приватном режиме на своем компьютере или попробуйте наше облачное приложение.
Зайдите на https://app.khoj.dev, чтобы посмотреть Khoj в прямом эфире.

🔗 https://github.com/khoj-ai/khoj
#Khoj #RAG #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ Cline Desktop — open-source среда для AI-агентов.

Агент кодирования Cline в виде нативного настольного приложения. Не требуется редактор — откройте рабочее пространство, пообщайтесь со своим агентом и отправляйте код.
Внутри уже доступны бесплатные DeepSeek V4 Flash, GLM 5.3 Flash и Laguna S 2.1. Также можно подключать свои API-ключи и локальные модели.
🔗 Доступен на macOS и Windows.
🔗 https://github.com/cline/cline
#ClineDesktop #Cline #MacOS #Windows #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: K2-Horizon-7B для слабых GPU!

K2 Horizon 7B занимает место между Qwen 3.6 27B и Qwen 3.6 35BA3b в Индексе искусственного интеллекта.
🔗 https://huggingface.co/IFM/K2-Horizon-7B-GGUF
(Обсуждение) (Еще про K2 Horizon)
#K2Horizon7B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Qwen3.8-27B-Humanlike -Чат: модель, которую настроили для имитации реалистичного общения человека с человеком

На основе huihui-ai/Huihui-Qwen3.8-27B-abliterated.
Цель состояла не в том, чтобы сделать Qwen умнее или улучшить его результаты в тестах, а изменить его манеру ведения диалога, чтобы он перестал превращать каждый ответ в объяснение, соглашаться со всем подряд и писать что-то просто для того, чтобы «разговор» продолжался.
🔗 https://huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF
Демо: https://huggingface.co/spaces/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat
(Подробнее и Обсуждение)
#Qwen38 #Qwen3827B #БезЦензуры #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
2
This media is not supported in your browser
VIEW IN TELEGRAM
Модель: OUI-1 : модель, которая генерирует индивидуальные элементы пользовательского интерфейса!

openui.com выпустила OUI-1 — модель, дообученную на DiffusionGemma.
🔗 https://huggingface.co/thesysdev/OUI-1
⬇️ https://huggingface.co/dicksondickson/OUI-1-gguf
или https://huggingface.co/Abiray/OUI-1-GGUF
Использовать в https://unsloth.ai/docs/desktop
🎞 Смотреть https://www.youtube.com/watch?v=4ldVbgTpw_8
(Обсуждение)
#OUI1 #DiffusionGemma #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Infercat - Пусть друзья пообщаются с вашим локальным ИИ!

Поделитесь моделью на своем компьютере с друзьями: один бинарный файл перед llama.cpp, vLLM, Ollama или LM Studio; один пригласительный код; они общаются в браузере. Собственный хостинг, сквозное шифрование, никаких аккаунтов.

🔗 https://github.com/infercat/infercat
Демо подробно: https://infercat.ai
(Подробнее и Обсуждение)
#Infercat #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM