Local Ai
449 subscribers
936 photos
262 videos
4 files
828 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🤖 Zero — опенсорсный терминальный агент на замену Claude Code

Работает локально, прямо в терминале. Подключаешь любую модель: OpenAI, Anthropic, Gemini, DeepSeek, OpenRouter или локальную через Ollama.

💻 Агент анализирует репозиторий, редактирует файлы, выполняет команды и управляет браузером. Опасные действия требуют подтверждения и выполняются в песочнице. История сессий хранится локально.
Поддерживает MCP, плагины и кастомные скиллы.
🔗 https://github.com/gitlawb/zero
#Zero #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Orchestris - бесплатный кроссплатформенный клиент для моделей и API с открытым исходным кодом, а также бесплатный сервер для самостоятельного размещения, рассчитанный на 8 пользователей.
Orchestris состоит из двух частей:
1) Клиент
- Клиент — это быстрая нативная программа, доступная на всех платформах, включая веб. По сути, она мало чем отличается от других чат-клиентов, но при подключении к серверу вам автоматически предоставляется доступ ко всем настроенным для вас моделям, в том числе с открытым или закрытым весом. При подключении к серверу она поддерживает поиск и позволяет создавать API-ключи для ваших агентов. Клиент также поддерживает прямое подключение к моделям через API, подключение к серверу не требуется.
- Версии клиента для Apple App Store и Google Play были отправлены на одобрение в прошлую пятницу, так что, надеюсь, они скоро станут доступны. На данный момент доступны настольные версии, а сервер CE включает в себя веб-клиент.
2) Сервер
По сути, это очень быстрый прокси-сервер, написанный на языке Rust. Однако это не просто прокси-сервер: он позволяет организациям настраивать доступ к моделям для пользователей, отслеживать использование, контролировать расходы и работать с агентами.

🔗 https://github.com/Orchestris-Inc/orchestris
(Обсуждение)
#Orchestris #AiChat #AiServer #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Local Ai
🔈 OpenVox - преобразование текста в речь TTS для Mac OpenVox запускает голосовые модели непосредственно на устройстве в macOS. Не нужно ничего настраивать, не требуется ключ API, данные не покидают ваш компьютер. Что умеет: - Преобразование текста в речь…
⬇️ Обновилось и стало очень функциональным!
OpenVox только что обновился и теперь включает в себя совершенно новые функции Al Transcription и Al Dubbing, которые позволяют использовать мощные локальные системы преобразования речи в текст и многоязычного дубляжа прямо на вашем Mac.
- Добавлена функция Al Transcription с поддержкой аудио, видео и прямой записи с использованием нескольких локальных моделей распознавания речи.
- Добавлена функция Al Dubbing с синхронизированными скриптами, локальным или внешним переводом с помощью Al, возможностью выбора голоса и экспорта аудио/видео.
- Добавлен прямой импорт SRT-файлов и возможность использования переведенных SRT-файлов для дубляжа.
- Voice Clone теперь может транскрибировать эталонный аудиофайл с помощью Apple Speech или загруженных моделей транскрипции.
- Voice Changer теперь принимает видео на вход и экспортирует видео с преобразованной голосовой дорожкой.
- Добавлены последовательные имена файлов для пакетного экспорта, постоянный текст на всех страницах и элементы управления для быстрой паузы.
- Повышена надежность, производительность, совместимость с медиафайлами и улучшен пользовательский интерфейс.

#OpenVox #Kokoro #Qwen3TTS #Qwen3 #TTS #Chatterbox #Book #AiAudioBook #AiSpeech #AiVoice #MacOS #App #AlDubbing #Parakeet #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 LocalRAG! — приложение для общения с документами на основе ИИ
Локальная языковая модель на вашем телефоне — общайтесь с PDF-файлами, аудио- и видеозаписями
Импортируйте PDF-файлы, документы Office, EPUB, изображения, аудиозаписи и видео, а затем задавайте вопросы на простом языке. При выборе локального ИИ ответы генерируются на вашем устройстве и могут работать в автономном режиме. Или выберите Claude, если вам нужна облачная модель.

🔗 https://localrag.app
Доступно на iPhone, iPad и Android
#LocalRAG #App #RAG #iPhone #iPad #iOS #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 XformChat-Local RAG
Android-приложение с акцентом именно на локальный LLM + RAG:

- Офлайн-инференс.
- Загрузка PDF/файлов для context-aware ответов.
- Всё на устройстве, без облака.
⬇️ https://play.google.com/store/apps/details?id=in.xformai.xformchat
#XformChatLocalRAG #XformChat #RAG #App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: EVIE-Preview-4.5B на базе Qwen3.5-4B
📄 Tencent выпустил модель для визуального поиска по документам

Модель EVIE-Preview-4.5B на базе Qwen3.5-4B ищет нужные страницы в документах, анализируя изображения напрямую — без предварительного извлечения текста. Эмбеддинги компактные, всего 128 измерений на токен, поэтому модель требует мало памяти и работает быстро.

💡 Модель справляется со сканами, PDF, таблицами и диаграммами без OCR. Поддерживает английский, французский, немецкий, итальянский, испанский, португальский, китайский и другие языки. Показывает результаты лучше 8B-моделей при вдвое меньшем размере — работает в режиме zero-shot даже на новых языках и форматах.

Основные преимущества:
🎯 Сверхкомпактный 128D-индекс: собственные 128-мерные мультивекторные представления значительно сокращают объем хранилища и время индексации без ущерба для точности поиска.
🏆 Лучшее время на тестах ViDoRe: превосходит более крупные модели на 8 миллиардов параметров на тестах ViDoRe V3 (лидирует в 7 из 8 общедоступных доменов) и обеспечивает самую высокую среднюю точность на тестах ViDoRe V1+V2 (85,93 nDCG@5).
🌐 Надежная многоязычная и мультиформатная система: эффективное обобщение без предварительного обучения на различных языках (английский, французский, немецкий, итальянский, испанский, португальский, зулу и т. д.) и визуальных форматах (диаграммы, таблицы, научные отчеты, финансовые документы).
⚡️ Полная совместимость с ColPali: полная интеграция со стандартной colpali-engine экосистемой и конвейерами оценки с поздним взаимодействием.

🔗 https://github.com/Tencent/EVIE-Preview-4.5B
⬇️ https://huggingface.co/tencent/EVIE-Preview-4.5B
(Обсуждение)
#EVIEPreview45B #EVIEPreview #Tencent #Qwen354B #Qwen35 #PDF #OCR #VDR #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: UI-Mate-27B и UI-Mate-9B
UI-Mate-27B — это легковесный базовый агент графического интерфейса для долгосрочной работы с приложениями и операционными системами. Он анализирует скриншоты в реальном времени, обрабатывает видимое состояние и генерирует структурированные действия для клавиатуры и мыши для взаимодействия с обычным рабочим столом.
UI-Mate поддерживает два взаимодополняющих режима:
- Обычное использование компьютера: выполнение задач на основе инструкций на естественном языке и скриншотов в реальном времени.
- Использование компьютера под руководством демонстрации: адаптация многократно используемого рабочего процесса, взятого из одной успешной демонстрации, для решения новой задачи.

Демонстрация рассматривается как руководство, а не как фиксированный сценарий действий. Модель продолжает перестраивать план действий на основе текущего интерфейса, если меняется содержимое, макет или состояние приложения.

Сведения о модели:
- Параметры: 27B
- Базовая модель: Qwen3.6-27B
- Входные данные: инструкция по выполнению задачи, скриншоты, история взаимодействия и необязательный демонстрационный контекст
- Выходные данные: обоснование, краткое описание действий и структурированные вызовы компьютерных инструментов
- Область действий: мышь, клавиатура, прокрутка, ожидание, взаимодействие с пользователем и выполнение задачи
- Обучение: контролируемая тонкая настройка с последующим онлайн-обучением с подкреплением в исполняемых средах графического интерфейса
- Лицензия: Apache-2.0

Основные моменты:
- Высокая общая производительность при использовании Ubuntu и Windows в тестах.
- Долгосрочное выполнение задач в нескольких приложениях.
- Однократное процедурное обучение на основе демонстраций.
- Обучение в режиме реального времени вместо воспроизведения координат.
- Структурированные действия, совместимые с pyautogui.
- Серверный и клиентский интерфейс, совместимый с OpenAI.

arXiv : https://arxiv.org/abs/2608.15930
PDF : https://arxiv.org/pdf/2608.15930
GitHub : https://github.com/Tencent/UI-Mate
Проект : https://ui-mate.github.io/ (На этой странице вы найдете демонстрацию, результаты тестов и скриншоты)
HuggingFace : https://huggingface.co/collections/tencent/ui-mate
📺 Запустите UI-Mate на своем Mac
⬇️ Приложение для macOS на Apple Silicon. 
(Обсуждение)
#UIMate27B #UIMate9B #AiAgent #AgentAi #Tencent #Qwen3627B #Qwen36 #MacOS #UIMate #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️Представили Unsloth Dynamic V3
Unsloth Dynamic V3 превосходит другие версии более чем на 10 % в тестах Div-300, KLD и других.
Блог со всеми подробностями и дополнительными тестами: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
И новое обновление Unsloth для ПК: https://github.com/unslothai/unsloth
GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
(Обсуждение)
#UnslothDynamicV3 #Unsloth #DynamicV3 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🎶 Веб-интерфейс в стиле Suno для самостоятельного сервера логического вывода MiniMax-Music3

🔗 https://github.com/adambenhassen/minimax-music-ui
Демо: https://demo-minimax-music.adambh.dev/
(Обсуждение)
#Suno #MiniMaxMusic3 #AiMusic #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
✨ MTPLX — Запускайте локальные языковые модели на Apple Silicon примерно в два раза быстрее.

MTPLX — это нативное приложение для Mac и командная строка для запуска локальных языковых моделей с многотокенным предсказанием. Современные модели, такие как Qwen 3.5/3.6/3.8, поставляются со встроенными MTP-модулями. Почти ни одна среда выполнения их не использует.
MTPLX делает следующее: модель генерирует несколько токенов на опережение, проверяет каждый сгенерированный блок за один пакетный прямой проход и фиксирует токены с помощью точной выборки с отклонением и остаточной коррекцией. Та же модель, то же распределение выходных данных, но в 1,6 раза быстрее на Mac mini с M4 и 16 ГБ оперативной памяти и в 2,24 раза быстрее на M5 Max.
Нет второй модели, которая бы занимала вашу оперативную память, и нет жадного обходного пути, который незаметно меняет то, что модель выдала бы при реальных настройках выборки.

🔗 https://mtplx.com
🔗 https://github.com/youssofal/MTPLX
MTPLX 2.11.2 Выпущено сентябрь 2026 года.
~ 2-кратное увеличение скорости для Qwen3.8 27B на Apple Silicon
~ 1,5-кратное увеличение скорости для Qwen3.6 35B AЗB
#MTPLX #SoftAi #AiSoft #MacOS #MTP #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Thuki — офлайн-ассистент для рутинных задач

Плавающий ИИ-секретарь для macOS. Двойное касание клавиши Control вызывает всплывающее окно в стиле «прожектора» в любом месте, даже поверх полноэкранных приложений. Он полностью работает на вашем Mac с собственным встроенным движком: приватный, без облака и без ключей API.
Бесплатное программное обеспечение с открытым исходным кодом.
Подходит для типовых задач: переписать текст, перевести, объяснить ошибку в коде или сделать краткое резюме документа.

Для сложных задач есть режим расширенного мышления — помогает пошагово разобрать проблему.
(Требуется macOS 13.4 (Ventura) или более поздняя версия · Apple Silicon (M1 или новее))
🔗 https://www.thuki.app
🔗 https://github.com/quiet-node/thuki
#Thuki #AgentAi #AiAgent #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM