Local Ai
448 subscribers
936 photos
262 videos
4 files
828 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Orchestris - бесплатный кроссплатформенный клиент для моделей и API с открытым исходным кодом, а также бесплатный сервер для самостоятельного размещения, рассчитанный на 8 пользователей.
Orchestris состоит из двух частей:
1) Клиент
- Клиент — это быстрая нативная программа, доступная на всех платформах, включая веб. По сути, она мало чем отличается от других чат-клиентов, но при подключении к серверу вам автоматически предоставляется доступ ко всем настроенным для вас моделям, в том числе с открытым или закрытым весом. При подключении к серверу она поддерживает поиск и позволяет создавать API-ключи для ваших агентов. Клиент также поддерживает прямое подключение к моделям через API, подключение к серверу не требуется.
- Версии клиента для Apple App Store и Google Play были отправлены на одобрение в прошлую пятницу, так что, надеюсь, они скоро станут доступны. На данный момент доступны настольные версии, а сервер CE включает в себя веб-клиент.
2) Сервер
По сути, это очень быстрый прокси-сервер, написанный на языке Rust. Однако это не просто прокси-сервер: он позволяет организациям настраивать доступ к моделям для пользователей, отслеживать использование, контролировать расходы и работать с агентами.

🔗 https://github.com/Orchestris-Inc/orchestris
(Обсуждение)
#Orchestris #AiChat #AiServer #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Local Ai
🔈 OpenVox - преобразование текста в речь TTS для Mac OpenVox запускает голосовые модели непосредственно на устройстве в macOS. Не нужно ничего настраивать, не требуется ключ API, данные не покидают ваш компьютер. Что умеет: - Преобразование текста в речь…
⬇️ Обновилось и стало очень функциональным!
OpenVox только что обновился и теперь включает в себя совершенно новые функции Al Transcription и Al Dubbing, которые позволяют использовать мощные локальные системы преобразования речи в текст и многоязычного дубляжа прямо на вашем Mac.
- Добавлена функция Al Transcription с поддержкой аудио, видео и прямой записи с использованием нескольких локальных моделей распознавания речи.
- Добавлена функция Al Dubbing с синхронизированными скриптами, локальным или внешним переводом с помощью Al, возможностью выбора голоса и экспорта аудио/видео.
- Добавлен прямой импорт SRT-файлов и возможность использования переведенных SRT-файлов для дубляжа.
- Voice Clone теперь может транскрибировать эталонный аудиофайл с помощью Apple Speech или загруженных моделей транскрипции.
- Voice Changer теперь принимает видео на вход и экспортирует видео с преобразованной голосовой дорожкой.
- Добавлены последовательные имена файлов для пакетного экспорта, постоянный текст на всех страницах и элементы управления для быстрой паузы.
- Повышена надежность, производительность, совместимость с медиафайлами и улучшен пользовательский интерфейс.

#OpenVox #Kokoro #Qwen3TTS #Qwen3 #TTS #Chatterbox #Book #AiAudioBook #AiSpeech #AiVoice #MacOS #App #AlDubbing #Parakeet #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 LocalRAG! — приложение для общения с документами на основе ИИ
Локальная языковая модель на вашем телефоне — общайтесь с PDF-файлами, аудио- и видеозаписями
Импортируйте PDF-файлы, документы Office, EPUB, изображения, аудиозаписи и видео, а затем задавайте вопросы на простом языке. При выборе локального ИИ ответы генерируются на вашем устройстве и могут работать в автономном режиме. Или выберите Claude, если вам нужна облачная модель.

🔗 https://localrag.app
Доступно на iPhone, iPad и Android
#LocalRAG #App #RAG #iPhone #iPad #iOS #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 XformChat-Local RAG
Android-приложение с акцентом именно на локальный LLM + RAG:

- Офлайн-инференс.
- Загрузка PDF/файлов для context-aware ответов.
- Всё на устройстве, без облака.
⬇️ https://play.google.com/store/apps/details?id=in.xformai.xformchat
#XformChatLocalRAG #XformChat #RAG #App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: EVIE-Preview-4.5B на базе Qwen3.5-4B
📄 Tencent выпустил модель для визуального поиска по документам

Модель EVIE-Preview-4.5B на базе Qwen3.5-4B ищет нужные страницы в документах, анализируя изображения напрямую — без предварительного извлечения текста. Эмбеддинги компактные, всего 128 измерений на токен, поэтому модель требует мало памяти и работает быстро.

💡 Модель справляется со сканами, PDF, таблицами и диаграммами без OCR. Поддерживает английский, французский, немецкий, итальянский, испанский, португальский, китайский и другие языки. Показывает результаты лучше 8B-моделей при вдвое меньшем размере — работает в режиме zero-shot даже на новых языках и форматах.

Основные преимущества:
🎯 Сверхкомпактный 128D-индекс: собственные 128-мерные мультивекторные представления значительно сокращают объем хранилища и время индексации без ущерба для точности поиска.
🏆 Лучшее время на тестах ViDoRe: превосходит более крупные модели на 8 миллиардов параметров на тестах ViDoRe V3 (лидирует в 7 из 8 общедоступных доменов) и обеспечивает самую высокую среднюю точность на тестах ViDoRe V1+V2 (85,93 nDCG@5).
🌐 Надежная многоязычная и мультиформатная система: эффективное обобщение без предварительного обучения на различных языках (английский, французский, немецкий, итальянский, испанский, португальский, зулу и т. д.) и визуальных форматах (диаграммы, таблицы, научные отчеты, финансовые документы).
⚡️ Полная совместимость с ColPali: полная интеграция со стандартной colpali-engine экосистемой и конвейерами оценки с поздним взаимодействием.

🔗 https://github.com/Tencent/EVIE-Preview-4.5B
⬇️ https://huggingface.co/tencent/EVIE-Preview-4.5B
(Обсуждение)
#EVIEPreview45B #EVIEPreview #Tencent #Qwen354B #Qwen35 #PDF #OCR #VDR #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: UI-Mate-27B и UI-Mate-9B
UI-Mate-27B — это легковесный базовый агент графического интерфейса для долгосрочной работы с приложениями и операционными системами. Он анализирует скриншоты в реальном времени, обрабатывает видимое состояние и генерирует структурированные действия для клавиатуры и мыши для взаимодействия с обычным рабочим столом.
UI-Mate поддерживает два взаимодополняющих режима:
- Обычное использование компьютера: выполнение задач на основе инструкций на естественном языке и скриншотов в реальном времени.
- Использование компьютера под руководством демонстрации: адаптация многократно используемого рабочего процесса, взятого из одной успешной демонстрации, для решения новой задачи.

Демонстрация рассматривается как руководство, а не как фиксированный сценарий действий. Модель продолжает перестраивать план действий на основе текущего интерфейса, если меняется содержимое, макет или состояние приложения.

Сведения о модели:
- Параметры: 27B
- Базовая модель: Qwen3.6-27B
- Входные данные: инструкция по выполнению задачи, скриншоты, история взаимодействия и необязательный демонстрационный контекст
- Выходные данные: обоснование, краткое описание действий и структурированные вызовы компьютерных инструментов
- Область действий: мышь, клавиатура, прокрутка, ожидание, взаимодействие с пользователем и выполнение задачи
- Обучение: контролируемая тонкая настройка с последующим онлайн-обучением с подкреплением в исполняемых средах графического интерфейса
- Лицензия: Apache-2.0

Основные моменты:
- Высокая общая производительность при использовании Ubuntu и Windows в тестах.
- Долгосрочное выполнение задач в нескольких приложениях.
- Однократное процедурное обучение на основе демонстраций.
- Обучение в режиме реального времени вместо воспроизведения координат.
- Структурированные действия, совместимые с pyautogui.
- Серверный и клиентский интерфейс, совместимый с OpenAI.

arXiv : https://arxiv.org/abs/2608.15930
PDF : https://arxiv.org/pdf/2608.15930
GitHub : https://github.com/Tencent/UI-Mate
Проект : https://ui-mate.github.io/ (На этой странице вы найдете демонстрацию, результаты тестов и скриншоты)
HuggingFace : https://huggingface.co/collections/tencent/ui-mate
📺 Запустите UI-Mate на своем Mac
⬇️ Приложение для macOS на Apple Silicon. 
(Обсуждение)
#UIMate27B #UIMate9B #AiAgent #AgentAi #Tencent #Qwen3627B #Qwen36 #MacOS #UIMate #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️Представили Unsloth Dynamic V3
Unsloth Dynamic V3 превосходит другие версии более чем на 10 % в тестах Div-300, KLD и других.
Блог со всеми подробностями и дополнительными тестами: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
И новое обновление Unsloth для ПК: https://github.com/unslothai/unsloth
GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
(Обсуждение)
#UnslothDynamicV3 #Unsloth #DynamicV3 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🎶 Веб-интерфейс в стиле Suno для самостоятельного сервера логического вывода MiniMax-Music3

🔗 https://github.com/adambenhassen/minimax-music-ui
Демо: https://demo-minimax-music.adambh.dev/
(Обсуждение)
#Suno #MiniMaxMusic3 #AiMusic #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
✨ MTPLX — Запускайте локальные языковые модели на Apple Silicon примерно в два раза быстрее.

MTPLX — это нативное приложение для Mac и командная строка для запуска локальных языковых моделей с многотокенным предсказанием. Современные модели, такие как Qwen 3.5/3.6/3.8, поставляются со встроенными MTP-модулями. Почти ни одна среда выполнения их не использует.
MTPLX делает следующее: модель генерирует несколько токенов на опережение, проверяет каждый сгенерированный блок за один пакетный прямой проход и фиксирует токены с помощью точной выборки с отклонением и остаточной коррекцией. Та же модель, то же распределение выходных данных, но в 1,6 раза быстрее на Mac mini с M4 и 16 ГБ оперативной памяти и в 2,24 раза быстрее на M5 Max.
Нет второй модели, которая бы занимала вашу оперативную память, и нет жадного обходного пути, который незаметно меняет то, что модель выдала бы при реальных настройках выборки.

🔗 https://mtplx.com
🔗 https://github.com/youssofal/MTPLX
MTPLX 2.11.2 Выпущено сентябрь 2026 года.
~ 2-кратное увеличение скорости для Qwen3.8 27B на Apple Silicon
~ 1,5-кратное увеличение скорости для Qwen3.6 35B AЗB
#MTPLX #SoftAi #AiSoft #MacOS #MTP #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Thuki — офлайн-ассистент для рутинных задач

Плавающий ИИ-секретарь для macOS. Двойное касание клавиши Control вызывает всплывающее окно в стиле «прожектора» в любом месте, даже поверх полноэкранных приложений. Он полностью работает на вашем Mac с собственным встроенным движком: приватный, без облака и без ключей API.
Бесплатное программное обеспечение с открытым исходным кодом.
Подходит для типовых задач: переписать текст, перевести, объяснить ошибку в коде или сделать краткое резюме документа.

Для сложных задач есть режим расширенного мышления — помогает пошагово разобрать проблему.
(Требуется macOS 13.4 (Ventura) или более поздняя версия · Apple Silicon (M1 или новее))
🔗 https://www.thuki.app
🔗 https://github.com/quiet-node/thuki
#Thuki #AgentAi #AiAgent #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🔈 VoiceStudio - локальная замена ElevenLabs.

VoiceStudio - это полностью локальная альтернатива ElevenLabs с открытым исходным кодом - клонирование голоса, дизайн голоса, дублирование видео, диктовка, транскрипция и создание аудиокниг на 646 языках.
Работает на вашем устройстве без подписки, аккаунта и API ключа.
16 движков TTS · 11 движков ASR · Каталог на 646 языках · macOS, Windows и Linux
Что умеет:
🟡Клонирование голоса — хватает трёхсекундного образца; 5–15 секунд дают результат лучше;
🟡Дизайн голоса — собрать голос с нуля, задав возраст, акцент, высоту, манеру и подачу;
🟡Дубляж видео — распознаёт речь, переводит, разделяет спикеров, синтезирует и отдаёт готовое видео;
🟡Аудиокниги и истории — импорт EPUB и PDF, разные голоса на роли, рендер по главам, экспорт в .m4b;
🟡Диктовка в любом окне — системный хоткей, живая расшифровка;
🟡 Разделение голоса и фона — вытаскивает речь из музыки и шума;
🟡 Сотни готовых голосов — галерея архетипов с акцентами, если возиться с клонированием не хочется;
🟡Пакетная очередь — ставишь десятки видео и текстов в работу и уходишь.

🔗 https://voicestudio.sh
🔗 https://github.com/debpalash/VoiceStudio
⬇️Скачать: https://github.com/debpalash/VoiceStudio/releases/latest
#VoiceStudio #AiVoce #TTS #ASR #EPUB #PDF #AiBook #MacOS #Windows #Linux #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM