Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
🔈 Morph Books - для чтения EPUB голосом TTS Kokoro

Morph - это приложение для чтения голосом.
Импортируйте любой EPUB и СЛУШАЙТЕ С ЕСТЕСТВЕННЫМИ ГОЛОСАМИ ИИ Превратите любую книгу в аудиокнигу с помощью преобразования текста в речь на основе ИИ. Следуйте выделению на уровне слов, которое поддерживает синхронизацию.
РАБОТАЕТ 100% ОФЛАЙН Morph запускает локальную голосовую модель AI непосредственно на вашем устройстве. Интернет не нужен, нет задержек потоковой передачи, нет буферизации. Импортируйте книгу, закройте Wi-Fi и слушайте.

📱 https://apps.apple.com/us/app/morph-books/id6760332618
#MorphBooks #Morph #EPUB #TTS #Kokoro #iPhone #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Zora — ваш помощник на основе ИИ

Zoraлокальный ИИ-сервис для Apple Silicon. В 8 раз быстрее Ollama. Надо 7 ГБ оперативной памяти. Эмоциональная речь, распределенный вывод, самосовершенствование.
Zora, по сути, это тот же Джарвис, но он работает на вашем собственном оборудовании. Никаких облачных сервисов, никаких подписок, никакие данные не покидают ваш компьютер (если только вы не используете режим API), который при желании может использовать Codex.

Zora запускает специально обученную модель искусственного интеллекта на Apple Silicon, обрабатывает электронную почту, WhatsApp, Teams, сортирует входящие письма, готовит к встречам, предоставляя информацию о людях, с которыми встречаетесь, отслеживает обязательства, контролирует инфраструктуру и даже работает ночью, пока спите.
У нее более 150 инструментов, она запоминает, как вы разговариваете с разными людьми, и пишет ответы в вашем стиле. 16-Гб. Mac Mini вполне хватает.

Кроме того, вы можете добавить вычислительные ресурсы, используя функцию узлов с неограниченным количеством узлов/вычислительным потенциалом. Это делается на уровне оркестратора.

У нее также есть собственный трехмерный кабинет, который она обустраивает сама. Растения со временем разрастаются. Она сама выбирает себе питомца. Все дело в мелочах.
Создано с помощью MLX, FastAPI.
Вы даже можете запустить код Claude для локальной модели через Zora на MLX, используя встроенный API.
Если у вас Mac и вы увлекаетесь искусственным интеллектом и самостоятельным хостингом, попробуйте.

🔗 https://github.com/Azkabanned/Zora
(Обсуждение)
#Zora #AgentAi #AiAgent #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Стоит ли переходить с Qwen 3.5 на Gemma 4?
Сравнили Qwen 3.5-27B и Gemma 4-31B и похожие модели с MoE
Читаем! Ну и в комментариях пишут свои впечатления...
#Gemma4 #Gemma #Qwen35 #Qwen #AiModel #MidelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
🔈 OpenVox - преобразование текста в речь TTS для Mac

OpenVox запускает голосовые модели непосредственно на устройстве в macOS. Не нужно ничего настраивать, не требуется ключ API, данные не покидают ваш компьютер.
Что умеет:
- Преобразование текста в речь с помощью Kokoro, Qwen3 TTS и Chatterbox (Turbo и многоязычная версия) — более 300 голосов!
- Преобразование голоса (Chatterbox)
- Клонирование голоса (Qwen3 и Chatterbox)
- Создание аудиокниг на основе объемных текстов
- Создание собственных голосов с помощью подсказок (Qwen3)
Загрузка моделей по запросу, изолированная среда и одобрение App Store.

Бесплатная версия позволяет генерировать 5000 символов в день в течение всего срока использования.
Приложение создано на SwiftUI с использованием MLX для логического вывода на Apple Silicon.

🔗 https://openvoxai.com
⬇️ Mac: https://apps.apple.com/us/app/openvox-local-voice-ai/id6758789314?mt=12
📱 #iPad #iPhone : https://apps.apple.com/us/app/openvox-reader/id6790389555
(Обсуждение)
🎞 Их Канал https://www.youtube.com/@OpenVoxLocalVoiceAI - тут много видео!
Дубляж: https://www.youtube.com/watch?v=7p9MH3wam7c
#OpenVox #Kokoro #Qwen3TTS #Qwen3 #TTS #Chatterbox #Book #MacOS #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
elvean.app - Собственное рабочее пространство с ИИ для macOS

Карты, диаграммы, сортируемые таблицы, многопоточные диалоги и инструменты для работы с агентами. Не просто оболочка для чата. В 1-м нативном приложении.
Хватит переключаться между ChatGPT, Claude и десятком вкладок в браузере. Elvean подключается ко всем основным поставщикам ИИ и вашим локальным моделям через единый собственный интерфейс. Используйте свои собственные API-ключи, платите поставщикам напрямую, без наценки.

- Ollama, LM Studio, MLX, Claude, OpenAI, Gemini, Grok, Cerebras, DeepSeek
- Более 300 моделей через OpenRouter, включая любой API, совместимый с OpenAI
- Переключайте модели во время разговора с помощью @mentions
- API-ключи хранятся в связке ключей macOS, а не на наших серверах

Регистрация не требуется. Скачайте и сразу начинайте общаться.
Бесплатно для начала, Pro — когда будете готовы!

🔗 https://elvean.app
(На нем уже запускают Gemma 4 MLX)
#elveanapp #elvean #app #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: CoPaw-Flash-9B

Официальная агентская доработка Qwen3.5 9b от Alibaba!
CoPaw-Flash — это облегченная модель, оптимизированная для сценария автономного агента CoPaw. С момента обучения модель была специально доработана для выполнения задач CoPaw, что позволило повысить эффективность работы агента при вызове инструментов, выполнении команд, управлении памятью и многоэтапном планировании.
CoPaw-Flash-2B/4B/9B создан на основе Qwen3.5-2B/4B/9B и имеет те же архитектурные параметры.

🔗 https://huggingface.co/agentscope-ai/CoPaw-Flash-9B
(Обсуждение)
#CoPawFlash9B #CoPawFlash #CoPaw #Qwen35 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Qwopus3.5 V3 - 3 улучшенных модели!

Еще одна версия улучшения qwen3.5 с помощью opus 4.6 - это модели с расширенными возможностями логического вывода, основанные на Qwen3.5. Они предназначены для одновременного повышения стабильности и корректности логического вывода при оптимизации эффективности логического вывода, что в конечном итоге позволяет добиться более широких возможностей межзадачного обобщения, особенно в программировании. (подробнее в описании моделей)

🌟 Qwopus3.5-27B-v3 https://huggingface.co/Jackrong/Qwopus3.5-27B-v3-GGUF

🌟 Qwopus3.5-9B-v3 https://huggingface.co/Jackrong/Qwopus3.5-9B-v3-GGUF

🌟 Qwopus3.5-4B-v3 https://huggingface.co/Jackrong/Qwopus3.5-4B-v3-GGUF

#Qwopus #Qwopus35V3 #qwen35 #opus46 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔 Обсуждения и решения для переключения режима Рассуждения у Gemma в LM-Studio

Тут пишут про: Внимание: теги <|channel>thought имеют необычное расположение вертикальной черты (|), из-за чего многие языковые модели не могут правильно проанализировать раздел с рассуждениями.
И предлагают: Jinja template:https://pastebin.com/MGmD8UiC

А тут предлагают править model.yaml и т.п.
#Gemma #Gemma4 #LMStudio #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🦞 AtomicBot.ai - OpenClaw в один клик — и ваш ИИ-помощник готов к работе 24/7

Приложение для OpenClaw с локальными моделями, которое запускается в один клик. Оно включает в себя кэширование TurboQuant, большое контекстное окно и удобный вызов инструментов. Работает на устройствах среднего класса. Бесплатное приложение для #MacOS и #Windows с открытым исходным кодом.
Самой сложной задачей было обеспечить работу локальной агентной модели на устройствах со средними характеристиками, таких как Mac Mini или MacBook Air. На этих устройствах хорошо работают небольшие модели, но для агентов требуются более сложные модели, такие как QWEN или GLM. OpenClaw добавляет большой контекст к каждому запросу, из-за чего MacBook Air испытывал трудности с обработкой данных. Это стало возможным благодаря сжатию кэша TurboQuant даже при 16 ГБ памяти.

Разработчики нашли реализацию TurboQuant на llama.cpp, созданную Томом Терни. Однако во многих случаях она некорректно работала с агентским вызовом инструментов в QWEN, поэтому им пришлось ее доработать. Но даже после этого модель запускалась с трудом. Они решили реализовать кэширование контекста OpenClaw — своего рода процесс «прогрева». После запуска модели требуется несколько минут, но после этого запросы обрабатываются без проблем даже на MacBook Air.

Недавно компания Google анонсировала новую модель логического вывода Gemma 4. Им было интересно сравнить ее с QWEN 3.5 на стандартном компьютере M4. Честно говоря, мы они обнаружили существенной разницы. Скорость обработки данных примерно одинаковая, но QWEN немного быстрее. Обе модели выдают около 10–15 выводов в секунду, и их производительность вполне сопоставима.

Итоговый вывод: агенты теперь готовы к локальному запуску на обычных устройствах. Ответы по-прежнему приходят в 2–3 раза медленнее, чем от мощных облачных моделей, а в рассуждениях агенты пока не могут сравниться с моделями Anthropic, особенно при выполнении сложных задач или написании кода. Однако для повседневных задач, особенно для фоновых процессов, где скорость не критична, они вполне подходят. На Mac Mini стоимостью 600 долларов вы получаете локального агента, который работает круглосуточно и может окупиться за несколько месяцев.

🔗 https://atomicbot.ai
Настройка OpenClaw + локальных моделей. Gemma 4, QWEN 3.5
🔗 https://github.com/AtomicBot-ai/atomicbot
Реализация Llama на C++ с использованием TurboQuant и корректного вызова инструментов:
🔗 https://github.com/AtomicBot-ai/atomic-llama-cpp-turboquant
(Обсуждение)
От авторов atomic.chat https://t.me/Ai2Local/482 - клона #Jan
#OpenClaw #TurboQuant #Gemma4 #atomicbotAi #atomicbot #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Locally AI - Обновилось с моделями: Gemma 4, Bonsai-8B!

Запускайте модели ИИ, такие как Bonsai-8B, Llama, Gemma 4, Qwen и другие, на вашем iPhone и iPad. Оффлайн. Локально. Нет входа в систему. Нет сбора данных. Работает на Apple MLX.
Почему локальный ИИ?
- 100% Оффлайн: Интернет не нужен. Общайтесь в любом месте.
- Полная конфиденциальность: нет входа в систему, нет сбора данных. Ваши данные остаются на вашем устройстве.
- Оптимизированный для Apple Silicon: Работает на Apple MLX для молниеносных ответов.
- Поддерживается несколько моделей: Bonsai, Llama 3.2, Google Gemma 2, 3, 4, Qwen 3.5, DeepSeek и другие.
- Чат, анализ, создание: Задавайте сложные вопросы, анализируйте изображения или создавайте текст.

🔗 https://locallyai.app

⬇️ https://apps.apple.com/de/app/locally-ai-local-ai-chat/id6741426692
(На удивление, модель Bonsai-8B работает очень быстро и знает русский! Внимание - это 8B на обычном iPhone с 8 Гб. ОЗУ)
#Locally #LocallyAi #iPhone #iPad #MacOS #Bonsai #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📊 Open LLMs Leaderboard

🔗 https://artificialanalysis.ai/leaderboards/models
🔗 https://arena.ai/leaderboard/text - внизу выберите «Лицензия» и укажите тип лицензии на открытый исходный код
#LLM #Leaderboard #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 PocketPal AI обновился для Gemma 4, но пока только на GitHub

PocketPal AI — это карманный ИИ-помощник на основе малых языковых моделей (small language models, SLM), который работает прямо на вашем телефоне. Приложение PocketPal AI, разработанное для iOS и Android, позволяет взаимодействовать с различными малыми языковыми моделями без подключения к интернету. Ваша конфиденциальность полностью защищена, поскольку вся обработка данных происходит непосредственно на устройстве — ваши разговоры, запросы и данные никогда не покидают телефон и не сохраняются на внешних серверах.

Выпуск v1.13.2 от 04.04.2026 (Скачать .APK)
Ждем обновление в магазине #iPhone и #Android
Пишут, что запускают: Gemma-4-26B-A4B-it-UD-IQ2_M.gguf
#PocketPalAI #PocketPal #App #LocalAi #AiLocal
👍2