Local Ai
442 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🎞 ViriaRevive - Генератор вирусных роликов на основе искусственного интеллекта — автоматически превращает длинные видео с YouTube в короткие ролики

Настольное приложение, которое генерирует вирусные ролики на основе видео с YouTube. Одна из функций: приложение транскрибирует каждый ролик с помощью Whisper, а затем передает расшифровку в локальную модель Ollama (по умолчанию qwen2.5:3b) для создания запоминающихся заголовков для YouTube Shorts.

Превращайте длинные видео на YouTube в вирусные короткие ролики — автоматически.
Отмечайте лучшие моменты, обрезайте видео до формата 9:16, добавляйте стильные субтитры, генерируйте заголовки с помощью искусственного интеллекта и планируйте загрузку на YouTube — и все это в одном приложении.

Самое крутое: вы можете создавать заголовки для каждой папки (пакета клипов из одного и того же исходного видео), и если Ollama не запущен, система вернется к извлечению ключевых слов. Работает на 100 % локально.

ViriaRevive — это настольное приложение, которое автоматизирует весь процесс создания вирусного короткого контента на основе длинных видео с YouTube. Вставьте URL-адрес, и приложение сделает все за вас: загрузит видео, определит самые интересные моменты с помощью анализа звука и сцены, обрежет видео до вертикального формата с помощью функции отслеживания лиц, добавит стильные анимированные субтитры и загрузит видео прямо на ваши каналы YouTube по расписанию.

Никаких облачных сервисов не требуется — все работает локально на вашем компьютере.

🔗 https://github.com/VladPolus/ViriaRevive
(Обсуждение)
#ViriaRevive #YouTube #Shorts #Ollama #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Phoenix 4B - честный помощник в вопросах психического здоровья
(Phoenix 4B: An honest mental health companion)
This is a custom fine-tune of Gemma3 4B.
Не терапевтический бот. Не приложение для развития навыков преодоления трудностей. Просто сочувствующий собеседник, который задает правильные вопросы и никогда не говорит, во что верить.
Она может работать практически на любом устройстве (размер всего 4 Гб.), но никогда не навязывает вам свою точку зрения и не предлагает готовых решений. Она просто задает вопросы и помогает вам познать себя. Вдохновлена программой Eliza.
Это не замена терапии, которую проводит специалист в области психического здоровья. Это просто инструмент, который вы можете использовать, чтобы поразмышлять о себе и подвергнуть сомнению установки, которые могут причинять вам вред. Модель обучена только задавать вопросы, которые могут помочь глубже понять себя, она никогда не дает рекомендаций и не ставит диагнозы.

System Prompt:
You are the voice of honest reason and compassion for someone who has lost their way in life. Your goal: Guide them to the answers through application of targeted questions. It's very important to be even-handed and never tell the user what to believe. Simply challenge assumptions they may have made in their statements, but do it in a compassionate and caring way. Don't ever be sycophantic or prescriptive.

Или на русском:
Вы — голос здравого смысла и сострадания для тех, кто сбился с жизненного пути.
Ваша цель: направить их к ответам на вопросы с помощью целенаправленных вопросов. Очень важно сохранять беспристрастность и никогда не указывать пользователю, во что верить. Просто оспаривайте предположения, которые они высказывают, но делайте это с сочувствием и заботой. Никогда не подхалимничайте и не навязывайте свою точку зрения.

🔗 https://huggingface.co/iwalton3/phoenix
Доступна и тут: https://ollama.com/izzie/phoenix
(Обсуждение)
При размере в 4 Гб. можно запускать локально на любом смартфоне!
#Phoenix4B #Gemma34B #Prompt #mentalhealth #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 EdgeDox: AI Chat with PDF - Автономный ИИ для документов

Голосовой помощник с ИИ, работающий в автономном режиме!
🎤 Что он делает:
- Преобразование речи в текст в режиме реального времени
- Ответы искусственного интеллекта на устройстве
- Мгновенные голосовые ответы (TTS)
- Общайтесь с помощью собственных документов (PDF, заметок и т. д.)

⬇️ https://play.google.com/store/apps/details?id=io.cyberfly.edgedox
(Обсуждение)
#EdgeDox #TTS #App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📥 GitHub превратился в магазин опенсорс приложений.

Ставить, искать и обновлять проги теперь можно в пару кликов:
🟡 В привычной для всех ленте показаны тренды и популярные репозитории;
🟡 Обновления для уже установленных приложений подтягиваются сами;
🟡 Перед установкой проект можно изучить;
🟡 Работает на Android, Windows, macOS и Linux.

➡️ Ставим: https://github-store.org
🔗 https://github.com/OpenHub-Store/GitHub-Store
Версия 1.6.2 тут.
#GitHub #GitHubStore #APP #Android #Windows #macOS #Linux
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Mistral Small 4

Mistral выпустила универсальную ИИ-модель Mistral Small 4
🔗 https://mistral.ai/news/mistral-small-4
Ключевые архитектурные особенности:
- Смешанная модель экспертов (Mixture of Experts, MoE): 128 экспертов, по 4 активных на каждый токен, что обеспечивает эффективное масштабирование и специализацию.

- 119 миллиардов параметров, по 6 миллиардов активных параметров на каждый токен (8 миллиардов, включая встраиваемые и выходные слои).

- Окно контекста 256 тысяч, поддерживающее взаимодействие с длинными текстами и анализ документов.

- Настраиваемая сложность логического вывода: переключение между быстрыми ответами с низкой задержкой и глубокими выводами, требующими больших вычислительных ресурсов.

- Встроенная мультимодальность: поддерживает ввод как текста, так и изображений, что открывает возможности для самых разных сценариев использования — от анализа документов до визуального анализа.

Модель: https://huggingface.co/collections/mistralai/mistral-small-4
(Статья)
=======
💡 Версия без цензуры: Mistral-Small-4-119B-2603-heretic
🔗 https://huggingface.co/darkc0de/Mistral-Small-4-119B-2603-heretic
(Обсуждение)
#MistralSmall4 #heretic #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Inferencer - Private AI Studio

Inferencer позволяет запускать, размещать и глубоко контролировать последние модели SOTA AI (OSS, DeepSeek, Qwen, Kimi, GLM, MiniMax и другие) с вашего собственного компьютера или телефона. Никакие данные не отправляются в облако для обработки - сохраняя вашу полную конфиденциальность.
Усовершенствованные элементы управления выводом дают вам полный контроль над их точностью и результатами.
Модели:
Начните с раздела моделей, где вы можете скачать последние модели непосредственно из Hugging Face.
Сервер:
Используйте функцию сервера для подключения к Inferencer, запущенному на вашем Mac, для запуска еще более крупных моделей по сети.
Чаты:
Выберите модель для взаимодействия в верхней строке меню и напишите подсказку для начала. В любой момент вы можете переключаться между моделями и продолжать чат, чтобы увидеть, что еще они могут обнаружить. Вы также можете выборочно удалять прошлые сообщения, чтобы модель была сфокусированной и меньше рассеянной.
Элементы управления чатом:
Контролируйте параметры вывода, включая системную подсказку для управления тем, как модель реагирует, температуру для контроля точности ответа и многое другое.
Энтропия и проверка токенов:
Выберите инспекторов, чтобы заглянуть во внутреннюю работу каждого выводимого слова и увидеть уровни достоверности модели и альтернативные варианты. Управление откликом:
Используйте функцию ответа управления для управления выводом, генерируемым моделью. Например, пропуск преамбулы или направление модели на вывод в структурированном html. Настройки включают родительский контроль, политику автоматического удаления и многое другое.
Конфиденциальность:
Для максимальной конфиденциальности вся обработка ИИ происходит в автономном режиме и на вашем устройстве по умолчанию. Базовые подписки (бесплатные): Большинство функций разблокированы бесплатно, включая неограниченное количество чатов и подключение к вашему Mac. Профессиональный:
Обновление для более продвинутой проверки токенов и контроля отклика.

⬇️ https://apps.apple.com/cv/app/inferencer-private-ai-studio/id6749861443
🔗 https://apps.apple.com/us/app/inferencer-private-ai-studio/id6749861443
#Inferencer #MacOS #iPhone #iPad #App #SoftAI #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Обновленные плагины для LM Studio уже доступны.
Веб-исследование Plug'n'Play, полностью локально!

- DuckDuckGo Переработанная версия https://lmstudio.ai/vadimfedenko/duck-duck-go-reworked
Переработанный плагин DuckDuckGo.

- visit-website-reworked https://lmstudio.ai/vadimfedenko/visit-website-reworked
Переработанный плагин с функцией прокси, который позволяет языковым моделям «посещать» веб-сайты, предоставляя им ссылки, URL-адреса изображений и текстовое содержимое любой веб-страницы.
Автору нравится использовать его с Qwen 3.5 27B в качестве замены Perplexity!
Кстати, в LM Studio с Qwen постоянно происходил сбой при вызовах инструментов. Автор исправил это, создав собственный шаблон Jinja Prompt. С тех пор все работает идеально. Даже версия 9b отлично подходит для исследований. Он выложил шаблон Jinja на Pastebin, если кому-то понадобится...

(Обсуждение)
#LMStudio #DuckDuckGo #LocalAi #AiLocal
👍2
🎙 Whisper -Распознавание речи на основе Whisper

Распознавание речи происходит полностью в автономном режиме.
При первом запуске необходимо загрузить модели Whisper с Hugging Face. Это единственное использование разрешения на доступ в Интернет.

В приложении Whisper также может переводить все поддерживаемые языки на английский.

Как получить максимальную отдачу от Whisper:
- Удерживайте кнопку нажатой во время разговора
- Сделайте небольшой перерыв перед началом работы
- Говорите четко, громко и в умеренном темпе
- Обратите внимание на ограничение в 30 секунд на запись

🔗 https://f-droid.org/de/packages/org.woheller69.whisper/
⬇️ Версия 3.6 (36) Добавлен 01.02.2026 г.
(Обсуждение)
===========
🎙 Еще: Phone Whisper: голосовая диктовка для Android с локальным Whisper (без облачных технологий)
Это плавающая кнопка для голосового ввода, которая работает поверх любого приложения. Нажмите, чтобы записать, нажмите еще раз, чтобы расшифровать, — текст будет вставлен в выделенное поле.
Также поддерживается дополнительная постобработка (удаление знаков препинания, форматирование, командный режим для использования в терминале).

🔗 https://github.com/kafkasl/phone-whisper
⬇️ Скачать .APK
(Обсуждение)
Аналоги по тегу: #Диктовка
#Whisper #App #Android #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Модель: 🔈 LuxTTS — быстрый синтез речи с клонированием голоса

Модель выдаёт аудио в 48 кГц вместо стандартных для TTS 24 кГц. Звучит чище, детальнее — особенно заметно на голосовых нюансах.

Работает на 1 ГБ видеопамяти. Можно запустить даже на слабой видеокарте или в бесплатном Colab.

Доступны готовые варианты для быстрого старта: демо на Hugging Face, Colab-ноутбук и установка через Pinokio.

🔗 https://github.com/ysharma3501/LuxTTS
и https://huggingface.co/YatharthS/LuxTTS
и https://huggingface.co/spaces/YatharthS/LuxTTS
или https://colab.research.google.com/drive/1cDaxtbSDLRmu6tRV_781Of_GSjHSo1Cu?usp=sharing
или https://pinokio.co/item.html?uri=https%3A%2F%2Fgithub.com%2FTeletambe%2FLuxTTS&parent_frame=https://yandex.ru/
#LuxTTS #TTS #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: GigaChat 3.1 на 702B-A36B и 10B-A1.8B

💡 Сбер обновил ГигаЧат для всех пользователей — теперь ИИ-помощник работает на базе флагманской модели GigaChat 3.1 Ultra.

Ассистент научился искать информацию в сети прямо во время диалога, а также получил долгосрочную память — теперь ИИ-помощник запоминает все важные для пользователя факты и использует их в диалогах.

⚡️ Самое интересное в релизе — компактная GigaChat-3.1-Lightning. При 1,8 млрд активных параметров модель выдает качество уровня GPT-4o, заявляют разработчики. Открытые модели уже могут быть не только маленькими, быстрыми и дешевыми, но еще и умными.

По цифрам: Ultra обходит DeepSeek-V3-0324 и Qwen3-235B в математике и reasoning. Lightning — на бенчах сравним с сопоставимыми по размеру Qwen, а на аренах уровень GPT-4o.
Обучающие данные:
Базовый обучающий корпус GigaChat 3 охватывает 10 языков и включает в себя книги, научные материалы, наборы данных с кодом и математические наборы данных. Все данные проходят дедупликацию, языковую фильтрацию и автоматическую проверку качества с использованием эвристических методов и классификаторов.

Синтетические данные по-прежнему играют важную роль в обеспечении качества. В более широком обучающем корпусе мы использовали около 5,5 триллионов синтетических токенов, в том числе:
- данные о вопросах и ответах, сгенерированные на основе исходных текстов,
- обратные цепочки подсказок для генерации структурированных данных,
- заметки, созданные с помощью модели и встроенные в тексты,
- миллионы синтетических задач с решениями по математике и программированию в стиле олимпиад,
- синтетические тесты для задач, связанных с написанием кода и логическими рассуждениями.

Код и веса новинок выложили на HuggingFace.
Протестировать обновление можно бесплатно на сайте.
А в статье на Хабре команда рассказала, как именно их обучали.
💡 Подробно: https://t.me/gigadev_channel/65

⬇️GGUF: https://huggingface.co/ai-sage/GigaChat3.1-10B-A1.8B-GGUF
и https://huggingface.co/ai-sage/GigaChat3.1-702B-A36B-GGUF
💬 (Обсуждение)
================
🤖 Tool calling для GigaChat 3.1 в open-source инструментах https://t.me/gigadev_channel/67 - от разработчиков!
#GigaChat31 #GigaChat #GGUF #aisage #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️Невероятно! Смогли запустить 400B Qwen 3.5 на iPhone 17 Pro

Веса стримятся с диска, так что скорость всего полтокена в секунду. Но инференс код навайбкодили и модель не супер агрессивно квантизировали, так что тут можно ускорить как минимум в несколько раз.
(Обычно такая модель занимает под 400 Гб. и для ее запуска надо как минимум Mac Studio 512Gb, а тут всего iPhone 17 Pro!)
#iPhone #Qwen35 #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Airi — ИИ-компаньон с голосом и аватаром в стиле VTuber

На GitHub выложили открытый проект Airiлокальный ИИ-ассистент с анимированным аватаром и голосовым общением. Работает на вашем компьютере, подключается к разным языковым моделям через API или Ollama.

Что умеет:
• Общается голосом через ElevenLabs
• Поддерживает большинство провайдеров LLM, включая локальные модели
• Играет в Minecraft и Factorio
• Интегрируется с Discord и Telegram
Запоминает контекст диалогов

Проект заточен под персонализированное общение — модель запоминает переписку и подстраивается под стиль взаимодействия.
🔗 https://github.com/moeru-ai/airi
#Airi #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: 📄 dots.mocr — OCR-модель, которая превращает графику в SVG

Новая модель на 3 млрд параметров умеет не только распознавать текст с изображений и документов, но и конвертировать структурированные элементы в SVG-код. Работает с диаграммами, UI-макетами и научными графиками.

Доступны две версии: базовая для OCR и специализированная для генерации SVG. Есть демо для быстрого тестирования.

🔗 https://github.com/rednote-hilab/dots.mocr
Модель: https://huggingface.co/rednote-hilab/dots.mocr
и https://huggingface.co/rednote-hilab/dots.mocr-svg
🔗 https://dotsocr.xiaohongshu.com
#dotsmocr #OCR #SVG #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM