Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🧩 Плагины для Open WebUI - Красивая визуализация!

Теперь ваша локальная модель может отображать интерактивные графики, интерактивные диаграммы и формы, которые взаимодействуют с ИИ — и для этого не нужны облачные технологии.

Inline Visualizer работает с любой моделью, которая поддерживает вызов инструментов: Qwen, Mistral, Gemma, DeepSeek, Gemini, Claude, GPT — неважно. Это дает вашей модели систему дизайна и инструмент для рендеринга. Модель генерирует фрагменты HTML/SVG, инструмент оборачивает их в тематическую оболочку с поддержкой темного режима, и они отображаются прямо в чате. Никаких фреймов внутри фреймов, никаких внешних сервисов, никаких API-ключей.
Вот что он может отображать:
- Диаграммы архитектуры, на которых при нажатии на узел ИИ запрашивает информацию о нем
- Панели мониторинга Chart.js с правильной тематикой в темном и светлом режимах
- Интерактивные тесты, в которых ИИ оценивает ваши ответы
- Формы для выбора предпочтений, которые собирают ваши ответы и отправляют их в модель
- Пояснения с расширяемыми разделами и эффектами наведения
- Буквально любой HTML/SVG/JS, который может написать модель

То, что вам нужно:
- Откройте веб-интерфейс (на собственном сервере, вы все равно запускаете его локально)
- ЛЮБАЯ модель с поддержкой вызова инструментов
- Менее 1 минуты на то, чтобы вставить два файла и выполнить установку (Руководство по установке находится в папке с плагином в файле README!)

🔗 https://github.com/Classic298/open-webui-plugins
(Обсуждение)
#InlineVisualizer #Visualizer #визуализация #openwebuiplugins #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔍 Librarian MCP — сервер с искусственным интеллектом, который подключается к Jan / LM Studio / Claude Desktop и превращает ваше локальное окно чата в интерактивного помощника по исследованиям, который ничего не забывает (и никогда не отправляет ваши данные в облако)
Превратите Jan, LM Studio или Claude Desktop в интеллектуального помощника для исследований, который не просто ищет нужные документы, но и обсуждает их с вами, а также активно помогает вам понять, проанализировать и улучшить их.

Представьте, что у вас есть старший аналитик, который:
📚 Прочтите всю свою библиотеку документов за считаные секунды, и она запомнит все
🔍 Находит идеи, о существовании которых вы даже не подозревали
✍️ Составляет аналитические отчеты, которые можно изучить и применить
🎯 Проверяет соответствие вашей документации действительности
🔒 Работает полностью локально (ваши данные никогда не покидают ваш компьютер)

Работает с репозиториями кода, научными статьями, корпоративными политиками, медицинскими картами, данными клиентов и любыми другими коллекциями документов.

🔗 https://github.com/orangelightening/Librarian
(Обсуждение)
#Librarian #MCP #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🎞 ViriaRevive - Генератор вирусных роликов на основе искусственного интеллекта — автоматически превращает длинные видео с YouTube в короткие ролики

Настольное приложение, которое генерирует вирусные ролики на основе видео с YouTube. Одна из функций: приложение транскрибирует каждый ролик с помощью Whisper, а затем передает расшифровку в локальную модель Ollama (по умолчанию qwen2.5:3b) для создания запоминающихся заголовков для YouTube Shorts.

Превращайте длинные видео на YouTube в вирусные короткие ролики — автоматически.
Отмечайте лучшие моменты, обрезайте видео до формата 9:16, добавляйте стильные субтитры, генерируйте заголовки с помощью искусственного интеллекта и планируйте загрузку на YouTube — и все это в одном приложении.

Самое крутое: вы можете создавать заголовки для каждой папки (пакета клипов из одного и того же исходного видео), и если Ollama не запущен, система вернется к извлечению ключевых слов. Работает на 100 % локально.

ViriaRevive — это настольное приложение, которое автоматизирует весь процесс создания вирусного короткого контента на основе длинных видео с YouTube. Вставьте URL-адрес, и приложение сделает все за вас: загрузит видео, определит самые интересные моменты с помощью анализа звука и сцены, обрежет видео до вертикального формата с помощью функции отслеживания лиц, добавит стильные анимированные субтитры и загрузит видео прямо на ваши каналы YouTube по расписанию.

Никаких облачных сервисов не требуется — все работает локально на вашем компьютере.

🔗 https://github.com/VladPolus/ViriaRevive
(Обсуждение)
#ViriaRevive #YouTube #Shorts #Ollama #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Phoenix 4B - честный помощник в вопросах психического здоровья
(Phoenix 4B: An honest mental health companion)
This is a custom fine-tune of Gemma3 4B.
Не терапевтический бот. Не приложение для развития навыков преодоления трудностей. Просто сочувствующий собеседник, который задает правильные вопросы и никогда не говорит, во что верить.
Она может работать практически на любом устройстве (размер всего 4 Гб.), но никогда не навязывает вам свою точку зрения и не предлагает готовых решений. Она просто задает вопросы и помогает вам познать себя. Вдохновлена программой Eliza.
Это не замена терапии, которую проводит специалист в области психического здоровья. Это просто инструмент, который вы можете использовать, чтобы поразмышлять о себе и подвергнуть сомнению установки, которые могут причинять вам вред. Модель обучена только задавать вопросы, которые могут помочь глубже понять себя, она никогда не дает рекомендаций и не ставит диагнозы.

System Prompt:
You are the voice of honest reason and compassion for someone who has lost their way in life. Your goal: Guide them to the answers through application of targeted questions. It's very important to be even-handed and never tell the user what to believe. Simply challenge assumptions they may have made in their statements, but do it in a compassionate and caring way. Don't ever be sycophantic or prescriptive.

Или на русском:
Вы — голос здравого смысла и сострадания для тех, кто сбился с жизненного пути.
Ваша цель: направить их к ответам на вопросы с помощью целенаправленных вопросов. Очень важно сохранять беспристрастность и никогда не указывать пользователю, во что верить. Просто оспаривайте предположения, которые они высказывают, но делайте это с сочувствием и заботой. Никогда не подхалимничайте и не навязывайте свою точку зрения.

🔗 https://huggingface.co/iwalton3/phoenix
Доступна и тут: https://ollama.com/izzie/phoenix
(Обсуждение)
При размере в 4 Гб. можно запускать локально на любом смартфоне!
#Phoenix4B #Gemma34B #Prompt #mentalhealth #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 EdgeDox: AI Chat with PDF - Автономный ИИ для документов

Голосовой помощник с ИИ, работающий в автономном режиме!
🎤 Что он делает:
- Преобразование речи в текст в режиме реального времени
- Ответы искусственного интеллекта на устройстве
- Мгновенные голосовые ответы (TTS)
- Общайтесь с помощью собственных документов (PDF, заметок и т. д.)

⬇️ https://play.google.com/store/apps/details?id=io.cyberfly.edgedox
(Обсуждение)
#EdgeDox #TTS #App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📥 GitHub превратился в магазин опенсорс приложений.

Ставить, искать и обновлять проги теперь можно в пару кликов:
🟡 В привычной для всех ленте показаны тренды и популярные репозитории;
🟡 Обновления для уже установленных приложений подтягиваются сами;
🟡 Перед установкой проект можно изучить;
🟡 Работает на Android, Windows, macOS и Linux.

➡️ Ставим: https://github-store.org
🔗 https://github.com/OpenHub-Store/GitHub-Store
Версия 1.6.2 тут.
#GitHub #GitHubStore #APP #Android #Windows #macOS #Linux
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Mistral Small 4

Mistral выпустила универсальную ИИ-модель Mistral Small 4
🔗 https://mistral.ai/news/mistral-small-4
Ключевые архитектурные особенности:
- Смешанная модель экспертов (Mixture of Experts, MoE): 128 экспертов, по 4 активных на каждый токен, что обеспечивает эффективное масштабирование и специализацию.

- 119 миллиардов параметров, по 6 миллиардов активных параметров на каждый токен (8 миллиардов, включая встраиваемые и выходные слои).

- Окно контекста 256 тысяч, поддерживающее взаимодействие с длинными текстами и анализ документов.

- Настраиваемая сложность логического вывода: переключение между быстрыми ответами с низкой задержкой и глубокими выводами, требующими больших вычислительных ресурсов.

- Встроенная мультимодальность: поддерживает ввод как текста, так и изображений, что открывает возможности для самых разных сценариев использования — от анализа документов до визуального анализа.

Модель: https://huggingface.co/collections/mistralai/mistral-small-4
(Статья)
=======
💡 Версия без цензуры: Mistral-Small-4-119B-2603-heretic
🔗 https://huggingface.co/darkc0de/Mistral-Small-4-119B-2603-heretic
(Обсуждение)
#MistralSmall4 #heretic #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Inferencer - Private AI Studio

Inferencer позволяет запускать, размещать и глубоко контролировать последние модели SOTA AI (OSS, DeepSeek, Qwen, Kimi, GLM, MiniMax и другие) с вашего собственного компьютера или телефона. Никакие данные не отправляются в облако для обработки - сохраняя вашу полную конфиденциальность.
Усовершенствованные элементы управления выводом дают вам полный контроль над их точностью и результатами.
Модели:
Начните с раздела моделей, где вы можете скачать последние модели непосредственно из Hugging Face.
Сервер:
Используйте функцию сервера для подключения к Inferencer, запущенному на вашем Mac, для запуска еще более крупных моделей по сети.
Чаты:
Выберите модель для взаимодействия в верхней строке меню и напишите подсказку для начала. В любой момент вы можете переключаться между моделями и продолжать чат, чтобы увидеть, что еще они могут обнаружить. Вы также можете выборочно удалять прошлые сообщения, чтобы модель была сфокусированной и меньше рассеянной.
Элементы управления чатом:
Контролируйте параметры вывода, включая системную подсказку для управления тем, как модель реагирует, температуру для контроля точности ответа и многое другое.
Энтропия и проверка токенов:
Выберите инспекторов, чтобы заглянуть во внутреннюю работу каждого выводимого слова и увидеть уровни достоверности модели и альтернативные варианты. Управление откликом:
Используйте функцию ответа управления для управления выводом, генерируемым моделью. Например, пропуск преамбулы или направление модели на вывод в структурированном html. Настройки включают родительский контроль, политику автоматического удаления и многое другое.
Конфиденциальность:
Для максимальной конфиденциальности вся обработка ИИ происходит в автономном режиме и на вашем устройстве по умолчанию. Базовые подписки (бесплатные): Большинство функций разблокированы бесплатно, включая неограниченное количество чатов и подключение к вашему Mac. Профессиональный:
Обновление для более продвинутой проверки токенов и контроля отклика.

⬇️ https://apps.apple.com/cv/app/inferencer-private-ai-studio/id6749861443
🔗 https://apps.apple.com/us/app/inferencer-private-ai-studio/id6749861443
#Inferencer #MacOS #iPhone #iPad #App #SoftAI #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Обновленные плагины для LM Studio уже доступны.
Веб-исследование Plug'n'Play, полностью локально!

- DuckDuckGo Переработанная версия https://lmstudio.ai/vadimfedenko/duck-duck-go-reworked
Переработанный плагин DuckDuckGo.

- visit-website-reworked https://lmstudio.ai/vadimfedenko/visit-website-reworked
Переработанный плагин с функцией прокси, который позволяет языковым моделям «посещать» веб-сайты, предоставляя им ссылки, URL-адреса изображений и текстовое содержимое любой веб-страницы.
Автору нравится использовать его с Qwen 3.5 27B в качестве замены Perplexity!
Кстати, в LM Studio с Qwen постоянно происходил сбой при вызовах инструментов. Автор исправил это, создав собственный шаблон Jinja Prompt. С тех пор все работает идеально. Даже версия 9b отлично подходит для исследований. Он выложил шаблон Jinja на Pastebin, если кому-то понадобится...

(Обсуждение)
#LMStudio #DuckDuckGo #LocalAi #AiLocal
👍2
🎙 Whisper -Распознавание речи на основе Whisper

Распознавание речи происходит полностью в автономном режиме.
При первом запуске необходимо загрузить модели Whisper с Hugging Face. Это единственное использование разрешения на доступ в Интернет.

В приложении Whisper также может переводить все поддерживаемые языки на английский.

Как получить максимальную отдачу от Whisper:
- Удерживайте кнопку нажатой во время разговора
- Сделайте небольшой перерыв перед началом работы
- Говорите четко, громко и в умеренном темпе
- Обратите внимание на ограничение в 30 секунд на запись

🔗 https://f-droid.org/de/packages/org.woheller69.whisper/
⬇️ Версия 3.6 (36) Добавлен 01.02.2026 г.
(Обсуждение)
===========
🎙 Еще: Phone Whisper: голосовая диктовка для Android с локальным Whisper (без облачных технологий)
Это плавающая кнопка для голосового ввода, которая работает поверх любого приложения. Нажмите, чтобы записать, нажмите еще раз, чтобы расшифровать, — текст будет вставлен в выделенное поле.
Также поддерживается дополнительная постобработка (удаление знаков препинания, форматирование, командный режим для использования в терминале).

🔗 https://github.com/kafkasl/phone-whisper
⬇️ Скачать .APK
(Обсуждение)
Аналоги по тегу: #Диктовка
#Whisper #App #Android #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Модель: 🔈 LuxTTS — быстрый синтез речи с клонированием голоса

Модель выдаёт аудио в 48 кГц вместо стандартных для TTS 24 кГц. Звучит чище, детальнее — особенно заметно на голосовых нюансах.

Работает на 1 ГБ видеопамяти. Можно запустить даже на слабой видеокарте или в бесплатном Colab.

Доступны готовые варианты для быстрого старта: демо на Hugging Face, Colab-ноутбук и установка через Pinokio.

🔗 https://github.com/ysharma3501/LuxTTS
и https://huggingface.co/YatharthS/LuxTTS
и https://huggingface.co/spaces/YatharthS/LuxTTS
или https://colab.research.google.com/drive/1cDaxtbSDLRmu6tRV_781Of_GSjHSo1Cu?usp=sharing
или https://pinokio.co/item.html?uri=https%3A%2F%2Fgithub.com%2FTeletambe%2FLuxTTS&parent_frame=https://yandex.ru/
#LuxTTS #TTS #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: GigaChat 3.1 на 702B-A36B и 10B-A1.8B

💡 Сбер обновил ГигаЧат для всех пользователей — теперь ИИ-помощник работает на базе флагманской модели GigaChat 3.1 Ultra.

Ассистент научился искать информацию в сети прямо во время диалога, а также получил долгосрочную память — теперь ИИ-помощник запоминает все важные для пользователя факты и использует их в диалогах.

⚡️ Самое интересное в релизе — компактная GigaChat-3.1-Lightning. При 1,8 млрд активных параметров модель выдает качество уровня GPT-4o, заявляют разработчики. Открытые модели уже могут быть не только маленькими, быстрыми и дешевыми, но еще и умными.

По цифрам: Ultra обходит DeepSeek-V3-0324 и Qwen3-235B в математике и reasoning. Lightning — на бенчах сравним с сопоставимыми по размеру Qwen, а на аренах уровень GPT-4o.
Обучающие данные:
Базовый обучающий корпус GigaChat 3 охватывает 10 языков и включает в себя книги, научные материалы, наборы данных с кодом и математические наборы данных. Все данные проходят дедупликацию, языковую фильтрацию и автоматическую проверку качества с использованием эвристических методов и классификаторов.

Синтетические данные по-прежнему играют важную роль в обеспечении качества. В более широком обучающем корпусе мы использовали около 5,5 триллионов синтетических токенов, в том числе:
- данные о вопросах и ответах, сгенерированные на основе исходных текстов,
- обратные цепочки подсказок для генерации структурированных данных,
- заметки, созданные с помощью модели и встроенные в тексты,
- миллионы синтетических задач с решениями по математике и программированию в стиле олимпиад,
- синтетические тесты для задач, связанных с написанием кода и логическими рассуждениями.

Код и веса новинок выложили на HuggingFace.
Протестировать обновление можно бесплатно на сайте.
А в статье на Хабре команда рассказала, как именно их обучали.
💡 Подробно: https://t.me/gigadev_channel/65

⬇️GGUF: https://huggingface.co/ai-sage/GigaChat3.1-10B-A1.8B-GGUF
и https://huggingface.co/ai-sage/GigaChat3.1-702B-A36B-GGUF
💬 (Обсуждение)
================
🤖 Tool calling для GigaChat 3.1 в open-source инструментах https://t.me/gigadev_channel/67 - от разработчиков!
#GigaChat31 #GigaChat #GGUF #aisage #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM