Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
📊 LLM Бенчмарки
Детальное сравнение передовых моделей для генерации образовательного контента на русском языке. Рейтинг основан на качестве, стоимости и экономической эффективности.

Открытый лидерборд — 18 моделей, цена за вызов, quality score, value score:
👉 https://aidevteam.ru/benchmarks

Почему это в этом канале:
⚡️ Маленькая Gemma 4 (31B) обошла модели в 10 раз крупнее!
Сама статья тоже интересна: https://t.me/maslennikovigor/199

Если посмотреть рейтинг Arena-AI, то там она на 4 месте!
Если надо писать тексты на русском, то имейте эту модель в виду!
#Gemma4 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1
🎞 Комбайн для перевода и дубляжа видео

pyVideoTrans берёт ролик и делает автоматически: перевод, озвучку и субтитры.
Что умеет:
• переводить видео целиком
• делать дубляж голосом спикера или через TTS
• работать локально, без облаков!
• запускаться на Windows через .exe
• подключать Whisper, Ollama и другие модели

По сути — мини-студия дубляжа на твоём компе.

pyVideoTrans предназначен для беспроблемного преобразования видео с одного языка на другой, предлагая полный рабочий процесс, включающий распознавание речи, перевод субтитров, многопользовательское озвучивание и синхронизацию аудио и видео. Он поддерживает как локальное развертывание в автономном режиме, так и широкий спектр распространенных онлайн-API.

🔗 https://en.pyvideotrans.com
🔗 https://github.com/jianchang512/pyvideotrans
#pyVideoTrans #Whisper #Windows #SoftAi #AiTranslate #Перевод #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Rowboat - Бесплатная альтернатива Claude Cowork — локально на твоём ПК

Коллега с ИИ с открытым исходным кодом, который превращает работу в граф знаний и действует на его основе
Rowboat подключается к вашей электронной почте и заметкам о совещаниях, создает долговременный граф знаний и использует этот контекст, чтобы помочь вам выполнять работу — в частном порядке, на вашем компьютере.

Что он делает:
- Вспомните важный контекст, который не стоит объяснять повторно (люди, проекты, решения, обязательства)
- Поймите, что актуально прямо сейчас (перед совещанием, при ответе на электронное письмо, при написании документа)
- Помогите себе составить план, подвести итоги, спланировать и создать реальные артефакты (краткие описания, электронные письма, документы, слайды в формате PDF)

В основе Rowboat лежит совместимое с Obsidian хранилище простых заметок в формате Markdown со ссылками на предыдущие версии — прозрачная «рабочая память», которую можно просматривать и редактировать.

Вы можете делать следующее:
- Build me a deck about our next quarter roadmap → создает PDF-файл на основе контекста из вашего графа знаний
- Prep me for my meeting with Alex → объединяет принятые ранее решения, открытые вопросы и соответствующие обсуждения в краткий отчет (или голосовую заметку)
- Отслеживайте человека, компанию или тему с помощью заметок в реальном времени
- Визуализируйте, редактируйте и обновляйте свой граф знаний в любое время (это всего лишь Markdown)
- Записывайте голосовые заметки, которые автоматически фиксируют и обновляют ключевые моменты в графе

Rowboat — open-source инструмент, который работает локально и не отправляет данные в облако. Поддерживает любые языковые модели, голосовой ввод и расширения через MCP-инструменты.

💾 Внутри — хранилище заметок, совместимое с Obsidian, фоновые агенты для автоматизации, веб-поиск и автоматическое построение графа знаний. Всё это без подписок и с возможностью настроить под себя.

Rowboat работает с:
- Локальные модели через Ollama или LM Studio
- Хостинговые модели (подключите свой API-ключ/провайдера)
- Меняйте модели в любое время — ваши данные останутся в локальном хранилище Markdown
Для Mac/Windows/Linux

🔗 https://www.rowboatlabs.com
🔗 https://github.com/rowboatlabs/rowboat
Смотрите полное видео

#Rowboat #MacOS #Windows #Linux #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🛠 Инструмент для создания собственных высококачественных количественных показателей GGUF (документы + веб-интерфейс)

Для тех, кто хочет создать собственные количественные показатели GGUF, подготовили документацию GGUF-Tool-Suite и простой веб-интерфейс, чтобы упростить процесс.

Веб-интерфейс: https://gguf.thireus.com/quant_assign.html
Документы: https://github.com/Thireus/GGUF-Tool-Suite/tree/main/docs
Цель состоит в том, чтобы любой пользователь мог проводить бенчмаркинг и автоматически создавать GGUF любого размера для ik_llama.cpp и llama.cpp с помощью веб-интерфейса или интерфейса командной строки.

Этот набор инструментов уже оценили несколько увлеченных пользователей, которые стремятся повысить качество GGUF и получить больше возможностей для оптимальной настройки оборудования. В ходе тестирования было доказано, что он позволяет создавать GGUF более высокого качества, чем другие популярные релизы, особенно при использовании рецептов ik_llama.cpp.

Скоро появятся результаты тестирования Kimi-K2.5 и GLM-5.1, но инструмент уже работает со многими моделями, которые прошли тестирование.

(Обсуждение)
#GGUF #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
⚙️ Вышло несколько исправлений в Gemma 4 за последние 24 часа
Новые шаблоны чатов от Google для исправления вызовов инструментов:

31B: https://huggingface.co/google/gemma-4-31B-it/blob/main/chat_template.jinja

27B: https://huggingface.co/google/gemma-4-26B-A4B-it/blob/main/chat_template.jinja

E4B: https://huggingface.co/google/gemma-4-E4B-it/blob/main/chat_template.jinja

E2B: https://huggingface.co/google/gemma-4-E2B-it/blob/main/chat_template.jinja

(Обсуждение)
#Gemma4 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
📱 Свободный телефон в качестве API сервера для ИИ

Если у вас завалялся неиспользуемый телефон, есть проект, в рамках которого модифицировали Google AI Edge Gallery и превратил ее в сервер API, совместимый с OpenAI: [Gallery as Server]
Ваш телефон может выполнять локальный логический вывод с помощью ИИ. Вы можете использовать его так же, как API OpenAI (для чата, автодополнения и т.д.)
Вместо того чтобы позволять этому оборудованию пылиться без дела, вы можете превратить его в легковесный узел логического вывода.
Одна из самых сложных проблем заключается в том, что модель представлена в формате lithelm, а доступных моделей на https://huggingface.co/litert-community не так много.

Версия-1: https://github.com/xiaoyao9184/gallery
Версия-2: https://github.com/Uriziel01/gallery/
(Обсуждение)
============
👉 Еще: Приложение A.I.R.I - ваш телефон — это персональный сервер с ИИ!
Он может:
- запускайте модели локально
- доступ к ним с других устройств через Wi-Fi
- поддерживайте голосовые разговоры (TTS + STT)
- работайте с документами с помощью простого конвейера RAG
- управляйте моделями и загружайте их в приложении
- сохраняйте историю чатов и профили пользователей для удобства

Скачать .APK v2.0.0+2
🔗 https://github.com/agamairi/A.I.R.I
(Обсуждение)
============
👉 Еще: VicinoLLM - только для Gemma 4
🔗 https://github.com/angolo40/vicino-llm
(Обсуждение)
#AIEdgeGallery #AIRI #VicinoLLM #Android #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
1
This media is not supported in your browser
VIEW IN TELEGRAM
🎤 Superwhisper — Диктовка и транскрибатор речи в текст

Поддерживает больше 100 языков и диалектов с переводом на английский. Работает в Slack, Gmail и других приложениях.
Интегрируется с Cursor, Claude Code, Open Code и другими редакторами кода. Умеет транскрибировать аудио и видео.
Есть бесплатный тариф включающий:
- Преобразование речи в текст, работающее в любом приложении
- Запись и транскрипция собрания
- Поддержка более 100 языков
- Неограниченное использование небольших моделей ИИ
- Пользовательское управление подсказками
Самая большая бесплатная модель — Standard - это Whisper Small
Платно:
Все в разделе «Бесплатно», а также:
- Используйте собственные API-ключи для искусственного интеллекта
- Неограниченное использование облачных и локальных моделей ИИ
- Переведите любой язык на английский
- Расшифровка аудио- и видеофайлов
(Обсуждение в статье)
Доступен для macOS, Windows и iOS.

🔗 https://superwhisper.com
📱 Для iPhone: https://apps.apple.com/us/app/superwhisper/id6471464415

Еще 🎙 superwhisper бесплатно есть тут!

#whisper #Superwhisper #Диктовка #Transcription #Транскрибация #MacOS #App #iPhone #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📖 Интересная статья: Mac Studio для локального ИИ — 6 месяцев спустя
🔗 https://spicyneuron.substack.com/p/a-mac-studio-for-local-ai-6-months
Практическая инструкция по настройке и запуску моделей до 1Т!
(Ее обсуждение)
#MacStudio #MacStudioM3 #MacOS #AppleSilicon #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Полный шаблон Jinja для Qwen 3.5
🔗 https://huggingface.co/froggeric/Qwen3.5-35B-A3B-Uncensored-FernflowerAI-MLX-8bit/blob/main/chat_template.jinja
Цитата с форума:
Я довольно тщательно изучил логику шаблонов Qwen 3.5, чтобы исправить ошибки, связанные с вызовами инструментов. Здесь проделана действительно блестящая работа: шаблоны от таких авторов, как @pneuny и @ellary, на первых порах были просто спасением. Но я понял, что многие из них полагаются на принудительные подсказки или случайно искажают форматирование XML (на самом деле Qwen изначально обучен работать с чистыми <think>-тегами, а не с /*-синтаксисом, к которому прибегают некоторые старые шаблоны).

После долгих часов изучения и тестирования всех известных проблем с официальным шаблоном qwen я тщательно прописал наилучший из возможных вариантов. Он полностью соответствует исходной схеме XML, динамически сопоставляет новые строки ролей «разработчика» из современных API-клиентов и безопасно кэширует пустые параметры инструментов.

Небольшое примечание для тех, кто пользуется LM Studio: бэкенд выдает ошибку при работе с итераторами |items dict в Python, а парсер регулярных выражений полностью выходит из строя, если модель просто размышляет о вызове инструмента в своих мыслях. Я также интегрировал в jinja целевые исправления для этого. Если вы напишете <|think_off|> в любом месте запроса (как системного, так и пользовательского), шаблон незаметно удалит тег и отключит мыслительный процесс на этот ход, полностью устранив ошибку с бесконечным циклом.

#Jinja #Qwen35 #huggingface #GGUF #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: MiniMax-M2.7 - Model size 229B

🔗 https://huggingface.co/MiniMaxAI/MiniMax-M2.7
🔗 https://www.minimax.io/news/minimax-m27-en
🔗 http://platform.minimax.io
Кванты:
🔗 https://huggingface.co/unsloth/MiniMax-M2.7-GGUF - дома можно запускать: UD-IQ4_XS на 108 GB!

⚡️ MiniMax m2.7 (только для Mac) 63 ГБ: 88 % и 89 ГБ: 95 %, MMLU 200q

Просто потрясающе. Максимальная производительность M5 должна составлять около 50 токенов в секунду и 400pp, мы приближаемся к уровню «Sonnet 4.5 дома».

63 ГБ: https://huggingface.co/JANGQ-AI/MiniMax-M2.7-JANG_2L
MiniMax M2.7 228B MoE — 2.10-bit mixed precision, 63 GB
Smallest MiniMax M2.7 for Apple Silicon — fits on 96 GB+ Macs.

89 ГБ: https://huggingface.co/JANGQ-AI/MiniMax-M2.7-JANG_3L
MiniMax M2.7 228B MoE — 3.08-bit mixed precision, 89 GB
Best balance of quality and size — fits on 128 GB+ Macs.
(Обсуждение)
========
MiniMax-M2.7 JANGTQ (MLX)
60.7 GB: https://huggingface.co/JANGQ-AI/MiniMax-M2.7-JANGTQ
(2.15-bit codebook + Hadamard, 56.5 GB)
(Обсуждение)

Для запуска в https://mlx.studio - Было ТУТ. Сейчас версия v1.3.44

#MiniMax #MiniMaxM27 #MLX #vMLX #MacOS #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🎨 Open Generative AI - Бесплатная альтернатива Higgsfield AI с 200+ моделями

Полностью бесплатная платформа для генерации изображений и видео. В одном интерфейсе собрали Flux, SDXL, Midjourney и другие модели. Есть липсинк и «кинематографический режим».

Работает в браузере или как десктопное приложение. Без ограничений и платных подписок.
Используйте все четыре студии (Image, Video, Lip Sync, Cinema) прямо в браузере — без дополнительной настройки. Зарегистрируйтесь, чтобы создать бесплатную учетную запись и начать работу. В размещенной версии всегда используются последние версии моделей.

Почему стоит выбрать Open Generative AI, а не Higgsfield AI, Freepik, Krea AI, Openart AI?

- Бесплатно и с открытым исходным кодом — без подписки, без привязки к поставщику
- Автономно — ваши данные остаются на вашем компьютере
- Более 200 моделей — преобразование текста в изображение, преобразование изображения в картинку, преобразование текста в видео, преобразование изображения в видео, синхронизация губ
- Возможность ввода нескольких изображений — загружайте до 14 эталонных изображений в совместимые модели
- Студия синхронизации губ — анимируйте портреты или синхронизируйте губы с любым звуком с помощью 9 специализированных моделей
- Расширяемый — добавляйте свои собственные модели, изменяйте пользовательский интерфейс, создавайте поверх него
(Подробное описание в карточке)

🔗 https://dev.muapi.ai/open-generative-ai - онлайн!
Приложения: https://github.com/Anil-matcha/Open-Generative-AI/releases/tag/v1.0.0 - для Mac / Windows
(На #MacOS надо будет ввести команду в Терминале: xattr -cr "/Applications/Open Generative AI.app"
Проект: https://github.com/Anil-matcha/Open-Generative-AI
#OpenGenerativeAI #Higgsfield #Freepik #Krea #Openart #Flux #SDXL #Midjourney #Ideogram #SoftAi #AiSoft #Windows #MuapiAi
Please open Telegram to view this post
VIEW IN TELEGRAM
📊 Показатель галлюцинаций у разных ИИ-моделей

Чем выше столбец на графике, тем меньше модель склонна выдумывать факты и генерировать недостоверную информацию.

#Галлюцинации — одна из главных проблем современных языковых моделей. Они могут уверенно называть несуществующие источники, придумывать события или искажать данные. Этот показатель помогает оценить, насколько можно доверять ответам конкретной модели в рабочих задачах.
#AiModel #ModelAi #LocalAi #AiLocal
🎙 llama.cpp (llama-server) теперь поддерживает STT (речь в текст) с моделями Gemma 4 E2A и E4A.

🌐 Попробовать онлайн: https://habr.acloud.app - тут можно поЧатиться с gemma-4-E4B-it
Подробная статья про это: https://habr.com/ru/articles/1022628/
(Обсуждение)
#Gemma4 #lama #lamacpp #Транскрибация #STT #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Thuki - Плавающий ИИ-помощник для macOS.

Полностью локальный, абсолютно бесплатный, данные не покидают ваш компьютер.
Никаких API-ключей. Никаких подписок. Никакого облака. Никакой телеметрии. Бесплатно навсегда.

Thuki («секретарь») — это легковесный оверлей для macOS на основе локальных моделей искусственного интеллекта, которые работают исключительно на вашем компьютере. Он создан для того, чтобы вы могли быстро и без перерывов отвечать на вопросы, не отвлекаясь от своих дел.

Характеристики:
- Всегда доступно: дважды коснитесь элемента управления ⌃, чтобы вызвать наложение из любого приложения, включая полноэкранные приложения
- Контекстно-зависимые цитаты: выделите любой текст, затем дважды коснитесь элемента управления⌃, чтобы открыть Thuki с выбранным текстом, предварительно заполненным в виде цитаты
- Одноразовые разговоры: быстрое и легкое взаимодействие без затрат на полноценное приложение для чата
- История разговоров: сохраняйте и пересматривайте прошлые разговоры в течение сеансов
- Полностью локальный LLM: работает на Ollama; нет ключей API, нет учетных записей, нет затрат на запрос
- Изолированная среда: при необходимости запускайте модели в защищенном контейнере Docker с удалением возможностей, томами, доступными только для чтения, и сетью, доступной только для локального хостинга.
- Ввод изображений: вставляйте или перетаскивайте изображения и скриншоты непосредственно в чат
- Захват экрана: введите /screen, чтобы мгновенно захватить весь экран и прикрепить его к вашему вопросу в качестве контекста.
- Конфиденциальность превыше всего: архитектура с нулевым уровнем доверия, все данные остаются на вашем устройстве

Модель по умолчанию:
Thuki по умолчанию поставляется с gemma4:e2b — эффективной моделью от Google. Она без проблем работает на большинстве современных компьютеров Mac с 8 ГБ оперативной памяти и обеспечивает высокую производительность при выполнении задач логического вывода, кодирования и распознавания изображений. Модель можно изменить!

🔗 https://github.com/quiet-node/thuki
⬇️ Скачать .dmg для Mac v0.5.2
Еще описание: https://www.producthunt.com/products/thuki
#Thuki #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM