Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
💬 nextai-translator - Браузерный плагин и приложение для ПК

Браузерное расширение и кроссплатформенное настольное приложение для перевода на основе ChatGPT API.
Характеристики:
Он предлагает три режима: перевод, доработка и обобщение.
Наш инструмент позволяет осуществлять взаимный перевод, доработку и обобщение на 55 различных языках.
Поддерживается потоковый режим!
Позволяет пользователям настраивать текст для перевода.
Копирование в один клик
Преобразование текста в речь (TTS)
Доступно на всех платформах (Windows, macOS и Linux) как в браузерах, так и на настольных компьютерах
Поддержка перевода скриншотов
Поддержка словарей, а также создание вспомогательных материалов для запоминания на основе слов из словарей
Поддержка OpenAI, Azure OpenAI Service, MiniMax и других поставщиков больших языковых моделей

🔗 https://github.com/nextai-translator/nextai-translator - тут как установить!

Кроме локальных моделей, можно подключить например модель Gemma 4 31b по API из Google Studio
Кстати OpenAI совместимое API для Google Studio - если кто не знает: https://generativelanguage.googleapis.com/v1beta/openai/v1/chat/completions
модели соответственно:
models/gemma-4-31b-it
models/gemma-4-26b-a4b-it
В день доступно 1500 запросов, с лимитом 15 запросов в минуту.

Чтобы в моделях gemma 4 отключить размышления нужно в системный промт добавить фразу: disalble reasoning and thought. </thought off>
(Смотри скриншот)
#AiTranslate #Перевод #gemma4 #Prompt #Промт #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
💬 Roundtable — многопользовательская ролевая игра с ИИ, в которой каждый персонаж может использовать свою модель Ollama
Roundtable — это многопользовательское ролевое приложение с чатом, созданное на основе Ollama.
Основная идея: вы создаете персонажей с ИИ, каждый из которых может работать на своей модели, и они взаимодействуют с вами и друг с другом в общих комнатах.

Таким образом, вы можете создать одного персонажа на deepseek-r1:70b, другого — на qwen3-coder, третьего — на llama3.2 и наблюдать, как они взаимодействуют друг с другом в рамках одного диалога. Вы можете выбрать, кто ответит следующим, или включить режим «цепочки», чтобы они продолжали перезваниваться.

Что есть в версии 1:
- Мультимодель для каждого персонажа (Ollama, а также Claude/OpenAI, если вам нужно облако)
- Система комнат — приватные чаты, общие комнаты, пользовательские группы
- Память, которая действительно сохраняется и консолидируется (работает на локальном сервере Ollama, чтобы сократить расходы на API)
- Генерация изображений с помощью ComfyUI/Stable Diffusion с локальными моделями для каждого персонажа
- Приватный канал для личных сообщений, где можно задавать закулисные вопросы, не нарушая сюжетной линии
- При желании работает полностью локально. Облако не требуется.

Что такое эксперимент:
- Агенты DM (отслеживание инвентаря, драматург) работают с ошибками, над ними еще нужно поработать.
- Режим «Цепочка» — совершенно новый, требует дополнительного тестирования.
- Функция прокси не тестировалась, но для вашего спокойствия есть кнопка ipify

Это бесплатный проект с открытым исходным кодом. Автор создал его, потому что хотел, чтобы персонажи с искусственным интеллектом выглядели так, будто они существуют в одном пространстве.
Работает на Windows / Mac / Linux.

🔗 https://formslip.itch.io/roundtable
GitHub: https://github.com/Kaidorespy/Roundtable
(Обсуждение)
#Roundtable #MacOS #Windows #Linux #RP #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🌐 webmcp - Легкий веб-сервер MCP для веб-исследований на основе подсказок, предназначенный для высококачественного извлечения информации с помощью больших языковых моделей.
Агенты LLM могут использовать его для:
- Выполните поиск в интернете с помощью DuckDuckGo (по умолчанию) или SearXNG (опционально)
- получите и очистите содержимое страниц по одному или нескольким URL-адресам
- отправьте очищенное содержимое в локальную языковую модель для структурированного извлечения данных

Для достижения наилучших результатов используйте research_prompt.txt в качестве системной подсказки. Эта подсказка — ключевая часть запланированного рабочего процесса и залог качества. По сути, она определяет половину того, как должен функционировать этот репозиторий.

🔗 https://github.com/AuthBits/webmcp
(Обсуждение и Отзывы)
#webmcp #MCP #DDG #SearXNG #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📊 LLM Бенчмарки
Детальное сравнение передовых моделей для генерации образовательного контента на русском языке. Рейтинг основан на качестве, стоимости и экономической эффективности.

Открытый лидерборд — 18 моделей, цена за вызов, quality score, value score:
👉 https://aidevteam.ru/benchmarks

Почему это в этом канале:
⚡️ Маленькая Gemma 4 (31B) обошла модели в 10 раз крупнее!
Сама статья тоже интересна: https://t.me/maslennikovigor/199

Если посмотреть рейтинг Arena-AI, то там она на 4 месте!
Если надо писать тексты на русском, то имейте эту модель в виду!
#Gemma4 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1
🎞 Комбайн для перевода и дубляжа видео

pyVideoTrans берёт ролик и делает автоматически: перевод, озвучку и субтитры.
Что умеет:
• переводить видео целиком
• делать дубляж голосом спикера или через TTS
• работать локально, без облаков!
• запускаться на Windows через .exe
• подключать Whisper, Ollama и другие модели

По сути — мини-студия дубляжа на твоём компе.

pyVideoTrans предназначен для беспроблемного преобразования видео с одного языка на другой, предлагая полный рабочий процесс, включающий распознавание речи, перевод субтитров, многопользовательское озвучивание и синхронизацию аудио и видео. Он поддерживает как локальное развертывание в автономном режиме, так и широкий спектр распространенных онлайн-API.

🔗 https://en.pyvideotrans.com
🔗 https://github.com/jianchang512/pyvideotrans
#pyVideoTrans #Whisper #Windows #SoftAi #AiTranslate #Перевод #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Rowboat - Бесплатная альтернатива Claude Cowork — локально на твоём ПК

Коллега с ИИ с открытым исходным кодом, который превращает работу в граф знаний и действует на его основе
Rowboat подключается к вашей электронной почте и заметкам о совещаниях, создает долговременный граф знаний и использует этот контекст, чтобы помочь вам выполнять работу — в частном порядке, на вашем компьютере.

Что он делает:
- Вспомните важный контекст, который не стоит объяснять повторно (люди, проекты, решения, обязательства)
- Поймите, что актуально прямо сейчас (перед совещанием, при ответе на электронное письмо, при написании документа)
- Помогите себе составить план, подвести итоги, спланировать и создать реальные артефакты (краткие описания, электронные письма, документы, слайды в формате PDF)

В основе Rowboat лежит совместимое с Obsidian хранилище простых заметок в формате Markdown со ссылками на предыдущие версии — прозрачная «рабочая память», которую можно просматривать и редактировать.

Вы можете делать следующее:
- Build me a deck about our next quarter roadmap → создает PDF-файл на основе контекста из вашего графа знаний
- Prep me for my meeting with Alex → объединяет принятые ранее решения, открытые вопросы и соответствующие обсуждения в краткий отчет (или голосовую заметку)
- Отслеживайте человека, компанию или тему с помощью заметок в реальном времени
- Визуализируйте, редактируйте и обновляйте свой граф знаний в любое время (это всего лишь Markdown)
- Записывайте голосовые заметки, которые автоматически фиксируют и обновляют ключевые моменты в графе

Rowboat — open-source инструмент, который работает локально и не отправляет данные в облако. Поддерживает любые языковые модели, голосовой ввод и расширения через MCP-инструменты.

💾 Внутри — хранилище заметок, совместимое с Obsidian, фоновые агенты для автоматизации, веб-поиск и автоматическое построение графа знаний. Всё это без подписок и с возможностью настроить под себя.

Rowboat работает с:
- Локальные модели через Ollama или LM Studio
- Хостинговые модели (подключите свой API-ключ/провайдера)
- Меняйте модели в любое время — ваши данные останутся в локальном хранилище Markdown
Для Mac/Windows/Linux

🔗 https://www.rowboatlabs.com
🔗 https://github.com/rowboatlabs/rowboat
Смотрите полное видео

#Rowboat #MacOS #Windows #Linux #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🛠 Инструмент для создания собственных высококачественных количественных показателей GGUF (документы + веб-интерфейс)

Для тех, кто хочет создать собственные количественные показатели GGUF, подготовили документацию GGUF-Tool-Suite и простой веб-интерфейс, чтобы упростить процесс.

Веб-интерфейс: https://gguf.thireus.com/quant_assign.html
Документы: https://github.com/Thireus/GGUF-Tool-Suite/tree/main/docs
Цель состоит в том, чтобы любой пользователь мог проводить бенчмаркинг и автоматически создавать GGUF любого размера для ik_llama.cpp и llama.cpp с помощью веб-интерфейса или интерфейса командной строки.

Этот набор инструментов уже оценили несколько увлеченных пользователей, которые стремятся повысить качество GGUF и получить больше возможностей для оптимальной настройки оборудования. В ходе тестирования было доказано, что он позволяет создавать GGUF более высокого качества, чем другие популярные релизы, особенно при использовании рецептов ik_llama.cpp.

Скоро появятся результаты тестирования Kimi-K2.5 и GLM-5.1, но инструмент уже работает со многими моделями, которые прошли тестирование.

(Обсуждение)
#GGUF #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
⚙️ Вышло несколько исправлений в Gemma 4 за последние 24 часа
Новые шаблоны чатов от Google для исправления вызовов инструментов:

31B: https://huggingface.co/google/gemma-4-31B-it/blob/main/chat_template.jinja

27B: https://huggingface.co/google/gemma-4-26B-A4B-it/blob/main/chat_template.jinja

E4B: https://huggingface.co/google/gemma-4-E4B-it/blob/main/chat_template.jinja

E2B: https://huggingface.co/google/gemma-4-E2B-it/blob/main/chat_template.jinja

(Обсуждение)
#Gemma4 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
📱 Свободный телефон в качестве API сервера для ИИ

Если у вас завалялся неиспользуемый телефон, есть проект, в рамках которого модифицировали Google AI Edge Gallery и превратил ее в сервер API, совместимый с OpenAI: [Gallery as Server]
Ваш телефон может выполнять локальный логический вывод с помощью ИИ. Вы можете использовать его так же, как API OpenAI (для чата, автодополнения и т.д.)
Вместо того чтобы позволять этому оборудованию пылиться без дела, вы можете превратить его в легковесный узел логического вывода.
Одна из самых сложных проблем заключается в том, что модель представлена в формате lithelm, а доступных моделей на https://huggingface.co/litert-community не так много.

Версия-1: https://github.com/xiaoyao9184/gallery
Версия-2: https://github.com/Uriziel01/gallery/
(Обсуждение)
============
👉 Еще: Приложение A.I.R.I - ваш телефон — это персональный сервер с ИИ!
Он может:
- запускайте модели локально
- доступ к ним с других устройств через Wi-Fi
- поддерживайте голосовые разговоры (TTS + STT)
- работайте с документами с помощью простого конвейера RAG
- управляйте моделями и загружайте их в приложении
- сохраняйте историю чатов и профили пользователей для удобства

Скачать .APK v2.0.0+2
🔗 https://github.com/agamairi/A.I.R.I
(Обсуждение)
============
👉 Еще: VicinoLLM - только для Gemma 4
🔗 https://github.com/angolo40/vicino-llm
(Обсуждение)
#AIEdgeGallery #AIRI #VicinoLLM #Android #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
1
This media is not supported in your browser
VIEW IN TELEGRAM
🎤 Superwhisper — Диктовка и транскрибатор речи в текст

Поддерживает больше 100 языков и диалектов с переводом на английский. Работает в Slack, Gmail и других приложениях.
Интегрируется с Cursor, Claude Code, Open Code и другими редакторами кода. Умеет транскрибировать аудио и видео.
Есть бесплатный тариф включающий:
- Преобразование речи в текст, работающее в любом приложении
- Запись и транскрипция собрания
- Поддержка более 100 языков
- Неограниченное использование небольших моделей ИИ
- Пользовательское управление подсказками
Самая большая бесплатная модель — Standard - это Whisper Small
Платно:
Все в разделе «Бесплатно», а также:
- Используйте собственные API-ключи для искусственного интеллекта
- Неограниченное использование облачных и локальных моделей ИИ
- Переведите любой язык на английский
- Расшифровка аудио- и видеофайлов
(Обсуждение в статье)
Доступен для macOS, Windows и iOS.

🔗 https://superwhisper.com
📱 Для iPhone: https://apps.apple.com/us/app/superwhisper/id6471464415

Еще 🎙 superwhisper бесплатно есть тут!

#whisper #Superwhisper #Диктовка #Transcription #Транскрибация #MacOS #App #iPhone #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📖 Интересная статья: Mac Studio для локального ИИ — 6 месяцев спустя
🔗 https://spicyneuron.substack.com/p/a-mac-studio-for-local-ai-6-months
Практическая инструкция по настройке и запуску моделей до 1Т!
(Ее обсуждение)
#MacStudio #MacStudioM3 #MacOS #AppleSilicon #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM