Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
Local Ai
⚡️ hyperlink.nexa.ai - Безопасный ИИ-агент для работы с документами и скриншотами локально! Работает прямо на вашем ПК - без отправки данных в облако и без регистрации, может работать вообще офлайн! 🪼 В обзоре - загрузили все снимки экрана с рабочего стола…
💬 Nexa AI (создатели Hyperlink) теперь полностью часть Qualcomm AI Hub. И сайт https://hyperlink.nexa.ai больше не доступен!
Но версию для #Windows можно найти тут: https://apps.microsoft.com/detail/xpfftx8v2dg9j9?hl=ru-RU&gl=FI

💡 Вот лучшие аналоги Hyperlink (локальный on-device AI-чат с твоими файлами) специально для Windows на 2026 год.
Hyperlink был простым «Perplexity для твоих документов» — полностью оффлайн, индексирует PDF, Word, изображения и т.д. и отвечает с цитатами.
Ниже — самые близкие по духу desktop-приложения, которые работают 100% локально (без облака и отправки файлов).

1. AnythingLLM Desktop — лучший прямой аналог (рекомендуют начать с него)

Полноценный RAG: загружаешь папки/файлы → чатишь с ними как с Perplexity.
Поддержка агентов, коллекций документов, локальных LLM (Ollama, LM Studio и встроенные).
Есть даже Desktop Assistant (оверлей поверх окон).
Крутое полезное обновление AnythingLLM
Добавили функцию создания заметок (транскрибацию) о совещаниях с помощью ИИ, чтобы заменить платные решения!
3-часовое аудио на MacBook M4 за 3 минуты.
https://t.me/Ai2Local/132

2. GPT4All — самый простой и «родной» desktop-клиент

Встроенная функция LocalDocs — именно чат по твоим локальным файлам (RAG).
Красивый интерфейс, как обычное Windows-приложение.
Тысячи моделей, быстрое скачивание, полностью приватно.
Скачать: https://gpt4all.io → Windows Installer (есть версия для ARM).

3. Private Document Chat (из Microsoft Store)

Прямо в стиле Hyperlink: «спроси у своих документов».
Полностью на устройстве, простая загрузка файлов, ответы с цитатами.
Устанавливается как обычное приложение из Store.
Ссылка: Microsoft Store → Private Document Chat

Другие достойные варианты (если первые не зайдут):
- Jan.ai — ещё один красивый desktop-клиент с RAG-поддержкой.
- LM Studio — мощный, но чуть больше ориентирован на модели + документ-чат.
- NVIDIA ChatRTX — если у тебя видеокарта RTX (очень быстрый, но только с NVIDIA).

Что выбрать?
- Хочешь максимально похоже на Hyperlink по простоте → AnythingLLM или GPT4All.
- Любишь Microsoft Store → Private Document Chat.

Все они бесплатные, работают оффлайн и не отправляют твои файлы никуда!
#NexaAI #Hyperlink #RAG #GPT4All #SoftAi #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1
🤖 Swival - Агент кодирования для любой модели

Работает с передовыми моделями, но при этом стремится быть максимально надежным и с менее крупными моделями, в том числе локальными. Предназначен для работы в условиях ограниченного контекста и ресурсов. Бесплатный, с открытым исходным кодом и простой в настройке.
Swival — это агент для написания кода с интерфейсом командной строки, созданный для практичных, надежных и простых в использовании задач. Он работает с фронтенд-моделями, но его главная цель — обеспечить максимальную надежность при работе с небольшими моделями, в том числе локальными. Он с самого начала разрабатывался с учетом жестких ограничений по времени и ресурсов.

Он подключается к LM Studio, llama.cpp, HuggingFace Inference API, OpenRouter, Google Gemini, ChatGPT Plus/Pro, любому серверу, совместимому с OpenAI (ollama, mlx_lm.server, vLLM и т. д.), или любой внешней команде (codex exec, пользовательским оболочкам и т. д.), отправляет вашу задачу и запускает автономный цикл обработки до тех пор, пока не выдаст ответ. При использовании LM Studio и llama.cpp он автоматически определяет загруженную модель, поэтому настраивать ничего не нужно. Чистый Python, без фреймворков.

🔗 https://swival.dev
🔗 https://github.com/swival/swival
#Swival #AiAgent #AgentAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Без цензуры: Qwen3.6-27B с квантами K_P!

Aggressive = без отказов; никаких изменений/альтернатив личности и прочего, это ОРИГИНАЛЬНАЯ версия Qwen без цензуры! 0/465 отказов*. Полностью разблокирована без потери возможностей.
🔗 https://huggingface.co/HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive

(Описание и Обсуждение)
И Вышел сбалансированный вариант: https://huggingface.co/HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced
Чтобы отключить «размышления», вам нужно отредактировать шаблон jinja или использовать параметр {«enable_thinking»: false}. Внимание: в Qwen3.6 нет программных переключателей /think и /no_think, которые были в Qwen3, поэтому используйте параметр.

Для Qwen3.6-35B-A3B было: https://t.me/Ai2Local/618
#Qwen36 #Qwen3627B #Uncensored #БезЦензуры #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Модель: 🛡 Shield 82M: модель для зачистки/фильтрации PII (персональных данных)

Shield 82M способна отфильтровывать все типы персональных данных (информацию, позволяющую установить личность) в текстах на любом языке. Ее общая точность составляет ~96%.
🔗 https://huggingface.co/LH-Tech-AI/Shield-82M
(Обсуждение)

OpenAI выпустила нечто подобное:
https://openai.com/index/introducing-openai-privacy-filter/

🌐 Новая модель Privacy Filter от OpenAI, работающая локально в вашем браузере на WebGPU: https://huggingface.co/spaces/webml-community/privacy-filter-webgpu

Было еще про: GLiNER-PII https://t.me/Ai2Local/449
#Shield #Shield82M #PHI #PII #ПерсональныеДанные #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🎞 Бесплатный генератор субтитров с ИИ для видео

Добавьте анимированные субтитры в стиле TikTok к любому видео. ИИ транскрибирует речь, вы выбираете стиль, а ваш браузер встраивает субтитры в MP4. Видео не покидает ваше устройство. Хотите получить обычный текст? Воспользуйтесь функцией расшифровки.

Абсолютно бесплатный сервис для расшифровки и рендеринга субтитров, который на 100 % работает в браузере. Он использует whisper-ai для расшифровки аудио и рендерит видео с помощью веб-кодеков.
🔗 https://8gwifi.org/video/captions/

🎙 Бесплатная расшифровка и перевод видео с помощью ИИ
Загрузите видео или аудиофайл и получите точную расшифровку или переведите его на английский язык. Экспортируйте в виде обычного текста или субтитров.
🔗 https://8gwifi.org/video/
(Обсуждение)
#Aivideo #captions #subtitle #Субтитры #Транскрибация #WhispherX #Whispher #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 OfflineGPT - Локальный ИИ на устройстве Android и iOS

New: Gemma 4 (LiteRT-LM) on-device
- Text, image, audio + web tool
🔍 Ключевые особенности:
Полностью офлайн – Работает без Wi-Fi, мобильного интернета или сигнала. Идеально для путешествий, полетов или удаленной работы.
Продвинутая локальная обработка – Эффективное форматирование запросов, потоковая передача токенов и умное контекстное окно для долгих, связных диалогов.
Приватность по умолчанию – Ничего не отправляется и не хранится за пределами вашего устройства. Никакого отслеживания, никакого облака.
Отличная контекстная память – OfflineGPT помнит имена, темы и связи на протяжении долгих чатов. Благодаря скользящим окнам, кэшированию и повторному использованию токенов, он дает логичные и связные ответы, недоступные другим офлайн ИИ.
Оптимизирован для логики, а не скорости – Работает немного медленнее, чем другие ИИ-приложения, но обеспечивает большую ясность и глубину рассуждений.
Pro-версия (единовременная покупка) – Открывает функции памяти, пользовательские запросы и более глубокую персонализацию.
Легкий и эффективный – Занимает всего около 30 МБ и оптимизирован для работы на смартфонах Android среднего класса.
Без рекламы. Совсем. – Чистое общение без отвлекающих факторов.
🔒 Без облака. Без задержек. Без лишнего. Просто умный офлайн ИИ.

🔗 https://codealp.ch/offline-gpt
⬇️ Android https://play.google.com/store/apps/details?id=com.offlinegpt.app
⬇️ iPhone: https://apps.apple.com/us/app/offline-ai-studio/id6761210483
#OfflineGPT #App #iOS #iPhone #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📖 AugmentedQuill - Веб-интерфейс для создания прозы с помощью ИИ

Помощник по написанию текстов на основе ИИ с поддержкой структуры повествования + чат-бот + подсказки в виде изображений.
Вы — автор, и вы за рулем: ваша история — это ваша история, а ИИ— ваш творческий партнер (от помощника в мозговых штурмах до «литературного негра»), который поддерживает вашу точку зрения и выбор.

Что умеет AugmentedQuill:
Создание историй на основе проектов (рассказ, роман, серия)
Многоглавная и многокнижная структура
Помощник по написанию текстов на основе искусственного интеллекта и чат (локальный API-ключ / конечные точки, совместимые с OpenAI)
Пользовательские шаблоны подсказок (редактор, писатель, чат-боты)
Справочник (персонажи, сцены, предыстория, предметы и т. д.)
Метаданные изображений + оптимизация генерации подсказок для изображений
Конфигурация на основе шаблонов JSON и переопределений в среде
Автоматическое сохранение артефактов проекта в data/projects

🔗 https://github.com/StableLlamaAI/AugmentedQuill
⬇️ Скачать: Windows: AugmentedQuill.Setup.0.9.1.exe и Linux
(Обсуждение)
#AugmentedQuill #Windows #Linux #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Хорошая статья для новичков: Топ локальных нейросетей ︎2026: подборка ИИ для запуска из дома https://habr.com/ru/companies/bothub/articles/1028906/
👍2
Модель: Talkie — LLM знающая до 1930

Представляем «говорящую» модель 13B, созданную в 1930 году!
talkie-1930-13b-base - Это языковая модель 13b, обученная на текстах на английском языке, написанных до 1931 года.

talkie-1930-13b-it - Модель была доработана с использованием нового набора данных, составленного на основе справочных материалов, изданных до 1931 года, в том числе руководств по этикету, написанию писем, энциклопедий и сборников стихов. Кроме того, для улучшения способности следовать инструкциям модель прошла обучение с подкреплением в режиме онлайн.

Также предоставляем «современную» базовую модель talkie-web-13b-base с той же архитектурой и вычислительными мощностями, что и у talkie-1930, но обученную на FineWeb, чтобы можно было проводить контролируемое сравнение современных и старых моделей.

Есть такой жанр, тренировка LLM на исторических данных. В этот раз 13B модель натренировали на 260 миллиардах токенов до 1930 года включительно, что делает это наибольшим подобным экспериментом. Дата выбрана неслучайно — всё что написано до 1930 года, в США является общественным достоянием.

Летом команда собирается выпустить модель на уровне GPT-3. Кстати к созданию этой модели приложил руку Alec Radford, который натренировал самую первую GPT.

💬 Чат: Поговорить с прошлым (есть очередь, может быть проще скачать себе)
Блогпост
🔗 https://github.com/talkie-lm/talkie
Веса: https://huggingface.co/collections/talkie-lm/talkie-13b
Статья: https://habr.com/ru/companies/kodik/news/1028908/
(Обсуждение)
#Talkie #Talkie13b #talkie1930 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 OpenMNK - Компьютерный агент. Вы говорите, он работает.

Терминальные команды, редактирование документов, управление браузером, управление знаниями — и все это в диалоговом режиме.
- голосовой ввод одним нажатием клавиши
- модели OSS, совместимые с любым провайдером, поддерживающим OpenAI
- крошечная кодовая база и полный контроль, никаких случайных ослаблений и газлайтинга
- строка запроса / текстовый редактор, для редактирования в котором не нужно 10 минут жать на клавиши со стрелками

🔗 https://openmnk.com
🔗 https://github.com/Emericen/openmnk
(Обсуждение и пример с удалением приложения)
#OpenMNK #MacOS #AgentAi #AiAgent #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📺 Интересное применение TurboQuant для поиска и рекомендации фильмов прямо на устройстве!

TurboQuant — это новый революционный алгоритм квантования от Google Research, который применяет случайное вращение к многомерным векторам для устранения выбросов, обеспечивая экстремально низкое сжатие с практически нулевой потерей точности.

Несмотря на то, что эта технология сейчас набирает популярность благодаря уменьшению размера кэша LLM KV, разработчик хотел посмотреть, как она справляется с семантическим поиском на устройстве!

Он интегрировал ее в демонстрационную версию рекомендаций на стороне клиента (CineMatch), чтобы она работала исключительно на устройстве.

Вот как движок управляет архитектурой:

- 6-кратное сжатие: TurboQuant применяет случайное вращение и 3-битное скалярное квантование, чтобы уменьшить размерность 384-мерных векторных представлений Float32 с 1536 байт до 249 байт.

- Микропосылки: благодаря такой плотности весь векторизованный индекс фильмов мгновенно отправляется клиенту в виде небольшого JSON-файла размером ~12 КБ.

- Выполнение SIMD в WASM: мы даже не распаковываем данные во время выполнения. Браузер вычисляет скалярное произведение непосредственно для сжатых векторов с помощью SIMD в WebAssembly.

- Сопоставление без джиттера: косинусное сходство Top-K выполняется примерно за 13 мс, что значительно ниже порогового значения в 16 мс, обеспечивающего безупречную частоту кадров в 60 кадров в секунду без обращения к серверу.

Внедрение передовых алгоритмов квантования непосредственно в браузер открывает огромный потенциал для создания искусственного интеллекта с нулевыми вычислительными затратами, ориентированного на конфиденциальность.

🔗 https://h3manth.com/ai/cinematch/
(Обсуждение)
#TurboQuant #CineMatch #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM