Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
ℹ️Модель: 🎥 NVIDIA выпустила мультимодалку для видео на 8B параметров

NVILA-HD-Video обрабатывает видео в 4K с тысячей кадров. Технология AutoGaze вырезает из ролика повторяющиеся фрагменты — это ускоряет работу в 19 раз для ViT и в 10 раз для LLM.

Часовое 4K-видео модель обработала за 3,2 секунды. Ближайший конкурент Nemotron Nano 12B v2 VL потратил на это 61 секунду.

Результаты: лидирует на бенчмарке HLVid и показывает хорошую производительность на VideoMME.

🔗 https://autogaze.github.io/
https://github.com/NVlabs/VILA/tree/main/vila_hd/nvila_hd_video
https://huggingface.co/nvidia/NVILA-8B-HD-Video
https://huggingface.co/spaces/bfshi/AutoGaze
#NVILA8BHDVideo #NVIDIA #AiVideo #AutoGaze #VideoMME #HLVid #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔍 Qavrn — это локальный механизм RAG (Retrieval-Augmented Generation), который индексирует ваши документы и позволяет задавать вопросы о них на естественном языке. Ответы основаны на реальных файлах с указанием источников и оценкой релевантности, а не на данных, полученных в результате обучения облачной модели. Данные не покидают ваш компьютер: никаких API-ключей, никакой телеметрии, никакого подключения к интернету после первоначальной настройки.
Возможности:
- Более 30 типов файлов: PDF, DOCX, Markdown, код, электронные письма, электронные книги, файлы конфигурации
- Семантический векторный поиск с помощью ChromaDB + преобразователи предложений
- Потоковая передача ответов с указанием источников и оценкой релевантности
- Файловый наблюдатель для автоматической переиндексации при изменениях
- Веб-интерфейс на localhost:8000 + нативное десктопное приложение через Tauri
- Никаких внешних зависимостей после первоначальной настройки
Стек: Python/FastAPI, React/TypeScript, ChromaDB, Ollama, Tauri

Настройка: клонирование, установка через pip, загрузка модели Ollama, запуск. Вот и всё.

🔗 https://github.com/mussussu/Qavrn
(Обсуждение)
Есть похожее и как готовое приложение: Hyperlink
#Qavrn #RAG #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 PersonaLLM - приложение для общения с персонажами (для ролевых игр) на iOS, которое поддерживает локальные модели, BYOK и RAG на устройстве!
Текстовые, графические и видеосервисы работают отдельно, так что вы можете комбинировать их по своему усмотрению. Подойдет любая API, совместимая с OpenAI, так что вы можете подключить свою систему Ollama/vLLM/LM Studio. Кроме того, есть модели MLX для полностью автономного чата. Qwen 3.5 на iPhone работает на удивление хорошо!

Другие локальные фишки:
- Встроенная память RAG — персонажи все запоминают, ничего не пропадает с вашего телефона
- Локальный ComfyUI для создания изображений и видео
- Встроенная система преобразования текста в речь Kokoroинтернет не нужен!
- Полный доступ к системным подсказкам, импорт TavernAI/SillyTavern, разветвленные диалоги!

Это бесплатно, никаких платных функций.

(Забавная штука: подключите свою локальную модель, выберите или создайте персонажа, включите автопилот и просто наблюдайте за развитием диалога.

Обратите внимание: генерация персонажей лучше всего работает с более мощной моделью. Вы можете использовать встроенные облачные кредиты (500 бесплатных, работают на Opus) или собственный ключ API для подключения подходящей модели. Более слабые локальные модели, скорее всего, не справятся с анализом выходного формата.)

🔗 https://personallm.app
⬇️ https://apps.apple.com/us/app/personallm/id6759881719
(Обсуждение)
#PersonaLLM #iPhone #App #Kokoro #SillyTavern #TavernAI #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Omnicoder-Claude-4.6-Opus-Uncensored-GGUF

Представляем модель OmniClaw, созданную на основе реальных Claude Code / Codex агентских сессий из коллекции наборов данных DataClaw.
🔗 https://huggingface.co/LuffyTheFox/OmniClaw-Claude-4.6-Opus-Uncensored-GGUF

Omnicoder в интерпретации Claude-4.6-Opus:
🔗 https://huggingface.co/LuffyTheFox/Omnicoder-Claude-4.6-Opus-Uncensored-GGUF

И модель OmniRP для литературного творчества и создания историй:
🔗 https://huggingface.co/LuffyTheFox/OmniRP-Claude-4.6-Opus-Uncensored-GGUF

❗️Все модели полностью без цензуры, ни один запрос не был отклонен!
Для всех моделей доступны только кванты Q8_0. Другие кванты имеют очень низкое качество.

Слияние моделей выполнено с помощью этого скрипта на Python: https://pastebin.com/xEP68vss
Сохранили структуру заголовка и метаданных GGUF для обеспечения совместимости.

Для Omnicoder объединили данные с помощью следующих моделей:

Последнее обновление для модели Jackrong, обученной на дистиллированном наборе данных от Claude-4.6-Opu:
🔗 https://huggingface.co/Jackrong/Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF

Модель HauhauCS Qwen 3.5 9B без цензуры
🔗 https://huggingface.co/HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive

Омникодер производства Tesslate:
🔗 https://huggingface.co/Tesslate/OmniCoder-9B-GGUF

Использовали квант Бартовски в качестве основы:
🔗 https://huggingface.co/bartowski/Qwen_Qwen3.5-9B-GGUF

Для OmniClaw объединили свой Omnicoder с этой моделью от empero-ai:
🔗 https://huggingface.co/empero-ai/Qwen3.5-9B-Claude-Code-GGUF

Для OmniRP объединили свой Omnicoder с моделью от nbeerbower:
🔗 https://huggingface.co/nbeerbower/Qwen3.5-9B-Writing-DPO

Считают, что это лучшее из того, что у нас есть на данный момент в плане UGI (Uncensored General Intelligence) для небольшой модели 9B на базе архитектуры Qwen 3.5 9B.

Модель не звучит как робот, у него хорошая система подсказок и обширные знания для модели 9B.

(Обсуждение)
#Omnicoder #Uncensored #OmniRP #OmniClaw #Qwen359B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Lore readme-query-demo.gif
21.3 MB
📺 Lore - Захват и воспроизведение мыслей с помощью ИИ — полностью на вашем ПК.

Вызовите его одним нажатием клавиши, введите любую информацию, которую хотите запомнить, или обратитесь к своей памяти. Локальный агент LLM, который преобразует ваши знания в векторизованную базу данных. Полностью приватный, без использования облачных технологий. Создан для разработчиков.
Три вещи, которые нужно знать:
- Не отвлекайтесь. Нажмите глобальную комбинацию клавиш (Ctrl+Shift+Пробел), печатайте как обычно. Никакого форматирования, никаких папок, никаких решений. Просто записывайте.

- Он понимает, что вы имеете в виду. Lore автоматически классифицирует вводимые вами данные: сохраняет мысль, задает вопрос, управляет задачами или дает инструкции. Вам не нужно об этом думать.

- Все остается локальным. Конвейер RAG, векторный поиск и логический вывод на основе больших языковых моделей работают на вашем устройстве. Ничего не покидает пределы вашего компьютера.

Под капотом: Ollama обрабатывает большие языковые модели, а LanceDB обеспечивает локальное хранение векторных данных.

Lore — это лёгкое настольное приложение, которое находится в системном трее и позволяет одним нажатием кнопки открыть всплывающий чат для быстрого обмена мыслями. Оно использует локальную языковую модель (через Ollama) и локальную векторную базу данных (LanceDB) для хранения, обработки и извлечения вашей информации — никаких облачных сервисов, никаких API-ключей, полная конфиденциальность.

Считайте, что это ваша личная вторая память — место, где можно хранить все, что может понадобиться в будущем. От подробных инструкций, которые вы написали для себя, до списков дел, кратких описаний принятых решений, URL-адресов и даже того самого curl-запроса, который вы использовали для воспроизведения ошибки в продакшене. Все это можно упорядочить и мгновенно найти, просто описав на понятном языке — даже по дате или теме.

Ключевые особенности:
- Быстрый захват — нажмите глобальную комбинацию клавиш, чтобы открыть панель чата, введите мысль, и она будет мгновенно сохранена
- Умное воспроизведение — задавайте вопросы на естественном языке и получайте ответы на основе сохраненных мыслей
- Классификация ИИ — вводимые данные автоматически классифицируются как мысль, вопрос, команда или инструкция
- Управление задачами — добавляйте, составляйте списки, выполняйте и систематизируйте задачи с учетом приоритета и категорий
- Конвейер RAG — генерация с использованием извлеченных данных находит нужный контекст в ваших заметках, прежде чем дать ответ
- Полностью локальная обработка — все данные и обработка с помощью ИИ выполняются на вашем устройстве

Для Windows, macOS, Linux
🔗 https://github.com/ErezShahaf/Lore
⬇️ Скачать v0.1.0
(Обсуждение)
#Lore #LanceDB #Ollama #Windows #macOS #Linux #SoftAi #AiSoft #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Text-Generation-WebUi - локальный интерфейс LLM. Работа с текстом, визуализация, вызов инструментов, обучение и многое другое. 100 % автономная работа.

Выпущена версия text-generation-webui 4.1 с поддержкой вызова инструментов в пользовательском интерфейсе! Каждый инструмент — это всего лишь один файл .py. Установите флажок и нажмите «Отправить». Это так просто, что вы сами сможете создавать и использовать собственные функции.

🔗 https://github.com/oobabooga/text-generation-webui
🌐 Веб-интерфейс для генерации текста — расширение Deep Reason https://oobabooga.gumroad.com/l/deep_reason
(Обсуждение) (Обсуждение 2)
#TextGenerationWebUi #DeepReason #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 "LocalAI – Offline AI Chat LLM"

LocalAI: Ваш Полностью Офлайн, Приватный AI Ассистент
Полностью on-device через llama.cpp. Поддерживает GGUF-модели (Llama, Qwen, Phi, Gemma и т.д.). Хороший UI, загрузка документов/фото, приватность 100%.
Превратите свой Android в мощную рабочую станцию с ИИ. LocalAI запускает большие языковые модели полностью на вашем устройстве, используя движок Llama.cpp. Никакого облака, никаких подписок, никакого сбора данных. Ваши запросы, документы и фотографии никогда не покинут ваш телефон.

⬇️ https://play.google.com/store/apps/details?id=com.ApexCreator.localaiapp&hl=ru
Весь список аналогов: https://t.me/Ai2Local/22

Еще:
- Private AI: https://play.google.com/store/apps/details?id=us.valkon.privateai
- Offline AI Chat - Local LLM https://play.google.com/store/apps/details?id=com.freeai.chat
- Llamatik – ИИ-бот локальный https://play.google.com/store/apps/details?id=com.llamatik.app.android
- Local and Private AI: MyLocAI https://play.google.com/store/apps/details?id=in.isunny.mylocai
- Llamao — Private & Offline AI https://play.google.com/store/apps/details?id=com.sandoche.llamao
#App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Reins : Чат для Олламы - Приватный чат с ИИ

Reins — это мультиплатформенное приложение с открытым исходным кодом, ориентированное на конфиденциальность и разработанное для пользователей Ollama. Оно упрощает настройку чата благодаря удобному интерфейсу, позволяющему настраивать системные подсказки, менять модель чата и корректировать параметры для каждого диалога в отдельности. Reins обеспечивает удобство и широкие возможности настройки для всех, кто работает с собственными языковыми моделями.

Исследователи и энтузиасты больших языковых моделей получают полный контроль над собственными моделями. Удаленное подключение, настройка подсказок, управление чатами и тонкая настройка конфигураций. Все в одном интуитивно понятном приложении.
Клиент Ollama для iOS, Android, macOS, Linux и Windows упрощает эксперименты с большими языковыми моделями.

🔗 https://github.com/ibrahimcetin/reins
AppStore: https://apps.apple.com/us/app/reins-chat-for-ollama/id6739738501
Для #MacOS , #iPhone , #iPad
⬇️ Скачать для Android .APK v1.3.0 и Reins-macOS.dmg
#Reins #App #Ollama #Android #Linux #Windows #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Ollama App - Современный и простой в использовании клиент для Ollama

Современный и простой в использовании клиент для Ollama. Наслаждайтесь работой, сохраняя конфиденциальность и работая в локальной сети.
🔗 https://github.com/JHubi1/ollama-app
⬇️ Скачать:
#Android - ollama-android-v1.2.0.apk
#Windows - ollama-windows-x64-v1.2.0.exe
#Ollama #App #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
💬 OllamaTalk - Локальный ИИ

🤖 Полностью локальное кроссплатформенное приложение для общения с ИИ на базе Ollama. Общайтесь безопасно на macOS, Windows, Linux, Android и iOS — облако не требуется.
OllamaTalk — это полностью локальное кроссплатформенное приложение для общения с искусственным интеллектом, которое без проблем работает на macOS, Windows, Linux, Android и iOS. Вся обработка данных искусственным интеллектом происходит исключительно на вашем устройстве, что обеспечивает безопасность и конфиденциальность общения без использования внешних серверов или облачных сервисов. Такая конструкция гарантирует полный контроль над вашими данными и обеспечивает единообразие работы на всех основных платформах.

🔗 https://github.com/shinhyo/OllamaTalk
⬇️ Скачать v0.2.0
#Android - OllamaTalk-Android.apk
#MacOS - OllamaTalk-macOS.dmg
#Windows - OllamaTalk-Windows.exe
#Linux - OllamaTalk-Linux.deb
#OllamaTalk #Ollama #App #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 QuestChain - Ваш помощник с искусственным интеллектом работает на вашем оборудовании и обслуживает вас круглосуточно.

QuestChain — альтернатива Openclaw, созданная для небольших локальных моделей!
По-настоящему локальный ИИ-агент, работающий исключительно на вашем оборудовании. Автономные задачи, доступ к файлам и оболочке, обновления в Telegram, задания cron и развитие в ролевых играх.

QuestChain — это ИИ-помощник, который работает исключительно на вашем компьютере. Никаких облачных сервисов, подписок и ограничений по использованию. Только ваше оборудование, на котором круглосуточно работает мощная локальная модель. Она считывает ваши файлы, выполняет команды оболочки, ищет информацию в интернете, планирует задания и работает над вашим списком задач, пока вы спите. Ничего не покидает пределы вашего компьютера.

🔗 https://github.com/RayP11/QuestChain
(Обсуждение)
#QuestChain #Openclaw #AiAgent #AgentAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель:
👉 Qwen3.5-Claude-4.6-Opus-Reasoning-Distilled-v2

🔗 https://huggingface.co/collections/Jackrong/qwen35-claude-46-opus-reasoning-distilled-v2
(Обсуждение)

👉 Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking — Reg, без цензуры, RoughHouse, ...

🔗 https://huggingface.co/DavidAU/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking

🔗 https://huggingface.co/DavidAU/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking

🔗 https://huggingface.co/DavidAU/Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-Polar-Deckard-Uncensored-Heretic-Thinking

Подробные примеры доступны во всех репозиториях.
Кванты GGUF доступны для всех моделей!
(Обсуждение)

👉 Qwen3.5-9B GGUF, настроенный на логические рассуждения и вызов функций - qwen3.5-9b-opus-4.6-functiongemma
🔗 https://huggingface.co/slyfox1186/qwen3.5-9b-opus-4.6-functiongemma.gguf
(Обсуждение)

📐 Пример решения геометрии в qwen3.5-27b-claude-4.6-opus-reasoning-distilled всего за 18 секунд.
#Qwen35 #huggingface #GGUF #Uncensored #Heretic #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🎞 Voicer - Инструмент для перевода и озвучивания видео с помощью Ollama, Qwen3-tts и translategemma

Переводите текст (Ollama + translategemma) и клонируйте голос с помощью Qwen3-TTS. Настольное приложение (CustomTkinter) и интерфейс командной строки.

🔗 https://github.com/the-homeless-god/voicer
Подробно: https://habr.com/ru/articles/1011072/
Подробно на reddit.com
Скачать для: MacOS и Windows
#voicer #MacOS #Windows #Ollama #translategemma #Qwen3TTS #TTS #Перевод #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Llama Bro SDK для Android

Высокопроизводительный Android SDK для вывода LLM на устройстве (GGUF). Ориентирован на конфиденциальность, работает в автономном режиме и работает на базе llama.cpp с чистым API Kotlin Coroutines.
Используйте полноценную модель искусственного интеллекта в своем телефоне. На своих условиях. Без серверов. Без подписок. Данные не покидают ваш телефон.

Llama Bro — это компактный и производительный Android SDK, который запускает квантованные модели больших языковых моделей непосредственно на устройстве с помощью llama.cpp. Создан с использованием корутин Kotlin и структурированного параллелизма для современной разработки под Android. Независимо от того, заботитесь ли вы о конфиденциальности, предпочитаете работать в автономном режиме или просто хотите узнать, что можно сделать на телефоне, с помощью Llama Bro вы сможете выполнять логические выводы с помощью искусственного интеллекта, используя всего одну зависимость Gradle.

🚀 Попробуйте демо-приложение: LlamaBro-Demo.apk
🔗 https://github.com/whyisitworking/llama-bro
(Обсуждение)
#LlamaBro #Llama #SDK #Android #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM