Возможности:
- Более 30 типов файлов: PDF, DOCX, Markdown, код, электронные письма, электронные книги, файлы конфигурации
- Семантический векторный поиск с помощью ChromaDB + преобразователи предложений
- Потоковая передача ответов с указанием источников и оценкой релевантности
- Файловый наблюдатель для автоматической переиндексации при изменениях
- Веб-интерфейс на localhost:8000 + нативное десктопное приложение через Tauri
- Никаких внешних зависимостей после первоначальной настройки
Стек: Python/FastAPI, React/TypeScript, ChromaDB, Ollama, Tauri
Настройка: клонирование, установка через pip, загрузка модели Ollama, запуск. Вот и всё.
(Обсуждение)
Есть похожее и как готовое приложение: Hyperlink
#Qavrn #RAG #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - mussussu/Qavrn: Your private AI research assistant. Fully local. Fully yours.
Your private AI research assistant. Fully local. Fully yours. - mussussu/Qavrn
📱 PersonaLLM - приложение для общения с персонажами (для ролевых игр) на iOS, которое поддерживает локальные модели, BYOK и RAG на устройстве!
🔗 https://personallm.app
⬇️ https://apps.apple.com/us/app/personallm/id6759881719
(Обсуждение)
#PersonaLLM #iPhone #App #Kokoro #SillyTavern #TavernAI #AiLocal #LocalAi
Текстовые, графические и видеосервисы работают отдельно, так что вы можете комбинировать их по своему усмотрению. Подойдет любая API, совместимая с OpenAI, так что вы можете подключить свою систему Ollama/vLLM/LM Studio. Кроме того, есть модели MLX для полностью автономного чата. Qwen 3.5 на iPhone работает на удивление хорошо!
Другие локальные фишки:
- Встроенная память RAG — персонажи все запоминают, ничего не пропадает с вашего телефона
- Локальный ComfyUI для создания изображений и видео
- Встроенная система преобразования текста в речь Kokoro — интернет не нужен!
- Полный доступ к системным подсказкам, импорт TavernAI/SillyTavern, разветвленные диалоги!
Это бесплатно, никаких платных функций.
(Забавная штука: подключите свою локальную модель, выберите или создайте персонажа, включите автопилот и просто наблюдайте за развитием диалога.
Обратите внимание: генерация персонажей лучше всего работает с более мощной моделью. Вы можете использовать встроенные облачные кредиты (500 бесплатных, работают на Opus) или собственный ключ API для подключения подходящей модели. Более слабые локальные модели, скорее всего, не справятся с анализом выходного формата.)
(Обсуждение)
#PersonaLLM #iPhone #App #Kokoro #SillyTavern #TavernAI #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Представляем модель OmniClaw, созданную на основе реальных Claude Code / Codex агентских сессий из коллекции наборов данных DataClaw.
Omnicoder в интерпретации Claude-4.6-Opus:
И модель OmniRP для литературного творчества и создания историй:
Для всех моделей доступны только кванты Q8_0. Другие кванты имеют очень низкое качество.
Слияние моделей выполнено с помощью этого скрипта на Python: https://pastebin.com/xEP68vss
Сохранили структуру заголовка и метаданных GGUF для обеспечения совместимости.
Для Omnicoder объединили данные с помощью следующих моделей:
Последнее обновление для модели Jackrong, обученной на дистиллированном наборе данных от Claude-4.6-Opu:🔗 https://huggingface.co/Jackrong/Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF
Модель HauhauCS Qwen 3.5 9B без цензуры🔗 https://huggingface.co/HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive
Омникодер производства Tesslate:🔗 https://huggingface.co/Tesslate/OmniCoder-9B-GGUF
Использовали квант Бартовски в качестве основы:🔗 https://huggingface.co/bartowski/Qwen_Qwen3.5-9B-GGUF
Для OmniClaw объединили свой Omnicoder с этой моделью от empero-ai:🔗 https://huggingface.co/empero-ai/Qwen3.5-9B-Claude-Code-GGUF
Для OmniRP объединили свой Omnicoder с моделью от nbeerbower:🔗 https://huggingface.co/nbeerbower/Qwen3.5-9B-Writing-DPO
Считают, что это лучшее из того, что у нас есть на данный момент в плане UGI (Uncensored General Intelligence) для небольшой модели 9B на базе архитектуры Qwen 3.5 9B.
Модель не звучит как робот, у него хорошая система подсказок и обширные знания для модели 9B.
(Обсуждение)
#Omnicoder #Uncensored #OmniRP #OmniClaw #Qwen359B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Lore readme-query-demo.gif
21.3 MB
Вызовите его одним нажатием клавиши, введите любую информацию, которую хотите запомнить, или обратитесь к своей памяти. Локальный агент LLM, который преобразует ваши знания в векторизованную базу данных. Полностью приватный, без использования облачных технологий. Создан для разработчиков.
Три вещи, которые нужно знать:
- Не отвлекайтесь. Нажмите глобальную комбинацию клавиш (Ctrl+Shift+Пробел), печатайте как обычно. Никакого форматирования, никаких папок, никаких решений. Просто записывайте.
- Он понимает, что вы имеете в виду. Lore автоматически классифицирует вводимые вами данные: сохраняет мысль, задает вопрос, управляет задачами или дает инструкции. Вам не нужно об этом думать.
- Все остается локальным. Конвейер RAG, векторный поиск и логический вывод на основе больших языковых моделей работают на вашем устройстве. Ничего не покидает пределы вашего компьютера.
Под капотом: Ollama обрабатывает большие языковые модели, а LanceDB обеспечивает локальное хранение векторных данных.
Lore — это лёгкое настольное приложение, которое находится в системном трее и позволяет одним нажатием кнопки открыть всплывающий чат для быстрого обмена мыслями. Оно использует локальную языковую модель (через Ollama) и локальную векторную базу данных (LanceDB) для хранения, обработки и извлечения вашей информации — никаких облачных сервисов, никаких API-ключей, полная конфиденциальность.
Считайте, что это ваша личная вторая память — место, где можно хранить все, что может понадобиться в будущем. От подробных инструкций, которые вы написали для себя, до списков дел, кратких описаний принятых решений, URL-адресов и даже того самого curl-запроса, который вы использовали для воспроизведения ошибки в продакшене. Все это можно упорядочить и мгновенно найти, просто описав на понятном языке — даже по дате или теме.
Ключевые особенности:
- Быстрый захват — нажмите глобальную комбинацию клавиш, чтобы открыть панель чата, введите мысль, и она будет мгновенно сохранена
- Умное воспроизведение — задавайте вопросы на естественном языке и получайте ответы на основе сохраненных мыслей
- Классификация ИИ — вводимые данные автоматически классифицируются как мысль, вопрос, команда или инструкция
- Управление задачами — добавляйте, составляйте списки, выполняйте и систематизируйте задачи с учетом приоритета и категорий
- Конвейер RAG — генерация с использованием извлеченных данных находит нужный контекст в ваших заметках, прежде чем дать ответ
- Полностью локальная обработка — все данные и обработка с помощью ИИ выполняются на вашем устройстве
Для Windows, macOS, Linux
⬇️ Скачать v0.1.0
(Обсуждение)
#Lore #LanceDB #Ollama #Windows #macOS #Linux #SoftAi #AiSoft #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
✨ Text-Generation-WebUi - локальный интерфейс LLM. Работа с текстом, визуализация, вызов инструментов, обучение и многое другое. 100 % автономная работа.
Выпущена версия text-generation-webui 4.1 с поддержкой вызова инструментов в пользовательском интерфейсе! Каждый инструмент — это всего лишь один файл .py. Установите флажок и нажмите «Отправить». Это так просто, что вы сами сможете создавать и использовать собственные функции.
🔗 https://github.com/oobabooga/text-generation-webui
🌐 Веб-интерфейс для генерации текста — расширение Deep Reason https://oobabooga.gumroad.com/l/deep_reason
(Обсуждение) (Обсуждение 2)
#TextGenerationWebUi #DeepReason #AiLocal #LocalAi
Выпущена версия text-generation-webui 4.1 с поддержкой вызова инструментов в пользовательском интерфейсе! Каждый инструмент — это всего лишь один файл .py. Установите флажок и нажмите «Отправить». Это так просто, что вы сами сможете создавать и использовать собственные функции.
(Обсуждение) (Обсуждение 2)
#TextGenerationWebUi #DeepReason #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 "LocalAI – Offline AI Chat LLM"
LocalAI: Ваш Полностью Офлайн, Приватный AI Ассистент
Полностью on-device через llama.cpp. Поддерживает GGUF-модели (Llama, Qwen, Phi, Gemma и т.д.). Хороший UI, загрузка документов/фото, приватность 100%.
⬇️ https://play.google.com/store/apps/details?id=com.ApexCreator.localaiapp&hl=ru
Весь список аналогов: https://t.me/Ai2Local/22
Еще:
- Private AI: https://play.google.com/store/apps/details?id=us.valkon.privateai
- Offline AI Chat - Local LLM https://play.google.com/store/apps/details?id=com.freeai.chat
- Llamatik – ИИ-бот локальный https://play.google.com/store/apps/details?id=com.llamatik.app.android
- Local and Private AI: MyLocAI https://play.google.com/store/apps/details?id=in.isunny.mylocai
- Llamao — Private & Offline AI https://play.google.com/store/apps/details?id=com.sandoche.llamao
#App #Android #LocalAi #AiLocal
LocalAI: Ваш Полностью Офлайн, Приватный AI Ассистент
Полностью on-device через llama.cpp. Поддерживает GGUF-модели (Llama, Qwen, Phi, Gemma и т.д.). Хороший UI, загрузка документов/фото, приватность 100%.
Превратите свой Android в мощную рабочую станцию с ИИ. LocalAI запускает большие языковые модели полностью на вашем устройстве, используя движок Llama.cpp. Никакого облака, никаких подписок, никакого сбора данных. Ваши запросы, документы и фотографии никогда не покинут ваш телефон.
Весь список аналогов: https://t.me/Ai2Local/22
Еще:
- Private AI: https://play.google.com/store/apps/details?id=us.valkon.privateai
- Offline AI Chat - Local LLM https://play.google.com/store/apps/details?id=com.freeai.chat
- Llamatik – ИИ-бот локальный https://play.google.com/store/apps/details?id=com.llamatik.app.android
- Local and Private AI: MyLocAI https://play.google.com/store/apps/details?id=in.isunny.mylocai
- Llamao — Private & Offline AI https://play.google.com/store/apps/details?id=com.sandoche.llamao
#App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Reins : Чат для Олламы - Приватный чат с ИИ
🔗 https://github.com/ibrahimcetin/reins
AppStore: https://apps.apple.com/us/app/reins-chat-for-ollama/id6739738501
Для #MacOS , #iPhone , #iPad
⬇️ Скачать для Android .APK v1.3.0 и Reins-macOS.dmg
#Reins #App #Ollama #Android #Linux #Windows #AiLocal #LocalAi
Reins — это мультиплатформенное приложение с открытым исходным кодом, ориентированное на конфиденциальность и разработанное для пользователей Ollama. Оно упрощает настройку чата благодаря удобному интерфейсу, позволяющему настраивать системные подсказки, менять модель чата и корректировать параметры для каждого диалога в отдельности. Reins обеспечивает удобство и широкие возможности настройки для всех, кто работает с собственными языковыми моделями.
Исследователи и энтузиасты больших языковых моделей получают полный контроль над собственными моделями. Удаленное подключение, настройка подсказок, управление чатами и тонкая настройка конфигураций. Все в одном интуитивно понятном приложении.
Клиент Ollama для iOS, Android, macOS, Linux и Windows упрощает эксперименты с большими языковыми моделями.
AppStore: https://apps.apple.com/us/app/reins-chat-for-ollama/id6739738501
Для #MacOS , #iPhone , #iPad
#Reins #App #Ollama #Android #Linux #Windows #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Ollama App - Современный и простой в использовании клиент для Ollama
Современный и простой в использовании клиент для Ollama. Наслаждайтесь работой, сохраняя конфиденциальность и работая в локальной сети.
🔗 https://github.com/JHubi1/ollama-app
⬇️ Скачать:
#Android - ollama-android-v1.2.0.apk
#Windows - ollama-windows-x64-v1.2.0.exe
#Ollama #App #AiLocal #LocalAi
Современный и простой в использовании клиент для Ollama. Наслаждайтесь работой, сохраняя конфиденциальность и работая в локальной сети.
#Android - ollama-android-v1.2.0.apk
#Windows - ollama-windows-x64-v1.2.0.exe
#Ollama #App #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Полностью локальное кроссплатформенное приложение для общения с ИИ на базе Ollama. Общайтесь безопасно на macOS, Windows, Linux, Android и iOS — облако не требуется.
OllamaTalk — это полностью локальное кроссплатформенное приложение для общения с искусственным интеллектом, которое без проблем работает на macOS, Windows, Linux, Android и iOS. Вся обработка данных искусственным интеллектом происходит исключительно на вашем устройстве, что обеспечивает безопасность и конфиденциальность общения без использования внешних серверов или облачных сервисов. Такая конструкция гарантирует полный контроль над вашими данными и обеспечивает единообразие работы на всех основных платформах.
#Android - OllamaTalk-Android.apk
#MacOS - OllamaTalk-macOS.dmg
#Windows - OllamaTalk-Windows.exe
#Linux - OllamaTalk-Linux.deb
#OllamaTalk #Ollama #App #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
QuestChain — альтернатива Openclaw, созданная для небольших локальных моделей!
По-настоящему локальный ИИ-агент, работающий исключительно на вашем оборудовании. Автономные задачи, доступ к файлам и оболочке, обновления в Telegram, задания cron и развитие в ролевых играх.
QuestChain — это ИИ-помощник, который работает исключительно на вашем компьютере. Никаких облачных сервисов, подписок и ограничений по использованию. Только ваше оборудование, на котором круглосуточно работает мощная локальная модель. Она считывает ваши файлы, выполняет команды оболочки, ищет информацию в интернете, планирует задания и работает над вашим списком задач, пока вы спите. Ничего не покидает пределы вашего компьютера.
(Обсуждение)
#QuestChain #Openclaw #AiAgent #AgentAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
👉 Qwen3.5-Claude-4.6-Opus-Reasoning-Distilled-v2
(Обсуждение)
👉 Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking — Reg, без цензуры, RoughHouse, ...
Подробные примеры доступны во всех репозиториях.
Кванты GGUF доступны для всех моделей!
(Обсуждение)
👉 Qwen3.5-9B GGUF, настроенный на логические рассуждения и вызов функций - qwen3.5-9b-opus-4.6-functiongemma
(Обсуждение)
📐 Пример решения геометрии в qwen3.5-27b-claude-4.6-opus-reasoning-distilled всего за 18 секунд.
#Qwen35 #huggingface #GGUF #Uncensored #Heretic #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
huggingface.co
Qwen3.5-Claude-4.6-Opus-Reasoning-Distilled-v2 - a Jackrong Collection
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
Переводите текст (Ollama + translategemma) и клонируйте голос с помощью Qwen3-TTS. Настольное приложение (CustomTkinter) и интерфейс командной строки.
Подробно: https://habr.com/ru/articles/1011072/
Подробно на reddit.com
Скачать для: MacOS и Windows
#voicer #MacOS #Windows #Ollama #translategemma #Qwen3TTS #TTS #Перевод #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Llama Bro SDK для Android
Высокопроизводительный Android SDK для вывода LLM на устройстве (GGUF). Ориентирован на конфиденциальность, работает в автономном режиме и работает на базе llama.cpp с чистым API Kotlin Coroutines.
🚀 Попробуйте демо-приложение: LlamaBro-Demo.apk
🔗 https://github.com/whyisitworking/llama-bro
(Обсуждение)
#LlamaBro #Llama #SDK #Android #AiLocal #LocalAi
Высокопроизводительный Android SDK для вывода LLM на устройстве (GGUF). Ориентирован на конфиденциальность, работает в автономном режиме и работает на базе llama.cpp с чистым API Kotlin Coroutines.
Используйте полноценную модель искусственного интеллекта в своем телефоне. На своих условиях. Без серверов. Без подписок. Данные не покидают ваш телефон.
Llama Bro — это компактный и производительный Android SDK, который запускает квантованные модели больших языковых моделей непосредственно на устройстве с помощью llama.cpp. Создан с использованием корутин Kotlin и структурированного параллелизма для современной разработки под Android. Независимо от того, заботитесь ли вы о конфиденциальности, предпочитаете работать в автономном режиме или просто хотите узнать, что можно сделать на телефоне, с помощью Llama Bro вы сможете выполнять логические выводы с помощью искусственного интеллекта, используя всего одну зависимость Gradle.
🚀 Попробуйте демо-приложение: LlamaBro-Demo.apk
(Обсуждение)
#LlamaBro #Llama #SDK #Android #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🧠 Hermes Agent - Агент, который растет вместе с вами
40+ инструментов, multi-level memory, работает через CLI, Telegram, WhatsApp. MIT-лицензия между Claude Code и OpenClaw, но с фокусом на сохранение контекста между сессиями.
🔗 https://hermes-agent.nousresearch.com
Проект полностью открыт https://github.com/NousResearch/hermes-agent.
💡А еще есть: Hermes Agent - Языковая модель нового поколения
🔗 https://hermesagent.agency/ru/
#hermesagent #nousresearch #openagent #AiAgent #AgentAi #MacOS #Linux #AiLocal #LocalAi
40+ инструментов, multi-level memory, работает через CLI, Telegram, WhatsApp. MIT-лицензия между Claude Code и OpenClaw, но с фокусом на сохранение контекста между сессиями.
Hermes Agent https://nousresearch.com/hermes-agent/ оснащен многоуровневой системой памяти и постоянным доступом к выделенной машине: он запоминает все, чему научился, и становится умнее с каждой сессией.
Агент работает в CLI и мессенджерах, перенося контекст между платформами без потерь. Поддерживает субагентов, программный tool calling, полный контроль над файловой системой и терминалом, браузер и запланированные задачи.
Самосовершенствующийся ИИ-агент, созданный Nous Research. Это единственный агент со встроенным циклом обучения: он формирует навыки на основе опыта, совершенствует их в процессе использования, подталкивает себя к сохранению знаний, анализирует свои предыдущие диалоги и выстраивает более глубокую модель вашего характера на основе всех сессий. Запустите его на VPS за 5 долларов, в кластере с графическими процессорами или в бессерверной инфраструктуре, которая практически ничего не стоит в режиме ожидания. Он не привязан к вашему ноутбуку — общайтесь с ним в Telegram, пока он работает на облачной виртуальной машине.
Используйте любую модель по своему выбору — Nous Portal, OpenRouter (более 200 моделей), z.ai/GLM, Kimi/Moonshot, MiniMax, OpenAI или свою собственную. Переключайтесь с помощью hermes model — без изменений в коде и привязки к поставщику.
Работает в Linux, macOS и WSL2.
Проект полностью открыт https://github.com/NousResearch/hermes-agent.
💡А еще есть: Hermes Agent - Языковая модель нового поколения
745B параметров, 44B активных. Создан для агентного ИИ, продвинутого рассуждения и производительности уровня фронтира. Код, творчество, сложные задачи.
#hermesagent #nousresearch #openagent #AiAgent #AgentAi #MacOS #Linux #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM