Local Ai
448 subscribers
932 photos
262 videos
4 files
827 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🗂 Quivr превращает файлы в чат-бота

Quivr — ваш второй мозг, созданный с помощью генеративного ИИ!
Сервис делает из всех документов на компьютере интерактивный чат. Загружаешь файлы — получаешь возможность задавать вопросы и получать ответы по их содержимому.
Работает с текстами, PDF, презентациями, таблицами Excel, CSV, Word, аудио и видео. Всё обрабатывается локально — данные не уходят в сеть, можно использовать без интернета. Удобно для быстрого поиска информации и создания саммари из больших объёмов материала.

Ключевые особенности 🎯
- Opiniated RAG: мы создали RAG, который является самостоятельным, быстрым и эффективным, чтобы вы могли сосредоточиться на своем продукте
- LLM: Quivr работает с любыми языковыми моделями, вы можете использовать его с OpenAI, Anthropic, Mistral, Gemma и т. д.
- Любой файл: Quivr работает с любыми файлами, вы можете использовать его с PDF, TXT, Markdown и т. д. и даже добавить собственные парсеры.
- Настройте свой RAG: Quivr позволяет настраивать RAG, добавлять интернет-поиск, инструменты и т. д.
- Интеграция с Megaparse: Quivr работает с Megaparse, поэтому вы можете загружать файлы с помощью Megaparse и использовать RAG с Quivr.

🔗 https://github.com/QuivrHQ/quivr
🔗 https://core.quivr.com
#Quivr #RAG #PDF #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔬 OmniScientist — локальный ИИ-исследователь, который сам пишет статьи

Загружаешь папку с данными, задаёшь направление — система проводит исследование от гипотезы до готовой статьи в PDF.
Работает с любыми форматами: изображения, аудио, видео, 3D-сканы, point clouds, таблицы, формулы. Выстраивает гипотезу, пишет и запускает код для проверки, анализирует результаты и собирает финальный документ с графиками, таблицами и реальными DOI-ссылками.

Встроенная валидация: каждая цифра в черновике должна быть подтверждена реальным выводом программы. Если результаты пустые или не совпадают — статья уходит на доработку.

Три варианта запуска: десктоп-версия, CLI и модуль для интеграции в агентов. Проект уже провёл 36 исследований, пять из них завершились полноценными статьями.
Поддержка Windows, macOS, Linux.

🔗 https://omni-scientist.github.io/
🔗 https://github.com/Omni-Scientist/OmniScientist
#OmniScientist #Windows #MacOS #Linux #AiAgent #AgentAi #PDF #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🚀 FreeToken запускает гигантские модели на игровом железе

Исследователи из UC Berkeley, MIT и UT Austin выпустили FreeToken — систему для запуска огромных MoE-моделей на обычных компьютерах. Без экстремального квантования, на официальных весах, с интерактивной скоростью.
Цифры впечатляют:
• Qwen3.6 35B на ноутбуке с RTX 4060 8 ГБ → 39 токенов/с
• DeepSeek-V4-Flash 284B на RTX 5090 → 22–25 токенов/с
• GLM-5.2 753B на RTX PRO 6000 → 15 токенов/с

По сравнению с Ollama генерация быстрее в 3–4 раза, обработка входного контекста — в 6–30 раз.

FreeToken поставляется с графическим интерфейсом. Не нужно конвертировать модели в GGUF или собирать проект из исходников. Агентные обвязки встроены: выбрал модель, выбрал приложение, запустил.
Скачайте FreeToken для Windows или Linux на flashml.ai. Оно настроит движок и предоставит вам графический интерфейс для запуска моделей, общения и настройки движка.

🔗 https://www.flashml.ai
🔗 https://arxiv.org/abs/2608.16157
🔗 https://github.com/FlashML-org/FreeToken
(Обсуждение)
#FreeToken #MOE #Windows #Linux #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
🚀 DFlash 2 разгоняет большие языковые модели в 3–4 раза

Вышла вторая версия DFlash — библиотеки для спекулятивного декодирования. Первое поколение уже скачали 3,5 млн раз на Hugging Face.

Как это работает: маленькая модель быстро генерирует фрагмент текста, а большая проверяет его за один проход — вместо того чтобы выдавать слова по одному.

💻 На практике Qwen3.8-27B на ноутбуке выдаёт 70 токенов в секунду вместо обычных 15–20. На некоторых моделях ускорение доходит до 4,6 раза, в среднем — в 2,7–3,4 раза.

Результат побайтово идентичен оригиналу: ни одного отличающегося токена, просто быстрее.
🔗 https://inco.ai/blog/dflash2/
🔗 https://z-lab.ai/projects/dflash/
🔗 https://huggingface.co/collections/incoai/dflash-2
(Обсуждение) - от команды atomic.chat
#DFlash2 #DFlash #SGLang #vLLM #llamacpp #Ollama #oMLX #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1
ℹ Модель: Tiel-Coder-35B-A3B
4-битный квант TielCoder объемом 22 ГБ соответствует среднему уровню Opus4.6 в решении реальных задач по программированию, опережая KAT-Coder и Nail по силе и скорости решения задач на множественный выбор.
Qwen3.8-27B — потрясающий, но медленный. Более мощная смесь экспертов 35B-A3B, способная быстро решать реальные проблемы в кодовой базе (даже на ограниченном в ресурсах оборудовании), станет ценным дополнением к набору инструментов. Это самая сильная и стабильная модель 35B-A3B из всех, что я тестировал, как по корректности, так и по скорости. Кроме того, она быстрее всех исправляет ошибки в реальных кодовых базах.
Помимо тонкой настройки Ornith-1.5, TielCoder использует взвешенную по коду имитрикс для динамического квантования и шаблон чата, оптимизированный для эффективного использования токенов и корректного агентного кодирования.

🔗GGUFs: https://huggingface.co/peculiar-ragdoll/Tiel-Coder-35B-A3B-GGUF
🔗MLX: https://huggingface.co/peculiar-ragdoll/Tiel-Coder-35B-A3B-MLX-oQ4e
(Обсуждение)
#TielCoder35BA3B #Qwen3827B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🔈 Audiobookify - Программа для чтения EPUB с локальным TTS, работающая на Apple neural Engine

Это программа для чтения электронных книг в формате EPUB, которая также поддерживает локальную офлайн-трансляцию текста в речь, так что она предназначена не только для преобразования текста в речь, но и для обычного чтения.
На данный момент доступны модели Kokoro и Supertonic 3 - обе оптимизированы вручную для iPhone!
Вы можете ознакомиться с предыдущими отзывами о более старой сборке (с тех пор вышло много обновлений) Здесь
Вы можете послушать голос из видео, оно было полностью записано на устройстве (Kokoro, Heart).

Ссылка на тестовый режим: Присоединиться к бета-тестированию
(Обсуждение)
#Audiobookify #TTS #EPUB #Kokoro #iPhone #AiBook #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1
📖 Статья: Лучшее клонирование голоса с помощью ИИ в 2026 году: как клонировать свой голос
https://nexustrade.io/blog/best-ai-voice-cloning-2026-how-to-clone-your-voice-with-ai-20260824
(Best AI Voice Cloning in 2026: How to Clone Your Voice With AI)
(Обсуждение)
#AIVoiceCloning #AIVoice #TTS
Please open Telegram to view this post
VIEW IN TELEGRAM
🎙 LifeOS - Персональный органайзер, с которым вы разговариваете.
Скажите: «Поход в спортзал в понедельник, среду и пятницу в три часа, и напомни мне завтра позвонить стоматологу», — и языковая модель, работающая на вашем собственном оборудовании, превратит это в задачи, события, записи в дневнике, расходы, взвешивания и приемы пищи. Все, в чем приложение уверено, происходит мгновенно и может быть отменено. Все неоднозначное ждет, пока вы подтвердите, отредактируете или удалите карточку. Напоминания приходят на телефон, даже если приложение закрыто.
Здесь нет окна чата, нет веб-поиска и нет памяти, кроме ваших собственных данных. Модель считывает то, что вы сказали, и предлагает варианты; приложение проверяет каждый из них, прежде чем что-то записать, и каждая карточка содержит слова, из которых она была составлена.

🔗 https://github.com/Inovello/lifeos
(Обсуждение)
⬇️ Версия 0.3.0 https://t.me/Ai2Local/1087
#LifeOS #ASR #AiVoice #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🌐 Sitegeist - Ваш помощник на основе ИИ для работы в интернете - альтернатива Perplexity Comet

Sitegeist может автоматизировать повторяющиеся веб-задачи, извлекать данные с любого веб-сайта, осуществлять навигацию между страницами, заполнять формы, сравнивать товары, собирать данные исследований и преобразовывать найденную информацию в документы, электронные таблицы или что угодно еще. Он работает на любом веб-сайте через боковую панель Chrome/Edge, используя выбранного вами поставщика ИИ.
Что такое Sitegeist?
Помощник на основе ИИ, который живет в вашем браузере. Создан для совместной работы, а не для демонстрации автономности. Вы даете указания, он их выполняет. Автоматизируйте повторяющиеся веб-задачи, извлекайте данные с любого сайта и преобразуйте их во что угодно, что вам нужно.

🔗 https://sitegeist.ai
🔗 https://github.com/badlogic/sitegeist
#Sitegeist #PerplexityComet #Perplexity #Comet #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM