Local Ai
444 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
🤖 Jarvis — локальный ИИ-ассистент для любой ОС

Jarvis — ассистент, который работает полностью на твоём компьютере. Запоминает историю разговоров, группирует их по темам и распознаёт голос.

💬 Умеет искать информацию, генерировать тексты и интегрируется с сотнями сервисов — от умного дома до рабочих инструментов. Все данные остаются локально, интернет не требуется.
100% приватный голосовой помощник с ИИ, который живет на вашем компьютере (работает в автономном режиме). Общайтесь с ним так, как будто Джарвис — третий человек в комнате, и получайте ответы в диалоговом режиме. Он все запоминает, знает ваше местоположение и время, может проверять веб-страницы, управлять Chrome, отслеживать питание и многое другое с поддержкой неограниченного количества MCP / инструментов без потери контекста.

Для #macOS #Windows #Linux
🔗 https://github.com/isair/jarvis
#Jarvis #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: 🐰 ZAYA1-8B: маленькая модель с большими амбициями

Новая модель ZAYA1-8B появилась несколько дней назад и сразу привлекла внимание. При 760 миллионах активных параметров (8.4B всего) она показывает результаты, сопоставимые с моделями в десятки раз крупнее: AIME 2026 — 89,1%, HMMT — 71,6%. Для сравнения: обходит Mistral-Small-4 со 119 миллиардами параметров.
(Превосходит гораздо более крупные модели с открытым исходным кодом по некоторым показателям в области математики и кодирования.)

Это первая крупная модель-смесь экспертов, обученная целиком на видеокартах AMD. Архитектура сжимает кэш ключ-значение в 8 раз, использует маршрутизатор на многослойном перцептроне и обучаемое масштабирование остатков. Рассуждения встроены на этапе предобучения — модель агрегирует варианты через Markovian RSA.

Доступна под лицензией Apache 2.0, веса выложены на HuggingFace, есть бесплатный сервер на Zyphra Cloud.

🔗 https://www.zyphra.com/post/zaya1-8b
🔗 https://huggingface.co/Zyphra/ZAYA1-8B
🔗 https://www.zyphra.com
Отчет: https://arxiv.org/abs/2605.05365
#ZAYA18B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1
🎬 Видеоредактор, который режет через субтитры

Вышел CutScript — редактор, где монтаж делается через текст. Удаляешь слово или предложение из субтитров, и этот кусок автоматически вырезается из видео.

Можно чистить вручную или попросить ИИ убрать мусорные слова. Работает локально, бесплатно, данные не уходят с компьютера.

💬 Удобно для подкастов, интервью и обучающих роликов — когда нужно быстро убрать лишнее без классического монтажа.
🔗 https://github.com/DataAnts-AI/CutScript
#CutScript #AiVideo #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1
This media is not supported in your browser
VIEW IN TELEGRAM
🦞 SlopLobster — AI-ассистент для кодинга прямо в браузере

Работает локально через LM Studio, без API-ключей и облачных сервисов. Использует File System Access API для доступа к файловой системе.

Умеет читать и записывать файлы, выполнять shell-команды, искать в интернете через DuckDuckGo. Поддерживает работу с Git, итеративную разработку, просмотр изображений (SVG и растровые), показывает diff файлов и терминал в реальном времени.
🔗 https://github.com/PasiKoodaa/SlopLobster
#SlopLobster #LMStudio #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
💾 Нейросети запускаются с флешки — локально!
Проект USB-Uncensored-LLM: превращает обычную флешку или SSD в автономный ИИ-хаб с локальными моделями.

Что внутри:
· Кастомная сборка Ollama уже встроена
· Поддержка Gemma 2, Gemma 4, Qwen 3.5 и других локальных моделей
· Модели работают без цензуры и ограничений
· Доступ можно открыть даже с телефона по локальной сети

Установка элементарная: скачал, закинул модели, запустил — браузер откроется сам. Всё бесплатно, без лимитов и подписок.
🔗 https://github.com/techjarves/USB-Uncensored-LLM
#USBUncensoredLLM #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Статья: Локальные LLM в реальной работе: Gemma 4, Qwen 3.6 и Qwen Coder / Хабр https://habr.com/ru/articles/1033808/
Статья: Hugging Face: что это и как пользоваться
https://thecode.media/hugging-face-kak-polzovatsya/
LlamaServer - Графический интерфейс LlamaServer
Если надоело хранить команды запуска llamacpp отдельно, то есть более удобная программа.
В чем отличие от lmstudio:
- Более гибкая настройка параметров запуска.Выгрузка слоев,автоматическая,настраиваемая,подсказки.
- Сохранение\загрузка параметров в зависимости от модели и контекста.Например для разного контекста нужна разная выгрузка слоев экспертов на CPU для MoE моделей.
- Логи
- Отображение памяти,за основу взял недавний пост.
- Обновление llamacpp одной кнопкой.

Windows-менеджер с графическим интерфейсом для локального запуска llama-server.exe из llama.cpp. Приложение помогает выбрать GGUF-модель, подобрать параметры контекста/памяти, запустить сервер и бенчмарк, обновить локальную сборку llama.cpp, просмотреть логи и добавить локальные модели в конфиги OpenCode/PI.

Что умеет приложение:
- Модели и GGUF
- Рекурсивно сканирует папку с .gguf моделями.
- Исключает файлы-проекторы (mmproj, projector) из основного списка моделей.
- Кэширует найденные модели в settings.json, чтобы следующий запуск был быстрее.
- Считывает ключевые метаданные GGUF без полной загрузки модели:
- general.architecture;
- general.file_type / квантование;
- длина исходного контекста;
- количество блоков/слоев;
- количество блоков внимания;
- длина эмбеддинга;
- метаданные MoE: эксперты / использованные эксперты.
- Определяет квантование по метаданным или имени файла.
- Автоматически ищет mmproj / projector рядом с моделью.

🔗 https://github.com/arnyigor/LlamaServer
(Источник)
#LlamaServer #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🎞 Вышел генератор видео без цензуры — Sulphur-2

Модель создает контент без ограничений: работает по текстовым промптам или загруженной картинке. Можно запустить локально — никаких серверов и утечек данных.

Интегрируется с ComfyUI, качество роликов на уровне топовых моделей. Доступна бесплатно.
🔗 https://huggingface.co/SulphurAI/Sulphur-2-base
#Sulphur2 #ComfyUI #AiVideo #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🔍 Collate AI - Ваш личный ИИ для PDF совершенно бесплатно!

Collate AI — это продвинутый локальный помощник для работы с PDF-файлами. Задавайте любые вопросы о ваших документах. Получайте мгновенные и точные ответы на любом языке.
Задавайте вопросы, получайте мгновенные краткие обзоры и извлекайте ключевую информацию из любого документа — и все это на вашем Mac без подключения к интернету.
Все происходит на вашем Mac. Никаких облачных хранилищ. Никаких загрузок. Полная конфиденциальность.

Ключевые особенности и преимущества:
- Интерактивный PDF-чат для вопросов и ответов с учетом контекста.
- Подробные резюме или краткие выдержки из основных моментов одним щелчком мыши.
- Поддержка нескольких PDF-файлов для анализа данных из разных документов.
- Выделите и организуйте ключевые отрывки.
- Экспортируйте сводки, заметки или журналы чатов в форматах Markdown, PDF или HTML.
- Полная автономная обработка данных для обеспечения конфиденциальности и безопасности.
- Неограниченное использование без ограничений по размеру файлов или документов.

Как это работает:
- Добавьте свои PDF-файлы
Перетащите файлы в Collate или импортируйте папки. Мы храним все файлы в защищенном режиме на устройстве.
- Задавайте вопросы и подводите итоги
Общайтесь со своими документами и мгновенно создавайте краткие обзоры.
- Собирайте полезную информацию
Сохраняйте ответы и краткие обзоры в своих заметках и экспортируйте их в любое время.

Варианты использования:
- Академическое исследование: обобщение статей и извлечение ключевых идей.
- Профессиональная работа: рассмотрение отчетов, контрактов и деловых документов.
- Управление знаниями: организация и выполнение запросов к большим библиотекам PDF-файлов.
- Создание контента: создание резюме для статей, блогов или презентаций.
- Работа, требующая конфиденциальности: локальный анализ конфиденциальных документов.

🔗 https://collate.one
⬇️ https://apps.apple.com/ru/app/collateai/id6447429913?mt=12
#CollateAI #PDF #MacOS #SoftAi #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: AntAngelMed - 103B-6A

AntAngelMed, разработанная совместно Информационным центром здравоохранения провинции Чжэцзян, компанией Ant Healthcare и компанией Zhejiang Anzhen'er Medical Artificial Intelligence Technology Co., Ltd., является крупнейшей и самой мощной на сегодняшний день медицинской языковой моделью с открытым исходным кодом.

🏆Лучшие в мире результаты по авторитетным тестам: AntAngelMed превосходит все модели с открытым исходным кодом и ряд ведущих проприетарных моделей по результатам теста HealthBench от OpenAI и занимает первое место по результатам китайского авторитетного теста MedAIBench.

Чат и API: https://antangelmed.tbox.cn/chat
🔗 https://huggingface.co/MedAIBase/AntAngelMed
GGUF: https://huggingface.co/mradermacher/AntAngelMed-GGUF
🔗 https://github.com/MedAIBase/AntAngelMed - тут все подробности!
(Обсудить)
#AntAngelMed #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Qwen3.6-35B-A3B-Uncensored-Claude-Wasserstein-MTP
Экспериментальное слияние Franken с использованием слоев Qwopus и MTP без цензуры:
🔗 https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Claude-Wasserstein-MTP-GGUF (MXFP4_MOE + Q8_0)
GGUF quants with MTP suffix have Multi-Token prediction layers baked in.
Пару дней назад Jacкrong выпустил действительно классную Qwopus-настройку: https://huggingface.co/Jackrong/Qwopus3.6-35B-A3B-v1-GGUF - из нее убрали цензуру и исправили drift.
Recommended Settings (LM Studio):
Chat template https://pastebin.com/Dy2fmmpN
System prompt: pastebin.com/pU25DVnB
(Обсуждение)
#Qwen36 #Qwopus #Uncensored #БезЦензуры #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💥 AI-Doomsday-ToolboxPublic - Набор инструментов для ИИ «Судный день»

Автономный набор инструментов для работы с ИИ для Android, который превращает один телефон или несколько старых телефонов в локальную рабочую станцию с ИИ.
Зайдите в эту новую вики и узнайте все о приложении https://adt.manube.org

Запускайте локальные языковые модели, Whisper для расшифровки, генерацию изображений, распределенный логический вывод, создание наборов данных, офлайн-инструменты для работы с информацией и утилиты на основе искусственного интеллекта прямо на Android. Этот проект создан для тех, кому важны конфиденциальность, периферийный ИИ, ИИ на устройстве, распределенные вычисления и возможность использовать старые телефоны с пользой, а не просто выбросить их.

✔️ Чтобы принять участие в закрытом тесте в Play Store, сначала нужно присоединиться к группе Google по этой ссылке.
После регистрации вы сможете принять участие в тестировании и установить приложение отсюда (Или скачать файл ниже)
Следуйте инструкциям в вики, чтобы научиться правильно пользоваться приложением.

🔗 https://github.com/ManuXD32/AI-Doomsday-Toolbox
⬇️ https://play.google.com/store/apps/details?id=com.manuxd32.aidoomsdaytoolbox
(Обсуждение)
============
А еще есть проект: https://www.projectnomad.us
Знания, которые никогда не устареют!
Википедия, искусственный интеллект, карты и образовательные инструменты, работающие на вашем собственном оборудовании, — совершенно бесплатно. Интернет не требуется.
#AIDoomsday #AIDoomsdayToolbox #App #Android #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
AI-Doomsday-Toolbox-fat.apk
491.3 MB
Установочный файл: AI-Doomsday-ToolboxPublic - Набор инструментов для ИИ «Судный день»
Описание: https://t.me/Ai2Local/717
#AIDoomsday #AIDoomsdayToolbox #App #Android #LocalAi #AiLocal
This media is not supported in your browser
VIEW IN TELEGRAM
🔊 Realtime TTS-2 стал доступен для запуска локально на устройствах — это лучший генератор речи, которой сразу занял первое место в чарте Artificial Analysis.

Теперь замена ElevenLabs доступна даже без интернета:
• Клонирует голос по образцу 15 секунд речи;
• Создаёт новый уникальный голос по описанию;
• Контролирует эмоции через подробные запросы;
• Анализирует тон, темп голоса и паузы в реальном времени;
• Подстраивает манеру речи под историю переписки;
• Переключается между 100+ языками в одном сеансе, включая русский;
• Задержка составляет всего 120-200 мс.

Попробовать онлайн можно здесь, а податься на локальную версию — тут.
#RealtimeTTS2 #TTS #ElevenLabs #AiVoice #AiModel #ModelAi #LocalAi #AiLocal
Статья: Qwen3.6 27B MTP весит на +0.3 Гб больше, а даёт ускорение в ~2 раза. С 60 t/s до 130 t/s без потерь. Что такое MTP
https://habr.com/ru/articles/1036120/