Local Ai
445 subscribers
916 photos
262 videos
4 files
820 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
🎙 Meetily — офлайновый помощник для онлайн-встреч

Meetily — open-source ассистент для звонков, который работает локально на вашем компьютере. Никакие данные не уходят в облако: всё остаётся на вашем диске.
ИИ-помощник для проведения совещаний с 4-кратной ускоренной транскрипцией в реальном времени по Parakeet / Whisper, диаризацией докладчиков и суммированием Ollama, созданный на Rust. 100% локальная обработка. Облако не требуется. Meetily (Meetly Ai) — это лучший саморазмещаемый ИИ-помощник для ведения заметок на совещаниях для macOS и Windows.

Умеет расшифровывать речь в реальном времени, различать спикеров и создавать саммари встречи через локальную нейросеть. Поддерживает macOS, Windows, Linux и русский язык. Можно подключить Claude или Codex для более детальных резюме.

Подойдёт для обсуждения контрактов, финансовых отчётов или NDA-проектов — там, где утечка данных критична.
🔗 https://meetily.ai
🔗 https://github.com/Zackriya-Solutions/meetily
🎞 Демо: https://youtu.be/6FnhSC_eSz8
#Meetily #Parakeet #Whisper #Транскрибация #MacOS #Windows #Linux #Ollama #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Dyad — генератор приложений на локальной машине

Открытый инструмент, который собирает приложения прямо в чате. Описываешь задачу («форма обратной связи», «мини-игра») — получаешь интерфейс, логику и код. Работает локально, без регистрации и блокировок.

Базовая версия бесплатная. Dyad Pro за $30/месяц дает 300 AI-кредитов, режимы Turbo Edits и Smart Context.
Скачал, запустил — разговариваешь с ИИ как с разработчиком.
🔗 https://www.dyad.sh
#Dyad #SoftAi #AiSoft #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Athanor Lite - Узнайте, какой именно ИИ может запустить ваша машина, а затем запустите его. Бесплатно, локально, конфиденциально.

Athanor Lite — это настольное приложение для Windows, которое сканирует ваше оборудование, сообщает, какие модели искусственного интеллекта с открытым исходным кодом подходят для вашего графического процессора (с учетом реальных характеристик памяти, а не наугад), и в один клик переводит вас из режима «Какая модель?» в приватный потоковый чат. Все работает на вашем компьютере. Ничто из того, что вы вводите, не покидает его.

Вот что умеет:
- сканирует ваше оборудование и показывает, что вы действительно можете запустить
- просматривает каталог моделей с фильтрами по размеру и квантовости
- управляет вашими локальными моделями (в том числе обнаруживает существующие установки Ollama)
- выполняет логический вывод с отображением в реальном времени таких показателей, как количество токенов в секунду, процент загрузки графического процессора, объем видеопамяти, температура
- система рабочих пространств, позволяющая использовать разные модели/контексты для разных задач
- элементы управления запуском/остановкой/перезапуском движка, чтобы вам не приходилось гадать, работает ли модель

Это версия 0.1.1. Она работает, она подписана, но это ранняя версия.
В планах: поддержка Mac, сравнение моделей, поддержка тонкой настройки.

🔗 https://github.com/BBALabs/athanor-lite
⬇️ Скачать: https://github.com/BBALabs/athanor-lite/releases/latest
(Обсуждение)
#Athanor #AthanorLite #Windows #SoftAi #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ LocalAIMaxxing — каталог 2300 локальных ИИ-приложений в 82 категориях!

Перевод поста: С недавним выпуском Apple M5 и сверхкомпактных локальных моделей я все больше убеждаюсь в еще одной возможности, о которой мы все вместе как-то подзабыли: появлении локальных ИИ-приложений — продуктов, объединяющих локальные модели, рабочие процессы и пользовательский интерфейс для эффективного выполнения узконаправленных задач. Приложения устраняют проблемы, которые особенно остро ощущаются при повседневном использовании, и позволяют большему числу людей расширить возможности применения ИИ, охватывая с помощью ИИ-приложений различные рабочие процессы, а не концентрируясь на узких областях.

Я создал сайт-каталог для изучения местных приложений с искусственным интеллектом, и результаты оказались на удивление хорошими: в категориях «Чат с большими языковыми моделями», «Транскрипция», «Оптическое распознавание символов», «Редактирование фотографий» (более 50 приложений в каждой категории) есть множество вариантов, а также по-настоящему уникальные сценарии использования, например стилисты по подбору гардероба и помощники по уходу за домашними животными, о существовании которых я даже не подозревал. Сейчас доступно 82 категории. Пожалуйста, загляните сюда, если вам интересно! https://bunnysoft.app/local-ai-mac-apps

Ограничения:
- В настоящее время охватывает только Mac App Store (поскольку мне нужен надежный API для получения данных)
- Данные собраны 24 июня, поэтому совсем новые приложения не включены. Планирую выпускать ежемесячные обновления
- Если вы видите, что какого-то приложения здесь нет, пожалуйста, сообщите мне об этом, отправив заявку

Методология:
- Я собрал 20 435 приложений из API магазина приложений (513 поисковых запросов, а также профили разработчиков, создающих локальные ИИ-приложения)
- С помощью Deepseek v4 flash в качестве классификатора я отобрал 2259 приложений, которые действительно являются локальными ИИ-приложениями.
- Для категоризации и оценки я использовал комбинацию скриптов и LLM в качестве судьи. В рейтинге приоритет отдается приложениям, которые работают исключительно на устройстве. Я выборочно проверил крупные категории, но в списке из 2300 приложений могут быть ошибки. Если вы найдете что-то неверное, пожалуйста, сообщите мне, и я все исправлю.
Подробнее здесь: https://bunnysoft.app/local-ai-mac-apps/how-we-rank
🔗 https://bunnysoft.app/local-ai-mac-apps

📖 Каталог: https://bunnysoft.app/local-ai-mac-apps/categories
(Обсуждение)
#LocalAIMaxxing #Catalog #AiCatalog #CatalogAi #MacOS #SoftAi #AiSoft #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Plurality - Агентный ИИ-помощник, которого можно видеть и которым можно управлять в режиме реального времени

Бесплатный ИИ-помощник, который можно разместить на собственном сервере, видеть в действии, управлять им в режиме реального времени и легко отлаживать.
Сортируйте электронные письма, сообщения, календарь... К нему можно подключить практически что угодно без какой-либо настройки: просто попросите ИИ сделать это за вас

Общение и работа с агентами в одном интерфейсе
Полностью открытый исходный код, бесплатно и локально
(почти) Любые модели от (почти) любых поставщиков
Изолированные агенты с полным контролем над своей виртуальной средой (они могут настраивать программное обеспечение в своей виртуальной машине)
Вызовы инструментов, MCP, генерация изображений, выполнение оболочки, навыки и многое другое (совместимо с навыками openClaw)
Настраиваемое использование с одобрением инструмента
Прикрепите папку к любому разговору — используйте в ней код, например Claude Code, черновики документов или позвольте ему упорядочить ваш рабочий стол
Удаленные клиенты (vibe code на вашем ПК с вашего телефона)
Собственные приложения (мобильные и настольные) и веб
Дополнительные функции, такие как: CRON Scheduler, перехват Webhook, библиотека предустановок агента и т.д...

Plurality — это локальная платформа ИИ, которая сочетает в себе агентный рабочий процесс и интерфейс, похожий на чат-бот, что позволяет использовать один и тот же пользовательский интерфейс, конфигурацию и настройки как для фоновой автоматизации с помощью ИИ, так и для оперативного взаимодействия.

Он предоставляет агентам ИИ возможность фоновой обработки и изолированного доступа к оболочке и файловой системе, полностью совместим с навыками, MCP и т. д. и обладает дополнительными функциями, такими как удаленное управление, прикрепление папок (чтобы вы могли писать код или документацию в интерфейсе Plurality) и т. д.

🔗 https://github.com/azukaar/plurality
(Обсуждение)
#Plurality #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
📸 Flaxeo Image - локальный desktop ui для stable diffusion cpp

Local. Fast. Beautiful. Настольная студия для stable-diffusion.cpp
Характеристики:
Текст2изображение, Редактирование (inpaint / multi-ref Kontext & Qwen Edit / img2img), Видео (T2V, I2V, FLF2V)
Очередь заданий — создание во время занятости; изменение порядка, приостановка, отмена
Рецепты — шаблоны с полными настройками (поверхности, рамки, объекты, настроения); импорт / экспорт .flaxeo-recipe.json
Справка — автономное руководство, включающее поверхности, рамки и рабочие процессы обработки пакетов / очередей
Галерея с возможностью повторного использования параметров PNG, повышенным масштабированием и историей создания
Model Hub стартовые пакеты (SDXL, FLUX, Z-Image, Wan, LTX, Qwen, ...)
Двойной сервер: sd-cli (по умолчанию) или sd-сервер
Аппаратные помощники: флэш-память, VAE-плитка, низкий профиль видеопамяти, предустановки кэша
Квантование / преобразование моделей в GGUF из пользовательского интерфейса

🔗 https://github.com/fabricio3g/FlaxeoUI
(Обсуждение)
#FlaxeoImage #FlaxeoUI #StableDiffusion #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🦋 Какой-то гений выпустил Colibri, которая запускает гигантскую GLM-5.2 на 744 миллиарда (!) параметров на домашнем ПК — требуется всего 25 ГБ оперативной памяти даже без видеокарты.

Как работает:
• Это один файл на чистом C на 2400 строк — во время работы ему не нужны Python, библиотеки и GPU.
• Трюк: модель занимает 370 ГБ на диске и подгружает только 10-20 ГБ данных в оперативную память по мере необходимости.
• Вместо хранения всей модели в RAM, тулза загружает нужные блоки с SSD, использует их и освобождает место.
• Ложка дёгтя в бочке мёда: на среднем железе скорость составляет 0,1 токена в секунду, но при быстром диске это можно ускорить.
• После установки запускается всего за 30 секунд.
Идея:
Модель Mixture-of-Experts на 744B активирует всего ~40B параметров для каждого токена, и только ~11 ГБ из них меняются от токена к токену (маршрутизируемые эксперты).
Таким образом:
- плотная часть (внимание, общие эксперты, эмбеддинги — ~17 млрд параметров) остается в оперативной памяти на уровне int4 (~9,9 ГБ);
- 21 504 маршрутизируемых эксперта (75 слоев MoE × 256 экспертов + головка MTP, ~19 МБ каждый на уровне int4) хранятся на диске (~370 ГБ) и потребуются для потоковой передачи с использованием LRU-кэша для каждого слоя, опционального закрепленного горячего хранилища и страничного кэша ОС в качестве бесплатного уровня 2.
Движок представляет собой один файл на языке C (c/glm.c, ~2400 строк) плюс небольшие заголовочные файлы. Никаких BLAS, никакого Python во время выполнения, не требуется графический процессор!

🔗 https://github.com/JustVugg/colibri
(Обсуждение)
💡 А для запуска Hy3 на 10Гб. создали: https://github.com/ErikTromp/colibri-hy3
(Обсуждение)
#Colibri #GLM52 #Hy3 #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
🤌 Вайб-кодинг-агент локально на Mac

Прикольный сетап: LM Studio + Pi.
🪼 LM Studio - это приложение, где можно скачать и запустить локальную модель на своем компьютере: Qwen, Gemma, DeepSeek и другие.
🪼 Pi - это терминальный кодинг-агент, который можно подключить к этой локальной модели.
🪼 Схема такая:
Mac → LM Studio запускает модель → Pi подключается к ней → агент читает и правит файлы проекта

🪼 А что, вместо того, чтобы каждый раз жечь токены популярных Claude Code или Codex, можно часть простых задач гонять локально. Заметьте, не в облаке, а на своем железе 🤌

🪼 Но магии тут нет: Локальные модели пока не превращают ваш Mac в бесплатный Claude Code 🥲 Нужно нормальное железо, достаточно памяти, чуть повозиться с настройкой, а качество на сложных задачах будет слабее, чем у топовых облачных моделей.
Зато для простых правок, экспериментов, учебных проектов + поиграться без страха сжечь лимиты - очень даже интересная история.
В общем, не "убийца" Claude Code, а вариант для тех, кто хочет вайбкодить локально и экономить токены.

#LMStudio #Pi #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: Tess-4-27B от Migel Tissera
Рассуждения, которые масштабируются в зависимости от проблемы. Агентная, мыслящая модель, которая принимает решения более взвешенно именно тогда, когда это важно, и не мешает себе, когда это не так.
Tess-4-27B — первый выпуск Tess за два года и первый выпуск, в котором обосновывается. Модель, созданная на основе Qwen/Qwen3.6-27BМигелем Тиссерой, прошла постобработку на специально подобранной смеси: 64-килобайтных агентных трассировках с длинным контекстом — реальных инженерных решениях, созданных с помощью Fable-5, а не синтетических поколениях, — со стилем рассуждений, приближенным к Fable-5, с помощью ансамбля из трех моделей-учителей (Opus-4.8, GPT-5.5 и GLM-5.2), объединенных в один целостный голос.

В результате получилась модель 27B, которая мыслит как старший инженер: выдвигает гипотезу, действует, проверяет и рассуждает с должной тщательностью на тех этапах, которые действительно этого заслуживают. Это не та модель, которая рассказывает, как пришла к уже известному ответу.

🔗 https://huggingface.co/migtissera/Tess-4-27B
(Обсуждение)
#Tess4 #Tess427B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
ℹ Модель: Gemma-4-31B, доработанная специально для копирайтинга и творческих задач (набрала +290 Elo по сравнению с базовой версией на EqBench3)
Проблема: общие чат-модели могут писать маркетинговые тексты, но по умолчанию они используют одни и те же вводные фразы, такие как «В современном быстро меняющемся мире...», и расплывчатые формулировки вместо конкретных преимуществ. И доработали Gemma-4-31B-it, чтобы убрать эти вводные фразы и сделать текст более похожим на текст копирайтера, ориентированного на прямой отклик: начинать с проблемы, использовать конкретные, чёткие призывы к действию. В целом модель стала более эмоционально развитой.

Настройка оценки: на основе методологии EQ-Bench 3 (попарная оценка по шкале Эло + шкала оценки) был создан бенчмарк для копирайтинга, использующий 30 реальных брифов, связанных с рекламой в Facebook, холодным обзвоном, целевыми страницами, описаниями товаров, SMS, сценариями и т. д. Базовая модель и модель с тонкой настройкой ответили на все брифы, которые оценивались вслепую с помощью DeepSeek V4 Flash в обоих вариантах (A-vs-B и B-vs-A) для контроля позиционной предвзятости. Те же базовые веса, те же настройки декодирования, единственная переменная — тонкая настройка.
Самые значительные и стабильные улучшения были достигнуты в таких аспектах, как сила цепляния, конкретность и лаконичность — именно в этих областях и работает текст, побуждающий к прямому действию.

Сведения об обучении: QLoRA SFT на тщательно отобранном корпусе маркетинговых брифов в сочетании с вариантами их заполнения, включая реальные примеры рекламных объявлений. Окончательные веса объединены с полным bf16 (адаптера не будет). Контекст 256K, используется в vLLM или Transformers без изменений.

Для достижения наилучших результатов требуется enable_thinking=false . Включение режима логического вывода Gemma 4 на самом деле снижает качество вывода, так что имейте это в виду.

Описание модели + веса: https://huggingface.co/akwin123/copywriter-gemma4-31b
Квантования: https://huggingface.co/models?other=base_model:quantized:akwin123/copywriter-gemma4-31b (mradermacher)
(Обсуждение)
#Gemma4 #Gemma431B #copywriter #копирайтер #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🎙 Voicetypr - Печатайте голосом.
Ваш мозг работает быстрее, чем пальцы. Говорите, и Voicetypr's автономный голосовой ввод перенесет чистый текст в любое приложение примерно в 3 раза быстрее, чем при обычном наборе.

Диктуй текст офлайн в любое приложение — через горячую клавишу
!
Инструмент для преобразования речи в текст на основе ИИ с открытым исходным кодом, альтернатива superwhisper, whispr flow

Voicetypr записывает речь по горячей клавише, расшифровывает её локально и вставляет текст туда, где стоит курсор. Без интернета, без отправки аудио на сервер.

💻 Что умеет: распознаёт 99+ языков, работает в браузере, ChatGPT, Slack и редакторах, использует видеокарту для ускорения (но обходится и процессором), позволяет выбрать модель под скорость или точность.
Доступен для macOS и Windows. Платите один раз, пользуйтесь вечно. (По тегу #Диктовка в этом канале есть аналоги и бесплатные!)
Для запуска нужны Windows 10/11 или macOS 14+, 3–4 ГБ места для моделей, доступ к микрофону и разрешение на управление вводом.
⬇️ https://voicetypr.com
🔗 https://github.com/moinulmoin/voicetypr
#Voicetypr #MacOS #Windows #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
ℹ Модель: Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V2 и V3
🌟 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive -> Genesis Hermes
Модель основана на базе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive.
И DJLougen/hermes-qwen3.5-35b-a3b-GGUF доработке для агента Hermes.
🔗 https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V2-GGUF
🔗 https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF
(Обсуждение)
#Qwen36 #Uncensored #Hermes #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📖 Инструкция: Запуск Tencent HY3 на Mac 128 ГБ!

HY3 295B-A21B MoE от Tencent конкурирует напрямую с передовыми моделями с открытым исходным кодом, но при этом значительно меньше по размеру, сравнима с DeepSeek v4 Flash, но превосходит ее по результатам тестов.
Не забудьте увеличить объем памяти графического процессора вашего Mac с 96 ГБ по умолчанию! Надо увеличить его до 122 ГБ. (объем сбрасывается при перезагрузке):
sudo sysctl iogpu.wired_limit_mb=124928

🔗 https://www.reddit.com/r/LocalLLaMA/comments/1usy9ie/tencenthy3_is_the_real_deal_on_128gb/ - тут все подробно со всеми командами!
Модель скачивать на 107Гб. https://huggingface.co/YanissAmz/Hy3-295B-A21B-GGUF
=====
⚡️ А еще HY3 запускали на 10Гб.: https://telegram.me/Ai2Local/849
#HY3 #MacOS #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
🎙 Cloudless Voice - Офлайн - альтернатива Wispr
100% локальная голосовая диктовка во всех приложениях.
Бесплатный доступ для первых 5000 зарегистрировавшихся!
Cloudless Voice — это умное решение.
Простая диктовка просто расшифровывает текст. Cloudless Voice подготавливает его к отправке. Наш специально разработанный локальный ИИ автоматически корректирует вашу расшифровку: удаляет лишние слова, форматирует и расставляет знаки препинания. И всё это без того, чтобы ваш голос покидал ваш Mac.
Полностью работает на устройстве.
Большинство голосовых приложений отправляют ваши аудиозаписи и текстовые расшифровки в облако (на удаленные серверы) для обработки. Cloudless Voice работает полностью локально, поэтому ваши голосовые данные никогда не покидают ваше устройство.
Бесплатно для индивидуального использования на Mac, Windows и iOS.

🔗 https://www.cloudless.so
(Приложение Onit Dictate было переименовано в Cloudless Voice и добавили Windows)
#CloudlessVoice #cloudless #MacOS #Windows #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM