💡 Невероятной ценности документ! В Избранное!

⚡️ Список из более чем 76 моделей, которые помогут вам начать создавать локальных агентов SOTA уже сегодня.
https://docs.google.com/spreadsheets/d/1-qWYWJX_WFkBTNEA1Z3xReMyei5NW2ZuBTOmmp4YGvA/edit?gid=0#gid=0

Список ARPA Local Intellience Stack (ALIS): более 76 моделей с открытым исходным кодом, которые мы используем в ARPA Corp в области биологии, нейронаук, юриспруденции и передовых технологий.

Что там внутри:
- 76+ моделей: от DeepSeek V3.2 до специализированных моделей на основе ЭЭГ/генома.

- Технические характеристики: 4-битная и полнофункциональная версии, требования к оперативной и видеопамяти, а также специальные методы обучения (QLoRA, DPO и т. д.).

- Настройка одной командой: прямые пути для загрузки высокочастотных моделей и советы по настройке для каждой из них.
(Обсуждение)

#ARPA #ALIS #SOTA #AiModel #ModelAi #LocalAi #AiLocal

📊 Прогресс: Qwen3.5 в сравнении с лучшими моделями того же размера, выпущенными 2 года назад.
Гигантский прогресс!
(Обсуждение)
#Qwen35 #AiModel #ModelAi #LocalAi #AiLocal

🤖 Компания Liquid AI выпустила LocalCowork на базе LFM2-24B-A2B для локального выполнения агентских рабочих процессов с приоритетом конфиденциальности с помощью протокола Model Context Protocol (MCP)

Компания Liquid AI выпустила LFM2-24B-A2B и сопутствующий настольный агент с открытым исходным кодом LocalCowork — полностью локальный ИИ-агент, ориентированный на конфиденциальность, который выполняет рабочие процессы с использованием инструментов непосредственно на потребительском оборудовании без привязки к облачным API. Модель, использующая архитектуру разреженной смеси экспертов (Sparse Mixture-of-Experts, MoE), которая занимает около 14,5 ГБ оперативной памяти, использует протокол Model Context Protocol (MCP) для безопасного взаимодействия с локальными файловыми системами, оптического распознавания символов и сканирования на предмет угроз.
При тестировании на Apple M4 Max он показал впечатляющее время отклика менее секунды (~385 мс) и высокую точность на одном этапе (80 %), хотя инженерам следует учитывать его текущие ограничения в многоэтапных автономных процессах (успешность 26 %) из-за «конфликта между братьями и сёстрами». Поэтому он лучше всего подходит для быстрых рабочих процессов с участием человека, а не для полностью автоматизированных конвейеров...

Полный анализ: https://www.marktechpost.com/2026/03/05/liquid-ai-releases-localcowork-powered-by-lfm2-24b-a2b-to-execute-privacy-first-agent-workflows-locally-via-model-context-protocol-mcp/

GitHub-Cookbook: https://github.com/Liquid4All/cookbook/tree/main/examples/localcowork

Технические подробности: https://www.liquid.ai/blog/no-cloud-tool-calling-agents-consumer-hardware-lfm2-24b-a2b
#LocalCowork #LiquidAI #LFM224BA2B #AiModel #ModelAi #LocalAi #AiLocal #AiAgent #AgentAi

🎙 Hex - ГОЛОС → СЛОВА

Нажмите и удерживайте горячую клавишу, чтобы записать свой голос и вставить результат в то место, где вы печатаете.

Hex поддерживает как Parakeet TDT v3 через потрясающий FluidAudio (по умолчанию — это просто нечто: быстрый, многоязычный и оптимизированный для работы в облаке), так и потрясающий WhisperKit для расшифровки на устройстве.

🔗 https://hex.kitlangton.com
Скачать для MacOS 0.6.10
Проект: https://github.com/kitlangton/Hex

🎙 Еще есть проект: 🎙 VoxTape
8,3 секунды аудио → 0,4 секунды логического вывода на M3 Max. Это в 20 раз быстрее, чем в реальном времени. Локально. Без облака. Без подписки. Без телеметрии. Поддерживает более 100 языков!
🔗 https://github.com/eauchs/voxtape
(Обсуждение)

И еще есть: 🎙 MacParakeet https://t.me/Ai2Local/463
Аналоги по тегу: #Диктовка
#Hex #ASR #STT #VoxTape #Parakeet #Whisper #MacOS #LocalAi #AiLocal

🤖 Chatons — Ваше настольное рабочее пространство с ИИ для кода, общения и проектов.

Это настольное рабочее пространство с ИИ для разработки и управления проектами: оно позволяет общаться с несколькими поставщиками ИИ, выбирать частичные или полные списки моделей, управлять навыками/инструментами и вести переписку в одном месте.

Объединяет кодирование, написание текстов и управление проектами с помощью ИИ в одном элегантном рабочем пространстве. Подключайте любого поставщика моделей, организуйте общение по проектам и позволяйте помощнику читать, редактировать и запускать код прямо в ваших репозиториях.

Все ваши данные остаются на вашем устройстве. Никакой облачной синхронизации, никакой телеметрии по умолчанию.

🧠 Мультипровайдерный ИИ
Подключайте OpenAI, Anthropic, Ollama, LMStudio или любой API-интерфейс, совместимый с OpenAI. Меняйте модели в зависимости от темы разговора. Используйте облачные или локальные ресурсы.
Для macOS (Apple Silicon и Intel), Windows (x64), Linux

🔗 https://www.chatons.ai
Проект: https://github.com/thibautrey/chaton
(Обсуждение)
#Chatons #macOS #Windows #Linux #LocalAi #AiLocal #AiAgent #AgentAi

🔈 Echo-TTS MLX для преобразования текста в речь

Echo-TTS MLX — 2,4B технология преобразования текста в речь с клонированием голоса, адаптированная для Apple Silicon

Портировали Echo-TTS с CUDA для нативной работы на процессорах Apple M-Series Silicon.

Echo-TTS — это технология DiT размером 2,4B, которая преобразует текст в речь с помощью клонирования голоса. Если дать ей текст и короткий аудиофайл с чьим-то голосом, она сгенерирует речь этим голосом.

На базовом Mac mini с процессором M4 и 16 ГБ памяти генерация короткого 5-секундного голосового клона занимает около 10 секунд. Генерация клонов длительностью до 30 секунд занимает около 60 секунд.

Добавленные функции:
- Режимы квантования: 8 бит, mxfp4, смешанный (сокращает объем памяти с ~6 ГБ до ~4 ГБ, скорость в 1,2–1,4 раза выше)
- Предустановки качества: черновой вариант, быстрый, сбалансированный, качественный, сверхкачественный
- Обрезка хвостов: латентная, энергетическая, f0
- Блочная генерация: потоковая передача, продолжение аудио, --blockwise 128,128,64

🔗 https://github.com/mznoj/echo-tts-mlx
Блог и Примеры: https://jordandarefsky.com/blog/2025/echo/
Демо: https://huggingface.co/spaces/jordand/echo-tts-preview
(Обсуждение)
#EchoTTS #TTS #MLX #MacOS #LocalAi #AiLocal

🎙 DictaWiz: AI Voice Keyboard (Private Voice to Text) - Транскрибация голоса и диктофонных записей локально на iPhone с помощью Parakeet

📱 https://apps.apple.com/us/app/dictawiz-ai-voice-keyboard/id6759256382
📱 https://apps.apple.com/us/app/dictawiz-private-voice-to-text/id6759256382 - новое название: DictaWiz: Private Voice to Text

В приложении есть и #Whisper но #Parakeet работает значительно быстрее!
Надо будет скачать модель в 200Мб.

Также в комплекте специальная клавиатура, которая работает в любом приложении. Все обрабатывается локально, данные не покидают ваше устройство. При желании вы можете синхронизировать свои заметки, записи и ярлыки с iCloud.

Щедрые бесплатные лимиты. Клавиатурой можно пользоваться бесплатно. За использование локальных функций искусственного интеллекта взимается небольшая плата после достижения лимита, а запись и расшифровка более 60 минут стоят немного дороже, но даже бесплатное приложение поможет вам сэкономить как минимум час в день.
Приложение постоянно обновляется и улучшается!
В планах: диктовка с помощью часов, дополнительные модели, такие как QWEN ASR

Ранее была установка через TestFlight https://testflight.apple.com/join/e5pcxwyq
(Обсуждение)
#Транскрибация #ASR #STT #DictaWiz #FreeVoice #AIVoiceKeyboard #iPhone #LocalAi #AiLocal

🎙 whisperX - автоматическое распознавание речи с временными метками на уровне слов (и диаризацией)

⚡️ Пакетная обработка для 70-кратного ускорения расшифровки в реальном времени с использованием модели whisper large-v2
(Модель #whisper от OpenAI изначально не поддерживает пакетную обработку.)
🎯 Точные временные метки на уровне слов с использованием выравнивания wav2vec2
👯‍♂️ Многоголосная система автоматического распознавания речи с использованием диаризации по голосам из pyannote-audio (метки с идентификаторами говорящих)
🗣 Предварительная обработка VAD, снижающая количество ложных срабатываний и обеспечивающая пакетную обработку без ухудшения показателя WER
- Обнаружение голосовой активности (Voice Activity Detection, VAD) — это определение наличия или отсутствия человеческой речи.
- Диарризация по говорящим — это процесс разделения аудиопотока, содержащего человеческую речь, на однородные сегменты в соответствии с идентификацией каждого говорящего.

Если вам нужен API для расшифровки записей совещаний, обратите внимание на API для расшифровки записей совещаний от Recall.ai, который работает с Zoom, Google Meet, Microsoft Teams и другими платформами. Recall.ai извлекает данные о выступающих и отдельные аудиопотоки с платформ для проведения совещаний, что обеспечивает 100-процентную точность определения выступающих с указанием их имен.

🔗 https://github.com/m-bain/whisperX

💡 И совместно может быть интересен: EchoNotes которое отслеживает появление новых файлов в папке, извлекает их содержимое (текст, аудио, видео), обобщает его с помощью локальной модели большой языковой модели и сохраняет обобщенный результат на диск. Приложение поддерживает работу в автономном режиме и может работать с файлами различных форматов, включая PDF, документы Word, текстовые файлы, видео- и аудиофайлы.
🔗 https://github.com/nothingmn/echonotes

#whisperX #EchoNotes #Транскрибация #LocalAi #AiLocal

👁 Observer - Наблюдательный ИИ

Локальные микроагенты, которые наблюдают, регистрируют и реагируют
Создавайте мощные микроагенты, которые будут наблюдать за вашим цифровым миром, запоминать важную информацию и принимать взвешенные решения, сохраняя при этом ваши данные в полной конфиденциальности и безопасности.

🔗 https://app.observer-ai.com
Наглядно про создание и использование агентов: https://www.youtube.com/watch?v=6zJh8NmCXYw
Observer AI Launch https://www.youtube.com/watch?v=i5WDvQy0XJA
(Все видео на Канале)
📱 https://apps.apple.com/mx/app/observer-ai/id6758222050
Проект: https://github.com/Roy3838/Observer
(Обсуждение)
#Observer #AiAgent #AgentAi #LocalAi #AiLocal #App #iPhone

🤖 PageAgent - Агент живущий в браузере от Alibaba!

ИИ-агент на вашей веб-странице!
Агент графического интерфейса, живущий на вашей веб-странице. Управляйте веб-интерфейсами с помощью естественного языка.
Оператор ИИ живет на вашей веб-странице!
🪄Одна строка кода превращает ваш сайт в приложение на основе искусственного интеллекта.
Пользователи дают команды на естественном языке, а ИИ делает все остальное.

✨ Особенности:
🎯 Простая интеграция
- Не нужно использовать browser extension / python / headless browser.
- Только встроенный в страницу JavaScript. Все происходит на вашей веб-странице.
- Лучший инструмент для вашего агента по управлению веб-страницами.
📖 Манипуляции с DOM на основе текста
- Никаких скриншотов. Не требуется распознавание текста или мультимодальные языковые модели.
- Никаких специальных разрешений не требуется.
🧠 Используйте свои собственные языковые модели
🎨 Красивый интерфейс с участием человека
🐙 Дополнительное расширение для Chrome для многостраничных задач.

💡 Примеры использования:
- SaaS AI Copilot — внедрите помощника на основе искусственного интеллекта в свой продукт с помощью нескольких строк кода. Переписывать серверную часть не нужно.
- Умное заполнение форм — превратите рабочие процессы, состоящие из 20 кликов, в одно предложение. Идеально подходит для ERP, CRM и административных систем.
- Доступность — сделайте любое веб-приложение доступным для использования с помощью естественного языка. Голосовые команды, программы для чтения с экрана, никаких барьеров.
- Многостраничный агент — расширьте возможности своего агента, используя вкладки браузера с помощью дополнительного расширения для Chrome.

Демо: https://alibaba.github.io/page-agent/
🔗 https://github.com/alibaba/page-agent
(Обсуждение)
#PageAgent #AiAgent #AgentAi #LocalAi #AiLocal