Traart — бесплатное офлайн-приложение для macOS, специально предназначенное для транскрибации аудио/видео и использующее модель GigaAM v3 (RNNT от Sber).
Основные характеристики Traart:
- Модель: GigaAM v3 (WER ≈ 8.3 % на русском — заметно лучше Whisper-large-v3 на русскоязычных данных).
- Полностью локальная работа: аудио не уходит в облако; интернет нужен только при первом запуске для скачивания моделей (~2 ГБ).
- Диаризация спикеров (через pyannote).
- Поддержка аудио и видео (MP3, WAV, M4A, FLAC, MP4, MKV и др.).
- Вывод в TXT / Markdown / JSON с таймкодами и метками спикеров.
- Автоматический мониторинг папки (новые файлы транскрибируются сами).
Требования: macOS 13 (Ventura)+, Apple Silicon (M1/M2/M3/M4), от 8 ГБ RAM.
Сравнение: https://traart.ru/comparison
#Traart #GigaAM #GigaAMv3 #MacOS #Whisper #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🤮1
Зажал клавишу → сказал → отпустил → чистый текст в активном поле.
Возможности:
- Полностью офлайн — данные не покидают ваш Mac
- GigaAM-v3 (ONNX) — распознавание речи с пунктуацией
- Silero VAD — нарезка длинных записей на сегменты
- Говорун Super — локальная нейросеть (GigaChat 3.1) для глубокой обработки текста
- Скачивание ИИ-модели прямо из приложения (5.8 ГБ, с паузой и докачкой)
- Умный контекст — стиль текста подстраивается под приложение
- Настраиваемая клавиша активации — ⌥, любая клавиша, или комбинация (⌘K, ⇧F5, ...)
- Два режима: Push to Talk (удерживай) и Toggle (нажми — нажми)
- Сниппеты — "мой имейл" → подставляет email
- Словарь замен — "жира" → "Jira"
- Списки в диктовке — "первое молоко второе хлеб" → нумерованный список
- Нормализация чисел — "двадцать пять процентов" → "25%"
- Вставка через Accessibility API с clipboard fallback
- Автообновление через Sparkle
- Apple Silicon (M1+), macOS 14 Sonoma+
#Говорун #GigaAM #GigaAMv3 #MacOS #Whisper #Транскрибация #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🥴1
Транскрибация русской речи из аудио и видео на базе GigaAM-v3. Один сервисный уровень, пять интерфейсов: графический интерфейс для настольных компьютеров, интерфейс командной строки, REST API, веб-интерфейс и терминальный пользовательский интерфейс.
GigaAM Transcriber — это полноценный рабочий процесс для расшифровки, экспорта, диаризации и постобработки с помощью больших языковых моделей, а не просто оболочка для модели.
Возможности:
- Пакетная обработка файлов и папок, рекурсивный поиск, перетаскивание, загрузка через yt-dlp.
- Экспорт: txt, txt_timecodes, txt_diarize, txt_diarize_timecodes, md, srt, vtt.
- SRT/VTT делятся на короткие фразы по пунктуации и временным меткам слов; количество строк и максимальная длина строки настраиваются отдельно, не затрагивая TXT/MD.
- При диаризации SRT называет говорящего только при смене говорящего (Спикер №1:), а VTT сохраняет стандартный диапазон голоса <v Спикер №1> на каждом сигнале.
- Выбираемая диаризация: pyannote, ONNX PyAnnote + WeSpeaker или NVIDIA Streaming Sortformer v2.1.
- Автоматическая диагностика качества, консервативная очистка и safe fallback без сдвига таймкодов.
- Ускорение MLX RNN-T на Apple Silicon; CPU, CUDA, Intel XPU и MPS.
- LLM-постобработка: выжимки, задачи и свои промпты.
- Провайдеры LLM: OpenAI-compatible API, Claude Code, Codex, OpenCode, Pi и произвольный CLI.
- RU/EN, светлая/тёмная тема, журнал, stage-aware progress и отмена очереди.
- Веб-интерфейс с авторизацией, отслеживанием прогресса, восстановлением задач и усилением защиты Docker.
#GigaAMTranscriber #GigaAM #Transcriber #GigaAMv3 #MacOS #Whisper #Транскрибация #Windows #Linux #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🖕1
✨ TurboFieldfare - Запуск Gemma 4 26B-A4B в ~ 2 ГБ оперативной памяти на любом MacBook серии M!
Вычисления Gemma 4 26B-A4B занимают около 2 ГБ оперативной памяти! (Память стала дорогой.)
TurboFieldfare использует оптимизированную под инструкции Gemma 4 26B-A4B модель, не загружая в память всю модель размером 14,3 ГБ. Она сохраняет в памяти общее ядро размером 1,35 ГБ и кэш FP16 KV, а затем считывает с SSD только экспертов, необходимых для каждого токена. Именно это позволяет использовать модель на компьютерах Mac с 8 ГБ оперативной памяти.
🔗 https://github.com/drumih/turbo-fieldfare
(Обсуждение)
============
Портировали TurboFieldfare на Qwen 3.6 35B, и он работает с 1,4 ГБ оперативной памяти!
#TurboFieldfare #Gemma4 #Qwen36 #MacOS #LocalAi #AiLocal
Вычисления Gemma 4 26B-A4B занимают около 2 ГБ оперативной памяти! (Память стала дорогой.)
TurboFieldfare использует оптимизированную под инструкции Gemma 4 26B-A4B модель, не загружая в память всю модель размером 14,3 ГБ. Она сохраняет в памяти общее ядро размером 1,35 ГБ и кэш FP16 KV, а затем считывает с SSD только экспертов, необходимых для каждого токена. Именно это позволяет использовать модель на компьютерах Mac с 8 ГБ оперативной памяти.
(Обсуждение)
============
Портировали TurboFieldfare на Qwen 3.6 35B, и он работает с 1,4 ГБ оперативной памяти!
#TurboFieldfare #Gemma4 #Qwen36 #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
💻 Две версии под лицензией MIT:
- Venti — 748 млрд параметров: 744 млрд замороженной GLM-5.2 и четыре адаптера по 1 млрд. Контекст миллион токенов, первое дообучение поверх GLM-5.2.
- Tall — 50 млрд параметров на базе Qwen3.6-35B-A3B с четырьмя адаптерами по 3,7 млрд. Контекст 262 тысячи токенов, заточена под локальный запуск. Сегодня её развернули на Novita.
Бенчмарки авторские:
TerminalBench 2.1 — 87,6, UI4ABench — 87,8, SWE Verified — 85,6 против 88,6 у Opus 4.8. По кодингу лаборатория сама пишет, что идёт вровень с топом, а не обгоняет. Заодно открыли LongStraw — систему обучения на длинном контексте до 2,1 млн токенов через GRPO на восьми H20.
Небольшая лаборатория Mind Lab на 30 человек известна приложением Macaron — персональным агентом для бытовых задач. Теперь выкатили собственную модель с открытыми весами.
Архитектура называется Mixture-of-LoRA: база заморожена, поверх неё четыре специализированных адаптера — для чата, агента, кодинга и генеративного интерфейса. Роутер отправляет запрос нужному специалисту, тот работает внутри своей LoRA, остальным передаёт краткий итог. База не трогается, новые навыки добавляются подключением адаптера без переобучения. Это позволяет дообучать модель после релиза и собирать специалистов от разных команд.
#MacaronV1 #Venti #Tall #GLM52 #Qwen36 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
🦙 Armored Llama - запускает последние сборки llama.cpp и загружает подходящие для вашего устройства файлы gguf с Hugging Face.
Запустите llama.cpp в качестве реального сервера на своем Android-смартфоне — загрузите модели с Hugging Face, общайтесь с ними локально и наблюдайте за работой аппаратного обеспечения прямо на устройстве.
🔗 https://github.com/guarismo/armored-llama
⬇️ Скачать: https://github.com/guarismo/armored-llama/releases/latest
(Обсуждение)
#ArmoredLlama #llamacpp #Android #App #LocalAi #AiLocal
Запустите llama.cpp в качестве реального сервера на своем Android-смартфоне — загрузите модели с Hugging Face, общайтесь с ними локально и наблюдайте за работой аппаратного обеспечения прямо на устройстве.
Armored Llama — это не оболочка для облачного API и не повторная реализация логического вывода. Он запускает реальный llama-server бинарный файл llama.cpp из репозитория на процессоре вашего телефона, предоставляя конечную точку, совместимую с OpenAI, на 127.0.0.1, и оборачивает его в нативное приложение Jetpack Compose: аппаратную панель мониторинга в реальном времени, браузер моделей Hugging Face, чат в приложении и обновление среды выполнения в одно касание. Все данные остаются на устройстве — никаких сетевых запросов для логического вывода, никаких учетных записей.
(Обсуждение)
#ArmoredLlama #llamacpp #Android #App #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Статья: Как выбрать OCR в 2026-м: тестируем девять моделей на трех движках инференса на рукописном русском
https://habr.com/ru/companies/mts_ai/articles/1065182/
https://habr.com/ru/companies/mts_ai/articles/1065182/
👎1
💡 Kimi K3 — 2,78 триллиона параметров — работает на обычном ноутбуке.
Запускайте полную модель Kimi K3 с 2,78 триллионами параметров, не ограничиваясь доступной оперативной памятью, за счет потоковой передачи активированных весов непосредственно с NVMe.
На данный момент его доказанная работоспособность подтверждена на полной модели Kimi K3 с открытыми весами: 2,78 триллиона параметров, упакованных в контейнер размером 982 ГБ, который работает на MacBook Pro с 64 ГБ оперативной памяти со скоростью 0,49–0,54 токена в секунду. Это не упрощенный, не урезаннный и не сокращенный вариант.
🔗 https://github.com/sqliteai/waste
(Обсуждение)
#KimiK3 #waste #LocalAi #AiLocal
Запускайте полную модель Kimi K3 с 2,78 триллионами параметров, не ограничиваясь доступной оперативной памятью, за счет потоковой передачи активированных весов непосредственно с NVMe.
На данный момент его доказанная работоспособность подтверждена на полной модели Kimi K3 с открытыми весами: 2,78 триллиона параметров, упакованных в контейнер размером 982 ГБ, который работает на MacBook Pro с 64 ГБ оперативной памяти со скоростью 0,49–0,54 токена в секунду. Это не упрощенный, не урезаннный и не сокращенный вариант.
(Обсуждение)
#KimiK3 #waste #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
llama.app - приложение для Mac и сервис llama от llama.cpp
Запускайте frontier AI полностью на своем компьютере. Никаких API-ключей, никакой телеметрии, никаких ограничений. Владейте своими моделями и диалоговыми данными.
Проект: https://github.com/ggml-org/llama.cpp
(Обсуждение)
#llama #llamacpp #llamaapp #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ DeepSeek V4 Flash в LM Studio (Mac)
Внедрение форка DeepSeek V4 Flash llama.cpp от antirez в LM Studio (Mac, 128 ГБ объединенной памяти). Патчи для устранения дрейфа ABI/структуры данных, пакетного слияния, рецепта подписи кода.
🔗 https://github.com/noreff/lmstudio-dsv4-patch
(Обсуждение)
#LMStudio #DeepSeekV4Flash #llamacpp #MacOS #LocalAi #AiLocal
Внедрение форка DeepSeek V4 Flash llama.cpp от antirez в LM Studio (Mac, 128 ГБ объединенной памяти). Патчи для устранения дрейфа ABI/структуры данных, пакетного слияния, рецепта подписи кода.
Установите форк deepseek_v4 llama.cpp от antirez в LM Studio, чтобы запустить DeepSeek V4 Flash — 256-экспертный MoE, ~80 ГБ резидентной памяти, до 1 М контекста токенов — на Mac с 128 ГБ объединенной памяти.
Это обходной путь. Upstream llama.cpp пока не поддерживает deepseek_v4 архитектуру (дискуссия #22376). Среда выполнения MLX в LM Studio отклоняет GGUF V4 (ошибка #1872). Пока эти изменения не внедрены, это единственный рабочий способ запустить V4-Flash из пользовательского интерфейса LM Studio / сервера, совместимого с OpenAI.
Что вы получаете:
- DeepSeek V4 Flash загружена как обычная модель в LM Studio
- API, совместимый с OpenAI, на http://localhost:1234
- Полный контекст из 1 048 576 токенов
- ~190 токенов в секунду при обработке подсказок, ~26 токенов в секунду при генерации
- Работает с любым клиентом OpenAI-API (в т. ч. pi, Open WebUI, вашими собственными скриптами)
Протестировано на MacBook Pro M5 Max, 128 ГБ, macOS 26.4. Должно работать и на M2/M3/M4 Max с 128 ГБ.
(Обсуждение)
#LMStudio #DeepSeekV4Flash #llamacpp #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM