🎨 Private Diffusion - Local Art - Изображение Локально

Оно использует как нейронный движок, так и графический процессор (а также ядра NAX на M5 и A19 Pro) для логического вывода.
Приложение пока в разработке, но уже поддерживает около 10 моделей, включая Krea 2 Turbo и Kroma, Z-Image-Turbo.
Модели меньшего размера также работают на iPhone и iPad.
Ссылка на TestFlight для тех, кто хочет попробовать.
🔗 https://testflight.apple.com/join/DQwfQsEg
(Из обсуждения)
#PrivateDiffusion #LocalArt #AiArt #Zimage #Flux2 #Krea2 #ERNIEimage #iPhone #iPad #MacOS #AiLocal #LocalAi

🎞 h3.c Studio - Нативный MiniMax H3-вывод видео / аудио на CUDA в Linux, Metal на Apple Silicon — с h3c studio, автономным веб-интерфейсом.
Собственный вывод MiniMax-H3 на языке C для NVIDIA CUDA в Linux и Metal на Apple Silicon. Преобразование текста в видео/аудио, обработка первого/последнего кадра и упорядоченные ссылки на изображения/видео/аудио Ref2VA работают без сбоев на обоих бэкендах.
🔗 https://github.com/matrixfede/h3.c
#MiniMaxH3 #MiniMax #H3 #h3cStudio #AiVideo #AiLocal #LocalAi

📊 llm-picker - Какие языковые модели могут работать на вашем компьютере и какая из них лучше всего подходит для конкретной задачи.
Выберите свой компьютер, укажите, для чего вам нужна модель, и система выдаст подходящие варианты.
🔗 https://llm-picker.dev
(Обсуждение)
#llmpicker #AiModel #AiLocal #LocalAi

🎙 MOSS-Transcribe-Diarize 0.9B - это комплексная модель понимания звука SOTA с открытым исходным кодом для пространной транскрипции с несколькими динамиками, ведения дневника, временных меток и осведомленности об акустических событиях. 

MOSS-Transcribe-Diarize Pro — более мощная модель с более высокой общей производительностью, доступная на онлайн-платформе.
MOSS-Transcribe-Diarize 0.9B поддерживает более 50 языков.

MOSS-Transcribe-Diarize — это наше флагманское семейство моделей, позволяющее за один проход преобразовывать реальные аудиозаписи в структурированные расшифровки с указанием говорящего. Вместо того чтобы объединять отдельные системы автоматического распознавания речи и диаризации, эти модели совместно выполняют транскрипцию речи и диаризацию, создавая текст с временным выравниванием, точными временными метками и согласованными метками говорящих, такими как [S01], [S02], и т. д.
MOSS-Transcribe-Diarize, созданный для работы с совещаниями, звонками, подкастами, интервью, лекциями и видеоконтентом, предназначен для обработки длинных, сложных записей с участием нескольких говорящих, где важна надежность. Он также может генерировать дополнительные аннотации акустических событий, предоставляя нижестоящим системам более полное представление о том, что происходило, кто говорил и когда.
Модель принимает необработанный аудиофайл и выдает компактную расшифровку с указанием времени.

🔗 https://github.com/OpenMOSS/MOSS-Transcribe-Diarize
#MOSS #Transcribe #Diarize #ASR #Транскрибация #AiLocal #LocalAi

Fine-Tuning-Studio - Интерфейс чата, предназначенный для написания собственных примеров тонкой настройки и экспорта файла CSV/JSONL на ваше устройство.
🔗 https://github.com/StarpowerTechnology/Fine-Tuning-Studio
(Обсуждение)
#FineTuningStudio #FineTuning #AiLocal #LocalAi

🎙 Sopro V2 Turbo — голосовой клонер на 120M параметров

Компактная модель для клонирования голоса, которая работает полностью на устройстве. Никаких GPU и облаков — только браузер или обычный ноутбук.

Что умеет:
• Клонирует голос по 5-20 секундам образца
• Первый звук через ~300 мс на CPU ноутбука
• Генерирует речь в 5 раз быстрее реального времени
• Поддерживает английский, португальский, французский и немецкий

Локальный веб-интерфейс запускается одной командой: uvx -from sopro soprotts serve

Заточен под слабое железо — всё работает прямо в браузере, без специальных ресурсов.
🌐 https://samuel-vitorino.github.io/sopro/
🔗 https://research.haloneuro.ai/posts/sopro-v2
🔗 https://github.com/samuel-vitorino/sopro
🔗 https://huggingface.co/samuel-vitorino/sopro-v2-turbo
🔗 https://huggingface.co/spaces/hugging-apps/sopro-v2-turbo-tts - Демо!
#SoproV2Turbo #Sopro #TTS #AiVoice #AiLocal #LocalAi

📖 Запуск конвейера перевода литературных книг на 2 моделях:
- Gemma-4-26B-A4B в качестве переводчика
- Qwen3.6-35B-A3B в качестве корректора

Контекст: запускают конвейер, который локально переводит целые художественные книги с английского на русский — фрагмент + глоссарий + скользящие аннотации к главам → перевод → замечания рецензента → исправление → корректура → аннотации к фрагментам. Книга — это ~1,5–2 млн токенов! После года тренировок появилась конфигурация для запуска, которая достаточно быстрая, чтобы не надоедать: 2–3 книги в день.

Подробно: https://www.reddit.com/r/LocalLLaMA/comments/1w54s3q/running_a_2model_literary_booktranslation/
#booktranslation #book #Перевод #LocalAi #AiLocal

⚡️ slotstream - Запускайте Qwen3.8-Flash-Next (125B MoE, 104 ГБ в 4-битном формате) на компьютерах Mac с небольшим объемом оперативной памяти, используя потоковую передачу данных с SSD. MLX + Swift, API, совместимый с Ollama.
На 48GB Mac скорость ~12 tok/s

Запустите Qwen3.8-Flash-Next на Mac, который не справляется с этой задачей. Модель представляет собой смесь экспертов с 125B-параметрами, занимает 104 ГБ на диске в 4-битном формате; слотстрим считывает ее с SSD и запускает в любом объеме памяти, который вы выделите. Это один бинарный файл на Swift, без Python. Он поддерживает API чата Ollama и OpenAI, поэтому ваши существующие инструменты будут работать без изменений.

🔗 https://github.com/carloslfu/slotstream
(Обсуждение)
#slotstream #Qwen38FlashNext #MacOS #AiLocal #LocalAi

🚀 Скорость и кол-во новых моделей - и все только ускоряется! 🚀
(Обсуждение)

🔈 Repodify - Превратите фрагмент подкаста в один короткий дайджест.

Найдите нужный подкаст или вставьте его ссылку, выберите нужные эпизоды, и Repodify создаст один хронологический эпизод, который вы сможете прослушать или скачать. Он работает на вашем компьютере или с вашими собственными API-ключами (BYOK) — выбор за вами на каждом этапе.

Превратите фрагмент подкаста в один адаптированный/дополненный короткий дайджест: поиск/инсталляция RSS, расшифровка, обобщение, написание сценария и, наконец, синтез и создание адаптированного подкаста, при этом все этапы машинного обучения можно выполнять локально (единообразно или смешанно).

• загружает аудио
• расшифровывает его
• при необходимости определяет, кто говорил (& объединяет одного ведущего/гостя из разных выпусков)
• объединяет в одно хронологическое повествование
• пишет сценарий для озвучивания с заданной продолжительностью
• синтезирует новый выпуск, который можно прослушать или скачать

Все это должно работать на вашем компьютере или с вашими собственными API-ключами (BYOK) для каждого этапа и задания. Никаких «загрузок архива в чужое облако». Преобразование речи в текст, диаризация, большие языковые модели и синтез речи — все это можно заменить: локальный графический процессор (faster-whisper, pyannote, Ollama, F5-TTS / Kokoro) или BYOK (OpenRouter / Anthropic / pyannoteAI).
Клонирование голоса доступно по запросу и отключено по умолчанию.

🔗 https://github.com/behradkhodayar/repodify
(Обсуждение)
#Repodify #STT #TTS #AiPodcast #whisper #Kokoro #AiLocal #LocalAi

ℹ Модель: ICE-012 Audio от DarkPs — многоязычная модель для синтеза речи. Поддерживает 590 языков и диалектов, включая русский.

🎙 Открытая TTS-модель с клонированием голоса по 2 секундам!
Умеет клонировать голос по двухсекундному образцу. Можно настроить пол, возраст, высоту, акцент, стиль речи (включая шепот) и скорость. Генерация работает в режиме стриминга — не нужно ждать полного файла.

В архитектуре используется активный акустический адаптер: обрабатывает кодек-эмбеддинги до и после основного блока. Может пригодиться для озвучки на редких языках, где коммерческие TTS пока не добрались.

🔗 https://huggingface.co/darkps/ice-012-audio
#ICE012Audio #DarkPs #TTS #AiModel #ModelAi #LocalAi #AiLocal

⚡️ DSv4-streaming - Запуск DeepSeek-V4-Flash (284B MoE) на компьютере Mac объемом 64 ГБ экспертами по потоковой передаче данных из SSD

Экспертная потоковая передача данных на SSD для DeepSeek-V4-Flash (284B разреженных матричных элементов) на MacBook M5 Pro с 64 ГБ памяти.
DeepSeek-V4-Flash занимает 165 ГБ на диске, поэтому не помещается в 64 ГБ памяти. Но она все равно работает, потому что модель использует лишь небольшую часть своих весов для каждого токена. Неиспользуемые части остаются на SSD и загружаются только при необходимости.

dsv4-streaming запускает модель с 284B параметрами, наименьший опубликованный квант которой составляет 83 ГБ, на ноутбуке с 64 ГБ памяти, сохраняя неэкспертные веса на диске и передавая экспертные веса с SSD по запросу. Он содержит два движка: быстрый движок, построенный на среде выполнения ds4 от antirez (декодирование ~ 11 ток / с за 2 квартала) и полнокачественный движок, созданный с нуля стек MLX / Python, который запускает смешанную 4/8-битную контрольную точку с недоумением, сопоставляющим опубликованное число с -0.02%. Веб-приложение локального чата поддерживает оба движка с сеансами, потоковой передачей и API, совместимым с OpenAI. 

Качество не падает. Проверили качество вывода с помощью стандартного теста (перплексия, чем ниже, тем лучше). Настройка показала результат 6,1250. Официальный показатель для этого файла модели — 6,1262. Такое же качество.

Скорость: около 11 токенов в секунду при использовании 2-битного файла модели меньшего размера или 1–2 токена в секунду при более высоком качестве. Для сравнения: 11 токенов в секунду — это быстрее, чем читает большинство людей.

Кэш меньшего размера работал быстрее, чем кэш большего размера. Автор выделил программе 8 ГБ памяти для кэша и получил 2,04 токена в секунду. При 32 ГБ показатель упал до 1,23. Причина: macOS уже кэширует файлы самостоятельно и делает это лучше. Выделение программе большего объема памяти привело к тому, что macOS стала использовать меньше памяти. То же самое произошло в отдельном движке (ds4 от antirez), так что это не ошибка этого кода.

Популярные приемы для повышения скорости здесь не помогли. Спекулятивное декодирование и предварительная выборка данных в этой конфигурации только замедляли работу. Узким местом является диск, а эти приемы увеличивают объем считываемых данных, а не уменьшают его.

🔗 https://github.com/kk-r/dsv4-streaming
(Обсуждение)
#dsv4streaming #DeepSeekV4Flash #DSV4 #MacOS #LocalAi #AiLocal