⚡️ Qwen3.8-Flash-Next оптимизирован для компьютеров Mac

благодаря llama.cpp — очень большие модели MoE на 64-гигабайтном Mac
Форк llama.cpp для запуска моделей MoE намного большего размера, чем доступная оперативная память с потоковой передачей их экспертов с SSD по запросу, оптимизированный специально для Apple Silicon.
Целевое оборудование: M1 Max, 64 ГБ, ~400 ГБ/с. Все, кроме экспертов, остается в оперативной памяти; эксперты хранятся в ограниченном кэше, который заполняется по запросу и с помощью одноуровневой предварительной выборки. Таким образом, полезный размер контрольной точки определяется пропускной способностью диска, а не оперативной памятью — модель 284B размером 107 ГиБ работает на компьютере с 64 ГБ оперативной памяти со скоростью, которая действительно пригодна для агентного кодирования.

🔗 https://github.com/mihailescu2m/llama.cpp
(Обсуждение)
#llamacpp #Qwen38FlashNext #MacOS #LocalAi #AiLocal

📱 BayesChat - Privacy-first, AI Chat Workspace, BYOK, MCP tool & Chat Presets

(Конфиденциальность, AI-чат, BYOK, инструмент MCP и предустановки чата!)
Поддержка нескольких провайдеров: Подключение к любой модели через API, совместимые с OpenAI / Anthropic, включая локальные модели
Предустановки чата: Сохраните приглашение, модель, параметр и инструмент в качестве предустановок для повторного использования. Переключайтесь между ними одним касанием, чтобы повысить эффективность рабочего процесса
Поддержка протокола MCP: интеграция MCP для вызова сторонних инструментов
Точная настройка параметров: формируйте каждый ответ с помощью точных и гибких элементов управления
Прямая трансляция: рендеринг анимации пишущей машинки в реальном времени с формулами LaTeX и разметкой
Настраиваемые темы и цвета: выберите тему и цвета по своему вкусу

🔗 https://bayeschat.xyz
⬇️ https://apps.apple.com/us/app/bayeschat-ai-chat-byok-mcp/id6777948055
Для #MacOS скоро!

Вы переходите от одной задачи к другой, и для каждой из них нужна своя подсказка, своя настройка. Особенно на телефоне. В итоге вам приходится снова и снова все перенастраивать.
Знакомая ситуация? Это утомительно!
Поэтому автор решил просто все исправить.
BayesChat позволяет сохранить подсказку, модель, параметры и инструменты в виде одного пресета. Чтобы переключиться между задачами, достаточно одного нажатия.
Больше не нужно каждый раз начинать с нуля.
И, конечно же, он полностью поддерживает локальные языковые модели (Пост)

#BayesChat #iOS #iPhone #iPad #BYOK #MCP #API

ℹ Модель: WeMM-Embedding 9B/4B/2B от Tencent

WeMM-Embedding — это семейство универсальных мультимодальных моделей встраивания, разработанных командой WeChat Vision. Они обеспечивают унифицированное представление текста, изображений, видео, визуальных документов и смешанных мультимодальных входных данных, демонстрируя высочайшую производительность в различных тестах, охватывающих разные задачи и области.

WeMM-Embedding-9B — это универсальная мультимодальная модель встраивания, созданная на основе Qwen3.5. Она принимает текст, изображения, видео, визуальные документы и смешанные мультимодальные входные данные и возвращает 4096-мерное нормализованное по L2 встраивание.
Аудиовход не поддерживается.

🔗 https://huggingface.co/tencent/WeMM-Embedding-9B
🔗 https://huggingface.co/tencent/WeMM-Embedding-4B
🔗 https://huggingface.co/tencent/WeMM-Embedding-2B
🔗 https://github.com/Tencent/WeMM-Embedding
🔗 https://github.com/Tencent/WeMM-Embedding/blob/main/assets/WeMM_Embedding_tech_report.pdf
(Обсуждение)
#Embedding #WeMMEmbedding #Qwen35 #AiModel #ModelAi #LocalAi #AiLocal

🎨 Private Diffusion - Local Art - Изображение Локально

Оно использует как нейронный движок, так и графический процессор (а также ядра NAX на M5 и A19 Pro) для логического вывода.
Приложение пока в разработке, но уже поддерживает около 10 моделей, включая Krea 2 Turbo и Kroma, Z-Image-Turbo.
Модели меньшего размера также работают на iPhone и iPad.
Ссылка на TestFlight для тех, кто хочет попробовать.
🔗 https://testflight.apple.com/join/DQwfQsEg
(Из обсуждения)
#PrivateDiffusion #LocalArt #AiArt #Zimage #Flux2 #Krea2 #ERNIEimage #iPhone #iPad #MacOS #AiLocal #LocalAi

🎞 h3.c Studio - Нативный MiniMax H3-вывод видео / аудио на CUDA в Linux, Metal на Apple Silicon — с h3c studio, автономным веб-интерфейсом.
Собственный вывод MiniMax-H3 на языке C для NVIDIA CUDA в Linux и Metal на Apple Silicon. Преобразование текста в видео/аудио, обработка первого/последнего кадра и упорядоченные ссылки на изображения/видео/аудио Ref2VA работают без сбоев на обоих бэкендах.
🔗 https://github.com/matrixfede/h3.c
#MiniMaxH3 #MiniMax #H3 #h3cStudio #AiVideo #AiLocal #LocalAi

📊 llm-picker - Какие языковые модели могут работать на вашем компьютере и какая из них лучше всего подходит для конкретной задачи.
Выберите свой компьютер, укажите, для чего вам нужна модель, и система выдаст подходящие варианты.
🔗 https://llm-picker.dev
(Обсуждение)
#llmpicker #AiModel #AiLocal #LocalAi

🎙 MOSS-Transcribe-Diarize 0.9B - это комплексная модель понимания звука SOTA с открытым исходным кодом для пространной транскрипции с несколькими динамиками, ведения дневника, временных меток и осведомленности об акустических событиях. 

MOSS-Transcribe-Diarize Pro — более мощная модель с более высокой общей производительностью, доступная на онлайн-платформе.
MOSS-Transcribe-Diarize 0.9B поддерживает более 50 языков.

MOSS-Transcribe-Diarize — это наше флагманское семейство моделей, позволяющее за один проход преобразовывать реальные аудиозаписи в структурированные расшифровки с указанием говорящего. Вместо того чтобы объединять отдельные системы автоматического распознавания речи и диаризации, эти модели совместно выполняют транскрипцию речи и диаризацию, создавая текст с временным выравниванием, точными временными метками и согласованными метками говорящих, такими как [S01], [S02], и т. д.
MOSS-Transcribe-Diarize, созданный для работы с совещаниями, звонками, подкастами, интервью, лекциями и видеоконтентом, предназначен для обработки длинных, сложных записей с участием нескольких говорящих, где важна надежность. Он также может генерировать дополнительные аннотации акустических событий, предоставляя нижестоящим системам более полное представление о том, что происходило, кто говорил и когда.
Модель принимает необработанный аудиофайл и выдает компактную расшифровку с указанием времени.

🔗 https://github.com/OpenMOSS/MOSS-Transcribe-Diarize
#MOSS #Transcribe #Diarize #ASR #Транскрибация #AiLocal #LocalAi

Fine-Tuning-Studio - Интерфейс чата, предназначенный для написания собственных примеров тонкой настройки и экспорта файла CSV/JSONL на ваше устройство.
🔗 https://github.com/StarpowerTechnology/Fine-Tuning-Studio
(Обсуждение)
#FineTuningStudio #FineTuning #AiLocal #LocalAi

🎙 Sopro V2 Turbo — голосовой клонер на 120M параметров

Компактная модель для клонирования голоса, которая работает полностью на устройстве. Никаких GPU и облаков — только браузер или обычный ноутбук.

Что умеет:
• Клонирует голос по 5-20 секундам образца
• Первый звук через ~300 мс на CPU ноутбука
• Генерирует речь в 5 раз быстрее реального времени
• Поддерживает английский, португальский, французский и немецкий

Локальный веб-интерфейс запускается одной командой: uvx -from sopro soprotts serve

Заточен под слабое железо — всё работает прямо в браузере, без специальных ресурсов.
🌐 https://samuel-vitorino.github.io/sopro/
🔗 https://research.haloneuro.ai/posts/sopro-v2
🔗 https://github.com/samuel-vitorino/sopro
🔗 https://huggingface.co/samuel-vitorino/sopro-v2-turbo
🔗 https://huggingface.co/spaces/hugging-apps/sopro-v2-turbo-tts - Демо!
#SoproV2Turbo #Sopro #TTS #AiVoice #AiLocal #LocalAi

📖 Запуск конвейера перевода литературных книг на 2 моделях:
- Gemma-4-26B-A4B в качестве переводчика
- Qwen3.6-35B-A3B в качестве корректора

Контекст: запускают конвейер, который локально переводит целые художественные книги с английского на русский — фрагмент + глоссарий + скользящие аннотации к главам → перевод → замечания рецензента → исправление → корректура → аннотации к фрагментам. Книга — это ~1,5–2 млн токенов! После года тренировок появилась конфигурация для запуска, которая достаточно быстрая, чтобы не надоедать: 2–3 книги в день.

Подробно: https://www.reddit.com/r/LocalLLaMA/comments/1w54s3q/running_a_2model_literary_booktranslation/
#booktranslation #book #Перевод #LocalAi #AiLocal

⚡️ slotstream - Запускайте Qwen3.8-Flash-Next (125B MoE, 104 ГБ в 4-битном формате) на компьютерах Mac с небольшим объемом оперативной памяти, используя потоковую передачу данных с SSD. MLX + Swift, API, совместимый с Ollama.
На 48GB Mac скорость ~12 tok/s

Запустите Qwen3.8-Flash-Next на Mac, который не справляется с этой задачей. Модель представляет собой смесь экспертов с 125B-параметрами, занимает 104 ГБ на диске в 4-битном формате; слотстрим считывает ее с SSD и запускает в любом объеме памяти, который вы выделите. Это один бинарный файл на Swift, без Python. Он поддерживает API чата Ollama и OpenAI, поэтому ваши существующие инструменты будут работать без изменений.

🔗 https://github.com/carloslfu/slotstream
(Обсуждение)
#slotstream #Qwen38FlashNext #MacOS #AiLocal #LocalAi

🚀 Скорость и кол-во новых моделей - и все только ускоряется! 🚀
(Обсуждение)

🔈 Repodify - Превратите фрагмент подкаста в один короткий дайджест.

Найдите нужный подкаст или вставьте его ссылку, выберите нужные эпизоды, и Repodify создаст один хронологический эпизод, который вы сможете прослушать или скачать. Он работает на вашем компьютере или с вашими собственными API-ключами (BYOK) — выбор за вами на каждом этапе.

Превратите фрагмент подкаста в один адаптированный/дополненный короткий дайджест: поиск/инсталляция RSS, расшифровка, обобщение, написание сценария и, наконец, синтез и создание адаптированного подкаста, при этом все этапы машинного обучения можно выполнять локально (единообразно или смешанно).

• загружает аудио
• расшифровывает его
• при необходимости определяет, кто говорил (& объединяет одного ведущего/гостя из разных выпусков)
• объединяет в одно хронологическое повествование
• пишет сценарий для озвучивания с заданной продолжительностью
• синтезирует новый выпуск, который можно прослушать или скачать

Все это должно работать на вашем компьютере или с вашими собственными API-ключами (BYOK) для каждого этапа и задания. Никаких «загрузок архива в чужое облако». Преобразование речи в текст, диаризация, большие языковые модели и синтез речи — все это можно заменить: локальный графический процессор (faster-whisper, pyannote, Ollama, F5-TTS / Kokoro) или BYOK (OpenRouter / Anthropic / pyannoteAI).
Клонирование голоса доступно по запросу и отключено по умолчанию.

🔗 https://github.com/behradkhodayar/repodify
(Обсуждение)
#Repodify #STT #TTS #AiPodcast #whisper #Kokoro #AiLocal #LocalAi