🚀 DFlash 2 разгоняет большие языковые модели в 3–4 раза

Вышла вторая версия DFlash — библиотеки для спекулятивного декодирования. Первое поколение уже скачали 3,5 млн раз на Hugging Face.

Как это работает: маленькая модель быстро генерирует фрагмент текста, а большая проверяет его за один проход — вместо того чтобы выдавать слова по одному.

💻 На практике Qwen3.8-27B на ноутбуке выдаёт 70 токенов в секунду вместо обычных 15–20. На некоторых моделях ускорение доходит до 4,6 раза, в среднем — в 2,7–3,4 раза.

Результат побайтово идентичен оригиналу: ни одного отличающегося токена, просто быстрее.
🔗 https://inco.ai/blog/dflash2/
🔗 https://z-lab.ai/projects/dflash/
🔗 https://huggingface.co/collections/incoai/dflash-2
(Обсуждение) - от команды atomic.chat
#DFlash2 #DFlash #SGLang #vLLM #llamacpp #Ollama #oMLX #LocalAi #AiLocal

ℹ Модель: Tiel-Coder-35B-A3B
4-битный квант TielCoder объемом 22 ГБ соответствует среднему уровню Opus4.6 в решении реальных задач по программированию, опережая KAT-Coder и Nail по силе и скорости решения задач на множественный выбор.

Qwen3.8-27B — потрясающий, но медленный. Более мощная смесь экспертов 35B-A3B, способная быстро решать реальные проблемы в кодовой базе (даже на ограниченном в ресурсах оборудовании), станет ценным дополнением к набору инструментов. Это самая сильная и стабильная модель 35B-A3B из всех, что я тестировал, как по корректности, так и по скорости. Кроме того, она быстрее всех исправляет ошибки в реальных кодовых базах.
Помимо тонкой настройки Ornith-1.5, TielCoder использует взвешенную по коду имитрикс для динамического квантования и шаблон чата, оптимизированный для эффективного использования токенов и корректного агентного кодирования.

🔗GGUFs: https://huggingface.co/peculiar-ragdoll/Tiel-Coder-35B-A3B-GGUF
🔗MLX: https://huggingface.co/peculiar-ragdoll/Tiel-Coder-35B-A3B-MLX-oQ4e
(Обсуждение)
#TielCoder35BA3B #Qwen3827B #AiModel #ModelAi #LocalAi #AiLocal

🔈 Audiobookify - Программа для чтения EPUB с локальным TTS, работающая на Apple neural Engine

Это программа для чтения электронных книг в формате EPUB, которая также поддерживает локальную офлайн-трансляцию текста в речь, так что она предназначена не только для преобразования текста в речь, но и для обычного чтения.
На данный момент доступны модели Kokoro и Supertonic 3 - обе оптимизированы вручную для iPhone!
Вы можете ознакомиться с предыдущими отзывами о более старой сборке (с тех пор вышло много обновлений) Здесь
Вы можете послушать голос из видео, оно было полностью записано на устройстве (Kokoro, Heart).

Ссылка на тестовый режим: Присоединиться к бета-тестированию
(Обсуждение)
#Audiobookify #TTS #EPUB #Kokoro #iPhone #AiBook #LocalAi #AiLocal

📖 Статья: Лучшее клонирование голоса с помощью ИИ в 2026 году: как клонировать свой голос
https://nexustrade.io/blog/best-ai-voice-cloning-2026-how-to-clone-your-voice-with-ai-20260824
(Best AI Voice Cloning in 2026: How to Clone Your Voice With AI)
(Обсуждение)
#AIVoiceCloning #AIVoice #TTS

💬 LowEndLocalAI - сообщество, посвященное запуску локальных больших языковых моделей на низкопроизводительном оборудовании!
🔗 https://www.reddit.com/r/LowEndLocalAI/
(Обсуждение)
#reddit #LowEndLocalAI #LocalAi #AiLocal

💫 Потрясающе: Qwen3.8-27B появился на Code Arena: WebDev и занял 9-е место в общем зачете с 1595 баллами. Это единственная модель в своем классе, которая вошла в топ-10, а также изменила границу Парето!
Она отстает от гораздо более крупной модели Qwen3.8-Max всего на 6 позиций. Для сравнения: модель Gemma 4-31B, выпущенная в апреле, занимает 80-е место.
🔗 https://x.com/arena/status/2091920512796725272
(Обсуждение)
#Qwen3827B #CodeArena #WebDev #LocalAi #AiLocal

🤖 JetBrains local AI (использует Qwen3.6 27B)
Junie теперь может работать на вашем Mac — без кредитов и облака!

Цитата из блога:
Junie уже некоторое время может подключаться к локальным средам выполнения моделей. Направьте его на Ollama или LM Studio, загрузите локальную модель, и агент будет работать с ней. Многие уже так делают. Но это также означает, что вам придется выбирать модель, настраивать параметры и выполнять множество действий вручную, а небольшие модели могут помочь только с ограниченным набором простых задач.

Поэтому мы сделали все это за вас. Представляем Junie Local: она поставляется с моделью, которую мы выбрали и настроили на основе нашего собственного цикла работы агента, устанавливается с помощью одной команды и полностью работает на вашем компьютере. Никаких токенов, никаких квот, никакой передачи кода за пределы вашего компьютера. И это бесплатно.

Одна команда, без настройки
В Junie выполните команду /local. Модель загрузится, локальный сервер запустится, и Junie переключится на него. Не нужно писать JSON-профиль, устанавливать среду выполнения или указывать конечную точку.
Модель — Qwen3.6-27B, 4-битная, размер загрузки — около 20 ГБ, вам понадобится Mac M5 с 64 ГБ оперативной памяти. Все, что происходит после загрузки, выполняется на вашем устройстве, поэтому ваши запросы, исходные данные и различия остаются на месте.
Ваши существующие настройки сохраняются. Режим планирования, подсказки в реальном времени, рекомендации, навыки и ваши /команды работают так же. Изменился движок, но не агент.

🔗 https://jb.gg/jlblog
🔗 https://blog.jetbrains.com/junie/2026/08/junie-local-launch/
(Обсуждение)
#JetBrains #Junie #JunieLocal #Qwen3827B #MacOS #AiAgent #AgentAi #LocalAi #AiLocal

📊 Сравнение: Qwen-3.8-27B, Nemotron-3.5-Lightning-30B-A3B, Ornith-1.5-35B-A3B, Muse-Glimmer-30B oQ8e
Подробности сравнения смотрите здесь!
Ornith действительно хорош. TielCoder, возможно, даже немного лучше справляется с кодированием.
(Обсуждение)
#benchmark #Сравнение #Ornith #Nemotron35Lightning #MuseGlimmer #coding #LocalAi #AiLocal