ℹМодель: LFM2-24B-A2B
LFM2-24B-A2B — это разреженная модель Mixture-of-Experts (MoE) с 24B общих параметров и 2B активных параметров на токен.

Рекомендуют следующие варианты использования:

- Использование агентного инструментария: вызов встроенных функций, веб-поиск, структурированные выходные данные. Идеально подходит для использования в качестве быстрой внутренней модели в многоэтапных конвейерных процессах с использованием агентов.
- Автономное обобщение документов и ответы на вопросы: полностью автономная работа на потребительском оборудовании для рабочих процессов, требующих соблюдения конфиденциальности (в юридической, медицинской и корпоративной сферах).
- Агент службы поддержки, сохраняющий конфиденциальность данных: локально развертывается в компании и обрабатывает многоэтапные обращения в службу поддержки с доступом к инструментам (поиск в базе данных, создание заявок) без передачи данных за пределы сети.
- Локальные конвейеры RAG: служат основой для генерации в системах с расширенным извлечением данных на одном компьютере без серверов с графическими процессорами.

Поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский (Но и на русском отвечает!)

Попробовать: playground.liquid.ai
Блог: https://www.liquid.ai/blog/lfm2-24b-a2b
🔗 https://huggingface.co/LiquidAI/LFM2-24B-A2B
Документация о том, как запустить или дообучить модель локально: docs.liquid.ai
(Обсуждение)
#LiquidAI #LFM224BA2B #AiModel #ModelAi #LocalAi #AiLocal

ℹМодели ZwZ 4B, 7B, 8B

ZwZ-8B — это высокодетализированная мультимодальная модель восприятия (Vision), созданная на основе Qwen3-VL-8B.

Модель ZwZ-8B демонстрирует высочайшую производительность в тестах на детальное восприятие среди моделей с открытым исходным кодом сопоставимого размера, а также высокую способность к обобщению в задачах визуального восприятия, графического интерфейса и обнаружения AIGC.

Ключевые особенности:
⚡️ Эффективность однопроходного алгоритма: обеспечивает детальное распознавание за один прямой проход, устраняя необходимость в дополнительных вызовах инструментов во время логического вывода
🎯 Превосходная точность: лучшие результаты в тестах на распознавание среди моделей с открытым исходным кодом
📈 Значительные улучшения: улучшены не только результаты в тестах на распознавание, но и обобщение за пределами обучающей выборки в задачах визуального анализа, управления графическим интерфейсом и обнаружения AIGC

ZwZ-4B https://huggingface.co/inclusionAI/ZwZ-4B
ZwZ-7B https://huggingface.co/inclusionAI/ZwZ-7B
ZwZ-8B https://huggingface.co/inclusionAI/ZwZ-8B

#inclusionAI #ZwZ #AiModel #ModelAi #LocalAi #AiLocal

🩺 MedGem — медицинский локальный ассистент на Android.
Работает без Интернет!
Наглядно: https://youtu.be/kvPNyzhBGiU
Описание: https://t.me/Ai2Health/142
📱 Скачать .APK Android
#MedicalAI #OnDeviceAI #MedGemma #AndroidDev #GoogleAI #AiHealthcare #OfflineAI #MedGem #Android #MedAsr #MedAI #AiMed #App

📊 LLM Comprehensive Comparator
Можно сравнить Qwen 3.5 122b / 35b / 27b / 397b
📊 More models like GPT 5.2, GPT OSS, etc
🔗 https://compareqwen35.tiiny.site
(Обсуждение)
#benchmark #LLM #Comparator #AiModel #ModelAi #LocalAi #AiLocal

ℹМодель: Qwen3.5 без цензуры!

Цель — снять цензуру без потерь, не меняя набор данных и не снижая функциональность.

👉 Qwen3.5-2B
🔗 https://huggingface.co/HauhauCS/Qwen3.5-2B-Uncensored-HauhauCS-Aggressive
Кванты: Q4_K_M (1,2 ГБ), Q6_K (1,5 ГБ), Q8_0 (1,9 ГБ), BF16 (3,6 ГБ)

👉 Qwen3.5-4B
🔗 https://huggingface.co/HauhauCS/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive
Доступные значения: Q4_K_M (2,6 ГБ), Q6_K (3,3 ГБ), Q8_0 (4,2 ГБ), BF16 (7,9 ГБ)
(Обсуждение)

Краткие характеристики:
Для 4 млрд плотных параметров, 32 слоя, гибридное линейное внимание Gated DeltaNet + полный софтмакс (соотношение 3:1), 262 тыс. собственных контекстов. Изначально мультимодальная модель (текст, изображение, видео). Эта модель на удивление функциональна для своего размера.

Это агрессивный вариант — 0/465 отказов при тестировании. Полная версия без цензуры с сохранением всех возможностей.

Модель ответит на все, хотя иногда в конце ответа добавляет небольшое примечание (похоже, это заложено в базовую модель обучения и не является отказом от ответа).

Настройки выборки от авторов Qwen:
- Режим мышления: --темп 0,6 -- top-p 0,95 -- top-k 20
- Отсутствие мышления: --темп 0,7 --top-p 0,8 --top-k 20

Примечание: Это совершенно новая архитектура (выпущена сегодня). Убедитесь, что у вас установлена последняя версия llama.cpp. Работает с llama.cpp, LM Studio, Jan, koboldcpp и т. д.

👉 Qwen3.5-9B:
🔗 https://huggingface.co/HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive
Доступны: Q4_K_M (5,3 ГБ), Q6_K (6,9 ГБ), Q8_0 (8,9 ГБ), BF16 (17 ГБ)
Настройки выборки от авторов Qwen:
- Режим мышления: --temp 0.6 --top-p 0.95 --top-k 20
- Отсутствие мышления: --temp 0.7 --top-p 0.8 --top-k 20
(Обсуждение) (Подробная статья про нее)
🔗 https://huggingface.co/crownelius/Crow-9B-Opus-4.6-Distill-Heretic_Qwen3.5

👉 Qwen3.5-27B
🔗 https://huggingface.co/HauhauCS/Qwen3.5-27B-Uncensored-HauhauCS-Aggressive
Кванты: IQ2_M (8,8 ГБ), IQ3_M (12 ГБ), Q3_K_M (13 ГБ), IQ4_XS (14 ГБ), Q4_K_M (16 ГБ), Q5_K_M (19 ГБ), Q6_K (21 ГБ), Q8_0 (27 ГБ), BF16 (51 ГБ)
Сэмплирование (из Qwen):
- С учетом мышления: --temp 0.6 --top-p 0.95 --top-k 20
- Без учета мышления: --temp 0.7 --top-p 0.8 --top-k 20
(Обсуждение)
🔗 https://huggingface.co/mradermacher/Qwen-3.5-27B-Derestricted-GGUF (Обсуждение)
🔗 https://huggingface.co/huihui-ai/Huihui-Qwen3.5-27B-abliterated

👉 Qwen3.5-35B-A3B
🔗 https://huggingface.co/HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive (Обсуждение)
(temp=1.0, top_k=20, repeat_penalty=1, presence_penalty=1.5, top_p=0.95, min_p= 0)

👉 Qwen3.5-122B-A10B
🔗 https://huggingface.co/HauhauCS/Qwen3.5-122B-A10B-Uncensored-HauhauCS-Aggressive (Обсуждение)

💡Все релизы: https://huggingface.co/HauhauCS/models/

🇨🇳 Еще Huihui-Qwen3.5-35B-A3B — модель без цензуры!
Команда huihui-ai убрала все ограничения из Qwen 3.5. Модель отвечает на любые запросы без стоп-слов и фильтров — выдаёт инструкции, рецепты и контент, который обычно блокируется.
🔗 https://huggingface.co/huihui-ai/Huihui-Qwen3.5-35B-A3B-abliterated

👉 Qwen3.5-122B-A10B
🔗 https://huggingface.co/trohrbaugh/Qwen3.5-122B-A10B-heretic

#Qwen35 #AiModel #ModelAi #LocalAi #AiLocal #Uncensored #heretic #abliterated #Derestricted

ℹМодель: Qwen3.5-9B abliterated + зрение

0% отказов, в то время как в «еретической» версии отказы случаются в 46% случаев.

🔗 https://huggingface.co/lukey03/Qwen3.5-9B-abliterated
Добавьте /no_think для более быстрого ответа.

Еще: https://huggingface.co/HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive
Доступны: Q4_K_M (5,3 ГБ), Q6_K (6,9 ГБ), Q8_0 (8,9 ГБ), BF16 (17 ГБ)
Настройки выборки от авторов Qwen:
- Режим мышления: --temp 0.6 --top-p 0.95 --top-k 20
- Отсутствие мышления: --temp 0.7 --top-p 0.8 --top-k 20
(Обсуждение)

Еще есть такая: https://huggingface.co/llmfan46/Qwen3.5-9B-ultimate-irrefusable-heretic
(Обсуждение)

И такая: https://huggingface.co/LuffyTheFox/Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF (Q4_K_M=5.63 GB и Q8_0=9.53 GB)
Теперь у нас есть отфильтрованная версия Qwen 3.5 9B, настроенная на логику мышления Claude Opus 4.6.
(Обсуждение)
#Qwen35 #AiModel #ModelAi #LocalAi #AiLocal #Uncensored #abliterated

🤖 Sir Thaddeus (Сэр Таддеус)
Локальный помощник на основе ИИ для Windows, ориентированный на конфиденциальность и соблюдение прав пользователей.

Сэр Таддеус — это локальный ИИ-помощник для Windows, созданный для тех, кому нужен полезный ИИ, но при этом они хотят сохранять контроль над процессом. Он подключается к локальным языковым моделям (например, LM Studio), использует доступ к инструментам на основе разрешений и позволяет оператору следить за выполнением задач.

По умолчанию без телеметрии. Без автономной работы в фоновом режиме. Без скрытых действий.
Если приложение работает, вы это видите. Если вы нажмете СТОП, оно остановится.

🔗https://github.com/raydeStar/sir-thaddeus
Скачать 710 Мб.
(Подробно и Обсуждение)
#Windows #SirThaddeus #AiLocal #LocalAi

ℹМодели Qwen3.5: 0.8B, 2B, 4B, 9B

Ранее были БОЛЬШИЕ.

Qwen3.5-0.8B и 2B: Две модели, оптимизированные для «минимальной» и «быстрой» производительности, предназначены для создания прототипов и развертывания на периферийных устройствах, где время автономной работы имеет первостепенное значение.

Qwen3.5-0.8B (Локально в Chrome) #WebGPU (Обсуждение)
И еще такое Демо (Обсуждение)

Qwen3.5-4B https://huggingface.co/Qwen/Qwen3.5-4B
Надежная мультимодальная база для легковесных агентов, изначально поддерживающая контекстное окно из 262 144 токенов.
(Обсуждение) (Обсуждение-2)

Qwen3.5-9B https://huggingface.co/unsloth/Qwen3.5-9B-GGUF
Qwen3.5-9B — компактная модель логического вывода, которая превосходит в 13,5 раз более крупную американскую модель OpenAI gpt-oss-120B по ключевым сторонним показателям, включая многоязычные знания и логические рассуждения на уровне выпускника вуза. (Читаем статью)
(Обсуждение)

📊 Визуализация сравнения Qwen 3.5 и Qwen 3
Qwen3.5 9B and 4B benchmarks

#Qwen35 #AiModel #ModelAi #LocalAi #AiLocal

🔈 QwenVoice - Нативное приложение для macOS для Qwen3-TTS — клонирование голоса, управление эмоциями и создание голоса, 100 % автономная работа на Apple Silicon

Клонируйте любой голос на основе короткого аудиофайла длительностью 5–10 секунд (WAV, MP3, AIFF, M4A, FLAC или OGG). Для повышения точности можно предоставить расшифровку эталонного аудиофайла.

Приложение клонирует голос на основе аудиозаписей, имеет 9 предустановленных эмоций с 3 уровнями интенсивности, позволяет создавать голос на основе текстовых описаний и сохраняет историю генерации локально. Работает полностью в автономном режиме на Apple Silicon через MLX.
Модели:
- Custom Voice 1.7B (8-bit) https://huggingface.co/mlx-community/Qwen3-TTS-12Hz-1.7B-CustomVoice-8bit
- Voice Design 1.7B (8-bit) https://huggingface.co/mlx-community/Qwen3-TTS-12Hz-1.7B-VoiceDesign-8bit
- Voice Cloning 1.7B (8-bit) https://huggingface.co/mlx-community/Qwen3-TTS-12Hz-1.7B-Base-8bit

🔗 https://github.com/PowerBeef/QwenVoice
Скачать DMG MacOS
(Обсуждение)

Похожее для #Windows
🔈 Qwen-TTS Studio - для использования Qwen3-TTS с пользовательским интерфейсом.
🔗 https://github.com/Danmoreng/qwen-tts-studio
(Обсуждение)
#QwenVoice #QwenTTS #macOS #Qwen3TTS #TTS #AiLocal #LocalAi

📱 Qwen 3.5 идеальна для смартфонов!

Для ChatterUI https://t.me/Ai2Local/26 (Обсуждение)
Для MNN Chat https://t.me/Ai2Local/264
Для Off Grid https://t.me/Ai2Local/259
Для PocketPal
Для всех 12 на Android: https://t.me/Ai2Local/22
Для всех 9 для iOS https://t.me/Ai2Local/21

Еще видео с примером работы Vision!
🔍 Распознавание рукописного текста Qwen3.5-4B действительно хорошее!
#Qwen35 #App #Android #iPhone #AiLocal #LocalAi

ℹ Модель: Jan-Code-4B: небольшая модель Jan-v3, настроенная на распознавание кода

Jan-code-4B, небольшая модель, обученная на коде и созданная на основе Jan-v3-4B-base-instruct.

Это небольшой эксперимент, направленный на улучшение повседневной помощи в написании кода, включая генерацию кода, редактирование/рефакторинг, базовую отладку и написание тестов. При этом он достаточно легкий, чтобы его можно было запускать локально. Предназначен для замены модели Haiku в Claude Code.

В тестах на кодирование он показывает небольшое улучшение по сравнению с базовым вариантом и в целом более надежен при выполнении запросов, связанных с кодированием, при таком размере.

Как его запустить:
Скачайте Jan Desktop: https://www.jan.ai/, а затем загрузите Jan-code через Jan Hub.

Клод Код (через Jan Desktop)
С помощью Jan можно легко подключить Claude Code к любой модели, просто заменив модель Haiku на → Jan-code-4B.

Ссылки на модели:
Jan-code: https://huggingface.co/janhq/Jan-code-4b
Jan-code-gguf: https://huggingface.co/janhq/Jan-code-4b-gguf

Рекомендуемые параметры:
температура: 0,7
верхний предел: 0,8
верхний порог: 20
(Обсуждение)

Про Jan https://t.me/Ai2Local/10 и https://t.me/Ai2Local/11
ℹ Jan-v2-VL-Max: https://t.me/Ai2Local/55
ℹ Модель: Jan v3 Instruct: https://t.me/Ai2Local/149
#JanCode4B #LocalAi #Jan #JanAi #App #Windows #MacOS #AiLocal  #AiModel #ModelAi