❓ Стоит ли переходить с Qwen 3.5 на Gemma 4?
Сравнили Qwen 3.5-27B и Gemma 4-31B и похожие модели с MoE
Читаем! Ну и в комментариях пишут свои впечатления...
#Gemma4 #Gemma #Qwen35 #Qwen #AiModel #MidelAi #LocalAi #AiLocal

ℹМодель: CoPaw-Flash-9B

Официальная агентская доработка Qwen3.5 9b от Alibaba!

CoPaw-Flash — это облегченная модель, оптимизированная для сценария автономного агента CoPaw. С момента обучения модель была специально доработана для выполнения задач CoPaw, что позволило повысить эффективность работы агента при вызове инструментов, выполнении команд, управлении памятью и многоэтапном планировании.
CoPaw-Flash-2B/4B/9B создан на основе Qwen3.5-2B/4B/9B и имеет те же архитектурные параметры.

🔗 https://huggingface.co/agentscope-ai/CoPaw-Flash-9B
(Обсуждение)
#CoPawFlash9B #CoPawFlash #CoPaw #Qwen35 #AiModel #ModelAi #LocalAi #AiLocal

🦞 AtomicBot.ai - OpenClaw в один клик — и ваш ИИ-помощник готов к работе 24/7

Приложение для OpenClaw с локальными моделями, которое запускается в один клик. Оно включает в себя кэширование TurboQuant, большое контекстное окно и удобный вызов инструментов. Работает на устройствах среднего класса. Бесплатное приложение для #MacOS и #Windows с открытым исходным кодом.

Самой сложной задачей было обеспечить работу локальной агентной модели на устройствах со средними характеристиками, таких как Mac Mini или MacBook Air. На этих устройствах хорошо работают небольшие модели, но для агентов требуются более сложные модели, такие как QWEN или GLM. OpenClaw добавляет большой контекст к каждому запросу, из-за чего MacBook Air испытывал трудности с обработкой данных. Это стало возможным благодаря сжатию кэша TurboQuant даже при 16 ГБ памяти.

Разработчики нашли реализацию TurboQuant на llama.cpp, созданную Томом Терни. Однако во многих случаях она некорректно работала с агентским вызовом инструментов в QWEN, поэтому им пришлось ее доработать. Но даже после этого модель запускалась с трудом. Они решили реализовать кэширование контекста OpenClaw — своего рода процесс «прогрева». После запуска модели требуется несколько минут, но после этого запросы обрабатываются без проблем даже на MacBook Air.

Недавно компания Google анонсировала новую модель логического вывода Gemma 4. Им было интересно сравнить ее с QWEN 3.5 на стандартном компьютере M4. Честно говоря, мы они обнаружили существенной разницы. Скорость обработки данных примерно одинаковая, но QWEN немного быстрее. Обе модели выдают около 10–15 выводов в секунду, и их производительность вполне сопоставима.

Итоговый вывод: агенты теперь готовы к локальному запуску на обычных устройствах. Ответы по-прежнему приходят в 2–3 раза медленнее, чем от мощных облачных моделей, а в рассуждениях агенты пока не могут сравниться с моделями Anthropic, особенно при выполнении сложных задач или написании кода. Однако для повседневных задач, особенно для фоновых процессов, где скорость не критична, они вполне подходят. На Mac Mini стоимостью 600 долларов вы получаете локального агента, который работает круглосуточно и может окупиться за несколько месяцев.

🔗 https://atomicbot.ai
Настройка OpenClaw + локальных моделей. Gemma 4, QWEN 3.5
🔗 https://github.com/AtomicBot-ai/atomicbot
Реализация Llama на C++ с использованием TurboQuant и корректного вызова инструментов:
🔗 https://github.com/AtomicBot-ai/atomic-llama-cpp-turboquant
(Обсуждение)
От авторов atomic.chat https://t.me/Ai2Local/482 - клона #Jan
#OpenClaw #TurboQuant #Gemma4 #atomicbotAi #atomicbot #AiAgent #AgentAi #LocalAi #AiLocal