خب مدل Kimi K3 هم منتشر شد
این مدل که دارای ۲.۸ تریلیون(دو هزار و هشتصد میلیارد) پارامتر هست، دارای ۱۰۴ میلیارد پارامتر فعال هست و یک MoE محسوب میشه
جالبه بدونید در وزن Q8 این مدل حدود ۲.۸ ترابایت فضا اشغال می‌کنه(دقیق بخوایم بگیم میشه ۲۸۰۰/۱۰۲۴=۲.۷۳ ترابایت) و اگه Bonsai بخواد این مدل رو به 1bit ببره میشه حدود ۳۵۰ گیگ، با حدود ۱۳ گیگ پارامتر فعال که باید در حافظه یکپارچه لود بشن.
دلیل اینکه روی هاگینگ فیس در حجم ۱.۵ ترابایت و در حدود ۹۵ فایل ۱۶.۸ گیگی داره ارائه میشه واسه اینه که دارند نسخه ۴ بیتی/۸بیتی زیر روز ارئه میدن:

MXFP4 weights / MXFP8 activations

که کاملا طبیعیه، کی ۳ ترابایت مدل 8 بیتی رو دانلود می‌کنه! چه برسه به ۱۶ بیت که میشه ۶ ترابایت!

همونطور که گفتیم این مدل ۲.۸ تریلیون پارامتر داشت که اگه تقسیم بر ۸۹۶ expert داخلی بکنیم، میشه *تقریبا* هر اکسپرت ۳.۱۲۵ میلیون پارامتر و در کل ۱۰۴ میلیارد پارامتر فعال(لازم به ذکره این ۱۰۴ میلیارد و ۲.۸ تریلیون پارامتر، همه لزوما اکسپرت ها نیستن!)

خلاصه که، گنده تر از این نیستش


@ai_src

نکته جالب اینه که V4-Flash-0731 روی خیلی از این benchmark ها از V4-Pro-Preview هم جلوتره، در حالی که یه مدل Flash هست، نه Pro!
البته Opus-4.8 روی اکثر معیارها همچنان بالاتره، ولی مقایسه یه Flash model با Opus جای سوال داره چون تارگت و قیمتشون کاملاً متفاوته(قیمت Flash در مقابل Opus مثل یک به هفت هست!)

یه نگاه به Artificial Analysis هم نشون میده که V4-Flash-0731 روی Intelligence Index امتیاز 50 گرفته، که تقریباً هم سطح با Gemini 3.6 Flash و GLM-5.2 هست. این نشون میده که DeepSeek داره یه مدل Flash واقعاً خوبی ارائه میده، نه فقط یه نسخه ارزون بی‌کیفیت که فقط بلد باشه حرف بزنه...

ضمناً نیتیو از Responses API و Codex هم ساپورت میکنه. به گفته DeepSeek، آپدیت V4-Pro هم به زودی میاد.

در هاگینگ فیس هم unsloth وزن هاش رو منتشر کرده، و در کل باید بدونید این عددهایی که می‌ذارن آخر مدل های جدیدی که میاد، یعنی در اون تاریخ آپدیت شدند:

Deepseek V4 Flash 0731
یعنی در ۳۱ ام ماه ۷ ام(جولای) آپدیت شده.

در کل اینکه قراره جهش های تقریبا خوبی رو در بین مدل ها تا یک سال آینده شاهد باشیم، جهش های خیلی جدی(و امیدوارم این رو به پای هایپ و جو گیر بودن نذارید)

@ai_src

وزن های هر دو مدل قراره هفته آینده منتشر بشه که اگه Alibaba به قولش عمل کنه، اولین باره که یه مدل Max tier از Qwen به صورت open-weight میاد بیرون( فکر کنم از روی Kimi K3 کپی رفتند)

بنچمارک هاشون هم نشون میده که تو 7 دسته از Fable 5 و GPT-5.6 Sol جلوتره، هرچند اینا اعداد vendor-run هستن و هنوز تایید مستقل توسط کامیونیتی نشدن.

وبلاگش رو میتونید بخونید:
https://qwen.ai/blog?id=qwen3.8

@ai_src

اگه از full precision weights استفاده کنید (که همین فیلم بالا دو مرد سر میز نشستن با دقت کامل تولید شده) کیفیت بالاتر هست.

صفحه رسمی مدل در هاگینگ فیس: https://huggingface.co/MiniMaxAI/MiniMax-H3

@ai_src

یه PR به llama.cpp زده شده و merge شده که پشتیبانی از Qwen3-TTS با voice cloning رو اضافه می‌کنه.

کاری که این مدل میکنه اینه که یه فایل صوتی مرجع (WAV یا MP3) برمیدارید،اون رو بهش میدید، و متن دلخواهتون رو با همون صدا تولید میکنه(اگه صدای کلون هم نمیخواید میتونید از نسخه مدل معمولی استفاده کنید).
مدل پایه‌ اش Qwen3-TTS-12Hz-1.7B هست که به GGUF تبدیل شده و خیلی سبک هست.
ده تا زبان پشتیبانی می‌کنه که فارسی متأسفانه توش نیست، ولی انگلیسی، چینی، آلمانی، ایتالیایی، اسپانیایی، فرانسوی، پرتغالی، روسی، ژاپنی و کره‌ای هستن.

با یه دستور ساده میتونید استفاده کنید:

llama-tts -hf ggml-org/Qwen3-TTS-12Hz-1.7B-Base-GGUF \
-p "Hello world" \
--tts-lang en \
--tts-speaker-file speaker.mp3 \
--output out.wav

اگه واستون سوال شده که llama.cpp فقط واسه مدل های متنی بود، در اشتباهید؛ چون این ریپوی llama.cp واسه هرچیزی که به GGUF باشه می‌تونه پشتیبانی کنه، چون پشت صحنه ggml داره کار میکنه و کدهای اینفرنس GGUF بین مدل های GGUF مشترک هستند


لینک به PR :
https://github.com/ggml-org/llama.cpp/pull/26254

@ai_src

میدونستید مدل DeepSeek V4 Flash قابلیت دیدن تصویر رو نداشت، ولی الان داره؟!
درست خوندید، توی نسخه اصلی DeepSeek V4 Flash نمیتونه تصویر ورودی بگیره و ببینه، ولی با این نسخه میتونه!

تیم webbrain-one یه ورژن جدید از DeepSeek V4 Flash رو روی HuggingFace منتشر کرده که قابلیت دیدن تصویر بهش اضافه شده. قبلاً این مدل فقط text میفهمید(همه api ها همه فقط متن می‌فهمیدند!)، ولی الان میتونید عکس، screenshot، layout و محیط های بصری رو بهش بدید و باهاش کار کنید.

دلیل اصلی این آپدیت هم browser agent ها هستند، چون agent هایی که قراره توی مرورگر کار کنند حتماً باید بتونند صفحه رو ببینند نه اینکه فقط متنش رو بخونند. طبق گفته تیم، بنچمارک های داخلیشون نشون میده این مدل از نظر price-performance نسبت به مدل های مشابه برتری داره.

مدل روی HuggingFace در دسترسه و تیم منتشرکننده فیدبک، نتایج بنچمارک و گزارش های دیپلوی رو به طور عمومی قبول میکنه.

صفحه مدل:
https://huggingface.co/webbrain-one/DeepSeek-V4-Flash-Vision-NVFP4
@ai_src

یه ادعای گنده داریم:
مدل Mach-1 Additive از Syzygy Research، یه مدل 35 میلیارد پارامتری که ادعاش اینه میتونه inference بده بدون اینکه حتی یه بار ضرب روی وزن ها انجام بده!

اسمش "Additive" از نوع کوانتیزیشنی میاد که استفاده کرده.
توی کوانتیزیشن معمولی وقتی وزن ها رو به 4-bit یا 8-bit فشرده میکنید، موقع inference باز باید dequantize بشه و ضرب float انجام بشه، ولی وقتی به 1 یا 2 بیت میرسید، میشه وزن ها رو به صورت مقادیری مثل {-1, 0, +1} نمایش داد که دیگه ضرب معنی نداره، چون هر عملیات تبدیل میشه به جمع، تفریق، یا هیچی.
این Mach-1 با 1.7 بیت به ازای هر وزن، از این تکنیک استفاده کرده و بیس مدلش هم Qwen 3.6 35B بوده.نتیجه؟

یه مدل 7 گیگابایتی که روی لپ تاپ های معمولی با سرعت 120 توکن در ثانیه اجرا میشه؛ در مقایسه با بونسای 27B از PrismML (که ترناری بود) و Gemma 4 Q2_K_XL از Unsloth،مدل Mach-1 رو 12 بنچمارک مختلف از ریاضیات تا کدنویسی و agentic tasks، به طور میانگین 95% از مدل اصلی که تمام دقت بود رو نگه داشته.

@ai_src

یه نکته جالب دیگه هم اینه که میگن این فشرده سازی با کمتر از 15 ساعت GPU time انجام شده، که نسبت به رویکرد هایی مثل BitNet که از اول نیاز به آموزش دارن، خیلی سریع تره.


ولی یه نکته مهم: الان صفحه HuggingFace مدل تقریبا خالیه، هیچ کد inference ای، وزن های قابل دانلود جدی، یا paper ای منتشر نشده، به جز یک توییت. بنچمارک ها فقط روی صفحه HF هستن و روش اجرای مدل مستقل هنوز مشخص نیست. یعنی فعلا این بیشتر یه announcement هستش تا یه release کامل قابل بررسی. تا وقتی paper و کد inference نیاد، اعتبار بنچمارک ها رو نمیشه مستقل تایید کرد.

منابع (تنها موارد در دسترس):
پست X: https://x.com/syzygyeng/status/2084350792841195992

صفحه HuggingFace  https://huggingface.co/SyzygyResearch/Mach-1-Additive-35B

@ai_src

مثل اینکه تمومی نداره...

اومدم برم پی کارم، دیدم دوباره ی شرکت دیگه همین مسخره بازی رو داره درمیاره 😂

شرکت DeepGrove که چند وقت پیش Bonsai رو معرفی کرد، اینبار Maple-Preview رو داده بیرون. یه مدل reasoning ترناری 20 میلیارد پارامتری که فقط 5.3 گیگابایت حجم دارع و روی Mac mini M4 با سرعت 218 توکن در ثانیه اجرا میشه، و طبق چیزی که ادعا میکنند، 5 تا 16 برابر سریع تر از مدل هایی مثل Gemma 4 یا Qwen3.5 هست...


معماریش یه MoE با 256 expert هستش که از هر لایه فقط 8 تاشون فعاله، یعنی از 20 میلیارد پارامتر کلی، موقع inference فقط 1.5 میلیاردش کار میکنه.


@ai_src

بنچمارک هاش هم از این قراره:
روی AIME 2026 امتیاز 87.5 گرفته و روی مسائل IMO سطح 2024 هم 7 از 7 زده(منم سوپرمنم)، و این همه روی یه MacBook Pro M5 با سرعت 281 توکن در ثانیه.

یه چیزی که خیلی جالبه و خودم هم قبلا بهش فکر کرده بودم اینه که Maple از اول با precision پایین train شده، نه اینکه بعدا کوانتیز شده باشه. فلسفه DeepGrove اینه که وقتی مدل رو از اول ترناری train کنید، نه تنها کارایی بهتره، بلکه اصلا محدودیت های کوانتیزیشن post-training رو ندارید. چون همون‌طور که بالا گفتیم، توی ultra-low bitwidth ضرب ماتریسی عملا تبدیل میشه به جمع و تفریق که هم سریع تره هم انرژی کمتری میخواد

فیلم های علمی تخیلی دیدید؟ این کاری که پایین انجام میده از همون دسته هاست:

یه خاصیت جالب دیگه هم که نشون دادن on-device adaptation هستش یا همون به قول خودشون "dreaming" یا فارسی بگیم، خواب دیدن:
مدل میتونه شب موقعی که گوشی/لپ تاپ بیکار هستش، روی داده های کوچیکی که خودش generate کرده fine-tune بشه و preference های شما رو یاد بگیره.

مثلا این تهش‌عه: توی دمو نشون دادن که بعد از اینکه کاربر یه بار اشاره کرده گیاهخوار هستش، مدل موقع شب این رو یاد گرفته و روز بعد موقع پیشنهاد کیف، به جای چرم طبیعی کیف های synthetic پیشنهاد داده...

این dreaming الان 10 تا 20 دقیقه طول میکشه با peak memory 5.9 گیگابایت.

البته خود تیم تاکید کردن این یه preview هستش، post-training اش برای agentic tasks محدوده و reinforcement learning ش هم در مقیاس خیلی کوچیک بوده. وزن ها open هستن با MIT license.

میتونید خودتون سایت مقاله رو ببینید، نمونه inference هم از اجرا روی گوشی گذاشتن: https://deepgrove.ai/maple-preview

@ai_src

توی این ی هفته که پست نذاشتیم اتفاقات زیادی افتاد؛ من جمله:

مدل Qwen3.8 منتشر شده
علی‌بابا روز ۱۳ اوت مدل Qwen3.8-Max رو ریلیز کرد، یه MoE حجیم با ۲.۴ تریلیون پارامتر کل که فقط ۹۵ میلیارد پارامترش به ازای هر توکن فعال میشه. کانتکستش ۱ میلیون توکنه، ورودی متن و ویدیو داره، و قیمتش ۲ دلار ورودی و ۶ دلار خروجی به ازای هر میلیون توکنه که خیلی ارزون‌تر از رقباش هست. علی‌بابا هم ادعا میکنه بعد از Claude Fable 5 قوی‌ترین مدل موجوده.

ولی شاید جذاب‌ترین بخش ماجرا دوباره اینه که Unsloth دست به کار شده و این مدل ۲.۴ تریلیونی رو با کوانتیزیشن Dynamic 1-bit XXXS میشه فقط با ۳۹۷ گیگ RAM اجرا کرد؛ در حالیکه نسخه کامل BF16 ش ۴.۹ ترابایت میخواد.

یه فرمت جدید به اسم UD-IQ1_XXXS طراحی کردن که تا ۱.۱۸۷۵ bpw پایین میاد و طبق تست‌هاشون برای مدل‌های بزرگ هنوز کیفیت قابل قبولی داره.

یه نکته مهم: مدل 27B که قرار بود این هفته بیاد، هنوز روی HuggingFace نیومده و گفتند که روز جمعه شاید منتشر بشه.

🤗 HuggingFace: https://huggingface.co/Qwen
🦥 Unsloth GGUF: https://huggingface.co/unsloth/Qwen3.8-2.4T-A95B-GGUF

@ai_src

تا الان ما باید unsloth studio رو به صورت دستی با هزارتا پیش نیاز نصب میکردیم، ولی همین یکی دو روز پیش Unsloth Desktop اومد که فکر کنم استفاده از unsloth studio رو راحت تر میکنه...

روز دوشنبه Unsloth اولین اپ دسکتاپی که هم اجرا و هم fine-tune کردن مدل رو لوکال انجام میده معرفی کرد. قبلاً هر چیزی که به training مربوط میشد یعنی CUDA و notebook های کپی‌شده از جاهای مختلف رو باید دستی توی یه محیط نصب می‌کردید؛ Unsloth Desktop این همه رو میذاره توی یه اپ ساده.

اپ کاملاً open-source و رایگانه و روی مک، ویندوز و لینوکس کار میکنه. از MLX، GGUF، مدل‌های دیفیوژن تصویر و ویدیو پشتیبانی میکنه. میشه Claude Code و Codex رو بهش وصل کرد تا از LLM های لوکال استفاده کنن. ترین مدل با سرعت دو برابر و ۷۰٪ کمتر VRAM انجام میشه(عین unsloth studio) ؛ قابلیت web search و RAG آفلاین داره. یه تونل Cloudflare هم هست که مدل لوکال رو از هر جایی قابل دسترس میکنه. هیچ telemetry یا جمع‌آوری داده‌ای هم نداره.


@ai_src