این موضوع در کنار روند کلی OpenRouter معنادارتر میشه، چون سهم مدل های آمریکایی از ۷۰ درصد یه سال پیش به حدود ۳۰ درصد رسیده و شرکت های چینی دارن این فضا رو میگیرن.

و نکته خیلی جالبتر اینه که OpenCode اعلام کرده ظرفیت ۱۰۰ تریلیون توکن در روز داره(یعنی صد هزار میلیارد توکن در روز!) و گفته ببینم چی میتونید باهاش بسازید!

لینک صفحه openrouter راجع به مدل جدید:
https://openrouter.ai/stealth/ox-alpha

@ai_src

مدل Qwen3.8-27B چند روز بعد از انتشار تقریبا به ۶ میلیون دانلود رسید! 🔥

این عدد فقط برای نسخه GGUF از Unsloth هست که ظرف چند روز به نزدیک شش میلیون دانلود رسیده!

مشخصه که جامعه open-source واقعا منتظر این مدل بوده، چون واقعا خوب عمل کرده!

ی چند تا نکته رو بگیم که اگه میخواید لوکال اجرا کنید، باید حداقل ۱۶ گیگ vram داشته باشید، و نکته بعد اینکه Unsloth یه طیف کامل از کوانتیزیشن های Dynamic v3.0 ارائه داده که طبق آنالیزشون ۱۰٪ دقت بهتری نسبت به بقیه نسخه های GGUF مثل bartowski و اینا داره.

@ai_src

برای هر حجم VRAM یه گزینه هست: از UD-IQ1_S که ۶ گیگ vram میخواد گرفته تا UD-Q4_K_M که ۱۶ گیگ میخواد...نسخه Q8_0 هم که ناقابل ۲۹ گیگ vram میخواد💔

ساده ترین راه اجرا یا از طریق llam.cpp هست، یا از طریق ollama با دستور
ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M
یا از طریق Unsloth Desktop که نسخه تقریبا جمع و جورش چند روز پیش معرفی شد و قابلیت های بهتری هم داره.

یه نکته جالب هم اینکه Unsloth یه فایل MTP Q4_0 جداگانه برای مدل گذاشته که فقط یک و نیم گیگه و برای speculative decoding در کنار مدل اصلی استفاده میشه، یعنی سرعت generation رو بدون افت کیفیت بالا میبره، و بشدت توصیه میکنیم که از MTP استفاده کنید

🤗  لینکGGUF ها
https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
📖 راهنمای اجرا:
https://unsloth.ai/docs/models/qwen3.8

🦥 Unsloth Dynamic 3.0: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
ی کلام آخر هم داریم که پست بعدی میگیم:

@ai_src

کلام آخر که یکمی هم تحلیلی هست، اینه که این نسخه هوش مصنوعی واسه پول دار ها و سرور دار هاست!
یک کارت گرافیک rtx 2080 با vram هشت گیگی الان حدود ۱۵۰ تومن هست!
و مشخصه که کلا باید قید اینطور مدل ها رو واسه کاربر های عادی، اونم توی ایران، زد!
واسه همین این مدل و امثالهم جزو مدل های رده بالا حساب میشن... سوال پیش میاد که پس چرا از انتشار این مدل اینقدر استقبال شده؟!

جواب اینه که این مدل میشه گفت با این حجمش توی کارهای Agentic و برنامه نویسی با Opus 5 در رقابته! حتی اگه این رقابت غلط هم بوده باشه، این اولین مدلی هست که داره با این حجم، با یک مدل خیلی قوی چند صد میلیاردی مقایسه میشه!

واسه همین، کسانی که سرور داشتند و قابلیت اجرای این مدل رو داشتند، ترجیح میدن به جای استفاده از یک مدل چند صد میلیاردی، از ی مدل ۲۷ میلیاردی استفاده کنند!

خب پس تکلیف کاربران عادی چی میشه؟ که ظرفیت اجرای این مدل رو ندارند؟!

جواب اینه که انتشار این مدل باعث شده که بتونیم این مدل رو روی سرور های گرافیکی و پردازش ابری اجرا کنیم، و ی جورایی api خودمون رو داشته باشیم، که هزینه بسیار کمتری نسبت به خرید api داره!
اما لازم به ذکر هست که این دسته از افراد باید وقت و هزینه اجاره سرور پردازش ابری رو برای اجرای مدل داشته باشند!

و دسته دوم واسه افراد عادی میشه، این که باید منتظر یک مدل عادی تر بود، یک نوع مدلی که حتی در ردیت هم کاربران از نبودش شکایت داشتند، و اون مدل دسته مدل های MoE هستند که ۲۰ تا ۳۰ میلیارد پارامتر و زیر ۴ میلیارد Active دارند، مثل gpt oss 20B که از این دسته بود

خود گروه Qwen هم گفته بودند که قصد دارند یک مدل Midsize معرفی کنند، ولی احتمال اینکه این مدل برای دسکتاپ های متوسط و یا رده پایین باشه کمه، و گفته میشه حتی بیشتر و حجیم تر از 35B-A3B خواهد بود

القصه اینکه درحال پیشرفت هستیم و کم کم اکثر کاربران هوش مصنوعی یکدست میشن، اما با گذر زمان

@ai_src

خب،مدل Ox Alpha همون GLM-5.3-Flash از Z.ai بود که حدس میزدیم:
https://huggingface.co/zai-org/GLM-5.3-Flash

این مدل اولین عضو از خانواده GLM-5 به حساب میاد که می‌تونه از عکس و ورودی های multimodal پشتیبانی کنه،

۳۲۰ میلیارد پارامتر کل، ولی فقط ۱۸ میلیارد پارامتر در هر توکن فعال میشن

@ai_src

خود Z.ai هم تایید کرده که قبل از لانچ، مدل رو به صورت مستعار به عنوان ox-alpha روی OpenCode و OpenRouter عرضه کرده تا feedback جمع کنه...
اما نکته اینه: در این مدت تمام ترافیک روی چیپ های هوش مصنوعی چینی(فکر کنم Huawei) انجام شده! برای اینکه بدونید این کار چرا بزرگه، به این آمار توجه کنید:
۵۰۳ هزار کاربر
۱۳.۱۲ میلیون جلسه از چت ها(session خودمون)
و ۴۴ تریلیون توکن(۴۴ هزار میلیارد توکن!) در طول هفته انجام شده!
این نشون میده که چین توی تراشه های هوش مصنوعی و گرافیکی به اکتفای کامل رسیده

در benchmark های کدنویسی، روی DeepSWE v1.1 امتیاز ۶۳.۴ گرفته در مقابل ۴۶.۲ نسخه قبلی یعنی GLM-5.2، و روی AutomationBench از ۲۶.۲ به ۴۸.۸ رسیده.

این پنجمین stealth drop از OpenRouter بود که گذشت
در این هفته به قدری سرور های Ox alpha مشغول بود که سرور ها اجازه درخواست های بیشتر از ۲۰۰ هزار توکن رو نمیدادند؛ همه کاربران هم از کند بودت سرعت اینفرنس شکایت داشتند که نشون از حجم بالای درخواست ها بوده!

گروه unsloth هم GGUF رو منتشر کرده:
https://huggingface.co/unsloth/GLM-5.3-Flash-GGUF

@ai_src

مثل دفعه قبل، Qwen مدل Next بیرون داده، مدلی که یک جورایی داره واسه کامیونیتی هوش مصنوعی نشون میده که معماری سری مدل های بعدی Qwen، یعنی Qwen4 چطور هست؛ و از طرفی بتونه برنامه نویسان و متخصصان و افراد درون جامعه هوش مصنوعی با معماری مدل های بعدی آشنا بشن.

خب طبیعتا معماریش کاملا متفاوته و قراره پایه Qwen4 باشه:
Qwen3.8-Flash-Next


@ai_src

کل ایده اینه که به جای اینکه فقط پارامترها رو بیشتر کنیم، بیایم معماری رو هوشمندتر طراحی کنیم. مدل در کل ۱۲۵ میلیارد پارامتر داره، ولی در هر توکن فقط ۶ میلیارد پارامتر فعاله، بقیه پارامتر های مدل یا توی MoE (Mixture of Experts) قراردارند که فقط یه بخش کوچیکشون برای هر توکن فعال میشه، یا توی ی بخش جدیدی به نام N-gram Embedding هست که توضیح میدیم.

معماری ۴ تا نوآوری اصلی داره:

۱) Qwen Sparse Attention (QSA):
به جای اینکه attention رو روی توکن های ی دونه ای حساب کنه، روی «micro-block» ها کار میکنه. یعنی وقتی context خیلی بلنده (مثلا یه میلیون توکن!)، به جای اینکه کل متن رو نگاه کنه، به صورت بلوک بلوک پردازش میکنه و latency رو به شدت میاره پایین.

۲) Gated Residual:
توی معماری استاندارد، residual stream ها همه اطلاعات رو یه جور ثابت رد میکنن. اینجا یه دریچه (gate) داریم که بر اساس داده ها تصمیم میگیره چقدر از اطلاعات هر branch رد بشه. نتیجه: مدل عمیق تر میشه بدون اینکه training ناپایدار بشه.

۳) N-gram Embedding:
این قسمت ۵۱ میلیارد پارامتر هست که جدید دیده میشه. ببینید، معمولا embedding ها فقط روی یه توکن منفرد کار میکنن.
اما N-gram Embedding روی جفت ها و سه تایی های توکن ها (bigram/trigram) یه embedding جداگانه میسازه. مدل ۲۰ میلیون N-gram مختلف ذخیره کرده که فقط در لایه ۲ فعال میشن. حالا چرا ۵۱ میلیارد پارامتر؟ چون هر N-gram یه بردار با dimension بزرگ داره و ۲۰ میلیون از اینا کنار هم خیلی حجیم میشه. مزیتش اینه که این پارامترها در حین inference محاسبه نمیشن، بلکه lookup هستن. یعنی فشار محاسباتی پایینه ولی مدل اطلاعات بیشتری از الگو های زبانی داره. فکر کنید یه دیکشنری بزرگ ذخیره کردید که هر عبارت رایج توش معنیش رو داره.

۴) بهینه سازی training:
از دو optimizer مختلف (Muon و AdamW) برای دسته های مختلف وزن ها استفاده میکنه. بدون warmup شروع میکنه و مستقیم با batch size نهایی train میشه.

نتیجه در benchmark ها هم قانع کننده هست. روی SWE-bench Pro امتیاز ۶۲.۵ گرفته که از Claude Opus 4.6 (53.4) و DeepSeek (56.0) بالاتره، در حالی که فقط ۶ میلیارد پارامتر فعال داره!

لینک unsloth و همه توضیحات:
https://huggingface.co/unsloth/Qwen3.8-Flash-Next-GGUF

@ai_src

تقریبا ی ده روزی هست که تقریبا میشه گفت خبر خیلی جدید و دهن پرکنی از مدل ها و چیزای جدید نیست، یا اگر هم هست، رسمی نیست
مثلا چند روز پیش شایعه شده بود که مدل آسترای OpenAI خیلی پیشرفته هست و یا حتی ی خبری غیر رسمی اومده که مدل های داخلی و پیشرفته OpenAI میتونن به صورت عصبی فکرکنند، که یعنی مدل داخلی فکر می‌کنه و سرعتش بیشتر میشه ولی ممکنه نتونید بفهمید به چی داره فکر می‌کنه

و خبری که شاید بنظر تا مربوط بیاد، اینه که Nvidia برای سری کارت های گرافیکی 50، DLSS 5 رو ارائه کرده که باعث میشه رندر بازی ها به صورت خیره کننده ای واقع گرایانه تر باشه!
حالا این چه ربطی به دنیای هوش مصنوعی داره؟!
ربطش اینه که از تقریبا ۱۵۰.۸ مگ DLSS، فقط ۰.۷ مگ مال فایل اجرایی CPU هست، ۰.۲ فقط محتوای قابل خواندن و غیر قابل ویرایش و اجرا، حدود ۱۶.۴ مگ هم برای کرنل و هسته های GPU هست،

شاید بگید خب پس ۱۴۰ مگ بقیه چی هست؟!
جواب اینه که اون ۱۴۰ مگ مدل هوش مصنوعی ای هست که DLSS روی اون آموزش دیده تا بتونه خروجی و رندرینگ رو بهینه تر کنه!
یعنی در واقع داریم از اولین استفاده از هوش مصنوعی و مدل ها در هسته دنیای بازی ها و رندرینگشون رو میبینیم!

از اون طرف در دنیای مدل های لوکال هم چند خبر جالب بود، یکیش اینکه افراد کامیونیتی اومدند Qwen 3.8 Flash Next رو روی گوشی اندرویدی با ۱۲ گیگ رم اجرا کردند، با حدود 2 توکن در ثانیه. سریع نیست، ولی خیلی پیشرفت خوبی هست و نکته اش اینه که اجرا میشه! یعنی با بهینه سازی های مختلف میشه یک مدل رو با تعداد پارامتر زیاد روی گوشی اجرا کرد!
و از اون جالب تر اینه که یه نفر با Qwen 3.8-27b و استفاده از RTX 4090، یه کپی از Minecraft رو vibe-code تولید کرده، کدنویسی، بافت های بازی، صدا سازی و همه رو خود مدل قرار داده... هزینه برق کل پروژه هم گفته کمتر از یه دلار در اومده...

و خیلی وقت پیش هم گفته شد که شرکت Nvidia داره HuggingFace رو مال خودش میکنه و این یعنی تیم llama.cpp که از فوریه ۲۰۲۶ توسط هاگینگ فیس استخدام شده بودن، از جمله Georgi Gerganov که سازنده اصلی هست، عملاً وارد Nvidia میشن. نگرانی اینه که Nvidia سابقه خوبی در open-source نداره و ممکنه لایسنس llama.cpp تغییر کنه یا تیم ریدایرکت بشه. البته هنوز قطعی نیست ولی ریسکشو باید جدی بگیریم.

اگه تصویری چیزی مونده بود در ادامه با توضیحات بیشتر قرار میدیم

@ai_src