آخرین مدل هم که میگیم اینه و تمام:
شرکت Meta Superintelligence Labs(فیسبوک خودمون!) مدل Muse Glimmer 30B رو با لایسنس Apache 2.0 منتشر کرده،
که یه مدل ۳۰ میلیارد پارامتری که distill شده از Muse Spark بزرگتره و طراحیش اینه که روی یه GPU که به قول خودشون _عادی_ هست ، ۲۴ گیگی، لوکال کار کنه...
برای کسایی که Qwen3.6-27B رو تونستند اجراش کنند، این رو هم میتونن و یا جورایی رقیب هم حساب میشن.
بنچمارک‌هاش توی کار های agentic واقعاً چشمگیره: AIME 2026 رو با ۹۴.۷٪ حل میکنه، روی MCP Atlas امتیاز ۷۵.۵ میگیره (در مقابل ۶۲.۵ از Qwen3.6-27B)، و SWE-Bench Pro هم ۵۱.۲ گرفته.
یه DFlash block-diffusion drafter)(فکر کنم همون که دیپ سیک معرفی کرد) هم داره که بدون کاهش کیفیت، سرعت generation رو خیلی بالا میبره. ولی صادقانه بگیم توی OSWorld-Verified و TerminalBench از Qwen3.6-27B عقب تر هست.
@ai_src
شرکت Meta Superintelligence Labs(فیسبوک خودمون!) مدل Muse Glimmer 30B رو با لایسنس Apache 2.0 منتشر کرده،
که یه مدل ۳۰ میلیارد پارامتری که distill شده از Muse Spark بزرگتره و طراحیش اینه که روی یه GPU که به قول خودشون _عادی_ هست ، ۲۴ گیگی، لوکال کار کنه...
برای کسایی که Qwen3.6-27B رو تونستند اجراش کنند، این رو هم میتونن و یا جورایی رقیب هم حساب میشن.
بنچمارک‌هاش توی کار های agentic واقعاً چشمگیره: AIME 2026 رو با ۹۴.۷٪ حل میکنه، روی MCP Atlas امتیاز ۷۵.۵ میگیره (در مقابل ۶۲.۵ از Qwen3.6-27B)، و SWE-Bench Pro هم ۵۱.۲ گرفته.
یه DFlash block-diffusion drafter)(فکر کنم همون که دیپ سیک معرفی کرد) هم داره که بدون کاهش کیفیت، سرعت generation رو خیلی بالا میبره. ولی صادقانه بگیم توی OSWorld-Verified و TerminalBench از Qwen3.6-27B عقب تر هست.
@ai_src
🤔2❤1
Ai Resource
آخرین مدل هم که میگیم اینه و تمام: شرکت Meta Superintelligence Labs(فیسبوک خودمون!) مدل Muse Glimmer 30B رو با لایسنس Apache 2.0 منتشر کرده، که یه مدل ۳۰ میلیارد پارامتری که distill شده از Muse Spark بزرگتره و طراحیش اینه که روی یه GPU که به قول خودشون _عادی_…
کاربرا روی r/LocalLLaMA میگن reasoning اش شبیه Grok 4.5 کار میکنه و quantize شدنش خیلی بهتر از Qwen و Gemma عمل میکنه.
البته تا وقتی Qwen3.8-27B نیومده، میتونید تستش کنید
یکی از دلایلی که این مدل های متنی این هفته اومدند، اینه که Qwen با Qwen3.8 27B قراره کارهای بزرگی بکنه و اسمش دوباره سر زبون ها بیافته، درحالیکه این مدل ها بازم ازش عقب تر هستند!
🤗 هاگینگ فیس مدل: https://huggingface.co/meta-models/Muse-Glimmer-30B-assistant
@ai_src
البته تا وقتی Qwen3.8-27B نیومده، میتونید تستش کنید
یکی از دلایلی که این مدل های متنی این هفته اومدند، اینه که Qwen با Qwen3.8 27B قراره کارهای بزرگی بکنه و اسمش دوباره سر زبون ها بیافته، درحالیکه این مدل ها بازم ازش عقب تر هستند!
🤗 هاگینگ فیس مدل: https://huggingface.co/meta-models/Muse-Glimmer-30B-assistant
@ai_src
huggingface.co
meta-models/Muse-Glimmer-30B-assistant · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
🔥1😁1
خب دوباره مدل های جدید، درست قبل از اینکه Qwen3.8 27B عرضه بشه ارائه شد!
گوگل که این هفته قرار بود Gemini جدید رو معرفی کنه، گفت به تعویق انداخته تا بتونه بهترش کنه و یا مدل طراز اول بسازه... ولی یه دفعه مدل جدید به اسم Gemini 3.7 Flash معرفی کرد که ادعا میکنه باهوش ترین مدل workhorse، یعنی همون مدل هایی که مثل اسب باید ازشون کار کشید، تا حالاست، مخصوصا برای coding و agent ها. طبق بنچمارک DeepSWE V1.1 که Datacurve AI منتشر کرده، این مدل حدود ۶۹ درصد رو زده و جالب اینجاست که در نقطه "most efficient" نشسته یعنی نسبت به هزینه ای که داره خرج میکنه، عملکردش واقعا خوبه. برای مقایسه، claude-opus-5 با حدود ۷۱ درصد بالاتره ولی هزینه اش به مراتب بیشتره.
@ai_src
گوگل که این هفته قرار بود Gemini جدید رو معرفی کنه، گفت به تعویق انداخته تا بتونه بهترش کنه و یا مدل طراز اول بسازه... ولی یه دفعه مدل جدید به اسم Gemini 3.7 Flash معرفی کرد که ادعا میکنه باهوش ترین مدل workhorse، یعنی همون مدل هایی که مثل اسب باید ازشون کار کشید، تا حالاست، مخصوصا برای coding و agent ها. طبق بنچمارک DeepSWE V1.1 که Datacurve AI منتشر کرده، این مدل حدود ۶۹ درصد رو زده و جالب اینجاست که در نقطه "most efficient" نشسته یعنی نسبت به هزینه ای که داره خرج میکنه، عملکردش واقعا خوبه. برای مقایسه، claude-opus-5 با حدود ۷۱ درصد بالاتره ولی هزینه اش به مراتب بیشتره.
@ai_src
❤1
Ai Resource
خب دوباره مدل های جدید، درست قبل از اینکه Qwen3.8 27B عرضه بشه ارائه شد! گوگل که این هفته قرار بود Gemini جدید رو معرفی کنه، گفت به تعویق انداخته تا بتونه بهترش کنه و یا مدل طراز اول بسازه... ولی یه دفعه مدل جدید به اسم Gemini 3.7 Flash معرفی کرد که ادعا…
بعدش هم Z.ai در ادامه GLM5.2،اومد GLM-5.3 منتشر کرد که روی بیس ۷۴۳B post train شده و تمرکز اصلیش coding و cyber defense هست. ادعاشون اینه که بین مدل های منبع باز، یه استاندارد جدید تو حوزه cybersecurity تعریف میکنه که کمتر مدلی نزدیکش هست. تو بنچمارک هایی مثل Terminal Bench، DeepSWE، و ExploitGym عددهایی زده که رقبای دیگه که اوپن سورس هستند رو پشت سر گذاشته. البته GPT-5.6 Sol هنوز تو بعضی معیارها جلوتره.
خلاصه که هفته شلوغیه برای مدل های جدید!
@ai_src
خلاصه که هفته شلوغیه برای مدل های جدید!
@ai_src
Qwen3.8-27B هم همین الان منتشر شد! 🎉
مدل dense جدید Qwen همین الان روی HuggingFace شد. لایسنس Apache 2.0 داره، یعنی کاملاً آزاده.
از نظر معماری یه مدل VLM کامله، یعنی تصویر و ویدیو هم میفهمه. کانتکست native اش ۲۶۲K توکنه که با YaRN تا ۱ میلیون توکن قابل گسترشه. با توجه به وبلاگ هاگینگ فیس اینا گیرمون اومد:
بنچمارک‌هاش روی SWE-bench Pro امتیاز ۶۱.۷ میگیره که از Claude Opus4.6 Max (53.4) و Muse Glimmer-30B (51.2) جلوتره. روی LiveCodeBench v6 هم ۹۰.۳ که از رقبا جلوتره. در بنچمارک‌های multimodal agentic هم خیلی قوی عمل میکنه: OSWorld-Verified رو با ۸۴.۳ میبره که از Qwen3.7-Plus (73.3) و Claude (72.7) جلوتره. تنها جایی که عقب میمونه GPQA و HLE هست که Opus4.6 Max هنوز اونجا جلوتره.
برای اجرای لوکال ۱۶ گیگ VRAM کافیه و quantize هاش هم دارند میان.
🤗 HuggingFace:
https://huggingface.co/Qwen/Qwen3.8-27B
📦 کوانتیزیشن ها:
https://huggingface.co/models?other=base_model:quantized:Qwen/Qwen3.8-27B
🦥 Unsloth GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
@ai_src
مدل dense جدید Qwen همین الان روی HuggingFace شد. لایسنس Apache 2.0 داره، یعنی کاملاً آزاده.
از نظر معماری یه مدل VLM کامله، یعنی تصویر و ویدیو هم میفهمه. کانتکست native اش ۲۶۲K توکنه که با YaRN تا ۱ میلیون توکن قابل گسترشه. با توجه به وبلاگ هاگینگ فیس اینا گیرمون اومد:
بنچمارک‌هاش روی SWE-bench Pro امتیاز ۶۱.۷ میگیره که از Claude Opus4.6 Max (53.4) و Muse Glimmer-30B (51.2) جلوتره. روی LiveCodeBench v6 هم ۹۰.۳ که از رقبا جلوتره. در بنچمارک‌های multimodal agentic هم خیلی قوی عمل میکنه: OSWorld-Verified رو با ۸۴.۳ میبره که از Qwen3.7-Plus (73.3) و Claude (72.7) جلوتره. تنها جایی که عقب میمونه GPQA و HLE هست که Opus4.6 Max هنوز اونجا جلوتره.
برای اجرای لوکال ۱۶ گیگ VRAM کافیه و quantize هاش هم دارند میان.
🤗 HuggingFace:
https://huggingface.co/Qwen/Qwen3.8-27B
📦 کوانتیزیشن ها:
https://huggingface.co/models?other=base_model:quantized:Qwen/Qwen3.8-27B
🦥 Unsloth GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
@ai_src
🔥1
Ai Resource
مثل اینکه ی خبرهایی از Qwen3.8 35B A3B هم هست... @ai_src
ی مسخره بازی جدید از علی بابا:
چند ساعت پیش، اسم مدل های Qwen3.8-35B-A3B و نسخه FP8 از رجیستری حذف شدن! توی commit هم نوشته بودن "fix wrong model names" که یعنی احتمالاً این اسم گذاری اشتباه بوده(که بعید به نظر میرسه، توضیح میدم...)
جای اون ها، اومده: Qwen3.8-27B.
به احتمال زیاد یعنی اون مدل 35 میلیارد پارامتری با 3 میلیارد اکتیو (معماری MoE) که انتظارش رو داشتیم، ممکنه اصلاً ریلیز نشه یا با اسم و معماری کاملاً متفاوتی بیاد(که بعید می‌دونم با معماری جدید تحت عنوان Qwen3.8 بیاد)
شرکت Alibaba هنوز هم هیچ تأییدیه ای نداده که آیا نسخه A3B رو ریلیز میکنه یا نه.
چرا میگیم مسخره بازی و چرا میگیم بعید بوده اشتباه کرده باشند؟
چون چند روز از تاریخ اون کامیت میگذره و اگر اشتباه بود،همون روز ملغی میشد، ولی توی چند روز مشخصه تصمیماتی گرفته شده و انتشار مدل بنابر دلایلی لغو شده...
حالا یا مدل زیادی بهتر بوده و شاید ایراد داشته و .... و شاید برای یک نسخه جدید باید منتشر میشده
فعلا باید وایستیم ببینیم چی میشه
کامیت ها:
https://github.com/modelscope/ms-swift/commit/a45f1d4f73157ba59062a7fd1f55a40dae759156
@ai_src
چند ساعت پیش، اسم مدل های Qwen3.8-35B-A3B و نسخه FP8 از رجیستری حذف شدن! توی commit هم نوشته بودن "fix wrong model names" که یعنی احتمالاً این اسم گذاری اشتباه بوده(که بعید به نظر میرسه، توضیح میدم...)
جای اون ها، اومده: Qwen3.8-27B.
به احتمال زیاد یعنی اون مدل 35 میلیارد پارامتری با 3 میلیارد اکتیو (معماری MoE) که انتظارش رو داشتیم، ممکنه اصلاً ریلیز نشه یا با اسم و معماری کاملاً متفاوتی بیاد(که بعید می‌دونم با معماری جدید تحت عنوان Qwen3.8 بیاد)
شرکت Alibaba هنوز هم هیچ تأییدیه ای نداده که آیا نسخه A3B رو ریلیز میکنه یا نه.
چرا میگیم مسخره بازی و چرا میگیم بعید بوده اشتباه کرده باشند؟
چون چند روز از تاریخ اون کامیت میگذره و اگر اشتباه بود،همون روز ملغی میشد، ولی توی چند روز مشخصه تصمیماتی گرفته شده و انتشار مدل بنابر دلایلی لغو شده...
حالا یا مدل زیادی بهتر بوده و شاید ایراد داشته و .... و شاید برای یک نسخه جدید باید منتشر میشده
فعلا باید وایستیم ببینیم چی میشه
کامیت ها:
https://github.com/modelscope/ms-swift/commit/a45f1d4f73157ba59062a7fd1f55a40dae759156
@ai_src
یه هفته پیش یه مدل کوچیک ولی جالب معرفی شده و امروز رفتم که تستش کنم:
مدل Ling-3.0-tiny از تیم inclusionAI. با وجود اینکه فقط 1.3B پارامتر فعال داره (از 7.9B کل)، یه معماری هیبریدی MoE داره که ترکیب KDA و MLA رو با 128 تا expert پیاده کرده و به همین خاطر هم هزینه inference پایینه، هم reasoning چند مرحله ای رو ساپورت میکنه.
اون چیزی که جذابش کرده اینه که واقعاً برای کارهای agentic طراحی شده!
توی تصویر بالا میبینید که رو روی یه تسک پیچیده (ترنسکرایب فایل صوتی از طریق whisper-cli با هندل کردن OOM GPU) اجرا کردم و کاملاً خودش مدیریتش کرد.
اول GPU رو امتحان کرد، با خطای out of memory روبرو شد، خودش تشخیص داد باید CPU mode رو فعال کنه، و تسک رو تموم کرد. با کوآنت ۸ بیتی و کانتکستش ۱۰۰ هزار بود!
برای دیپلوی هم روی ۴ گیگ وی رم تست شده و بسته به کانتکستش حدود ۳۰ تا 90 توکن بر ثانیه بهتون میده... میگن روی OpenRouter هم رایگانه.
صفحه مدل هم از این قراره:
https://huggingface.co/inclusionAI/Ling-3.0-tiny
@ai_src
مدل Ling-3.0-tiny از تیم inclusionAI. با وجود اینکه فقط 1.3B پارامتر فعال داره (از 7.9B کل)، یه معماری هیبریدی MoE داره که ترکیب KDA و MLA رو با 128 تا expert پیاده کرده و به همین خاطر هم هزینه inference پایینه، هم reasoning چند مرحله ای رو ساپورت میکنه.
اون چیزی که جذابش کرده اینه که واقعاً برای کارهای agentic طراحی شده!
توی تصویر بالا میبینید که رو روی یه تسک پیچیده (ترنسکرایب فایل صوتی از طریق whisper-cli با هندل کردن OOM GPU) اجرا کردم و کاملاً خودش مدیریتش کرد.
اول GPU رو امتحان کرد، با خطای out of memory روبرو شد، خودش تشخیص داد باید CPU mode رو فعال کنه، و تسک رو تموم کرد. با کوآنت ۸ بیتی و کانتکستش ۱۰۰ هزار بود!
برای دیپلوی هم روی ۴ گیگ وی رم تست شده و بسته به کانتکستش حدود ۳۰ تا 90 توکن بر ثانیه بهتون میده... میگن روی OpenRouter هم رایگانه.
صفحه مدل هم از این قراره:
https://huggingface.co/inclusionAI/Ling-3.0-tiny
@ai_src
🔥3
یه مدل تازه دیروز توی OpenRouter و OpenCode ظاهر شد به اسم Ox Alpha، و میگن احتمالا GLM باشه...
این مدل با شناسه stealth/ox-alpha عرضه شده، context یک میلیون توکنی داره، تا ۱۳۱ هزار توکن خروجی میده، و از متن، عکس و ویدیو به عنوان ورودی پشتیبانی میکنه.
چون داره رایگان خروجی میده، رسما اعلام کردند که پرامپت ها و خروجی ها توسط اون کسی که داره این مدل رو رایگان ارائه میده(چون مدل رو مخفی نگه داشتند نمی‌دونیم کیه) نگه داشته میشن ولی برای آموزش مدل ها استفاده نمیشن، که برای یه stealth model نسبتاً غیرمعقول هست
جالب اینکه Ox Alpha پنجمین مدل anonymous توی شش ماه گذشته هست، که چهار تای قبلیش، بعد از چند روز، هویت شوت مشخص شد:
مدل GLM-5 از Zhipu AI،
مدل MiMo-V2-Pro از Xiaomi،
مدل Ling-2.6-flash از Ant Group
و مدل LongCat-2.0 از Meituan
یعنی کاملاً مشخصه و تقریباً همه این stealth مدل ها چینی بودن.
@ai_src
این مدل با شناسه stealth/ox-alpha عرضه شده، context یک میلیون توکنی داره، تا ۱۳۱ هزار توکن خروجی میده، و از متن، عکس و ویدیو به عنوان ورودی پشتیبانی میکنه.
چون داره رایگان خروجی میده، رسما اعلام کردند که پرامپت ها و خروجی ها توسط اون کسی که داره این مدل رو رایگان ارائه میده(چون مدل رو مخفی نگه داشتند نمی‌دونیم کیه) نگه داشته میشن ولی برای آموزش مدل ها استفاده نمیشن، که برای یه stealth model نسبتاً غیرمعقول هست
جالب اینکه Ox Alpha پنجمین مدل anonymous توی شش ماه گذشته هست، که چهار تای قبلیش، بعد از چند روز، هویت شوت مشخص شد:
مدل GLM-5 از Zhipu AI،
مدل MiMo-V2-Pro از Xiaomi،
مدل Ling-2.6-flash از Ant Group
و مدل LongCat-2.0 از Meituan
یعنی کاملاً مشخصه و تقریباً همه این stealth مدل ها چینی بودن.
@ai_src
❤2
Ai Resource
یه مدل تازه دیروز توی OpenRouter و OpenCode ظاهر شد به اسم Ox Alpha، و میگن احتمالا GLM باشه... این مدل با شناسه stealth/ox-alpha عرضه شده، context یک میلیون توکنی داره، تا ۱۳۱ هزار توکن خروجی میده، و از متن، عکس و ویدیو به عنوان ورودی پشتیبانی میکنه. چون…
این موضوع در کنار روند کلی OpenRouter معنادارتر میشه، چون سهم مدل های آمریکایی از ۷۰ درصد یه سال پیش به حدود ۳۰ درصد رسیده و شرکت های چینی دارن این فضا رو میگیرن.
و نکته خیلی جالبتر اینه که OpenCode اعلام کرده ظرفیت ۱۰۰ تریلیون توکن در روز داره(یعنی صد هزار میلیارد توکن در روز!) و گفته ببینم چی میتونید باهاش بسازید!
لینک صفحه openrouter راجع به مدل جدید:
https://openrouter.ai/stealth/ox-alpha
@ai_src
و نکته خیلی جالبتر اینه که OpenCode اعلام کرده ظرفیت ۱۰۰ تریلیون توکن در روز داره(یعنی صد هزار میلیارد توکن در روز!) و گفته ببینم چی میتونید باهاش بسازید!
لینک صفحه openrouter راجع به مدل جدید:
https://openrouter.ai/stealth/ox-alpha
@ai_src
openrouter.ai
Ox Alpha - API Pricing & Providers
Ox Alpha is a reasoning model designed for coding, sustained agentic work, and production workloads. 1,048,576 token context window.
❤2
مدل Qwen3.8-27B چند روز بعد از انتشار تقریبا به ۶ میلیون دانلود رسید! 🔥
این عدد فقط برای نسخه GGUF از Unsloth هست که ظرف چند روز به نزدیک شش میلیون دانلود رسیده!
مشخصه که جامعه open-source واقعا منتظر این مدل بوده، چون واقعا خوب عمل کرده!
ی چند تا نکته رو بگیم که اگه میخواید لوکال اجرا کنید، باید حداقل ۱۶ گیگ vram داشته باشید، و نکته بعد اینکه Unsloth یه طیف کامل از کوانتیزیشن های Dynamic v3.0 ارائه داده که طبق آنالیزشون ۱۰٪ دقت بهتری نسبت به بقیه نسخه های GGUF مثل bartowski و اینا داره.
@ai_src
این عدد فقط برای نسخه GGUF از Unsloth هست که ظرف چند روز به نزدیک شش میلیون دانلود رسیده!
مشخصه که جامعه open-source واقعا منتظر این مدل بوده، چون واقعا خوب عمل کرده!
ی چند تا نکته رو بگیم که اگه میخواید لوکال اجرا کنید، باید حداقل ۱۶ گیگ vram داشته باشید، و نکته بعد اینکه Unsloth یه طیف کامل از کوانتیزیشن های Dynamic v3.0 ارائه داده که طبق آنالیزشون ۱۰٪ دقت بهتری نسبت به بقیه نسخه های GGUF مثل bartowski و اینا داره.
@ai_src
Ai Resource
مدل Qwen3.8-27B چند روز بعد از انتشار تقریبا به ۶ میلیون دانلود رسید! 🔥 این عدد فقط برای نسخه GGUF از Unsloth هست که ظرف چند روز به نزدیک شش میلیون دانلود رسیده! مشخصه که جامعه open-source واقعا منتظر این مدل بوده، چون واقعا خوب عمل کرده! ی چند تا نکته…
برای هر حجم VRAM یه گزینه هست: از UD-IQ1_S که ۶ گیگ vram میخواد گرفته تا UD-Q4_K_M که ۱۶ گیگ میخواد...نسخه Q8_0 هم که ناقابل ۲۹ گیگ vram میخواد💔
ساده ترین راه اجرا یا از طریق llam.cpp هست، یا از طریق ollama با دستور
ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M
یا از طریق Unsloth Desktop که نسخه تقریبا جمع و جورش چند روز پیش معرفی شد و قابلیت های بهتری هم داره.
یه نکته جالب هم اینکه Unsloth یه فایل MTP Q4_0 جداگانه برای مدل گذاشته که فقط یک و نیم گیگه و برای speculative decoding در کنار مدل اصلی استفاده میشه، یعنی سرعت generation رو بدون افت کیفیت بالا میبره، و بشدت توصیه میکنیم که از MTP استفاده کنید
🤗 لینکGGUF ها
https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
📖 راهنمای اجرا:
https://unsloth.ai/docs/models/qwen3.8
🦥 Unsloth Dynamic 3.0: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
ی کلام آخر هم داریم که پست بعدی میگیم:
@ai_src
ساده ترین راه اجرا یا از طریق llam.cpp هست، یا از طریق ollama با دستور
ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M
یا از طریق Unsloth Desktop که نسخه تقریبا جمع و جورش چند روز پیش معرفی شد و قابلیت های بهتری هم داره.
یه نکته جالب هم اینکه Unsloth یه فایل MTP Q4_0 جداگانه برای مدل گذاشته که فقط یک و نیم گیگه و برای speculative decoding در کنار مدل اصلی استفاده میشه، یعنی سرعت generation رو بدون افت کیفیت بالا میبره، و بشدت توصیه میکنیم که از MTP استفاده کنید
🤗 لینکGGUF ها
https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
📖 راهنمای اجرا:
https://unsloth.ai/docs/models/qwen3.8
🦥 Unsloth Dynamic 3.0: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
ی کلام آخر هم داریم که پست بعدی میگیم:
@ai_src
huggingface.co
unsloth/Qwen3.8-27B-GGUF · Hugging Face
Machine learning model with 27B parameters. Download, explore files and run it on Hugging Face.
❤2
Ai Resource
برای هر حجم VRAM یه گزینه هست: از UD-IQ1_S که ۶ گیگ vram میخواد گرفته تا UD-Q4_K_M که ۱۶ گیگ میخواد...نسخه Q8_0 هم که ناقابل ۲۹ گیگ vram میخواد💔 ساده ترین راه اجرا یا از طریق llam.cpp هست، یا از طریق ollama با دستور ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD…
کلام آخر که یکمی هم تحلیلی هست، اینه که این نسخه هوش مصنوعی واسه پول دار ها و سرور دار هاست!
یک کارت گرافیک rtx 2080 با vram هشت گیگی الان حدود ۱۵۰ تومن هست!
و مشخصه که کلا باید قید اینطور مدل ها رو واسه کاربر های عادی، اونم توی ایران، زد!
واسه همین این مدل و امثالهم جزو مدل های رده بالا حساب میشن... سوال پیش میاد که پس چرا از انتشار این مدل اینقدر استقبال شده؟!
جواب اینه که این مدل میشه گفت با این حجمش توی کارهای Agentic و برنامه نویسی با Opus 5 در رقابته! حتی اگه این رقابت غلط هم بوده باشه، این اولین مدلی هست که داره با این حجم، با یک مدل خیلی قوی چند صد میلیاردی مقایسه میشه!
واسه همین، کسانی که سرور داشتند و قابلیت اجرای این مدل رو داشتند، ترجیح میدن به جای استفاده از یک مدل چند صد میلیاردی، از ی مدل ۲۷ میلیاردی استفاده کنند!
خب پس تکلیف کاربران عادی چی میشه؟ که ظرفیت اجرای این مدل رو ندارند؟!
جواب اینه که انتشار این مدل باعث شده که بتونیم این مدل رو روی سرور های گرافیکی و پردازش ابری اجرا کنیم، و ی جورایی api خودمون رو داشته باشیم، که هزینه بسیار کمتری نسبت به خرید api داره!
اما لازم به ذکر هست که این دسته از افراد باید وقت و هزینه اجاره سرور پردازش ابری رو برای اجرای مدل داشته باشند!
و دسته دوم واسه افراد عادی میشه، این که باید منتظر یک مدل عادی تر بود، یک نوع مدلی که حتی در ردیت هم کاربران از نبودش شکایت داشتند، و اون مدل دسته مدل های MoE هستند که ۲۰ تا ۳۰ میلیارد پارامتر و زیر ۴ میلیارد Active دارند، مثل gpt oss 20B که از این دسته بود
خود گروه Qwen هم گفته بودند که قصد دارند یک مدل Midsize معرفی کنند، ولی احتمال اینکه این مدل برای دسکتاپ های متوسط و یا رده پایین باشه کمه، و گفته میشه حتی بیشتر و حجیم تر از 35B-A3B خواهد بود
القصه اینکه درحال پیشرفت هستیم و کم کم اکثر کاربران هوش مصنوعی یکدست میشن، اما با گذر زمان
@ai_src
یک کارت گرافیک rtx 2080 با vram هشت گیگی الان حدود ۱۵۰ تومن هست!
و مشخصه که کلا باید قید اینطور مدل ها رو واسه کاربر های عادی، اونم توی ایران، زد!
واسه همین این مدل و امثالهم جزو مدل های رده بالا حساب میشن... سوال پیش میاد که پس چرا از انتشار این مدل اینقدر استقبال شده؟!
جواب اینه که این مدل میشه گفت با این حجمش توی کارهای Agentic و برنامه نویسی با Opus 5 در رقابته! حتی اگه این رقابت غلط هم بوده باشه، این اولین مدلی هست که داره با این حجم، با یک مدل خیلی قوی چند صد میلیاردی مقایسه میشه!
واسه همین، کسانی که سرور داشتند و قابلیت اجرای این مدل رو داشتند، ترجیح میدن به جای استفاده از یک مدل چند صد میلیاردی، از ی مدل ۲۷ میلیاردی استفاده کنند!
خب پس تکلیف کاربران عادی چی میشه؟ که ظرفیت اجرای این مدل رو ندارند؟!
جواب اینه که انتشار این مدل باعث شده که بتونیم این مدل رو روی سرور های گرافیکی و پردازش ابری اجرا کنیم، و ی جورایی api خودمون رو داشته باشیم، که هزینه بسیار کمتری نسبت به خرید api داره!
اما لازم به ذکر هست که این دسته از افراد باید وقت و هزینه اجاره سرور پردازش ابری رو برای اجرای مدل داشته باشند!
و دسته دوم واسه افراد عادی میشه، این که باید منتظر یک مدل عادی تر بود، یک نوع مدلی که حتی در ردیت هم کاربران از نبودش شکایت داشتند، و اون مدل دسته مدل های MoE هستند که ۲۰ تا ۳۰ میلیارد پارامتر و زیر ۴ میلیارد Active دارند، مثل gpt oss 20B که از این دسته بود
خود گروه Qwen هم گفته بودند که قصد دارند یک مدل Midsize معرفی کنند، ولی احتمال اینکه این مدل برای دسکتاپ های متوسط و یا رده پایین باشه کمه، و گفته میشه حتی بیشتر و حجیم تر از 35B-A3B خواهد بود
القصه اینکه درحال پیشرفت هستیم و کم کم اکثر کاربران هوش مصنوعی یکدست میشن، اما با گذر زمان
@ai_src
🔥6
خب،مدل Ox Alpha همون GLM-5.3-Flash از Z.ai بود که حدس میزدیم:
https://huggingface.co/zai-org/GLM-5.3-Flash
این مدل اولین عضو از خانواده GLM-5 به حساب میاد که می‌تونه از عکس و ورودی های multimodal پشتیبانی کنه،
۳۲۰ میلیارد پارامتر کل، ولی فقط ۱۸ میلیارد پارامتر در هر توکن فعال میشن
@ai_src
https://huggingface.co/zai-org/GLM-5.3-Flash
این مدل اولین عضو از خانواده GLM-5 به حساب میاد که می‌تونه از عکس و ورودی های multimodal پشتیبانی کنه،
۳۲۰ میلیارد پارامتر کل، ولی فقط ۱۸ میلیارد پارامتر در هر توکن فعال میشن
@ai_src