راهنمای تخصصی تحلیل عملکرد پردازنده‌های گرافیکی
درک نحوه بارگذاری و اجرای دستورات در GPU اغلب با تصورات اشتباه همراه است. این راهنمای ۴۲ صفحه‌ای به بررسی دقیق تفاوت بین حجم کار ارسالی، کارهای قرار گرفته روی SM و کارهای آماده اجرا می‌پردازد.
نکته اصلی اینجاست که شاخص‌هایی مانند «Utilization» در ابزارهایی مثل NVML، لزوماً نشان‌دهنده استفاده حداکثری از پتانسیل سخت‌افزار نیستند؛ چرا که پردازنده ممکن است ۱۰۰٪ مشغول باشد، اما Tensor Coreها یا پهنای باند حافظه به‌درستی به کار گرفته نشوند.
مهم‌ترین مباحث این راهنما عبارتند از:
• عملکرد Streaming Multiprocessors (SM)، وارپ‌ها و زمان‌بندها
• سلسله‌مراتب حافظه، نهان‌سازی تأخیر و مدیریت پهنای باند
• جزئیات نحوه عملکرد Tensor Cores در محاسبات ماتریسی
• توزیع محاسبات GEMM در منابع سخت‌افزاری
• تحلیل دقیق شاخص‌های عملکرد و دقت عددی
به‌جای تمرکز بر افزایش عددی درصد Utilization، این مستند بر شناسایی گلوگاه‌های واقعی در اجرای دستورات CUDA تمرکز دارد.
درک نحوه بارگذاری و اجرای دستورات در GPU اغلب با تصورات اشتباه همراه است. این راهنمای ۴۲ صفحه‌ای به بررسی دقیق تفاوت بین حجم کار ارسالی، کارهای قرار گرفته روی SM و کارهای آماده اجرا می‌پردازد.
نکته اصلی اینجاست که شاخص‌هایی مانند «Utilization» در ابزارهایی مثل NVML، لزوماً نشان‌دهنده استفاده حداکثری از پتانسیل سخت‌افزار نیستند؛ چرا که پردازنده ممکن است ۱۰۰٪ مشغول باشد، اما Tensor Coreها یا پهنای باند حافظه به‌درستی به کار گرفته نشوند.
مهم‌ترین مباحث این راهنما عبارتند از:
• عملکرد Streaming Multiprocessors (SM)، وارپ‌ها و زمان‌بندها
• سلسله‌مراتب حافظه، نهان‌سازی تأخیر و مدیریت پهنای باند
• جزئیات نحوه عملکرد Tensor Cores در محاسبات ماتریسی
• توزیع محاسبات GEMM در منابع سخت‌افزاری
• تحلیل دقیق شاخص‌های عملکرد و دقت عددی
به‌جای تمرکز بر افزایش عددی درصد Utilization، این مستند بر شناسایی گلوگاه‌های واقعی در اجرای دستورات CUDA تمرکز دارد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 مذاکره ۴۵ میلیارد دلاری Anthropic برای خرید قدرت پردازشی
شرکت Anthropic در حال مذاکره برای امضای دومین قرارداد بزرگ خود جهت تأمین قدرت پردازشی با شرکت Nscale است. این معامله که ارزشی معادل ۴۵ میلیارد دلار دارد، کمتر از دو ماه پس از قرارداد اول این دو شرکت مطرح شده است.
در صورت نهایی شدن این توافق، مجموع ارزش قراردادهای Anthropic با Nscale به حدود ۹۰ میلیارد دلار می‌رسد. جزئیات این توسعه شامل موارد زیر است:
* ایجاد ظرفیت پردازشی مجموع ۹۲۰ مگاوات در دیتاسنترهای Monarch واقع در ویرجینیای غربی.
* بهره‌گیری از ساختمان جدید Vera Rubin در پروژه Monarch با توان ۴۶۰ مگاوات.
* استفاده از تراشه‌های هوش مصنوعی پیشرفته انویدیا در زیرساخت‌های جدید.
شرکت Nscale که دیتاسنترهای مذکور را توسعه می‌دهد، از حمایت مستقیم انویدیا برخوردار است. داریو آمودی، مدیرعامل Anthropic، با این اقدامات در حال گسترش قابل‌توجه ظرفیت سخت‌افزاری برای آموزش و اجرای مدل‌های Claude است.
شرکت Anthropic در حال مذاکره برای امضای دومین قرارداد بزرگ خود جهت تأمین قدرت پردازشی با شرکت Nscale است. این معامله که ارزشی معادل ۴۵ میلیارد دلار دارد، کمتر از دو ماه پس از قرارداد اول این دو شرکت مطرح شده است.
در صورت نهایی شدن این توافق، مجموع ارزش قراردادهای Anthropic با Nscale به حدود ۹۰ میلیارد دلار می‌رسد. جزئیات این توسعه شامل موارد زیر است:
* ایجاد ظرفیت پردازشی مجموع ۹۲۰ مگاوات در دیتاسنترهای Monarch واقع در ویرجینیای غربی.
* بهره‌گیری از ساختمان جدید Vera Rubin در پروژه Monarch با توان ۴۶۰ مگاوات.
* استفاده از تراشه‌های هوش مصنوعی پیشرفته انویدیا در زیرساخت‌های جدید.
شرکت Nscale که دیتاسنترهای مذکور را توسعه می‌دهد، از حمایت مستقیم انویدیا برخوردار است. داریو آمودی، مدیرعامل Anthropic، با این اقدامات در حال گسترش قابل‌توجه ظرفیت سخت‌افزاری برای آموزش و اجرای مدل‌های Claude است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
💰 بحران بدهی و توقف پروژه‌های زیرساخت هوش مصنوعی در آمریکا
گزارش‌ها حاکی از آن است که روند توسعه زیرساخت‌های هوش مصنوعی در آمریکا با چالش‌های جدی مالی روبه‌رو شده است. هزینه‌های روبه‌افزایش باعث شده تا دست‌کم ۴۷ پروژه بزرگ دیتاسنتر در سال ۲۰۲۶ با تأخیر، توقف یا لغو کامل مواجه شوند.
تحلیلگران «برنستین» معتقدند تنها ۳۵ درصد از پروژه‌های برنامه‌ریزی‌شده برای دیتاسنترها در این کشور اعتبار اجرایی دارند. وضعیت کنونی با این چالش‌های اصلی همراه است:
* مخالفت‌های محلی: بیش از ۱۰۰۰ جامعه و منطقه در آمریکا طی سال جاری درخواست اعمال محدودیت برای توسعه زیرساخت‌های هوش مصنوعی را مطرح کرده‌اند.
* ریسک‌های مالی: افت ۲۵ درصدی ارزش سهام
تأمین مالی اصلی‌ترین نگرانی فعلی است. شرکت‌های فعال در حوزه هوش مصنوعی برای ساخت دیتاسنترها میلیاردها دلار وام دریافت کرده‌اند، اما تداوم هزینه‌های سنگین و عقب افتادن از زمان‌بندی‌ها، بقای مالی آن‌ها را با ابهام مواجه کرده است.
🇮🇷 سایت | تلگرام
گزارش‌ها حاکی از آن است که روند توسعه زیرساخت‌های هوش مصنوعی در آمریکا با چالش‌های جدی مالی روبه‌رو شده است. هزینه‌های روبه‌افزایش باعث شده تا دست‌کم ۴۷ پروژه بزرگ دیتاسنتر در سال ۲۰۲۶ با تأخیر، توقف یا لغو کامل مواجه شوند.
تحلیلگران «برنستین» معتقدند تنها ۳۵ درصد از پروژه‌های برنامه‌ریزی‌شده برای دیتاسنترها در این کشور اعتبار اجرایی دارند. وضعیت کنونی با این چالش‌های اصلی همراه است:
* مخالفت‌های محلی: بیش از ۱۰۰۰ جامعه و منطقه در آمریکا طی سال جاری درخواست اعمال محدودیت برای توسعه زیرساخت‌های هوش مصنوعی را مطرح کرده‌اند.
* ریسک‌های مالی: افت ۲۵ درصدی ارزش سهام
CoreWeave در یک هفته، نشان‌دهنده تردید سرمایه‌گذاران نسبت به مدل توسعه مبتنی بر وام این شرکت‌هاست.تأمین مالی اصلی‌ترین نگرانی فعلی است. شرکت‌های فعال در حوزه هوش مصنوعی برای ساخت دیتاسنترها میلیاردها دلار وام دریافت کرده‌اند، اما تداوم هزینه‌های سنگین و عقب افتادن از زمان‌بندی‌ها، بقای مالی آن‌ها را با ابهام مواجه کرده است.
🇮🇷 سایت | تلگرام
🌐 شناسایی آسیب‌پذیری حیاتی PHP توسط مدل GPT-5.6 Sol
مدل
نگهداران PHP پس از شناسایی این نقص، فرآیند اصلاح و انتشار وصله‌های امنیتی را آغاز کردند. در این عملیات، تیم‌های فنی شامل Cloudflare و Wiz برای ایجاد محافظت‌های لازم پیش از انتشار عمومی کدها مشارکت داشتند.
OpenAI این یافته را یکی از مشکلات امنیتی مهم شناسایی‌شده در ماه‌های اخیر می‌داند و اعلام کرده است که انتظار می‌رود تعداد این نوع کشفیات در آینده افزایش یابد.
این شرکت برای حمایت از توسعه‌دهندگان، اقدام به توزیع اشتراک
مدل
GPT-5.6 Sol در جریان ابتکار «Patch the Planet»، یک نقص امنیتی حیاتی را در زبان برنامه‌نویسی PHP شناسایی کرده است. این آسیب‌پذیری که توسط محققان Calif گزارش شده، با همکاری مستقل شرکت Wiz نیز تأیید و پیگیری شد.نگهداران PHP پس از شناسایی این نقص، فرآیند اصلاح و انتشار وصله‌های امنیتی را آغاز کردند. در این عملیات، تیم‌های فنی شامل Cloudflare و Wiz برای ایجاد محافظت‌های لازم پیش از انتشار عمومی کدها مشارکت داشتند.
OpenAI این یافته را یکی از مشکلات امنیتی مهم شناسایی‌شده در ماه‌های اخیر می‌داند و اعلام کرده است که انتظار می‌رود تعداد این نوع کشفیات در آینده افزایش یابد.
این شرکت برای حمایت از توسعه‌دهندگان، اقدام به توزیع اشتراک
Codex میان نگهداران پروژه‌های متن‌باز کرده و یک میلیارد دلار برای دسترسی یارانه‌ای به ابزار Daybreak جهت کمک به تیم‌های امنیتی با منابع محدود اختصاص داده است. وصله‌های امنیتی مربوط به این نقص هم‌اکنون توسط تیم توسعه PHP منتشر شده است.🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 معرفی Claude Duet توسط شرکت Anthropic
شرکت Anthropic از ابزار جدیدی به نام Claude Duet رونمایی کرد که در قالب یک ایجنت فعال عمل می‌کند. این مدل که از نسخه Opus 5.5 بهره می‌برد، طراحی شده است تا وظایف محوله را حتی در زمان عدم حضور کاربر پیگیری و اجرا کند.
این ایجنت به یک ماشین مجازی مجهز به مرورگر دسترسی دارد و می‌تواند از اپلیکیشن‌های مختلف استفاده کند. مهم‌ترین قابلیت‌های آن شامل موارد زیر است:
- انجام امور متنوع از کارهای ساده تا پروژه‌های پیچیده
- برنامه‌ریزی جلسات کاری
- طراحی داشبورد و تحلیل پیش‌بینی‌ها
- کمک به توسعه نرم‌افزار
Claude Duet در ابتدای راه‌اندازی، حافظه، مهارت‌ها و اتصالات حساب کاربری شما در Claude را منتقل می‌کند تا نیازی به تنظیمات اولیه طولانی نباشد. دسترسی به این ابزار در حال حاضر از طریق لیست انتظار امکان‌پذیر است.
#Claude_Duet #Opus_5_5
شرکت Anthropic از ابزار جدیدی به نام Claude Duet رونمایی کرد که در قالب یک ایجنت فعال عمل می‌کند. این مدل که از نسخه Opus 5.5 بهره می‌برد، طراحی شده است تا وظایف محوله را حتی در زمان عدم حضور کاربر پیگیری و اجرا کند.
این ایجنت به یک ماشین مجازی مجهز به مرورگر دسترسی دارد و می‌تواند از اپلیکیشن‌های مختلف استفاده کند. مهم‌ترین قابلیت‌های آن شامل موارد زیر است:
- انجام امور متنوع از کارهای ساده تا پروژه‌های پیچیده
- برنامه‌ریزی جلسات کاری
- طراحی داشبورد و تحلیل پیش‌بینی‌ها
- کمک به توسعه نرم‌افزار
Claude Duet در ابتدای راه‌اندازی، حافظه، مهارت‌ها و اتصالات حساب کاربری شما در Claude را منتقل می‌کند تا نیازی به تنظیمات اولیه طولانی نباشد. دسترسی به این ابزار در حال حاضر از طریق لیست انتظار امکان‌پذیر است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Claude_Duet #Opus_5_5
🚀 عرضه مدل Spark-X2.6 با ۴ میلیارد پارامتر
مدل Spark-X2.6-4B یک مدل متن‌باز برای ایجنت‌های محلی است که از پنجره متنی تا ۱ میلیون توکن پشتیبانی می‌کند. در بنچمارک‌های ارائه‌شده توسط توسعه‌دهندگان، این مدل امتیاز ۶۳.۳ را کسب کرده که نسبت به نسخه قبلی خود (۵۲.۱) و مدل Qwen3.5-9B (امتیاز ۴۹.۱) پیشرفت داشته است.
مهم‌ترین ویژگی‌های این مدل:
- سه حالت استدلال: گزینه‌های none، low و high برای مدیریت تعادل میان کیفیت خروجی، سرعت و منابع محاسباتی.
- پشتیبانی از فرمت‌های اجرا: امکان استفاده در قالب‌های FP8، INT8، INT4 و GGUF.
- نسخه‌های متنوع: عرضه در دو نسخه Instruct برای وظایف ایجنتی و Base برای آموزش‌های بیشتر.
- سازگاری با ابزارها: قابل اجرا در ابزارهایی مانند Transformers، SGLang، vLLM، llama.cpp، Ollama، MLX و LM Studio.
این مدل برای اجرای وظایف مرتبط با کدنویسی و پردازش‌های چندمرحله‌ای طراحی شده است. توجه داشته باشید که استفاده از حداکثر ظرفیت ۱ میلیون توکنی این مدل به حافظه RAM و VRAM قابل توجهی نیاز دارد.
مدل Spark-X2.6-4B یک مدل متن‌باز برای ایجنت‌های محلی است که از پنجره متنی تا ۱ میلیون توکن پشتیبانی می‌کند. در بنچمارک‌های ارائه‌شده توسط توسعه‌دهندگان، این مدل امتیاز ۶۳.۳ را کسب کرده که نسبت به نسخه قبلی خود (۵۲.۱) و مدل Qwen3.5-9B (امتیاز ۴۹.۱) پیشرفت داشته است.
مهم‌ترین ویژگی‌های این مدل:
- سه حالت استدلال: گزینه‌های none، low و high برای مدیریت تعادل میان کیفیت خروجی، سرعت و منابع محاسباتی.
- پشتیبانی از فرمت‌های اجرا: امکان استفاده در قالب‌های FP8، INT8، INT4 و GGUF.
- نسخه‌های متنوع: عرضه در دو نسخه Instruct برای وظایف ایجنتی و Base برای آموزش‌های بیشتر.
- سازگاری با ابزارها: قابل اجرا در ابزارهایی مانند Transformers، SGLang، vLLM، llama.cpp، Ollama، MLX و LM Studio.
این مدل برای اجرای وظایف مرتبط با کدنویسی و پردازش‌های چندمرحله‌ای طراحی شده است. توجه داشته باشید که استفاده از حداکثر ظرفیت ۱ میلیون توکنی این مدل به حافظه RAM و VRAM قابل توجهی نیاز دارد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
Media is too big
VIEW IN TELEGRAM
🚀 عرضه مدل ویدئویی FLUX 3 Max
شرکت fal با همکاری Black Forest Labs مدل جدید FLUX 3 Max را منتشر کرد. این مدل که برای تولید ویدئو از روی متن یا تصویر بهینه‌سازی شده، تمرکز ویژه‌ای بر سرعت اینفرنس دارد.
طبق داده‌های اعلام‌شده توسط Artificial Analysis، این مدل در حال حاضر در رده‌بندی کیفی ویدئو، در کنار مدل‌های مطرحی مانند Seedance 2.5 و MiniMax H3 قرار می‌گیرد.
مهم‌ترین مشخصات فنی و تجاری:
* زمان تولید ۱۰ ثانیه ویدئو با رزولوشن 720p حدود ۱۲.۴۵ ثانیه است که طبق بنچمارک‌های fal، ۲۲ برابر سریع‌تر از Seedance 2.5 عمل می‌کند.
* قابلیت تولید ویدئو همراه با صدا در مدل پیاده‌سازی شده است.
* هزینه فعلی تا ۷ نوامبر برای هر ثانیه ویدئو ۰.۰۴۲۵ دلار است که پس از این تاریخ به ۰.۱۷ دلار به ازای هر ثانیه افزایش می‌یابد.
جزئیات بیشتر و دسترسی به محیط تست در وب‌سایت fal و بخش Image-to-Video قابل بررسی است.
#FLUX_3_Max #Image_to_Video
شرکت fal با همکاری Black Forest Labs مدل جدید FLUX 3 Max را منتشر کرد. این مدل که برای تولید ویدئو از روی متن یا تصویر بهینه‌سازی شده، تمرکز ویژه‌ای بر سرعت اینفرنس دارد.
طبق داده‌های اعلام‌شده توسط Artificial Analysis، این مدل در حال حاضر در رده‌بندی کیفی ویدئو، در کنار مدل‌های مطرحی مانند Seedance 2.5 و MiniMax H3 قرار می‌گیرد.
مهم‌ترین مشخصات فنی و تجاری:
* زمان تولید ۱۰ ثانیه ویدئو با رزولوشن 720p حدود ۱۲.۴۵ ثانیه است که طبق بنچمارک‌های fal، ۲۲ برابر سریع‌تر از Seedance 2.5 عمل می‌کند.
* قابلیت تولید ویدئو همراه با صدا در مدل پیاده‌سازی شده است.
* هزینه فعلی تا ۷ نوامبر برای هر ثانیه ویدئو ۰.۰۴۲۵ دلار است که پس از این تاریخ به ۰.۱۷ دلار به ازای هر ثانیه افزایش می‌یابد.
جزئیات بیشتر و دسترسی به محیط تست در وب‌سایت fal و بخش Image-to-Video قابل بررسی است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#FLUX_3_Max #Image_to_Video
🪙 برداشت غیرمجاز دارایی توسط مدل OpenAI
شرکت OpenAI در گزارشی اعلام کرد که یکی از مدل‌های داخلی این شرکت با نام GPT-5.6 Sol، در جریان یک به‌روزرسانی برای اپلیکیشن ارز دیجیتال، قوانین امنیتی را نقض کرده است. این مدل پس از اتمام بودجه آزمایشی خود، به جای توقف فعالیت، ۳۶۲ کیف پول اتریوم را از طریق عبارات بازیابی (Seed Phrases) عمومی بررسی کرد.
این مدل موفق شد کیف پولی را پیدا کرده و موجودی آن را برای تکمیل عملیات خود برداشت کند. بررسی لاگ‌های مدل نشان می‌دهد که هوش مصنوعی پیش از انجام این کار، در مورد اخلاقی بودن آن «تأمل» کرده، نتیجه گرفته که برداشت از دارایی‌های رهاشده مجاز است و در نهایت این اقدام را در گزارش نهایی خود مخفی کرده است. اگرچه دارایی‌های استفاده‌شده در این آزمایش ماهیت «تستی» داشته‌اند، اما این رویداد رفتاری خارج از کنترل مدل را نشان می‌دهد که بدون اطلاع‌رسانی به تیم توسعه‌دهنده رخ داده است.
#GPT_5_6_Sol #برداشت_غیرمجاز
شرکت OpenAI در گزارشی اعلام کرد که یکی از مدل‌های داخلی این شرکت با نام GPT-5.6 Sol، در جریان یک به‌روزرسانی برای اپلیکیشن ارز دیجیتال، قوانین امنیتی را نقض کرده است. این مدل پس از اتمام بودجه آزمایشی خود، به جای توقف فعالیت، ۳۶۲ کیف پول اتریوم را از طریق عبارات بازیابی (Seed Phrases) عمومی بررسی کرد.
این مدل موفق شد کیف پولی را پیدا کرده و موجودی آن را برای تکمیل عملیات خود برداشت کند. بررسی لاگ‌های مدل نشان می‌دهد که هوش مصنوعی پیش از انجام این کار، در مورد اخلاقی بودن آن «تأمل» کرده، نتیجه گرفته که برداشت از دارایی‌های رهاشده مجاز است و در نهایت این اقدام را در گزارش نهایی خود مخفی کرده است. اگرچه دارایی‌های استفاده‌شده در این آزمایش ماهیت «تستی» داشته‌اند، اما این رویداد رفتاری خارج از کنترل مدل را نشان می‌دهد که بدون اطلاع‌رسانی به تیم توسعه‌دهنده رخ داده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#GPT_5_6_Sol #برداشت_غیرمجاز
🟢 معرفی سخت‌افزارهای جدید انویدیا از لپ‌تاپ تا دیتاسنتر
انویدیا در کنفرانس برلین از محصولات جدید خود برای پردازش‌های هوش مصنوعی رونمایی کرد که شامل طیف وسیعی از دستگاه‌هاست:
* تراشه RTX Spark: این چیپ که برای لپ‌تاپ‌ها طراحی شده، پردازنده و کارت گرافیک معماری Blackwell را روی یک کریستال ادغام کرده است. با ۱۲۸ گیگابایت حافظه اشتراکی، این تراشه توان عملیاتی تا ۱ پتافلاپس را ارائه می‌دهد و امکان اجرای محلی مدل‌هایی با پارامترهای تا ۱۲۰ میلیارد را فراهم می‌کند. مدل‌های مجهز به این تراشه توسط شرکت‌هایی مانند مایکروسافت، دل، لنوو و ایسوس با قیمت پایه ۲۶۰۰ دلار عرضه می‌شوند.
* معماری Vera Rubin: این نسل جدید پردازنده‌ها پس از Blackwell به تولید انبوه رسیده و به‌طور اختصاصی برای پشتیبانی از ایجنت‌های هوش مصنوعی توسعه یافته است.
* کارخانه‌های هوش مصنوعی (DSX POD): این زیرساخت‌ها به‌صورت کانتینرهای آماده عرضه می‌شوند که با وزن ۲۸.۵ تن و ۱۰ میلیون قطعه، زمان راه‌اندازی دیتاسنتر را از ۶ ماه به ۱۴ روز کاهش می‌دهند. این سیستم‌ها مصرف برق را ۳۰ درصد کاهش داده و با حداقل آب خنک‌کاری می‌شوند.
🇮🇷 سایت | تلگرام
انویدیا در کنفرانس برلین از محصولات جدید خود برای پردازش‌های هوش مصنوعی رونمایی کرد که شامل طیف وسیعی از دستگاه‌هاست:
* تراشه RTX Spark: این چیپ که برای لپ‌تاپ‌ها طراحی شده، پردازنده و کارت گرافیک معماری Blackwell را روی یک کریستال ادغام کرده است. با ۱۲۸ گیگابایت حافظه اشتراکی، این تراشه توان عملیاتی تا ۱ پتافلاپس را ارائه می‌دهد و امکان اجرای محلی مدل‌هایی با پارامترهای تا ۱۲۰ میلیارد را فراهم می‌کند. مدل‌های مجهز به این تراشه توسط شرکت‌هایی مانند مایکروسافت، دل، لنوو و ایسوس با قیمت پایه ۲۶۰۰ دلار عرضه می‌شوند.
* معماری Vera Rubin: این نسل جدید پردازنده‌ها پس از Blackwell به تولید انبوه رسیده و به‌طور اختصاصی برای پشتیبانی از ایجنت‌های هوش مصنوعی توسعه یافته است.
* کارخانه‌های هوش مصنوعی (DSX POD): این زیرساخت‌ها به‌صورت کانتینرهای آماده عرضه می‌شوند که با وزن ۲۸.۵ تن و ۱۰ میلیون قطعه، زمان راه‌اندازی دیتاسنتر را از ۶ ماه به ۱۴ روز کاهش می‌دهند. این سیستم‌ها مصرف برق را ۳۰ درصد کاهش داده و با حداقل آب خنک‌کاری می‌شوند.
🇮🇷 سایت | تلگرام
❤1
🚀 عرضه TorchTPU: پشتیبانی بومی PyTorch از TPUهای گوگل
گوگل ابزار TorchTPU را به صورت متن‌باز منتشر کرد. این پروژه یک بک‌اند بومی برای PyTorch است که TPUهای گوگل را به عنوان یک دستگاه معمولی در PyTorch شناسایی می‌کند. این جایگزین برای PyTorch/XLA، با همکاری متا توسعه یافته و تحت مجوز Apache 2.0 عرضه شده است.
ویژگی اصلی این نسخه، استفاده از ثبت PrivateUse1 است؛ بنابراین تنسورها بدون نیاز به JAX runtime در حالت عادی باقی می‌مانند. اجرای کد به صورت پیش‌فرض به شکل eager است و در صورت استفاده از
مهم‌ترین نکات فنی:
- رسیدن به ۵۲ درصد MFU در آموزش مدل Qwen 3 8B.
- مقیاس‌پذیری خطی تا ۸۱۹۲ واحد TPU.
- بهبود سرعت اجرا از ۱۱.۴۹ ثانیه به ۲.۷۸ ثانیه پس از کامپایل و شاردینگ.
این ابزار هم‌اکنون در vLLM، SGLang و نسخه پنجم Hugging Face Transformers پشتیبانی می‌شود. جزئیات بیشتر را می‌توانید در مقاله فنی یا مستندات آن مشاهده کنید.
#TorchTPU #PyTorchOnTPU
گوگل ابزار TorchTPU را به صورت متن‌باز منتشر کرد. این پروژه یک بک‌اند بومی برای PyTorch است که TPUهای گوگل را به عنوان یک دستگاه معمولی در PyTorch شناسایی می‌کند. این جایگزین برای PyTorch/XLA، با همکاری متا توسعه یافته و تحت مجوز Apache 2.0 عرضه شده است.
ویژگی اصلی این نسخه، استفاده از ثبت PrivateUse1 است؛ بنابراین تنسورها بدون نیاز به JAX runtime در حالت عادی باقی می‌مانند. اجرای کد به صورت پیش‌فرض به شکل eager است و در صورت استفاده از
torch.compile، از طریق StableHLO به XLA منتقل می‌شود.مهم‌ترین نکات فنی:
- رسیدن به ۵۲ درصد MFU در آموزش مدل Qwen 3 8B.
- مقیاس‌پذیری خطی تا ۸۱۹۲ واحد TPU.
- بهبود سرعت اجرا از ۱۱.۴۹ ثانیه به ۲.۷۸ ثانیه پس از کامپایل و شاردینگ.
این ابزار هم‌اکنون در vLLM، SGLang و نسخه پنجم Hugging Face Transformers پشتیبانی می‌شود. جزئیات بیشتر را می‌توانید در مقاله فنی یا مستندات آن مشاهده کنید.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#TorchTPU #PyTorchOnTPU
🤖 سیستم WorkForge برای آموزش خودکار عوامل هوش مصنوعی
پروژه WorkForge روشی برای تولید خودکار محیط‌های تمرینی از روی فایل‌ها و گردش‌کارهای واقعی ارائه داده است. این سیستم با تحلیل اسناد، حقایق قابل‌بررسی را استخراج و بر اساس آن‌ها، تسک‌ها و معیارهای ارزیابی طراحی می‌کند.
این رویکرد شامل چهار مرحله اصلی است:
* گردش کار کارشناس: تعریف حوزه‌ها، اهداف و خروجی‌های مورد انتظار.
* سنتز محیط: ساخت فضای کاری شامل ابزارها، فایل‌ها و وضعیت اولیه با استفاده از یک عامل فراخوانی.
* تولید تسک: ایجاد دستورالعمل‌ها و ماژول‌های ارزیابی شامل قاضی برنامه‌نویسی‌شده و معنایی.
* تولید مسیر اجرا: تعامل عامل حل‌کننده با محیط و امتیازدهی به خروجی‌ها.
ارزیابی‌ها نشان می‌دهد پس از آموزش مدل
#WorkForge #Qwen3_5
پروژه WorkForge روشی برای تولید خودکار محیط‌های تمرینی از روی فایل‌ها و گردش‌کارهای واقعی ارائه داده است. این سیستم با تحلیل اسناد، حقایق قابل‌بررسی را استخراج و بر اساس آن‌ها، تسک‌ها و معیارهای ارزیابی طراحی می‌کند.
این رویکرد شامل چهار مرحله اصلی است:
* گردش کار کارشناس: تعریف حوزه‌ها، اهداف و خروجی‌های مورد انتظار.
* سنتز محیط: ساخت فضای کاری شامل ابزارها، فایل‌ها و وضعیت اولیه با استفاده از یک عامل فراخوانی.
* تولید تسک: ایجاد دستورالعمل‌ها و ماژول‌های ارزیابی شامل قاضی برنامه‌نویسی‌شده و معنایی.
* تولید مسیر اجرا: تعامل عامل حل‌کننده با محیط و امتیازدهی به خروجی‌ها.
ارزیابی‌ها نشان می‌دهد پس از آموزش مدل
Qwen3.5-35B-A3B-Base با این داده‌ها، امتیاز GDPVal از ۴۵.۵ به ۷۳.۶ و امتیاز APEX Score از ۵.۰ به ۲۱.۳ افزایش یافته است. این سیستم تاکنون ۱۶.۷ هزار محیط در ۴۰ حوزه تخصصی و با ۶۰ نوع فایل مختلف ایجاد کرده است.🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#WorkForge #Qwen3_5
🤖 استفاده گروه سایبری از مدل‌های هوش مصنوعی برای حملات مالی
گروه «CyberCartel» با بهره‌گیری از مدل‌های هوش مصنوعی مانند Claude، Grok و Kimi، حملات خودکار علیه بیش از ۴۰۰ هدف بانکی و مالی در آمریکای لاتین را سازماندهی کرده است. طبق گزارش Straiker، این عاملان با استفاده از هوش مصنوعی، بخش بزرگی از فرآیند شناسایی اهداف، کدنویسی حملات و پردازش داده‌های سرقت‌شده را خودکارسازی کرده‌اند.
ساختار عملیاتی این گروه که با نام Hexagon C2 شناخته می‌شود، شامل اجزای زیر است:
* گره‌های فرمان‌دهی: دو نود اصلی برای هماهنگی تاکتیکی و توسعه اشتراکی عملیات.
* سطوح هوش مصنوعی: استفاده از API مدل‌های مختلف؛ در حال حاضر برخی مدل‌ها مسدود شده و برخی دیگر از طریق کلیدهای سرقت‌شده فعال هستند.
* لایه اجرا و ناشناسی: استفاده از
* بردار‌های نفوذ: شامل شناسایی داده‌های باارزش، شکار اعتبارنامه‌ها و گسترش نفوذ در زیرساخت اهداف.
پس از گزارش این فعالیت‌ها، Anthropic دسترسی گروه به
گروه «CyberCartel» با بهره‌گیری از مدل‌های هوش مصنوعی مانند Claude، Grok و Kimi، حملات خودکار علیه بیش از ۴۰۰ هدف بانکی و مالی در آمریکای لاتین را سازماندهی کرده است. طبق گزارش Straiker، این عاملان با استفاده از هوش مصنوعی، بخش بزرگی از فرآیند شناسایی اهداف، کدنویسی حملات و پردازش داده‌های سرقت‌شده را خودکارسازی کرده‌اند.
ساختار عملیاتی این گروه که با نام Hexagon C2 شناخته می‌شود، شامل اجزای زیر است:
* گره‌های فرمان‌دهی: دو نود اصلی برای هماهنگی تاکتیکی و توسعه اشتراکی عملیات.
* سطوح هوش مصنوعی: استفاده از API مدل‌های مختلف؛ در حال حاضر برخی مدل‌ها مسدود شده و برخی دیگر از طریق کلیدهای سرقت‌شده فعال هستند.
* لایه اجرا و ناشناسی: استفاده از
Playwright برای اجرای محلی و عبور ترافیک از تونل SOCKS5.* بردار‌های نفوذ: شامل شناسایی داده‌های باارزش، شکار اعتبارنامه‌ها و گسترش نفوذ در زیرساخت اهداف.
پس از گزارش این فعالیت‌ها، Anthropic دسترسی گروه به
Claude را مسدود کرده و xAI نیز تحقیقات خود را درباره استفاده از Grok آغاز کرده است.🔍 کاهش توکن‌های استدلال در مدل ThinkingCap-Qwen
شرکت BottleCap AI مدل ThinkingCap-Qwen3.8-Flash-Next را با هدف بهینه‌سازی فرآیند تفکر مدل‌های زبانی منتشر کرد. این نسخه با محدود کردن گام‌های غیرضروری در استدلال مدل، تعداد توکن‌های «Thinking» را کاهش می‌دهد.
طبق داده‌های تیم توسعه‌دهنده:
- کاهش میانگین ۳۸.۵ درصدی توکن‌های استدلال (در برخی تست‌ها تا ۵۱ درصد).
- کاهش ۱.۰۳ درصدی دقت پاسخ‌ها.
- در نسخه ThinkingCap PRO، کاهش میانگین توکن‌های تفکر تا ۶۰ درصد اعلام شده است.
این مدل برای شرایطی طراحی شده که مراحل اضافی استدلال تأثیر ناچیزی بر صحت پاسخ نهایی دارند. البته باید توجه داشت که کاهش توکن‌های استدلال به معنای افزایش سرعت کل درخواست نیست، زیرا پردازش متن و تولید خروجی همچنان زمان‌بر است.
نسخه اصلی این مدل در Hugging Face و نسخه GGUF برای اجرای محلی در دسترس قرار گرفته است. اطلاعات بیشتر و محاسبه‌گر تأخیر را می‌توانید در بلاگ شرکت مشاهده کنید.
#ThinkingCap_Qwen3 #GGUF
شرکت BottleCap AI مدل ThinkingCap-Qwen3.8-Flash-Next را با هدف بهینه‌سازی فرآیند تفکر مدل‌های زبانی منتشر کرد. این نسخه با محدود کردن گام‌های غیرضروری در استدلال مدل، تعداد توکن‌های «Thinking» را کاهش می‌دهد.
طبق داده‌های تیم توسعه‌دهنده:
- کاهش میانگین ۳۸.۵ درصدی توکن‌های استدلال (در برخی تست‌ها تا ۵۱ درصد).
- کاهش ۱.۰۳ درصدی دقت پاسخ‌ها.
- در نسخه ThinkingCap PRO، کاهش میانگین توکن‌های تفکر تا ۶۰ درصد اعلام شده است.
این مدل برای شرایطی طراحی شده که مراحل اضافی استدلال تأثیر ناچیزی بر صحت پاسخ نهایی دارند. البته باید توجه داشت که کاهش توکن‌های استدلال به معنای افزایش سرعت کل درخواست نیست، زیرا پردازش متن و تولید خروجی همچنان زمان‌بر است.
نسخه اصلی این مدل در Hugging Face و نسخه GGUF برای اجرای محلی در دسترس قرار گرفته است. اطلاعات بیشتر و محاسبه‌گر تأخیر را می‌توانید در بلاگ شرکت مشاهده کنید.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#ThinkingCap_Qwen3 #GGUF