🚀 افزایش سرعت استنتاج مدل‌های MoE توسط انویدیا
انویدیا سه راهکار برای افزایش سرعت استنتاج مدل‌های Mixture-of-Experts (MoE) روی سخت‌افزار DGX Spark معرفی کرده است. این روش‌ها با استفاده از مدل Ling-3.0-flash (با ۱۲۴ میلیارد پارامتر) آزمایش شده‌اند.
از آنجا که در batch size برابر با ۱، سرعت استنتاج محدود به حافظه (Memory-bound) است، انویدیا بر کاهش انتقال داده تمرکز کرده است:
* استفاده از هسته‌های بهینه‌شده Humming MoE
* به‌کارگیری FP8 برای LM head
* استفاده از مکانیزم Speculative Decoding داخلی (MTP)
در آزمایش روی مجموعه‌داده GSM8K، نرخ توکن تولیدی ۴۲.۵ درصد افزایش و تأخیر ۲۴.۵ درصد کاهش یافته است، در حالی که دقت مدل تقریباً بدون تغییر باقی ماند.
دقت کنید که این بهینه‌سازی نیازمند داشتن یک ماژول LM-head مشترک است و در صورت عدم استفاده از آن، سرعت به سطح پیش‌فرض بازمی‌گردد. جزئیات پیاده‌سازی و دستورالعمل‌های استفاده در Ling cookbook در دسترس است. اطلاعات بیشتر در وبلاگ فنی انویدیا موجود است.
#Ling_3 #MTP_decoding
انویدیا سه راهکار برای افزایش سرعت استنتاج مدل‌های Mixture-of-Experts (MoE) روی سخت‌افزار DGX Spark معرفی کرده است. این روش‌ها با استفاده از مدل Ling-3.0-flash (با ۱۲۴ میلیارد پارامتر) آزمایش شده‌اند.
از آنجا که در batch size برابر با ۱، سرعت استنتاج محدود به حافظه (Memory-bound) است، انویدیا بر کاهش انتقال داده تمرکز کرده است:
* استفاده از هسته‌های بهینه‌شده Humming MoE
* به‌کارگیری FP8 برای LM head
* استفاده از مکانیزم Speculative Decoding داخلی (MTP)
در آزمایش روی مجموعه‌داده GSM8K، نرخ توکن تولیدی ۴۲.۵ درصد افزایش و تأخیر ۲۴.۵ درصد کاهش یافته است، در حالی که دقت مدل تقریباً بدون تغییر باقی ماند.
دقت کنید که این بهینه‌سازی نیازمند داشتن یک ماژول LM-head مشترک است و در صورت عدم استفاده از آن، سرعت به سطح پیش‌فرض بازمی‌گردد. جزئیات پیاده‌سازی و دستورالعمل‌های استفاده در Ling cookbook در دسترس است. اطلاعات بیشتر در وبلاگ فنی انویدیا موجود است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Ling_3 #MTP_decoding
🤖 سیستم Agile Deliberation گوگل برای یادگیری مفاهیم انتزاعی
گوگل ریسرچ سیستم جدیدی به نام Agile Deliberation معرفی کرده است که به مدل‌های هوش مصنوعی اجازه می‌دهد مفاهیم ذهنی و مبهم (مانند تعریف دقیق غذای سالم) را بدون نیاز به بازآموزی (Retraining) یاد بگیرند.
در این روش، مدل به جای تکیه بر دستورالعمل‌های ایستا، تصاویر یا داده‌های بحث‌برانگیز را شناسایی کرده و از انسان می‌خواهد تکلیف آن‌ها را مشخص کند. سپس یک LLM (در این آزمایش Gemini 2.5 Pro و Flash) بر اساس بازخورد کاربر، دستورالعمل‌های مدل بصری را به‌روزرسانی می‌کند.
مهم‌ترین نتایج این پژوهش:
* افزایش ۱۱ درصدی امتیاز F1 نسبت به دسته‌بندی‌کننده‌های پایه.
* بهبود ۷.۵ درصدی عملکرد در مقایسه با روش‌های خودکارِ تفکیک دسته‌ها.
* برتری ۳ درصدی نسبت به روش ویرایش دستی پرامپت‌ها.
* رضایت کامل ۱۸ شرکت‌کننده تحقیق و ترجیح آن بر تنظیمات دستی.
کد این پروژه و نسخه دمو در Colab در دسترس است.
#Agile_Deliberation #Gemini_Pro
گوگل ریسرچ سیستم جدیدی به نام Agile Deliberation معرفی کرده است که به مدل‌های هوش مصنوعی اجازه می‌دهد مفاهیم ذهنی و مبهم (مانند تعریف دقیق غذای سالم) را بدون نیاز به بازآموزی (Retraining) یاد بگیرند.
در این روش، مدل به جای تکیه بر دستورالعمل‌های ایستا، تصاویر یا داده‌های بحث‌برانگیز را شناسایی کرده و از انسان می‌خواهد تکلیف آن‌ها را مشخص کند. سپس یک LLM (در این آزمایش Gemini 2.5 Pro و Flash) بر اساس بازخورد کاربر، دستورالعمل‌های مدل بصری را به‌روزرسانی می‌کند.
مهم‌ترین نتایج این پژوهش:
* افزایش ۱۱ درصدی امتیاز F1 نسبت به دسته‌بندی‌کننده‌های پایه.
* بهبود ۷.۵ درصدی عملکرد در مقایسه با روش‌های خودکارِ تفکیک دسته‌ها.
* برتری ۳ درصدی نسبت به روش ویرایش دستی پرامپت‌ها.
* رضایت کامل ۱۸ شرکت‌کننده تحقیق و ترجیح آن بر تنظیمات دستی.
کد این پروژه و نسخه دمو در Colab در دسترس است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Agile_Deliberation #Gemini_Pro
This media is not supported in your browser
VIEW IN TELEGRAM
🖥️ مقایسه بهره‌وری اقتصادی شتاب‌دهنده‌های NVIDIA و AMD
پژوهشگران دانشگاه استنفورد با ارزیابی چهار شتاب‌دهنده هوش مصنوعی بر روی ۲۲۰ وظیفه حرفه‌ای، کارایی مدل
نتایج نشان می‌دهد که NVIDIA B200 در مقایسه با AMD MI350X عملکرد بهتری در دو شاخص کلیدی داشته است:
* بازده اقتصادی: بیش از ۴ برابر ارزش مالی کار انجام‌شده به ازای هر واحد انرژی.
* صرفه‌جویی در زمان: بیش از ۹ برابر صرفه‌جویی در زمان کارشناسان به ازای هر واحد انرژی.
این تحقیق به جای تمرکز صرف بر سرعت تولید توکن، بر «سودمندی اقتصادی» خروجی‌های مدل در برابر کیلووات‌ساعت مصرفی تمرکز کرده است. البته نویسندگان تاکید کرده‌اند که این نتایج به معنای برتری مطلق در تمام شرایط عملیاتی نیست؛ چرا که هزینه‌های خرید تجهیزات، نحوه نگهداری، هزینه‌های خنک‌سازی و بهینه‌سازی‌های نرم‌افزاری نیز در قیمت نهایی عملیات نقش دارند. اطلاعات بیشتر در این گزارش قابل مشاهده است.
پژوهشگران دانشگاه استنفورد با ارزیابی چهار شتاب‌دهنده هوش مصنوعی بر روی ۲۲۰ وظیفه حرفه‌ای، کارایی مدل
Qwen3.6-27B را از نظر اقتصادی و مصرف انرژی سنجیدند. در این آزمایش، مدل در هر چهار پلتفرم ثابت بود و تنها سخت‌افزار تغییر کرد.نتایج نشان می‌دهد که NVIDIA B200 در مقایسه با AMD MI350X عملکرد بهتری در دو شاخص کلیدی داشته است:
* بازده اقتصادی: بیش از ۴ برابر ارزش مالی کار انجام‌شده به ازای هر واحد انرژی.
* صرفه‌جویی در زمان: بیش از ۹ برابر صرفه‌جویی در زمان کارشناسان به ازای هر واحد انرژی.
این تحقیق به جای تمرکز صرف بر سرعت تولید توکن، بر «سودمندی اقتصادی» خروجی‌های مدل در برابر کیلووات‌ساعت مصرفی تمرکز کرده است. البته نویسندگان تاکید کرده‌اند که این نتایج به معنای برتری مطلق در تمام شرایط عملیاتی نیست؛ چرا که هزینه‌های خرید تجهیزات، نحوه نگهداری، هزینه‌های خنک‌سازی و بهینه‌سازی‌های نرم‌افزاری نیز در قیمت نهایی عملیات نقش دارند. اطلاعات بیشتر در این گزارش قابل مشاهده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
🤖 عرضه مدل Gemini Omni 1.2 Flash با کاهش هزینه تولید ویدیو
گوگل مدل Gemini Omni 1.2 Flash را منتشر کرد که هزینه تولید ویدیو در آن ۳۰ درصد کاهش یافته است. اکنون هزینه تولید هر ثانیه ویدیو با کیفیت 720p به ۰.۰۷ دلار رسیده است.
قابلیت‌های جدید این نسخه شامل موارد زیر است:
* افزایش مدت زمان تولید ویدیو از ۱۰ به ۱۵ ثانیه.
* امکان ویرایش ویدیو از طریق گفتگو برای تغییر نورپردازی، پس‌زمینه یا شرایط جوی بدون نیاز به تولید مجدد.
* بهبود حفظ ثبات ظاهری شخصیت‌ها و جزئیات لباس هنگام تغییر زاویه دوربین.
* پشتیبانی از رفرنس‌های صوتی، تصویری و ویدیویی.
* بهبود همگام‌سازی لب با صدا و حرکات دوربین.
خروجی‌های ویدیو در رزولوشن‌های 360p و 720p تولید شده و سپس تا 4K قابل مقیاس‌دهی هستند. این مدل هم‌اکنون از طریق Google AI Studio و Gemini API در دسترس توسعه‌دهندگان قرار دارد.
#GeminiOmni1_2Flash #تولید_ویدیو_هوش_مصنوعی
گوگل مدل Gemini Omni 1.2 Flash را منتشر کرد که هزینه تولید ویدیو در آن ۳۰ درصد کاهش یافته است. اکنون هزینه تولید هر ثانیه ویدیو با کیفیت 720p به ۰.۰۷ دلار رسیده است.
قابلیت‌های جدید این نسخه شامل موارد زیر است:
* افزایش مدت زمان تولید ویدیو از ۱۰ به ۱۵ ثانیه.
* امکان ویرایش ویدیو از طریق گفتگو برای تغییر نورپردازی، پس‌زمینه یا شرایط جوی بدون نیاز به تولید مجدد.
* بهبود حفظ ثبات ظاهری شخصیت‌ها و جزئیات لباس هنگام تغییر زاویه دوربین.
* پشتیبانی از رفرنس‌های صوتی، تصویری و ویدیویی.
* بهبود همگام‌سازی لب با صدا و حرکات دوربین.
خروجی‌های ویدیو در رزولوشن‌های 360p و 720p تولید شده و سپس تا 4K قابل مقیاس‌دهی هستند. این مدل هم‌اکنون از طریق Google AI Studio و Gemini API در دسترس توسعه‌دهندگان قرار دارد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#GeminiOmni1_2Flash #تولید_ویدیو_هوش_مصنوعی
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 معرفی مدل GPT-6 Cyber برای امنیت سایبری
شرکت OpenAI از مدل تخصصی جدیدی با نام GPT-6 Cyber رونمایی کرد که برای شناسایی حفره‌های امنیتی، تحلیل کد و طراحی اکسپلویت سیستم‌های محافظت‌شده بهینه‌سازی شده است.
این مدل در معیارهای عملکردی پیشرفت قابل‌توجهی داشته است:
* در بنچمارک ExploitGym، این مدل به امتیاز ۴۸.۵ درصد دست یافت، در حالی که مدل قبلی (GPT-5.6 Cyber) امتیاز ۳۲.۱ درصد را ثبت کرده بود.
* این ابزار موفق به شناسایی ۸۱ آسیب‌پذیری ناشناخته در مرورگر فایرفاکس شد.
OpenAI سطح ریسک این مدل را در طبقه‌بندی خود «بحرانی» اعلام کرده است؛ چرا که توانایی طراحی خودکار اکسپلویت برای سیستم‌های امنیتی پیچیده را دارد. با این حال، کنترل رفتارهای خودمختار مدل بهبود یافته و نرخ خروج از محدوده‌های تعیین‌شده در آزمایش‌ها به کمتر از ۱ درصد رسیده است.
دسترسی به این مدل فعلاً از طریق برنامه Daybreak Red برای گروه محدودی از متخصصان امنیت امکان‌پذیر است و در هفته‌های آینده به شکل گسترده‌تری منتشر خواهد شد.
#GPT6_Cyber #ExploitGym
شرکت OpenAI از مدل تخصصی جدیدی با نام GPT-6 Cyber رونمایی کرد که برای شناسایی حفره‌های امنیتی، تحلیل کد و طراحی اکسپلویت سیستم‌های محافظت‌شده بهینه‌سازی شده است.
این مدل در معیارهای عملکردی پیشرفت قابل‌توجهی داشته است:
* در بنچمارک ExploitGym، این مدل به امتیاز ۴۸.۵ درصد دست یافت، در حالی که مدل قبلی (GPT-5.6 Cyber) امتیاز ۳۲.۱ درصد را ثبت کرده بود.
* این ابزار موفق به شناسایی ۸۱ آسیب‌پذیری ناشناخته در مرورگر فایرفاکس شد.
OpenAI سطح ریسک این مدل را در طبقه‌بندی خود «بحرانی» اعلام کرده است؛ چرا که توانایی طراحی خودکار اکسپلویت برای سیستم‌های امنیتی پیچیده را دارد. با این حال، کنترل رفتارهای خودمختار مدل بهبود یافته و نرخ خروج از محدوده‌های تعیین‌شده در آزمایش‌ها به کمتر از ۱ درصد رسیده است.
دسترسی به این مدل فعلاً از طریق برنامه Daybreak Red برای گروه محدودی از متخصصان امنیت امکان‌پذیر است و در هفته‌های آینده به شکل گسترده‌تری منتشر خواهد شد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#GPT6_Cyber #ExploitGym
This media is not supported in your browser
VIEW IN TELEGRAM
🧠 امکان اشتراک حافظه میان ChatGPT و Claude در نوشن
نوشن با پشتیبانی از پروتکل MCP امکان استفاده از حافظه مشترک را برای ChatGPT، Claude و سایر برنامه‌های متصل فراهم کرده است. با این قابلیت، دستیارها می‌توانند یادداشت‌ها، ترجیحات و مهارت‌های موجود در فضای کاری را بخوانند و اطلاعات جدید را در همان‌جا ثبت کنند.
مراحل راه‌اندازی:
۱. اتصال برنامه از طریق گالری نوشن یا محیط همان برنامه
۲. قرار دادن پرامپت تنظیمات نوشن تا ربات پیش از پاسخ، یادداشت‌ها را بررسی کند و خروجی‌های مفید را ذخیره نماید
۳. کپی کردن دستورالعمل‌های سفارشی ارائه شده در بخش تنظیمات ChatGPT یا Claude
نوشن اعلام کرده است که بدون قرار دادن این پرامپت، مدل‌ها معمولاً اتصال ایجادشده را نادیده می‌گیرند. تمام داده‌ها در یک دیتابیس قابل‌ویرایش به نام Memories ذخیره می‌شوند و این تنظیمات برای هر ربات فقط یک‌بار انجام می‌شود. جزئیات بیشتر در راهنمای Notion MCP در دسترس است.
#Notion #MCP
نوشن با پشتیبانی از پروتکل MCP امکان استفاده از حافظه مشترک را برای ChatGPT، Claude و سایر برنامه‌های متصل فراهم کرده است. با این قابلیت، دستیارها می‌توانند یادداشت‌ها، ترجیحات و مهارت‌های موجود در فضای کاری را بخوانند و اطلاعات جدید را در همان‌جا ثبت کنند.
مراحل راه‌اندازی:
۱. اتصال برنامه از طریق گالری نوشن یا محیط همان برنامه
۲. قرار دادن پرامپت تنظیمات نوشن تا ربات پیش از پاسخ، یادداشت‌ها را بررسی کند و خروجی‌های مفید را ذخیره نماید
۳. کپی کردن دستورالعمل‌های سفارشی ارائه شده در بخش تنظیمات ChatGPT یا Claude
نوشن اعلام کرده است که بدون قرار دادن این پرامپت، مدل‌ها معمولاً اتصال ایجادشده را نادیده می‌گیرند. تمام داده‌ها در یک دیتابیس قابل‌ویرایش به نام Memories ذخیره می‌شوند و این تنظیمات برای هر ربات فقط یک‌بار انجام می‌شود. جزئیات بیشتر در راهنمای Notion MCP در دسترس است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Notion #MCP
🌐 تنست مدل متن‌باز Hy4 را با قابلیت پردازش تصویر منتشر کرد
تیم تنست نسخه جدید مدل متن‌باز خود را با نام Hy4 منتشر کرد. این مدل در این نسخه به قابلیت‌های بینایی و دریافت ورودی تصویری مجهز شده است.
طبق اعلام تنست، این مدل برای کاربرد در حوزه‌های مختلفی مانند برنامه‌نویسی فرانت‌اند، امور مالی، بازی‌سازی، کارهای اداری و پژوهشی توسعه یافته و در آموزش آن به ملاحظات ایمنی سایبری و زیستی توجه شده است.
تیم تنست نسخه جدید مدل متن‌باز خود را با نام Hy4 منتشر کرد. این مدل در این نسخه به قابلیت‌های بینایی و دریافت ورودی تصویری مجهز شده است.
طبق اعلام تنست، این مدل برای کاربرد در حوزه‌های مختلفی مانند برنامه‌نویسی فرانت‌اند، امور مالی، بازی‌سازی، کارهای اداری و پژوهشی توسعه یافته و در آموزش آن به ملاحظات ایمنی سایبری و زیستی توجه شده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
❤1
هوش مصنوعی و علم داده به فارسی
🌐 تنست مدل متن‌باز Hy4 را با قابلیت پردازش تصویر منتشر کرد تیم تنست نسخه جدید مدل متن‌باز خود را با نام Hy4 منتشر کرد. این مدل در این نسخه به قابلیت‌های بینایی و دریافت ورودی تصویری مجهز شده است. طبق اعلام تنست، این مدل برای کاربرد در حوزه‌های مختلفی…
📊 مدل Hy4 در لیدربورد Agent Arena
مدل Hy4 با قرارگیری در رتبه چهاردهم کلی، به مرز پارتو (Pareto frontier) در Agent Arena راه یافت. این مدل در بیش از ۸.۵ هزار نشست عامل‌محور واقعی، عملکردی مشابه Kimi K3.1 Pro دارد، با این تفاوت که هزینه اجرای آن برای هر تسک ۰.۵۵ دلار است که ۶۲ درصد ارزان‌تر از هزینه ۱.۴۶ دلاری Kimi محسوب می‌شود.
طبق اعلام سازندگان، در صورت انتشار وزن‌های این مدل، Hy4 در رده مدل‌های متن‌باز با Kimi K3.1 Pro در جایگاه اول قرار می‌گیرد. مهم‌ترین بهبودهای این نسخه در شاخص‌های عملکردی عبارت‌اند از:
- میزان موفقیت تاییدشده: رتبه ۱۱ با ۸.۷ درصد بهبود
- قابلیت هدایت‌پذیری: رتبه ۱۴ با ۵.۷ درصد بهبود
- اطمینان در اجرای دستورات Bash: رتبه ۲۰ با ۶.۲ درصد بهبود
- شاخص احساسات کاربر (تمجید نسبت به شکایت): رتبه ۱۸ با ۳.۸ درصد بهبود
مدل Hy4 با قرارگیری در رتبه چهاردهم کلی، به مرز پارتو (Pareto frontier) در Agent Arena راه یافت. این مدل در بیش از ۸.۵ هزار نشست عامل‌محور واقعی، عملکردی مشابه Kimi K3.1 Pro دارد، با این تفاوت که هزینه اجرای آن برای هر تسک ۰.۵۵ دلار است که ۶۲ درصد ارزان‌تر از هزینه ۱.۴۶ دلاری Kimi محسوب می‌شود.
طبق اعلام سازندگان، در صورت انتشار وزن‌های این مدل، Hy4 در رده مدل‌های متن‌باز با Kimi K3.1 Pro در جایگاه اول قرار می‌گیرد. مهم‌ترین بهبودهای این نسخه در شاخص‌های عملکردی عبارت‌اند از:
- میزان موفقیت تاییدشده: رتبه ۱۱ با ۸.۷ درصد بهبود
- قابلیت هدایت‌پذیری: رتبه ۱۴ با ۵.۷ درصد بهبود
- اطمینان در اجرای دستورات Bash: رتبه ۲۰ با ۶.۲ درصد بهبود
- شاخص احساسات کاربر (تمجید نسبت به شکایت): رتبه ۱۸ با ۳.۸ درصد بهبود
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
🧠 خلاصه تحولات 48 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #14 | 📌 5 آیتم گزارش | 🧾 از 22 پست بررسی‌شده
🕐 چهارشنبه 1405/08/13 ساعت 14:00 تا جمعه 1405/08/15 ساعت 14:00
تأیید اصالت خروجی مدل‌های زبانی در سیستم‌های روتینگ
ارزیابی صحت مدل بدون افشای وزن‌ها، از جایگزینی سرویس با نسخه‌های ارزان‌تر در زیرساخت‌های سازمانی جلوگیری می‌کند. اجرای اثبات اثربخش zkSNARK روی پردازنده‌های معمولی، راهکاری عملی برای تایید اصالت API فراهم می‌آورد. البته حجم ۱۹ مگابایتی اثبات برای ۱۰۲۴ توکن، اعمال این لایه را مشروط به پهنای باند شبکه می‌کند.
بهینه‌سازی نرخ استنتاج مدل‌های MoE در پردازش تک‌کاربره
کاهش تاخیر در استنتاج تک‌تک درخواست‌ها، گلوگاه حافظه را در سناریوهای کم‌حجم برطرف کرده و بهره‌وری سرویس‌دهی را افزایش می‌دهد. در صورت وجود ماژول مشترک خروجی، استفاده از رمزگشایی قیاسی و هسته‌های اختصاصی باعث کاهش تاخیر می‌شود. اما عدم پشتیبانی معماری مدل از این ساختار، مانع دستیابی به این افزایش سرعت خواهد شد.
🛠️ زیرساخت و ابزارهای توسعه
انتشار ابزار متن‌باز FlashProve توسط Anthropic
پروتکل اثبات اصالت مدل بدون نیاز به وزن‌ها و قابل بررسی روی سی‌پیو معمولی با استاندارد zkSNARK.
راهکارهای انویدیا برای شتاب‌دهی استنتاج مدل‌های MoE
افزایش ۴۲.۵ درصدی سرعت تولید توکن با هسته‌های بهینه‌شده، محاسبات FP8 و رمزگشایی قیاسی.
افزوده شدن Creator Mode به هرنس متن‌باز DeepSeek
تولید و ادغام خودکار پلاگین‌ها در رابط کاربری برنامه بر اساس توصیف متنی کاربر.
🔬 معماری مدل و ارزیابی عملیاتی
اشتراک حافظه دستیارهای هوش مصنوعی با پروتکل MCP در نوشن
امکان خواندن و به‌روزرسانی پایگاه داده یادداشت‌ها بین مدل‌های مختلف از جمله ChatGPT و Claude.
سنجش بهره‌وری اقتصادی شتاب‌دهنده‌های انویدیا و AMD توسط استنفورد
ارزیابی کارایی B200 در برابر MI350X روی مدل ثابت بر اساس میزان کار انجام‌شده به ازای انرژی مصرفی.
🗂 گزارش #14 | 📌 5 آیتم گزارش | 🧾 از 22 پست بررسی‌شده
🕐 چهارشنبه 1405/08/13 ساعت 14:00 تا جمعه 1405/08/15 ساعت 14:00
تأیید اصالت خروجی مدل‌های زبانی در سیستم‌های روتینگ
ارزیابی صحت مدل بدون افشای وزن‌ها، از جایگزینی سرویس با نسخه‌های ارزان‌تر در زیرساخت‌های سازمانی جلوگیری می‌کند. اجرای اثبات اثربخش zkSNARK روی پردازنده‌های معمولی، راهکاری عملی برای تایید اصالت API فراهم می‌آورد. البته حجم ۱۹ مگابایتی اثبات برای ۱۰۲۴ توکن، اعمال این لایه را مشروط به پهنای باند شبکه می‌کند.
بهینه‌سازی نرخ استنتاج مدل‌های MoE در پردازش تک‌کاربره
کاهش تاخیر در استنتاج تک‌تک درخواست‌ها، گلوگاه حافظه را در سناریوهای کم‌حجم برطرف کرده و بهره‌وری سرویس‌دهی را افزایش می‌دهد. در صورت وجود ماژول مشترک خروجی، استفاده از رمزگشایی قیاسی و هسته‌های اختصاصی باعث کاهش تاخیر می‌شود. اما عدم پشتیبانی معماری مدل از این ساختار، مانع دستیابی به این افزایش سرعت خواهد شد.
🛠️ زیرساخت و ابزارهای توسعه
انتشار ابزار متن‌باز FlashProve توسط Anthropic
پروتکل اثبات اصالت مدل بدون نیاز به وزن‌ها و قابل بررسی روی سی‌پیو معمولی با استاندارد zkSNARK.
راهکارهای انویدیا برای شتاب‌دهی استنتاج مدل‌های MoE
افزایش ۴۲.۵ درصدی سرعت تولید توکن با هسته‌های بهینه‌شده، محاسبات FP8 و رمزگشایی قیاسی.
افزوده شدن Creator Mode به هرنس متن‌باز DeepSeek
تولید و ادغام خودکار پلاگین‌ها در رابط کاربری برنامه بر اساس توصیف متنی کاربر.
🔬 معماری مدل و ارزیابی عملیاتی
اشتراک حافظه دستیارهای هوش مصنوعی با پروتکل MCP در نوشن
امکان خواندن و به‌روزرسانی پایگاه داده یادداشت‌ها بین مدل‌های مختلف از جمله ChatGPT و Claude.
سنجش بهره‌وری اقتصادی شتاب‌دهنده‌های انویدیا و AMD توسط استنفورد
ارزیابی کارایی B200 در برابر MI350X روی مدل ثابت بر اساس میزان کار انجام‌شده به ازای انرژی مصرفی.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 خروج مستقل ربات‌های انسان‌نمای F.03 فیگور از کارخانه
مدیرعامل شرکت Figure AI ویدیوی کوتاهی منتشر کرد که نشان می‌دهد ربات‌های انسان‌نمای جدید F.03 به‌طور مستقل از کارخانه BotQ خارج می‌شوند و از پارکینگ مجموعه عبور می‌کنند.
در این کلیپ ۲۰ ثانیه‌ای، این ربات‌ها بدون کنترل دستی یا هدایت اپراتور از راه دور، از کنار خودروها و عابران پیاده می‌گذرند.
مدیرعامل شرکت Figure AI ویدیوی کوتاهی منتشر کرد که نشان می‌دهد ربات‌های انسان‌نمای جدید F.03 به‌طور مستقل از کارخانه BotQ خارج می‌شوند و از پارکینگ مجموعه عبور می‌کنند.
در این کلیپ ۲۰ ثانیه‌ای، این ربات‌ها بدون کنترل دستی یا هدایت اپراتور از راه دور، از کنار خودروها و عابران پیاده می‌گذرند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️ افزایش ۳۵ درصدی سرعت Claude Code با قابلیت Message Threads
انتروپیک قابلیت جدیدی به نام Message Threads را در Claude API معرفی کرد که سرعت پاسخ‌دهی را در زمینه (Context) بین ۵۰۰ هزار تا یک میلیون توکن حدود ۳۵ درصد افزایش می‌دهد. این ویژگی به صورت بتا در ای‌پی‌آی اصلی، AWS، گوگل کلود و مایکروسافت فاوندری فعال شده است.
پیش از این در گفتگوهای طولانی یا عامل‌های هوش مصنوعی، کل تاریخچه پیام‌ها و خروجی ابزارها در هر درخواست دوباره ارسال می‌شد که گاهی به یک میلیون توکن می‌رسید. در روش جدید، تاریخچه کامل فقط یک‌بار ارسال و موقتاً در رم رمزشده سرور نگهداری می‌شود و درخواست‌های بعدی فقط پیام جدید و شناسه پاسخ قبلی را می‌فرستند.
این تغییر مدلی را عوض نمی‌کند و تعداد توکن‌های محاسبه‌شده در فاکتور مالی را کاهش نمی‌دهد، بلکه صرفاً زمان ارسال مجدد و آماده‌سازی داده‌ها را کم می‌کند. در صورت بی‌کار ماندن جلسه به مدت ۵ دقیقه، حافظه سرور پاک شده و درخواست بعدی دوباره تمام تاریخچه را ارسال خواهد کرد.
انتروپیک قابلیت جدیدی به نام Message Threads را در Claude API معرفی کرد که سرعت پاسخ‌دهی را در زمینه (Context) بین ۵۰۰ هزار تا یک میلیون توکن حدود ۳۵ درصد افزایش می‌دهد. این ویژگی به صورت بتا در ای‌پی‌آی اصلی، AWS، گوگل کلود و مایکروسافت فاوندری فعال شده است.
پیش از این در گفتگوهای طولانی یا عامل‌های هوش مصنوعی، کل تاریخچه پیام‌ها و خروجی ابزارها در هر درخواست دوباره ارسال می‌شد که گاهی به یک میلیون توکن می‌رسید. در روش جدید، تاریخچه کامل فقط یک‌بار ارسال و موقتاً در رم رمزشده سرور نگهداری می‌شود و درخواست‌های بعدی فقط پیام جدید و شناسه پاسخ قبلی را می‌فرستند.
این تغییر مدلی را عوض نمی‌کند و تعداد توکن‌های محاسبه‌شده در فاکتور مالی را کاهش نمی‌دهد، بلکه صرفاً زمان ارسال مجدد و آماده‌سازی داده‌ها را کم می‌کند. در صورت بی‌کار ماندن جلسه به مدت ۵ دقیقه، حافظه سرور پاک شده و درخواست بعدی دوباره تمام تاریخچه را ارسال خواهد کرد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
🛑 قطع دسترسی Cursor به مدل‌های OpenAI
شرکت OpenAI قصد دارد ارائه مدل‌های هوش مصنوعی خود را به محیط توسعه Cursor متوقف کند. ۱۲ نوامبر ۲۰۲۶ به‌عنوان تاریخ پیشنهادی برای پایان این دوره انتقالی مطرح شده، اما زمان نهایی هنوز در حال مذاکره است و ممکن است Cursor زودتر دسترسی به این مدل‌ها را قطع کند.
با اجرای این تصمیم، مدل‌های فعلی OpenAI از فهرست Cursor حذف خواهند شد. همچنین OpenAI اعلام کرده است که مدل‌های بعدی خود مانند GPT-6 Astra، GPT-6.1 Sol یا GPT-6 Luna را در اختیار این ادیتور قرار نخواهد داد.
#Cursor #OpenAI
شرکت OpenAI قصد دارد ارائه مدل‌های هوش مصنوعی خود را به محیط توسعه Cursor متوقف کند. ۱۲ نوامبر ۲۰۲۶ به‌عنوان تاریخ پیشنهادی برای پایان این دوره انتقالی مطرح شده، اما زمان نهایی هنوز در حال مذاکره است و ممکن است Cursor زودتر دسترسی به این مدل‌ها را قطع کند.
با اجرای این تصمیم، مدل‌های فعلی OpenAI از فهرست Cursor حذف خواهند شد. همچنین OpenAI اعلام کرده است که مدل‌های بعدی خود مانند GPT-6 Astra، GPT-6.1 Sol یا GPT-6 Luna را در اختیار این ادیتور قرار نخواهد داد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Cursor #OpenAI
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 انتشار مدل Images 2.6 توسط OpenAI
شرکت OpenAI نسخه 2.6 از مدل تولید تصویر خود را منتشر کرد که سرعت تولید آن نسبت به نسخه قبلی 50 درصد بهبود یافته است. این مدل اکنون در ChatGPT، Codex و API در دسترس قرار دارد.
مهم‌ترین تغییرات این نسخه شامل موارد زیر است:
- پشتیبانی از ساخت تصاویر متحرک (GIF): مدل با تولید توالی فریم‌ها، یک فایل GIF آماده برای انتشار ایجاد می‌کند.
- بهبود دقت در ویرایش: مدل در حفظ ثبات شخصیت‌ها و اشیا هنگام ویرایش‌های متوالی عملکرد بهتری دارد.
- قابلیت انتخاب نسخه API: کاربران می‌توانند از نسخه Flare برای سرعت بیشتر (حدود ۶ ثانیه در تنظیمات کیفیت پایین) یا نسخه Sunburst برای جزئیات بیشتر و حفظ دقیق‌تر طراحی استفاده کنند.
- ابزارهای جدید: افزودن نشانه‌گذاری ناحیه‌ای (Region Markup) برای ویرایش هدفمند، خروجی SVG برای تصاویر برداری و پارامتر Complexity جهت تنظیم سطح تفسیر پرامپت مستقل از کیفیت تصویر.
#Images_2 #Region_Markup
شرکت OpenAI نسخه 2.6 از مدل تولید تصویر خود را منتشر کرد که سرعت تولید آن نسبت به نسخه قبلی 50 درصد بهبود یافته است. این مدل اکنون در ChatGPT، Codex و API در دسترس قرار دارد.
مهم‌ترین تغییرات این نسخه شامل موارد زیر است:
- پشتیبانی از ساخت تصاویر متحرک (GIF): مدل با تولید توالی فریم‌ها، یک فایل GIF آماده برای انتشار ایجاد می‌کند.
- بهبود دقت در ویرایش: مدل در حفظ ثبات شخصیت‌ها و اشیا هنگام ویرایش‌های متوالی عملکرد بهتری دارد.
- قابلیت انتخاب نسخه API: کاربران می‌توانند از نسخه Flare برای سرعت بیشتر (حدود ۶ ثانیه در تنظیمات کیفیت پایین) یا نسخه Sunburst برای جزئیات بیشتر و حفظ دقیق‌تر طراحی استفاده کنند.
- ابزارهای جدید: افزودن نشانه‌گذاری ناحیه‌ای (Region Markup) برای ویرایش هدفمند، خروجی SVG برای تصاویر برداری و پارامتر Complexity جهت تنظیم سطح تفسیر پرامپت مستقل از کیفیت تصویر.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Images_2 #Region_Markup
معماری‌های مختلف سیستم‌های RAG
معماری‌های تولید تقویت‌شده با بازیابی (RAG) برای بهبود دقت پاسخ‌های مدل‌های زبانی از روش‌های مختلفی استفاده می‌کنند. مهم‌ترین این معماری‌ها به شرح زیر هستند:
* Naive RAG: روش پایه که شامل مراحل متوالی تقسیم اسناد به تکه‌ها (Chunks)، تبدیل به بردار و بازیابی مستقیم برای تولید پاسخ توسط LLM است.
* Retrieve-and-Rerank: اضافه کردن یک مدل رنکر (Reranker) پس از بازیابی اولیه برای اولویت‌بندی دقیق‌تر تکه‌های مرتبط.
* Multimodal RAG: پشتیبانی از انواع داده‌های چندوجهی شامل تصویر، جدول و صوت علاوه بر متن، با استفاده از مدل‌های Embedding چندوجهی.
* Graph RAG: استفاده از گراف دانش برای استخراج روابط بین موجودیت‌ها و بهبود درک محتوایی از داده‌ها.
* Hybrid RAG: ترکیب جستجوی برداری با جستجوی مبتنی بر کلمات کلیدی (مانند BM25) برای بهره‌گیری از مزایای هر دو رویکرد.
* Agentic RAG (Router): استفاده از یک عامل هوشمند برای تحلیل کوئری و انتخاب بهترین ابزار یا منبع بازیابی.
#GraphRAG #AgenticRAG
معماری‌های تولید تقویت‌شده با بازیابی (RAG) برای بهبود دقت پاسخ‌های مدل‌های زبانی از روش‌های مختلفی استفاده می‌کنند. مهم‌ترین این معماری‌ها به شرح زیر هستند:
* Naive RAG: روش پایه که شامل مراحل متوالی تقسیم اسناد به تکه‌ها (Chunks)، تبدیل به بردار و بازیابی مستقیم برای تولید پاسخ توسط LLM است.
* Retrieve-and-Rerank: اضافه کردن یک مدل رنکر (Reranker) پس از بازیابی اولیه برای اولویت‌بندی دقیق‌تر تکه‌های مرتبط.
* Multimodal RAG: پشتیبانی از انواع داده‌های چندوجهی شامل تصویر، جدول و صوت علاوه بر متن، با استفاده از مدل‌های Embedding چندوجهی.
* Graph RAG: استفاده از گراف دانش برای استخراج روابط بین موجودیت‌ها و بهبود درک محتوایی از داده‌ها.
* Hybrid RAG: ترکیب جستجوی برداری با جستجوی مبتنی بر کلمات کلیدی (مانند BM25) برای بهره‌گیری از مزایای هر دو رویکرد.
* Agentic RAG (Router): استفاده از یک عامل هوشمند برای تحلیل کوئری و انتخاب بهترین ابزار یا منبع بازیابی.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#GraphRAG #AgenticRAG
هوش مصنوعی و علم داده به فارسی
🤖 عرضه مدل Gemini Omni 1.2 Flash با کاهش هزینه تولید ویدیو گوگل مدل Gemini Omni 1.2 Flash را منتشر کرد که هزینه تولید ویدیو در آن ۳۰ درصد کاهش یافته است. اکنون هزینه تولید هر ثانیه ویدیو با کیفیت 720p به ۰.۰۷ دلار رسیده است. قابلیت‌های جدید این نسخه شامل…
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 عرضه مدل Gemini 1.2 Flash با قابلیت تولید ویدیو
گوگل مدل جدید Gemini 1.2 Flash را منتشر کرد. در این نسخه، امکان تولید و ویرایش کلیپ‌های ویدیویی همراه با صدا تا مدت ۱۵ ثانیه فراهم شده است که نسبت به نسخه ۱.۱، پنج ثانیه افزایش یافته است.
مهم‌ترین تغییرات و جزئیات این نسخه:
* کاهش هزینه: قیمت تولید هر ثانیه ویدیو با کیفیت 720p از طریق API حدود ۰.۰۷ دلار تعیین شده که ۳۰ درصد ارزان‌تر از نسخه قبلی است.
* کیفیت تصویر: خروجی‌های 1080p و 4K همچنان از طریق روش آپ‌اسکیل (Upscale) تولید می‌شوند.
* دسترسی: این مدل در AI Studio و پلتفرم Flow در دسترس است، اما برای تولید ویدیوهای ۱۵ ثانیه‌ای در اپلیکیشن Gemini، اشتراک Google AI Ultra الزامی است.
توضیحات فنی کامل این مدل در Model Card و راهنمای پیاده‌سازی آن در مستندات گوگل قابل مشاهده است. اطلاعات هزینه‌ها نیز در بخش قیمت‌گذاری سرویس‌های ابری گوگل به‌روزرسانی شده است.
#Gemini_1_2_Flash #Upscale
گوگل مدل جدید Gemini 1.2 Flash را منتشر کرد. در این نسخه، امکان تولید و ویرایش کلیپ‌های ویدیویی همراه با صدا تا مدت ۱۵ ثانیه فراهم شده است که نسبت به نسخه ۱.۱، پنج ثانیه افزایش یافته است.
مهم‌ترین تغییرات و جزئیات این نسخه:
* کاهش هزینه: قیمت تولید هر ثانیه ویدیو با کیفیت 720p از طریق API حدود ۰.۰۷ دلار تعیین شده که ۳۰ درصد ارزان‌تر از نسخه قبلی است.
* کیفیت تصویر: خروجی‌های 1080p و 4K همچنان از طریق روش آپ‌اسکیل (Upscale) تولید می‌شوند.
* دسترسی: این مدل در AI Studio و پلتفرم Flow در دسترس است، اما برای تولید ویدیوهای ۱۵ ثانیه‌ای در اپلیکیشن Gemini، اشتراک Google AI Ultra الزامی است.
توضیحات فنی کامل این مدل در Model Card و راهنمای پیاده‌سازی آن در مستندات گوگل قابل مشاهده است. اطلاعات هزینه‌ها نیز در بخش قیمت‌گذاری سرویس‌های ابری گوگل به‌روزرسانی شده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Gemini_1_2_Flash #Upscale
🤖 فرمالیزه شدن پروژه Stacks در زبان Lean
شرکت Axiom موفق شد پروژه Stacks، دایره‌المعارف ۷۵۰۰ صفحه‌ای هندسه جبری، را به ۱۶ میلیون خط کد قابل‌بررسی توسط ماشین در زبان Lean تبدیل کند. این پروژه که بزرگترین کتابخانه یکپارچه و قابل‌استفاده مجدد Lean محسوب می‌شود، تمام تعاریف، لم‌ها و قضایای این حوزه را با تگ‌های چهار کاراکتری منحصربه‌فرد فرمالیزه کرده است.
ویژگی‌های فنی این دستاورد عبارتند از:
* شامل ۶۲,۹۷۵ فایل مجزا و ۶۶۳,۰۹۰ اظهارنامه منطقی.
* امکان ردیابی وابستگی‌های بین قضایا و استفاده از نتایج اثبات‌شده برای تحقیقات جدید.
* نمایش تعاملی به صورت یک نقشه سه‌بعدی از گراف‌های وابستگی ریاضی.
این تیم همچنین هفته گذشته قضیه طبقه‌بندی گروه‌های ساده متناهی (CFSG) را با استفاده از ده‌ها عامل هوش مصنوعی طی ۲۴ روز به ۴۳.۱ میلیون خط کد Lean تبدیل کرد. هسته Lean با بررسی این اثبات‌ها، صحت منطقی آن‌ها را تضمین می‌کند.
#Stacks_Project #Lean_Prover
شرکت Axiom موفق شد پروژه Stacks، دایره‌المعارف ۷۵۰۰ صفحه‌ای هندسه جبری، را به ۱۶ میلیون خط کد قابل‌بررسی توسط ماشین در زبان Lean تبدیل کند. این پروژه که بزرگترین کتابخانه یکپارچه و قابل‌استفاده مجدد Lean محسوب می‌شود، تمام تعاریف، لم‌ها و قضایای این حوزه را با تگ‌های چهار کاراکتری منحصربه‌فرد فرمالیزه کرده است.
ویژگی‌های فنی این دستاورد عبارتند از:
* شامل ۶۲,۹۷۵ فایل مجزا و ۶۶۳,۰۹۰ اظهارنامه منطقی.
* امکان ردیابی وابستگی‌های بین قضایا و استفاده از نتایج اثبات‌شده برای تحقیقات جدید.
* نمایش تعاملی به صورت یک نقشه سه‌بعدی از گراف‌های وابستگی ریاضی.
این تیم همچنین هفته گذشته قضیه طبقه‌بندی گروه‌های ساده متناهی (CFSG) را با استفاده از ده‌ها عامل هوش مصنوعی طی ۲۴ روز به ۴۳.۱ میلیون خط کد Lean تبدیل کرد. هسته Lean با بررسی این اثبات‌ها، صحت منطقی آن‌ها را تضمین می‌کند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Stacks_Project #Lean_Prover
هوش مصنوعی و علم داده به فارسی
🤖 معرفی مدل GPT-6 Cyber برای امنیت سایبری شرکت OpenAI از مدل تخصصی جدیدی با نام GPT-6 Cyber رونمایی کرد که برای شناسایی حفره‌های امنیتی، تحلیل کد و طراحی اکسپلویت سیستم‌های محافظت‌شده بهینه‌سازی شده است. این مدل در معیارهای عملکردی پیشرفت قابل‌توجهی داشته…
🤖 مدل GPT-6 Cyber و شناسایی آسیب‌پذیری‌های نرم‌افزاری
شرکت OpenAI مدل جدید GPT-6 Cyber را با تمرکز بر امنیت سایبری عرضه کرده است. این مدل در بنچمارک ExploitGym به نرخ موفقیت ۴۸.۵ درصد در شناسایی آسیب‌پذیری‌ها دست یافته که نسبت به نسخه ۵.۶ حدود ۵۱ درصد بهبود نشان می‌دهد.
مهم‌ترین نتایج و قابلیت‌های این مدل:
• شناسایی بیش از هزار آسیب‌پذیری در لینوکس و ۸۰ مورد بحرانی در مرورگر فایرفاکس.
• کاهش نرخ بهره‌برداری خارج از محدوده (Out-of-scope) از ۵.۵۱ درصد در نسخه قبلی به ۰.۰۷ درصد.
• کسب امتیاز ۹۴.۷ درصد در بنچمارک RemoteExploitBench.
• استفاده توسط سازمان‌هایی نظیر موزیلا، سیسکو و پالو آلتو.
این ابزار در حال حاضر تنها در نسخه Daybreak Red در دسترس است. مدل‌های سری Astra با فعال بودن حفاظ‌های امنیتی (Safeguards Enabled)، بهره‌برداری خارج از محدوده را به صفر می‌رسانند.
#GPT_6_Cyber #ExploitGym
شرکت OpenAI مدل جدید GPT-6 Cyber را با تمرکز بر امنیت سایبری عرضه کرده است. این مدل در بنچمارک ExploitGym به نرخ موفقیت ۴۸.۵ درصد در شناسایی آسیب‌پذیری‌ها دست یافته که نسبت به نسخه ۵.۶ حدود ۵۱ درصد بهبود نشان می‌دهد.
مهم‌ترین نتایج و قابلیت‌های این مدل:
• شناسایی بیش از هزار آسیب‌پذیری در لینوکس و ۸۰ مورد بحرانی در مرورگر فایرفاکس.
• کاهش نرخ بهره‌برداری خارج از محدوده (Out-of-scope) از ۵.۵۱ درصد در نسخه قبلی به ۰.۰۷ درصد.
• کسب امتیاز ۹۴.۷ درصد در بنچمارک RemoteExploitBench.
• استفاده توسط سازمان‌هایی نظیر موزیلا، سیسکو و پالو آلتو.
این ابزار در حال حاضر تنها در نسخه Daybreak Red در دسترس است. مدل‌های سری Astra با فعال بودن حفاظ‌های امنیتی (Safeguards Enabled)، بهره‌برداری خارج از محدوده را به صفر می‌رسانند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#GPT_6_Cyber #ExploitGym