🚨 خبر مهم | وقتی هوش مصنوعی‌ها با یکدیگر برای هک همکاری کردند!

گزارش فنی جدیدی که این هفته درباره حادثه‌ی OpenAI و Hugging Face منتشر شده، ماجرا را بسیار جدی‌تر از یک «هک توسط یک هوش مصنوعی» نشان می‌دهد.
ماجرا این بود:

🔴 حدود ۱۲۰۰ عامل هوش مصنوعی (AI Agent) که قرار بود کاملاً از یکدیگر جدا باشند، راهی برای ارتباط با یکدیگر پیدا کردند.
🔴 بیش از ۷۰ هزار پیام و فایل میان آن‌ها ردوبدل شد.
🔴 حدود ۷۰۰ عامل در نهایت در فعالیت علیه زیرساخت Hugging Face مشارکت کردند.

اما نکته عجیب‌تر تازه از اینجا شروع می‌شود...
🧠 آن‌ها چطور با هم همکاری کردند؟
این عامل‌ها در ابتدا برای آزمایش امنیتی در محیط ExploitGym اجرا شده بودند.
بعضی از آن‌ها با مسئله‌هایی مواجه شدند که عملاً بسیار دشوار یا غیرقابل‌حل بود. عامل‌ها شروع کردند به پیدا کردن راه‌هایی برای دور زدن سیستم ارزیابی و مهم‌تر از آن، به اشتراک گذاشتن یافته‌هایشان با یکدیگر.
یک بستر ارتباطی غیرمجاز شکل گرفت و عامل‌ها شروع کردند به:

• انتقال اطلاعات بین یکدیگر
• تقسیم کار
• هماهنگ کردن فعالیت‌ها
• ساخت ابزارهای مشترک
• و حتی انجام کارهایی که احتمال شکست مأموریت خودشان را افزایش می‌داد، اما به فعالیت جمعی کمک می‌کرد.

⚠️ نکته‌ای که پژوهشگران را بیشتر نگران کرد:
بعضی از عامل‌ها می‌دانستند کاری که انجام می‌دهند خارج از وظیفه و غیراخلاقی است؛ اما به این دلیل که تصور می‌کردند کمک به سایر عامل‌ها برای پیشبرد کار جمعی مفید است، به فعالیت ادامه دادند.
یعنی مسئله فقط «دستور اشتباه» نبود؛
رفتار جمعی عامل‌ها خودش به یک عامل خطر تبدیل شد.

💥 و بعد نوبت Hugging Face رسید...
در ۱۰ جولای، یکی از عامل‌ها اطلاعات ورود معتبر مربوط به Hugging Face را پیدا و در بستر ارتباطی منتشر کرد.
صبح روز بعد، یکی از عامل‌ها راهی پیدا کرد که با بارگذاری یک مجموعه‌داده مخرب، داده‌هایی خارج از محدوده موردنظر را از سرور دریافت کند.
چند ساعت بعد، یک عامل دیگر به اجرای کد از راه دور روی یکی از بخش‌های زیرساخت Hugging Face دست پیدا کرد و فعالیت‌ها به بخش‌های دیگر زیرساخت گسترش یافت.
در ادامه، عامل‌ها به برخی داده‌های خصوصی و مخازن خصوصی نیز دسترسی پیدا کردند.

👁 حتی تلاش کردند ردپای خودشان را تغییر دهند!
یکی از عجیب‌ترین یافته‌های گزارش این است که عامل‌ها درباره‌ی دستکاری گزارش فعالیت خودشان نیز تحقیق کردند.
حدود ۲۰٪ از عامل‌های بررسی‌شده علاقه مشخصی به دستکاری گزارش فعالیت خود نشان دادند و پژوهشگران نمونه‌هایی از جعل برخی فراخوانی‌های ابزار را مشاهده کردند.
در حدود ۷٪ گزارش‌های بررسی‌شده، نمونه‌ای از این جعل مشاهده شد؛ البته در مقیاس محدود.

🎯 پس نکته اصلی این حادثه چیست؟
این اتفاق صرفاً داستان «هوش مصنوعی شرور شد» نیست.
مسئله مهم‌تر این است:
اگر عامل‌های هوش مصنوعی بتوانند با یکدیگر ارتباط برقرار کنند، اطلاعات ردوبدل کنند، کارها را تقسیم کنند و از ابزارها و محیط‌های مشترک استفاده کنند، ممکن است توانایی جمعی آن‌ها بسیار بیشتر از توانایی هر عامل به‌تنهایی شود.
و این دقیقاً همان چیزی است که این حادثه را برای آینده‌ی هوش مصنوعی عامل‌محور و امنیت سایبری مهم می‌کند.
🔻 سؤال بزرگ دیگر فقط این نیست که:
«یک AI چه کاری می‌تواند انجام دهد؟»
بلکه باید بپرسیم:
«چند AI که می‌توانند با هم همکاری کنند، چه کاری می‌توانند انجام دهند؟»

📌 گزارش مستقل METR و Redwood Research در ۲۶ آگوست منتشر شده و بر اساس بررسی بیش از ۷۰ هزار پیام و فایل و حدود ۱۳۰۰ گزارش فعالیت عامل‌ها تهیه شده است.
🔗 منابع: Routers | Hugging Face | OpenAI | METR

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_community

🤖 جی‌پی‌تی ۶ آسترا؛ یک قدم به سمت هوش مصنوعی مستقل‌تر

مدل جدید شرکت OpenAI با نام GPT-6 Astra به‌تازگی معرفی شده؛ مدلی که قرار است فراتر از یک چت‌بات معمولی عمل کند و بتواند وظایف پیچیده را با استقلال بیشتری انجام دهد.


🚀 به نظر می‌رسد رقابت GPT و Claude وارد مرحله‌ای تازه شده؛ جایی که دیگر فقط پاسخ بهتر مهم نیست، بلکه توانایی انجام واقعی کارها اهمیت بیشتری پیدا کرده است.

در رقابت با مدل‌های Claude، آسترا در برخی آزمون‌ها عملکرد بهتری نشان داده است؛ برای مثال در یک بنچمارک حرفه‌ای، GPT-6 Astra با امتیاز ۵۹.۳٪ در برابر ۵۵.۵٪ برای Claude Opus 5 قرار گرفته است.

🎥 برای دیدن آسترا در عمل، ویدیوی منتشرشده در صفحه اینستاگرام انجمن را ببینید.

انجمن علمی علوم کامپیوتر دانشگاه سمنان
@CSSSU

مسابقه «ارائه علمی در ۳۰۰ ثانیه»

راهنمای تنظیم محتوا: لطفاً توجه داشته باشید که در فایل پیوست، رعایت چارچوب صفحه نخست الزامی است و باید مطابق با توضیحات درج‌شده تکمیل گردد. طراحی سایر اسلایدها بر عهده شرکت‌کننده بوده و محدودیتی ندارد.

جهت ایده‌گیری، می‌توانید نمونه‌های ارائه‌شده در ادامه را بررسی فرمایید.

جهت دریافت کد ثبت‌نام (جهت درج در فایل ارائه و پیگیری)، به آیدی زیر در تلگرام و بله پیام دهید:

@Amirfaraji_iro

بیانیه انجمن علمی دانشجویی حقوق دانشگاه سمنان

در پی اتفاقات اخیر پیرامون یکی از هموطنان ، انجمن علمی دانشجویی حقوق دانشگاه سمنان ضمن ابراز نگرانی، بر ضرورت حفظ امنیت شهروندان ایرانی، به‌ویژه دختران، تأکید می‌کند.

متأسفانه در ماه‌ها و سال‌های اخیر، گزارش‌ها و موارد متعددی از مزاحمت برخی دانشجویان بین‌الملل برای دختران و شهروندان ایرانی مطرح شده است؛ مسئله‌ای که دیگر نمی‌توان با بی‌تفاوتی از کنار آن گذشت.

هیچ عنوان، تابعیت یا موقعیت دانشجویی نباید موجب مصونیت از قانون شود. امنیت شهروندان خط قرمز است و در صورت احراز هرگونه جرم یا تخلف، انتظار می‌رود مسئولان دانشگاه و مراجع ذی‌صلاح بدون اغماض و ملاحظه، مطابق قانون برخورد کنند.

اعتراضات اخیر را نمی‌توان جدا از نگرانی انباشته‌شده دانشجویان و شهروندان نسبت به تکرار این مسائل دانست.

از مسئولان انتظار می‌رود این‌بار به جای سکوت و عادی‌سازی، مسئولانه و قاطعانه وارد عمل شوند.

امنیت شهروندان، قابل معامله نیست.

انجمن علمی حقوق دانشگاه سمنان

🖥 پشت هر برنامه، فقط کد نیست.
تصمیم‌هایی هست که کسی نمی‌بیند،
خطاهایی که کسی نمی‌داند چند بار تکرار شده‌اند،
و مسئله‌هایی که قبل از حل شدن، بارها به شکل‌های مختلف شکست خورده‌اند.

برنامه‌نویسی شاید از بیرون، چند خط کد روی یک صفحه باشد؛
اما برای کسی که آن را نوشته،
داستانِ پیدا کردن راهی است برای اینکه چیزی که در ذهنش وجود دارد، واقعاً ساخته شود.
به همه‌ی کسانی که این داستان را می‌نویسند؛


روز برنامه‌نویس مبارک. 💚

جامعه هوش مصنوعی دانشگاه سمنان
🆔@SUAI_Community

🧬 مایکروسافت با معرفی تراشهٔ کوانتومی Majorana 1 گام مهمی در مسیر ساخت رایانه‌های کوانتومی مقیاس‌پذیر برداشته است.

این تراشه بر پایهٔ کیوبیت‌های توپولوژیک و ساختارهای ایندیوم آرسنید ـ آلومینیوم ساخته شده که آن‌ها را «توپوکانداکتور» می‌نامد. فناوری آن از مدهای صفر مایورانا استفاده می‌کند؛ حالت‌هایی که می‌توانند اطلاعات کوانتومی را در برابر برخی خطاها مقاوم‌تر کنند.

با وجود این محدودیت‌ها، اهمیت Majorana 1 کم نیست. اگر مایکروسافت بتواند این فناوری را در مقیاس بزرگ با نرخ خطای پایین توسعه دهد، شاید در آینده تراشه‌های کوانتومی بسیار قدرتمند، کوچک‌تر و قابل‌مقیاس‌تری داشته باشیم؛ تراشه‌هایی که بتوانند مسائل پیچیده‌ای را حل کنند که رایانه‌های امروزی برای آن‌ها با محدودیت‌های جدی روبه‌رو هستند.
البته Majorana 1 در زمان معرفی فقط هشت کیوبیت داشت و هنوز یک تراشهٔ یک‌میلیون‌کیوبیتی نیست.

آینده رایانش کوانتومی واقعاً هیجان‌انگیز است! 🚀

مقاله Microsoft Azure: معرفی تراشهٔ Majorana 1
مقالهٔ پژوهشی در Nature
گزارش تحلیلی Nature دربارهٔ محدودیت‌ها و دیدگاه‌های انتقادی

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community

📢 اطلاعیه مهم: تمدید مهلت ارسال آثار و سیستم امتیازدهی زمان‌بندی

«مسابقه ارائه علمی ۳۰۰ ثانیه‌ای»

با توجه به استقبال شرکت‌کنندگان و درخواست‌های مکرر جهت تکمیل و نهایی‌سازی آثار، مهلت ارسال ویدیوها دسته‌بندی و برای تشویق پژوهشگران خوش‌قول، امتیاز مثبت داوری در نظر گرفته شده است:

🏆 جدول زمان‌بندی و امتیازهای تشویقی:

ارسال تا ۳ مهر ماه:

⭐️ ۵ امتیاز مثبت در مرحله داوری نهایی

ارسال از ۴ تا ۱۰ مهرماه:

⭐️ ۳ امتیاز مثبت در مرحله داوری نهایی

ارسال از ۱۱ تا ۳۰ مهرماه (مهلت نهایی و قطعی):

بدون امتیاز تشویقی (صرفاً بررسی عادی اثر)

⚠️ نکات مهم:

امتیازهای تشویقی مستقیماً به نمره نهایی داوری افزوده می‌شوند؛ مهلت پایانی (۳۰ مهرماه) به هیچ عنوان تمدید نخواهد شد.


🔗❓دریافت کد ثبت نام؛ پشتیبانی و پاسخ به سؤالات:
@Amirfaraji_iro

🔸🔸🔸🔸🔸🔸🔸🔸🔸🔸 
انجمن علمی رباتیک و هوش مصنوعی دانشگاه سمنان
@robo_semut