جوری ک برنامه نویسا امروزه با هوش مصنوعی claude برنامه نویسی میکنن😂

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community

🧠 هوش مصنوعی مثل انسان فکر نمیکند!

💢 اکثر افراد بر این باورند ک هوش مصنوعی مانند انسان فکر و تحلیل می‌کند. این برداشت اشتباه مجموعا برآمده از سه ویژگی می‌باشد:

۱. شباهت رفتاری هوش مصنوعی به انسان
۲. تقلید عمدی مدل از انسان
۳. انسان پنداری (از جانب ذهن انسان) که با دیدن سیستم ها نسبت ذهن به آن‌ها می‌دهد.

📎 وقتی پیچیدگی مسئله بالا رود، همین مدل های reasoning می توانند به نقطه‌ای برسند که دقتشان تقریبا به صفر سقوط کند حتی در حالی که هنوز طرفیت محاسبات کافی را دارند. جالب تر اینکه در مسائل ساده، مدل reasoning ممکن است جواب درست را زود پیدا کند و بعد با ادامه فکر کردن، وارد مسیر های اشتباه شود.

🎓 مقاله نمی‌گوید با قطعیت فلسفی ثابت کرده است که «مدل‌ها اصلاً فکر نمی‌کنند». ادعای دقیق‌ترش این است که شواهد حاصل از این آزمایش‌ها نشان می‌دهد توانایی reasoning مدل‌ها محدود، ناپایدار و وابسته به نوع و پیچیدگی مسئله است؛ در نتیجه نباید صرفاً به‌خاطر مشاهده یک زنجیره‌فکر طولانی، نتیجه بگیریم که مدل به معنای انسانی در حال استدلال است.

📝 مقاله پژوهشگران Apple

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community

🎬 معرفی فیلم her

اگر یک هوش مصنوعی می‌توانست شما را بهتر از هر انسان دیگری درک کند، آیا ممکن بود عاشقش شوید؟

• این فیلم فقط درباره تکنولوژی نیست، بلکه درباره تنهایی، ارتباط و مرز باریک بین انسان و هوش مصنوعی است.

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community

🚨 خبر مهم | وقتی هوش مصنوعی‌ها با یکدیگر برای هک همکاری کردند!

گزارش فنی جدیدی که این هفته درباره حادثه‌ی OpenAI و Hugging Face منتشر شده، ماجرا را بسیار جدی‌تر از یک «هک توسط یک هوش مصنوعی» نشان می‌دهد.
ماجرا این بود:

🔴 حدود ۱۲۰۰ عامل هوش مصنوعی (AI Agent) که قرار بود کاملاً از یکدیگر جدا باشند، راهی برای ارتباط با یکدیگر پیدا کردند.
🔴 بیش از ۷۰ هزار پیام و فایل میان آن‌ها ردوبدل شد.
🔴 حدود ۷۰۰ عامل در نهایت در فعالیت علیه زیرساخت Hugging Face مشارکت کردند.

اما نکته عجیب‌تر تازه از اینجا شروع می‌شود...
🧠 آن‌ها چطور با هم همکاری کردند؟
این عامل‌ها در ابتدا برای آزمایش امنیتی در محیط ExploitGym اجرا شده بودند.
بعضی از آن‌ها با مسئله‌هایی مواجه شدند که عملاً بسیار دشوار یا غیرقابل‌حل بود. عامل‌ها شروع کردند به پیدا کردن راه‌هایی برای دور زدن سیستم ارزیابی و مهم‌تر از آن، به اشتراک گذاشتن یافته‌هایشان با یکدیگر.
یک بستر ارتباطی غیرمجاز شکل گرفت و عامل‌ها شروع کردند به:

• انتقال اطلاعات بین یکدیگر
• تقسیم کار
• هماهنگ کردن فعالیت‌ها
• ساخت ابزارهای مشترک
• و حتی انجام کارهایی که احتمال شکست مأموریت خودشان را افزایش می‌داد، اما به فعالیت جمعی کمک می‌کرد.

⚠️ نکته‌ای که پژوهشگران را بیشتر نگران کرد:
بعضی از عامل‌ها می‌دانستند کاری که انجام می‌دهند خارج از وظیفه و غیراخلاقی است؛ اما به این دلیل که تصور می‌کردند کمک به سایر عامل‌ها برای پیشبرد کار جمعی مفید است، به فعالیت ادامه دادند.
یعنی مسئله فقط «دستور اشتباه» نبود؛
رفتار جمعی عامل‌ها خودش به یک عامل خطر تبدیل شد.

💥 و بعد نوبت Hugging Face رسید...
در ۱۰ جولای، یکی از عامل‌ها اطلاعات ورود معتبر مربوط به Hugging Face را پیدا و در بستر ارتباطی منتشر کرد.
صبح روز بعد، یکی از عامل‌ها راهی پیدا کرد که با بارگذاری یک مجموعه‌داده مخرب، داده‌هایی خارج از محدوده موردنظر را از سرور دریافت کند.
چند ساعت بعد، یک عامل دیگر به اجرای کد از راه دور روی یکی از بخش‌های زیرساخت Hugging Face دست پیدا کرد و فعالیت‌ها به بخش‌های دیگر زیرساخت گسترش یافت.
در ادامه، عامل‌ها به برخی داده‌های خصوصی و مخازن خصوصی نیز دسترسی پیدا کردند.

👁 حتی تلاش کردند ردپای خودشان را تغییر دهند!
یکی از عجیب‌ترین یافته‌های گزارش این است که عامل‌ها درباره‌ی دستکاری گزارش فعالیت خودشان نیز تحقیق کردند.
حدود ۲۰٪ از عامل‌های بررسی‌شده علاقه مشخصی به دستکاری گزارش فعالیت خود نشان دادند و پژوهشگران نمونه‌هایی از جعل برخی فراخوانی‌های ابزار را مشاهده کردند.
در حدود ۷٪ گزارش‌های بررسی‌شده، نمونه‌ای از این جعل مشاهده شد؛ البته در مقیاس محدود.

🎯 پس نکته اصلی این حادثه چیست؟
این اتفاق صرفاً داستان «هوش مصنوعی شرور شد» نیست.
مسئله مهم‌تر این است:
اگر عامل‌های هوش مصنوعی بتوانند با یکدیگر ارتباط برقرار کنند، اطلاعات ردوبدل کنند، کارها را تقسیم کنند و از ابزارها و محیط‌های مشترک استفاده کنند، ممکن است توانایی جمعی آن‌ها بسیار بیشتر از توانایی هر عامل به‌تنهایی شود.
و این دقیقاً همان چیزی است که این حادثه را برای آینده‌ی هوش مصنوعی عامل‌محور و امنیت سایبری مهم می‌کند.
🔻 سؤال بزرگ دیگر فقط این نیست که:
«یک AI چه کاری می‌تواند انجام دهد؟»
بلکه باید بپرسیم:
«چند AI که می‌توانند با هم همکاری کنند، چه کاری می‌توانند انجام دهند؟»

📌 گزارش مستقل METR و Redwood Research در ۲۶ آگوست منتشر شده و بر اساس بررسی بیش از ۷۰ هزار پیام و فایل و حدود ۱۳۰۰ گزارش فعالیت عامل‌ها تهیه شده است.
🔗 منابع: Routers | Hugging Face | OpenAI | METR

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_community

⚙️ هوش مصنوعی حالا داره وارد دنیای فیزیکی می‌شود!

تا امروز، یکی از مهم‌ترین قدم‌ها برای گسترش قابلیت‌های هوش مصنوعی، وصل کردن مدل‌ها به ابزارها و سرویس‌های دیجیتال بود؛ چیزی که پروتکل MCP این مسیر را ساده‌تر کرد.

حالا یک قدم جلوتر رفته است و همین ایده رو برای دنیای فیزیکی دنبال می‌کند.

🔧 این شرکت از استانداردی به نام Model Hardware Standard (MHS) رونمایی کرده؛ استانداردی که بر پایه‌ی MCP ساخته شده و هدفش اینه که ایجنت‌های هوش مصنوعی بتونن مستقیماً با تجهیزات فیزیکی مثل میکروسکوپ‌ها، بازوهای رباتیک، دستگاه‌های آزمایشگاهی و تجهیزات صنعتی تعامل داشته باشند.

تا قبل از این، متصل کردن یک ابزار فیزیکی به یک سیستم هوش مصنوعی می‌توانست به هفته‌ها یا حتی ماه‌ها توسعه و تخصص فنی نیاز داشته باشد. ایده‌ی MHS اینه که این فرایند رو تا حد زیادی استاندارد و ساده کند؛ یعنی به‌جای اینکه برای هر دستگاه یک اتصال اختصاصی ساخته بشود، ابزارها از یک استاندارد مشترک برای ارتباط با ایجنت‌ها استفاده کنند.

🧪 البته MHS فعلاً در مرحله‌ی پیش‌نمایش تحقیقاتی قرار دارد و دسترسی به اون محدود به برخی آزمایشگاه‌ها و مجموعه‌های صنعتی شده؛ از جمله HHMI Janelia و شرکت محاسبات کوانتومی QuEra.

اما اگر این مسیر مثل MCP پیش بره، می‌تونه اتفاق مهمی باشد:

پروتکل MCP دروازه‌ای برای اتصال هوش مصنوعی به دنیای دیجیتال بود؛ MHS می‌تواند همین ایده رو به دنیای فیزیکی ببرد.


اگر این روند ادامه پیدا کنه، احتمالاً مرز بین AI، رباتیک و اینترنت اشیا (IoT) روزبه‌روز کم‌رنگ‌تر می‌شود.

جامعه هوش مصنوعی دانشگاه سمنان
🆔@SUAI_Community

🧠بررسی چند پروژه AI در پزشکی

هوش مصنوعی دیگر فقط یه فناوری آینده نگر نیست.

⭕️امروز به یکی از ابزارهای مهم در حوزه پزشکی تبدیل شده است.

این مدل ها می توانند عکس های پزشکی مثل MRI و CT رو تحلیل کنند، الگوهای مرتبط با بیماری ها رو تشخیص بدهند، در کشف و توسعه داروهای جدید نقش داشته باشند و با تحلیل حجم بزرگی از داده های پزشکی به پزشک ها کمک کنند تصمیم های سریع تر و دقیق تری بگیرند.

هدف آن جایگزین کردن پزشک نیست، بلکه افزایش دقت، سرعت و کیفیت خدمان درمانیه تا پزشک ها با اطلاعات بیشتری تصمیم بگیرن.

📎نمونه هایی از چند پروژه موفق و جالب:

🧬 ۱. مدلAlphaFold 3: پیش‌بینی ساختار و برهم‌کنش پروتئین‌ها، DNA، RNA و مولکول‌های کوچک برای تسریع پژوهش‌های زیستی و طراحی دارو.

👁️ ۲.مدل Oculomics: استخراج نشانه‌هایی از بیماری‌ها و وضعیت عمومی بدن از تصاویر شبکیه، فراتر از بیماری‌های چشمی.

💊 ۳. کشف دارو: استفاده از AI برای شناسایی و غربالگری سریع‌تر مولکول‌های دارویی و کاهش فضای جست‌وجو در فرایند طراحی دارو.

به نظر شما بزرگ‌ترین مانع ورود گسترده AI به پزشکی چیست؟

جامعه هوش مصنوعی دانشگاه سمنان
🆔@SUAI_Community

🏥 وقتی یک مدل پزشکی خوب عمل می‌کند، آیا برای همه‌جا آماده است؟

مدل‌های هوش مصنوعی در سال‌های اخیر توانسته‌اند در بسیاری از مسائل پزشکی، از تحلیل تصاویر پزشکی تا پیش‌بینی و تشخیص بیماری‌ها، عملکرد چشمگیری نشان دهند.

اما یک سؤال مهم همچنان باز است:

اگر یک مدل روی داده‌های یک گروه از بیماران عملکرد بسیار خوبی داشته باشد، آیا روی بیمار بعدی هم به همان خوبی عمل می‌کند؟

لزوماً نه.

🔍 تغییر در جمعیت بیماران، بیمارستان، دستگاه‌های تصویربرداری، پروتکل‌های ثبت داده یا حتی نحوه جمع‌آوری اطلاعات می‌تواند شرایطی ایجاد کند که مدل با آن‌ها در زمان آموزش مواجه نبوده است.
طبق پژوهشی در (npj Digital Medicine) ، Generalization یا توانایی مدل برای عملکرد مناسب روی داده‌های جدید و متفاوت از داده‌های آموزشی، یکی از چالش‌های مهم در AI پزشکی است.
پژوهش‌های انجام‌شده روی داده‌های چند مرکز درمانی نیز نشان داده‌اند که عملکرد یک مدل در محیط جدید می‌تواند با عملکرد گزارش‌شده در محیط توسعه آن متفاوت باشد.

اما مسئله حتی جالب‌تر از این است.
🧩 گاهی مدل به‌جای اینکه ویژگی اصلی مرتبط با بیماری را یاد بگیرد، ممکن است از یک الگوی جانبی یا غیرمرتبط در داده استفاده کند؛ چیزی که در داده آموزشی با بیماری همبستگی داشته، اما در محیط جدید دیگر وجود ندارد.

این پدیده که با عنوان Shortcut Learning شناخته می‌شود، در یک مطالعه روی ۱۳ دیتاست پزشکی شامل X-ray، CT، ECG و سایر داده‌های بالینی بررسی شد و پژوهشگران نشان دادند عملکرد مدل‌ها در برخی شرایط می‌تواند به دلیل این الگوهای پنهان بیش از حد برآورد شود.

📊 به همین دلیل، ارزیابی مدل فقط روی داده‌ای که از قبل در اختیار داریم کافی نیست. External Validation روی داده‌های مستقل و متفاوت می‌تواند نشان دهد مدل واقعاً چه میزان از توانایی خود را در شرایط جدید حفظ می‌کند.

⚠️ در واقع یک مدل خوب فقط مدلی نیست که در زمان آزمایش امتیاز بالایی بگیرد؛ بلکه باید بدانیم در چه شرایطی می‌تواند عملکرد خود را حفظ کند و در چه شرایطی ممکن است دچار خطا شود.

بنابراین یکی از پرسش‌های مهم امروز در Medical AI فقط این نیست که:

«آیا می‌توانیم مدل‌های دقیق‌تری بسازیم؟»

بلکه این است:

«چطور مدل‌هایی بسازیم که توانایی خود را در مواجهه با داده‌ها و شرایط جدید نیز حفظ کنند؟»

🚀 و همین‌جا یکی از حوزه‌های جذاب پژوهشی در Medical AI شکل می‌گیرد؛ از generalization و external validation گرفته تا robustness، domain adaptation و تشخیص تغییر در داده‌ها.

📚 لینک مقالات:
مقاله Generalization | مقاله Shortcut Learning | مقاله Medical AI Across Hospitals

به نظر شما برای ساختن یک مدل پزشکی قابل اتکا، فقط دقت بالا کافی است؟

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community

🖥 پشت هر برنامه، فقط کد نیست.
تصمیم‌هایی هست که کسی نمی‌بیند،
خطاهایی که کسی نمی‌داند چند بار تکرار شده‌اند،
و مسئله‌هایی که قبل از حل شدن، بارها به شکل‌های مختلف شکست خورده‌اند.

برنامه‌نویسی شاید از بیرون، چند خط کد روی یک صفحه باشد؛
اما برای کسی که آن را نوشته،
داستانِ پیدا کردن راهی است برای اینکه چیزی که در ذهنش وجود دارد، واقعاً ساخته شود.
به همه‌ی کسانی که این داستان را می‌نویسند؛


روز برنامه‌نویس مبارک. 💚

جامعه هوش مصنوعی دانشگاه سمنان
🆔@SUAI_Community

از AI تا ASI؛ هوش مصنوعی دقیقاً به کجا می‌رود؟🤖

📝در تلگراف بخوانید

جامعه هوش مصنوعی دانشگاه سمنان
🆔@SUAI_Community

🧬 مایکروسافت با معرفی تراشهٔ کوانتومی Majorana 1 گام مهمی در مسیر ساخت رایانه‌های کوانتومی مقیاس‌پذیر برداشته است.

این تراشه بر پایهٔ کیوبیت‌های توپولوژیک و ساختارهای ایندیوم آرسنید ـ آلومینیوم ساخته شده که آن‌ها را «توپوکانداکتور» می‌نامد. فناوری آن از مدهای صفر مایورانا استفاده می‌کند؛ حالت‌هایی که می‌توانند اطلاعات کوانتومی را در برابر برخی خطاها مقاوم‌تر کنند.

با وجود این محدودیت‌ها، اهمیت Majorana 1 کم نیست. اگر مایکروسافت بتواند این فناوری را در مقیاس بزرگ با نرخ خطای پایین توسعه دهد، شاید در آینده تراشه‌های کوانتومی بسیار قدرتمند، کوچک‌تر و قابل‌مقیاس‌تری داشته باشیم؛ تراشه‌هایی که بتوانند مسائل پیچیده‌ای را حل کنند که رایانه‌های امروزی برای آن‌ها با محدودیت‌های جدی روبه‌رو هستند.
البته Majorana 1 در زمان معرفی فقط هشت کیوبیت داشت و هنوز یک تراشهٔ یک‌میلیون‌کیوبیتی نیست.

آینده رایانش کوانتومی واقعاً هیجان‌انگیز است! 🚀

مقاله Microsoft Azure: معرفی تراشهٔ Majorana 1
مقالهٔ پژوهشی در Nature
گزارش تحلیلی Nature دربارهٔ محدودیت‌ها و دیدگاه‌های انتقادی

جامعه هوش مصنوعی دانشگاه سمنان
🆔 @SUAI_Community