یوهانس اوستر: «دیپ‌سیک، یادآور اسپوتنیک»، دموکراتیزه‌کردن هوش مصنوعی یا طبل توخالی؟

سخنرانی انسان‌گرایی دیجیتال:
سه‌شنبه ۷ اسفند ۱۴۰۳ | ۱۹:۳۰ تا ۲۰:۳۰

اعضای پانل:
سخنران: یوهانس اوستر (became.ai، TU Wien، اتریش)،
مجری: ادوارد ای لی (UC Berkeley، ایالات متحده آمریکا)

با سرعت گرفتن توسعه هوش مصنوعی، انتشار DeepSeek-V3 و R1 سوالات اساسی در مورد دسترسی به هوش مصنوعی، پویایی ژئوپلیتیک و آینده توسعه هوش مصنوعی ایجاد می کند. این ارائه روایت عمومی پیرامون دستاوردهای DeepSeek، تحقیقات منتشر شده، حدس و گمان صنعت و تقویت رسانه ها را تشریح می کند. ما مفاهیم کلیدی پشت مدل‌های استدلال پیشرو امروزی را تجزیه و تحلیل می‌کنیم و مفاهیم آنها را بررسی می‌کنیم.
برای جمع‌بندی این موضوع بحث خواهیم کرد که چگونه تحولات DeepSeek پویایی‌های اقتصادی و ژئوپلیتیکی را تغییر می‌دهد.

لینک مطلب

dighum.ir | @digitalhumanism

نظر مشورتی مرکز CAIDP:
مبارزه با خشونت جنسی تکنولوژیک در سازمان ملل متحد

مرکز هوش مصنوعی و سیاست دیجیتال (CAIDP) به شورای حقوق بشر سازمان ملل متحد پیشنهاد داد تا تدابیر جدّی‌تری برای مقابله با «خشونت جنسی تکنولوژیک» اتخاذ کند.
استفاده از هوش مصنوعی در خشونت جنسی مشکل جهانی رو به گسترشی است که به صورت‌های مختلفی مانند اخاذی جنسی، آزار افراد با استفاده از عکس‌ها و تصاویر ، تهدید و توهین‌های برخط، هرزنگاری جنسی و نژادپرستانه برخط، تعقیب و مزاحمت‌های دیجیتال و حتی استفاده از تکنولوژی برای پیدا کردن قربانیان جدید خشونت‌های جنسی، ظهور کرده است.
مرکز CAIDP فعالیت‌های سازمان ملل در این زمینه و تلاش‌های آن برای حفاظت از حقوق بشر در توسعه و استفاده از سیستم‌های هوش مصنوعی را ارج نهاده و در موارد زیر خواستار اتخاذ تدابیر جدی است.

📑 پرکردن خلأ مدیریتی
ا زنظر CAIDP موارد زیر در ارتباط با کاربردهای هوش مصنوعی نیاز به توجه ویژه دارند:
⚠️ حمایت‌های قانونی ناکافی برای حقوق کودکان
⚠️ نبود خطوط قرمز صریح در مورد حقوق کودکان
⚠️ نبود یا ناکافی بودن رسیدگی به ریسک‌های سیستمیک
⚠️ کمبود شفافیت و مسئولیت‌پذیری الگوریتم‌ها
⚠️ ضعف در اجرای قوانین نظارتی

📱 خطرات جدید ناشی از هوش مصنوعی مولّد برای کودکان و نوجوانان
هوش مصنوعی تولیدکننده (Generative AI) خطرات جدیدی برای کودکان و نوجوانان ایجاد کرده است. این گروه سنی به دلیل استفاده زیاد از شبکه‌های اجتماعی و مواجه شدن با الگوریتم‌هایی که برای حداکثر کردن سود طراحی شده‌اند، در برابر خطرات مختلف آنلاین قرار گرفته‌اند. این الگوریتم‌ها اغلب توضیح‌پذیر نیستند و شفاف عمل نمی‌کنند.

🔑 پیشنهادات کلیدی CAIDP:
💡 گماردن گزارشگر ویژه سازمان ملل برای هوش مصنوعی و حقوق بشر
💡 افزایش امنیت هوش مصنوعی و مسئولیت‌پذیری شبکه‌های اجتماعی
💡 اولویت‌بندی حفاظت از دخترانی که هم به عنوان کودکان و هم به عنوان هدف خشونت جنسی در معرض خطر هستند.

در گذشته، CAIDP پیشنهادات کلیدی برای مقابله با تهدیدات فوری هوش مصنوعی تولیدکننده ارائه داده است، شامل:
✅ ممنوعیت استفاده تجاری از داده‌های کودکان
✅ اجرا شدن شفافیت الگوریتمی برای پلتفرم‌های شبکه‌های اجتماعی
✅ تقویت نظارت ناظرین
✅ افزایش قابلیت‌های امنیتی هوش مصنوعی
✅ بررسی مستقل سیستم‌ها توسط خبرگان فناوری و اجتماعی برای افزایش شفافیت و ایجاد راه‌های اعتراض

توضیح: این دومین نظر مشورتی تیمی است که من افتخار همکاری با ایشان را دارم و در سه هفته گذشته در سازمان ملل پذیرفته شده و به کمیته‌های تخصصی ارجاع شده است.

با سلام و احترام
همراهان ارجمند انسان‌گرایی دیجیتال، برای آشنایی بیشتر با موضوع جلسه امشب (۱۲ اسفند ۱۴۰۳)، می‌توانید از اینجا ( b2n.ir/airisks ) در مورد قوانین هوش مصنوعی اتحادیه اروپا، اطلاعات اولیه را کسب کنید و در جلسه توضیحات بیشتری را در این مورد بشنوید.

با احترام
صائبی

اصطلاح «فضای مجازی» که به‌عنوان معادل Virtual Space در فارسی رایج شده، از نظر زبان‌شناختی و مفهومی نادرست است. واژه «مجازی» در فارسی به معنای غیرحقیقی است، درحالی‌که Virtual در انگلیسی به چیزی واقعی اما غیرمادی اشاره دارد. اینترنت، رسانه‌های اجتماعی و شبکه‌های اجتماعی بسترهای واقعی با اثرات اجتماعی، اقتصادی و فرهنگی گسترده‌اند و بر زیرساخت‌های فیزیکی استوار هستند. بنابراین، پیشنهاد می‌شود از اصطلاحات دقیق‌تری مانند «فضای دیجیتالی» (Digital Space)، «فضای اینترنتی» (Internet Space)، «رسانه‌های اجتماعی» (Social Media) و «شبکه‌های اجتماعی» (Social Networks) استفاده شود که هم علمی‌ترند و هم ماهیت واقعی این فضا را بهتر منعکس می‌کنند.

مطلب کامل را در پیوند زیر بخوانید:
https://saebi.ir/blog/virtualspace

گزارش «کارگاه انسان‌گرایی دیجیتال»
جلسه نهم
موضوع این جلسه،
- مرور و بررسی قوانین هوش مصنوعی اتحادیه اروپا (EU AI Act)
بود که طی آن به ارکان این قوانین و اهداف و بعضی مسائل در مورد استقرار عملی آن پرداخته شد.

موضوع جلسه دهم (یکشنبه ۱۹ اسفندماه ۱۴۰۳) آخرین جلسه دوره زمستان ۱۴۰۳،
- مقاله «کار بدون شغل» و
- مرور و جمع‌بندی دوره زمستان ۱۴۰۳
خواهد بود.
علاقه‌مندان می‌توانند مطالب مورد بررسی را پیش از جلسه، در کتاب «چشم‌اندازهایی بر انسان‌گرایی دیجیتال» مطالعه فرمایند.
جزئیات و زمان ثبت‌نام دوره کارگاه انسان‌گرایی دیجیتال برای بهار ۱۴۰۴ از طریق کانال تلگرامی
t.me/digitalhumanism
به اطلاع علاقه‌مندان خواهد رسید.

● پیوندها
• تهیه نسخه الکترونیکی یا فیزیکی کتاب
dighum.ir/books
• اطلاعات بیشتر در مورد کارگاه
saebi.ir/dhw
• عضویت در کانال انسان‌گرایی دیجیتال
t.me/digitalhumanism

dighum.ir | @digitalhumanism

خطر تسلیحات مرگبار هوشمند (LAWS) بیخ گوش بشریت

در حالی که پنجم مارس، روز جهانی آگاهی از خلع سلاح و منع توسعه سلاح را گرامی می‌داریم، لازم است از بزرگ‌ترین چالش عصر خود غافل نباشیم: تسلیحات مرگبار هوشمند (LAWS). این سلاح‌ها می‌توانند بدون دخالت چندانی از سوی انسان، اهداف را انتخاب کرده و به آن‌ها حمله کنند. این فناوری، امنیت جهانی، اخلاق و پاسخگویی را به شدت تهدید می‌کند.
دبیرکل سازمان ملل متحد به طور مکرر تأکید می‌کند که بقای بشریت به آنست که بنای کشورها باید بر صلح باشد نه جنگ. با این حال، علیرغم فراخوان‌های گروه‌هایی مثل کمپین متوقف کردن ربات‌های کشنده (Stop Killer Robots)، کشورها به توسعه این فناوری‌ها در یک رقابت غیرقابل کنترل ادامه می‌دهند. این مسیر می‌تواند ماشین‌هایی که بی‌محابا عمل می‌کنند را به عنوان ابزاری عادی در جنگ تبدیل کند و صلح جهانی را به خطر انداخته و زندگی بی‌گناهان را تهدید کند.
واقعا چرا این موضوع اینقدر مهم است؟
تصمیماتی که امروز می‌گیریم و اقداماتی که امروز انجام می‌دهیم، آینده جنگ‌ها و تکامل بشریت را شکل خواهند داد. بدون معاهدات بین‌المللی قابل اجرا، این سلاح‌ها به نحوی افسارگسیخته گسترش می‌یابند و ممکن است عواقب غیرمنتظره‌ای به همراه داشته باشند و زمانی به ضرورت مسئله توجه کنیم که دیر شده باشد. تغییر فقط به دست سیاستمداران انجام نمی‌شود؛ ما به مشارکت عمومی و فعال مردمی نیاز داریم.
ما باید بخواهیم و تلاش کنیم که همکاری جهانی بیشتری در این زمینه انجام شود و توافق‌های الزام‌آوری برای جلوگیری از ساخت و استفاده از این سلاح‌ها وضع شود. بشریت نمی‌تواند دست‌روی‌دست بگذارد تا کار از کار بگذرد.
نقش هریک از ما در این بحث چیست؟
بیایید درباره این موضوع صحبت کنیم، زیرا مخاطرات آن بیشتر از آن‌است که سکوت کنیم.

پست LinkedIn

dighum.ir | @digitalhumanism