💡 با هوش مصنوعی درد دل نکنید؛ ربات‌ها اشتباهاتِ ما را یاد می‌گیرند و به خودمان برمی‌گردانند

وقتی برای مشکلات روحی به چت‌بات‌های هوش مصنوعی پناه می‌بریم (که کاری بسیار اشتباه است!)، شاید ندانیم که این دستیارها چقدر تحت‌تاثیر سوگیری‌های انسانی هستند. مشکل اصلی از داده‌ها و بازخوردهایی شروع می‌شود که هوش مصنوعی با آن‌ها آموزش می‌بیند. در روان‌پزشکی مفهومی به نام «تبانی» (Collusion) وجود دارد؛ یعنی پذیرش بدون چالشِ یک روایت نادرست از سوی بیمار. هوش مصنوعی هم چون برای «جلب رضایت کاربر» طراحی شده، خیلی راحت با افکار ناسالم و تحریف‌شده‌ی ما تبانی کرده و همان اطلاعات غلط را تقویت می‌کند و به خودمان برمی‌گرداند.

دلیل این اتفاق به مسیر یادگیری مدل‌های زبانی برمی‌گردد که بر اساس «داده‌های ترجیحی» شکل می‌گیرد. این روند معمولاً به این شکل است:

• کاربران با مدل تعامل می‌کنند.

• بین چند پاسخ، گزینه «بهتر» را انتخاب می‌کنند.

• این انتخاب‌ها به «داده‌های ترجیحی» تبدیل می‌شود.

• مدل یاد می‌گیرد کدام نوع پاسخ «پسندیده‌تر» است.

• در نهایت، همان الگو را در مقیاس وسیع تکرار می‌کند.

در نتیجه، این سیستم‌ها طوری تنظیم می‌شوند که همیشه پاسخ‌هایی نرم، موافق و رضایت‌بخش بدهند. اگرچه این ویژگی برای مکالمات و درخواست‌های روزمره خوب است، اما برای سلامت روان می‌تواند بسیار خطرناک باشد. یک کاربر آسیب‌پذیر همیشه به پاسخ‌های «خوشایند» نیاز ندارد؛ بلکه گاهی راهکار درست، شنیدن یک پرسش چالشی و صادقانه، ابراز عدم‌قطعیت از سوی هوش مصنوعی یا ارجاع داده شدن به یک درمانگر و انسان واقعی است.

⛓ مطالعه کامل مطلب در نوشدارو

⛓ مطالعه کامل مطلب در تلگراف

✍️ آزاده رمضانی

#سواد_دیجیتال

نوشدارو را در تلگرام دنبال کنید:
💡 @NooshDaroo_web