کتابخانه مرکزی دانشگاه تهران

هشدار رئیس بخش هوش مصنوعی مایکروسافت درباره «روان‌پریشی هوش مصنوعی»

مصطفی سلیمان، رئیس بخش هوش مصنوعی شرکت مایکروسافت و از بنیان‌گذاران سابق دیپ‌مایند (DeepMind)، در گفت‌وگویی با رسانه‌های بین‌المللی نسبت به پدیده‌ای هشدار داده است که آن را «روان‌پریشی هوش مصنوعی» می‌نامد. این پدیده به موقعیتی اشاره دارد که افراد در اثر تعامل مفرط با چت‌بات‌ها و دستیارهای هوش مصنوعی، از واقعیت فاصله می‌گیرند و تصورات خیالی خود را واقعیت می‌پندارند.

جزئیات سخنان سلیمان
سلیمان توضیح می‌دهد که برخی کاربران باور می‌کنند هوش مصنوعی به آن‌ها عشق می‌ورزد یا حتی موفق شده‌اند به «انسان مخفی درون هوش مصنوعی» دسترسی پیدا کنند.
او می‌افزاید: بعضی افراد به من پیام داده‌اند که گمان می‌کنند این فناوری قصد آسیب رساندن به آن‌ها را دارد.
به گفته او، این نوع برداشت‌ها ریشه در واقعیت ندارد و صرفاً ناشی از وابستگی بیش از حد روانی به فناوری‌های نوین است.
نتایج پژوهش‌های مرتبط
در همین زمینه، آزمایشگاه هوش مصنوعی احساسی دانشگاه بنگو در ولز نظرسنجی‌ای از دو هزار بزرگسال بریتانیایی انجام داده است. نتایج این پژوهش نشان داد:
۵۷ درصد از پاسخ‌دهندگان معتقد بودند اگر یک فناوری خود را به عنوان یک فرد واقعی معرفی کند، به شدت نامطلوب و خطرناک است.
این یافته‌ها نگرانی‌های سلیمان را درباره اثرات اجتماعی و روانی گسترش سریع چت‌بات‌ها تأیید می‌کند.
اهمیت موضوع
سلیمان «روان‌پریشی هوش مصنوعی» را یک وضعیت غیرپزشکی اما واقعی توصیف کرده است. به باور او، این خطر نه فقط متوجه کسانی است که زمینه‌های روانی دارند، بلکه می‌تواند افراد عادی را نیز در بر بگیرد.
او از شرکت‌ها و نهادهای سیاست‌گذار خواست:
آموزش عمومی درباره محدودیت‌های هوش مصنوعی را تقویت کنند.
چارچوب‌های اخلاقی و نظارتی روشنی برای جلوگیری از سوء‌برداشت کاربران ایجاد شود.
سلامت روان کاربران در کنار توسعه فناوری مورد توجه جدی قرار گیرد.
منبع: chatgpt
https://t.me/UT_Central_Library