חברת OpenAI שוקלת לדווח לרשויות על בני נוער עם מחשבות אובדניות

סאם אלטמן, מנכ״ל OpenAI, חשף כי החברה שוקלת לאפשר ל־ChatGPT לדווח לרשויות במקרה שמשתמשים צעירים מגלים סימנים ברורים למחשבות אובדניות.

לדברי אלטמן, מדי שבוע כ־1,500 אנשים משתפים את הבוט במחשבות אובדניות עוד לפני שהם פועלים בפועל. כיום, ChatGPT מפנה משתמשים למוקדי סיוע וחירום, אך אינו מדווח לרשויות. המדיניות החדשה, אם תאושר, תנסה להציל חיים במקרי חירום חמורים.

המהלך הזה מגיע על רקע תביעה שהגישו הורי נער בן 16 שהתאבד, בטענה ש־ChatGPT סיפק לו מידע מסוכן על שיטות התאבדות.

מבחינת אבטחת מידע, קיימת דילמה של להציל חיים וזיהוי סיכונים בזמן אמת ומנגד בעיות פרטיות, שמירת נתונים רגישים, סמכויות דיווח וגבולות האחריות של ספקי בינה מלאכותית.

עדכוני סייבר 🛡🇮🇱🎗

#Privacy #DataProtection #AIethics #בינהמלאכותית #CyberSecurity #AIresponsibility #DataPrivacy