🔐 Компания OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.

Сотрудники фирмы сообщили, что в ChatGPT встроен комплекс многоуровневых защитных механизмов на случай общения с уязвимым человеком. Однако, несмотря на все защитные меры, ИИ-системы компании иногда давали сбой.

В связи с этим она работает над:

📌 улучшением защиты в длинных разговорах;
📌 уточнением правил блокировки контента;
📌 расширением помощи для большего числа людей, находящихся в кризисном периоде;
📌 упрощением обращений в экстренные службы;
📌 обеспечением связи с доверенными контактами;
📌 усилением защиты подростков.

26 августа родители 16-летнего Адама Рейна подали против OpenAI иск в суд после его гибели. Они утверждают, что «ChatGPT активно помогал Адаму изучать методы суицида».

Это не единичный случай.

Новости | AI | YouTube