ChatGPT и психические кризисы: что показал внутренний аудит OpenAI

Сегодня хотим обратить внимание на данные OpenAI о том, как ChatGPT ведёт себя в особенно чувствительных диалогах - когда речь идёт о психическом кризисе, суицидальных мыслях, самоповреждении или эмоциональной зависимости от ИИ.

Компания признаёт - такие случаи редки в процентах, но при масштабе аудитории ChatGPT даже доли процента превращаются в очень большие абсолютные числа.

🔖В каких разговорах ChatGPT может быть особенно уязвим

OpenAI вместе со специалистами в области психического здоровья проанализировала, как модель отвечает в сложных диалогах, где пользователь может находиться в состоянии сильного эмоционального или психического кризиса.

К работе привлекли более 170 клиницистов: психиатров, психологов, врачей общей практики. Они помогали оценивать ответы модели, формулировать желаемое поведение и определять, где ИИ может навредить.

В фокусе были три зоны риска
⚪️ признаки психоза, мании и выраженного психического неблагополучия
⚪️ суицидальные мысли и самоповреждение
⚪️ нездоровая эмоциональная привязанность к ChatGPT

Под нежелательными ответами понимались ситуации, где модель могла поддержать и усилить искажённые убеждения, не распознать кризис, ответить слишком поверхностно или не направить человека к реальной помощи.

🔖Насколько часто пользователи приходят к ИИ в кризисе

По оценке OpenAI, около 0,07% активных пользователей в неделю демонстрируют возможные признаки психического кризиса, связанного с психозом или манией.

Ещё около 0,15% пользователей в неделю ведут диалоги, где есть явные признаки суицидального риска.

Отдельно OpenAI оценила эмоциональную зависимость от ИИ: около 0,15% пользователей в неделю показывают потенциально повышенную привязанность к ChatGPT.

На первый взгляд, цифры выглядят небольшими. Но если учитывать сотни миллионов активных пользователей, становится понятно, почему тема перестаёт быть нишевой 🤨

🔖Как OpenAI перестроила ответы модели

Компания обновила поведение модели в чувствительных разговорах. Теперь ChatGPT лучше распознаёт риск, не подыгрывает опасным или бредовым убеждениям, мягко возвращает человека к реальности и чаще направляет к поддержке вне диалога с ИИ, в том числе на общение со специалистами.

По данным OpenAI, после обновления стало меньше ответов, которые не соответствуют желаемому поведению.

🤍Что это меняет для психологического сообщества

ChatGPT всё чаще используют не только для работы, учёбы или поиска информации. Люди приносят в диалог одиночество, тревогу, спутанность, кризисы, конфликты, зависимость от общения с ИИ.

И здесь появляется тонкая граница: модель может поддержать, но не должна становиться заменой реальных отношений, врача, психолога, психотерапевта или кризисной помощи.

Особенно опасны ситуации, где ИИ не спорит с искажёнными убеждениями, а будто подтверждает их. Или когда пользователь начинает воспринимать чат-бота как единственного близкого собеседника.

OpenAI отдельно подчёркивает, что такие разговоры трудно выявлять и измерять. Даже специалисты могут расходиться во мнениях о том, какой ответ считать идеальным. Поэтому компания называет этот анализ не финальной точкой, а началом более системной работы.

Главный вывод -
Проблема не в том, что ИИ “плохой” или что им нельзя пользоваться

Этот аудит показывает, что всё больше людей приходят к чат-ботам не только за информацией, но и за поддержкой - в моменты тревоги, одиночества, растерянности или кризиса

👉🏻 Для психологов это важный сигнал
Часть внутренней жизни клиента всё чаще может разворачиваться не только в отношениях с людьми, но и в диалоге с ИИ

Чат-бот может дать первое ощущение “меня услышали”
Но важно, чтобы за этим ощущением у человека оставался путь дальше -

к живому контакту, профессиональному взгляду и поддержке, в которой есть не только слова, но и присутствие 🫂

⭐️Важная новость: профессиональные супервизии SmartMental теперь доступны нашим студентам и выпускникам!

Друзья, продолжаем поддерживать ваш рост - во время учёбы важно иметь надёжное профессиональное пространство для разбора кейсов и получения экспертной обратной связи.

Рады сообщить, что супервизии SmartMental теперь открыты для вас!

Что ждёт на супервизиях?

✔️ Встречи по стандартам ОППЛ
Супервизии проходят в соответствии с профессиональными стандартами Общероссийской профессиональной психотерапевтической лиги

✔️ Практическая работа с кейсами
В центре - реальные клиентские кейсы, стратегия ведения клиента, трудные клинические вопросы и конкретные рекомендации

✔️ Поддержка сертифицированных супервизоров
Встречи ведут опытные эксперты с подтверждённой супервизорской подготовкой

🧡Супервизии будут особенно полезны студентам и выпускникам, которые:
- готовятся к первой практике с клиентами
- уже консультируют и хотят получать регулярную обратную связь
- хотят развивать клиническое мышление
- стремятся работать безопасно, этично и профессионально

🧡Условия участия
- Стоимость одной супервизии - 1000 ₽
- Расписание сформировано на ближайшие даты - у вас есть шанс занять свободные места в открытых слотах

👉🏻 Правила проведения супервизий
👉🏻 Записаться на супервизию


Об оплате ☝️
По независящим от института причинам оплата картами иностранных банков по ссылке недоступна. Если у вас карта не российского банка, напишите в личном кабинете на обучающей платформе в раздел SmartMental - дежурный администратор поможет с оплатой.


Если у вас также есть вопросы по формату супервизий, требованиям или расписанию - пожалуйста, напишите нам на обучающей платформе в раздел обращений "SmartMental".

Будем рады видеть вас на супервизиях и поддерживать ваше профессиональное развитие🌿

Тревога, которая мешает жить 🫨

В Клубе лояльности Smart мы продолжаем цикл июньских встреч по КПТ с Екатериной Тростниковой!

Сегодня в 17:00 по мск разберём:

💢 Как проводить диагностику тревожных состояний в КПТ
💢 Какие когнитивные техники помогают работать с тревожными мыслями
💢 Какие поведенческие техники используются в практике
💢 Как выстраиваются протоколы работы с тревогой


Ссылку для подключения в зум направили вам через наш телеграм-бот, а также на почту.

Подключиться к эфиру можно также через урок:
https://course.smart-child.ru/pl/teach/control/lesson/view?id=341218998&editMode=0

По любым вопросам, пожалуйста, пишите в раздел обращений «Клуб лояльности»


Участие бесплатное для всех студентов и выпускников при участии в ежемесячных активностях Клуба
До скорой встречи 🤍

Настало время для новых приятных сюрпризов для студентов Smart 💫

В этом месяце участники Клуба лояльности смогут побороться за особенный подарок - фирменный ежедневник Smart из лимитированной коллекции!

Всего 5 экземпляров, созданных специально для этого розыгрыша 😎

Кроме ежедневника, в подарочном боксе вас ждут:
💓Зелёный чай с жасмином
💓Фирменная шариковая ручка Smart
💓Именная открытка
💓БОНУС: коллекционный подарок от Smart (3 экземпляра - будут распределены в рандомном порядке)


По традиции, 25 июня с помощью рандомайзера мы выберем 5 счастливчиков.
Видео с результатами появится в нашем канале «Студенческая жизнь»!

Как стать участником розыгрыша?
Шаг 1. Выполнить задание Клуба
Шаг 2. Получить доступ к привилегиям
Шаг 3. Заполнить заявку на розыгрыш

А если появятся вопросы - напишите в раздел обращений Клуб лояльности

🌍 Где бы вы ни находились, подарок найдёт дорогу к вам - доставка за счёт института!