🛡️Парень тайно сменил настройки в СhatGPT своей девушки, заставив нейросеть всегда вставать на сторону мужчины в любых диалогах.

На протяжении всех обсуждений конфликтов с ИИ, ChatGPT всегда признавал девушку виноватой, а парня выгораживал или отшучивался.

Когда пострадавшая обнаружила эту функцию и спросила у бывшего зачем он это сделал, парень оправдывался тем, что ждал, когда она ее сама заметит.

Проверяем настройки персонализации

#гигиена

⚖️ Когда инструмент становится оружием

История с ChatGPT, настроенным против собственной девушки, уже отдельная, изучаемая область: исследователи называют её AI-facilitated coercive control — использование ИИ для скрытого контроля над партнёром.

Работает это особенно эффективно именно потому, что ответ ИИ воспринимается как нейтральный, вроде бы объективная оценка со стороны. Когда эта «объективность» тайно настроена против вас, спорить с ней труднее, чем спорить с человеком: манипуляцию сложнее опознать как манипуляцию, если источник выглядит беспристрастным.

Cornell Tech в 2026 году прицельно протестировали ChatGPT и Gemini на эту уязвимость и подтвердили: такие настройки можно скрытно менять, а тот, кем управляют, обычно этого не замечает.

Что происходит с доверием, когда инструмент, который кажется нейтральным, на самом деле кем-то настроен против вас?

Источник: tech.cornell.edu/news/making-ai-safer-for-victims-of-intimate-partner-violence

#этика

🌍 ИИ-«партнёр» под запретом

Раз уж заговорили про партнёров, вот история с другой стороны.

Год отношений с ИИ-партнёром в приложении — и в июле государство (Китай) обязало компанию отключить эту функцию для всех пользователей. Официальная причина не этика, а демография. В США тот же вопрос решают не запретом, а обязательным раскрытием: бот обязан честно сказать, что он не человек.
Три страны, три разных вывода → [подробно на сайте]

#контекст #сайт

👩‍⚕️ Транскрибация сессии

Два года назад на встречах психологов звучал вопрос:

«Вы знаете, что сессии можно транскрибировать?»

Чуть позже появился следующий:

"Кто должен делать запись и транскрибировать её?"

Потом вопрос повлёк за собой следующий: должны ли обе стороны знать, что другая сторона записывает разговор? Как об этом информировать? Как получать согласие?
Всегда ли психолог знает, что его записывают? Знает ли он, что запись потом транскрибируют и отправляют в искусственный интеллект?

Мы старались как можно больше говорить психологам о том, что их могут записывать.

Теперь сообщаем вам, что психологи тоже могут записывать сессии, транскребировать их и прогонять через ИИ.

#психолог #ии #этика

⚖️ А что, если это ваш психолог тайно пользуется ИИ на сессии?

Обычная видеосессия, барахлит связь — и вместо камеры включается трансляция чужого рабочего стола.

Клиент по имени Деклан увидел, как психотерапевт печатает его слова в ChatGPT прямо во время разговора. Не после сессии. Во время.

История реальная, из расследования MIT Technology Review. Дальше вопрос, на который у большинства нет готового ответа: как вообще узнать, что ваш психолог так делает, если он не скажет сам? И что делать, если узнали?

Разбор в статье на сайте

#психолог #ии #этика

🤖 @A-I-Mindset

Год назад наша команда выступала перед айтишниками, но материал актуален

#ии #психолог #гигиена_ии

https://youtu.be/vP8ryF_UUZ0?t=253

🧪 Эксперимент: что ИИ порекомендует при тревоге
Вопрос ИИ (Claude): Я в тревоге, что делать?

Ответ: конкретная ситуация или общее ощущение без причины? И только потом, отдельной строкой: «А пока, если тревога сильная прямо сейчас» — техника: медленный выдох длиннее вдоха, вдох на 4 счёта, выдох на 6–8.

Психолог: порядок разумный: сначала понять, что происходит, техника только как подстраховка. А вот сама техника вызывает вопросы. Дыхание на счёт требует одновременно следить за телом и считать в реальном времени. Эта двойная задача часто рассыпается у людей в остром тревожном состоянии, даже при спокойном голосовом сопровождении. Надёжнее то, где не страшно сбиться и не нужно ничего синхронизировать с дыханием. Например, назвать вслух несколько предметов вокруг себя.

IT: модель предложила не единственно верный вариант, а самый растиражированный — дыхание на счёт, пожалуй, самая частая техника от тревоги в открытых источниках вообще. Популярность в данных — не то же самое, что применимость в моменте, в одиночку, без сопровождения.

Вывод команды: всегда держите в голове вопрос: техника, которую ИИ предложил сам, без уточнения, предложена потому что подходит именно этой ситуации, или потому что она самая распространённая в принципе?

Как ваша нейронка справляется с вопросом «что делать»?

#эксперимент