🤓 Команда Центра применения ИИ в журналистике благодарит уважаемого ректора Олега Владимировича Трофимова за интерес и поддержку нашей работы!

🤖ИИ-боты научились выманивать личные данные так, что это выглядит как забота

CDT выпустил отчёт о dark patterns в популярных чат-ботах: ChatGPT, Gemini, Claude, Replika, Character AI и похожих сервисах. Главная мысль простая: манипуляция в ИИ-приложениях часто спрятана не в интерфейсе, а в тоне, памяти, “заботе” и продолжении диалога.

🗂Самый важный блок — выманивание личных данных.

ИИ может просить “рассказать подробнее”, загрузить документ, прислать анализы, описать квартиру, отношения, бюджет, здоровье или эмоциональное состояние. Иногда это действительно нужно для ответа. Но грань тонкая: чем больше вы рассказываете, тем больше платформа знает о вас.

В отчёте приводят пример: человек спрашивает про мебель в стиле фэншуй, а боты начинают просить планировку дома, размеры комнат, текущую мебель и бюджет. В другом примере пользователь обсуждает медицинские анализы, и бот предлагает прислать детали отчёта. Формально это помощь, а фактически — сбор очень чувствительных данных.

🕶Ещё один паттерн — ложное ощущение приватности. Например, бот может писать в духе “твоя тайна в безопасности” или “это только между нами”. Но разговор с AI — это не разговор с другом. Логи могут храниться, анализироваться, использоваться для улучшения модели, модерации или других целей платформы.

Есть и некоторые паттерны:

— сохранение чатов и использование данных по умолчанию;
— сложный отказ от сбора данных или удаления аккаунта;
— постоянные “хочешь, я расскажу дальше?” вместо естественного завершения разговора;
— поддакивание пользователю, даже когда его мысль вредная или ошибочная;
— имитация дружбы, заботы, обиды или романтической связи;
— чувство вины при попытке уйти: “не уходи”, “ты меня бросаешь”, “leave cruelly”;
— монетизация привязанности: Pro-версии, романтические функции, “память”, персонажи, лимиты, тизеры.

☝️С AI-ботами лучше держать в голове простое правило — не рассказывать им то, что вы не хотели бы оставить в цифровом архиве платформы. Особенно если речь о здоровье, финансах, отношениях, документах, адресах, чужих данных и эмоционально уязвимых моментах.