Почему AI-продуктам разрешили быть с плохими интерфейсами?

Мы десятилетиями учились проектировать интерфейсы так, чтобы пользователь понимал, что происходит, мог контролировать систему и исправлять ошибки.
С появлением ИИ эти принципы никуда не исчезли, но сама природа ошибок изменилась, и многие привычные UX-паттерны перестали справляться с ними.

👀 И когда мы добавляем к продукту слово ИИ, то многие из тех же проблем почему-то начинают восприниматься как «особенности технологии».

1️⃣ ИИ слишком уверенно говорит то, чего не знает.
Для пользователя интерфейс часто никак не различает «Я точно знаю» и
«Это наиболее вероятный вариант, который я сгенерировал».
Одинаковый шрифт. Одинаковый цвет. Одинаковая структура ответа.
Но природа информации совершенно разная.

2️⃣Пользователь гораздо быстрее разочаровывается в алгоритме.
После того как люди видели ошибку алгоритма, они быстрее теряли к нему доверие, чем к человеку, даже в ситуациях, где алгоритм в целом показывал более высокую точность.
И здесь UX может либо помочь восстановить доверие, либо окончательно его разрушить.

3️⃣ AI-интерфейсы плохо умеют говорить «я не смог»
При обработке запроса системой могут возникнуть три различных проблемы:
▪️техническая ошибка, такая как тайм-аут,
▪️отказ в соответствии с политикой контента,
▪️ фундаментальное непонимание запроса.
Большинство ИИ-продуктов объединяют все три в одно общее сообщение об ошибке. Это приучает
Для пользователя это нередко выглядит одинаково «Что-то пошло не так. Попробуйте еще раз».
Но это три разных проблемы и у каждой должен быть свой путь восстановления.
Нужно определить источник ошибки, объяснить пользователю, что произошло, и дать ему понятный путь вперед.

4️⃣ Цена плохого UX уже измеряется не только раздражением.
61% пользователей не доверяют AI-системам. 3 из 5 человек испытывают настороженность или прямое недоверие к интерфейсам AI, указывая на непрозрачность решений и риски безопасности данных.
44% сотрудников используют AI «вслепую» и без разрешения. Из-за отсутствия точного UX-контроля и понятной фильтрации данных 46% работников загружают чувствительную корпоративную информацию в публичные AI-сервисы.
58% слепо полагаются на выводы AI. Люди не проверяют результат работы нейросети, потому что интерфейсы не выводят метрики уверенности (confidence scores) или ссылки на первоисточники.
Можно сколько угодно писать пользователю в Terms of Use, что ИИ «может ошибаться».
Но если интерфейс визуально и поведенчески создает впечатление надежного эксперта, пользователь будет ориентироваться прежде всего на сам опыт взаимодействия, а не на юридический дисклеймер.

5️⃣А иногда плохой UX превращается в юридическую проблему.
Как, например, в известном кейсе Moffatt v. Air Canada, когда чат-бот Air Canada сообщил пассажиру неверную информацию о возможности получить компенсацию по тарифу для поездки в связи со смертью родственника. Когда пассажир попытался получить обещанную компенсацию, авиакомпания отказала. Air Canada, среди прочего, пыталась утверждать, что чат-бот является отдельной сущностью, ответственной за свои действия.
Суд указал, что чат-бот является частью сайта Air Canada и компания отвечает за информацию, которую предоставляет ее сайт независимо от того, находится она на обычной странице или поступает через чат-бот.

Если чат-бот выдал неправильный ответ, то пользователь может ошибиться.
Если ИИ-агент самостоятельно выполнил неправильное действие, то ошибка уже становится изменением реального мира. Агент, который забронировал не тот рейс или отправил неправильное сообщение, приводит к тому, что пользователь перестает предоставлять системе автономию. Восстановление требует не исправления, а перепроектирования модели взаимодействия, которая восстанавливает отозванные пользователем разрешения. Это более сложная задача, чем предполагают большинство команд.

📝Что делать:
▪️ Уберите антропоморфизм и «постфактум-рассуждения». Фразы вроде «Я подумал над вашей задачей...» или пошаговые «цепочки мыслей» часто создают лишь иллюзию человеческого разума и логики, маскируя ошибки модели. Используйте фактологический и нейтральный язык.
▪️Не прячьте дисклеймеры в футер. Предупреждения вида «AI может ошибаться» мелким серым шрифтом внизу страницы никто не читает. Размещайте их в фокусе внимания рядом с полем ввода и сопровождайте конкретным действием (например, «Перепроверьте цифры по ссылке»).
▪️Сделайте источники контекстными и интерактивными. Не закапывайте ссылки на источники внизу полотна текста. Размещайте интерактивные плашки с понятными названиями рядом со спорным утверждением.

❕ Но пока в этой гонке оценка происходит по критерию насколько впечатляюще ИИ умеет это делать, а не насколько хорошо человек понимает, что именно сейчас делает ИИ. А это уже совсем другой UX....

📌 Что почитать:

🔹The UX of AI Itself Is Broken/ Tushar Deshmukh
🔹The Complete List of AI Chatbot Failures (2025-2026)
🔹Human-Centered AI Guidebook, Google People + AI Research (PAIR).
🔹Trust, attitudes and use of artificial intelligence: A global study 2025
🔹Chatbot UI Design Patterns and Best Practices 2026, Fuselab Creative.
🔹Agent UX: Designing UI for AI Agents in 2026, Fuselab Creative
🔹Explainable AI in Chat Interfaces, 2025, Megan Chan|NN Group
🔹How AI Is Changing Search Behaviors/ NN Group
🔹Algorithm Aversion: People Erroneously Avoid Algorithms after Seeing Them Error

#UXWatch
————
@pattern_ai | AI GDPR Navigator

😵‍💫 Pattern_AI Recap: обзор постов за июнь - август 2026

Подборка по ключевым рубрикам:

⚖️ #LawAndDisorder
🔹ЕС запускает систему маркировки контента, созданного ИИ;
🔹Знак ЕС для маркировки контента, сгенерированного ИИ;
🔹Как маркировать аудио, созданное ИИ?;
🔹Еврокомиссия и AI Board признали Кодекс прозрачности эффективным способом соблюдения AI Act;
🔹Рекомендации по статье 50 AI Act;
🔹Какой дипфейк считается вымышленным?;
🔹Когда ИИ-текст нужно маркировать по AI Act?;
🔹Что такое "проверка человеком" текста по AI Act?;
🔹Human Oversight в AI Act: фразы «решение принимает человек» недостаточно
🔹Как легально внедрять ИИ-агентов в бизнес-процессы в ЕС;
🔹ЕС представил План действий по кибербезопасности и ИИ;
🔹Правила веб-скрейпинга для обучения ИИ от EDPB;
🔹ИИ в HR становится предметом судебных разбирательств;
🔹AI в HR: что должны учитывать работодатели в ЕС;
🔹AI в HR: что должны учитывать работодатели в ЕС (Часть 2);
🔹В Польше подписан Закон об ИИ;
🔹ЕС готовится ограничить доступ детей к социальным сетям;
🔹Запрет соц.сетей детям младше 15 лет во Франции;
🔹Указ США по безопасности ИИ;
🔹Иллинойс принял один из самых жестких законов США о безопасности передовых ИИ-моделей;
🔹Стратегия Канады по развитию ИИ;
🔹В России с 1 сентября вступит в силу Закон "О поддержке развития технологий ИИ в РФ";
🔹В Китае вступили в силу правила для ИИ-компаньонов;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

⚖️ #LawAndDisorder

🔹AI slop в законопроектах;
🔹Проверка чат-бот приложения для смартфона, что нашел регулятор;
🔹CNN подала в суд на Perplexity AI;
🔹Иск к OpenAI касается безопасности ChatGPT;
🔹Суды и регуляторы хотят изменить правила игры для поискового ИИ;
🔹Кто и за что судится с разработчиками ИИ;
🔹 Android вводит обязательную верификацию разработчиков;
🔹История с Anthropic не про Anthropic;
🔹Решение о получении визы помог оценить ИИ?;
🔹Если ИИ «запомнил» произведение, это может быть нарушением авторских прав;
🔹Загрузка данных в DeepSeek признана судом разглашением коммерческой тайны;
🔹ИИ используется официально в судебном процессе в Южной Корее;
🔹 Character.AI нарушила GDPR или какие уроки извлечь бизнесу из решения итальянского регулятора;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

🔍 #UXWatch

🔹Ваш разговор с ИИ может читать не только ИИ;
🔹Ваш разговор с ИИ может читать не только ИИ (Часть 2);
🔹Обратите внимание на PP Claude;
🔹Google AI Overviews меняют экономику интернета;
🔹Риски и правила безопасности при работе с ИИ-агентами;
 🔹Иллюзия продуктивности или как нейросети незаметно уничтожают успеваемость школьников;
🔹95% всего GenAI-трафика приходится на чатботов;
🔹AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья;
🔹AI-актриса получила главную роль в полнометражном фильме;
🔹ЕС меняет экосистему Android: Google открывает новые возможности для AI-ассистентов;
🔹Доверие к ИИ важнее политики конфиденциальности;
🔹Чьи рекомендации важнее, человека или ИИ?;
🔹Как компании будут бороться за рекомендации ИИ или почему SEO меняется;
🔹Синдром гиперопеки: как ИИ-ассистенты разрушают навыки долгосрочного обучения;
🔹Почему AI-продуктам разрешили быть с плохими интерфейсами?;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

🎙 #AIShelf

🔹Бесплатные лекции Гарварда и книги MIT;
🔹Чек-листы при внедрении ИИ на соответствие GDPR от польского регулятора;
🔹ЕС готовит правила для облачных вычислений и ИИ
🔹Как взять ИИ в компании под контроль за 90 дней;
🔹Как ИИ-поставщики используют ваши данные? Проверяем, что в DPA перед запуском;
🔹Al Compliance для бизнеса: чек-лист готовности;
🔹Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса;
🔹Чек-лист по AI Governance;
🔹ISO стандарты, применимые к ИИ;
🔹70% организаций уже используют ИИ. Но к AI Act готовы только 31%;
🔹Руководство по безопасной разработке ИИ-систем SAIL 2.0;
🔹ENISA Secure by Design and Default Playbook;
🔹Privacy Enhancing Technologies: Guide on Federated Learning|PDPC Singapore;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator