Цифровой геноцид ревью. What is Human-Centered about Human-Centered AI? A Map of the Research Landscape
Что именно является человеко-ориентированным в человеко-ориентированном ИИ? Карта исследовательского ландшафта https://dl.acm.org/doi/pdf/10.1145/3544548.3580959

Применение искусственного интеллекта (ИИ) в самых разных областях сопровождается как высокими ожиданиями от его преимуществ, так и мрачными прогнозами о возможном злоупотреблении. Как определяется и какие виды работ идут в человекоориентированном ИИ? обзор вносит вклад в виде обзора и карты исследований HCAI, основанной на работах, которые явно используют термины «human-centered artificial intelligence» или «human-centered machine learning» (или их вариации), а также предлагает будущие вызовы и направления исследований.
Карта показывает широту исследований в области HCAI, устоявшиеся кластеры и возникающие области взаимодействия с ИИ и этичного ИИ.

Опасения вызваны непрозрачностью используемых моделей, встроенными предубеждениями (особенно против меньшинств) из-за исторических данных и алгоритмических решений, проблемами конфиденциальности, машинами, вышедшими из-под контроля, вызовами в области прав человека и иллюзиями смысла, которые могут быть созданы. Термин human-centered AI (человеко-ориентированный ИИ) всё чаще используется, выражая ощущение, что ИИ должен служить людям и отвечать на растущие опасения по поводу потенциала ИИ эксплуатировать и вводить в заблуждение. Но «человеко-ориентированный ИИ» означает очень разные вещи для разных людей. Человек может быть субъектом алгоритмического изучения ИИ, пользователем продуктов ИИ, участником в проектировании самой системы ИИ и т.д. Или же HCAI может использоваться как aspirational (вдохновляющий, желаемый) термин — подобно «устойчивой добыче» в добывающей отрасли или «доверенному автономному управлению», — при этом ведутся значительные споры о том, как и возможно ли это достичь.

Ранние техники ИИ, применявшиеся в 1980-х годах, опирались на знание-ориентированный подход, при котором компьютеры могли автоматически рассуждать на основе утверждений знаний и правил логического вывода, закодированных в формальных языках. Однако эта парадигма была ограничена трудностями детального эксплицитного описания знаний, особенно неявных (tacit knowledge) .
Учёные в области HCI утверждали, что это происходит потому, что человеческое мышление воплощено (embodied), situated (ситуационно обусловлено), протекает в социальном контексте и включает действия — часто импровизационные — в реальном мире, сложность которых формальные модели не способны воспроизвести. Более того, сам контекст редко поддаётся чёткому выделению, он нестабилен и неотделим от деятельности, поэтому его трудно определить как форму информации, которую можно закодировать (доминирующая позитивистская точка зрения).

Альтернативная феноменологическая точка зрения, преобладающая в исследованиях HCI, состоит в том, что контекст возникает из деятельности, является реляционным свойством, связывающим объекты и действия, а набор релевантных контекстных признаков определяется динамически .

Эта последняя точка зрения отражает сдвиг в исследованиях HCI к более situated (ситуационно-ориентированной) парадигме, которая задаётся вопросом: как проектировать машины в качестве эффективных ресурсов для ситуационного действия человека, вместо того чтобы пытаться автоматизировать человеческое мышление. Однако новые техники машинного обучения (ML) произвели революцию в ИИ.

Машинное обучение, рост вычислительной мощности и доступности данных, а также люди в контуре (humans-in-the-loop)
Вместо кодирования и программирования знаний в компьютеры машинное обучение «стремится автоматически извлекать значимые взаимосвязи и закономерности из примеров и наблюдений» [140], тем самым автоматизируя задачу построения аналитических моделей с помощью методов статистического вывода
С точки зрения вовлечённости человека:
В обучении с учителем (supervised learning) требуется человеческий труд для разметки наборов данных, чтобы обучить алгоритмы делать правильные предсказания.
В формах human-in-the-loop и интерактивного машинного обучения [97] люди могут участвовать в классификации, обучении, тестировании, настройке/корректировке и валидации алгоритмов машинного обучения.

«Контекстуализированный человек»
Работая с огромными объёмами данных, собранных из реального мира, видео и социальных контекстов (таких как социальные сети), машинное обучение и глубокое обучение имеют доступ к гораздо более богатым контекстам, чем ранние формы символического ИИ, а также к вычислительной мощности и статистическим методам для извлечения из них смысла. Благодаря цифровой фиксации аспектов контекста в массивных и богатых наборах данных человеческое мышление, взаимодействие и язык могут быть имитированы и смоделированы.
Как отмечает Blackwell, это «сводит контекстуализированного человека к машиноподобному источнику данных о взаимодействии. Вместо когниции, которая не situated (не ситуационно обусловлена), наша новая забота должна быть о взаимодействии, которое не является humane (гуманным)». Blackwell [39] отстаивает необходимость «гуманного взаимодействия», выделяя проблемы, связанные с авторством, справедливым признанием вклада, вознаграждением, самоопределением и контролем.
Несмотря на всю свою богатство, контекст, извлечённый из данных сенсоров, видео, социальных сетей и т.д., всё равно остаётся крайне избирательным, редуцированным и отличным от социального и воплощённого (embodied) восприятия людей в реальном мире
В результате некоторой дискуссии в которой участвовал и международно признанный эксперт типа Шнейдермана возник устойчивый термин HCAI, как фокусирующийся на «усилении, дополнении и улучшении человеческой производительности способами, которые делают системы надёжными, безопасными и заслуживающими доверия»
Человеко-ориентированный искусственный интеллект - использует данные для того, чтобы расширять возможности и поддерживать своих человеческих пользователей, одновременно раскрывая лежащие в его основе ценности, предубеждения, ограничения и этику сбора данных и алгоритмов, чтобы способствовать этичному, интерактивному и оспариваемому (contestable) использованию.
Итак, как выглядит разбивка по темам исследованиям? Это дало в общей сложности 2357 начальных результатов, которые отбирали рецензенты

В результате были выделены четыре темы:
Этичный ИИ (Ethical AI);
Человеческое взаимодействие с ИИ (Human Teaming with AI);
Объяснимый и интерпретируемый ИИ (Explainable and Interpretable AI);
Человеко-ориентированный подход к проектированию и оценке ИИ (Human-Centered Approach to Designing and Evaluating AI).

Объяснимый и интерпретируемый ИИ
Область объяснимого и интерпретируемого ИИ включает широкий спектр инструментов, методов и фреймворков, которые помогают человеку понять решения или предсказания, сделанные ИИ. Эта исследовательская область возникла в ответ на «чёрный ящик» моделей ИИ, из-за которого неясно, как и почему ИИ пришёл к тому или иному решению или предсказанию — иногда даже для самого создателя системы.

Объяснимость используется как для понимания поведения модели, так и для улучшения её производительности.
Хотя объяснимость и интерпретируемость широко признаны важными, не существует единого определения того, что значит для ИИ быть объяснимым или интерпретируемым. Существует множество способов интерпретации модели, и объяснения должны адаптироваться в зависимости от контекста и аудитории — например, для дата-сайентистов или экспертов предметной области.
к возможности людей взаимодействовать с объяснениями и оспаривать их, задавая вопросы типа «А что, если?» (например, в контексте рекомендации выдачи ипотечного кредита [274]) или напрямую манипулируя базовыми ограничениями, учитываемыми системой [297].
Эта возникающая область известна как contestable AI (оспариваемый ИИ) !!!
то отражает общий сдвиг в сторону HCAI, где человеко-ориентированное взаимодействие с ИИ проистекает из способности человека интерпретировать решение или предсказание системы, а не только из способности системы объяснить своё решение или предсказание.

Человеко-ориентированный подход к проектированию и оценке ИИ
Человеко-ориентированный подход к проектированию и оценке ИИ предполагает использование методов и инструментов взаимодействия человека с компьютером (HCI) на этапах проектирования и оценки систем ИИ. Главная претензия состоит в том, что если в процессе проектирования и оценки применяется человеко-ориентированный процесс, то и создаваемый ИИ по своей сути оказывается человеко-ориентированным.

Человек и ИИ — это команда - всякие коллаборативные работы
Исследования, рассматривавшие человека и ИИ как команду, делали это преимущественно через призму коллаборации. Human-in-the-loop — это направление ИИ, направленное на использование как ИИ, так и человека при создании и постоянном применении моделей машинного обучения

Ну и про этичный ИИ тоже все понятно: цензура, ограничения, проблемы контроля

На диаграмме виден размер тем на текущий момент

Дизайн-дайджест CSS Design Awards. Сайт месяца. Декабрь '25

Узнайте, кто победил в премии CSSDesign Awards "Сайт Месяца в Декабре'25" и заслужил главный приз на Новый Год. Читайте полный обзор в нашем дизайн-дайджесте!

Читать на дизайнерс | #дайджест

Дайджест новостей в дизайне за неделю 10.01.26—16.01.26

Аформ: обзор первой недели января. Поговорим о возвращении к привычной жизни и интересных событиях. Поддержите огонечками!

Читать на дизайнерс | #дайджест

Дизайн-дайджест CSS Design Awards. Сайт месяца. Декабрь '25

Узнайте, кто победил в премии CSSDesign Awards "Сайт Месяца в Декабре'25" и заслужил главный приз на Новый Год. Читайте полный обзор в нашем дизайн-дайджесте!

Читать на дизайнерс | #дайджест

Pinterest назвал самые трендовые цвета 2026 года

Компания раскрыла пять смелых цветов, взрывающихся на страницах 2026 года. Узнайте, как эти оттенки будут диктовать модные тренды в новом году

Читать на дизайнерс | #статья

Работаю один, и никто не говорит, что я молодец. Что делать?

Узнайте о простом приёме для тревожных людей. Всего пара минут наедине с собой - и весь мир может измениться

Читать на дизайнерс | #статья

Пятничный Лайкопост ❤️

Кидайте в комменты ссылки на свои работы (не страницы, а работы) и обменивайтесь лайками

🛠 React Photo Gallery - адаптивная и легко настраиваемая фотогалерея React без сохранения состояния. Она сохраняет исходное соотношение сторон ваших фотографий и использует актуальные элементы изображения. Также можно использовать пользовательские компоненты изображения для добавления дополнительных функций, таких как подписи и избранное.

🌍 Сайт

Daily Coding #инструменты #React

🧰 Car Rental Mobile App — комплект пользовательского интерфейса для мобильного приложения по аренде автомобилей. Иконки, кнопки, иллюстрации

Dezzigners

UX Teddy: «Как превратить списки с данными в интерактивные диаграммы»
https://designpub.ru/a8d17402b860

Антон Григорьев: «Разговор о творчестве и дизайне»
https://designpub.ru/1d143131b732

UIgarage — большая и постоянно обновляемая коллекция мобильных и веб-паттернов.

uigarage.net

Кстати, дорогие читатели, которые давно читают проект Цифрового геноцида может быть есть потребности и задачи, которые хотелось бы решить благодаря автору

Консультация по UX-проблеме: с меня поиск типовых и нетиповых решений относительно проблемы, которая возникла в вашем проекте и формирование рекомендаций для вашего продукта, сервиса или стартапа. В качестве образа результата будет презентация, отчет или другая форма участия консалтера в проектировании

Карьерная консультация или менторство: если вам нравится как я мыслю, как решаю проблемы и какие у меня есть способы помочь вам в работе UX-исследователя - советы начинающим, помощь продолжающим, решение проблем для команды. Финансовая компенсация зависит от грейда

Курсы UX и HCI - сходить и послушать курс по исследованиям опыта пользователя с опорой на современные зарубежные пособия по хуман факторс, когнитивной психологии и тд

Исследование на заказ - провести исследование и выполнить

Кто я такой?
Виталий Болатаев, руководитель исследований экосистемы Лукоморье, - руководитель UXR (экосистема «Лукоморье», РТК ИТ); (ранее UX исследователь в Mail.ru, Сбер (ДомКлик), X5 Group (Лаборатория инноваций), Газпром Медиа (Yappy); доцент Высшей школы программной инженерии МФТИ;
В прошлом научный сотрудник в секторе социальной эпистемологии РАН, НИУ-ВШЭ, Финансовый университет;
Автор телеграм-канала «Цифровой геноцид» — блога про UX-исследованиях и истории технологии;
член Human Factors and Ergonomics Society (HFES);

Выберите что представляет наибольший интерес из списка внизу, а если уже есть конкретный вопрос - велком в @lilalogos