DevNotes Live

Объяснимость используется как для понимания поведения модели, так и для улучшения её производительности.
Хотя объяснимость и интерпретируемость широко признаны важными, не существует единого определения того, что значит для ИИ быть объяснимым или интерпретируемым. Существует множество способов интерпретации модели, и объяснения должны адаптироваться в зависимости от контекста и аудитории — например, для дата-сайентистов или экспертов предметной области.
к возможности людей взаимодействовать с объяснениями и оспаривать их, задавая вопросы типа «А что, если?» (например, в контексте рекомендации выдачи ипотечного кредита [274]) или напрямую манипулируя базовыми ограничениями, учитываемыми системой [297].
Эта возникающая область известна как contestable AI (оспариваемый ИИ) !!!
то отражает общий сдвиг в сторону HCAI, где человеко-ориентированное взаимодействие с ИИ проистекает из способности человека интерпретировать решение или предсказание системы, а не только из способности системы объяснить своё решение или предсказание.

Человеко-ориентированный подход к проектированию и оценке ИИ
Человеко-ориентированный подход к проектированию и оценке ИИ предполагает использование методов и инструментов взаимодействия человека с компьютером (HCI) на этапах проектирования и оценки систем ИИ. Главная претензия состоит в том, что если в процессе проектирования и оценки применяется человеко-ориентированный процесс, то и создаваемый ИИ по своей сути оказывается человеко-ориентированным.

Человек и ИИ — это команда - всякие коллаборативные работы
Исследования, рассматривавшие человека и ИИ как команду, делали это преимущественно через призму коллаборации. Human-in-the-loop — это направление ИИ, направленное на использование как ИИ, так и человека при создании и постоянном применении моделей машинного обучения

Ну и про этичный ИИ тоже все понятно: цензура, ограничения, проблемы контроля

На диаграмме виден размер тем на текущий момент

1 view12:21