DevNotes Live

Потеря обратной связи - в малых задачах. Очень многие элементы связанные с тем, что при создании задач есть шанс получить данные об ошибках, проблемах или получить сигналы - при мощной автоматизации не видны. По сравнению с инструментами поиска в интернете, такими как Stack Overflow, Copilot не хватало дополнительной информации, такой как обсуждения, объяснения и сравнения решений кода.
Поляризация сложности задач. Объяснение состоит в том, что простые задачи легче автоматизировать, и поэтому более сложные задачи, как правило, остаются под ручным управлением, хотя и наряду с дополнительной задачей мониторинга автоматизации и в рамках теперь более фрагментированного рабочего процесса (Lee & Seppelt, 2009). Например, автоматизация показала снижение ментальной нагрузки пилотов, когда она уже была низкой во время простых задач, как когда самолёт находится на автопилоте во время прямого полёта. Однако автоматизация увеличивала ментальную нагрузку пилотов, когда нагрузка, связанная с полётом, уже была высокой, например, во время посадки, поскольку им тогда приходилось одновременно перепрограммировать систему, управляющую автопилотом, активировать процедуры посадки и управлять коммуникацией

Какие могут быть выводы?
ExAi - Explainable AI. Непрерывная обратная связь и объяснимость. Обратная связь о поведении системы является ключевой стратегией для сохранения вовлечённости пользователей и их осведомлённости о производительности системы GenAI. На стадиях мониторинга получение непрерывной обратной связи имеет решающее значение для того, чтобы оператор оставался в курсе и распознавал моменты, когда требуется прерывание и ввод. Обратная связь необходима, чтобы помочь операторам знать, были ли их запросы получены, выполняются ли действия системы автоматизации должным образом и происходят ли какие-либо ошибки. Для систем GenAI это включает знание того, какие аспекты ввода служат запросами, как они интерпретируются системой, как вывод соответствует им и есть ли какие-либо ошибки. Обратная связь связана с тщательно разработанными функциями объяснимости. Она должна помогать пользователям знать, почему система реагирует определённым образом, и позволять им строить ментальные модели поведения системы, как она с ними взаимодействует и где они могут ожидать сбоев (т.е. причинно-следственные связи).

Цифровой геноцид

Социология технологий: Ирония автоматизации

На днях на глаза попала интересная дискуссия вокруг роли человеческого фактора, но, что интереснее, часто в ней звучала отсылка к статье, которую много считают классической в истории технологий и,которая, кажется…

2 views19:09