Проблема с этим текстом в том, что это смешная и веселая заметка про историю робототехники и немножко ИИ, но она хороша только целиком и только сама по себе, а не в пересказах:)
(хотя при желании его можно растащить на цитаты)
https://generalrobots.substack.com/p/a-brief-incomplete-and-mostly-wrong

Ирония автоматизации - ирония больших языковых моделей

Пока ждем новостей с форума Царьграда - несколько кратких мыслей относительно автоматизации труда и его ироничности, на сленге специалистов по human factors. Что за ирония? Я писал о ней тут https://t.me/gulagdigital/3091 Феномен иронии удостоился даже статьи в википедии, да и вероятно, что есть несколько ироний. Основной смысл в том, что при автоматизации процесса оператору-человеку дается задача, которая выполнима только теми операторами, кто находится в режиме ручного управления, могут выполнить автоматизированную работу руками. Более того: чем более продвинута автоматизированная система, тем более важным может быть человеческий фактор. Статья Ironies of Generative AI: Understanding and Mitigating Productivity Loss in Human-AI Interaction от лаборатории Майкрософт пытается выявить иронии при внедрении языковых моделей в повседневные рабочие задачи работников. https://www.microsoft.com/en-us/research/wp-content/uploads/2024/10/2024-Ironies_of_Generative_AI-IJHCI.pdf

Отзывы пользователей Copilot, а также исследования удобства использования инструментов программирования на базе GenAI показывают, что в некоторых случаях использование поддержки GenAI может, напротив, приводить к снижению продуктивности. Например, инженеры-программисты и начинающие программисты сталкиваются с трудностями в эффективном создании запросов к системам, отладке сгенерированного кода, теряют состояние потока при прерывании длинными предложениями кода и застревают в неэффективных практиках, таких как просмотр, редактирование и последующее удаление предложений . Аналогичные наблюдения появляются в творческих областях, где графические и производственные дизайнеры сталкиваются с трудностями в создании запросов и других аспектах взаимодействия с GenAI

1. Мониторинг или наблюдения. Десятилетия назад внедрение автоматизации переместило многие задачи ручного управления на задачи
мониторинга, оставив людям надзор за автоматизацией. Однако мониторинг (или бдительность) утомителен и требует внимания, и, следовательно, парадоксально может накладывать значительную нагрузку на людей. В программировании с поддержкой ИИ пользователи проводят длительное время, просматривая и проверяя предложения кода - код ревью. Ну и что?
2. Сниженная ситуационная осведомлённость. Это было выявлено впервые у авиадиспетчеров в 90ые, потому что отсматривать выводы сложнее, потому что, это не их типичные ошибки. Доказательства показывают, что пользователи систем GenAI аналогично испытывают снижение ситуационной осведомлённости. Например, участники экспериментов сообщили, что их отладка сгенерированного ИИ кода затруднялась, потому что они не могли использовать свою интуицию о том, где может быть ошибка, и вместо этого в конечном итоге перерабатывали или полностью отказывались от кода. Это подтверждается участниками в другом эксперименте, которые говорят, например: «Я не вижу ошибку сразу, и, к сожалению, поскольку это сгенерировано, я не понимаю это так хорошо, как, мне кажется, я бы понял, если бы написал это сам».
3.Слишком мощная автоматизация. Мониторинг автоматизации — в данном случае оценка результатов GenAI — парадоксально усложняется высокой мощностью автоматизации, что затрудняет понимание и предвидение поведения системы. Например, когда трейдеры на цифровой фондовой бирже сменили роли с исполнения на мониторинг сделок, они показали худшие результаты, поскольку не могли эффективно контролировать сделки в реальном времени. Таким образом, они прибегали к мониторингу на более высоком уровне абстракции и требовали дополнительных ресурсов для обработки этой информации, тем самым пропуская больше сделок, которые выполнялись в это время. Аналогично, GenAI отличается высокой мощностью в создании контента, такого как целые документы или программное обеспечение, или множественные одновременные предложения

4. Дополнительно затрудняется сложностью и непрозрачностью (т.е. плохой объяснимостью) автоматизированных систем, что может снижать ситуационную осведомлённость. Большее количество функций и режимов создаёт больше возможных взаимодействий между компонентами системы и соответствующее снижение предсказуемости системы, поскольку система всё больше учитывает множество факторов или состояний компонентов). Это может приводить к незнакомым и редким состояниям системы, что добавляет сложности в понимание работы систем.
5. Ну и классика галлюцинаций. Системы GenAI могут вводить тонкие или неинтуитивные ошибки в результаты, особенно в длинных выводах, таких как многострочные предложения кода). Woodruff et al. (2023) обнаружили, что работники интеллектуального труда в разных областях подавляюще ссылались на недостаток надёжности как на ключевую причину необходимости проверки результатов GenAI людьми. Примеры проблем варьировались от нарушения стандартов бренда и авторских прав в сгенерированном контенте до неточностей в юридических документах

Увеличение самоуспокоенности и чрезмерной зависимости, связанное с оценкой результатов, наблюдалось в исследованиях пользователей GenAI. Например, при проверке правильности сгенерированного ИИ кода некоторые программисты сообщили, что просматривали результаты поверхностно, а не читали и оценивали код тщательно. Это особенно распространено среди менее опытных пользователей, таких как программисты-любители) или новички. В некоторых случаях это приводило к ошибкам, которые пользователи либо пропускали, либо тратили время на последующую отладку. Примечательно, что в рекламе копирайтеры как эксперты, так и неэксперты-писатели проявляли излишнюю уверенность в качестве черновиков, сгенерированных ИИ, не пересматривая их тщательно

Автоматизация может реструктурировать рабочие процессы неудачным образом, вводя новые сложные задачи, нарушая знакомые последовательности задач и удаляя информативную обратную связь. Это меняет стратегии, используемые операторами, их восприятие информации и действия в конкретном контексте, потенциально приводя к неэффективному использованию освободившегося времени и когнитивных ресурсов. Таким образом, вместо сокращения того, над чем они работают, когда все или часть задач автоматизированы, люди вместо этого полагаются на разные стратегии для работы над этой задачей. Например, врачи, использующие средства автоматизации, научились манипулировать мониторами, отображающими физиологические данные, чтобы соответствовать их рабочим стратегиям. Однако, поскольку эта манипуляция была дополнительной задачей, которую врачи должны были выполнять, они избегали использования системы в ситуациях с высокой нагрузкой (Cork et al., 1998). Более того, когда автоматизация изменяет знакомую последовательность задачи, например, удаляя шаг, операторы допускают ошибки и повторяют свои действия. Например, врачи могут забыть записать дозу лекарства в журнал и ошибочно повторить процедуру

Новый тип задач труда - промтинг
Центральная роль создания запросов в системах GenAI — один из основных способов, которым такие системы реструктурируют рабочие процессы. Исследования показывают, что пользователи с трудом справляются с созданием запросов, посвящая этому значительное время и усилия. В Xu et al. (2022) программисты, использующие плагин для генерации кода, вкладывали значительные усилия в эксперименты с запросами, чтобы понять, как лучше всего работают их запросы. Исследователи разработали различные стратегии для борьбы с сбоями модели, например, переформулируя запросы, уменьшая объём запроса или ища альтернативные формулировки. Попытка адаптировать запросы — когнитивно требовательная задача, поскольку участники должны сформировать ментальную модель того, с чем модель может работать. Помимо того, что это требовательно, создание запросов может мешать другим аспектам рабочих процессов

Потеря обратной связи - в малых задачах. Очень многие элементы связанные с тем, что при создании задач есть шанс получить данные об ошибках, проблемах или получить сигналы - при мощной автоматизации не видны. По сравнению с инструментами поиска в интернете, такими как Stack Overflow, Copilot не хватало дополнительной информации, такой как обсуждения, объяснения и сравнения решений кода.
Поляризация сложности задач. Объяснение состоит в том, что простые задачи легче автоматизировать, и поэтому более сложные задачи, как правило, остаются под ручным управлением, хотя и наряду с дополнительной задачей мониторинга автоматизации и в рамках теперь более фрагментированного рабочего процесса (Lee & Seppelt, 2009). Например, автоматизация показала снижение ментальной нагрузки пилотов, когда она уже была низкой во время простых задач, как когда самолёт находится на автопилоте во время прямого полёта. Однако автоматизация увеличивала ментальную нагрузку пилотов, когда нагрузка, связанная с полётом, уже была высокой, например, во время посадки, поскольку им тогда приходилось одновременно перепрограммировать систему, управляющую автопилотом, активировать процедуры посадки и управлять коммуникацией

Какие могут быть выводы?
ExAi - Explainable AI. Непрерывная обратная связь и объяснимость. Обратная связь о поведении системы является ключевой стратегией для сохранения вовлечённости пользователей и их осведомлённости о производительности системы GenAI. На стадиях мониторинга получение непрерывной обратной связи имеет решающее значение для того, чтобы оператор оставался в курсе и распознавал моменты, когда требуется прерывание и ввод. Обратная связь необходима, чтобы помочь операторам знать, были ли их запросы получены, выполняются ли действия системы автоматизации должным образом и происходят ли какие-либо ошибки. Для систем GenAI это включает знание того, какие аспекты ввода служат запросами, как они интерпретируются системой, как вывод соответствует им и есть ли какие-либо ошибки. Обратная связь связана с тщательно разработанными функциями объяснимости. Она должна помогать пользователям знать, почему система реагирует определённым образом, и позволять им строить ментальные модели поведения системы, как она с ними взаимодействует и где они могут ожидать сбоев (т.е. причинно-следственные связи).

Минутка студента:

Брендинг города Плёс

Очень нравится.

Дизайнер: Елизавета Смирнова
Куратор: Юрий Гулитов

Примерно такого физона я жду в гта6, иначе можете не выпускать

ENIGMA DIGITAL
Ссылка на проект

Поиск по теме:
#студия #дизайн #портфолио

💣 PSD

Шрифт Droid by Avortic, Nutshell.Design

Бесплатно для личных и коммерческих проектов.

📁Скачать Шрифт

#Latin #Free

🅰️ Новые шрифты