Вернулись времена, когда рулят те, кто могут добыть информацию?

20 лет назад нужно было иметь доступ к экспертам и книгам, чтобы получить информацию, которая помогала сделать лучшие действия: пойти к нужному человеку, правильно составить документ.
А теперь ценную и правильную информацию снова нужно добывать – откапывать в груде галлюцинаций, мусора и ереси 😵‍💫

Вот Илон Маск запустил новый сервис создания информации – Grokipedia. Grok пишет и редактирует статьи. Создает синтетические данные. Там уже на старте больше 800 тыс. статей. Тут все прозрачно и официально. Работает LLM. Это эксперимент. Но эксперимент настолько масштабный, что вряд ли он закончится ничем (читай: отменой такого рода текстов)

И тут проблема не в том, что такие тексты появляются. А в том, что нам очень уж удобно брать такие тексты сразу в дело, а не перепроверять. Можно сказать, что это так не для всех задач. Что для части задач мы никогда-никогда не возьмем непроверенное. Сказать так можно. Но я в такое не верю.

И что же делать, когда информация стремительно мутирует? Стремительно нарастает число галлюцинаций и ошибок 👎

В целом, можно плыть по течению. Так сказать, есть, что дают. Можно полностью уйти в непринятие и тратить все ресурсы на контроль, проверку и перепроверку информации. Можно найти что-то посередине: для одних задач доверять, для других проверять.
Где талию (границу) будем делать?

Где вы установите границу между экономией своего ресурса на перепроверке за LLM и жестким контролем полученной информации?

✈️Про человека в технологиях | Ядова Екатерина

Мы неизбежно уязвимы перед ИИ

Мы не сможем контролировать все, что происходит внутри нейросети на каждый наш запрос. И хотя бы часть общения с ИИ каждый (!!!) человек оставит без проверки.
Более осознанные оставят без проверки только самое неважное для них, а кто-то не будет проверять все или почти все ответы ИИ-моделей.

Можно же сразу писать в промпте: «дай подтверждение почему версия верна, и сразу же, почему она НЕверна»
или
«пометь данные, которые ты считаешь недостаточно надежными или ложными»

Можно. Но исследование показало, что нам нравится уверенный ответ, даже если он неверный. И мы не особо хотим знать, что сама LLM банит свой ответ.
▪️61% пользователей предпочитают неотмеченные ложные ответы отмеченным, а
▪️69% предпочитают уверенные ложные ответы от LLM, признающих недостаток знаний👀

Техносервисы могут легко использовать эту человеческую слабость и управлять решениями пользователей. Тут, правда, есть риск, что пользователи перестанут верить вообще всем ИИ. И получат невроз, и будут думать об отказе от вашего сервиса или всех сервисов.

Разработчики техносервиса могут сделать из прозрачности и иллюзии контроля конкурентное преимущество. Тут вам в помощь человеческая Automation bias.

Если вы делаете техносервис - ваш выбор, в каких ценностях работать.

А если вы пользователь – все пропало)
Уязвимость к галлюцинациям ИИ для нас уже факт.

Но пропало не совсем все. Информация в LLM-ответах может быть полезной. Правда, человеку придется напрягаться. Прямо сейчас надо начинать думать, где ваши рубежи. За чем вы будете следить внимательно, на что закроете глаза 🙈
Ну, вообще-то, вы можете про это и не думать. Это тоже выбор. И так проще. Тогда за вас подумают другие.

✈️Про человека в технологиях | Ядова Екатерина

Какой ты оператор LLM?

Есть такая модель – модель доверия оператора техносистеме, с которой он работает.

Lee J., See K. (2004). Trust in technology: Designing for appropriate reliance. Human Factors, 46(1). 50 – 58.

В базовом исследовании человек принимал решение, применять автоматизированное управление или ручное. И это решение определялось соответствием между уровнем доверия оператора системе и показателем надёжности этой системы.

Чтобы сформировать доверие, человек должен оценить для себя:
1️⃣Насколько система эффективна для выполнения своих задач и надежна
2️⃣Понятен ли процесс и принципы работы системы
3️⃣Насколько совпадают цели пользователя и результат работы автоматизированной системы

Можно слишком довериться ненадежной системе, можно, не доверяя, не использовать все реальные надёжные возможности системы. И то, и то, не здорово.

Командам техносервисов – удобные критерии, которые можно сразу закладывать для проектирования отношения пользователей
⚡️Performance (эффективность и надежность под задачи пользователя)
⚡️Process (прозрачность и понятность процесса для пользователя)
⚡️Purpose (совпадение результата автоматизации и ожиданий пользователя)

А пользователям?
Представим, что теперь каждый из нас оператор LLM. Заходим в строку запроса ГигаЧата или ЧатаГПТ – как будто садимся за пульт управления роботом🎮 Надо понять, насколько ты отдаешь системе управление результатом.
➡️Дали слишком большой промпт, слишком много раз проверили себя, дали слишком много каскадных запросов – состарились и не получили нужный результат. Слишком ручное управление не позволило сэкономить ресурсы.
➡️Дали короткий промпт на создание огромной задачи, не сделали контроль, получили треш на выходе и по голове от начальников и заказчиков.

Какой ты оператор? 🕐
▪️Оптимист 3000, который выбрал доверие, несмотря на ненадежность и непроверенность системы
▪️Контроль-фрик, которому все мало проверок и доказательств, что система реально надежная
▪️Капитан автопилота, адекватно доверяющий надежной системе
▪️Здоровый реалист, не доверяющий ненадежной системе, но не ставящий крест на всех техносервисах и технопрогрессе

Вы какой? В какой ситуации?

Слишком много доверия – плохо. Мало доверия – плохо. Сколько нужно доверия? Опять – вопрос вашего выбора. И лучше бы этот выбор делать на базе знаний и опыта. Начинаем с насмотренности и углубляемся по своим траекториям.

✈️Про человека в технологиях | Ядова Екатерина

ИИ-паника про работу. ИИ ли виноват?

Вряд ли кто-то не слышал, что много людей бояться потерять работу из-за ИИ. Пик страха, кстати, прошел. В 2018 году больше боялись 😬

Давайте поиграем в игру. Подставим вместо «из-за ИИ» - «из-за другого человека». Мне кажется, вполне подойдет. Можно поиграть с точностью замены. Например, «из-за более квалифицированного человека», «из-за более близкого начальству человека» или «из-за ситуации в экономике».

Исторически страх потери работы присутствовал всегда. Исследование на 21 стране 1997 года показывает, что каждый второй боится потерять работу. Думаю, страх тот же в целом, просто завернут в современную обертку 🍬

Тогда не стоит пытаться обертку как-то подправить. Стоит работать с причиной страха. И опять это выбор каждого: продолжать бояться, игнорировать объективные опасности потери работы или выбрать, что сделать для снижения рисков и сделать это.

А про ИИ важно, что чем больше вы сами узнаете про технологию и чем больше вы, как разработчик техносервиса поясняете возможности технологии, тем лучше мы все понимаем происходящее. И, следовательно, меньше боимся.
Будем делать мир прозрачнее?

✈️Про человека в технологиях | Ядова Екатерина

Что мы с вами творим?
Мы сами, своими руками часто совершаем такие действия, о которых, подумав, жалеем. И когда отвлеченно рассуждаем – говорим противоположное тому, что потом делаем.

Вот свои персональные данные можно раздавать направо и налево? Нет, конечно
Болезнь кто лучше вылечит? Доктор или интернет? Конечно, доктор. Ну, еще бабушка. И кошки.
А что мы делаем в реальной жизни, когда новый техносервис нам предлагает войти, используя наши данные с почты, госуслуг?
«Да, заходим быстрее, все отдаем, лишь бы меньше кликов» 👨‍💻

А когда болеем? К врачу долго и сложно обращаться. Даже онлайн. Там же регистрации, вопросы какие-то лишние. Анализы. Есть же интернет. 10-15% идут в нейросети за первичной диагностикой и выбором лекарств 🏥

Польза есть, и риски есть. По-честному как? Мы после предварительной диагностики идем к врачу для профессиональной оценки? Мы чистим свои персональные данные в Интернете, отзываем потерявшие актуальность согласия на обработку?
Это сложно и не в фокусе внимания для большинства. Вот мы и делаем, как проще. А не как нам кажется правильнее. За открытие этого факта даже Нобелевскую премию дают.

🔡Разработчикам техносервисов тут прекрасный тезис – стройте архитектуру, чтобы принятие решений для пользователей было простым. Вроде бы, все это уже знают. Но не во всех важных местах это реализовано. Есть, куда развиваться.

🔡Пользователям техносервисов хорошо бы помнить, что мы стараемся избежать сложных действий. И важных решений этой тоже касается. Когда решение, которое мы хотим принять, для нас важное (по вашему личному рейтингу важности), стоит специально выделить спокойное время на обдумывание. Не сразу кликать «поделиться данными с госуслуг», а отложить дело на завтра и выделить на это спокойные 15 минут.

От такой нашей небольшой жертвы богам осмысленности мир может стать лучше 🧠

✈️Про человека в технологиях | Ядова Екатерина

Доверие умирает или растет?

В любом случае в масштабах больших социальных групп им надо специально заниматься

Что говорит в пользу того, что доверие в старом добром смысле доверия человеку, организации или социальному институту под угрозой. Классика перестает работать.

Сейчас по исследованию больше 40% россиян говорят, что не могут распознать дипфейк. Что уж говорить про обычные картинки и видео с ИИ.

При этом у платформ и разных техносервисов потенциал доверия высокий. Когда можно проверить работу платформы, она выполняет цели и предоставляет защиту – доверие становится высоким. И это может влиять на доверие значительно шире, чем сам техносервис 🔄
Например, пользователи сервиса будут больше доверять другим таким же пользователям = сообществу вокруг платформы даже в рамках активностей, выходящих за рамки взаимодействий на платформе

🔡Разработчики техносервисов, почувствовали увеличение тяжести ответственности? Если вы делаете классный сервис, которому доверяют и активно пользуются, вы отвечаете и за круг эмоционального доверия, касающегося вашего техносервиса. Может быть, как с ситуацией платформ банков и мошенниками, которые к этим платформам научились подступаться.
Что делать? Паниковать! (шутка…)
Понимать и проектировать процессы шире, чем технологический функционал сервиса.

🔡Пользователям что делать? Ну, как обычно. Быть внимательными и делать свой личностный выбор про то, как вы в целом взаимодействуете с техносервисами и людьми. На какие проверки готовы тратить время, на какие нет. И это наша с вами зона ответственности как пользователей. А не какого-то внешнего «дяди». Душновато рассуждаю что-то сегодня…

✈️Про человека в технологиях | Ядова Екатерина

Велосипед выиграл гонку! Или что ИИ делает за нас

Была на конференции Сбера про развитие человека. Энергичное мероприятие. Конечно, ключевые темы обязательно касаются ИИ.
Некоторые уже устали обсуждать, кого заменит ИИ и как он будет все делать лучше человека 🌟

Но это же фигура речи, что «ИИ сделал что-то сам». Технологии искусственного интеллекта приходят в процессы и задачи, которые полностью выполнял человек. Но ИИ без человека пока брел закончился… не существует.

ИИ не создает ничего.

Все, что сейчас делает ИИ – инициируется человеком. Даже когда ИИ собирает данные сам, делает вывод и потом действие, началось все с человека, который задачу взял, проработал и прикрутил к ней ИИ 🦾

Когда мы говорим, что ИИ написал музыку, это как говорить, что велосипед выиграл гонку. Или другое. Назвать творением то, что получилось после того, как велосипед упал в кладовке.

Мы, кожаные, склонны персонализировать все вокруг себя. Давать имя роботу пылесосу и говорить с ним такими же фразами, как мы бы обратились к человеку.

ИИ уже плотно с нами. На работе с нами, дома с нами, на улице, в госучреждениях. Мы сейчас привыкаем, что наша жизнь обогатилась еще одним велосипедом инструментом. Со своими минусам и плюсами.
Созидание от ИИ это только фигура речи. Как минимум пока что и в обозримом будущем.

Не расслабляемся, продолжаем придумывать и реализовывать💡

✈️Про человека в технологиях | Ядова Екатерина

Что если с ИИ кончился образовательный процесс?

И по-настоящему началась эра образовательного опыта и персонального результата?

Объясню мысль. Думаю ее после экспертной дискуссии на ММСО.

Есть свежий подход в образовании. Грубо – что проектировать надо тот опыт, которые получает человек, а не компетенции, тем более навыки. Опыт – более сложная единица. Более интересная и более ценная. Эффективность проектирования учебного опыта LXD подтверждается исследованиями. Правда, исследования можно и не такое подтвердить 😈

ИИ позволяет взаимодействовать с контентом так, как удобно человеку в контексте и по задаче, которая актуальная сейчас. То есть не выучить таблицу умножения или работу с логарифмами, а применять их по конкретным запросам, параллельно обучаясь и глубоко впитывая новую информацию.
Мы действуем, и благодаря этому обучаемся эффективнее и потом действуем лучше

Видели, как устроены туториалы в играх и на платформах? Что лучше: инструкция с шагами или подсветка места и призыв «тычь сюда»? Вот в обучении такой же подход. С ИИ это теперь совсем удобно. Если наладим гигиену работы с галлюцинациями и источниками данных, будем жить в новом мире достаточно правильно.

Так вот. ИИ + силы человека на проектирование образовательного опыта – это теперь организация обучения. Не учебники для прочтения со страницы 8 по 14, не тесты, не учебно-практические упражнения от работодателей (которые не знают и не могут знать, чему и как учить. И даже не знают единых упражнений для 47 человек на похожих должностях).

Обучающийся человек тогда вовлекается в деятельность, в среду, специально проектированную для опыта, которые приведет к результатам, полезным для заложенных целей. Но результат будет сугубо индивидуален, если проектировщики не наложат лишних ограничений.
Почему? Потому что на тест с 4 вариантами ответов мы отвечаем одним из возможных 4 вариантов. А образовательный опыт мы приобретаем так, как приобретаем опыт в любой другой ситуации в жизни. Мы не можем отринуть наши уникальности и супер-способности 😏 И в опыте и деятельности встаем как на основу на наши зоны уверенности. Для одного это коммуникация, для другого математика, для третьего веселье.
Получится, что образовательный опыт поведет каждого своим путем в едином с группой направлении. Так лучше

А что еще лучше? - Обучаться везде и всегда. А! стоп! Мы так уже и делаем.

Так что… тогда образование уже совсем больше не контент и контроль. Образование – жизнь.
И когда вы пользуетесь любым техносервисом, вы, как минимум развиваете мозг. А как максимум понимаете целую сферу, которую техносервис представляет.

А когда вы развиваете техносервис и закладываете в него что-то для приятного и развивающего опыта, даже не по основной теме сервиса, вы можете привнести в жизнь человека и людей полезное не только по задаче сервиса, но и на более далекую перспективу.

✈️Про человека в технологиях | Ядова Екатерина

Человек подвержен эмоциям, а ИИ – нет.
Вы так думаете? Похоже, что некоторые, да. А по факту – нет

ИИ обучается и функционирует на контексте, в котором чаще всего заложены культурные, этические и эмоциональные аспекты. Помните может быть чат-бота, который очень быстро перешел к расистским высказываниям и был отключен?

Можно по дефолту считать, что все ответы от LLM каким-то образом предвзяты 😶

Что с этим делать пользователю?
🔡Достаточно это знать и добавлять в промпте корректировки, чтобы в повседневной жизни получать вполне приемлимые ответы.

🔡А вот если вы проектируете техносервисы, надо думать системно и глубоко. Китай вот вводит идеологический экзамен для нейросети.

Смотрим, примеряем.

✈️Про человека в технологиях | Ядова Екатерина

Спасибо, что читаете. Спасибо, что делитесь мыслями и впечатлениями от того, что я пишу ❤️
Многие из вас очно)

Начинаю новый год постов. Зачем? Потому что мысли и находки надо куда-то выносить)
А мысли? Куда девать мысли?

Вдруг вам тоже такие приходили. Или, вам приходили другие, а эти почему-то интересны.
Тешу себя тем, что размышления и мысленные эксперименты, в конечном свете, полезны в очень разных областях реальной жизни.

Ресурса думать обо всем и делать все у каждого из нас просто нет. Сколько времени в день мы посвящаем тому, чтобы подумать? Не блуждать мыслями, а глубоко думать ❄️

Рефлексия – осмысление опыта, может улучшить эффективность на 23-25% всего за 2 недели.
Ресурса на мысли обо всем, конечно, и не может быть. Зато есть возможность делиться друг с другом находками. Технологии в помощь, конечно.

Ощущение того, насколько именно мне не хватает времени на что-то – это личное дело. Зависит оно от многих внутренних настроек.

Но вот как пример. В моменте мне не хватает времени доделать видеоаватар на HeyGen. А очень интересно, какой он будет.

Наверное, раз уже ресурс у человека ограничен, полезное упражнение – периодически (раз в месяц?) проводить ревизию приоритетов:
▪️Что я не успеваю из того, что мне по-настоящему важно?
▪️Что ради этого я могу подвинуть в низ списка?

О! И для работы с техносервисами такое должно быть ценно. 💡Пользователь делает только те приоритетные действия, на которые у него хватает выделенного на дело времени и «мысленного топлива»

С Новым годом! И да пребудет с нами сила ❤️

✈️Про человека в технологиях | Ядова Екатерина

Что я хочу сказать сегодня?

Ничего не меняется

Мне кажется, что мы со временем немного отдаляемся от любой яркой ситуации, когда становится понятно, что она похожа на что-то, что уже происходило.
И даже появление ИИ, такое яркое и меняющее нашу жизнь, не такое уж новое с точки зрения того, что нам надо по-новому настроить свое восприятие. Например, появление компьютеров, такое же революционное. И оно уже произошло, и мы справились.

Разные люди справились по-разному. Мы же разные. Все логично. Каждый из нас может регулировать, сколько нового он хочет принять близко к себе, а сколько будет держать максимально далеко от себя.

Вот насколько лично вас каждый день задевает, что на озере Ниос от углекислого газа погибли животные и больше 1700 людей в 1986 году? Или текущая обстановка в Судане?

Событий хороших и плохих все время происходит много. Наше ощущение перегруза связано не только с их количеством, но и с тем, что именно мы выбираем проживать глубоко. По этой теме приятно нырнуть в японскую философию принятия несовершенства – ваби-саби / кинцуки.

Мимо каких-то событий вы можете пройти. Мимо каких-то нет. Но всегда можете выбирать. Даже сам факт, будете вы что-то выбирать или нет, тоже по сути выбор 🪙
Такие мысли у меня сегодня.

А что с ними делать?
🔡Для себя – выбирать то, что реально ценно именно мне. По-настоящему ценное для меня найти непросто, зато очень-очень важно и приятно.
🔡А для техносевисов (которые вплетаются в нашу жизнь как части нас самих) важно проектировать с учетом психологии человека. Чтобы не добавлять событий, с которыми человеку трудно справляться. Это этично и профессионально. И прибыли приносит больше, чем когда пользователь героически преодолевает барьеры лишних кликов, паролей и строк в авторизации.

Пойду, поделаю сегодняшние выборы)

✈️Про человека в технологиях | Ядова Екатерина

Ура! Вика мне сделала ИИ-аватар!

Это ИИ-аватар с HeyGen. Идея была в том, чтобы отдать такому ИИ-аватару рассказывать часть лекции. У меня тогда остается больше времени на работу с вопросами студентов, что-то подправить по ходу работы. Текст для ИИ-аватара я пишу перед лекцией, потом оттачиваю. Получается лучше продукт на выходе. А выгорания меньше 😌
Преподаватель больше готов дать при подготовке к лекции, больше дать на самой лекции.

Так что выглядит пока как полное присутствие преподавателя, разумная экономия его ресурсов, дополнительное развлечение на лекции и, в целом, неплохая идея.
Правда, это видео маленькое. На 20-минутном качество должно быть пониже. Еще проверим.

Но уже есть вопрос. Насколько реально это комфортно для студентов. Пока есть вау-эффект (надо же как далеко уже ушли технологии), даже спросить нормально не получится. Идеально было бы смотреть на цифровой след и реальное вовлечение во время лекции. Надо подумать🔺

🔡Пользователям ИИ-сервисов, похоже, уже можно выбирать свою позицию. Комфортно ли такое, в целом. Есть ли открытость попробовать.
🔡И проектировщикам техносервисов было бы классно закладывать в тестирование такие инструменты, которые будут показывать не классность ИИ-аватара по сравнению с текстом, а реальную ценность или опасность для бизнес-модели:
▪️сколько ИИ-аватров и где – комфортное дело для пользователя, ускоряющее процессы
▪️а в каких случаях – это медленно или быстро разрушает доверие к техносервису

✈️Про человека в технологиях | Ядова Екатерина

Директора стимулируют или тормозят рост эффективности, который возможен за счет технологий ИИ

Ну мы уже все поняли, что ИИ с нами. С эффективностью экономической тоже примерно понятно: эффективности в деньгах пока нет, но те, кто не перестраивают процессы под ИИ отдадут свое место на рынке.

Многие руководители понимают это. Но не все понимают, что в своих компаниях и отделах надо активно лидировать и поддерживать тему освоения и грамотного использования ИИ.
Это не само собой произойдет. Не будет такого, что бац, и все сотрудники магически прекрасно используют ИИ. Это процесс. И его нужно двигать вручную 💪

Лидеры, активно поддерживающие и продвигающие ИИ, помогают своим коллективам адаптироваться к новому миру и получить новый навык ради собственной и организационной эффективности. С 15% до 55% увеличивается положительное отношение к ИИ у сотрудников при поддержке лидеров.

Что это значит? Если вы находитесь в позиции управления и не помогаете своему окружению понять новые реалии ИИ – вы не помогаете или даже мешаете повысить эффективность. Представляете, даже бездействие руководителя по отношению к ИИ откидывает все подразделение или компанию назад 📉

Эффективность – это же просто официальное слово про какой-то рост чего-то. Это возможность получать доход, это возможность не тратить лишнее время на рутинные процессы, оставлять себе ресурс на восстановление и глубокие мысли. Это полезная штука. И она стоит того, чтобы ее повышать.

Пока писала, немного загрустила. Получается, как будто, мир нам не оставляет выбора. Как баянистое выражение от Королевы из «Алисы в стране чудес»:

Приходится бежать со всех ног, чтобы только остаться на том же месте, а чтобы попасть в другое место, нужно бежать вдвое быстрее.

Или как будто выбор – беги сломя голову или умри.

Явно же, что люди разные, мы все очень разные по сути. Одним нравится все новое и непонятное, другие сохраняют спокойствие под натиском хайпа и берут только проверенное. В целом, конечно, уровень открытости новому повышается неизбежно. Просто потому, что невозможно закрыться от обилия действительно существующей новизны. Но то, что мы разные, в конечном счете обеспечивает наше общее выживание и благополучие.

Вот теперь перестала грустить)) Как результат, получается, что выбор все же есть. И первый шаг – понять кто ты, и где ты. Какие у тебя особенности, личные настройки, возможности и стремления + увидеть, продумать, какой мир тебя окружает.

И дальше принимать решение, как двигаться. Какие мысли нести окружающим, как выстроить собственные привычки (на что тратить время в течение дня и года), куда нацеливаться. Это и для пользователей, и для разработчиков, и для руководителей… И для всех ролей, из которых вы делаете выбор.

И да пребудет с нами Сила! вычислительная мощность ⚡️

✈️Про человека в технологиях | Ядова Екатерина

Синтетический человек респондент будет диктовать нам, как жить и потреблять?

Технологии ИИ, конечно же, начали использовать в маркетинговых исследованиях. Прописывают роль, просят из нее отвечать на вопросы анкеты. Более аккуратные списывают роли с реальных респондентов и подробно, менее аккуратные – описывают большие типовые группы. Да-да, и британские ученые, и уже давно 😳
Соблазн слишком велик, невозможно отказаться. Экономия времени, денег и человеческого включения колоссальные.

Самые тщательные ученые и бизнес-маркетологи делают сравнение ответов ИИ и ответов кожаных респондентов. И получают «достаточно похожие ответы»🤪
Правда, эта «достаточная похожесть» распространяется не на все группы респондентов. Например, для некоторых стран такое не работает.
Кто разобрался в LLM, понимает, что дело в исходных данных. Кто написал про себя и от себя больше текстов, того модели лучше имитируют и понимают.

Так и что мы получаем? Прямой путь к замене реального респондента синтетическим. И еще через полшага принятие ответов синтетических респондентов вместо реальных. Потому что «достаточная похожесть», когда она значительно дешевле, непреодолимо соблазнительна.
Дальше мы строим на синтетических результатах бизнес-модели, перестаем доверять исследованиям, перестаем опираться на результаты. Хотя просто нарушили правила исследования людей и забыли об этом, потому что вокруг все так делают.

Дальше мне хочется долго приводить доводы из социологии и психологии. Но я себя останавливаю. Общая идея и для пользователей, и для разработчиков техно-сервисов опять в зоне выбора. Выбирать профессиональных подход с его душнотой сложнее, но это правильнее. На длинной дистанции хотя бы больше 3 лет он окупается, потому что генерирует меньше «технического долга», меньше ошибок нужно искать и исправлять. Правда, такое будет интересовать только тех людей, кто планирует отвечать за результат эти 3 года. Но это тоже зона личного и профессионального выбора.

Что делать исследователю или заказчику исследования? Конечно, использовать ИИ. И использовать его правильно. Например:
🔵пилотировать анкеты с ИИ на синтетических респондентах, чтобы понять, работают ли вопросы. Или, например, все отвечают «да».
🔵моделировать сценарии для разных больших групп респондентов или гипотезы. Не ответы, а именно исследовательские предположения. ИИ поможет не пропустить важное из-за излишней веры исследовательской команды в свою идею
🔵прорабатывать результаты с LLM. Тоже, чтобы шире видеть, искать другие интерпретации.


И, если вы все-таки приняли решение опрашивать синтетических респондентов, то постоянно, регулярно и строго проверять себя с реальными респондентами. Не началось ли расхождение синтетических ответов и реальных.
…дальше у меня мысль побежала в ИИ-исследования ИИ-агентов. Вот где интересно тоже будет.

«А вы что, и есть за меня будете?» (кто смотрел мультик, тот понимает)

✈️Про человека в технологиях | Ядова Екатерина

Страх потери работы из-за ИИ

Сегодня хочу сказать про тему около технологий.
Много материалов про то, что люди массово опасаются потерять работу из-за ИИ. Страх точно есть. Страхи, вообще, есть почти в каждом. И они мешают принимать решения, если не управлять ими😱

Но боятся не все и не всего. Вот есть подробное исследование PwC на 50 000 респондентов из 28 секторов в 48 крупнейших экономиках. Они выделяют большие цифры по страхам, но в сегментах, а не в целом по человечеству. Например:
▪️Каждый 3й менеджер, выполняющий ручную работу ожидает сокращения из-за ИИ
▪️Еще почти треть джунов обеспокоены влиянием ИИ на свое будущее
▪️Но так же из джунов 38% испытывают оптимизм в отношении долгосрочного воздействия от ИИ на общество


Это я к чему. Неподконтрольный страх обычно не друг. Он сбивает с толку, мешает принять решение, сделать свой настоящий выбор ⛹️‍♂️
Но раз уж он есть, логично работать с ним и на личном уровне (каждый со своим страхом), так и на социальном.

От руководителей компаний и подразделений, вообще, много в принятии ИИ зависит.

Свежий пример. О нем сейчас вихрем проносится информация по каналам. Компания Block увольняет 4 тыс. сотрудников. И владелец дал подробное пояснение причин. Больше он писал, что компания не в кризисе, а просто строит себя по новой модели. Акции в результаты выросли.

Как это поможет уволенным?
→ Если это не кризис, значит, возможны программы поддержки и переобучения, выплаты по увольнению.
→ И если это не кризис, значит, будут новые наборы сотрудников.
→ И если это не кризис в отдельной компании, значит, и в других возможно, тоже будут оптимистичные сценарии изменения модели работы.

У этой басни вижу мораль, что надо нырять в свои страхи, разбираться подробно, чего именно я боюсь и что могу с этим сделать. Это касается и руководителей, которые перестраивают бизнес-модель в сторону ИИ: нырять в страх выхода из сумрака и пояснять, продумывать работу с человеком до увольнения и после. На большой картине это принесет больше пользы.

✈️Про человека в технологиях | Ядова Екатерина

Цифровой коллега – враг или друг?

Логичное продолжение поста выше и целой темы про ИИ-агентов, выполняющих какие-то рабочие задачи – обсудить целого ИИ-сотрудника🪬

Понятие только появляется. Но привлекает внимание довольно сильно. Опять кого-то пугает, кого-то вдохновляет, кого-то замедляет, кого-то ускоряет.
Опять наш выбор и проработка темы 🧠

Маккинзи уже выделили среди ИИ-агентов разные типы, включая:
▪️персональных помощников [AI copilots]
▪️«автоматизаторов» процессов [AI-automated workflows]
▪️вирутальных сотрудников [AI virtual workers]

Сейчас имеет смысл принять факт, что на рабочих местах рядом с людьми будут сидеть ИИ-сотрудники. Метафорически выражаясь «сидеть», и совершенно буквально «на рабочих местах».

У них появляются имена и официальные термины. Например, Цифровой работник/ сотрудник/ коллега [Digital worker/ employee/ coworker]. Или не цифровой, а ИИ (AI). Или не коллега, а Copilot. Многие пока агентами называют. Кстати, агент – тоже бывает должностью человека. Короче говоря, все конкретнее и конкретнее. Все ближе и ближе.

Не везде прямо сегодня в штатном расписании появятся ИИ-сотрудники. На каких-то рабочих местах еще очень долго не будут сидеть. Но уже сейчас понятно, где это начнется массово: работа с данными и документами компаний, элементы программирования (не все-все, а релевантные части), производство контента.

Уже поздно проходить первые стадии принятия горя (отрицание и гнев). Лучше переходить к осмыслению принятия в конкретной нашей ситуации. Как именно для меня такая ситуация могла бы быть приемлемой? Опять выбор, конечно.

🔡Что делать пользователям? Подумать и выработать свое отношение к этому, свои действия в связи с этим. Это большая работа, хотя кажется, такой очевидной и незначительной.

🔡Что делать разработчикам техносервисов и владельцам процессов с участием ИИ-сотрудников? Уделять внимание наличию человека рядом. ИИ-коллега должен быть встроен в команду и в культуру. А не только технически разработан. И процесс внедрения в практики рабочие небыстрый. Пора начинать 📈

✈️Про человека в технологиях | Ядова Екатерина

Начальник как учитель?

Что вы думаете про то, что начальники в разных уголках страны теперь должны выступать в роли проводника нового – по сути, учителя по предметам, которых не было в школе?👨‍🏫

Чуть поясню. Вот у нас появились технологии искусственного интеллекта. Все работающие люди о них слышали, многие получили распоряжение изучать и внедрять. И совсем не все относятся к этому новшеству с энтузиазмом.

Даже среди тех, кто реально работает с технологиями ИИ, уровень доверия невысокий. Не в эмоциональном смысле, а в практическом. Знают плюсы, знают минусы. Кстати, в эмоциональном смысле тоже, но сейчас не об этом.

Вот в исследовании выявили, что даже при том, что 58% инженеров пишут код с помощью искусственного интеллекта, доверяют ему только 11%, а не 58%.

И это не плохо, и не странно. Это просто такой процесс.

А что говорить про тех, кто не пишет код и не связан с темой информационных технологий? Им же тоже скоро работать рядом с ИИ-сотрудниками. Кто поможет узнать новый мир и привыкнуть к нему?

Очень логично, что это должно происходить на рабочем месте. А там у всех есть начальники.
Логично же, что начальник становится «значимым взрослым» в новой теме 🤝

Как учитель в школе? Как завуч? Как родитель? Или больше временный попутчик на жизненному пути? На какую роль это больше похоже?

✈️Про человека в технологиях | Ядова Екатерина

ИИ-Агент по определению масштаба проблемы
Верим? Нет?

Тема агентов классная. Потенциально они могут сделать каждое движение человека более ценным (это я про повышение производительности труда). И ИИ-агентов очень много разных.

Вот уже сделали агента, который служит общественному благу – определяет масштаб социальной проблемы. Он придуман, чтобы запускать реальные проекты «AI for Social Good» (AI4SG). Он объединяет LLM и поиск по реальным данным, сам собирает черновик описания социального проекта от проблемы до методов и рисков.

Сейчас такие проекты больше помощники, формирующие черновик. Квалифицированный человека перепроверят за LLM, правит, отвечает за результат. Неквалифицированный просто берет, что дал ИИ.

Но мы в полушаге от того, чтобы с нами «за столами» сидели ИИ-коллеги. В смысле, что они не помогать нам будут, а полностью возьмут на себя какие-то процессы 💪
Как мы будем к такому относиться?

По модели принятия технологий (МПТ) так: если ИИ-коллега будет полезен для меня и им будет удобно пользоваться – мы его принимаем. Ключевое здесь реально полезно, а не только на бумаге от разработчика ИИ-агента. В реальной нерациональной и сложной жизни.

В начале работы точно не будет идеально удобно и полезно. Может, и дальше будет не всем удобно и полезно.
Вот что с этим делать?

🔡Разработчикам – в каждом ИИ-агенте проектировать хотя бы 1 очень точно полезную и удобную функцию. Пусть простую. Но очень хорошо работающую с самого начала.
🔡Пользователям – пока морально настраиваться) Просто еще одно программное обеспечение. Будем тестировать и привыкать.

И да поможет нам Сила (электричество)

✈️Про человека в технологиях | Ядова Екатерина

Незаметно произошло важное. ИИ-агенты получили «паспорта», подтверждающие «ИИ-гражданство»

Понимаете, да? Анонимность ИИ-агента перестанет быть нормой. Сейчас еще только начало использования, и ИИ-агенты творят странное: заходят куда-то, общаются в соцсети, пытаются делать покупки. И это все пока что не очень-то под контролем. И далеко не всегда можно понять, чей отзыв читаешь, ИИ-агента или человека 🥸

А вот когда у ИИ-агента появляется идентификатор, ИИ-жизнь приближается к привычной для человека. Мы же привыкли авторизовываться и показывать удостоверение личности🪪

Это что значит? Что уровень ответственности повышается. И стало еще важнее понимать, что ты делаешь с ИИ-агентом, даже если ты его не разрабатывал, а взял готовый.

🔡Для пользователей что это значит? Разобраться надо. Не обязательно уметь самостоятельно отремонтировать автомобиль, которым рулишь. Но где у него колеса и аккумулятор понимать все же надо. Тут такое же. Что именно могут и не могут делать ИИ-агенты. Что может и не может конкретно твой.

🔡Разработчикам? Ну, соответственно: прикручивать к техносервисам пояснения, которые позволяют прозрачно понимать, что делает техносервис, и чего не делает. Это кажется простой задачей, но нет. Нужно внимательно исследовать, что пользователям важно, и коротко писать только это, а не все подряд.

🔡Руководителям… тогда тоже соответственно. При разработке и использовании в своих командах ИИ-агентов в бизнес-процессы важно закладывать время на обучение и понимание. Самостоятельно интересуются инновациями только 2,5% людей.

Чтобы наладить процесс, конечно, нужны будут ресурсы. В первую очередь, время и внимание. И еще, возможно, привлечение техно-лидеров и активных в использовании технологий сотрудников (Digital Savvy = опытные в технологиях).

На длинной дистанции это очень окупается. Вы формируете грамотную технокультуру в команде. Это очень дорого стоит.

✈️Про человека в технологиях | Ядова Екатерина

Новый Я! Тема больше, чем на 4 триллиона $

У меня недавно был день рождения. И хочется начать не с технологий, а с человека. Но с технологиями)

Вот я. Чего я хочу привнести в этот мир? Чего я хочу от него получить? На самом деле Я. Не образ меня как сотрудника, родителя, ребенка или волонтера. А я. Тот, который несет все эти роли и еще много чего другого внутри себя через всю жизнь 🌟

Кто знает ответ на такой вопрос, тот уже крут. Уверенным я бы предложила ответить на «5 почему» – почему они этого хотят. Нет ли там очень глубоко проросшего стереотипа.

Пример – хочу крутые часы:
– Почему? Хочу удобно смотреть время.
– Почему это важно? Потому что очень занятой человек.
– Почему это важно? Потому что крутой.
– Почему это важно? Потому что мужик.
– Почему это важно? Потому что с детства помню, что так надо «мужик - крутой»

И вот, это не твое желание, а дань стереотипу. Кстати, к теме материальных «хочу» тоже есть вопросики. Если хочу материального, скорее всего это сигнал, что это не то самое, что хочу именно я 😐

И вот тут появляются ИИ-агенты. Они уже могут снять с нас какую-то работу. Но чтобы это произошло, надо приложить усилия. Разобраться, настроить. Настроиться = настроить себя. Такое мы делаем, только когда действительно хотим или когда заставили

И что я хочу продолжать делать, а что хочу, чтобы за меня сделал ИИ-агент? Какие у меня требования к ИИ-агенту? Тут прямо надо подумать. Это опять выбор человека. А еще это часть общей культуры. И культуру мы еще только отращиваем. Тут нужна помощь от всех.

🔡От пользователей – разобраться в себе и в самом верхнем уровне ИИ-агентов. Что могут, что не могут, где риски.
🔡От разработчиков – подсказки-мотиваторы-следующие шаги везде, где можно. Микро-шагами, без утяжеления.
🔡От руководителей – поддерживать среду, где есть безопасная возможность попробовать, ошибиться, возмутиться, отказаться, еще раз попробовать чуть другое. И так до тех пор, пока не понравится. Это затраты. Но именно тут повышение производительности труда.

Как пишут в статье, это тема на 4 триллиона долл. Но на самом деле речь не только про деньги. Каждый человек может работать содержательнее и интереснее. В процессе внедрения ИИ-технологий фиксируемая сегодня продуктивность не насколько важна, как кажется. А вот рост человека над собой это очень и очень круто. И тогда не так и важно сколько хайпа и какие цифры в оценках. Развитие – бесценно 🤩

✈️Про человека в технологиях | Ядова Екатерина