Про переход к этичной практике работы с данными.

Помимо описания большого количества проблем, связанных с отсутствием этики сбора, обработки или распространения данных, хочется подумать и на тему перехода к этичной практике.

Одним из способов решения этой задачи является изменение подходов к найму сотрудников (к другим способам вернусь позже). Сейчас получила распространение практика найма ответственных за вопросы этики в сфере данных и ИИ. Вот примеры релевантных позиций в крупных компаниях:

▫️AI ethicist (IBM)
▫️Chief Ethical and Humane Use Officer (Salesforce)
▫️Data Privacy and Ethics Lead (Qantas)
▫️Ethical AI Lead (Google)
▫️Chief AI Ethics Officer (US Army Artificial Intelligence Task Force)
▫️Activation Lead/Ethics & Society (Microsoft)
▫️Director of Responsible Innovation & Responsible Innovation Manager (Facebook)
▫️Social Trust Specialist (Apple)
▫️Responsible AI Specialist (H&M Group)
▫️Principal, Responsible Innovation + Data Ethics (Accenture)

Мне кажется, что это временное решение (хотя нет ничего более постоянного, как говорится). Вообще при найме компании уже задумываются о том, чтобы не просто нанимать следящего за этичностью, а сразу нанимать сотрудников - дата-саентистов, которые отвечают заданным требованиям. Gartner даже выпустил небольшой Data Ethics Interview Guide для этих целей.

#переходкэтичному

Про этичность сбора данных.

Вот ещё кейс из США. McDonald’s тестирует в 10 ресторанах в Чикаго голосового чатбота, который принимает заказы посетителей на McDrive. Точность распознавания слов — 85%, что позволяет программе принимать 80% всех заказов (остальные 20% обрабатывают живые сотрудники).

Оказалось, что такое использование голосовых записей нарушает законы штата Иллинойс — там биометрические данные граждан можно собирать только с их письменного разрешения, да и вообще законодательство штата насчет приватности данных одно из самых строгих в США. Против компании подан коллективный иск по поводу незаконного сбора и анализа биометрических данных. По законам штата, пострадавшие могут рассчитывать на компенсацию до $5000. Более того, согласно тексту иска, алгоритмы машинного обучения McDonald’s не только транскрибируют текст заказа, но и анализируют записи для определения возраста, пола, акцента и национальности клиента.

Тут сразу два момента. Первое - это вроде бы этичный сбор данных, однако нарушающий законодательство. Такой сбор данных направлен на улучшение сервиса и многие потребители согласятся с тем, что сервис всегда нужно улучшать. Но когда речь заходит про персональные данные, этическое поведение может перекрыться законодательными нормами.

А второй момент - это как раз не совсем этичное поведение в следующей части. Многие компании и госорганы зачастую собирают излишние данные - на всякий случай. В данном кейсе компания - не исключение. Стоит ли собирать излишние данные, а пользоваться ими в случае необходимости? Где проходит граница этичности такого поведения?

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про этичность сбора данных.

На днях пересматривала фильм "13 друзей Оушена". Одним из препятствий для ограбления казино в нем заявлялась система распознавания эмоций игроков "Греко". После крупного выигрыша она по эмоциям должна была считывать, был ли этот выигрыш случайным или ожидаемым. Фильм 2007 года, думаю тогда вопрос этичности сбора такой информации еще не поднимался. Но в наши дни подобные технологии вызывают отторжение.

Китайская компания Taigusys продает технологию распознавания эмоций через камеры наблюдения. Среди десятков ее клиентов — крупнейшие китайские телеком-операторы, нефтяные компании и Huawei. Как именно компании используют распознавание эмоций в своих офисах и на производстве, неизвестно — ни одна из компаний не захотела рассказывать об этом журналистам. На сайте Taigusys написано, что система помогает "справляться с новыми вызовами" и "минимизировать конфликты". Алгоритм считывает движения мимических мышц человека и его биометрические сигналы и оценивает их по шкале "положительных" и "отрицательных" эмоций. О самых грустных сотрудниках система оповещает менеджеров, рекомендуя предоставить им эмоциональную поддержку. Сайт компании утверждает, что система может даже определять фальшивую улыбку.

Системы от Taigusys установлены в 300 тюрьмах. 60 тысяч умных камер помогают контролировать заключенных, следя за ними 24/7 и распознавая "опасное поведение". Также камеры мониторят учителей и учеников в школах и следят за эмоциональным состоянием жителей домов престарелых.

Экспертам и правозащитникам такой подход сильно не нравится: это одновременно и нарушение приватности, и использование биометрических данных человека против него, и слежка, от которой невозможно скрыться. К тому же технология основана на сомнительной науке: эксперты утверждают, что нельзя упрощать психический мир человека до оценки его мимики нейросетью.

Готовы ли сотрудники различных компаний и организаций к такой слежке?

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про переход к этичной практике работы с данными.

Еще одним способом перехода к этичной практике работы с данными является внедрение цифровой этики как части всех бизнес-процессов организации. Как пишут PwC в своем докладе "Digital ethics: main ingredient for successful digital transformation" для достижения этого результата нужно выполнить следующие шаги:

▫️Определите, каким требованиям организация должна соответствовать (законодательство и нормативные акты) и хочет соответствовать (этические принципы и ценности) в своей цифровой трансформации.
▫️Придайте выбранным принципам форму (определите содержание) и определите критерии того, как при развитии цифровых технологий (работе с данными в частности) они будут достигаться.
▫️Определите, где могут возникнуть потенциальные конфликты между различными принципами и ценностями и как организация намерена их устранять.
▫️Измеряйте и контролируйте соблюдение принципов и ценностей во время и после внедрения соответствующих цифровых технологий и (возможно) отчитывайтесь об этом перед заинтересованными сторонами организации.

Эти шаги нужны не только для цифровой трансформации. Необходимо в целом переходить к цифровой этике и этике управления данными в частности.

#переходкэтичному #почитатьнатему

Про этичность использования данных.

Одна из самых больших современных этических дилемм - это вопрос слежки за гражданами. В этом контексте интересен инцидент, который случился в США, когда 6 января этого года сторонники Трампа ворвались в Капитолий.

Об этом много было написано, но обратить внимание хочется на колонку в NYT. Авторы колонки "The stormed the Capitol. Their Apps tracked them" пишут, что государство может отслеживать местонахождение граждан по смартфонам и приводят пример перемещения одного из протестующих - они идентифицировали человека, узнали его имя и соцсети. Колонка задумывалась как предупреждение против слежки. Авторы пишут, что "передавать нашу частную жизнь правительству было бы глупо" и "никакие из этих данных никогда не должны были собираться", однако сами же подрывают свой тезис, публикуя данные о нарушителях, используя их, чтобы подчеркнуть политическую точку зрения: да, отслеживание плохое, но посмотрите, это также без тени сомнения доказывает, что протестующие могут быть связаны с Трампом.

Как будто для того, чтобы подчеркнуть это противоречие, в твиттере NYT появилась публикация о том, что были "идентифицированы некоторые участники беспорядков в Капитолии", наличие которой полностью игнорирует идею о слежке на основе данных. Сами журналисты, выступая против слежки за гражданами, публикуют статьи на основе данных, полученных в результате слежки.

Вернемся тут к Кодексу этики больших данных АБД. Один из принципов сформулирован следующим образом: "Данные, полученные с применением технологий, направленных на преодоление правомерно функционирующих средств защиты данных, не могут быть признаны собранными добросовестно." Таким образом, использовать такие данные не этично.

Ну и кроме добросовестности сбора и использования данных важный урок этого кейса - начинайте с себя.

#кейсдатаэтики #переходкэтичному

Про этичность сбора данных.

И снова о слежке. Излишний сбор данных и неприкосновенность частной жизни тут противопоставляется вопросам безопасности. И здесь важен принцип пропорциональности. Как и в правовом поле, с этической точки зрения нужно понять, насколько это необходимо. Очередной кейс, который может стать прецедентом.

В одной из школ Подмосковья будет развернута ИИ-система слежки за детьми. Она будет контролировать их поведение и психоэмоциональное состояние. В частности, она сможет помечать бег по коридорам как опасное поведение и уведомлять психолога, если ребенок долго находится в плохом настроении. Разработчики планируют внедрить такую систему во все школы Московской области. И кто знает, может уже через пару-тройку лет мы такое увидим во всех школах страны.

Насколько мы готовы к постоянному контролю?

#кейсдатаэтики

Про переход к этичной практике работы с данными.

Слушала сейчас Радио Т, ведущие обсуждали интересный кейс про dark patterns. Они прочитали заметку о том, что один из разработчиков ПО уволился после того, как на работе его попросили задеплоить код, который сохранял email пользователей на сервере после ввода в формочку, но без нажатия кнопки сохранения. Ведущие в целом сошлись на том, что такая реакция (увольнение) на такую мелочь гипертрофированна. Но поднялся вопрос границы того, где разработчик должен следить за этичностью собственных разработок. Отдельной точкой преткновения стало то, что он же сам этот код не писал. Может, кодекс этики разработчика, как клятва Гиппократа, уже тоже должен приниматься сразу после обучения?

Ещё отличная мысль прозвучала на тему того, что параноики в области ИБ (те, кто думает, что все про кто-то собирает) - это люди неэтичные. Потому что все же по себе судят :)

#кейсдатаэтики #переходкэтичному

Про ошибки в модели анализа данных.

Ошибки могут возникать на разных этапах анализа данных. Например, что делать, если разработанная модель анализа данных дает правильные, но не честные результаты. Возникает неспециальная дискриминация. Именно это и произошло в ситуации с Amazon. Кейс, мимо которого нельзя было пройти.

Amazon нанимает миллионы водителей для доставки своих посылок по США. Это не сотрудники компании, а такие же подрядчики, как и водители Uber и других сервисов подработок. Чтобы обеспечить быструю и гарантированную доставку, в Amazon разработали алгоритмы, которые анализируют работу водителей - вовремя ли они приезжают за посылками, вовремя ли их доставляют, нет ли жалоб на доставку от клиентов. Проблемным водителям снижают рейтинг, а потом увольняют.

Звучит как здравая для бизнеса оптимизация HR. Сам Безос считает, что машины принимают решения быстрее и точнее, чем люди, снижая затраты и давая его компании преимущество перед конкурентами. Но в погоне за общей эффективностью системы разработчики алгоритмов не учли все нюансы реальной работы доставщиков. Водители регулярно сталкиваются с проблемами, не зависящими от них: задержки в пункте выдачи посылок, занесенная снегом дорога, закрытые ворота по адресу доставки, и так далее. Алгоритм безжалостен и наказывает водителей даже за те ситуации, на которые они никак не могли повлиять. Писать в поддержку бесполезно: водителям отвечают автоматизированными письмами в духе "мы рассматриваем ваше обращение". Те в отчаянии пишут Безосу, но и это не помогает. Единственный способ ускорить рассмотрение апелляции - заплатить за это $200.

Если смотреть на ситуацию с точки бизнеса, то все ок. Система эффективна, 95% посылок доставляются вовремя и без проблем - в том числе благодаря суровым HR-алгоритмам. Но каждое ложноположительное срабатывание алгоритма - это личная трагедия человека, оставшегося без работы в непростой период пандемии. В тексте показаны двое таких водителей - 63-летний ветеран и мать троих детей, обоих автоматически уволили за ситуации, в которых они не виноваты.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про этичный сбор данных.

Недавно писала про темные паттерны, и сам факт существования такого явления - большой этический вопрос. Но если остановиться на кейсах, касающихся данных, то, конечно, возникает проблема этичности сбора данных с их помощью.

Вот пример использования темных паттернов на LinkedIn (картинка).

В заголовке идёт один посыл, а в тексте ниже–второй, про совершенно другое действие.
• "Add a phone number for security"—заголовок о безопасности, класс
• "Your phone number helps us keep your account secure..."—первое предложение поясняет заголовок, ок.
• "It also helps others who already have your phone number discover..."—совершенно другая фича, которая спрятана глубоко в тексте и про неё многие даже не прочтут.

Тут сделано слияние двух фичей в одну, причём юзер не может вписаться в фичу на выбор. Давая телефон для повышения безопасности аккаунта, он автоматически соглашается отдать его для построения соц.графа Linkedin.

#кейсдатаэтики
(история взята отсюда: https://t.me/brainshare)

Про социальные последствия.

В зависимости от того, как осуществляется анализ данных и как на основе этого анализа принимаются решения, возникают разные этические дилеммы. Я уже писала, что может быть такая ситуация, когда алгоритм правильный, но результат нечестный. И про ответственность дата-аналитика при получении таких результатов тоже не стоит забывать.

И вот вчера соцсети разнесли новость о ярком примере того, как может проявится такая ситуация.

Многие уже видели скриншот письма от основателя Xsolla (бизнес, оцениваемый в $3 млрд, основанный на платежах в видеоиграх) Александра Агапитова. В нём он сообщает сотруднику об увольнении после того, как «команда биг дата проанализировала активности» в рабочих чатах, почте, документах и дашбордах и пометила его как «невовлечённого и малопродуктивного».

Насколько этично выдавать такие результаты дата-аналитику? И потом принимать на их основании такие решения?

#кейсдатаэтики

Про этичность использования данных.

Особенно интересными кейсами дата-этики мне кажутся такие истории, когда основной игрок в попытках показать себя с более этичной стороны, оказывается ровно с противоположной стороны баррикад. Я уже писала про кейс с журналистами NYT, и вот еще одна история из этой серии.

В январе 2019 года IBM Research опубликовала сообщение в блоге о новом наборе данных, который компания только что выпустила. Все началось с вопроса: “С вами когда-нибудь обращались несправедливо?” Потом было добавлено: "Большинство людей в целом согласны с тем, что более справедливый мир - это лучший мир... Вот почему мы используем возможности науки для создания систем искусственного интеллекта, которые являются более справедливыми и точными”. Далее в блоге объяснялось, что IBM Research выпускает новый большой и разнообразный набор данных под названием "Разнообразие в лицах" (Diversity in Faces - DiF), чтобы продвинуть мир в вопросе точности технологий распознавания лиц. Первый в своем роде, доступный мировому исследовательскому сообществу, DiF предоставляет собой набор описаний для одного миллиона изображений человеческих лиц. Используя общедоступные изображения из набора данных Creative Commons YFCC-100M, IBM Research описали лица, используя 10 хорошо зарекомендовавших себя и независимых схем кодирования из научной литературы. IBM Research считает, что эти данные помогут обеспечить разработку более справедливых и точных систем ИИ.

Первоначально такие средства массовой информации, как CNET, CNBC и Venturebeat, освещали это объявление как шаг вперед в усилиях по борьбе с неравномерным уровнем точности различных алгоритмов при идентификации лиц из разных групп. Как объяснил Venturebeat, исследователи отметили, что "распознавание лиц, выполненное Microsoft, IBM и китайской компанией Megvii, неверно определяло пол до 7 процентов светлокожих женщин, до 12 процентов темнокожих мужчин и до 35 процентов темнокожих женщин" - в ответ на такие показатели сотрудники многих технологических компаний работали над тем, чтобы уменьшить объемы ошибочных идентификаций.

Однако в марте 2019 года новостной репортаж NBC был посвящен другому аспекту базы данных: тому факту, что "набор данных YFCC-100M Creative Commons" состоял из фотографий, которые люди загрузили на Flickr. В статье отмечено, что некоторые пользователи Flickr, чьи фотографии были выбраны IBM для набора данных, "были удивлены и смущены, когда NBC News сообщил им, что их фотографии были снабжены подробностями, включая геометрию лица и тон кожи, и могут быть использованы для разработки алгоритмов распознавания лиц”. Она добавила, что “почти невозможно удалить фотографии [из набора данных]. IBM требует, чтобы фотографы отправляли по электронной почте ссылки на фотографии, которые они хотят удалить, но ... нет простого способа узнать, чьи фотографии включены в этот датасет".

Более того, по данным IBM, даже если фотография будет удалена по запросу из DiF, она не будет удалена из версий, уже предоставленных исследователям; до этого момента доступ запрашивали около 250 организаций.

По состоянию на сегодня на веб-сайте IBM Research все еще есть страница для статьи "Разнообразие лиц"; однако, нажав на то, что выглядит как ссылка для загрузки набора данных, вы попадете на более общую страницу под названием "Доверие ИИ".

#кейсдатаэтики
(история взята отсюда: https://www.scu.edu/ethics/ethics-resources/ethics-cases/)

Про социальные последствия.

Есть несколько наиболее известных кейсов дата-этики, которые постоянно приводят в пример, и благодаря которым развивалось в том числе законодательство. Вот один из них, на который я наталкивалась в ходе исследований зарубежного права.

В 2015 года Латанья Суини (Latanya Sweeney) - профессор Гарварда, директор лаборатории конфиденциальности данных Института количественных социальных наук (IQSS), ввела в поисковую строку Google своё имя и вместе с поисковой выдачей увидела рекламу «Latanya Sweeney, Arrested? 1) Enter name and state 2) Access full background. Checks instantly. www.instantcheckmate.com». Ее имя уникально, и она никогда не была арестована. Откуда тогда такая реклама? Однако, после ввода в поисковую строку другого имени - человека, который несколько раз был арестован, такой рекламы не появлялось.

В Гарварде было проведено исследование, результатом которого стал вывод, что поисковик Google подбирал разную рекламу в зависимости от того, какой расе присуще имя, которое ищет пользователь.

Разрабатывая алгоритмы, которые персонифицируют выдачу, нужно не забывать, что такие алгоритмы могут стать дискриминирующими.

#кейсдатаэтики

Про переход от неэтичного к этичному.

Ещё один вопрос, который, как мне кажется, скоро будут также активно обсуждать, как вопрос массовой слежки, так это дипфейки. Уже появляются правовые прецеденты, связанные с их использованием, так что этические кейсы тоже не заставят себя ждать.

Вот, например, кейс, сбор данных в котором и с правовой и с этической точки зрения вызывает вопросы. К тому же, последствия очевидно будут такими, что очередная профессия сойдёт на нет.

Мне кажется, что этот прецедент хорош тем, что тут этический подход изменится уже в скором будущем. И мы будем считать такую ситуацию нормальной.

Актриса озвучки Бев Стендинг в 2018 году озвучила 10 000 аудиофрагментов по заказу Китайского государственного института акустики. Используя эти записи, ее голос клонировала компания ByteDance, разработчик TikTok. В приложении есть опция text-to-speech, и для пользователей из Северной Америки голос озвучки по умолчанию — это клонированный голос Бев Стендинг.

Актриса заявляет, что не давала согласия на клонирование ее голоса, и подала иск против ByteDance. Сейчас его рассматривает американский суд. На судебные издержки для Бев скинулись другие актеры озвучки — прецедент нелегального клонирования голоса с помощью ИИ может оставить их в будущем без работы. Получается, что компания может купить у актера отдельные записи его голоса, а затем как бы украсть его голос полностью. Очень интересный кейс.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про социальные последствия.

Одним из результатов обработки данных может являться появление новой информации. И даже при корректном получении и обработке данных, и при условно правильном их анализе мы можем получить неэтичный результат.

Самый известный кейс на эту тему - история о том, как маркетинговая компания анализирована поведение пользователей и выяснила, что одна из потребительниц беременна - и направила ей соответствующую рекламу. Но вдруг оказалось, что потребительнице всего 15 и рекламу получил ее отец, который не знал, что его дочь-подросток беременна.

Ещё про один такой кейс, когда результатом обработки данных стало появление новой информации, я писала, когда только начала вести канал.

Или вот еще кейс про то, как в 2013 году Hewlett-Packard разработали алгоритм, определяющий, какие сотрудники более склонны к решению уволиться, и разослала результат руководителям таких сотрудников. Вообще, руководитель - это последний человек, который в случае желания уволиться сотрудника должен об этом узнать, особенно не от самого сотрудника.

Поэтому важно оценивать результаты действий на каждом этапе работы с данными.

#кейсдатаэтики

Про переход к этичной практике работы с данными.

Не так давно руководство Google уволило исследовательницу Тимнит Гебру, сотрудницу отдела по этике. Я уже писала про тренд на найм специалистов по этике в технологичных компаниях, и вот теперь хочу немного развить тему и обратить внимание на «подводные камни».

Казалось бы очевидно, что такие специалисты (как и любые другие сотрудники) будут сталкиваться с некоторыми организационными ограничениями. Ситуация в Google служит тому примером. Тимнит Гебру - признанный эксперт в своей области, работающая на пересечении компьютерных наук и этики. Наиболее известна своими статьями про предвзятость алгоритмов. И, собственно, ее увольнение связывают с несогласием руководства Google на публикацию новой статьи об этических и социальных проблемах вокруг обработки естественного языка (NLP), которую Гебру написала со своими коллегами.

Есть и исследование на эту тему: Джейкоб Мэткалф и его коллеги исследовали институционализацию этики в Кремниевой долине и сделали вывод, что специалисты по этике внутри компании постоянно пытаются примирить личные, профессиональные и корпоративные интересы, но не всегда удачно. Получается, что этика как набор внешних нормативных требований вступает в конфликт с ролью, обязанностями и ограничениями, задающими работу специалистов по этике внутри ИТ-компаний. 

Вообще, такие внутренние конфликты не уникальное явление. С ними сталкиваются различные специалисты. Поэтому я снова возвращаюсь тут к своему тезису, что этикой должны заниматься не специально обученные люди, а все.

#переходкэтичному
(история взята отсюда https://t.me/datastudies/)

Про то, что вопрос этики данных - вопрос не только ИТ-отрасли.

74% директоров по маркетингу крупнейших брендов заявляют, что этика данных станет для них еще более важным вопросом в ближайшие пять лет. Об этом говорят результаты исследования WFA (Всемирной Федерации рекламодателей) весны 2020 года. 82% - подумали бы об уходе от своего работодателя, если бы сочли подход к данным неэтичным. 26% - уже испытывали дискомфорт по поводу использования данных в какой-то момент своей карьеры. Все эти цифры показывают, что вопросы этичной практики работы с данными беспокоят не только ИТ-индустрию, но и другие отрасли экономики. Например, digital advertising.

В июне 2020 года WFA выпустила первое в мире руководство по этике данных для брендов. Совет директоров, в состав которого входят эксперты из 19 крупнейших мировых компаний, включая Ferrero, Ikea, L'Oréal, Mars, Mastercard, P&G, Shell, Unilever и Visa, подробно рассмотрел вопросы влияния этического подхода к данным на компании и людей. Итогом стал отчет "Этика данных: проявление морали в технологиях" - как способ сказать отрасли, что этика данных - это шаг к здоровому цифровому обществу.

Отчет состоит из пяти частей: описывает случаи необходимости его применения и культурную трансформацию, устанавливает ключевые принципы, приводит конкретные кейсы и предлагает руководство к действию.

Основные эффекты, к которым должно привести внедрение этики данных:
🔹 Изменение культурного кода (Чтобы построить здоровую систему, нам нужно вмешиваться в решение этических дилемм до того, как они станут настоящими проблемами, и действовать совместно);
🔹 Разнообразие и инклюзивность (Мы устраняем предвзятость, включаем исключенных и радуемся своему многообразию);
🔹 Доверие (Если люди считают, что в компании обращаются с их данными неэтично, то демонстрация соблюдения законодательства не поможет сохранить ее репутацию).

Последний эффект заслуживает особого внимания. Разработчик руководства заявляет, что "оригинальные решения приходят тогда, когда ты разрешаешь напряженность между информационными инновациями и людьми, ожидающими защиту данных. Хороший выход — когда ты идешь на пределе технических возможностей и при этом не жертвуешь своей приверженностью безопасности." Получается, в конечном итоге этика данных влияет на решения задач отрасли - привлечение клиентов.

И снова тут можно подвести итог, что этика данных в современном мире нужна везде. В том числе ради достижения бизнес-целей.

#переходкэтичному #почитатьнатему

Про предвзятость алгоритмов.

Посмотрела ещё один фильм Netflix о предвзятости алгоритмов Coded bias.
Есть несколько идей, которые подсвечивают в фильме, и на которые мне тоже хотелось бы обратить внимание. Начну с главной.

Предвзятость алгоритмов - это предвзятость людей. Алгоритмы разрабатываются на основании сведений, которыми уже обладает человечество. И если алгоритм разработан людьми с дискриминирующими стереотипами на основании данных, созданных людьми с дискриминирующими стереотипами, - то и сам алгоритм будет дискриминирующим.

Примером того, что алгоритм - это отражение поведения людей, служит кейс с чат-ботом Microsoft. В 2016 году в Twitter был запущен чат-бот Tay.ai. Предполагалось, что он будет общаться с молодыми людьми на «их языке» и обучаться в процессе общения. К сожалению, уже через сутки бот начал возвращать расистские и оскорбительные высказывания, отвечая пользователям. Он повторял за пользователями, что Джордж Буш устроил теракты 9/11, а Гитлер всяко лучше Барака Обамы, и вскоре начал писать неонацистские высказывания. Работу Tay.ai пришлось остановить.

Важно учитывать предвзятость нашего восприятия действительности как при разработке алгоритмов, так и при разработке законодательства.

#кейсдатаэтики

Про несимметричные отношения с алгоритмами.

Ещё одна одна мысль, которая подсвечивается в фильме Coded Bias (Netflix, 2020), это невозможность аппелировать к алгоритмически полученным решениям.

Принятие решений уже перекладывается на алгоритмы, тогда как их фактическая зрелость вызывает вопросы.

Очередной кейс от Amazon. Компания оснастила автомобили доставщиков умными камерами, которые следят за поведением водителей. Любой промах (забыл пристегнуться, резко затормозил, слишком долго смотрел в боковое зеркало, а не вперёд) - штраф. Водители страдают и получают штрафы ни за что, но общая эффективность доставки растёт.

Как и в ситуации с опозданиями, (учитываемыми алгоритмами и являющимися основанием для увольнения) прав у работников почти никаких - доказать отсутствие вины практически невозможно.

И вот этот момент - ключевой. Как аппелировать к алгоритмическому решению в отношении человека, если такой процесс изначально не закладывался?

Ну и нужно понимать, что эта этическая проблема в итоге преобразуется в проблему экономическую.

#кейсдатаэтики

Про кодексы этики.

Логичным продолжением работы с данными является развитие искусственного интеллекта. Во многих странах начали активно заниматься этим вопросом, в том числе не пропуская этап разработки этического кодекса.

В России прямо сейчас идёт активное обсуждение проекта такого кодекса.

В мире также есть примеры уже принятых кодексов этики в сфере ИИ, такие как:
▫️ Австралийские этические принципы ИИ
▫️ Южнокорейское этическое руководство в сфере ИИ
▫️ Итальянское правительственное заявление о службе ИИ на благо общества
и ещё с десяток других.

Тут большой объём разных идей, даже можно провести исследование на тему того, какой фокус этики в разных странах.

Но обратить внимание я хотела на последнюю новость. Недавно и в Китае опубликовали правила этики искусственного интеллекта. Самым интересным правилом мне кажется вот это: люди должны иметь возможность выбора, взаимодействовать с ИИ или нет, и отказаться от услуг ИИ по своему желанию.

Институт апелляции к результатам работы алгоритмов, возможность сохранения решения за человеком - залог этичного подхода к работе с данными.

А принятие кодексов этики в целом мне кажутся важной вехой в переходе к этичной практике.

#почитатьнатему

Про тренды 2022 года.

Gartner назвал хайповые технологии следующего года. Не у всех ещё есть русскоязычные названия, так что у нас впереди новые красивые слова в стратегиях и публичных выступлениях. Вот эти тренды:

1. Generative Artificial Intelligence (AI)
2. Data Fabric
3. Distributed Enterprise
4. Cloud-Native Platforms (CNPs)
5. Autonomic Systems
6. Decision Intelligence (DI)
7. Composable Applications
8. Hyperautomation
9. Privacy-Enhancing Computation (PEC)
10. Cybersecurity Mesh
11. AI Engineering
12. Total Experience (TX)

Самые интересные с точки зрения новых сфер, в которых будут всплывать вопросы этической работы с данными, - это первые два.

Generative AI - методы машинного обучения, которые изучают данные и описанные в них объекты и используют их для создания совершенно новых, полностью оригинальных и реалистичных артефактов.

Generative AI может использоваться для ряда действий, таких как создание программного кода, содействие разработке лекарств и целевой маркетинг, но также может использоваться для мошенничества, политической дезинформации, подделки личности и многого другого. К 2025 году Gartner ожидает, что на Generative AI будет приходиться 10% всех производимых данных, по сравнению с менее чем 1% сегодня.

Data fabric - гибкая, устойчивая интеграция данных между платформами и бизнес-пользователями.

Настоящая ценность Data fabric заключается в ее способности динамически улучшать использование данных с помощью встроенной аналитики, сокращая усилия по управлению данными до 70% и ускоряя время окупаемости.

Эти новые решения приведут к появлению новых «узких мест» - зон, где мы ещё не успели подумать об этике.

#переходкэтичному

Про распознавание лиц.

В то время как Meta сворачивает программу распознавания лиц в Facebook, Московские власти активно продолжают внедрять технологии распознавания лиц в метро.

Обе инициативы вызывают вопросы.

1. Одним из основных этических принципов сбора информации является недопущение излишнего сбора. И в случае Московского метро технология распознавания лиц - это пример неоправданно лишнего получения информации. Пройти в метро по карточке также легко, как и по технологии FacePay, но сбор биометрии влечет за собой понятные риски (по ИБ в частности).

2. Отказ от применения новых технологий фактически нереален. Даже если свернуть какую-то программу, как делает Meta, это не сможет остановить внедрение такой технологии повсеместно.

И тут мы приходим в выводу, что новые технологии нужно использовать, но делать это разумно и этично. Необходимо создать правовое регулирование, необходимо следовать кодексам этики со стороны государства, необходимо повышать грамотность и осознанность населения в работе и жизни с новыми технологиями.

#кейсдатаэтики #переходкэтичному