Про ошибки в модели анализа данных.

Ошибки могут возникать на разных этапах анализа данных. Например, что делать, если разработанная модель анализа данных дает правильные, но не честные результаты. Возникает неспециальная дискриминация. Именно это и произошло в ситуации с Amazon. Кейс, мимо которого нельзя было пройти.

Amazon нанимает миллионы водителей для доставки своих посылок по США. Это не сотрудники компании, а такие же подрядчики, как и водители Uber и других сервисов подработок. Чтобы обеспечить быструю и гарантированную доставку, в Amazon разработали алгоритмы, которые анализируют работу водителей - вовремя ли они приезжают за посылками, вовремя ли их доставляют, нет ли жалоб на доставку от клиентов. Проблемным водителям снижают рейтинг, а потом увольняют.

Звучит как здравая для бизнеса оптимизация HR. Сам Безос считает, что машины принимают решения быстрее и точнее, чем люди, снижая затраты и давая его компании преимущество перед конкурентами. Но в погоне за общей эффективностью системы разработчики алгоритмов не учли все нюансы реальной работы доставщиков. Водители регулярно сталкиваются с проблемами, не зависящими от них: задержки в пункте выдачи посылок, занесенная снегом дорога, закрытые ворота по адресу доставки, и так далее. Алгоритм безжалостен и наказывает водителей даже за те ситуации, на которые они никак не могли повлиять. Писать в поддержку бесполезно: водителям отвечают автоматизированными письмами в духе "мы рассматриваем ваше обращение". Те в отчаянии пишут Безосу, но и это не помогает. Единственный способ ускорить рассмотрение апелляции - заплатить за это $200.

Если смотреть на ситуацию с точки бизнеса, то все ок. Система эффективна, 95% посылок доставляются вовремя и без проблем - в том числе благодаря суровым HR-алгоритмам. Но каждое ложноположительное срабатывание алгоритма - это личная трагедия человека, оставшегося без работы в непростой период пандемии. В тексте показаны двое таких водителей - 63-летний ветеран и мать троих детей, обоих автоматически уволили за ситуации, в которых они не виноваты.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про этичный сбор данных.

Недавно писала про темные паттерны, и сам факт существования такого явления - большой этический вопрос. Но если остановиться на кейсах, касающихся данных, то, конечно, возникает проблема этичности сбора данных с их помощью.

Вот пример использования темных паттернов на LinkedIn (картинка).

В заголовке идёт один посыл, а в тексте ниже–второй, про совершенно другое действие.
• "Add a phone number for security"—заголовок о безопасности, класс
• "Your phone number helps us keep your account secure..."—первое предложение поясняет заголовок, ок.
• "It also helps others who already have your phone number discover..."—совершенно другая фича, которая спрятана глубоко в тексте и про неё многие даже не прочтут.

Тут сделано слияние двух фичей в одну, причём юзер не может вписаться в фичу на выбор. Давая телефон для повышения безопасности аккаунта, он автоматически соглашается отдать его для построения соц.графа Linkedin.

#кейсдатаэтики
(история взята отсюда: https://t.me/brainshare)

Про социальные последствия.

В зависимости от того, как осуществляется анализ данных и как на основе этого анализа принимаются решения, возникают разные этические дилеммы. Я уже писала, что может быть такая ситуация, когда алгоритм правильный, но результат нечестный. И про ответственность дата-аналитика при получении таких результатов тоже не стоит забывать.

И вот вчера соцсети разнесли новость о ярком примере того, как может проявится такая ситуация.

Многие уже видели скриншот письма от основателя Xsolla (бизнес, оцениваемый в $3 млрд, основанный на платежах в видеоиграх) Александра Агапитова. В нём он сообщает сотруднику об увольнении после того, как «команда биг дата проанализировала активности» в рабочих чатах, почте, документах и дашбордах и пометила его как «невовлечённого и малопродуктивного».

Насколько этично выдавать такие результаты дата-аналитику? И потом принимать на их основании такие решения?

#кейсдатаэтики

Про этичность использования данных.

Особенно интересными кейсами дата-этики мне кажутся такие истории, когда основной игрок в попытках показать себя с более этичной стороны, оказывается ровно с противоположной стороны баррикад. Я уже писала про кейс с журналистами NYT, и вот еще одна история из этой серии.

В январе 2019 года IBM Research опубликовала сообщение в блоге о новом наборе данных, который компания только что выпустила. Все началось с вопроса: “С вами когда-нибудь обращались несправедливо?” Потом было добавлено: "Большинство людей в целом согласны с тем, что более справедливый мир - это лучший мир... Вот почему мы используем возможности науки для создания систем искусственного интеллекта, которые являются более справедливыми и точными”. Далее в блоге объяснялось, что IBM Research выпускает новый большой и разнообразный набор данных под названием "Разнообразие в лицах" (Diversity in Faces - DiF), чтобы продвинуть мир в вопросе точности технологий распознавания лиц. Первый в своем роде, доступный мировому исследовательскому сообществу, DiF предоставляет собой набор описаний для одного миллиона изображений человеческих лиц. Используя общедоступные изображения из набора данных Creative Commons YFCC-100M, IBM Research описали лица, используя 10 хорошо зарекомендовавших себя и независимых схем кодирования из научной литературы. IBM Research считает, что эти данные помогут обеспечить разработку более справедливых и точных систем ИИ.

Первоначально такие средства массовой информации, как CNET, CNBC и Venturebeat, освещали это объявление как шаг вперед в усилиях по борьбе с неравномерным уровнем точности различных алгоритмов при идентификации лиц из разных групп. Как объяснил Venturebeat, исследователи отметили, что "распознавание лиц, выполненное Microsoft, IBM и китайской компанией Megvii, неверно определяло пол до 7 процентов светлокожих женщин, до 12 процентов темнокожих мужчин и до 35 процентов темнокожих женщин" - в ответ на такие показатели сотрудники многих технологических компаний работали над тем, чтобы уменьшить объемы ошибочных идентификаций.

Однако в марте 2019 года новостной репортаж NBC был посвящен другому аспекту базы данных: тому факту, что "набор данных YFCC-100M Creative Commons" состоял из фотографий, которые люди загрузили на Flickr. В статье отмечено, что некоторые пользователи Flickr, чьи фотографии были выбраны IBM для набора данных, "были удивлены и смущены, когда NBC News сообщил им, что их фотографии были снабжены подробностями, включая геометрию лица и тон кожи, и могут быть использованы для разработки алгоритмов распознавания лиц”. Она добавила, что “почти невозможно удалить фотографии [из набора данных]. IBM требует, чтобы фотографы отправляли по электронной почте ссылки на фотографии, которые они хотят удалить, но ... нет простого способа узнать, чьи фотографии включены в этот датасет".

Более того, по данным IBM, даже если фотография будет удалена по запросу из DiF, она не будет удалена из версий, уже предоставленных исследователям; до этого момента доступ запрашивали около 250 организаций.

По состоянию на сегодня на веб-сайте IBM Research все еще есть страница для статьи "Разнообразие лиц"; однако, нажав на то, что выглядит как ссылка для загрузки набора данных, вы попадете на более общую страницу под названием "Доверие ИИ".

#кейсдатаэтики
(история взята отсюда: https://www.scu.edu/ethics/ethics-resources/ethics-cases/)

Про социальные последствия.

Есть несколько наиболее известных кейсов дата-этики, которые постоянно приводят в пример, и благодаря которым развивалось в том числе законодательство. Вот один из них, на который я наталкивалась в ходе исследований зарубежного права.

В 2015 года Латанья Суини (Latanya Sweeney) - профессор Гарварда, директор лаборатории конфиденциальности данных Института количественных социальных наук (IQSS), ввела в поисковую строку Google своё имя и вместе с поисковой выдачей увидела рекламу «Latanya Sweeney, Arrested? 1) Enter name and state 2) Access full background. Checks instantly. www.instantcheckmate.com». Ее имя уникально, и она никогда не была арестована. Откуда тогда такая реклама? Однако, после ввода в поисковую строку другого имени - человека, который несколько раз был арестован, такой рекламы не появлялось.

В Гарварде было проведено исследование, результатом которого стал вывод, что поисковик Google подбирал разную рекламу в зависимости от того, какой расе присуще имя, которое ищет пользователь.

Разрабатывая алгоритмы, которые персонифицируют выдачу, нужно не забывать, что такие алгоритмы могут стать дискриминирующими.

#кейсдатаэтики

Про переход от неэтичного к этичному.

Ещё один вопрос, который, как мне кажется, скоро будут также активно обсуждать, как вопрос массовой слежки, так это дипфейки. Уже появляются правовые прецеденты, связанные с их использованием, так что этические кейсы тоже не заставят себя ждать.

Вот, например, кейс, сбор данных в котором и с правовой и с этической точки зрения вызывает вопросы. К тому же, последствия очевидно будут такими, что очередная профессия сойдёт на нет.

Мне кажется, что этот прецедент хорош тем, что тут этический подход изменится уже в скором будущем. И мы будем считать такую ситуацию нормальной.

Актриса озвучки Бев Стендинг в 2018 году озвучила 10 000 аудиофрагментов по заказу Китайского государственного института акустики. Используя эти записи, ее голос клонировала компания ByteDance, разработчик TikTok. В приложении есть опция text-to-speech, и для пользователей из Северной Америки голос озвучки по умолчанию — это клонированный голос Бев Стендинг.

Актриса заявляет, что не давала согласия на клонирование ее голоса, и подала иск против ByteDance. Сейчас его рассматривает американский суд. На судебные издержки для Бев скинулись другие актеры озвучки — прецедент нелегального клонирования голоса с помощью ИИ может оставить их в будущем без работы. Получается, что компания может купить у актера отдельные записи его голоса, а затем как бы украсть его голос полностью. Очень интересный кейс.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про социальные последствия.

Одним из результатов обработки данных может являться появление новой информации. И даже при корректном получении и обработке данных, и при условно правильном их анализе мы можем получить неэтичный результат.

Самый известный кейс на эту тему - история о том, как маркетинговая компания анализирована поведение пользователей и выяснила, что одна из потребительниц беременна - и направила ей соответствующую рекламу. Но вдруг оказалось, что потребительнице всего 15 и рекламу получил ее отец, который не знал, что его дочь-подросток беременна.

Ещё про один такой кейс, когда результатом обработки данных стало появление новой информации, я писала, когда только начала вести канал.

Или вот еще кейс про то, как в 2013 году Hewlett-Packard разработали алгоритм, определяющий, какие сотрудники более склонны к решению уволиться, и разослала результат руководителям таких сотрудников. Вообще, руководитель - это последний человек, который в случае желания уволиться сотрудника должен об этом узнать, особенно не от самого сотрудника.

Поэтому важно оценивать результаты действий на каждом этапе работы с данными.

#кейсдатаэтики

Про переход к этичной практике работы с данными.

Не так давно руководство Google уволило исследовательницу Тимнит Гебру, сотрудницу отдела по этике. Я уже писала про тренд на найм специалистов по этике в технологичных компаниях, и вот теперь хочу немного развить тему и обратить внимание на «подводные камни».

Казалось бы очевидно, что такие специалисты (как и любые другие сотрудники) будут сталкиваться с некоторыми организационными ограничениями. Ситуация в Google служит тому примером. Тимнит Гебру - признанный эксперт в своей области, работающая на пересечении компьютерных наук и этики. Наиболее известна своими статьями про предвзятость алгоритмов. И, собственно, ее увольнение связывают с несогласием руководства Google на публикацию новой статьи об этических и социальных проблемах вокруг обработки естественного языка (NLP), которую Гебру написала со своими коллегами.

Есть и исследование на эту тему: Джейкоб Мэткалф и его коллеги исследовали институционализацию этики в Кремниевой долине и сделали вывод, что специалисты по этике внутри компании постоянно пытаются примирить личные, профессиональные и корпоративные интересы, но не всегда удачно. Получается, что этика как набор внешних нормативных требований вступает в конфликт с ролью, обязанностями и ограничениями, задающими работу специалистов по этике внутри ИТ-компаний. 

Вообще, такие внутренние конфликты не уникальное явление. С ними сталкиваются различные специалисты. Поэтому я снова возвращаюсь тут к своему тезису, что этикой должны заниматься не специально обученные люди, а все.

#переходкэтичному
(история взята отсюда https://t.me/datastudies/)

Про то, что вопрос этики данных - вопрос не только ИТ-отрасли.

74% директоров по маркетингу крупнейших брендов заявляют, что этика данных станет для них еще более важным вопросом в ближайшие пять лет. Об этом говорят результаты исследования WFA (Всемирной Федерации рекламодателей) весны 2020 года. 82% - подумали бы об уходе от своего работодателя, если бы сочли подход к данным неэтичным. 26% - уже испытывали дискомфорт по поводу использования данных в какой-то момент своей карьеры. Все эти цифры показывают, что вопросы этичной практики работы с данными беспокоят не только ИТ-индустрию, но и другие отрасли экономики. Например, digital advertising.

В июне 2020 года WFA выпустила первое в мире руководство по этике данных для брендов. Совет директоров, в состав которого входят эксперты из 19 крупнейших мировых компаний, включая Ferrero, Ikea, L'Oréal, Mars, Mastercard, P&G, Shell, Unilever и Visa, подробно рассмотрел вопросы влияния этического подхода к данным на компании и людей. Итогом стал отчет "Этика данных: проявление морали в технологиях" - как способ сказать отрасли, что этика данных - это шаг к здоровому цифровому обществу.

Отчет состоит из пяти частей: описывает случаи необходимости его применения и культурную трансформацию, устанавливает ключевые принципы, приводит конкретные кейсы и предлагает руководство к действию.

Основные эффекты, к которым должно привести внедрение этики данных:
🔹 Изменение культурного кода (Чтобы построить здоровую систему, нам нужно вмешиваться в решение этических дилемм до того, как они станут настоящими проблемами, и действовать совместно);
🔹 Разнообразие и инклюзивность (Мы устраняем предвзятость, включаем исключенных и радуемся своему многообразию);
🔹 Доверие (Если люди считают, что в компании обращаются с их данными неэтично, то демонстрация соблюдения законодательства не поможет сохранить ее репутацию).

Последний эффект заслуживает особого внимания. Разработчик руководства заявляет, что "оригинальные решения приходят тогда, когда ты разрешаешь напряженность между информационными инновациями и людьми, ожидающими защиту данных. Хороший выход — когда ты идешь на пределе технических возможностей и при этом не жертвуешь своей приверженностью безопасности." Получается, в конечном итоге этика данных влияет на решения задач отрасли - привлечение клиентов.

И снова тут можно подвести итог, что этика данных в современном мире нужна везде. В том числе ради достижения бизнес-целей.

#переходкэтичному #почитатьнатему

Про предвзятость алгоритмов.

Посмотрела ещё один фильм Netflix о предвзятости алгоритмов Coded bias.
Есть несколько идей, которые подсвечивают в фильме, и на которые мне тоже хотелось бы обратить внимание. Начну с главной.

Предвзятость алгоритмов - это предвзятость людей. Алгоритмы разрабатываются на основании сведений, которыми уже обладает человечество. И если алгоритм разработан людьми с дискриминирующими стереотипами на основании данных, созданных людьми с дискриминирующими стереотипами, - то и сам алгоритм будет дискриминирующим.

Примером того, что алгоритм - это отражение поведения людей, служит кейс с чат-ботом Microsoft. В 2016 году в Twitter был запущен чат-бот Tay.ai. Предполагалось, что он будет общаться с молодыми людьми на «их языке» и обучаться в процессе общения. К сожалению, уже через сутки бот начал возвращать расистские и оскорбительные высказывания, отвечая пользователям. Он повторял за пользователями, что Джордж Буш устроил теракты 9/11, а Гитлер всяко лучше Барака Обамы, и вскоре начал писать неонацистские высказывания. Работу Tay.ai пришлось остановить.

Важно учитывать предвзятость нашего восприятия действительности как при разработке алгоритмов, так и при разработке законодательства.

#кейсдатаэтики

Про несимметричные отношения с алгоритмами.

Ещё одна одна мысль, которая подсвечивается в фильме Coded Bias (Netflix, 2020), это невозможность аппелировать к алгоритмически полученным решениям.

Принятие решений уже перекладывается на алгоритмы, тогда как их фактическая зрелость вызывает вопросы.

Очередной кейс от Amazon. Компания оснастила автомобили доставщиков умными камерами, которые следят за поведением водителей. Любой промах (забыл пристегнуться, резко затормозил, слишком долго смотрел в боковое зеркало, а не вперёд) - штраф. Водители страдают и получают штрафы ни за что, но общая эффективность доставки растёт.

Как и в ситуации с опозданиями, (учитываемыми алгоритмами и являющимися основанием для увольнения) прав у работников почти никаких - доказать отсутствие вины практически невозможно.

И вот этот момент - ключевой. Как аппелировать к алгоритмическому решению в отношении человека, если такой процесс изначально не закладывался?

Ну и нужно понимать, что эта этическая проблема в итоге преобразуется в проблему экономическую.

#кейсдатаэтики

Про кодексы этики.

Логичным продолжением работы с данными является развитие искусственного интеллекта. Во многих странах начали активно заниматься этим вопросом, в том числе не пропуская этап разработки этического кодекса.

В России прямо сейчас идёт активное обсуждение проекта такого кодекса.

В мире также есть примеры уже принятых кодексов этики в сфере ИИ, такие как:
▫️ Австралийские этические принципы ИИ
▫️ Южнокорейское этическое руководство в сфере ИИ
▫️ Итальянское правительственное заявление о службе ИИ на благо общества
и ещё с десяток других.

Тут большой объём разных идей, даже можно провести исследование на тему того, какой фокус этики в разных странах.

Но обратить внимание я хотела на последнюю новость. Недавно и в Китае опубликовали правила этики искусственного интеллекта. Самым интересным правилом мне кажется вот это: люди должны иметь возможность выбора, взаимодействовать с ИИ или нет, и отказаться от услуг ИИ по своему желанию.

Институт апелляции к результатам работы алгоритмов, возможность сохранения решения за человеком - залог этичного подхода к работе с данными.

А принятие кодексов этики в целом мне кажутся важной вехой в переходе к этичной практике.

#почитатьнатему

Про тренды 2022 года.

Gartner назвал хайповые технологии следующего года. Не у всех ещё есть русскоязычные названия, так что у нас впереди новые красивые слова в стратегиях и публичных выступлениях. Вот эти тренды:

1. Generative Artificial Intelligence (AI)
2. Data Fabric
3. Distributed Enterprise
4. Cloud-Native Platforms (CNPs)
5. Autonomic Systems
6. Decision Intelligence (DI)
7. Composable Applications
8. Hyperautomation
9. Privacy-Enhancing Computation (PEC)
10. Cybersecurity Mesh
11. AI Engineering
12. Total Experience (TX)

Самые интересные с точки зрения новых сфер, в которых будут всплывать вопросы этической работы с данными, - это первые два.

Generative AI - методы машинного обучения, которые изучают данные и описанные в них объекты и используют их для создания совершенно новых, полностью оригинальных и реалистичных артефактов.

Generative AI может использоваться для ряда действий, таких как создание программного кода, содействие разработке лекарств и целевой маркетинг, но также может использоваться для мошенничества, политической дезинформации, подделки личности и многого другого. К 2025 году Gartner ожидает, что на Generative AI будет приходиться 10% всех производимых данных, по сравнению с менее чем 1% сегодня.

Data fabric - гибкая, устойчивая интеграция данных между платформами и бизнес-пользователями.

Настоящая ценность Data fabric заключается в ее способности динамически улучшать использование данных с помощью встроенной аналитики, сокращая усилия по управлению данными до 70% и ускоряя время окупаемости.

Эти новые решения приведут к появлению новых «узких мест» - зон, где мы ещё не успели подумать об этике.

#переходкэтичному

Про распознавание лиц.

В то время как Meta сворачивает программу распознавания лиц в Facebook, Московские власти активно продолжают внедрять технологии распознавания лиц в метро.

Обе инициативы вызывают вопросы.

1. Одним из основных этических принципов сбора информации является недопущение излишнего сбора. И в случае Московского метро технология распознавания лиц - это пример неоправданно лишнего получения информации. Пройти в метро по карточке также легко, как и по технологии FacePay, но сбор биометрии влечет за собой понятные риски (по ИБ в частности).

2. Отказ от применения новых технологий фактически нереален. Даже если свернуть какую-то программу, как делает Meta, это не сможет остановить внедрение такой технологии повсеместно.

И тут мы приходим в выводу, что новые технологии нужно использовать, но делать это разумно и этично. Необходимо создать правовое регулирование, необходимо следовать кодексам этики со стороны государства, необходимо повышать грамотность и осознанность населения в работе и жизни с новыми технологиями.

#кейсдатаэтики #переходкэтичному

Завтра выступаю с докладом на тему актуальности Кодекса этики использования данных спустя два года с момента его подписания на форуме "Всемирный день качества - 2021".

Расскажу про сам кодекс, что он дает участникам и почему важно придерживаться принципов, в нем изложенных.

Вот тут: https://kachestvo.pro/vdk2021/program/11663/ Обещают онлайн-трансляцию.

Про обучение дата-этике.

Вопросы этичных практик в новых технологиях все чаще поднимаются в СМИ и общественных дискуссиях, в следствии чего растет интерес к тому, какую роль этика должна играть в компьютерном образовании.

В университетах все чаще появляются отдельные курсы по этике, что неизбежно ведет к тому, что и в отдельных он-лайн курсах, доп.образовании и т.д. появляются модули, посвященные этичным вопросам применения современных технологий.

Но в зависимости от экспертизы преподавателей и основной идеи курса (курс это о данных, или о праве, или о маркетинге, и т.д.) акценты и тематики модулей про этику применения технологий могут отличаться. Например, дата-этика может рассматриваться со следующих сторон:

1. Право и политика (law and policy)
2. Приватность и слежка (privacy & surveillance)
3. Философия (philosophy)
4. Правосудие и права человека (justice & human rights)
5. Социальные последствия (civic responsibility)
6. Роботы и ИИ (robots & AI)
7. Дезинформация (disinformation)
8. Трудовые отношения (work & labor)
и т.д.

Сasey Fiesler (доцент в University of Colorado Boulder) запостила в Твиттере ссылку на редактируемый гугл-док, где она вела перечень таких курсов - о tech-ethics. Сейчас там список из более 300 курсов на заданную тему. В 2020 году (когда записей было 115) она с коллегами провела анализ учебных программ этих курсов. Их анализ дает представление о содержании и целях занятий по этике в технологиях, а также рекомендации о том, как они могут быть интегрированы в учебную программу по вычислительной технике.

Я уже говорила, что про дата-этику должны думать не специально обученные люди, а все. И вот это исследование можно использовать как мини-путеводитель для выбора.

#переходкэтичному #почитатьнатему

Про таргетинг.

В Кодексе этики использования данных есть пара принципов, касающихся использования данных в маркетинге. Один из них звучит так: Признается добросовестной практикой использование данных для прямого (таргетированного) маркетинга, если персонифицированные предложения позволяют потенциальному приобретателю обеспечить оптимальный выбор товаров (работ, услуг), а также при условии предоставлении потенциальному приобретателю возможности отказаться от получения таких персонифицированных предложений.

Однако, как обеспечить оптимальный выбор товаров? Мы постоянно сталкиваемся с ситуацией, когда что-то поискали в интернете, а потом на каждой страничке это что-то нам предлагается.

Эти предложения могут быть очень чувствительными для пользователей, если вдруг они касаются каких-то личных проблем или дискриминирующего фактора. У пользователей к бигтеху возникает много этических вопросов по поводу такой рекламы.

Например, Gillian Brockell (авторке статей Washington Post) долго показывали рекламу для беременных, даже после того, как она потеряла ребёнка.

Так что давно ожидаемый шаг в этом направлении делает Meta. С января в Facebook и Instagram нельзя будет таргетировать рекламу по "чувствительным" категориям аудитории, таким как раса, политические предпочтения, религиозные взгляды, сексуальная ориентация, здоровье и другие.

#переходкэтичному #кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про темные паттерны.

Еще одним недавним примером темных паттернов стал кейс, как App Store за период чуть более месяца поднял рейтинг своего приложения Apple Podcasts с 1,8 до 4,7 звёзд. Судя по тому, что пишет The Verge, приложение предлагало поставить пользователю оценку таким образом, что пользователь думал, что ставит оценку конкретному подкасту (судя по новым отзывам).

Желание повысить рейтинг приложению понятно. Оно предустановлено и мало кто пойдёт его оценивать положительно специально. Но, учитывая роль, какую играет эта оценка (повышение продаж), доминирующее положение в App Store для приложения от Apple, полученное такими методами - плохая практика. Минус десять очков Слизерину Ещё один довод отказаться от App Store со всеми вытекающими.

Я уже писала, что темные паттерны - одна из самых неэтичных практик. И они могут возникать там, где мы их совсем не ждём.

#кейсдатаэтики

Про этичность сбора данных.

Сейчас данные собираются просто со всего, с чего можно их собрать. И конечно, данные собираются при любом использовании современных ИТ-решений. Например, смарт-телевизоров.

Не так давно эксперты в отрасли заметили, что в квартальном отчете компании Vizio (она производит популярные дешевые телевизоры для рынка США в первую очередь) указана прибыль с продажи смарт-ТВ в размере $25,6 млн и в размере $57,3 млн с продажи данных о пользователях. Сведения обезличены и продаются маркетологам и рекламщикам. Но уверенности, что пользователи об этом знают, конечно нет.

Тут действует простое правило: когда вы получаете что-то даром или дешево - скорее всего вы просто не понимаете как перепродают вас самих.

#кейсдатаэтики
(история взята отсюда: https://t.me/addmeto)

Про понятие «дата-этика».

Сегодня немного ликбеза. Что такое дата-этика? Оксфордские профессоры и философы Luciano Floridi и Mariarosaria Taddeo в своей статье «What is data ethics?» дают следующее определение (мой вольный перевод):

«Дата этика - это новое направление этики, которое изучает и описывает моральные проблемы, связанные с использованием данных (включая создание, управление, использование, передачу и получение), алгоритмов, основанных на данных (включая искусственный интеллект, машинное обучение и роботов), а так же сопутствующих практик (включая программирование, хакерство, социально-ответственные инновации и профессиональные кодексы) для того чтобы сформулировать и поддержать хорошие (с моральной точки зрения) решения.»

Т.е. дата-этика касается и данных, как таковых, и технологий, необходимых для их обработки, и людей, этим занимающихся.

Добавлю тут, вопросы дата-этики можно условно разделить на три категории:
⁃ Моральные проблемы, которые уже существовали (и использование современных технологий их только усугубляет);
⁃ Моральные проблемы, которые возникли при внедрении новых технологий;
⁃ Моральные проблемы, которые возникнут в будущем.

И в зависимости от классификации такие проблемы будут требовать разных решений и подходов.

#почитатьнатему

Про новогодние шоу.

У The Guardian интересная статья-рассуждение о том, не вытеснят ли шоу дронов фейерверки.

Учитывая то, как в последнее время активно обсуждают в медиа страдания домашних животных от грохота фейерверков, а дроны могут показывать сюжеты гораздо зрелищнее, - это была бы отличная, в том числе этичная по отношению к животным, современная технологическая практика.

#кейсэтикитехнологий
(история взята отсюда: https://t.me/techsparks)