Про обучение дата-этике.

Вопросы этичных практик в новых технологиях все чаще поднимаются в СМИ и общественных дискуссиях, в следствии чего растет интерес к тому, какую роль этика должна играть в компьютерном образовании.

В университетах все чаще появляются отдельные курсы по этике, что неизбежно ведет к тому, что и в отдельных он-лайн курсах, доп.образовании и т.д. появляются модули, посвященные этичным вопросам применения современных технологий.

Но в зависимости от экспертизы преподавателей и основной идеи курса (курс это о данных, или о праве, или о маркетинге, и т.д.) акценты и тематики модулей про этику применения технологий могут отличаться. Например, дата-этика может рассматриваться со следующих сторон:

1. Право и политика (law and policy)
2. Приватность и слежка (privacy & surveillance)
3. Философия (philosophy)
4. Правосудие и права человека (justice & human rights)
5. Социальные последствия (civic responsibility)
6. Роботы и ИИ (robots & AI)
7. Дезинформация (disinformation)
8. Трудовые отношения (work & labor)
и т.д.

Сasey Fiesler (доцент в University of Colorado Boulder) запостила в Твиттере ссылку на редактируемый гугл-док, где она вела перечень таких курсов - о tech-ethics. Сейчас там список из более 300 курсов на заданную тему. В 2020 году (когда записей было 115) она с коллегами провела анализ учебных программ этих курсов. Их анализ дает представление о содержании и целях занятий по этике в технологиях, а также рекомендации о том, как они могут быть интегрированы в учебную программу по вычислительной технике.

Я уже говорила, что про дата-этику должны думать не специально обученные люди, а все. И вот это исследование можно использовать как мини-путеводитель для выбора.

#переходкэтичному #почитатьнатему

Про таргетинг.

В Кодексе этики использования данных есть пара принципов, касающихся использования данных в маркетинге. Один из них звучит так: Признается добросовестной практикой использование данных для прямого (таргетированного) маркетинга, если персонифицированные предложения позволяют потенциальному приобретателю обеспечить оптимальный выбор товаров (работ, услуг), а также при условии предоставлении потенциальному приобретателю возможности отказаться от получения таких персонифицированных предложений.

Однако, как обеспечить оптимальный выбор товаров? Мы постоянно сталкиваемся с ситуацией, когда что-то поискали в интернете, а потом на каждой страничке это что-то нам предлагается.

Эти предложения могут быть очень чувствительными для пользователей, если вдруг они касаются каких-то личных проблем или дискриминирующего фактора. У пользователей к бигтеху возникает много этических вопросов по поводу такой рекламы.

Например, Gillian Brockell (авторке статей Washington Post) долго показывали рекламу для беременных, даже после того, как она потеряла ребёнка.

Так что давно ожидаемый шаг в этом направлении делает Meta. С января в Facebook и Instagram нельзя будет таргетировать рекламу по "чувствительным" категориям аудитории, таким как раса, политические предпочтения, религиозные взгляды, сексуальная ориентация, здоровье и другие.

#переходкэтичному #кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

Про темные паттерны.

Еще одним недавним примером темных паттернов стал кейс, как App Store за период чуть более месяца поднял рейтинг своего приложения Apple Podcasts с 1,8 до 4,7 звёзд. Судя по тому, что пишет The Verge, приложение предлагало поставить пользователю оценку таким образом, что пользователь думал, что ставит оценку конкретному подкасту (судя по новым отзывам).

Желание повысить рейтинг приложению понятно. Оно предустановлено и мало кто пойдёт его оценивать положительно специально. Но, учитывая роль, какую играет эта оценка (повышение продаж), доминирующее положение в App Store для приложения от Apple, полученное такими методами - плохая практика. Минус десять очков Слизерину Ещё один довод отказаться от App Store со всеми вытекающими.

Я уже писала, что темные паттерны - одна из самых неэтичных практик. И они могут возникать там, где мы их совсем не ждём.

#кейсдатаэтики

Про этичность сбора данных.

Сейчас данные собираются просто со всего, с чего можно их собрать. И конечно, данные собираются при любом использовании современных ИТ-решений. Например, смарт-телевизоров.

Не так давно эксперты в отрасли заметили, что в квартальном отчете компании Vizio (она производит популярные дешевые телевизоры для рынка США в первую очередь) указана прибыль с продажи смарт-ТВ в размере $25,6 млн и в размере $57,3 млн с продажи данных о пользователях. Сведения обезличены и продаются маркетологам и рекламщикам. Но уверенности, что пользователи об этом знают, конечно нет.

Тут действует простое правило: когда вы получаете что-то даром или дешево - скорее всего вы просто не понимаете как перепродают вас самих.

#кейсдатаэтики
(история взята отсюда: https://t.me/addmeto)

Про понятие «дата-этика».

Сегодня немного ликбеза. Что такое дата-этика? Оксфордские профессоры и философы Luciano Floridi и Mariarosaria Taddeo в своей статье «What is data ethics?» дают следующее определение (мой вольный перевод):

«Дата этика - это новое направление этики, которое изучает и описывает моральные проблемы, связанные с использованием данных (включая создание, управление, использование, передачу и получение), алгоритмов, основанных на данных (включая искусственный интеллект, машинное обучение и роботов), а так же сопутствующих практик (включая программирование, хакерство, социально-ответственные инновации и профессиональные кодексы) для того чтобы сформулировать и поддержать хорошие (с моральной точки зрения) решения.»

Т.е. дата-этика касается и данных, как таковых, и технологий, необходимых для их обработки, и людей, этим занимающихся.

Добавлю тут, вопросы дата-этики можно условно разделить на три категории:
⁃ Моральные проблемы, которые уже существовали (и использование современных технологий их только усугубляет);
⁃ Моральные проблемы, которые возникли при внедрении новых технологий;
⁃ Моральные проблемы, которые возникнут в будущем.

И в зависимости от классификации такие проблемы будут требовать разных решений и подходов.

#почитатьнатему

Про новогодние шоу.

У The Guardian интересная статья-рассуждение о том, не вытеснят ли шоу дронов фейерверки.

Учитывая то, как в последнее время активно обсуждают в медиа страдания домашних животных от грохота фейерверков, а дроны могут показывать сюжеты гораздо зрелищнее, - это была бы отличная, в том числе этичная по отношению к животным, современная технологическая практика.

#кейсэтикитехнологий
(история взята отсюда: https://t.me/techsparks)

Маск, Илон Маск.

Вы, наверное, уже слышали, что журнал "Times" назвал Илона Маска человеком года. Не удивительно - Times в основном любит объявлять людьми года техномиллиардеров. Но все равно это хороший повод поразмышлять о Маске.

В статье Times обстоятельно описана многогранная личность Маска: его травматическое детство, талант инженера, эпическое видение будущего, мелочность и жесткость. Но одно качество явно импонирует Times: это либертарианство Маска. Стремление вырваться из-под регулирования и правил самого разного рода. Особенно государственных. Построить на Марсе колонию, свободную от традиционных социальных и политических оков. Дать возможность каждому человеку заниматься, чем он захочет, пока роботы делают всю грязную и опасную работу. Исследователи называют такое видение "калифорнийской идеологией".

Интересно, как это либертарианство работает в случае с Tesla. В отличие от других беспилотных проектов, Маск не тратил десятки лет на разработку и тестирование. Он сначала продал "глупые" машины покупателям, а потом стал превращать их в умные. При таком подходе ему не нужно сертифицировать свои беспилотные машины, тестировать согласно правилам того или иного штата. И при этом его машины уже не дорогах, проехали миллиарды км и собрали данных больше, чем Waymo и Яндекс вместе взятые.

Но есть и обратная сторона: Tesla попадают в аварии чаще других беспилотников; чтобы продаться, они завышают свой уровень автономии; обещания не сдерживаются; а машины все еще не стали достаточно умными. Особенно проблематично то, что водители убирают руки с руля или вешают туда банан, хотя Tesla им напоминает, что так делать не нужно. Поэтому Tesla изобретает все более жесткие меры, чтобы дисциплинировать людей: например, вводят систему рейтинга водителей.

И здесь либертарианство Маска сталкивается со своей противоположностью: желая дать людям больше свободы, оно в итоге их больше контролирует. Уходя от регуляторных ограничений, оно приводит к бóльшему количеству аварий, и как следствие, к большему регулированию, а не меньшему. Такая диалектика Маска получается. Хотя есть и положительная для Маска сторона диалектики: несмотря на все проблемы, Маск сегодня - самый богатый человек в мире, Tesla стоит дороже, чем старые автогиганты типа Форда, а сам Маск - человек года.

Поведение людей в отношениях с чат-ботами все ещё может вызывать этические вопросы.

В сообществе пользователей Replika (приложение, которое позволяет создать персонального чат-бота, подстраивающегося под ваш стил общения) на Reddit появился тренд — мужчины создают чатбота-девушку, а затем начинают её абьюзить. С одной стороны — лучше так, чем абьюзить реального человека. Но одно другому не мешает — можно использовать приложение как тренажер для оттачивания токсичного общения и манипуляций в реале.

Знание, которое люди передают машинам, и форма его использования - это все этические вопросы будущего. Может накопленные примеры потом помогут вылавливать реальный кибер-буллинг и блокировать его. Так что в каждой истории может быть несколько точек, когда можно свернуть «не туда» и вернуться обратно.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)

В обновленном Телеграм есть кнопока “перевести текст” и выбор того, с какого языка переводить не надо. На iOS эта кнопка вызывает системный интерфейс для перевода, а вот на андроиде свой собственный интерфейс, довольно удобный но вызывающий вопрос: а кто платит? Дело в том, что на iOS система перевода работает прямо на устройстве, а на Android вызывается гугл-переводчик, он платный если использовать его в вашем приложении. Слава богу, клиент телеграм открытый и люди уже посмотрели в код а там, вместо использования официального API гуглтранслейта, явно используется совершенно нестандартный API, который не требует оплаты потому, что прикидывается встроенным переводчиком Google Chrome 🙂

При этом это место довольно хитро спрятано и в коде самого телеграма, и чтобы не вызывало вопросов - устроена подмена юзер-агента в запросе. Короче красиво все и хитро. Жаль, что довольно быстро этот фокус придется убирать - гугл будет очень недоволен https://danpetrov.xyz/programming/2021/12/30/telegram-google-translate.html

Интересная история в Wall Street Journal на стыке религии, интернета и цифрового капитализма.

Частный бизнес и политические кампании регулярно используют персональную информацию интернет-пользователей для таргетирования потенциальных клиентов, спонсоров или сторонников. Но теперь в этот "цифровой вагон" решили запрыгнуть и религиозные организации, которые обычно опираются на более традиционные методы рекрутинга прихожан.

Стартап под названием Gloo анализирует персональные данные американцев, предлагая церквям профили людей и групп, которые могут быть наиболее восприимчивы к их проповедям. Согласно полученным WSJ документам, у Gloo есть профили на 245 млн. жителей США. Среди них компания отбирает потенциальных прихожан: людей, страдающих от депрессии и наркозависимости, проблем в семье или переживающих развод, либо потерю близких.

Алгоритмы Gloo даже вычисляют тех, кто потенциально может столкнуться с такими проблемами, а потому может быть открыт к религиозной рекламе. Например, они приобрели базу данных 30 тыс. разведенных пар американцев, проанализировали их данные (кредитную историю, данные по передвижениям и здоровью) и на основе этого выделили еще 33 млн замужних людей, которым грозит развод.

Выделив профили людей, находящихся в группах риска, Gloo затем продвигает им рекламные объявления различных религиозных организаций в соцсетях или поисковых выдачах Google. Сейчас клиентами Gloo является около 30 тыс. церквей или почти 10% от всех существующих в США.

Подобное во многом возможно благодаря тому, что в США по сути отсутствуют нормальные законы о защите данных в интернете. Ну а со стороны церквей интерес тоже понятен: c 2009 года количество людей, относящих себе к той или иной религиозной организации снизилось с 63% до 51%, а регулярных прихожан (посещающих службы раз в месяц и чаще) - c 52% до 45%. Особенно сильное снижение наблюдается среди молодежи, а во время пандемии посещение церквей упало на 30-50%.

Все думала о том, какой бы привести пример именно этичной практики использования данных, и думаю вот этот самый насущный вполне подойдет.

На карантин, как вы знаете, отправляют не только заболевших Covid-19, но и контактных. При этом, сам процесс выявления контактных совсем не прозрачен. Понятно, когда речь идет о коллегах / однокурсниках / одноклассниках или людях, проживающих совместно с заболевшими. Но также есть случаи, когда человек получает сообщение, что у него был контакт, но ситуации, описанной выше, не было. В этом случае речь идет о передаче перс.данных о контактном, очевидно без согласия. Скорее всего, с правовой точки зрения, эта ситуация находится в т.н. "серой зоне", т.е. не отрегулирована достаточно конкретно. Однако с этической точки зрения, это вполне приемлемая ситуация и именно так и должны действовать обладатели этой информации.

#кейсдатаэтики

Вот, кстати, очередной отличный пример о том, что вроде бы неперсональная информация может быть вполне персональной. И ее использование не выдерживает этических рамок.

#кейсдатаэтики
⬇️⬇️⬇️

Новости авиации: Илон Маск пытается добиться, чтобы автор твиттер бота, рассказывающего, куда летает самолет Маска, прекратил это делать. Мальчик написал бота, который забирает данные по полетам известного борта Илона Маска из готовых флайт-трекеров (наверное, самые популярные — это flightradar24 и adsbexchange) и пушит в обычный твиттер-аккаунт сообщение “приземлился в Остине, Техас” с картинкой, показывающей окончание маршрута.

У аккаунта почти 120к подписчиков, однако Илон пока не смог добиться его выключения. Все это наводит на простые мысли: доступность информации иногда приводит к сложным для безопасности последствиям, веб2.0, мягко говоря, тоже не без проблем, адекватных людей в мире не так уж и много.

https://www.protocol.com/elon-musk-flight-tracker

Иногда этичность действия зависит не от самого действия, а от субъекта.

Например, когда данные о геолокации продают какие-то "мусорные" приложения, мы к этому относимся совершенно спокойно. Но вот в ситуации, когда геолокационные данные продает приложение, функция которого - обеспечивать семейную безопасность, а именно, отслеживать перемещения детей, то такое действие вызывает вопросы.

#кейсдатаэтики

О важности сохранения данных в условиях неопределённости пишет Андрей Себрант и приводит отличный пример:

Во времена кризиса 2008 года «Яндексу» нужно было принимать «оперативные решения, и, в частности, важнейшее решение о том, как поймать момент начала восстановления экономики, вовремя вложить еще сохранившиеся ресурсы в отработку растущего спроса и первыми представить новинки на начавшем восстанавливаться рынке». Сценарии восстановления от экономистов при этом были противоречивыми.

«В результате мозгового штурма было решено отслеживать потребительское поведение пользователей интернета, отражающееся в статистике контрастных поисковых запросов. Например, отношение мощности запросов, связанных с покупкой автомобиля, к запросам, связанным с его ремонтом, или отношение запросов про заказ пиццы к запросам про рецепты пиццы.»

Собрав достаточно данных по таким типам запросов, «Яндекс» построил метрику «кризисности» в головах людей, выражающуюся в их потребительских запросах. «Она-то и позволила нам поймать начало послекризисного восстановления спроса и оценить его скорость задолго до того, как о выходе из кризиса заговорили ученые и традиционные эксперты.»

Ещё один пример использования данных в медицине. Медицинские решения, принимаемые на основе данных, вызывают гораздо больше доверия и надежды на хороший исход, а это тоже немаловажно для пациентов.

#кейсиспользованияданных
⬇️⬇️⬇️

Эппл только что показали, что в новом приложении для учета и помощи в принятии медицинских препаратов будут показывать, если ваши таблетки конфликтуют друг с другом. И с алкоголем.

Если вы думаете, что это неважно — важно. Теперь вы можете доверить устройству проверять то, что не учли ваши врачи. Пока что это единственное, что меня удивило на презентации.

Вопросы слежки за людьми вообще всегда находятся на грани этичности, но вот эта ситуация с абортами в США, конечно, вообще какое-то новое дно. Один из примеров, когда что-то становится законным, но не этичным.

#кейсдатаэтики
⬇️⬇️⬇️

Женщины в США удаляют приложения, отслеживающие менструальный цикл. Они боятся, что данные могут использоваться для их преследования после запрета абортов в некоторых штатах.

Эти переживания не беспочвенны, потому что эти приложения как и любые другие сохраняют данные и делятся ими. В штате, где аборт стал преступлением, прокуратура может запросить информацию, собранную этими приложениями, при возбуждении дела.

Трекерами цикла пользуются около трети американок. Они помогают не только следить за месячными, но и планировать беременность и выявлять проблемы со здоровьем

@snobru

В копилку к default city. Забавный кейс сбора данных, когда ставишь себе задачу «не генерить лишние сведения» а выходит как-то по-другому.

#кейсиспользованияданных
⬇️⬇️⬇️