Саваровская | Интересное о данных
87 subscribers
12 photos
116 links
Про то, как данные влияют на людей — и наоборот. О честности, культуре и здравом смысле в эпоху ИИ.

Для связи (прислать мне что-то интересное, например) - @savarovskaya
Download Telegram
Про понятие «дата-этика».

Сегодня немного ликбеза. Что такое дата-этика? Оксфордские профессоры и философы Luciano Floridi и Mariarosaria Taddeo в своей статье «What is data ethics?» дают следующее определение (мой вольный перевод):

«Дата этика - это новое направление этики, которое изучает и описывает моральные проблемы, связанные с использованием данных (включая создание, управление, использование, передачу и получение), алгоритмов, основанных на данных (включая искусственный интеллект, машинное обучение и роботов), а так же сопутствующих практик (включая программирование, хакерство, социально-ответственные инновации и профессиональные кодексы) для того чтобы сформулировать и поддержать хорошие (с моральной точки зрения) решения.»

Т.е. дата-этика касается и данных, как таковых, и технологий, необходимых для их обработки, и людей, этим занимающихся.

Добавлю тут, вопросы дата-этики можно условно разделить на три категории:
⁃ Моральные проблемы, которые уже существовали (и использование современных технологий их только усугубляет);
⁃ Моральные проблемы, которые возникли при внедрении новых технологий;
⁃ Моральные проблемы, которые возникнут в будущем.

И в зависимости от классификации такие проблемы будут требовать разных решений и подходов.

#почитатьнатему
Про новогодние шоу.

У The Guardian интересная статья-рассуждение о том, не вытеснят ли шоу дронов фейерверки.

Учитывая то, как в последнее время активно обсуждают в медиа страдания домашних животных от грохота фейерверков, а дроны могут показывать сюжеты гораздо зрелищнее, - это была бы отличная, в том числе этичная по отношению к животным, современная технологическая практика.

#кейсэтикитехнологий
(история взята отсюда: https://t.me/techsparks)
Forwarded from WrongTech (Nikolay Rudenko)
Маск, Илон Маск.

Вы, наверное, уже слышали, что журнал "Times" назвал Илона Маска человеком года. Не удивительно - Times в основном любит объявлять людьми года техномиллиардеров. Но все равно это хороший повод поразмышлять о Маске.

В статье Times обстоятельно описана многогранная личность Маска: его травматическое детство, талант инженера, эпическое видение будущего, мелочность и жесткость. Но одно качество явно импонирует Times: это либертарианство Маска. Стремление вырваться из-под регулирования и правил самого разного рода. Особенно государственных. Построить на Марсе колонию, свободную от традиционных социальных и политических оков. Дать возможность каждому человеку заниматься, чем он захочет, пока роботы делают всю грязную и опасную работу. Исследователи называют такое видение "калифорнийской идеологией".

Интересно, как это либертарианство работает в случае с Tesla. В отличие от других беспилотных проектов, Маск не тратил десятки лет на разработку и тестирование. Он сначала продал "глупые" машины покупателям, а потом стал превращать их в умные. При таком подходе ему не нужно сертифицировать свои беспилотные машины, тестировать согласно правилам того или иного штата. И при этом его машины уже не дорогах, проехали миллиарды км и собрали данных больше, чем Waymo и Яндекс вместе взятые.

Но есть и обратная сторона: Tesla попадают в аварии чаще других беспилотников; чтобы продаться, они завышают свой уровень автономии; обещания не сдерживаются; а машины все еще не стали достаточно умными. Особенно проблематично то, что водители убирают руки с руля или вешают туда банан, хотя Tesla им напоминает, что так делать не нужно. Поэтому Tesla изобретает все более жесткие меры, чтобы дисциплинировать людей: например, вводят систему рейтинга водителей.

И здесь либертарианство Маска сталкивается со своей противоположностью: желая дать людям больше свободы, оно в итоге их больше контролирует. Уходя от регуляторных ограничений, оно приводит к бóльшему количеству аварий, и как следствие, к большему регулированию, а не меньшему. Такая диалектика Маска получается. Хотя есть и положительная для Маска сторона диалектики: несмотря на все проблемы, Маск сегодня - самый богатый человек в мире, Tesla стоит дороже, чем старые автогиганты типа Форда, а сам Маск - человек года.
Саваровская | Интересное о данных
Про предвзятость алгоритмов. Посмотрела ещё один фильм Netflix о предвзятости алгоритмов Coded bias. Есть несколько идей, которые подсвечивают в фильме, и на которые мне тоже хотелось бы обратить внимание. Начну с главной. Предвзятость алгоритмов - это…
Поведение людей в отношениях с чат-ботами все ещё может вызывать этические вопросы.

В сообществе пользователей Replika (приложение, которое позволяет создать персонального чат-бота, подстраивающегося под ваш стил общения) на Reddit появился тренд — мужчины создают чатбота-девушку, а затем начинают её абьюзить. С одной стороны — лучше так, чем абьюзить реального человека. Но одно другому не мешает — можно использовать приложение как тренажер для оттачивания токсичного общения и манипуляций в реале.

Знание, которое люди передают машинам, и форма его использования - это все этические вопросы будущего. Может накопленные примеры потом помогут вылавливать реальный кибер-буллинг и блокировать его. Так что в каждой истории может быть несколько точек, когда можно свернуть «не туда» и вернуться обратно.

#кейсдатаэтики
(история взята отсюда: https://t.me/brodetsky)
Forwarded from addmeto (Grigory Bakunov 🧪)
В обновленном Телеграм есть кнопока “перевести текст” и выбор того, с какого языка переводить не надо. На iOS эта кнопка вызывает системный интерфейс для перевода, а вот на андроиде свой собственный интерфейс, довольно удобный но вызывающий вопрос: а кто платит? Дело в том, что на iOS система перевода работает прямо на устройстве, а на Android вызывается гугл-переводчик, он платный если использовать его в вашем приложении. Слава богу, клиент телеграм открытый и люди уже посмотрели в код а там, вместо использования официального API гуглтранслейта, явно используется совершенно нестандартный API, который не требует оплаты потому, что прикидывается встроенным переводчиком Google Chrome 🙂

При этом это место довольно хитро спрятано и в коде самого телеграма, и чтобы не вызывало вопросов - устроена подмена юзер-агента в запросе. Короче красиво все и хитро. Жаль, что довольно быстро этот фокус придется убирать - гугл будет очень недоволен https://danpetrov.xyz/programming/2021/12/30/telegram-google-translate.html
Forwarded from One Big Union (Ян Веселов)
Интересная история в Wall Street Journal на стыке религии, интернета и цифрового капитализма.

Частный бизнес и политические кампании регулярно используют персональную информацию интернет-пользователей для таргетирования потенциальных клиентов, спонсоров или сторонников. Но теперь в этот "цифровой вагон" решили запрыгнуть и религиозные организации, которые обычно опираются на более традиционные методы рекрутинга прихожан.

Стартап под названием Gloo анализирует персональные данные американцев, предлагая церквям профили людей и групп, которые могут быть наиболее восприимчивы к их проповедям. Согласно полученным WSJ документам, у Gloo есть профили на 245 млн. жителей США. Среди них компания отбирает потенциальных прихожан: людей, страдающих от депрессии и наркозависимости, проблем в семье или переживающих развод, либо потерю близких.

Алгоритмы Gloo даже вычисляют тех, кто потенциально может столкнуться с такими проблемами, а потому может быть открыт к религиозной рекламе. Например, они приобрели базу данных 30 тыс. разведенных пар американцев, проанализировали их данные (кредитную историю, данные по передвижениям и здоровью) и на основе этого выделили еще 33 млн замужних людей, которым грозит развод.

Выделив профили людей, находящихся в группах риска, Gloo затем продвигает им рекламные объявления различных религиозных организаций в соцсетях или поисковых выдачах Google. Сейчас клиентами Gloo является около 30 тыс. церквей или почти 10% от всех существующих в США.

Подобное во многом возможно благодаря тому, что в США по сути отсутствуют нормальные законы о защите данных в интернете. Ну а со стороны церквей интерес тоже понятен: c 2009 года количество людей, относящих себе к той или иной религиозной организации снизилось с 63% до 51%, а регулярных прихожан (посещающих службы раз в месяц и чаще) - c 52% до 45%. Особенно сильное снижение наблюдается среди молодежи, а во время пандемии посещение церквей упало на 30-50%.
Все думала о том, какой бы привести пример именно этичной практики использования данных, и думаю вот этот самый насущный вполне подойдет.

На карантин, как вы знаете, отправляют не только заболевших Covid-19, но и контактных. При этом, сам процесс выявления контактных совсем не прозрачен. Понятно, когда речь идет о коллегах / однокурсниках / одноклассниках или людях, проживающих совместно с заболевшими. Но также есть случаи, когда человек получает сообщение, что у него был контакт, но ситуации, описанной выше, не было. В этом случае речь идет о передаче перс.данных о контактном, очевидно без согласия. Скорее всего, с правовой точки зрения, эта ситуация находится в т.н. "серой зоне", т.е. не отрегулирована достаточно конкретно. Однако с этической точки зрения, это вполне приемлемая ситуация и именно так и должны действовать обладатели этой информации.

#кейсдатаэтики
Вот, кстати, очередной отличный пример о том, что вроде бы неперсональная информация может быть вполне персональной. И ее использование не выдерживает этических рамок.

#кейсдатаэтики
⬇️⬇️⬇️
Forwarded from addmeto (Grigory Bakunov 🧪)
Новости авиации: Илон Маск пытается добиться, чтобы автор твиттер бота, рассказывающего, куда летает самолет Маска, прекратил это делать. Мальчик написал бота, который забирает данные по полетам известного борта Илона Маска из готовых флайт-трекеров (наверное, самые популярные — это flightradar24 и adsbexchange) и пушит в обычный твиттер-аккаунт сообщение “приземлился в Остине, Техас” с картинкой, показывающей окончание маршрута.

У аккаунта почти 120к подписчиков, однако Илон пока не смог добиться его выключения. Все это наводит на простые мысли: доступность информации иногда приводит к сложным для безопасности последствиям, веб2.0, мягко говоря, тоже не без проблем, адекватных людей в мире не так уж и много.

https://www.protocol.com/elon-musk-flight-tracker
Иногда этичность действия зависит не от самого действия, а от субъекта.

Например, когда данные о геолокации продают какие-то "мусорные" приложения, мы к этому относимся совершенно спокойно. Но вот в ситуации, когда геолокационные данные продает приложение, функция которого - обеспечивать семейную безопасность, а именно, отслеживать перемещения детей, то такое действие вызывает вопросы.

#кейсдатаэтики
Channel name was changed to «Data ethics and more about data»
О важности сохранения данных в условиях неопределённости пишет Андрей Себрант и приводит отличный пример:

Во времена кризиса 2008 года «Яндексу» нужно было принимать «оперативные решения, и, в частности, важнейшее решение о том, как поймать момент начала восстановления экономики, вовремя вложить еще сохранившиеся ресурсы в отработку растущего спроса и первыми представить новинки на начавшем восстанавливаться рынке». Сценарии восстановления от экономистов при этом были противоречивыми.

«В результате мозгового штурма было решено отслеживать потребительское поведение пользователей интернета, отражающееся в статистике контрастных поисковых запросов. Например, отношение мощности запросов, связанных с покупкой автомобиля, к запросам, связанным с его ремонтом, или отношение запросов про заказ пиццы к запросам про рецепты пиццы.»

Собрав достаточно данных по таким типам запросов, «Яндекс» построил метрику «кризисности» в головах людей, выражающуюся в их потребительских запросах. «Она-то и позволила нам поймать начало послекризисного восстановления спроса и оценить его скорость задолго до того, как о выходе из кризиса заговорили ученые и традиционные эксперты.»
👍2
Ещё один пример использования данных в медицине. Медицинские решения, принимаемые на основе данных, вызывают гораздо больше доверия и надежды на хороший исход, а это тоже немаловажно для пациентов.

#кейсиспользованияданных
⬇️⬇️⬇️
Forwarded from addmeto (Grigory Bakunov 🧪)
Эппл только что показали, что в новом приложении для учета и помощи в принятии медицинских препаратов будут показывать, если ваши таблетки конфликтуют друг с другом. И с алкоголем.

Если вы думаете, что это неважно — важно. Теперь вы можете доверить устройству проверять то, что не учли ваши врачи. Пока что это единственное, что меня удивило на презентации.
👍2
Вопросы слежки за людьми вообще всегда находятся на грани этичности, но вот эта ситуация с абортами в США, конечно, вообще какое-то новое дно. Один из примеров, когда что-то становится законным, но не этичным.

#кейсдатаэтики
⬇️⬇️⬇️
Forwarded from Сноб
Женщины в США удаляют приложения, отслеживающие менструальный цикл. Они боятся, что данные могут использоваться для их преследования после запрета абортов в некоторых штатах.

Эти переживания не беспочвенны, потому что эти приложения как и любые другие сохраняют данные и делятся ими. В штате, где аборт стал преступлением, прокуратура может запросить информацию, собранную этими приложениями, при возбуждении дела.

Трекерами цикла пользуются около трети американок. Они помогают не только следить за месячными, но и планировать беременность и выявлять проблемы со здоровьем

@snobru
В копилку к default city. Забавный кейс сбора данных, когда ставишь себе задачу «не генерить лишние сведения» а выходит как-то по-другому.

#кейсиспользованияданных
⬇️⬇️⬇️
Forwarded from WrongTech (Konstantin Glazkov)
«пусто» не значит «ноль»

В мире геолокации существует так называемый «Нулевой остров» – место в Гвинейском заливе с координатами 0° северной широты и 0° восточной долготы. Несмотря на то, что там ничего нет (кроме небольшого буйка под именем Soul), это одно из самых наполненных контентом мест на Земле.

Причина этому – распространенная механика подмены отсутствующих геоданных (null) на нулевые координаты (zero). Из-за этого там скапливаются данные из Flickr, Strava, Twitter, Snapchat, AirBnB и прочих сервисов.

Существуют, конечно, сценарии и осознанного использования Нулевого острова. Например, одни смельчаки предложили в качестве шутки запустить там Air Null – авиакомпанию, благодаря которой летать больше никуда не надо.

Этот и другие примеры лишний раз подчеркивают, что «выдуманное» место может обретать не меньший смысл, чем «реальные» места. И пока Нулевой остров продолжают обживать новые и новые данные, он будет оставаться не только банальной точкой отсчета, но и важным социокультурным феноменом.
Интересный кейс про сбор данных в самые темные времена. Эта история важна вот почему. Даже если нам кажется, что мы работаем только с технологиями, все равно результат нашей работы влияет на людей. И какая бы ни была рабочая задача - мы отвечаем за финальный результат тоже.

Я уже писала про кодекс этики работы с данными для каждого вовлеченного - как вариант решения этой проблемы. Но может у вас есть идея получше?

*ссылки на пруфы в комментариях в оригинальном посте

#кейсдатаэтики
⬇️⬇️⬇️
Наши действия проявляют ценности, но не все ценности видимы

История повторяется даже если видимо происходит как будто бы впервые, а некоторые нарративы проявляются и помогают сильнее тиражированных историй. Как пример сопротивления любят приводить фото из 1936 года, мы все его знаем: там один человек не зигует, в то время как остальные да. Его ещё обводят в красный кружок. Это не очень хороший пример, он не работает. Рене Кармиль, которого почти никто не знает, пример намного более удачный, но чтобы рассказать о нём потребуется несколько тысяч знаков и небольшая историческая врезка во вторую мировую войну.

Что мы знаем о технологическом обеспечении холокоста? Он был возможен в таком жутком масштабе благодаря вычислительным технологиям и перфокартам IBM.

Стандартная длина строки терминала в 80 символов пришла к нам начала тридцатых годов. Dehomag объявили в своей рассылке о расширении перфокарты «по политическим причинам». Дальше Рейх начал идентификацию арийцев и евреев. Увеличив метаданные всего на 20% и обеспечив их непрерывный сбор и обработку, немцы заложили технологический фундамент будущего геноцида.

Вилли Хайдингер, СЕО Dehomag — немецкой дочерней компании IBM, был воодушевлённым поклонником гитлеровского режима. Исторические параллели проведёте сами. Бизнес-отношения между IBM и третьим рейхом не заканчивались, несмотря на призыв мирового сообщества бойкотировать Германию ещё до войны

Перепись населения 1933 года была полностью исполнена IBM и помогла нацистам опознать, изолировать и, в конце-концов, уничтожить еврейское меньшинство. Машинные таблицы данных впервые показали другие числа еврейского населения в Германии: теперь можно было определить людей с одним или несколькими предками. Предыдущая оценка в 400-600 тысяч была отброшена в пользу новой — два миллиона евреев в населении в шестьдесят пять миллионов.

Дальше немецкая армия оккупирует Европу. В каждой новой стране открываются «дочки» IBM и проводится перепись населения, идентифицирующая евреев и ром. Эти данные и сложная сеть мелких подрядчиков IBM помогают убийствам этнических евреев в Европе. Каждый концлагерь имел собственный отдел Hollerith-Abteilung, который пробивал по перфокартам IBM поступающих людей. Хейденгер и Уотсон помогли компании обойти санкции и настроить полузакрытые компании и сеть лицензиатов для доставки перфокарт клиентам на всех территориях. Так Германия стала вторым по размеру рынком для IBM после CША. Параллели и здесь проводятся сами.

Рене Кармиль не составлял списки, он их уничтожал. Эксперт по системам обработки данных стал главным по французской переписи населения, которая сама по себе, конечно же, была нейтральна — просто данные. Он лично хорошо понимал, как эти данные будут использоваться. Внешне Рене сотрудничал с режимом, но вот перепись населения во Франции почему-то проходила медленно и неэффективно. Рене и его подчинённые обыденно оставляли коробки с перфокартами где-то в запасниках с тысячами необработанных записей из переписи населения. А потом команда и вовсе поменяла процесс, чтобы в колонку 11 — религия — ничего не впечатывалось. Потенциальный смертельный приговор исчез для тысяч людей, и местных, и эмигрантов. Они все выжили благодаря человеку, сражавшемуся с фашизмом на своём рабочем месте.

Отчёт о французских евреях, заказанный немцами в 1941 не был закончен к его аресту в феврале 1944. Рене и его команду, конечно, поймали, его жестоко допрашивали, он сам умер в Дахау, не дожив всего трёх месяцев до освобождения. Так себе пример, если подумать.

В Нидерландах 73% евреев были идентифицированы, депортированы и убиты. А во Франции это же число почти в три раза меньше — 25%.

Наши действия проявляют ценности, но не все ценности видимы.
👍6
Сноб
Женщины в США удаляют приложения, отслеживающие менструальный цикл. Они боятся, что данные могут использоваться для их преследования после запрета абортов в некоторых штатах. Эти переживания не беспочвенны, потому что эти приложения как и любые другие сохраняют…
Похоже, Google правильно понял возможные последствия запроса данных для возбуждения дел о незаконных абортах, и запустил инициативу по защите частной жизни пользователей. Согласно заявлению, опубликованному в корпоративном блоге, Google начнет автоматически удалять сведения о посещении клиник абортов, центров похудения и других "потенциально чувствительных" мест. Прекрасный пример ответственного подхода к распространению своих разработок.

#кейсдатаэтики
👍3