😢После отгрузки все байки отправят в автомобильный шредер.

Раса и технологии

Представители IBM недавно объявили, что больше не будут заниматься исследованиями в области распознавания лиц. CEO компании Арвинд Кришна в письме для Конгреса даже вспомнил о том, как в 1950-ых годах IBM отказались от расовой сегрегации на рабочих местах. В тексте также содержится ряд предложений по продвижению расового равенства.

Подобное событие не было бы возможно без долгой работы исследователей, правозащитников и журналистов по раскрытию алгоритмической предвзятости (algorithmic bias) по расовому и гендерному признаку. И такой деятельности слишком много, чтобы перечислить в одном посте более или менее исчерпывающе, но кажется важным немного написать об этом и дать ссылки на другие ресурсы по теме расы и технологий. 

Более того, сейчас как никогда важно говорить о том, что это во многом достижения именно небелых профессионалов из разных областей. Меня также вдохновили схожие списки 1 и 2 от каналов @nyphilosophy и @impossibleworlds. 

Несколько ссылок по теме раса и технологии:

👁 Движение Algorithmic Justice League, основанное Джой Буламвини, бывшей студенткой и исследовательнице в MIT, которая в своей работе подчеркивала, что программное обеспечение в сфере распознавания лиц неодинаково относится к разным группам. Вместе с другой черной исследовательницей Тимнит Гебру они сделали проект Gender Shades про то, насколько алгоритмы разных компаний успешны в распознавании лиц людей разных гендеров и рас. 
🖤 Книга черной исследовательницы Рухи Бенджамин Race After Technology, здесь ее выступление на 30 минут про ее работу, а там про то, как технологии оказываются раз за разом расово окрашены. Сам я книгу пока не читал, но очень хочется. Бенджамин также основала Just Data Lab, где исследователи, активисты и художники объединяются для того, чтобы попытаться перепридумать, как возможно иначе обращаться к данным и действовать на их основе.
⚖️ Книга Dark Matters: On the Surveillance of Blackness прослеживает долгую историю технологий, используемых для наблюдения за черным населением. Вот тут Симона Браун рассказывает о своей книге.  
📚Тут давал ссылку учебный план курса по Critical Race & Digital Studies, это подальше от алгоритмов, больше в сторону исследований интернета и цифровых культур, но тоже про расу

И все это дело, конечно, далеко не ограничивается и не заканчивается на распознавании лиц, это только часть системной проблемы, и либеральные решения в рамках антидискриминационного законодательства тут далеко не всегда помогают. Об этом в контексте дискриминации на основе данных есть замечательная статья Анны Хоффманн, о ней может напишу попозже.

отличная иллюстрация того, как технари пытались решать гуманитарную проблему техническими способами (хотя они даже не технические, а просто странные) и что из этого вышло

накануне и особенно после выборов Трампа в 2016 году на Фейсбук (и Твиттер и прочие соцсети) изо всех сил наехали в смысле - как же вы допустили, что у вас сетях резвятся русские боты, альт-райты, альтернативные медиа и разные конспирологи, которые несут свою дезинформацию и фейки напрямую в мозг обычным людям. а вот мы сейчас приравняем вас к СМИ и вы за каждую букву и запятую, написанную пользователями, будете отвечать по всем законам: пока соцсети отползают на то, что они не СМИ и не могут и не будут отвечать за написанное кем попало

Цукерберга вызывали в конгресс, задавали вопросы, он там смешно выглядел, но в целом ему было не смешно. поэтому Фейсбук объявил поворот "все вдруг" к приватности и Фейсбук объявил, что теперь пользователи будут видеть гораздо меньше контента от СМИ и брендов и гораздо больше - от "друзей и членов семьи", а также от групп, в которых состоят, и администраторам которых жестко сказали, что они лично отвечают за написанное и если что не так, закрытие и пожизненный бан

иначе говоря, потенциально опасные внешние источники, способные нести хоть какую-то политически окрашенную информацию, Фейсбук официально пессимизировал в ленте, в обмен обещая больше постов друзей, которые сообщают о своих делах, постят фоточки с домашних праздников, котиков и все вот это. но не тут-то было

по прошествии лет примерно пяти стало окончательно ясно, что собственные друзья и особенно группы по интересам могут разносить фейки и дезинформацию, а также вести пропаганду и агитацию не хуже, а даже лучше, чем внешние источники.

больше того, автоматический алгоритм Фейсбука честно делает свою работу, и на пост ковид-скептика отвечает тем, что тут же выдает ему рекомендации присоединиться к группе ковид-скептиков, обнаружив (по постам, фоткам, геолокации и близости к геолокациям других пользователей), что человек ходил на демонстрацию против полицейского беспредела - предлагает ему вступить в группы людей против полицейского беспредела и так далее. люди ведь, сюрприз, постят не только котиков и семейные вечеринки, а все подряд, что их интересует в этой жизни.

и если СМИ и блоги частных компаний власти еще могли как-то пытаться контролировать через свод давно действующих правил и законов, то пытаться управлять тем, что пишут отдельные люди, интернет-активисты и social justice warriors, они вообще не способны. А Фейсбук как раз заточил свои алгоритмы так, чтобы всем этим людям создать режим наибольшего благоприятствования. в общем, попытки лучше контролировать ситуацию привели к гораздо большему хаосу

https://www.wired.com/story/facebook-groups-are-destroying-america/

​​Опубликован подробный гайд по деятельности российского подразделения, распространяющего дезинформацию в интернете

Читал сегодня интересный отчет, над которым совместно работали специалисты американской компании Graphika и службы безопасности Facebook, Twitter и других социальных платформ. Отличная работа, все удобно структурировано — ключевые тезисы, полный PDF и отдельно архив цифровых улик cо скриншотами постов, иллюстраций и фейковых документов. Тематика — весь спектр внешней политики России: Украина, США, НАТО, ЕС, Турция, допинг. С одной стороны — кого сейчас этим удивишь, ну сидят люди на скромной зарплате, клепают по тезисам бесхитростный контент в поддержку государственной политики. Но чем больше читаешь, тем больше задумываешься о масштабах. Ведь это только одна из таких организованных групп. Читатели этого канала вряд ли обитают в тех глубинах интернета, где распространяются такие фейки. А это происходит совсем рядом. Реальный эффект от такой пропаганды оценить сложно, но есть много подверженных влиянию людей, которым эти профессиональные фейки помогают формировать точку зрения на события. Почитайте, это очень интересный экскурс в государственную пропаганду.

У известного медиатеоретика и художницы Хито Штейерль есть эссе «Proxy Politics: Signal and Noise», где в том числе есть про алгоритмическое распознавание порнографии. Она пишет там, что подобная задача предполагает необходимость понять, что в видео и изображениях является сексом или наготой, а что — нет. 

Штейерль описывает устройство алгоритмов, которые предназначены для распознавания «непристной наготы» и принятия решений о блокировке изображений или видео. В эссе Штейерль выстраивает такую идею: в своей последовательной реализации проект алгоритмического распознавания порнографии во многом предполагает детальную классификацию сексуального поведения во всей его вариативности. 

This grammar as well as the library of partial objects are reminiscent of Roland Barthes’ notion of a “porn grammar,” where he describes the Marquis de Sade’s writings as a system of positions and body parts ready to permutate into every possible combination. Yet this marginalized and openly persecuted system could be seen as a reflex of a more general grammar of knowledge deployed during the so-called Enlightenment

Задача эта хоть и амбициозная, но осложнена своим стремлением к тотальности, то есть всеохватностью в попытке зафиксировать то, чем вообще может быть сексуальность. Ведь сексуальность, порнографическое, также границы между этими понятиями не являются чем-то предзаданным и очевидным.

А к попыткам определить их насильственными средствами — как со стороны алгоритмов, так и со стороны людей –  важно относиться критически.

От того еще более печалит дело Юлии Цветковой, которое, конечно, не только о рисунках, но еще и о ее образовательной и активистской деятельности как феминистки. Прочитать о нем можно здесь: https://www.freetsvet.net

то, чего не удалось сделать конгрессменам, могут сделать деньги - все больше крупных рекламодателей останавливает рекламные кампании в Facebook - среди них Starbucks , PepsiCo, Diageo, Unilever и многие другие

формальный повод - призыв Антидиффамационной лиги бойкотировать Facebook, потому что соцсеть неоднократно отказывалась удалять посты, содержащие враждебные высказывания и дезинформацию

Facebook традиционно стоит на том, что он готов удалять посты, нарушающие правила и законы, но не способен (и не хочет) мгновенно удалять вообще все, что вызывает недовольство и вопросы

даже если сейчас соцсеть отступит, не очень ясно, как это реализовать технически - ужесточение наказаний для нарушителей, расширение списка стоп-слов для алгоритмов, пожизненные баны для людей и целых организаций, но - слишком много людей все время пишет что-то, что является ненавистью или дезинформацией в чистом виде или может быть истолковано, как ненависть и дезинформация

единственный действенный способ - закрыть Facebook и вообще все соцсети, на что все они, по определению, пойти не могут. поэтому, вероятно, все закончится новыми ужесточениями правил и декларациями со стороны Цукерберга. и пожертвованиями на какие-то благие дела

пока Facebook обещает zero tolerance to hate speech. ну посмотрим, как все это будет реализовано

https://www.bloomberg.com/news/articles/2020-06-28/facebook-s-widening-ad-exodus-means-more-risks-to-revenue-growth?sref=Hj9tfUkd

здоровенная статья Vox из привычной серии "как ваши телефоны следят за вами", пересказывать которую мне лень, да и в общем из условно нового там только то, что следят за владельцем телефона вообще все установленные на нем приложения, если вы им хоть что-то разрешили. в том числе с помощью так называемых SDK. software developments kits (SDK), наборов средств разработки - ну это правда интересно больше специалистам, чем обычным пользователям, это технологии под капотом

https://www.vox.com/recode/2020/7/8/21311533/sdks-tracking-data-location

а не разрешить им вообще очень сложно, поэтому обычно все можно свести к простому тезису - установили на телефон приложение = разрешили ему шпионить за вами

тонкость тут в том, что таким образом доступ к чувствительной иформации получает вообще кто попало, не АНБ, ФБР или ФСБ, а натурально - кто попало. и, как показала пандемия коронавируса, с удовольствием делятся этими данными, за деньги или просто так, потому что хочется поделиться данными со всем миром

например, компания Tectonix в самом начале эпидемии всех несколько шокировала вот этой анимированной картой: они отследили трекеры с мобильных телефонов людей, которые собрались на одном из пляжей Флориды, а потом по тем же трекерам отследили их дальнейшие передвижения по территории США - кто, когда, куда и все такое. формально для того, чтобы показать, как важно соблюдать социальную дистанцию во время пандемии

https://twitter.com/tectonixgeo/status/1242628347034767361?lang=en

стоит один раз разрешить одному приложению разрешить определять свою геолокацию - оно потом продолжит за тобой неусыпно следить и передавать еще эти данные всем желающим, в этом некоторый пафос заметки. и остановить это пока нельзя, к тому же вообще - в интернете все следили за всеми с самого начала, чего

и тут, конечно, возникает тот самый главный вопрос, который в последние годы обсуждают очень активно: на самом деле не "все знают все о всех", а "они знают о нас все, а мы о них и о том, что они делают - ничего". они это правительства, технологические компании, да уже кто попало, правда. абсолютной дисбаланс

то есть, тотально прозрачный мир на самом деле никакой не тотально прозрачный, а односторонее стекло в полицейском кабинете - с одной стороны стекла видно все, а с другой ты тупо смотришь в зеркало на себя самого

это тоже не новость, конечно, но чтоб не забывать и чтобы тоже хотя бы пытаться заглядывать на ту сторону

Очередной тренд, вызванный пандемией, – корпоративные дипфейки. Британский холдинг WPP решил не тратить деньги на запись обучающих видеороликов для сотрудников, а вместо этого использовал синтетический контент. Компания сгенерировала виртуальную модель, которая зачитала текст о пользе искусственного интеллекта в маркетинге. Аватар произносит тексты на трех языках и обращается к каждому сотруднику персонально по имени. Создание 20 роликов продолжительностью по 5 минут каждый обошлось WPP в $100 тыс.

Бизнес уже пару лет использует дипфейки, но обычно их применяют для продвижения товаров и услуг. Виртуальные блогеры, вроде Лил Микелы, рекламируют одежду, такие площадки, как Taobao, нанимают виртуальных айдолов, а компании, например, Rosebud AI, генерируют ИИ-моделей для интернет-магазинов.

Технология уже отработана: в несколько кликов можно поменять этническую принадлежность аватара, добавить улыбку, сменить виртуальную одежду. Недавно российское модельное агентство Areola Models оцифровало 10 своих моделей – виртуальные копии могут участвовать в съемках по всему миру и работать 24 на 7.

Интересно, как будут оплачивать труд прототипов. Например, компания Synthesia, которая делала дипфейки для WPP, выплачивает реальным моделям роялти за использование их внешности. Сами разработчики видят в технологии только плюсы: с помощью ИИ можно генерировать разные образы, создавать небинарных персон и выходить за рамки традиционных стандартов красоты. Противники идеи считают, что дипфейки лишают работы представителей меньшинств, которым и так сложно трудоустроиться.

Еще один интересный пример применения дипфейков – это “цифровое протезирование”, при котором лица реальных людей заменяют лицами волонтеров. Такую технологию использовали создатели документального фильма Welcome to Chechnya, чтобы сохранить анонимность героев. Разработчик технологии Райан Лэйни недавно основал компанию Teus Media – она будет создавать “цифровую вуаль” для героев репортажей и документалок, которые хотят оставаться анонимными.

Большинство компаний, которые официально зарабатывают на дипфейках, стараются продумать собственный этический кодекс. Так, Synthesia обещает не использовать чужие образы без разрешения и не создавать сатирических видео с политиками и звездами. А Rosebud AI выступает против фальшивых новостей.

Партнеры Facebook в Украине из интернет-проекта StopFake отметились дружбой с известными ультраправыми и необоснованными нападками на журналистов. Подробно об этой истории написал украинский сайт "Заборона", столкнувшийся со странным поведением Facebook в отношении своих статей.

После публикации расследования о сомнительных связях StopFake основательница "Забороны" журналистка Катерина Сергацкова стала получать угрозы и подверглась преследованию онлайн.

Одним из инициаторов травли журналистки стал популярный "патриотический" блогер Роман Скрыпин, который обвинил Сергацкову в том, что она является "агентом Кремля", и написал оскорбительные посты о ней.

Трамп использует возможности таргетированной рекламы в Facebook эффективнее, чем его конкурент Байден.

Широко известно, что значительный вклад в победу Трампа на выборах 2016 года сделала массовая пропаганда в социальных сетях. Несмотря на всю критику, прозвучавшую с тех пор в адрес Facebook, – о том, что компания, собирающая данные о предпочтениях миллионов пользователей, позволяет манипулировать их поведением – сейчас повторяется старая история. Хотя Facebook обещает, что запретит политическую рекламу накануне президентских выборов в США (назначены на 3 ноября 2020 года), соцсеть этого пока не сделала.

Bloomberg пишет, что оба кандидата тратят десятки миллионов долларов на продвижение в соцсети. С апреля 2019 года Байден вложил в рекламу на Facebook 21 млн. долларов, Трамп – 33 млн. Но кампании кандидатов в соцсети выглядят по-разному. Трамп активнее прибегает к микротаргетингу, используя все данные, которые социальная сеть собрала о пользователе: включая историю поиска, путешествия, предпочтения при покупке брендов и политические взгляды. Зная о человеке так много, можно создать практически идеальную рекламу.

К началу июля 2020 года кампания Байдена купила около 23000 различных рекламных объявлений на платформе по сравнению с более чем 489000 для Трампа. Около 68% рекламы Трампа получает менее 1000 просмотров по сравнению с 34% для Байдена, что говорит о гораздо более точном микротаргетинге кампании Трампа.

Еще одно преимущество действующего президента в том, что алгоритмы Facebook устроены так, что с большей вероятностью покажут рекламу пользователю, который будет с ней взаимодействовать, часто по причине того, что она раздражает или злит. Это вполне подходит Трампу, который строит свою кампанию на страхах и манипуляциях, вызывая сильный эмоциональный отклик у своих сторонников.

​​EEF сделали прикольную штуку – атлас систем наблюдения в США. По сути – интерактивная карта, где можно смотреть на распространение разных систем слежки (распознавание лиц, детектор автомобильных номеров, дроны, предиктивная аналитика, и.т.д.). Сделали с помощью агрегации данных из предыдущей журналистской и исследовательской работы, а также краудсорсинга. Классный проект по высвечиванию зачастую невидимых инфраструктур.

Wall Street Journal на днях сообщил - как о чем-то если не удивительном, то как о заслуживающим отдельного упоминания - что американские военные отслеживали данные о передвижениях сотовых телефонов в районе полигона Нёнокса в Архангельской области, используя сервис Locate X, разработанный компанией Babel Street
https://theins.ru/news/233035

проще говоря, американские военные следили за российскими военными с помощью инструментов, разработанных частной компанией с целью понять, а что там собственно произошло тогда и сразу и после https://ru.wikipedia.org/wiki/%D0%98%D0%BD%D1%86%D0%B8%D0%B4%D0%B5%D0%BD%D1%82_%D0%B2_%D0%9D%D1%91%D0%BD%D0%BE%D0%BA%D1%81%D0%B5

при том, что Babel Street даже и не скрывает, что создана выходцами из спецслужб для обслуживания спецслужб, у компании есть официальные контракты с ФБР, министерством юстиции, агентством по борьбе с наркотиками и прочими. она собирает, анализирует и упаковывает разнообразные данные, которые их интересуют

при том, что в мире действуют десятки очень крупных и сотни более мелких data brokers, не обязательно связанных со спецслужбами (по меньшей мере, напрямую), которые собирают, анализируют и продают вообще все подряд

ну вот портал Vice пытался написать понятный материал про то, кто такие data brokers и зачем они собирают все про нас https://www.vice.com/en_us/article/bjpx3w/what-are-data-brokers-and-how-to-stop-my-private-data-collection

все - в смысле все данные из социальных сетей (записи, фото, видео, круг друзей, и данные о наших с ними взаимодействиях), записи о собственности, судебные записи, данных документов, водительских прав, записи о транспортных средствах, данные переписи, свидетельства о рождении, свидетельства о браке, записи о разводе, ведения о регистрации избирателей, записи о банкротстве, лицензиях, болезнях, выписанных рецептах, истории покупок (вместе с датами, суммами, картами лояльности, купонами и т.д.), информацию о полученных гарантиях, истории просмотров сайтов, приложений - ну короче ВООБЩЕ ВСЁ, что можно найти и сохранить себе

зачем? ну никогда не знаешь, что пригодится, поэтому давайте тупо собирать и хранить все. технологии позволяют. какие сотовые телефоны находились 8 и 9 августа 2019 года в районе поселка Нёнокса? не вопрос

сотовые компании их хранят? да. есть компании, которые могут купить эти данные? да. есть компании, которые могут связаться с компаниями, которые могут купить? да. вопрос только в длине цепочки, сроках и окончательной сумме

при том, что если у государственных организаций есть хотя формально прописанные условия и сроках хранения подобных записей, то у частных брокеров нет, они могут хранить любые данные хоть вечно. кроме того, никак или очень плохо регулируются вопросы передачи или продажи этих данных друг другу или третьим сторонам. они и продают - в том числе госсруктурам
https://forklog.media/data-brokers-how-law-enforcement-rely-on-inaccurate-data-to-supplement-investigations/

на популярном и востребованном в последнее время рынке пробива тоже сидят дата брокеры - как посредники между сотрудниками правоохранительных органов или коммерческих структур. они получают заказ, передают его исполнителю с доступами к закрытым базам данных, получают данные, отдают исполнителю. деньги делят

но это сравнительно небольшой и достаточно опасный для участников рынок. можно легально пылесосить и продавать вообще все на свете, хотя и тут время от времени бывают скандалы - см Cambridge Analytica

хотя в последнее время у регуляторов наступает осознание масштабов катастрофы и они задумываются о том, что надо бы с этим что-то делать. наверное

Кому принадлежит интернет-инфраструктура в Восточной Европе - OCCRP, RISE и EurActiv запускают проект «Хозяева Сети»

Этот проект - попытка выяснить, кому принадлежит инфраструктура интернета в Центральной и Восточной Европе — от Чехии до Армении.

Что сегодня происходит на этом рынке:
- В Молдове крупнейший интернет-провайдер — госкомпания Moldtelecom, гендиректор связан с олигархом Владимиром Плахотнюком.

- В Словении - самый крупный интернет-провайдер Telecom Slovenije (госкомпания).

- В Сербии госструктуры могут получать логины и пароли для входа в компьютерные системы интернет-провайдеров.

- В Чехии трассы пролегания и точки входа кабелей зарубежных интернет-компаний «засекречены».

- Крупнейшую телеком-компанию Украины - «Укртелеком», контролирует богатейший из местных олигархов Ринат Ахметов. Наиболее массово доступ в интернет в стране обеспечивает компания «Киевстар», на 47% принадлежащая российской «Альфа-Групп».

- Самый крупный телеком-оператор Армении, ArmenTel, контролируют три российских бизнесмена: Михаил Фридман, Герман Хан и Алексей Кузьмичев через структуру LetterOne Holdings — держателя контрольного пакета акций «Вымпелкома». 

- В Болгарии российско-болгарскому бизнесмену Пьеру Луврье не удалось подчинить себе крупнейший телеком-оператор Болгарии — Vivacom. Луврье связан с российским олигархом и фигурантом санкционных списков Константином Малофеевым, который входит в ближний круг Путина.

- Крупнейший интернет-провайдер Румынии, RCS-RDS, контролируется местным бизнесменом Золтаном Тесари из города Орадя.

В Конгрессе начинаются исторические слушания - главы четырёх крупнейших технологических компаний в мире выступят с показаниями.
Самый богатый человек в мире глава Amazon Джефф Безос, глава самой дорогой компании в мире Apple (стоимостью более $1, 6 трлн) Тим Кук, глава Google Сундар Пичаи и глава Facebook Марк Цукерберг дадут показания под присягой.
Рыночная стоимость этих четырёх компаний превышает $4,8 трлн - и составляет 1/4 ВВП США и...три ВВП России.
А стоимость одной Apple равняется годовому ВВП всей России.
Капитаны Новой Золой Эры попробуют убедить конгрессменов в том, что их компании не подавляют конкурентов и не наносят вред потребителям.
Эти слушания проходят по итогам более чем годовалого расследования антитрастового подкомитета Комитета по юстиции Палаты Представителей и являются самым жестким действием Конгресса в отношении технологических компаний со времен попытки раздробить Microsoft более двадцати лет назад. Бизнесмены будут пытаться доказать, что их компании, в конечном итоге, не такие уж и влиятельные.
Это напоминает 1994 год, пишет The New York Times, когда главы семи главных табачных компаний в США доказывали на слушаниях Конгрессу, что сигареты не вызывают привыкания.

Выступать Безос (он появится перед Конгрессом впервые), Пачаи, Кук и Цукерберг будут по видеосвязи - и все это будет транслироваться в прямом эфире.


https://www.businessinsider.com/watch-live-congress-big-tech-antitrust-apple-google-facebook-amazon-2020-7

В конце июля Facebook захватила реклама контрафактных товаров: фальшивые купоны продуктовых магазинов, скидки на “люксовые бренды”, даже копии новинок с Kickstarter. Почему это произошло? Причины две – работа алгоритмов и (отчасти) последствия Black Lives Matter.

За пару недель до атаки фейков сотни американских компаний объявили бойкот FB – они перестали покупать рекламу из-за того, что соцсеть не борется с расистскими высказываниями. Цены на таргет в Facebook формируются автоматически и зависят от спроса. Из-за бойкота спрос упал и реклама подешевела. Реальные бренды с площадки ушли, а вот фейки остались – и даже выиграли в этой ситуации. Они быстро закупили дешевую рекламу и полностью захватили ленту. На заманчивые предложения от фальшивых брендов, вроде Ralph Lauren и Patagonia, повелись многие. По такой схеме, кстати, продают не только брендовые товары и электронику, но и технику – например, экскаваторы.

Кто-то из мошенников предлагал купоны и проводил фишинговые атаки, а кто-то продавал подделки или высылал взамен оригинала сомнительный аналог с AliExpress. Вернуть деньги через банк в этой ситуации сложно – часто для этого требуют вернуть товар отправителю, а для этого нужно правильно указать китайский адрес.

Проблема настолько серьезная, что бренды уже создают спецподразделения по борьбе с фальшивками на Facebook. Сама соцсеть с этим ничего не делает, поскольку не несет отвественности за контент на платформе. Обычно после жалоб посты удаляют, но разместить рекламу фейка можно вновь с другого аккаунта-однодневки.

Интересно, что с похожей ситуацией столкнулись продавцы на Amazon – платформа продвигает более дешевые (и часто фальшивые товары), но занижает в выдаче оригиналы. Покупатели не понимают, что купили фейк, и пишут жалобы настоящим брендам.

И если у крупных корпораций, вроде Patagonia, есть хоть какие-то рычаги влияния, стартапам с Kickstarter приходится особенно сложно. Мошенники полностью копируют контент изобретателей, закупают рекламу и переводят покупателей на фальшивые сайты. Иногда фейки начинают продавать до того, как выйдет оригинал.

Самое интересное, что достаточно один раз повестись на фальшивую рекламу – и Facebook будет постоянно таргетировать фейки. Покупатель, который стал жертвой скамеров, рассказал Mashable, что после покупки поддельного рюкзака, его стали преследовать фейковые продукты с Kickstarter – за один вечер ему попадается как минимум 5 контрафактных предложений.

Большая наглядная статья про то как поиск Google изо всех сил хочет, чтобы вы не кликали по по поисковым ссылкам, и оставались внутри его собственных сервисов.

Ирония в том, что 20 лет назад в интернете было две конкурирующих модели: портал (вручную отобранные ссылки) и поиск с ранжированием. И теперь Google сам из поиска превратился в портал — колесо истории, получается, сделало полный круг.

themarkup.org/google-the-giant/2020/07/28/google-search-results-prioritize-google-products-over-competitors

Лондонское агентство Forensic Architecture исследует преступления, связанные с нарушением прав человека, и при помощи доступных технологий доказывает их, меняя ход громких расследований. Главная редакторка Забороны Екатерина Сергацкова поговорила с командой и рассказывает, почему изучать опыт судебной архитектуры полезно любому, кто борется за справедливость и расследует преступления против уязвимых сообществ.

Работа Forensic Architecture, в которой задействованы дизайнеры, кинематографисты, психологи, программисты, археологи и журналисты, похожа на работу детективного агентства. Междисциплинарное бюро специализируется на исследовании пространственной информации для судебно-медицинской экспертизы. Работа FA часто включает в себя построение цифровых и физических моделей, 3D-анимации, создание виртуальной реальности и картографических платформ.

Вчера главы крупнейших мировых технологических компаний — Google, Apple, Amazon и Facebook — давали показания перед конгрессом США в рамках антимонопольного разбирательства. Американские власти ведут его уже год и за это время собрали более миллиона внутренних документов IT-гигантов, свидетельствующих об их неконкурентных практиках.

Сундар Пичаи, Тим Кук, Джефф Безос и Марк Цукерберг, впервые в истории вызванные на одновременную дачу показаний в конгресс, более пяти часов объяснялись по поводу скупки конкурирующих компаний и злоупотребления положением на рынке.

Сенаторы в выражениях не стеснялись: например, Google с трибуны обвинили в «краже контента» у сервиса Yelp, Facebook — в давлении и покупке Instagram с целью «устранить конкурента», Amazon — в использовании данных от поставщиков для копирования их продуктов, а Apple — в удалении из AppStore мобильных приложений независимых разработчиков, которые конкурируют с приложениями компании.

Собрав руководителей крупнейших технологических компаний в одном месте, законодатели надеются показать, что антиконкурентное поведение является отраслевым паттерном, а не единичными случаями плохого поведения, отмечает издание The Verge. «Есть некоторые общие закономерности, и я надеюсь, что мы сможем продемонстрировать их во всех компаниях. Их модель поведения — доминировать и использовать доминирующее положение, чтобы устанавливать собственные правила, при которых их конкуренты не могут добиться успеха», — заявляла ранее член палаты представителей США Прамила Джаяпал.

Напрямую расследование конгресса не грозит компаниям какими-либо последствиями, однако по его итогам антимонопольный подкомитет должен выпустить подробный отчет с информацией о том, как именно IT-гиганты обходят положения антимонопольного законодательства. Этот документ может лечь в основу расследований, которые Федеральная торговая комиссия США уже ведет в отношении Facebook и Amazon, и судебного иска, который Минюст готовит в отношении Alphabet Inc. В отношении Apple в США пока не начато каких-то других расследований, кроме того, что ведет конгресс.

Нью-йорский музей современного искусства на своем сайте опубликовал подборку фильмов, по-разному отражающих роль энергетических инфраструктур в (гео)политике и размышляющих об их влиянии на окружающую среду.

Sci-fi видеоэссе канадско-иранской режиссерки и писательницы Бахар Нуризаде After Scarcity разыгрывает утопическую идею советских кибернетиков о полностью автоматизированной плановой экономике.
"Выступая за «другой интернет», фильм размышляет об экономическом применении социалистических кибернетических экспериментов, сравнивая их с финансовыми механизмами и imaginaries энергетических структур в капиталистических странах".

Фильм доступен до 12 августа.

За наводку спасибо каналу kinotron

Новой Зеландии нравится выглядеть передовой страной (что ей еще остается, ха): на этот раз правительство страны первым в мире объявило о создании так называемой Хартии алгоритмов

https://data.govt.nz/use-data/data-ethics/government-algorithm-transparency-and-accountability/algorithm-charter

что это значит: правительство Новой Зеландии обязуется сообщать, что оно использует какие-либо алгоритмы при разработке и принятии решений или в работе любых систем - под алгоритмами здесь имеются в виду любые аналитические инструменты, от регрессионных моделей прогнозирования до нейросетей - и объяснять простым человеческим языком, как они устроены и как работают

неважно, где именно - от объяснения, по какому принципу в городах переключаются светофоры до обнародования информации о том, каким образом рапределяется материальная помощь неимущим или ведется профилирование преступников (с оговоркой - за исключением случаев, когда это запрещено законом)

пока не очень ясно, будет ли это работать, как задумано и как быть с коммерческими алгоритмами частных подрядчиков правительства, который вообще-то не горят желанием взять все и раскрыть

алгоритмы это же вообще священная корова - тут вот на днях загоняемый в угол TikTok заявил, что готов раскрыть, как работают его алгоритмы - по какому принципу люди видят одни видео, а не другие, как работает продвижение и прочее - и призвал сделать то же самое конкурентов вроде Facebook.

https://www.vox.com/recode/2020/7/29/21346758/tiktok-for-you-algorithm-transparency-instagram-antitrust

а это же тщательная охраняемые тайны, по какому принципу Facebook или прочие составляют свои алгоритмические ленты, которые мы все читаем и которые давно не хронологические, а дикая смесь из всего плюс реклама. почему мы видим те посты, которые видим, что именно и с какой целью скрыл Facebook, что подмешал, за что из этого ему заплатили - это же все абсолютная тайна.

и это мы даже не говорим об алгоритмах, с помощью которых принимаются жизненно важные для миллиардов людей решения

если мы все это раскроем, мошенники тут же воспользуются этим в своих гнусных целях, традиционно отвечают технологические компании, и до сих пор им это сходит с рук. плюс, это же еще надо понять, даже если они все отдадут, что вообще-то непросто

TikTok, конечно, от отчаяния такое заявил, а все остальные делают вид, что не понимают, о чем это он и вообще зачем его слушать. но вопросов в последнее время все больше, а что это у вас там под капотом и как оно устроено

вряд ли примеру Новой Зеландии в ближайшее время последуют многие, но сам факт, что люди все чаще начинают что-то подозревать и задавать вопросы - радует

С удовольствием и интересом прочитал статью Андрея Кузнецова «Туманности нейросетей: ‘черные ящики’ технологий и наглядные уроки непрозрачности алгоритмов» из нового номера «Социологии власти». Из-за близости для меня этой темы очень хочется ее обсуждать, поэтому пост будем (слишком?) академическим. 

Во многом статья про возможности STS-подходов для понимания и развития современных дискуссий вокруг алгоритмической прозрачности как подотчетности (здесь еще очень важна оговорка, что алгоритмическая подотчетность к прозрачности не сводится). Разбирая три подхода к ценностной нейтральности технологий, Кузнецов приходит к выводу, что все они, пускай и по-разному, но упускают саму технологию из виду. Проблемы с технологиями и их ценностным, социально-политическим статусом вообще можно обнаруживать в разных аспектах социотехнических процессов: 
– Дизайне (кто, как, зачем и почему проектирует тот или иной технологический артефакт)
– Пользовательских действиях (кто и как им пользуется; афоризм «guns don’t kill people, people do» вот сюда)
– Эффектах технологий на группы, проблемы, общества, контексты, и.т.д.

Но независимо от выбранного аспекта такая критика, пишет Кузнецов, приводит нас к тому, что внимание с самой технологии уводится, и значимыми становятся условия, в которых она используется, производится, оказывает воздействие, и так далее. И для социальных исследований технологии тут есть проблема: сама материальность, то есть, грубо говоря, сама конкретная устроенность технологии не учитывается – как исследователи мы начинаем смотреть сквозь них. Для нас при такой перспективе технология становится послушным и предсказуемым проводником человеческих намерений.  

Решение Кузнецова здесь состоит в том, чтобы развернуть проблему раскрытия «черного ящика» (здесь – проблема понимания того, что же делает алгоритм) с помощью акторно-сетевой теории Латура. И тогда технологии начинают пониматься не просто как проводники человеческих действий и интенций, а нечто, что своей материальностью способно «дать им отпор». Технологии тогда становятся медиаторами, порождающими новые правила взаимодействий и способными нас удивлять – они становятся событием, которое не может быть редуцировано к тому, что мы привыкли называть «социальным». Больше нельзя сказать, что технология является расисткой или воспроизводит расовые различия, исключительно потому что стоящие за ней проектировщики сами были скрытыми или явными расистами. 

И сама по себе такая теоретическая переориентация кажется важной, и я думаю, что, к примеру, художественные работы о Amazon Echo или о труде в ИИ во многом похожи на эту задачу картографирования гетерогенных элементов, составляющих алгоритмическую систему как ассамбляж.

Однако то, что мне очень интересно и до конца непонятно, так это возможность критики при такой латуровской позиции. Я бы, возможно, и не вспомнил об этом, но в статье мимолетом также пишется и о социально-политической важности переориентации подходов к «черным ящикам» алгоритмов. При этом я не хочу писать об этом как о какой-то критике статьи, скорее это мои собственные переживания по поводу этой проблемы. Для Латура более привычные критические установки в социальных науках «выдохлись», поэтому надо идти от самих технологий и смотреть, как последние непрерывно становятся временным реляционным достижением взаимодействиях разных гетерогенных элементов. Эта статья Латура есть кстати в переводе в «Художественном журнале».