Предвзятые алгоритмы
Тут разворачивается интересная история. В твиттере можно выкладывать картинки, для которых в ленте показывается превью. И вот Твиттер сделал специальный алгоритм, который выбирает, какую именно часть изображения показать в превью.
То есть, если пропорции картинки отличаются от пропорций превью, алгоритм не просто берет верхние левые пиксели с картинки, а анализирует её, и показывает самую важную часть картинки. Например, текст, или лицо человека, если он есть на фотографии.
И вот тут начинается веселье. Проведя множество экспериментов, пользователи твиттера выяснили, что при прочих равных, вне зависимости от расположения на картинке алгоритм предпочитает показать белых людей чернокожим, (даже нарисованных) мужчин женщинам, в общем весь набор неосознанных предустановок.
Весь твиттер теперь бурлит на тему расизма в алгоритмах — компания должна «исправить алгоритм». Конечно, было бы здорово, чтобы алгоритмы не перенимали человеческих предрассудков, однако это проблема неоднозначная, не имеющая простого решения, а главное, лежащая вне плоскости объективной реальности. Даже если предположить, что твиттеру удастся сделать алгоритм абсолютно нейтральным (что само по себе непростая задача) по прежнему нужно выбрать кого из двух людей показать, и всегда найдется кто-нибудь, кто будет недоволен выбором.
В этой ситуации меня больше всего забавляет тот факт, что всей этой проблемы можно было избежать целиком задолго до ее возникновения просто… не обрезая фотографии вовсе! Для пользователей эта функция не добавляет пользы продукту, а единственное зачем она может быть нужна для повышения искусственных метрик «взаимодействия с медиа контентом» внутри компаниии. Если люди не видят всю картинку в превью, они будут чаще на них кликать, повышая заветную «вовлеченность»
То есть, вместо того чтобы добавить в CSS background-size: contain; и показывать превью изображений целиком, компания сама придумала себе проблему, решила ее с помощью Machine Learning™ и получила несоизмеримо более комплексную проблему и скандал впридачу.
Ещё любопытно, что с этого момента, Твитеру уже совсем не так просто съехать с темы и убрать алгоритм вовсе — теперь это может выглядеть как попытка «замять вопрос» и «нежелание делать алгоритм менее предвзятым». Представитель компании уже заявил, что они будут проводить исследование, и инвестировать больше времени и ресурсов для решения проблемы, которой легко могло бы не быть.
В общем, отличный пример того, почему стоит соблюдать осторожность при добавлении в систему комплексности — особенно там, где её можно было бы избежать.
Тут разворачивается интересная история. В твиттере можно выкладывать картинки, для которых в ленте показывается превью. И вот Твиттер сделал специальный алгоритм, который выбирает, какую именно часть изображения показать в превью.
То есть, если пропорции картинки отличаются от пропорций превью, алгоритм не просто берет верхние левые пиксели с картинки, а анализирует её, и показывает самую важную часть картинки. Например, текст, или лицо человека, если он есть на фотографии.
И вот тут начинается веселье. Проведя множество экспериментов, пользователи твиттера выяснили, что при прочих равных, вне зависимости от расположения на картинке алгоритм предпочитает показать белых людей чернокожим, (даже нарисованных) мужчин женщинам, в общем весь набор неосознанных предустановок.
Весь твиттер теперь бурлит на тему расизма в алгоритмах — компания должна «исправить алгоритм». Конечно, было бы здорово, чтобы алгоритмы не перенимали человеческих предрассудков, однако это проблема неоднозначная, не имеющая простого решения, а главное, лежащая вне плоскости объективной реальности. Даже если предположить, что твиттеру удастся сделать алгоритм абсолютно нейтральным (что само по себе непростая задача) по прежнему нужно выбрать кого из двух людей показать, и всегда найдется кто-нибудь, кто будет недоволен выбором.
В этой ситуации меня больше всего забавляет тот факт, что всей этой проблемы можно было избежать целиком задолго до ее возникновения просто… не обрезая фотографии вовсе! Для пользователей эта функция не добавляет пользы продукту, а единственное зачем она может быть нужна для повышения искусственных метрик «взаимодействия с медиа контентом» внутри компаниии. Если люди не видят всю картинку в превью, они будут чаще на них кликать, повышая заветную «вовлеченность»
То есть, вместо того чтобы добавить в CSS background-size: contain; и показывать превью изображений целиком, компания сама придумала себе проблему, решила ее с помощью Machine Learning™ и получила несоизмеримо более комплексную проблему и скандал впридачу.
Ещё любопытно, что с этого момента, Твитеру уже совсем не так просто съехать с темы и убрать алгоритм вовсе — теперь это может выглядеть как попытка «замять вопрос» и «нежелание делать алгоритм менее предвзятым». Представитель компании уже заявил, что они будут проводить исследование, и инвестировать больше времени и ресурсов для решения проблемы, которой легко могло бы не быть.
В общем, отличный пример того, почему стоит соблюдать осторожность при добавлении в систему комплексности — особенно там, где её можно было бы избежать.
Twitter
nota 🦈✨ (@NotAFile) | Twitter
The latest Tweets from nota 🦈✨ (@NotAFile). any (follow requests welcome!)
Из заявления твиттера похожу, что они таки пришли к выводу, что использовать алгоритм тут не лучшая идея.
Написано немного расплывчато, но есть надежда, что от кропа изображений и вовсе откажутся, по крайней мере для изображений разумных пропорций. Ну вот и славно, если так.
Написано немного расплывчато, но есть надежда, что от кропа изображений и вовсе откажутся, по крайней мере для изображений разумных пропорций. Ну вот и славно, если так.
Twitter
Transparency around image cropping and changes to come
Addressing recent conversation around our photo cropping methods including how we test for bias in our systems and discussing ways we can improve how we display images on Twitter.
Базы знаний, Roam и Obsidian
Уже некоторое время я присматриваю себе отдельное приложение для ведения заметок и хранения референсов.
Для хранения ясно упорядоченных данных мне отлично подходит Notion (связанные базы данных прям огонь). Для хранения закладок я использую Raindrop (незаслуженно малоизвестный сервис, может быть напишу о нем как-нибудь отдельно).
Хоть идея добавлять дополнительный сервис для похожей в общем задачи не слишком меня радует, мне все же сильно не хватает возможности иметь более свободную структуру заметок, возможности связывать заметки между собой, а так же, конечно скорости (ноушн, все же, при всех его достоинствах довольно медленный).
С недавнего времени я наблюдаю за развитием Roam Research, который позволяет максимальную гибкость в структурировании информации. Идея звучит интригующе, особенно после того как я обнаружил, что визуальную часть можно кастомизировать — оригинальное оформление выглядит отталкивающе.
Однако, с большими возможностями появляется другая проблема — с полным отсутствием структуры появляется необходимость строить ее самостоятельно, практически вслепую определять методом проб и ошибок, что сработает, а что нет. К сожалению пользу от такой системы нельзя почувствовать попользовавшись сервисом пару дней или даже недель.
В этом смысле всего месяц триала и не самая демократичная цена в 15 долларов в месяц пока останавливают меня от попытки попробовать.
Поэтому пока, для того чтобы лучше понять, что же мне нужно от системы я пробую Obsidian, который, конечно гораздо проще (по сути это просто маркдаун редактор со встроенной системой бэклинков). Он бесплатный и с ним можно спокойно поэкспериментировать, чтобы более точно понимать, действительно ли мне нужны нужны дополнительные суперспособности Роама.
Уже некоторое время я присматриваю себе отдельное приложение для ведения заметок и хранения референсов.
Для хранения ясно упорядоченных данных мне отлично подходит Notion (связанные базы данных прям огонь). Для хранения закладок я использую Raindrop (незаслуженно малоизвестный сервис, может быть напишу о нем как-нибудь отдельно).
Хоть идея добавлять дополнительный сервис для похожей в общем задачи не слишком меня радует, мне все же сильно не хватает возможности иметь более свободную структуру заметок, возможности связывать заметки между собой, а так же, конечно скорости (ноушн, все же, при всех его достоинствах довольно медленный).
С недавнего времени я наблюдаю за развитием Roam Research, который позволяет максимальную гибкость в структурировании информации. Идея звучит интригующе, особенно после того как я обнаружил, что визуальную часть можно кастомизировать — оригинальное оформление выглядит отталкивающе.
Однако, с большими возможностями появляется другая проблема — с полным отсутствием структуры появляется необходимость строить ее самостоятельно, практически вслепую определять методом проб и ошибок, что сработает, а что нет. К сожалению пользу от такой системы нельзя почувствовать попользовавшись сервисом пару дней или даже недель.
В этом смысле всего месяц триала и не самая демократичная цена в 15 долларов в месяц пока останавливают меня от попытки попробовать.
Поэтому пока, для того чтобы лучше понять, что же мне нужно от системы я пробую Obsidian, который, конечно гораздо проще (по сути это просто маркдаун редактор со встроенной системой бэклинков). Он бесплатный и с ним можно спокойно поэкспериментировать, чтобы более точно понимать, действительно ли мне нужны нужны дополнительные суперспособности Роама.
Roam Research
Roam Research – A note taking tool for networked thought.
As easy to use as a word document or bulleted list, and as powerful for finding, collecting, and connecting related ideas as a graph database. Collaborate with others in real time, or store all your data locally.
Суперпроводник комнатной температуры
Хорошие новости из мира физики: ученые унивеситета Рочестера опубликовали статью в которой заявляют об открытии суперпроводника комнатной температуры.
Если на основе этого открытия появится способ создавать с подобные материалы в промышленных масштабах это открытие может серьёзно изменить многие отрасли, от энергетики и транспорта до медицины и айти индустрии.
Вот небольшое видео о том, почему это важное открытие, и как оно может повлиять на нашу жизнь.
Хорошие новости из мира физики: ученые унивеситета Рочестера опубликовали статью в которой заявляют об открытии суперпроводника комнатной температуры.
Если на основе этого открытия появится способ создавать с подобные материалы в промышленных масштабах это открытие может серьёзно изменить многие отрасли, от энергетики и транспорта до медицины и айти индустрии.
Вот небольшое видео о том, почему это важное открытие, и как оно может повлиять на нашу жизнь.
Nature
RETRACTED ARTICLE: Room-temperature superconductivity in a carbonaceous sulfur hydride
Nature - Room-temperature superconductivity is observed in a photochemically synthesized ternary carbonaceous sulfur hydride system at 15 °C and 267 GPa.