Предвзятые алгоритмы

Тут разворачивается интересная история. В твиттере можно выкладывать картинки, для которых в ленте показывается превью. И вот Твиттер сделал специальный алгоритм, который выбирает, какую именно часть изображения показать в превью.

То есть, если пропорции картинки отличаются от пропорций превью, алгоритм не просто берет верхние левые пиксели с картинки, а анализирует её, и показывает самую важную часть картинки. Например, текст, или лицо человека, если он есть на фотографии.

И вот тут начинается веселье. Проведя множество экспериментов, пользователи твиттера выяснили, что при прочих равных, вне зависимости от расположения на картинке алгоритм предпочитает показать белых людей чернокожим, (даже нарисованных) мужчин женщинам, в общем весь набор неосознанных предустановок.

Весь твиттер теперь бурлит на тему расизма в алгоритмах — компания должна «исправить алгоритм». Конечно, было бы здорово, чтобы алгоритмы не перенимали человеческих предрассудков, однако это проблема неоднозначная, не имеющая простого решения, а главное, лежащая вне плоскости объективной реальности. Даже если предположить, что твиттеру удастся сделать алгоритм абсолютно нейтральным (что само по себе непростая задача) по прежнему нужно выбрать кого из двух людей показать, и всегда найдется кто-нибудь, кто будет недоволен выбором.

В этой ситуации меня больше всего забавляет тот факт, что всей этой проблемы можно было избежать целиком задолго до ее возникновения просто… не обрезая фотографии вовсе! Для пользователей эта функция не добавляет пользы продукту, а единственное зачем она может быть нужна для повышения искусственных метрик «взаимодействия с медиа контентом» внутри компаниии. Если люди не видят всю картинку в превью, они будут чаще на них кликать, повышая заветную «вовлеченность»

То есть, вместо того чтобы добавить в CSS background-size: contain; и показывать превью изображений целиком, компания сама придумала себе проблему, решила ее с помощью Machine Learning™ и получила несоизмеримо более комплексную проблему и скандал впридачу.

Ещё любопытно, что с этого момента, Твитеру уже совсем не так просто съехать с темы и убрать алгоритм вовсе — теперь это может выглядеть как попытка «замять вопрос» и «нежелание делать алгоритм менее предвзятым». Представитель компании уже заявил, что они будут проводить исследование, и инвестировать больше времени и ресурсов для решения проблемы, которой легко могло бы не быть.

В общем, отличный пример того, почему стоит соблюдать осторожность при добавлении в систему комплексности — особенно там, где её можно было бы избежать.

Из заявления твиттера похожу, что они таки пришли к выводу, что использовать алгоритм тут не лучшая идея.

Написано немного расплывчато, но есть надежда, что от кропа изображений и вовсе откажутся, по крайней мере для изображений разумных пропорций. Ну вот и славно, если так.

Базы знаний, Roam и Obsidian

Уже некоторое время я присматриваю себе отдельное приложение для ведения заметок и хранения референсов.

Для хранения ясно упорядоченных данных мне отлично подходит Notion (связанные базы данных прям огонь). Для хранения закладок я использую Raindrop (незаслуженно малоизвестный сервис, может быть напишу о нем как-нибудь отдельно).

Хоть идея добавлять дополнительный сервис для похожей в общем задачи не слишком меня радует, мне все же сильно не хватает возможности иметь более свободную структуру заметок, возможности связывать заметки между собой, а так же, конечно скорости (ноушн, все же, при всех его достоинствах довольно медленный).

С недавнего времени я наблюдаю за развитием Roam Research, который позволяет максимальную гибкость в структурировании информации. Идея звучит интригующе, особенно после того как я обнаружил, что визуальную часть можно кастомизировать — оригинальное оформление выглядит отталкивающе.

Однако, с большими возможностями появляется другая проблема — с полным отсутствием структуры появляется необходимость строить ее самостоятельно, практически вслепую определять методом проб и ошибок, что сработает, а что нет. К сожалению пользу от такой системы нельзя почувствовать попользовавшись сервисом пару дней или даже недель.

В этом смысле всего месяц триала и не самая демократичная цена в 15 долларов в месяц пока останавливают меня от попытки попробовать.

Поэтому пока, для того чтобы лучше понять, что же мне нужно от системы я пробую Obsidian, который, конечно гораздо проще (по сути это просто маркдаун редактор со встроенной системой бэклинков). Он бесплатный и с ним можно спокойно поэкспериментировать, чтобы более точно понимать, действительно ли мне нужны нужны дополнительные суперспособности Роама.

Суперпроводник комнатной температуры

Хорошие новости из мира физики: ученые унивеситета Рочестера опубликовали статью в которой заявляют об открытии суперпроводника комнатной температуры.

Если на основе этого открытия появится способ создавать с подобные материалы в промышленных масштабах это открытие может серьёзно изменить многие отрасли, от энергетики и транспорта до медицины и айти индустрии.

Вот небольшое видео о том, почему это важное открытие, и как оно может повлиять на нашу жизнь.

История создания Dwarf Fortress

В очередной раз наткнулся в ютубе на неведомый маленький мир.

Тарн Адамс вот уже восемнадцать лет разрабатывает ролевую компьютерную игру: с примитивной графикой, но с невероятным уровнем комплексности — Dwarf Fortress. Совершенно непонятно, как именно игроки разбираются во всех механиках при почти отсутствующем интерфейсе, но количество взаимосвязанных систем и подсистем, управляющих жизнью гномов поражают воображение.

Просто посмотрите первые несколько минут интервью с автором про баг-репорты и умирающих в тавернах кошек, чтобы понять уровень детализации.

Например, автор говорит, что в игре у гномов есть более 120 разных эмоций. Я, блин, не уверен, что могу сходу назвать даже 12, а тут 120! И так во всех сферах игрового мира. Игра, кстати, при этом все 18 лет была бесплатной, фанатам буквально пришлось заставлять автора завести хотя бы патреон.

В очень общем рекомендую посмотреть ролик, даже если геймдев is not your thing.

Наткнулся тут на отличный подробный разбор старомосковского произношения, с кучей примеров из фильмов и записей разных лет.

Вообще, интересно что в России акценты довольно слабо выражены. Советские годы конечно сильно убили разнообразие, и сейчас все меньше каких-то прямо заметных языковых различий. Небольшие региональные особенности по-прежнему есть, но их бывает сложно отличить, если специально не знаешь куда слушать. Тем интереснее узнать, на что обращать внимание при случае.

А между тем, похоже, что раньше различия были более выражены. Вот пример из (внезапно) видео про артикли в английском (с таймштампом) — северорусский говор, который по степени отличия от привычной речи уже можно сравнить, например, с шотландским акцентом в Британии.

Немного грустно, что это всё слабо изучено и в скором времени будет утеряно — каких-то подробных видео, да или просто записей с примерами на ютубе практически нет.

Почему всё так?

Воскресное чтиво: статья про «тонкую настройку вселенной» — вселенная, а в месте с ней Земля и наша белковая жизнь возможна благодаря чрезвычайно хрупкому сочетанию нескольких основопологающих констант. Уменьшить или увеличить хотя бы одну из них всего на пару процентов, и звезды вовсе не могли бы формироваться.

Почему так? Невероятная случайность? Одна из возможностей в мультивселенной? Может быть есть какой-то более универсальный закон, который связывает все постоянные вместе? Наверняка никто не знает, но есть куча занимательных теорий.

Обнаружил, что «проблема вагонетки» этическая диллемма изначально представленная в форме мысленного эксперимента, все же была протестирована на реальных людях.

Не знаю, были ли там получены какие-то академически значимые результаты, но я удивлен, что это в принципе удалось провернуть.

Тред врача про то, чем ещё может быть опасен ковид, помимо пневмонии, которую он вызывает.

Не устаю поражаться и радоваться, что в мире находятся люди, которые по собственной воле становятся врачами.

Вот кто-то собрал видео с наглядным сравнением размеров космических кораблей из книг, фильмов и компьютерных игр. Заодно и дизайн самих кораблей интересно посравнивать. What is this, crossover episode?

Две России

Сегодня два ролика про очень разные стороны России которые для большего эффекта стоит посмотреть одно за другим.

С одной стороны вот ежегодная коференция Яндекса в формате фильма: работники инновационной россиийской компании, интересно рассказывают как делают продукты на уровне мировых, а то и интереснее и думают о технологическом будущем.

С другой стороны: антологоия жизни Российской глубинки в фильме Дудя — обитатели ночлежек, рехабов и детдомов пытаются справляться с тяжелым российским настоящим.

Пришлась тут к слову история из детства, выложу её и сюда:

Однажды к нам в гости приезжал мой дядя, который был здоровый и суровый, я его побаивался немного пока маленький был.

И вот с утра, пока он разговаривал со взрослыми, пятилетний я завороженно наблюдал, как он между делом кладёт в кофе одну... две... три... ложки соли, и неторопливо обстоятельно размешивает. «Вот это сила духа у человека!» — восхищенно подумал я, и ничего, конечно, не сказал.

Он потом, разумеется, долго и цветисто матерился, а я впервые осознал, что тупые ошибки совершают все, даже умные и суровые взрослые.

Если вдруг придется скрывать какие-нибудь важные данные на изображении, лучше затирать их совсем, а не пикселизировать: https://twitter.com/spibblez/status/1335638633970348032

Первое правило Облачного Клуба