И пример — приложение посоветует голубой маршрут как самый быстрый, но знающий водитель выберет фиолетовый, хоть по карте он и самый длинный.

https://spectrum.ieee.org/computing/hardware/your-navigation-app-is-making-traffic-unmanageable

Помните смешного 3D-человечка, которого в DeepMind научили ходить, просто поощряя нейросеть за правильные движения? В OpenAI пошли дальше и научили виртуальных агентов заниматься сумо, футболом и другими спортивными активностями. Для тех, кто пропустил, вкратце: создаются виртуальные 3D-куклы, которые действуют в виртуальном пространстве по всем законам физики - падают, отталкиваются от земли, испытывают силу притяжения, трения и так далее. Их точные движения не программируют явно - вместо этого их поощряют за движения, которые приводят к правильному результату. То есть виртуальный человечек будет ползать, дрыгать конечностями и всячески колбаситься, пока не начнёт делать движения, похожие на те, которых от него ожидают разработчики. И так - пока не научится делать то, что требуется. А в этом эксперименте OpenAI награда постепенно заменяется соревнованием - то есть человечек постоянно пытается переиграть копию себя, улучшаясь с каждой итерацией.

Таким образом в OpenAI научили нейросети моделировать движения борцов сумо, футболистов и других спортсменов. Посмотрите, на этом видео смешные 3D-куклы выталкивают друг друга из круга, пробивают штрафные, ловят и убегают друг от друга: https://youtu.be/OBcjhp4KSgQ. Результат таких исследований, естественно, не ограничивается забавными видео. Полученные модели можно переносить на другие активности: к примеру, агент, обученный стоять на ногах в борьбе сумо, потом эффективно противостоял и виртуальному ветру. Для сравнения, агент, обученный просто ходить, под действием ветра падал. Это называется transfer learning, и это очень полезная штука - она позволяет обучать нейросети в одной обстановке и потом успешно применять их в другой, абсолютно незнакомой для них.

Подробности и ссылки на исходники: https://blog.openai.com/competitive-self-play/

И аналогичный проект бегущих человечков от DeepMind: https://youtu.be/hx_bgoTF7bs

Репостнул пост про OpenAI, чтобы было проще объяснять их новое исследование. Теперь виртуальных агентов поместили в виртуальный мир, где действуют обычные физические законы, и дали задачу — играть в прятки. Одни агенты прятались, другие — находили первых. За хорошие действия агенты получали поощрения, таким образом с каждой итерацией выбирая всё более эффективную стратегию. В итоге через много циклов обучения прячущиеся агенты разработали целый набор хитрых и неочевидных стратегий — прятаться за стенкой, блокировать проход ящиками, создавать убежище из подручных объектов; поисковые агенты тоже эволюционировали и научились использовать физические объекты, чтобы находить прячущихся. Просто посмотрите видео, оно всё красиво и доступно объясняет.

В этом сила обучения с подкреплением — для создания эффективного алгоритма не надо полностью описывать сложную стратегию его поведения, достаточно правильно обучить его обучаться. При этом программа может найти решения, до которых не додумался бы даже её создатель — подробнее о таких примерах машинной изобретательности в посте ниже. А почитать про это исследование можно в блоге OpenAI — там всё понятно, даже если вы не пишете код.

​​Обучение с подкреплением — вид машинного обучения, в котором программе не сообщают явно, что именно нужно делать. Вместо этого её помещают в смоделированную среду и поощряют за действия, которые приводят к правильному результату. Если в программу ввести правила игры в Супермарио и после каждой завершенной игры поощрять за удачные раунды, после нескольких тысяч раундов она подберет оптимальную стратегию для максимизации результата. Подобным образом DeepMind создали суперпрограмму для игры в го и шахматы. А так выглядит нейросеть, моделирующая движения человека — её тоже создали с помощью обучения с подкреплением.

Но иногда программа находит парадоксальные для человека решения, которые тем не менее формально решают задачу. К примеру, в симуляции морских гонок программа от OpenAI начала гонять по кругу, бесконечно выбивая награды из одних и тех же элементов игры. Программа как бы "взламывает" функцию поощрения. Другие примеры:
— Роботизированная рука научилась точно располагать блоки на столе, двигая вместо блоков сам стол;
— Алгоритм для классификации кожных новообразований нашёл чёткий фактор "злокачественности" — медицинскую линейку на фото (т.е. классифицировал фото не по параметру "здоровая/нездоровая кожа", а по "есть линейка/нет линейки");
— Чтобы не проигрывать в тетрис, программа бесконечно ставила игру на паузу;
— В программной симуляции жизни выживание требовало энергии, а рождение ребенка — нет. Программа пришла к стратегии "сидеть дома и производить потомство" — для поедания и дальнейшего размножения.

По ссылке — обновляемый список из десятков подобных случаев. Рекомендую всем, кто интересуется темой ML.

Украинская киберполиция задержала группировку ботоводов. Узнал на фотографиях изъятого оборудования SIM-банки, специальные устройства для одновременного управления многими SIM-картами. Подключив такой банк к сети, можно массово регистрировать новые аккаунты, рассылать с SIM-карт сообщения — то есть, делать всё то, что вручную заняло бы в сотни раз больше времени. Я видел такую штуку на одном из мест работы — знакомый маркетолог с помощью такого банка управлял своим пулом фейковых аккаунтов, через которые разгонял посты в соцсетях. Здесь же это дело поставили на поток (на фото видны коробки с тысячами SIM-карт) — организаторы схемы предоставляли услуги спам-рассылок, массовых регистраций, накруток и так далее. Ну а попались, если верить пресс-релизу, на звонках о ложном минировании — кто-то из их клиентов занимался на арендованном оборудовании телефонным терроризмом. Погуглил, новый банк на 128 SIM-карт стоит ~$2000, б/у можно найти за $700-800. Здесь больше фото.

Кстати, про ботоводов. Недавно вышло неплохое расследование украинских журналистов — один из них устроился работать в контору, которая занималась поддежкой политиков в соцсетях. Там он писал комментарии по заданным тезисам — кого-то поддерживал, кого-то наоборот "мочил". Ежедневно приходилось писать по 200-300 комментариев, а зарплата за такой нелегкий труд — всего 9000 грн (~$370). Здесь можно посмотреть сюжет, а здесь — почитать текст расследования.

Кстати, у ребят, которые руководили этой конторой, была ещё пачка довольно популярных новостных сайтов с сомнительным контентом, и Facebook недавно заблокировал их самые популярные страницы. С этим блокированием тоже не всё так однозначно; если вам интересен этот бизнес, почитайте колонку моего знакомого медиаменеджера по этому поводу.

И ещё одна отличная история в продолжение темы украинских интернет-предпринимателей. Хитрый одессит раскачал в Facebook сетку из американских страниц с патриотическими мемами и смешными животными. Охваты — больше, чем у New York Times и Washington Post вместе взятых. Сколько создатель схемы заработал на рекламе, к сожалению, не сообщается.

Прямо как хитрые македонцы, которые наплодили мусорных новостных сайтов под выборы в США и зарабатывали на про-Трамповском контенте тысячи долларов.

В 2019 году все труднее понять, что такое технологическая компания. Например, WeWork – это про технологии или не совсем? А Netflix или Airbnb? А Peloton, который продает фитнес-тренажеры?

Журнал Real Life разбирает основные характеристики tech-компаний на примере индустрии искусственного мяса. Если коротко, то вся технологичность кроется в маркетинге и бизнес-модели, но есть и другие интересные черты:

* Грандиозные амбиции уже в названии (все должно быть "невероятным" и "запредельным" – отсюда Impossible Foods и Beyond Meat. Обязательно упоминается "еда будущего" и "революция").

* Планы по спасению мира. Продукт не решает реальные проблемы отдельных людей, а “отвечает на глобальные вызовы” (в случае с мясом спасает планету от климатической катастрофы, но при этом поддерживает неограниченное потребление. Хороший термин для этого – cheeseburger environmentalism).

* В планах масштабизация, захват мира и производство тонн продукта (растительное мясо – это не только для веганов и приверженцев ЗОЖ, а для всех без исключения. Иными словами, теперь это масс-маркет продукт).

* Технологический сленг (икусственное мясо проходит “итерации”, над ним работают “инженеры”, его разрабатывают, “как ПО”).

* Огромный капитал, щедрые инвестиции в маркетинг – все во имя неограниченного и непрекращающегося роста (привет, Amazon).

* Любой новый продукт должен вызывать ажиотаж, поэтому нужно выпускать его ограниченным тиражом (за бургерами с икусственным мясом в KFC выстраиваются очереди, как в магазин Apple за новыми айфонами).

Еще по теме:

*12 фактов о технологиях, которые нужно знать каждому
*Почему Netflix и Uber технологические компании, а WeWork – нет

Привет! На всякий случай напомню про свой личный блог, в котором пощу разные интересные штуки. Из последнего: как устроены украинские и российские анонимные Telegram-каналы; гонзо-репортаж из кетаминового трипа; основные идеи мир-системного анализа Валлерстайна; мощный текст про жизнь, смерть и одиночество; карта жары Киева; ну и, конечно, смешные картинки.

А вот мой инстаграм — прямо сейчас там, к примеру, можно посмотреть интересные истории о том, как хасиды-паломники празднуют в Умани новый год: http://instagram.com/politehnik

Подписывайтесь, и добро пожаловать на мою страничку в сети Интернет!

Соцсеть, в которой нет времени

Китайское приложение с короткими видео TikTok — главный феномен этого года в мире социальных медиа. За год TikTok прирос на полмиллиарда пользователей. На его продвижение тратятся большие деньги, но сам продукт тоже хорош — приложение даёт широкие возможности для самовыражения, а благодаря хитрым рекомендательным алгоритмам виральным может стать даже ролик нового пользователя.

Wired обращает внимание на интересный нюанс в дизайне приложения: в нём нет временных меток ни в ленте, ни в профиле пользователя. Благодаря этому контент никогда не устаревает. Вспомните сами — пост недельной давности в ленте ФБ или Инстаграма воспринимается как неактуальный, его не хочется лайкать и тем более комментировать. Контент TikTok существует как бы вне времени — старые ролики попадают в ленты пользователей наряду со свежими и никто ничего не замечает. Такой дизайн не очень подходит для новостного контента, но TikTok он и не нужен — это место для креативности, а не для серьёзных тем.

Все ключевые соцсети давно отказались от хронологической ленты в пользу алгоритмической. Когда контента так много, его относительная свежесть перестаёт быть главным фактором релевантности. Лента, существующая вне времени — последовательное продолжение этой логики. Алгоритмы лучше нас знают, что покажется нам интересным. А когда это было создано, нам и не надо знать.

Что ещё почитать: Мой текст про феномен TikTok

Все чаще hardware-компании переносят производство из Китая во Вьетнам и другие азиатские страны. Но мы нашли другой интересный кейс.

Украинский стартап Jollylook собрал на Kickstarter $370 тыс. на разработку картонной фотокамеры и начал выпускать аппараты в Китае. Все шло отлично: фабрики нашли, поставщиков выбрали, все детали заказали.

Но со сборкой возникли трудности – для изготовления камеры нужно провести почти 60 ручных операций, а автоматизировать процесс в принципе невозможно.

Решение – организовать сборку в Украине, а в Китае заказывать только комплектующие. Интересная история о производстве нестандартного продукта в условиях, когда цены в Китае растут, а торговый конфлит усложняет ситуацию.

​​Разработчик Yahoo пользовался рабочим доступом к системе, чтобы взламывать аккаунты пользоватетелей в поисках интимных фото.

Идеальная иллюстрация к тому, что я часто повторяю: у вас нет контроля над данными, которые хранятся на серверах интернет-компаний. Ваши личные файлы, персональные данные и данные о вашем поведении доступны огромному количеству людей на "той стороне" — разработчикам, инженерам, продактам и менеджерам сервисов, которыми вы пользуетесь. Вопрос "доверяете ли вы сервису" на самом деле должен звучать как "доверяете ли вы всем этим людям". Поэтому вы обязаны знать, какие данные отдаёте интернет-сервисам. Отказаться от них уже не получится — слишком высока цена такого луддизма. Лучшее, что вы можете сделать — пользоваться ими с учётом того, что на той стороне ваши данные могут читать не только безликие алгоритмы, но и вот такие стрёмные программисты, которые шерстят файлы пользователей в поисках чего-нибудь интересного.

Пожалуй, самый подробный за последнее время материал про рынок киберспорта на русском языке.

https://www.kommersant.ru/doc/4095951

Минутка киберпанка.

В Службе государственной безопасности Узбекистана (sic!) есть кибервоенное подразделение. Как и все подобные подразделения в мире оно занимается разработкой боевых троянцев и вирусов. Самую высокотехнологичную и трудоёмкую часть оных -- уязвимости нулевого дня -- СГБ, как и большинство других участников этого забега, покупает на открытом рынке.

Дальше на основе уязвимостей пишутся эксплойты и интегрируются в собственное ПО.

Как раз на этом этапе узбекских кибервоинов ждал забавный нюанс. На компьютерах разработчиков был установлен антивирус Касперского. То ли для тестирования необнаружимости эксплойтов, то ли просто по регламенту в СГБ так положено. Антивирус успешно обнаруживал подозрительные куски кода и поскольку телеметрию горе-разведчики отключить не догадались, старательно отправлял их на базу, в первую очередь, выпуская в трубу деньги узбекских налогоплотельщиков, потраченных на покупку уязвимостей.

Но и это ещё не всё.

Появление такого количество уязвимостей нулевого дня примерно из одного источника породило внутри Лаборатории Касперского исследование, в результате которого было выяснено: ip-адреса машин, с которых приходят образцы, имеют адреса в домене itt.uz, который невозбранно зарегистрирован на некую в/ч 02616 из города Ташкента.

Таким образом деятельность этого секретного подразделения выплыла в пуличную плоскость.

Доклад о деятельности узбекской киберразведки исследователь Лаборатории Касперского Брайан Бартоломью представил сегодня на конференции Virus Bulletin в Лондоне. Почитать можно пока здесь.

Можно ли исправить бессонницу с помощью технологий?

Автор этого текста попыталась — и обнаружила, что многочисленные гаджеты-трекеры сна вовсе не помогают. Они используют движение и пульс как метрики сна, поэтому измерения получаются неточными; но даже повязка с сенсорами, довольно точно измеряющая фазы сна, не помогает спать лучше. Более того, погоня за хорошими показателями сна может превратиться в обсессию, и тем самым усугубить ситуацию.

Что же реально сработало? Приложение для когнитивно-поведенческой терапии. Оно помогает справиться с негативными мыслями и быстрее засыпать.

In essence, it’s a combination of questionnaires, advice, feedback, and self-reflection. Like any cognitive behavioral therapy, it’s about challenging negative thoughts and beliefs (the downward spiral of stress, frustration, and fear will be familiar to any insomniac). Sleepio helped stop the onset of this negative cycle of emotions remarkably effectively.

Within just a couple of sessions, I was sleeping better. I’m no longer obsessing over the number of hours I’ve slept. In fact, I no longer even know how many hours I’m sleeping. All the trackers are gathering dust in the drawer.

Давно заметил, что трекинг сна сам по себе не решает никакой проблемы. Цифры в приложении лишь помогают точнее замечать, насколько плохо ты спишь. Чтобы быстро засыпать, надо уметь управлять мыслями, которые крутятся в голове, а здесь никакие гаджеты не помогут. Из собственного опыта "хакинга сна" могу посоветовать биодобавку 5-HTP — она повышает уровень мелатонина, гормона сна. Сон крепче, сновидения ярче. Можно и сам мелатонин курсами принимать, но я не пробовал.

А вы пробовали хакнуть свой сон? Что сработало, что нет? Делитесь в чате.

Блог дата-саентиста из Google о том, почему модерацию невозможно автоматизировать: https://moultano.wordpress.com/2019/10/02/why-do-companies-with-huge-resources-still-have-terrible-moderation/

Чтобы создать модель, распознающую хейтспич, нужно создать датасет с "плохими" и "хорошими" комментариями. Для этого нужно написать гайдлайны, по которым подрядчики будут размечать комментарии. Это непросто — слова могут иметь разное значение в зависимости от контекста, разные носители языка могут видеть в тексте разные смыслы.

Разметкой данных для обучения языковых моделей обычно занимаются подрядчики — как правило, люди из других культур. Индусы не знают расистских мемов с американских имиджбордов — как итог, в размеченном ими датасете будет много неправильно интерпретированных слов. Они упустят часть реальных угроз, а сарказм и иронию наоборот могут посчитать оскорблением. Язык хейтспича быстро меняется, подстраиваясь под новые правила модерации, так что такой датасет надо будет постоянно обновлять.

Imagine what would it look like to have a system that could do content moderation perfectly, that understood the nuances of every culture on earth, that could see the intention behind everything that everyone could write and would know whether it was meant in jest or in hate, that could really see into our hearts, that would know if we deserve forgiveness.

It would look like a lot like a God, and I think that’s a bit much to expect out of any group of people, let alone a big pile of linear algebra.
(отсылка к комиксу про машинное обучение)

​​Познавательная биология: краткое объяснение различий между биохимией ощущений удовольствия и счастья. Действия, вызывающие выброс дофамина, имеют свойство перерастать в зависимости - шоппинг, вкусная еда, алкоголь. Смартфоны и приложения тоже попадают в эту категорию.

В Долине новая мода среди биохакеров — дофаминовая диета. Дофамин — нейротрансмиттер, отвечающий за мотивацию и ощущение вознаграждения. Если слишком часто баловать себя удовольствиями, дофаминовые рецпеторы перестраиваются и снижают чувствительность — теперь, чтобы получить то же удовольствие, нужна большая доза дофамина. Так формируются зависимости — от вкусной еды, интернета, шоппинга, порно и наркотиков. Временное воздержание от удовольствий "перезагружает" систему вознаграждений. После диеты дофаминовые рецепторы приходят в норму, человек снова способен радоваться простым вещам. Серьёзных исследований таких диет не проводили; но опрошенные журналистами учёные считают, что это может быть неплохой идеей.

Подробнее о дофаминовой диете можно прочитать в этом нашумевшем тексте или посмотреть это видео.

Криповая история из Японии: фанат выследил участницу популярной поп-группы и напал на неё возле её дома. Чтобы узнать, где она живёт, он использовал соцсети: увеличил селфи из твиттера, увидел остановку общественного транспорта в отражении глаза и нашёл её на Google Street View. Проанализировав другие фото из соцсетей жертвы, он смог найти даже окно её квартиры.

Тот случай, когда много пикселей в камере могут реально навредить.