История прямо из методички по корпоративной кибербезопасности. Россиянин Егор Крючков связался с русскоговорящим сотрудником завода Tesla Gigafactory в Неваде и предложил ему за вознаграждение заразить сеть предприятия вирусом. Тот сообщил об этом руководству, в дело включилось ФБР. Под их контролем сотрудник Gigafactory продолжил встречаться и вести переговоры с Крючковым, чтобы выведать побольше подробностей о том, как организована схема атаки на завод. Планировалось, что внедренный malware заблокирует работу завода и позволит организаторам схемы получить внутренние данные, которые вернут за выкуп. Крючков проговорился, что недавно уже проворачивал подобную схему (судя по всему, речь идет об американской туристической компании CWT, которая пострадала от аналогичной атаки и была вынуждена заплатить вымогателям $4,5 миллиона).

В итоге россиянина задержали, с подробностями дела можно ознакомиться в материалах суда. А сотрудник завода в этой ситуации — молодец, поступил так как и должен поступить порядочный сотрудник. При этом он отказался, на минуточку, от вознаграждения в миллион долларов.

Netflix снял фильм при участии Тристана Харриса, одного из главных критиков технологий современности. Фильм всё о том же — как интернет-компании манипулируют людьми. Скоро на Netflix, ждём: https://youtu.be/uaaC57tcci0

Если вы не знаете, кто такой Тристан Харрис:
https://t.me/brodetsky/1625
https://t.me/brodetsky/1626
https://t.me/brodetsky/1865

Если вам казалось, что тотальный контроль на рабочем месте возможен только в Китае, то вот пример из США, а именно — из компании Джеффа Безоса, чьё состояние на текущий момент вдвое превышает состояние Илона Маска.

Краткая, но мощная публикация на основе отчета аналитического центра Open Markets Institute (о нем чуть ниже) о контроле и шпионаже за рабочими в Amazon: https://www.theregister.com/2020/09/01/amazon_staff_spying/

Несколько тезисов:

— Рабочим на складах нужно показывать определённый уровень эффективности (скорости обработки заказов), но им не говорят, какой. О том, что они не соответствуют заявленным требованиям (которые ещё и постоянно меняются), те узнают уже после получения предупреждения. Дальше — увольнение;

— Похожая ситуация с водителями: им нужно доставлять в срок 999 из 1000 заказов, иначе есть риск увольнения. При этом ездить они могут строго по составленным софтом Amazon маршрутам. Из-за этого им приходится превышать скорость, что приводит к росту ДТП;

— На рабочих местах стоят камеры для контроля уровня краж. После работы сотрудников задерживают для проверки на 30-60 минут, но это время не оплачивается. На обед — полчаса, плюс два 15-минутных перерыва в день;

— За сотрудниками постоянно ведётся слежка, чтобы они не собирались вместе, особенно те, кто помечен как потенциальные организаторы профсоюза — при подозрениях их могут перевести на другой склад. Amazon даже запатентовала браслет, который точно знает, куда сотрудник кладет свои руки и вибрирует, чтобы направить их в другую сторону.

Естественно, предложения Open Markets Institute по итогам отчета заключаются в том, чтобы запретить Amazon настолько сильное вмешательство в жизнь рабочих и разрешить им образовывать профсоюзы для отставания своих прав. Сам центр стал довольно влиятельным в последние годы, заручившись поддержкой демократов вплоть до Элизабет Уоррен, Джо Байдена и Камалы Харрис (которая теперь кандидат на пост вице-президента у Байдена).

Open Markets Institute также стоял за гигантским артимонопольным исков в ЕС против Google (на $2,7 млрд) и инициативой по разделению Facebook на части. И надо сказать, что тактика ответа FB уж очень похожа на некоторые наши отечественные риторики: те наняли PR-фирму, которая стала изобличать связи OMI с фондами Джорджа Сороса, за что соцсеть обвинили в поддержке антисемитских настроений.

Чувствуете, как отчёт по времени совпадает с движухой против Apple? Выборы-то всего через 2 месяца, а рейтинг у Байдена такой же, как у Трампа.

Делать интервью с хайповыми проектами непросто. Когда компания оказывается в центре внимания, достучаться до занятого спикера бывает очень сложно. Так получилось и с киевскими стартаперами из компании Reface. Их приложение для замены лиц прямо сейчас возглавляет топ американского App Store. Только в августе его скачали несколько десятков миллионов раз. Дипфейки, созданные в Reface, публикуют Илон Маск, Майли Сайрус и Снуп Догг. За успешным проектом стоит команда молодых предпринимателей и разработчиков из Киева. Между созвонами с инвесторами и другими медиа CEO Reface Роман Могильный рассказал нам о причинах успеха украинского приложения и о том, как можно заработать на дипфейках. Смешные фото и видео для соцсетей — это хорошо, но намного интереснее с точки зрения заработка — дипфейки для бизнеса. Обычный пользователь заплатит за смешную фотку несколько долларов, а за интеграцию дипфейков, к примеру, в рекламную кампанию, можно получить от бизнеса совсем другой ценник.

https://tech.liga.net/technology/article/torgovlya-litsom-na-milliony-kak-prilojenie-kievskih-startaperov-reface-zavoevalo-mir

Посмотрите этот рекламный ролик стриминга Hulu. Ничего не замечаете? Да, это дипфейк. Баскетболист Демьен Лиллард физически не мог поучаствовать в съемках — вместе с другими игроками NBA он находится в изолированной зоне в Орландо, где сейчас проходят игры NBA. Лилларда и других героев ролика снимали через Zoom — они проговаривали на камеру нужные слова, поворачивая голову под разными углами. Кроме того, модель обучали на фотографиях героев ролика. На создание 30-секундного ролика бразильская студия визуальных эффектов потратила полтора месяца. Да, это долго, дорого и неестественно, если внимательно рассматривать итоговые кадры. Но в некоторых случаях привезти нужного человека на съемки может оказаться еще дороже. Возможно, за этим будущее рекламы — дешевые съемки дублеров плюс наложенное сверху звездное лицо. Фраза "торговать лицом" в этом случае перестает быть метафорой и описывает ситуацию буквально.

Курьеры в США начали устанавливать смартфоны на деревьях, чтобы перехитрить алгоритмы и получать больше заказов. Сервис доставки продуктов Amazon Flex работает примерно так же, как Uber: курьер, который оказывается ближе всего к магазину, получает заказ первым – он забирает продукты и отвозит их на своей машине клиенту.

Flex постоянно сканирует местоположение работников и выбирает самый быстрый вариант. Иногда все решает буквально несколько секунд и пара метров – если курьер стоит у входа в Whole Foods, шансов на успех у него больше, чем у конкурента, который сидит на парковке.

В Bloomberg предположили, что один смартфон на дереве раздает заказы сразу нескольким курьерам. Этот лайфхак не позволяет Amazon понять, какой именно аккаунт "ломает" систему. Вероятно, кто-то настраивает сервис и берет с курьеров небольшой процент за свои услуги.

Первыми на “читерство” обратили внимание другие курьеры – они заметили, что некоторые конкуренты получают заказы чаще и быстрее других. Amazon уже начала свое расследование.

Протест против работы алгоритмов – интересный феномен последнего десятилетия. Журнал Logic недавно рассказывал, как сотрудники Amazon обманывают алгоритмы, чтобы избежать контроля и слежки со стороны компании. Например, накручивают очки за эффективность. Иногда работники из чувства протеста идут на саботаж – находят в базе товары с ошибочно низкими ценами и закупают их оптом или нарушают правила безопасности. Некоторые устраивают пранки, чтобы снять стресс. Как пишет Logic, In this context, daily acts of resistance serve as body and sanity-saving strategies. Small workarounds — tricks, games, minor sabotage — extend the time one can bear the relentless and deadening grind.

Кстати, недавно стало известно, что Amazon нанимает “разведчиков”, чтобы отслеживать попытки сотрудников создать профсоюзы – активистам профсоюзных групп будут ограничивать доступ к офисам и складам с помощью охранных ордеров.

​​Очередная замечательная история про применение непрозрачных алгоритмов в образовании. Из-за коронавируса многие школы по всему миру перешли на дистанционное обучение. В США более 20 000 школ используют платформу Edgenuity, которая позволяет автоматически оценивать, как ученики усвоили материал. Не только по точным дисциплинам, где есть один правильный вариант ответа, но и например по истории.

Как алгоритм оценивает правильность ответа на сложные открытые вопросы? Школьники быстро разобрались, что система просто проверяет наличие в ответе определенных слов. И начали добавлять к своим ответам набор ключевых слов по теме. "Как географическое расположение помогло Константинополю разбогатеть? Ну, надо написать что-то про караваны, корабли, богатство, торговлю, Индию..." — буквально так, смотрите пример на прикрепленном фото. Результат — высший балл по всем тестам.

Теперь, после того как о хакнутом алгоритме проверки написал The Verge, разработчикам платформы надо срочно что-то менять. Оценивание, которое можно так просто взломать, бесполезно.

Читайте также: Как алгоритм поломал школьные экзамены в Великобритании

Прекрасную историю раскопали журналисты Financial Times — по их расследованию Amazon проверяет отзывы 9 из 10 самых активных авторов отзывов на Amazon UK по подозрению в коррупции.

Самый активный автор — Джастин Фраер, — только за август оставил отзывы на товары общей стоимостью в 15 тысяч фунтов. Товары самые разные — от фитнесс-оборудования до смартфонов, причем подавляющее большинство от малоизвестных китайских брендов, а некто с такими же реквизитами продавал эти же товары на eBay, описывая их как «не распакованные» или «не использованные».

Когда его начали расспрашивать журналисты, он заявил, что продавал дубликаты, но сразу после этого удалил все свои отзывы. Так же поступили еще несколько авторов.

Ребята, конечно, подошли к вопросу основательно — Фраер (вот же говорящая фамилия?) даже снимал видео распаковки, но журналисты отметили, что на них он очень аккуратно обращается с упаковкой и товарами и больше говорит о внешнем виде товара, чем о его функциях.

Журналисты даже отыскали несколько чатботов в Телеграме, в котором собраны предложения от китайских компаний для таких авторов — тем остается выбрать товар, заказать его на Амазоне, оставить отзыв и получить возврат потраченных денег через PayPal. Если компания не возвращает деньги сразу, остается возможность вернуть товар через Amazon обычным путём. Автор одного чатбота утверждает, что через его сервис прошло 16 тысяч таких отзывов с 5-звездами.
https://www.ft.com/content/bb03ba1c-add3-4440-9bf2-2a65566aef4a?shareType=nongift

​Забавный пост – в твиттере инженер разобрал «Умный тест на беременность» и оказалось, что там внутри обычный бумажный тест, но они считывают ЭЛЕКТРОНИКОЙ когда полоски появляются и выводит это на экран:
https://tjournal.ru/tech/207853

То есть тест все еще показывает полоски, но в этом девайсе на них смотрите уже не вы, по старомодному, а электроника, лол

​​Познавательный текст FT о том, как разработчики надувают рейтинги своих приложений в App Store, используя психологические трюки. Пользователям предлагают оценить приложение в моменты, когда они скорее всего настроен позитивно. В игре — после прохождения уровня, в банковском приложении — в день зарплаты. И наоборот — пользователь, который прочитал плохую новость либо забыл свой пароль, не увидит предложения оценить приложение.

В 2017 году в iOS появились всплывающие окна, в которых оценку можно поставить в самом приложении, не переходя в App Store. Это полностью изменило подход разработчиков к оценкам и в итоге привело к их инфляции.

В среднем приложение в App Store набирало в 2017 году 19 000 оценок. В 2019 — 100 000 оценок. Разработчики научились предлагать пользователю поставить оценку в нужный момент, как следствие — рейтинг всех популярных приложений вырос почти до максимума (см. графику). Количество негативных отзывов не уменьшилось, но они не так сильно влияют на суммарный рейтинг приложения на фоне сотен тысяч "пятерок", полученных с помощью манипулирования.

Манипуляции не нарушают правил App Store и даже наоборот — помогают компании зарабатывать. Выше рейтинги приложений — больше установок, больше денег для Apple с коммиссий за установку.

Повышение рейтинга приложения с 2 до 3 звездочек повышает конверсию в установки из магазина на 300%. С 3 до 4 — еще на 92%.

Философия платформ...

Парадоксы онлайн-экономики. 21-летняя американка зарабатывает более $10 000 в месяц, публикуя в своем OnlyFans фото и видео, на которых она имитирует собачку. Кроме того, у нее более 200 000 подписчиков в TikTok. Нормальная картина для 2020 года: одни люди делают странные вещи на камеру, другие им за это платят. Всем нескучно, все довольны, экономика работает.

Неловкий случай произошел на американской таможне – местные службы конфисковали партию из 2000 "поддельных AirPods", которые поступили в Нью-Йорк из Гонконга. Вот только оказалось, что за подделку приняли оригинальные наушники от китайской компании OnePlus. По форме наушники действительно похожи, но у OnePlus Buds немного другой дизайн и совсем другая упаковка. "Hey, give those back”, – написала компания в Twitter.

Ситуация вдвойне странная, если учесть, что на американском рынке OnePlus давно не считается очередным китайским ноунеймом. Смартфоны компании неплохо продаются в США, в том числе потому, что напоминают последние модели айфонов – только с дополнительным функционалом.

Вообще OnePlus – это классический пример компании из Шэньчжэня, у которой есть три преимущества: 1. доступ к огромным производственным ресурсам. 2. zero ego, которое позволяет спокойно заимствовать чужое и не бояться осуждения. 3. безумная культура ускоренной разработки электроники – на создание смартфона у OnePlus уходит всего 6 месяцев. О последнем компания рассказывает в четырехсерийной документалке, которая показывает все процессы разработки очередного дешевого смартфона “как у Apple”.

Фильм хорошо отражает реальность любого бренда, построенного миллениалами. Заряженная команда молодых сотрудников, бессонные ночи в аду дедлайнов и желание создать brand following, как у Apple. Но в основе все еще старые ценности и стремление выпустить новый продукт любой ценой на фоне начинающейся пандемии. "We were joking on our phone call meetings many designers are putting their lives at risk to create our products", – вспоминают сотрудники. Ну и ключевой посыл компании тоже интересен: "We’re just doing different because of different" – в целом показывает подход к разработке потребительской электроники сегодня.

Можно ли доверять камере своего смартфона?

Недавно в Калифорнии пылали пожары, из-за задымления небо стало красным. Я видел в твиттере много красочных фото от пользователей из Калифорнии, причем многие писали, что на самом деле все намного хуже, камера смартфона просто не передает цвета адекватно. Почему? На этот вопрос отвечает профессиональный фотограф Томас Смит. Дело в том, что мобильные камеры автоматически подбирают баланс белого, стараясь компенсировать отклонения от "нормы". Если вы делаете фото при слишком холодном освещении, камера смартфона делает его теплее. И наоборот. В случае с красным небом Калифорнии алгоритмы камер решили, что это какое-то слишком неестественное теплое освещение, и осветлили его, из-за чего люди не могли нормально поделиться с друзьями тем, что видят своими глазами.

И это хороший повод напомнить о том, что камера смартфона — не самый точный инструмент для передачи реальности. Речь идет не только о балансе белого, но и о других программных улучшениях изображений, известных под названием "вычислительная фотография". Технологии помогают нам делать картинку на снимках даже более красивой — яркой, контрастной, насыщенной — чем видят в реальности наши глаза. Нас ждет будущее, в котором наши воспоминания — это то, что дорисовали для нас алгоритмы, а не то, что мы видели на самом деле. Для личных воспоминаний это может и неплохо. Главное, чтобы приукрашиванием реальности не увлекались фотографы-документалисты — гайдлайны для них автор тоже упоминает в тексте.

— Как работает вычислительная фотография
— Как смартфоны убили индустрию цифровых камер

Есть такой учёный в Стенфорде, Терри Виноград, известный специалист по человеко-машинным интерфейсам. В его честь названа Winograd Schema Challenge (альтернатива теста Тьюринга), а в молодости Терри прославился созданием программы SHRDLU. Она была результатом его диссертации в MIT AI Lab и представляла собой систему управления виртуальной средой с помощью команд на английском языке. На экране отображалось пространство, содержащее разные объекты (кубы, шары, конусы, ...), и оператор мог отдавать команды вида "возьми большой шар" и "положи его на синий куб". Система отвечала на вопросы о расположении блоков, обрабатывала команды перемещения, сносно справлялась с разрешением анафор по контексту, отвечала на вопросы о предыдущих действиях, отрабатывала базовую физику — что на чём может лежать и т.п.. (SHRDLU можно считать первым примером interactive fiction, жанра, о котором я уже как-то писал.) Всю эту магию Терри опубликовал в конце шестидесятых, чем вызвал хайп вокруг исследований в области AI и NLP, обернувшийся позже некоторым разочарованием. Оно во многом было связано с тем, что в SHRDLU так хорошо были выбраны параметры среды (типы объектов, их характеристики, словарь команд), что система легко справлялась с редуцированным пространством задач и воспринималась, как универсальная, но все попытки как-то развить её и сделать что-то более полезное, чем пирамидки на кубиках, проваливались. Чуть ли не с этого началась первая AI winter, а сам Виноград, разочаровавшись, решил заниматься человеко-машинными интерфейсами в более широком смысле.

Код SHRDLU был написан на языке Micro-Planner, реализованным на MacLisp на компьютере DEC PDP-6 с ОС ITS. Язык Плэнер разрабатывался тем же самым Виноградом и его коллегами, и представлял из себя смесь Лиспа с некоторыми идеями, которые позднее вошли в Пролог. (Успех SHRDLU стал основой для распространения Плэнера, по слухам оказавшего определённое влияние на авторов Пролога). Страшнее зверя, чем этот Плэнер, лично я среди языков, пожалуй, не встречал. Кроме того, как было принято в те лихие времена, SHRDLU был самомодифицирующимся, т.е. при обработке команды он мог переписывать и перезапускать свой код. Но самое главное, в классическом ночном угаре перед сдачей диссера Терри пришлось внести несколько патчей прямо в машинный код своего интерпретатора Лиспа. В итоге получилось, что выполнить код SHRDLU можно было только этим конкретным модифицированным бинарником, для которого не было исходного кода. Это никого не напрягало, и программа разошлась в народе более чем десятком копий (а в мире было всего 23 компьютера PDP-6). Но по мере того, как операционная система ITS обновлялась, совместимость этого модифицированного бинарника с осью постепенно терялась, и по воспоминаниям Дейва Макдональда (студента Терри Винограда) через несколько лет SHRDLU совсем перестал работать — код сохранился, но не было железа+OS, чтобы его запустить. Сохранилось видео работы, сохранился также транскрипт диалога с программой, использованного в диссертации ("SHRDLU demo"). С тех пор люди время от времени пытаются восстановить работу алгоритма, существует много довольно похожих на оригинал клонов, но ни один из них не даёт в точности те же ответы, что приведены в SHRDLU demo.

О названии Терри пишет, что хотел выбрать "ненастоящую" аббревиатуру, и первое, что пришло в голову, было слово SHRDLU, которое он в юности встречал в журналах типа Mad Magazine, где оно использовалось для обозначения бессмыслицы. Эта традиция пришла со времён, когда наборщики на линотипах заполняли этими буквами ошибочные строки — кнопки backspace на линотипе не было, и, сделав ошибку, проще было забить строку до конца мусором, чтобы её потом отбраковал корректор; иногда, однако, корректоры пропускали такие строки и SHRDLUSHRDLUSHRDLU попадало в печать. Почему именно эти буквы? Кнопки на линотипе были отсортированы по частоте использования в английском языке (а не как в истории с QWERTY), первый ряд был ETAOIN, а второй — SHRDLU. Вот такая история.

Интересная статья в FT: полиция обнаружила, что китайские гемблинговые компании в огромных масштабах отмывают деньги игроков через фейковые интернет-покупки. Сложно? Сейчас все объясню.

В Китае гемблинг (азартные игры онлайн) запрещен законом. Но интернет — штука сложная, запретить в нем что-нибудь сложно. Даже если это Китай. Тем более, когда речь идет о многомиллиардном рынке. С регистрацией гемблинговых компаний все просто — они регистрируются в оффшорах. Это общепринятая практика, украинские и европейские букмекерские конторы и онлайн-казино тоже обычно оформлены в каком-нибудь Кюрасао или Макао. Но как принимать платежи от игроков из страны, в которой ставки нелегальны? Надо их отмыть. В игре у пользователя есть возможность пополнить счет. По клику на кнопку открывается страница платежа в интернет-магазине. Несколько кликов — и платеж оформлен, можно играть дальше. С аккаунта "продавца" в систему вносится номер для трекинга фейковой посылки — и все, для платформы это выглядит как легитимная покупка.

Полиция обнаружила, что некоторые гемблинговые компании использовали для таких махинаций Pinduoduo, второй по популярности маркетплейс страны после Alibaba. Это одна из самых крупных и быстрорастущих интернет-компаний в мире. И самый популярный сервис интерактивного e-commerce в мире — продажи через онлайн-трансляции и все такое. За 5 лет на Pinduoduo продали товаров на $148 миллиардов. Alibaba шла к такому показателю десять лет.

Так вот, выяснилось, что онлайн-казино отмыли через Pinduoduo как минимум $2 миллиарда. Это бросает тень на остальные показатели платформы и вызывает логичный вопрос: а сколько из всего оборота на платформе приходится на реальные продажи? В тексте есть еще странный момент с игроками, которые проиграли деньги в онлайн-казино, а теперь митингуют перед офисом Pinduoduo — мол, платили через вашу платформу и подумать не могли, что нас обманут, верните деньги... Без комментариев.

Кстати, три года назад писал об аналогичной схеме, заточенной под пользователей из США: там ставки отмывали через фейковые интернет-магазины товаров для дома.

​Теперь нейронками можно сделать диснеевскую версию себя (или не себя) – https://toonify.justinpinkney.com/