«Или не знаете, что совокупляющийся с блудницею становится одно тело с нею? ибо сказано: „два будут одна плоть“.»
— Первое послание к Коринфянам 6:16

Автор канала @vecherniy_danya 5 іюня сообщил, основываясь на статье с сайта Wired, что компания Meta꙳ засунула в свои «умныя очки» систему распознавания лиц, близкую к окончательной готовности — её остаётся только включить для того, чтобы превратить совокупность своих пользователей в гигантскую машину слѣжки за людьми (в том числе и за никогда не регистрировавшимися в качестве пользователей продуктов этой компании — а значит, уж точно никогда не дававшими согласие ей на сбор и обработку биометрических данных своих).

Эту штуку в 2009 году я предвидѣлъ и назвал словосочетанием «цифровая толпа» — и тогда размышлял прежде всего (как и Wired теперича) о возрастающей опасности того явления, которое во всёмъ мірѣ называют словом «сталкеры» (во всёмъ мірѣ, но только не в нашей родимой эрэфушке, давно и надёжно укушенной в голову братьями Стругацкими, придавшими этому слову изрядно другое значение), а затѣмъ и о возрастающей возможности раскрытия медицинской тайны в итоге сбора и анализа видимых симптомов.

Окромя меня и Wired, об опасности использования сталкерами возможностей тотальной слѣжки сообщал в 2012 году телесериал «Person of Interest» в своей двадцать первой серии («Many Happy Returns»), продемонстрировав яркий художественный образ сотрудника службы маршалов США, подставившего собственную жену под уголовное обвинение для того, чтобы мощь государственной машины слѣжки помогала ему находить эту женщину и затѣмъ измываться над нею.

Понятно, что маршал этот имѣлъ дѣло не с корпоративною, а с государственною сѣтью розыска граждан. Однако, начиная мыслить об опасностях крупных систем наблюдения, создаваемых мегакорпорациями, трудновато было бы не прийти рано или поздно к мысли о том, что онѣ мало чѣмъ отличаются от рисков крупных систем наблюдения, создаваемых государствами (и не просто создаваемых, но и большей частью давно уж созданных, а теперь подвергаемых апгрейду) — так что можно опираться на извѣстныя проблемы их, а далѣе мыслить по аналогии.

Но что значит «мало чѣмъ отличаются», в чём состоит разница?

Если не слишком вдумываться, то может показаться, что разница состоит только в том, что сотрудничество винтиков государства с организованною преступностью называется словом «коррупция», а самостоятельное совершение преступлений на основе свѣдѣній видеонаблюдения называется «злоупотреблением служебным положением», тогда как сотрудники мегакорпораций никакой такой присяги служения обществу не принимали, так что и пойти по скользкой дорожке им куда болѣе повадно.

Однако, разумѣется, есть и другая разница: изрядная часть государства мыслит себя как машина наказания (причём «машина» здѣсь всё чаще не просто метафора отказа от так называемаго «человѣческаго отношенія к людям», но и способ указать на всё бóльшую автоматизацию процесса и готовность полагаться на AI, пренебрегая вѣроятностью нейросѣтевыхъ галлюцинаций и их жертв: «лѣсъ рубят — щепки летят»), тогда как мегакорпорациям мандат карать граждан пока ещё не вручили въ полной мѣрѣ, так что онѣ занимаются этим либо во внѣзаконном порядке, либо в рамках неравноправных контрактных отношений (подобно тому, как каршеринговая компания способна «наказать рублём» за нарушение правил дорожнаго движенія ещё построже, чѣмъ наказало бы государство).

Нѣкоторыя же государства мыслят себя как машину не одного только наказания, но и устрашения также, чему примѣромъ гнетущіе полёты лос-анджелесских вертолётов над неблагополучными кварталами города.

Третья разница состоит в том, что у государств обыкновенно больше информации о гражданах, нежели у корпораций.

Для примѣра вообразите патрульный отряд полиции, который способен через очки дополненной реальности видѣть, проходя мимо почти любого многоквартирнаго дома, предупредительно оранжевые контуры всѣхъ таких квартир, которые на короткое или долгое время оставлены жильцами, и текстовыя поясненія по итогам всеобщей слѣжки: «кто на курорте, а кто в командировке», «старик в больнице на другом конце города, а племянница его сейчас сидит с ним», «вся семья эмигрировала, квартиру иногда сдают, но сейчас она без жильцов», «за город уѣхали на шашлыки» и проч. Такой отряд, сосредотачивая на таких квартирах наблюдение, способен оперативно замѣчать признаки проникновения въ чужія квартиры, то есть задерживать там взломщиков или сквоттеров, напримѣръ.

В качестве его противоположности можно вообразить и небольшую банду взломщиков, которая видит всѣ тѣ же контуры пріятно зелёненькими в качестве указания на такія квартиры, которыя повадно сію же минуту взломать — ну или вообразить современнаго Родиона Романовича Раскольникова, который обретает обоснованную увѣренность в том, что съ цѣлью ограбления сможет угостить топором одну только старуху-процентщицу в отсутствие сестры ея Лизаветы.

Если преступники руководятся утечками из корпоративных систем видеонаблюдения, то тогда разница между ними и государством состоит в том, что государство может с большею точностью знать, когда в квартире никого нѣтъ, тогда как мегакорпорация может и упустить человѣка, который не попадает под наблюдение видеокамер других лиц просто потомý, что ведёт уединённую жизнь хикикомори, напримѣръ. Ну или лежачаго больного, посѣщаемого только родственниками, воздерживающимися от ношения видеоочков конкретной фирмы. (Но не непремѣнно лежачаго: сгодится и аллергик, весьма рѣдко склонный покидать жилище с профильтрованным воздухом и подставлять себя подъ дѣйствіе аллергенов наружнаго воздуха.)

Если же огранизованная преступность интегрирована с коррумпированными служащими государства, то тогда разница эта исчезает.

Всё это надо сознавать как формирование отрицательной обратной связи: чѣмъ болѣе многочисленными становятся пользователи «умных очков» дополненной реальности, тѣмъ сильнѣе формирование на ихъ основѣ системы распредѣлённаго видеонаблюдения начинает угрожать каждому из пользователей. Рано или поздно опасность доберётся и до сáмого базового уровня — до безопасности самих же «умных очков».

Зададимся самым простым вопросом: а как, собственно, защищена учётная запись пользователей, как пользователи аутентифицируются при залогинивании в свои «умныя очки»? (В них же не предусмотрено никакой наэкранной клавиатуры — ни сенсорной, ни со слѣженіем за направлением взгляда?)

FAQ на сайте «умных очков» говорит нам об этом, что пользователь залогинивается в приложении «Meta AI» в смартфоне, тогда как «умныя очки» всего лишь должны быть спаренными со смартфоном по Bluetooth.

Хорошо, но тогда слѣдующій вопрос: а когда люди разблокируют экран смартфона или заходят в нём въ чувствительныя приложенія (прежде всего въ банковскія — но, ясное дѣло, и диалоги с AI могут быть защищены аналогично), то тогда каким они методом аутентификации пользуются? Как правило, либо считывают уникальные отпечатки пальцев, либо набирают пароль (жестом, кодом и проч.).

В первом из этих случаев надо бы припомнить, что отпечаткам пальцев всегда сопутствует та проблема, что пароль по соображениям безопасности хотя бы нетрудно перемѣнить, тогда как отпечатки пальцев перемѣнить труднѣе — а межъ тѣмъ при любом сколько-нибудь хорошем освѣщеніи (особенно падающем под удобным углом) отпечатки ясно видны на пальцах через любую недалёкую многомегапиксельную видеокамеру. При обсуждении вопросов безопасности раз за разом звучит та давняя (ещё 2013 года) мысль, что отпечатки пальцев напрасно используются в качестве пароля: годятся они, в лучшем случае, в качестве аналога имени пользователя, так как их нельзя полагать приватными.

Во втором из этих случаев растёт вѣроятность ненароком набрать пароль въ полѣ зрѣнія одной или нѣсколькихъ видеокамер наблюдения (в том числе и нарочно спрятанных), способных записать и распознать набранный пароль. И если прежде очкариков за своей спиною в этом смысле можно было считать не сильно угрожающими, воспринимая их как обладателей нерѣдко пониженнаго зрѣнія и притом не всегда внимательнаго, то теперича «умныя очки» вглядываются во всё полѣ зрѣнія ихъ с такою остротою зрѣнія, которая возможности и здороваго-то человѣка превосходит собою — и притом никогда не отвлекаются и даже не моргают, напримѣръ.

______

꙳ Meta находится в перечне террористов и экстремистов (в настоящее время — под номером 16).

Камень для созерцания