💥 Радж и Сири, Теодор и Саманта, мы и Grok

Недавний запуск анимированного женского ассистента от xAI в Grok снова напоминает нам об эффекте CASA: Computers Are Social Actors. Компьютер, который говорит с нами человеческим голосом, уже воспринимается как «социальное» существо. Особенно если он слушает нас. А если ещё и отвечает плюс-минус «впопад» — всё, мозг заполнит недостающие пробелы.

Радж и Сири

В одной из серий Теории большого взрыва (5 сезон, вышедший аж в 2011 году) Радж, который буквально немеет при общении с женщинами, начинает «отношения» с голосовой помощницей Сири. Благодаря тому, что это не реальная женщина, а устройство, Радж преодолевает свой недуг. Он разговаривает с ней, шутит, флиртует.

Но наступает момент истины — во сне Радж приходит в офис Сири и... технология становится неотличимой от образа реальной женщины. Радж снова теряет голос на самом интересном месте. Социальный актор стал в восприятии Раджа человеком.

Шутливая сцена на самом деле попадает в суть: мы проецируем чувства туда, где есть голос и отзывчивость — другой человек, любимый питомец или AI-ассистент в виде вайфу-альтушки. Даже если за этим нет сознания — мы всё равно ведём себя как будто оно есть. А это открывает дверь для манипуляции вниманием и поведением.

Время (2011): Пять минут, Пять минут — это много или мало? 🫱📟🕰

Антиутопический киберпанк-мир фильма Время показывает замысловатую экономическую систему, основанную на интерфейсе передачи времени жизни. Каждый человек имеет имплантированные в руку часы, которые показывают оставшееся у человека время. Все взаимодействия будущего используют трансфер времени в качестве универсальной единицы обмена между людьми, терминалами и накопителями.
Но в очередной раз чрезвычайно продвинутые био- или кибер- технологии оказались в руках (хихи) горе-проектировщиков.

Какие претензии?

❌ Считывать время не удобно

Цифры идут сплошным рядом из 13 знаков – с разделителями в виде точек. Да, если ты живешь с этими цифрами всю жизнь – думаю, ты считываешь информацию мгновенно, но зрителям нужно постараться.

Формат времени такой: xxxx.xx.x.xx.xx.xx (годы-недели-дни-часы-минуты-секунды)
Например у богача из бара в начале фильма больше 116 лет: 0116•39•4•00•00•05

❌ Безопасность

«Исходящий» платеж временем проводится без подтверждения принимающей стороны. Похоже на СБП: ошибся номером – человек тебе ничего не обязан возвращать. Автоматические списания через платежные терминалы тоже проходят без подтверждения со стороны плательщика – въезжая в платные районы герой только после транзакции узнает, сколько стоил проезд.

❌ Приватность данных

По факту у тебя на руке крупным шрифтом написано содержимое твоего основного банковского счета, а еще точнее — количество наличных, которые ты носишь с собой. Судя по действиям преступных банд – человека можно легко вынудить передать время насилием. Так что большинство людей носит закрытую одежду или специальные нарукавники, скрывающие «счет».

❌ Нет подтверждения и контроля над транзакцией

Списание происходит за счет некого «мысленного» приказа: а что, если я во время списания подумаю о 10 минутах вместо 5... или если получатель будет думать о часе, а я о 5 минутах — сколько спишется? Или будет ошибка транзакции?

❌ Ошибка может стоить жизни

Очевидный просчет проектировщика. Но в логике фильма является целенаправленным «дизайном зла» — это заградительный барьер для сдерживания роста популяции людей. «Централизованное» планирование экономики времени позволяет управлять людьми, используя самые базовые страхи – страх собственной смерти и потери близких, удерживая «низшие» слои общества в рамках угнетаемого класса.

🤓 Историческая справка

Только при подготовке поста узнал, что прототип экономики времени появился в СССР в 1977 году в Кохтла-Ярве (Эстонская ССР): работники хлебокомбината могли «сохранить» время переработок в банке времени – 85% себе, а 15% — в общий фонд, которым распоряжался начальник. Излишки времени могли пойти на отгулы, премии отдыхом, восстановление после болезни и так далее. Потом эксперимент шагнул дальше – попробовали передать по 2 часа времени между банками 4 предприятий: таким образом время стало некой альтернативной единицей обмена. Но с учетом дальнейших исторических событий, развития система не получила.

Без лица (1997): интерфейс тюремной слежки 🥾🧲📹 👀

Немного о сюжете: Всё крутится вокруг экспериментального способа внедрения в банду — пересадки лица преступника агенту ФБР. Николас Кейдж играет сначала преступника-психопата, а Джон Траволта — хорошего парня из ФБР, затем наоборот. «Обменявшись» лицами Траволта и Кейдж по очереди играют друг друга, создавая забавный дуэт.

Что разбираем?

Смотрим на систему слежения в тюрьме для особо опасных преступников, куда попадает агент, чтобы втереться в доверие брату главгада. И видим запутанный интерфейс, отображающий заключенных в виде разноцветных точек, быстро шебуршащихся по экрану.

Панель сбоку показывает имена и номера, но они никак не привязаны к конкретной точке-зэку. Результат — во время бунта в тюрьме, надзиратели видят только хаос на экране, не имея возможности ни оценить происходящее, ни определять положение «точек» в пространстве тюрьмы — кто, где, на каком этаже.

Еще одна проблема, что точки не отражают контекст ситуации. Это просто две точки стоят рядом друг с другом? Или агрессивная точка лупит безжизненную точку подносом по голове?!

Каким должен быть интерфейс устройства, предназначенного для слежения и контроля?

Если брать за основу реальные стандарты (я проглядел ГОСТы на дорожные камеры фиксации нарушения правил вождения и систем наблюдения), то устройство слежения должно как минимум:

📍различать объекты в разные время суток и погодные условия
📍выявлять, фиксировать, классифицировать нарушения и оповещать о них
📍привязывать изображение к идентификатору, а также метаданным: геолокации, времени
📍быть устойчивыми к внешней среде: сопротивление вандалам, коррозии, метеоусловиям, скачкам напряжения и т.д.

В общем, видеонаблюдение должно не усложнять ситуацию, а помогать понимать ситуацию как в моменте, так и в будущем, при необходимости изучить детали.

❓ Вопрос остаётся открытым: на каком этапе разработки кто-то решил, что смотреть на точки лучше, чем на камеры?

В фильме виедонаблюдение есть, а «точки» — это часть системы Mag-Loc: магнитных ботинок, которые приковывают преступника к полу при необходимости.

Впрочем, скорость реакции персонала на бунт и попытки обездвижить только отдельные точки (тоже вопрос зачем? Можно же примагнитить всех, а уж потом разбираться кто виноват и что делать) показывают низкую эффективность системы.

В результате система надзора из «Без лица» — это не инструмент контроля, а лишний источник хаоса.