страшилка Фила Торреса под названием "Omniviolence Is Coming and the World Isn’t Ready" - не то, чтобы в ней было много нового, но и ответов на проклятые вопросы нет

Omnovilolence - "всенасилие", всеобщее или тотальное насилие, термин, придуманный политологом Дэниэлом Дудни. он должен обозначать почти неизбежный выход преступлений и терроризма на качественно новый уровень благодаря развитию технологий
http://nautil.us/blog/omniviolence-is-coming-and-the-world-isnt-ready

есть самые разные сценарии, один из их - полюбившийся многим "рой дронов": злоумышленники заказывают в Китае множестве маленьких квадропотеров размером один дюйм, начиняют каждый крошечным зарядом взрывчатки весом 1 грамм, программируют на цели, заданные фотографиями, привозят их в прицепе к Нью-Йорку и выпускают над городом. или миллион таких квадрокоптеров в трех грузовиках. для всей операции достаточно трех человек

кумулятивного заряда в таком дроне хватит на то, чтобы пробить сталь толщиной 9 мм или череп человека, как демонстрируют slaughterbots в этом видео https://www.youtube.com/watch?v=HipTO_7mUOw даже если свои цели найдут 5-10% выпущенных дронов или даже меньше, эффект будет ужасающим

сценариев может быть множество, адекватной и работающей защиты от них пока нет, и таким образом террористы или психопаты будущего могут погрузить мир в хаос. перестает работать классический "общественный договор" Томаса Гоббса (граждане частично отказываются от своих прав в пользу государства, в обмен государство в том числе обеспечивает их безопасность). если кто угодно может беспрепятственно напасть на кого угодно, и государство не может этому помешать, дело кончится анархией и войной всех против всех

пока единственным эффективным (и то не существующим) ответом на угрозы omniviolence может быть высокотехнологичная, всеобъемлющая и инвазивная система наблюдения за всем и за всеми, которую Ник Бостром в статье "Гипотеза об уязвимом мире" называет Panopticon https://www.nickbostrom.com/papers/vulnerable.pdf

с одной стороны, государства не против усиления контроля и уже строят наблюдающие за всеми системы, с другой - они же могут и будут использовать подобные страшилки для дальнейших ограничений свобод граждан. кто и как будет контролировать власти в том, чтобы они не заходили слишком далеко - не понятно. и что такое "слишком далеко"? что делать со всем эти - не ясно, но может быть, найдется другой выход, о которым мы пока ничего не знаем?

цивилизация это эксперимент, в котором мы можем и не получить желаемых результатов, философски замечает Фил Торрес в финале колонки #paranoia

суммируя претензии к тому, как технологические компании обращаются с нашими персональными данными (послушав выступление Сноудена у Джо Рогана). проблема даже не том, что они собирают, хранят, перерабатывают, продают или используют данные обо всем, что мы делаем в онлайне и теперь уже в оффлайне тоже. это полбеды, хотя это неприятно и мы ничего не можем с этим сделать

проблема в том, что они скрывают от нас абсолютно все, что могут. ну то есть, мы не знаем, что там под капотом, а если бы и знали, то не смогли бы понять, а если бы поняли, то компании потом могли бы все переделать и так до бесконечности

то есть, когда Facebook, Google, Amazon, Apple, кто угодно говорит нам, что наша лента, поисковая выдача, система рекомендаций построена на сложных алгоритмах, которые учитывают наши интересы, историю браузера, покупок, круг друзей и так далее, и поэтому вы видим в интернете то, что видим, откуда мы знаем, что это правда? а не просто видим тех, кто больше заплатил? мир вокруг нас, в который мы смотрим через экран смартфона, действительно темен и полон ужасов, или просто испуганными людьми проще управлять, а фарм компании хотят продавать больше антидепрессантов (утрирую)

технологические компании говорят нам, что это все мы, наши действия, наши тайные желания, которые они знают даже лучше нас, потому что у них вся биг дата и аналитика. но гораздо проще не пытаться предсказать наши желания, а модифицировать наше поведение, где-то подсказать, где-то чуть подтолкнуть, а где-то загнать в тоннель, в котором есть только одно направление движения, и выбрали его не мы. не надо угадывать, чего мы хотим, надо просто сказать нам, что мы именно этого и хотели #paranoia

колонка о современных системах слежения с воздуха, в оригинале обычно военных, все как мы любим: постоянное наблюдение в сочетании с machine learning и массовым (читай - вечным) хранением - технология, которая напрямую угрожает гражданским свободам, хотя предполагалось, что она будет служить общему благу

колонка в решающей степени инспирирована книгой Eyes in the Sky, хотя и не является в чистом виде рецензией. в книге, кстати, описывается одна забавная история о создании системы Gorgon Stare (Взгляд Горгоны) - она разошлась всюду именно из этой книги, подтверждения из других источников нет, так что кто знает. суть в том, что создатель Взгляда Горгоны в свое время посмотрел фильм Enemy of the State с Уиллом Смитом, в котором правительственные агенты следили за главным героем с помощью всевидящей небесной системы наблюдения, и подумал - а круто было бы сделать такую систему. и сделал. верить или нет, вопрос, но звучит красиво

так вот теперь подобные системы умеют даже больше, чем в кино: над городами в том же Ираке постоянно висят дроны, которые смотрят вниз через очень мощную оптику. сигнал с камер обрабатывается алгоритмами, которые умеют искать подозрительную активность (в том числе, обнаруживать и отслеживать автомобили, которые совершают внезапный и немотивированный поворот), следить за отдельно взятыми объектами или людьми, интегрировать в систему данные из социальных сетей, перехватов сотовых телефонов, данных, добавляемых вручную наземными службами и так далее. все это в режиме реального времени, в интеграции и постоянном контакте с наземными службами: система следит, анализирует, находит и указывает, на земле хватают, уводят или убивают (хотя системы уже умеют убивать и сами с воздуха)

память теперь очень дешевая, поэтому все видео записываются и хранятся, их можно потом пересматривать и перематывать, подвергать дополнительному анализу, в том числе с помощью машинных алгоритмов. отдельный фокус в том, что исторически нет никаких запретов на то, чтобы смотреть на кого-то с неба. если для установки GPS-трекера на чей-то автомобиль в США требуется получить ордер, то с дрона или дирижабля за этим автомобилем можно следить беспрепятственно и сколько угодно. потому что небо - общее

в какой-то момент создатели систем слежки явно начинают ощущать себя богами, по крайней мере, они дают им имена богов и мифических героев - Персей, убийца Медузы Горгоны (Perseus, Persistent Stare Exploitation and Analysis System), стоглазый великан Аргус (Argus, Autonomous Real-Time Ground Ubiquitous Surveillance), бог Один (Odin, Observe, Detect, Identify, Neutralize).

главная этическая проблема ровно та же, что стояла перед создателями атомной бомбы: небольшая группа ученых и инженеров собирается вместе, чтобы создать мощное оружие для военных. при этом, эти новые системы слежки могут быть не менее страшным оружием, которое оно критически смещает весь баланс сил между гражданином и государством, между частным лицом и корпорацией, вплоть до полного исчезновения этого баланса

у обычных людей есть ощущение, что технологии развиваются без их ведома и без возможности как-то повлиять на развитие этих технологий - главные решения об условиях жизни в обществе принимает совсем небольшое и саморегулирующееся "братство элит". многие из них уверены, что работают во благо, но их творения способны разрушить мир #paranoia


https://www.thenewatlantis.com/publications/all-activities-monitored