DevNotes Live

Взлом человека: парадокс распространённости в кибербезопасности
Статья Hacking the Human: The Prevalence Paradox in Cybersecurity

Кибератака — один из наиболее дестабилизирующих глобальных факторов для техноинфраструктуры, в которой мы живём. Годовые мировые затраты сейчас достигают поразительных 500 миллиардов долларов и, по прогнозам, к 2019 году вырастут вчетверо. Кибератаки и соответствующие усилия по киберзащите в основном, а зачастую исключительно, реализуются в алгоритмической и программной сферах. Однако кибербезопасность по своей сути — это командная работа человека и автоматики, где уязвимы и машина, и человек.

Парадокс распространённости: чем эффективнее алгоритмическая защита, тем ниже SP(Signal Probability (вероятность сигнала), те грубо говоря фишинговых писем) и тем выше вероятность человеческого провала на оставшихся атаках. Это не повод отключать защиту — в абсолютных цифрах система выигрывает, но возникает проблема доверия и вины.

Парадокс влияет на доверие: недоверие приводит к пренебрежению или отключению автоматики. Он применим не только к кибербезопасности, но и к медицине, авиации, автопилотам — везде, где сильная помощь снижает базовую частоту угроз ниже порога человеческого обнаружения.

Рассмотрим обширную экосистему автономной помощи, задействованную при обычной проверке электронной почты — канала, который сейчас доставляет больше вредоносного ПО, чем любой другой цифровой вектор (Symantec, 2016). Антивирус блокирует выполнение произвольного кода, спам-фильтры отсекают социальную инженерию, информационные агенты выбирают удобные моменты для напоминаний о цифровой гигиене. Пользователи, так хорошо защищённые, могут сталкиваться с нефильтрованными атаками крайне редко. Именно такая успешная алгоритмическая защита может порождать «эффект распространённости»: чем реже сигналы, тем значительно труднее человеку их обнаруживать. Это снижение остроты подчёркивает фундаментальную неспособность человека обнаруживать и реагировать на крайне редкие сигналы, какими бы критичными они ни были
Эффекты распространённости в кибербезопасности ранее экспериментально выявлялись только у военных киберзащитников

Ключевой фактор эффекта — соотношение сигналов к общему числу оцениваемых событий, называемое «вероятностью сигнала» (SP). Исследования сотен SP на миллионах попыток показали, что снижение вероятности реакции происходит не линейно, а по логарифмическому закону спада (Mitroff & Biggs, 2014). Практически это означает существование логарифмической «точки перелома», после которой производительность резко падает

Почему при росте влияния абсолютное число фишинговых атак падает? Один из ответов — переход к узконаправленному «спирфишингу»: меньшее количество сообщений, каждое тщательно адаптировано под жертву. Знакомство повышает эффективность, но стратегия, вероятно, усиливается эффектом распространённости.

Не ограничивают ли хакеры намеренно число атак, (осознанно или нет) используя эффект распространённости для взлома человека? Искусственное снижение SP ранее предполагалось как измерение кибератаки. SP атак могут контролировать и атакующие (соотношением настоящих атак к «серым сигналам»), и защитники (автоматическое обнаружение, обучение). Логарифмическая грань между малыми снижениями и полным провалом очень тонка, поэтому возможны стратегии «перетолкнуть» жертву «за край».

1 view18:30