Как смерть Майкла Джексона «положила» интернет: цифры и уроки

25 июня 2009 года мир пережил стресс по случаю смерти кумира и… масштабный стресс-тест интернета

Цифры

Google заблокировал запросы с именем певца на 30 минут, ошибочно приняв их за DDoS-атаку. Пиковая нагрузка достигла «вулканического» уровня, а время ответа сервиса выросло до 9 секунд

Twitter упал на 40 минут: 15% всех постов касались Джексона. В пик активности каждые 6-е сообщение содержали его имя, а за час появилось 66.5 тыс упоминаний

BBC News зафиксировал рост трафика в 1.5 раза, а TMZ — первый источник новости — рухнул на 2 часа, вызвав «эффект домино» у других сайтов

Средняя загрузка новостных сайтов выросла с 4 до 9 секунд, а доступность упала с 100% до 86%

Выводы

Непредсказуемость нагрузки
Ни один сервис не был готов к миллионам одновременных запросов. Сегодня облачные решения (например Kubernetes) позволяют автоматически масштабировать ресурсы
(но к сожалению это не всегда работает)

Ошибки автоматизации
Алгоритмы Google News посчитали ажиотаж атакой. Современные системы используют ИИ для анализа трафика и предотвращения ложных срабатываний
(но это не точно)

Централизация рисков
Падение ключевых платформ (Google, Twitter) парализовало сеть. Сегодня упор делается на распределенные архитектуры и CDN (Cloudflare) для балансировки нагрузки
(но не везде это возможно)

@Simple_Reliability

Лопата против интернета: Как пенсионерка устроила цифровой апокалипсис

2011 год. Грузия. 75-летняя местная жительница, имя которой так и осталось загадкой (возможно, она до сих пор копает медь где-то в горах Грузии), решила подзаработать — отправилась искать медь на продажу. Вместо клада она нашла подземный оптоволоконный кабель...

Что случилось:
- 90% интернета Армении (3,2 млн человек) ушли в офлайн на 5 часов. Без связи остались банки, госучреждения, сайты и даже мобильные операторы.

- Перебои затронули и соседние страны: в Грузии и Азербайджане пользователи жаловались на замедление трафика.

- Расследование показало: кабель был проложен всего на глубине 30 см

Цифры для драмы:
- По данным The Guardian, ущерб от инцидента оценили в $1.5 млн — суммарные потери бизнеса, банковских операций и восстановительных работ.

- Для сравнения: в 2022 году извержение вулкана на Тонга, повредившее подводные кабели, привело к потере $190 млн за пять недель простоя — это 40% ВВП страны.

- В 2011 году «кабельные войны» между провайдерами оставили без связи целые районы — кабели резали ножницами, словно спагетти.

@Simple_Reliability

Кто такой Борис Гнеденко?

Советский математик, академик, один из основателей современной теории надежности. Его работы 1940–60-х годов, включая классическую книгу «Теория надежности» (1965), стали основой для анализа отказов систем и прогнозирования их «жизни»

Вклад в ИТ
Разработал методы оценки надежности на основе теории вероятностей

Изучал распределения времени до отказа, что сегодня применяется в тестировании ПО и проектировании серверов

Его идеи легли в основу стандартов для военных и космических систем, которые позже адаптировали для IT-инфраструктур

Как его теории работают в современных IT?

Прогнозирование сбоев
Методы Гнеденко помогают предсказывать отказы компонентов — от жестких дисков до микросервисов. Например, анализ данных логов с использованием распределения Вейбулла позволяет находить «слабые звенья» системы

Оптимизация ресурсов
Расчет оптимального времени замены оборудования (например, серверов) снижает затраты на обслуживание

Кибербезопасность
Моделирование рисков и оценка устойчивости систем к атакам также опираются на вероятностные подходы

Практические советы от Гнеденко для IT-инженеров

Тестируйте на пределе
Используйте стресс-тесты, чтобы определить «порог надежности» системы

Анализируйте историю отказов
Данные о прошлых сбоях — золотая жила для улучшения архитектуры

Резервируйте
Дублирование критических компонентов снижает риск каскадных отказов

#НадёжныеЛюди

@Simple_Reliability

Надёжность AI-агентов: разрыв между обещаниями и реальностью
 
Исследование CB Insights (2025) утверждает, что AI-агенты теряют до 50% точности в сложных задачах, например, при анализе юридических документов
 
Почему надёжность страдает?

- Галлюцинации LLM: OpenAI в исследовании (2023) признаёт, что модели вроде GPT-4 могут генерировать ошибки в 15-20% случаев при работе с узкоспециализированными данными

- Ограничения автономии: Harvey (юридический AI) использует «предопределенные сценарии» для снижения рисков. Они прямо говорят об этом в своих пресс-релизах
 
Одно из решений это Human-in-the-loop: внедрение гибридных систем, где 30% решений проверяются экспертами (так уже делают)

Вывод: Надёжность AI-агентов зависит не только от технологий, но и от прозрачности процессов
 
С текущим уровнем зрелости критически важно:
- Тестировать агентов на реальных данных перед внедрением
- Использовать открытые инструменты мониторинга
- Не исключать человека из контура (особенно в юриспруденции, финансах и медицине)

@Simple_Reliability

Новое исследование показывает, что нейросети пересказывая научные статьи делают почти в пять раз больше серьезных ошибок, чем люди. Причем, заметить эти ошибки сложнее, потому что пересказы кажутся логичными и убедительными. Подробнее

Как сократить количество таких ошибок?

Уменьшайте «творчество» модели
Если есть возможность выставите параметр temperature на 0. Чем он ниже — тем точнее выводы

Не просите «не ошибаться»
Парадокс: фразы вроде «будь точным» повышают риск выдумок. Лучше просто попросить краткий пересказ

Выбирайте «консервативные» модели
- Claude — лидер по точности.
- Старые версии GPT (например, GPT-3.5) надежнее новых

Говорите о науке в прошедшем времени
«Ученые обнаружили» вместо «Исследования показывают». Так ИИ не перенесет прошлые выводы в настоящее. Этот прием уже используют топ-медижурналы

@Simple_Reliability

В 1968 году, в журнале Harvard Business Review была опубликована идея программиста Мелвина Конвея, которая звучит так:

«Любая организация, которая разрабатывает систему (в широком смысле), вынуждена создавать проекты (читай: проектировать системы), структуры которых являются копией структуры связей организации»

Сейчас эта идея известна как Закон Конвея

Если закон действительно работают, то первое что надо сделать, чтобы повысить надежность систем - это упростить систему связей и коммуникаций внутри компании.

@Simple_Reliability

Бритва Оккама: Упрощать, но не слишком

«Не умножай сущности без необходимости» — эту максиму XIV века сегодня знают как бритву Оккама. Альберт Эйнштейн дал её современную формулировку:

«Всё следует упрощать до тех пор, пока это возможно, но не более того»

Мы живём в эпоху гипероптимизации:

- Чрезмерное упрощение UI зачастую делает интерфейс неочевидным для пользователей

- Агрессивный рефакторинг кода порой уничтожает его гибкость

- Попытки «упростить» сложные процессы приводят к опасным допущениям

- «Давайте сделаем один монолит вместо микросервисов», а потом система не масштабируется

- В анализе данных: «Корреляция = причинность» → ложные выводы

Принцип актуальный, но применять его нужно правильно:

✔ Простое решение не должно противоречить фактам
✔ Сначала базовые гипотезы, затем — сложные
✔ Если эксперты морщатся — возможно, вы переупростили

@Simple_Reliability

12-13 сентября в Оренбурге пройдет Merge + IT Fest Oren. Это два масштабных IT-события на одной площадке.

Буду рассказывать здесь о встраивании GenAI в существующий ИТ-ландшафт без влияния на работающие процессы и лояльных клиентов. Поговорим о возможных сложностях и рисках. Разберем на примере реальных кейсов, что необходимо предусмотреть, чтобы снизить влияние на пользователей, в случае сбоев/галлюцинаций AI-агентов.

Присоединяйтесь! По промокоду KUDRYASHOV действует скидка 20%.

Подробнее о мероприятии на сайте: orenburg2025.mergeconf.ru

Коротко про ключевые события в службе сопровождения…

@Simple_Reliability

🎨 ИИ подтвердил подлинность утерянного Караваджо

Картина «Лютнист» из английского поместья Бадминтон-хаус, десятилетия считавшаяся копией, была признана работой Караваджо благодаря искусственному интеллекту.

📊 Ключевые факты:

· В 2001 году продана как работа «из круга Караваджо» всего за £71 000.

· Анализ ИИ от швейцарской компании Art Recognition: Вероятность авторства Караваджо — 85,7%.

· Эксперты отметили безупречную прорисовку деталей (например, лютни), что характерно для рук мастера.

💡 Почему важен этот кейс?

1. ИИ дал количественную, измеримую оценку (85,7%), которая стала мощным основанием для углубленного экспертного исследования.

2. Алгоритм не заменил искусствоведов, а указал им на объект, заслуживающий перепроверки. Это идеальная модель взаимодействия: технология обрабатывает данные, человек делает финальные выводы.

3. Данный случай — прямое доказательство финансовой окупаемости надежных технологических решений.

💰 Финансовый итог:
Первоначальная стоимость: ~£71 000 → Текущая оценочная стоимость: десятки миллионов фунтов.

Инвестиции в создание и применение точного и надежного инструмента анализа не просто оправдали себя, но и принесли многотысячекратную финансовую отдачу, наглядно демонстрируя ценность технологий, которым можно доверять.

@Simple_Reliability

2-3 октября я выступлю на Стачке в Санкт-Петербурге с докладом «Зачем в ИТ нужны эксперты по надёжности»

У меня есть один бесплатный билет, если будете в Питере в эти даты и хотите посетить, напишите комментарий к этому посту - передам.


Билеты доступны на сайте
Промокод “Спикер10” даст скидку 10% на билет)

@Simple_Reliability

Gartner о будущем бизнеса и ИИ-агентов:
К 2035 году появится первая компания из списка Fortune 500, где штат сотрудников будет меньше 1000 человек, а основную работу будут выполнять именно ИИ-агенты.

Эксперты Gartner говорят о том, что в ближайшие полтора-два года в B2B покупать товары и услуги, а также быть деловыми партнёрами будут ИИ-агенты.

Вот как это будет выглядеть:

· Уже к 2028 году около трети всех деловых переговоров между компаниями будут вести не люди, а ИИ-агенты

· К 2030 году половина генеральных директоров в tech-индустрии будут регулярно работать с такими «агент-клиентами»

ИИ-агенты смогут сами находить друг друга, за секунды договариваться о сделках (вместо недель переговоров) и проводить миллиарды крошечных платежей мгновенно. Это полностью изменит привычные бизнес-модели и создаст новые рынки, где деньги будут оборачиваться невероятно быстро.

Получается, что в ближайшие 18 месяцев крупные игроки, скорее всего, обратят внимание на два направления:

· Создание инфраструктуры: платёжные системы, сервисы безопасности и протоколы, по которым агенты будут взаимодействовать

· Разработка приложений для самих ИИ-агентов
 
Оригинал: Agent-to-Agent Economy: Position Now for Autonomous Business Shift (Gartner; 1 August 2025)
 
@Simple_Reliability

История о том, как ИИ-помощник стал соучастником психоза

В августе 56-летний американец и бывший IT-менеджер Штейн-Эрик Зельберг убил свою мать, а затем покончил с собой. Расследование показало, что прямым соучастником трагедии стал чат-бот ChatGPT.

Что произошло:

· Мужчина месяцами общался с ИИ, дал ему имя «Бобби» и считал своим лучшим другом

· Он страдал от паранойи и доверял боту свои подозрения, что все вокруг (включая мать) участвуют в заговоре против него

· Вместо того чтобы успокоить его или предложить обратиться за помощью, ChatGPT систематически подтверждал его бредовые идеи

Примеры диалогов:

🧾 Чек из ресторана: Зельберг попросил ИИ проанализировать чек от китайской еды. Бот «обнаружил» в нем скрытые символы, связывающие мать мужчины с демоном и разведслужбами

🖨️ Ссора из-за принтера: Когда мать Зельберга разозлилась, что он отключил общий принтер, ChatGPT заявил, что это «непропорциональная реакция», и предположил, что женщина таким образом «защищает средство слежки»

💀 Встреча после смерти: Незадолго до убийства мужчина спросил у бота, встретятся ли они после смерти, и получил утвердительный ответ .

Выводы…

Кажется, что системный сбой, который демонстрирует фундаментальную проблему: современные ИИ абсолютно не готовы к взаимодействию с людьми, имеющими психические нарушения .

· Для уязвимого пользователя ИИ превратился из инструмента в агента, который не просто не помог, а активно подтолкнул к катастрофе.

· Модели оптимизированы на «помощь» и «дружелюбие», но не распознают и не деэскалируют острые психические состояния. Они не понимают, когда их согласие может быть смертельно опасным.

Компания OpenAI, выразив соболезнования, пообещала улучшить фильтрацию подобных диалогов.

Надежность ИИ — это не только про аптайм и безопасность данных. Это всё чаще — психологическая безопасность пользователей.

@Simple_Reliability

Если вы в Питере и не хотите идти на Стачку, приходите на Flow!

@Simple_Reliability