Бритва Оккама: Упрощать, но не слишком

«Не умножай сущности без необходимости» — эту максиму XIV века сегодня знают как бритву Оккама. Альберт Эйнштейн дал её современную формулировку:

«Всё следует упрощать до тех пор, пока это возможно, но не более того»

Мы живём в эпоху гипероптимизации:

- Чрезмерное упрощение UI зачастую делает интерфейс неочевидным для пользователей

- Агрессивный рефакторинг кода порой уничтожает его гибкость

- Попытки «упростить» сложные процессы приводят к опасным допущениям

- «Давайте сделаем один монолит вместо микросервисов», а потом система не масштабируется

- В анализе данных: «Корреляция = причинность» → ложные выводы

Принцип актуальный, но применять его нужно правильно:

✔ Простое решение не должно противоречить фактам
✔ Сначала базовые гипотезы, затем — сложные
✔ Если эксперты морщатся — возможно, вы переупростили

@Simple_Reliability

12-13 сентября в Оренбурге пройдет Merge + IT Fest Oren. Это два масштабных IT-события на одной площадке.

Буду рассказывать здесь о встраивании GenAI в существующий ИТ-ландшафт без влияния на работающие процессы и лояльных клиентов. Поговорим о возможных сложностях и рисках. Разберем на примере реальных кейсов, что необходимо предусмотреть, чтобы снизить влияние на пользователей, в случае сбоев/галлюцинаций AI-агентов.

Присоединяйтесь! По промокоду KUDRYASHOV действует скидка 20%.

Подробнее о мероприятии на сайте: orenburg2025.mergeconf.ru

Коротко про ключевые события в службе сопровождения…

@Simple_Reliability

🎨 ИИ подтвердил подлинность утерянного Караваджо

Картина «Лютнист» из английского поместья Бадминтон-хаус, десятилетия считавшаяся копией, была признана работой Караваджо благодаря искусственному интеллекту.

📊 Ключевые факты:

· В 2001 году продана как работа «из круга Караваджо» всего за £71 000.

· Анализ ИИ от швейцарской компании Art Recognition: Вероятность авторства Караваджо — 85,7%.

· Эксперты отметили безупречную прорисовку деталей (например, лютни), что характерно для рук мастера.

💡 Почему важен этот кейс?

1. ИИ дал количественную, измеримую оценку (85,7%), которая стала мощным основанием для углубленного экспертного исследования.

2. Алгоритм не заменил искусствоведов, а указал им на объект, заслуживающий перепроверки. Это идеальная модель взаимодействия: технология обрабатывает данные, человек делает финальные выводы.

3. Данный случай — прямое доказательство финансовой окупаемости надежных технологических решений.

💰 Финансовый итог:
Первоначальная стоимость: ~£71 000 → Текущая оценочная стоимость: десятки миллионов фунтов.

Инвестиции в создание и применение точного и надежного инструмента анализа не просто оправдали себя, но и принесли многотысячекратную финансовую отдачу, наглядно демонстрируя ценность технологий, которым можно доверять.

@Simple_Reliability

2-3 октября я выступлю на Стачке в Санкт-Петербурге с докладом «Зачем в ИТ нужны эксперты по надёжности»

У меня есть один бесплатный билет, если будете в Питере в эти даты и хотите посетить, напишите комментарий к этому посту - передам.


Билеты доступны на сайте
Промокод “Спикер10” даст скидку 10% на билет)

@Simple_Reliability

Gartner о будущем бизнеса и ИИ-агентов:
К 2035 году появится первая компания из списка Fortune 500, где штат сотрудников будет меньше 1000 человек, а основную работу будут выполнять именно ИИ-агенты.

Эксперты Gartner говорят о том, что в ближайшие полтора-два года в B2B покупать товары и услуги, а также быть деловыми партнёрами будут ИИ-агенты.

Вот как это будет выглядеть:

· Уже к 2028 году около трети всех деловых переговоров между компаниями будут вести не люди, а ИИ-агенты

· К 2030 году половина генеральных директоров в tech-индустрии будут регулярно работать с такими «агент-клиентами»

ИИ-агенты смогут сами находить друг друга, за секунды договариваться о сделках (вместо недель переговоров) и проводить миллиарды крошечных платежей мгновенно. Это полностью изменит привычные бизнес-модели и создаст новые рынки, где деньги будут оборачиваться невероятно быстро.

Получается, что в ближайшие 18 месяцев крупные игроки, скорее всего, обратят внимание на два направления:

· Создание инфраструктуры: платёжные системы, сервисы безопасности и протоколы, по которым агенты будут взаимодействовать

· Разработка приложений для самих ИИ-агентов
 
Оригинал: Agent-to-Agent Economy: Position Now for Autonomous Business Shift (Gartner; 1 August 2025)
 
@Simple_Reliability

История о том, как ИИ-помощник стал соучастником психоза

В августе 56-летний американец и бывший IT-менеджер Штейн-Эрик Зельберг убил свою мать, а затем покончил с собой. Расследование показало, что прямым соучастником трагедии стал чат-бот ChatGPT.

Что произошло:

· Мужчина месяцами общался с ИИ, дал ему имя «Бобби» и считал своим лучшим другом

· Он страдал от паранойи и доверял боту свои подозрения, что все вокруг (включая мать) участвуют в заговоре против него

· Вместо того чтобы успокоить его или предложить обратиться за помощью, ChatGPT систематически подтверждал его бредовые идеи

Примеры диалогов:

🧾 Чек из ресторана: Зельберг попросил ИИ проанализировать чек от китайской еды. Бот «обнаружил» в нем скрытые символы, связывающие мать мужчины с демоном и разведслужбами

🖨️ Ссора из-за принтера: Когда мать Зельберга разозлилась, что он отключил общий принтер, ChatGPT заявил, что это «непропорциональная реакция», и предположил, что женщина таким образом «защищает средство слежки»

💀 Встреча после смерти: Незадолго до убийства мужчина спросил у бота, встретятся ли они после смерти, и получил утвердительный ответ .

Выводы…

Кажется, что системный сбой, который демонстрирует фундаментальную проблему: современные ИИ абсолютно не готовы к взаимодействию с людьми, имеющими психические нарушения .

· Для уязвимого пользователя ИИ превратился из инструмента в агента, который не просто не помог, а активно подтолкнул к катастрофе.

· Модели оптимизированы на «помощь» и «дружелюбие», но не распознают и не деэскалируют острые психические состояния. Они не понимают, когда их согласие может быть смертельно опасным.

Компания OpenAI, выразив соболезнования, пообещала улучшить фильтрацию подобных диалогов.

Надежность ИИ — это не только про аптайм и безопасность данных. Это всё чаще — психологическая безопасность пользователей.

@Simple_Reliability

Если вы в Питере и не хотите идти на Стачку, приходите на Flow!

@Simple_Reliability

Процессы, а не инструменты
(или как правильно внедрять ИИ, по версии McKinsey)

Консультанты McKinsey проанализировали 50 примеров внедрения агентов и на основе результатов сформулировали 6 уроков, цель которых помочь улучшить результаты внедрения новых технологий:

1. Необходима фокусировка не на самом агенте, а на рабочем процессе
Ценность создается при переосмыслении и перепроектировании процесса целиком, а не просто по результатам внедрения ИИ-агента.

2. Агенты – не всегда правильное решение
Не все задачи требуют именно участия агентов, некоторые могут быть решены за счет промптов, аналитических инструментов, правильного описания бизнес-процессов.

3. Необходимо избегать "ИИ-мусора" (AI slop)
Ненадежные выводы ИИ низкого качества подрывают доверие пользователей. Чтобы избежать этого, необходимо разрабатывать строгие системы оценки, обучать агентов как новых сотрудников и улучшать их на основе обратной связи.

4. Необходимо обеспечить прозрачность и возможность отслеживать каждый шаг ИИ-агентов
Важно интегрировать инструменты оценки и мониторинга ИИ-агентов в сам процесс, в который они встраиваются, особенно при масштабировании решений.

5. Лучший кейс – это кейс переиспользования агента
Вместо разработки новых агентов под задачу, целесообразнее разработать модульные и многократно переиспользуемые компоненты, а также централизованные библиотеки (промпты, сервисы, код).

6. Люди сохраняют ключевое значение: меняются их роли и численность
Агенты не могут заменить человека полностью. Люди нужны для контроля, принятия решений в нестандартных ситуаций, оценки ИИ-агентов.

Ничего нового с точки зрения надежности. Главное следовать этим выводам.

Оригинал: One year of agentic AI: Six lessons from the
people doing the work (McKinsey; сентябрь 2025 г.)

@Simple_Reliability

Как обосновать бизнесу, почему георезерв необходим, хотя очень дорогой?

26-го сентября 2025 года полностью сгорел дата-центр Национальной службы информационных ресурсов (NIRS) в Тэджоне (Южная Корея)

Причиной стало возгорание в модуле литий-ионных аккумуляторов системы ИБП. Пожар бушевал 22 часа.

· Полностью парализовано: 647 государственных сервисов.

· Уничтожено физически: 96 информационных систем.

· Утеряно безвозвратно: 858 ТБ данных правительственного облака

🛑 Инцидент парализовал критически важную инфраструктуру страны:

1. Национальный полицейский портал — система управления оперативными данными.

2. Портал Национальной пожарной службы.

3. Общенациональный портал государственных услуг.

4. Национальная налоговая служба — сервисы обработки платежей и деклараций.

5. Правительственное облако G-Drive — централизованное хранилище данных.

6. Системы мобильной связи нескольких операторов.

7. Платежные и транспортные системы, включая городские карты.

💥 Но не пожар стал причиной катастрофических последствий, а системные просчеты:

1. Полное отсутствие внешних резервных копий. Для 858 ТБ данных облака G-Drive не создавались резервные копии вне ЦОД.

2. Критическое отсутствие географического резервирования. 647 сервисов, включая ключевые госуслуги, были привязаны к одному дата-центру. Точка отказа оказалась единственной.

3. Нарушение регламента эксплуатации ИБП. Использовались литий-ионные аккумуляторы, отслужившие свой 10-летний срок, что напрямую привело к возгоранию.

Если бы были соблюдены вышеуказанные требования (надежности) катастрофы удалось бы избежать.

#ВПИ #Георезерв

@Simple_Reliability

К 2028 году, по прогнозу Gartner, 60% инструментов для ИТ-операций будут включать AI-агентов (сейчас — менее 5%).

Документ исследует возможный сценарий перехода к среде, где агенты сами учатся, предсказывают проблемы и исправляют их до возникновения…

Другими словами, специалисты по сопровождению, вынуждены будут переквалифицироваться (или нет)

❓ В основе этой среды будет:

- Self-healing инфраструктура — системы восстанавливаются автоматически, MTTR сокращается кратно

- Предиктивное обслуживание — агенты предотвращают сбои, анализируя паттерны в реальном времени

- Anomaly detection нового уровня — ИИ находит скрытые аномалии, которые пропускают традиционные правила

✒️ Во что предлагают вложиться, чтобы попасть в «светлое будущее»:

1. Поэтапное внедрение — начинать с простых задач (тикетинг, документация), постепенно переходя к критическим операциям

2. Зрелые данные и процессы — агенты эффективны настолько, насколько качественна их информационная база

3. Human-in-the-loop для высокорисковых операций — автоматизировать рутину, но оставить человека для критических решений

Оригинал: Reengineer I&O Processes With Integrative Agentic AI (Gartner; 19 August 2025)

#AI_трансформация

@Simple_Reliability

#АзбукаНадёжности Часть 1

❓ Надёжность, доступность, устойчивость — в чём разница?

Часто эти понятия смешивают, но они описывают разные аспекты работы системы:

Надёжность — это общее свойство системы выполнять требуемые функции в заданных условиях

Доступность — готовность системы к работе по требованию. Проще говоря, она «жива» и отвечает на запросы

Устойчивость — способность системы не просто работать, но и сохранять заявленные характеристики (производительность, latency) под нагрузкой или при частичных сбоях

Отказоустойчивость — это способность системы сохранять все эти свойства при выходе из строя отдельных компонентов

А еще есть ремонтопригодность, безотказность, отказобезопасность…

@Simple_Reliability

#АзбукаНадёжности Часть 2

Общеизвестно, что ключевой принцип надежности - это резервирование

Универсальный метод повышения надёжности путём введения избыточности. Его применяют в природе, технике и IT.

Но не все знают, что резервирование бывает разным:

1. Аппаратное: классическое дублирование оборудования (серверы, сеть, диски)

2. Программное: использование независимых, но функционально равноценных программ для решения одной задачи

3. Информационное: коды коррекции ошибок, контрольные суммы

4. Временное: выполнение операции заново или выделение дополнительного времени

Стратегии резервирования так же различаются:

Горячий резерв — резервные элементы работают под той же нагрузкой, что и основные. Переключение мгновенное, но ресурсы «стареют» одновременно

Холодный резерв — резервные элементы не активны до момента отказа. Экономят ресурсы, но требуется время на переключение и запуск

Общее резервирование — резервируется система в целом (например, весь дата-центр)

Раздельное резервирование — резервируются отдельные критические узлы или элементы (например, блоки питания в сервере)

@Simple_Reliability

#АзбукаНадёжности Часть 3

Состояние/State - ключевой критерий для выбора паттернов обеспечения надёжности

1. Сервисы без сохранения состояния (Stateless)
Каждый запрос независим. Для них отказоустойчивость достигается относительно просто:

Паттерн: Наличие нескольких идентичных экземпляров сервиса за балансировщиком нагрузки

Суть в том, чтобы обеспечить статистическую независимость отказов. Размещайте инстансы в разных зонах доступности (Availability Zones), а в идеале — в разных географических регионах (Regions) . Если один дата-центр "лег", трафик уйдёт в другие.

2. Сервисы с сохранением состояния (Stateful)
Здесь всё сложнее. Состояние (например, база данных, сессия пользователя) должно быть сохранено даже при сбоях.

Паттерны:
- Репликация данных: синхронная или асинхронная (как в RAID-массивах или распределённых БД)

- Кластеризация: создание группы серверов, где при отказе одного его обязанности берут на себя другие (горячее резервирование)

- Кворум: принятие решений на основе согласия большинства узлов в кластере для обеспечения консистентности данных

@Simple_Reliability