Облачные грабли: немного об IT косяках
8 subscribers
17 photos
2 files
18 links
Download Telegram
Однажды согласился на низкую ставку. Без ретейнера, почасово.

Любую их задачу закрывал за 10 минут. Большую — за 30. Получал копейки.
Энтузиазма — отрицательное количество. Но договор есть договор, я обещал.

В какой-то момент дошло: цена определяет отношение. В обе стороны.

Выработал систему.

Алгоритм работы с дешёвым клиентом:

1. Пришла задача → приписать 30 минут «на изучение деталей»
2. Включить таймер. Не торопясь посмотреть в чём дело
3. Сделать чай
4. Решить проблему
5. Тест. Комментарий в тикет. Ещё раз проверить. Отправить.
6. Остановить таймер

Работать стало заметно интереснее.

Качество то же. Результат тот же. Часов больше. Все довольны.

Новых таких клиентов беру только на ретейнер. Или не беру вообще.
Я ненавижу обновлять приложения на телефоне.

MS Authenticator - шрифт стал настолько крупным, что похож на бабушкофон. Было 12 строк, стало 8. Ну еперный театр - и раньше надо было крутить, а теперь ещё больше.

В приложении часов на OnePlus сменили циферблат - теперь 24-часовой формат. На аналоговом циферблате.

Команда, которая это выпустила, считает что улучшила продукт? Маркетологи, видимо, на голову насрали.

Откатиться? На телефоне - искать старый APK или восстанавливать из бэкапа. В инфраструктуре - ещё веселее.

Официальная документация утилиты от Grafana Labs. Опции указаны, версия совпадает - не работает. Собрал образ сам, из не-master ветки, из третьей подпапки.

Ubuntu 18.04 → 20.04: /usr/bin/python просто исчез. Все Ansible плейбуки сломались. Молча.

Это не лень. Это выученная боль.

"Работает" - не значит "будет работать после обновления".

Поэтому девопсы не любят трогать то, что работает. Иногда это единственное разумное решение.
"Доступно обновление системы" - знакомое сообщение? Вспомните такое окошко.
Нажал. Подождал. Готово.

В ит инфраструктуре так не работает.

---

Да, девопсы не любят обновления. Но обновлять надо - уязвимости, новые фичи, прекращение поддержки. Ладно, мы ленивые черти, мы это автоматизируем.

Если мы разрабатываем приложение - настраиваем пайплайн, это наша работа. Дальше проблема разработчиков. Сломают что-то - их боль.

А если мы обновляем наши, инфраструктурные тулзы? Версию k8s, prometheus, grafana, логи и тд. Тут всё сложнее. То, что для разработчиков дев-среда - для нас всё равно прод. Используется. Да, не настолько критично как реальный прод, но всё же.

---

Давайте возьмём кубер для примера - там зацепим и всё остальное.

Итак, как мы обновляем kubernetes кластер:

1. Смотрим changelog
2. Проверяем список deprecated и удалённых фич
3. Проверяем кластер: какие из них у нас используются
4. Находим старые чарты, манифесты, которые на них полагаются - обновляем
5. Ищем свежую версию чарта, сравниваем: параметры, шаблоны, values, дефолтные значения, переименования
6. Обновляем values.yaml
7. helm upgrade --atomic (и --reuse-values, по ситуации)
8. Смотрим: всё установилось, запустилось, ничего не упало

Если новой версии нет, или это самописный чарт - обновляешь сам. Форкаешь, правишь шаблон, или используешь Kustomize.

А обновление самого кластера - получается, в следующий раз. Всё как в жизни.

---

Итого: мы ещё даже до самого кластера не добрались. Только чарты обновили. И уже голова пухнет.

И всё это - в голове у одного человека. Максимум что вы узнаете на созвоне - "обновляю чарты, до кластера пока не добрался, почти половина готова".

Пока он не ушёл в отпуск. Или не уволился.

Bus-factor, помним.

---

Сколько helm-чартов у вас в кластере? И когда последний раз обновляли все?
Ладно. "В следующий раз" наступил.

Обновление самого кластера. Чарты обновили, деплои проверили - теперь очередь за нодами.

---

В случае managed - EKS, GKE, AKS - там действительно есть кнопка. С нюансами: надо следить за версиями аддонов, нод-групп, и не прыгать через минорные версии. Но в целом - терпимо.

В случае self-hosted - обновляем сами. В kubeadm нет кнопки "обновить кластер". Есть последовательность, которую нельзя перепутать:

1. Бэкап (он должен быть регулярным, но особенно - перед обновлением)
2. kubectl drain <node> - выгоняем поды с ноды
3. apt-mark unhold kubelet kubeadm kubectl
4. apt install kubelet=1.32.0-1.1 kubeadm=1.32.0-1.1 kubectl=1.32.0-1.1 - версию указываем явно
5. kubeadm upgrade apply - на мастере, потом kubeadm upgrade node на воркерах
6. Правим если что-то не так
7. kubectl uncordon <node>, проверка
8. Повторяем для каждой следующей ноды

Одна нода за раз. Не все сразу.

---

В случае kubespray, talos и подобных - обновляем через ту же систему. Но сверяем версии зависимостей: kubespray тоже не всегда успевает за upstream k8s.

После обновления: проверить поды, метрики, алерты.
Потом повторить всё то же самое на проде - с учётом косяков, найденных в деве.

---

Прошло две недели. Очередной созвон.
"Обновляю ноды, осталась последняя треть."

Это не прокрастинация. Это реально столько занимает.

Пока идёт обновление - в голове одновременно: совместимость версий, какая нода уже обновлена, что сломалось в деве и надо учесть на проде, не забыть проверить алерты после каждой ноды. Один человек. Полное внимание.

У него куча заметок, списков, чтобы не забыть и не перепутать ничего. К сожалению, это его личные заметки, а не документация. Документацию он сделает потом, если успеет после обновления и до следующей "срочной" задачи. Хорошо бы хоть список траблшутинга был читаемым.

Если не написать документацию сразу - через месяц разобраться в заметках можно только воспроизведя весь процесс заново. При следующем обновлении он сможет быстрее фиксить проблемы. Но не избежать их.

Для менеджера это значит: новая фича - подождёт. Срочный фикс - зависит от серьёзности. Онбординг нового разработчика - не лучшее время. Обновление кластера блокирует не одну задачу - оно блокирует весь ритм команды на недели.

Bus-factor здесь не абстрактный. Это конкретно: уйдёт - и вместе с ним уйдут те заметки, список граблей с прошлого обновления, понимание "почему мы делаем вот так, а не иначе". Следующий человек начнёт сначала. С теми же граблями.

---

У вас есть runbook по обновлению кластера? Или это "спросить Васю"?
Подписывайся. Пока Вася ещё здесь.

P.S. Это было обновление самого кластера. Но есть ещё один уровень - базовая ОС под ним. Об этом в очередной следующий раз.
Потратил два часа делая всё правильно.
Terraform. CodeBuild. IAM роли. VPC endpoints.
Я ошибался.

---

У нас есть AWS China аккаунт. Приложение для китайских пользователей.

Два ECS сервиса. 0.25 CPU. Минимум памяти. Приложение + MongoDB.
Вокруг: ALB, Service Discovery, ECR, VPC, EFS, пара VPC endpoints.
Итого ~1800 юаней в месяц. Всё работает.

Образ собирается на CircleCI, пушится в AWS CN ECR.

---

Потом пуш стал падать по таймауту - 10 минут.

Образ - всего 120 МБ. Проблема не в размере.
Проблема в том, что AWS China за Великим китайским файрволом.
Скорость внешнего канала непредсказуема. CircleCI в США толкает образ в cn-northwest-1 - лотерея по времени.

---

Думаю: переехать на CodeBuild. Логика железная.

CircleCI заливает только исходники - 5 МБ. Триггерит CodeBuild внутри CN.
CodeBuild сам собирает образ и пушит в ECR. Внешний канал - только для кода, не для 120 МБ образа.

---

Понедельник, 16:00. Два часа до конца рабочего дня.

Начал делать. Увлёкся.

Дополнительный модуль Terraform. Параметры в Terragrunt. IAM роли - там всегда отдельная история: разделение прав в AWS замороченное, не зря его везде упоминают отдельно.

Когда закончил и открыл схему - было приятно смотреть. Чисто. Логично. Внешний канал только для исходников. Образ никогда не пересекает файрвол.

Пришло время деплоить. Я всегда в этот момент делаю паузу - отвлечься, ещё раз просмотреть, иногда проговорить вслух. Помогает поймать то, что не замечаешь в процессе.

Поймал.

ECR VPC endpoints. Их два.

Я уже думал об этом когда впервые запускал ECS. Казалось странным: ECS без ECR не работает - почему я должен платить за два дополнительных эндпойнта? Ладно, тогда принял как данность.

Но сейчас я их добавил зачем?

---

Потом посчитал.

Каждый VPC endpoint - $0.01 в час за зону. Две зоны - $14 в месяц с эндпойнта. Два эндпойнта - $29 в месяц суммарно.
Образ собирается раз в полгода.

$348 в год. За два билда.

Убрал оба - работает и без них.

---

Ладно. Но потом думаю дальше.

Я потратил 2 инженерных часа. Это не бесплатно.
CircleCI раннер с увеличенным таймаутом - сколько он стоит за запуск раз в полгода?

Посчитал: копейки.

Итог: просто увеличил таймаут до 20 минут. Закрыл тикет.

---

Это не история про лень.

Это история про то, как легко начать делать правильно - и не заметить, что правильное решение стоит дороже проблемы.

Новый сервис. Новые права. Новые endpoints. Новые деньги. Каждый шаг логичен. Сумма - нет.

---

Инфраструктура обрастает сложностью не потому что кто-то хочет зла.
А потому что каждое отдельное решение выглядит разумно.

Именно это я проверяю на аудитах - не отдельные сервисы, а сумму решений.

→ itaudit.yushkov.org
Я критиковал helm-чарты bitnami за сложность. Потом сам написал такое же.

---

Было у клиента: laravel-приложение, mongodb рядом, postgres managed. Просто задеплоить. Написал chart с нуля - 30 строк. Минималка, работает.

Потом понадобились env переменные. Дописал.
Решил сразу добавить - секреты, PVC монтирование.
Потом отдельно - affinity правила. Дописал.
Решил переиспользовать для другого приложения - нашёл хардкод имени в трёх местах. Дописал хелперы. Аннотации. Метки.

Штук десять итераций примерно.

Открыл chart. Посмотрел на номер строки.

220 строк.

Не 500. Но уже не 30.

---

Вот так вот.

Bitnami чарты написаны для любого приложения в любом кластере с любыми требованиями. Из-за этого 500 строк.

Я писал под конкретный проект - и всё равно пришёл к 220, потому что реальность всегда сложнее чем кажется в начале.

Разница одна: у них всё предусмотрено заранее. У меня - по мере появления.

---

- Нужно быстро и стандартно → bitnami
- Нужен контроль над деталями → пишешь свой, это несложно.

Лично я предпочитаю идти вторым путём - мне часто нужны перламутровые пуговицы.

Универсальность стоит сложности.
Просто не всегда твоей.
Компания платит $5 000 в месяц за DataDog.

И $2 000 в месяц за CloudWatch.

Одновременно. Вся инфра - только AWS.

Я спросил: зачем оба?

- Мы привыкли.

Пять лет назад подключили DataDog - для универсальности. Или потому что планировали расширение, которое так и не случилось. Всех устраивало.

Несколько лет назад компания пережила банкротство - продали половину бизнеса. Выжили, перестроились. DataDog остался.

$7 000 в месяц на мониторинг. По привычке.

Деньги, которые уходят потому что никто не задал вопрос.
Им нужен Kubernetes. Это не мнение - я проверил.

Микросервисы, несколько команд, разные циклы деплоя.

Кластер есть - kubernetes нет. Использовали как сервер-помойку с кучей сайтов.

- Нагрузка без requests/limits.
- Namespace projectname-dev соседствует с website-www - то есть с продом.
- Три ноды, без автоскейлинга и мониторинга.
- StorageClass только RWO - общий диск без affinity не работает, с affinity теряется смысл.
- Деплой сырых манифестов через kubectl apply, образы с тегом latest.

И вот я пришёл. Создал Helm chart для нового сервиса с requests/limits - как положено.
Новый под завис Pending.

Кластер overprovisioned.

Вопрос не "нужен ли вам Kubernetes".

Вопрос - готовы ли вы к нему.
"БД в рид-онли, ничего не работает."

Без уточнения. Какой проект, какое приложение - не написали.
У клиента их четыре и десять.

Нашёл нужный.

Диск - 100%. Реплика - read-only:on. Смотрю размеры таблиц:


exception_logs | 33 ГБ
failed_jobs | 15 ГБ
jobs | 22 ГБ


Нахрена писать логи в ту же базу что и данные?

Ладно. Смотрю что в этих логах:


cURL error 6: Could not resolve host: teams-webhook-url


В helm values кто-то добавил:


TEAMS_WEBHOOK_URL: "teams-webhook-url"


Буквально строку "teams-webhook-url". Идея - пусть берёт значение из переменной Bitbucket Pipelines. Вот только в пайплайне забыли его установить через --set.

И понеслось:

exception → пишет лог в БД → пытается отправить в Teams → хост не резолвится → exception → пишет лог → пытается отправить → ...

Пока не забило диск.

Попробовал почистить таблицы - не вышло.
База managed в OVH: пользователей создаёшь через веб-интерфейс, суперпользователя назначить нельзя - OVH не даёт.
А без суперпользователя писать в read-only базу невозможно.

Остался один вариант. Сбросил базу. Восстановил из бэкапа.

Итог: система оповещений об ошибках положила базу данных.

Бэкап был. Повезло.
Если вы узнали что прод упал - от клиента -
у вас не прод. У вас MVP.

Вы запустили продукт. Клиенты им пользуются. Уже хорошо.
Но продакшен без мониторинга - это ваш клиент в роли дежурной смены.

На интервью DevOps-инженера спрашивают: "как вы действуете при звонке 'прод упал'?"
Хороший ответ: "такого звонка не должно быть".

Не потому что DevOps такой крутой.
А потому что система должна знать о проблеме раньше клиента. Всегда.

Как выглядит нормально:

СТО утром получает сообщение:
"Ночью упало X. Даунтайм 5 минут. Причина такая. Пофиксили так. Постмортем к вечеру."

Не звонок от клиента. Отчёт от команды.

Если у вас иначе - вопрос не к DevOps.
Вопрос к вам: как так получилось, что клиент узнал раньше?
💯2
"Прод упал" - это не задача. Это начало разговора.
DevOps знает какой прод упал - или ждёт пока объяснят?

Листал ленту LinkedIn. Увидел пост про "многие девопсы не знают" - и там вопрос: "прод упал, что сделаешь первым делом?"

Ответил в комментарии: "спрошу какой именно прод".

Меня поддержало мало людей. Большинство рассказало как они в AWS будут что-то проверять.

Ребят, а с чего вы взяли что это в AWS?

У одного моего клиента инфраструктура: AWS, GCP, Alibaba и AWS-CN.
Чем мне помогут логи AWS?

По-хорошему - алерт от мониторинга уже ответил бы на этот вопрос. Но раз звонок случился:

Итак, прод упал.
Что я сделаю первым?
Я спрошу: что конкретно упало, что видит клиент, как давно?

Потом - документация, ранбуки. Потом логи и метрики.

Не после того как посмотрю логи. До.

Кто не спрашивает - тот тушит соседний дом вслепую.
👍1
S3 выглядит дёшево. Пока не посмотришь в счёт.

Коллега рассказал: предложили им сделать бэкап данных в Yandex Cloud. 600ТБ.
Посчитали egress из S3.
Разговор закончился.

---

У меня была похожая история, но поменьше.

~60ТБ в S3, три аккаунта, около 50 бакетов. Приложение крутится в GKE.
Данные идут из S3 в приложение - платим S3 egress на каждом запросе.
Попросили посмотреть: может дешевле держать в GCP Buckets, раз уж инфра там?

Посчитал только хранение: S3 $1,422/мес, GCS $1,237/мес. Разница $185.
Egress при переезде $5,530 разово. Окупаемость ~30 месяцев.

Посчитал трафик: $101/мес egress S3→GKE - внутри GCP бесплатно.

Итого: экономия $286/мес. Окупаемость ~19 месяцев.

---

Но вот что интересно.

Трафик показывает: из 60ТБ за год выкачивается дай бог треть.
Остальное - мёртвый груз.

Что реально делать:

Включить Storage Lens - хотя бы бесплатный. Понять что вообще есть в этих бакетах, что читается, что лежит мёртвым грузом.
Потом сесть и проверить содержимое: старые ушедшие клиенты, старые версии, просто мусор. Да, долго и муторно. Но скорее всего половину можно просто удалить.

Переписать приложение: при получении файла из S3 - сохранять копию в GCS. Самые используемые файлы переедут сами, постепенно, без разового egress на $5,500.
Да, это время разработчика - которого всегда не хватает и которое можно потратить на фичи или закрытие уязвимостей.

---

Никто этого не делает. Потому что больно, долго, не горит.

А Amazon тебя не торопит.
Просто регулярно выставляет счёт.
Как сломать свой HA мониторинг одним дашбордом?

Все мы знаем что HA делается для "высокой доступности" - распределения нагрузки на несколько инстансов плюс на случай если один упадёт, второй-третий продолжат работать без него.

И это правильно. Но всегда есть нюансы. Например, сломать или перегрузить внутреннюю логику самого приложения - когда выполняя заложенную функцию оно дохнет. На это направлены атаки DoS: заставить приложение выполнять тяжёлую работу простым запросом.

---

Само приложение работало нормально. Все мы знаем что ботнеты сканят всё подряд в поисках уязвимостей - возможно доступные php файлы, известные пути, всё такое. Не персональная атака, просто вдруг что найдётся.

Но как результат этих запросов мы получали быстрорастущий список уникальных метрик - каждая метрика имела label endpoint с уникальным путём, который ботнет перебирал сотнями. Не нескольких метрик с разными значениями, а тысячи уникальных метрик с несколькими значениями каждая.

Для Prometheus это очень дорого - на каждую метрику создаётся своя серия данных. И если в одной серии данные хранятся компактно, то много коротких серий занимают гораздо больше места.

Thanos storage пух. Незаметно.

---

При чём здесь дашборд?

Да, Prometheus хранил лишние данные, это неприятно. Но уронился мониторинг не этим, а одним дашбордом показывающим параметры приложения: здоровье, время отклика, количество ошибок, всё такое.

И этот дашборд для графиков дёргал метрики. Все метрики приложения. Все серии данных. Они короткие, но их очень много.

И тут не помогал никакой HA - при выполнении запроса promql thanos-query выжирал память как не в себя и убивался по resource limit. Каждая реплика, по очереди.

(А до этого убивал ноды, специально выделенные под мониторинг - изначально лимиты не были прописаны. Вот такой HA.)

---

Попытка сделать высокую доступность мониторинга успешно херилась кривыми метриками приложения.

Дашборд который должен был показывать что всё работает - ронял мониторинг при открытии.
Prometheus бесплатный. Пока не посчитаешь.

Смотришь на кластер - и начинаешь считать: а это что за поды?


prometheus-0 3387 MB
prometheus-1 3028 MB
thanos-store-0 439 MB
thanos-store-1 899 MB
thanos-query 486 MB
thanos-query 139 MB
thanos-compact 300 MB
thanos-bucket 13 MB
grafana 334 MB
kube-state-metrics 40 MB
prometheus-operator 21 MB
prometheus-adapter 24 MB
blackbox-exporter 16 MB
node-exporter ×8 ~10 MB каждый


Это только мониторинг. ~9.5 GB RAM, 20+ подов.

---

kube-prometheus-stack разворачивает всё это одной командой. Дефолты почти разумные - надо только включить хранилище и выставить лимиты под свой кластер. По умолчанию ни того ни другого нет.

На трёхнодовом кластере стек мониторинга легко занимает 20-30% ресурсов кластера. Это до того как начал мониторить само приложение. На больших проектах мы обычно выделяем отдельный nodepool под мониторинг - минимум две ноды. Чтобы мониторинг не аффектил рабочую нагрузку. И чтобы рабочая нагрузка не влияла на мониторинг.

Это уже не просто ещё несколько подов. Это отдельные машины которые работают круглосуточно.

---

Главный пожиратель - Prometheus. И RAM и диск зависят от трёх вещей: сколько метрик, как часто скрейпишь, сколько хранишь.

Грубая математика: 100 000 метрик × 30 дней retention × скрейп каждые 15 секунд ≈ 25-40 GB. Это небольшой кластер. Нагруженный - 500K метрик → 200-300 GB. И это только Prometheus.

---

Стоимость обслуживания считают реже чем стоимость ресурсов.

Обновление стека - раз в квартал разумно, breaking changes бывают (да и при minor версии тоже, хоть и не должен). Ревизия алертов - старые rules устаревают вместе с приложениями, алерт на сервис которого уже нет это просто шум. Grafana дашборды - кто-то должен их поддерживать. Обычно никто. Потом "а почему тут данные не показываются" - а сервис переименовали три месяца назад.

Реалистично: 2-4 часа в месяц если всё здорово. Плюс время на инциденты.

---

Prometheus бесплатный.
За Datadog ты не платишь - ты же его не покупал.

Берут временем людей, ресурсами кластера и вниманием которое надо поддерживать чтобы это работало.

Ты знаешь сколько это стоит тебе?
👍1
Это мистер Коди. Он приходит к тем кто лжет и заставляет их исправиться.

Слышит по радио: "все говорят о том-то". Лезет за ручкой. "Мы с тобой говорим об этом? Нет. Значит лгут. Надо навестить."

Трасса 60. Было смешно. Запомнилось.

Листаю линкедин.
"Все используют kubernetes..."
"Все уже используют AI..."
"Все/Никто блабла..."

"Все" - это такой эвфемизм "я не знаю, но хочу набросить на вентилятор и словить хайп".
Кто эти все? Они с вами сейчас в одной комнате?

В коде переменная без значения не компилируется. В тексте - пожалуйста, написал, опубликовал и ждешь лайки.

Рука тянется к кнопке "перестать отслеживать". Не потому что я хочу что-то продемонстрировать, и пусть он жалеет что я его не читаю.
Нет.
Просто я понимаю что ничего полезного для меня он не скажет.
👍1
«Ну и заодно дай доступ к CloudSQL.»
Нашёл базу на $342 в месяц. В dev.

Разработчик попросил настроить CI/CD в GKE. Ну и «заодно». Добрался до CloudSQL - он уже создал инстанс вручную. К счастью, доступ у него только к dev.
250 ГБ - в 25 раз больше нужного. Enterprise Plus - инстанс $342/мес вместо $32 для dev. Публичный IP. В регионе, отличном от кластера - межрегиональный трафик платный, и задержки на каждый запрос.

Дал по рукам. Сделал нормально. (Это включая объяснение как пользоваться bastion host для доступа к CloudSQL без публичной сети.)

---
В течение следующих двух месяцев периодически: "а надо ещё вот это задеплоить". Новый пайп, отдельные права в GCP, допресурсы. Постоянно возникали дополнительные требования.

LB для HTTP2/gRPC, но без TLS на поде. Потом внезапно один сервис оказался WebSocket - "а чего он не работает?" Таймаут. Надо нужный ставить, а не дефолтные 30 секунд.

Потом один из сервисов убрали из GKE - "мы перенесли его в Cloud Function". Ну ок. Как будет готово - допилим IaC.

---
Вечером в пятницу разработчик объявил: "Я думаю, мы готовы деплоить в прод. Не прям срочно, но хотелось бы как можно скорее."

И привёл список из 8 пунктов.

Я настраивал 7. Один удалили. Должно быть 6. Это сильно.

Выясняется.

Тот "удалённый" сервис - это "CloudRun Function". Так Cloud Run или Function? Как деплоили? Тот же репо или отдельный?

8-й пункт - PubSub топик. Тоже создан руками.

---
Звучит как жалоба на дебилов? Ну есть маленько.

Но есть важный нюанс. Без DevOps этот же разработчик смог бы запустить всё это в прод - и оно бы работало. Некоторое время. Вполне реально.

Вот только вопрос цены. Размер инстансов? Больше чем нужно, или ещё хуже - меньше чем нужно. База в другом регионе - трафик между регионами платный, задержки на каждый запрос. Кривые права - один SA с максимальными правами на всё. Отсутствующая автоматизация и резервирование. Публичный доступ ко всему.

Молодцы, сделали так чтобы работало. Теперь давайте проверим и сделаем так чтобы работало надёжно и за разумные деньги.
Что вы почувствуете, когда ваш сайт с историей за 5 лет будет полностью удален одним неловким движением?
Я не могу вас сказать, я не был на той стороне.
Но я могу поделиться что я почувствовал когда сделал это.

Я удалил сайт с хранилищем и базой на 110 гигабайт. Это не особо много, но это вся история бизнеса за 5 лет.
Вы можете сказать - "плохо что даунтайм, наверное целый день/ночь восстанавливал?"
Нет.
Я удалил его полностью, без возможности восстановления.
Потому что там не было никаких бэкапов. Никаких. Ни настроек, ни контента. Ничего.
Сайт буквально жил на носу несущейся ракеты, и я просто был тем самым камешком что сбил его просто коснувшись.

Там не было никаких бэкапов, ни регулярных автоматических, ни ручных, и даже я перед нажатием кнопки delete не сделал бэкап.
Причина? Я удалял не прод, я удалял дев. Но из-за похожих имен я удалил очень нужный, работающий сайт.
Да, это было единое окружение для дев и прод.

Итак, что вы чувствуете? Представьте эту ситуацию:
Ваш успешный сайт/сервис/приложение работало-работало, а потом бац! и ваш сотрудник случайно его удаляет.
Давайте, не стесняйтесь, прочувствуйте это.
5 лет SEO. Позиции в Google которые копились годами - это не восстанавливается за день, это месяцы работы поисковика.
Контент написанный вручную. Аккаунты пользователей. История заказов, обращений, всего что там было.
Все что нажито непосильным трудом, длинными ежедневными часами разработки, написания, редактирования, все пропало.
Совсем пропало. Абсолютно. Исчезло.


ЗЫ:

Здесь должна быть история как мы успешно все восстановили, LessonLearned и прочий буллшит.
Но ее не будет.
Потому что здесь нечего восстанавливать. Да, картинки наверное остались. Может быть осталось что-то еще. Где-то.
Но это не восстановление из бэкапа, даже супердолгое.
Это пересоздание, кем-то как-то... Это может стоить вам бизнеса.
матрица эйзенхауэра, рис, wtf и другие матерные слова в работе инженера

"Как вы расставляете приоритеты между задачами - например, вот фронтендеры хотят срочно сейчас, и бэкендеры тоже хотят срочно сейчас, но другое?"
Я вот задумался...
Как-то не возникало раньше настолько конфликтующих задач, когда час времени влияет. Обычно хватало "сегодня сделаю", и так получалось что что-то я делал в первую очередь (попроще, понятнее, просто быстрее), а что-то во вторую, но в рамках одного дня это не существенно. Если же задача больше чем на один день - то тем более не критично.

-—
В командах с тимлидом это его головная боль. Но работая соло с несколькими командами одновременно - приходилось развивать и навыки планирования.
В-основном это выглядит как интуиция - "это быстро, сделаю", "тут надо копаться, но команде не горит, отложу и спокойно изучу", "это срочно, бросаю все и жечь напалмом".
На самом деле - тут все логично, и даже есть умные слова для определения методик.
Я их не знал, мне хватало нормального описания в книге "Тайм-менеджмент для системного администратора" Томаса Лимончелли, чем, собственно, и руководствовался все 16+ лет.

Но согласитесь, это не тот идеальный ответ, который предполагается в разговоре, где надо показать отглаженный воротничок.
Пошел изучать.

Матрица Эйзенхауэра - это тот крестик с половинами "срочно/не срочно" и "сложно/не сложно", или как-то так. Это первичный фильтр. Прод горит? Чини сейчас. Остальное - сортировка.
RICE - для планирования. (Reach × Impact × Confidence) / Effort. Дает число. Ну а потом сортируешь по величине, да и все.
WSJF - для выбора "что делать прямо сейчас". Учитывает стоимость задержки - что мы теряем каждый день пока не решили. CI/CD падает каждый третий деплой? Каждый день теряются часы инженеров. QA ждет окружение? Пока не ждет - у него есть другие задачи. Отрубился автомат в распредщитке в офисе - оооо, почти все сотрудники бездельничают, а часы капают.

-—
Вот я узнал, даже записал. В другой раз всплыл аналогичный вопрос - единственные термины что вспомнил - "матрица эйзенхауэра" и "планнинг покер".
Ну что поделать, в работе их называть мне обычно не надо)))) Хватало делать все вовремя в нужном порядке.

Если же вам надо регулярно приводить аргументы почему надо делать что-то в первую очередь - то держите конспект, и сделайте из него шпаргалку при подготовке к разговору. medium