🚪 Пресс-служба Яндекса: компания продолжает оценивать ущерб в Сасово и подтвердить возможность восстановления оборудования пока не может.

Главный вопрос, от которого сейчас зависит будущее отечественного бигтеха... что там с Червоненкисом и Ляпуновым. Если пожар или тушение добрались до машинных залов этих двух суперПК, то это же две трети вычислительных мозгов Яндекса, на которых обучаются главные нейросети страны, и четверть коммерческого облачного рынка РФ.

Типичный 👨‍🦳 Сисадмин

🤙 Природа настолько очистилась, что в прод вернулись старые добрые дедики...Yandex Cloud советует спасаться с подгоревших виртуалок Сасово на физические дедики Bare Metal

🌎 Доступность зоны ru-central1-b пока не восстановлена. Наша команда продолжает устранять последствия инцидента.

Рекомендуем по возможности использовать альтернативные варианты восстановления сервисов, в том числе выделенные физические серверы Bare Metal.

Cледующую весточку отложили до завтра в 12:00 мск... впереди одиннадцать часов тишины, до утра оживить площадку в Сасово невозможно даже теоретически ⚰️

З.Ы. Вот она, ирония судьбы: больше десяти лет на всех конфах нам говорят, что будущее за эластичными микросервисами, подами и бессерверными функциями. И вот... облачный провайдер предлагает клиентам юзать выделенные физические серверы.

Получается, что облачный инжиниринг сделал полный оборот и вернулся в благословенный 2005 год... ностальгия в глаз попала 😭

Типичный 🥸 Сисадмин

Суровое будущее вырисовывается. Шутки про тайгу не такие уж и шутки.

Типичный 🦆 Сисадмин

Ритуальная кувалда окроплена машинным маслом, молитвы вознесены, еретические накопители готовы к физическому экзорцизму 🦾

Типичный 😡 Сисадмин

Дашборды зеленые. Сервис недоступен

Потребуется время, чтобы найти и устранить ошибку. Но мониторинг может объяснять сам себя.

«Группа Астра» выпустила AMAIA — агентный ИИ-слой над мониторингом. ИИ-агенты объединяют данные из разных систем, сами пишут инструменты для проверок, находят причины ошибок и помогают их устранить. Опыт разборов копится в базе знаний.

Приглашаем на вебинар «ИИ над мониторингом: одна платформа, разные задачи, ваши модели»
📅 16 октября в 14:00 (МСК)

Покажем AMAIA вживую и разберем:
💠 чем ИИ-слой отличается от чат-ботов и систем автоматизации;
💠 как в рознице ИИ-агенты находят застрявшие заявки и следят за ценами конкурентов;
💠 как AMAIA оценивает загрузку ресурсов и помогает планировать размещение проектов;
💠 почему выбор модели решается настройкой;
💠 как начать: один процесс, один доступ, один человек.

🤩 Участникам — специальные условия запуска AMAIA.

Зарегистрироваться

💥 Следом за Сасово прилетело по ДЦ Яндекса в Калуге. Минус два из трёх.

Не прошло и суток как под удар попал крупнейший ДЦ Яндекса в Калуге. Несколько модулей выведены из строя, экстренные службы на месте, сервисы по всей стране снова лихорадит, а масштаб ущерба уточняется.

Оцените всю дьявольскую издевку ситуации 👹... ровно вчера, когда в Сасово догорал, техподдержка Яндекса советовала клиентам переносить нагрузку в другие зоны доступности. И тысячи невыспавшихся админов по всей стране, с красными глазами 🤙, раскатывали бэкапы, поднимали поды и переключали трафик… куда? В Калугу и Владимир. И вот, не успел в свежеподнятых базах остыть кэш, как резервная гавань сама ловит новый физический импакт.

С точки зрения архитектуры распределенных систем это почти фаталити... любой эникей знает, что для нормального кворума в etcd, распределенной YDB или консенсусах на базе Raft и Paxos требуется правило большинства (N/2 + 1). Для этого региональные облака и строят минимум на трех изолированных зонах доступности. Зона ru-central1-b физически аннигилировала вчера. Сегодня падает калужская зона. Два узла из трех выбыли.

Вчерашний совет саппорта про спасаться на дедиках теперь заиграл совсем уж погребальным сарказмом. На каком железе спасаться-то, если его выбивают быстрее, чем админы успевают поправить адреса в куберконфигах? Карточный домик суверенной облачной отказоустойчивости пошатнулся.

З.Ы. В строю осталась последняя площадка во Владимире. Инженерам во Владимирской области сейчас хочется пожелать персонального бронированного купола толщиной с бетонную плиту. Потому что если моргнет и Владимир... ⚰️

Типичный 🥸 Сисадмин

🔥 Яндекс начал эвакуировать клиентов к прямым конкурентам. Стойки закончились.

В 09:27 во всех зонах разом захромал S3 Object Storage... тайминги улетели, операции записи начали повально сыпать ошибками. Стораджисты это понимают... это когда из распределенного кластера физически выпадают площадки, erasure coding и кворум репликации ложатся, то читать старое еще можно, а вот записать новый блоб становится тяжеловато (невозможно).

😱 В 10:39 случился исторический момент. Яндекс пояснил, что свободных мощностей для бизнеса больше нет, и предложил своим клиентам… переходить в Selectel, K2Cloud и VK Cloud. А чтобы быстрее приютили на чужих серверах, нужно назвать секретный пароль... CloudBro 👨‍🦳

З.Ы. Как говорится... мем смешной, а ситуация страшная. Кажется, мы только что увидели фактический предел прочности нашего облачного рынка.

Типичный 🥸 Сисадмин

Коллеги уже нервно фантазируют 🏥.... что если в Москве на подоконнике поставить неттоп на селероне чисто ради галочки. А весь реальный боевой прод, тяжелые базы и бэкапы через три слоя шифрованных туннелей сбрасываются в степи - прямиком в ДЦ Алматы и Астаны.

Да, пинг будет такой, будто пакеты везут на верблюдах. Зато казахские ЦОДы не ловят маслины, а оплату можно проводить через kaspi под шашлычок.

Типичный 🤙 Сисадмин

Когда контора экстренно съезжает из арендованного офиса... ночью 🏃‍♀️
#предложка

Типичный 🥸 Сисадмин

👨‍🦳 Вечерняя порция от Яндекса...

Только к вечеру второго дня в облаке появилась "возможность переносить управляющие компоненты k8s и удалять хосты из зоны ru-central1-b". Всё это время распределенный консенсус etcd и репликации ждали ответа от превратившейся в угли ноды в Сасово, блокируя любые операции по управлению... нельзя было ни сменить конфиг, ни добавить пользователя, ни накатить миграцию.

Яндекс сообщает, что нейросети работают штатно, но добавляет: "сохраняются некоторые особенности работы моделей DeepSeek, связанные с размером контекстного окна". ИМХО, походу кластеры с топовыми ускорителями частично подгорели, видеопамяти под гигантский KV-кэш не хватает, и чтобы сетка не вылетала в аут оф мемори, ей подрезали память на лету. Вчера у тебя была умная модель с длинным контекстом, а сегодня - чуть склеротичный ИИ.

Из позитивного... S3 Object Storage починили и тайминги на запись вернулись в норму. Сторадж перестал задыхаться, а вот разгребать последствия контуженного кворума и общаться с амнезийным дипсиком предстоит еще долго.

Типичный 🥸 Сисадмин

🤖 OPS Talk by Sber: узнай, как AI меняет сопровождение

Собираем инженеров сопровождения, SRE и DevOps, чтобы обсудить, что реально происходит с AI в эксплуатации и какие практики у нас есть уже сегодня.

Вместе со спикерами из Сбера, Т-Банка и СберТеха поговорим про:

🔘AutoHealing и автоматический откат релизов;
🔘AI-агент в observability, который вырос до 10k пользователей;
🔘DB Advisor в PV Kintsugi, или как организовать работу с моделью, чтобы её ошибка не становилась решением инженера;

А еще пообщаемся в непринужденной обстановке после деловой части.

Сбор 19 октября в 18:00 на welcome-кофе
Офис Сбера на Кутузовском 32 + онлайн

Регистрируйся, пока места ещё есть!

👮‍♂️ Ситуация без изменений... отвалившаяся зона ru-central1-b уходит на выходные.

Ночной статус-апдейт от уложился в несколько строк:

Ситуация с доступностью зоны ru-central1-b пока остаётся без изменений. Наши инженеры продолжают круглосуточные работы по устранению последствий инцидента и восстановлению сервисов. Следующий апдейт дадим 10 октября в 12:00 мск.

Взята пауза более чем на 12 часов. И без прочих слов понятно насколько там всё фатально. Чуда не произошло... к исходу вторых суток оживить площадку не удалось даже частично.

Плюс сбоит Алиса:

Часть функций Алисы AI в чате временно недоступна, ответы нейросети могут приходить с задержкой. На станциях возможны паузы перед ответом и перебои в работе некоторых функций, а отдельные устройства умного дома могут работать нестабильно.

Технику Вове и его коллегам в Сасово можно только молча посочувствовать. Вместо ламповой сауны и покатушек на электросамокате по ДЦ им предстоит разгребать железо и восстанавливать то, что вообще подлежит реанимации.

Резервируйтесь, бекапьтесь.

Типичный 🥸 Сисадмин