Моя дата инфра частично лежит вслед за Яндекс облаком.
А у вас как дела?👉
А у вас как дела?
Please open Telegram to view this post
VIEW IN TELEGRAM
💯8😨6
Лежим в Airflow потому что на нем натянут KubrrnetesExecutor, а куберам плохо. Был бы он развернут в виртуалке, все бы замечательно работало на LocalExecutor-ах.
Таски по большей части DbtRunTestOpetator, ну может кое-где легаси пандасы небольшие остались.
И вот мы чтобы пнуть DBT Selector тянемся в кубер за подом. А кубер при авариях падает первым и поднимается последним, потому что чем сложнее система тем более она хрупкая.
Не переинжиниривайте на ровном месте, дамы и господа.
Таски по большей части DbtRunTestOpetator, ну может кое-где легаси пандасы небольшие остались.
И вот мы чтобы пнуть DBT Selector тянемся в кубер за подом. А кубер при авариях падает первым и поднимается последним, потому что чем сложнее система тем более она хрупкая.
Не переинжиниривайте на ровном месте, дамы и господа.
💯8 1 1
Очень очень хорошая идея держать кронтаб, который в режиме graceful degradation при недоступности куберов, аэрфлоу и других сложных сервисов, обновит хотя бы базовые отчетные витрины. Вам зачтется.
Переливки простых данных баш скриптами + последовательные dbt run.
И git pull ветки master свежий иметь.
Мотаем на ус, дни когда работает Яндекс.Дрон, даны нам для этого.
Переливки простых данных баш скриптами + последовательные dbt run.
И git pull ветки master свежий иметь.
Мотаем на ус, дни когда работает Яндекс.Дрон, даны нам для этого.
👍5🔥3 1
Продолжаем хроники
Ночью моя небольшая но гордая платформа данных легла полностью
🫥 🫥 🫥
В предыдущих сериях я горевал про сложные и хрупкие эксекуторы в АФ. Сейчас проблемы будут другого рода. Нет ни АФ ни вообще никаких эксекуторов.
КХД, витрин и отчетов тоже нет, ну и ладно, кому они нужны, когда основное приложение мучительно борется за жизнь, тестируя в проде механизмы мультиклауда и DR.
Ночью моя небольшая но гордая платформа данных легла полностью
В предыдущих сериях я горевал про сложные и хрупкие эксекуторы в АФ. Сейчас проблемы будут другого рода. Нет ни АФ ни вообще никаких эксекуторов.
КХД, витрин и отчетов тоже нет, ну и ладно, кому они нужны, когда основное приложение мучительно борется за жизнь, тестируя в проде механизмы мультиклауда и DR.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Архитектор Данных
Лежим в Airflow потому что на нем натянут KubrrnetesExecutor, а куберам плохо. Был бы он развернут в виртуалке, все бы замечательно работало на LocalExecutor-ах.
Таски по большей части DbtRunTestOpetator, ну может кое-где легаси пандасы небольшие остались.…
Таски по большей части DbtRunTestOpetator, ну может кое-где легаси пандасы небольшие остались.…
😢6😱2❤1👾1
Трейдерское
Яндекс - ЦОД в Калуге, Владимире, Ярославле, Рязани.
ВК - ЦОД на Коровинском шоссе, Медведково, Гознаке, Угрешская (этот вообще рядом со сборным пунктом военкоматов Москвы), Пахра рядом с Домодедово.
Не знаю, есть ли более безумная позиция чем шорт Яндекса и лонг ВК, но география ее диктует.
Ранее в разделе трейдерское
#трейдерское
————————————-
Архитектор Данных
Яндекс - ЦОД в Калуге, Владимире, Ярославле, Рязани.
ВК - ЦОД на Коровинском шоссе, Медведково, Гознаке, Угрешская (этот вообще рядом со сборным пунктом военкоматов Москвы), Пахра рядом с Домодедово.
Не знаю, есть ли более безумная позиция чем шорт Яндекса и лонг ВК, но география ее диктует.
Ранее в разделе трейдерское
#трейдерское
————————————-
Архитектор Данных
Telegram
Архитектор Данных
Чему я научился в трейдинге
Я довольно много трейдил. По молодости криптой, в более зрелом состоянии - на российском рынке. И конечно же, много терял на этом.
И сейчас понимаю, что это довольно полезный опыт. Главное - он дает ментальную рамку, как действовать…
Я довольно много трейдил. По молодости криптой, в более зрелом состоянии - на российском рынке. И конечно же, много терял на этом.
И сейчас понимаю, что это довольно полезный опыт. Главное - он дает ментальную рамку, как действовать…
Сегодня минус
Магнит, Ламода, Вкусноточка, Додо, много еще ритейла, мое КХД на 10 ТБайт и облачный рынок России.
Магнит, Ламода, Вкусноточка, Додо, много еще ритейла, мое КХД на 10 ТБайт и облачный рынок России.
😁8😱7😢4👾2
Я тут написал несколько простыней по поводу ситуации с Яндексом
Про себя и как команда даты должна реагировать на сбои в инфре. Про последствия для Яндекса и российского рынка облаков и инфры. Про рыночные эффекты. Да и процитировать человек умных 10 хочется.
Но потом пальчики устали
Давайте сегодня стрим в 21:00 или около того.
25 сердечек этому посту и стримим💓
Про себя и как команда даты должна реагировать на сбои в инфре. Про последствия для Яндекса и российского рынка облаков и инфры. Про рыночные эффекты. Да и процитировать человек умных 10 хочется.
Но потом пальчики устали
Давайте сегодня стрим в 21:00 или около того.
25 сердечек этому посту и стримим
Please open Telegram to view this post
VIEW IN TELEGRAM
❤61😁2
Стрим стрим стрим! (Давайте попробуем)
Присоединяйтесь на стрим по ссылке
https://vkvideo.ru/live-228742675_456239045
Вопросы и комментарии можно написать под этим постом!
Присоединяйтесь на стрим по ссылке
https://vkvideo.ru/live-228742675_456239045
Вопросы и комментарии можно написать под этим постом!
VK Видео
Мысли Архитектора 03 - Как выжить команде данных при падении ЦОД
Смотрите прямую трансляцию от автора «Архитектор Данных» на VK Видео. Об особенностях дата инфрастурктуры при падении ЦОД
Об атаках на ЦОДы Яндекса
Об атаках на ЦОДы Яндекса