Comparing Thanos to VictoriaMetrics cluster

Создатель VictoriaMetrics Александр Валялкин написал статью, где сравнил Thanos (так делали раньше long-term storage для Prometheus) и VictoriaMetrics. Очень полезно будет для инженеров всех уровней, рекомендую.

https://medium.com/@valyala/comparing-thanos-to-victoriametrics-cluster-b193bea1683

DevOps дайджест на dou.ua

Друзья, я пообщался с редакторами dou.ua и они не против подключить несколько соавторов в формирование DevOps дайджеста.

Он выходит примерно раз в 2 месяца, и я старался вместить туда самое важное и полезное за этот промежуток времени.

Вот вся хроника, смотрите:
https://dou.ua/users/oleg-mikolaychenko/articles/

В среднем выпуски читают ~5 тысяч пользователей, он несет пользу обществу и является местом, где можно сформировать свою аудиторию для полезных всем действий или событий. Например, предложить сходить на классный митап, построить бренд через ссылку на инженерный блог компании или выложить ссылку на телеграм канал.

Почему я решил добавить несколько авторов:
- больше пользы для общества. Это самое главное. Несколько человек с разными экспертизами всегда будут обширнее интерпретировать изменения в DevOps мире.
- дать возможность соавтору построить личный бренд. В свое время было очень сложно было быть услышанным и донести свое видение в мир. И я решил сделать эту возможность доступной.
- больше охват аудитории. Несколько человек в команде произведут контент качественно и количественно лучше, чем я один. Это в свою очередь повлияет на пользу и охват.

Как мы это будем делать:
- предлагаю открытый репозиторий на github
- дайджест в markdown
- pull-request flow для сообщества, и апрувы от авторов
- всякие линтеры/чекеры для markdown

На данный момент есть 2 вакантных места. Кто хочет принять участие и поработать со мной над проектом, который приносит пользу нашему большому DevOps миру - пишите в личку - @mukolaich.

Stay tuned!

DevOps дайджест #25: как деплоить за 50ms и не просыпаться в 4 утра от алертов

Вас ожидает лучшее!

Следующий выпуск будет организован вместе с классными ребятами 😉

https://dou.ua/lenta/digests/devops-digest-25/

Действительно интересные каналы

Ребят, я бы хотел поделиться с вами подборкой классных авторских каналов. Это не рекламный пост, вы сможете убедиться по качеству и существу контента.
Все эти каналы ведут личности, которые мне в той или иной степени интересны. И я бы хотел вам о них рассказать.

Что же, давайте начнем!

👉 @ShortCali - Коротко о Калифорнии — это канал Дмитрия Осипы, мы с ним учились больно падать на борде и пили егерь на корпоративе. Сейчас он уехал с семьей работать в Калифорнию (через нашу топ-компанию AnchorFree), и рассказывает как поселился в корейском квартале и сколько стоит Mersedes в лизинг (понты вообще).

👉 @AveLipachova - Ave Липачёва — это канал Анастасии Липачёвой (кто бы мог подумать), СТО в Furnfits о психологии и жизни. Мы познакомились на прощальной тусовке Димы Осипы (тот, который уехал в Калифорнию), хотя это сложно сказать познакомились - я сначала подумал "Ты что за малая такая вообще", а потом оказалось что она менеджерит крутые вещи и настолько глубоко заряжает про когнитивные модели, что я аж присел.

👉 @PavloIsOnTheRoad - Pavlo Pedenko - это канал Паши Педенко, мы с ним учились выступать публично на тренингах MacPaw и денсили на концерте Курган и Агрегат. Я никогда не понимал как можно быть настолько странным чуваком, с одной стороны - собирать огромные хакатоны и стартап тусовки, с другой стороны - рассказывать экспромтом историю о наркомане Павлике. Канал о PM, стартапах, тусовках.

👉 @catops - CatOps - это канал Юры Рочняка о DevOps и все что с этим связано. Мой прямой конкурент и друг - организовывает Hashicorp митапы, ходит на Ukrops тусовки и сделал технический блог на медиуме (все говорят, а никто не делает). Наш канал появился несколько позднее CatOps - Юра меня вдохновил и теперь у меня тоже есть свой DevOps канал.

👉 @xpinjection_channel - xpinjection - это канал Николая Алименкова, мы с ним познакомились на XPdays (около DevOps конференция), и он собрал топ оценок за лучшие доклады. Николай максимально топит за Украину (хотя и приехал с Республики Беларусь), организовывает множество отличнейших конференций по тестированию/программированию/девопсу и ходит с хипстерской бородой. Скорее всего вы уже были на его конференции. Потом я заметил что он пару раз делал реврайт новостей с нашего канала, и наша дружба укрепилась еще сильнее.

👉 @notieinIT - noTieinIT - это канал Дмитрия Меньшикова, CTO в Aurora Technologies. Мы с ним готовились к выступлению на hwdays 2017, и я сейчас помню как был удивлен что чувак с такой прической может так глубоко заряжать технические темы. Помню это было топ-10 хайлоад фейлов, еще на канале есть инфа по блокчейну (раньше была) и менеджменту.

Пока писал, понял насколько крутые люди меня окружают (сложно сказать окружают, скорее я на них смотрю). А ведь у скольки интереснейших людей нет своих личных каналов!
В любом случае, это натолкнуло меня на мысли, что моя личность - это не только техническая и инженерная составляющая. И, возможно, кому-то будет интересно почитать чем я живу, что думаю, куда двигаюсь и о чем мечтаю лично: @AveMykolaichenko

DevOps Fest 2019: видео

Если вы любите так же как и я ходить на конференции и больше общаться, чем слушать доклады, то эта подборка будет полезна:
https://www.youtube.com/playlist?list=PLuOBDBq7MW70UL_4Fsf0Pxer6LzeYvxPN

DigitalOcean: MySQL & Redis databases

DigitalOcean добавили PaaS базы данных - MySQL и Redis. Теперь запускать простые проекты вообще стало просто и дешево. Интересно, что ребята в коментах стали ныть: очень дорого.

Вот прайсинг:
- $15/month за самую мелкую MySQL стенделон ноду
- $50/month за кластер из 2 HA MySQL нод

Мне кажется, что это не то что дешево, а супер дешево - с точки зрения разворачивания, CM, IaC, менеджмента и поддержки.

https://blog.digitalocean.com/take-the-worry-out-of-managing-your-mysql-redis-databases/

Okta: hub & spoke + aws cli

Всем привет! Значит, запилили у нас SecOps полиси: все должны ходить в AWS через Okta (identity provider), пользователей в аккаунтах мы забираем.

Реализовали через концепцию hub & spoke: вы логиньтесь в Hub account, а из него через switch role уже идите в нужный. Напряжно, ну ладно, привыкли.

Ну и доку SecOps не написали, как работать с CLI, Terraform, aws cli, etc. И оно в таком состоянии жило, т.к. сразу же кто-то придумал сделать один service account, и через него запускать все cli-тулы.
Получается, что Okta уже заадоптили, а используем сервисный аккаунт. Ну ладно, подумал я, как-то в следующий раз обязательно исправлю (... нет) 🙂

И вот добираюсь я до задачи, которая относится к AWS EKS: пару месяцев назад я сделал selenium grid cluster для QA в AWS EKS, и теперь понадобилось дать туда kubectl доступ для ребят из Support тимы (они нам помогают делать всякие не сложные штуки по инфраструктуре, на смене 24/7).

А там iam authenticator. Пришлось разбираться!

Итого:
1) Сначала пришлось научиться и описать доку, как работать с aws-okta:
https://github.com/segmentio/aws-okta

2) Потом правильно настроить ~/.aws/config (aws_saml_url и source_profile) для каждого из аккаунтов

3) Подконфигурить aws-auth конфигмапу, и дать доступ для всех кто смог сделать assume spoke role

4) Завелось!

Что же происходит: aws-okta идет в Hub аккаунт, там ее встечает Okta, присылает push notification на смартфон, потом aws-okta делает switch role в Spoke аккаунт, и уже оттуда через IAM получает доступ в kubectl 😳

aws-okta exec okta-elite -- kubectl get pod --all-namespaces 👍

Если кто-то совсем не понял о чем заметка, то вот референсы:
🔹 https://segment.com/blog/secure-access-to-100-aws-accounts/ - Как сделать Hub & Spoke архитектуру аккаунтов чтобы удобно было (все равно не удобно 😄)
🔹 https://aws.amazon.com/premiumsupport/knowledge-center/amazon-eks-cluster-access/ - Как добавить пользователей/группы в EKS кластер, и почему по умолчанию доступ есть только у создателя

Selenium grid on steroids: Zalenium

И еще в догонку пирожков насыплю. Раньше как было: 1 хост, там селениум, тесты проходят вечность. Падает и умирает, результаты не валидные, всем плохо.

Мы решили запихнуть это в кубер с наименьшими усилиями (на тот момент в команде было 2 человека), вся инфра в AWS - только переехали, соответственно и решение - AWS EKS.

Заводится с пол пинка, дальше стандартный пакет: prometheus operator, федерация в основной Prometheus, логгирование, секреты, helm, и сверху selenium:
https://github.com/helm/charts/tree/master/stable/selenium

Работает. И вроде отлично, 10/10, все довольны. Ровно до того момента, пока я случайно не нашел Zalenium:
https://github.com/zalando/zalenium
- из коробки умеет в Kubernetes
- делает видео UI тестов, если упали
- дашборд с логами и ссылочками
- скриншоты, где вам нужно
- менеджит версии браузеров

В общем, если будете делать в ближайшее время Selenium ферму - можно смело брать Zalenium и заделиверить полезные и неожиданные штуки для QA, они останутся довольны.
А у меня таска пока будет пылиться в беклоге.

Канал о Go и местами DevOps штуках

Серега Хобот свичнулся из DevOps Engineer в Golang Developer , и делится полезными ссылками и подходами ◀️

https://t.me/golangdigest

Урааааа! 🚀🎉🥳🎊🧨💣🍾🔥
Видосики с GopherCon 2019

https://www.youtube.com/playlist?list=PL2ntRZ1ySWBdDyspRTNBIKES1Y-P__59_

Tilt: local Kubernetes development with no stress

Очень интересная тулза для разработки. С ее помощью можно красиво организовать процесс разработки микросервисов, и делать это намного продуктивнее. 🔥

В двух словах tilt - это враппер над docker, kubernetes и docker-compose. Он умеет понимать, что исходный код приложения изменился, пересобрать контейнер, передеплоить новую версию в локальный кластер и обновить страничку. Если что-то поломалось - показать логи.

В readme есть видео, рекомендую посмотреть - возможно, с понедельника вы захотите себе сделать Tilt ☺️

https://github.com/windmilleng/tilt

Конференция DevOpsStage

18-19 октября в Киеве (два полных дня) будет проходить конференция для DevOps - 45 докладов, воркшопы, все как нужно. Я там даже планирую выступать с темой Envoy as TCP proxy.

По моей просьбе для вас сделали промо, на -10%: DOUDigest

И вообще, можете подписаться на их телегу: @devopsstage
Билеты тут: https://devopsstage.com/

Так что, до встречи на конференции!

OSDN | Conf

В субботу в Киеве будет проходить Open Source and Linux Conference, еще есть > 100 мест, и участие бесплатное. Один из организаторов - участник UkrOps клуба Mykola Marzhan. Он будет рассказывать о том, как правильно ранить MySQL в Kubernetes (и о целесообразности тоже).

Конференция на весь день, повторюсь участие бесплатное - регистрируйтесь 🙂

https://osdn.org.ua/

GitLab привлек $268

И еще планирует IPO: выход на биржу должен произойти 18 ноября 2020 года. Это значит, что штат будут раздувать (и показывать рост), а это - хорошая возможность занять классную позицию в отличной компании. Данная заметка - рекомендация посмотреть раздел Jobs 🙂

Статья на AIN: https://ain.ua/2019/09/17/gitlab-privlek-268-mln
GitLab Jobs: https://about.gitlab.com/jobs/apply/
Director of Engineering: https://about.gitlab.com/jobs/apply/director-of-engineering-cicd-verify-release--package-4372922002
Senior Director, Infrastructure: https://about.gitlab.com/jobs/apply/senior-director-infrastructure-4419033002

Production deployment guides от Gruntwork

На днях Gruntwork зарелизила раздел с туториалами: судя по существующим материалам получится даже концептуальнее, чем у DigitalOcean. Есть разделы для разных клаудов, и для разных задач.

Вот, смотрите: https://gruntwork.io/guides/
А вот статья о том, как деплоить Kubernetes в AWS: https://gruntwork.io/guides/kubernetes/how-to-deploy-production-grade-kubernetes-cluster-aws/

Полезно будет для Junior/Middle level, и тем кто когда-то знал, но уже забыл как лучше сделать, или выпал на какой-то промежуток времени 🙂

XP Days Ukraine 2019

Ух как круто - начался осенний период конференций и тоска на улице будет уравновешиваться хорошими и качественными техническими докладами 🙂

Сейчас хочу обратить внимание на XP Days в Киеве - по датам 22 и 23 ноября, и уже есть крутые хедлайнеры:
- Paul Stack из Pulimi (раньше был в Hashicorp, и выступал с подбитым глазом - начистили в киевской пивнухе, обожаю эту историю)
- Philipp Krenn из Elastic (всегда с отличными ништяками и новинками с Elastic stack)
- Yaroslav Molochko из Pango (уверенно и технически сильно о Kubernetes related stuff)
- и рокстары нашего комьюнити: Vsevolod Poliakov, Igor Borodin, Dmytro Lavrinenko

В целом, это та конференция, которая мастхев и нужно идти.

Сейчас еще есть 45 билетов по $190 (Early birds), и я договорился для вас о скидке на -15%: XPDVP19 - всегда пожалуйста 😉

Регистрация тут: https://xpdays.com.ua/

The Secret to Cloud Native Success for adidas?

Теплая статья об успехе adidas с Kubernetes. Основные метрики:
- частота деплоя увеличилась с 1 раза в 4-6 недель до 3-4 раз в день
- скорость работы сервисов увеличилась на 200%
- создание дев инвайромента больше не занимает неделю времени

О всем этом и немного больше тут: (есть видео)
https://www.cncf.io/blog/2019/09/17/the-secret-to-cloud-native-success-for-adidas-we-love-competition/

DevOpsStage: Envoy as TCP proxy

Ребята, все таки решил выступить с докладом.
Буду рассказывать о Envoy, как мы его впилили, зачем, и какие бенефиты получили. Расскажу о разных практиках использования, в результате после доклада вы сможете попробовать убрать легаси HAproxy/nginx где не нужно, и добавить Envoy 🙂

Приходите, буду рад видеть всех 🙂

Организаторы сообщили что завтра повышение цены, так что не затягивайте, тем более есть промо-код на -10%: DOUDigest

https://devopsstage.com/speakers/oleg-mykolaichenko/

Serverless: 15% slower and 8x more expensive

Инженер тратил на существующую инфраструктуру 164.21$ в месяц в AWS, и решил попробовать AWS Lambda и API Gateway, чтобы платить только "за те ресурсы, которые он использует". В результате он получил увеличение response time на 15%, и потенциальный счет в биллинге в 8 раз больше (из-за огромного количества API запросов).

Кейс интересный, есть претензии к архитектуре - очень прямо и категорично он сделал выводы, однозначно не репрезентативно - при переезде на Serverless нужно продумывать компоненты и менять архитектуру, тюнить под новую платформу. Например, уменьшить количество запросов и вынести из приложения несколько Labmda функций.

В конце он дает отписку - мол "так и так, спасибо за фидбеки, я понял что был не прав - но в целом мое решение и подход не меняется" 😊

Статья вызвала хороший резонанс, так что предлагаю и вам ознакомиться ⬇️

https://einaregilsson.com/serverless-15-percent-slower-and-eight-times-more-expensive/

AWS Loft Kyiv: классный движ

Ребята, очень неожиданно написала мне Вика Коробкина из Provectus и попросила показать вам ивент. А я пока читал-смотрел аж сам заинтересовался.

Начиная с 14 октября (понедельник) по пятницу 18 октября с 9:00 до 17:00 в UNIT City (это хаб для IT в Киеве) будет проходить ивент нового для нас формата. Ивент бесплатный.

В двух словах - это конференция/воркшоп/митап/коворкинг/тренинг тусовка в одном флаконе, с уклоном в сторону AWS. Т.е. они привезли на 5 дней разных интересных ребят, которые будут учить сервисам, показывать юз кейсы, с которыми можно будет пообщаться и позадавать вопросы.

Я сразу спросил - Вика, вот в чем прикол, 5 дней, я же работаю? Как вы себе это представляете? Но, оказывается, они сделали все для того, чтобы вы могли работать удаленно: Wi-Fi, коворкинг, переговорки, перекусы - в принципе, тот же офис + интересные люди и новые знания. 🔥

В целом, формат мероприятия новый, но очень интересный. В агенде есть несколько людей из нашего комьюнити (Mykola Marzhan, Oleksandr Moskalenko). А я выделю на неделе пару дней, чтобы поработать оттуда удаленно 🙂

Будет полезно для:
- получения новых AWS-related знаний
- нетворкинга
- зашариться из офиса в другое место, сменить обстановку 😁

Регистрация тут:
https://aws-loft.provectus.com