Forwarded from Dmitry Sh
Новая статья от нашего инженера про миграцию в Kubernetes… на сей раз MongoDB, хотя подход аналогичен RabbitMQ:
https://habr.com/ru/company/flant/blog/461149/
https://habr.com/ru/company/flant/blog/461149/
Хабр
Беспростойная миграция MongoDB в Kubernetes
Эта статья продолжает наш недавний материал про миграцию RabbitMQ и посвящена MongoDB. Поскольку мы обслуживаем множество кластеров Kubernetes и MongoDB, пришл...
Котаны, тут чет прям вкуснота! Если вы тоже не особо впечатлились trunk-based, устали от постоянного "а что там у..."(k8s, docker, любимый ЯП, любимый VCS, etc) ну или, по крайней мере, уже не успеваете следить за всем этим великолепием + все еще креститесь и запасаете святую воду перед деплоем, то (барабанная дробь) встречайте Dark
Очередная функциональщина, которая из коробки умеет в деплой, нативно дружит с инфраструктурой(по крайней мере обещают широкую поддержку), лихо предоставляет фича-туглы и решает еще кучу проблем!
Пока все в закрытой альфе, но можно попробовать за подписку на рассылку
Очередная функциональщина, которая из коробки умеет в деплой, нативно дружит с инфраструктурой(по крайней мере обещают широкую поддержку), лихо предоставляет фича-туглы и решает еще кучу проблем!
Пока все в закрытой альфе, но можно попробовать за подписку на рассылку
Medium
What is Dark?
Dark is a holistic language, editor, and infrastructure, for building backend web services. Our goal is to make coding 100x easier.
Forwarded from POSTGRESSO
Egor Rogov начал новую серию! Блокировки. https://habr.com/ru/company/postgrespro/blog/462877/
Хабр
Блокировки в PostgreSQL: 1. Блокировки отношений
Два предыдущих цикла статей были посвящены изоляции и многоверсионности и журналированию . В этом цикле мы поговорим о блокировках (locks). Я буду придерживаться этого термина, но в литературе...
Интересная новость тут пробежала: по-ходу, зукипер в кафке хотят заменить собственным кворумом. Пруф и все консерны: https://cwiki.apache.org/confluence/display/KAFKA/KIP-500%3A+Replace+ZooKeeper+with+a+Self-Managed+Metadata+Quorum#KIP-500:ReplaceZooKeeperwithaSelf-ManagedMetadataQuorum-TheControllerQuorum
Forwarded from Грефневая Кафка (pro.kafka)
📣 Сделали сайтик для вас, где будем рассказывать про как правильно делать stream processing - Kafka Tutorials (название так себе, конечно, но вы поняли!)
Можете просто читать, а можете отправлять свои идеи или даже целые туториалы!
https://kafka-tutorials.confluent.io
Можете просто читать, а можете отправлять свои идеи или даже целые туториалы!
https://kafka-tutorials.confluent.io
#shitcode
Как-то так получилось, что в очередной раз у нас фиаско, за которое пц стыдно.
Не смотря на то, что основная масса баз у нас -- это DBaaS(облачка), все же есть и пара своих инсталяций на VM. Ничего не предвещало беды, но тут завопили мониторы а-ля "братишки, у вас даунтайм". Выяснилось, что на одной из таких виртуалок закончилось место и базенка перестала обрабатывать транзакции. Где был мониторинг на диски? А не было его! Забыли(
Дальше-больше! Выяснилось, что система и данные лежали на одном диске, т.е. из-за объевшейся базы система не могла сделать практически ничего.
Ладно, диски увеличили, базу запустили и выяснили, что 90% содержимого не нужно. Совсем! Просто лень было написать крон-джоб что бы вычистить мусор.
Кароч, поцоны и поцонессы, мораль сей басни такова: мониторьте на всех уровнях, думайте сразу о ЖЦ данных и будет вам счастье!
Как-то так получилось, что в очередной раз у нас фиаско, за которое пц стыдно.
Не смотря на то, что основная масса баз у нас -- это DBaaS(облачка), все же есть и пара своих инсталяций на VM. Ничего не предвещало беды, но тут завопили мониторы а-ля "братишки, у вас даунтайм". Выяснилось, что на одной из таких виртуалок закончилось место и базенка перестала обрабатывать транзакции. Где был мониторинг на диски? А не было его! Забыли(
Дальше-больше! Выяснилось, что система и данные лежали на одном диске, т.е. из-за объевшейся базы система не могла сделать практически ничего.
Ладно, диски увеличили, базу запустили и выяснили, что 90% содержимого не нужно. Совсем! Просто лень было написать крон-джоб что бы вычистить мусор.
Кароч, поцоны и поцонессы, мораль сей басни такова: мониторьте на всех уровнях, думайте сразу о ЖЦ данных и будет вам счастье!
AvitoTech
Митап с окрошкой и инцидентами 10 августа в нашем офисе пройдет четвертый митап в серии Backend United, который получил название «Окрошка». В программе — доклады про инструменты для улучшения incident response, работу с продакшн взрывами, ценность технического…
Запись вчерашнего митапа. Доклады шикарные, очень советую посмотреть!
YouTube
Backend United 4: Окрошка | incident response, production-взрывы, AutoLSR, ценность техдолга
Мы продолжаем Backend United, серию митапов для разработчиков серверной части.
Четвёртая встреча называется «Окрошка», и посвящена она будет инцидентам. Вместе с коллегами из Tutu.Ru, Ozon и Авито поговорим про работу с инцидентами, инструменты для улучшения…
Четвёртая встреча называется «Окрошка», и посвящена она будет инцидентам. Вместе с коллегами из Tutu.Ru, Ozon и Авито поговорим про работу с инцидентами, инструменты для улучшения…
Тут у реактовцев увидел прикольную штуку: https://github.com/facebook/react/pull/16269 Можно фича-туглом выключить работу deprecated api и потестить что сломается.
GitHub
Add a feature flag to disable legacy context by gaearon · Pull Request #16269 · facebook/react
Adds a feature flag that disables the legacy context API. The feature flag is turned off in open source builds. Strict Mode is already a mechanism that warns about it, but this feature flag actuall...
Кстати, котаны, про что вам интереснее всего читать?
Anonymous Poll
22%
Флеймы с галеры
37%
Полезняшки про царь-архитектуры
25%
Полезняшки про инфраструктуру
2%
Полезняшки про .net
14%
О, фигасе, я еще не отписался?! 👻
Не успели еще постмортем отписать по предыдущему косяку, как у нас очередной факап!
Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из-за того что в ажуре сильно дешевле купить несколько маленьких баз, чем одну большую, да и копаться в куче sql-хранимок было не охота.
Сегодня мы отследили, что etl'и стейджингового слоя не справляются(сатурация больше утилизации) и решили поскейлиться. Через пару часов полетели алерты с хранилища о том, что привышен лимит по числу коннектов к базенке. Оказалось, что поскейлив роботов стеджинга мы создали доп. нагрузку на второй "контур", который стал активнее ходить в базу. Все бы хорошо, но вот размер клиентских пулов на etl'ях не был явно задан из-за чего базенку буквально закидали коннектами.
Кароч, ребятишки, Майк Нейгард не херню пишет. Желательно не только прочитать, но и следовать
Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из-за того что в ажуре сильно дешевле купить несколько маленьких баз, чем одну большую, да и копаться в куче sql-хранимок было не охота.
Сегодня мы отследили, что etl'и стейджингового слоя не справляются(сатурация больше утилизации) и решили поскейлиться. Через пару часов полетели алерты с хранилища о том, что привышен лимит по числу коннектов к базенке. Оказалось, что поскейлив роботов стеджинга мы создали доп. нагрузку на второй "контур", который стал активнее ходить в базу. Все бы хорошо, но вот размер клиентских пулов на etl'ях не был явно задан из-за чего базенку буквально закидали коннектами.
Кароч, ребятишки, Майк Нейгард не херню пишет. Желательно не только прочитать, но и следовать
I hate overtime
Не успели еще постмортем отписать по предыдущему косяку, как у нас очередной факап! Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из…
Если что, я про вот эту книжку: https://www.ozon.ru/context/detail/id/33575069/. Must read, но вы, конечно, и сами знаете
Тут, оказывается Xfce релизнулась: https://xfce.org/about/news/?post=1565568000 Первый раз за 4.5 года(Карл!). То, что мертво умереть не может)
#bigdata
Раз уж речь зашла про ETL'и и хранилища, то вот вам крутой видос про бигдату в Почте России(дада, не смейтесь, видос действительно полезный)
Раз уж речь зашла про ETL'и и хранилища, то вот вам крутой видос про бигдату в Почте России(дада, не смейтесь, видос действительно полезный)
YouTube
BigПочта: как мы строили DataLake в Почте России / Алексей Вовченко (Luxoft)
Приглашаем на конференцию Saint HighLoad++ 2025, которая пройдет 23 и 24 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: https://highload.ru/spb/2025
________
HighLoad++ 2017
Тезисы:
http://www.highload.ru/2017/abstracts/3014.html…
Программа, подробности и билеты по ссылке: https://highload.ru/spb/2025
________
HighLoad++ 2017
Тезисы:
http://www.highload.ru/2017/abstracts/3014.html…
Forwarded from HighLoad++
Николай Голов из Авито опубликовал вольную расшифровку своего доклада с Highload++ 2018. Речь пойдёт о микросервисах.
Хабр
Концепция персистентной ткани для контроля IT-инфраструктуры
Всем привет. Расскажу вам про микросервисы, но немного с другой точки зрения, чем Вадим Мадисон в посте «Что мы знаем о микросервисах». Вообще я считаю себя разработчиком баз данных. При чем же тут...
История про то, как ребятки решили завезти K8s в телеком, с какими проблемами столкнулись и как порешали(спойлер: уперлись в сеть)
Medium
High Performance Networking with Kubernetes
In the era of 5G and Edge deployments, high-performance networking is a requisite. Containers and cloud native technologies are…