Кстати, котаны, про что вам интереснее всего читать?
Anonymous Poll
22%
Флеймы с галеры
37%
Полезняшки про царь-архитектуры
25%
Полезняшки про инфраструктуру
2%
Полезняшки про .net
14%
О, фигасе, я еще не отписался?! 👻
Не успели еще постмортем отписать по предыдущему косяку, как у нас очередной факап!
Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из-за того что в ажуре сильно дешевле купить несколько маленьких баз, чем одну большую, да и копаться в куче sql-хранимок было не охота.
Сегодня мы отследили, что etl'и стейджингового слоя не справляются(сатурация больше утилизации) и решили поскейлиться. Через пару часов полетели алерты с хранилища о том, что привышен лимит по числу коннектов к базенке. Оказалось, что поскейлив роботов стеджинга мы создали доп. нагрузку на второй "контур", который стал активнее ходить в базу. Все бы хорошо, но вот размер клиентских пулов на etl'ях не был явно задан из-за чего базенку буквально закидали коннектами.
Кароч, ребятишки, Майк Нейгард не херню пишет. Желательно не только прочитать, но и следовать
Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из-за того что в ажуре сильно дешевле купить несколько маленьких баз, чем одну большую, да и копаться в куче sql-хранимок было не охота.
Сегодня мы отследили, что etl'и стейджингового слоя не справляются(сатурация больше утилизации) и решили поскейлиться. Через пару часов полетели алерты с хранилища о том, что привышен лимит по числу коннектов к базенке. Оказалось, что поскейлив роботов стеджинга мы создали доп. нагрузку на второй "контур", который стал активнее ходить в базу. Все бы хорошо, но вот размер клиентских пулов на etl'ях не был явно задан из-за чего базенку буквально закидали коннектами.
Кароч, ребятишки, Майк Нейгард не херню пишет. Желательно не только прочитать, но и следовать
I hate overtime
Не успели еще постмортем отписать по предыдущему косяку, как у нас очередной факап! Есть у нас хранилище, которое наполняют аж 2 "контура" ETL'ей. Первый наполняет стейджинг, второй льет уже, непосредственно, из стейджинга в хранилище. Сделано это было из…
Если что, я про вот эту книжку: https://www.ozon.ru/context/detail/id/33575069/. Must read, но вы, конечно, и сами знаете
Тут, оказывается Xfce релизнулась: https://xfce.org/about/news/?post=1565568000 Первый раз за 4.5 года(Карл!). То, что мертво умереть не может)
#bigdata
Раз уж речь зашла про ETL'и и хранилища, то вот вам крутой видос про бигдату в Почте России(дада, не смейтесь, видос действительно полезный)
Раз уж речь зашла про ETL'и и хранилища, то вот вам крутой видос про бигдату в Почте России(дада, не смейтесь, видос действительно полезный)
YouTube
BigПочта: как мы строили DataLake в Почте России / Алексей Вовченко (Luxoft)
Приглашаем на конференцию Saint HighLoad++ 2025, которая пройдет 23 и 24 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: https://highload.ru/spb/2025
________
HighLoad++ 2017
Тезисы:
http://www.highload.ru/2017/abstracts/3014.html…
Программа, подробности и билеты по ссылке: https://highload.ru/spb/2025
________
HighLoad++ 2017
Тезисы:
http://www.highload.ru/2017/abstracts/3014.html…
Forwarded from HighLoad++
Николай Голов из Авито опубликовал вольную расшифровку своего доклада с Highload++ 2018. Речь пойдёт о микросервисах.
Хабр
Концепция персистентной ткани для контроля IT-инфраструктуры
Всем привет. Расскажу вам про микросервисы, но немного с другой точки зрения, чем Вадим Мадисон в посте «Что мы знаем о микросервисах». Вообще я считаю себя разработчиком баз данных. При чем же тут...
История про то, как ребятки решили завезти K8s в телеком, с какими проблемами столкнулись и как порешали(спойлер: уперлись в сеть)
Medium
High Performance Networking with Kubernetes
In the era of 5G and Edge deployments, high-performance networking is a requisite. Containers and cloud native technologies are…
Открыл тут для себя диаграммы Исикавы. Оказалось, что очень удобно с помощью сабжа наглядно объяснять суть проблемы людям, не имеющим нужных компетенций, или не очень понимающим предметную область. Особенно, если софт-скилы не на высоте(как у меня😞)
Кароч хозяюшке на заметку)
Кароч хозяюшке на заметку)
Forwarded from Архитектура ИТ-решений
Годный обзор + один новый подход, который автор заметки назвал картой приложений https://herbertograca.com/2019/08/12/documenting-software-architecture/
@hgraca
Documenting Software Architecture
Documenting Software Architecture When we need to explain to someone else (new developer, product owner, investor, …) how the application works, we need documentation. But what documentation option…
Forwarded from Технологический Болт Генона
Видео докладов SQA Days EU-1
https://www.youtube.com/playlist?list=PL_XScYmjXxkc2ObLlee3FG7GBqgTrwxIv
Презентации (и зеркало на Vimeo) доступны тут
https://sqadays.eu/en/program/57812
https://www.youtube.com/playlist?list=PL_XScYmjXxkc2ObLlee3FG7GBqgTrwxIv
Презентации (и зеркало на Vimeo) доступны тут
https://sqadays.eu/en/program/57812
YouTube
SQA Days EU-1 - YouTube
#devops
Тут парни из Авито на днях рассказывали про Live Site Review. Пошел погуглить про сабж, чет ничего особенно не нагуглилось, но нашел видосик как LSR делает Микрософт. Круто, интересно, хоть и щедро приправлено рекламой TFS
P.S. осторожно, шотландский английский))
Тут парни из Авито на днях рассказывали про Live Site Review. Пошел погуглить про сабж, чет ничего особенно не нагуглилось, но нашел видосик как LSR делает Микрософт. Круто, интересно, хоть и щедро приправлено рекламой TFS
P.S. осторожно, шотландский английский))
YouTube
Live Site Culture & Site Reliability at Azure DevOps - Martin Hinshelwood
With the shift-left movement pushing more responsibility to the engineering teams what practices will help them cope with running a production site. These ar...
Forwarded from oleg_log (Oleg Kovalov)
Красивый однострочный постмортем от Monzo.
TLDR: добавляя новые машины в кластер, убедись, что у них есть хоть какие-то данные. Ну и читай доку.
https://monzo.com/blog/2019/09/08/why-monzo-wasnt-working-on-july-29th
PS: однострочная причина фейла
TLDR: добавляя новые машины в кластер, убедись, что у них есть хоть какие-то данные. Ну и читай доку.
https://monzo.com/blog/2019/09/08/why-monzo-wasnt-working-on-july-29th
PS: однострочная причина фейла
Котаны и котанессы, нашел мега-крутой научпоп видос про медиа-процессинг. В пятницу под пивчанский самое то!
YouTube
Xiph.org: A Digital Media Primer For Geeks (русские субтитры)
Краткий, но очень наглядный ликбез по основам цифрового представления и кодирования аудио/видео.
Авторские права принадлежат Xiph.org Community
Обсудить видео на форуме Audiophile's Software: https://audiophilesoft.com/forum/10-91-1
Авторские права принадлежат Xiph.org Community
Обсудить видео на форуме Audiophile's Software: https://audiophilesoft.com/forum/10-91-1
Forwarded from Протестировал
Хорошая статья о непопулярных техниках автоматической генерации тесткейсов: символьное выполнение, тестирование с помощью моделей, комбинаторное тестирование, адаптивное случайное тестирование (adaptive random testing) и тестировании на основе поиска (search-based testing). Для каждой техники описаны базовые идеи, практическая применимость, существующие проблемы и перспективы.
https://cs.stanford.edu/people/saswat/research/ASTJSS.pdf
Кстати символьное выполнение можно попробовать прямо в браузере - http://klee.doc.ic.ac.uk/
#непишитетесты
https://cs.stanford.edu/people/saswat/research/ASTJSS.pdf
Кстати символьное выполнение можно попробовать прямо в браузере - http://klee.doc.ic.ac.uk/
#непишитетесты
Протестировал
Хорошая статья о непопулярных техниках автоматической генерации тесткейсов: символьное выполнение, тестирование с помощью моделей, комбинаторное тестирование, адаптивное случайное тестирование (adaptive random testing) и тестировании на основе поиска (search…
Очень крутая статья, и все это действительно работает(я знаю людей, которые юзают и Model-Based и SBST), но, во-первых, этих людей единицы (по крайней мере, на пост-советском пространстве), а во-вторых, их услуги стоят конских денег, и не каждая галера может себе это позволить(даже ынтерпрайз). Гораздо проще и дешевле ведь нанять кучу кожанных ублюдков джуниоров, прочитавших Савина, которые будут регрессить руками.
White-box тестирования, кстати, не видел вообще ни разу(тоже на пост-советском)
White-box тестирования, кстати, не видел вообще ни разу(тоже на пост-советском)
Forwarded from DevOps&SRE Library
Kubernetes security notes and best practices
Советы и заметки по безопасности Kubernetes.
https://github.com/kabachook/k8s-security
Советы и заметки по безопасности Kubernetes.
https://github.com/kabachook/k8s-security
DevOps&SRE Library
Kubernetes security notes and best practices Советы и заметки по безопасности Kubernetes. https://github.com/kabachook/k8s-security
Ваще обычно обхожу тему сесурити, т.к. некомпетентен чуть менее чем полностью...но, блин, тут есть attacker's guide!
пошел взрывать кубернатесы
пошел взрывать кубернатесы
Forwarded from oleg_log (Oleg Kovalov)
Напомнили в одном из чатов про серию книг The Architecture of Open Source Applications
Довольно занятное чтиво о том, как устроены БД, парсеры, компиляторы, очереди и прочие вещи.
Онлайн читать не сильно удобно (иногда текст слишком широко размазан), но проблема решаема. В общем неплохое чтиво.
http://www.aosabook.org/en/index.html
Довольно занятное чтиво о том, как устроены БД, парсеры, компиляторы, очереди и прочие вещи.
Онлайн читать не сильно удобно (иногда текст слишком широко размазан), но проблема решаема. В общем неплохое чтиво.
http://www.aosabook.org/en/index.html