#devops #monitoring
Чувак заморочился и написал простенький anomaly detection на sql. Будет интересно почитать в образовательных целях, если не очень в ладах даже с школьной статистикой. На проде, я все-таки советую логи и телеметрию в скуль не писать))
Чувак заморочился и написал простенький anomaly detection на sql. Будет интересно почитать в образовательных целях, если не очень в ладах даже с школьной статистикой. На проде, я все-таки советую логи и телеметрию в скуль не писать))
Hakibenita
Simple Anomaly Detection Using Plain SQL
Identify Problems Before They Become Disasters
Forwarded from Consensus
📚 Камрады из vectorized.io зачастили постить годноту в своем блоге.
👇 На этот раз про то, как они сделали сторадж для Redpanda
https://vectorized.io/tpc-buffers
👇 На этот раз про то, как они сделали сторадж для Redpanda
https://vectorized.io/tpc-buffers
Redpanda
Thread-per-core buffer management for a modern Kafka-API storage system
Superscalar CPUs with wide GB/s memory, NVMe access times in the order of 10-100’s of microseconds, necessitates a new buffer management for low latency storage systems.
Котаны! В честь Hacktoberfest'а Дмитрий и Вероника запустили шикарный проект learn4haskell. Идея в том, что бы научиться основам хаскеля за 4 PR(ну и футболку, конечно же, урвать😂)
От себя добавлю, что хаскель -- идеальный кандидат на место первого функционального языка и мой код на мейнстримовых ЯП стал сильно лучше после изучения основ хаскеля
От себя добавлю, что хаскель -- идеальный кандидат на место первого функционального языка и мой код на мейнстримовых ЯП стал сильно лучше после изучения основ хаскеля
GitHub
GitHub - kowainik/learn4haskell: 👩🏫 👨🏫 Learn Haskell basics in 4 pull requests
👩🏫 👨🏫 Learn Haskell basics in 4 pull requests. Contribute to kowainik/learn4haskell development by creating an account on GitHub.
Forwarded from emacsway-log: Software Design, Clean Architecture, DDD, Microservice Architecture, Distributed Systems, XP, Agile, etc.
Несколько неплохих ссылок по CRDT для начинающих:
- https://github.com/ljwagerfield/crdt
- http://christophermeiklejohn.com/crdt/2014/07/22/readings-in-crdts.html
- https://habr.com/ru/post/418897/
#DistributedSystems #DDD #Microservices
- https://github.com/ljwagerfield/crdt
- http://christophermeiklejohn.com/crdt/2014/07/22/readings-in-crdts.html
- https://habr.com/ru/post/418897/
#DistributedSystems #DDD #Microservices
GitHub
GitHub - ljwagerfield/crdt: CRDT Tutorial for Beginners (a digestible explanation with less math!)
CRDT Tutorial for Beginners (a digestible explanation with less math!) - ljwagerfield/crdt
#msa
Тут товарищ Kislay Verma запостил артикль с чеклистом готовности к продакшену для микросервисов.
Имхо, не то что бы можно было прям брать и пользоваться, но для вдохновения при составлении своего чеклиста очень даже подходит
P.S. кстати, у чувака достаточно неплохой блог
UPD оказывается Mail.ru успел уже даже перевод на хабре сделать⬇️
Тут товарищ Kislay Verma запостил артикль с чеклистом готовности к продакшену для микросервисов.
Имхо, не то что бы можно было прям брать и пользоваться, но для вдохновения при составлении своего чеклиста очень даже подходит
P.S. кстати, у чувака достаточно неплохой блог
UPD оказывается Mail.ru успел уже даже перевод на хабре сделать⬇️
Kislay Verma
Code review checklist for distributed systems | Kislay Verma
A basic checklist for reviewing code in a distributed systems environment
Forwarded from Цифровизируй это
Контрольный список для ревью кода в распределенных системах
Организации, которые используют микросервисную архитектуру, сталкиваются с распределенными сбоями. Перевели статью, автор которой несколько лет занимался обнаружением типовых сбоев в коде на продакшене. В ней — рекомендации по проверке кода, которые можно использовать в качестве базового контрольного списка.
#почитать
Организации, которые используют микросервисную архитектуру, сталкиваются с распределенными сбоями. Перевели статью, автор которой несколько лет занимался обнаружением типовых сбоев в коде на продакшене. В ней — рекомендации по проверке кода, которые можно использовать в качестве базового контрольного списка.
#почитать
Хабр
Контрольный список для ревью кода в распределенных системах
points of view by sanja Микросервисная архитектура широко распространена в разработке программного обеспечения. Но организации, которые ее используют, помимо сл...
Forwarded from Українська девопсарня (Seva Poliakov)
Мы в VictoriaMetrics наконец-то готовы представить vmanomaly - machine learning составляющую мониторинга VictoriaMetrics:
https://medium.com/@VictoriaMetrics/anomaly-detection-in-victoriametrics-9528538786a7
https://medium.com/@VictoriaMetrics/anomaly-detection-in-victoriametrics-9528538786a7
Medium
Anomaly Detection in VictoriaMetrics
Monitoring isn’t easy. Well, sometimes it can be easy, but sometimes it’s not. Often, it’s easy to catch a problem, if you know what to…
Forwarded from ITGram
Kontra OWASP Top 10 is a collection of free interactive tutorials about most popular vulnerabilities and some recent security incidents. Beautiful, clickable, illustrative.
Kontra
Application Security Training For Developers | Kontra
Kontra is an Application Security Training platform built for modern development teams.
#data #spark #arch
Нашел тут у себя в закладках очень миленькую статью про внутренности спарка и hdfs. Очень совету почитать для тех кто интересуется распределенными системами
Нашел тут у себя в закладках очень миленькую статью про внутренности спарка и hdfs. Очень совету почитать для тех кто интересуется распределенными системами
Medium
Understanding Spark As If You Had Designed It
Among the current frameworks available on the data space, just a few have achieved the status that Spark has in terms of adoption and…
#management #sre
Подробный рассказ о процессе инцедент-менеджмента в Heroku. Артикль интересен тем, что у них свой процесс, достаточно сильно отличающийся от ITIL-based и от описанного в SRE book
Подробный рассказ о процессе инцедент-менеджмента в Heroku. Артикль интересен тем, что у них свой процесс, достаточно сильно отличающийся от ITIL-based и от описанного в SRE book
Heroku
Incident Response at Heroku
Heroku’s incident response framework and the Incident Commander role help us to successfully respond to a variety of incidents
#msa #arch
Очень хорошая статья про технические питфолы микросервисной архитектуры. Автор разбирает 4 челенджа: интеграцию и транзакционность, авторизацию, кроссервисные бизнес-процессы и версионирование + приводит кучу интересных ссылок на каждую тему.
Рекомендую просмотреть и походить по ссылкам (особенно тем кто уже разросся до масштабов нетфликса, вкрутил девопс и продуктовую разработку, лол)
Очень хорошая статья про технические питфолы микросервисной архитектуры. Автор разбирает 4 челенджа: интеграцию и транзакционность, авторизацию, кроссервисные бизнес-процессы и версионирование + приводит кучу интересных ссылок на каждую тему.
Рекомендую просмотреть и походить по ссылкам (особенно тем кто уже разросся до масштабов нетфликса, вкрутил девопс и продуктовую разработку, лол)
Medium
Walking the wire: Mastering the Four Decisions in Microservices Architecture
Microservices are the new architectural style for building systems using simple, lightweight, loosely coupled services that can be…
I hate overtime
#msa #arch Очень хорошая статья про технические питфолы микросервисной архитектуры. Автор разбирает 4 челенджа: интеграцию и транзакционность, авторизацию, кроссервисные бизнес-процессы и версионирование + приводит кучу интересных ссылок на каждую тему. …
#security
Кстати, тут коллеги очень интересную штуку откопали. Это протокол авторизации a-la OpenID, но позволяющий проверять claim на валидность без отправки самого клейма и остальных клеймов. Т.е. если одинчерножелтый ресурс просит вас подтвердить, что вам есть 18, то этот протокол позволит вам это сделать без отправки даты рождения и остальных данных
Кстати, тут коллеги очень интересную штуку откопали. Это протокол авторизации a-la OpenID, но позволяющий проверять claim на валидность без отправки самого клейма и остальных клеймов. Т.е. если один
Telegram
PONV Daily
#decentralized_identity
https://identity.foundation/
https://github.com/decentralized-identity/snark-credentials/blob/master/whitepaper.pdf
https://identity.foundation/
https://github.com/decentralized-identity/snark-credentials/blob/master/whitepaper.pdf
Forwarded from Sysadmin Tools 🇺🇦
Оператор в #kubernetes для управления кластерами БД
https://habr.com/ru/post/523378/
https://youtu.be/z2aARjKDg4w
#k8s #clickhouse #kubernetesoperator #database #db #altinity
https://habr.com/ru/post/523378/
https://youtu.be/z2aARjKDg4w
#k8s #clickhouse #kubernetesoperator #database #db #altinity
#sre #metrics
Котаны, откопал тут древний видос от Coda Hale про мониторинг. Если не смотрели, то очень рекомендую. Меня вот очень зацепила фраза со слайда: "If it could affect your code's business value, add a metric"
Котаны, откопал тут древний видос от Coda Hale про мониторинг. Если не смотрели, то очень рекомендую. Меня вот очень зацепила фраза со слайда: "If it could affect your code's business value, add a metric"
YouTube
Metrics, Metrics, Everywhere - Coda Hale
https://github.com/codahale/metrics
#sre #logging
Подробная(возможно даже чересчур) инструкция по настройке логгинг-стека Vector+Clickhouse
Подробная(возможно даже чересчур) инструкция по настройке логгинг-стека Vector+Clickhouse
Хабр
Отправка Nginx json логов с помощью Vector в Clickhouse и Elasticsearch
Vector, предназначенной для сбора, преобразования и отправки данных логов, метрик и событий. Его Github Будучи написанной на языке Rust, она отличается высокой...
Хех, история в стиле помоги Даше найти хешсет)) Понадобился мне тут как-то хешсет в C# проекте, да не простой хешсет, а конкурентный! Ну, думаю, нам же выдали набор lockfree коллекций
И вуаля! Предлагают взять
З.Ы. после долгих обсуждений все-таки сделали пропозал
System.Collection.Concurrent, но, внезапно, нужного среди всяких ConcurrentQueue и ConcurrentDictionary не находится. Уже в предвкушении взял попкорна и колы и пошел на гитхаб.И вуаля! Предлагают взять
ConcurrentDictionary и просто не юзать второй элемент)) Современные проблемы требуют современных решений, хех))З.Ы. после долгих обсуждений все-таки сделали пропозал
GitHub
What about adding a ConcurrentSet<T>? · Issue #16443 · dotnet/runtime
The need for it comes up every now and then. To me it would make sense next to ConcurrentDictionary<TKey, TValue>
Forwarded from ITGram
📄 Write code that is easy to delete, not easy to extend is a guide (an essay?) on when it's good to copy-paste a code and when it's not, when it's good to split a code by pieces and when it's better to keep all things together. These are hard questions but we should think and talk about it.
Tumblr
Write code that is easy to delete, not easy to extend.
“Every line of code is written without reason, maintained out of weakness, and deleted by chance” Jean-Paul Sartre’s Programming in ANSI C.
Every line of code written comes at a price: maintenance. To...
Every line of code written comes at a price: maintenance. To...
Forwarded from Технологический Болт Генона
HSE is an embeddable key-value store designed for SSDs based on NAND flash or persistent memory. HSE optimizes performance and endurance by orchestrating data placement across DRAM and multiple classes of SSDs or other solid-state storage.
https://github.com/hse-project/hse
https://github.com/hse-project/hse
Forwarded from Consensus
Одна из самых важных теорем в распределенных системах - C̶A̶P̶ FLP теорема.
Она строго доказывает, что невозможно достичь консенсуса, если:
🔸 Система асинхронна (что справедливо для реальных сетей)
🔸 Хоть один из узлов может отказать
🔸 Алгоритм детерминирован
И тут возникает вопрос - а как же алгоритмы консенсуса Paxos/Raft?
Paxos/Raft работают строго в рамках этой теоремы. У обоих алгоритмов существуют сценарии, при которых они не будут совершать прогресс, т.е. выбор одного значения на узлах никогда не завершится. Пофиксить это можно убрав какое-то условие из FLP, например детерминизм. Raft убирает детерменизм c помощью рандомных таймеров при выборе лидера, чтобы избегать таких сценариев.
Если вы вдруг придумали алгоритм консенсуса - найдите такое исполнение, при котором система не сможет совершать прогресс. Алгоритм консенсуса не может нарушать FLP теорему!
В общем, теорема не означает, что консенсус недостежим. Она лишь означает, что консенсус не всегда достежим/недостежим за детерминированное время. Это важно понимать.
#flp #theory
Она строго доказывает, что невозможно достичь консенсуса, если:
🔸 Система асинхронна (что справедливо для реальных сетей)
🔸 Хоть один из узлов может отказать
🔸 Алгоритм детерминирован
И тут возникает вопрос - а как же алгоритмы консенсуса Paxos/Raft?
Paxos/Raft работают строго в рамках этой теоремы. У обоих алгоритмов существуют сценарии, при которых они не будут совершать прогресс, т.е. выбор одного значения на узлах никогда не завершится. Пофиксить это можно убрав какое-то условие из FLP, например детерминизм. Raft убирает детерменизм c помощью рандомных таймеров при выборе лидера, чтобы избегать таких сценариев.
Если вы вдруг придумали алгоритм консенсуса - найдите такое исполнение, при котором система не сможет совершать прогресс. Алгоритм консенсуса не может нарушать FLP теорему!
В общем, теорема не означает, что консенсус недостежим. Она лишь означает, что консенсус не всегда достежим/недостежим за детерминированное время. Это важно понимать.
#flp #theory
Маркетинг MongoDb бессмысленный и беспощадный
YouTube
MongoDB Database Skills (Sia Cheap Thrills Parody)
MongoDB is proud to present this awesome parody music video featuring our new Atlas technology.
For more information on MongoDB Atlas visit: https://bit.ly/3fGBDn9
Subscribe to MongoDB ►►► https://bit.ly/3bpg1Z1
Connect with MongoDB:
Website: https:…
For more information on MongoDB Atlas visit: https://bit.ly/3fGBDn9
Subscribe to MongoDB ►►► https://bit.ly/3bpg1Z1
Connect with MongoDB:
Website: https:…