Мир полон лжи. Что делать, если то к чему ты привык оказалось неправдой? Автор данной статьи присмотрелся внимательно к такой казалось бы простой и очевидной вещи как CPU Utilization и понял что она на самом деле не соответствует действительности в современных системах.
Почему это так и что с этим делать - читайте в статье Brendan Gregg'а:
http://www.brendangregg.com/blog/2017-05-09/cpu-utilization-is-wrong.html
#performance #metrics #cpu
Почему это так и что с этим делать - читайте в статье Brendan Gregg'а:
http://www.brendangregg.com/blog/2017-05-09/cpu-utilization-is-wrong.html
#performance #metrics #cpu
Старый, но тем не менее полезный доклад от одного из авторов RocksDB про базы данных.
Все хотят получить базу данных, из которой будет очень быстро читать, очень быстро писать, а еще желательно чтобы данные хранились очень компактно. Если кратко - можно получить только 2 из 3. Почему? Смотрите доклад.
https://www.youtube.com/watch?v=Hxj6g0sKu5A
#database #design #performance #efficient #facebook
Все хотят получить базу данных, из которой будет очень быстро читать, очень быстро писать, а еще желательно чтобы данные хранились очень компактно. Если кратко - можно получить только 2 из 3. Почему? Смотрите доклад.
https://www.youtube.com/watch?v=Hxj6g0sKu5A
#database #design #performance #efficient #facebook
YouTube
Read, write and space efficiency – pick two
Author: Mark Callaghan
Abstract:
Read, write and space efficiency make it easier to compare database algorithms. By efficiency I mean the amount of work, CPU and storage, per user request. While the algorithms for a b-tree and log structured merge tree…
Abstract:
Read, write and space efficiency make it easier to compare database algorithms. By efficiency I mean the amount of work, CPU and storage, per user request. While the algorithms for a b-tree and log structured merge tree…
Появились видеозаписи докладов с monitorama pdx 2017. Рекомендуется к просмотру всем кому не безразличен мониторинг и/или time series.
https://vimeo.com/channels/1255299
#monitorama #monitoring #video #tsdb #timeseries
https://vimeo.com/channels/1255299
#monitorama #monitoring #video #tsdb #timeseries
Vimeo
Monitorama PDX 2017 - Portland, OR
Join the web’s most supportive community of creators and get high-quality tools for hosting, sharing, and streaming videos in gorgeous HD with no ads.
Опубликованы видеозаписи докладов с SREcon 2017 Asia. Отдельно хотел бы обратить внимание на доклад Golang's Garbage про некоторые особенности работы сборщика мусора в Golang.
Список докладов со ссылками на видео можно найти на официальной странице конференции:
https://www.usenix.org/conference/srecon17asia/program
#srecon #videos #sre
Список докладов со ссылками на видео можно найти на официальной странице конференции:
https://www.usenix.org/conference/srecon17asia/program
#srecon #videos #sre
Опубликованы видеозаписи с PromCon 2017.
https://www.youtube.com/watch?v=4Pr-z8-r1eo&list=PLoz-W_CUquUlnvoEBbqChb7A0ZEZsWSXt
Само рассписание можно найти тут: https://promcon.io/2017-munich/schedule/
#promcon #videos #prometheus #monitoring
https://www.youtube.com/watch?v=4Pr-z8-r1eo&list=PLoz-W_CUquUlnvoEBbqChb7A0ZEZsWSXt
Само рассписание можно найти тут: https://promcon.io/2017-munich/schedule/
#promcon #videos #prometheus #monitoring
YouTube
PromCon 2017: Conference Recap
Как потюнить веб-сервер? Казалось бы простой вопрос, но в ответ на него Alexey Ivanov (Dropbox) написал огромную и очень детальную статью, рассматривающую все возможные моменты тюнинга.
https://blogs.dropbox.com/tech/2017/09/optimizing-web-servers-for-high-throughput-and-low-latency/
#nginx #performance #tuning #dropbox
https://blogs.dropbox.com/tech/2017/09/optimizing-web-servers-for-high-throughput-and-low-latency/
#nginx #performance #tuning #dropbox
dropbox.tech
Optimizing web servers for high throughput and low latency
На случай, если кто то из подписчиков живёт около Берлина и интересуется Clickhouse'ом - 5ого октября состоится первый англоязычный clickhouse Meetup в Берлине.
Следующий ClickHouse Meetup состоится в Берлине, 5 октября. Участие бесплатное, но необходимо заранее зарегистрироваться: https://events.yandex.com/events/meetings/05-10-2017/register/
#clickhouse #meetup #berlin
Следующий ClickHouse Meetup состоится в Берлине, 5 октября. Участие бесплатное, но необходимо заранее зарегистрироваться: https://events.yandex.com/events/meetings/05-10-2017/register/
#clickhouse #meetup #berlin
Yandex
Registration — Yandex.Events
Events — all information about conferences, shools, seminars and other events of Yandex - both past and forthcoming.
Forwarded from Pavel T
Какая удобная и хорошая вещь — контейнеры. Но не для всех. Так, например, для мониторинга, которому надо "видеть всё", дополнительные границы — только лишние заботы.
О том как okmeter борется с контейнерами и про неочевидные моменты неймспейсов линукса — их статья на хабре.
#containers #docker #monitoring
https://habrahabr.ru/company/okmeter/blog/337964/
О том как okmeter борется с контейнерами и про неочевидные моменты неймспейсов линукса — их статья на хабре.
#containers #docker #monitoring
https://habrahabr.ru/company/okmeter/blog/337964/
Хабр
Docker, или Туда и обратно
С появлением docker у нас, как у сервиса мониторинга немного усложнилась жизнь. Как я писал ранее, одна из фишек нашего сервиса — автодетект сервисов, то есть а...
Перевод на русский язык статьи Алексея Иванова (Dropbox) про оптимизацию веб-сервера. Для тех кому проще все же на великом и могучем. Напомню, что статья полезна в принципе подходом к оптимизации и большая часть советов может быть перенесена на произвольное сетевое (и не только) приложение.
https://habrahabr.ru/company/badoo/blog/338226/
#nginx #performance #tuning #dropbox
https://habrahabr.ru/company/badoo/blog/338226/
#nginx #performance #tuning #dropbox
Хабр
Оптимизация веб-серверов для повышения пропускной способности и уменьшения задержки
Привет! Меня зовут Макс Матюхин, я работаю в SRV-команде Badoo. Мы в Badoo не только активно пишем посты в свой блог, но и внимательно читаем блоги наших коллег...
Facebook в своем блоге опубликовал статью про миграцию с InnoDB на MyRocks. Даннный пост является текстовой версией их презентации на SRECon 2017 Asia. В посте рассказано про выигрышь от перехода в плане утилизации железа, а также показан сам процесс миграции.
Пост: https://code.facebook.com/posts/1478526992216557/migrating-a-database-from-innodb-to-myrocks/
Доклад с SRECon для тех, кто больше любит видео и презентацию: https://www.usenix.org/conference/srecon17asia/program/presentation/matsunobu
#facebook #mysql #innodb #rocksdb #myrocks
Пост: https://code.facebook.com/posts/1478526992216557/migrating-a-database-from-innodb-to-myrocks/
Доклад с SRECon для тех, кто больше любит видео и презентацию: https://www.usenix.org/conference/srecon17asia/program/presentation/matsunobu
#facebook #mysql #innodb #rocksdb #myrocks
Facebook Code
Migrating a database from InnoDB to MyRocks
Moving one of Facebook's main databases to MyRocks cut storage usage in half.
Слайды с нового доклада Brendan Gregg про анализ производительности в Linux.
https://www.slideshare.net/brendangregg/kernel-recipes-2017-performance-analysis-with-bpf
#performance #brendangregg #ebpf #bpf
https://www.slideshare.net/brendangregg/kernel-recipes-2017-performance-analysis-with-bpf
#performance #brendangregg #ebpf #bpf
www.slideshare.net
Kernel Recipes 2017: Performance Analysis with BPF
Kernel Recipes 2017: Performance Analysis with BPF - Download as a PDF or view online for free
Опубликованы видео с конференции Strange Loop, проходившей в конце сентября. Конференция посвящена всему вокруг технологий, распределенных систем и безопасности и т.п. Расписание конференций и краткие содержания докладов можно посмотреть тут: https://www.thestrangeloop.com/schedule.html
Плейлист с видео:
https://www.youtube.com/watch?v=0BC_FOIxgy4&list=PLcGKfGEEONaDzd0Hkn2f1talsTu1HLDYu
#videos #strangeloop
Плейлист с видео:
https://www.youtube.com/watch?v=0BC_FOIxgy4&list=PLcGKfGEEONaDzd0Hkn2f1talsTu1HLDYu
#videos #strangeloop
Thestrangeloop
Schedule - Strange Loop
Strange Loop (Sep 21-Sep 22, 2023 - St. Louis) is a conference for software developers covering programming langs, databases, distributed systems, security, machine learning, creativity, and more!
Статья о том, как GitHub борется с отстающими репликами MySQL. Для решения этой проблемы они создали распределённый масштабируемый сервис, throttle'ящий запросы к базе. Подробнее о подходе читайте в статье: https://githubengineering.com/mitigating-replication-lag-and-reducing-read-load-with-freno/
#github #mysql #throttling
#github #mysql #throttling
GitHub Engineering
Mitigating replication lag and reducing read load with freno
At GitHub, we use MySQL as the main database technology backing our services. We run classic MySQL master-replica setups, where writes go to the master, and replicas replay master’s changes asynchronously. To be able to serve our traffic we read data from…
Тихо и незаметно Kafka достигла версии 1.0
Подробности и список изменений по ссылке: https://www.confluent.io/blog/apache-kafka-goes-1-0/
#kafka
Подробности и список изменений по ссылке: https://www.confluent.io/blog/apache-kafka-goes-1-0/
#kafka
Confluent
Apache Kafka Goes 1.0
The mission-critical deployments, the robust feature set, the long history all say that Kafka is an Enterprise-capable product. Apache Kafka is going 1.0!
GitHub опубликовал чуть более подробную историю разработки их распределенной версии git'а. В целом в их подходе нет ничего революционного, просто удачно скомбинированные стандартные подходы.
Подробности: https://githubengineering.com/stretching-spokes/
#github #spokes #dgit #git #architecture #infrastructure
Подробности: https://githubengineering.com/stretching-spokes/
#github #spokes #dgit #git #architecture #infrastructure
GitHub Engineering
Stretching Spokes
GitHub’s Spokes system stores multiple distributed copies of Git repositories. This article discusses how we got Spokes replication to span widely separated datacenters.
Громко и достаточно заметно вышел Prometheus 2.0. Основные новшества:
1. Переписан движок хранения данных, теперь он потребляет на 20-40% меньше CPU, и при этом на 33-50% компактнее. Также заявлена более консистентная скорость выполнения чтения.
2. staleness handling - теперь prometheus следит за исчезновением метрик по которым происходят алерты.
3. Remote Storage API откроет дорогу для создания полноценных long-term хранилищ для Prometheus и возможности создания плагинов для реализации, например, retention схем.
4. Формат конфигурации алертов теперь описывается в YAML.
Более подробно можно прочитать в официальном анонсе:
https://prometheus.io/blog/2017/11/08/announcing-prometheus-2-0/
#prometheus #monitoring #timeseries #tsdb #alerting
1. Переписан движок хранения данных, теперь он потребляет на 20-40% меньше CPU, и при этом на 33-50% компактнее. Также заявлена более консистентная скорость выполнения чтения.
2. staleness handling - теперь prometheus следит за исчезновением метрик по которым происходят алерты.
3. Remote Storage API откроет дорогу для создания полноценных long-term хранилищ для Prometheus и возможности создания плагинов для реализации, например, retention схем.
4. Формат конфигурации алертов теперь описывается в YAML.
Более подробно можно прочитать в официальном анонсе:
https://prometheus.io/blog/2017/11/08/announcing-prometheus-2-0/
#prometheus #monitoring #timeseries #tsdb #alerting
prometheus.io
Announcing Prometheus 2.0 | Prometheus
An open-source monitoring system with a dimensional data model, flexible query language, efficient time series database and modern alerting approach.
Опубликованы видеозаписи докладов с LISA17, проходившей в конце октября в Сан Франциско.
Конференция посвящена масштабированию и эксплуатации распределенных систем и является одно из старейших в своем роде.
Playlist на youtube: https://www.youtube.com/playlist?list=PLbRoZ5Rrl5lfzbd-NnFFBOwZs2He4PBH7
Сайт конференции (с abstract докладов): https://www.usenix.org/conference/lisa17/conference-program
#videos #conferece #video #youtube #lisa17 #lisa #scaling #usenix
Конференция посвящена масштабированию и эксплуатации распределенных систем и является одно из старейших в своем роде.
Playlist на youtube: https://www.youtube.com/playlist?list=PLbRoZ5Rrl5lfzbd-NnFFBOwZs2He4PBH7
Сайт конференции (с abstract докладов): https://www.usenix.org/conference/lisa17/conference-program
#videos #conferece #video #youtube #lisa17 #lisa #scaling #usenix
YouTube
LISA17 - YouTube
И аналогично про SRECon17 Europe.
Конференция посвящена SRE и DevOps практикам, архитектуре систем и всему с этим связанному.
Playlist: https://www.youtube.com/playlist?list=PLbRoZ5Rrl5lcIFf9w5z2s4csaS_nIs3_Z
#videos #conferece #video #youtube #srecon17eu #srecon17 #srecon #usenix
Конференция посвящена SRE и DevOps практикам, архитектуре систем и всему с этим связанному.
Playlist: https://www.youtube.com/playlist?list=PLbRoZ5Rrl5lcIFf9w5z2s4csaS_nIs3_Z
#videos #conferece #video #youtube #srecon17eu #srecon17 #srecon #usenix
YouTube
SREcon17 Europe/Middle East/Africa - YouTube
Amazon открыл public preview новых типов инстансов - i3.metal. Как можно догадаться из названия это bare metal, 2xE5-2686v4 (сумарно 36 ядер или 72 потока), 512GB Ram, 15.2TB Local NVMe SSD, 25 гбит сеть. Вся остальная инфраструктура, включая Auto Scaling продолжит работать с ними как будто это стандартные виртуалки в облаке.
Подробности: https://aws.amazon.com/blogs/aws/new-amazon-ec2-bare-metal-instances-with-direct-access-to-hardware/
#aws #baremetal #hosting #ec2
Подробности: https://aws.amazon.com/blogs/aws/new-amazon-ec2-bare-metal-instances-with-direct-access-to-hardware/
#aws #baremetal #hosting #ec2
Amazon
Amazon EC2 Bare Metal Instances with Direct Access to Hardware | Amazon Web Services
When customers come to us with new and unique requirements for AWS, we listen closely, ask lots of questions, and do our best to understand and address their needs. When we do this, we make the resulting service or feature generally available; we do not build…
DataDog померяли влияние заплаток от Spectre и Meltdown на своем Redis кластере (в нем миллионы ядер) и опубликовали по этому поводу небольшую статью с графиками: https://www.datadoghq.com/blog/meltdown-spectre-cpu/
#datadog #meltdown #spectre #performance #impact #security
#datadog #meltdown #spectre #performance #impact #security
The Meltdown/Spectre saga: Measuring the impact on millions of cores
The Meltdown/Spectre saga: Measuring the impact on millions of cores | Datadog
Data from millions of cores monitored by Datadog shows widespread impacts of the security patches.
После долгой разработки, выпущена Grafana 5.0.0
Главные изменения релиза:
- намного более гибкие дашборды.
- появление концепции команд и разделения прав доступа
- поддержка группировки дашбордов
- поддержка тэгов в графите и возможность автоматического получения списка доступных функций (поддерживается в graphite-web 1.1.0+ и carbonapi 0.9.2+)
Пакеты будут в ближайшее время. Официальный анонс ожидается завтра на GrafanaCon EU 2018.
Подробнее:
http://docs.grafana.org/guides/whats-new-in-v5/
https://github.com/grafana/grafana/releases/tag/v5.0.0
#grafana #monitoring
Главные изменения релиза:
- намного более гибкие дашборды.
- появление концепции команд и разделения прав доступа
- поддержка группировки дашбордов
- поддержка тэгов в графите и возможность автоматического получения списка доступных функций (поддерживается в graphite-web 1.1.0+ и carbonapi 0.9.2+)
Пакеты будут в ближайшее время. Официальный анонс ожидается завтра на GrafanaCon EU 2018.
Подробнее:
http://docs.grafana.org/guides/whats-new-in-v5/
https://github.com/grafana/grafana/releases/tag/v5.0.0
#grafana #monitoring