Системный подход к масштабированию Ruby on Rails приложения, работающего на Heroku до 2000 запросов в секунду. В принципе подход может быть частично применен и к другим приложениям.
https://zeemee.engineering/scaling-rails-to-125-000-requests-per-minute-on-heroku-b4128a10a769#.ofmbhcg6e
https://zeemee.engineering/scaling-rails-to-125-000-requests-per-minute-on-heroku-b4128a10a769#.ofmbhcg6e
zeemee.engineering
UNKNOWN
:)?
Автор этой статьи проанализировал опыт ряда компаний, включая Netflix, Soundcloud, Spotify и других, добавил свой собственный опыт и оформил как список рекомендаций к постронию микросервисов.
http://www.vinaysahni.com/best-practices-for-building-a-microservice-architecture
http://www.vinaysahni.com/best-practices-for-building-a-microservice-architecture
Vinay Sahni
Best Practices for Building a Microservice Architecture
A curated a set of pragmatic practices for building a microservice architecture that fits well with modern web and cloud technologies.
Если вы хотели бы разобраться с NUMA и современной организацией работы с памятью - обязательно прочитайте эту серию статей. Там в подробностях описывается как история эволюции подсистемы работы с памятью, так и текущее состояние и причины, которые к нему привели. В серии планируется 7 частей, но на текущий момент опубликовано только 4.
http://frankdenneman.nl/2016/07/07/numa-deep-dive-part-1-uma-numa/
http://frankdenneman.nl/2016/07/07/numa-deep-dive-part-1-uma-numa/
frankdenneman.nl
NUMA Deep Dive Part 1: From UMA to NUMA - frankdenneman.nl
Non-uniform memory access (NUMA) is a shared memory architecture used in today’s multiprocessing systems. Each CPU is assigned its own local memory and can access memory from other CPUs in the system. Local memory access provides a low latency – high bandwidth…
Принято считать, что Pull для сбора данных в мониторинге не масштабируется и слишком затратен по сравнению с Push. У авторов Prometheus иное мнение:
https://prometheus.io/blog/2016/07/23/pull-does-not-scale-or-does-it/
https://prometheus.io/blog/2016/07/23/pull-does-not-scale-or-does-it/
prometheus.io
Pull doesn't scale - or does it? | Prometheus
An open-source monitoring system with a dimensional data model, flexible query language, efficient time series database and modern alerting approach.
O'Reilly выложили в свободный доступ ряд книг по DevOps (Monitoring Distributed Systems, DevOps in practice, Docker in the Cloud и др.) и по Performance (Effective Performance Engineering, Optimizing Cloud Migration, и др).
Скачать можно по ссылке: http://www.oreilly.com/webops-perf/free/
#book #books #devops #oreilly
Скачать можно по ссылке: http://www.oreilly.com/webops-perf/free/
#book #books #devops #oreilly
Oreilly
O'Reilly Media - Technology and Business Training
Gain technology and business knowledge and hone your skills with learning resources created and curated by O'Reilly's experts: live online training, video, books, our platform has content from 200+ of the world's best publishers.
Блогпост по мотивам keynote доклада с GolangUK 2016 применимости принципов SOLID к проектированию приложений на Go. Хоть данные принципы и были сформулированы более 10 лет назад (Agile Software Development, Principles, Patterns and Practices, Robert Martin, 2002), но до сих пор не потерил своей актуальности и помогают писать переиспользуемый, поддерживаемый и более очевидный код. Тому как их можно использовать применительно к Go и посвещана данные статья.
http://dave.cheney.net/2016/08/20/solid-go-design
#go #golang #SOLID
http://dave.cheney.net/2016/08/20/solid-go-design
#go #golang #SOLID
#paypal написал свой контейнеровоз поверх #akka и #JVM и обрабатывает транзакции на восьми виртуалках.
#java #containers #hl #ha
http://highscalability.com/blog/2016/8/15/how-paypal-scaled-to-billions-of-transactions-daily-using-ju.html
#java #containers #hl #ha
http://highscalability.com/blog/2016/8/15/how-paypal-scaled-to-billions-of-transactions-daily-using-ju.html
High Scalability
How PayPal Scaled to Billions of Transactions Daily Using Just 8VMs - High Scalability -
How did Paypal take a billion hits a day system that might traditionally run on a 100s of VMs and shrink it down to run on 8 VMs, stay responsive even at 90% CPU, at transaction densities Paypal has never seen before, with jobs that take 1/10th the time,
DigitalOcean выложила на GitHub код своей системы мониторинга, совместимой с API Prometheus. Она позиционируется как замена, рассчитанная на длительное хранение метрик. Правда пока что она имеет статус эксперементальной.
https://github.com/digitalocean/vulcan
#prometheus #metrics #digitalocean #monitoring
https://github.com/digitalocean/vulcan
#prometheus #metrics #digitalocean #monitoring
GitHub
GitHub - digitalocean/vulcan: Vulcan extends Prometheus adding horizontal scalability and long-term storage
Vulcan extends Prometheus adding horizontal scalability and long-term storage - digitalocean/vulcan
Неофициальный список статей, которые Google рекомендует к прочтению новопришедшим SRE. Он не специфичен для Google, но весомая часть - ссылки на исследования самого гугла. Полезно ознакомится, если вы хотите лучше понять чем занимаются крупные компании, что такое SRE и так далее:
http://larrr.com/spisok-rekomenduemyh-k-prochteniyu-statej-ot-google/
http://larrr.com/spisok-rekomenduemyh-k-prochteniyu-statej-ot-google/
В современном мире все большую и большую роль играет доступность сервисов. Если раньше хватало обычного fail over, то последние крупные сбои в информационных системах авиакомпаний показали, что этого становится мало. Эта статья о подходе, который Google называет native multihomed architecture, который позволит выдерживать даже полный выход из строя одного из дата центров.
http://highscalability.com/blog/2016/8/23/the-always-on-architecture-moving-beyond-legacy-disaster-rec.html
#architecture #failover #highavailability #ha
http://highscalability.com/blog/2016/8/23/the-always-on-architecture-moving-beyond-legacy-disaster-rec.html
#architecture #failover #highavailability #ha
High Scalability
The Always On Architecture - Moving Beyond Legacy Disaster Recovery - High Scalability -
Failover does not cut it anymore. You need an ALWAYS ON architecture with multiple data centers.-- Martin Van Ryswyk, VP of Engineering at DataStax
Failover, switching to a redundant or standby system when a component fails, has a long and checkered history…
Failover, switching to a redundant or standby system when a component fails, has a long and checkered history…
Тихо и незаметно, без лишнего шума, Яндекс выложил свой Mongo Sharing server под названием Mongoz. Заявляется, что в отличии от официального, Mongoz хорошо работает в условиях не идеальной сети ценой небольшого снижения гарантий консистентности.
https://github.com/yandex/mongoz
Анонс от автора: https://m.facebook.com/dmitry.prokoptsev/posts/565674550307006
#mongo #highavailability #ha #scalability #sharding
https://github.com/yandex/mongoz
Анонс от автора: https://m.facebook.com/dmitry.prokoptsev/posts/565674550307006
#mongo #highavailability #ha #scalability #sharding
GitHub
GitHub - yandex/mongoz: An alternative implementation of MongoDB sharding server aimed at high availability
An alternative implementation of MongoDB sharding server aimed at high availability - yandex/mongoz
#mailru #Tarantool #highavailability #ha #scalability #nosql #architecture
https://habrahabr.ru/company/mailru/blog/307424/
https://habrahabr.ru/company/mailru/blog/307424/
Habr
Игра в кошки-мышки: как создавался антиспам в Почте Mail.Ru и при чем здесь Tarantool
Привет, Хабр! В этой статье я хочу рассказать о системе антиспама в Почте Mail.Ru и опыте работы с Tarantool в рамках этого проекта: в каких задачах мы используем эту СУБД, с какими трудностями и...
#facebook рассказал о том, как он готовит конфигурацию сети.
Система называется #Robotron, она генерирует конфиги для сетевых устройств из темплейтов Django, деплоит, в том числе инкрементально, сравнивает метрики после апдейта с референсными, мониторит и т.д.
По ссылке целый PDF
https://goo.gl/hnzU7Y
Система называется #Robotron, она генерирует конфиги для сетевых устройств из темплейтов Django, деплоит, в том числе инкрементально, сравнивает метрики после апдейта с референсными, мониторит и т.д.
По ссылке целый PDF
https://goo.gl/hnzU7Y
Аналог #AWS Lambda (платформы облачных вычислений), но OpenSource and Self-Hosted
Внутри #docker, #nginx, #python
http://www.open-lambda.org/doc.htm
Внутри #docker, #nginx, #python
http://www.open-lambda.org/doc.htm
Facebook скрестил ужа с ежом и получил MySQL совместимую базу с движком RocksDB и назвал ее MyRocks. Насколько это хорошо работает? Ответ в блог посте:
https://code.facebook.com/posts/190251048047090/myrocks-a-space-and-write-optimized-mysql-database/
#facebook #rocksdb #mysql #highload #highavailability #hl #ha
https://code.facebook.com/posts/190251048047090/myrocks-a-space-and-write-optimized-mysql-database/
#facebook #rocksdb #mysql #highload #highavailability #hl #ha
Facebook Code
MyRocks: A space- and write-optimized MySQL database
Deploying MyRocks to a database tier in one of our data center regions enabled a 50 percent reduction in storage requirements.
#netflix рассказал о архитектуре и кейсах использования своей open-source системы тестирования облачных систем хранения Netflix Data Benchmark
#cloud #aws #Benchmarking
http://techblog.netflix.com/2016/09/netflix-data-benchmark-benchmarking.html
#cloud #aws #Benchmarking
http://techblog.netflix.com/2016/09/netflix-data-benchmark-benchmarking.html
Medium
Netflix Data Benchmark: Benchmarking Cloud Data Stores
Benchmarking Cloud Data Stores
Forwarded from Code News
Bouke van der Bijl в своем блоге привел Proof of concept атаки на локальные базы данных, запущенные на компьютерах разработчиков и доступные по http, например #redis, #memcached или #elasticsearch с использованием вебсайта в интернете и DNS-записи с маленьким TTL
#PoC #hack
http://bouk.co/blog/hacking-developers/
#PoC #hack
http://bouk.co/blog/hacking-developers/
На хабре перевод майской статьи о GitLab Container Registry - реестре образов Docker, интегрированом в GitLab
#GitLab #docker #automation #CI
https://habrahabr.ru/company/softmart/blog/309102/
#GitLab #docker #automation #CI
https://habrahabr.ru/company/softmart/blog/309102/
Habr
GitLab Container Registry
В мае этого года вышел релиз ГитЛаба 8.8. Частью этого релиза был запуск встроенного Docker Container Registry. Ниже перевод майской статьи, посвященной этому. Недавно нами был выпущен GitLab версии...
Пару недель назад Amazon анонсировал #aws ALB - Application Load Balancer, балансировщик нагрузки для контейнеров и микросервисов.
Подробный обзор возможностей by Convox по ссылке
#containers #architecture #microservices #aws_alb
https://convox.com/blog/alb/
Подробный обзор возможностей by Convox по ссылке
#containers #architecture #microservices #aws_alb
https://convox.com/blog/alb/