Организация доступа через ssh может оказаться не такой тривиально задачей, особенно в большой компании. Facebook опубликовал статью о том, как они решают проблему доступов у себя без использования LDAP авторизации.
https://code.facebook.com/posts/365787980419535/scalable-and-secure-access-with-ssh/
https://code.facebook.com/posts/365787980419535/scalable-and-secure-access-with-ssh/
Facebook Code
Scalable and secure access with SSH
Facebook leverages signed certificates with principals for scalable, reliable security access.
У btrfs наконец появилась вики страничка с актуальным статусом каждого компонента (по мнению разработчиков):
https://btrfs.wiki.kernel.org/index.php/Status
https://btrfs.wiki.kernel.org/index.php/Status
Когда в вашей инфраструктуре появляется слишком много контейнеров возникает потребность в отдельных балансировщиках нагрузки для DHCP. Facebook выложил свое решение в OpenSource и выпустил статью про то зачем им пришлось сделать еще один балансер и почему чистый anycast не подошел для этой задачи.
https://code.facebook.com/posts/1734309626831603/dhcplb-an-open-source-load-balancer/
https://code.facebook.com/posts/1734309626831603/dhcplb-an-open-source-load-balancer/
Facebook Code
DHCPLB: An open source load balancer
From hackathon prototype to internship project, the new load balancer is now deployed across Facebook's server fleet to manage DHCP traffic.
Forwarded from Code News
Опубликованы записи докладов с конференции Strange Loop 2016. Конференция посвящена в основном разработке и архитектуре высоконагруженных приложений, но также есть доклады на более приземленные темы.
https://www.youtube.com/playlist?list=PLcGKfGEEONaDvuLDFFKRfzbsaBuVVXdYa
#conference #video #development
https://www.youtube.com/playlist?list=PLcGKfGEEONaDvuLDFFKRfzbsaBuVVXdYa
#conference #video #development
GitHub начал публиковать заметки про свой балансировщик нагрузки. В будущем обещают опубликовать и часть исходного кода.
http://githubengineering.com/introducing-glb/
#github #loadbalancer #lb #ha #hl #highavailability
http://githubengineering.com/introducing-glb/
#github #loadbalancer #lb #ha #hl #highavailability
Forwarded from Code News
На YouTube обнаружились записи Intermediate Go Programming Tutorial от O'Reilly. Не очень понятно опубликованы ли они официально или по ошибке (видео 9 и 13 можно найти на канале, но они не включены в плейлист).
https://www.youtube.com/playlist?list=PLkmJREe6CMdnCsikhw7anHZTBgSKn7CyH
#oreilly #golang #tutorials
https://www.youtube.com/playlist?list=PLkmJREe6CMdnCsikhw7anHZTBgSKn7CyH
#oreilly #golang #tutorials
Uber делает более миллиона записей в секунду в свои Cassandra-кластера. При этом для отказоустойчивости и простоты масштабирования они используют Mesos. Интересно как и почему? Тогда читайте новую статью в highscalability блоге.
http://highscalability.com/blog/2016/9/28/how-uber-manages-a-million-writes-per-second-using-mesos-and.html
#uber #cassandra #mesos #highavailability #highload #hl #ha
http://highscalability.com/blog/2016/9/28/how-uber-manages-a-million-writes-per-second-using-mesos-and.html
#uber #cassandra #mesos #highavailability #highload #hl #ha
Highscalability
How Uber Manages a Million Writes Per Second Using Mesos and Cassandra Across Multiple Datacenters - High Scalability -
If you are Uber and you need to store the location data that is sent out every 30 seconds by bo...
Так как я поехал на LinuxCon Europe 2016, то новостей от конкретно меня пока не будет, зато я сделал маленький канал где буду флудить конспектами докладов и фоточками
https://telegram.me/linuxconnotes
#linuxcon #notes #talks
https://telegram.me/linuxconnotes
#linuxcon #notes #talks
Forwarded from Code News
O'Reilly выложил немного бесплатных книжек по разным языкам программирования (Java, Python, C++, общее по инженирингу):
http://www.oreilly.com/programming/free/
#oreilly #books
http://www.oreilly.com/programming/free/
#oreilly #books
Oreilly
O'Reilly Media - Technology and Business Training
Gain technology and business knowledge and hone your skills with learning resources created and curated by O'Reilly's experts: live online training, video, books, our platform has content from 200+ of the world's best publishers.
Оказывается, Twitch активно использует PostgreSQL - более 125 хостов только под него. В своем блоге они опубликовали историю того как они масштабируют postgres на несколько регионов в Амазоне.
https://blog.twitch.tv/how-twitch-uses-postgresql-c34aa9e56f58
#twitch #postgresql #postgres #amazon #aws
https://blog.twitch.tv/how-twitch-uses-postgresql-c34aa9e56f58
#twitch #postgresql #postgres #amazon #aws
Twitch Blog
How Twitch uses PostgreSQL
Twitch has approximately 125 database hosts serving OLTP workloads in production, usually as part of a cluster. Approximately 4% run MySQL…
Тем временем Dropbox использует, неожиданно, Elasticsearch и Kafka для мониторинга своей сети (в реальном времени!).
Описание этого неожиданного решения находится в их блоге.
https://blogs.dropbox.com/tech/2016/10/netflash-tracking-dropbox-network-traffic-in-real-time-with-elasticsearch/
#dropbox #monitoring #elasticsearch
Описание этого неожиданного решения находится в их блоге.
https://blogs.dropbox.com/tech/2016/10/netflash-tracking-dropbox-network-traffic-in-real-time-with-elasticsearch/
#dropbox #monitoring #elasticsearch
dropbox.tech
NetFlash: Tracking Dropbox network traffic in real-time with Elasticsearch
Довольно глубокая статья (пусть и немного старая) описывающая работу механизма кэширования в PostgreSQL.
https://madusudanan.com/blog/understanding-postgres-caching-in-depth/
https://madusudanan.com/blog/understanding-postgres-caching-in-depth/
Глава из бета-версии книги "Development&Deployment of Multiplayer Online Games" посвященная базам данных. Если быть конкретнее, этот отрывок посвящен ACID транзакциям, уровням изоляции и блокировкам.
http://ithare.com/databases-101-acid-mvcc-vs-locks-transaction-isolation-levels-and-concurrency/
#databases #acid #concurency
http://ithare.com/databases-101-acid-mvcc-vs-locks-transaction-isolation-levels-and-concurrency/
#databases #acid #concurency
IT Hare on Soft.ware
Databases 101: ACID, MVCC vs Locks, Transaction Isolation Levels, and Concurrency
Chapter XVII(a), "Databases 101. ACID, MVCC vs Locks, Transaction Isolation Levels, and Concurrency" from upcoming book "Development&Deployment of Multiplayer Online Games"
Статья про детали работы (мониторинг и тюнинг) сетевого стэка Linux'а. В статье упор на взаимодействие различных частей ядра друг с другом.
http://blog.packagecloud.io/eng/2016/10/11/monitoring-tuning-linux-networking-stack-receiving-data-illustrated/
#linux #network #tuning #monitoring #hardcore
http://blog.packagecloud.io/eng/2016/10/11/monitoring-tuning-linux-networking-stack-receiving-data-illustrated/
#linux #network #tuning #monitoring #hardcore
blog.packagecloud.io
Illustrated Guide to Monitoring and Tuning the Linux Networking Stack: Receiving Data | Packagecloud Blog
This post illustrates guides to monitor and tune the Linux networking stack in great detail with the focus on receiving data.
Brendan Gregg опубликовал в своем блоге серию постов про анализ задержек различных подсистем ядра при помощи BPF.
#brendangregg #performance #bpf
http://www.brendangregg.com/blog/2016-10-06/linux-bcc-ext4dist-ext4slower.html - ext4
http://www.brendangregg.com/blog/2016-10-04/linux-bcc-mysqld-qslower.html - mysql slow query
http://www.brendangregg.com/blog/2016-10-01/linux-bcc-security-capabilities.html - security capabilities
http://www.brendangregg.com/blog/2016-10-12/linux-bcc-nodejs-usdt.html - nodejshttp://www.brendangregg.com/blog/2016-10-15/linux-bcc-tcptop.html - tcptop
http://www.brendangregg.com/blog/2016-10-08/linux-bcc-runqlat.html - scheduler
#brendangregg #performance #bpf
http://www.brendangregg.com/blog/2016-10-06/linux-bcc-ext4dist-ext4slower.html - ext4
http://www.brendangregg.com/blog/2016-10-04/linux-bcc-mysqld-qslower.html - mysql slow query
http://www.brendangregg.com/blog/2016-10-01/linux-bcc-security-capabilities.html - security capabilities
http://www.brendangregg.com/blog/2016-10-12/linux-bcc-nodejs-usdt.html - nodejshttp://www.brendangregg.com/blog/2016-10-15/linux-bcc-tcptop.html - tcptop
http://www.brendangregg.com/blog/2016-10-08/linux-bcc-runqlat.html - scheduler
Brendangregg
Linux bcc tcptop
Linux bcc tcptop: using enhanced BPF (eBPF) and kernel dynamic tracing to create an efficient tcptop for displaying TCP connection statistics.
AirBnB опубликовал статью о том как они столкнулись и решали проблему C10K в MySQL.
https://medium.com/airbnb-engineering/unlocking-horizontal-scalability-in-our-web-serving-tier-d907449cdbcf
#airbnb #mysql #c10k #performance
https://medium.com/airbnb-engineering/unlocking-horizontal-scalability-in-our-web-serving-tier-d907449cdbcf
#airbnb #mysql #c10k #performance
Medium
Unlocking Horizontal Scalability in Our Web Serving Tier
by Liang Guo
Продолжение цикла статей про параллельную репликацию MySQL от Booking. В новой статье речь идет о Optimistic Parallel Replication из состава MariaDB 10.1.
http://blog.booking.com/evaluating_mysql_parallel_replication_4-more_benchmarks_in_production.html
#booking.com #mysql #performance
http://blog.booking.com/evaluating_mysql_parallel_replication_4-more_benchmarks_in_production.html
#booking.com #mysql #performance
Яндекс опубликовал серию докладов о своей инфраструктуре:
Краткое содержание:
https://youtu.be/9ANuWEZqCUg?t=592 - Рассказ про Яндексовый MapReduce
https://youtu.be/9ANuWEZqCUg?t=4454 - Рассказ про декларативный язык для MapReduce (и не только)
https://youtu.be/9ANuWEZqCUg?t=9401 - Рассказ про ClickHouse (теперь уже OpenSource база данных для различных задач в области Real-Time аналитики)
https://youtu.be/9ANuWEZqCUg?t=13555 - Storage в Яндексе (на примере архитектуры Яндекс.Диска).
#Yandex #ClickHouse #Infrastructure #Storage #MapReduce
Краткое содержание:
https://youtu.be/9ANuWEZqCUg?t=592 - Рассказ про Яндексовый MapReduce
https://youtu.be/9ANuWEZqCUg?t=4454 - Рассказ про декларативный язык для MapReduce (и не только)
https://youtu.be/9ANuWEZqCUg?t=9401 - Рассказ про ClickHouse (теперь уже OpenSource база данных для различных задач в области Real-Time аналитики)
https://youtu.be/9ANuWEZqCUg?t=13555 - Storage в Яндексе (на примере архитектуры Яндекс.Диска).
#Yandex #ClickHouse #Infrastructure #Storage #MapReduce
YouTube
Запись трансляции Яндекс изнутри: инфраструктура хранения и обработки данных
Продолжается серия встреч, посвящённых технологиям Яндекса. В августе мы делились секретами поиска, а теперь пришёл черёд подробного рассказа об инфраструктуре хранения и обработки данных.
Наша инфраструктура уникальна. Суммарный объём данных, которыми оперирует…
Наша инфраструктура уникальна. Суммарный объём данных, которыми оперирует…
Сегодня вышел Elastic Stack 5.0 (ES, Kibana, Logstash, ...)
Изменений очень много, проще пойти по ссылке и прочитать самостоятельно.
https://www.elastic.co/blog/elastic-stack-5-0-0-released
#elasticsearch #kibana
Изменений очень много, проще пойти по ссылке и прочитать самостоятельно.
https://www.elastic.co/blog/elastic-stack-5-0-0-released
#elasticsearch #kibana
Elastic Blog
Elastic Stack 5.0.0 Released
After almost a year of substantial effort, including 5 Alphas, 1 Beta, and 1 Release Candidate we are pleased to announce Elastic Stack 5.0.0 GA
Facebook выложил видео с конференции Networking@Scale, проходившей в Бостоне.
https://code.facebook.com/posts/1709127516080157/networking-scale-boston/
#facebook #networking #network #video #videos
https://code.facebook.com/posts/1709127516080157/networking-scale-boston/
#facebook #networking #network #video #videos
Facebook Engineering
Networking @Scale Boston
Last week, the networking community came together for Networking @Scale, our third @Scale conference in Boston. Boston has a strong history in networking and is the birthplace of many of the foundational technologies that the modern internet is built upon.…