Forwarded from Блог Сергея Баранова
Референсная архитектура для микросервисов. Напоминание о том, как много всего нужно не забыть.
Forwarded from Инжиниринг Данных
Есть 3 основный типа файла для big data:
💃AVRO
💃PARQUET
💃ORC
Я обычно сразу использую parquet и даже не заморачиваюсь. Но вы можете посмотреть, в чем разница https://blog.clairvoyantsoft.com/big-data-file-formats-3fb659903271
💃AVRO
💃PARQUET
💃ORC
Я обычно сразу использую parquet и даже не заморачиваюсь. Но вы можете посмотреть, в чем разница https://blog.clairvoyantsoft.com/big-data-file-formats-3fb659903271
Medium
Big Data File Formats
In this blog, I will talk about what file formats actually are, go through some common Hadoop file format features, and give a little…
#scala
Тут Scala Book окончательно передали scala center'у, так что теперь можно скачать в любимом формате на шару
Тут Scala Book окончательно передали scala center'у, так что теперь можно скачать в любимом формате на шару
Forwarded from PONV Daily (Sergey Kucherenko)
Paxos vs Raft: Have we reached consensus on distributed consensus?
Heidi Howard, Richard Mortier
https://arxiv.org/pdf/2004.05074.pdf
Heidi Howard, Richard Mortier
https://arxiv.org/pdf/2004.05074.pdf
Forwarded from Инжиниринг Данных
Классика! Это наверно самый популярный вопрос на собеседованиях, в чем разница архитектур при построении DW. Я всегда говорю: "Ну Кимбал это побыстрому, построим витрины (datamart) и для каждого департамента/процесса своя схема звездва (dimensional modelling). Но сложно масштабировать и потом приходиться все переделывать. А вот Инмон наоборот, там есть большая модель данных в 3й нормальной форме, и она легко масштабируется, но долго делается. А еще есть Data Vault моделирование..."
А вы чем пользуетесь? Я если честно ничем🙈
А вы чем пользуетесь? Я если честно ничем🙈
TDAN.com
Data Warehouse Design – Inmon versus Kimball
Introduction We are living in the age of a data revolution, and more corporations are realizing that to lead—or in some cases, to survive—they need to harness their data wealth effectively. The data warehouse, due to its unique proposition as the integrated…
Все же хоть раз "скрывали фичи на UI" по каким-то причинам? Так вот, благодаря Фаулеру мы теперь знаем, что это не костыль, а паттерн KeystoneInterface
martinfowler.com
bliki: Keystone Interface
Build the UI for a feature last, so remaining code can be integrated and released.
I hate overtime
Кстати, котаны, сорян что последнее время не особо регулярно веду канал. Объяснюсь мемом
#devops
Вы даже не представляете, как же я за$бался заталкивать эту шляпу в vagrant. И вот, казалось бы, можно уже и сдаться и пойти в облака взять на погонять готовое, но тут Ростелеком постит вот это. Похоже что
1. не у меня одного бомбит
2. придется делать еще один подход к снаряду 🙈
Вы даже не представляете, как же я за$бался заталкивать эту шляпу в vagrant. И вот, казалось бы, можно уже и сдаться и пойти в облака взять на погонять готовое, но тут Ростелеком постит вот это. Похоже что
1. не у меня одного бомбит
2. придется делать еще один подход к снаряду 🙈
Хабр
Apache Bigtop и выбор Hadoop-дистрибутива сегодня
Наверное, ни для кого не секрет, что прошлый год для Apache Hadoop стал годом больших перемен. В прошлом году произошло слияние Cloudera и Hortonworks (по сути, поглощение второго), а Mapr, в...
В этом году Microsoft Build стал бесплатным и онлайновым!
Зарегаться можно тут
Зарегаться можно тут
Microsoft Build – Join us May 24-26 2022
Come together and discover the latest innovations in code and application development—and gain insights from peers and experts from around the world.
#data
Тут вот огненный выпуск software engineering daily(как всегда есть транскрипция) с Майклом Армбрустом из DataBricks про спарк, стриминг и их новый продукт Delta, который позиционируется как Data Warehouse поверх Data Lake. При этом они обещают не просто SQL поверх HDFS как в Hive и SparkSQL а даже ACID транзакции! Кароч очень интересненько, рекомендую
Тут вот огненный выпуск software engineering daily(как всегда есть транскрипция) с Майклом Армбрустом из DataBricks про спарк, стриминг и их новый продукт Delta, который позиционируется как Data Warehouse поверх Data Lake. При этом они обещают не просто SQL поверх HDFS как в Hive и SparkSQL а даже ACID транзакции! Кароч очень интересненько, рекомендую
Software Engineering Daily
Data Lakehouse with Michael Armbrust
A data warehouse is a system for performing fast queries on large amounts of data. A data lake is a system for storing high volumes of data in a format that is slow to access. A typical workflow for a data engineer is to pull data sets from this slow data…
Тут у Джона ДеГоеза вышел новый пост про Effect Tracking. Собственно смысл поста в том, что трекинг эффектов(всякие аннотации типа @Pure и аттрибуты типа PureAttribute) нинужен.
Пост очень годный и интересный, но вот по поводу императивных языков(в посте есть пример с Java) я прям категорически не согласен. К большому сожалению, для меня ситуации с сайд-эффектами в, казалось бы, чистых методах -- суровая реальность. И, мне никак не помогали ни сигнатуры методов, ни IDE, ни какой-либо другой тулинг избежать кучи человеко-часов фиксов условных bool Validate() взрывающихся с IOException.
Более того, в наших суровых реалиях тулинг, для поддержки такого функционала, требует EffectTracking'a 😔
Пост очень годный и интересный, но вот по поводу императивных языков(в посте есть пример с Java) я прям категорически не согласен. К большому сожалению, для меня ситуации с сайд-эффектами в, казалось бы, чистых методах -- суровая реальность. И, мне никак не помогали ни сигнатуры методов, ни IDE, ни какой-либо другой тулинг избежать кучи человеко-часов фиксов условных bool Validate() взрывающихся с IOException.
Более того, в наших суровых реалиях тулинг, для поддержки такого функционала, требует EffectTracking'a 😔
John A De Goes
Effect Tracking Is Commercially Worthless
Effect tracking is not a non-goal for commercial software development; the real reasons to use functional effect systems lie elsewhere
Forwarded from Sysadmin Tools 🇺🇦
Хабр
90+ полезных инструментов для Kubernetes: развертывание, управление, мониторинг, безопасность и не только
Осенью 2018 года мы опубликовали список из 25 полезных инструментов Kubernetes . С тех популярность платформы сильно выросла . Экосистема оркестрации контейнеров бурно развивается, можно найти...
Forwarded from dd if=/dev/stuff of=/dev/tg
❗️В понедельник, 11 мая, в 11:00 по Москве я проведу воркшоп на тему «Building eDSLs in functional TypeScript». Рассмотрим два подхода — Free монады и Tagless Final. Воркшоп будет проводиться на русском языке.
Трансляция будет здесь: https://www.youtube.com/watch?v=TckVngRxu6M, а не на моем канале, так что советую подписаться на Raini.
Если вы хотите участвовать не просто как зритель, а быть участником голосового созвона — заполните, пожалуйста, форму: https://forms.gle/Yvm5Kcac3JbHUc596.
Для участия в воркшопе необходимо склонировать к себе репозиторий https://github.com/YBogomolov/workshop-edsl-in-typescript. Будет нелишним почитать ссылки, которые указаны в README.
Трансляция будет здесь: https://www.youtube.com/watch?v=TckVngRxu6M, а не на моем канале, так что советую подписаться на Raini.
Если вы хотите участвовать не просто как зритель, а быть участником голосового созвона — заполните, пожалуйста, форму: https://forms.gle/Yvm5Kcac3JbHUc596.
Для участия в воркшопе необходимо склонировать к себе репозиторий https://github.com/YBogomolov/workshop-edsl-in-typescript. Будет нелишним почитать ссылки, которые указаны в README.
Forwarded from DDDevotion
Не могу не поделиться отличным постом о Доменных Событиях от @emacsway https://emacsway.github.io/ru/domain-events-in-ddd/
emacsway.github.io
Domain Events in DDD — @emacsway's blog
Статья переехала на новый адрес в Distributed Collaborative Knowledge Management System for System Architecture (о проекте).
Если что, речь про дотнетовый пакет https://automapper.org/, автором которого является...ну вы поняли)))
Forwarded from Мониторим ИТ
На Медиуме есть автор Стив Мушеро (Steve Mushero), который много пишет о SRE и о подходах к мониторингу по этой методологии. Здесь он пишет про золотые сигналы SRE (Latency, Traffic, Errors, and Saturation), методики USE и RED, но есть и статьи о метриках, которые он рекомендует собирать в контексте SRE по конкретным элементам систем. Ниже подборка таких статей.
Метрики балансировщика (AWS ALB/ELB, HAProxy)
Метрики веб-серверов (Apache & Nginx)
Метрики серверов приложений (PHP, FPM, Java, Ruby, Node, Go, Python)
Метрики серверов баз данных (MySQL & AWS RDS и AWS Aurora)
Метрики Линукс-серверов (Linux)
Метрики балансировщика (AWS ALB/ELB, HAProxy)
Метрики веб-серверов (Apache & Nginx)
Метрики серверов приложений (PHP, FPM, Java, Ruby, Node, Go, Python)
Метрики серверов баз данных (MySQL & AWS RDS и AWS Aurora)
Метрики Линукс-серверов (Linux)
Forwarded from Sysadmin Tools 🇺🇦
Understanding Raft Consensus - Part 1
https://www.micahlerner.com/2020/05/08/understanding-raft-consensus.html
#raft #cluster
https://www.micahlerner.com/2020/05/08/understanding-raft-consensus.html
#raft #cluster
Forwarded from DDDevotion
В эту пятницу будет большая онлайн-туса Distributed Domain-Driven Design Day https://virtualddd.com/#/conference.
Помимо докладов будут также hands-on. Топовая подборка спикеров: Брандолини, Влад Хононов (@vladik_kh), Алексей Зимарев (@zimareff) и многие другие.
Время с семи утра до половины первого ночи по Москве.
Предлагаю пообсуждать доклады в чате @idddqd. Можно будет увидеться в мите, дискорде или в другой виртуальной комнате, чтобы обсудить доклады очно.
Помимо докладов будут также hands-on. Топовая подборка спикеров: Брандолини, Влад Хононов (@vladik_kh), Алексей Зимарев (@zimareff) и многие другие.
Время с семи утра до половины первого ночи по Москве.
Предлагаю пообсуждать доклады в чате @idddqd. Можно будет увидеться в мите, дискорде или в другой виртуальной комнате, чтобы обсудить доклады очно.
#java #akka #кишки
Тут lightbend запустил серию видео про кишки akka cluster'a. Пока вышел только первый эпизод с основами(как запустить, добавить/выкинуть ноды и т.п.), но вообще обещает быть интересно. Тем более, что акка-кластер славится своей магией
Тут lightbend запустил серию видео про кишки akka cluster'a. Пока вышел только первый эпизод с основами(как запустить, добавить/выкинуть ноды и т.п.), но вообще обещает быть интересно. Тем более, что акка-кластер славится своей магией
Lightbend
Part 1 - Akka Cluster Quickstart Dashboard: Getting Started | @lightbend
This is Part 1, Project 1 of “How Akka Cluster Works”, a multi-project video series that introduces developers and architects working with Java (and Scala) to the inner workings of Akka Cluster. In Part 1: Getting Started, we introduce Akka Cluster using…