AvitoTech
19.1K subscribers
1.62K photos
61 videos
1.53K links
Рассказываем, что у Авито под капотом, делимся инженерной экспертизой и зовём на митапы.

По всем вопросам: @direct_avitotech

Сайт: https://avito.tech
Хабр: habr.com/ru/company/avito
Гитхаб: github.com/avito-tech

Регистрация в РКН: https://clc.to/FOxC1A
Download Telegram
Это статья от Ромы Ананьева, NoSQL/Kafka-инженера, о нашей реализации Kafka cluster federation и о том, как размазать Kafka на несколько дата-центров.

Отсюда вы также узнаете об архитектуре Kafka, способах репликации, инструментах MirrorMaker и uReplicator. Ждём ваши комменты!

#DBA_avitotech #статья_avitotech #habr_avitotech
Структуру Авито понять сложно, но можно.
Наша разработка состоит из множества кросс-функциональных команд, которые называются юнитами. Так Авито организовывает горизонтальную структуру.

Юнит — это инженеры, QA-специалисты, продакты, аналитики и дизайнеры. Разработкой руководит CTO и команда TMG (Tech Managers Group), в которую входят руководители всех кластеров (объединения юнитов по похожим задачам). Об этом чуть позже. Остановимся на юнитах.

Делаем новую серию постов о том, чем занимаются юниты, какой стек технологий используют, какую пользу приносят и как создают классифайд №1 в мире.

На карточках первооткрыватели рубрики — юнит Database Administration (DBA).

Смотрите контент от ребят тут

#dba_avitotech #units_avitotech
У нас было 4 основных вида контента, 15+ направлений материалов, несколько тематик митапов, и целое море статей, плейбук, опенсорс, гитхаб, а так же хештеги к этому. Не то, чтобы всё это было категорически необходимо, но если уж взялся вести канал, то к делу надо подходить серьёзно.

Пока вы не решили срочно пересмотреть приключения Дюка и Гонзо, ловите навигацию по нашим хештегам ниже.
Ссылку на пост добавим в закреп.

Контент

#frontend 
#backend
#go
#book
#tl
#mobile_ios
#mobile_android
#qa
#devops
#sre
#infosec
#architecture
#trisigma
#plato
#emcee
#dba
#dwh
#design
#editor
#research
#analytics
#product
#ds 

Мероприятия

#frontend_meetup
#backend_meetup
#go_meetup
#platform_meetup
#tl_meetup
#emcee_meetup
#mobile_ios_meetup
#emcee_meetup
#mobile_android_meetup
#emcee_meetup
#qa_meetup
#emcee_meetup
#devops_meetup
#sre_meetup
#infosec_meetup
#architecture_meetup
#dwh_meetup
#dba_meetup
#analytics_comm_meetup
#analytics_meetup
#product_meetup
#trisigma_meetup
#ds_ai_meetup
#ds_meetup
#avito_all_day_long
#avito_on_conference
Не обязательно погружаться в PostgreSQL, чтобы построить отказоустойчивую инфраструктуру.

Но в таком случае нужно быть готовым к отсутствию консистентности, сложностям с масштабированием и другим минусам.

Григорий Тарасенко, администратор БД, сделал статью-обзор по всем возможным вариантам организации High Availability: без PostgreSQL, с готовыми решениями системы и наш особый путь ☄️

Делимся статьёй и ссылками на полезные материалы по теме:
1️⃣ Документация PostgreSQL. Репликация.
2️⃣ Документация PostgreSQL. High Availability.
3️⃣ Документация PostgreSQL. Write-Ahead Logging.
4️⃣ Документация PostgreSQL Pro. Трансляция журналов на резервные серверы.
5️⃣ Объяснение принципа работы протокола Raft с визуализацией.
6️⃣ Туториал на Хабре: «Управление высокодоступными PostgreSQL кластерами с помощью Patron».
7️⃣ Статья на Хабре про RTO и RPO.

#DBA_avitotech #habr_avitotech #статья_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
Реплицируем базы без использования слотов репликации и с гарантией доставки WAL-ов. Эффективно, безопасно, без смс и регистрации.

Как и зачем мы строим архивную репликацию в PostgreSQL, читайте в статье Гриши Тарасенко из команды SQL 💻

#dba_avitotech #habr_avitotech #статья_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Avito Database meetup #1

24 апреля | 18:30 мск | онлайн и в офисе Авито

У нас несколько дата-центров и 150 000 000+ активных объявлений каждый день. Коты, машины, квартиры, носки… И всё с картинками. У нас очень много данных. Пришло время рассказать, как мы с ними работаем. 🕊️

🗂 Начнёт руководитель разработки платформы DBaaS Владимир Алёшин. В его докладе «Платформа DBaaS: зачем и как» — экскурс в историю, наши первые БД, как менялся подход в работе и почему в итоге вы делаем ставку на kubernetes.

🗂 Про особенности работы Kubernetes со stateful приложениями в рамках одноимённого доклада расскажет Игорь Конев, инженер DBaaS.

🗂 Про паттерны управления БД в multi-cluster (multi-dc) kubernetes среде и разные уровни шедулинга — в докладе Никиты Жига, инженера DBaaS.

🗂 Завершит вечер Андрей Лярский, инженер в команде SQL/DBA, рассказом об особенностях адаптации классических СУБД к платформе DBaaS на примере PostgreSQL.

Насыщенно? Да, мы тоже в восторге. Поэтому рекомендуем не тянуть с регистрацией, если хотите услышать всё в нашем уютном офисе на Лесной.

📌 Забронировать место📌

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
Платформа DBaaS: зачем и как

🚀 Хотите экскурс про то, как мы начинали работать с базами данных? Его проведёт руководитель разработки платформы DBaaS Владимир Алёшин на Avito Database meetup #1.

В докладе Владимира — проблемы и решения, переход на автоматизацию и аргументация в пользу kubernetes. Присоединяйтесь к митапу, чтобы послушать и подискутировать.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
Особенности работы Kubernetes со stateful приложениями (БД) ☄️

Игорь Конев, инженер DBaaS, расскажет базу по stateful в kubernetes и объяснит, что и почему мы выбрали для работы с приложениями. Всё это — на Avito Database meetup #1.

💻 Присоединяйтесь 24 апреля в 18:30. Обсудим, что можно улучшить, чтобы работать со stateful было еще удобнее.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
«CockroachDB на платформе DBaaS: зачем и как» — 60-минутная готовность

В 19:00 запускаем трансляцию доклада Полины Кудрявцевой. Начнём с того, зачем нам вообще понадобились cloud native базы, почему выбрали CockroachDB и как с ней работаем. Полина расскажет про топологию кластера, гарантии отказоустойчивости, пайплайн создания БД на платформе, агента и ролевую модель. А закончим планами развития CockroachDB.

❗️📚 Важное к докладу

1. CockroachDB: The Definitive Guide — книга об устройстве CockroachDB без низкоуровневых технических деталей. Идеально для первого знакомства с технологией.
2. Official Docs: Distribution Layer часть официальной документации CRDB по распределению данных по кластеру.

➡️ Смотреть трансляцию ⬅️

#немитап_avitotech #DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
Паттерны управления базами данных в multi-cluster (multi-dc) kubernetes среде

Это доклад разработчика DBaaS Никиты Жига. Его можно будет послушать 24 апреля на Avito Database meetup #1. Никита расскажет, зачем нужен multi-cluster, как управлять всем без единого контроллера и минимизировать простои при обновлениях.

Мест офлайн уже нет, но на трансляции всегда найдётся. Ставьте напоминание в календарь и подписывайтесь на наш YouTube-канал. 📺

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
Особенности адаптации классических СУБД к платформе DBaaS (на примере PostgreSQL)

🔥 Если бы Avito Database meetup #1 был тортом, этот доклад стал бы его вишенкой.

Андрей Лярский объяснит, почему классические СУБД не работают в kubernetes из коробки и как грамотно провести интеграцию.

📺 Готовьте вопросы и присоединяйтесь к трансляции.
🕒 24 апреля. 18:30 мск.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🐞 Пересмотрели подход к управлению БД и поделились опытом на Avito Database meetup #1. Держите плейлист с митапа.

📎Платформа DBaaS: зачем и как
Хронология развития платформенного управления в компании, проблемы, курс на автоматизацию и решение в Kubernetes.

📎 Stateful-приложения в Kubernetes (DB edition)
База по stateful в Kubernetes, решения, которые используем мы, и перспективы K8s.

📎 Паттерны управления базами данных в multi-cluster (multi-dc) Kubernetes-среде
Преимущества multi-cluster, управление в отсутствии контроллеров, шедулинг и servicediscovery.

📎Особенности адаптации классических СУБД к платформе DBaaS (на примере PostgreSQL)
Коробочные и сторонние решения, PostgreSQL у нас (2000+ баз) и задачи интеграции — НА, бэкапы, мониторинг.

🔵 А ещё фото с митапа собрали в альбом, смотрите в нашей группе VK.

#DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
Добавили поддержку векторного поиска в движок, и успешно пользуемся им с 2021 года. О — опыт!

☄️ Им-то и поделится Михаил Самолкаев, разработчик команды инфраструктуры поиска (Search Infra). Миша расскажет про самые интересные алгоритмы и техники и покажет готовые решения в виде библиотек.

💻 Векторный поиск под капотом — на Database Internals Meetup #4. Увидимся 4 сентября!

#DBA_avitotech #avitoteam
Please open Telegram to view this post
VIEW IN TELEGRAM
Везём интересное для SmartData 2024 🔥

💻 8.09 | 10:45 | трек Data Management — Анар Багиров с докладом «Как мы сократили TTM создания дашбордов».

Анар рассмотрит кейс из проблем с Redash, а именно с Vertica как основой DWH, Clickhouse и в целом с тратой большого количества времени на создание дашбордов.

🔍 8.09 | 12:00 | трек Database Internals — Роман Ананьев с докладом «Как мы Apache Kafka на Redpanda меняли».

Роман расскажет, как кластеры Kafka не пережили отключения брокеров и как мы выбирали коробочное решение для масштабирования.

Готовьте вопросы и приходите задавать ❗️

#avitoteam #DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Наша система логов и распределённого трейсинга обрабатывает 15 000 000+ событий в секунду. Она взаимодействует с 2 000+ сервисами. И мы позволяем ей терять данные.

🔍 Хотите узнать больше о её архитектуре и процессе передачи данных? Приходите на доклад Игоря Балюка, нашего ведущего разработчика в команде service mesh.

🎤 «Как мы строим систему распределенного трейсинга, в которой можно терять данные» — 09 сентября в 12:15.

#DBA_avitotech #avitoteam
Please open Telegram to view this post
VIEW IN TELEGRAM
💚 В нашем playbook — 8 разделов

От общих принципов разработки до документации и эксплуатации. Этими правилами мы следуем, чтобы сервисы Авито работали стабильно и надёжно. И, конечно, чтобы поддерживать инженерную культуру в нашей команде и в комьюнити в целом. Поэтому решили делиться ими на регулярной основе здесь.

⬆️ И начнём с принципов работы с данными. Как храним, кэшируем и пишем миграции для баз даных — рассказали в карточках. А в комментариях рассказывайте, как работа с данными устроена у вас ⬇️

#dba #backend
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Avito Database meetup
17 июня | 19:00 мск | в офисе Авито и онлайн


У нас было 30 тысяч баз данных. А ещё 2 тысячи серверов, на которых они лежали.
🕚 Почему в таких условиях важно следить за ресурсами DBaaS?
🕚 С какими вызовами сталкиваются наши инженеры в работе с базами при высоких нагрузках и больших масштабах?
Расскажем на Database meetup 17 июня 🔥

По плану 3 доклада:
1️⃣ Никита Жига расскажет, как мы решили проблему шумного соседа и научились следить за ресурсами в DBaaS;
2️⃣ Антон Головенко разберёт на практике, почему мы отказались от репликации и какие радикальные решения стоили того;
3️⃣ Рома Ананьев покажет, как приручить Redpanda и решить проблему масштабируемости.

📌 17 июня в 19:00 в московском офисе Авито и онлайн. И не забудьте поделиться этой новостью с коллегами!

Регистрация по ссылке!

#dba
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Последние места на Database meetup 🔥

На всякий случай, если пропустили — 17 июня будем слушать доклады ребят в московском офисе (опция послушать онлайн тоже есть!). Обсудим контроль ресурсов в DBaaS, отказ от репликации и кейс с Pulsar на Redpanda.

Ещё есть время зарегистрироваться по ссылке.

#dba
Please open Telegram to view this post
VIEW IN TELEGRAM