Инженеры/архитекторы/аналитики данных
975 subscribers
1 photo
3 videos
49 links
Канал посвящен обучению с нуля до архитектора хранилища данных. Изучаем SQL, Power BI, ETL, Python, моделирование DWH, выбор технических решений для DWH.
Download Telegram
Друзья, всем привет! 15 мая начнется курс по Clickhouse.

Публикую список тем, которые будут разобраны на курсе https://docs.google.com/document/d/1RzklXwwWyPXFXiNR0_NEV6sSps8-XYhpIVrc931VSDA/edit?usp=sharing

Clickhouse - самая быстрая аналитическая база данных в мире. Основная ее цель - высокая скорость выполнения аналитических запросов. Поэтому большая часть курса будет посвящена ускорению ваших запросов. Но мы поговорим и про другие темы, такие как: администрирование, мониторинг, возможности SQL и тд

По всем вопросам пишите @vladamelin
👍20🔥1
📢
«Курс по dbt» стартует уже 1️⃣9️⃣апреля!
Внутри хранилища данных нам нужно делать расчеты, чтобы в итоге получить витрины данных. Мы можем это делать с помощью sql процедур, а альтернативой является dbt, который является прослойкой между хранилищем данных и кодом разработчика.

При использовании dbt разработчик пишет только select запросы, а таблицы и код наполнения таблиц за него создает dbt и при этом вы получаете следующие возможности:
- готовый движок для тестирования данных с большим набором готовых тестов;
- автогенерацию документации;
- lineage - графическое изображение связей между объектами;
- использование шаблонизитора кода jinja, который открывает широкие возможности по сокращению объема кода и реализации нестандартных алгоритмов;
- хранение кода в git (или аналоге) с возможность проводить код ревью, видеть историю всех изменений, хранить код каждого релиза, а также откатить изменения по задаче за несколько кликов;
- настроить ci/cd процесс (автоматизировать процесс тестирования кода, сборки и разворота проекта);
- использования готовых алгоритмов историчности, инкрементальной загрузки данных и др.

Как итог:
- кода надо писать меньше;
- скорость расчетов остается такой же высокой, как при использовании sql процедур;
- проект работает стабильнее;
- скорость разработки повышается.

▶️Чтобы начать обучение, достаточно владеть основами написания select -запросов в SQL.

🚀Цель курса - освоение инструмента dbt на уровне junior+ - middle- чтобы успешно пройти собеседование и погрузиться в мир разработки

🟢Программа курса
Неделя 1
Что такое dbt?
Установка ПО, разворот и сборка учебного проекта
Неделя 2
Создание нового проекта dbt
Подключаем БД источник
Подключение и настройка источников данных в dbt. Тесты данных источников
Неделя 3
Модели данных в dbt, view, table, ephemeral, materialized view
Практика создания моделей данных
Создание модели данных для фактов
Настройка свойств моделей
Настройка свойств модели
Неделя 4
Инкрементальное обновление моделей
Неделя 5
Seeds, загрузка csv файлов
Snapshots, реализация историчности scd2 в dbt
Неделя 6
Конфигурирование моделей. Configs
Неделя 7
Использование Analyses для ad hoc запросов
Введение в Jinja
Неделя 8
Базовые возможности Jinja
Неделя 9
Возможности работы с Jinja в dbt, часть 1
Неделя 10
Макросы в dbt
Неделя 11
Возможности работы с Jinja в dbt, часть 2
Неделя 12
Обзор пакетов в dbt
Обзор пакета codegen
Неделя 13
Пакет тестирования качества проекта dbt_project_evaluator
Пакет automate_dv для работы с datavault
Неделя 14
Команды dbt

Пишите @vladamelin по всем вопросам!
🔥9
Всем привет! сейчас начинается курс по dbt. Первая встреча состоится в 18-00 по МСК. Ждем вас!
Для записи пишите @vladamelin
🚀 Курс по SQL уже стартовал!
Но ещё не поздно присоединиться!

🔹 Почему стоит начать сейчас?

✔️ Освоишь основы SQL: от простых запросов до сложных
✔️ Научишься работать с реальной базой данных
✔️ Получишь много практических заданий и обратную связь
✔️ Сможешь добавить SQL в свой навыки и повысить ценность на рынке

Для записи и по любым вопросам обращайтесь к
@vladamelin
#SQL #КурсSQL #БазыДанных #АналитикаДанных
Инженеры/архитекторы/аналитики данных pinned «📢 «Курс по dbt» стартует уже 1️⃣9️⃣апреля! …»
Инженеры/архитекторы/аналитики данных pinned «Друзья, всем привет! 15 мая начнется курс по Clickhouse. Публикую список тем, которые будут разобраны на курсе https://docs.google.com/document/d/1RzklXwwWyPXFXiNR0_NEV6sSps8-XYhpIVrc931VSDA/edit?usp=sharing Clickhouse - самая быстрая аналитическая база…»
Приветствую всех!

Если вас интересует dbt -современный инструмент для data-инженеров и аналитиков, рад сообщить вам о предстоящей встрече для всех желающих !🎉

📅 Когда? Понедельник 21.04.2025 , 18:00 мск

📍 Где? Онлайн (https://telemost.yandex.ru/j/78716267616204)

Разберем
✔️Что такое DBT и зачем он нужен
✔️Как DBT упрощает работу с данными

С удовольствием отвечу на все интересующие вас вопросы !Буду всем рад )
🔥71
Приветствую! 👋

📢Напоминаю, что уже сегодня разберем ключевые понятия dbt в прямом эфире!
Встреча для всех желающих 🌸

Подключиться можно здесь: https://telemost.yandex.ru/j/78716267616204

Начало в 18:00 по мск

Буду всем рад!
🔥32
🟢Через 30 минут начинаем онлайн встречу : «DBT -современный инструмент трансформации
данных»

Разберем
✔️Что такое DBT и зачем он нужен
✔️Как DBT упрощает работу с данными

С удовольствием отвечу на интересующие вас вопросы !

Подключиться можно здесь:
https://telemost.yandex.ru/j/78716267616204

Начало в 18:00 по мск

Жду всех желающих,
присоединяйтесь!
This media is not supported in your browser
VIEW IN TELEGRAM
Курс по DBT стартовал 🚀
Ещё можно присоединиться )
Дружеская атмосфера и поддержка ждут вас!

Для записи и по любым вопросам обращайтесь к
@vladamelin

#dbt #Курсdbt #БазыДанных #АналитикаДанных
2🔥2
Всем привет!
Менее, чем через 2 недели, 14 мая, стартует группа по изучению Clickhouse.
Для записи пишите @vladamelin.

Clickhouse - одна из самых быстрых аналитических СУБД в мире. Ее используют, когда нужно максимизировать скорость отрисовки дашбордов или максимально ускорить выполнение аналитических запросов.

Наш курс в наибольшей степени будет посвящен оптимизациям скорости выполнения запросов.
Мы потренируемся разворачивать однонодный Clickhouse и настроим кластер.
Изучим, какие есть средства диагностики выполнения запросов.
Конечно же, поработаем с партицированием, индексами пропуска данных, первичным индексом, видами кодировки, семплированием.
Познакомимся с проекцией.
Проведем нагрузочное тестирование.
Прикрутим к запросу кэш.
Посмотрим, как хранятся данные на диске.
Разберемся, зачем нужен Zookeeper и Clickhouse Keeper.
Узнаем особые возможности SQL в Clickhouse.
Интегрируем Clickhouse с другими СУБД.

Мы изучим те темы, которые нужны в работе инженеру данных при работе с Clickhouse.

Для начала обучение нужно только умение писать базовые select запросы в sql.

Формат обучения:
- онлайн встречи 1 раз в неделю по средам в 20-00 по мск, где будем разбирать ваши вопросы. Продолжительность - 1,5 часа;
- самостоятельное изучение видео уроков в течение недели и выполнение домашних заданий;
- проверка ваших домашних заданий;
- будет чат, где можно задавать вопросы.

Продолжительность: 5 месяцев.

Условия участия в платной группе - оплата 5000 рублей в месяц.

Цель курса - освоить Clickhouse на уровне достаточном для решения всех инженерных задач.

Для записи и по любым вопросам пишите @vladamelin
🔥7👍41
Media is too big
VIEW IN TELEGRAM
🔎Знаете ли вы, что основы SQL остаются актуальными уже десятки лет, так как SQL востребован и активно развивается 🚀

«Курс по SQL»

Урок 1️⃣ Описание курса и его цели. Знакомство с SQL.

Что вас ждет в этом видео?⬇️
🔹Что такое SQL и почему он так важен для устройства на работу?
🔹На какие вакансии можно устроиться, изучив SQL?
🔹Где применяется SQL?
🔹Как устроены базы данных и зачем они нужны?
🔹SQL и его части

▶️Смотреть урок на youtube

▶️Смотреть урок в VK

Для прохождения полного курса переходите на
https://itempuniversity.com/course/view.php?id=533

#SQL #БазыДанных #АналитикаДанных
11👍2🔥1
Всем привет! Завтра стартует курс по Clickhouse.

На первом занятии мы:
- развернем BI систему Datalens и построим в ней дашборд на основе витрины данных из Clickhouse;
- зафиксируем проблемы со скоростью отрисовки дашборда;
- на протяжении курса мы с вами разберем по крайней мере 12 способов ускорения запросов к витрине данных в Clickhouse и хорошенько ускорим наш дашборд.

Список тем, которые будут разобраны на курсе https://docs.google.com/document/d/1RzklXwwWyPXFXiNR0_NEV6sSps8-XYhpIVrc931VSDA/edit?usp=sharing

Продолжительность: 5 месяцев.
Условия участия в платной группе - оплата 5000 рублей в месяц.
Цель курса - освоить Clickhouse на уровне достаточном для решения всех инженерных задач.

Для записи и по любым вопросам пишите @vladamelin
🔥4
This media is not supported in your browser
VIEW IN TELEGRAM
Друзья, вы уже оставили больше 100 отзывов о курсах! Это круто! 🎉
Я искренне рад каждому вашему комментарию и честному мнению.Спасибо !❤️Это помогает мне развивать курсы и делать их еще полезнее !

Проходите курсы, делитесь впечатлениями- мне важно знать, что вам понравилось (или нет 😉)!

🔸Курс по SQL ➡️ Курс SQL с нуля до устройства на работу за 4 месяца
🔸Курс по dbt ➡️ dbt - современный метод трансформации данных 🔸Курс по Power BI ➡️ Бизнес Аналитика с нуля. Power BI. Business intelligence 🔸Курс по Docker ➡️ Введение в Docker
🔥6
Привет!

Опубликовано 2 первых видео курса по Clickhouse:

1. Краткий обзор Clickhouse, а также основных сценариев использования и как будем изучать Clickhouse на курсе
https://rutube.ru/video/b260fa2e413adc916853fb1d72770bd3/
https://youtu.be/aN7grWZq_7Y

2. Разворот ПО для курса: Clickhouse + git + DBeaver + Datalens + создаем учебную витрину данных и на ее основе дашборд в Datalens.
Созданный нами дашборд тормозит и нам предстоит на курсе его оптимизировать по скорости открытия.
https://rutube.ru/video/f3bf161707f0b2708827a34ca96cd896/?r=wd
https://youtu.be/CXkOunzY6sk

Еще есть возможность присоедниться к платной группе курса с общими созвонами (на которых разбирает дополнительные темы), проверками ДЗ, чатом и ответами на вопросы.

Для записи и по любым вопросам пишите @vladamelin
🔥271
📊 Давайте решим практическую SQL-задачу!

Дано:⬇️

Таблица employees с полями:

name (имя сотрудника)

department_id (отдел)

salary (зарплата)

Задача:
Написать SQL-запрос, который выведет список имен всех сотрудников из 10-го отдела с зарплатой больше 20 000.Вывести необходимо все 3 поля.

💡 Попробуйте написать свой запрос и поделитесь в комментариях!
🔥1
Docker — это платформа для разработки, доставки и запуска приложений в контейнерах. Если раньше настройка сервера могла занять часы, то с Docker всё разворачивается за минуты!

💻Курс - Введение в Docker с 0
Урок 1️⃣ Знакомство с понятиями Container, Images и с архитектурой.

▶️Смотреть на youtube

Для прохождения полного бесплатного курса переходите https://itempuniversity.com/course/view.php?id=669

#docker #АналитикаДанных #DataEngineering
🔥10