Почему важно учитывать Timezone в SQL запросах
Покажу на наглядном и реальном примере. У нас есть дата и время в UNIX-формате, которое выглядит изначально как целое число: 1776373200
А теперь представляем, я подготовил данные для дашборда, написал SQL-запрос и пошел создавать отчет.
Запрос один и тот же, но стоит его запустить в разных местах и можно получить разные даты.
Мой запрос
1-й скрин показывает результат когда пишу запрос в DBeaver. 2-й скрин когда тот же самый запрос запускаю в Datalens под созданием датасета.
В поле dt разные даты!
Почему так получается?
Это не ошибка, а разница часовых поясов, который в случае запуска в DBeaver учитывает мой текущий часовой пояс, а в случае запуска в Datalens дата и время отображаются в UTC. Если оставить запрос как есть в поле dt мы получим расхождение и неправильные метрики в отчете и в базе данных просто потому, что будем как-будто работать в разных часовых поясах. Поэтому важно приводить все временные поля к одному единому часовому поясу, а в запросах лучше указывать его в явном виде, чтобы он не зависел от системных настроек сервера. Ну и не забываем что поля с датами могут сравниваться между собой и также важно чтобы сравниваемые даты были в одном часовом поясе
Ставьте реакции, если теперь будете думать про таймзоны 😉
Кто я | Навигация | Обучение
Покажу на наглядном и реальном примере. У нас есть дата и время в UNIX-формате, которое выглядит изначально как целое число: 1776373200
А теперь представляем, я подготовил данные для дашборда, написал SQL-запрос и пошел создавать отчет.
Запрос один и тот же, но стоит его запустить в разных местах и можно получить разные даты.
Мой запрос
SELECT
to_timestamp(1776373200) AS dt,
(to_timestamp(1776373200) AT TIME ZONE 'UTC') AS dt_utc,
(to_timestamp(1776373200) AT TIME ZONE 'Europe/Moscow') AS dt_msk
1-й скрин показывает результат когда пишу запрос в DBeaver. 2-й скрин когда тот же самый запрос запускаю в Datalens под созданием датасета.
В поле dt разные даты!
Почему так получается?
Это не ошибка, а разница часовых поясов, который в случае запуска в DBeaver учитывает мой текущий часовой пояс, а в случае запуска в Datalens дата и время отображаются в UTC. Если оставить запрос как есть в поле dt мы получим расхождение и неправильные метрики в отчете и в базе данных просто потому, что будем как-будто работать в разных часовых поясах. Поэтому важно приводить все временные поля к одному единому часовому поясу, а в запросах лучше указывать его в явном виде, чтобы он не зависел от системных настроек сервера. Ну и не забываем что поля с датами могут сравниваться между собой и также важно чтобы сравниваемые даты были в одном часовом поясе
Ставьте реакции, если теперь будете думать про таймзоны 😉
Кто я | Навигация | Обучение
👍13🔥11❤6
Часто спрашиваете когда будет следующий набор в группу курса «Продвинутый SQL и автоматизация витрин данных»
Следующая группа стартует обучение 8 июня!
Записываться нужно уже сейчас, потом будет поздно. Для этого делаем 3 простых шага
1️⃣ Посмотреть это видео
2️⃣ Изучить сайт с программой, форматом и тарифами
3️⃣ Оставить заявку на обучение в группе
После этого я свяжусь с тобой лично, чтобы спросить про опыт и цель обучения. Если курс подходит чтобы достичь твоих целей, оплачиваешь и попадаешь в группу, чтобы 1.5 месяца активно работать и впитывать материалы как губка
P.S. если кто-то хочет оплатить от компании, закладывайте на согласование лучше 2-3 недели
Следующая группа стартует обучение 8 июня!
Записываться нужно уже сейчас, потом будет поздно. Для этого делаем 3 простых шага
После этого я свяжусь с тобой лично, чтобы спросить про опыт и цель обучения. Если курс подходит чтобы достичь твоих целей, оплачиваешь и попадаешь в группу, чтобы 1.5 месяца активно работать и впитывать материалы как губка
P.S. если кто-то хочет оплатить от компании, закладывайте на согласование лучше 2-3 недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2❤1
Делюсь подборкой фильмов на праздничные дни, которые недавно посмотрел и от которых становится не по себе от тяжести исторических событий.
📍Освобождение
📍Крик Тишины
📍Что скрывает Ирен
📍Сопротивление
📍Уроки Фарси
📍Война под землей
📍Красавица
Поздравляю всех с Днём Победы, сильный но в то же время тяжелый на эмоции день. Это достижение и подвиг наших предков, который нужно ценить, абстрагируясь от всего что происходит в современном мире и не приплетая к этому дню никаких больше событий🎗️
📍Освобождение
📍Крик Тишины
📍Что скрывает Ирен
📍Сопротивление
📍Уроки Фарси
📍Война под землей
📍Красавица
Поздравляю всех с Днём Победы, сильный но в то же время тяжелый на эмоции день. Это достижение и подвиг наших предков, который нужно ценить, абстрагируясь от всего что происходит в современном мире и не приплетая к этому дню никаких больше событий
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13🙏6👍3🎉3
This media is not supported in your browser
VIEW IN TELEGRAM
Удалось заснять гнездо с птенцом, остановился в итоге минут 5 наблюдал за их жизнью. Увидел как прилетела вторая птица и принесла еду, и все это прямо в городе, стоит только голову поднять 😍
❤14🔥7🥰3👍1
Написал своему ученику предложить вакансию, а он уже вышел на другой проект 😎
Порадуемся за Оралбека! Здесь писал про процесс его обучения 👉 https://t.me/data_study/1355
Кто я | Навигация | Обучение
Порадуемся за Оралбека! Здесь писал про процесс его обучения 👉 https://t.me/data_study/1355
Кто я | Навигация | Обучение
🔥8🎉3
В ближайшее время есть возможность взять на индивидуальное менторство 3 (уже 2) человека
Кто давно хотел индивидуально заниматься для достижения своих целей, сейчас появилась такая возможность.
Лично обсудим цель, познакомимся, подпишем договор об обучении и начнем заниматься.
Прочитать детали и оставить заявку нужно на сайте
👉 https://datastudy.ru/mentoring
Кто я | Навигация | Обучение
Кто давно хотел индивидуально заниматься для достижения своих целей, сейчас появилась такая возможность.
Лично обсудим цель, познакомимся, подпишем договор об обучении и начнем заниматься.
Прочитать детали и оставить заявку нужно на сайте
👉 https://datastudy.ru/mentoring
Кто я | Навигация | Обучение
🔥5❤4
Как найти работу в IT и побороть страх при поиске
Делюсь своим видео с советами по эффективному поиску работы, которые помогут ускорить и упростить трудоустройство. Подойдет не только для аналитиков, да даже не только для IT - советы актуальны практически всем!
● Этапы эффективного поиска работы
● Структура качественного резюме
● Как отбирать лучшие вакансии
● Форматы интервью
● Что помогает бороться со страхом при поиске работы
▶️ YouTube
▶️ VK Video
Также делюсь здесь полезными ссылками на заполненное мое резюме (оно устарело по информации внутри, но структура актуальна) и реестр вакансий для удобного фиксирования процесса поиска работы.
Копируйте файлы шаблонов себе и используйте)
🔗 Шаблон резюме заполненный
🔗 Шаблон реестра вакансий с комментариями
Делитесь с теми кто ищет работу и смотрите сами, приятного просмотра 😉
Делюсь своим видео с советами по эффективному поиску работы, которые помогут ускорить и упростить трудоустройство. Подойдет не только для аналитиков, да даже не только для IT - советы актуальны практически всем!
● Этапы эффективного поиска работы
● Структура качественного резюме
● Как отбирать лучшие вакансии
● Форматы интервью
● Что помогает бороться со страхом при поиске работы
Также делюсь здесь полезными ссылками на заполненное мое резюме (оно устарело по информации внутри, но структура актуальна) и реестр вакансий для удобного фиксирования процесса поиска работы.
Копируйте файлы шаблонов себе и используйте)
🔗 Шаблон резюме заполненный
🔗 Шаблон реестра вакансий с комментариями
Делитесь с теми кто ищет работу и смотрите сами, приятного просмотра 😉
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Как НАЙТИ РАБОТУ в IT и ПОБОРОТЬ СТРАХ при поиске
В этом видео делюсь эффективными советами по поиску работы в IT, которые помогут ускорить и упростить трудоустройство.
● Этапы эффективного поиска работы
● Структура качественного резюме
● Как отбирать лучшие вакансии
● Форматы интервью
● Что помогает…
● Этапы эффективного поиска работы
● Структура качественного резюме
● Как отбирать лучшие вакансии
● Форматы интервью
● Что помогает…
🔥11❤2
Код-ревью как индивидуальная обратная связь
Проверил домашние работы учеников на курсе. Каждое задание - это полноценная реализация логики сбора, обработки и обновления данных в аналитической витрине и автоматизация через Airflow или Cloud Functions.
Все скрипты комитятся в GitHub репозитории, а там уже настроен целый CI/CD чтобы код попадал в Airflow и работал, а не просто хранился.
Моя задача в индивидуальной обратной связи - это провести код-ревью решения, подсветить что сделано правильно, а что можно учесть и изменить для более эффективных SQL-запросов и ETL процесса в целом.
Считаю, что аналитики должны разбираться в техническом решении. Это стандарт в компаниях, где есть выстроенная культура работы с данными.
Ни у каждого на работе есть коллеги, которые сделают вам код-ревью или подскажут, а здесь такой опыт появляется.
Кто я | Навигация | Обучение
Проверил домашние работы учеников на курсе. Каждое задание - это полноценная реализация логики сбора, обработки и обновления данных в аналитической витрине и автоматизация через Airflow или Cloud Functions.
Все скрипты комитятся в GitHub репозитории, а там уже настроен целый CI/CD чтобы код попадал в Airflow и работал, а не просто хранился.
Моя задача в индивидуальной обратной связи - это провести код-ревью решения, подсветить что сделано правильно, а что можно учесть и изменить для более эффективных SQL-запросов и ETL процесса в целом.
Считаю, что аналитики должны разбираться в техническом решении. Это стандарт в компаниях, где есть выстроенная культура работы с данными.
Ни у каждого на работе есть коллеги, которые сделают вам код-ревью или подскажут, а здесь такой опыт появляется.
Кто я | Навигация | Обучение
👍7❤4
Сходил сегодня в клинику
Коротко: жить буду, но не вкусно. Сажусь на диету номер 5🫡
P.S. Пойду просить ИИ сгенерировать вкусные рецепты из того, что можно есть.
P.S.S. Если у вас было желание позвать меня на шашлыки, зовите. Все равно не приду
Коротко: жить буду, но не вкусно. Сажусь на диету номер 5
P.S. Пойду просить ИИ сгенерировать вкусные рецепты из того, что можно есть.
P.S.S. Если у вас было желание позвать меня на шашлыки, зовите. Все равно не приду
Please open Telegram to view this post
VIEW IN TELEGRAM
🙏19👍4❤3🔥3🤓2
19 июня еду на CPC.Forum — международный форум про перфоманс-маркетинг и рекламные системы.
Реклама дорожает, лиды в компаниях добываются сложнее, цикл сделки растет, а планы по продажам никто не снижает. Мы, как аналитики, помогаем решать эти задачи, основываясь на метрики: считаем конверсии, собираем показатели и сводим понятные отчеты для оценки эффективности рекламы.
Но хочу понимать это не только со стороны анализа, но и со стороны бизнеса.
Плюс хочу развивать свои обучающие продукты и делать так, чтобы их заметили. На форуме как раз будут разбирать КАК это организовать.
Программа многообещающая:
▪️ 100+ спикеров (Amazon, «Яндекс Реклама», Flowwow, Calltouch, Skyeng, «Самолёт», Skillbox, Clickise, «Купер», «Ёбидоёби» и др.);
▪️ Параллельные доклады в 4-х залах по разным темам (записи выступлений тоже будут);
▪️ Большая выставка компаний с мерчом, интерактивами и лучшими предложениями сотрудничества;
▪️ Организованный нетворкинг;
▪️ Панельная дискуссия по трафику от топ-экспертов рынка;
▪️ Церемония CPC Awards и VIP-afterparty с концертом от суперзвезд!
Хедлайнер форума — Ксения Собчак. Будет интересно ее послушать.
Также для себя выделил доклады Максима Спиридонова, Алексея Успешного (ведь человек с такой фамилией явно что-то знает), Ксении Баушевой с докладом про рекламу в мессенджере на 3 нам все знакомые буквы.
📅 19 июня, Москва, Конгресс-центр ЦМТ
Надеюсь, увидимся там с вами, пообщаемся!
Успевайте приобретать билеты со скидками
Реклама дорожает, лиды в компаниях добываются сложнее, цикл сделки растет, а планы по продажам никто не снижает. Мы, как аналитики, помогаем решать эти задачи, основываясь на метрики: считаем конверсии, собираем показатели и сводим понятные отчеты для оценки эффективности рекламы.
Но хочу понимать это не только со стороны анализа, но и со стороны бизнеса.
Плюс хочу развивать свои обучающие продукты и делать так, чтобы их заметили. На форуме как раз будут разбирать КАК это организовать.
Программа многообещающая:
Хедлайнер форума — Ксения Собчак. Будет интересно ее послушать.
Также для себя выделил доклады Максима Спиридонова, Алексея Успешного (ведь человек с такой фамилией явно что-то знает), Ксении Баушевой с докладом про рекламу в мессенджере на 3 нам все знакомые буквы.
Надеюсь, увидимся там с вами, пообщаемся!
Успевайте приобретать билеты со скидками
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2❤1🤓1
Слышали про Yandex ML Challenge от Яндекса?
Я уже рассказывал вам, что участвовал в соревнованиях от Яндекса по аналитике. Мне нравится формат текущих соревнований: длинный онлайн‑тур без жёсткого тайминга — можно спокойно поразмышлять, поэкспериментировать с подходами, не дёргаться из‑за секунд. Но регистрация уже скоро заканчивается, поэтому уже сейчас нужно ее пройти!
Что предстоит сделать:
🔹поработать с LLM / foundation models
🔹покопаться в CV
🔹разобраться с RL
🔹оптимизировать нейросети
📅 Старт уже завтра - 21 мая. Дают целых 11 дней и 40 попыток на каждую задачу, это очень комфортно для проведения исследований
А дальше самое интересное: топ‑100 участников попадут на очный финал Young Con в Москве.
🚀 Победитель получит 1 миллион рублей, топ‑15 участников получат крутые устройства от Яндекса.
В общем, отличный шанс проверить себя на актуальных ML‑задачах и подсмотреть фишки у других.
Регистрация ещё открыта
Я уже рассказывал вам, что участвовал в соревнованиях от Яндекса по аналитике. Мне нравится формат текущих соревнований: длинный онлайн‑тур без жёсткого тайминга — можно спокойно поразмышлять, поэкспериментировать с подходами, не дёргаться из‑за секунд. Но регистрация уже скоро заканчивается, поэтому уже сейчас нужно ее пройти!
Что предстоит сделать:
🔹поработать с LLM / foundation models
🔹покопаться в CV
🔹разобраться с RL
🔹оптимизировать нейросети
А дальше самое интересное: топ‑100 участников попадут на очный финал Young Con в Москве.
В общем, отличный шанс проверить себя на актуальных ML‑задачах и подсмотреть фишки у других.
Регистрация ещё открыта
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3👨💻1
А вы знаете почему появился Clickhouse?
В какой-то момент Яндекс уперся в трудности создания быстрых отчетов для своего же продукта Яндекс Метрика. Метрика - это инструмент web-аналитики, которая собирает события в огромном количестве с сайтов - клики, переходы, открытия, скроллы страниц и т.д. Данных много и их нужно не просто хранить где-то, но и строить отчеты для пользователей по этим данным.
И до появления Clickhouse отчеты в Яндекс Метрике имели ограничения. Их было ограниченное кол-во, были заранее определены срезы и метрики, которые на них считались. Это делалось для скорости загрузки отчетов, т.к. данные заранее агрегировались, фильтровались, а значит запросы к ним выполнялись сильно быстрей чем к исходным данным событий.
НО пользователям нужна гибкость, они сами хотят строить отчеты по нужным им срезам. А чтобы дать такую возможность нужно хранить данные в исходном виде и на лету по ним уже строить отчеты без предварительной готовой агрегации.
И чтобы была возможность обрабатывать большой массив данных в аналитических запросах зародился Clickhouse - аналитическая колоночная база данных.
Все технические подробности можно посмотреть в этом видео
В какой-то момент Яндекс уперся в трудности создания быстрых отчетов для своего же продукта Яндекс Метрика. Метрика - это инструмент web-аналитики, которая собирает события в огромном количестве с сайтов - клики, переходы, открытия, скроллы страниц и т.д. Данных много и их нужно не просто хранить где-то, но и строить отчеты для пользователей по этим данным.
И до появления Clickhouse отчеты в Яндекс Метрике имели ограничения. Их было ограниченное кол-во, были заранее определены срезы и метрики, которые на них считались. Это делалось для скорости загрузки отчетов, т.к. данные заранее агрегировались, фильтровались, а значит запросы к ним выполнялись сильно быстрей чем к исходным данным событий.
НО пользователям нужна гибкость, они сами хотят строить отчеты по нужным им срезам. А чтобы дать такую возможность нужно хранить данные в исходном виде и на лету по ним уже строить отчеты без предварительной готовой агрегации.
И чтобы была возможность обрабатывать большой массив данных в аналитических запросах зародился Clickhouse - аналитическая колоночная база данных.
Все технические подробности можно посмотреть в этом видео
YouTube
005. Как работает ClickHouse, лекция в ШАД
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
🔥9👍3❤1