Инжиниринг Данных
23.5K subscribers
1.98K photos
56 videos
192 files
3.2K links
Делюсь новостями из мира аналитики и карьерными советами.

15 лет в Аналитике и Инжиниринге Данных, 10 лет в MAANG

🛠️ dataengineer.ru | 🏄‍♂️ Surfalytics.com

№5017813306

Реклама:
https://almond-rule-130.notion.site/1199f595f76a8030ba1be1e607c9a8ce
Download Telegram
В datalearn опросе есть вопрос: Ваш пол? (мы хотим знать сколько девушек в профессии). Пирожок показывает соотношение 5000т откликов опроса, где:
М - синее
Ж - красное

Но есть еще варианты, вам на заметку:

Чем аналитика для женщин отличае…
Военный вертолёт Apache
Я Ж, но идея странная. Смысл?
У них/нас разве другие мозги?
Боевой вертолет Ми-28Н
Я избегаю оценочных суждений
Я Ж, но идея странная, зачем?
Женский, но не вижу смысла раздел…
Мне кажется супер странной идеей
Мужчина
Пёс
М, но хотел бы активно помогать ра…
простите еще раз, эту запись нужно…
Пони
Prefer not to say
Женский, но сразу уточню, что не заинтересована в идее "Analytics for Women" и предпочла бы не иметь отношения к Women in data community.
test
чёрный атакующий вертолёт
Это не имеет значения. Я человек.
https://medium.com/@mrtrustworthy/from-data-driven-to-driving-data-the-dysfunctions-of-data-engineering-34c34496ed8e

Статью прям можно на цитаты разбирать)

Кто нибудь хочет перевести?
1
Стащил из Facebook, после общения с поддержкой в Timeweb хостинге можно и чаевые оставить🤑 Можно скоро брать чаевые за создание дашборда или фикс ETL
На O'Reilly появилась первая книга по теме Data Quality. Рано радуемся, оффициально выйдет в сентябре 2022.

Do your product dashboards look funky? Are your quarterly reports stale? Is the dataset you're using broken or just plain wrong? These problems affect almost every team, yet they're usually addressed on an ad hoc basis and in a reactive manner. If you answered yes to any of the questions above, this book is for you.

Many data engineering teams today face the "good pipelines, bad data" problem. It doesn't matter how advanced your data infrastructure is if the data you're piping is bad. In this book, Barr Moses, Lior Gavish, and Molly Vorwerck from the data reliability company Monte Carlo explain how to tackle data quality and trust at scale by leveraging best practices and technologies used by some of the world's most innovative companies.


Есть ещё какие-нибудь известные ресурсы по этой теме?
Вот это технологии, пилим big data в Databricks на маленьком iPad, мышка и клава работают.
🙈1
Когда очень много данных, в данном случае Pbты, то можно использовать ML, чтобы прогнозировать потребности в computing и запускать необходимые мощности, таким образом и пользователи не получат дискомфорт и ценник за использование будет оптимальный.
Наше сообщество “Women In Data Analysis” выпустило новое интервью с главой отдела продаж и развития бизнеса компании SqlDbm - Анной Абрамовой.

Беседа об аналитике, женщинах в IT, необходимых компетенциях и многом другом. Сообщество курируют Яна Конн и Яна Одинцова.
Интервью провела куратор сообщества “Women In Data Analysis” Яна Одинцова. Если у вас остались вопросы, есть идеи или вы хотели бы узнать больше о сообществе, обращайтесь к Яне.
yana.odintsov@gmail.com

Так же у сообщества есть свой закрытый slack канал. Больше информации тут.

PS Знаете ли вы, что во 2м модуле нашего курса мы используем SqlDbm для создания физической модели схемы звезды для данных Super Store в качестве лабораторной работы. Интересно, Анна знала или нет))
В этом этом видео физик Richard Feynman учит нас научным методам.

In this short video taken from his lectures, Physicist Richard Feynman offers perhaps one of the greatest definitions of science and the scientific method that I’ve ever heard. And he does it in about a minute.

Now I’m going to discuss how we would look for a new law. In general, we look for a new law by the following process. First, we guess it (audience laughter), no, don’t laugh, that’s the truth. Then we compute the consequences of the guess, to see what, if this is right, if this law we guess is right, to see what it would imply and then we compare the computation results to nature or we say compare to experiment or experience, compare it directly with observations to see if it works.

If it disagrees with experiment, it’s wrong. In that simple statement is the key to science. It doesn’t make any difference how beautiful your guess is, it doesn’t matter how smart you are who made the guess, or what his name is … If it disagrees with experiment, it’s wrong. That’s all there is to it.
Looker ( облачный BI инструмент, который был куплен Гуглом за очень дорого) каждый год проводит конференцию JOIN, вот и сейчас проходит JOIN2021 где можно увидеть видение и стратегию BI от лукера, да и в целом понять, что нового в индустрии назревает. В этом посте опубликованы некоторые тезисы.
Очень интересная статья про benchmarking от Databricks. Век живи, век учись прям. Оказывается нельзя просто так провести свои тесты и опубликовать результаты, которые покажут слабые стороны вендора. А все потому что некто профессор DeWitt давным давно написал статью какой Оракл плохой, и опубликовал ее. Ларри Элисон конечно расстроился и после этого у всех коммерческих решений по сей день было условие DeWitt, что значит нельзя публиковать самому такие бенчмарки. А вот теперь Датабрикс бросает вызов конкурентам и теперь любой желающий можешь оффициально погонять Датабрикс и опубликовать результаты. Как я понимаю это действительно круто👏
Самое время написать про курсы даталерн если они помогли, ну или про другие курсы которые не помогли или помогли.
Forwarded from LEFT JOIN
Мы собрали уже 250 ответов на опрос 🔥🔥🔥

Большое спасибо всем, кто уже принял участие, вы большие молодцы! Огромная просьба к тем, кто еще планирует пройти — отвечать про один конкретный курс, про который вы хотите рассказать.

Мне бы очень хотелось собрать как минимум 500 ответов (а лучше 1000), чтобы выборка респондентов была полноценной, поэтому большая просьба принять участие, если вы обучались на каком-либо платном курсе по аналитике / data science / data engineering и поделиться своими впечатлениями.

По планам на результаты: скорее всего, на выходе будет дашборд с ответами в Tableau Public + презентация с выводами, которую можно прочитать.

Помимо этого, мы хотим сделать некоторый выпуск, где голосом обсудим самые интересные случаи как успешного, так и разочаровавшего образования онлайн.

➡️ Поэтому прошу всех пройти опрос про онлайн-курсы и рассказать про свой опыт 📢📢📢

А коллег-авторов телеграм-каналов снова прошу о репосте, чтобы получить побольше охвата и отзывов о курсах.
Forwarded from George Vinogradov 🍀
Дима привет,
Уже по сложившейся традиции просьба закинуть вакансию в чат😉

В команду Data Management в Novartis 🧬 ищу аналитика данных и дата/ETL инженера.

Уровень
: middle-senior
💸Зарплатная вилка: 170-270к gross
🇬🇧Требуется знание английского языка на уровне комфортного ежедневного общения и написания документации

❇️С какими тулами мы работаем: sql, alteryx, qliksense, python, AWS, databrics, snowflake

❇️Чем именно предстоит заниматься:

Data Engineer:
- Участвовать в проекте по разработке datalake (AWS S3 - Databricks - Snowflake)
- Создавать и поддерживать ETL процедуры
- Разрабатывать витрины данных для аналитиков
Подробое описание вакансии

Data Analyst:
- Проводить интервью с пользователями, выявлять их потребности и много cusdev`ить
- Придумывать и разрабатывать новые метрики.
- Создавать очень много аналитической отчетности (Alteryx, Qlik Sense)
Подробое описание вакансии

❗️Вопросы и CV отправляйте в ЛС
Всем привет! Возникла острая необходимость въехать в dbt поглулбже, накидайте пожалуйста в комменты материалов.
У нас новый перевод от Ольги Расторгуевой - Почему каждому Дата-сайентисту нужен Инженер данных? Очень актуальная тема!

Про Олю:
Меня зовут Ольга. Я в аналитике уже 10 лет. Начинала с «классического» экономиста-аналитика (бюджетирование, прогнозирование, финансы). А сейчас я аналитик данных в компании Макси (это крупный продуктовый ритейлер Северо-Запада). Поэтому активно углубляю свои знания в сфере DA. Плюс интересуюсь DE и DS, но больше для общего развития - так сказать, хочется видеть картину целиком))

Лайки и комменты плиз! 🥺
This media is not supported in your browser
VIEW IN TELEGRAM
10 ноября день милиции и мой день рождения🎉😜
Мы тут недавно обсуждали зарплату от Новартис для middle-senior до 270т. Вопрос было это мало или много? Как я писал в комментариях стек технологий и перспективы тоже важная переменная в уравнении. Вот например мне скинули чатик вакансий @datajobschannel (не реклама), в котором была вакансия на Senior Data Engineer с зп 400 000т🤑 в компанию ACHA и требованием опыта от 3х лет🧐. И как-то я видел вакансию на hh - 450 000🤑 за старшего инженера данных.

Вопрос, 400т это много или достаточно? На самом деле все относительно, если кто-то работает за US$ из РФ или Украины, то у них уже зарплата 6т-8т+$, и возможно они купили патент для ИП с фикс прайсом за налоги (была хорошая дискуссия на эту тему в нашем чатике, про патент, его цену и назначение). А может быть у вас проект в UK со ставкой 100 фунтов в час. Поэтому все очень относительно.

Но факт остается фактом, сейчас за дату готовы платить, поэтому можно учится и пробовать свои силы в data engineering, data science, business intelligence.

А ниже я скину свежий отчет по рынку из US - Tech Salary Guide 2022 (спасибо Даше из Ванкувера за документ, она кстати ботает Data Science программу по 10-12 часов в день без выходных, и вроде есть результат, правда 3ое детей маму потеряли)

ЗП какие-то смешные там от 60т$ до 100т$ в год🥱, прям смешные какие-то, где цифры в 250т$, 350т$ в год?))
🚀 Мы приглашаем специалистов по системному анализу уровня Middle/Senior/Lead с опытом работы от 2 лет стать частью команды EPAM Anywhere.

Пройди техническое интервью и в течение 48 часов получи оффер от EPAM Anywhere, а также бонус до 300 000 руб. после присоединения к нашей команде!

🔸 Бонус для специалиста уровня Middle - 150 000 руб.
🔸 Бонус для специалиста уровня Senior - 225 000 руб.
🔸 Бонус для специалиста уровня Lead - 300 000 руб.
Сумма бонуса фиксирована независимо от оклада.

Хочешь узнать больше?
Заполни регистрационную форму и узнай о платформе EPAM Anywhere и Systems Analysis Hiring Sprint!
🎯 Зарегистрироваться -> https://epa.ms/dcMIs

PS Пост поддержал приют для собак в Ногинске instagram.com/priut_noginsk_help/