Datalytics
9.07K subscribers
218 photos
17 videos
5 files
673 links
Канал для аналитиков данных про Python, карьерное развитие в анализе данных, всякое разное

Автор – @ax_makarov

Отдельный канал про ChatGPT и его практическое применение —  @ai_forge

Чат канала — @pydata_chat

Вакансии — @data_hr
Download Telegram
Написал в свой блог статью о том как использовать API Google Drive. Многим может быть полезно для автоматизации различной рутины, связанной с отчетностью. Например, можно будет сделать скрипт, заливающий Excel-файлик и сразу конвертирующий его в формат Гугл Таблиц. Или наоборот, скачать файл Гугл Таблиц в виде эксельки. А ещё там про то как создавать папки, удалять файлы. В общем, куча полезного. В конце статьи есть ссылка на ноутбук http://datalytics.ru/all/rabotaem-s-api-google-drive-s-pomoschyu-python/
Если вы хотите изучить Pandas, но пока не нашли практическую задачу для тренировки навыков, то вам поможет замечательный сборник упражнений. Упражнения освещают 10 тем, среди которых группировка данных, визуализация, работа с временными рядами. Удачной прокачки навыков! https://github.com/guipsamora/pandas_exercises
Последний пост из серии статей о том как автоматизировать всяческую рутину с помощью Python. Речь пойдет про Excel (снова), но теперь о том как с помощью openpyxl вставлять рисунки, диаграммы и формулы в книгу https://changhsinlee.com/pyderpuffgirls-ep8/
Я уже выкладывал эту статью, но вышел русский перевод, поэтому делюсь снова. Лонгрид от Нетфликс о том как они используют Jupyter Notebook в работе с данными. В Нетфликс работает куча аналитиков и уж эти то ребята знают толк в том как готовить данные: тут и nteract с его крутым визуализатором, и PaperMill для параметризации ноутбуков, и контейнеризация ноутбуков. Вдохновляющее чтиво https://habr.com/ru/post/439272/
🔥1
В моей группе на Facebook Дмитрий Осиюк (автор канала WebAnalytics) поделился рядом готовых решений для выгрузки данных из API Google Analytics. Решил собрать несколько решений в один пост, чтобы каждый мог найти что-то подходящее для своих задач.

Во-первых, посмотрите пример использования Reporting API v4 в официальной документации от Google: http://bit.ly/2ECMIVG 🇷🇺

Статья Erik Driessen о том как начать работу с Reporing API v4 с примером обхода сэмплинга и загрузки данных в pandas dataframe: http://bit.ly/2T7iUt4 🇬🇧

Библиотека PGA для вытаскивания данных через Reporting API v3. Умеет сразу конвертировать данные в dataframe: http://bit.ly/2Ti35iO

Руководство по выгрузке данных из GA с помощью библиотеки google2pandas: http://bit.ly/2SwI7Z4 🇬🇧

Скрипт Ryan Praskievicz для выгрузки несэмплированных данных из Google Analytics сразу из нескольких профилей: http://bit.ly/2SsbonC 🇬🇧

На самом деле, таких решений на гитхабе over 9000, но приблизительно все похожи по принципу, советую попробовать покопаться с разными и выбрать то, с которым будет проще работать. Успехов! 💪
This media is not supported in your browser
VIEW IN TELEGRAM
Достичь космической скорости можно только с помощью новейшего топлива - данных, собственноручно переработанных при помощи Python.
Научим работать с API и автоматизировать рутинные задачи, не углубляясь в скучную теорию и фундаментальные основы.
Уже завтра 03.03.2019 стартует вводный курс Python для Digital. Промокод на скидку 20% для подписчиков: cosmo0303. https://digitalgod.be/beginner
Статья про различные фишки при работе с Jupyter Notebook, которые могут сильно сэкономить время. Про шорткаты, использование мультикурсора, а также обзор популярных расширений для Jupyter. http://bit.ly/2UjPHb4
Сегодня хочу поделиться с вами крутейшей библиотекой pygsheets для работы с API Гугл Таблиц. Одна из крутейших штук - это то, что с её помощью можно делать графики внутри Гугл Таблиц (смотрите документацию). Также как и большинство библиотек для Гугл Таблиц, библиотека умеет грузить данные из датафрейма (метод set_dataframe). В общем, отличная альтернатива gspread, попробуйте! https://github.com/nithinmurali/pygsheets
Куча небольших, но полезных, туториалов. Есть и суперочевидные, вроде "как загрузить csv в dataframe", но бывают и более любопытные: "4 метода округления в pandas", "конкатенация значений колонок", "применение условия ЕСЛИ в pandas". Советую посмотреть, если хотите открыть для себя новые приёмы в работе с данными. https://datatofish.com/python-tutorials/
Написал для блога CoMagic статью о том как с помощью Python делать запросы к Data API CoMagic. В статье рассмотрены особенности параметров API, с которыми часто возникают сложности, например, как ограничивать результаты с помощью фильтров, как задавать список нужных полей https://www.comagic.ru/blog/posts/mar/kak_delat_zaprosy_k_api_comagic_s_pomoshchyu_python_i_zachem_eto_nuzhno/
В среду 13.03.2019 на митапе "Зачем маркетологу программировать на Python" Дима Родин из DigitalGod расскажет о том для решения каких задач маркетологу имеет смысл учиться программировать, а потом я покажу практический пример анализа данных Facebook Ads с помощью Python. https://digitalgod.be/blog/07032019-meetup-1-python-for-marketers
Начал читать книгу Себастьяна Рашки "Python и машинное обучение". К 36ой странице оказалось, что для того, чтобы примеры кода из книги выполнялись корректно необходимы панды 🐼
😁1
И на этом фоне вот неплохой русскоязычный гайд про панд https://shwanoff.ru/pandas/
Большой туториал про использование словарей в Питоне. Если кто, вдруг, пренебрегает этой структурой данных, то самое время исправиться и начать использовать её чаще, ведь словари - наше всё😄https://www.dataquest.io/blog/python-dictionary-tutorial/
Наткнулся на лекцию Ильи Щурова про Pandas в рамках курса "Программирование на языке Python для сбора и анализа данных", который проходил во ВШЭ. Также на канале можно посмотреть другие лекции из этого курса: http://bit.ly/2F0NI4U. Там много информации, начиная от основ Python и до работы с API, библиотеками numpy и matplotlib. https://www.youtube.com/watch?v=ENKfnIEXyKw
Часто бывает так, что данные для анализа не хранятся в виде удобного csv-файлика или в базе данных, а представляют собой какую-нибудь мало-структурированную кашу, например, логи сервера или длинный эвент лог в формате txt с произвольной структурой. Тогда приходится прежде всего решать задачу извлечения данных в таком виде, чтобы их затем можно было загнать в датафрейм. В блоге DataQuest есть интересный туториал с примером извлечения данных с помощью регулярных выражений https://www.dataquest.io/blog/regular-expressions-data-scientists
Большой пост про различные неочевидные возможности Pandas. Охватывает очень много всяких небольших хаков, про которые вы могли не знать. Например, про функцию map, расчет скользящего среднего, про ресемплирование на time series, stack и unstack и ещё много всяких интересных штуковин http://deanla.com/dont_reinvent_pandas.html
Если вы работаете в Jupyter Notebook или в JupyterLab, то советую поставить расширение Qgrid. Это расширение позволяет добавить к привычной табличной визуализации датафрейма функционал сортировки и фильтрации. Крайне рекомендую!
https://github.com/quantopian/qgrid
Туториал про создание бота для Telegram, который поможет автоматизировать отчетность. Всего в несколько десятков строк кода. Такой бот будет вытягивать данные из Google BigQuery, визуализировать их с помощью Matplotlib и отдавать визуализацию в сообщении Телеграма. Хороший способ автоматизировать задачи отчетности, повторяющиеся изо дня в день. https://habr.com/ru/company/skillbox/blog/443702/