Вот и мое обучение в Школе 21 подошло к концу
За почти три года я успел научиться кодить на С и Python, сделал множество проектов, очень много собеседовался и нашел себе работу в любимой сфере
Безумно рад, что в 2019 году увидел ее рекламу, рванул проходить месячный бассейн, снял комнату в пяти минутах от здания школы и посвятил все свое время учебе
Я учился сам всему и наступил на множество граблей за все эти года, поэтому у меня появилось желание помогать людям с вхождением в IT
В самом начале было совсем не понятно чего ожидать, что и как учить
Сейчас у меня освободилось время и я готов помочь начинающим в DS с написанием резюме, общим планом подготовки к собеседованиям
Для тех, кто хочет проверить свои силы и уровень подготовки в боевом режиме - можем устроить мок собеседование на час и я дам вам развернутый фидбэк

Пишите в комментарии на каком уровне вы сейчас находитесь и хотите ли проверить себя в режиме собеседования

Хотел поучаствовать в подкасте Школы 21 "Дедлайн вчера" и рассказать свою историю в качестве дата саентиста самоучки, но к сожалению 2 сезон подкаста уже закончился и все подготовленные выпуски уже выпущены. Договорились записаться ближе к зиме.
Не унываю и надеюсь на вашу поддержку, когда подкаст все таки запишем 😄
А следующий пост будет о более подробном плане подготовки на стажера/джуна дата саентиста без платных курсов и прочей ненужной мишуры 🥸

Краткий план подготовки для начинающего дата саентиста

1. Узнать основы основ (~4-8 месяцев)
Первым делом нужно выучить и понять всю теорию. Если вы не будете понимать нужные предметные области, то никогда не пройдете собеседование хорошо.
Если вы совсем новичок, вам стоит посмотреть гарвардский курс CS50 по основам программирования на русском, чтобы лучше ориентироваться в мире Computer Science.

1.1 Python + SQL
Проходим курсы по базовым конструкциям языка. По Python - ТУТ, а по SQL - ТУТ или ТУТ.
Далее вам нужно пройти курс по теории алгоритмов и структур данных, чтобы пойти на leetcode и сделать весь easy уровень.

1.2 Математика
Если проблемы со школьной математикой - курс для вас по основам математики.
Проходим курс по математическому анализу, курс по линейной алгебре, курс по теории вероятностей, курс по математической статистике (часть 1, часть 2).

1.3 Machine Learning
Читаем теорию по классическому машинному обучению - ТУТ и ТУТ. Для желающих максимально разобраться в теории машоба - лекции Воронцова (сначала только пройдите все курсы до этого и усвойте оттуда максимальное количество информации, иначе рискуете получить небольшой шок от кол-ва тяжелого матана). Максимально разбираем все непонятное - формулировки, формулы, термины и методы построения алгоритмов.

2. Получить немного практического опыта (~1-2 месяца)
После того как вас полностью изнасиловала теория нужно переходить к практике. Начинаем с маленьких учебных соревнований на kaggle. Просто выбираем понравившееся учебное соревнование, скачиваем датасет и пытаемся получить максимально хорошие метрики качества. Каггл хорош тем, что люди там выкладывают свои решения и можно посмотреть и понять как правильно строить модели.

После парочки решенных соревнований можно начать делать свой пет-проект.
Идею должны выбрать вы сами.
Несколько примеров - тг бот фильтрующий негативные комментарии, детектор кошек на фото, имплементация любого классического алгоритма, предсказание цены на сырки Б.Ю. Александров и многое другое.

3. Написать резюме
После написания пет-проектов и ботания соревнований можно писать резюме. Не нужно брать ужасное резюме с hh. Пишем свое с нуля. Хороший пример написания резюме - ТУТ. Резюме должно состоять из одной страницы, быть максимально информативным, без шуток/сарказма и других неуместных вещей.

4. Проходить собеседования
Тут все просто. Проходим собеседования и доучиваем то, чего вам не хватило. Повторять до сходимости 🤓

P.S. Все указанные курсы бесплатны.
Пишите в комментариях, что думаете по поводу расписанного плана

Про Python и SQL

Что это?
Python:
Высокоуровневый язык программирования с динамической типизацией и автоматическим управлением памяти. Известен своей огромной библиотекой пакетов PyPI. Можно найти пакет/библиотеку/фреймворк на любой случай жизни.
SQL:
Декларативный язык программирования, применяемый для создания, модификации и управления данными в реляционной базе данных.

Зачем нужны?
Python:
Благодаря лаконичности, простому синтаксису и богатому набору инструментов Python стал любимым языком дата саентистов среди которых большое количество выходцев из науки. Python очень терпим к плохому написанию кода и техническому долгу (это не значит, что нужно писать плохой код в jupyter notebook). Сейчас Python - это стандарт индустрии для дата саентистов. Нужно знать синтаксис, особенности языка и библиотеки, чтобы умело оперировать анализируемыми данными и обучаемыми моделями.
SQL:
Прежде чем делать любой анализ данных - сначала эти самые данные нужно откуда-то получить. В соревнованиях и хакатонах вам уже доступны заранее выгруженные и обезличенные данные, но в реальной работе приходится вытаскивать все нужные вам данные самостоятельно из распределенных и не очень баз данных с помощью SQL.

Что нужно знать?
Python:
* базовый синтаксис
* различия структур данных (списков, кортежей и словарей) и их асимптотическая сложность
* генераторы, итераторы
* объектно-ориентированное программирование (ООП)
* потоки и процессы
* что такое GIL
* фреймворки и библиотеки (numpy, pandas, matplotlib, seaborn/plotly, scikit-learn и другие)
SQL:
* построение простых запросов
* фильтрация данных (WHERE, ORDER BY, DISTINCT, LIMIT)
* агрегирующие функции (SUM, AVG, COUNT, MIN, MAX)
* группировка данных (GROUP BY, HAVING)
* объединения таблиц и их виды (LEFT JOIN, RIGHT JOIN, INNER JOIN, OUTER JOIN, CROSS JOIN)
* вложенные запросы
* оконные функции

Анонс для студентов Школы 21
В эту субботу в 16:00 на мероприятии «КОД НА ПРОД» буду рассказывать о своей работе в data science и отвечать на вопросы в Атриуме московского кампуса
Также будут другие спикеры из сфер frontend, backend, devops, gamedev
Приходите слушать, задавать вопросы и общаться в живую!)

Про базовую математику в DS

Много кто говорит, что в data science нужна какая-то безумно страшная математика, но на практике оказывается, что математики нужно на самом деле не так много (уровень 1-2 курса универа). И изучить этот уровень может любой достаточно упорный человек. Ссылки на изучение были в посте про краткий план подготовки дата саентиста.

Какие разделы и зачем нужны?

Математический анализ
Нужно знать все о пределах, производных и совсем чуть-чуть про интегралы. Все это нужно, чтобы спокойно понимать, например, как работает backpropagation и что такое градиент.

Линейная алгебра
Необходимые темы - векторы, матрицы, транспонирование, обратная матрица, определитель, скалярное произведение. Эти темы нужны, чтобы понимать как правильно взаимодействовать с данными в формате матриц и внутренними нюансами построения алгоритмов машинного обучения.

Теория вероятностей
Необходимые темы - формулы комбинаторики, условная вероятность, теорема Байеса. Тут используются самые базовые понятия. На их понимании будут строиться дальнейшее изучение материалов.

Математическая статистика
Необходимые темы - описательные статистики, центральная предельная теорема, функции распределений, как сравнивать средние выборок (t-критерий Стьюдента, дисперсионный анализ/ANOVA), проверка статистических гипотез и другие. По сути все идеи машинного и глубокого обучения исходят из математической статистики.

С этой базовой подготовкой вы сможете отвечать на вопросы по математике на собеседованиях и полноценно учить data science.

Релокейт или релокейт, вот в чем вопрос...

Про Machine learning

Решил написать стандартный список вопросов с моих собеседований на классического стажера/джуна дата саентиста. С большей частью этих вопросов вы столкнетесь со 100% вероятностью. Усердно готовьтесь по каждой из тем, чтобы с легкостью убедить эйчара, а потом и интервьюера в вашей компетентности.
Важно понимать, что в зависимости от вакансии вас могут спрашивать дополнительные темы - рекомендательные системы, временные ряды, методы понижения размерности, нейросети и другие, Поэтому подготовившись по этим вопросам, не забывайте внимательно читать вакансию на наличие таких тем и не стесняться спрашивать о рабочих задачах эйчара и будущую команду.

✳️ Общие вопросы
1) Какие существуют задачи в machine learning?
2) Объясните разницу между регрессией и классификацией
3) Что такое переобучение/недообучение?
4) Что такое бинарная/многоклассовая классификация? А multilabel классификация?
5) Расскажите как бы вы решали стандартную задачу классификации от сбора датасета и до проверки качества модели

✳️ Линейные модели
1) Чем отличаются линейная и логистическая регрессия?
2) Что такое регуляризация и ее виды/формулы (L1, L2, Elasticnet)
3) Расскажите про градиентный спуск (обычный, стохастический)

✳️ Деревья решений
1) Что такое дерево решений?
2) Опишите алгоритм построения дерева решений
3) Какие критерии информативности существуют в задаче классификации (misclassification error, энтропия Шеннона, критерий Джини)? Вспомните формулы
4) Методы регуляризации решающих деревьев (ограничение по глубине/количеству листов и другие)

✳️ Ансамбли алгоритмов
1) Что такое беггинг и бустинг? Их различия?
2) Объясните алгоритм построения случайного леса
3) Объясните алгоритм построения градиентного бустинга

✳️ Оценка качества модели
1) Расскажите про метрики классификации (accuracy, precision, recall, f-score, roc-auc)
2) Формулы для precision и recall в случае бинарной классификации
3) Что значит micro/macro при подсчете precision/recall в случае многоклассовой классификации
4) Как соотносятся precision и recall с ошибками 1 и 2 рода?
5) Расскажите про метрики регрессии (MSE, RMSE, MAE, MAPE, R^2) и их смысл
6) Что такое кросс-валидация?
7) Какие есть стратегии перебора гиперпараметров?

✳️ Обучение без учителя / кластеризация
1) Что такое кластеризация и зачем нужна?
2) Расскажите какие вы знаете алгоритмы кластеризации (k-means, c-means, иерархическая агломеративная кластеризация, DBSCAN) и опишите алгоритм их построения
3) Расскажите как бы вы оценивали качество кластеризации

✳️ Дополнительные вопросы
1) Расскажите про метод k-ближайших соседей (KNN)
2) Что такое метод опорных векторов?
3) Расскажите про bias-variance trade-off (дилемма смещения/дисперсии)

Список полезных курсов/материалов по машинному обучению

✳️️ Онлайн учебник от ШАД по ML
Ребята из Школы Анализа Данных сделали прекрасный онлайн учебник с хорошо и кратко объясненной теорией ML. Регулярно перечитываю перед собеседованиями

✳️ Открытый курс машинного обучения от ODS
Курс по классическому машинному обучению от сообщества OpenDataScience с примерами в коде и теорией ML в виде статей на хабре

✳️️ Курс "Машинное обучение" 2019 К.В. Воронцов
Хардкорные лекции по ML от Константина Воронцова. Не для начинающих 😁

✳️ Deep Learning на пальцах - 2019
Лекции на YouTube по глубокому обучению от Семена Козлова. Курс немного устарел, но 95% материала актуально, особенно начальные лекции про то, как работают нейросети буквально "на пальцах"

✳️ ML System Design
Спойлер для начинающих дата саентистов - data science нужен не для того, чтобы строить модельки в вакууме (это к R&D), а для решения задач бизнеса. Этот курс помогает понять все этапы решения ML задачи в реальной жизни. От постановки задачи и сбора данных и до внедрения ML-системы на ПРОД. Если вас вдруг спросят на собеседовании про то, как бы вы строили ML систему с нуля - сразу вспомните этот курс хорошим словом

Получение практического опыта в DS

Когда дело доходит до получения практического опыта в области науки о данных, один из лучших способов сделать это - выбрать пет-проект. Это проект по анализу данных, над которым вы можете работать самостоятельно, без необходимости в команде или большом наборе данных. Он позволит вам изучать различные этапы анализа данных, такие как парсинг и очистка данных, feature engineering, обучение модели и её выкатка в качестве сервиса.

Одна важная вещь, которую следует иметь в виду при выборе домашнего проекта, - это структура данных, с которыми вы будете работать. Различные типы данных, такие как данные временных рядов или текстовые данные, могут иметь уникальные проблемы и требовать специальных методов для эффективного анализа. Выбрав пет-проект, который фокусируется на определенном типе данных, вы можете приобрести ценный опыт работы с этим типом данных и стать более опытным в инструментах и методах, необходимых для их анализа.

Еще один способ получить практический опыт - это участвовать в соревнованиях Kaggle. Kaggle - это веб-сайт, на котором проводятся соревнования по науке о данных, где участники соревнуются за создание лучшей модели. Это отличный способ получить практический опыт, потому что он позволяет вам работать с реальными датасетами и соревноваться с другими дата саентистами.

Помимо получения практического опыта, соревнования Kaggle также предлагают ряд других преимуществ. Во-первых, они обеспечивают структурированную среду, в которой можно изучать и практиковать навыки работы с данными. Это связано с тем, что каждое соревнование включает в себя четкую цель, набор правил и график, который помогает сосредоточить ваши усилия и отслеживать ваш прогресс. Кроме того, в конкурсах Kaggle часто разыгрываются крупные денежные призы, что дает дополнительный стимул преуспевать и может помочь профинансировать ваше образование или карьеру в области науки о данных.

P.S. Я настолько ленивая ж*па, что написал этот пост с помощью ChatGPT от OpenAI и небольшого редактирования😁

Всем, кто живой тут привет!)
Давненько я тут ничего не писал
Пора это исправлять😼

14 ноября я с коллегой буду выступать на конференции PiterPy и рассказывать про автоматическую разметку БД с помощью ML инструментов
Доклад можно будет посмотреть как оффлайн в Санкт-Петербурге, так и онлайн дома

Приходите посмотреть и послушать нас🙂

piterpy.com - ссылка на конференцию