Кривые обучения и хобби

📈В канале собралось много тех, для кого кривая обучения имеет в основном контекст машинного обучения. Но на самом деле это более общее понятие. Кривая обучения — это в целом зависимость результатов обучения от затраченных усилий, попыток или времени. И для многих ваших новых занятий эта кривая будет выглядеть очень похоже на кривую обучения ML-модели: сначала быстрый рост экспертизы, а затем постепенный выход на плато.

❓Меня уже спрашивали в комментариях, как я отдыхаю и какие у меня хобби. Чуть меньше года назад у меня появился новый способ переключаться — плавание в зале с тренером. Добавлю контекст: в глубоком детстве мне совсем не понравилось тонуть, когда на мне лопнул надувной жилет. Моя двоюродная сестра (кстати, тоже закончила Физтех и как раз вдохновила меня туда поступать) довольно быстро меня вытащила, но на меня в том возрасте произвёл впечатление вид уходящего вдаль солнца по мере погружения на глубину. Закончилось это тем, что плавать я научился классе в десятом и только «сочинским брассом». В итоге плавание оставалось базовым навыком, которым я не владел, и прилично на этот счёт комплексовал.

🔥Прошлым летом один очень глубокий человек сказал мне интересные слова: «Иногда то, чего мы боимся, — это то, чего мы больше всего хотим». И я решил попробовать проверить это на практике. И действительно, плавать мне очень понравилось, с тренером мы хорошо сошлись характерами, и выяснилось, что все вещи, которые меня пугали, решаются количеством проплытых километров и постановкой техники. К чему я это всё — я на своём опыте узнал две вещи:

1️⃣Новые увлечения доставляют очень много удовольствия на «крутой» части кривой обучения, когда быстро нарабатываешь базовый опыт. Дальше — посмотрим, напишу ещё через год или два.

2️⃣Мы действительно иногда боимся стать счастливее. А вы не бойтесь, в процессе совсем не так страшно, как начать 🙂

#вопрос_подписчика

🎲 Предыдущая загадка, очевидно, оказалась для вас легкой. Тогда предлагаю усложнить задачу — держите еще один квиз с изображением.
Как обычно, жду ваши ответы в комментариях 💬

👏 Ну что же, и с этим квизом вы справились легко :) Первый правильный ответ дал в комментариях Влад Кузнецов уже через минуту после публикации, сразу же собрав кучу реакций.

🤓 На самом деле таких примеров довольно много, и под многие из ваших ответов есть подходящая картинка. Чуть позже обязательно сделаю подборку

Про башни из слоновой кости и искусственную недоступность

💬 Знакомый рассказал историю. В одной компании были два очень больших руководителя (с огромными кабинетами, с кучей секретарей и регалий), которые хорошо общались, в целом, можно даже сказать приятельствовали, но никак не могли обсудить один вопрос. Однажды эти два руководителя встретились случайно в коридоре и один другого спросил: «Слушай, ну что мы никак не можем уже решить свой вопрос? Давай либо я к тебе приду в кабинет, либо ты ко мне в кабинет и обсудим». Оба они были первыми вице-президентами по чему-то очень важному, и второй ответил первому: «неее, дорогой, ты не понимаешь, первый к первому не ходит».

🙈 Ситуация анекдотичная, но сейчас она периодически возникает в AI. Сфера очень захайпованная, все стали большими экспертами со своими командами и помощниками, и когда зовут друг-друга в гости (например, в какой-нибудь подкаст), сразу возникает проблема, что сообщения неизвестно от кого в 90% случаев игнорируются. В итоге если вы сами большой босс или эксперт, добраться до другого большого эксперта вы зачастую можете только позвонив напрямую :)

🤔 С одной стороны, мне нравится этот стеклянный барьер для коммуникации: хочешь позвать человека, свяжись сам, а не выпендривайся и присылай всяких посредников. С другой стороны, некоторый снобизм в рассмотрении входящих это тоже высокомерно и плохо. Однако переполненные входящие сообщения никто не отменял, и никто конечно не обещал отвечать всем и на все.

🎬 В общем к чему я это. Готовим новый сезон подкаста ТехТок, теперь еще и с видео ❤️
Прошлый сезон, как и раньше, можно прослушать на большинстве подкастовых платформ, например тут

Иллюзия, которая помогает нам учиться

🤔 Вот вы может думаете, что когда ведёшь курс по машинному обучению например, просто берёшь известные темы, рассказываешь их понятно, делаешь задания для закрепления материала и все тут. Как бы ни так.

Знаете, вот иногда выйдешь из дома и думаешь: а я точно дверь закрыл? Ну или там утюг не выключил может. Или для особо тревожных - свет в комнате оставил, теперь за день набежит на целых 50 копеек лишних. Вот есть один такой же тревожный вопрос, который мучает меня про базовый курс машинного обучения, который в разных вариациях и разных местах я преподаю уже 14 лет: порядок тем.

😐 Серьезно. Вот я каждый год несколько раз за год задаюсь вопросами: рассказывать сначала линейные модели или сначала деревья? Рассказать сначала введение во все основные методы supervised learning, а потом unsupervised или сделать нейросети прям отдельно в конце, чтобы сразу там и про всякие автоэнкодеры упомянуть, а не разделять?

🧶 Проблема в том, что наука развивается сама по себе, без оглядки на то, насколько стройная программа курса потом получится :) В итоге получается, что все темы друг с другом взаимосвязаны и расположить их линейно можно кучей способов. В рамках парадигмы «то что мы ещё не проходили, мы с вами пока не знаем» это приводит либо к потере, либо к откладыванию изучения части связей, и роль автора курса - выбрать, что слушателю дать раньше, а о чем рассказать потом или вовсе не рассказывать.

🌳 Ну например, про линейные модели и деревья. Деревья устроены проще в плане нужной для их понимания математики, но, рассказав про деревья, логично не тянуть и сразу переходить к ансамблям деревьев. А хочется сначала пройти какие-то базовые алгоритмы, а потом уже идти в ансамбли. Тогда линейные модели надо ставить до деревьев. Но линейные модели требуют от слушателя уже хоть немного не бояться математики - что такое градиент понимать, градиентный спуск. Если рассказываешь студентам технического ВУЗа - не беда, они все это знают. Если же разрабам или вовсе гуманитариям: создаётся некий барьер, который выше, чем у деревьев, но встретившись раньше, может помешать людям даже добраться до всяких лесов и бустингов, которые на самом деле очень просты. А если просто руками поводить и сказать «ну тут параметры подбираются автоматически из оптимизационной задачи», то будет уже совсем профанация какая-то.

🤹Так вот одна из скрытых (но очень важных) работ любого автора курса - из огромной и разнообразной области, не спрашивающей нас, как ей развиваться, чтобы было красивое оглавление в учебниках, сделать что-то стройное, логичное, систематизированное, уложенное в линейную последовательность тем и дающее слушателю приятную иллюзию порядка.

☝️Как только слушатель начнёт работать и нарабатывать практику, он поймёт, что это была иллюзия. Что нет такого четкого деления на типы алгоритмов, что можно спокойно и безнаказанно совмещать вещи из разных глав учебников, а какие-то методы и задачи можно было записать сразу в несколько глав. Но эта иллюзия порядка, созданная лектором, уже помогла изучить основы. И в этом и был ее смысл.

Последняя неделя набора в ШАД Яндекса

❗️На этой неделе завершается набор на учебную программу в Школе анализа данных Яндекса — заполнить анкету можно до 12 мая включительно.

❤️ В моей жизни ШАД занял большое место. В своё время я там учился, преподавал, а не так давно даже немного поучаствовал в написании ШАДовского учебника по ML. К себе в команды я тоже всегда с удовольствием нанимал выпускников и преподавателей ШАДа 🙂

🦾 Сейчас ШАД Яндекса по-прежнему одно из лучших мест, чтобы учиться Computer Science и Data Science, очень рекомендую это место самым смелым и сильным в математике.

🧑‍💻 После подачи заявки вы сможете пройти тестирование, которое уже стартовало и продлится до 13 мая, 19:00. Если вы готовы к тому, что следующие два года вам будет очень сложно, но очень интересно, — подавайтесь 🙂

P. S. Посмотреть примеры задач и узнать больше об обучении можно на сайте ШАДа, а ответы на вопросы по поступлению вы можете найти в записи дня открытых дверей в Москве или задать их в телеграм-чате «Все в ШАД».

🎲Пятница — день квизовый. А значит, самое время проверить ваши знания. Ну или интуицию. Посмотрите на эту картинку внимательно и помните: правильный ответ здесь только один ☝️

Пишите свои варианты в комментариях!

💼 У кого-то выходные, а я пришел записывать ролики для YouTube :)

❗️Запросы, о чем рассказать, принимаются в комментариях

🤓Итоги квиза

Итак, лишним может быть любой ответ:

1️⃣ - единственный предмет из приведенных, который по-существу используют только для гадания (кофейную гущу добавляют в рассаду, на червях и гадают и используют как приманку, в обычные карты можно просто играть)

2️⃣ - выделяется по цветовой гамме из остальных

3️⃣ - если обратить внимание, что черви желатиновые, то на таких конечно никто не гадает :) Но тут зависит от «что хотел сказать автор», потому что в изначальной версии квиза были и желатиновые, и настоящие черви, из-за чего ответ был очевиден.

4️⃣ - как верно заметили в комментариях, единственная картинка с одним объектом, а не несколькими (на 2 - кофейные зерна)

Ну и, наконец, если следовать духу загадок вроде «В автобусе спали все пассажиры, но только водитель не спал, как звали водителя?», то правильный ответ 1, потому что «ответ только один». И это вы тоже отгадали 👏

Во-первых, вы молодцы и помогли показать, что обосновать можно как правило все что угодно (за это я и ненавижу с детства задания в тестовой форме с выбором вариантов ответа 😁).

🤔 Во-вторых зачем нам это все: то, чем мы сейчас занимались, было примером обучения без учителя (unsupervised learning). Когда вам не приведены в обучающей выборке примеры и правильные ответы, по которым можно понять, по какому принципу вы считаете объекты похожими и непохожими друг на друга, всегда есть куча способов поделить объекты выборки на группы. Именно поэтому задачи unsupervised learning на порядок сложнее решить удовлетворительно для человека, чем задачи supervised learning.

Вот делаете вы кластеризацию, например, отзывов на товары, и как вашему алгоритму понять, по товарам вы кластеризуете, по тональности, по лексике, по обнаруженным проблемам или еще по чему? Только по тому, как вы считаете признаки, и в каких признаках различия проявляются сильнее. Что при 100-1000-10000 признаках попробуй еще отследи.

Вы скажете: что же это за вранье было, что «ответ только один»? Ну так unsupervised алгоритмам тоже надо дать только один ответ, когда способов ответить логично целое множество. Это было полное погружение в жизнь алгоритмов обучения без учителя, почувствуйте изнутри, так сказать :)

💡Но в то же время если быть достаточно находчивым в построении unsupervised штук, они могут забустить целый набор supervised задач. И в следующий раз я расскажу вам, причем здесь word2vec и GPT - две казалось бы очень разнесенные по времени своей популярности вещи, но обе показывающие мощь правильно примененных unsupervised подходов.

Как я учился рисовать и чем мне это помогло

В комментариях к постам спрашивали про хобби, и как они пригождались в жизни. Есть одно увлечение, которым я сейчас не занимаюсь активно, но так или иначе иногда всплывает - рисование. И оно оказалось весьма полезным в жизни.

🎨 Всё началось, когда я ещё учился в пятом классе и однажды захотел посещать художественную школу. Хотя группа в тот момент уже занималась, это не стало препятствием для моего желания творить. Мне очень нравилось рисовать, и моим первым успехом стал портрет молодого темнокожего кучерявого мальчика, которого я нарисовал по шагам, указанным в одной из книг. Получилось настолько здорово, что мама посмотрела на это и сказала: «Ладно, отправим тебя в художественную школу».

🥇 До восьмого класса я продолжал заниматься в художке и окончил её с отличием. Был ещё дополнительный курс для тех, кто хотел связать свою жизнь с художественными профессиями, но туда я уже не пошёл.

🧑‍🎨 Ближе к концу художественной школы я начал зачитываться разборами работ студии Лебедева, всячески осваивал Photoshop и учился рисовать уже на компьютере. Одновременно успевая интересоваться и программированием, и всякими оформительскими вещами, т.е. мог не только сделать frontend и backend, а ещё нарисовать графику для сайта.

🔎 Довольно неожиданно, но рисование пригодилось мне во взрослой жизни. Например, когда мы запускали курс на платформе «Яндекса», все логотипы курсов там нарисовал я. Не в итоговом виде, правда, у «Яндекса» есть свои дизайнеры, но на бумаге все логотипы придуманы мной. Периодически сталкивался с задачей «нарисовать логотип/мерч», когда мы стартапили с друзьями и однокурсниками.

🎓Увлечение рисованием помогло мне и в преподавании. Главное, на мой взгляд, — это делать так, чтобы твоему слушателю было понятно. И чем более сложные вещи ты можешь объяснить просто, но без искажений, тем ты круче как преподаватель. И для этого моё увлечение оказалось очень кстати.  

💡Конечно, я далеко не каждый слайд делаю произведением искусства, да и могу и целую презентацию вообще не причесывать. Но если нужно нарисовать какую-то понятную иллюстрацию, мне это в удовольствие, это медитативный процесс. Я нормально себя чувствую, если 7 часов делал презентацию к лекции и уже 5 утра. Нет ощущения, что потерял время впустую, потому что для меня визуал очень важен. Он помогает легче доносить какие-то вещи. А уж насколько это было полезно в начале работы в менеджменте - вообще молчу 😂

🎤 Срочный анонс!

Сегодня я выступлю на конференции МТС True Tech 2024 с темой «Карьера в ML. Треки, развилки и личный опыт».

Я расскажу, какие роли есть в этой индустрии, какие навыки для них нужны и по каким трекам здесь можно двигаться. И в финале дам карьерные рекомендации на основе моего личного опыта.

🤖 На самой конференции, кроме меня, кстати, выступает ещё много крутых спикеров в секциях Main, Development, AI/ML, Cloud и Science.

🎉 В общем, вот ссылка, буду рад вашему вниманию, я начинаю в секции AI/ML в 11:05 :)

Воины, маги и авантюристы в ML

🔥 Спасибо всем, кто пришёл на моё выступление на конференции МТС True Tech Day, внимательно слушал и задавал интересные вопросы. Если это были вы — вам отдельные лайки и огонёчки.

⚙️ Я очень рад, что каждый год проходит такая масштабная конфа, объединяющая как начинающих, так и опытных специалистов в IT. Я считаю, что её фокус, «Код науки и технологий», сегодня очень актуален и за ним будущее. Будущее, которое мы сегодня и обсудили.

🔮 В своём докладе я рассказал о возможных ветках прокачки в ML по аналогии с RPG-играми: за «воинов» были индустриальные эксперты, за «магов» - исследователи, за «авантюристов» - менеджеры и предприниматели :) Вместе с аудиторией мы разобрали как необходимые навыки, так и возможные варианты развития карьерных треков.

🚀 Также мы обсудили, как понять, в какую именно сторону развиваться, что помогает на старте карьеры, как совершать карьерные переходы, и многое другое.

Полное видео с выступлением и презенташку опубликую здесь чуть позже. Следите за обновлениями 🤖

Сегодня выступаю (точнее участвую в дискуссии) здесь: https://imlconf.com/schedule/days/

Давно с Петей не общались, вот даже без панели созвониться не можем 🤣

Стали топ-менеджером? Это ещё не конец :)

📈 Многим кажется, что карьера устроена следующим образом. Сначала вы работаете младшим специалистом, потом средним, потом уже ведущим (или на современный манер сеньором) и в какой-то момент начинаете руководить людьми. А потом вы становитесь руководителем, чьи подчинённые тоже руководители. Дальше вся эта история продолжается до момента, когда вы становитесь топ-менеджером и выше вас только гендиректор компании.

🚫 И на этом как будто бы всё. Если проводить аналогию, например, с образовательными учреждениями, то ситуация такая, как будто вы проректор и выше только ректор. Или вы заместитель министра, а выше только министр. А мест министра на всю страну уже совсем не так много :) Но на самом деле всё не совсем так.

🔝 Как только вы становитесь топ-менеджером, вам уже доверяют какой-то бизнес или функцию в компании. То есть большую и значимую часть на уровне компании. Можно сказать, что это начало вашей новой карьеры. Карьеры «большого руководителя», с долей здоровой иронии назовем это так.

🤔 Это значит, что дальше у вас есть много вариантов. Во-первых, вы можете расти как топ-менеджер, то есть становиться более профессиональным, более эффективным. У топов тоже много разных уровней и «лычек», и переход между этими уровнями может отражать ваш рост. Но надо конечно помнить, что «лычки» это не главное, главное — каждый день быть лучшей версией себя.

🌐 Во-вторых, помимо мысли «дальше можно вырасти разве что в CEO», можно принять тот факт, что теперь вы организатор высокого уровня. То есть теперь вам можно доверить управление большим бюджетом, большей командой людей. И в новых инициативах компании вас уже можно воспринимать как потенциального руководителя. Это может быть как запуск нового бизнеса, так и что-то некоммерческое вроде благотворительного фонда или просто какая-то большая инициатива в рамках всей компании.

🔎 В-третьих, поиском кандидатов на топовые позиции обычно занимается не «рядовой» найм в компании или «обычные» рекрутинговые агентства, а так называемый executive search. И после попадания в топ-менеджмент или даже просто на достаточно высокий уровень (ну еще желательно там хотя бы несколько лет поработать), вас начинают рассматривать как кандидата и на другие executive роли в других компаниях. Это целая новая жизнь, вы можете попробовать себя и в разных сферах бизнеса, и на разных направлениях.

🤫 Ну и в конце концов, после executive ролей есть ещё non-executive роли. Non-executive не в том смысле, что они ниже топов в оргструктуре, а в том, что вы можете участвовать в бизнесе в роли советника, члена совета директоров или вообще акционера. Так что попадание в топ-менеджмент это вообще не финальная стадия карьеры, это просто определённая веха в карьерном развитии. Во-первых, там еще поработать надо, если уж взялись за это дело, а во-вторых дальше тоже есть много всего интересного :)

🎬 Записываем с Серёжей Епихиным первый выпуск 2 сезона нашего подкаста ТехТок (первый сезон здесь: https://podcast.ru/1635293813 ).

🎥 Первый сезон был без видео, теперь добавили картинку и обновили концепцию. Будем не просто говорить с классными ребятами про их карьеру, а фокусно обсуждать с приглашенным экспертом одну из технологий на основе AI (беспилотные авто, голосовые помощники, GenAI и многое другое).

☝️ В этом сезоне пока планируем 8 выпусков, первый уже будет довольно скоро - следите за новостями

🎲 Последнюю пятницу весны хочется запомнить надолго. Лучший способ это сделать — подумать и дать в комментариях правильный ответ на вопрос нашего традиционного квиза.

После этого можно смело встречать лето :)

Почему я запускаю свой образовательный
проект по ML 📚 

Как я уже говорил в прошлых постах, я принял решение запустить новый образовательный проект по ML. Это будут платные онлайн-курсы, из которых я хочу сделать наиболее продуманное и наиболее интересное обучение ML из всего, что есть на рынке.

Вы спросите, зачем миру нужна ещё одна онлайн-школа? Ответ простой – низачем. Я делаю это, потому что это способ моего самовыражения. 

Я преподаю машинное обучение больше 14 лет и работаю столько же (да-да, я стал преподавать почти сразу, как начал работать). Начинал с того, что пытался объяснить простым и понятным языком, как работают алгоритмы, экспериментировал с форматами обучения. Всё это для того, чтобы найти подход ко всем ученикам. 

☝️Главный вывод, к которому я пришёл за годы преподавания – нужно любить свою аудиторию и хотеть помочь каждому разобраться и стать востребованным специалистом.

Мои ученики здорово реализуются в Data Science. И я бы не был так уверен в себе, если бы отбирал на обучение только гениев (так, кстати, зачастую работают топовые вузы). Я же работал с разными людьми и каждого считаю умным и талантливым по-своему. А для развития этих качеств нужно правильное отношение преподавателя.

Data Science – это огромная сфера, в которой есть очень много профессий. Даже если вы не технарь, а гуманитарий, вам тоже найдется место здесь. Моя мечта – сделать профориентационный проект, который поможет вам:
1️⃣ разобраться в большом количестве направлений DS,
2️⃣ глубже покопаться в одном из направлений, которое вам интересно,
3️⃣ найти себя и пойти развиваться именно в этой профессии. 

С моим опытом работы и преподавания в индустрии, тем, кому понравится мой стиль обучения, я точно смогу помочь разобраться и преуспеть в сфере работы с данными.

Следите за новостями и приходите на наши курсы :)
Вся подробная информация будет появляться в канале.

Как я запускал курс DMIA. Часть первая

🧑‍🎓 Расскажу, как формировался мой курс DMIA (Data Mining in Action), какие с ним были сложности и какие цели я ставил перед собой как преподаватель. Курс начался как спецкурс по машинному обучению — факультатив в МФТИ, когда мы вместе с заведующим кафедрой делали свой стартап. Он был руководителем, а в команде было несколько студентов. Стартап был посвящён интеллектуальному анализу текстов. Получается, 14 лет назад мы уже занимались тем, что находится на пике хайпа сегодня.

🔎 Мы пытались делать семантический поиск. Причём мы (студенты) тогда ничего не умели ещё сами, не проходили никакие курсы машинного обучения. И при этом нам нужно было привлекать других талантливых студентов к себе в стартап. У меня тогда еще не получалось собирать работающие алгоритмы, но получалось рассказывать про идею достаточно зажигательно, чтобы поднимать определённые инвестиции, что хотя бы давало ресурс для экспериментов.

🤔 Было понятно, что нам надо самим надо развиваться в теме машинного обучения и нужно откуда-то брать людей, которые будут владеть темой. Лучший способ разобраться самому и привлечь кадры - преподавание, поэтому мы сделали спецкурс, где лектором был тот самый завкаф и наш кофаундер Никита Пустовойтов. Он до сих пор работает в сфере анализа данных и фактически именно он привёл меня в тему машинного обучения.

📈 Постепенно из-за того, что нагрузка у Никиты росла какими-то чудовищными темпами и он брал много всяких интересных задач, так получилось, что курс полностью оказался на мне и трансформировался исключительно в мой курс. На него стало приходить какое-то безумное количество людей, и их число росло как снежный ком. Я просто старался понятно и интересно объяснять предмет, и этого было достаточно, чтобы слушателей становилось больше.

🏔 В какой-то момент я обнаружил себя читающим лекцию в аудиторию человек на 400, и она была забита битком. И места хватило не всем. Мне даже потом рассказывали, что людям на улице был слышен шум аплодисментов из аудитории. Это было, конечно, очень приятно. Я осознал, что курс разросся и надо бы его уже как-то забрендировать. Тогда была серия книг, которая называлась «[Название темы] in action». Мне очень нравилась идея показывать предмет именно в действии, поэтому я назвал свой курс Data Mining in action в качестве реверанса этой серии книг. Тогда еще было модно называть машинное обучение «в широком смысле» (т.е. вместе с работой с данными и exploratory analysis) Data Mining, отсюда и название.

Продолжение следует :)