Вот и разбор математики экзамена ШАД 2025 года! Разбор алгоритмов уже здесь. Задачи по математике оказались самыми трудными за последние лет 5 экзамена точно, алгосы как всегда относительно халява. И как всегда студенты наших курсов справились с вариантом на отлично! По моим чувствам проходной на собесы будет баллов 18, традиционно так примерно и было. В прошлом году проходной был 28 баллов, но там первый задачи были совсем простые.

Забавно, что задачи олимпиады были намного проще основного экзамена. Многим ребятам занулили работу по антиплагиату за излишнее использование чата гпт.

@postypashki_old

Хэнбук по алгоритмам ШАД

Собрали и разобрали все задачи с собеседований в ШАД. Привели необходимую теорию и задачи для закрепления. Вам же осталось только сесть, разобраться и прорешать - и алгособес в кармане!
Еще больше подобных материалов на наших курсах в ШАД, залетаем в ШАД уже этим летом.

@postypashki_old

#How_to_заботать

How to заботать Machine Learning?

Уже делали подобную подборку, но там как-то вышло совсем кратко. Да и участников становится все больше, да и у нас появился преподаватель по ML/DL, который хочет поделиться своим видением бота Machine Learning для ШАДа, магистратур и стажировок.

Перед тем, как разбираться в работе нейронных сетей, стоит изучить алгоритмы классического машинного обучения. На стаэеров в Data Science/ШАД etc. требуют в основном их знание и умение применять. На большей части курсов рассказывают про Numpy, pandas и визуализацию на уровне, необходимом для работы, так что не будем на этом останавливаться.
Материалы можно разделить на два типа: больше практические и больше теоретические.
Из хороших практических курсов можно отметить следующие:
1) Mlcourse.ai
англоязычная версия Открытого курса по машинному обучению от ODS. Он достаточно полно рассказывает об основных моделях машинного обучения и как их применять на практике, и, в отличие от множества других курсов, уделяет отдельное внимание разведывательному анализу данных и feature engineering, что мало где освещается и помогает получать хорошие результаты в контестах и отборочных по АД.
2) Введение в Data Science и машинное обучение
Очень много практических примеров и заданий, основное внимание уделяется линейным моделям и деревьям - основным моделям, используемым в табличном машинном обучении. Отточенный навык их применения также сильно улучшит ваши результаты в контестах и задачах классического ML.
3) Машинное обучение и анализ данных
Cпециализация от МФТИ и Яшки, 6тилетней давности. Очень много практики и различных приемов, показанных на разных задачах, в том числе на нетабличных данных вроде временных рядов.
Большая часть практических курсов повторяют друг-друга, и редко приносят что-то новое. Если изучить 2 их 3 представленных выше курсов, то вы сможете показать хорошие результаты в любом отборочном контексте по машинному обучению и анализу данных, что позволит пройти без труда пройти в ШАД или на стажировку, магистратуру.

Однако, порой на собеседованиях начинают больше спрашивать про теорию машинного обучения, которую на практических курсах объясняют на пальцах. Чтобы больше в неё погрузиться, можно воспользоваться следующими материалами:
1) Курс Воронцова на физтехе
Лекции, есть и семинары. Но основная его ценность заключается в полноте представленной информации и глубокому теоретическому обоснованию всего происходящего. Для тех, кто любит математику.
2) Учебник Яндекса
Очень глубоко рассказывает как про математические основы алгоритмов ML, так и про то, как их эффективно написать. Никаких практических примеров нет, но по нему легко самостоятельно написать эти алгоритмы, что даст вам хороший прирост в понимании и позволит впечатлить HR.
3) Курс ФКН по Машинному обучению
Есть как теория, так и много практических заданий. Наиболее разносторонний курс из представленных. Очень советуем ознакомиться при наличии времени и желания.

Привет! Меня зовут Тимур
Я студент прикладной математики и информатики РУДН. Недавно поступил в ШАД. Занимаюсь исследованиями на стыке алгебраической топологии, теории категорий и машинного обучения.
Этот канал - мой публичный research-log и дневник развития в AI/ML.

О чем этот канал: делюсь прогрессом по своей статье на пути к топ-конференции.
Буду выкладывать контент с ШАД: примерные задачи, решений и подготовка к продвинутому кодингу.
Так же буду выкладывать информацию о научных журналах, публикациях, актуальных научных школах, конференциях и программах по обмену, а так же, быть может, советы по подготовке и личный опыт.

Так как канал сырой, то я могу рассказать о личном олимпиадном опыте, если будет интерес.

Ссылки:
💻 GitHub
t.me/voprosy?start=9jhdq

О главном результате САП 2021-го года. В 70-х годах А.К. Боусфильд показал, что вторые гомологии пронильпотетного пополнения свободной нециклической группы H_2(F^) несчетны. Его доказательство использовало симплициальные методы и спектральную последовательность Квиллена. Долгое время в направлении исследований гомологий пронильпотетных пополнений не появлялось никаких новых результатов. В 2017-м году С. Иванов и Р. Михайлов решили известную проблему Боусфильда, построив конечное Q-плохое пространство, и с помощью тех же самых методов показали, что H_2(F^) не является делимой группой. Ничего больше о группе H_2(F^) не было известно, а любое новое утверждение о ней, представляет, несомненный интерес.

Разница между гомологиями обратных пределов и обратными пределами гомологий описывается для многих случаев и категорий. Эта разница оказывается lim^1 -- производным пределом от последовательности групп. Возникает естественный вопрос: а можно ли получить подобный результат для гомологий групп? В частности, представляется ли H_2(F^) как lim^1 от некоторой последовательности групп? В недавней работе Барнеа и Шелаха подобное доказывается для первых гомологий групп. Если есть обратная последовательность эпиморфизмов, то разница между первыми гомологиями обратного предела и обратным пределом первых гомологий, оказывается некоторым lim^1. Напомним, что абелева группа представима как некоторый lim^1 тогда и только тогда, когда она является кокручением. Есть несколько эквивалентных определений кокручения и вышеупомянутое свойство также можно рассматривать как одно из определений.

Является ли группа H_2(F^) кокручением? Это задача, над которой работали сотрудники лаборатории в течении долгого времени. Методы, развитые в ранних работах С. Иванова и Р. Михайлова, оказались недостаточными для вывода или опровержения подобного результата. Кокручение является тонким и сложно-уловимым свойством. Оказалось, что для решения этой задачи необходимо привлечение принципиально новых методов, больше относящихся к анализу, нежели к алгебре и топологии, что удивительно и представляет собой редкий случай подобного взаимодействия областей.

В итоге, М. Б., С. И. и Р. М. показали, что H_2(F^) не является кокручением. Доказательство приведено в работе
https://arxiv.org/abs/2107.01485
и представляет собой на данный момент самое сложное рассуждение из всего, что есть в этой области. Это главный результат, полученный в САП в 2021-м году.

Посмотрел выступление Артёма Бабенко про карьеру в ML research. Несколько мыслей, которые я для себя оттуда забрал.


Достаточно подробно было изложено чем индустрия отличается от research.

В разработке у тебя обычно есть достаточно понятная задача: есть продукт, метрика, сроки. В research всё наоборот. Никто не даст тебе список задач на квартал. Нужно самому понять, где сейчас есть интересная проблема, почему существующие методы не работают и что вообще имеет смысл попробовать.
И поэтому хорошие оценки и умение решать задачи сами по себе ещё не означают, что человек будет хорошим исследователем. Это просто другая работа.

В этом есть свои плюсы и минусы. Вы занимаетесь тем, что вам интересно. Разработчик скован потребностями сервиса и запросами бизнеса, у учёного - свобода выбора направления. Но за свободу платят проактивностью: нужно самому видеть белые пятна на фронтире знания и идти в них. Можно играть в долгую. Разработчик не скажет бизнесу два года моей работы не принесут пользы, а учёный — легко: отдача приходит на горизонте нескольких лет, а может и не прийти.

При этом в ML становится всё сложнее заниматься серьёзными исследованиями в одиночку. Эксперименты дорогие, модели большие, а сама область меняется очень быстро. Поэтому сейчас особенно важна среда: сильная команда, научный руководитель, доступ к вычислениям и людям, которые уже проходили через этот процесс. Работать в одиночку и достичь значимого в мировом смысле результата практически невозможно (впрочем, эта тенденция развивалась уже давно, к примеру, в книге Пенроуза: Путь к реальности это было тоже хорошо освещено).

Мне понравилась мысль про индустриальные лаборатории. В академии часто есть идеи, но может не хватать вычислительных ресурсов и доступа к реальным задачам. В индустрии ситуация во многом обратная. Поэтому исследовательская лаборатория внутри большой технологической компании может быть довольно хорошей точкой пересечения этих двух миров.


Отдельно интересен вопрос, как вообще туда попасть?

Самый разумный путь - начинать как можно раньше и много пробовать. Необязательно сразу знать свою тему на несколько лет вперёд. Для начала можно ходить на научные семинары, летние школы, различные интенсивы, можно сделать несколько проектов, поработать с разными руководителями, почитать разные направления и постепенно понять, что действительно интересно.
И здесь мне кажется важным ещё одно: research плохо совмещается с подходом «буду заниматься этим по вечерам, когда останется время, как Ферма». Если хочется стать профессиональным исследователем, в какой-то момент это должно стать основной деятельностью, ведь сейчас совсем другое время, другие требования.

В выступлении много говорили про ML Residency. По сути, это попытка построить промежуточную ступень между университетом и полноценной исследовательской работой. Длится она год, ведь за более короткий срок вряд-ли удастся сделать полноценного исследователя. Человек приходит с хорошей математической и ML-базой, но ещё не обязательно умеет самостоятельно вести исследования, и дальше год развивается уже внутри исследовательской среды.

Особенно интересно было посмотреть на карьерные траектории людей из лаборатории. Они довольно разные: кто-то начинал со студенческих проектов, кто-то приходил из разработки, кто-то постепенно переходил от одной области ML к другой. Но общий момент один - путь до самостоятельного исследователя занимает годы.

Самое забавное, что есть очень много кейсов, в которых человек меняет свою сферу интересов. То есть, зачастую очень сложно попасть в ту область, которой будешь заниматься в долгосрочной перспективе.