#ШАД В LMS появилось последнее домашнее задание, дедлайн — 15 апреля

#ФКН #ШАД Мы потихоньку начали проверять ваши домашние задания, и чтобы помочь себе и вам с народной забавой «подсчет накопа», сделали вот такую табличку, в которой будут высчитываться итоговые оценки:
https://docs.google.com/spreadsheets/d/1vOIlPFhtFIxETSoGd-mu43KfuEuOdjultqk4FEEMOf8/edit?usp=sharing

Зелёным заголовком помечены целиком проверенные домашки, по мере проверки таблица будет обновляться. Формула и табличка для ШАДа появятся чуть позже, как только мы очухаемся после проверки домашек у ФКН

#ШАД Ссылка на форму для фидбека также появилась в LMS

#ФКН Таблица с оценками финализирована, сегодня вечером ведомость уйдет в УО. Проверьте на всякий случай, что оценка не станет для вас сюрпризом

#ШАД Так как на демки записалось пока что всего три человека, сегодня занятие мы проводить не будем. Напомню, что есть возможность получить бонусы за демонстрацию того, что опенсорсный код не работает

Один из наших студентов Станислав Белясов написал хороший рекап материалов 4 (и кусочка 5) недели. Очень рады такому контенту, если кто зареган на медиуме, призываю полайкать!
https://bestasoff.medium.com/how-to-fine-tune-very-large-model-if-it-doesnt-fit-on-your-gpu-3561e50859af

#ШАД В понедельник (18 апреля) перед демками у нас состоится гостевая лекция, которую прочитает Иван Комаров — разработчик отдела NLP в Яндексе. Лекция будет сильно более глубоким и практическим погружением в архитектуру GPU и профайлинг, чем на week01/week05, поэтому всячески рекомендую послушать и помучать лектора вопросами, особенно если вам захотелось узнать больше после тех занятий.

Эффективное применение DL-моделей на (GP)GPU

Когда обученная DL-модель начинает использоваться в продакшене под нагрузкой, имеет смысл оптимизировать используемые в ней примитивы так, чтобы они эффективно использовали мощности видеокарты. Часто так можно ускорить применение модели на десятки процентов, а иногда и в разы.

На лекции я сначала в целом опишу вычислительную модель современных GPU и расскажу, какие ресурсы мы хотим эффективно использовать. Затем на примере примитивов из современных нейросетей покажу, как работать с профайлерами и определять, что именно имеет смысл оптимизировать. И наконец, разберу CUDA-реализацию конкретного примитива из одного из существующих DL-фреймворков и продемонстрирую, какие трюки в ней используются.

Время обычное, ссылку на трансляцию скину в канал

Ссылка на лекцию: https://yandex.zoom.us/j/99970578573

#ФКН #ШАД Тем временем на гитхабе появились материалы по 9 неделе и слайды первой гостевой лекции

#ФКН #ШАД FYI у нас потихоньку отбирают доступ к облаку, в том числе к машине, на которой жил Jenkins для week06. Если вы хотели ещё что-то с ним сделать, то у вас есть последняя возможность этим вечером

#ФКН #ШАД Пользуясь случаем, ещё скажу, что мы очень хотим видеть вас в качестве ассистентов или даже семинаристов на следующей итерации нашего курса!

Если вам понравилось то, что мы читаем, и вы хотели бы приложить руку к курсу в следующем году, сделав его ещё больнее лучше — смело пишите @mryab
Либо можете посоветовать шарящих знакомых, которым такое было бы интересно, такому тоже будем рады

#ШАД В ведомости (https://docs.google.com/spreadsheets/d/1vOIlPFhtFIxETSoGd-mu43KfuEuOdjultqk4FEEMOf8/edit#gid=0) появились оценки у всех второкурсников и почти у всех первокурсников. Мы решили немного снизить пороги на хорошую оценку и на зачёт — теперь они составляют 30 и 20 баллов соответственно. Просьба убедиться, что сумма ваших баллов посчитана как надо, а сама оценка соответствует новым порогам, и сообщить о найденных косяках в ближайшее время

Также напоминаю, что мы ждём ваш фидбек по курсу (https://t.me/efficientdl_22/37) и заявки на ассистентство в следующем году (https://t.me/efficientdl_22/60)

#ШАД Если вы учитесь на первом курсе и у вас не хватило баллов на зачёт, то можно досдать (исправить ошибки либо сделать с нуля) одну любую домашку на ваш выбор и добрать таким образом баллы. Чтобы мы успели вас проверить, нужно сдать это задание до 30 июня