Научитесь оптимизировать инференс нейросетей

Если вы сталкивались с задачей ускорения нейросетей, но всё не могли найти время разобраться поглубже во всех этих квантованиях, прунингах, дистилляции, TensorRT, OpenVINO и прочих баззвордах, приходите на наш курс «Ускорение нейросетей»!
Мы объясним, как устроены эти алгоритмы и фреймворки и научим использовать их в работе.

Программа курса разделена на 3 блока:
1️⃣ База — вы освоите подходы, которые являются общими для большинства задач. Это база! Разберетесь с алгоритмами: прунингом, дистилляцией, квантованием, матричными разложениями, архитектурным поиском — и устройством девайсов: CPU, GPU, NPU — и фреймворками для каждого.

2️⃣ NLP — блок для тех, кто работает с LLM. Вы изучите популярные и рабочие методы для ускорения небольших и крупных языковых моделей.

3️⃣Devices — научитесь запускать нейросети на Android, iOS и микрокомпьютерах с учетом их особенностей.

Вы можете изучить только Базу, а при желании можете углубиться в определенный домен — можно выбрать любой подходящий вариант🧩

🗓 Обучение начинается 24 июля и длится 19 недель.

Лекции ведут опытные инженеры, каждый из которых несколько лет занимается той темой, которую преподаёт на курсе.
Спикеры будут поддерживать вас на протяжении всего обучения, а также вы сможете прийти к ним с вопросами по вашей работы.

⚡️Присоединяйтесь к обучению со скидкой до 23 июля!

Подробнее о программе, спикерах, тарифах и скидках читайте на сайте программы.
Выбирайте подходящий тариф и присоединяйтесь к обучению!🎓

Если у вас возникают вопросы или трудности, то пишите нам в поддержку в Телеграм.

Почти на каждом собеседовании спрашивают про ускорение нейросетей

Этим делятся выпускники первого потока курса «Ускорение нейросетей».
Например, Иван рассказывает, что знания с курса помогают на интервью, где часто задают вопросы про библиотеки для инференса, потенциал методов ускорения и возможные проблемы в подобных задачах.

На эти вопросы как раз отвечает первый блок нашей программы, в котором вы освоите фундамент: алгоритмы ускорения, устройство CPU, GPU, NPU и фреймворки для них.

Знания из курса помогут не только ускорить модели в ваших проектах, но и поднять метрики. Например, Елизавета повысила качество модели, применив знания из лекции по дистилляции.

Также мы подготовили опциональные блоки лекций «NLP» и «Devices» — для тех, кто работает с LLM и тех, кто запускает модели на Android, iOS и микрокомпьютерах. Можно выбрать нужные вам блоки лекций.

Переходите на сайт, изучайте подробности, выбирайте тариф и записывайтесь на обучение!

Завтра пройдёт первая лекция по дистилляции, на которой Саша Гончаренко, хэдлайнер программы, расскажет про метод улучшения точности нейросети и как его использовать для ускорения.
А сегодня вы можете присоединиться со скидкой до 12%🔥

Оставляйте заявку на сайте, чтобы зафиксировать за собой скидку до старта программы.

До встречи на лекциях!⚡️

Всем привет✌️
Это канал школы DeepSchool. Мы преподаём курсы повышения квалификации DL-инженеров и ведём этот блог

В этом канале мы:
- делаем обзоры статей
- рассказываем, как решаются различные DL-задачи
- напоминаем теорию ML/DL
- и общаемся со специалистами из индустрии

Наши программы:
- LLM — как обучать, деплоить и ускорять LLM
- LLM Pro — как проектировать и запускать сложные NLP-системы
- Деплой DL-сервисов — как создавать и деплоить DL-сервисы
- CV Rocket — как решать сложные задачи в Computer Vision
- Ускорение нейросетей — как ускорять нейросети для различных устройств
- 3D CV — как решать 3D-задачи от SLAM до виртуальных аватаров
- Gen CV — как обучать генеративные модели

Все наши статьи можно найти в нашем блоге, а видео — на YouTube-канале. Также у нас есть канал, где инженеры из deepschool рассказывают о себе.

С нами можно связаться:
- задать любой вопрос
- присоединиться к нашей команде
- или предложить тему для поста

Рады знакомству ✌️
Ставьте реакции и пишите комментарии! 🔥

☝️Обновили пост «о нас», за два года многое изменилось🙂

Кстати, а в этом посте мы описали историю создания DeepSchool — загляните, если интересно.

Мы рассказали о себе, но также нам интересно узнать поближе и вас! Ответьте, пожалуйста, на опрос ниже👇 Он поможет нам узнать примерное распределение подписчиков по доменам около ML/DL.

А если поделитесь, какие решаете задачи — будет просто супер🤩 Постараемся помочь нашими статьями! Напишите в комментариях к этому посту! Вдруг в комментариях встретите коллег по теме — такие знакомства всегда полезны.

История YOLOv6

Продолжаем знакомиться с семейством архитектур YOLO. Уже в который раз совершается, казалось бы, невозможное — инженеры одновременно повысили и качество, и скорость модели! Давайте разбираться, как они это сделали.

В статье рассмотрим:
- интересную историю появления YOLOv6
- чем она отличается от YOLOv5
- а что у неё общего с VGG
- и главное: как же опять получилось повысить скорость без потери в качестве🤯

Читайте новую статью по ссылке: https://deepschool-pro.notion.site/YOLO-6-159877ef9a524d1fbdfd3ef32ca9be6f?pvs=4

Решаем LeetCode

Задачки на алгоритмы любят давать на собеседованиях. А многие инженеры их боятся. Часто можно услышать совет: «чтобы хорошо решать алгоритмы, сиди и нарешивай LeetCode». Но вместе — веселее 😉

В этом видео Игорь Ильин разбирает задачу на модульную арифметику уровня medium. Игорь — Sr. CV-инженер в Kudan SLAM и спикер курса 3D CV. Игорь часто ходит по собеседованиям и любит алгоритмы. Отличное комбо 📈

В выпуске прошли путь от наивного решения, которое работает за O(n^2) до оптимального, которое работает за линию по времени. Обсудили структуры данных и сложность операций над ними, чем плоха рекурсия и когда можно от неё избавиться.

Смотрите видео по ссылке: https://youtu.be/IHqh2JnGrcY

Закрываем лист ожидания на курс по LLM

…через 24 часа👋

Но вы ещё успеваете записаться! Мы добавим вас в закрытый чат, где общаемся и обсуждаем всё около LLM. Например, недавно организовали в чате Q&A-сессию, где спикеры программы отвечали на вопросы по применению больших языковых моделей.

Участники листа ожидания первыми узнают подробности программы и могут присоединиться к курсу на самых выгодных условиях. Присоединяйтесь!

А 19 августа (понедельник) мы откроем регистрацию на лекцию про задачи в LLM и подходы к их решению. Не упустите🙂


UPD: Лист ожидания закрыт! В понедельник расскажем про открытую лекцию и как присоединиться к курсу на выгодных условиях

LLM в реальных задачах

Сейчас часто встречаются вакансии с упоминанием LLM:

— Проекты на ранних стадиях ищут инженеров, которые понимают, как работают LLM, могут собрать RAG «на коленке», интегрировать это в систему и проверить работоспособность.
— Более зрелым проектам уже необходимо повышать качество всеми возможными способами, и потому они ищут тех, кто умеет обучать и ускорять модели, держать нагрузку, строить сложные RAG-системы и так далее.

Задач много и ориентироваться в них сложно. Поэтому мы подготовили лекцию «LLM в реальных задачах», на которой пройдёмся по популярным задачам, расскажем основные сложности и варианты их решения.

На лекции обсудим:
— почему LLM стали так популярны среди инженеров
— как улучшить качество на разных задачах
— что решает RAG и какие у него ограничения
— агенты как будущее LLM

А также представим программу курса LLM и подарим скидки на обучение!✨

Обо всём этом расскажут:
— Илья Димов — Senior NLP-инженер, Replika, ex Yandex
— Тимур Фатыхов — основатель DeepSchool, ex Lead CV Engineer, KoronaPay

🗓 В четверг, 22 августа, в 19:00 МСК.

Регистрируйтесь по ссылке!

🎁 После регистрации вы получите список инструментов и библиотек для работы с LLM.

До встречи на лекции в четверг!

Visual Large Language Models

Когда OpenAI открыли API к своим моделям, многие NLP-инженеры начали переживать насчёт своей карьеры: зачем нужны будут дорогостоящие инженеры, когда можно по API за пару центов сходить в модель куда сильнее, чем та, что у нас в проде.

Время прошло, все поняли, что ходить по API не так уж и дёшево, моделям надо как-то добавлять знания через тюнинг, промпт-инжиниринг, RAG и так далее.

Но теперь модели хорошо справляются и с CV-задачами. Ждут ли CV-инженеров те же переживания?🤔 Чтобы ответить на этот вопрос, надо для начала познакомиться с тем, что вообще из себя представляют эти модели. Для этого мы и подготовили новую статью.

В ней мы обсудим:
- основные детали архитектур мультимодальных моделей
- какие выделяют этапы обучения в разных подходах
- какие существуют способы оценки, их проблемы и решения
- что такое rl и промптинг
- интересные приёмы и как их можно применять в своих задачах

Читайте статью по ссылке

И подписывайтесь на DeepSchool

✨Начинаем через 3 часа

Успевайте зарегистрироваться!

Обсудим:
1️⃣почему LLM стали так популярны среди инженеров
2️⃣как улучшить качество на разных задачах
3️⃣что решает RAG и какие у него ограничения
4️⃣агенты как будущее LLM

А также представим программу курса LLM и подарим скидки на обучение!🔥

Присоединяйтесь к лекции!