Как работают продуктовые Computer Vision команды?

DeepSchool зародился летом 2021 года, когда мы создали наш первый онлайн-курс Computer Vision Rocket.

Идея создания курса пришла с осознанием того, как много DL-инженеров разбирается в математике, и как мало из них «хорошо программируют», а еще меньше умеют в «командную разработку».

Вот был бы курс, куда приходишь и тебе ребята из индустрии рассказывают:
- как управлять экспериментами и данными внутри команды
- что такое хороший код и как его поддерживать
- как создавать веб-сервисы
- какие фреймворки для каких задач использовать
- какие сложности встречаются в разных CV-задачах и как их решать

В общем, показали бы как работают CV-команды, на вопросы ответили бы и весь мой код отревьюили🤩

… подумали мы и сделали такую программу. В этом месяце стартует 7 поток!

И мы хотим рассказать вам больше о разработке CV-приложений в индустрии и о нашем курсе!
Но чтобы не утомить читателей канала, которым эта тема не интересна, создали отдельный: CV Rocket

Подписывайтесь, если хотите утянуть к себе пару полезных техник/фреймворков/подходов и узнать больше о том, как работают в DL-командах!

3D Gaussian Splatting

Gaussian Splatting (GS) — новый метод рендеринга, которому прочат большое будущее в индустрии компьютерной графики. Gaussian Splatting превосходит state-of-the-art методы, сочетая высокое качество синтеза с быстротой обучения и отрисовки. Сейчас активно разрабатывают новые применения метода. Использовать GS уже можно в самых разнообразных задачах: от 3D-аватаров до навигации.

Из текста вы узнаете, как Gaussian Splatting:
- использует гауссианы для представления трёхмерного пространства
- позволяет эффективно отрисовать новые изображения для сцены
- обучается создавать детализированное представление сцены

Читайте нашу статью по ссылке: https://www.notion.so/deepschool-pro/3D-Gaussian-Splatting-Revolutionizing-Real-Time-Radiance-Field-Rendering-73cfad31a57c443d9c073f2b7aa246eb?pvs=4

ModelSoups: варим суп из моделей

Если вы когда-нибудь участвовали в хакатоне или пытались повысить качество продуктового решения — скорее всего, вы уже сталкивались с усреднением предсказаний нейронных сетей. Но что делать, если мы хотим улучшить точность решения, не потратив при этом дополнительного времени на инференс нескольких моделей? Ответ есть: усреднение весов моделей, а не их выходов.

В 2022 году вышла статья, поймавшая тогда большой хайп: “Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time”. Авторы показали, как можно из нескольких моделей получить одну — лучшую по качеству модель за счет усреднения весов. В нашей статье мы подробно разобрали теорию и результаты, чтобы вы могли применять этот подход в своих задачах 🙂

Сегодня мы рассмотрим:
- Model Soups подход к усреднению весов модели и его результаты
- теорию подхода, а также границы применимости и сопутствующие требования
- применение подхода в СV и NLP направлениях

Читайте новую статью по ссылке: https://www.notion.so/deepschool-pro/ModelSoups-2a26f819d3964a61ac7bdde0e48897c8?pvs=4

Как применяют CV в сейсморазведке

Есть малоизвестный (в силу своей специфики) домен, где можно применять CV — сейсморазведка. Сегодня мы познакомимся с этой наукой и расскажем, как в ней можно применить глубокие нейронные сети. А еще докажем, что многие задачи возможно представить как хорошо нам знакомые задачи компьютерного зрения.

Из статьи вы узнаете:
- что такое сейсморазведка
- как в ней применить подходы на основе глубоких нейронных сетей
- примеры открытых сейсмических данных
- как можно решить задачу их интерпретации с помощью CV
- и какие есть известные соревнования по МО на базе сейсмических датасетов

Если хотите узнать, как компьютерное зрение помогает находить нефть и другие полезные ископаемые — скорее переходите по ссылке: https://www.notion.so/deepschool-pro/CV-0ec38f8cd403420ab5570cdd4785503e?pvs=4

DETR

Для 2024 года трансформеры в различных задачах CV — частое явление, которым мало кого удивишь. Тем интереснее первые шаги ресёрчеров на пути использования знаменитой encoder-decoder архитектуры.

В середине 2020 года миру представили детектор DETR, или DEtection TRansformer. Он оказался способным решать задачу детекции напрямую: предсказывать список боксов и соответствующих им классов по изображению.

В этой статье мы:
- узнаем, как решать задачу детекции напрямую — без дополнительных методов по типу NMS (non-maximum suppression) или генерации анкоров
- детально разберем архитектуру DETR
- и посмотрим на результаты её применения в downstream задачах

Читайте новую статью по ссылке: https://www.notion.so/deepschool-pro/DETR-ce96a32c90974db5825a3b6698a9ae2b?pvs=4

Grounding Dino

Мультимодальность сегодня — одна из самых популярных вещей в глубоком обучении. В новой статье мы рассмотрим, как на основе Grounding Dino можно добавить язык к задаче детекции объектов на изображениях. А ещё узнаем, что включение дополнительной модальности позволяет не только создавать запросы вида “самая правая кошечка”, но и находить объекты классов, которых нет в обучающей выборке.

Из этой статьи вы также узнаете:
- зачем нужна “дружба” между языком и картинками и какие у неё бонусы
- какая архитектура Grounding Dino
- как соединить модальности
- каким образом можно запустить и потрогать Grounding Dino
- как запустить и потрогать модель сегментации на основе Grounding Dino
- и как с помощью сегментации и диффузии заменить объект на картинке

Читайте нашу статью по ссылке: https://www.notion.so/deepschool-pro/Grounding-DINO-054a72d301d840ec99611cd76acba169?pvs=4

Дайджест статей за март

Встречайте первый дайджест статей на канале!
Мы собрали вместе все статьи за последний месяц и получилось очень разнообразно — от обучения сетей до 3D, от разбора трансформера для детекции до составления ансамбля моделей. Надеемся, что вы не упустите то, что вам интересно 🤗

Negative learning
Рассказываем, как обучиться с хорошими результатами на неидеальных датасетах с ошибками и противоречивыми данными:
- в чём ключевая идея подхода
- его плюсы и минусы
- и как добиться очень хороших результатов на шумных данных

3D Gaussian Splatting
Разбираемся, как обеспечить высокое качество сгенерированных 3D сцен вместе с быстротой обучения и отрисовки:
- как Gaussian Splatting использует гауссианы для представления трёхмерного пространства
- как позволяет эффективно отрисовать новые изображения для сцены
- как обучается создавать детализированное представление сцены

ModelSoups: варим суп из моделей
Изучаем, как усреднение весов моделей может улучшить точность итогового ансамбля:
- Model Soups подход к усреднению весов модели и его результаты
- теория подхода, а также границы применимости и сопутствующие требования
- применение подхода в СV и NLP направлениях

Как применяют CV в сейсморазведке
Познакомимся с применением DL в прикладной науке — сейсморазведке:
- что такое сейсморазведка
- как в ней применить подходы на основе глубоких нейронных сетей
- примеры открытых сейсмических данных
- как можно решить задачу их интерпретации с помощью CV
- и какие есть известные соревнования по МО на базе сейсмических датасетов

DETR
Препарируем пионера CV детекции на базе архитектуры трансформер:
- как решать задачу детекции напрямую — без дополнительных методов по типу NMS (non-maximum suppression) или генерации анкоров
- детальный разбор архитектуры DETR
- результаты её применения в downstream задачах

Grounding Dino
Выясняем, как мультимодальность улучшает детекцию объектов с помощью Grounding Dino:
- зачем нужна “дружба” между языком и картинками и какие у неё бонусы
- какая архитектура у Grounding Dino
- как соединить модальности
- каким образом можно запустить и потрогать Grounding Dino

✌️Что вам было интересно в этом месяце? О чём вы бы хотели прочитать на канале? Пишите в комментарии!

Diffusion Models

Сегодня поговорим о моделях диффузии и их превосходстве над Generative Adversarial Networks (GANs) при создании высококачественных синтетических изображений. Познакомимся со статьёй “Diffusion Models Beat GANs on Image Synthesis”, авторы которой доказали: диффузионные модели помогают обеспечить наилучшее качество генерации изображений.

В статье также рассмотрим:
- процесс диффузии (forward и reverse)
- Denoising Diffusion Probabilistic Models (DDPM)
- большое количество ablation study
- обучение
- математику в первом приближении
- и ещё много чего :)

Читайте нашу новую статью по ссылке: https://www.notion.so/deepschool-pro/Diffusion-Models-Beat-GANs-on-Image-Synthesis-b178e701e6d44cac9df11a501067d666?pvs=4

Полезные Linux-команды

Linux — неотъемлемая часть инструментария каждого Data Scientist'а.

В этой статье мы рассмотрим полезные команды, которые позволят:
- создавать виртуальные сессии
- профилировать ресурсы
- добавлять переменные окружения

А в конце вы найдёте шпаргалку с основными Linux-командами 😊

Читайте новую статью по ссылке: https://www.notion.so/deepschool-pro/Linux-715cb84e836f402a911f28fa3c4e753a?pvs=4