Летний сезон открытых семинаров начнётся уже на этой неделе! 🦒
В программе 3 выступления:
1. MLOps для ML инженеров: какую инфраструктуру использовать
спикер Владислав Гончаренко
3 августа, сб, 12.00 Мск
2. Построение локального ассистента с помощью RAG и открытых LLM
спикер Радослав Нейчев
7 августа, ср, 18.00 Мск
3. Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
спикер Радослав Нейчев
12 августа, пн, 18.00 Мск
Анонс первого семинара по MLOps:
Современные модели требуют всё больших и больших ресурсов для тренировки и предсказаний, удобство и скорость проведения экспериментов также сильно влияет на жизнь современного ml инженера. На семинаре мы разберёмся, какие задачи может решать современный MLOps и какие конкретные инструменты можно использовать в конкретных случаях (от разработки на личном игровом компьютере до кластера на тысячу GPU).
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по MLOps, LLM и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
До встречи на семинарах! 🦒
В программе 3 выступления:
1. MLOps для ML инженеров: какую инфраструктуру использовать
спикер Владислав Гончаренко
3 августа, сб, 12.00 Мск
2. Построение локального ассистента с помощью RAG и открытых LLM
спикер Радослав Нейчев
7 августа, ср, 18.00 Мск
3. Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
спикер Радослав Нейчев
12 августа, пн, 18.00 Мск
Анонс первого семинара по MLOps:
Современные модели требуют всё больших и больших ресурсов для тренировки и предсказаний, удобство и скорость проведения экспериментов также сильно влияет на жизнь современного ml инженера. На семинаре мы разберёмся, какие задачи может решать современный MLOps и какие конкретные инструменты можно использовать в конкретных случаях (от разработки на личном игровом компьютере до кластера на тысячу GPU).
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по MLOps, LLM и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
До встречи на семинарах! 🦒
Построение локального ассистента с помощью RAG и открытых LLM
На данном семинаре мы на практике разберем процесс построения ассистента на основе современных языковых моделей, повторим основные свойства и ограничения LLM и, конечно, попробуем запустить все это локально :)
Вопросы, которые мы затронем:
* Как запускать модель локально и в облаке? Python + HuggingFace, vLLM, Ollama или что-то еще?
* Langchain/Adalflow/... или свой велосипед?
* Как даже глупые LLM могут помочь учиться и структурировать свои мысли?
Спикер: Радослав Нейчев
Время: среда, 7 августа, 18.00 Мск
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по MLOps, LLM и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
На данном семинаре мы на практике разберем процесс построения ассистента на основе современных языковых моделей, повторим основные свойства и ограничения LLM и, конечно, попробуем запустить все это локально :)
Вопросы, которые мы затронем:
* Как запускать модель локально и в облаке?
* Как даже глупые LLM могут помочь учиться и структурировать свои мысли?
Спикер: Радослав Нейчев
Время: среда, 7 августа, 18.00 Мск
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по MLOps, LLM и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
🦒∵ girafe.ai pinned «Приглашаем на пятый поток магистерской программы от команды girafe-ai 🦒 Набираем слушателей на нашу с МФТИ магистерскую программу Modern State of Artificial Intellegence (MSAI). Вот уже в пятый раз будем готовить высоклассных технических специалистов в сфере…»
Уже завтра состоится открытый семинар и рассказ о магистерской программе MSAI
Тема семинара: Построение локального ассистента с помощью RAG и открытых LLM
Спикер: Радослав Нейчев
Время 18.00 Мск
Для регистрации заполните форму
Тема семинара: Построение локального ассистента с помощью RAG и открытых LLM
Спикер: Радослав Нейчев
Время 18.00 Мск
Для регистрации заполните форму
Открытые генеративные модели изображений и как их готовить
или Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
На вебинаре мы обсудим последние результаты в области генерации изображений (в том числе прогремевший FLUX от BlackForestLabs) и как настраивать результаты под себя: позу персонажей, рисунок, который можно увидеть на контрасте и прочие интересные способы сделать результат лучше и уникальней. Конечно, речь будет идти про открытые модели.
Вебинар направлен на максимально широкую аудиторию, поэтому мы постараемся обойтись (почти) без кода.
Свой кластер GPU не требуется :)
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по LLM, MLOps и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
Спикер: Радослав Нейчев
Время: понедельник, 12 августа, 18.00 Мск
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
или Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
На вебинаре мы обсудим последние результаты в области генерации изображений (в том числе прогремевший FLUX от BlackForestLabs) и как настраивать результаты под себя: позу персонажей, рисунок, который можно увидеть на контрасте и прочие интересные способы сделать результат лучше и уникальней. Конечно, речь будет идти про открытые модели.
Вебинар направлен на максимально широкую аудиторию, поэтому мы постараемся обойтись (почти) без кода.
Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по LLM, MLOps и другим темам машинного обучения начав с математической и программисткой базы.
Больше информации можно узнать на сайте магистратуры https://girafe.ai/msai-program
На все интересующие вопросы о программе мы ответим в конце семинара.
Спикер: Радослав Нейчев
Время: понедельник, 12 августа, 18.00 Мск
Для регистрации на семинар заполните форму, дальнейшую информацию пришлём на почту.
Запись семинара MLOps для ML инженеров: какую инфраструктуру использовать
Вы просили и мы сделали!
Для всех интересующихся мы опубликовали запись семинар от 3 августа
https://youtu.be/UEWdrj2KsMw
Остальные записи уже на подходе, stay tuned 🤙
Вы просили и мы сделали!
Для всех интересующихся мы опубликовали запись семинар от 3 августа
https://youtu.be/UEWdrj2KsMw
Остальные записи уже на подходе, stay tuned 🤙
YouTube
MLOps для ML инженеров: какую инфраструктуру использовать
S. from 3.08.24
Запись семинара Построение локального ассистента с помощью RAG и открытых LLM
Как и обещали!
Мы опубликовали запись семинара от 7 августа
https://youtu.be/DyOKAVzMWaQ
Последний семинар также выложим в скором времени,
don’t miss it🤙
Как и обещали!
Мы опубликовали запись семинара от 7 августа
https://youtu.be/DyOKAVzMWaQ
Последний семинар также выложим в скором времени,
don’t miss it🤙
YouTube
Построение локального ассистента с помощью RAG и открытых LLM
S. from 7.08.24
Запись семинара Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
Ура!
Мы опубликовали запись семинара от 12 августа
https://youtu.be/vLuxPy_MJRo
Thanks for you attention 🙌
Ура!
Мы опубликовали запись семинара от 12 августа
https://youtu.be/vLuxPy_MJRo
Thanks for you attention 🙌
YouTube
Указание условий генерации для диффузионной модели: фиксируем позу, форму и др. (aka ControlNet)
S. from 12.08.24
Дамы и господа, мы рады пригласить вас на курс от нашей команды: "Психологические и социальные аспекты в искусственном интеллекте"
Это уже четвёртый запуск, предыдущие собрали положительный фидбек :)
Преподаватель: Разыгрина Мария Сергеевна, психолог, преподаватель МФТИ, автор проекта Школа Психологической Компетентности.
Чат курса
Занятия: онлайн по вторникам, в 19.00 (первое занятие – 17 сентября)
Zoom ссылка доступна в чате ;)
Студентам зачисляются зачётные единицы (по 1 з.е. в полугодие) в период сессии.
На курсе вы узнаете о когнитивных процессах, социальной психологии, эмоциональном интеллекте и психологии взаимодействия человека и машины.
Студенты погрузятся в мир психологии и узнают о её влиянии на развитие и применение искусственного интеллекта.
Они узнают, как работает человеческое мышление, важность эмоционального интеллекта в создании эмпатичных систем ИИ, а также как социальные факторы влияют на взаимодействие между людьми и технологией.
Это поможет им лучше понять важность психологических и социальных аспектов при работе с технологиями искусственного интеллекта и стать более компетентными в области машинного обучения.
Курс включает в себя также общеобразовательные междисциплинарные лекции.
Это уже четвёртый запуск, предыдущие собрали положительный фидбек :)
Преподаватель: Разыгрина Мария Сергеевна, психолог, преподаватель МФТИ, автор проекта Школа Психологической Компетентности.
Чат курса
Занятия: онлайн по вторникам, в 19.00 (первое занятие – 17 сентября)
Zoom ссылка доступна в чате ;)
Студентам зачисляются зачётные единицы (по 1 з.е. в полугодие) в период сессии.
На курсе вы узнаете о когнитивных процессах, социальной психологии, эмоциональном интеллекте и психологии взаимодействия человека и машины.
Студенты погрузятся в мир психологии и узнают о её влиянии на развитие и применение искусственного интеллекта.
Они узнают, как работает человеческое мышление, важность эмоционального интеллекта в создании эмпатичных систем ИИ, а также как социальные факторы влияют на взаимодействие между людьми и технологией.
Это поможет им лучше понять важность психологических и социальных аспектов при работе с технологиями искусственного интеллекта и стать более компетентными в области машинного обучения.
Курс включает в себя также общеобразовательные междисциплинарные лекции.
Приходите послушать Карину, она замечательный спикер и специалист.
https://t.me/aitalenthubnews/1258
P.S. От себя рекомендую и ее канал @nadlskom, пишет ёмко и по делу про DL и смежные вещи.
https://t.me/aitalenthubnews/1258
P.S. От себя рекомендую и ее канал @nadlskom, пишет ёмко и по делу про DL и смежные вещи.
Telegram
Al Talent Hub
🧐 Портал в мир науки открывается по средам!
Уже 2 октября в 18:30 встречаемся в Reading Club, чтобы обсудить новую порцию научных прорывов из мира AI.
Гость: Карина Романова
TeamLead CoreLLM:recsys.
Отвечает за добавление текстовых и картиночных фичей…
Уже 2 октября в 18:30 встречаемся в Reading Club, чтобы обсудить новую порцию научных прорывов из мира AI.
Гость: Карина Романова
TeamLead CoreLLM:recsys.
Отвечает за добавление текстовых и картиночных фичей…
Ламповое мероприятие от коллег из Яндекса (и от нас в числе спикеров)
Начинается прямо сейчас в поточке Цифры (заходить через четвёртый этаж.
Приходите! :)
Ниже оригинальный анонс:
Общаемся, поём, выдыхаем после пар! ✨
Прямо сейчас в Поточке Цифры для вас выступят:
🟪 Катя Денисова, студентка 4 курса ФРКТ, инженер-электронщик, Алиса и умные устройства
🟪 Радослав Нейчев, выпускник ФУПМ, руководитель группы ML-разработки лаборатории искусственного интеллекта Яндекса
🟪 Саша Аникин, выпускник ФУПМ, директор Яндекс.Такси
🎤 Вас ждут: неформальные истории из рабочей и университетской жизни, открытый микрофон с вопросами о стажировке, учебе и работе в бигтехе.
🎵 Музыкальные гости: группы Hard Maple и Все свободны!
⚡️ Ведущий — Миша Ерохин, выпускник ФОПФ
Начинается прямо сейчас в поточке Цифры (заходить через четвёртый этаж.
Приходите! :)
Ниже оригинальный анонс:
Общаемся, поём, выдыхаем после пар! ✨
Прямо сейчас в Поточке Цифры для вас выступят:
🟪 Катя Денисова, студентка 4 курса ФРКТ, инженер-электронщик, Алиса и умные устройства
🟪 Радослав Нейчев, выпускник ФУПМ, руководитель группы ML-разработки лаборатории искусственного интеллекта Яндекса
🟪 Саша Аникин, выпускник ФУПМ, директор Яндекс.Такси
🎤 Вас ждут: неформальные истории из рабочей и университетской жизни, открытый микрофон с вопросами о стажировке, учебе и работе в бигтехе.
🎵 Музыкальные гости: группы Hard Maple и Все свободны!
⚡️ Ведущий — Миша Ерохин, выпускник ФОПФ
Открытый курс по Lean
Girafe-ai совместно с кафедрой машинного обучения МФТИ проводит курс по одному из самых популярных инструментов формализации и верификации доказательств.
Важность подобных систем сложно переоценить в современном мире, где всё больше процессов управляются программными системами.
Совсем недавно Google представила новую нейросеть AlphaProof, которая используя Lean добралась до уровня серебрянной медали Международной Математической Олипиады.
На кафедре машинного обучения мы хотим создать команду по исследованию применения ИИ к решению математических задач, данный курс является введением в сферу для дальнейшей работы.
Lean 4 — один из инструментов написания формальных доказательств, который становится популярен среди работающих математиков. Значительный пласт теорем из курсов undergraduate математики уже можно сформулировать и доказать формально.
В курсе мы на практических примерах научимся писать формальные доказательства в Lean: познакомимся с тактиками, изучим основы теории типов и элементы функционального программирования.
Значительную часть курса составит освоение математической библиотеки mathlib. Мы посмотрим на формализации теории множеств, теории групп, линейной алгебры, топологии. Если останется время, также взглянем на что-то из более продвинутых разделов математики и на формальную верификацию программ в Lean.
Занятия будут проходить онлайн по четвергам с 14.00.
Первое занятие пройдёт 20 февраля. Записи занятий также будут доступны.
Больше информации в чате курса: https://t.me/+OsBrtqOXo5oxMDRi
Girafe-ai совместно с кафедрой машинного обучения МФТИ проводит курс по одному из самых популярных инструментов формализации и верификации доказательств.
Важность подобных систем сложно переоценить в современном мире, где всё больше процессов управляются программными системами.
Совсем недавно Google представила новую нейросеть AlphaProof, которая используя Lean добралась до уровня серебрянной медали Международной Математической Олипиады.
На кафедре машинного обучения мы хотим создать команду по исследованию применения ИИ к решению математических задач, данный курс является введением в сферу для дальнейшей работы.
Lean 4 — один из инструментов написания формальных доказательств, который становится популярен среди работающих математиков. Значительный пласт теорем из курсов undergraduate математики уже можно сформулировать и доказать формально.
В курсе мы на практических примерах научимся писать формальные доказательства в Lean: познакомимся с тактиками, изучим основы теории типов и элементы функционального программирования.
Значительную часть курса составит освоение математической библиотеки mathlib. Мы посмотрим на формализации теории множеств, теории групп, линейной алгебры, топологии. Если останется время, также взглянем на что-то из более продвинутых разделов математики и на формальную верификацию программ в Lean.
Занятия будут проходить онлайн по четвергам с 14.00.
Первое занятие пройдёт 20 февраля. Записи занятий также будут доступны.
Больше информации в чате курса: https://t.me/+OsBrtqOXo5oxMDRi
Google DeepMind
AI achieves silver-medal standard solving International Mathematical Olympiad problems
Breakthrough models AlphaProof and AlphaGeometry 2 solve advanced reasoning problems in mathematics
Ищем менеджера образовательных программ
в команду girafe-ai 🦒
Как вы знаете, мы занимаемся развитием открытого образования в области искусственного интеллекта и смежных направлений (вплоть до психологии и экономики). Наши курсы представлены во многих топовых вузах России и не только.
Сейчас мы расширяем нашу команду для налаживания процессов на новом уровне, для этого нам нужен энергичный и инициативный человек, способный отслеживать успешность проведения курсов, управлять встречами в зуме, календарём и чатом поддержки.
Больше информации можно прочитать по ссылке.
Если хотите стать частью нашей команды, заполняйте форму!
Будем благодарны за репост или другую форму распространения 😊
в команду girafe-ai 🦒
Как вы знаете, мы занимаемся развитием открытого образования в области искусственного интеллекта и смежных направлений (вплоть до психологии и экономики). Наши курсы представлены во многих топовых вузах России и не только.
Сейчас мы расширяем нашу команду для налаживания процессов на новом уровне, для этого нам нужен энергичный и инициативный человек, способный отслеживать успешность проведения курсов, управлять встречами в зуме, календарём и чатом поддержки.
Больше информации можно прочитать по ссылке.
Если хотите стать частью нашей команды, заполняйте форму!
Будем благодарны за репост или другую форму распространения 😊
Google Docs
Менеджер образовательных программ вакансия
Менеджер образовательных программ в girafe-ai В girafe-ai мы делаем технические курсы по искусственному интеллекту для топовых университетов в России и не только. Задачи Организовывать проведение курсов собирать с преподавателей программу курса, список домашек…
Наш коллега и товарищ Евгений Смирнов, автор Нескучный Data Science решил сделать зарплаты чуть более прозрачными. Приглашаем по ссылке ниже за подробностями
Telegram
Нескучный Data Science
💸 Сколько ты зарабатываешь на Data Science?
👉 Пройди опрос сейчас, не откладывай на потом❗️
🤔 Вы можете примерно оценить вилку на вашей позиции благодаря вакансиям из каналов, где они публикуются. Тем не менее вилки довольно широкие и одни работодатели…
👉 Пройди опрос сейчас, не откладывай на потом❗️
🤔 Вы можете примерно оценить вилку на вашей позиции благодаря вакансиям из каналов, где они публикуются. Тем не менее вилки довольно широкие и одни работодатели…
⚡️Документация PyTorch Lightningъ
Мы пользуемся этим открытым фреймворком в своих проектах, а также рассказываем о нём на своих курсах.
Но, к сожалению, владельцы инфраструктуры их сайта посчитали, что россиянам не нужно пользоваться документацией.
Мы исправили данное недоразумение скомпилировав и развернув документацию на своём сайте 😝
https://lightning.girafe.ai/
Пользуйтесь на здоровье! 😊
Мы пользуемся этим открытым фреймворком в своих проектах, а также рассказываем о нём на своих курсах.
Но, к сожалению, владельцы инфраструктуры их сайта посчитали, что россиянам не нужно пользоваться документацией.
Мы исправили данное недоразумение скомпилировав и развернув документацию на своём сайте 😝
https://lightning.girafe.ai/
Пользуйтесь на здоровье! 😊
Что делает операция свёртки и при чём тут зрительная кора?
Итак, мы договорились, что просто "засунуть все пиксели в модель" — это плохая идея. Пиксель сам по себе смысла не несёт. Важны локальные взаимосвязи пикселей, т.е. тот факт, что они находятся рядом.
Возникает вопрос:
А как вообще нейросеть может понять, что где-то на изображении есть интересный паттерн?
Всё просто — она двигает небольшой фильтр по изображению и проверяет:
🧠 насколько текущий участок похож на этот шаблон?
Технически — это скалярное произведение двух векторов: кусочка изображения и фильтра, каждый и которых "вытянут в вектор".
В результате получается число, которое показывает, насколько "совпали" кусочек изображения и паттерн из фильтра..
Если фильтр хорошо совпал с участком — высокое значение в выходной картинке (т.н. карте активаций).
Если нет — низкое.
Карта активаций — новое представление изображение, которое показывает, какие части исходного похожи на фильтр.
🔁 Применяя подобное преобразование ко всему изображению с несколькими фильтрами, вы получите полноценную свёртку.
💡 Важно: фильтр ищет локальные шаблоны. А потому:
- работает одинаково, где бы на изображении ни находился объект
- позволяет учесть геометрию и структуру картинки
- приближает модель к тому, как работает зрение человека
И это не метафора. У нас в мозгу есть клетки, которые "вспыхивают", когда видят, например, вертикальную линию или границу — и да, сверточные сети делают то же самое.
Но что именно "ищут" фильтры? И как понять, чему вообще учится нейросеть?
Ответ: сетку не нужно программировать — она учится сама.
Каждый фильтр настраивается в процессе обучения: градиентный спуск подсказывает, какие значения в фильтре "лучше срабатывают" на нужной нам выборке.
📈 На первом слое это чаще всего — простые границы и линии (вертикальные, горизонтальные, диагональные).
📐 На втором — углы, формы, текстуры.
😻 Глубже — глаза, лапы, уши, силуэты, общие формы объектов.
И это не догадки — это визуализируют. Например, в работе Zeiler & Fergus показывают, какие входные паттерны активируют тот или иной фильтр сильнее всего.
По сути, мы можем увидеть, что "любят" фильтры. И чем "глубже" в сети находится сверточный слой, тем абстрактнее образ для человеческого восприятия.
---
📌 Подробнее — в лекции, демо и визуализациях:
📺 Запись лекции: YouTube, резервная ссылка (VK)
🛠 Слайды лекции
Также прилагаем обещанные на лекции ссылки:
📺Лекция про backpropagation и введение в нейронные сети
🐕Видео с DeepDream (YouTube)
📝Чудесная статья на habr "Как правильно «фармить» Kaggle"
🎮 Визуализация свёрток: https://adamharley.com/nn_vis/cnn/3d.html
📖 Исследование визуализации фильтров: arXiv (Zeiler & Fergus)
Итак, мы договорились, что просто "засунуть все пиксели в модель" — это плохая идея. Пиксель сам по себе смысла не несёт. Важны локальные взаимосвязи пикселей, т.е. тот факт, что они находятся рядом.
Возникает вопрос:
А как вообще нейросеть может понять, что где-то на изображении есть интересный паттерн?
Всё просто — она двигает небольшой фильтр по изображению и проверяет:
🧠 насколько текущий участок похож на этот шаблон?
Технически — это скалярное произведение двух векторов: кусочка изображения и фильтра, каждый и которых "вытянут в вектор".
В результате получается число, которое показывает, насколько "совпали" кусочек изображения и паттерн из фильтра..
Если фильтр хорошо совпал с участком — высокое значение в выходной картинке (т.н. карте активаций).
Если нет — низкое.
Карта активаций — новое представление изображение, которое показывает, какие части исходного похожи на фильтр.
🔁 Применяя подобное преобразование ко всему изображению с несколькими фильтрами, вы получите полноценную свёртку.
💡 Важно: фильтр ищет локальные шаблоны. А потому:
- работает одинаково, где бы на изображении ни находился объект
- позволяет учесть геометрию и структуру картинки
- приближает модель к тому, как работает зрение человека
И это не метафора. У нас в мозгу есть клетки, которые "вспыхивают", когда видят, например, вертикальную линию или границу — и да, сверточные сети делают то же самое.
Но что именно "ищут" фильтры? И как понять, чему вообще учится нейросеть?
Ответ: сетку не нужно программировать — она учится сама.
Каждый фильтр настраивается в процессе обучения: градиентный спуск подсказывает, какие значения в фильтре "лучше срабатывают" на нужной нам выборке.
📈 На первом слое это чаще всего — простые границы и линии (вертикальные, горизонтальные, диагональные).
📐 На втором — углы, формы, текстуры.
😻 Глубже — глаза, лапы, уши, силуэты, общие формы объектов.
И это не догадки — это визуализируют. Например, в работе Zeiler & Fergus показывают, какие входные паттерны активируют тот или иной фильтр сильнее всего.
По сути, мы можем увидеть, что "любят" фильтры. И чем "глубже" в сети находится сверточный слой, тем абстрактнее образ для человеческого восприятия.
---
📌 Подробнее — в лекции, демо и визуализациях:
📺 Запись лекции: YouTube, резервная ссылка (VK)
🛠 Слайды лекции
Также прилагаем обещанные на лекции ссылки:
📺Лекция про backpropagation и введение в нейронные сети
🐕Видео с DeepDream (YouTube)
📝Чудесная статья на habr "Как правильно «фармить» Kaggle"
🎮 Визуализация свёрток: https://adamharley.com/nn_vis/cnn/3d.html
📖 Исследование визуализации фильтров: arXiv (Zeiler & Fergus)