Созвон про тренды D&A 2025
▫️ 23 апреля (среда), 17:00 МСК
▫️ Google Meet→
Традиционное ежегодное обсуждение трендов в области данных и (продвинутой) аналитики.
Разберёмся, о чем пишет Gartner:
▫️ Gartner Identifies Top Trends in Data and Analytics for 2025;
Заглянем в Stanford State of AI:
▫️ The 2025 AI Index Report;
И может быть вспомним, что обсуждали год назад здесь в NoML:
▫️ Часть I: YouTube | Дзен | RuTube (~1 час 50 минут),
▫️ Часть II: YouTube | Дзен | RuTube (~1 час 20 минут),
▫️ Часть III: YouTube | Дзен | RuTube (~1 час 25 минут).
▫️ 23 апреля (среда), 17:00 МСК
▫️ Google Meet→
Традиционное ежегодное обсуждение трендов в области данных и (продвинутой) аналитики.
Разберёмся, о чем пишет Gartner:
▫️ Gartner Identifies Top Trends in Data and Analytics for 2025;
Заглянем в Stanford State of AI:
▫️ The 2025 AI Index Report;
И может быть вспомним, что обсуждали год назад здесь в NoML:
▫️ Часть I: YouTube | Дзен | RuTube (~1 час 50 минут),
▫️ Часть II: YouTube | Дзен | RuTube (~1 час 20 минут),
▫️ Часть III: YouTube | Дзен | RuTube (~1 час 25 минут).
Про тренды D&A 2025
Мысли после обсуждения трендов Gartner (Top Trends in Data and Analytics for 2025).
Highly Consumable Data Products. Здесь продукт — это результаты анализа данных, а потребитель — бизнес заказчик, принимающий решения на базе этого анализа. Поэтому такой Data-продукт должен:
▫️ быть на языке потребителя-заказчика;
▫️ иметь форму, которую заказчик легко трансформирует в конкретные действия и решения;
▫️ уметь быстро адаптироваться к изменениям (и “доставляться”);
▫️ масштабироваться и переиспользоваться на уровне всей организации.
Metadata Management Solutions (& Multimodal Data Fabric). Про важность управления метаданными на всех уровнях, как техническом, так и уровне бизнес контекста, уже сказано очень много слов. Здесь хочется подсветить, что вообще описываемые Gartner тренды очень плотно связаны между собой, например, тяжело представить реализацию практик Highly Consumable Data Products в среде, где нет никакого управления данными и метаданными.
Agentic Analytics. Мы будем наблюдать, как концепция агентности будет распространяться от (Gen)AI на практики данных и аналитики в целом. Общепринятый термин агентной аналитики пока не устоялся, но уже можно примерно представлять основные характеристики:
▫️ агент-ассистент/помощник: не просто показать отчет или прогноз, а предложить варианты действий и принимаемых решений;
▫️ проактивный агент: формирование тригеров, запускающих последующие цепочки анализа данных и принятия решений;
▫️ автономный агент: частичное или полное принятие решений по результатам анализа данных на уровне самого агента;
▫️ адаптивный агент: способность реагировать на изменения распределений и дрифты в наблюдаемых данных и среде;
▫️ …
▫️ агентная архитектура: представление сложных процессов принятия решений на базе анализа данных набором агентов, решающих отдельные подзадачи.
Composite AI. “… diversify beyond GenAI or LLMs, incorporating data science, machine learning, knowledge graphs, and optimization …”, то есть ровно то, что мы тут продвигаем в NoML: бизнес задачи часто оказываются слишком сложны, чтобы для них можно было получить хорошее решение одним (трендовым) методом (таким как LLM/GenAI). Можно ещё вспомнить доклад конца прошлого года: Максим Гончаров, Павел Снурницын, Not only ML или Почему в эру ИИ не стоит забывать о классических методах мат. моделирования. YouTube | Дзен | RuTube (~1 час 55 минут), в котором мы как раз описали такой композитный фреймворк интеллекта принятия решений, который помимо прочего включает:
▫️ ML для прогнозирования откликов среды;
▫️ классические математические модели (например, дифференциальные уравнения) для более точного описания среды;
▫️ методы мат. оптимизации для учёта всех ограничения и их зависимостей между собой;
▫️ имитационное моделирование для анализа того, что никогда не наблюдалось;
▫️ Process Mining для анализа самих процессов принятия решений, и их оптимизации;
▫️ графовые вероятностные модели для установления истинных причинно-следственных связей и скрытых зависимостей;
▫️ …
▫️ ну и экспертные бизнес правила над всеми этими моделями пока никто не отменял.
Decision Intelligence Platforms. Платформа как система, которая позволяет организовать работу с данными, классической аналитикой, моделями во всех аспектах композитности перечисленных выше и в конечном счете управлять и процессами принятия решений, и изменением этих процессов. Я бы вообще композитность и агентность относил бы к общим практикам Decision Intelligence. Понятно также, что хорошие Decision Intelligence практики и платформа невозможны без хороших Data практик и платформы. В статье кстати написано про переход от data-driven к decision-centric, но на мой взгляд между этими терминами надо ставить не “vs.” а “and”, то есть вообще имеет место формула: Data&Metadata Management + Decision Intelligence = Highly Consumable Data Products (и вообще качественные Data продукты).
Мысли после обсуждения трендов Gartner (Top Trends in Data and Analytics for 2025).
Highly Consumable Data Products. Здесь продукт — это результаты анализа данных, а потребитель — бизнес заказчик, принимающий решения на базе этого анализа. Поэтому такой Data-продукт должен:
▫️ быть на языке потребителя-заказчика;
▫️ иметь форму, которую заказчик легко трансформирует в конкретные действия и решения;
▫️ уметь быстро адаптироваться к изменениям (и “доставляться”);
▫️ масштабироваться и переиспользоваться на уровне всей организации.
Metadata Management Solutions (& Multimodal Data Fabric). Про важность управления метаданными на всех уровнях, как техническом, так и уровне бизнес контекста, уже сказано очень много слов. Здесь хочется подсветить, что вообще описываемые Gartner тренды очень плотно связаны между собой, например, тяжело представить реализацию практик Highly Consumable Data Products в среде, где нет никакого управления данными и метаданными.
Agentic Analytics. Мы будем наблюдать, как концепция агентности будет распространяться от (Gen)AI на практики данных и аналитики в целом. Общепринятый термин агентной аналитики пока не устоялся, но уже можно примерно представлять основные характеристики:
▫️ агент-ассистент/помощник: не просто показать отчет или прогноз, а предложить варианты действий и принимаемых решений;
▫️ проактивный агент: формирование тригеров, запускающих последующие цепочки анализа данных и принятия решений;
▫️ автономный агент: частичное или полное принятие решений по результатам анализа данных на уровне самого агента;
▫️ адаптивный агент: способность реагировать на изменения распределений и дрифты в наблюдаемых данных и среде;
▫️ …
▫️ агентная архитектура: представление сложных процессов принятия решений на базе анализа данных набором агентов, решающих отдельные подзадачи.
Composite AI. “… diversify beyond GenAI or LLMs, incorporating data science, machine learning, knowledge graphs, and optimization …”, то есть ровно то, что мы тут продвигаем в NoML: бизнес задачи часто оказываются слишком сложны, чтобы для них можно было получить хорошее решение одним (трендовым) методом (таким как LLM/GenAI). Можно ещё вспомнить доклад конца прошлого года: Максим Гончаров, Павел Снурницын, Not only ML или Почему в эру ИИ не стоит забывать о классических методах мат. моделирования. YouTube | Дзен | RuTube (~1 час 55 минут), в котором мы как раз описали такой композитный фреймворк интеллекта принятия решений, который помимо прочего включает:
▫️ ML для прогнозирования откликов среды;
▫️ классические математические модели (например, дифференциальные уравнения) для более точного описания среды;
▫️ методы мат. оптимизации для учёта всех ограничения и их зависимостей между собой;
▫️ имитационное моделирование для анализа того, что никогда не наблюдалось;
▫️ Process Mining для анализа самих процессов принятия решений, и их оптимизации;
▫️ графовые вероятностные модели для установления истинных причинно-следственных связей и скрытых зависимостей;
▫️ …
▫️ ну и экспертные бизнес правила над всеми этими моделями пока никто не отменял.
Decision Intelligence Platforms. Платформа как система, которая позволяет организовать работу с данными, классической аналитикой, моделями во всех аспектах композитности перечисленных выше и в конечном счете управлять и процессами принятия решений, и изменением этих процессов. Я бы вообще композитность и агентность относил бы к общим практикам Decision Intelligence. Понятно также, что хорошие Decision Intelligence практики и платформа невозможны без хороших Data практик и платформы. В статье кстати написано про переход от data-driven к decision-centric, но на мой взгляд между этими терминами надо ставить не “vs.” а “and”, то есть вообще имеет место формула: Data&Metadata Management + Decision Intelligence = Highly Consumable Data Products (и вообще качественные Data продукты).
Семинар про композитную DS/ML платформу
▫️ 30 апреля (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступают: Егор Крупенин (GlowByte), Михаил Черешенков (GlowByte), Михаил Зайцев (Data Sapience)
Тема: Комплексный подход к управлению компонентами DS/ML платформы на примере решений Data Sapience Kolmogorov
Аннотация
Современная DS/ML(Ops) платформа не ограничивается организацией рабочего места специалистов по анализу данных и технического стека для обеспечения вывода моделей в промышленную эксплуатацию. Такая платформа живет в контексте, во-первых, данных и метаданных, доступных для анализа и построения моделей, во-вторых, бизнес задач и процессов принятия решений. Более того, решение бизнес задач является композитным, часто состоит из нескольких моделей и типов моделей (ML, LLM, мат. оптимизация, имитационное моделирование, дифференциальные уравнения ….), а промышленный процесс принятия решений на базе таких моделей — это каскады связанных data-пайплайнов автоматических расчетов и workflow-процессов с участием человека. Таким образом, пользователями такой платформы становятся не только специалисты DE/DS/ML/AI/OR но и эксперты со стороны бизнеса. На семинаре расскажем, как может выглядеть архитектура такого вида платформы и покажем пример реализации этой архитектуры в решениях Kolmogorov от Data Sapience.
Уровень сложности: начинающий, доклад будет полезен специалистам MLOps, а также разработчикам и архитекторам, которые сталкивались с вызовами построения больших корпоративных композитных DS/ML платформ.
Ключевые слова: MLOps, ModelOps, DS/ML платформа, управление моделями, модельный риск, MRM, аналитические приложения.
▫️ 30 апреля (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступают: Егор Крупенин (GlowByte), Михаил Черешенков (GlowByte), Михаил Зайцев (Data Sapience)
Тема: Комплексный подход к управлению компонентами DS/ML платформы на примере решений Data Sapience Kolmogorov
Аннотация
Современная DS/ML(Ops) платформа не ограничивается организацией рабочего места специалистов по анализу данных и технического стека для обеспечения вывода моделей в промышленную эксплуатацию. Такая платформа живет в контексте, во-первых, данных и метаданных, доступных для анализа и построения моделей, во-вторых, бизнес задач и процессов принятия решений. Более того, решение бизнес задач является композитным, часто состоит из нескольких моделей и типов моделей (ML, LLM, мат. оптимизация, имитационное моделирование, дифференциальные уравнения ….), а промышленный процесс принятия решений на базе таких моделей — это каскады связанных data-пайплайнов автоматических расчетов и workflow-процессов с участием человека. Таким образом, пользователями такой платформы становятся не только специалисты DE/DS/ML/AI/OR но и эксперты со стороны бизнеса. На семинаре расскажем, как может выглядеть архитектура такого вида платформы и покажем пример реализации этой архитектуры в решениях Kolmogorov от Data Sapience.
Уровень сложности: начинающий, доклад будет полезен специалистам MLOps, а также разработчикам и архитекторам, которые сталкивались с вызовами построения больших корпоративных композитных DS/ML платформ.
Ключевые слова: MLOps, ModelOps, DS/ML платформа, управление моделями, модельный риск, MRM, аналитические приложения.
Еще немного про тренды D&A
В дополнение к посту выше:
AI TRiSM (Trust, Risk and Security Management). В этом году Gartner не написал явно про вопросы доверенного ИИ, хотя на наш взгляд важность этой темы пока только возрастает. Например, добавление принципов агентности в и до того сложные композитные AI системы принятия решений кратно увеличивает риски их использования.
Тренды NoML. А мы в NoML продолжим продвигать идеи композитности в анализе данных и общие практики Decision Intelligence.
Если говорить в духе “Top-n трендов от сообщества NoML”, то повторимся списком наших любимых тем (почти на всё есть отдельные топики в чате сообщества @noml_community):
▫️ математическая оптимизация;
▫️ имитационное моделирование;
▫️ процессная аналитика (process mining);
▫️ байесовские сети и графовые вероятностные модели;
▫️ графовое машинное обучение и графовая аналитика;
▫️ федеративное обучение и конфиденцильные вычисления;
▫️ ModelOps/MLOps, модельный риск и другие аспекты TRiSM.
В дополнение к посту выше:
AI TRiSM (Trust, Risk and Security Management). В этом году Gartner не написал явно про вопросы доверенного ИИ, хотя на наш взгляд важность этой темы пока только возрастает. Например, добавление принципов агентности в и до того сложные композитные AI системы принятия решений кратно увеличивает риски их использования.
Тренды NoML. А мы в NoML продолжим продвигать идеи композитности в анализе данных и общие практики Decision Intelligence.
Если говорить в духе “Top-n трендов от сообщества NoML”, то повторимся списком наших любимых тем (почти на всё есть отдельные топики в чате сообщества @noml_community):
▫️ математическая оптимизация;
▫️ имитационное моделирование;
▫️ процессная аналитика (process mining);
▫️ байесовские сети и графовые вероятностные модели;
▫️ графовое машинное обучение и графовая аналитика;
▫️ федеративное обучение и конфиденцильные вычисления;
▫️ ModelOps/MLOps, модельный риск и другие аспекты TRiSM.
Recap про Kolmogorov AI
Все доклады от коллег из GlowByte и Data Sapience про платформу и решения Kolmogorov:
▫️ Егор Крупенин, Михаил Черешенков, Михаил Зайцев, Комплексный подход к управлению компонентами DS/ML платформы на примере решений Data Sapience Kolmogorov, 2025. YouTube | Дзен | RuTube (~50 минут)
▫️ Михаил Зайцев, Григорий Шутов, Евгений Вилков, Платформа для DS/ML Kolmogorov, 2024. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Михаил Зайцев, Федеративный подход к мониторингу прогнозных и оптимизационных моделей на базе Kolmogorov Predicate, 2024. YouTube | Дзен | RuTube (~40 минут);
▫️ Максим Гончаров, Вазген Амбарцумов, Управление промо-календарём на базе методов прогнозной и оптимизационной аналитики, пример на платформе Kolmogorov, 2023. YouTube | Дзен | RuTube (~1 час 55 минут);
▫️ Вадим Глухов, Альфия Харламова, Решения Kolmogorov ABacus & Continuity для A/B тестов, 2023. YouTube | Дзен | RuTube (~50 минут);
▫️Дмитрий Забавин и др., Kolmogorov AI для A/B, 2023. YouTube | Дзен | RuTube (~3 часа 20 минут);
▫️Василь Султанов (Росбанк), Михаил Зайцев, Cистема управления моделями - System of Model Management (SyMoMa), 2022. YouTube | Дзен | RuTube (~1 час 10 минут).
Ждём теперь доклад про эту историю: Норникель совместно с GlowByte внедрил корпоративную ML-платформу на базе продукта Kolmogorov вендора Data Sapience.
А в нашей базе знаний noml.club можно найти ещё много дугих докладов по теме MLOps/ModelOps.
Все доклады от коллег из GlowByte и Data Sapience про платформу и решения Kolmogorov:
▫️ Егор Крупенин, Михаил Черешенков, Михаил Зайцев, Комплексный подход к управлению компонентами DS/ML платформы на примере решений Data Sapience Kolmogorov, 2025. YouTube | Дзен | RuTube (~50 минут)
▫️ Михаил Зайцев, Григорий Шутов, Евгений Вилков, Платформа для DS/ML Kolmogorov, 2024. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Михаил Зайцев, Федеративный подход к мониторингу прогнозных и оптимизационных моделей на базе Kolmogorov Predicate, 2024. YouTube | Дзен | RuTube (~40 минут);
▫️ Максим Гончаров, Вазген Амбарцумов, Управление промо-календарём на базе методов прогнозной и оптимизационной аналитики, пример на платформе Kolmogorov, 2023. YouTube | Дзен | RuTube (~1 час 55 минут);
▫️ Вадим Глухов, Альфия Харламова, Решения Kolmogorov ABacus & Continuity для A/B тестов, 2023. YouTube | Дзен | RuTube (~50 минут);
▫️Дмитрий Забавин и др., Kolmogorov AI для A/B, 2023. YouTube | Дзен | RuTube (~3 часа 20 минут);
▫️Василь Султанов (Росбанк), Михаил Зайцев, Cистема управления моделями - System of Model Management (SyMoMa), 2022. YouTube | Дзен | RuTube (~1 час 10 минут).
Ждём теперь доклад про эту историю: Норникель совместно с GlowByte внедрил корпоративную ML-платформу на базе продукта Kolmogorov вендора Data Sapience.
А в нашей базе знаний noml.club можно найти ещё много дугих докладов по теме MLOps/ModelOps.
Созвон про федеративное обучение
▫️ 7 мая (среда), !! 14:00 МСК
▫️ Google Meet→
Вместе с коллегами из компании Guardora Михаилом Фатюхиным и Дмитрием Масловым обсудим текущее положение дел с адаптацией технологий федеративного обучения (FL) в enterprise-среде:
— Напомним основные термины, определения и подходы из FL;
— Перечислим перспективные бизнес-кейсы применения этой технологии в различных индустриях и направлениях;
— Разберём основные угрозы безопасности и модель рисков связанных с FL;
— Рассмотрим другие методы обеспечения конфиденциальности процессов анализа данных и их связь с федеративным обучением;
— Поговорим про правовые аспекты использования технологий конфиденциального анализа данных и текущее положение дел в области их регулирования;
— Обсудим, какие есть преграды перед широким внедрением технологий FL и конфиденциальных вычислений для решения бизнес-задач.
Перед созвоном можно ознакомиться с отчётом (white paper) от Ассоциации больших данных, Guardora и Privacy Advocates @prv_adv:
Конфиденциальные вычисления и доверенные среды исполнения. Federated Learning, 2025 (~35 минут).
!!Еще раз обращаем внимание на время начала: 14:00 МСК.
▫️ 7 мая (среда), !! 14:00 МСК
▫️ Google Meet→
Вместе с коллегами из компании Guardora Михаилом Фатюхиным и Дмитрием Масловым обсудим текущее положение дел с адаптацией технологий федеративного обучения (FL) в enterprise-среде:
— Напомним основные термины, определения и подходы из FL;
— Перечислим перспективные бизнес-кейсы применения этой технологии в различных индустриях и направлениях;
— Разберём основные угрозы безопасности и модель рисков связанных с FL;
— Рассмотрим другие методы обеспечения конфиденциальности процессов анализа данных и их связь с федеративным обучением;
— Поговорим про правовые аспекты использования технологий конфиденциального анализа данных и текущее положение дел в области их регулирования;
— Обсудим, какие есть преграды перед широким внедрением технологий FL и конфиденциальных вычислений для решения бизнес-задач.
Перед созвоном можно ознакомиться с отчётом (white paper) от Ассоциации больших данных, Guardora и Privacy Advocates @prv_adv:
Конфиденциальные вычисления и доверенные среды исполнения. Federated Learning, 2025 (~35 минут).
!!Еще раз обращаем внимание на время начала: 14:00 МСК.
Recap про FL и не только
Сегодня у нас прошла очень живая дискуссия про федеративное обучение, запись скоро будет, а пока можно вспомнить другие наши мероприятия:
▫️ Евгений Попов, Никита Лазарев, Юрий Маркин, Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов, 2024. YouTube | Дзен | RuTube (~1 час 35 минут);
▫️ Денис Афанасьев, Федеративное обучение: обзор методов, платформ и трендов, 2024. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Денис Афанасьев, Таксономия методов FL, обзор платформ, основных игроков, вызовов и трендов развития, 2023. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Созвон: Роман Постников, Павел Снурницын, Александр Григорьевский, Андрей Соколов, Методы конфиденциальной аналитики, 2023. YouTube | Дзен | RuTube (~1 час 50 минут);
И в тему обогащения данных:
▫️ Роман Постников, Максим Воеводский, Upgini: Библиотека для поиска и обогащения ML моделей релевантными внешними фичами, 2023. YouTube | Дзен | RuTube (~1 час 25 минут).
Сегодня у нас прошла очень живая дискуссия про федеративное обучение, запись скоро будет, а пока можно вспомнить другие наши мероприятия:
▫️ Евгений Попов, Никита Лазарев, Юрий Маркин, Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов, 2024. YouTube | Дзен | RuTube (~1 час 35 минут);
▫️ Денис Афанасьев, Федеративное обучение: обзор методов, платформ и трендов, 2024. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Денис Афанасьев, Таксономия методов FL, обзор платформ, основных игроков, вызовов и трендов развития, 2023. YouTube | Дзен | RuTube (~1 час 20 минут);
▫️ Созвон: Роман Постников, Павел Снурницын, Александр Григорьевский, Андрей Соколов, Методы конфиденциальной аналитики, 2023. YouTube | Дзен | RuTube (~1 час 50 минут);
И в тему обогащения данных:
▫️ Роман Постников, Максим Воеводский, Upgini: Библиотека для поиска и обогащения ML моделей релевантными внешними фичами, 2023. YouTube | Дзен | RuTube (~1 час 25 минут).
Forwarded from Клуб CDO
И если кому то интересно/полезно, так же оформил этот материал в виде небольшой обзорной статьи
На прошлой неделе при поддержке канала @noml_community поговорили с коллегами о Federated Learning. Получилось неожиданно интересно и полезно. Много говорили о кейсах, чуть меньше - о практических аспектах реализации, особенностях работы с данными и о специфике конфиденциальных вычислений. С большим удовольствием пообщались с коллегами по цеху и основными экспертами этой отрасли.
Мой вывод - FL как технология и как предмет сделали большой шаг вперед к тому, что бы технологии и потребности рынка “пересеклись” в точки эффективности и кажется что такой момент уже близко.
https://habr.com/ru/articles/909014/
На прошлой неделе при поддержке канала @noml_community поговорили с коллегами о Federated Learning. Получилось неожиданно интересно и полезно. Много говорили о кейсах, чуть меньше - о практических аспектах реализации, особенностях работы с данными и о специфике конфиденциальных вычислений. С большим удовольствием пообщались с коллегами по цеху и основными экспертами этой отрасли.
Мой вывод - FL как технология и как предмет сделали большой шаг вперед к тому, что бы технологии и потребности рынка “пересеклись” в точки эффективности и кажется что такой момент уже близко.
https://habr.com/ru/articles/909014/
Хабр
Федеративное обучение: потенциал, ограничения и экономические реалии внедрения
Федеративное обучение (Federated Learning, FL) становится всё более заметным элементом технологической повестки в условиях ужесточающихся требований к конфиденциальности данных и законодательных...
Семинар про векторную графику
▫️ 14 мая (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступает: Иван Жарский (Лаборатория КТ ИТМО, Statanly Technologies)
Тема: Векторная графика и методы её обработки
Аннотация
В последнее время генерация и обработка изображений стала особенно популярной, но в основном речь идёт о растровой графике, представляемой в виде матрицы пикселей. Однако существует и другой способ — геометрико-математическое представление, лежащее в основе векторной графики. Векторная графика используется преимущественно в иконках, шрифтах, веб-дизайне, схемах и технических чертежах. Её важнейшее преимущество над растровой графикой — возможность неограниченного масштабирования без потери качества.
Векторная графика находится на пересечении трёх доменов: графического (визуальный образ), текстового (формат хранения) и кодо-математического (описание примитивов), поэтому алгоритмы работы с ней достаточно сложны в реализации. Несмотря на то, что методы её обработки пока уступают по зрелости растровым, в последние годы наблюдается заметный рост интереса к этой области.
В докладе будет рассмотрен популярный формат SVG, обсуждены подходы к обработке и генерации векторных изображений, а также процесс векторизации — преобразования растра в вектор. Также будут представлены собственные наработки лаборатории КТ ИТМО. На практике будут продемонстрированы:
— метод CLIPDraw (на базе DiffVG) для генерации SVG по тексту,
— модель IconShop для генерации по классу,
— модель VectorWeaver для безусловной генерации на основе диффузионной сети.
Уровень сложности: средний
Ключевые слова: векторная графика, SVG, машинное обучение, генерация изображений, NLP для графики.
▫️ 14 мая (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступает: Иван Жарский (Лаборатория КТ ИТМО, Statanly Technologies)
Тема: Векторная графика и методы её обработки
Аннотация
В последнее время генерация и обработка изображений стала особенно популярной, но в основном речь идёт о растровой графике, представляемой в виде матрицы пикселей. Однако существует и другой способ — геометрико-математическое представление, лежащее в основе векторной графики. Векторная графика используется преимущественно в иконках, шрифтах, веб-дизайне, схемах и технических чертежах. Её важнейшее преимущество над растровой графикой — возможность неограниченного масштабирования без потери качества.
Векторная графика находится на пересечении трёх доменов: графического (визуальный образ), текстового (формат хранения) и кодо-математического (описание примитивов), поэтому алгоритмы работы с ней достаточно сложны в реализации. Несмотря на то, что методы её обработки пока уступают по зрелости растровым, в последние годы наблюдается заметный рост интереса к этой области.
В докладе будет рассмотрен популярный формат SVG, обсуждены подходы к обработке и генерации векторных изображений, а также процесс векторизации — преобразования растра в вектор. Также будут представлены собственные наработки лаборатории КТ ИТМО. На практике будут продемонстрированы:
— метод CLIPDraw (на базе DiffVG) для генерации SVG по тексту,
— модель IconShop для генерации по классу,
— модель VectorWeaver для безусловной генерации на основе диффузионной сети.
Уровень сложности: средний
Ключевые слова: векторная графика, SVG, машинное обучение, генерация изображений, NLP для графики.
Созвон про причинно-следственный анализ
▫️ 21 мая (среда), 17:00 МСК
▫️ Google Meet→
По результатам голосования в чате @noml_community на сегодня была выбрана тема причинно-следственного анализа и структурных вероятностных моделей.
— Напомним, что такое графовые вероятностные модели (PGM), какие бывают их виды (байесовские сети (BN), структурные причинные модели (SCM), …), чем они отличаются от традиционных подходов из статистики и машинного обучения и как их дополняют.
— Разберём несколько бизнес приложений этих методов и обсудим, в каких задачах их применение может дать наибольший эффект.
— Пройдемся по некоторым техническим особенностям PGM, таким, например, как: работа с данными, метрики и методы валидации, способы учёта экспертных знаний о предметной области, а также методы оценки устойчивости причинных графов к неточностям и неполноте в этих знаниях.
— Обсудим, какие возникают сложности при внедрении моделей на базе PGM в бизнес-процессы, например, как интерпретировать результаты и как объяснять выводы полученные при проведении причинно-следственного анализа нетехническим специалистам и руководителям, как помочь сконвертировать эти выводы в принятие решений, а также нужны ли в команде отдельные специалисты по PGM, или достаточно “обычных data scientist’ов”.
▫️ 21 мая (среда), 17:00 МСК
▫️ Google Meet→
По результатам голосования в чате @noml_community на сегодня была выбрана тема причинно-следственного анализа и структурных вероятностных моделей.
— Напомним, что такое графовые вероятностные модели (PGM), какие бывают их виды (байесовские сети (BN), структурные причинные модели (SCM), …), чем они отличаются от традиционных подходов из статистики и машинного обучения и как их дополняют.
— Разберём несколько бизнес приложений этих методов и обсудим, в каких задачах их применение может дать наибольший эффект.
— Пройдемся по некоторым техническим особенностям PGM, таким, например, как: работа с данными, метрики и методы валидации, способы учёта экспертных знаний о предметной области, а также методы оценки устойчивости причинных графов к неточностям и неполноте в этих знаниях.
— Обсудим, какие возникают сложности при внедрении моделей на базе PGM в бизнес-процессы, например, как интерпретировать результаты и как объяснять выводы полученные при проведении причинно-следственного анализа нетехническим специалистам и руководителям, как помочь сконвертировать эти выводы в принятие решений, а также нужны ли в команде отдельные специалисты по PGM, или достаточно “обычных data scientist’ов”.
Созвон про Process Mining
▫️ 28 мая (среда), !! 16:00 МСК
▫️ Google Meet→
Мы недавно обсуждали тренды в области данных и аналитики, и среди трендов NoML отметили процессную аналитику и Process Mining (PM). При этом последний раз доклад про PM у нас был почти год назад. В связи с этим решили вместе с Викторией Красновой из GlowByte Process Intelligence обсудить эту тему.
Так что вспоминаем что такое Process Mining: Альфия Ибрагимова, Тимофей Прибылев, Введение в Process Mining: методы, платформы и кейсы. YouTube | Дзен | RuTube (1 час 30 минут);
И готовимся обсуждать следующие вопросы:
— Какие есть новые интересные бизнес-кейсы применения процессной аналитики?
— Какие задачи решает Process Mining помимо поиска узких горлышек и отклонений в процессах?
— Как эволюционируют технологии и методы PM и что скрывается за термином Process Intelligence (PI)?
— Process Mining вместе или против других технологий: BI, имитационное моделирование, математическая оптимизация и исследование операций, причинно-следственный анализ ML/AI, …?
— Как вообще развитие ML/AI влияет на PM/PI и автоматизацию процессов?
— Нужны ли специальные навыки для работы с Process Mining, или это инструмент для бизнес-пользователей?
— Какие есть особенности и вызовы в части работы с данными в проектах PM/PI?
— Как PM встраивается в общий ландшафт интеллекта принятия решений (Decision Intelligence, DI)?
— Возможна ли полная автономия в data-driven управлении процессами?
— Как преодолеть сопротивление сотрудников при анализе и автоматизации их рабочих процессов?
— Как совместить прозрачность процессов и конфиденциальность данных сотрудников?
— Когда вся рутина будет автоматизирована ИИ, что останется для человека?
▫️ 28 мая (среда), !! 16:00 МСК
▫️ Google Meet→
Мы недавно обсуждали тренды в области данных и аналитики, и среди трендов NoML отметили процессную аналитику и Process Mining (PM). При этом последний раз доклад про PM у нас был почти год назад. В связи с этим решили вместе с Викторией Красновой из GlowByte Process Intelligence обсудить эту тему.
Так что вспоминаем что такое Process Mining: Альфия Ибрагимова, Тимофей Прибылев, Введение в Process Mining: методы, платформы и кейсы. YouTube | Дзен | RuTube (1 час 30 минут);
И готовимся обсуждать следующие вопросы:
— Какие есть новые интересные бизнес-кейсы применения процессной аналитики?
— Какие задачи решает Process Mining помимо поиска узких горлышек и отклонений в процессах?
— Как эволюционируют технологии и методы PM и что скрывается за термином Process Intelligence (PI)?
— Process Mining вместе или против других технологий: BI, имитационное моделирование, математическая оптимизация и исследование операций, причинно-следственный анализ ML/AI, …?
— Как вообще развитие ML/AI влияет на PM/PI и автоматизацию процессов?
— Нужны ли специальные навыки для работы с Process Mining, или это инструмент для бизнес-пользователей?
— Какие есть особенности и вызовы в части работы с данными в проектах PM/PI?
— Как PM встраивается в общий ландшафт интеллекта принятия решений (Decision Intelligence, DI)?
— Возможна ли полная автономия в data-driven управлении процессами?
— Как преодолеть сопротивление сотрудников при анализе и автоматизации их рабочих процессов?
— Как совместить прозрачность процессов и конфиденциальность данных сотрудников?
— Когда вся рутина будет автоматизирована ИИ, что останется для человека?
Мысли про FL и PPML
Недавно у нас была дискуссия про FL и Privacy-Preserving ML (PPML) вместе с Дмитрием Масловым, Михаилом Фатюхиным, Денисом Афанасьевым, Евгением Поповым и Романом Постниковым: YouTube | Дзен | RuTube. Денис написал отличное саммари, но я может быть где-то дополню.
▫️ Потенциальных бизнес-кейсов объединения данных разных участников много, но оценить эффект от такого объединения заранее очень сложно, а то, что для бизнес-заказчика выглядит как пилот по FL (или другим методам конфиденциальной аналитики), на самом деле является непростым технологическим проектом.
▫️ Вообще ожидания от объединения данных разных владельцев обычно сильно преувеличены. Более того, если говорить про кейсы на табличных (структурированных) данных, то прямое объединение в лоб скорее всего ничего не даст, важны понимание бизнес смысла данных и интеллектуальный feature engineering над объединенными данными. Например, в тех же задачах антифрода большой прирост даёт анализ графа связей и расчет графовых признаков, а в случае федеративных и конфиденциальных вычислений, когда у разных участников есть только локальные части глобального графа, а глобальный граф никто не видит, эта задача непростая (но решаемая).
▫️ В контексте (финансовых) эффектов от объединения данных возникает еще вопрос ценообразования при использовании данных от разных владельцев. Ведь сами по себе данные стоимости не имеют (более того несут затраты: их надо хранить, накапливать и защищать), а стоимость всегда будет зависеть от конкретного бизнес-кейса. Получается, что стоимость может иметь инференс, а задача технологических провайдеров как раз в том, чтобы научиться справедливо разделять и транслировать эту стоимость от поставщиков данных к потребителям.
▫️ В целом если вспоминать разделение на горизонтальное федеративное обучение (HFL) и вертикальное (VFL), то область enterprise кейсов применения FL для безопасной коллаборации данных будет двигать VFL: объединение разных признаков для одного наблюдения, объединение признаков и целевого события, опять же федеративный feature engineering и контроль качества данных, …
▫️ Можно выделить такие два направления задач, которые исследуются в FL:
— FL для массовых распределенных вычислений на устройствах. Причем бывают ситуации, в которых вопросы конфиденциальности вообще остаются за кадром, а важна именно эффективность вычислений на локальных и глобальных сегментах этих устройств (телефоны, беспилотный транспорт, рои дронов и т.д.). Особенности: большое количество устройств (десятки тысяч — миллионы), небольшие наборы данных на каждом устройств, ограничения на доступность устройств и топологию их связности. Здесь одна из основных задач: гарантировать сходимость методов обучения.
— FL для безопасной агрегации данных. В бизнес кейсах применения таких как скоринг или антифрод всё наоборот: небольшое количество участников (десятки), большие датасеты у каждого из участников, и можно считать что инфраструктура участников доступна 24/7. А для обеспечения конфиденциальности потребуется связка FL + что-то еще: FHE, MPC, дифференциальная приватность.
▫️ Для PPML, включая FL, можно выделить такие основные технические сценарии:
— Обогащение данных, и в более широком смысле обогащение информации. Я бы сюда включил и кейс федеративной валидации моделей, т.е. когда модель именно валидируется, а не дообучается на данных одного или нескольких участников.
— Изоляция данных от разработчиков моделей.
— Разделение данных и сред обучения/исполнения.
▫️ Само по себе FL не является средством криптографической защиты информации (СКЗИ). Но для табличных бизнес-кейсов может сработать аргументация, что компрессия данных в передаваемых весах и градиентах настолько высока, что конфиденциальных данных там точно нет. С другой стороны, есть, например, атаки, направленные на восстановления целевой переменной, да и истории про атаки на FL на неструктурированных данных у всех на слуху. А когда в схему добавляется частичное или полное гомоморфное шифрование, то это уже криптография, причём такая, для которой пока нет стандартов.
Недавно у нас была дискуссия про FL и Privacy-Preserving ML (PPML) вместе с Дмитрием Масловым, Михаилом Фатюхиным, Денисом Афанасьевым, Евгением Поповым и Романом Постниковым: YouTube | Дзен | RuTube. Денис написал отличное саммари, но я может быть где-то дополню.
▫️ Потенциальных бизнес-кейсов объединения данных разных участников много, но оценить эффект от такого объединения заранее очень сложно, а то, что для бизнес-заказчика выглядит как пилот по FL (или другим методам конфиденциальной аналитики), на самом деле является непростым технологическим проектом.
▫️ Вообще ожидания от объединения данных разных владельцев обычно сильно преувеличены. Более того, если говорить про кейсы на табличных (структурированных) данных, то прямое объединение в лоб скорее всего ничего не даст, важны понимание бизнес смысла данных и интеллектуальный feature engineering над объединенными данными. Например, в тех же задачах антифрода большой прирост даёт анализ графа связей и расчет графовых признаков, а в случае федеративных и конфиденциальных вычислений, когда у разных участников есть только локальные части глобального графа, а глобальный граф никто не видит, эта задача непростая (но решаемая).
▫️ В контексте (финансовых) эффектов от объединения данных возникает еще вопрос ценообразования при использовании данных от разных владельцев. Ведь сами по себе данные стоимости не имеют (более того несут затраты: их надо хранить, накапливать и защищать), а стоимость всегда будет зависеть от конкретного бизнес-кейса. Получается, что стоимость может иметь инференс, а задача технологических провайдеров как раз в том, чтобы научиться справедливо разделять и транслировать эту стоимость от поставщиков данных к потребителям.
▫️ В целом если вспоминать разделение на горизонтальное федеративное обучение (HFL) и вертикальное (VFL), то область enterprise кейсов применения FL для безопасной коллаборации данных будет двигать VFL: объединение разных признаков для одного наблюдения, объединение признаков и целевого события, опять же федеративный feature engineering и контроль качества данных, …
▫️ Можно выделить такие два направления задач, которые исследуются в FL:
— FL для массовых распределенных вычислений на устройствах. Причем бывают ситуации, в которых вопросы конфиденциальности вообще остаются за кадром, а важна именно эффективность вычислений на локальных и глобальных сегментах этих устройств (телефоны, беспилотный транспорт, рои дронов и т.д.). Особенности: большое количество устройств (десятки тысяч — миллионы), небольшие наборы данных на каждом устройств, ограничения на доступность устройств и топологию их связности. Здесь одна из основных задач: гарантировать сходимость методов обучения.
— FL для безопасной агрегации данных. В бизнес кейсах применения таких как скоринг или антифрод всё наоборот: небольшое количество участников (десятки), большие датасеты у каждого из участников, и можно считать что инфраструктура участников доступна 24/7. А для обеспечения конфиденциальности потребуется связка FL + что-то еще: FHE, MPC, дифференциальная приватность.
▫️ Для PPML, включая FL, можно выделить такие основные технические сценарии:
— Обогащение данных, и в более широком смысле обогащение информации. Я бы сюда включил и кейс федеративной валидации моделей, т.е. когда модель именно валидируется, а не дообучается на данных одного или нескольких участников.
— Изоляция данных от разработчиков моделей.
— Разделение данных и сред обучения/исполнения.
▫️ Само по себе FL не является средством криптографической защиты информации (СКЗИ). Но для табличных бизнес-кейсов может сработать аргументация, что компрессия данных в передаваемых весах и градиентах настолько высока, что конфиденциальных данных там точно нет. С другой стороны, есть, например, атаки, направленные на восстановления целевой переменной, да и истории про атаки на FL на неструктурированных данных у всех на слуху. А когда в схему добавляется частичное или полное гомоморфное шифрование, то это уже криптография, причём такая, для которой пока нет стандартов.
И еще про FL и конф. вычисления
Также на майском созвоне про FL упоминались следующие материалы:
▫️ Евгений Попов, Что такое федеративное обучение: метод, который приведет к взрывному росту искусственного интеллекта, 2025 (~7 минут).
▫️ Stalactite — опенсорс фреймворк для VFL от ИТМО и Сбера: GitHub, пресс-релиз и материалы конференции ACM RecSys ’24: A. Zakharova et al., Stalactite: toolbox for fast prototyping of vertical federated learning systems, 2024 (~10-20 минут).
▫️ Отчёты-описания по направлениям и технологиям PPML от Ассоциации Больших Данных:
— Общее: Технологии защищенной обработки данных: от защиты данных — к развитию ИИ, партнерским отношениям и экосистемной экономике, 2024 (~30 минут);
— Крипто-анклавы: Конфиденциальные вычисления и доверенные среды исполнения, 2024 (~30 минут);
— MPC: Конфиденциальные вычисления и доверенные среды исполнения. Secure Multiparty Computation, 2025 (~30 минут);
— FL: Конфиденциальные вычисления и доверенные среды исполнения. Federated Learning, 2025 (~30 минут);
Также на майском созвоне про FL упоминались следующие материалы:
▫️ Евгений Попов, Что такое федеративное обучение: метод, который приведет к взрывному росту искусственного интеллекта, 2025 (~7 минут).
▫️ Stalactite — опенсорс фреймворк для VFL от ИТМО и Сбера: GitHub, пресс-релиз и материалы конференции ACM RecSys ’24: A. Zakharova et al., Stalactite: toolbox for fast prototyping of vertical federated learning systems, 2024 (~10-20 минут).
▫️ Отчёты-описания по направлениям и технологиям PPML от Ассоциации Больших Данных:
— Общее: Технологии защищенной обработки данных: от защиты данных — к развитию ИИ, партнерским отношениям и экосистемной экономике, 2024 (~30 минут);
— Крипто-анклавы: Конфиденциальные вычисления и доверенные среды исполнения, 2024 (~30 минут);
— MPC: Конфиденциальные вычисления и доверенные среды исполнения. Secure Multiparty Computation, 2025 (~30 минут);
— FL: Конфиденциальные вычисления и доверенные среды исполнения. Federated Learning, 2025 (~30 минут);
Семинар про Scientific ML
▫️ 11 июня (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступает: Михаил Лытаев (СПб ФИЦ РАН, Университет ИТМО)
Тема: Решение обратных задач методами глубокого обучения
Аннотация
Математическая модель позволяет прогнозировать поведение объектов, зная их параметры и параметры внешней среды. Однако зачастую настоящий интерес представляет обратная задача, т.е. определение параметров системы по наблюдаемому (или желаемому) поведению. Классическими примерами обратных задач являются медицинская визуализация, сейсмическая разведка, дистанционное зондирование. Т.е. задачи, в которых непосредственное измерение параметров объекта чрезвычайно дорого или невозможно. Вместо этого интересующие параметры (например, внутреннее строение тела или места залегания полезных ископаемых) пытаются восстановить по данным косвенных измерений. Другим примером являются задачи конструирования метаматериалов и оптимальное управление, когда нужно определить параметры системы таким образом, чтобы она обладала желаемыми свойствами.
Зачастую такие задачи не обладают никакими специальными свойствами, вроде линейности и выпуклости. Кроме того, обратные задачи относятся к классу некорректных: когда нельзя заранее сказать, имеет ли задача единственное физически адекватное решение.
Хотя обратные и некорректные задачи активно изучаются классической теорией и методами функционального анализа, все еще не хватает универсальных методов, подходящих для широкого круга задач. Существующие решения как правило носят узкоспециализированный характер.
Возникшие всего несколько лет назад методы т.н. scientific ML впервые предлагают универсальные методы решения обратных нелинейных задач, используя глубокое обучение. В докладе будут рассмотрены следующие подходы:
— нейронные операторы (DeepONet, FNO), позволяющие обучать обратный нелинейный оператор;
— физически информированные нейронные сети (PINN), позволяющие встраивать физические законы в функцию потерь;
— нейронные дифференциальные уравнения (NeuralODE), позволяющие синтезировать модели на основе дифференциальных уравнений и нейронных сетей;
— автоматическое дифференцирование численных схем, позволяющее строить солверы обратных задач на основе существующих программных реализаций решения прямой задачи.
На простых примерах покажем, как ставятся обратные задачи, в чем заключается суть их некорректность.
Уровень сложности: средний, глубоких знаний в области дифференциальных уравнений, функционального анализа и математической физики не требуется.
Ключевые слова: scientific ML, некорректные задачи, нелинейные операторы, нейронный оператор, нейронное дифференциальное уравнение, автоматическое дифференцирование.
▫️ 11 июня (среда), 17:00 МСК
▫️ Google Meet→
▫️ Трансляция YouTube→
Выступает: Михаил Лытаев (СПб ФИЦ РАН, Университет ИТМО)
Тема: Решение обратных задач методами глубокого обучения
Аннотация
Математическая модель позволяет прогнозировать поведение объектов, зная их параметры и параметры внешней среды. Однако зачастую настоящий интерес представляет обратная задача, т.е. определение параметров системы по наблюдаемому (или желаемому) поведению. Классическими примерами обратных задач являются медицинская визуализация, сейсмическая разведка, дистанционное зондирование. Т.е. задачи, в которых непосредственное измерение параметров объекта чрезвычайно дорого или невозможно. Вместо этого интересующие параметры (например, внутреннее строение тела или места залегания полезных ископаемых) пытаются восстановить по данным косвенных измерений. Другим примером являются задачи конструирования метаматериалов и оптимальное управление, когда нужно определить параметры системы таким образом, чтобы она обладала желаемыми свойствами.
Зачастую такие задачи не обладают никакими специальными свойствами, вроде линейности и выпуклости. Кроме того, обратные задачи относятся к классу некорректных: когда нельзя заранее сказать, имеет ли задача единственное физически адекватное решение.
Хотя обратные и некорректные задачи активно изучаются классической теорией и методами функционального анализа, все еще не хватает универсальных методов, подходящих для широкого круга задач. Существующие решения как правило носят узкоспециализированный характер.
Возникшие всего несколько лет назад методы т.н. scientific ML впервые предлагают универсальные методы решения обратных нелинейных задач, используя глубокое обучение. В докладе будут рассмотрены следующие подходы:
— нейронные операторы (DeepONet, FNO), позволяющие обучать обратный нелинейный оператор;
— физически информированные нейронные сети (PINN), позволяющие встраивать физические законы в функцию потерь;
— нейронные дифференциальные уравнения (NeuralODE), позволяющие синтезировать модели на основе дифференциальных уравнений и нейронных сетей;
— автоматическое дифференцирование численных схем, позволяющее строить солверы обратных задач на основе существующих программных реализаций решения прямой задачи.
На простых примерах покажем, как ставятся обратные задачи, в чем заключается суть их некорректность.
Уровень сложности: средний, глубоких знаний в области дифференциальных уравнений, функционального анализа и математической физики не требуется.
Ключевые слова: scientific ML, некорректные задачи, нелинейные операторы, нейронный оператор, нейронное дифференциальное уравнение, автоматическое дифференцирование.