19 сентября состоится Practical ML Conf — хардовая конференция по практическому применению ML, где будем обсуждать технологии, которые уже работают!
Я состою в программном комитете уже не перый год, буду рад видеть вас лично и познакомиться с вашими проектами. Программный комитет отбирает доклады, опираясь на четыре основных критерия: пользу и новизну для сообщества, применимость на практике и хардовый уровень сложности.
Что планируем:
⚪ Эксперты программного комитета дадут советы по структуре и содержанию доклада
⚪ Прогоны материала вместе с тренером по публичным выступлениям
⚪ Нетворкинг с сильным ML-комьюнити
⚪ Промо спикеров и докладов до и после конференции
⚪ И самое главное — вы сможете стать частью главной конференции Яндекса по машинному обучению
Приём докладов заканчивается сегодня!
Подписывайтесь:
🔗 @Practical_ML_Conf
Я состою в программном комитете уже не перый год, буду рад видеть вас лично и познакомиться с вашими проектами. Программный комитет отбирает доклады, опираясь на четыре основных критерия: пользу и новизну для сообщества, применимость на практике и хардовый уровень сложности.
Что планируем:
Приём докладов заканчивается сегодня!
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤🔥9❤6👍3
Forwarded from ИИ и роботы в стройке
Посмотрела выступление Анастасии Анциферовой, исполнительного директора по исследованию данных центра исследований генеративного ИИ Сбера, На митапе у VisionLabs она рассказала о последних разработках Сбера и AIRI для автоматизации проектирования зданий
🟣 Автоматизация генерации массингов
CoMa — метод генерация массингов по текстовым требованиям с описанием ограничений, координатам участка и изображению окружения. На выходе пользователь получает 3D-геометрию здания в формате JSON.
🟣 Генерация планировок
Для генерации планировок AIRI улучшила диффузионную модель HouseDiffusion (она по графу связности комнат генерирует координаты стен, но не учитывает фиксированные элементы, а еще иногда оставляет пустые пространства между комнатами).
AIRI представила HouseDiffusion++. Базовую модель дообучили на датасете из 62 тысяч планировок, добавили кросс-аттеншн-блоки, которые нужны, чтобы модель не двигала фиксированные элементы (вентиляционные шахты, окна или двери), а также возможность экспорта результата в Revit.
🟣 Работа с BIM-моделями
IFC-QA — бенчмарк для проверки языковых моделей на понимание BIM-файлов, В нем 99 вопросов пяти уровней сложности. Результаты показали: лучшая модель отвечает правильно только в 68% случаев. На простых вопросах точность достигает 90%, но на сложных, требующих многошаговых рассуждений, падает.
Также у AIRI есть разработка Chat with IFC, где пользователь может получать ответы по IFC-файлу, просто в обычном чате с ИИ. Интересная штука — я узнаю, есть ли открытая работа.
🟣 Документация и чертежи
Анастасия отметила, что больше всего внутренних и внешних запросов приходит на автоматизацию работы с документацией. Здесь основные направления: OCR (распознавание символов), RAG и работа с базами документов через ИИ-агентов. Основная сложность — учет нормативки: новые градостроительные нормы принимаются буквально каждый день.
В следующих постах расскажу про метод CoMa.
CoMa — метод генерация массингов по текстовым требованиям с описанием ограничений, координатам участка и изображению окружения. На выходе пользователь получает 3D-геометрию здания в формате JSON.
Для генерации планировок AIRI улучшила диффузионную модель HouseDiffusion (она по графу связности комнат генерирует координаты стен, но не учитывает фиксированные элементы, а еще иногда оставляет пустые пространства между комнатами).
AIRI представила HouseDiffusion++. Базовую модель дообучили на датасете из 62 тысяч планировок, добавили кросс-аттеншн-блоки, которые нужны, чтобы модель не двигала фиксированные элементы (вентиляционные шахты, окна или двери), а также возможность экспорта результата в Revit.
«Сейчас в основном в области планировок мы занимаемся генерацией жилых зданий, но на следующий год у нас запланировано расширение до создания планировок для общественных пространств, школ, больниц».
«По поводу удобства планировок у нас сейчас есть направление меблировки: мы учимся расставлять мебель так, чтобы агенты, которые ходят по квартире, эмулируя поведение людей, тратили минимальное количество шагов на типичные перемещения».
IFC-QA — бенчмарк для проверки языковых моделей на понимание BIM-файлов, В нем 99 вопросов пяти уровней сложности. Результаты показали: лучшая модель отвечает правильно только в 68% случаев. На простых вопросах точность достигает 90%, но на сложных, требующих многошаговых рассуждений, падает.
Также у AIRI есть разработка Chat with IFC, где пользователь может получать ответы по IFC-файлу, просто в обычном чате с ИИ. Интересная штука — я узнаю, есть ли открытая работа.
«Документация — сейчас самая горячая тема»
Анастасия отметила, что больше всего внутренних и внешних запросов приходит на автоматизацию работы с документацией. Здесь основные направления: OCR (распознавание символов), RAG и работа с базами документов через ИИ-агентов. Основная сложность — учет нормативки: новые градостроительные нормы принимаются буквально каждый день.
В следующих постах расскажу про метод CoMa.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤21🔥10👍5❤🔥1🤓1
This media is not supported in your browser
VIEW IN TELEGRAM
Всем привет!
Выложили нашу работу “Does VLA Even Know the Basics?” в Daily Papers на Hugging Face 🤗
В статье мы задаёмся простым, но пока почти не изученным вопросом: есть ли в VLA-моделях commonsense знания о мире? 📚
⚡️Мы предлагаем Act2Answer: бенчмарк, где VLA модель отвечает на вопросы не текстом, а действием - кладёт куб на правильный вариант. Проверили 7 VLA и 9 VLM моделей на 12 категориях.
💡Интересные инсайты из работы:
→ VLA хорошо понимают примитивные концепты по типу Цвета и Формы
→ На более сложных категориях (Эмоции, Животные, Симметрия, Время, Счет, История) у VLA сильный дроп в сравнении с VLM
→ Знания есть в весах VLA моделей, однако они не транслируются в действия
→ Котрейнинг на VL данных хорошо помогает сохранять знания
→ SFT/RL файтюнинг на downstream роботикс задачах дергадирует знания
Поддержите нас апвоутом, пожалуйста ❤️
Выложили нашу работу “Does VLA Even Know the Basics?” в Daily Papers на Hugging Face 🤗
В статье мы задаёмся простым, но пока почти не изученным вопросом: есть ли в VLA-моделях commonsense знания о мире? 📚
⚡️Мы предлагаем Act2Answer: бенчмарк, где VLA модель отвечает на вопросы не текстом, а действием - кладёт куб на правильный вариант. Проверили 7 VLA и 9 VLM моделей на 12 категориях.
💡Интересные инсайты из работы:
→ VLA хорошо понимают примитивные концепты по типу Цвета и Формы
→ На более сложных категориях (Эмоции, Животные, Симметрия, Время, Счет, История) у VLA сильный дроп в сравнении с VLM
→ Знания есть в весах VLA моделей, однако они не транслируются в действия
→ Котрейнинг на VL данных хорошо помогает сохранять знания
→ SFT/RL файтюнинг на downstream роботикс задачах дергадирует знания
Поддержите нас апвоутом, пожалуйста ❤️
👍27❤🔥15🔥11❤5😁1
Начинаем первый день на ICML 2026💪
Довольно интересный доклад про способ «обогащения» рага графом темпоральных знаний с разными режимами работы, типа извлечения субграфа на лету через прерывания в диалоге.
https://arxiv.org/abs/2510.13590
Довольно интересный доклад про способ «обогащения» рага графом темпоральных знаний с разными режимами работы, типа извлечения субграфа на лету через прерывания в диалоге.
https://arxiv.org/abs/2510.13590
🔥17❤9👍5
Вчера вечером был на ивенте ML&DS Offstage от Ozon Tech, участвовал в круглом столе «Агенты: от исследований к бизнес-внедрениям», где модератором был мой хороший друг Алексей Обровец.
Очень интересные спикеры! Вроде бы стандартные и наболевшие вопросы, но так много разных содержательных мнений. Конечно, больше всего волнуются за молодое поколение, подходы к образованию в эпоху агентной экономики — всё это очень важно и нужно постоянно анализировать и развивать. А главное, «не бояться», потому что любые технологические изменения направлены на то, чтобы сделать жизнь лучше. Проблемы галлюцинаций, предсказуемости и объяснимости подведения моделей и агентов ещё находятся в глубокой фазе исследований, но как и любым инструментом агентами надо учиться пользоваться себе во благо, и мы явно идём правильным путём.
Ну и фотоотчёт😎
Очень интересные спикеры! Вроде бы стандартные и наболевшие вопросы, но так много разных содержательных мнений. Конечно, больше всего волнуются за молодое поколение, подходы к образованию в эпоху агентной экономики — всё это очень важно и нужно постоянно анализировать и развивать. А главное, «не бояться», потому что любые технологические изменения направлены на то, чтобы сделать жизнь лучше. Проблемы галлюцинаций, предсказуемости и объяснимости подведения моделей и агентов ещё находятся в глубокой фазе исследований, но как и любым инструментом агентами надо учиться пользоваться себе во благо, и мы явно идём правильным путём.
Ну и фотоотчёт
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥26❤18❤🔥7🙏3👍1
⚡️Новости опенсорса
👉GLM-5.2 ✅ Almost Opus-level
👉Kimi-K3 ✅ Almost Fable-level
👉Qwen-3.8 🔜 2.4T, Expected to beat Opus
👉Deepseek V4 GA 🔜 $0.0028/M Expected to beat Opus
👉Minimax-M3-Pro 🔜 3T, Expected to be Fable-level
👉GLM-5.5 🔜 Expected to beat Opus
👉GLM-5.2 ✅ Almost Opus-level
👉Kimi-K3 ✅ Almost Fable-level
👉Qwen-3.8 🔜 2.4T, Expected to beat Opus
👉Deepseek V4 GA 🔜 $0.0028/M Expected to beat Opus
👉Minimax-M3-Pro 🔜 3T, Expected to be Fable-level
👉GLM-5.5 🔜 Expected to beat Opus
❤26🔥10
Вот и price plan доехал от Qwen Cloud. По современным меркам очень демократичный)
https://www.qwencloud.com/pricing/token-plan
https://www.qwencloud.com/pricing/token-plan
👍6❤1
Kimi как обещали зарелизили в опенсурс веса своей самой крупной модели K3 - 2.8T параметров🔥
Осталось домашний комп чуть обновить и можно тестировать
https://huggingface.co/moonshotai/Kimi-K3
Осталось домашний комп чуть обновить и можно тестировать
https://huggingface.co/moonshotai/Kimi-K3
huggingface.co
moonshotai/Kimi-K3 · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
😁26🙏8🏆5
Интегрально инсайты из K3: 2.78Т параметров, 896 экспертов, 1M контекст. Под капотом — системная оптимизация на каждом уровне стека:
1️⃣ SiTU-GLU — замена SwiGLU с мягким насыщением активаций. Именно это позволило безопасно масштабировать sparsity до 56× (16 из 896 экспертов). Без этого приёма модель бы просто взорвалась
2️⃣ Quantile Balancing — балансировка нагрузки экспертов за один forward pass через квантили. Полностью убрали auxiliary loss, как следствие чище градиенты, быстрее сходимость
3️⃣ MoonViT-V2 — vision encoder обучен с нуля через next-token prediction. Контрастивный pre-training (SigLIP/CLIP) оказался нестабильным при joint optimization
4️⃣ AgentENV — microVM-песочницы вместо контейнеров для RL. Firecracker VM: checkpoint за 133ms, resume за 49ms, memory overcommit 6.5×51.2 млн sandbox'ов за тренинг
5️⃣ MoonEP — expert parallelism с доказуемой верхней границей redundant-экспертов. Обучение работает 100% времени без остановок на балансировку
1️⃣ SiTU-GLU — замена SwiGLU с мягким насыщением активаций. Именно это позволило безопасно масштабировать sparsity до 56× (16 из 896 экспертов). Без этого приёма модель бы просто взорвалась
2️⃣ Quantile Balancing — балансировка нагрузки экспертов за один forward pass через квантили. Полностью убрали auxiliary loss, как следствие чище градиенты, быстрее сходимость
3️⃣ MoonViT-V2 — vision encoder обучен с нуля через next-token prediction. Контрастивный pre-training (SigLIP/CLIP) оказался нестабильным при joint optimization
4️⃣ AgentENV — microVM-песочницы вместо контейнеров для RL. Firecracker VM: checkpoint за 133ms, resume за 49ms, memory overcommit 6.5×51.2 млн sandbox'ов за тренинг
5️⃣ MoonEP — expert parallelism с доказуемой верхней границей redundant-экспертов. Обучение работает 100% времени без остановок на балансировку
🔥12💯2🏆1
🤖 Ищем менеджера проектов в ИИ-стройку
Мы — SberAI, команда, которая строит будущее строительства с помощью искусственного интеллекта. Совмещаем исследования и реальное применение: автоматизируем анализ и составление строительной документации, извлекаем данные из BIM-моделей, создаём генеративные решения для архитектуры и дизайна.
Ищем человека, который сведёт воедино науку, продукт и стройку.
Чем предстоит заниматься
→ Управлять проектами от идеи до внедрения: планировать сроки, ресурсы, риски и зависимости
→ Синхронизировать усилия исследователей (DS, ML-инженеров) и продуктовой команды — переводить научные разработки в рабочие решения
→ Работать с заказчиками из строительной отрасли: понимать их процессы, формализовывать требования, контролировать качество поставки
→ Вести проектную документацию и обеспечивать прозрачность для всех стейкхолдеров
→ Анализировать рынок строительных ИИ-решений: конкуренты, тренды, регуляторика, потребности заказчиков
→ Формулировать бизнес-требования на основе анализа рынка и обратной связи — переводить инсайты в задачи для команды
→ Определять ключевые метрики: технические (точность, скорость инференса), продуктовые (вовлечённость, retention) и бизнесовые (экономия времени, снижение ошибок)
→ Готовить аналитику для руководства: эффективность внедрённых решений, прогнозы, сравнение с рынком
Что важно для нас
✅ Опыт управления проектами в технических командах 3+ лет — желательно в продуктах с ИИ-компонентом или сложной доменной логикой
✅ Понимание жизненного цикла ML-проектов: от сбора данных до production-инференса
✅ Знакомство со строительной отраслью или готовность быстро погружаться: BIM, проектная документация, СП, стадии строительного цикла
✅ Гибкость: умение работать и в условиях исследовательской неопределённости, и в режиме продуктовой поставки
✅ Коммуникация: умение объяснять сложные технические вещи нетехническим стейкхолдерам и наоборот
Откликнуться — пишите в личку Евгении Газарян @jjg26
Мы — SberAI, команда, которая строит будущее строительства с помощью искусственного интеллекта. Совмещаем исследования и реальное применение: автоматизируем анализ и составление строительной документации, извлекаем данные из BIM-моделей, создаём генеративные решения для архитектуры и дизайна.
Ищем человека, который сведёт воедино науку, продукт и стройку.
Чем предстоит заниматься
→ Управлять проектами от идеи до внедрения: планировать сроки, ресурсы, риски и зависимости
→ Синхронизировать усилия исследователей (DS, ML-инженеров) и продуктовой команды — переводить научные разработки в рабочие решения
→ Работать с заказчиками из строительной отрасли: понимать их процессы, формализовывать требования, контролировать качество поставки
→ Вести проектную документацию и обеспечивать прозрачность для всех стейкхолдеров
→ Анализировать рынок строительных ИИ-решений: конкуренты, тренды, регуляторика, потребности заказчиков
→ Формулировать бизнес-требования на основе анализа рынка и обратной связи — переводить инсайты в задачи для команды
→ Определять ключевые метрики: технические (точность, скорость инференса), продуктовые (вовлечённость, retention) и бизнесовые (экономия времени, снижение ошибок)
→ Готовить аналитику для руководства: эффективность внедрённых решений, прогнозы, сравнение с рынком
Что важно для нас
✅ Опыт управления проектами в технических командах 3+ лет — желательно в продуктах с ИИ-компонентом или сложной доменной логикой
✅ Понимание жизненного цикла ML-проектов: от сбора данных до production-инференса
✅ Знакомство со строительной отраслью или готовность быстро погружаться: BIM, проектная документация, СП, стадии строительного цикла
✅ Гибкость: умение работать и в условиях исследовательской неопределённости, и в режиме продуктовой поставки
✅ Коммуникация: умение объяснять сложные технические вещи нетехническим стейкхолдерам и наоборот
Откликнуться — пишите в личку Евгении Газарян @jjg26
❤9🙊8🔥5👍2😁1
Вдруг вчера кому-то было мало инсайтов про K3, предлагаю ещё такой коротенький почитать😉
https://sebastianraschka.com/blog/2026/kimi-k3-architecture-notes.html
https://sebastianraschka.com/blog/2026/kimi-k3-architecture-notes.html
Sebastian Raschka, PhD
Kimi K3 Architecture Notes
Short architecture note on Kimi K3, including LatentMoE, Kimi Delta Attention, Attention Residuals, NoPE, multimodality, and inference-efficiency choices.
❤9