Команда технологий голосового ввода Яндекса придумала способ добавлять в умные устройства новые голосовые команды без забывания старых

Это классическая проблема непрерывного обучения, рассказали в ML Underhood. Чтобы устройство начало понимать новые команды, модель распознавания речи нужно дообучить. Но после обновления она может начать хуже распознавать знакомые фразы.

Стандартные методы вроде EWC пытаются удерживать параметры модели рядом с исходными значениями. Однако результат зависит от настройки ограничений, а гарантировать сохранение качества старых команд всё равно нельзя.

Исследователи Яндекса предложили другой подход — модульное расширение сети. Основную модель полностью замораживают, поэтому она продолжает отвечать за старые команды без изменений. Легковесные модули переиспользуют информацию из активаций старых слоёв и учатся распознавать новые команды. Поскольку параметры основной модели не меняются, качество старых команд сохраняется за счёт самой архитектуры, а не подбора настроек обучения.

Подход проверили на открытом наборе Google Speech Commands. В пяти отдельных экспериментах модель обучали распознавать новую пару команд, сохраняя поддержку восьми уже известных.

Средняя доля пропущенных новых команд снизилась с 6,46% до 4,37% по сравнению с отдельной моделью с тем же бюджетом дополнительных параметров. Модульное расширение также превзошло адаптеры и LoRA по качеству и количеству вычислений.

В результате получился практичный способ обновлять голосовые устройства с ограниченными ресурсами процессора и памяти: новые сценарии можно дополнять компактными модулями, не переобучая всю модель и не рискуя уже работающими функциями.

Статью Scalable Keyword Spotting via Modular Network Expansion приняли на Interspeech 2026. Конференция пройдёт с 27 сентября по 1 октября в Сиднее.

https://habr.com/ru/companies/yandex/articles/1061968

AI Agents Security Week от ШАДа — последний шанс успеть

ИИ-агенты пишут код, работают с базами данных, дёргают внешние API и всё чаще принимают решения без участия человека. Вместе с этим растёт и вопрос — как устроена инженерная сторона таких систем и что нужно знать, чтобы делать их правильно.

С 27 по 31 июля Яндекс и ШАД проводят онлайн-интенсив об инженерной стороне безопасности агентных систем: как выдавать агентам доступы, следить за данными и закрывать уязвимости на уровне архитектуры.

Что конкретно расскажут:

— Чем автономные агенты отличаются от LLM с точки зрения угроз и как защищаться.
— На каких принципах строится безопасность агентных систем.
— Какие проблемы реально возникали у разработчиков разных моделей.

Все на примерах и с разборами конкретных практических кейсов.

Всего будет пять вечерних онлайн-занятий. После итоговой работы и теста вы получите сертификат.

Регистрация закрывается 27 июля, сейчас буквально последние дни, чтобы попасть на интенсив. Программа, спикеры и форма – по ссылке.

Дженсен Хуанг завел X и первый пост посвятил важности опенсорсных ИИ-моделей

https://x.com/jensenhuang/status/2080643682408321103?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

На фоне новостей о возможном закрытии доступа к открытым китайским моделям в США началась волна петиций и открытых писем против этой инициативы.

За сохранение доступа выступает целый ряд крупных компаний: Meta*, Microsoft, Mistral, Hugging Face, Y Combinator, IBM, Mozilla, Palantir и другие.

Конечно, к ним присоединилась и Nvidia. Видимо, Дженсен видит в подобных обсуждениях правительства реальную возможность принятия соответствующего закона, раз даже решил завести Твиттер и вызвать тем самым максимальную огласку.

В письме из поста Хуанга, которое подписали все вышеперечисленные компании, говорится примерно следующее (https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf):

Лидерство в ИИ определяется не одной топовой моделью, а тем, построим ли мы открытую экосистему, которая проникает во все отрасли – заводы, больницы, фермы, школы, малый бизнес. Открытые веса дают возможность подобрать модель под задачу и не переплачивать фронтирную цену за рутину – именно это делает ИИ экономически устойчивым при масштабировании до миллиардов задач. Открытость усиливает конкуренцию и не дает компаниям завязаться на одного вендора, и организации сохраняют контроль над своими данными и накопленными знаниями.

Да, открытые веса несут риски: после релиза модель выходит из-под контроля разработчика, а модифицированные версии сложно отследить. Но правильный ответ на это – не запрет. Если злоумышленники используют продвинутый ИИ, у защищающихся должен быть доступ к моделям сопоставимых возможностей. Более того, открытость может быть одним из главных путей к безопасности ИИ: закрытые модели не безопасны по умолчанию, а концентрация возможностей в руках нескольких провайдеров создает мало точек отказа.

Отдельно в письме подчеркнуто, что регуляторам не стоит путать легитимные техники разработки моделей с незаконным присвоением интеллектуальной собственности, и что дистилляция – это общепринятая практика в духе давней традиции строить на существующих технологиях. Это, само собой, тонкий намек на то, что бесконечные обвинения в адрес китайских стартапов уже звучат смешно.

OpenAI и Anthropic в это время отсиживаются тихо. Видимо, они единственные, кому закрытие доступа к китайскому опенсорсу было бы на руку.

UPD: подсказали, что OpenAI все-таки подписали за компанию с Microsoft, просто без огласки