В бакалавриате я учился по целевому, поэтому обязан был после 4-го курса либо идти отрабатывать 3 года, либо идти на кафедру предприятия. Выбрал первый вариант и параллельно поступил в магистратуру ЦКМ. Совмещать отработку было непросто, но всё же реально.

Магистратура дала твёрдое понимание, как делать научные исследования, как писать статьи, куда подаваться. Я получил достаточно большой опыт в работе с множеством моделей, виртуальных сред. Научился читать научные статьи, выбирать нужные мне по теме, отсеевать низкокачественные от хороших.

На кафедре темой работы в течении всего времени учебы было построение метода планирования поведения агентов с помощью языковой модели с использованием визуальной информации.

В конце 5-го курса, меня позвали работать в команду data alignment GigaChat в Сбер. Я успешно прошел все собеседования и разорвал целевой договор. Сейчас работаю почти год и занимаюсь внедрением аудио модальности в GigaChat.

На 3 курсе занимался обработкой сигналов на FPGA и программировал системы управления антеннами на python и C++. Выпустившись пошёл в бэкэнд разработчики. После двух лет работы понял, что это занятие не по душе. Ещё с бакалавриата хотел заниматься искусственным интеллектом и наукой, поэтому начал искать магистратуру и нашёл ЦКМ.

Учёба в МФТИ дала опыт реальной работы и разработки систем глубокого обучения, опыт написания статей. Думаю это самое основное преимущество магистратуры ЦКМ по сравнению с остальными.

Сейчас я аспирант в ЦКМ и работаю в ФИЦ ИУ РАН (в одной из лабораторий ЦКМ). Занимаюсь Объектно-центрическими моделями мира.

В 2020 подавался в магистратуры Сколтеха и ЦКМ, прошел в оба места и решил идти в ЦКМ, потому что у команды было больше сильных статей по RL.

Магистратура дала очень хороший опыт по моделям мира и RL. Также дала хороший проект Iglu по языковым агентам, благодаря которому меня заметили будущие научные руководители.

После магистратуры пробился на стажировку в EPFL, и подался в несколько мест на PHD. Прошел в Mila и поехал туда (в Канаду). Сейчас делаю PHD в Mila и стажируюсь в Meta AI. До этого проходил стажировку в Google DeepMind.

Cейчас занимаюсь построением агентов на основе моделей мира и больших языковых моделей.

Мои статьи можно посмотреть тут: artemzholus.github.io

Китайские гости проявили большой интерес к способам представления памяти и поиску объектов по запросам на естественном языке для роботов и интеллектуальных агентов. Также им понравилось, что у нас в проекты вовлечено много молодежи!

Команда NVIDIA представила метод Sage — он автоматически генерирует в масштабе реалистичные 3D-среды, готовые к симуляции: понимает указанные пользователем задачи (например, "взять миску и поставить её на стол") и итеративно улучшает сцены. Бонусом идет мощный датасет: 10 тыс. сцен, 50 типов комнат, более 500 тыс. уникальных объектов!
🪼Гитхаб
🪼Статья

ASK — это нейро-символическая система поиска и анализа научной литературы на основе ИИ, которая позволяет исследователям задавать вопросы на естественном языке и получать релевантные статьи с автоматически извлеченной ключевой информацией.
🪼Статья

Статья посвящена проблеме коллапса энтропии (снижения разнообразия) при обучении больших языковых моделей рассуждению с подкреплением на основе верифицируемых наград (RLVR) с использованием методов вроде GRPO; для её решения авторы предлагают новый механизм перевзвешивания преимущества (ARM), который динамически корректирует сигнал награды, поощряя модель исследовать недооцененные, но верные пути рассуждений и тем самым улучшая баланс между точностью и разнообразием.
🪼Статья

Online Vector-Quantized Attention — модификацию векторного квантования, которая учит словарь «думать на лету». Вместо статичного словаря, который дает ошибки на новых данных, здесь каждый новый токен обновляет только один ближайший центроид. Старая информация не вымывается новой волной токенов, а аккуратно перезаписывается по мере необходимости. Плюс есть хард-лимит на размер состояния, после достижения которого объем памяти перестает расти, а вычисления становятся строго линейными.
🪼Статья