Рекомендательная [RecSys Channel]
3.24K subscribers
240 photos
4 videos
138 links
Канал про рекомендательные системы от ml-специалистов Яндекса. Делимся опытом, обсуждаем новые подходы и интересные статьи.

Вопросы и предложения > @yandex_ml_brand
Download Telegram
Три статьи на стыке LLM и Recsys

Сегодня делимся сразу тремя работами о том, как LLM встраивают в разные части рекомендательных и шопинговых систем.

Building a Production Shopping Agent at Scale

Amazon делятся опытом внедрения их шопингового агента Rufus. Здесь LLM — оркестратор: она принимает запрос пользователя, контекст диалога и релевантные пользовательские фичи и по ним понимает, в какие тулы нужно сходить, чтобы удовлетворить интент. По результатам работы тулов модель формирует окончательный ответ пользователю.

Агент работает в нескольких сценариях: 1) помогает с Product Discovery, когда пользователь ещё не знает конкретный товар; 2) отвечает на вопросы о конкретных товарах; 3) обращается к профилю пользователя, например смотрит прошлые покупки и текущие заказы, и может сам добавлять товары в корзину.

Авторы показывают несколько приёмов для ускорения цепочки.

• Отбирают только релевантные события из истории пользователя и сокращают историю диалога, чтобы не засорять контекст и уменьшать время до первого токена.
• Оптимизируют промпты, делая более стабильные и переиспользуемые префиксы, чтобы не пересчитывать одинаковое состояние агента.
• Делают вызовы тулов строже и по возможности параллелят, чтобы быстрее выдавать результат пользователю.

Можно улучшать каждый компонент по отдельности, но просадить общий пользовательский опыт. Чтобы такого не было, авторы предлагают смотреть на систему end-to-end: насколько удачной была работа агента, устроил ли результат пользователя и насколько дорогим и долгим оказался весь пайплайн.

Probe-Then-Plan: Environment-Aware Planning

Авторы из JD решают задачу сложных пользовательских запросов. Здесь «сложные» — не те, что требуют сложного ризонинга, а те, которые понятны человеку, но плохо переводятся на язык каталога. Например, пользователь хочет подобрать что-то «к зелёной рубашке»: человеку понятно, что речь скорее о брюках, джинсах или обуви, а простой поиск может выдать ещё больше рубашек.

Авторы замечают, что часто достаточно один раз посмотреть на выдачу, чтобы понять, как исправить запрос. Поэтому сначала смотрят, что по исходному запросу выдаёт продакшен-стек. Небольшой Qwen определяет, всё ли с выдачей хорошо, слишком ли она маленькая или товаров много, но они не соответствуют запросу, и при необходимости предлагает план исправления. Модель дистиллируют из большой LLM, а затем дообучают с RL на бизнес-цели.

Даже маленькая модель даёт заметное замедление, поэтому 80% простых запросов оставляют текущему продуктовому стеку, а 20% сложных отправляют через новый пайплайн.

В офлайне подход заметно лучше слепого переписывания запроса. По качеству он уступает ReAct, зато сильно выигрывает по времени. В онлайне всё конвертируется в GMV.

RecGPT-Mobile

Здесь on-device LLM используют, чтобы быстро понять изменения интента в рекомендательной ленте.

Допустим, пользователь внезапно начинает чаще кликать по компактным рюкзакам и добавлять их в избранное. Специальный модуль замечает изменение поведения и триггерит систему. Из залогированных на устройстве релевантных событий формируется промпт для on-device LLM, которая генерирует query под новый интент. Он отправляется в облако, где большая продовая система возвращает релевантные товары и обновляет ленту.

Чтобы всё это работало на устройстве, используют Qwen3-0.6B с квантизацией, берут не всю историю, а только полезный контекст и запускают систему не на каждый случайный клик, а только когда поведение действительно меняется.

В экспериментах LoRA обходит полный тюнинг модели, а квантизация теряет не так много качества. В месячном A/B-тесте получили +2,5% GMV на четырёх поверхностях.

@RecSysChannel
Разбор подготовила ❣ Екатерина Дмитриева
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤14🔥11✍3👌1🤝1
Generating Long Semantic IDs in Parallel for Recommendation

Генеративные модели с Semantic ID обычно используют короткие ID, например из четырёх токенов. Делают так, потому что авторегрессионная генерация длинных даёт высокую задержку и большой расход памяти. Но с короткими тоже есть проблема — они ощутимо ограничивают выразительность представления объектов.

В статье RPG предложили отказаться от авторегрессионной генерации и предсказывать все токены Semantic ID параллельно. Благодаря этому можно использовать длинные Semantic ID — до 64 токенов, и это ключевой вклад работы.

Но для параллельной генерации не очень подходят обычные Semantic ID на основе RQ. В RQ каждый следующий токен кодирует остаток после предыдущего, поэтому токены последовательно зависят друг от друга, а первые оказываются важнее последних. Вместо RQ авторы используют OPQ, который сначала преобразует item-вектор, а затем делит его на отдельно квантуемые подпространства. Поэтому токены получаются более независимыми и сбалансированными.

На обучении используется multi-token prediction loss. Модель параллельно предсказывает токены, а не сами товары, и для каждой позиции Semantic ID задан конкретный таргетный токен. Хотя генерация параллельная, позиции ID фиксированы — эквивалентность между разными комбинациями токенов на обучении не учитывается.

На инференсе возникает другая проблема. Независимо предсказанные токены могут сложиться в комбинацию, которой нет ни у одного реального айтема. Чтобы решить это, авторы используют graph-constrained decoding. Вершины графа соответствуют валидным Semantic ID реальных айтемов, а рёбра связывают похожие ID. Поиск проходит по этому графу и не требует полного перебора каталога.

Согласно приведённым результатам, RPG занимает первое место в 15 из 16 сравнений среди бейзлайнов. А по метрике NDCG@10 показывает в среднем относительный прирост 12,6% по сравнению с сильнейшим бейзлайном.

При этом в эксперименте на датасете Sports runtime GPU memory примерно в 25 раз ниже, а инференс почти в 15 раз быстрее относительно TIGER. При фиксированных параметрах декодирования время инференса и используемая GPU-память не зависят напрямую от числа айтемов. Однако полное хранилище, включая decoding graph и отображение айтемов в токены, растёт вместе с каталогом.

Отдельно авторы анализируют выразительность Semantic ID на энкодерах sentence-t5-base и text-embedding-3-large. Получается интересное: сильный энкодер сам по себе не гарантирует прирост. TIGER с коротким ID может потерять часть информации из хорошего эмбеддинга, тогда как RPG с длинным OPQ-ID лучше её сохраняет.

Абляции, которые в работе довольно подробные и убедительные, подтверждают, что отдельные части подхода работают именно вместе. При этом в целом статья пока выглядит скорее как исследование, чем как готовое продакшн-решение, потому что эксперименты проведены только на публичных Amazon-датасетах, production latency benchmark отсутствует, а обновление графа при изменении каталога не исследовано.

@RecSysChannel
Разбор подготовила ❣ Варвара Родионова
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8👍5🔥5💯3❤‍🔥2🤝2🤩1
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture

Сегодня разбираем статью от Meta*. Это практическая работа о том, как в большом сервисе коротких видео повысить качество модели на этапе финального ранжирования. О жёстких ограничениях латенси тоже не забываем.

Главный вопрос — куда направить дополнительный вычислительный бюджет в рантайме. Варианты такие:

- на моделирование взаимодействий признаков,
- на моделирование последовательности действий пользователя,
- на то и другое.

Авторы выбрали третий вариант и предложили WHALE — архитектуру из двух параллельных веток с модулем фьюзинга:

1) Wukong-модуль работает со стандартными числовыми фичами: счётчиками и предиктами нижестоящих моделей.
2) HSTU-модуль обрабатывает исходную пользовательскую историю до 15 тысяч событий.

На каждом слое Wukong через cross-attention обращается к состояниям HSTU и вытаскивает информацию, релевантную конкретному кандидату. Получившееся представление передаётся на вход следующего слоя, там всё повторяется.

Информация идёт только из истории в Wukong, но не обратно, поэтому ветвь вычисления HSTU не зависит от кандидата. Таким образом длинную историю пользователя можно посчитать один раз и переиспользовать KV-cache для всех кандидатов.

В экспериментах авторы проверили, что вообще выгоднее масштабировать (вопрос, заданный в начале). Их основная оффлайн-метрика — Normalized Entropy (NE) — показывает улучшение logloss-модели относительно оптимальной константы. При сопоставимом бюджете на вычисления увеличение только Wukong дало всего до +0,06% NE, что близко к уровню шума. Масштабирование HSTU даёт +0,73%, а масштабирование сразу обеих ветвей в WHALE — уже +1,39%.

Отдельно проаблейтили раннее связывание через attention-механизм. Если cross-attention заменить обычным mean-пулингом, результат получается хуже на 0,23% NE. Почти весь выигрыш — именно от выборочного извлечения информации из несжатой истории.

Также WHALE проверили в двухнедельном A/B-тесте на срезе рекомендаций некоторой неназванной соцсети. По основной онлайн-метрике авторов получили +0,113% при снижении inference QPS на 5%.

Главный вывод, который тут подтвердили — дополнительный компьют в финальном ранжировании выгоднее тратить на длинную пользовательскую историю и её взаимодействие с кандидатом по глубине сети. Принципиально новой идеи здесь, кажется, нет. Но зато авторы взяли сильные бейзлайны, собрали из них нафаршированную модель и довели её до успеха в онлайне.

@RecSysChannel
Разбор подготовил ❣ Александр Плошкин

___
Компания Meta признана экстремистской; её деятельность в России запрещена.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8👍8🎉5💯1🏆1
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation [1/3]

Сегодня приступаем к разбору статьи о том, как объединить генерацию кандидатов и ранжирование в одной модели. Начнём с проблематики и первого шага фреймворка OneRanker.

У современных рекомендательных подходов есть несколько минусов:

• Конфликт интереса пользователя и ценности для бизнеса. Генерация кандидатов опирается на клики и конверсии в истории пользователя, но системе важно учитывать и ценность объектов для бизнеса (например, для рекламы это eCPM). Если напрямую обучать генератор на обеих целях, они тянут общее представление в разные стороны: ухудшается и охват интересов, и отбор ценных объектов. Если же учитывать ценность только при ранжировании, лучшие по этому критерию кандидаты могут отсеяться раньше, чем начнётся ранжирование.

• Нечувствительность к кандидату (target-agnostic). При генерации представление пользователя одинаково для разных кандидатов. Поэтому модель не может выделить в истории именно те события, которые важны для оценки конкретного объекта.

• Разрыв между этапами. Отдельные генератор и ранжировщик могут повторно обрабатывать одну историю и учить разные представления.

Чтобы решить эти проблемы, авторы предлагают интегрировать генерацию в ранжирование на архитектурном уровне. Так появился фреймворк OneRanker. Он состоит из трёх шагов.

Шаг 1. Основа генерации

OneRanker опирается на предыдущую работу Tencent — GPR. История пользователя представлена последовательностью разнородных токенов: пользователя (U), контента (C), контекста (X) и объектов (I). Декодер на основе HSTU обрабатывает эту последовательность, а авторегрессионный механизм multi-token prediction (MTP) позволяет за один проход модели параллельно строить несколько полных цепочек семантических ID.

Что происходит на втором шаге фреймворка, подробно разберём в следующем посте.

@RecSysChannel
Разбор подготовил ❣ Артём Ваншулин
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7👍7🔥3👏2🤩1🤡1
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation [2/3]

В прошлом посте приступили к разбору статьи о том, как в три шага объединить генерацию кандидатов и ранжирование в одной модели. Начали с проблематики и первого шага фреймворка, сегодня продолжим обсуждать второй шаг.

Шаг 2. Учёт задач и кандидатов (multi task/target aware)

Разделение задач. Авторы вводят task tokens:

• по одному на каждую задачу, связанную с действиями пользователя (например, показ, клик или конверсия);
• отдельный для бизнес-ценности.

Они используют общее представление истории, но связаны с разными выходными головами. Токены упорядочены, например: показ → клик → конверсия → ценность. Каузальная маска позволяет поздним токенам учитывать ранние; ранние не видят поздние при attention.

Fake Item Tokens. Авторы кластеризуют эмбеддинги объектов методом K-means и используют как токены центры кластеров (в статье используют 32 кластера). Это ориентиры в пространстве объектов, а не реальные кандидаты. Они дают генерации приближённую информацию о том, какие области этого пространства важны для пользователя в конкретной задаче.

Взаимодействие токенов. Task tokens и Fake Item Tokens сначала обращаются к представлениям истории из шага 1 через cross-attention, затем взаимодействуют через self-attention. Маска разрешает обмен между токенами задач и центров, но не между разными центрами.

Два канала представления. Для каждой задачи модель сохраняет семантический вектор её task token. Второй канал строится из пар этого токена с каждым Fake Item Token: пары проходят через MLP, а результаты суммируются. Получается сигнал о предпочтениях пользователя по областям пространства объектов в рамках данной задачи. Оба канала объединяют в представление пользователя.

Представление айтема строится симметрично: к его эмбеддингу добавляют косинусное сходство с каждым центром кластера. Скалярное произведение представлений пользователя и айтема даёт скор отбора. Он складывается из семантического соответствия задаче и соответствия по центрам: насколько айтем близок к областям, важным для пользователя.

Уточнённые представления шага 2 подаются в MTP для генерации кандидатов. На шаге 3 эти кандидаты получат отдельные скоры ранжировщика.

Шаг 3, обучение и результаты экспериментов обсудим в заключительном посте.

@RecSysChannel
Разбор подготовил ❣ Артём Ваншулин
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥5👏3❤2
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation [3/3]

Заключительная часть разбора статьи о том, как в три шага объединить генерацию кандидатов и ранжирование в одной модели. В первом посте разобрали проблематику и первый шаг, во втором — следующий шаг. Сегодня обсудим заключительный шаг, обучение и результаты экспериментов.

Шаг 3. Ранжирование кандидатов

Для ранжирования авторы встраивают специализированный декодер ранжирования (R-Decoder) в общую генеративную архитектуру. Ему на вход поступают токены кандидатов, полученные MTP на шаге 2. В Query авторы добавляют к ним специальный ranking task token Tᵣ. В Key/Value передают представления из обоих предыдущих шагов: базовые интересы пользователя из шага 1 и уточнённые представления из шага 2. Так ранжировщик использует внутреннюю информацию генерации, а не только её результат.

Декодер состоит из одного слоя: сначала cross-attention к Key/Value, затем self-attention. Маска запрещает кандидатам видеть друг друга, но позволяет каждому видеть Tᵣ. Выход каждого кандидата небольшая MLP превращает в скалярный скор.

Обучение

Модель совместно обучается на трёх функциях потерь:

• Lₘₜₚ учит генератор предсказывать правильный код на каждом уровне семантического ID. Для головы бизнес-ценности авторы дополнительно используют семплирование с весом по ценности.
• Lᵣₐₙₖ учит ранжировщик ставить кандидата с большей меткой eCPM выше кандидата с меньшей.
• Lᴅᴄ связывает этапы: скоры ранжировщика превращаются в распределение по текущему набору кандидатов, а генератор учится приближать к нему свои вероятности.

Общая потеря — взвешенная сумма этих трёх частей.

Эксперименты

В офлайн-экспериментах авторы сравнили OneRanker с HSTU и MTP-версией GPR по двум метрикам: HR@K — попадание целевого объекта в топ-K, и NDCG@K — качество порядка объектов в топ-K. Относительно GPR метрика HR@1 выросла с 0,1824 до 0,2639 (+44,7%), а NDCG@5 — с 0,6818 до 0,7904.

В онлайн A/B-тесте OneRanker сравнивали с каскадом из генератора и отдельного ранжировщика. Прирост GMV-Normal снижался по мере выкатки на больший процент трафика:

• +1,34% на 5% трафика,
• +0,64% на 20%,
• +0,35% на 80%.

Авторы показывают снижение эффекта при росте охвата, но не дают его причинного объяснения.

@RecSysChannel
Разбор подготовил ❣ Артём Ваншулин
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10👍6❤4❤‍🔥2🥰1👏1
X-Rec Technical Report

Сегодня разбираем статью TikTok о генеративной кандидатогенерации с помощью flow matching. Авторы предлагают учить распределение следующего айтема в непрерывном пространстве эмбеддингов, чтобы учитывать несколько разных интересов пользователя.

В обычном user-to-item-подходе модель кодирует пользователя одним эмбеддингом и ищет ближайшие к нему айтемы, однако с таким подходом невозможно закодировать несколько интересов единовременно. Для решения этой проблемы пользователя можно кодировать несколькими эмбеддингами, но тогда модель сможет представить лишь заранее заданное число интересов.

Ограничение снимает авторегрессивный подход с генерацией Semantic ID, который способен моделировать более сложное распределение следующих айтемов. Однако для этого исходные эмбеддинги квантуют, что приводит к потере информации, а последовательное авторегрессионное декодирование имеет малую пропускную способность.

Авторы предлагают решить эти проблемы, генерируя эмбеддинги напрямую с помощью flow matching, следующим образом:

1. По пользовательскому контексту трансформер предсказывает якорь — индекс семантического кластера следующего айтема.

2. Затем тот же трансформер работает как DiT: с помощью flow matching он преобразует случайный шум в эмбеддинг, обусловливаясь на пользовательский контекст и выбранный якорь. Поскольку эмбеддинги айтемов нормированы и лежат на единичной сфере, авторы используют Riemannian flow matching вместо евклидового. Чтобы сократить вычисления, применяется позднее связывание: на каждом шаге генерации заново применяется только последний слой трансформера.

3. По получившимся эмбеддингам находят ближайших соседей в ANN-индексе.
Как отмечают авторы, якорь не принципиально обязателен, но без него задача усложняется, а итоговое качество снижается. В их экспериментах удаление якоря снизило средний Recall@20 с 10,76% до 8,71%.

В офлайн-экспериментах X-Rec дал +0,53 п. п. Recall@20 относительно авторегрессионного варианта на Semantic ID при пропускной способности генерации в 3,46 раза выше. ANN-поиск в измерение скорости не включали.

Отдельно авторы проверили, как лучше распределить фиксированный бюджет кандидатов: сгенерировать меньше эмбеддингов и найти больше соседей для каждого или сгенерировать больше эмбеддингов и взять по одному соседу. Для X-Rec увеличение разнообразия действительно сопровождалось ростом качества. При переходе от одного эмбеддинга к десяти средняя попарная косинусная близость снизилась с 1 до 0,823, а Recall@20 вырос с 8,28% до 9,63%. У детерминированного multi-interest U2I-подхода близость снизилась ещё сильнее — с 1 до 0,696, однако Recall@20 упал с 6,98% до 5,32%. Неожиданно такой же эффект наблюдался при повышении температуры семплирования якорей: при росте температуры с 0,8 до 1,6 средняя попарная косинусная близость снизилась с 0,809 до 0,779, а Recall@20 вырос с 10,38% до 10,84%.

В онлайне X-Rec добавили как новый кандидатогенератор для одной тематической вертикали TikTok. Авторы заявляют суммарный эффект запусков: +4,1484% вовлечённости в вертикали и +0,0111% общей вовлечённости в TikTok.

Основной результат работы — получилось успешно применить flow matching к кандидатогенерации, действительно учитывая разнообразные интересы пользователя и доведя до продакшена с приростом онлайн-метрик.

@RecSysChannel
Разбор подготовил ❣ Александр Новак
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥9❤8👍3👏2🥰1
Beyond Fixed Depths and Widths: Optimizing Textual Decoding Tries in LLM-based Generative Recommendation

Сегодня разбираем статью о том, почему при проектировании ID айтемов стоит учитывать будущий beam search.

В генеративных рекомендациях модель предсказывает ID по токенам. Чтобы получить объект из каталога, поиск ограничивают деревом допустимых префиксов — trie. На каждом шаге beam сохраняет лучшие гипотезы, а отброшенные пути уже не возвращаются. Если первые уровни дерева слишком широкие, нужный айтем может потеряться ещё до того, как модель доберётся до различающих его признаков.

Авторы предлагают совместно строить текстовые ID и дерево, следуя двум принципам:

1) Уменьшать ветвистость, особенно в начале генерации.
2) Допускать разную длину ID для разных объектов.

Работает это так. Из метаданных извлекают информативные слова. В каждом узле выбирают небольшой набор слов, который покрывает все находящиеся там айтемы. Для этого используют greedy set cover: очередное слово покрывает максимум ещё не покрытых объектов. Затем процедуру повторяют внутри получившихся групп. Путь до объекта становится его ID. Например, общие признаки вроде жанра могут оказаться в начале, а более подробные дальше. Так детальный выбор откладывается на последующие шаги поиска.

Возникает вопрос: чем это отличается от подходов с semantic ID на основе кодбуков? В таких методах сначала получают последовательности дискретных кодов, а затем строят по ним дерево общих префиксов. BONSAI совместно проектирует текстовые ID и дерево, учитывая удобство будущего поиска. Это может помогать при ограниченном beam; текстовые признаки также позволяют использовать знания предобученной LLM. Но в статье не изолируют эффект выбора способа кодирования при одинаковых остальных компонентах.

Рекомендательная модель — предобученная Qwen3‑1.7B. История пользователя подаётся текстом: каждый айтем представлен последовательностью слов-признаков, выбранных из его метаданных. Эта последовательность читается вдоль пути от корня дерева до листа айтема и после токенизации становится входом LLM. Если у айтема несколько допустимых путей, для SFT выбирают самый длинный. Айтемы истории перечисляют в хронологическом порядке. Сначала модель обучают на правильном следующем объекте через SFT, затем дообучают с GRPO, поощряя попадание в целевой айтем при constrained beam search.

На Amazon Beauty, Sports и Toys BONSAI превосходит GRLM по Recall и NDCG. Максимальный относительный прирост — 21,6% по Recall@10 на Toys. Результаты относятся ко всему пайплайну с обучением, а перенос на промышленный каталог потребует проверки.

@RecSysChannel
Разбор подготовила ❣ Вероника Иванова
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7👍5🔥4👏1
ORBIT: Preserving Foundational Language Capabilities in GenRetrieval via Origin-Regulated Merging

ORBIT — ещё одна статья на стыке LLM и Recsys. Исследование провели на сравнительно небольших моделях (Gemma3-1B) и датасете Amazon, где основное внимание уделяется дообучению LLM для рекомендаций и сохранению языковых способностей исходной модели.

Авторы действуют из установки, что об LLM нам известна только сама instruction-tuned-модель, без доступа к данным обучения. Цель — адаптировать модель к рекомендательной задаче. Однако при дообучении возникает catastrophic forgetting, когда качество решения общих языковых задач и задач на рассуждение резко снижается.

Один из возможных подходов — подмешивать текстовые данные при дообучении. Однако исходные они могут быть недоступны, а также это дорого по ресурсам.

Альтернативой может стать model merging — объединение моделей в пространстве весов. В этом случае не требуется дополнительное обучение модели, но, оказывается, классический model merging после обучения не обобщается. Поэтому авторы переходят к model merging во время файнтюнинга.

Цель работы — предложить легковесный способ адаптировать модель к рекомендациям и не сильно потерять исходные языковые способности LLM.

В основных экспериментах используют decoder-only Gemma3-1B-IT. Модель дообучают предсказывать SID следующего айтема по истории пользователя.

Авторы приводят несколько наблюдений.

Деградация при обычном файнтюнинге на задачу рекомендаций. Качество модели на текстовых бенчмарках резко снижается до уровней, сопоставимых со случайным выбором ответа или предсказанием самого частого класса.

Скорость забывания. Забывание происходит уже на ранних этапах обучения. Старые знания практически теряются уже через 20% датасета, тогда как качество рекомендаций в целом растёт.

Model Merging после обучения. Метрики рекомендательной задачи только начинают расти, а почти все текстовые знания LLM уже потеряны.

Предлагают два изменения:

1. Во время обучения контролировать отклонение модели от исходного состояния. Для этого рассматривают две меры: L2-расстояние между параметрами модели и Sign Dissimilarity (SD) — долю соответствующих параметров с несовпадающими знаками.

2. Сделать merging адаптивным. Объединяют модели, только когда дообученная сильно отличается от исходной. Текущие веса усредняются с фиксированными весами LLM с равными коэффициентами. Операция повторяется до выполнения ограничения. Добавившиеся веса SID словаря не трогают.

Особое внимание уделяют SD — доле параметров, у которых изменился знак относительно исходной модели. Авторы интерпретируют смену знака как индикатор существенного изменения параметра. SD оценивает долю таких параметров, тогда как L2-расстояние отражает совокупную величину изменения весов. Причём именно SD позволяет добиться более универсальной модели. А в качестве метрики сравнения различных подходов авторы выбирают DTIP — расстояние до идеальной точки (1, 1) после min-max-нормализации текстовых метрик и Recall относительно baseline-моделей.

Основные результаты подхода:

• Лучшие конфигурации ORBIT дают лучший баланс между текстовыми и рекомендательными метриками по DTIP в сравнении с baseline-методами.
• Использование SD для определения момента объединения весов даёт лучший баланс качества, чем проверенные варианты ORBIT с L2-расстоянием.
• Интервалы между операциями merging действительно определяются адаптивно. Они сначала растут, а затем количество шагов между model merging стабилизируется.
• Применимость метода показали при масштабировании с Gemma3-1B-IT до Gemma3-4B-IT.

@RecSysChannel
Разбор подготовил ❣ Владислав Додонов
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤11🔥7👌5🤝1