Переранжирование и разнообразие

Потому что ранкер оценивает айтемы поштучно, а пользователь видит список целиком, и айтемы в нём взаимодействуют. Два айтема с вероятностью клика 0.20 дают 0.36, если независимы, и всего 0.20, если это дубликаты. А оригинал плюс менее релевантный айтем из другой темы (0.12) дают 0.296 — слейт на 48% лучше.

То есть «выбрать лучшие k айтемов» и «собрать лучший список из k айтемов» — разные задачи, и вторая не сводится к первой сортировкой.

Целью, а не механизмом. При exploration мы отклоняемся от жадного топа, чтобы получить данные о том, чего не показывали, — платим текущим качеством за будущее качество модели. При работе с разнообразием мы отклоняемся по продуктовым соображениям: список из десяти почти одинаковых товаров плох здесь и сейчас, независимо от того, какие данные соберём.

Механизм похож, но бюджеты и метрики успеха разные.

На трёх уровнях. Внутри выдачи — intra-list diversity (средняя непохожесть пар) и энтропия категорий. По пользователю за период — доля новых для него категорий, серендипность. По системе — coverage и Джини по показам.

Энтропия удобнее простого счёта категорий, потому что штрафует и за перекос: слейт «8 + 1 + 1» и слейт «4 + 3 + 3» содержат по три категории, но энтропия 0.639 против 1.089 — почти вдвое. А «8 + 1 + 1» это выдача из одной темы с двумя случайными вкраплениями.

Жадный отбор со штрафом за похожесть на уже выбранное: на каждом шаге берём \(\arg\max [\lambda\,\mathrm{rel}(u,i) - (1-\lambda)\max_{j\in S}\mathrm{sim}(i,j)]\). Штраф идёт по ближайшему уже выбранному, а не по среднему: один дубликат в слейте отравляет кандидата целиком.

Форма кривой размена типична: первые проценты разнообразия почти бесплатны (все три кластера покрываются за 7.6% релевантности, разнообразие растёт с 0.32 до 0.82), дальше цена резко растёт — оставшиеся 0.07 разнообразия стоят ещё 13 процентных пунктов. Работать надо в колене.

Только A/B. Офлайн-метрики всегда голосуют за λ = 1: при нём сумма релевантности максимальна по определению, и NDCG, и Recall@k. Они оценивают выдачу как множество независимых айтемов — то самое допущение, из-за которого слой переранжирования вообще понадобился.

Мерить надо продуктовые метрики: возвращаемость, длину сессии, долю пользователей, взаимодействующих больше чем с одной темой.

Задаём распределение на подмножествах с \(P(S) \propto \det(L_S)\), где \(L = \mathrm{diag}(q)\,S\,\mathrm{diag}(q)\), и сэмплируем из него. Определитель матрицы Грама — квадрат объёма параллелепипеда на этих векторах.

Коллинеарные векторы (почти одинаковые айтемы) дают объём ноль, и такое подмножество не сэмплируется вовсе. Ортогональные дают максимум. Для двух единичных векторов det = sin²θ: 0 при 0°, 0.75 при 60°, 1 при 90°. А длины отвечают за релевантность — det растёт как её квадрат.

Преимущество над MMR: одна конструкция учитывает и релевантность, и разнообразие, без ручного λ, балансирующего два слагаемых разной природы. Но в проде применяется редко — даже приближённые алгоритмы требуют явно посчитать матрицу близостей и разложить её, что не влезает в бюджет.

Потому что польза слейта обычно монотонна и субмодулярна: каждый следующий айтем добавляет не больше, чем добавил бы раньше — формализация насыщения. Для таких функций жадный алгоритм даёт не хуже 1 − 1/e ≈ 0.632 от оптимума.

И это не утешительный приз: перебор слейта из 10 по 500 кандидатам — это 2.5·10²⁰ вариантов. При реальных размерах задачи жадность — единственный вариант, у которого вообще есть гарантия снизу.

Да, если строить слейт авторегрессивно: решать задачу как предсказание следующего айтема с учётом уже выбранных. Тогда модель сама учится, что после кроссовок не надо показывать ещё четыре пары, — разнообразие получается как побочный эффект постановки, без ручного λ.

Цена: k последовательных проходов вместо одного батча, потому что позицию k нельзя посчитать, не выбрав предыдущие, — а это ровно то, чего не выдерживает бюджет ранжирования. Плюс модель наследует разнообразие из логов, собранных предыдущей политикой.