Плюс 6% на A/B-тесте. Как вам?
Большие рекомендательные системы обычно похожи на хорошо организованный завод. Сначала больше десятка алгоритмов независимо ищут кандидатов. Затем преранжирование отсеивает лишнее. После этого несколько моделей, использующих сотни вручную спроектированных признаков, определяют окончательный порядок.
Система сложная, но каждый её компонент решает понятную локальную задачу. И это хорошо.
Но тут команда Яндекс Музыки опубликовала Sona Technical Report — о генеративной рекомендательной модели, которая в эксперименте заменила всю производственную цепочку: более 15 генераторов кандидатов, преранжирование, финальное ранжирование и сотни инженерных признаков. Одна модель получает историю действий пользователя, генерирует возможные треки и сама определяет их порядок.
Но идея «одна обучаемая end-to-end модель вместо множества специализированных компонентов» выходит далеко за пределы LLM. Пока идут дискуссии, но, возможно, скоро мы будем смотреть на нынешние сложные рекомендательные конвейеры как на строительные леса — необходимые лишь до появления достаточно сильной единой модели.
Большие рекомендательные системы обычно похожи на хорошо организованный завод. Сначала больше десятка алгоритмов независимо ищут кандидатов. Затем преранжирование отсеивает лишнее. После этого несколько моделей, использующих сотни вручную спроектированных признаков, определяют окончательный порядок.
Система сложная, но каждый её компонент решает понятную локальную задачу. И это хорошо.
Но тут команда Яндекс Музыки опубликовала Sona Technical Report — о генеративной рекомендательной модели, которая в эксперименте заменила всю производственную цепочку: более 15 генераторов кандидатов, преранжирование, финальное ранжирование и сотни инженерных признаков. Одна модель получает историю действий пользователя, генерирует возможные треки и сама определяет их порядок.
В семидневном A/B-тесте на «Моей волне» в умных колонках Sona выдала:
🔵+4,53% активных пользователей;
🔵+6,30% времени прослушивания;
🔵+11,42% лайков;
🔵+17,99% команд «повтори»;
🔵+7,37% глубоко вовлечённых пользователей.
При этом эксперимент охватывал одну поверхность, а покрытие музыкального каталога пока уступает прежней системе.
Но идея «одна обучаемая end-to-end модель вместо множества специализированных компонентов» выходит далеко за пределы LLM. Пока идут дискуссии, но, возможно, скоро мы будем смотреть на нынешние сложные рекомендательные конвейеры как на строительные леса — необходимые лишь до появления достаточно сильной единой модели.