Кеш кандидатов в VK: как удешевить рекомендации без потери качества

Рекомендательные системы традиционно требуют много вычислительных ресурсов: каждый раз модели перебирают огромное число кандидатов. Инженеры AI VK применили кеш кандидатов — подход, при котором часть вычислений сохраняется и переиспользуется, не затрагивая итоговую релевантность.

Механизм уже работает в VK Видео и VK Клипах. По словам Николая Анохина, качество рекомендаций осталось на прежнем уровне, а нагрузка на железо заметно снизилась. Детали реализации команда описала в статье — с примерами кода и архитектурными решениями.