Как Ozon перешёл от ANN к точному KNN на GPU: итоги A/B-тестов в рекомендациях миллионного e-commerce
Команда рекомендательной системы Ozon поделилась практическим опытом перехода от ANN-индексов к точному KNN на GPU. В своей статье на Хабре инженеры объяснили, почему для крупного e-commerce с сотнями миллионов товаров и десятками миллионов пользователей ANN оказался неоптимальным — он давал компромиссы по качеству, которые стали критичны при росте нагрузки.
GPU-решение для скоринга позволило выжать максимум из железа, отказавшись от «чёрного ящика» готовых ANN-индексов. Ключевой результат — улучшение recall в A/B-тестах без увеличения времени обработки. В статье приведены конкретные цифры и архитектурные детали, включая оптимизации для работы с реальными пайплайнами, где каждый час и каждый процент recall имеют прямую коммерческую ценность.
Материал будет полезен инженерам рекомендательных систем, поисковых решений и всем, кто работает с большими векторными пространствами и ищет способы повысить качество, не жертвуя скоростью. Полный текст — на Хабре.