Инструменты
Как я искал булочную, а написал анализатор аномалий в отзывах на embeddings и графах
После переезда автор искал булочную на Яндекс Картах и наткнулся на отзыв, начинающийся с фразы «да вот хороший вариант ответа». Это натолкнуло его на мысль: как часто в отзывах встречаются шаблонные или сгенерированные тексты? Так родился ReviewScope — инструмент для поиска аномалий, дубликатов и необычных закономерностей в отзывах.
В статье подробно разбирается устройство инструмента: как используются embeddings для векторного представления текстов, как строятся графы совпадений для поиска повторяющихся фраз, и как взвешенный рейтинг помогает выявлять подозрительные отзывы. Автор также делится ошибками, которые пришлось исправить в процессе, и результатами проверки на 21 тысяче реальных отзывов.
Источник: habr.com