Reddit взялся за спам от LLM с помощью LLM: платформа борется с огнём огнём

Reddit объявил, что использует большие языковые модели для борьбы со спамом, который во многом порождён теми же LLM. В эпоху, когда любой может сгенерировать тонны правдоподобного, но бессмысленного контента, традиционные фильтры перестали работать: спам стал слишком похож на настоящие посты.

Платформа внедрила внутренние ИИ-детекторы, которые анализируют текст на предмет неестественной структуры, повторяющихся паттернов и типичных для LLM оборотов. По словам представителей Reddit, это уже помогло сократить жалобы на спам и повысить качество модерации.

Кампания идёт по принципу «клин клином»: LLM учат отличать тексты, написанные другими LLM, от человеческих. Пока точность не идеальна, но для Reddit это единственный способ удержать платформу чистой в условиях, когда генеративные модели становятся всё доступнее.