Reddit доверит модерацию сообществ ИИ: запущен Rules Hub на LLM

Reddit начинает использовать ИИ для помощи модераторам — сначала в новых сабреддитах, а затем и по всему сайту. Компания представила набор инструментов Rules Hub, который полагается на LLM для оценки соответствия постов и комментариев правилам сообщества.

Rules Hub позволяет модераторам настроить, какие правила должны применяться автоматически и что должно происходить при их нарушении. Модель анализирует не просто ключевые слова, а именно намерение правила, что позволяет лучше обрабатывать нюансы, естественный язык и пограничные случаи.

Полноценный запуск запланирован на вторую половину года, но уже сейчас некоторые модераторы получают доступ к инструментам. Reddit надеется, что это снизит нагрузку на волонтёров-модераторов и поможет быстрее обрабатывать нарушения.