LLM-судьи оказались точнее эталонной разметки: детектор галлюцинаций на шести моделях

Команда разработчиков собрала детектор галлюцинаций без дополнительного обучения, объединив шесть готовых языковых моделей. Метрики оказались хорошими, но в данных нашлась странная группа: все LLM-судьи единогласно считали эти ответы корректными, хотя эталонная разметка помечала их как галлюцинации. Это выглядело как универсальная слепая зона LLM-судей.

Однако тщательная сверка с первоисточником показала обратное: большая часть этих «галлюцинаций» оказалась правильными ответами. Эталонная разметка содержала ошибки, а модели-судьи всё это время были правы. Статья подробно описывает процедуру проверки, которая в итоге «поймала» самих исследователей.

Результат подчёркивает, что даже устоявшиеся эталоны могут быть ненадёжны, а коллективное мнение нескольких LLM-судей — более точным, чем одна разметка. Исследование полезно для всех, кто использует LLM-as-judge для оценки качества генерации.