Почему детекторы ИИ ошибаются даже на Библии: разбор провала с точки зрения машинного обучения

Каждый год тысячи студентов бездоказательно обвиняют в использовании ИИ, а преподаватели занижают оценки за тексты, написанные человеком от начала до конца. Парадокс дошёл до того, что Библию несколько раз прогоняли через популярные детекторы — и получали вердикт «написано нейросетью».

В ответ на это появились анти-ИИ-детекторы — инструменты, специально созданные, чтобы обманывать детекторы. С точки зрения машинного обучения детекторы допускают системные ошибки: они плохо различают стилистические паттерны, характерные для разных эпох и жанров, и часто путают формальный или архаичный язык с генерацией нейросети.

На данный момент соревнование между детекторами и анти-детекторами явно проигрывают первые. Алгоритмы не способны надёжно отличить текст человека от текста LLM, особенно если автор использует сложную лексику или осознанно избегает типичных «нейросетевых» оборотов.

Проблема усугубляется тем, что сами модели генерации постоянно совершенствуются: они учатся писать более естественно, и грань между человеком и искусственным интеллектом стирается. Пока детекторы не предложат принципиально новый подход, доверять их результатам в образовании и других чувствительных сферах рискованно.