Парадокс «умных» промптов: исследование показало, почему сложные инструкции вызывают галлюцинации у LLM

Автор, работая с Qwen Code, столкнулся с проблемой: модель постоянно галлюцинировала при выполнении задачи по CLI-агенту, несмотря на подробные инструкции. Простая операция «найти и заменить» заняла у агента два часа вместо 20 минут.

Оказалось, что перегруженные промпты с множеством уточнений и контекстных оговорок сбивают LLM с толку: вместо фокуса на задаче модель начинает генерировать лишние артефакты и «выдумывать» решения. Разработчику пришлось пересмотреть подход к формулировке запросов.

Материал — практический кейс, а не академическое исследование, но он иллюстрирует давнюю проблему: избыточная детализация промпта может парадоксальным образом снижать точность ответа LLM, особенно для моделей среднего уровня, таких как Qwen Code.