LLM молча решают за аналитика: 12 прогонов ChatGPT и Claude показали, как нейросети додумывают требования

Системный аналитик скормил нейросетям два абзаца смутного техзадания и получил за минуты готовую спецификацию интеграции. Документ выглядит профессионально, но при ближайшем рассмотрении выяснилось: модели самостоятельно додумали ряд требований, не спрашивая заказчика. На 12 прогонах ChatGPT и Claude автор проследил, какие именно решения LLM принимают за человека.

Главная опасность — в кажущейся убедительности. Спецификация от нейросети звучит уверенно, и неопытный аналитик может принять выдумки за согласованные условия. Это ведёт к неверной оценке сроков, лишней работе и конфликтам с заказчиком, который таких обещаний не давал.

Автор предлагает методику выявления скрытых допущений: сверять каждый пункт с исходным ТЗ, помечать всё, чего там не было, и прогонять несколько вариантов промптов, чтобы увидеть, где модели расходятся. Это позволяет отделить реальные требования от галлюцинаций ещё до начала разработки.