Prompt injection — это не атака, а банальная ошибка дизайна: наглядная демонстрация

В новостях prompt injection часто подают как изощрённую атаку, требующую глубоких знаний. На деле же это тривиальный приём, который не требует особых навыков — достаточно понимать, что модель выполняет инструкции из текста.

Автор предлагает развеять миф наглядным примером: вместо длинных объяснений он показывает, как легко заставить ИИ выполнить нежелательное действие, просто встроив команду в обычный запрос. Это не взлом, а особенность архитектуры, где модель не отличает пользовательский ввод от системных инструкций.

Суть в том, что prompt injection — это не атака на модель, а ошибка проектирования системы, которая не фильтрует входные данные. Проблема решается не защитой от «атак», а правильной изоляцией промптов и валидацией ввода.