OWASP LLM10: как DoS-атаки перешли на нейросети — тестируем LLM на ресурсоёмкие промпты

Большие языковые модели стали основой корпоративных помощников, RAG-приложений и AI-агентов. Вместе с их популярностью меняется и профиль угроз: теперь злоумышленнику не нужно искать уязвимости в API — достаточно правильно сформулировать запрос. Целью может быть не кража данных, а принудительное расходование процессорного времени, памяти и токенов.

Категория LLM10: Unbounded Consumption в рейтинге OWASP Top 10 for LLM Applications посвящена именно этому. В отличие от Prompt Injection или Data Leakage, атака направлена на вычислительные ресурсы. По сути, это адаптация идеи Denial of Service (DoS) к генеративному ИИ.

Защита не сводится к простому ограничению длины запроса или ответа. Современные атаки используют рекурсивные инструкции, экспоненциальный рост контекста, моделирование множества независимых агентов и комбинаторные задачи — всё это заставляет модель выполнять непропорционально большой объём вычислений при внешне безобидном промпте.