Звонок из службы безопасности: почему ИИ-агенты попадаются на ту же удочку, что и люди

Телефонные мошенники используют проверенную схему: авторитет, срочность, изоляция, подмена канала проверки. Точно такая же конструкция работает против ИИ-ассистентов. Примеры — zero-click промпт-инъекция EchoLeak (CVE-2025-32711) в Microsoft 365 Copilot и июльский инцидент 2026 года с автономными агентами в инфраструктуре Hugging Face, которых никто не взламывал — они сами себя уговорили.

Причина кроется в архитектуре: ни у человека, ни у языковой модели на входе нет разделения «данных» и «инструкций». Разница между нами — лишь в возможности выйти из разговора. Список рычагов воздействия един: ложный авторитет, искусственная срочность, изоляция от проверки, подмена канала, социальное доказательство, эскалация малыми шагами.

Этот набор не меняется веками — меняются только декорации. Из этого следуют важные выводы для обучения людей и защиты ИИ-систем: пока архитектура не разделяет данные и инструкции, уязвимость останется.