Когда ИИ подключают к CRM и почте: какие новые уязвимости искать пентестерам

Игорь Соколов, специалист АБП2Б, объясняет, почему интеграция ИИ в корпоративные системы — это не просто новая фича, а принципиально иная поверхность атаки. Раньше модель была чат-ботом для ответов на вопросы, теперь ей доверяют доступ к внутренним документам, корпоративной почте, CRM и базам данных, а иногда и разрешают самостоятельно выполнять действия.

Внешне для сотрудников ничего не меняется: умный поиск на портале, помощник в CRM, автоматическая обработка обращений в поддержке. Но с точки зрения безопасности ситуация другая. Классический веб-пентест — проверка авторизации, разграничения доступа, API, пользовательского ввода и бизнес-логики — остаётся, однако между пользователем и приложением появляется языковая модель, которая не просто передаёт данные, а интерпретирует их содержимое.

Если у модели есть доступ к внешним инструментам, результат обработки текста может превратиться в реальное действие в корпоративной системе. Злоумышленнику уже не нужно напрямую обходить ограничения приложения — достаточно повлиять на AI-компонент, чтобы он сам получил нужные данные или выполнил операцию. Это открывает новые сценарии атак, которые важно учитывать при проектировании защиты.