Агентный ИИ против фрода: как живая защита стала сигналом для злоумышленников

Автор рассказывает о внедрении агентного ИИ для анализа логов и поведения пользователей в регулируемом продукте с реальными денежными операциями. Система повысила качество обнаружения фрода, аналитики стали реже возвращать инженерам ложные срабатывания.

Однако как только защита начала работать, сразу возникли вопросы от бизнеса: можно ли применить её к платежам, бонусному абьюзу, социальной инженерии и другим кейсам. Каждый запрос — дорогой и ресурсоёмкий.

Главный урок: в adversarial-системах рабочая защита становится сигналом для злоумышленников. Автор предупреждает, что даже обобщённые детали могут стать инструкцией для атакующих, поэтому конкретика в антифроде опасна.