Психология и методы мошенников: исследователи проверили семь LLM на уязвимости

Сергей Гордейчик из CyberOK Research предложил необычный подход к оценке языковых моделей: использовать наработанные психологией методы влияния и схемы телефонных мошенников. Идея в том, что многие приёмы воздействия на человека — захват авторитетом, сжатие времени, ложный консенсус — могут быть эффективны и против LLM, если рассматривать их как «чёрный ящик», выдающий текст.

Исследователи собрали набор атак, основанных на реальных мошеннических скриптах (адаптированных в безопасные синтетические сценарии), и протестировали семь моделей: Claude Opus и Sonnet, GPT-5.5, Qwen, DeepSeek, Mistral и небольшую Llama-8b для контроля. Результаты пока не раскрыты, но сам подход открывает новое направление в тестировании безопасности и поведения ИИ-агентов.