Сколько стоит одна галлюцинация агента: кейсы с убытками от $812 до $100 млрд

Галлюцинация агента — это не выдумка фактов, а неверное действие: вызов не того API, запись в базу, отправка письма клиенту или ошибочная транзакция. Стоимость такой ошибки зависит от обратимости действия и скорости её обнаружения, а не от цены потраченных токенов.

В статье на Habr приведены задокументированные случаи: от $812 за одну ошибку до потери около $100 млрд рыночной капитализации компании. Исследователи также предлагают формулу для оценки потенциальных убытков от ошибок агента в конкретной системе.

Материал будет полезен всем, кто внедряет ИИ-агентов в продакшн, — он даёт конкретные цифры и методологию оценки рисков.