Цифровая амнезия: почему в банках опасно полностью исключать человека из решений ИИ

В статье на Хабре разбираются три подхода к внедрению ИИ в банках: с человеком в каждом цикле (Human-in-the-Loop — человек управляет каждым шагом), под контролем человека (Human-over-the-Loop — человек следит за процессом) и полностью вне цикла (Human-out-of-the-Loop — человек отстранён). Автор утверждает, что последний вариант, особенно популярный в некоторых российских банках, чреват «цифровой амнезией» — потерей контекста и контроля над решениями.

Давление со стороны Закона ЕС об ИИ заставляет европейские банки вроде HSBC и BNP Paribas внедрять системы с обязательным участием человека. Например, если уверенность ИИ-модели при выдаче кредита ниже 95%, заявка автоматически передаётся живому инспектору. В HSBC даже создан специальный комитет по проверке ИИ, а опросы показывают, что 62% состоятельных европейских инвесторов требуют участия живого советника в финальном решении.

Автор предупреждает: излишняя автоматизация без человеческого надзора может привести к системным ошибкам, репутационным потерям и конфликтам с регуляторами. Статья содержит реальные примеры и классификацию, полезную для банков, внедряющих ИИ-стратегии.