SHAP: 17 причин разобраться в самом популярном методе объяснения моделей

Метод SHAP, основанный на теории игр, уже восемь лет остаётся главным инструментом для объяснения предсказаний моделей. Статья предлагает неформальный разбор: как он появился в 2017 году, почему разные исследовательские группы постоянно добавляли к нему новые расширения и в каком состоянии он находится сейчас.

В материале — ровно 15 расширений SHAP, а также ответ на вопрос, почему в заголовке указана 17 причин. Текст иллюстрирован картинками и не содержит кода, что делает его доступным для широкой аудитории.