Как проверить нейросеть на честность: классификация методов верификации

В новой статье на Habr автор делится взглядом на существующие методы верификации нейросетей. Основная проблема: получить ответ от нейросети — только половина задачи, не менее важно понять, насколько этому ответу можно доверять.

В материале представлена классификация подходов к верификации, их ограничения и рекомендации по выбору методов. Также приведены формальные рассуждения, помогающие разобраться в теме.