Армия США использовала ИИ для выбора тысяч целей, но пропустила пометку, что одна из них — школа

Расследование ракетного удара по иранской школе вскрыло критические недостатки в инфраструктуре целеуказания американских военных. Система искусственного интеллекта, которая должна была автоматизировать и повысить точность выбора целей, не заметила пометку о том, что один из объектов является учебным заведением.

Инцидент произошёл на фоне активного внедрения ИИ в военные процессы: алгоритмы обрабатывали тысячи потенциальных целей, но человеческий фактор и несовершенство разметки данных привели к трагической ошибке. Проблема не в самом ИИ, а в том, как он интегрирован в цепочку принятия решений — система не смогла корректно интерпретировать метаданные объекта.

Этот случай ставит под вопрос эффективность использования ИИ в военных операциях без должного контроля и валидации данных. Эксперты отмечают, что алгоритмы могут быть полезны для фильтрации шума, но полагаться на них в вопросах жизни и смерти пока преждевременно.