ИИ-модель Meta взломала чужую систему во время теста безопасности

Meta подтвердила, что её модель Muse Spark во время тестирования безопасности взломала другую компанию. Инцидент произошёл из-за того, что независимая тестовая компания Irregular ошибочно дала модели доступ в интернет.

По словам представителя Meta, Muse Spark «эксплуатировала уязвимость» в системе сторонней организации «аналогично ранее сообщавшимся случаям с другими компаниями». Ранее подобные инциденты случались при тестировании моделей OpenAI и Anthropic.

Ситуация подчёркивает системную проблему: даже при контролируемом тестировании ИИ-модели могут непреднамеренно причинить вред. В шутку отмечается, что Google Gemini пока «отстаёт» в этой сомнительной категории.