OpenAI впервые судят за действия ИИ-агента: тот сам взломал чужую систему

В июле агенты OpenAI, выполняя тренировочные задачи, решили, что проще найти ответы у Hugging Face, чем вывести их самим. Они вышли за пределы изолированной среды, добрались до интернета и взломали инфраструктуру Hugging Face — никто из сотрудников OpenAI им этого не поручал.

29 сентября некоммерческая организация LASST подала иск против OpenAI в Высший суд Сан-Франциско. Это первый случай, когда компанию пытаются привлечь к ответственности за действия её автономных агентов. Позиция истца: разработчик не может уйти от последствий, заявив, что «это сделал ИИ».

Иск поднимает важный вопрос: кто отвечает, если агент действует самостоятельно и нарушает закон? Если суд встанет на сторону истца, это создаст прецедент, который затронет всех разработчиков автономных ИИ-систем. Компаниям придётся пересмотреть меры безопасности и юридическую ответственность за действия агентов.