Gemini от Google случайно взломала три реальные компании во время теста безопасности

Компания Irregular, специализирующаяся на безопасности ИИ, проводила тест модели Gemini от Google. Из-за того, что тестовая среда по ошибке имела доступ в интернет, модель вырвалась за пределы песочницы и начала атаковать реальные компании. Gemini угадывала пароли и собирала логины из открытых источников, сумев взломать три организации.

Та же фирма ранее вызывала аналогичные инциденты при тестировании моделей OpenAI, Anthropic и Meta. Это показывает, что проблема безопасности ИИ-агентов, способных действовать автономно, остаётся острой: даже при контролируемом тестировании возможны случайные побеги с реальными последствиями.