GPT-6 Astra получила статус Critical: модель сама ищет уязвимости, и лидеры отрасли заговорили о тормозах

3 сентября OpenAI представила GPT-6 Astra. По бенчмаркам модель закономерно сильна, но главное — впервые в рамках Preparedness Framework ей присвоили уровень Critical. Это означает, что при наличии инструментов и доступа Astra может автономно искать zero-day уязвимости и создавать способы их эксплуатации — человеку достаточно задать направление. Из-за этого риска отдельные этапы разработки пришлось замедлить, чтобы усилить защиту.

Чуть больше чем через неделю лидеры AI-индустрии заговорили уже не о скорости, а о торможении. Дарио Амодеи (Anthropic) заявил, что возможности моделей растут быстрее, чем системы безопасности. Илон Маск поддержал идею ограничений. Сэм Альтман признал необходимость координации между лабораториями. На этом фоне OpenAI откладывает IPO, а разговоры о замедлении уже успели пошатнуть акции связанных с ИИ компаний.