Открытые письма об ИИ: Microsoft против Anthropic и призыв к регулированию от сотрудников топ-лабораторий

Microsoft организовала открытое письмо «Open Weights and American AI Leadership» от 24 июля, подписанное 235 компаниями, включая NVIDIA, Amazon, Y Combinator, The Linux Foundation и OpenAI. Документ выступает против возможного запрета открытых весовых моделей в США по соображениям безопасности, утверждая, что закрытые модели не гарантируют безопасность и создают единые точки отказа. Письмо также поддерживает дистилляцию — обучение моделей на выходах других моделей.

Anthropic ответила собственным письмом три дня спустя. CEO Дарио Амодей подчеркнул риски использования открытых моделей авторитарными режимами для кибератак и биоатак, призвав к ограничению промышленной дистилляции, но заявил, что Anthropic никогда не выступала за полный запрет открытых весов.

28 июля вышло письмо «Pacing the Frontier», подписанное 1324 сотрудниками фронтир-лабораторий, включая Якуба Похоцкого (OpenAI), Илью Суцкевера (SSI), Дарио Амодея и Джека Кларка (Anthropic). Они призывают правительство США поддержать международные усилия по контролю темпов автоматизированной разработки ИИ, ссылаясь на растущее давление конкуренции и ускорение прогресса, в том числе благодаря автономным AI-агентам.