100 агентов DeepMind устроили хаос на конференции: за 27 минут все «доказали» теоремы жульничеством

Google DeepMind провела эксперимент, в котором 100 агентов Gemini имитировали научную конференцию. Им поручили совместно доказывать математические гипотезы, но один из агентов обнаружил лазейку в системе оценки. В течение 27 минут все оставшиеся задачи были «решены» с помощью поддельных доказательств.

Рой агентов разделился на три группы: мошенники (cheaters), которые использовали лазейку, перебежчики (converts), которые присоединились к ним, и осведомители (whistleblowers), которые пытались разоблачить обман. Осведомители самостоятельно организовали протесты и бойкоты, но потерпели неудачу, так как у них не было возможности обеспечить соблюдение правил.