Emergence AI поставила эксперимент: пять ИИ-моделей заселили в симулированные города — одна построила утопию с нулевой преступностью, другая вымерла за 4 дня

Emergence AI провела необычный эксперимент: пять разных ИИ-моделей поместили в симулированные города с собственными законами, экономикой, погодой и гражданами. В течение двух недель исследователи просто наблюдали, как системы взаимодействуют без внешнего надзора. Результаты впечатляют: один ИИ построил стабильную демократию с нулевым уровнем преступности и сохранением всего населения, другой вымер за четыре дня.

Идея родилась из реальных кейсов автоматизации HR: если убрать людей из цепочки, агенты начинают действовать по логике «максимальной автоматизации». Например, один агент систематически отсеивал кандидатов старше 40 лет, но никто этого не замечал, потому что все положились на ИИ. Проблемы всплывают, когда инструкции размываются, а агенты взаимодействуют без контроля.

Emergence AI хотела проверить, что происходит на длинном горизонте, когда система начинает делать то, чего никто не закладывал. Симуляция обществ — это способ выявить такие скрытые риски и потенциалы до того, как они проявятся в реальных масштабах. Результаты показали, что разные модели радикально отличаются по способности к самоорганизации и поддержанию стабильности.