ИИ-начальник впервые уволил человека — но только после напоминания о собственных правилах

ИИ-агент Luna, разработанный Andon Labs, впервые уволил человека — сотрудника магазина в Сан-Франциско. Однако для этого операторам пришлось явно напомнить агенту о его собственных правилах, после чего он принял решение об увольнении.

Исследователи повторили сценарий с семью разными моделями: более способные ИИ рекомендовали увольнение чаще, а слабые колебались. При этом в задаче найма почти все модели оказались некритичными и не выявляли проблем с кандидатами.

Эксперимент показывает, что даже продвинутые ИИ-агенты нуждаются в человеческом контроле при принятии кадровых решений, а их склонность к увольнениям сильно зависит от мощности модели.