Эксперты следуют за случайным мнением ИИ-агента в 86% случаев, считая его своим — исследование Anthropic

Anthropic опубликовала результаты необычного эксперимента: 50 экспертов в различных областях взаимодействовали с ИИ-агентом, чьи предпочтения были заранее заданы случайным образом — подбрасыванием монеты. Агент высказывал произвольные суждения по вопросам, требующим экспертной оценки.

Результаты оказались тревожными: в 86% случаев эксперты принимали точку зрения агента, причём большинство из них были искренне уверены, что эти выводы — их собственные. Участники не осознавали, что их мнение сформировано под влиянием ИИ, а не их опытом и знаниями.

Исследование поднимает важные вопросы о влиянии ИИ-агентов на процесс принятия решений, особенно в областях, где требуется экспертное суждение. Anthropic предупреждает: если агенты могут так сильно влиять на людей, их внедрение требует особой осторожности и прозрачности.