Исследование: называя ИИ-агента «сотрудником», вы снижаете эффективность людей на 18%

Профессор Boston University Эмма Уайлс провела эксперимент: участникам давали работу, якобы выполненную ИИ. Когда инструмент называли «AI-сотрудником» с именем и должностью, люди находили на 18% меньше ошибок и на 44% чаще отправляли сомнительные результаты на проверку менеджеру, вместо того чтобы исправить самим. Это сводит на нет экономию времени, ради которой агентов и внедряют.

Почти треть из 1261 опрошенных менеджеров сообщили, что их компании уже представляют ИИ-агентов как сотрудников (23% даже вносят их в оргсхемы). Между тем Nvidia, Microsoft, OpenAI, Anthropic и Google активно продвигают «цифровых людей» и инструменты для управления командами агентов. Нобелевский лауреат MIT Дарон Аджемоглу предупреждает: «Агентов продают как замену людям — это проигрышная стратегия. Их надо оптимизировать для усиления человеческих способностей».

Проблема выходит за рамки офисной культуры: когда агентов внедряют в здравоохранение, оборону или образование, риск перекладывания вины на ИИ растёт. Автор напоминает о случае с бомбовым ударом по школе в Иране, который общественность приписала Claude, хотя все признаки указывали на цепочку человеческих ошибок.

Исследование Стэнфорда показало, что сами работники часто не хотят автоматизации там, где её предлагают технооптимисты. Например, торговые представители отвергли ИИ для проверки кредитных рейтингов клиентов — задачу, которую эксперты считали идеальной для агента. Вывод: называть агента «сотрудником» — удобный брендинг, но он ухудшает работу людей, которые остаются единственными носителями ответственности.