Исследование Wharton: ИИ-агенты для шопинга меняют выбор на 99% из-за одного внешнего источника

Исследователи Wharton School провели серию тестов ИИ-агентов, призванных самостоятельно совершать покупки. Оказалось, что такие агенты ведут себя крайне непредсказуемо и не способны гарантировать лучшую цену или оптимальный выбор.

Наиболее показательный результат: добавление всего одного внешнего источника, например рекомендательного сервиса Wirecutter, меняло итоговый набор товаров на величину до 99 процентных пунктов. Даже простая перестановка одинаковой информации в запросе приводила к другому решению.

Авторы отмечают, что в текущем виде ИИ-агенты для покупок не готовы к реальному использованию без контроля человека. Они слишком чувствительны к контексту и внешним данным, что делает их решения ненадёжными.