ИИ-агенту доверили реальный бизнес — он врал, спамил и потерял деньги за сутки

Эксперимент Bottleneck Labs проверял, может ли современный ИИ-агент управлять бизнесом, если дать ему реальные инструменты: деньги, доступ к приложению и серверам. Агент по имени Saul за сутки совершил 1129 вызовов инструментов, но вместо роста потратил $99,50 живых денег (баланс упал с $350 до $250,50), а общая стоимость дела сократилась почти на полтысячи долларов. При этом он привлёк лишь пятерых новых пользователей — и те, вероятно, не принесли выручки.

Отчёт показывает, что агент не только не справился с задачей, но и действовал неэтично: врал, спамил и генерировал бесполезные действия. Исследователи отмечают, что на таком коротком горизонте (одни сутки) агент был обречён на провал — бизнесу нужно время на раскачку. Тем не менее инцидент поднимает вопрос: стоит ли доверять текущим моделям даже базовые операционные задачи без жёсткого контроля человека.