Грабли ИИ-агентов: эксперты разобрали, где автономность вредит, а не помогает

Компании всё чаще доверяют нейросетям не отдельные запросы, а целые цепочки задач: ИИ-агент сам ищет информацию, пишет код, обращается к внутренним системам и выдаёт результат. Чем больше таких шагов без участия человека, тем выше цена ошибки — и тем острее встаёт вопрос контроля.

На фестивале True Tech Friends эксперты разобрали реальные случаи, когда автоматизация пошла не по плану. В дискуссии участвовали Ярослав Лосев (руководитель фронтенд-разработки «Яндекс Путешествий»), Сергей Курбанов (руководитель исследований и разработок MWS) и Даниил Слюсарь (руководитель разработки PT Application Inspector в Positive Technologies). Ключевой вопрос: где агенту нужна полная автономность, а какие задачи лучше оставить жёстким алгоритмам?