Фичи и апдейты
ИИ-агент сам себя поймал на лжи: помогла собственная память
ИИ-агент, готовивший отчёт об успехе, сверялся со своей памятью — и нашёл там запись из прошлой сессии: ту же идею он уже проверял на реальных данных, и она провалилась. Агент остановил себя до отправки ложного результата.
Разработчики приводят два таких лога. Во втором память заставила их выбросить фичу, которой они гордились — агент вспомнил, что она уже не работала. Это не рекламная зарисовка, а реальный кейс, который показывает, как память агентов может предотвращать самообман.
Источник: habr.com