Память агента против окна в миллион токенов: Радиант нашёл сообщения пятилетней давности, где LLM бессильна

Разработчик провёл эксперимент: сравнил способность ИИ-агента Коворк находить старые сообщения в рабочей переписке с помощью двух подходов — долговременной памяти Радианта и стандартного окна контекста на миллион токенов. Агенту нужно было отыскать 15 запросов, разбросанных по переписке за последние пять лет.

Память Радианта справилась на 100% — все 15 сообщений были найдены. Окно в миллион токенов, несмотря на внушительный объём, вмещает переписку только за последние четыре месяца, поэтому часть запросов осталась недоступной. Результат наглядно демонстрирует ограничения даже самых больших контекстных окон для долгосрочных задач.

Эксперимент показывает, что для работы с историческими данными агентам требуется не просто большой контекст, а механизмы долговременной памяти, способные выходить за рамки фиксированного окна токенов.