Исследования
Короткая память роботов: архитектура ELMUR от AIRI и МФТИ решает проблему квадратичной сложности
Современные роботы используют Vision-Language-Action модели на базе трансформеров, но их механизм внимания имеет квадратичную сложность по длине последовательности. Это делает долгосрочную память непомерно дорогой — простым увеличением контекста проблему не решить. Архитектура ELMUR, представленная на ICLR 2026, предлагает альтернативный подход, позволяя масштабировать память без экспоненциального роста вычислительных затрат.
Разработка велась в Центре когнитивного моделирования МФТИ и лаборатории когнитивных систем AIRI (команда «Воплощенные агенты»). Подробности архитектуры и результаты экспериментов — в статье ниже.
Источник: habr.com