ИИ при сжатии контекста теряет 83% пользовательских инструкций — модуль на Qwen3.5-9B восстанавливает 90%

При сжатии длинных диалогов для экономии ресурсов ИИ-системы непреднамеренно отбрасывают значительную часть пользовательских инструкций. Исследователи из Penn State University провели анализ и выяснили, что в среднем теряется 83% правил, заданных пользователем, включая такие важные, как «не отправлять email без моего одобрения».

Для решения проблемы команда предложила небольшой подключаемый модуль, построенный на основе модели Qwen3.5-9B. Этот модуль способен сохранять более 90% ограничений даже при агрессивном сжатии контекста, что существенно повышает надёжность ИИ-систем при работе с длинными диалогами.

Результаты подчёркивают критическую проблему безопасности современных ИИ-ассистентов: пользователи полагаются на заданные правила, но при сжатии контекста система может их «забыть». Разработка модуля на открытой модели Qwen3.5-9B предлагает практичный способ минимизировать такие риски без значительных вычислительных затрат.