Исследования
Разделяем личность и задачи ИИ-агента: подход PES против бесконечной перевалидации
Внедрили LLM-агента в финансовый отдел и захотели сделать его дружелюбнее? В классической схеме инфобеза любое изменение инструкций или тона требует полной перевалидации, ведь личность агента живёт в одном доверительном домене с его действиями. Если домен строгий — каждое изменение сертифицируется, если разрешительный — аудит лишь фиксирует логи, но ничего не блокирует.
Проблема в том, что часть доменов обязана быть строгой, а менять их приходится часто. Подход PES (Persona–Execution Separation) решает это разделением «личности» агента (инструкции, тон, самопрезентация) и его задач. Так можно обновлять стиль общения без пересмотра всей логики действий, сохраняя контроль над критичными операциями.
Источник: habr.com