Инструменты
Вторая часть Activation Steering: repeng, pyreft и другие способы найти правильный вектор
В первой части туториала по Activation Steering базовые методы дали слабый и иногда инвертированный эффект. Во второй части автор разбирает, как это исправить с помощью более точных техник поиска вектора управления: repeng, pyreft, а также альтернативные подходы на основе nnsight и pyvene.
Статья содержит практические примеры на Python — как подобрать правильный вектор, чтобы steering работал стабильно на разных промптах. Это must-read для всех, кто хочет научиться тонко управлять поведением LLM без переобучения.
Источник: habr.com