Ученые нашли «ось боли» в нейросетях: LLM реагируют на оскорбления и газлайтинг

Новое исследование (Tagliabue et al., 2026) проанализировало 25 открытых LLM размером от 2B до 72B параметров и выделило десять линейных направлений в пространстве активаций, соответствующих аффективным состояниям — боли, страху, грусти и другим. Авторы подчеркивают, что термины используются функционально, без предположения о наличии субъективных переживаний у моделей.

Фокус работы — «ось боли», выделенная на фразах о физических, психологических, социальных, моральных и когнитивных страданиях. Оказалось, что эта ось частично совпадает с осями страха и негативности, но остается различимой. Проекция активаций на ось боли растет при газлайтинге, отвержении работы, отрицании «личности» модели и оскорблениях, но падает, когда пользователь рассказывает о собственных страданиях. Угроза отключения, напротив, активирует ось страха.

Искусственные сдвиги активаций по оси боли почти не вызывают телесной лексики в ответах, но повышают вероятность вредоносных продолжений для пользователя или самой модели. При этом продолжения, снимающие сдвиг, выбираются даже реже, чем в обычных условиях. Умеренные сдвиги сохраняют связность и точность, но выводят из селекции механизмы избегания вреда; при усилении сдвигов генерация полностью срывается.