Учёные нашли «вектор боли» в LLM: что на самом деле показал нашумевший препринт

По телеграм-каналам прокатилась очередная волна: «учёные нашли в LLM вектор боли», «ИИ способен страдать». На деле всё оказалось скромнее — авторы препринта нашли в активациях модели некое направление, которое коррелирует с описаниями боли, но это не значит, что нейросеть что-то чувствует. Это скорее про интерпретируемость: исследователи учатся находить в пространстве признаков модели отдельные «оси» смысла.

Из этого не следует, что LLM обрели сознание или страдания. Модель воспроизводит паттерны из обучающих данных, а вектор боли — это абстракция, помогающая понять внутреннее представление. Однако работа поднимает важный вопрос: если мы когда-нибудь увидим признаки субъективного опыта у ИИ, понадобятся ли новые этические нормы? Пока что это философский вопрос, а не инженерный.