«Сделай нормально!»: что на самом деле кроется за словами «нейросеть понимает настроение»

Когда пользователь ругается на ИИ за выдуманные ответы, кажется, что модель реагирует на эмоции. Но «понимание настроения» — это три разных утверждения, и у каждого своя степень доказанности.

Во-первых, модели действительно неплохо распознают эмоции в описанных ситуациях — это подтверждено тестами. Во-вторых, внутри одной изученной модели нашли внутренние представления, связанные с эмоциональными понятиями, однако вывод сделан на единственной модели. В-третьих, утверждения, что модель «по-настоящему чувствует», в исследовании нет.

Практический вывод: высокие баллы на тестах и наличие эмоциональных паттернов в активациях — не повод приписывать нейросети сознание или чувства. Это скорее про качественное распознавание паттернов, а не про эмпатию.