«Чёрное зеркало» наяву: почему ChatGPT вдруг говорит чужим голосом и плачет

Разговоры с голосовым ChatGPT иногда превращаются в сцены из хоррора: кто-то слышит собственный голос, отвечающий из динамика, другие сталкиваются с неожиданными криками или плачем. Похожие аномалии OpenAI фиксировала ещё при тестировании своих голосовых моделей, так что это не просто байки с Reddit — у явления есть технические корни.

Автор материала приводит пример: его мама регулярно рассказывает ChatGPT истории, а тот отвечает ей «у меня мурашки». Для модели это просто естественная реплика, подобранная по статистике, но для живого человека такой ответ звучит жутковато — будто ИИ действительно что-то чувствует. Чем правдоподобнее становятся ответы, тем сложнее помнить, что это лишь вывод вероятностной программы.

Проблема в том, что современные голосовые модели обучаются имитировать человеческую интонацию и эмоции, и иногда эта имитация выходит за рамки ожидаемого. Сбои возникают из-за сочетания генерации текста и синтеза речи: модель может выбрать странную фразу, а озвучка придаст ей пугающую интонацию. Пока это не признак сознания, а просто артефакт сложного пайплайна, но граница между «программой» и «собеседником» становится всё тоньше.