Инструменты
Голосовые ИИ-агенты перебивают людей из-за таймера: инженер сократил задержку в 4 раза правилами русского синтаксиса
Автор замерил задержки в боевом голосовом API и выяснил: из 1275 мс перед ответом 1200 мс тратится на ожидание таймера тишины, и только 75 мс — на работу самой модели. Это объясняет, почему голосовые агенты постоянно перебивают собеседника — они ждут, пока человек замолчит, и не понимают интонационных границ русской речи.
Решение строится на правилах русского синтаксиса без обучения и GPU: детектор определяет, закончил ли человек фразу, по грамматическим маркерам. В итоге задержка падает до 316 мс, а количество ложных обрывов — с 38 до 2. Методика воспроизводима, код открыт.
Источник: habr.com