NVIDIA Nemotron 3 ускорил диаризацию в 140 раз: 3 секунды вместо 7 минут

23 сентября NVIDIA выложила модель диаризации Nemotron 3 Diarization. Разработчик локального ассистента для созвонов, который ранее использовал связку на sherpa-onnx (7 минут на 20-минутный канал), переключился на новую модель и получил тот же результат за 3 секунды.

Автор отмечает, что раньше не видел чужой модели, ради которой стоило бы менять пайплайн, но Nemotron 3 оправдал ожидания. Время обработки сократилось более чем в 100 раз, что делает модель пригодной для реального времени.