Яндекс показал, как добавляет голосовые команды в колонку: компактная нейросеть на устройстве

Яндекс расширил набор быстрых команд для умных колонок с Алисой — теперь без активационного слова можно поставить «лайк» или «дизлайк» треку, а также включить или выключить Bluetooth. Особенно это актуально для портативной Станции Стрит, которая часто работает без интернета.

Главная сложность — быстрые команды обрабатываются компактной нейросетью прямо на устройстве, а не на сервере. Модель весит всего 0,5–1,5 МБ в зависимости от железа колонки, и её нельзя сильно увеличивать без потери производительности. При этом нужно было гарантировать, что старые команды не станут хуже.

Архитектура модели почти идентична той, что использовалась в наушниках Яндекс Дропс. Разработчики справились с задачей, не увеличив значительно потребление ресурсов — запросы обрабатываются быстрее, чем через серверную ASR, и не требуют интернета.