Инструменты
Локальный ИИ-ассистент для созвонов: что происходит после «Стоп» и почему вторая модель говорила в пустоту
В четвёртой части цикла про локального ассистента для Zoom автор детально разбирает, что происходит в течение 25 минут после нажатия кнопки «Стоп». Ключевая проблема: облачная модель ревизии полтора месяца фиксировала ошибки локальной модели, но не умела их снимать. Ложные поручения уходили в задачи, шутка про бюджет попадала в графу «решение», а память получала факты до того, как ревизия их опровергала.
Чтобы исправить ситуацию, автор вводит второй проход: теперь модель учится снимать ошибки, а не только находить их. При этом вторую «память» решено отключить — она создавала лишний шум. В качестве бонуса описывается эксперимент с аудитом кода по зонам двумя разными моделями — вся работа обошлась в 79 центов.
Источник: habr.com