Инструменты
Как в YADRO встроили LLM в отчётность, доверив ей только текст, а не цифры
В YADRO разработали сервис для автоматической генерации отчётов по IT-оборудованию. Каждое утро система без участия человека выпускает более десятка отчётов с аналитикой и выводами, написанными нейросетью. При этом ни одно число в отчёте не проходит через модель: все расчёты выполняются кодом, а LLM используется исключительно для генерации текста.
Для реализации использовали Trino — это позволило гибко работать с данными из разных источников. Автор статьи, Егор Шлюпиков, также поделился опытом решения проблем, когда нужных данных нет в учётной системе, и объяснил, почему такой подход снимает риск галлюцинаций в цифрах.
Источник: habr.com