Laya: open‑source decision engine от Convai Innovations — zero‑shot классификация без генерации текста

Convai Innovations выпустила Laya — открытый decision engine, ставший одним из самых звёздных ML‑репозиториев сентября 2026 года. В отличие от обычных LLM, Laya не генерирует токены: энкодер читает текст и набор типизированных вопросов (выбор метки, оценка по шкале, да/нет) и за один прямой проход возвращает вероятность для каждого варианта. Модель содержит 421 млн параметров и позиционируется как быстрый и калиброванный аналог TypeSafe’s Jev.

В руководстве авторы проверяют обещания Laya на реальных размеченных данных — банковском домене датасета CLINC150. Они измеряют zero‑shot accuracy против обученного классификатора, влияние формулировок и порядка вариантов, честность «коробочных» вероятностей, эффект подгонки температуры на валидации и то, что она ломает, а также работу abstention gate под заданный бюджет ошибок и обработку out‑of‑scope запросов.

Код примера включает установку пакета laya 0.3.27, загрузку чекпоинта с фиксированной ревизией для воспроизводимости, отключение авто‑каста в половинную точность и вывод штатных температур. Laya поддерживает три типа вопросов: choice, score и noul (да/нет), для каждого из которых задана своя температура. Разработчики могут адаптировать температуру под свои данные, но авторы предупреждают о скрытых побочных эффектах.