Гайд по Jev: как использовать типизированные решения TypeSafe AI без генерации текста

Вышло подробное руководство по Jev — первой модели из линейки System One от TypeSafe AI. В отличие от обычных LLM, Jev не выдаёт связный текст, а принимает состояние программы и набор типизированных вопросов, возвращая выбор (Choice), оценку (Score) и вероятность (Noul). Разработчики могут напрямую ветвить код на основе этих ответов.

В гайде разбираются три базовых примитива, показанных на примере обработки тикета поддержки: Choice для определения отдела, Score для оценки приоритета и Noul для подтверждения дубликата. Автор демонстрирует, как извлекать уверенность из возвращённых вероятностей, сравнивает производительность одного батча из десяти вопросов против десяти отдельных вызовов (выигрыш в скорости), и строит confidence-gated routing — когда код выбирает ветку только при достаточной уверенности модели.

Production-часть охватывает Pydantic-модели для валидации ответов, асинхронного клиента с asyncio, политики повторных попыток, типизированные ошибки и учёт стоимости вызовов. Все шаги сопровождаются готовым Python-кодом, который можно скопировать и запустить с официальным SDK (typesafe-sdk).