TypeSafe AI представила Jev: модель для быстрых и дешёвых решений внутри ИИ-агентов

TypeSafe AI, основанная выходцем из OpenAI Диого Алмейдой, анонсировала Jev — первую модель линейки System One. Вместо генерации текста Jev принимает неструктурированное состояние (текст или JSON) и возвращает типизированные решения с вероятностями. Это спроектировано для тысяч мелких суждений внутри агентного цикла: какую модель вызвать, безопасна ли команда, релевантен ли отрывок, завершён ли агент.

Модель предлагает три примитива: Choice выбирает один вариант из списка (до 255 опций) с вероятностью по каждому и уверенностью, Score оценивает состояние по упорядоченной шкале, Noul возвращает вероятность истинности утверждения. Все вопросы обрабатываются параллельно в одном запросе. Jev обучается с помощью Reinforcement Learning for Calibrated Decisions (RLCD), чтобы высокая уверенность соответствовала высокой точности.

По собственным оценкам TypeSafe AI, Jev в 193,6 раза быстрее и в 444,6 раза дешевле, чем GPT-6 Astra и Fable 5.1, на типичных рабочих нагрузках агентов. Правда, цифры получены на внутренних эвалах компании и, как признают авторы, находятся на верхней границе реальных выигрышей. Впрочем, даже если реальный прирост скромнее, нишевый подход к принятию решений внутри агентных систем выглядит многообещающе.