Jev — модель, которая не пишет: бесплатные токены и никакого текста

Jev от TypeSafe AI — это не обычная языковая модель. Она не пишет связные тексты, а возвращает строго типизированные ответы: класс, булево значение, число. Например, вместо того чтобы генерировать «Это письмо — спам», Jev просто вернёт true/false. Благодаря этому токены ответа ничего не стоят — платить нужно только за входные токены.

Разработчики утверждают, что такой подход решает массу проблем: нет галлюцинаций в формате ответа, не нужно парсить неструктурированный текст, а стоимость инференса падает в разы. Модель уже используют для модерации, классификации, трейдинга и других задач, где важен чёткий вердикт, а не текст.

Jev доступна через API TypeSafe AI. На Хабре уже вышли подробные гайды по её настройке и сравнению с обычными LLM — модель показывает скорость ответа около 81 мс и высокую точность на задачах определения спама, категорий и негатива.