Экс-исследователь OpenAI выпустил модель, которая не пишет текст, а выбирает варианты

TypeSafe AI, основанная бывшим исследователем OpenAI Диого Алмейдой, выпустила модель Jev, которая принципиально не генерирует текст. Вместо чат-ответов она выдает чистые классификации для программного обеспечения — например, определяет категорию или класс входных данных.

Разработчики заявляют, что время ответа начинается от 70 миллисекунд, а цена за токены крайне низкая. Такой подход не защищает от ошибок: система лишь гарантирует, что строго придерживается заранее заданных вариантов, не отклоняясь от них.

Jev может быть полезна для задач, где нужна быстрая и дешевая маршрутизация или категоризация данных, без необходимости в развернутых текстовых ответах. Однако полагаться на нее как на защиту от некорректных выводов не стоит.