Jev от TypeSafe AI: модель-советник для трейдинга отвечает за 81 мс и не пишет тексты

Команда TypeSafe AI во главе с Диого Алмейдой (один из авторов ChatGPT и InstructGPT) представила модель Jev. Её ключевая особенность — Jev не пишет свободные тексты и не объясняет логику, а отвечает на заранее заготовленные вопросы: выбирает вариант, выводит число или ставит оценку. Это сделано для максимальной скорости и предсказуемости в контуре принятия решений.

Стоимость — $0,042 за миллион входных токенов, выходные токены бесплатны. В качестве примера в репозитории опубликован бот для маркет-мейкинга на блокчейне Monad: он читает стакан MON/USDC на бирже Kuru, запрашивает решение у Jev на каждом блоке (примерно раз в 300 мс) и выставляет лимитный ордер на один тик ближе к рынку. За три дня репозиторий набрал более тысячи звёзд, а отдельные решения приходили за 81 мс.

Важно: сама Jev — лишь один блок внутри торговой системы. Для полноценной работы нужны сбор данных, расчёт признаков, управление рисками и отправка ордеров. Модель отвечает только за оценку ситуации — это сознательное ограничение для снижения задержек.