vLLM Semantic Router выпустила d3-ultra: 27B мультимодальная модель для принятия решений

Команда vLLM Semantic Router выпустила d3-ultra — мультимодальную модель принятия решений с 27B параметров, доступную под лицензией Apache-2.0. В отличие от обычных LLM, она не генерирует текст, а за один проход входных данных возвращает вероятность для каждого возможного ответа на заданные вопросы. Модель поддерживает контекст до 131 072 токенов и работает на одном AMD Instinct MI325X с весами BF16.

d3-ultra показывает лучшие результаты среди моделей семейства Decision 3.0 в тесте SR-Text (87.2), опережая GLiDE V1.2 (85.1) и d3-turbo (83.1). Однако в задаче локализации объектов на изображениях (SR-Box) она уступает d3-turbo: 54.6% против 59.6%. При этом d3-ultra лидирует на диаграммах и графиках.

Модель использует архитектуру на базе Qwen3.5 с 64 слоями, из которых 48 — linear-attention, а 16 — full-attention. Она отвечает на вопросы разных типов: выбор одного из вариантов, да/нет, оценка, поиск области на изображении или отслеживание объекта в видео. Время ответа на один вопрос — около 304 мс, а на 255 вопросов — 2.16 с.