Fastino выпустила GLiNER2.5-Decide: 340M-параметров для принятия решений в агентах — работает на CPU

Fastino Labs выпустила GLiNER2.5-Decide — негенеративный классификатор с 340 миллионами параметров на архитектуре DeBERTa-v3-large. Модель обучена на gliner2-large-v1 и не генерирует токены: на вход подаётся текст и схема типизированных вопросов с допустимыми ответами, на выходе — структурированный ответ с распределением вероятностей, оценкой уверенности и метаданными о выполнимости ограничений.

Модель заточена под частые операционные решения внутри агентов: маршрутизацию, триаж, выбор инструментов и гардрейлы. В отличие от генеративных LLM, она не рассуждает и не отвечает на открытые вопросы — только классифицирует. Схема может содержать инструкции, примеры, описания меток и правила, связывающие ответы на разные вопросы. Двухстадийный пайплайн: энкодер оценивает все допустимые ответы, а затем ограниченный декодер ищет наилучшее совместное назначение с учётом правил.

Пример: при независимом декодировании модель могла бы одновременно определить промпт-инъекцию с вероятностью 0.82 и пометить тот же промпт как безопасный с вероятностью 0.52. Совместное декодирование с правилом «любая обнаруженная угроза требует небезопасного вердикта» выдаёт согласованный ответ: safety=unsafe и harm_type=prompt_injection. Схемы поддерживают импликации, исключения, ограничения кардинальности и порядковые границы.

Модель весит 340M параметров, устанавливается одной командой pip install gliner2 и работает на CPU, GPU или в изолированных средах. Fastino также предлагает хостинг и тонкую настройку через GLiNER API. Веса опубликованы под лицензией Apache 2.0.