GLiNER2.5: извлечение сущностей без перебора спанов — быстрее, длиннее, с отношениями

Fastino представила GLiNER2.5 — новую версию модели для извлечения именованных сущностей. Вместо того чтобы перебирать все возможные спаны и оценивать каждый, модель предсказывает, где сущность начинается и заканчивается. Это убирает зависимость от максимальной ширины сущности и позволяет обрабатывать контекст до 4096 слов, сохраняя линейную вычислительную сложность.

Новая архитектура открывает несколько возможностей: совместное извлечение сущностей и отношений, ограничения на комбинации меток и атрибуты для каждого спана. На 16 zero-shot бенчмарках мультиязычная модель достигает 56.17 макро F1 против 56.09 у GLiNER2, при этом на XNLI прирост составил 24.75 пункта.

Fastino выпустила три чекпоинта на Hugging Face под лицензией Apache 2.0: 74M, 194M и 287M параметров. Младшие версии работают на обычных CPU, так что даже небольшая команда может запустить извлечение без GPU. Для инференса нужно установить пакет gliner2[local] (Python 3.10+), самостоятельно хостить модель — готовых провайдеров пока нет.

GLiNER2.5 пригодится для PII-детекции, извлечения пунктов контрактов, построения графов знаний для памяти агентов, классификации guardrail-моделей и клинических сущностей с атрибутами. В библиотеке появились хелперы для длинных документов, которые автоматически разбивают текст и возвращают смещения в оригинале.