Инструменты
Manticore Search 29.9.0: чанкованные эмбеддинги и mmap для columnar-атрибутов
Manticore Search 29.9.0 принёс несколько ключевых улучшений для работы с эмбеддингами и производительностью. Главное нововведение — chunked и multi-vector auto-embeddings, которые позволяют разбивать длинные тексты на фрагменты и генерировать несколько векторов для одного документа, что повышает точность поиска по смыслу.
Также добавлен mmap-доступ к columnar-атрибутам по умолчанию — это ускоряет чтение данных за счёт отображения файлов в память, снижая нагрузку на ввод-вывод. Кроме того, введено ограничение входа для embedding-моделей, поддержка UTF-8 идентификаторов и исправлены ошибки в hybrid search, KNN, bulk ingestion и группировке.
Источник: habr.com