Linkup представила разреженную модель поиска Sparseup-embed-v1

Компания Linkup выпустила linkup-sparseup-embed-v1 — специализированную модель для разреженного поиска (sparse retrieval), построенную на архитектуре ModernBERT. Решение распространяется под лицензией Apache 2.0 и предназначено для высокопроизводительных поисковых систем.

Модель демонстрирует результат 56.4 nDCG@10 на бенчмарке BEIR-13. Ключевой особенностью реализации является низкая задержка инференса, которая составляет менее 1 мс на запрос. Такие показатели достигаются за счет оптимизации архитектуры под задачи быстрого поиска по большим массивам данных.

В состав инструментария модели включены специфические методы обработки токенов, такие как logit_shift и vocab folding. Эти функции позволяют эффективно сжимать векторное представление и ускорять процесс сопоставления запросов с документами в индексах.

Разреженные методы поиска остаются критически важными для масштабируемых RAG-систем, где требуется высокая точность при ограниченных вычислительных ресурсах. Использование ModernBERT в качестве основы обеспечивает модели лучшую совместимость с современными пайплайнами обработки естественного языка по сравнению с классическими подходами на базе BERT.