Выпущена компактная модель Yantra-1B для вызова инструментов

Разработчики представили Yantra-1B — специализированную языковую модель с 1 миллиардом параметров, оптимизированную для задач вызова внешних функций и инструментов. Решение ориентировано на работу в условиях ограниченных вычислительных ресурсов.

Модель демонстрирует показатель PAS 0.6775 на бенчмарке ToolACE-300. Согласно результатам тестирования, производительность новинки в 3.52 раза превышает показатели базовой версии модели. Высокая точность достигается за счет комбинации легковесного маршрутизатора и дообучения архитектуры MiniCPM5-1B с использованием метода QLoRA.

Техническая реализация модели сфокусирована на генерации аргументов для вызова API. Использование QLoRA позволяет эффективно адаптировать веса модели под специфические задачи вызова инструментов, сохраняя при этом минимальный объем занимаемой памяти, что критично для развертывания на периферийных устройствах.

Выпуск Yantra-1B расширяет возможности для создания автономных агентов, способных взаимодействовать с внешним программным обеспечением без необходимости использования тяжелых LLM. Модель доступна для интеграции в проекты, требующие высокой скорости обработки запросов при ограниченном бюджете токенов.