Nvidia выпустила квантованную модель Qwen3.8-27B-NVFP4

Компания Nvidia представила специализированную версию языковой модели Qwen3.8-27B-NVFP4, оптимизированную для работы на аппаратном обеспечении нового поколения. Модель содержит 27 миллиардов параметров и прошла процедуру квантования в форматах NVFP4 и FP8.

Релиз ориентирован на развертывание в высокопроизводительных вычислительных средах на базе графических процессоров Nvidia Blackwell. Для интеграции и запуска модели разработчики обеспечили полную поддержку популярных движков инференса, включая vLLM и SGLang. Использование данных форматов квантования позволяет существенно снизить требования к видеопамяти при сохранении точности вычислений.

Модель распространяется под лицензией Apache 2.0, что разрешает её использование в коммерческих и исследовательских проектах. В ходе внутренних тестов система продемонстрировала результат в 104 балла, достигнув этого показателя за 2 часа работы на целевом оборудовании.

Данный выпуск расширяет экосистему инструментов для работы с архитектурой Blackwell, предоставляя разработчикам готовые к эксплуатации веса. Оптимизация под 4-битные и 8-битные форматы с плавающей запятой позволяет запускать крупные модели на меньшем количестве вычислительных узлов, что снижает стоимость инференса в корпоративных ЦОД.