ProCreations выпустила модель Ternary-Bonsai-2-27B-DFlash2

Разработчики Ternary-Bonsai-2-27B-DFlash2 представили обновленную версию модели, прошедшую этап дообучения с использованием весов r2-dflash. Релиз ориентирован на повышение производительности при сохранении архитектурных параметров базовой модели.

Модель доступна в формате BF16 для обучения и Q8_0 для инференса. В ходе тестов зафиксирован прирост скорости генерации на 0.54% по показателю декодирования токенов в секунду. Обновление включает патч для нативного рантайма, обеспечивающий совместимость с Linux x86-64.

Техническая реализация поддерживает работу с CUDA 13.3 и оптимизирована под архитектуру SM120 Blackwell. Модель продемонстрировала результат в 15 баллов по внутренней системе оценки за 3 часа обработки данных.

Данный релиз расширяет линейку Ternary-Bonsai, предлагая разработчикам инструменты для работы на новейшем аппаратном обеспечении. Использование специфических весов dflash позволяет точнее настраивать поведение модели в задачах с высокой нагрузкой на вычислительные ресурсы.