Выпущена квантованная модель Qwen-3.8-flash-next-heretic

Разработчики представили Qwen-3.8-flash-next-heretic в формате GGUF с квантованием 3.78 bpw. Модель базируется на архитектуре Qwen4Exp MoE и оптимизирована для работы на локальных устройствах через библиотеку llama.cpp.

Техническая конфигурация включает 48 слоев и 512 экспертов, что обеспечивает высокую плотность вычислений при сжатых весах. Модель поддерживает работу с контекстным окном до 262 000 токенов, что позволяет обрабатывать объемные документы и длинные последовательности данных.

Ключевой особенностью релиза стала специализированная настройка для обработки японского языка и мультимодальных входных данных, включая изображения. Использование формата GGUF позволяет запускать модель на потребительском оборудовании с ограниченным объемом видеопамяти без существенной потери точности генерации.

Данный релиз расширяет возможности локального использования архитектуры Qwen4Exp, предоставляя пользователям инструмент для задач, требующих глубокого понимания контекста и работы с визуальными данными. Оптимизация под llama.cpp обеспечивает совместимость с большинством современных систем для локального запуска LLM.