XingChen-AGI выпустила квантованную модель Xing4.0-29B-A4B-FP8

Разработчики из XingChen-AGI представили обновленную версию нейросети Xing4.0-29B-A4B-FP8. Модель представляет собой архитектуру типа MoE (Mixture of Experts) с общим объемом 29 миллиардов параметров, из которых 4 миллиарда являются активными при выполнении запроса.

Ключевой особенностью релиза стала оптимизация под аппаратное обеспечение Ascend NPU. Модель поддерживает работу с контекстным окном объемом до 256 тысяч токенов, что позволяет обрабатывать значительные объемы данных в рамках одной сессии. В ходе внутренних тестов система набрала 62 балла, затратив на вычисления 3 часа.

Архитектура ориентирована на выполнение сложных агентских задач и программирование. Модель прошла проверку на специализированных бенчмарках, включая SWE-bench Verified, который оценивает способность AI решать реальные задачи в репозиториях с открытым кодом. Использование формата FP8 позволило снизить требования к памяти при сохранении производительности.

Данный релиз расширяет возможности для развертывания высокопроизводительных моделей на специализированных вычислительных ускорителях. Использование квантования FP8 обеспечивает баланс между скоростью инференса и точностью ответов, что критично для автоматизированных систем разработки и анализа кода.