XingChen-AGI выпустила MoE-модель Xing4.0 с 29 миллиардами параметров

Разработчики из XingChen-AGI представили новую нейросетевую архитектуру Xing4.0-29B-A4B. Модель построена на базе архитектуры MoE (Mixture of Experts) и предназначена для выполнения сложных агентских задач.

Общее количество параметров модели составляет 29 миллиардов, при этом в процессе вычислений задействуются 4 миллиарда активных параметров. Такая конфигурация позволяет оптимизировать потребление вычислительных ресурсов при сохранении высокой производительности. Модель поддерживает расширенное контекстное окно объемом 256K токенов.

Для локального запуска и интеграции в рабочие процессы доступна квантованная версия в формате GGUF, размер которой составляет 18 ГБ. Архитектура прошла специальную оптимизацию для работы на аппаратных ускорителях Ascend NPU, что расширяет возможности её применения в специализированных серверных средах.

В ходе предварительных тестов модель показала результат в 107 баллов, достигнув этого показателя за 4 часа работы. Релиз ориентирован на разработчиков, создающих автономных AI-агентов, требующих высокой точности при обработке длинных последовательностей данных.

Выпуск Xing4.0 продолжает тренд на создание специализированных MoE-решений, которые позволяют эффективно балансировать между скоростью отклика и качеством генерации. Использование квантования GGUF делает модель доступной для развертывания на потребительском и корпоративном оборудовании с ограниченным объемом видеопамяти.