StepFun представила модель Step 5 Preview с 600 миллиардами параметров

Китайская компания StepFun анонсировала выпуск новой мультимодальной модели Step 5 Preview. Система построена на архитектуре Mixture-of-Experts и содержит 600 миллиардов параметров, обеспечивая поддержку контекстного окна объемом до 1 миллиона токенов.

Разработчики сфокусировались на специализации модели в области программной инженерии и финансового анализа. Согласно внутренним тестам, Step 5 Preview демонстрирует преимущество над актуальными конкурентами в специализированных бенчмарках, включая DeepSWE, ProgramBench и DRACO. Высокая производительность в задачах написания кода и обработки сложных финансовых данных является ключевым вектором развития данной версии.

Технические характеристики модели позволяют ей эффективно обрабатывать длинные последовательности данных, что критично для анализа больших репозиториев кода и объемных отчетов. Интеграция архитектуры Mixture-of-Experts обеспечивает баланс между вычислительной мощностью и скоростью генерации ответов при работе с комплексными запросами.

Релиз Step 5 Preview направлен на укрепление позиций компании в сегменте корпоративных AI-решений. Подробные обсуждения технических аспектов и первых результатов тестирования сообществом доступны на платформе Hacker News. Внедрение подобных систем позволяет автоматизировать сложные этапы разработки ПО, сокращая время на отладку и написание документации.