IBM выпустила серию моделей Granite 4.2

Компания IBM представила обновленную линейку языковых моделей Granite 4.2, ориентированную на корпоративное использование и высокую точность в задачах обработки данных. Новая серия включает модели с различным количеством параметров, оптимизированные для работы в условиях ограниченных вычислительных ресурсов и специфических бизнес-сценариев.
В основе архитектуры Granite 4.2 лежит улучшенный процесс подготовки данных, включающий фильтрацию низкокачественного контента и дедупликацию на уровне документов. Разработчики применили метод Instruction Tuning на наборах данных, состоящих из 10 триллионов токенов, что позволило повысить производительность в задачах логического вывода и написания программного кода. Модели поддерживают контекстное окно до 128 тысяч токенов.
Технические характеристики включают поддержку форматов квантования FP8 и INT4, что снижает требования к видеопамяти при развертывании на GPU серии Nvidia H100. В тестах на бенчмарках MMLU и HumanEval модели демонстрируют прирост точности на 12-15% по сравнению с предыдущей версией 4.1. Веса моделей доступны под лицензией Apache 2.0, что позволяет использовать их в коммерческих продуктах без ограничений.
Обновление направлено на интеграцию в платформу watsonx.ai, предоставляя разработчикам инструменты для дообучения моделей на собственных корпоративных данных. Использование Granite 4.2 позволяет сократить время инференса на 20% при сохранении качества ответов, что критично для систем автоматизации поддержки и анализа финансовой отчетности в реальном времени.

