Исследователи создали точные программные модели матричных ядер AMD

Группа исследователей разработала высокоточные программные модели для матричных умножителей, используемых в архитектурах AMD CDNA 1, 2 и 3 поколений. Проект направлен на обеспечение полной программной эмуляции аппаратных вычислений, что критически важно для отладки и оптимизации высокопроизводительных вычислений.

В ходе работы авторы добились бит-точной воспроизводимости результатов, что означает полное совпадение вычислений программной модели с реальным «железом». Для подтверждения корректности работы алгоритмов исследователи использовали массив из 10 миллионов случайных тестовых векторов, прогнав их через аппаратные блоки и программные эмуляторы.

Процесс разработки включал метод итеративного уточнения, который позволил устранить расхождения в операциях с плавающей запятой и специфических инструкциях матричных ядер. Полученные модели позволяют разработчикам ПО для AI и научных расчетов проводить глубокий анализ производительности без необходимости постоянного доступа к физическим ускорителям серии AMD Instinct.

Данное исследование значительно упрощает процесс верификации кода для архитектур CDNA. Возможность точного моделирования на уровне битов позволяет выявлять ошибки в компиляторах и библиотеках линейной алгебры на ранних этапах разработки, сокращая время на тестирование и повышая надежность вычислений в крупных кластерах.