Исследователи представили фреймворк FairCompressAgent для сжатия моделей под FPGA

Исследователи представили FairCompressAgent — агентный фреймворк, предназначенный для автоматизированного сжатия нейросетей с учетом требований к справедливости (fairness) и аппаратным ограничениям FPGA. Система объединяет методы прунинга, инкрементальной квантизации и разреженного низкорангового факторизации в единый рабочий процесс.

В основе решения лежит языковая модель-планировщик, которая анализирует профили нейросетей и метрики производительности для выбора оптимальной конфигурации сжатия. Исполнительный слой фреймворка берет на себя задачи дообучения, оценки качества и отбора моделей на основе заданных ограничений. В случае невозможности выполнения требований пользователя, система предоставляет отчет о нарушениях.

Тестирование проводилось на архитектуре VGG-11 с использованием датасета Fitzpatrick-17k. При заданных ограничениях на точность, FairCompressAgent сократил объем хранения тензоров для инференса на 59.54%. При этом средняя точность (average precision) выросла с 0.5141 до 0.5233, а показатель неравенства возможностей (EOpp) снизился с 0.2251 до 0.2168.

Фреймворк продемонстрировал высокую эффективность поиска: для достижения итоговой конфигурации системе потребовалось в среднем 7.33 оценки кандидатов против 12 при использовании стандартных методов планирования. Инструмент поддерживает интерактивное обновление требований и повторное дообучение, что обеспечивает стабильность процесса оптимизации.

Разработка направлена на упрощение развертывания AI-решений на специализированном оборудовании, где критически важен баланс между вычислительной эффективностью и этическими показателями модели. Исходный код и описание методологии доступны по лицензии Non-exclusive distribution.