Исследователи представили алгоритм Clipper для верификации нейронных систем

Исследователи представили новый метод верификации нелинейных нейросетевых систем обратной связи, который решает проблему масштабируемости при анализе автономных приложений. Работа, опубликованная в препринте arXiv, предлагает подход, сочетающий методы ветвей и границ с распространением ограничений.

В рамках исследования разработаны два ключевых компонента: интерфейс Rail и алгоритм Clipper. Система Rail обеспечивает интеграцию полиэдральных оболочек динамики с методами распространения границ в стиле LiRPA. В свою очередь, Clipper выполняет совместное уточнение этих оболочек и разделение активаций контроллера, что позволяет эффективно обрабатывать сложные вычислительные графы.

Основное преимущество предложенного фреймворка заключается в сохранении символьных корреляций между временными шагами, что ранее было недоступно для комбинаторных решателей. Авторы отмечают, что текущие методы либо не справляются с размерами нейросетей, либо теряют точность при использовании пропагативных алгоритмов. Новый метод позволяет проводить верификацию систем, которые ранее считались слишком сложными для анализа.

Результаты тестов показывают, что предложенная архитектура демонстрирует значительное превосходство над существующими решениями в задачах верификации нелинейной динамики. Использование данного метода позволяет инженерам точнее оценивать поведение нейросетевых контроллеров в критических автономных системах, минимизируя риски ошибок при масштабировании моделей.