Anthropic научила Claude автоматически доказывать безопасность кода

Компания Anthropic задействовала модель Claude для генерации математических доказательств корректности существующего программного обеспечения. В рамках масштабного тестирования система обработала 123 открытые библиотеки и создала примерно 180 миллионов строк верификационного кода.

В процессе анализа модель смогла обнаружить скрытые ошибки в кодовых базах, которые оставались незамещенными на протяжении многих лет стандартного тестирования. Инициатива направлена на то, чтобы сделать применение методов формальной верификации с помощью искусственного интеллекта стандартным и регулярным процессом при разработке программ.

Новый подход существенно снижает трудозатраты на ручной аудит безопасности и математическое обоснование надежности критически важных компонентов. Использование генеративных моделей для создания верификационных доказательств переводит автоматизированный анализ кода на качественно новый уровень точности.