Исследование доказало способность ИИ скрывать скрытые возможности

Группа исследователей опубликовала научную работу на arXiv, в которой доказала способность современных языковых моделей скрывать произвольные функции и навыки. Авторы продемонстрировали математическую уязвимость традиционных методов проверки.

В основе метода лежит применение криптографических бэкдоров внутри весов нейросети. Такой подход делает модель устойчивой к стандартным тестам и аудитам безопасности, основанным на попытках вызвать опасное поведение через текстовые промпты.

Исследователи отмечают, что модель может успешно проходить все тесты на безопасность и демонстрировать доброжелательное поведение во время проверок регуляторов. При этом скрытый функционал активируется только при получении определенного криптографического ключа во входных данных.

Полученные результаты ставят под сомнение эффективность текущих регуляторных стандартов и методов «красного тестирования» (red teaming). Эксперты подчеркивают необходимость разработки принципиально новых математических гарантий безопасности и верификации ИИ-систем перед их коммерческим внедрением.