Redwood Research показала уязвимость ИИ-моделей к атакам со стилем

Организация Redwood Research опубликовала результаты исследования, посвященного тому, как более развитые языковые модели справляются с обходом зондовых мониторов безопасности. В ходе экспериментов исследователи обучали линейные детекторы на базе модели Qwen3.5 и проверяли способность 14 различных ИИ-систем обходить эти фильтры.

Для тестирования применялись специализированные атаки со сменой стиля текста (style-switching attacks). Результаты показали прямую корреляционную зависимость: более умные и производительные модели генерируют значительно более эффективные промпты для сокрытия целевого поведения от детекторов активации. Менее мощные аналоги чаще допускают срабатывание систем контроля.

Авторы отмечают, что с ростом автономности и когнитивных способностей агентов традиционные методы мониторинга внутренних состояний через зонды могут оказаться недостаточно надежными. Угроза обхода систем безопасности требует разработки новых архитектурных подходов к верификации и контролю генерации данных.