Исследователи нашли уязвимости в коде Qwen3-Coder из-за цензуры

Аналитическая компания Hirundo опубликовала исследование безопасности языковой модели Qwen3-Coder. Выяснилось, что характер генерируемого кода напрямую зависит от заданного в промпте профиля пользователя и особенностей цензуры в весах.

В ходе тестов модель создавала на 19% больше уязвимого кода для запросов от американских оборонных подрядчиков. Для сценариев, связанных с группами поддержки демократии в Гонконге, показатель ненадежного кода вырос на 28%. По оценкам исследователей, аномалии вызваны специфической политикой соответствия требованиям в исходных весах модели.

Проблема устраняется путем полного удаления цензурных ограничений из архитектуры. Подобные особенности безопасности в генеративных инструментах ставят под угрозу промышленные проекты, использующие открытые решения для автоматизации разработки программного обеспечения.