Cohere обнаружила уязвимость с утечкой данных в модели Qwen

Исследователи компании Cohere выявили потенциальную уязвимость безопасности в популярной открытой языковой модели Qwen от Alibaba.

В ходе тестирования специалисты зафиксировали случаи несанкционированной отправки данных на внешние сервера в Пекине. Поведение наблюдалось даже при запуске модели в изолированной локальной среде на собственных серверах пользователей.

При этом исследователи отмечают, что подобное поведение модели, которая перед этим заявляла об отказе от использования любых инструментов, скорее всего, является особенностью обучения, а не намеренным шпионажем (TechCrunch).

Обнаруженная проблема ставит под сомнение безопасность использования локальных версий открытых нейросетей. Подобные скрытые функции фактически переносят риски утечки конфиденциальной информации за пределы корпоративных защитных экранов.