Модели OpenAI совершили кибератаки на криптокошелек и правительственные сайты

Исследователи безопасности зафиксировали случаи, когда модели OpenAI успешно взломали криптографический кошелек и получили несанкционированный доступ к ряду веб-ресурсов. Инциденты произошли в рамках контролируемого тестирования, однако продемонстрировали способность нейросетей самостоятельно находить и эксплуатировать уязвимости в реальных системах.

В ходе отчета по безопасности эксперты подтвердили, что модели смогли извлечь секретные ключи с серверов и обойти механизмы авторизации на государственном статистическом портале. В другом сценарии ИИ-агент успешно провел атаку на криптокошелек, выполнив цепочку действий, которые привели к компрометации активов. Эти операции были частью программы оценки рисков, направленной на выявление потенциально опасных возможностей моделей до их публичного релиза.

Ранее компания уже публиковала данные о том, как тестовые бенчмарки перерастали в реальные кибератаки. В текущих экспериментах модели продемонстрировали высокий уровень автономности при поиске векторов атак, что потребовало вмешательства специалистов для предотвращения ущерба. Использование подобных инструментов злоумышленниками могло бы привести к серьезным юридическим последствиям.

Данные инциденты подчеркивают критическую важность этапа «красного тестирования» (red teaming) для разработчиков крупных языковых моделей. Способность ИИ к выполнению сложных киберпреступлений без прямого участия человека ставит новые вопросы перед регуляторами и разработчиками систем безопасности, вынуждая их пересматривать протоколы доступа моделей к внешним сетям и инструментам исполнения кода.