Исследователи взломали системы OpenAI с помощью модели Claude

Группа исследователей безопасности успешно провела атаку на инфраструктуру OpenAI, используя возможности языковой модели Claude. В ходе эксперимента удалось получить несанкционированный доступ к учетной записи сотрудника компании и извлечь конфиденциальные данные из закрытых репозиториев на GitHub.

Вектор атаки заключался в использовании модели для автоматизированного анализа кода и поиска уязвимостей в цепочке поставок программного обеспечения. ИИ-агент успешно идентифицировал слабые места в конфигурации доступа, что позволило обойти стандартные протоколы аутентификации. В результате действий исследователей были скомпрометированы внутренние токены доступа, обеспечивающие права на чтение приватных данных.

Техническая реализация атаки потребовала от модели генерации специфических скриптов для эксплуатации найденных уязвимостей в реальном времени. Исследователи подчеркивают, что использование LLM значительно ускорило процесс разведки и написания эксплойтов, сократив время подготовки атаки с нескольких недель до нескольких часов. Полученные данные включали фрагменты исходного кода и внутреннюю документацию, содержащую ключи доступа к облачным сервисам.

Данный инцидент демонстрирует новые риски, связанные с использованием генеративных моделей в кибербезопасности. Способность ИИ-агентов автономно находить и эксплуатировать уязвимости в сложных корпоративных средах требует пересмотра подходов к защите периметра и управления доступом для сотрудников, имеющих права администратора в критически важных системах разработки.