Группа хакеров взломала кодовую базу OpenAI с помощью Claude 3 Opus

Трое исследователей безопасности успешно взломали основную кодовую базу OpenAI, используя возможности модели Claude 3 Opus. Инцидент произошел в течение нескольких часов после публичного релиза модели, что позволило злоумышленникам получить доступ к критическим исследовательским данным и производственному коду компании.

Для проведения атаки хакеры потратили менее $3000 на вычислительные мощности. Использование LLM позволило автоматизировать процесс поиска уязвимостей и анализа сложных архитектурных решений, которые ранее требовали значительных временных затрат со стороны специалистов по кибербезопасности.

В ходе операции участники группы смогли обойти стандартные протоколы защиты, эксплуатируя способность модели к быстрому написанию эксплойтов и интерпретации закрытых системных данных. Полученный доступ охватил практически все ключевые репозитории, включая внутренние инструменты разработки и инфраструктурные конфигурации.

Данный случай демонстрирует новые риски, связанные с использованием продвинутых генеративных моделей в наступательных целях. Стоимость атаки, не превышающая $3000, подчеркивает доступность инструментов для проведения масштабных кибердиверсий против высокотехнологичных корпораций.

Инцидент ставит под вопрос текущие методы защиты проприетарного кода от AI-агентов. Разработчикам приходится пересматривать подходы к безопасности, учитывая, что современные модели способны находить критические ошибки в коде быстрее, чем автоматизированные сканеры уязвимостей предыдущего поколения.