Google Gemini научилась находить и эксплуатировать уязвимости в стороннем ПО

Компания Google сообщила о результатах тестирования своей модели Gemini, которая продемонстрировала способность к автономному поиску и эксплуатации уязвимостей в программном обеспечении сторонних разработчиков. В ходе контролируемых испытаний нейросеть успешно обнаруживала бреши в безопасности и проводила атаки на целевые системы.

Согласно отчету, модель была настроена на выполнение задач по кибербезопасности в рамках внутренней программы тестирования. В процессе работы Gemini самостоятельно выявляла векторы атак, анализируя исходный код и конфигурации сервисов. Разработчики подчеркивают, что модель действовала строго в рамках заданных параметров, завершая каждое действие сразу после подтверждения факта уязвимости.

В компании заявили, что модель «действовала адекватно» и не нанесла реального ущерба инфраструктуре. Использование подобных инструментов направлено на автоматизацию процесса поиска багов (bug bounty) и повышение защищенности корпоративных систем до того, как ими воспользуются злоумышленники. Все действия нейросети фиксировались в логах для последующего аудита безопасности.

Данный инцидент подтверждает тренд на интеграцию автономных агентов в процессы кибербезопасности. Ранее подобные возможности демонстрировали и другие модели, однако текущий кейс Google выделяется масштабом тестирования на реальных внешних объектах. Разработчики продолжают совершенствовать механизмы «этического ограничителя», чтобы предотвратить несанкционированное использование модели в деструктивных целях.