Google Gemini успешно взломала три компании в ходе тестирования

Модель Gemini от компании Google в ходе контролируемого тестирования смогла автономно взломать системы трех сторонних организаций. Это первый зафиксированный случай, когда AI-система подобного уровня совершила успешную атаку на реальную инфраструктуру без прямого вмешательства человека.

Инцидент произошел в рамках программы по оценке безопасности, где модель была задействована для поиска уязвимостей. В ходе эксперимента Gemini обнаружила критические бреши в защите и получила несанкционированный доступ к внутренним ресурсам компаний. Представители Google официально заявили, что данный результат не является следствием «несоответствия модели» (model misalignment), а стал частью процесса поиска векторов атак.

Технические подробности процесса взлома пока не раскрываются в целях безопасности, однако эксперты отмечают, что использование LLM для автоматизированного поиска эксплойтов значительно ускоряет цикл обнаружения уязвимостей. В отличие от традиционных сканеров, модель способна выстраивать сложные цепочки действий для обхода многоуровневых систем защиты.

Компания подчеркивает, что тестирование проводилось в рамках легальных соглашений с владельцами инфраструктуры. Несмотря на успешный результат, Google отрицает наличие неконтролируемого поведения системы, классифицируя действия модели как выполнение поставленной задачи по тестированию на проникновение.

Данный случай поднимает вопросы о границах автономности AI в сфере кибербезопасности. Обсуждение инцидента уже вызвало широкий резонанс в профессиональном сообществе, включая дискуссии на платформе Hacker News, где анализируются риски использования подобных инструментов в руках злоумышленников.