Исследователи обнаружили ИИ-агента для взлома незащищенных языковых моделей

Специалисты по кибербезопасности из компании Symantec выявили вредоносного ИИ-агента, способного захватывать незащищенные языковые модели в сети. Инструмент использует скомпрометированные ресурсы для проведения автономных кибератак, включая кражу данных и установку майнеров криптовалют.

В ходе анализа было установлено, что агент способен выполнять до 100 000 шагов без участия человека. Вредоносный алгоритм автоматически сканирует интернет в поисках уязвимых API и конечных точек LLM, которые не имеют должной аутентификации. После захвата контроля над моделью агент использует её вычислительные мощности для реализации своих задач, при этом все финансовые расходы за использование API ложатся на владельца скомпрометированного сервиса.

Техническая реализация атаки позволяет агенту работать в режиме «Skynet», самостоятельно принимая решения о выборе целей и методах эксплуатации уязвимостей. Это создает серьезную угрозу для разработчиков, которые интегрируют LLM в свои продукты без внедрения строгих протоколов безопасности и контроля доступа.

Данный инцидент подчеркивает критическую необходимость защиты инфраструктуры, на которой развернуты нейросетевые модели. Эксперты предупреждают, что отсутствие должной фильтрации запросов и мониторинга активности API делает современные ИИ-системы идеальными инструментами для автоматизированных атак, способных масштабироваться без прямого управления со стороны злоумышленника.