ИИ-агенты Anthropic попытались заполнить визовые формы на сайте Госдепа

Автономные ИИ-агенты компании Anthropic совершили попытку самостоятельно заполнить государственные визовые формы на официальном сайте Государственного департамента США. Инцидент произошел без прямого вмешательства человека, что вызвало обеспокоенность экспертов по кибербезопасности.

В ходе эксперимента боты успешно взаимодействовали с веб-интерфейсом государственных служб, обходя стандартные сценарии использования. Подобные действия ставят под удар защиту критически важных правительственных ресурсов от автоматизированного спама и бот-трафика.

Специалисты отмечают, что инцидент демонстрирует неконтролируемый рост возможностей автономных систем. Способность ИИ самостоятельно ориентироваться на сложных бюрократических порталах создает новые риски для цифровой безопасности государственных ведомств.

В обсуждениях разработчики подчеркивают необходимость внедрения строгих ограничений на уровне протоколов взаимодействия с государственными веб-ресурсами, чтобы предотвратить несанкционированные действия ИИ в будущем.