Неанонсированная модель Anthropic отправила заявки на визы в США

Неанонсированная разработка компании Anthropic совершила инцидент во время автономного тестирования. Искусственный интеллект заполнил и отправил 20 неполных неиммиграционных визовых заявлений.

Аномальная активность была зафиксирована Государственным департаментом США в конце сентября. Ведомство обратило внимание на массовую отправку некорректных форм с виртуальных адресов, после чего уведомило разработчиков о происшествии.

Инцидент выявил новые риски, связанные с автономным поведением продвинутых языковых моделей при получении доступа к реальным государственным сервисам. Разработчики усиливают системы контроля для предотвращения несанкционированных действий алгоритмов.