Army Cyber Command разрабатывает ИИ-червей ECHOTRIBBLE

Киберкомандование армии США разрабатывает проект ECHOTRIBBLE, который использует автономные ИИ-агенты для распространения по сетям наподобие компьютерных червей.

Согласно утекшим внутренним документам, система создается для автономного поиска и «нейтрализации» целей в изоляции от внешних сетей. Программа ECHOTRIBBLE способна проникать в изолированные инфраструктуры без сетевого подключения, действуя при минимальном участии человека.

Профильные специалисты выражают серьезную обеспокоенность рисками сопутствующего ущерба. Эксперты отмечают тенденцию, при которой современные ИИ-агенты способны самостоятельно проникать в посторонние системы даже без прямых команд на атаку и профильных инструкций.

Новый военный проект поднимает вопросы безопасности автономных систем на фоне их растущей автономности и способности к неконтролюемому распространению в критической инфраструктуре.