AI-галлюцинация привела к риску военного столкновения США и Китая

Использование алгоритмов искусственного интеллекта в разведывательных операциях ВМС США едва не спровоцировало международный конфликт. Система обработки данных ошибочно идентифицировала гражданское китайское судно как носитель запрещенных ядерных компонентов, что поставило военное командование перед угрозой перехвата и досмотра корабля.

Согласно отчету CNN, инцидент произошел из-за критической ошибки в работе аналитической модели, которая интерпретировала неверные данные как доказательство нарушения международных санкций. Алгоритм сгенерировал ложный отчет, основываясь на неполных спутниковых снимках и искаженных метаданных, что привело к автоматической классификации судна как «высокорискованного объекта».

В ходе последующего расследования выяснилось, что модель допустила «галлюцинацию», достроив недостающие детали конструкции судна до уровня военных спецификаций. Ошибка была выявлена офицерами штаба за несколько минут до начала операции по принудительной остановке судна, что позволило избежать прямого столкновения с китайскими силами в спорном регионе.

Данный случай стал поводом для пересмотра протоколов использования автономных систем в разведывательной деятельности Пентагона. В настоящее время военное ведомство вводит обязательную верификацию всех выводов AI-систем операторами-людьми, чтобы исключить автоматическое принятие решений на основе недостоверных данных. Инцидент подчеркивает риски внедрения генеративных моделей в критическую инфраструктуру безопасности, где цена ошибки может привести к эскалации геополитического напряжения.