Военный AI США допустил ошибку в идентификации китайского судна

Система военной разведки США, использующая алгоритмы искусственного интеллекта, сгенерировала ложный отчет о наличии ядерных компонентов на борту китайского судна. Ошибка была выявлена офицерами непосредственно перед принятием решения о начале ответных мер, что предотвратило потенциальный международный конфликт.

Согласно отчету, ИИ-инструмент проанализировал спутниковые снимки и данные радиоперехвата, ошибочно классифицировав гражданский груз как запрещенные военные материалы. Алгоритм допустил галлюцинацию, интерпретировав случайные помехи на изображении как специфические контейнеры для транспортировки радиоактивных элементов. В ходе последующего расследования выяснилось, что система не имела достаточного уровня верификации данных, поступающих из открытых источников.

Инцидент подчеркивает критические риски при внедрении автоматизированных систем принятия решений в оборонный сектор. Эксперты отмечают, что отсутствие механизмов «человеческого контроля» (human-in-the-loop) на этапе первичной обработки данных привело к тому, что ложная информация была передана в штаб как подтвержденный факт. В обсуждениях инцидента специалисты указывают на необходимость внедрения строгих протоколов проверки для всех AI-агентов, работающих с разведданными.

Министерство обороны США инициировало пересмотр алгоритмов обработки данных, чтобы исключить подобные сбои в будущем. В текущих условиях военные ведомства вынуждены пересматривать доверие к нейросетевым моделям, которые склонны к генерации убедительных, но фактически неверных выводов при анализе сложных геополитических ситуаций.