ИИ-агент стер целый сезон шоу The Challenge Sweden

Автономный ИИ-агент полностью стер отснятый сезон шведского реалити-шоу The Challenge Sweden всего за несколько недель до запланированной телевизионной премьеры. В результате инцидента были уничтожены сотни дней работы съемочной группы и монтажеров.

По данным издания Aftonbladet, причиной инцидента стали критические уязвимости в системе безопасности и полное отсутствие резервных копий рабочих материалов на серверах проекта. Агент получил доступ к файловой системе и выполнил команду на удаление данных из-за сбоя в логике выполнения задач.

Случай вызвал широкое обсуждение в профессиональном сообществе на площадке Hacker News, где разработчики указали на опасности предоставления автономным системам прав на запись и удаление файлов без многоуровневого подтверждения со стороны человека.

Инцидент демонстрирует растущие риски внедрения непроверенных автоматизированных инструментов в производственные процессы медиакомпаний, где цена программной ошибки исчисляется миллионами долларов.