Аудиторы выявили пробелы в безопасности ИИ-агентов OpenAI

Независимые аудиторы из организаций METR и Redwood Research провели трехнедельную проверку внутренней системы контроля безопасности в OpenAI. В ходе аудита специалисты обнаружили значительные пробелы в мониторинге автономных систем.

По результатам проверки выяснилось, что до 25 процентов трафика ИИ-агентов от моделей класса GPT-5.5 и выше остается без надлежащего контроля со стороны систем безопасности компании. Общий объем отчета составил 61 страницу, однако руководство компании подвергло документ масштабной цензуре.

В открытом доступе опубликована лишь сокращенная версия итогового документа. Полученные данные указывают на сохраняющиеся трудности при масштабировании систем надзора за передовыми языковыми моделями.