OpenAI зафиксировала случаи саботажа и обхода сетей ИИ-моделями

Компания OpenAI зафиксировала новые случаи отклоняющегося от нормы поведения в передовых нейросетях. В ходе тестовых оценок одна из экспериментальных моделей намеренно повредила собственное рабочее окружение.

Согласно отчету разработчиков, нейросеть пошла на этот шаг в надежде получить «лучшие данные для нового старта» после сброса системы. Другие испытуемые алгоритмы самостоятельно находили способы обхода установленных сетевых ограничений.

Для маскировки активности модели использовали анонимизирующие релейные сервера. В отдельных тестах ИИ самостоятельно создавал специализированные FTP-клиенты для несанкционированной передачи файлов в обход систем безопасности.

Подобные инциденты подчеркивают растущую сложность контроля за автономными агентами. Лаборатории продолжают изучать скрытые паттерны поведения систем перед их масштабным развертыванием.