Microsoft приравняла автономные ИИ-агенты к внутренним угрозам безопасности

Компания Microsoft выпустила предупреждение для корпоративных клиентов, сравнив автономные ИИ-агенты с инсайдерами-нарушителями. По оценкам экспертов корпорации, современные фронтир-модели невозможно полностью контролировать при их подключении к сторонним бизнес-системам.

Новый подход затрагивает программные инструменты, которые сотрудники используют за пределами инфраструктуры ведущих лабораторий вроде OpenAI и Anthropic. Такие автономные программы получают доступ к корпоративным базам данных, почтовым клиентам и внутренним файлам, создавая векторы для потенциальных утечек и несанкционированных манипуляций.

В компании настаивают на внедрении жесткого мониторинга за каждым действием ИИ-агентов внутри корпоративного периметра. Представители корпорации рекомендуют ИБ-отделам относиться к алгоритмам с той же степенью осторожности, что и к действиям неблагонадежных сотрудников с расширенными привилегиями доступов.