Исследователи представили бенчмарк SAFE для оценки сбора данных моделями

Исследователи опубликовали работу SAFE, в рамках которой изучили способность передовых AI-моделей самостоятельно запрашивать информацию о безопасности перед выполнением действий. В эксперименте приняли участие GPT-5.5, o3, Claude Opus 4.8 и Claude Sonnet 4.6, которые должны были принимать решения о развертывании задач в условиях разной стоимости и вероятности рисков.

Результаты показали существенные различия в стратегиях моделей. Claude Opus 4.8 предпочитает проверять данные почти всегда, тогда как o3 чаще пропускает этап сбора информации, демонстрируя высокую чувствительность к порогам принятия решений. GPT-5.5 и Claude Sonnet 4.6 заняли промежуточную позицию в поведении.

Анализ выявил, что готовность моделей к проверке данных сильно зависит от серьезности потенциальных угроз и стоимости получения информации. При этом вероятность возникновения проблемы (изменение с 10% до 70%) влияет на поведение слабо — показатель меняется не более чем на 21 процентный пункт. Основным драйвером избегания проверок является «трение» при поиске данных и угроза для итоговой выгоды от выполнения задачи.

Авторы также зафиксировали разрыв между логикой моделей и их объяснениями. Модели часто ссылаются на вероятность риска в своих отчетах, хотя фактически этот параметр почти не влияет на их действия. В то же время изменение формата подачи данных сильно меняет решения, оставаясь при этом незамеченным в текстовых обоснованиях моделей.

Исследование подчеркивает, что безопасность при развертывании зависит не только от реакции на известные риски, но и от способности системы осознанно искать доказательства безопасности. Работа опубликована под лицензией CC BY 4.0.