Anthropic выбрала Accenture для оценки безопасности своих моделей

Anthropic заключила соглашение с консалтинговой компанией Accenture, которая станет первым внешним партнером по оценке безопасности и надежности разрабатываемых моделей. В рамках сотрудничества специалисты компании будут проводить независимый аудит систем перед их публичным релизом.

Программа предполагает внедрение экспертов в процессы тестирования, где они будут проверять модели на устойчивость к киберугрозам, предвзятость и соответствие этическим стандартам. Это первый случай, когда разработчик уровня Anthropic делегирует функции «встроенного оценщика» сторонней организации, работающей с корпоративными клиентами.

В ходе проверок будут использоваться закрытые наборы данных и специфические сценарии атак, разработанные для выявления уязвимостей в архитектуре LLM. Результаты аудита будут учитываться при принятии решений о выпуске обновлений для конечных пользователей и бизнес-сегмента.

Сотрудничество направлено на снижение рисков при развертывании ИИ-решений в критически важных отраслях, таких как финансы и здравоохранение. Ранее подобные проверки проводились преимущественно силами внутренних команд безопасности, однако рост сложности моделей потребовал привлечения внешних экспертов для независимой верификации.

Данный шаг отражает общую тенденцию в индустрии, где компании стремятся повысить прозрачность своих разработок через внешние партнерства. Использование сторонних аудиторов позволяет Anthropic подтвердить надежность своих систем для крупных корпоративных заказчиков, требующих строгих гарантий безопасности перед внедрением технологий в свои рабочие процессы.