Anthropic и Accenture инвестируют 2 миллиарда долларов в оценку безопасности моделей

Anthropic заключила стратегическое партнерство с подразделением Faculty компании Accenture для внедрения независимых систем оценки безопасности моделей. Компании планируют интегрировать экспертов по оценке непосредственно в процессы разработки и тестирования архитектур.

В рамках пятилетнего соглашения каждая из сторон обязуется инвестировать не менее $1 миллиарда. Общий бюджет программы в $2 миллиарда будет направлен на создание инфраструктуры для проверки моделей на соответствие стандартам безопасности, этики и устойчивости к несанкционированным воздействиям.

Основная задача инициативы — внедрение методов «встроенной оценки» (embedded evaluation), при которых эксперты по безопасности работают параллельно с инженерами-разработчиками. Это позволит выявлять уязвимости и риски на ранних этапах обучения, а не после финального релиза продукта.

Программа охватывает тестирование моделей на предмет предвзятости, галлюцинаций и потенциальных угроз кибербезопасности. Специалисты Accenture будут использовать проприетарные методологии для верификации того, что системы Anthropic соответствуют заявленным параметрам безопасности в реальных корпоративных сценариях использования.

Данное сотрудничество знаменует переход от внешнего аудита к модели глубокой интеграции контроля качества в жизненный цикл разработки AI. Подобный подход призван повысить доверие к крупным языковым моделям при их внедрении в критически важные бизнес-процессы и государственные структуры.