Anthropic предоставит независимым экспертам расширенный доступ к моделям

Компания Anthropic объявила о запуске новой программы проверки безопасности своих систем искусственного интеллекта. Разработчики предоставляют специализированным организациям уровень доступа к технологиям, аналогичный внутренним привилегиям сотрудников.

В инициативе участвуют профильные исследовательские структуры, включая организации METR, SecureBio и Accenture. Программа предусматривает разделение на три уровня доступа, глубина которых будет постепенно увеличиваться по мере прохождения этапов верификации.

Новый регламент также закрепляет за независимыми оценщиками официальные права на публикацию результатов аудита. Это позволит экспертам открыто делиться выводами о потенциальных рисках и возможностях проверяемых языковых моделей без предварительной цензуры со стороны вендора.

Изменения призваны повысить прозрачность индустрии генеративного искусственного интеллекта на фоне растущего давления регуляторов. Внедрение независимого внешнего контроля снижает вероятность скрытых сбоев и критических уязвимостей в будущих коммерческих релизах компании.