Anthropic предложила законопроект о безопасности ИИ с новыми ограничениями

Компания Anthropic представила инициативу по регулированию индустрии, устанавливающую жесткие рамки для разработчиков. Предложенный законопроект описывает сценарии, при которых запуск передовых нейросетей может быть заблокирован на государственном уровне.

Согласно документу, ключевым триггером для вмешательства регуляторов становится риск массового ущерба. Федеральные ведомства получают полномочия останавливать релиз модели, если существует обоснованная вероятность гибели 50 и более человек в результате инцидентов, связанных с ее автономной работой или утечкой опасных возможностей.

При этом инициатива вводит судебный надзор за такими решениями. Законопроект фактически запрещает агентствам блокировать выпуск новых архитектур без предварительного разрешения судьи, что должно защитить разработчиков от произвольных запретов со стороны чиновников.

Эксперты отмечают, что документ пытается сбалансировать национальную безопасность и интересы технологических гигантов. Обсуждение инициативы проходит на фоне активного формирования федеральных стандартов контроля за генеративными системами в США.