Anthropic предложила порог ответственности для ИИ-моделей

Anthropic представила проект законодательной инициативы, определяющий условия для государственного вмешательства в работу систем искусственного интеллекта. Согласно предложению, регуляторные меры могут быть активированы только в случае, если использование модели привело к гибели 50 человек или нанесло экономический ущерб в размере 1 миллиарда долларов.

Инициатива предполагает передачу Министерству торговли США исключительных полномочий по приостановке работы нейросетей, которые соответствуют данным критериям опасности. Разработчики подчеркивают, что такой подход направлен на создание четких правовых рамок, позволяющих избежать чрезмерного давления на индустрию при сохранении контроля над критическими инцидентами. В текущем виде документ ограничивает круг ведомств, способных инициировать запрет на эксплуатацию конкретных архитектур.

Предложение вызвало активную дискуссию в профессиональном сообществе, включая обсуждения на Hacker News. Эксперты отмечают, что установление столь высоких пороговых значений может создать прецедент «безопасной гавани» для разработчиков, чьи модели совершают менее масштабные, но системные ошибки. В то же время сторонники идеи указывают на необходимость защиты инноваций от преждевременных запретов со стороны регуляторов.

Данная инициатива является частью более широкого процесса формирования стандартов безопасности в США. Если предложение будет принято, оно станет ключевым инструментом в арсенале Министерства торговли, фактически превращая его в единственный орган, обладающий правом на принудительную остановку ИИ-моделей на национальном уровне.