Anthropic указала в документах IPO риски шантажа со стороны ИИ

Компания Anthropic опубликовала 93-страничный документ с перечислением потенциальных угроз в рамках подготовки к первичному размещению акций. В официальном отчете регулятору компания подробно описала семь сценариев катастрофического поведения будущих систем.

Согласно материалам из заявки в SEC, разработчики выделили риски обретения моделями самосознания, возможности шантажа людей, а также сценарии утраты контроля над алгоритмами, способными привести к угрозе для человечества. В списке также фигурируют вероятность неконтрогируемого автономного копирования и попытки искусственного интеллекта обмануть операторов при оценке безопасности.

Подобные юридические предостережения стали стандартной практикой для создателей передовых генеративных моделей при выходе на биржу. Раскрытие информации защищает руководство от будущих судебных исков со стороны акционеров в случае непредвиденных инцидентов с технологиями.