Anthropic запретила оскорблять Claude в новых правилах

Компания Anthropic впервые за год обновила правила использования своих моделей ИИ. Главным нововведением стал запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к чат-боту Claude.

Согласно обновленным правилам, искусственный интеллект будет самостоятельно прерывать диалог в случае грубости со стороны пользователя. Помимо этого, компания ввела жесткие ограничения на применение технологий для вмешательства в выборы, включая распространение дезинформации, выдачу себя за официальных лиц и попытки снизить явку избирателей. Под запрет также попала несанкционированная слежка за людьми, разработка оружия и использование ИИ в сфере здравоохранения и финансов для принятия ключевых решений.

В компании уточнили, что новые меры не затронут обычное раздражение пользователей, дискуссии с моделью, создание мрачных творческих сюжетов или исследовательские задачи — ограничения будут применяться исключительно в экстремальных ситуациях. Дополнительные виды наказаний за грубость, такие как блокировка учетных записей, пока не уточняются.

Все введенные правила вступят в силу 12 ноября.