OpenAI встроит водяные знаки в ChatGPT для пользователей из ЕС

Компания OpenAI объявила о добавлении системы невидимой маркировки для всех текстовых ответов, генерируемых чат-ботом ChatGPT. Новая функция будет активирована по умолчанию, однако ее действие распространяется исключительно на территории Европейского Союза в соответствии с требованиями местного законодательства.

В основе механизма лежит технология энтропийно-калиброванного водяного знака, подробно описанная в техническом документе компании. Метод изменяет распределение вероятностей при выборе слов языковой моделью таким образом, чтобы оставлять незаметный для человека статистический след, который можно обнаружить с помощью специального алгоритма проверки.

Разработчики отмечают, что внедряемое решение не является абсолютно надежным и может быть обойдено с помощью простого перефразирования текста или перевода на другой язык. Тем не менее, данный шаг позволяет компании выполнить юридические нормативы ЕС по маркировке искусственного контента и борьбе с дезинформацией.