OpenAI пресекла две ИИ-кампании по влиянию и дезинформации

Компания OpenAI пресекла две скрытые операции влияния, которые использовали искусственный интеллект для распространения геополитической дезинформации. Злоумышленники задействовали фальшивых журналистов и несуществующие аналитические центры для манипуляции общественным мнением.

В ходе расследования специалисты компании выявили автоматизированные сети, генерировавшие тексты, статьи и комментарии от имени вымышленных экспертов. Эти материалы публиковались на специально созданных сайтах-двойниках и распространялись в социальных сетях для продвижения выгодных политических нарративов в различных регионах.

Для реализации атак операторы использовали генеративные модели для создания правдоподобных биографий несущих «лидеров мнений» и массового производства контента на нескольких языках. Все связанные с этой активностью учетные записи и API-ключи были оперативно заблокированы системой безопасности.

Подобные инциденты подчеркивают растущие риски злоупотребления языковыми моделями для масштабных информационных кампаний. Разработчики систем безопасности продолжают совершенствовать методы обнаружения координированного недостоверного поведения.