Иранская кампания использовала ChatGPT для публикации фейков в СМИ США

Иранская группа влияния использовала ChatGPT для генерации и распространения дезинформации в американских изданиях. В ходе операции было создано около 100 фальшивых статей, которые были опубликованы как минимум в 20 региональных СМИ США, включая еженедельную газету во Флориде.

Целью кампании было формирование общественного мнения относительно конфликта с Ираном. Злоумышленники использовали возможности генеративных моделей для написания текстов, имитирующих стиль журналистских материалов, что позволило им обходить редакционные фильтры небольших изданий. Факт использования нейросетей для автоматизации дезинформации был подтвержден в ходе расследования Washington Post.

Инцидент подчеркивает уязвимость локальных медиа перед лицом автоматизированных атак. Использование ИИ позволяет создавать контент в промышленных масштабах, что значительно снижает стоимость проведения информационных операций. Ранее подобные методы уже фиксировались в отчетах о кибербезопасности, однако текущий случай демонстрирует успешную интеграцию ИИ-контента в реальную новостную повестку.

Эксперты отмечают, что верификация авторства и проверка фактов становятся критически важными задачами для редакций любого уровня. Разработчики моделей, в свою очередь, продолжают внедрять системы мониторинга для предотвращения использования своих инструментов в подобных целях, однако полностью исключить злоупотребления пока не удается.