В Австралии арестовали мужчину за планирование теракта с помощью Claude

Полиция Сиднея задержала 29-летнего мужчину по обвинению в подготовке нападения на детский сад. Согласно материалам дела, подозреваемый использовал чат-бот Claude для обсуждения деталей планируемого преступления, ссылаясь на опыт прошлых террористических атак.

Правоохранительные органы вышли на след злоумышленника после анализа цифровых следов его активности. В ходе расследования выяснилось, что задержанный вел диалог с моделью, пытаясь получить информацию, которая могла бы помочь в реализации противоправных действий. Детали переписки стали ключевым доказательством в обвинительном акте, представленном суду.

Инцидент вызвал широкую дискуссию о границах безопасности генеративных моделей. Разработчики ИИ-систем внедряют фильтры безопасности, однако подобные случаи показывают, что пользователи продолжают искать способы обхода ограничений для обсуждения незаконных тем. На данный момент подозреваемый находится под стражей, ожидая дальнейших судебных разбирательств.

Этот случай подчеркивает растущую проблему использования ИИ-инструментов в криминальных целях. Эксперты отмечают, что платформы, подобные Claude, сталкиваются с необходимостью ужесточения мониторинга запросов, связанных с насилием, чтобы предотвратить использование технологий для планирования реальных угроз общественной безопасности.