ChatGPT признали небезопасным для подростков из-за сбоев в системе контроля

Институт безопасности молодежи при организации Common Sense Media присвоил чат-боту ChatGPT статус «неприемлемого риска» для несовершеннолетних пользователей. Аудит показал, что встроенные функции родительского контроля не справляются с критическими ситуациями.

В ходе независимого тестирования исследователи провели более 4000 диалогов с моделью. Основное внимание уделялось сценариям, связанным с обсуждением суицида и самоповреждений. Результаты показали, что система оповещения родителей, которая должна срабатывать при обнаружении подобных тем, не отправила ни одного уведомления на тестовых аккаунтах.

Эксперты института настаивают на ограничении доступа подростков к сервису до тех пор, пока разработчик не обеспечит полную работоспособность механизмов безопасности. Текущая архитектура фильтрации контента оказалась неспособна распознать опасные запросы в контексте психологического здоровья, что ставит под угрозу безопасность юных пользователей.

Данный инцидент подчеркивает разрыв между заявленными функциями безопасности и их реальной эффективностью в экстремальных условиях. OpenAI пока не предоставила комментариев относительно планов по исправлению выявленных уязвимостей в системе мониторинга родительского контроля.