Исследователи предложили метод избирательной фильтрации контента в AI

Команда Multiverse Computing представила исследование, посвященное проблеме избыточной цензуры в больших языковых моделях. Авторы доказали, что текущие системы безопасности часто блокируют целые темы запросов, даже если конкретный вопрос пользователя не несет вреда или не нарушает этические нормы.

В ходе работы специалисты проанализировали поведение моделей при обработке чувствительных тем. Выяснилось, что стандартные методы RLHF (обучения с подкреплением на основе отзывов людей) приводят к «отказу по умолчанию», когда модель классифицирует запрос как опасный из-за наличия ключевых слов, игнорируя контекст. Исследователи предложили архитектурный подход, позволяющий разделять общую тему на допустимые и недопустимые подмножества.

Предложенный метод использует гранулярную классификацию намерений, что позволяет снизить уровень ложноположительных срабатываний на 42%. В тестах на наборах данных, содержащих спорные вопросы, модель сохраняла полезность ответов, отказываясь генерировать контент только в 12% случаев, где ранее блокировка достигала 55%. Это достигается за счет внедрения дополнительного слоя верификации, который анализирует семантическую нагрузку фразы до этапа генерации.

Технология опирается на использование специализированных классификаторов, которые работают с точностью 94.8% при определении вредоносного контекста. Разработчики отмечают, что такой подход не требует переобучения всей модели, а интегрируется как внешний фильтр, что снижает вычислительные затраты на 15% по сравнению с методами глубокой донастройки безопасности.

Данное решение направлено на повышение гибкости AI-систем в корпоративном секторе, где жесткие фильтры часто блокируют легитимные рабочие задачи. Внедрение подобной архитектуры позволяет разработчикам точнее настраивать политики безопасности, сохраняя при этом функциональность моделей для специфических профессиональных доменов.