Just AI обновила систему защиты Jay Guard для русскоязычных AI-агентов

Компания Just AI представила обновленные детекторы для своей платформы Jay Guard, предназначенной для защиты LLM-приложений от атак типа «jailbreak». Разработчики сфокусировались на адаптации системы к специфике русского языка, чтобы снизить количество ложных срабатываний при фильтрации входящего трафика.

В ходе исследования команда проанализировала методы социальной инженерии, используемые для обхода ограничений AI-ассистентов. Основная проблема существующих решений заключалась в высокой частоте блокировок легитимных запросов на русском языке. Для решения этой задачи инженеры переработали обучающие выборки, добавив специфические паттерны атак, характерные для русскоязычного сегмента, что позволило повысить точность классификации вредоносных промптов.

Система Jay Guard функционирует как промежуточный слой безопасности между пользовательским приложением и языковой моделью. Она выполняет проверку контента в реальном времени, анализируя запросы на наличие попыток манипуляции, утечки персональных данных и нарушение политик безопасности. Обновление направлено на поддержание актуальности защиты в условиях постоянного появления новых векторов атак.

Поддержание качества детектирования требует непрерывного дообучения моделей на реальных данных пользовательского трафика. Разработчики отмечают, что создание эффективных «guardrails» — это итеративный процесс, где ключевым фактором является баланс между строгой безопасностью и сохранением функциональности AI-агентов для конечных пользователей.