Исследователи представили фреймворк CLEAR для верификации медицинских данных

Исследователи представили CLEAR — агентный фреймворк, предназначенный для разрешения противоречий в медицинских данных при работе с большими языковыми моделями. Система разработана для борьбы с галлюцинациями и неточностями, возникающими при использовании RAG-архитектур в критически важных областях.

Алгоритм работает через три независимых канала получения информации: параметрические знания самой модели, локальные медицинские корпуса и динамически извлекаемые данные из внешних источников. Агрегатор верифицирует кандидатов на ответ, сопоставляя их с доказательной базой и проверяя качество каждого источника на предмет согласия или конфликта данных.

Модуль адъюдикации принимает решение о сохранении или корректировке ответа, используя механизмы «переопределения» (override-guard) и «аудита вызовов» (challenge-audit). В случае обнаружения неразрешимых противоречий система автоматически инициирует целевой повторный поиск и процедуру перепроверки, что повышает фактическую точность выводов.

Использование CLEAR позволяет минимизировать риски, связанные с устареванием знаний в весах LLM. В отличие от стандартных RAG-систем, которые часто принимают противоречивые данные за истину, данный фреймворк обеспечивает многоуровневую проверку доказательств, что критически важно для клинических рекомендаций и диагностики.