TypeSafe представила негенеративную модель Jev для контроля AI

Компания TypeSafe представила Jev — специализированную негенеративную модель, предназначенную для мониторинга и контроля безопасности AI-систем. Инструмент ориентирован на обнаружение вредоносного или «бэкдорного» кода, который может быть внедрен в процессе работы нейросетей.

В ходе тестирования система продемонстрировала точность обнаружения угроз на уровне 90% при показателе ложноположительных срабатываний всего 2%. Стоимость проверки составляет $0.04 за 1000 запросов, что делает решение экономически эффективным инструментом для интеграции в пайплайны разработки.

Результаты работы Jev сопоставимы с показателями модели o3-mini, использующей метод цепочки рассуждений (CoT). В отличие от генеративных моделей, архитектура Jev исключает риск галлюцинаций при анализе кода, обеспечивая детерминированный подход к верификации данных.

Использование негенеративных систем в качестве «доверенного наблюдателя» позволяет снизить риски эксплуатации уязвимостей в AI-агентах. Разработка направлена на создание независимого уровня контроля, который не зависит от вероятностной природы больших языковых моделей и может быть внедрен в критически важные инфраструктурные проекты.