На Replicate запущен инструмент для автоматической детекции NSFW-контента в видео

Разработчики представили video-nsfw-filter — специализированный инструмент на базе архитектуры Stable Diffusion, предназначенный для автоматического поиска недопустимого контента в видеопотоке.

Система анализирует видеоряд путем покадровой обработки, присваивая каждому фрагменту коэффициент вероятности наличия NSFW-материалов. На выходе пользователь получает структурированный JSON-отчет, содержащий итоговые оценки по каждому проверенному кадру, а также опциональные скриншоты с зафиксированными нарушениями.

Техническая реализация модели основана на методе выборочного сэмплирования: алгоритм проверяет не каждый кадр видео, а отдельные фрагменты, что позволяет оптимизировать вычислительные затраты при обработке длинных роликов. Важно учитывать, что текущая версия инструмента фокусируется исключительно на визуальном ряде и игнорирует аудиодорожку.

Инструмент доступен для интеграции через платформу Replicate, что позволяет разработчикам встраивать автоматическую модерацию в собственные видеосервисы или системы контроля качества контента. Использование модели требует API-запросов к облачной инфраструктуре платформы.

Подобные решения автоматизируют процесс премодерации пользовательского контента, снижая нагрузку на ручные службы проверки. Использование Stable Diffusion в качестве классификатора обеспечивает высокую точность распознавания образов, адаптированную под специфику видеоданных.