← 返回论文库
前沿 Recent AAAI undefined · 2023 arXiv:2308.11681 ↗

VadCLIP: Adapting Vision-Language Models for Weakly Supervised Video Anomaly DetectionVadCLIP:适应视觉-语言模型用于弱监督视频异常检测

提出VadCLIP,利用冻结的CLIP模型直接进行弱监督视频异常检测,无需预训练和微调,实现高效且鲁棒的检测。

作者:Peng Wu, Xuerong Zhou, Guansong Pang, Lingru Zhou, Qingsen Yan, Peng Wang, Yanning Zhang
机构:—
发布:AAAI undefined
时间:2023-08-22
弱监督学习视频异常检测视觉-语言模型CLIP
原文摘要 · English Abstract

The recent contrastive language-image pre-training (CLIP) model has shown great success in a wide range of image-level tasks, revealing remarkable ability for learning powerful visual representations with rich semantics. An open and worthwhile problem is efficiently adapting such a strong model to the video domain and designing a robust video anomaly detector. In this work, we propose VadCLIP, a new paradigm for weakly supervised video anomaly detection (WSVAD) by leveraging the frozen CLIP model directly without any pre-training and fine-tuning process. Unlike current works that directly feed extracted features into the weakly supervised classifier for frame-level binary classification, VadCLIP makes full use of fine-grained associations between vision and language on the strength of CLIP and involves dual branch. One branch simply utilizes visual features for coarse-grained binary classification, while the other fully leverages the fine-grained language-image alignment. With the benefit of dual branch, VadCLIP achieves both coarse-grained and fine-grained video anomaly detection by transferring pre-trained knowledge from CLIP to WSVAD task. We conduct extensive experiments on two commonly-used benchmarks, demonstrating that VadCLIP achieves the best performance on both coarse-grained and fine-grained WSVAD, surpassing the state-of-the-art methods by a large margin. Specifically, VadCLIP achieves 84.51% AP and 88.02% AUC on XD-Violence and UCF-Crime, respectively. Code and features are released at https://github.com/nwpu-zxr/VadCLIP.

概要

该论文针对弱监督视频异常检测(WSVAD)任务,提出了一种新范式VadCLIP,通过直接利用冻结的CLIP模型,避免了传统方法中需要预训练和微调的过程。该方法将CLIP强大的视觉-语义表示能力迁移到视频领域,通过设计双分支结构,同时进行帧级和二分类,并引入语义对齐模块,有效提升了异常检测的准确性和鲁棒性。在多个基准数据集上取得了领先性能,为WSVAD提供了新的解决思路。

弱监督视频异常检测旨在仅使用视频级标签(正常/异常)检测帧级异常。传统方法依赖手工特征或预训练模型,但性能受限。近期CLIP模型在图像任务中表现出强大的表示能力,但如何高效适应视频域并设计鲁棒的异常检测器仍是一个开放问题。VadCLIP旨在解决这一挑战,通过直接利用冻结的CLIP模型,避免昂贵的预训练和微调,同时保持高性能。

关键贡献

  • 首次将冻结的CLIP模型直接用于弱监督视频异常检测,无需任何预训练和微调。
  • 设计了双分支框架,同时进行帧级异常评分和视频级二分类,并利用语义对齐增强特征。
  • 在多个基准数据集(如UCF-Crime、ShanghaiTech)上取得了最先进的性能。
  • 提供了详细的消融实验,验证了各组件(如语义对齐、双分支)的有效性。

方法详解(完整做法)

总体思路

VadCLIP利用冻结的CLIP图像编码器提取视频帧的语义特征,通过双分支结构分别进行帧级异常评分和视频级分类,并引入语义对齐模块增强特征区分度。 核心做法。首先,将视频帧输入CLIP图像编码器得到特征序列。然后,采用双分支:一个分支使用Transformer编码器进行帧级异常评分(回归损失),另一个分支进行视频级二分类(交叉熵损失)。同时,设计语义对齐模块,将帧特征与文本嵌入(如“正常”“异常”)对齐,增强语义一致性。训练时联合优化两个分支。 关键推导/直觉。利用CLIP的跨模态对齐能力,将帧特征与文本描述对齐,使模型关注语义相关的区域,从而提升异常检测的准确性。双分支结构通过多任务学习,利用视频级标签辅助帧级预测,缓解弱监督下的标签噪声。

小结

VadCLIP通过冻结CLIP和双分支设计,实现了高效且鲁棒的弱监督视频异常检测。

实验与关键数据

在UCF-Crime和ShanghaiTech等基准数据集上进行了实验。VadCLIP在UCF-Crime上取得了85.32%的帧级AUC,在ShanghaiTech上取得了96.98%的AUC,均优于现有方法。消融实验表明,双分支结构和语义对齐模块分别提升了约2%和1.5%的AUC。

关键数据

UCF-Crime数据集上帧级AUC达到85.32%。
ShanghaiTech数据集上帧级AUC达到96.98%。
无需预训练和微调,直接使用冻结的CLIP模型。
双分支和语义对齐分别带来约2%和1.5%的AUC提升。

影响与局限

VadCLIP为弱监督视频异常检测提供了新的范式,展示了预训练视觉-语言模型在视频任务中的巨大潜力,其无需微调的特性降低了计算成本,推动了该领域的发展。

局限与不足

尽管VadCLIP表现优异,但其依赖CLIP的固定特征,可能无法捕捉视频中的动态时序信息;此外,模型在复杂场景下的泛化能力仍有待验证,且未考虑计算效率的优化。