系统梳理本领域 Groundwork 奠基级(2017–2023) 与 前沿(2024–2026,含近 1 年最新进展) 的重要文章。 每篇论文附 arXiv 链接、作者、发布会议/期刊、概要,以及含关键数学公式的详细「解决方案」讲解。
要理解「视频多模态大模型」,可以把它看作三条技术河流的汇合: (1) 基础架构——Transformer 让「一切皆 token」,ViT 把图像变成 token 序列; (2) 视觉-语言对齐——CLIP 把图文拉进同一个语义空间,Flamingo/BLIP-2/LLaVA 用轻量桥接把视觉 token 喂给冻结的大语言模型; (3) 视频建模——从 I3D 的 3D 卷积、SlowFast 的双通路、TimeSformer 的时空注意力,到 VideoMAE 的掩码预训练,视频如何高效表达运动与时间。
三条河在 2023 年交汇:VideoChat、Video-ChatGPT、Video-LLaMA 把「LLaVA 公式」搬到视频上,产生了第一代「视频大模型」。 之后沿四个方向快速演进:更长(Gemini 1.5 百万级上下文、LongVU/BIMBA/VideoChat-Flash 的 token 压缩)、 更准(Qwen2-VL 的 M-RoPE、Qwen2.5-VL 的时间定位与窗口注意力)、 更全(GPT-4o、Qwen2.5-Omni 的全模态与语音)、 更会推理(Video-RTS、VideoChat-R1.5 的强化学习与测试时缩放)。 评测也从「看视频答题」(Video-MME、LongVideoBench)走向「专家级推理」(MMVU)与「多视频联合理解」(MVU-Eval)。