交互式论文知识库 · Interactive Paper Atlas

多模态大模型 · 视频理解与推理

系统梳理本领域 Groundwork 奠基级(2017–2023) 与 前沿(2024–2026,含近 1 年最新进展) 的重要文章。 每篇论文附 arXiv 链接、作者、发布会议/期刊、概要,以及含关键数学公式的详细「解决方案」讲解。

领域脉络 How the field evolved

要理解「视频多模态大模型」,可以把它看作三条技术河流的汇合: (1) 基础架构——Transformer 让「一切皆 token」,ViT 把图像变成 token 序列; (2) 视觉-语言对齐——CLIP 把图文拉进同一个语义空间,Flamingo/BLIP-2/LLaVA 用轻量桥接把视觉 token 喂给冻结的大语言模型; (3) 视频建模——从 I3D 的 3D 卷积、SlowFast 的双通路、TimeSformer 的时空注意力,到 VideoMAE 的掩码预训练,视频如何高效表达运动与时间。

三条河在 2023 年交汇:VideoChat、Video-ChatGPT、Video-LLaMA 把「LLaVA 公式」搬到视频上,产生了第一代「视频大模型」。 之后沿四个方向快速演进:更长(Gemini 1.5 百万级上下文、LongVU/BIMBA/VideoChat-Flash 的 token 压缩)、 更准(Qwen2-VL 的 M-RoPE、Qwen2.5-VL 的时间定位与窗口注意力)、 更全(GPT-4o、Qwen2.5-Omni 的全模态与语音)、 更会推理(Video-RTS、VideoChat-R1.5 的强化学习与测试时缩放)。 评测也从「看视频答题」(Video-MME、LongVideoBench)走向「专家级推理」(MMVU)与「多视频联合理解」(MVU-Eval)。

时间线 Timeline · 2017 → 2026

论文库 Paper library

阅读建议 Suggested reading path

  1. 打地基:Transformer → ViT → CLIP → MAE,理解「token 化 + 对齐 + 掩码预训练」三件套。
  2. 视频专线:I3D → SlowFast → TimeSformer → VideoMAE,理解视频的时空建模演进。
  3. 多模态桥梁:Flamingo → BLIP-2 → LLaVA,理解「冻结底座 + 轻量桥接」范式。
  4. 视频大模型:VideoChat → Video-ChatGPT → Video-LLaMA → VideoLLaMA 2,看 LLaVA 公式如何视频化。
  5. 当代前沿:Gemini 1.5 / GPT-4o(全模态+长上下文)→ Qwen2-VL / Qwen2.5-VL(位置编码+时间定位)→ InternVL3(原生多模态+测试时缩放)→ Video-RTS / VideoChat-R1.5(视频推理的 RL 与测试时缩放)。
  6. 2026 新方向:InternVideo3(视频智能体)→ DyLaR / RLER(潜在推理与证据选举)→ VideoOdyssey / VideoDR(超长上下文与智能体评测)。
  7. 会看门道:配合 Video-MME / LongVideoBench / MMVU / MVU-Eval 理解「我们在为什么而评测」。