案例研究 · 以人为本的人工智能

人类能否识别 AI 生成的视频

短短几年间,生成式视频已从怪异别扭变得足以乱真。这项受控实验测量了未经训练的观众识别这类视频的准确率,以及识别在哪些条件下会失效。

平均准确率 60%

基于 87 名参与者做出的 3,132 次“真实还是 AI”判断,随机水平为 50%。

概览

角色

设计与研究,第一作者

团队

与 R. M. Karim 教授(NUST)和 KwanMyung Kim 教授(UNIST)合作

发表

IASDR 2025,图文论文(Pictorial)类别,台北

参与者

87 名 18 至 70 岁的成年人,均无 AI、图形或视频方面的专业经验

研究设计

被试内在线实验,二元迫选,随机顺序

分析方法

逻辑回归,采用 Holm–Bonferroni 校正

合成媒体研究一直集中在人脸和声音的深度伪造上。然而,设计师和媒体艺术家如今以三种截然不同的方式使用 AI 视频:根据文字生成视频、让静态图像动起来,以及把真实影像延伸到画面之外。此前还没有研究把这三种技术放在一起比较。

研究问题 1

未经训练的观众识别每种生成技术的准确率如何?

研究问题 2

内容主题如何调节各技术的识别效果?

36 段视频构成均衡的刺激集

真实视频与 AI 生成视频各占一半,均匀分布在三个主题中。预实验显示,AI 生成某些题材(如静止物体)的效果远好于人物或动作;因此,变换主题能让比较保持均衡。

刺激材料设计

各主题与来源的视频数量

真实影像图库与档案素材 文本生成视频Google Veo 3 图像生成视频LTX Video 外扩补全Wan VACE
电影 6 2 2 2
历史 6 2 2 2
环境 6 2 2 2

刺激材料生成

流程统一,只改变生成技术

所有 AI 视频均在 ComfyUI 中制作;借助其节点图,扩散步数、引导强度和提示词权重可在各方法之间保持一致。五位设计师为每个条件生成候选视频,再依据视觉保真度、时间连贯性和主题相关性从中选出一段。

真实视频选自公开的图库与档案素材,并与相同主题匹配。全部 36 段视频均剪辑为 8–12 秒,统一为 1080p,并以静音方式播放。

实验流程

36 个试次的二元迫选

  1. 每段视频单独播放,顺序随机,可无限次重播。

  2. “你认为这段视频是真实的,还是 AI 生成的?”选项:真实或 AI。

  3. 看完 18 段视频后短暂休息,以减轻疲劳。

  4. 参与者不知道 AI 视频所占的比例,并被要求只根据画面内容判断每段视频。

准确率因技术与主题而不同

各来源的识别准确率

被正确分类的视频比例。对真实影像而言,判为“真实”即为正确。

  • 图像生成视频79%
  • 真实影像64%
  • 外扩补全49%
  • 文本生成视频43%

文本生成视频的识别准确率低于随机水平,外扩补全则处于随机水平。图像生成视频保留了观众能够察觉的运动线索。

48%

真实的自然影像常被判为合成。环境主题的真实视频只有约 48% 被正确分类;纯净的自然风光常被看作 AI 生成。

61% → 32%

主题强烈影响外扩补全的识别。在环境主题的试次中,外扩补全的识别率为 61%,而在历史主题中仅为 32%。

75–83%

图像生成视频的线索在各主题中都很稳定。无论是电影、历史还是环境主题,图像生成视频都能被一致地识别出来。

正确识别的逻辑回归分析
回归项(与电影主题的真实影像相比)优势比p
图像生成视频1.13n.s.
文本生成视频0.50.001
外扩补全0.45.001
环境主题0.37< .001
图像生成视频 × 环境8.22< .001
外扩补全 × 环境6.89< .001
文本生成视频 × 历史0.44.003
外扩补全 × 历史0.41< .001
技术、主题及二者的交互作用均显著(p < .001)。p 值经 Holm–Bonferroni 校正。87 名参与者 × 36 段视频 = 3,132 次观测。
会议室里的听众正在观看准确率图表的讲解
在台北举行的 IASDR 2025 上展示研究结果。

对媒介素养与创作的启示

对 AI 的警觉会削弱对真实影像的信任

真实视频只有 64% 被正确分类。当观众预期会看到 AI 内容时,真实影像也开始显得像是合成的。

感知真实度取决于内容,而不只是模型

感知真实度并不是模型的固定属性,而是取决于视频呈现的内容。创作者可以有意识地利用这一点,调控作品看起来有多真实。

识别训练应兼顾语境与伪影

媒介素养项目和检测工具应同时涵盖语境线索与特定模型的伪影;仅凭直觉并不足够。

局限与后续工作。在线观看的无声短视频限制了生态效度。后续研究应纳入局部重绘、ControlNet 和深度感知视频等技术,收集置信度评分,扩大样本的人口学多样性,并检验训练能否随时间提升识别能力。