上传一段视频,向AI助手提问,短短几秒后,它便能告诉你视频的哪些部分由AI生成——这一场景正随着谷歌Gemini的最新更新成为现实。
谷歌近日为其AI助手Gemini应用推出了一项视频验证功能,旨在应对日益泛滥的“AI垃圾”问题。
用户现在可以将视频上传至Gemini,直接询问“这段视频是谷歌AI生成的吗?”,应用会通过扫描分析,尝试给出答案。
01 应对乱象
2025年,大量低质或伪造的AI生成内容充斥网络,被外界称为“AI垃圾”大流行。随着技术的进步,区分真实照片、视频与AI生成内容变得异常困难。
为应对这一挑战,谷歌在11月为Gemini推出了图像检测功能后,此次将检测能力扩展到了视频领域。
透明化工具的扩充是谷歌整体的策略方向。新功能作为谷歌“内容透明度工具集”的一部分加入,主要利用其自研的SynthID数字水印技术来识别AI生成内容。
02 运作原理
该功能的使用方式非常直观。用户在手机Gemini应用或电脑网页端上传视频文件后,可以直接用自然语言提问,例如“这是用谷歌AI生成的吗?”或“这段视频是AI生成的吗?”。
Gemini接收到指令后,会同时扫描视频的音频和视觉轨道,寻找其中嵌入的、人眼或人耳无法察觉的SynthID数字水印。
这种水印是谷歌在2023年推出的技术,会内嵌在所有由谷歌AI工具生成或编辑的内容中。即使内容经过裁剪、压缩或编辑,水印通常也能被检测到。
03 核心功能
Gemini提供的并非简单的“是”或“否”答案。它会利用自身的推理能力,提供带有上下文的具体分析报告。
例如,针对一个背景音乐由AI生成的视频,Gemini可能会回复:“在音频的10-20秒处检测到SynthID水印,视觉部分未检测到水印。” 这种分段检测能力有助于用户精确了解视频中哪部分元素可能并非真实拍摄。
该功能面向全球用户免费开放,在所有支持Gemini应用的国家和语言区域均可使用,无需额外订阅。目前支持检测的文件大小不超过100MB,时长不超过90秒。
04 显著局限
尽管功能新颖,但其应用存在一个根本性的限制:它仅能识别由谷歌自家AI工具生成并带有SynthID水印的内容。
对于由其他主流AI平台(如OpenAI的Sora、Midjourney等)生成的内容,Gemini无法做出有效判断。当分析此类视频时,它只能给出“该视频并非由谷歌AI制作,但本工具无法判断其是否由其他AI工具生成”之类的回应。
这一局限的根源在于行业内缺乏统一的数字水印标准。虽然谷歌的SynthID技术已被其自身及英伟达、Hugging Face等合作伙伴采用,但整个AI生态系统远未就此事达成一致。
05 未来展望
尽管存在“围墙花园”式的限制,谷歌此次更新仍被视作在建立数字媒体信任度方面迈出的重要一步。
SynthID技术自推出以来,已被用于标记超过200亿件AI生成的内容。谷歌也表示,未来有计划支持C2PA等更广泛的行业标准,以期能够检测更多非谷歌系的AI生成内容。
随着虚假信息战的战场从图文转向视频,类似Gemini视频检测这样的工具,其象征意义或许大于当下的实用价值。
当用户开始习惯性地对一段逼真视频按下“检测键”时,全社会对于“所见是否即所得”的警惕性已被悄然拉起。