谷歌开放其人工智能检测工具：什么是 SynthID？它是如何工作的？

随着人工智能技术的不断进步，真实媒体与合成内容之间的界限日益模糊。为了满足日益增长的透明度需求，谷歌正式向公众开放了其 SynthID 验证网站，提供一款全新的免费工具，用于识别人工智能生成的图像、视频和音频。

什么是 SynthID？

SynthID 由谷歌 DeepMind 开发，于 2023 年首次推出，是一种强大的水印技术。与容易被裁剪或移除的传统水印不同，SynthID 在媒体创建之时，就将不易察觉的数字信号直接嵌入其中。

这些标记的设计使其即使在经过大幅修改（例如颜色调整、文件压缩或裁剪）后仍然有效，使其成为在深度伪造和人工智能生成虚假信息盛行的时代验证来源的关键工具。

如何使用验证工具

这个新推出的面向公众的网站允许用户上传各种媒体格式，包括图像的 JPG、PNG、WEBP 和 GIF 格式；视频的 MP4 和 MOV 格式；以及音频格式，例如 MP3 和 WAV。文件上传后，系统会扫描数字签名。如果找到签名，则表明该内容是由支持 SynthID 标准的人工智能系统创建或修改的。

了解局限性

虽然这是一个重要的进步，但了解 SynthID 的定义及其局限性至关重要。

• 并非通用检测器： SynthID 并非检测所有人工智能生成内容的全面解决方案。

它仅确认其嵌入的特定水印的存在。

“未检测到”的含义： 扫描结果为阴性并不能证明媒体内容是人为制作的。内容可能由未使用 SynthID 标准的系统生成，或者可能经过了极端修改，导致水印被去除。

为何这很重要

谷歌并非该领域的唯一参与者；OpenAI 和英伟达等公司也在探索水印和溯源系统。虽然目前还没有通用标准，但谷歌决定向所有人（而不仅仅是记者和研究人员）开放 SynthID，这标志着数字素养的积极转变。目前每天已有数百万个验证请求正在处理中，这项技术正成为我们数字生活中不可或缺的安全保障，帮助用户就他们消费的媒体做出明智的决定。