谷歌扩展AI检测功能：Chrome、搜索服务支持图像验证，未来将覆盖多类型内容

谷歌扩展AI检测功能

谷歌正在将AI检测功能扩展到Chrome浏览器和搜索服务中，目的是让人们更轻松地识别深度伪造内容。在今天的Google I/O大会上宣布的这些更新，涵盖了Google DeepMind开发的隐形水印技术SynthID，以及嵌入了C2PA内容凭证的内容，方便用户了解网上内容的制作或修改情况。

图像验证功能应用

谷歌表示，从今天起，带有SynthID标记（表明该内容是使用谷歌的AI工具制作的）的图像验证功能将应用于搜索功能，包括Google Lens、AI模式和圈选搜索。用户通过这些工具上传或选择在线图像，可了解更多图像来源信息。预计Chrome浏览器的支持功能将在“未来几个月”推出。Chrome浏览器的扩展功能由Gemini提供支持，用户可在浏览器页面上选择或圈选图像使用该功能，图像会出现在右侧面板，用户可询问“这是用AI制作的吗？”或“这是AI生成的吗？”

多类型内容验证及计划

通过Gemini应用程序，已可对图像、视频和音频内容进行SynthID验证。目前，向Chrome和搜索服务的扩展仅针对图像，但谷歌表示未来计划扩展到其他类型的内容。

验证界面更新

作为此次更新的一部分，谷歌的验证界面将检查内容是否包含C2PA内容凭证以及其自身的SynthID标记。这意味着人们可通过单一界面检查这两种溯源系统，无需在Gemini和专门的C2PA检查门户之间切换，简化了深度伪造检测流程。C2PA验证功能今天已在Gemini应用程序中推出，搜索和Chrome浏览器的支持将在未来几个月内跟进。

C2PA元数据嵌入情况

这并非谷歌在其平台上扩展C2PA的唯一举措。Pixel 10手机拍摄的图像已嵌入这种元数据，未来几周内，Pixel 8、9和10手机拍摄的视频文件也将开始包含该元数据。谷歌还表示，Meta将开始使用C2PA对Instagram上相机拍摄的媒体进行标记，但Meta尚未回应关于这一即将推出功能的更多信息请求。与此同时，OpenAI、Kakao和ElevenLabs生成的更多AI内容将支持谷歌的SynthID水印，但谷歌未具体说明适用于哪些模型或内容。

新AI内容检测API推出

此次更新还包括为Google Cloud的Gemini Enterprise Agent Platform推出的新AI内容检测API，旨在让企业更轻松地识别AI生成的媒体。谷歌表示，这一功能将与一组未指明的受信任合作伙伴一起推出，并将根据他们的反馈对API进行微调。谷歌在其公告博客中表示：“这为企业提供了一种强大的方式来识别谷歌和其他流行模型生成的AI内容，帮助他们决定如何在自己的平台上评估和管理媒体——无论是用于后端操作，如整理信息流和防止保险欺诈，还是用于面向用户的内容，如事实核查和标记合成媒体。”

扩展功能的意义及问题

总体而言，这些扩展功能将有助于企业和普通网络用户更方便地进行AI检测。Chrome浏览器的扩展尤为值得关注，因为它是全球使用最广泛的浏览器，许多在线平台本身并不对AI内容进行标记，与保存图像并手动上传到专门的C2PA和SynthID检测界面相比，这提供了一种更便捷的解决方案。不过，Google DeepMind副总裁Pushmeet Kohli告诉The Verge，谷歌已取消了为SynthID推出专门验证门户的计划。至少对于谷歌自己的系统而言，这意味着未来可能只能在由Gemini驱动的平台上识别SynthID标记，这迫使人们不得不使用谷歌自己的AI工具来识别由谷歌模型生成的AI内容。这对于那些希望完全避免与生成式AI系统交互的人来说是否友好呢？