谷歌紧急关闭 Google Earth AI 图像编辑功能，深度伪造风险引担忧！
本周四，谷歌推出了一项 Google Earth 新功能，允许用户使用 AI 通过文本提示编辑卫星图像。这本是一项颇具创新性的功能，能让用户利用文本提示创建现实世界的 AI 深度伪造图像。例如，Digital Digging 的 Henk van Ess 就故意生成了一些图像，像在墨西哥边境附近添加难民，以及在加沙一家医院旁添加弹坑。
谷歌在推出该功能后，面对 Henk van Ess 的反馈，最初回应称在 Google Earth 中使用 Nano Banana 2 生成的图像带有数字水印，并且公司会阻止“有害主题的图像生成”。然而，一天后谷歌就发布新声明，决定撤回这一功能。原因在于，虽然地理空间专业人士能利用该功能达成各种实用目的，但有人分享生成图像的截图，似乎违反了公司政策。
此外，Henk van Ess 指出，他用在 Google Earth 中生成的视频成功骗过了 Hive 的 AI 检测工具，这表明即便有水印，生成的媒体内容仍可能传播开来。他在测试中发现“没有内容被拒绝，也没有被弱化处理，而且没有提示让我尝试不同的提示词”，这进一步凸显了该功能可能带来的风险。
在地理信息产品市场中，Google Earth 一直占据着重要地位。此次新功能的推出与关闭，给整个行业敲响了警钟。对于其他类似产品而言，在探索 AI 与地理信息结合的过程中，必须更加谨慎地考虑潜在的风险，尤其是深度伪造可能带来的不良影响。
谷歌未来若想再次推出类似的 AI 图像编辑功能，必须解决好安全管控问题。如何实施更严格的管控措施，确保生成的内容不违反政策，是一大挑战。同时，如何在保障安全的前提下，充分发挥 AI 技术在地理信息领域的创新价值，也是值得关注的商业化看点。
编辑观点：谷歌此次关闭 Google Earth 的 AI 图像编辑功能，反映出在新技术应用中平衡创新与安全的难度。未来需加强管控，才能在地理信息领域更好地发挥 AI 价值。