谷歌新 AI 图像生成功能上架一天即撤回，或因虚假信息传播风险

谷歌 AI 新功能上架又撤回

本周，谷歌宣布了一种使用人工智能的新方式，但仅一天后就撤回了该功能。

功能详情与体验

截至周四，用户可以使用谷歌的 Nano Banana 2 人工智能模型，基于谷歌地球的卫星、航空和 3D 图像来生成图片。最初，谷歌列举了一些在谷歌地球地图中使用新的 Nano Banana 功能的方式，比如创建自定义信息图，了解未曾去过的新地方，或者重现其多年前的模样。用户甚至可以畅想未来，比如设想新的基础设施或梦想中的家园。

在该功能下架前，有人亲自进行了尝试。在谷歌地球搜索栏中输入 "中央公园"，放大该区域后点击 "创建图像" 按钮。短暂等待后，便看到中央公园中央出现了梦想中的三层住宅——这显然不太现实。不过，用户可以对图像进行优化，还能将其保存到项目中。该功能仅支持在桌面端使用，生成中央公园内房屋的图像需要几分钟时间。在周四的博客文章中，谷歌最初表示，这项新功能 "能创造基于现实世界的概念"。

引发担忧与批评

然而，在记者和研究人员表达了担忧，认为该功能可能会生成逼真的卫星图像，被用于虚假信息传播后，谷歌表示将重新审视，加强管控。研究人员很快指出了该工具可能带来的危险。调查员 Henk van Ess 在其时事通讯 Digital Digging 上发布的一篇热帖中，展示了该工具如何轻松生成虚假但逼真的图像，例如伊朗的一座核电站。“谷歌花了二十年时间构建了全球信赖的参考数据，”van Ess 写道，“如今却添加了一个编造内容的按钮。”

谷歌回应与移除功能

面对各方批评，谷歌周五在 X 平台上发表声明称，在看到违反其政策的图像截图后，将移除该功能。“因此，我们将在谷歌地球中撤回这一功能，同时着手实施更严格的管控措施，”该公司表示，“需要注意的是，生成的图像不会出现在谷歌地球的主界面供他人查看，并且会带有 AI 生成的水印。”

AI 图像生成工具风险

市面上有许多 AI 图像生成工具，如 Canva 和 Midjourney。有些工具注重逼真效果，允许用户编辑现有图像，就像 Nano Banana 一样。用户可以在地图上用自己想象的世界，比如芭比梦幻屋，取代自己的家。但这也存在诸多风险，这种虚假的真实感可能会导致虚假信息传播、欺骗行为，以及产生片面的观点和叙述。

得知用户只能修改自己的地图，而无法改变所有人看到的谷歌地球，有人稍微松了一口气。但这并不能阻止人们与他人分享截图或保存的地图项目，这些内容可能描绘的是一个与现实不同的世界。当像谷歌这样值得信赖的科技公司推出此类 AI 功能时，人们就更难分辨真假了。