仅需一段文字提示,就能利用谷歌地球的卫星、航拍及三维影像生成以假乱真的图片——这正是谷歌地球一项已被下架的AI功能所暴露的隐患。数字调查机构Digital Digging的研究员亨克·范·埃斯(Henk van Ess)用该功能生成了"墨西哥边境附近的难民"以及"加沙某医院附近的炸弹弹坑"等图像,清晰展示了这一工具被滥用的可能性。
对此,谷歌最初回应称:"我们认真对待虚假信息问题——在谷歌地球中,每张由Nano Banana功能生成的图像都嵌入了SynthID数字水印。如果用户对某张图像存疑,可以通过Gemini应用或搜索中的Lens功能来查询该图像是否由AI生成。"
除了使用谷歌在Gemini中提供的"@verifyai"标签来核查可疑图像外,范·埃斯还建议将图像与Sentinel-2或Landsat等其他卫星平台进行比对,并核验图像所附的轨道数据,例如拍摄时间和拍摄卫星的信息。
该功能本周早些时候已在谷歌地球的网页版全球上线,谷歌在官方博客中将其定位为用于可视化历史遗址和房地产项目的工具。部分生成图像很容易被识破,例如一张将狮身人面像与自由女神像合二为一的图片,但Nano Banana 2功能同样能够生成足以以假乱真、引发信息误导的图像。尽管谷歌的水印难以去除,但并非不可能被忽略或绕过——Digital Digging已成功使用一段经AI处理的谷歌地球视频欺骗了Hive的AI检测工具。
更新(7月31日):文章发布后,谷歌宣布已将该功能下线回滚。
Q&A
Q1:谷歌地球的Nano Banana功能是什么?为什么被下架?
A:Nano Banana是谷歌地球推出的一项AI图像生成功能,允许用户通过文字提示,基于卫星、航拍及三维影像生成合成图片。该功能因存在被滥用于制造虚假地理信息图像的风险而引发关注,研究员亨克·范·埃斯展示了用其生成难民营和战争弹坑等以假乱真图片的案例,谷歌随后宣布将该功能下线回滚。
Q2:SynthID数字水印能有效防止AI生成图像被误用吗?
Q3:如何判断一张卫星图像是否由AI生成或经过篡改?
A:研究员亨克·范·埃斯建议采用多重方法进行核实:一是使用谷歌Gemini中的"@verifyai"标签查询可疑图像;二是将图像与Sentinel-2或Landsat等其他卫星平台上的同一区域影像进行对比;三是核验图像所附的轨道元数据,包括拍摄时间和卫星来源等信息,综合判断图像的真实性。