Google地球AI生图功能紧急下线:大模型滥用重创十年公信力
By AI123
2026年7月30日,Google地球网页版上线AI生图功能“Create image”,接入Nano Banana 2大模型。用户可框选地球任意地点并输入提示词,基于真实卫星影像进行二次创作,官方演示了修复古迹、规划城市等场景。
然而功能开放不足一天,便遭网友滥用,生成出“9·11事件”重现、哥斯拉入侵、外星生物降临等大量违规图像,并在社交平台迅速传播。谷歌当天紧急回滚功能,官方回应称观测到大量截图违反社区政策,将先下线补强安全防护,再评估重新开放。
Google地球拥有覆盖地球98%人口的卫星影像,长期被媒体、学者和公众视作核实真实世界的权威工具。其公信力源自二十年的影像积累,而AI生图功能让任何人能轻易伪造“现场感”截图,瞬间瓦解了真实与虚构的界限。有评论担忧,今后看到卫星截图,第一反应将变成怀疑。
类似事件早有先例:Google Pixel的Reimagine功能可框选照片区域生成新物,Meta的Muse Image允许调用公开Instagram照片做AI生成,均在争议中紧急撤回。这些产品急于证明自己是“AI公司”,却把安全规则后置,让用户承担辨别真伪的成本。
目前AI内容溯源依赖水印与C2PA凭证,但传统水印易被裁剪,隐形水印需专用工具,且无法揭示画面事实是否发生。平台理应前置风控,而非将责任转嫁用户。有观点认为,AI影像处理应如OPPO那样仅作辅助修饰,不改变真实场景本质。
谷歌的“翻车”警示整个行业:在追逐AI功能时,必须兼顾公共信任。让娱乐归于娱乐,真实归于真实,才是AI企业的底线担当。
Explore topicsBig TechGoogleModels
