上线不足48小时紧急下架!Google Earth AI生图深陷造假风险危机

AI 概述
Google Earth搭载Nano Banana2模型的AI图像生成功能上线不足48小时紧急下架。该功能可依托真实地理底图生成虚构画面,极易制作高仿真虚假地理影像,误导舆论。尽管谷歌为生成图添加隐形水印,但防伪机制存在漏洞。官方将升级安全防护后再评估重启时机。此次事件引发热议,凸显生成式AI落地地图场景,需平衡创意价值与虚假信息防控的行业难题。

上线不足 48 小时紧急下架!Google Earth AI 生图深陷造假风险危机

谷歌 Google Earth AI 图像生成功能迎来科技圈最短命更新,上线不足 48 小时便因严重的虚假信息风险紧急下架,引发行业对 AI 地图造假问题的广泛热议。谷歌官方表示,将全面排查安全漏洞、升级防护机制,后续再评估该功能的重启时间。

据悉,该功能搭载谷歌自研 Nano Banana2 图像模型,区别于普通 AI 绘图工具,可依托谷歌地球真实的卫星影像、航拍画面与三维地理底图,让用户通过文字指令,在精准的真实地理坐标上生成虚构场景,初衷是丰富地图创意玩法、助力地理内容创作。

但真实地理基底与 AI 虚构画面的结合,存在极大安全隐患。BBC 实测发现,该工具可生成埃菲尔铁塔坍塌、金字塔被天坑吞噬、基辅出现俄军坦克等虚假场景。这类造假画面贴合真实地理位置、仿真度极高,转发传播后,很容易被大众、自媒体及相关从业者误认为是真实卫星影像。

网络安全专家警示,该功能漏洞严重威胁公共信息安全。在战争冲突、自然灾害等敏感场景中,不法分子可利用其批量制作虚假地理影像,误导舆论、混淆事实,极大增加了媒体和信息核查机构的核验难度,极易引发公众认知偏差与舆论恐慌。

事实上,谷歌为规避风险,为所有 AI 生成地图图像植入了隐形数字水印,支持通过 Gemini、Google Lens 核验真伪。但实测证实,这套防护体系存在明显短板,验证机制可被绕过,多数第三方检测工具也无法精准识别此类 AI 合成内容,防伪防护效果大打折扣。

此次功能紧急叫停,为生成式 AI 行业敲响警钟。随着 AI 技术逐步落地地图、遥感等高可信度场景,如何平衡创意赋能与安全管控,防范 AI 地图造假和深度伪造信息传播,已然成为 AI 产品商业化落地亟待解决的核心难题。

以上关于上线不足48小时紧急下架!Google Earth AI生图深陷造假风险危机的文章就介绍到这了,更多相关内容请搜索码云笔记以前的文章或继续浏览下面的相关文章,希望大家以后多多支持码云笔记。

「点点赞赏,手留余香」

33

给作者打赏,鼓励TA抓紧创作!

微信微信 支付宝支付宝

还没有人赞赏,快来当第一个赞赏的人吧!

声明:本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符,请将相关资料发送至 admin@mybj123.com 进行投诉反馈,一经查实,立即处理!
重要:如软件存在付费、会员、充值等,均属软件开发者或所属公司行为,与本站无关,网友需自行判断
码云笔记 » 上线不足48小时紧急下架!Google Earth AI生图深陷造假风险危机