精选· 重要性 4/5
谷歌地球AI图像生成功能上线一天即被叫停
The Verge — AI··Stevie Bonifield·约 2 分钟阅读
中文导读
谷歌地球新推出的AI图像编辑功能因被滥用生成虚假内容，上线仅一天即被关闭，凸显了AI生成工具在真实世界图像上的风险。
谷歌已关闭周四推出的Google Earth功能，该功能允许用户通过文本提示使用AI编辑卫星图像。该工具本质上让用户使用文本提示创建现实世界的AI深度伪造；
例如，Digital Digging的Henk van Ess故意生成图像，添加了墨西哥边境附近的难民和加沙一家医院的炸弹坑等内容。
周四，谷歌对van Ess的初步回应指出，在Google Earth中使用Nano Banana 2生成的图像包含数字水印，并且该公司阻止“在有害主题上创建图像”。Google Earth的AI深度伪造工具仅持续了一天让人们通过AI提示轻松更改图像是个坏主意。
一天后，谷歌发表新声明称：“我们知道人们独特地信任Google Earth，因为它提供了可靠的世界视图。我们看到地理空间专业人士将此功能用于一系列有用目的，但我们也看到人们分享似乎违反我们政策的生成图像截图。
因此，我们正在Google Earth中回滚此功能，同时致力于实施更强的护栏。值得注意的是，生成的图像并未出现在Google Earth的主要体验中供他人查看，并且被标记为AI生成。
van Ess指出，他能够用Google Earth中生成的视频欺骗Hive的AI检测工具，展示了尽管有水印，生成的媒体如何传播，并在测试中表示：“没有任何东西被拒绝，没有任何东西被软化，没有任何东西建议我尝试不同的提示。
”