Meta自研AI检测系统Content Seal，但本可直接用谷歌方案

今年3月，Meta的监督委员会呼吁该公司“履行其公开承诺，并使用自己的工具”，以帮助遏制欺骗性生成式AI内容在平台上的传播。Meta于7月推出了Content Seal作为回应，这是一种隐形水印技术，可标记该公司新AI模型生成的图像。

但这基本上只是该公司宣布其Muse图像和视频生成工具时的一个脚注。Content Seal目前还处于早期阶段，但该标准并没有一个好的开端。作为一个花大量时间审视AI标签系统的人，Content Seal并未让我充满信心。

已有更成熟的解决方案，如C2PA内容凭证和谷歌的SynthID，Meta本可使用这些方案，而不是在很久之后才推出自己的系统。在深入探究Meta为何推出自有系统后，我不认为Meta已经深思熟虑。

根据Meta的描述，Content Seal的工作原理与SynthID类似。人眼不可见的水印提供了嵌入AI生成图像中的“隐藏出处信号”，可通过检测工具扫描和标记，帮助在线用户区分深度伪造与真实内容。

与SynthID一样，Meta也表示Content Seal水印在图像被“裁剪、压缩、调整大小或截图”后仍保持完整且可检测。那么，如果Content Seal功能上做同样的事……为什么不直接采用SynthID？

Meta已是内容来源与真实性联盟（C2PA）的指导委员会成员，该联盟与谷歌一起推广单独的Content Credentials标准，因此Meta表现出愿意与他人合作解决日益严重的AI检测问题。

SynthID也已被OpenAI采用，显然谷歌也愿意以提高透明度的名义向竞争对手的AI提供商开放其技术。尽管Content Seal与谷歌的系统有相似之处，但其当前状态存在若干限制。

目前，用户只能通过Meta正在测试的专用网络工具检测Content Seal水印，这意味着Meta尚未像谷歌在Gemini中那样将这些检测功能内置到其Meta AI聊天机器人中。不过，这似乎正在计划中。

Meta发言人Faith Eischen告诉The Verge，该公司正在“探索如何将检测功能带到人们遇到AI生成内容的地方”。鉴于那正是最需要AI检测的地方，而且已经有一段时间了，为什么在发布时没有提供？

水印本身也仅应用于Meta AI应用和Meta网站中由Muse生成的图像。

这意味着在线用户无法用它检测Meta旧AI模型创建的内容。对生成视频的支持也不可用，但Meta表示这“即将到来”。Meta对其检测工具检查Content Seal图像的次数设置了每日限制。Eischen表示，这一速率限制旨在支持“正常使用”，同时保护检测系统不被滥用。

Meta没有澄清这种滥用具体是什么——大概是试图破解系统以避免水印内容被检测——但谷歌和OpenAI的检测工具也有类似的速率限制。C2PA是唯一不限制用户检查内容次数的系统。

对检测的任何限制都感觉与大规模提高AI透明度背道而驰，因此这似乎是Meta系统错失了一个比SynthID做得更好的机会。

在Facebook和Instagram等Meta自身应用AI标签的平台上，Eischen表示，未指定的元数据“与Content Seal水印一起”被用来帮助用户识别AI生成内容。

当我问Meta是否在指导TikTok和LinkedIn等其他扫描和标记AI内容的在线平台如何检测Content Seal时，Eischen表示，该公司“决心与行业同行合作，确保用户获得尽可能好的体验。

这听起来像是对该标准的更广泛支持仍在进行中，这可能会阻止Muse生成的图像在Meta自身平台之外被有效标记。当我将一张使用Meta Muse模型制作的测试图像输入Gemini和官方C2PA检测门户时，两个工具都无法确认它是AI生成的。

还有一个问题是，Content Seal能否与SynthID和Content Credentials一起应用于图像和视频文件而不干扰这些其他标准。Meta没有就此提供任何公开澄清。“像其他人一样，我们根据自身技术规格和产品原生构建了Content Seal。

需要多种方法共同努力才能在整个生态系统中解决这个问题，我们很高兴为此做出贡献，”Eischen说。“我们很快将分享更多关于Content Seal的信息。”鉴于Content Seal只能检测使用Meta最新AI模型生成的图像，我不得不怀疑该公司这段时间一直在做什么。

Meta自2023年起就提供AI图像生成工具，因此已经产生了大量其自有系统无法检测的伪造内容。它还在2023年向Instagram和Facebook引入了AI标签，当时错误地将真实照片标记为“由AI制作”，激怒了许多摄影师。

三年过去了，Meta仍然不确定如何将自己定位为AI内容的工厂和识别AI内容的解决方案，尤其是在其自身平台上。就连Meta的高级领导层似乎也对下一步该做什么感到迷茫。

在Lenny Rachitsky播客的一次采访中，Instagram负责人Adam Mosseri最初接受了这样的想法：应该允许不喜欢AI生成内容的人将其排除在社交信息流之外——这听起来很像一个需要可靠AI标签系统的过滤功能。

他甚至表示，真实性本身将变得更加令人向往，因为AI无法提供。“在一个合成内容丰富的世界里，我实际上认为人们会更追求创造力和真实性，而不是更少，”Mosseri说。

“我认为我们不应该过滤掉AI内容”然而，在同一次采访中，Mosseri说“我认为我们不应该过滤掉AI内容”，同时肯定“我们应该让你知道内容是否是AI内容”。Mosseri还重申了他之前表达的观点，即“对真实媒体进行指纹识别可能比伪造媒体更实际”。

这并没有让Meta听起来对自己开发可行AI标签系统的能力有信心。

在将其社交平台打造成虾耶稣和其他生成式脑残内容的垃圾场之间，Meta有足够的时间来做这件事，但Content Seal的推出仍然感觉像是仓促上马。与类似且成熟的SynthID系统相比，它没有为消费者提供独特的好处，反而只是创造了人们验证AI内容时必须跳过的又一个障碍。

也许Meta应该像OpenAI那样直接采用谷歌的水印标准。如果那样做了，Facebook和Instagram用户可能会更好。Eischen告诉我，Meta多年来一直在贡献开源水印研究，所以这项技术并非一夜之间搞出来的，但我期望它能提供更好的面向消费者的体验。

如果Meta想坚持自己的解决方案，那么它需要的不仅仅是一个半生不熟的SynthID克隆来证明它对AI透明度是认真的——至少应该更可靠。路透社已经发现Content Seal未能