AI 见闻
精选· 重要性 4/5

Claude共享聊天记录和Artifacts被谷歌搜索索引,隐私风险引发关注

TechCrunch — AI··Lorenzo Franceschi-Bicchierai·约 4 分钟阅读
中文导读

由于Claude的“分享聊天”功能,大量用户对话和Artifacts被谷歌等搜索引擎公开索引,其中包含敏感信息。Anthropic将责任归咎于用户主动分享,但事件暴露了AI产品隐私设计的不足。

上周末,Reddit用户发现通过输入“site:claude.ai/share”等搜索运算符,谷歌上可以公开搜索到大量Claude聊天记录和Artifacts(用户在Claude内构建的交互式迷你应用和文档)。

据报道,其中一些包含健康记录、私人公司文件以及儿童的姓名和电话号码。该问题似乎源于Claude的“分享聊天”功能,该功能允许用户创建链接,使任何拥有该URL的人都能查看对话或项目。“任何拥有链接的人都可以查看,”Claude的界面提示道。

这一表述明确暗示该功能主要用于让用户与朋友、同事和小团体分享聊天内容,而非整个互联网。例如,Google Docs也提供类似功能,但其文档并不会在谷歌上被公开访问。Anthropic似乎将此次泄露归咎于用户。

当被问及此事时,该公司告诉TechCrunch,分享链接只有在被发布到搜索引擎可抓取的地方(如论坛或社交媒体帖子)时才会出现在搜索结果中;并补充说,私下发送给某人的链接不会被搜索到。

发言人Amie Rotherham在一份解释中补充道:“我们赋予用户公开分享其Claude对话的控制权,并且根据我们的隐私原则,我们不会与谷歌等搜索引擎共享聊天目录或站点地图。这些可分享链接不可猜测或发现,除非用户选择自行分享。

当有人分享对话时,他们便使该内容可公开访问,与其他公共网络内容一样,可能会被第三方服务存档。”该问题于周六由一位Reddit用户首次发现,并于周一上午由404 Media首次报道。

截至周一下午,TechCrunch按照Reddit帖子中概述的方法在谷歌上进行测试搜索,未返回任何结果,表明此次泄露已得到某种程度的修复。

在问题修复前,Futurism报道发现了“一份真实患者的详细医疗报告、包含患者姓名的临床试验结果、共享小学学龄儿童姓名和电话号码的文件、标记为仅供内部使用的公司文件,以及包含员工个人信息的员工评论。

”被泄露的Artifacts包括代码、工作笔记以及聊天机器人生成的色情内容。据《财富》杂志报道,至少有一个案例中,一个标记为“由Anthropic共享”的聊天显示Claude生成了露骨内容,这违反了该公司禁止生成色情内容的政策。

Anthropic的使用政策明确禁止Claude生成露骨的性内容,而通过重复或精心构造的提示词让聊天机器人生成违反其规定的内容,是大多数主要AI模型中周期性出现的模式。

从泄露的聊天记录中尚不清楚该内容是如何生成的,Anthropic尚未回应TechCrunch就此具体案例的评论请求。谷歌发言人Ned Adriance告诉TechCrunch:“谷歌或任何其他搜索引擎都无法控制哪些页面在网络上公开,这些页面已被多个搜索引擎索引。

我们为网站所有者提供明确的控制权,以决定页面是否可被抓取或索引,并且我们始终尊重这些指令。”去年,《福布斯》报道了一个类似问题,数百个Claude聊天记录被搜索引擎索引——当时,谷歌估计在页面从搜索结果中消失前,已索引了不到600个对话。

此次泄露的规模是否与去年相当尚未得到独立确认,但多名用户报告称,他们通过与去年相同的谷歌搜索查询找到了共享对话。同样在去年,404 Media报道称,一名研究人员能够抓取约10万个被设置为公开分享的ChatGPT对话。

要查看你设置了公开链接的Claude聊天记录,请前往设置 -> 隐私 -> 共享聊天。

原文出处
PSA: Your Claude shared chats and Artifacts may have ended up on Google

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读