xAI要求公开深度伪造受害者身份，遭律师反对

根据最近提交的法庭文件，埃隆·马斯克的人工智能公司xAI正在要求公开确认四名据称使用Grok创建了深度伪造性图像的人，其中一名显然是儿童时期的性深度伪造图像的目标。

5月29日，联邦集体诉讼中的四名主要索赔人——目前被确定为南卡罗来纳州无名氏、南卡罗来纳州罗伊氏、新泽西州无名氏和俄亥俄州无名氏——在宣誓书中描述了他们在所谓的深度伪造图像今年早些时候创建后所遭受的情感困扰。

文件称，这四人担心，如果被迫在针对xAI的诉讼中使用真名，他们会进一步遭受网络骚扰和曝光。

代表这些人的律师索菲亚·里奥斯（Sophia Rios）在最近的一份文件中写道：“在剥夺了原告的衣服后，xAI现在试图剥夺原告的化名，显然是为了通过加剧他们寻求补救的同样伤害来恐吓原告放弃诉讼。

”伯杰·蒙塔古律师事务所（Berger Montague）的里奥斯在最近的一份文件中写道：“xAI要求本法院扭转局面，表明它所造成的滥用并没有什么大不了的。”里奥斯告诉《连线》，除了文件中的内容之外，她无法发表评论。

今年1月，马斯克旗下Grok聊天机器人的使用引起了全球的愤怒，因为数十名男性使用生成人工智能系统创建“脱光衣服”和穿着比基尼的女性的虚假图像。

这些发布在X上的图像还包括明显儿童的性化图像。反数字仇恨中心的分析声称，Grok在短短11天内就被用来创建了约300万张色情图像，其中23,000张可能包括儿童。面对世界各地的一波诉讼和监管，现在拥有xAI的SpaceX已拨出超过5亿美元来应对影响。

针对xAI的集体诉讼最初是在一月份由一名化名的主要索赔人提起的。美国加州北区地方法院的一名法官批准了一项命令，允许他们成为该案中的无名氏。该案后来于5月初重新向四名主要化名原告提起诉讼，无名氏成为南卡罗来纳州无名氏。

法庭记录中的声明称，起诉xAI的人将向该公司公布自己的姓名和个人信息，但希望在公开场合使用假名来保护自己的隐私，不公开与这些图像链接，并减少在网上受到进一步骚扰的可能性。原告的深度伪造图像没有包含在任何公开法律文件中。

5月中旬，xAI向北加州联邦地区法院提出了两项动议，要求法官推翻允许在案件中使用假名的裁决。

文件指出，根据民事法院法（可能有一些例外），案件必须列出所有涉案当事人的姓名。Law360首先报道了xAI要求推翻之前决定的动议。xAI的律师在两项动议中声称，提起诉讼的人应该使用真名，因为起诉该公司的人的身份符合公共利益。

他们声称，没有证据表明该案中的个人受到任何具体的进一步伤害或威胁。他们还表示，由于深度伪造图像不会作为诉讼的一部分公开，因此这应该可以缓解任何隐私问题。

律师们在5月15日的一份文件中写道：“排除深度伪造图像本身——因为它将保持密封状态——在不透露图像本身的情况下透露深度伪造图像是为南卡罗来纳州无名氏创建的这一事实，本质上并没有什么污名化的。”“因此，本案根本不涉及传统上认为需要假名的令人信服的隐私利益类型。

”xAI和代表该公司的律师都没有回应《连线》对此案发表评论的请求。弗吉尼亚大学法学院专门研究数字滥用问题的法学教授丹妮尔·雪铁龙（Danielle Citron）表示，人们被勒令使用真实姓名起诉的民事案件可能会导致诉讼被撤销，从而造成“不可接受和不公正”的情况。

雪铁龙告诉《连线》：“强迫隐私诉讼中的原告以他们的名义起诉对司法透明度没有多大帮助，但对阻止诉讼却有很大的作用。”根据5月29日提交的法律文件，该案中所有四名化名索赔人，如果必须透露姓名，他们都将考虑退出诉讼。

在这些最近的文件中，索赔人的律师表示，xAI的请求应该被拒绝，并补充说，该案是关于“高度个人化和令人尴尬的深度伪造，这些伪造描绘了原告未经他们同意而传播的。

”这位南卡罗来纳州的无名氏描述了他们如何在网上发现所谓的深度伪造品“被剥光到暴露的比基尼”，并表示它如何“以一种我永远不会公开分享的方式”展示她的身体。他们声称，如果他们看到这张照片，他们担心雇主或同事会怎么想，并且他们担心在网上成为进一步的攻击目标。

他们写道：“一想到要求Grok创建深度伪造的人对这张照片所做的事情，我就感到厌恶。

”文件称：“如果我被迫公开透露自己的名字，作为本案的一部分，我担心那些支持埃隆·马斯克、他的公司和Grok（我在网上观察到非常直言不讳）的人会在公共记录中发现我的名字，传播它，对我进行人肉搜索，并通过制造更多、更极端的深度伪造来报复我。

”

其他所谓的深度伪造受害者的类似声明称，他们在看到未经他们同意而创建的图像时经历了“严重的情感困扰”、尴尬和震惊。总的来说，深度伪造性虐待和未经同意的图像的其他受害者也描述了类似的感觉。

诉讼中一名名叫新泽西无名氏的男性表示，他们在X上看到人们使用Grok创建性图像，并请求“Grok未经我同意不要创建我的图像”。法庭记录显示，第二天，他发现了两张自己的深度伪造照片，其中一张描绘了他“摊开屁股脸颊”。

他说，他相信给Grok的信息，要求它不要制造他的深度伪造，“这让我的账户引起了网络巨魔的注意，他们利用Grok来骚扰和制造痛苦。”南卡罗来纳州罗伊声称，Grok被用来创造她小时候的露骨形象。法庭文件说，今年2月，警察搜查了南卡罗来纳州罗伊的家，他们与他们的母亲和父亲分享。

“我从执法官员那里得知，我父亲正面临与拥有和分发CSAM有关的刑事指控，”文件说。“我了解到Grok修改了几张我和父亲躺在床上的照片。Grok修改了这些图像，使其看起来就像我们刚刚完成了性行为一样，”文件称，并补充说该人没有看到这些图像本身。

南卡罗来纳州罗伊的法律声明称自己对深度伪造无法控制而感到“心烦意乱”，并表示担心这些图像可能会被掠夺者在网上分享。法庭文件称：“公开表明我的身份会给我带来难以言喻的伤害。”