AI 见闻
精选· 重要性 4/5

教师成AI深度伪造受害者:学生用AI制作色情内容

Wired — AI··Caroline Haskins·约 8 分钟阅读
中文导读

美国多名教师发现学生利用AI生成他们的色情图片和视频,并在社交媒体传播,引发对校园安全和法律责任的担忧。

对加州洛斯巴诺斯的代课老师路易斯·德圣地亚哥来说,一切始于几条短信。3月12日,当他在一家咖啡店做另一份兼职时,手机亮了。一位咖啡师同事说,社交媒体上流传着一张AI照片,她的表弟想知道那是不是德圣地亚哥。

起初,德圣地亚哥并不担心——他认为不恰当的照片违反TikTok社区准则,通常会被迅速删除。德圣地亚哥告诉《连线》:“当我最终看到那张照片时,感觉就像腹部被重击。”照片的一部分像他记得在大学打工时拍的镜子自拍,但他穿的不是工作制服,而是内衣;

姿势也不是原图中的正常站立,而是带有挑逗性。这些短信开启了一场持续数月、跨越两所学校、涉及学生和管理人员的风波。德圣地亚哥远非唯一以这种方式受害的教育工作者。《连线》采访了另外三名教师,他们声称学生可能使用AI制作了他们的性化照片和视频。

他们说,这些事件令人深感痛苦和失望,在某些情况下,甚至让他们重新评估自己的工作和对学生关系的看法。“这可能包括其他学生”收到短信后,德圣地亚哥开始拼凑谁可能是幕后黑手。

分享该图片的一个账户在TikTok个人资料中使用了真名——这是德圣地亚哥在当地中学认识的一名学生,他经常去那里代课。根据关注和互动该账户的人,以及他对学生朋友圈的了解,德圣地亚哥怀疑还有另外两名学生参与。

他第二天本应在那所中学工作。德圣地亚哥向副校长报告了此事,副校长向他保证学校会“处理”。当晚晚些时候,他决定在TikTok上搜索自己的名字来查找图片。他发现另一个学生创建了一个冒充他的账户,名字拼写略有错误,头像使用了同一张照片。

德圣地亚哥说,在接下来的几周里,他与学校管理人员、学生家长甚至警方反复沟通。“如果这些学生不害怕生成和发布我的这些照片,我担心他们可能通过短信和群聊私下传播什么,”德圣地亚哥在给校长的信中写道,“请记住,这也可能包括其他学生。

”一名承认制作该图片的学生被处以校内停课。德圣地亚哥后来得知,该图片也在Snapchat上被分享。但他说,图片继续扩散,其他学生也开始发布。

他说,他的TikTok账户还收到几条粗鲁的性评论。德圣地亚哥告诉管理人员,在“此事得到彻底解决”之前,他不想接受那所中学的代课任务。学区未回应《连线》的置评请求。他在当地高中接了代课任务,但问题随之而来。

在一节课上,他收到一张AirDrop传来的同一张AI生成图片,但很快被撤回。他看得出图片在班级中流传。校长告诉他,学校正在“立即调查”,并提出与他会面或提供学校辅导员,但德圣地亚哥表示,他今年可能不会回到该学区。

他告诉《连线》,至少现在,他觉得这样做不安全。“这让你质疑一切”当未经同意的成年人的虚假裸体图像被传播时,可能构成网络跟踪,并违反联邦《删除法案》,该法案规定,在互联网上发布未经同意的“真实和计算机生成的个人亲密视觉描述”属于犯罪。

在与《连线》分享的大多数案例中,教师并未直接向内容出现的平台举报。Snap发言人莫妮克·贝拉米分享了公司关于骚扰和性内容的政策,这些政策禁止分享AI生成或操纵的内容来羞辱或性骚扰他人。

她告诉《连线》,公司有“既定流程”来举报此类内容,并继续“开发旨在支持我们社区安全、隐私和福祉的功能和工具”。TikTok在发布前未发表评论。退休的就业维权律师唐娜·鲍尔曼告诉《连线》,如果学生制作并分享教师的性图像,这构成工作场所性骚扰的“明确案例”。

鲍尔曼说,根据联邦反歧视法,雇主有义务创造无性骚扰的工作场所。在学校,这可能意味着对学生进行纪律处分或将其调离班级。但她补充说,学校如何应对这些事件“没有蓝图”。管理人员甚至不必告知受害教师学生可能受到何种纪律处分。

“他们只需要为受害者创造并维持一个安全的环境,”鲍尔曼说。一位二十多岁的中学教师告诉《连线》,她看到太多AI生成内容被用来骚扰教师,以至于她正在为下一波浪潮做准备。(她要求匿名,因为她没有得到学区许可谈论她的经历。

)她说,去年,学生们找到一位六十多岁教师的公开照片,将其操纵成她进行性行为的模样,并在Snapchat群聊中互相分享。

这位教师说,几个月前,她从一名学生那里得知有一个冒充她的TikTok账户。它看起来是AI生成的——她的脸具有AI生成内容特有的光滑感,说话时嘴巴动作不自然,声音也与她自己的不匹配。一些视频显示她在跳伞或翻跟头,但其他视频则描绘她谈论自己进行并享受的性行为。

她说她向校长报告了该账户,校长向她保证会“看看我们能做什么”。一整天,学生们不断警告她该账户。她说,有些人告诉她,他们知道是谁创建的——是他们的一位同学。她说,这名学生有行为问题。

“我知道很多向我举报的孩子真心相信那是我的账户,我说了那些话,”她告诉《连线》,“我当时想,‘天哪,你们——那不是我。’”她要求他们向TikTok举报,她说账户很快被删除。她仍对此事感到不安,在接下来的月度教师会议上提到了该TikTok账户。

一位同事说,他看到一段看似AI生成的自己被捕的假视频,他认为是由同一名学生制作的。

她说,随着时间推移,她成为这名学生升级的当面骚扰目标,他开始“骂我、叫我名字、让我滚开、叫我婊子”。她在下次教职工会议上提出此事,副校长说同一名学生半夜给他们打电话发短信,并将明显AI生成的照片发布到TikTok。

她说,校长将这名学生从她的班级中移除,并试图限制他与她的接触。但她说,骚扰一直持续到该学生最终离开学区,TikTok也删除了该账户。她说,这些行为问题并非该学生独有。“我们处理这种事并不意外,因为这些孩子只是有困难,”她说,“我只是担心这种情况会再次发生。

原文出处
They Dedicated Their Lives to Teaching. Then the Deepfakes Started

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读