佛罗里达州起诉OpenAI及Altman,指控ChatGPT关联多起谋杀案
佛罗里达州总检察长起诉OpenAI及其CEO Sam Altman,指控其不顾安全警告推出ChatGPT,导致多起谋杀案并危害青少年,要求追究责任并加强监管。
Altman被指控使ChatGPT不安全。该诉讼与之前的诉讼一起,指控Altman无情地部署AI系统,而不考虑用户安全。
在诉状中,Uthmeier回忆起Altman如何告诉TED 2025与会者,现在OpenAI在真实用户上对其产品进行安全测试的“风险相对较低”,他声称这是迭代改进它们的唯一方法。“但风险并不低,”Uthmeier说。
“佛罗里达人——包括我们弱势的孩子——因被告的欺骗性、不道德和鲁莽的危险行为而遭受了金钱损失、心理健康伤害、认知能力下降和身体伤害。被告必须对其造成的伤害以及他们和ChatGPT继续对佛罗里达人构成的危险负责。
”Uthmeier在一份新闻稿中声称,在将ChatGPT 4o等产品推向市场时,OpenAI“忽视了内部和外部的安全警告,将儿童置于巨大的风险之中,并允许危险产品接触到数百万佛罗里达人。
”同样,诉状称,Altman必须“对他作为OpenAI创始人兼首席执行官的鲁莽和故意行为给佛罗里达人造成的伤害承担个人责任,包括他完全无视公司行为对人类生命造成的风险。”
如果败诉,OpenAI可能面临实施补救措施的压力,例如对免费ChatGPT账户进行年龄分级以保护儿童、关闭讨论暴力和自杀的对话,以及删除州政府声称具有欺骗性、让ChatGPT感觉像在与真人交谈的功能。
如果没有更多的家长控制,该州可能会推动禁止青少年访问ChatGPT。诉状称:“佛罗里达州的青少年使用ChatGPT并不安全;使用它可能导致自残、认知能力下降和行为成瘾。
”在X平台直播的新闻发布会上,Uthmeier发誓要与其他希望保护儿童的州合作,追究OpenAI的责任,并回答了记者提问。
当被问及该州是否计划追究所有AI公司——而不仅仅是OpenAI时,Uthmeier表示佛罗里达州“当然”正在考虑其他平台,但“ChatGPT似乎是最令人震惊的”,而Altman是推动对孩子危险功能的“核心人物”。
“做好战斗准备,现在没有比这更重要的了,”Uthmeier说。
本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。