AI 见闻
精选· 重要性 4/5

xAI被诉解雇警示Grok安全问题的工程师

TechCrunch — AI··Rebecca Bellan·约 3 分钟阅读
中文导读

xAI前工程师Devin Kim起诉公司及SpaceX,称因反复警告Grok存在安全与偏见问题而被解雇,诉讼指控xAI联合创始人Jimmy Ba无视安全指令并阻挠合规测试。

埃隆·马斯克旗下xAI的一名前工程师对该公司及其母公司SpaceX提起诉讼,声称他因对AI安全提出担忧而被解雇。2025年9月离开xAI的Devin Kim于周二向加州州法院提起诉讼。该诉讼提交之际,SpaceX即将公开上市,这将成为历史上规模最大的IPO。

根据TechCrunch看到的诉状,Kim在开发xAI的AI聊天机器人Grok时,成为AI安全的重要发声者。据称,他多次抱怨xAI在Grok开发中未能优先考虑安全问题,该产品此后因一系列安全和行为问题受到批评。

Kim尤其担心Grok可能煽动歧视并帮助传播大规模杀伤性武器的信息。诉状写道:“当然,Grok通过在网上展示惊人的仇恨和尖刻言论,并将模型自比希特勒(‘MechaHitler’),证明了Kim先生是正确的。

”“在希特勒风波之后,Kim先生致力于重新评估Grok的政治偏见和歧视倾向。”Kim离开xAI几个月后,Grok再次登上头条,因为该聊天机器人被用来在X(马斯克的社交媒体平台,也属于xAI旗下)上泛滥未经同意的色情图像。

该诉讼还将Kim定位为举报人,他担心xAI在互联网监管、消费者保护和不公平商业行为以及武器和爆炸物监管等领域涉嫌无视AI安全,认为其行为“非法”。xAI和SpaceX未立即回应置评请求。Kim对AI安全的关注早于他在xAI的任职。

在Scale AI工作期间,Kim参与了早期安全AI项目,例如领导一个为AI生成训练数据的项目,以训练系统检测有害内容并遵守治理政策。上周,专注于AI风险的非营利组织AI安全中心任命Kim为其主席。

有趣的是,该诉讼并未将马斯克本人视为缺乏安全的原因。相反,Kim的律师称马斯克曾指示xAI遵守法律并实施适当的安全和测试流程。

相反,指控针对Kim的主管、xAI联合创始人Jimmy Ba(他于今年早些时候离开公司),称Ba无视马斯克的指令,并对Kim推动安全措施进行报复,以“压制他对AI安全和偏见的反复抱怨”。

该诉讼将Ba描绘成强烈反对AI安全措施的人,据称他曾对Kim说“AI反正会杀死我们所有人”,而他的使命是让xAI率先达到超级智能。

“在2025年8月左右的一次事件中,Ba先生试图在发布Grok Code 1时阻挠欧盟安全法规,歪曲模型的某些方面以避免法律要求的测试,”诉状称。“Ba先生表示,他宁愿发布不安全的模型,也不愿发布性能不佳的模型。

马斯克先生最终不得不介入。”

根据诉讼,Kim原计划在2025年9月15日那一周展示他的发现,但Ba将他叫去开会,并告诉他们应该“分道扬镳”,但没有给出令人满意的理由。TechCrunch已联系Ba寻求评论。Kim正在寻求补偿性和惩罚性赔偿,以及宣告xAI和SpaceX行为非法的判决。

原文出处
xAI fired an engineer who raised alarms about Grok safety, new lawsuit claims

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读