人工智能最激烈的批评者之一称所有末日言论都“旨在分散我们的注意力”

《连线》本周，我们一直在试图弄清楚人工智能行业中发生的至少两起事件：首先，围绕价值数百万美元的数学问题的重大斗争，以及OpenAI是否偷偷借用了其他研究人员的工作来首先解决这个问题。

一天后，一位曾在OpenAI工作过的Anthropic研究员公开辞职，理由是担心两家公司处理人工智能安全的方式。Anthropic的另一位技术人员回应称，该公司的人们“确实真诚地相信人工智能可以杀死所有人类！

”我个人认为未来十年内这一数字将超过10%。”（注意感叹号。)互联网上爆发了一场争论，讨论这些担忧是否非常合理、完全被夸大、监管捕获策略的一部分，还是制造该技术的人工智能实验室的自我扩张。或其某种组合。

一位著名的技术和人工智能研究员Timnit Gebru的态度尤其激烈，她在X和Bluesky上发帖谈论了她认为导致我们走向这个奇怪时刻的重叠想法和意识形态。此前，格布鲁因其离开谷歌而广为人知。

她和她的研究人员同事于2018年受聘评估公司快速发展的人工智能工具中的偏见，并提交了一篇关于概率大型语言模型潜在危险的论文。谷歌拒绝了它。格布鲁在公司的时间并没有太久。

她即将出版一本关于她的经历的书，题为《深度学习：人工智能的崛起和科技理想主义者的激进化》（预计明年初出版）。Gebru对过去一周与人工智能相关的事件有很多想法。

虽然她的工作本质上植根于人工智能安全，但她拒绝接受“安全和一致”等短语，并认为那些警告我们即将到来的厄运的人是在试图转移人们对科技行业可能造成的实际伤害的注意力。劳伦·古德：您认为对“数学之战”的所有关注如何反映人工智能的当前状况？

TIMNIT Gebru：嗯，首先我想问，为什么他们要大力投资解决数学问题？为什么他们选择某些学科？不知何故，这些科目，如编程、国际象棋和数学，被提升为意味着，好吧，你解决了这个问题，从而你解决了智力。

这样他们就可以说：“我们解决了。”OpenAI想让您听到的故事是，这个人工智能做了这件令人难以置信的事情，而且它超级智能。这就是他们选择数学的原因，这个价值100万美元的开放问题。

但如果它经历了数学界审查主张的重要性和新颖性以及谁对主张做出了贡献的整个过程，并且我们都等到尘埃落定，我们就会更好地了解OpenAI是否准确地构建了这一突破。

我认为有一个叫做《莱顿宣言》的东西非常好，它警告说，如果企业以这种方式使用数学领域会发生什么。政策制定者开始依赖新闻稿和流行媒体，而他们本应该与数学家本人交谈。现在从声称人工智能取得突破的公司到伯尼·桑德斯提出法案所需的时间确实很短，这不是一件好事。

目前，在他们的IPO之前，这一切都是残酷的。一般来说，研究人员应该是协作的。当我在谷歌时，我们正在与微软、亚马逊的研究人员合作。你一直这样做。现在，研究人员都对他们认为自己正在解决的问题感到疯狂，因为他们即将上市。

您如何解释那位人视工程师的辞职，他说这些公司鲁莽，拿我们的生命做赌注？一方面，你似乎同意这些公司鲁莽;另一方面，你已经明确表示，你认为“人工智能将导致文明的终结”的争论是毫无意义的。在我的整个职业生涯中，我一直试图从不同的角度说同样的话。

出于这个原因，我们在2021年撰写了随机鹦鹉论文。OpenAI声称GPT-2太强大了，无法发布。太夸张了。我们说，你问错问题了。我在书中写道：“一座桥会倒塌吗？

“整个‘哦，不，我们的模型变得流氓了’的事情……当一座桥倒塌时，你不会分析这座桥是否有道德或有感知力，或者为什么它决定倒塌。你问，是谁把这座桥建得如此脆弱？您必须获得一些许可证。应该有测试。当你问桥是否会自行倒塌时，你就失去了线索。

与此同时，真正存在的是人工智能为自主武器、杀人机器提供动力，这些武器实际上正在用于战争。气候灾难是一场真实存在的事情，这些科技公司正在建设的东西可能会加剧这些灾难。老板们正在利用人工智能作为解雇讨厌的员工的借口。

在我看来，这种机器神的叙述是为了分散我们对这些的注意力。这个行业已经变成了邪教的混合体，一群真正的信徒，就像一个传教士说末日即将到来一样。奇异性已经到来几十年了。带我一步一步地了解“人工智能灭绝”如果是真的，可能会如何发生。

我在想这篇文章，有人说，一个愤怒的图形处理器是否刚刚出现在我家或其他什么地方？我真的无法想象它，但很多场景似乎是你要求机器为其他任务进行优化，然后机器决定实现这一目标的方法就是杀死世界上的每个人。

人工智能是否会催眠你，让你不会拔掉它？我不知道！其他人说，好吧，人工智能可以感染你的机器。

是的-而且我们已经有恶意软件了，所以.洪水和火灾怎么办？全球食品供应链发生重大破坏怎么办？我们面临着真正的威胁，比如人们能够制造和使用化学武器。[Note：我们交谈后不久，Anthropic透露，它已经阻止了科学家几次潜在的恶意制造生物武器的尝试。

]还有另一个因素，你非常特权，以至于你无法想象其他事情会伤害你。就像如果你不担心警察的暴行、洪水或战争--这些实际上可以杀死你的事情--那么你就可以痴迷于机器之神。为什么我们花这么多时间谈论人们自40年代和50年代以来一直在谈论的人工智能概念？

我有时会玩这个游戏，向人们朗读我在研究中收集的有关人工智能的引言，然后我问，这个说法是在哪个十年发表的？有时人们做对了，但很多时候他们做错了，因为听起来都一样。这是Steven Levy和Lauren Goode的BackChannel时事通讯的一个版本。

在此处阅读之前的时事通讯。