挪威应收购OpenAI:历史长弧偏向社会民主
文章主张挪威主权基金收购OpenAI,将其转为公共所有,以应对AI权力集中风险,并交由国际机构管理,确保技术造福全人类。
挪威应收购OpenAI历史的漫长弧线偏向社会民主AI能力的发展速度快于我们的制度应对。很快,一项变革性技术将冲击资本主义政治经济,给人类的生存、自主权和民主秩序带来风险。尤其令人担忧的是,大量权力和财富可能集中在拥有AI系统的阶级手中,或利用这些系统推翻民主控制。
硅谷轻率地谈论“永久的下层阶级”——他们希望你属于其中。当大多数乃至所有工作实现自动化后,我们将面临前所未有的技术性失业危机,而基于人类数据语料训练的技术收益将集中到一小部分股东手中。大型语言模型并非凭空产生。
它们基于从互联网和数字化档案中抓取的海量文本、图像和代码进行训练。从某种意义上说,这些模型是人类集体努力的衍生作品。它们还建立在公共资助的基础设施之上:互联网本身、培养AI研究人员的大学、支持基础研究的政府拨款、促成早期突破的公共数据集。
DARPA的资助为神经网络研究播下种子。公立大学培养了博士。数据来自我们所有人。
这是一片正在被圈占的公地。鉴于AI公司对全人类福祉缺乏兴趣,它们顶住了公民社会和政府要求遵守安全标准的压力,尽管它们也认识到潜在的灾难性风险。显然,自农业以来最具变革性的技术不应掌握在私人手中。
默认的轨迹是利益极度集中,而风险社会化。因此,挪威政府全球养老基金(GPF-G)应当收购OpenAI,并为国际社会的利益进行管理。GPF-G的估值超过2万亿美元,而OpenAI的估值徘徊在8000亿美元左右。
此前,OpenAI是一家非营利组织,设有利润上限和意外之财条款,保证智能爆炸将惠及全人类。经加州总检察长批准,这一承诺被废除,非营利组织被剥夺,OpenAI得以转型为营利性公司。这对人类共同体而言是难以想象的巨大损失。
借助挪威社会民主的资本,我们可以将实验室归还公共之手。尽管挪威央行投资管理公司需要变现其40%的投资组合并违反GPF-G的授权,但私人手中AI能力的加速发展是一个紧急情况,所有参与者都必须以更大的灵活性对待现有规则和规范。
对于那些担心权力集中于政府之手的人,挪威是世界上最稳定的民主国家之一,拥有数十年集体管理财富的记录。该国深度嵌入国际机构,对世界主义有道德承诺,这是私营公司或共和党所不具备的。GPF-G甚至撤资了几家与以色列占领巴勒斯坦领土合作的以色列公司。
收购后,GPF-G应将实验室的管理权移交给一个拥有开发权限的国际多边机构。这是一个理想的终点,但必须有某种转移机制。幸运的是,挪威对石油收入的精明管理为平等主义者提供了一个能够做到这一点的代理人。
它是少数几个持续达到或超过联合国国民总收入0.7%对外援助目标的国家之一,经常达到1%。它曾在从中东到斯里兰卡再到哥伦比亚的冲突中担任调解人。它主办诺贝尔和平奖。它拥有斯瓦尔巴全球种子库,这是为人类托管的世界农业生物多样性备份。
挪威的外交政策身份明确是世界主义的,作为一个小国,它必须通过国际机构而非单边力量来获得安全和合法性。
这样的干预显然会遭到美国政府的阻挠,尽管如果诺贝尔和平奖委员会授予特朗普这一奖项,或许会出现政治可能性的开放。也许这是一个应留给未来政府的选择,如果国会拒绝将实验室收归公有的话。AI转型的规模与左翼政策想象力之间的差距大得难以想象。
禁止数据中心建设的提议是一种反射性反应,它排除了生活在自动化但集体化的未来的好处,而偏向天真的地方主义。AI治理的“奥弗顿之窗”狭窄到荒谬的程度。如果实验室的所有权结构不改变,民主引导得不到保证,默认的未来将是绝大多数人类被剥夺权力。
我们需要推动可能性边界的政策提案,那些会被斥为不可能或不必要的提案。我们需要可选择性。未来,我们可能没有太多时间做出反应,而这些富有想象力的计划将随时准备就绪,供那些心怀繁荣和平等未来的行动者使用。