AI安全担忧加剧，三位先驱呼吁保持开放

随着像“Pacing the Frontier”这样的项目将主要实验室视为确保AI研究安全的方式，开源模型已成为行业的痛点。由于开放权重模型可免费分发且几乎无法控制其使用方式，它们不易被管控，导致一些实验室将其视为彻头彻尾的可怕之物。

但在上周于拉斯维加斯举行的Ai4会议上，三位世界上最受尊敬的AI研究人员——诺贝尔奖得主Geoffrey Hinton、World Labs首席执行官兼联合创始人李飞飞，以及Coursera联合创始人吴恩达——就这一问题发表了看法。

尽管他们在具体策略上意见不一，但三人都为保持AI开放提出了强有力的理由。对于这三位演讲者而言，核心关切在于允许少数主要AI公司控制进步的步伐。

当少数公司控制着对某项技术的访问时，就像苹果和谷歌对移动操作系统所做的那样，创新可能会放缓，而控制平台的公司可能会影响平台上构建的内容。吴恩达表示，他担心AI领域会出现类似动态。“我不希望有守门人，”吴恩达说，“那会限制我们所有人接触AI的方式。

”公司有动机保护其竞争优势，包括通过影响行业规则。这可能会造成一种局面，只有规模最大、资本最充足、拥有资源构建最先进AI系统的公司才能主导。

吴恩达的解决方案是维持多个提供商，让模型和公司相互竞争，而不是让少数参与者主导该领域。“如果我要给出一个建议，那就是促进开放，”吴恩达说，“因为AI是惊人的技术，我希望它能掌握在每个人手中。”但并非所有人都同意开放权重模型有助于维持这种状态。

特别是Hinton，他区分了开源软件（其底层代码可供检查和修改）和开放权重模型（将训练好的AI模型参数公之于众）。“开源很棒。你向人们展示代码，很多人会查看代码行并说，‘哦，这里有个bug。’开放权重意味着你训练一个大模型，然后把权重交给人们。

这是非常不同的，”Hinton说，“我反对开放权重，因为这让人们很容易获取这些训练成本高昂的大型基础模型，并以更低的成本将它们用于网络攻击等恶意目的。”但无论他有何保留，Hinton承认开放权重模型已成为AI的永久特征。

“我认为这场战斗已经输了。我们现在有了开放权重模型，所以许多人获取这些大模型的障碍——即训练基础模型的成本——已经消失。太晚了。”然而，接受现实并不意味着忽视风险。

Hinton的立场很明确：AI将继续进步，他认为这在很大程度上是好事。他说，这将提高生产力，改善教育和医疗保健。“担心AI可能带来的不良影响，以及智能体比我们更聪明时可能做的事情，我认为这并非不公平。

我认为将任何这样想的人贴上‘散布恐慌者’的标签是不公平的，”Hinton补充道。吴恩达持不同观点。他认为，问题不在于开放模型是否有风险，而在于谁控制访问以及谁将赢得市场。谁构建了更便宜的模型，谁就拥有优势。

他警告说，如果中国的开放权重模型在亚洲、非洲和/或发展中国家广泛采用，它们可能会影响数十亿人对民主、自由和人权的看法。“我希望我们做的一件事是鼓励美国的竞争力和开源AI。事实证明，AI是软实力的巨大来源。

例如，你可以看到中国的模型在非洲取得了巨大成就，”吴恩达说，“但我的担忧是，由于美国国内的大量游说和恐慌散布，美国构建开源AI的努力正在艰难地与中国推出的开放权重模型竞争。

我担心的是，如果中国找到了一种从根本上更具成本效益的构建AI的方法，那么更具成本效益的东西将具有根本性的商业采用优势。”李飞飞反驳了这一框架。

“将这个问题视为完全开放与完全封闭的二分法是非常危险的，”她说，“在复杂的软件系统和科学系统中，情况要微妙得多。”李飞飞以核物理为例：科学论文公开发表，但铀受到监管，而实验室工作介于两者之间。

她解释说，教训是开放不一定是一个全有或全无的选择。生态系统的不同层面可以在不同的开放程度上运作。她还强调了公共和私人机构之间的合作，如人类基因组计划。她说，由此产生的知识成为他人可以构建的平台，让制药公司获利，科学家推进工作，社会受益。

“所以我认为我们必须将AI视为这样的基础设施，”李飞飞说，“我们需要一定程度的开放，无论是在科学发现、教育、全球合作方面，还是为企业家提供有利可图的商业模式。但我们也接受闭源系统。这场辩论，尤其是在‘我们只能容忍一种’的笼统层面上，是一场虚假的辩论。

我们需要达到一定程度的细微差别。”但所有人都同意，一定程度的监管对于让AI保持在正确轨道上是必要的。“我们想做的是以帮助人们的方式发展AI，监管将帮助我们做到这一点，”Hinton说。

“你不能让埃隆·马斯克和马克·扎克伯格这样的人来决定AI应该如何发展。”