想进AI行业？试试读康德

为英国政府和许多初创公司提供人工智能建议的哲学研究生亨利·阿吉德（Henry Ajder）表示：“这可能是自亚里斯多德被聘为亚历山大大帝导师以来成为哲学家的最佳时机。”他只是半开玩笑的。哲学家似乎从来都不是最有就业机会的人。

但人工智能，这种预计会导致许多其他人失业的技术，给他们接受训练提出（有时甚至可能回答）的问题赋予了新的权重：什么是智能？什么是思想？“数百年前的哲学家也思考过一些同样的问题，”阿吉德说。“现在它们正在成为物质。

”两个最重要的人工智能实验室招募了内部哲学家团队。“现在有更多的哲学家--这是一种合理的直觉，”谷歌DeepMind专门研究人工智能社会影响的研究科学家团队负责人、伦理学家Iason Gabriel说。

在Anthropic，常驻哲学家Amanda Askell已成为该公司最知名的面孔之一。这两个实验室都以公司政策为由拒绝透露他们雇用的哲学家人数。WIRED在DeepMind至少有10个，在Anthropic至少有4个。

正如实验室的哲学家帮助塑造人工智能模型，产生了数百篇随后的研究论文中引用的杰出作品一样，人工智能也塑造了着名大学的哲学课程。

现在很多人都开设了人工智能道德课程或计算机科学和哲学联合项目。“这是今年的一种风味，”牛津大学哲学教授兼人工智能伦理研究所所长爱德华·哈考特说。然而，在学术界，一些人对为实验室工作的哲学家抱有一定程度的怀疑。

如果一家营利性人工智能公司签署了您的薪水，这是否会损害您的研究？通过在人工智能亚历山大面前扮演亚里斯多德，您是否会冒着自己的作品成为炒作和神话制造工具的风险？哈考特说：“如果人们被引导相信科技公司正在做一些极其不寻常、极其强大的事情，这对公众对科技公司的看法非常有利。

”“鼓励该研究领域有一种自我膨胀的一面。”当Iason Gabriel近10年前加入DeepMind时，人工智能作为道德行为者的想法还没有真正出现，更不用说有意识的行为者了。当时，他的重点是算法偏见等问题。

但随着2020年代初大型语言模型的出现，加布里埃尔说，“我们有能力编码更丰富的价值观。”如今，人工智能代理开始在世界上发送电子邮件、安排约会和编写代码。他们的行为不仅会影响直接用户，还会影响其他人。

这就是加布里埃尔研究的重点。

“现在已经成为一个非常丰富的领域的问题是价值认同问题--本质上，技术积极发挥作用意味着什么，”他说。“事实证明，你可以花很多哲学时间来试图理解这一点。

”关于意识和超级智能的问题很有吸引力，但在实验室工作的哲学家们将更多的时间花在了更直接的风险上：围绕公平、错误信息、恶意滥用、错误代理等。“现在人们对人工智能意识有这种兴趣，”加布里埃尔说。“但在那里，我们更多地处于证据收集模式。

”在DeepMind位于伦敦市中心180，000平方英尺的办公室的某个地方，公司责任团队成员朱莉娅·哈斯（Julia Haas）问自己这样的问题：“我真正想了解这些模型的什么？我认为什么重要？

我们如何衡量这一点？我们如何定义这些问题？我们如何沟通它们？”哈斯是一位心灵哲学家，更具体地说，是一位机械主义者--关心心灵运作的人。她在DeepMind工作了五年，最近与人合着了一篇论文，发表在《自然》杂志上，该论文提出了一个测试LLM是否表现出道德能力的框架。

她和她的同事正在寻找区分道德能力与空洞模仿的最佳方法，并询问如何最好地解释来自截然不同文化的人们之间道德价值观的差异。

哈斯的工作与训练谷歌旗舰型号Gemini或将其包装成面向公众的聊天机器人的流程相去甚远。“我认为这还处于酝酿初期，”她说。在Anthropic，哲学家更直接地参与模型开发。“没有一家初创公司聘请哲学家来研究哲学，”阿斯凯尔说。

2018年获得哲学博士学位后，Askell加入OpenAI，担任政策职务。三年后，当一群OpenAI员工离开创办Anthropic时，她签约成为最早的员工之一。

阿斯凯尔的主要职责之一是识别模特可能不适合遵循人类行为的边缘情况--例如，在与有心理困扰的人互动时--并提出训练这些怪癖的方法。这需要与Anthropic的旗舰语言模型Claude进行大量交谈。

她是克劳德著名的“宪法”的主要起草者，这是一份直接针对该模式的冗长文件，规定了该模式应该如何行事以及应该维护哪些广泛的价值观。“起草宪法感觉非常像应用哲学，”阿斯凯尔说。“这更像是教一个人成为好人。

”当她准备这份文件时，阿斯克尔担心为“过渡期”做好准备，在这个时期，模型开始在开发自己的未来迭代中发挥作用。特别是，她对模特和他们的人类创造者之间滋生“怨恨”持怀疑态度。

阿斯凯尔说：“如果他们要帮助我们顺利过渡，我可以为他们提供一套价值观来做到这一点……这就是核心目标。”“最终，我希望这些模型能够反映我们最好的一面，尽我们所能。

”在学术界工作的哲学家们中，人们普遍认为绘制人工智能带来的道德风险的价值--它可能被用来开发新的大规模杀伤性武器、破坏民主或巩固现有的社会罪恶。至于与人工智能和意识、正念或超级智能相关的更重大的哲学问题，人们的反应从谨慎到彻底驳回。

哈考特认为：“试图对意识的定义进行精细划分是浪费时间。他说，“这些系统永远不会成为我们版本的思想生活的竞争对手，尤其是因为人类的特殊性与温暖的身体有关，与认知复杂度有关。”哈考特认为，当一位哲学家在人工智能实验室工作时，“存在很大的道德清洗风险。

“令人担忧的是，他们可能实际上成为实验室营销职能的延伸，他们的工作表面上履行了对人工智能安全的承诺，并向公众发出信号，表明模型已经发展到了严肃的人开始询问有关超级智能和意识的问题的地步。

艾伦·图灵研究所道德和负责任创新研究主任大卫·莱斯利（David Leslie）表示，愿意接受人工思维想法的哲学家和“炒作受益者的大型科技公司高管”之间存在着“选择性的亲和力”。“莱斯利认为，在企业内部实践哲学几乎是一种矛盾修饰法。

“你想问一些大问题，”他说。“但如果你是一名在一家大型科技公司工作的哲学家，你的问题空间就会被划定。”即使在哲学家被雇主赋予自由的情况下，一些学者也质疑，如果他们的发现碰巧与竞争野心发生冲突，他们的发现是否具有足够的分量来改变人工智能的发展进程。

当然，营利性人工智能公司最终要对投资者和股东负责。“我希望这些公司