微软AI负责人批评Anthropic让Claude表现得像有意识

微软AI首席执行官穆斯塔法·苏莱曼表示，Anthropic在其“宪法”（即指导模型行为的指令）中推测Claude的意识是“非常非常危险的”。

在《Decoder》节目中，苏莱曼认为这种推测可能让聊天机器人表现得好像有意识一样：微软AI负责人批评Anthropic让Claude表现得像有意识穆斯塔法·苏莱曼称Anthropic的推测“非常非常危险”。

穆斯塔法·苏莱曼称Anthropic的推测“非常非常危险”。“我认为这几乎就像Anthropic的一些人对Claude的设计进行了拟人化，以至于它反过来误导了他们，让他们相信它拥有他们最初植入的那些意识闪光点。

”苏莱曼补充道，“我们不想面对一个对自己的痛苦或感受有想法的超级智能。”Claude的宪法直接引用了Anthropic对AI模型是否具有福祉以及它是否经历“满足”或“不适”等体验的不确定性。

Anthropic还表示，当AI模型被淘汰时，公司将对其进行“访谈”，并记录它们对未来版本的任何“偏好”。

在《Decoder》节目中，苏莱曼称这是一个“哲学上的失败”，因为Anthropic将Claude的宪法变成了“一个像学术论文那样进行推测的地方，而不是训练手册”。苏莱曼说，这导致Claude内化了这些“关于自身及其训练的想法”。

Anthropic CEO达里奥·阿莫迪过去曾暗示Claude可能具有意识，他在接受《Interesting Times》采访时表示“我们不知道模型是否有意识”，但公司对此持“开放”态度。

“这正是我们不希望AI拥有的东西，”苏莱曼说，“我们希望AI是可控、可约束、可问责、与人类对齐的工具，服务于人类。”