精选· 重要性 4/5
引用杰里米·霍华德：减缓递归AI自我改进的简单方案
Simon Willison's Weblog··约 1 分钟阅读
中文导读
杰里米·霍华德在推文中提出，若真想减缓递归AI自我改进，顶级实验室应承诺不使用自家最强模型进行前沿研究，同时向他人开放，从而阻止前沿推进并避免权力失衡。
2026年6月10日减缓递归AI自我改进的简单解决方案：- 拥有排名靠前模型的实验室必须同意他们不得使用该模型进行前沿AI研究- 但其他所有人都应有权访问它。根据定义，这意味着前沿不会前进。它还有一个关键好处，即避免危险的权力失衡。
Anthropic选择了与安全路径相反的道路：他们允许自己（目前的顶级实验室）使用其顶级模型进行前沿AI研究。他们表示会破坏其他尝试这样做的人。这意味着AI前沿在推进，权力失衡在加剧。
（需要明确的是，我认为我们不应该试图减缓递归AI自我改进——我认为我们应该尽可能开放并民主化它。我的观点是：如果你声称我们应该放慢速度，并且你拥有最好的模型，那么你应该确保你的组织无法使用它。
）——杰里米·霍华德（Jeremy Howard），
在Twitter帖子中最近的文章- 对Claude Fable 5的初步印象 - 2026年6月9日- 使用MicroPython和WASM在沙箱中运行Python代码 - 2026年6月6日- Claude Opus 4.8：
“适度但切实的改进” - 2026年5月28日