《真理的未来》作者被曝用AI写书，真实性遭质疑

本月早些时候，《连线》出版了史蒂夫·罗森鲍姆（Steve Rosenbaum）的热门新书《真理的未来》（The Future of Truth）的摘录，该书探讨了人工智能如何扭曲人们的现实感。

此后不久，《纽约时报》报道称，这本书包含了超过六个编造或错误归因的引文。拥有纽约大学“真理”硕士学位的罗森鲍姆在一份声明中承认，他不小心包含了“少数”“归因不当或合成”的引文。

具有讽刺意味的是，一本关于人工智能如何影响真相的书的真实性，现在因作者使用人工智能的方式而受到严格审查。《泰晤士报》的报道曝光后，《连线》再次查看了我们1450字的摘录。事实核查团队在出版前已对其进行了审查，我们再次确认其引文和事实是准确的。

但《连线》的生成式人工智能编辑政策禁止发表AI生成和AI编辑的文章，一封读者邮件称摘录是“公然由AI撰写的”，这引发了人们对罗森鲍姆使用AI工具程度的进一步质疑。

在《真理的未来》的致谢部分，罗森鲍姆写道，ChatGPT、Claude、NaturalReaders、ProWritingAid和Grammarly帮助“完善和打磨了[他]想法的呈现”。这到底是什么意思？

《连线》通过多个人工智能检测服务（包括Pangram、GPTZero和ZeroGPT）运行了该摘录。

每个服务都表明它要么可能是AI生成的，要么是AI生成的且置信度很高。但AI检测工具容易出错，可能返回不准确的读数。因此，《连线》的研究主管直接给罗森鲍姆发邮件，询问他是否以及如何使用AI来撰写摘录。

他回信道：“像今天工作的许多作家一样，我在这本书的部分研究和编辑开发过程中使用了AI工具，包括来源发现、头脑风暴、结构反馈和语言精炼。”但是，他强调，“这些想法、报道、论点和最终作者身份都是我的，《连线》摘录不是由AI生成然后直接发布的。

”他敦促《连线》的编辑谨慎信任AI检测工具，并指出可能出现误报。此时，《连线》的高级编辑要求我调查此事，因为自2024年以来我一直在报道各种形式的AI垃圾内容。我的第一步是通过Pangram的检测工具运行整本书的文本。

（虽然所有AI检测工具都有局限性，可能显示误报，但Pangram是目前的金标准。）结果显示，这本书似乎有53%是AI生成的，另有9%被标记为可能是AI辅助的。我打电话给罗森鲍姆，要求他更详细地描述他如何使用AI写这本书，以及他是否质疑Pangram的结果。

（BenBella Books的出版社出版了《真理的未来》，未回复置评请求。在美国分销BenBella书籍的Simon & Schuster拒绝评论。）罗森鲍姆不愿对Pangram结果的准确性发表意见。

事实上，他根本不想谈论它们。“我不参与那种对话，”他说。“这就像问‘你打老婆吗？’这是一种无法回应的指控。”相反，他主动提出广泛解释他的编辑过程。他说，在写作过程之初，他使用AI工具作为搜索引擎，帮助他为书中研究较多的部分挖掘信息。

为了演示他如何做到这一点，他让ChatGPT描述我，然后大声朗读结果。AI搜索或多或少准确地描述了我之前的一些报道，包括关于AI生成的“僵尸媒体网站”的工作。当我要求他直接回答是否使用AI来撰写或编辑书中的任何段落时，他给出了一个迂回的回答。

“不，不是这样写的。答案是，你拿材料——例如，我刚刚得到的关于凯特的回应，如果我要写关于你的文章，我会怎么做？我会把它粘贴到Google Docs中，然后围绕它写作并稍作编辑吗？我会在引号中使用‘僵尸媒体网站’这个词吗？

也许吧。

但我不会说，‘哦太好了，这回答了我关于凯特的写作问题，我要把它放进文档并发送给出版商。’”“但你会复制粘贴它，然后编辑吗？”我问。“可能吧，”他回答。“你在这本书里这么做了吗？”“我不记得了。

你在找确凿证据，但没有。”罗森鲍姆说，那些“早上醒来想要有想法”的作家现在“生活在恐惧中，这对民主不健康。”在我能问这到底是什么意思之前，他继续说道：“今天早上我和另一位作家谈过，她一个月后就要把书交给出版商，她他妈的吓坏了。

”我问这是否因为她在写书过程中使用了AI。“当然。你用指责的语气说这话，好像她用了作弊工具。”他提到一份报告称记者中AI采用率为82%。他说《连线》的生成式AI政策是限制性的，并推测我们的作家可能秘密使用AI。

他加倍强调了自己对AI的个人承诺，指出他仍然每天使用它。“如果让我不再犯错的唯一方法就是停止使用AI，那是不现实的。如果答案是停止写作，那也并非不可能。”我问他是否宁愿停止写作也不愿在写作过程中停止使用AI。

“是的，”他回答。

罗森鲍姆在承认AI使用可能造成问题（“我不明白为什么作为作者，我的工作是要与一家价值数十亿美元的公司玩打地鼠游戏，该公司将幻觉作为商业实践注入其信息流”）和反复坚称AI不可或缺、称其为他有过的最好的写作伙伴之间摇摆不定。

他同时证明了他书中的论点——AI显然在什么是真实的、什么不是的问题上造成了裂痕——同时削弱了其可信度。当我告诉罗森鲍姆，他使用AI的方式让我怀疑这本书的准确性和整体质量时，他再次提到了关于记者接受AI的研究。

他说：“如果82%的记者每天都在使用AI，那么你所说的是，你现在对当前媒体生态系统中几乎所有内容的准确性和可靠性感到焦虑。”嗯，是的。多年来我一直在报道互联网上AI垃圾内容的兴起。它无处不在。

怀疑是理性的。但罗森鲍姆引用的公关软件公司MuckRack的研究，将AI转录和使用ChatGPT查找内容算作AI使用，这与秘密将AI生成的句子纳入草稿有本质不同。

当我向MuckRack询问其如何发现记者使用AI的更详细细分时，该公司指出，在其调查的作家中，只有四分之一使用AI工具进行写作辅助。

大多数作家并没有这样做。至少目前还没有。关于AI的适当使用，界限不断被划定、涂改和重新绘制。我使用AI工具进行转录；我也曾用Claude创建《信息自由法案》请求。一些反对AI的作家会说这些用例是错误的。

罗森鲍姆是一位连续媒体创业者。他对数字视频和用户生成内容在互联网上的重要性有先见之明。他的运作方式有朝一日可能成为常态。媒体界对人工智能的看法已经倾向于越来越接受。今年早些时候，《连线》采访了公开拥抱AI来撰写和编辑故事的科技记者。

独立记者亚历克斯·希思（Alex Heath）将他的报道笔记和其他文件交给AI代理，由AI代理生成他的初稿。一些媒体机构