AI并非更会思考，而是拥有更大的工作记忆

AI并非比数学家更会思考，而是拥有更强的记忆。其关键优势可能不在于卓越的推理能力，而在于几乎无限的符号工作记忆。当AI系统解决一个困难的数学问题时，通常的解释是它变得更聪明了。

也许它吸收了数百万个数学例子，也许强化学习教会了它更好的推理策略，也许它开始发展出类似真正数学直觉的东西。所有这些解释都可能包含部分真理，但它们忽略了一个更简单的可能性：AI能访问比人脑大得多的工作记忆。

更准确地说，它能访问一个巨大的外部符号工作空间，执行人类工作记忆的许多功能。这种差异在数学中可能尤为重要。人类数学家只能同时记住少量不熟悉的元素，而AI模型可以将整个问题陈述、数百个中间方程、几种已放弃的方法、定义、约束和早期结论都保留在上下文窗口中。

我们通常将由此产生的表现解释为卓越推理的证据，但其中一部分可能反映了人类推理中最重要的生物学限制之一的消除：我们极其有限的工作记忆容量。

数学受记忆限制。工作记忆是让我们在短时间内保持和操作信息的心理系统。解方程时，你必须记住每个变量代表什么、已执行了哪些操作以及当前目标是什么。在证明过程中，你可能需要跟踪假设、中间引理、例外情况和多种可能情形。

人类的工作记忆非常有限，其确切容量取决于任务和信息组织方式，但日常经验已能明显看出这种限制。试着心算两个三位数相乘，底层操作很简单，困难主要来自在额外计算的同时必须保留部分结果。把数字写下来就改变了问题。

纸不会让你更聪明，但它扩展了你的有效工作记忆。同样的原则适用于更高层次的数学。数学家使用符号、草稿纸、图表和先前写下的引理，不仅是为了传达解决方案，更是为了让推理在认知上成为可能。

专家通过“分块”来弥补：新手看到一长串符号，专家则识别出熟悉的结构并将其视为一个概念对象，这使得更多信息能装进相同的生物工作记忆限制内。但分块并不能消除限制，它只是压缩信息。AI模型面临的约束则截然不同。

工作记忆预测数学表现，超越智商。工作记忆对数学的重要性不仅是理论上的，在人类个体差异中也可见。工作记忆与一般智力密切相关，这引发了一个问题：它是否能独立预测数学表现，还是仅仅是智商的另一个不完美度量？

几项研究表明，它的贡献超出了传统智力测量。例如，Alloway和Passolunghi（2011）研究了儿童的工作记忆、言语能力和数学技能，发现工作记忆测量对数学表现有独特贡献，而非简单重现数学与一般言语能力之间的关联。

在另一项为期六年的纵向研究中，Alloway和Alloway（2010）在儿童五岁时进行测量，并在六年后考察其学业成就。即使将智商纳入分析，早期工作记忆表现仍能预测后来的读写和算术能力。事实上，工作记忆对后来学业成果的预测力比研究中使用的智商测量更强。

Blankenship及其同事（2015）同样报告，在统计控制智商和年龄后，工作记忆解释了数学流畅性和计算的独特变异。

Friso-van den Bos及其同事（2013）的一项大型元分析也发现，在小学研究中，工作记忆与数学之间存在一致关系，尽管关系强度因所测工作记忆和数学任务类型而异。这些发现不应被夸大。工作记忆与智力重叠很大，统计控制无法完美地将它们隔离为独立的心理机制。

证据也不意味着商业训练工作记忆必然能大幅提升智力或数学能力。然而，较窄的结论仍然重要：在测量智力相似的儿童中，保持、更新和操作信息的能力差异仍能预测数学表现差异。这为理解AI提供了关键线索。

如果人类数学表现部分受工作记忆瓶颈限制，那么给机器一个巨大的符号工作空间就改变了竞争的性质。机器在数学上可能显得更聪明，部分原因是它受抑制人类表现的认知限制的约束小得多。上下文窗口是一个巨大的笔记本。

现代语言模型可以同时处理大量token序列，该序列可能包含原始问题、定义、示例、中间计算和模型自身的早期推理。

上下文窗口与人类工作记忆并不相同。它更应被理解为一个巨大的外部笔记本，结合了一个不完善的搜索和使用其中内容的系统。这一区别很重要。人类拥有一种主动的内部记忆形式，我们可以默默选择一个数字、记住它、转换它并用新值替换，而无需说或写任何东西。

标准语言模型在维持这种私密的、持续更新的心理状态方面要弱得多。它们最稳定的记忆形式通常是已生成的token序列。如果模型写下：x=6，后来又写下：x+3=9，这些语句仍保留在上下文中，模型在生成下一步时可以再次关注它们。

因此，它的推理往往是外部化的。文本不仅是已完成思维过程的报告，文本本身就是推理发生机制的一部分。人类使用草稿纸时也会做类似的事，主要区别在于规模。未经辅助的人类可能难以同时保持五个不熟悉的条件，而AI可以以显式形式保存数十或数百个。

这并不意味着长上下文中的每个项目都能被完美检索，模型可能忽略相关信息、分心或丢失细节。宣传的上下文长度并不等于完全可用的记忆。然而，潜在容量的差异是巨大的。

为什么这对数学尤其重要。上下文窗口优势并非在所有推理中都同样有用，它对数学尤其重要，因为数学推理可以异常良好地转化为显式符号。数学问题的几乎每个相关元素都可以写下来：假设、定义、已知方程、当前目标、已证明的结果、已排除的情形、每一步有效的条件。

一旦写下，这些信息就保持稳定。如果(x)在证明开始时被定义为整数，那么它在整个证明中始终是整数，直到……