大模型为什么能回答我们的问题？把它拆开看，其实只靠三种机制：参数、推理、联网。

前两种写在模型内部，第三种写在模型外面。合在一起，才构成今天我们看到的 AI。

一、参数机制：把知识压进权重

在宏观层面，所有大模型都是对人类知识的建模。它建立了一个数学模型，用来描述人类知识。

怎么描述？它使用一种参数机制：把知识拆成一个个「词元」（token），再计算这些词元之间的数学关系。这个过程叫训练。

这种数学关系，用无数个参数来表示。以智谱 GLM-5.3 为例，它有 7440 亿个参数（每次真正参与计算的大约是 400 亿）。这些参数用来构建词元之间的关系，也就是权重。所谓训练，其实就是找出这些权重，用来描述人类知识的构成——也就是所有词元之间的关联。

训练完成后，我们向大模型提问，它就会根据这些权重，找出最可能的下一个词元，从而生成符合概率的答案。

所以，大模型本质上是一种「压缩—生成」机制：先把人类知识抽象进无数参数里，再用这些参数把答案生成出来。

参数是有代价的。事实占空间。有研究估算，大约每两个比特的事实知识，就要消耗一个参数。如果你希望模型记住每一个维基百科小人物的出生年份、每一个城市的人口、每一个软件包里每个函数的参数顺序，你就要用权重来买单。这也是为什么前沿模型会膨胀到数千亿、甚至上万亿参数。

二、推理机制：不必把所有知识都记住

不难理解，参数越多，模型往往越好——更多参数意味着可以更精确地描述各种知识，从而更准确地还原出来。

但是，参数不可能无限增加。训练成本、使用成本会直线上升，回答问题时的运算时间也会变长。

另一方面，也没有必要把所有知识都塞进参数里。很多知识不需要记忆，完全可以通过逻辑推理得到。

举例来说，只要知道某个城市的人口出生率和死亡率，立刻就能算出人口净增长率。这不需要死记，推理就能得到。

大模型就依靠推理机制：根据参数里已经包含的知识，从逻辑规则出发，推断出那些它没有直接记住的知识。

推理比事实更好压缩。因为它不是海量的零散条目，而是一套反复使用的程序：把问题拆开、跟踪中间状态、检查自己的步骤、走不通就退回去。代数规则 1970 年和现在一样；拆解问题和发现两份材料互相矛盾，也不会过时。

这带来一个重要后果：事实会过期，程序不会。

一次前沿训练要花几个月、数亿美元，训练一结束，写进权重里的事实就开始变旧——库的 API 改了，价格变了，人换了工作。而推理程序几乎不老化。模型的「知识截止日期」因此变得不那么致命：世界的最新状态，本来就不该住在权重里。

这正是实验室正在做的取舍：把世界知识让出去，把推理能力留下来。数学和编程基准一路上涨，但让模型不靠工具去回忆冷门事实，幻觉率依然很高。这不是意外，而是设计。

三、联网机制：不知道就去查

不管模型有再多参数、再强推理，它不可能包含所有知识，总有一些问题它回答不了。

比如你问：今天股票的收盘指数是多少？它就回答不了。参数里没有这个知识，也无法靠推理凭空得到。

这时，模型就要依靠 Agent 或应用框架提供的联网机制，自动去互联网、文档库、本地文件里搜索那些它不知道的知识。

如果模型本身不知道事情，总得有别的东西知道。这个「别的东西」就是外挂：检索知识库、调用工具、网页搜索、一整份文档目录。模型贡献推理，它要推理的对象，在运行时再交给它。

写代码的 Agent 已经是这个样子。它不需要背下你依赖库的全部 API，因为它会先去代码目录里搜索，或者先读文档，再调用接口。答案对应当前安装的版本，而不是训练数据里哪个版本出现得最多。

过去，回忆是每次运算都要付的固定成本；现在，它变成了按需查找。

这也是减少幻觉的关键。事实如果写在权重里，错了就找不到、改不了。你没法在权重里搜索，也没法和上个月做对比。模型说错事实时，语气和说对时一样流畅。事实如果写在外面，错答案就有地址：模型引用了一份文档，你可以打开那份文档。文档错了，改文档即可，以后每次查询都会用到更正。带出处的断言可以核对，写在权重里的断言不行。

四、总结

正是有了以上三种机制，AI 才能正确回答我们的问题。

• 参数机制提供大模型的基本知识
• 推理机制产生通过推理得到的知识
• 联网机制用来获取前两种机制都无法得到的知识

一句话：权重负责「懂一点、能判断」；推理负责「由已知推未知」；联网负责「此刻世界上到底是什么」。三者缺一，AI 就会在某一类问题上露怯。

参考：Models Are Getting Dumber on Purpose