AI 名词地图
名词不是散落的一堆,各自长在一次调用的某一段上。知道它在哪一段,就知道它的作用范围和它的坑。
名词之所以显得多,不是这件事本身有多复杂,而是它们各自依附在一次调用的某个段落上。沿着这四段走一遍,大部分词会自动找到自己的位置——只要判断出一个词属于哪一段,它能管到哪儿、容易在哪儿出问题,大致就清楚了。
读完你能回答:
- 一次调用分成哪四段,每个常见名词落在哪一段?
- 哪六组名词听起来像同一件事,其实差得很远?
- 会上听到一个不认识的词,问哪一句话最有用?
一次调用只有四段路
第一段,把东西装进去。模型不会自己去翻资料。这一次它该知道的东西,得由你的代码随请求一并送达:产品端的设定与规则(系统提示)、前面几轮的往来内容(历史对话)、从资料库里检索出来的相关片段(这一环就是 RAG)、以及用户刚敲下的那句话。它们装进一个容量有上限的盒子,叫上下文窗口,按 token 计量。
这一段是你能作主的一段,上面四样都是你主动放进去的。代价是窗口会满:一旦超限,内容会被截断或压缩,而丢掉的那部分它确实看不到,也不会主动告诉你。
第二段,模型开始算。它只做一件事:算出下一个 token 最可能是什么,抽一个接上,再把整段从头算一遍。这一段你能动的旋钮很少,温度是其中一个。参数量、能力上限、知道多少东西,在训练那一刻就定死了。
第三段,它把字吐出来。注意这是现场生成的,不是从哪个库里查出来的,这是它和搜索引擎最根本的区别。生成机制决定了它遇到不知道的地方,会用最像的内容补上,而且语气和真话一样,这就是幻觉。也决定了它不知道训练语料截止之后发生的事。
第四段,它想动手。能说会道还不够。你在第一段里写进一批工具的说明,它就具备了输出「该调哪个工具、参数填什么」的能力,真正执行的是你的代码;执行完的结果再回到第一段,供它继续往下算。
关键在最后这个回流:每转一圈,前三段全部重算一遍。上下文一轮比一轮长,而前面的内容每轮都要原样再发一次,也就再计一次费。Agent 又慢又贵的根源就落在这条线上;它也解释了为什么省钱的功夫全在控制上下文长度,而不在挑一个便宜模型。
同一段上的词,共用同一种性质
把常见名词按落点分堆,每堆有每堆的脾气。认准一堆的性质,等于一次记住好几个词,连它们的坑一起记住。
落在第一段的词:提示词、系统提示、上下文窗口、向量模型、RAG、上下文压缩、长期记忆。它们都由你在这一次请求里决定,所以也全是你改得动的。
这一堆最常出的错是「以为它会自己记住」。向量模型只负责把意思变成能算远近的坐标,它算的是像不像,不是对不对;上下文压缩省了钱也丢了细节,而丢掉的常常正是最早定下的约束;长期记忆是你的系统在外面替它存取,它本身没有记忆。
还有一个现象叫中段丢失:上下文长到一定程度,开头和结尾记得清楚,中间那段容易被忽略。对策也直接——要紧的指令放最前或最后,别埋在一堆资料中间。
落在第二段的词:下一个词预测、训练与推理、训练数据、参数量、温度、推理模型、开源与闭源。它们要么在训练时已经定死,要么只是这一次的旋钮。
这一堆最常出的错是「拿调参去解决能力问题」。语料里没有的东西,温度调到零也问不出来。参数量只看大小,和上下文长度毫无关系。推理模型回答前会先写一段思考,难题上更准,但那段思考也按输出计价。训练和推理还是两笔账,喂出来和用起来是两笔完全不同的账,你付的钱全在推理这一侧。
落在第三段的词:幻觉、知识截止、多模态。它们都在说同一件事:吐出来的东西靠不靠得住。这一堆没有开关可关。幻觉是机制的产物,只能在外面挡;知识截止意味着任何「最新」的信息都得由你喂进去;多模态是后来加装的能力,读图也是被切成字的,小字、表格线、精确坐标都是高发失败区。
落在第四段的词:Agent、工具调用、Agent 循环、Skill、MCP、多 Agent、提示注入、API 与网页版。它们都不是模型内部的机制,而是模型外面那一层。
这一堆的判断标准只有一条:你放了多少权限出去。工具给到哪儿,它的能力边界就到哪儿。多 Agent 更稳,代价是上下文要复制好几份。提示注入是它读到的资料里藏了一句指令、它照做了,这类漏洞靠提示词补不上,因为它分不清指令和数据。第三方的 MCP 要按开通权限来审。API 和网页版在数据留存、可控参数、计费上都不一样,谈合规先分清是哪一种。
四堆摆在一起,就是一个自查顺序:碰到不清楚的词,先别急着找定义,先问它落在哪一段。
六组听着一样的词
记住定义没什么用。真正让你在会上判断失误的是下面六组——它们听起来像同一件事,实际差得很远。而混法只有三类。
第一类,把不同的数字当成同一把尺子。
「token 不是字」。切分方式由模型按统计结果自己决定,所以字数和 token 数之间没有固定比例:同样一批文本,混着英文和代码的那部分会被切得碎一些,纯中文段落则相对整齐。
所以「这份材料三万字」换算不出可靠的花费,而计费、窗口长度、限流又都以 token 为单位。要估成本,得拿真实样本切一遍看数。
「参数量不是上下文长度」。一个说的是模型有多大,一个说的是它一次能读多少,两者毫无关系,可以一大一小任意组合,选型时最常被混着说。
第二类,把不同层次的手段当成同一层。
「微调不是喂资料」。微调改的是它怎么说话,训练要花钱、要备样本,而新的事实教不进去。
有团队把客服攒下来的话术整批拿去微调,上线后同一个问题换个说法还是答不上来,它学到的是语气和句式,不是那批话术里的知识。想让公司规章制度这类内容被它用起来,正解几乎总是 RAG:先把相关文档检索出来,再放进第一段。这一条判断错的代价最高。
「Agent 不是更聪明的模型」。Agent 是模型外面那一层,循环、工具、权限、终止条件都在这里。同一个模型,外面套的循环好就能干活,套的循环差就会绕圈子。它把同一个工具连着调三次、每次拿到一样的结果还在继续调,这不是模型笨,是循环里没写终止条件。
第三类,把互补的两件事当成同一件。
「Skill 不是 MCP」。Skill 是打包好的知识与流程,用到时才装载,治的是「每次都要从头交代一遍」;MCP 是一套接口协议,让 Agent 能连上外部系统,治的是数据库和第三方服务怎么接进来。一个装知识,一个装接口,互相替代不了。
「开源不等于免费」。对外公开的往往只是那批权重参数,训练用到的数据和代码一般不公开。你确实可以下载下来自己运行,但部署、扩容、监控,以及模型更新之后谁来跟进,全落在你身上。把总账算下来,中小规模自部署往往比调接口更贵。开源真正换来的是可控:数据不出门,模型不会被突然下架或涨价。
会上问哪一句
还有一件事得说明白:这些词的边界,业内本来就没有对齐。同是「Agent」这个词,厂商、工程师、媒体各自说的常常不是一种东西——有人把带工具的对话框就叫 Agent,也有人认定必须能跑几十轮才算。各厂商自己发布的术语表就能看出这种分歧:同一个概念,此家的划法不等于彼家的。claude-glossary
所以背定义没什么用,管用的是在会上追问一句:「你说的这个,具体指哪一步?」
逼着对方把这个词安到前面四段的某一段上。多数误会在这一个追问里就化解了:词一旦落到具体某段,它的边界、成本和风险就都能继续往下问。而要是对方也答不上来,多半说明这个词在他那里还没对应到任何具体环节——这本身也是条有用的信息。
这一章留下的判断
这一章的五篇,讲的是同一台机器的五个侧面。它只是在猜下一个字,所以它不是搜索引擎。它喂出来和用起来是两笔账,所以你能改的几乎都在调用这一侧。它读图也是被切成字的,所以精度要求高的活不能给它。而一个名字下面是六种机器,所以成本要分开算。
合起来是一句判断:它同时很强和很不可靠,这不是矛盾,是同一个机制的两面。因此你手上的工作分成两半——把它的能力用足,把它的不可靠挡在你的系统里。第一半靠选型和组织,第二半靠检索、校验和权限。
名词这一层到此为止。回头看,每个词都是在绕开同一件事:它只会往下接,而接得准不等于说得对。知道一个词在绕哪个限制,它的定义就不必背了。
下一步分两个方向。想知道一件事到底该不该交给它、交给它多少,先问这件事要不要 Agent 从复杂度阶梯的最低一级开始问起。想让它知道语料里没有的东西,先检索再回答:四步 从建库讲到拼上下文。这两条路都不在模型内部——模型层到此为止,剩下的都是系统层的事。
