模型、Agent、应用的分层

一张图分清三层。分不清就会把产品问题当成模型问题。

「这是 AI 的问题」——你几乎每天都会听到这句话。但大多数时候它都不对，因为**「AI」不是一个东西，是三层叠在一起的东西。**把三层分开看，才能知道「不好用」到底坏在哪一层。llm-wiki

你会遇到的现象：

三层分别是什么

**模型。**最底下一层。它只做一件事：根据输入预测下一个 Token。它不干活、不联网、不记得你、不会自己决定下一步做什么。它只是一个能力，一个「文字进、文字出」的引擎。

**Agent。**中间这层。它围着模型搭了一圈东西，让模型能动起来：给它工具，让它在一个循环里反复「想 → 做 → 看结果 → 再想」；给它记忆、Skill、权限边界。模型是引擎，Agent 是驾驶舱。agent-wiki

**应用。**用户看到的那层。界面、流程、权限、数据、运营、文案——用户所有体验都在这层。客服机器人、写文案工具、知识库问答，这些叫「应用」。用户根本看不见下面两层，他只看见这层。

一句话记住三层的关系：**模型出文字，Agent 出行动，应用出产品。**三层都动了，用户才觉得「好用」；少一层，产品就动不起来。反过来也一样：哪一层出了问题，就从哪一层修起，别一上来就换模型。

分层最大的价值，是让问题归位。而现实中最多发生的，是把应用层和 Agent 层的问题，全算到模型头上。

**错位一：「换个更强的模型就解决了」。**客服机器人答得不对，先看是不是你的知识库没喂对、提示词没写清、流程漏了环节。这些问题换更强的模型，往往一个都解决不了——模型变强了，但它手上还是那份错材料。

**错位二：「AI 会自己把事情办完」。**模型不会主动干活，Agent 也不会自动存在。让人「看起来像自动完成」的，是应用层里写死的编排、兜底、重试、超时处理。这些代码是你写的，不是 AI 的功劳，出了问题当然也不是 AI 的锅。

**错位三：「这是模型幻觉」。**输出不对，先确认到底是不是模型编造，还是你的数据源、切分、检索先出错了。知识库答错，多数情况根本轮不到模型那一步。

拿到任何「AI 不好用」的反馈，按这个顺序归位，三秒钟。

**第一问：流程有没有 bug？**工具没被调用、上下文没传对、权限拦错了——这些是应用层和 Agent 层的工程问题，和模型无关。

**第二问：它手上的材料对不对？**检索召回对不对、提示词清不清楚、记忆注入全不全——还是工程问题。

**第三问：材料都对，输出还不像样？**这——才轮到模型。此时才考虑换模型、调参数、或者微调。

这个顺序的价值在于：**前三问的修复，比换模型便宜得多，也快得多。**而且大多数「AI 不好用」，答案都在前三问里——换模型是最贵也最少见的那一步。

记住那条底线：**模型只背「材料都对还答不好」这最后一口锅。**在此之前，先把你自己那几层收拾干净。