这一课解决一个很具体的问题：评审会上工程师说”上下文不够、要上 RAG、温度调低点”，你能不能在三秒内明白他在说什么层面的事，并判断这话说得对不对。学完这课，你手里会有一张按”模型层、生成控制层、工程层、训练层”组织的概念地图，二十多个高频术语，每个都是白话定义加一句产品经理视角的用法。
术语这件事的麻烦不在于难，而在于乱。AI 行业的术语通胀已经严重到开发者自己都喊学不动，新词一层叠一层，很多词还长得像但说的完全不是一回事。产品经理不需要把每个词学到能写论文，但需要知道每个词挂在系统的哪一层——层对了，讨论才不会鸡同鸭讲。
这是《AI 产品经理课》的第 12 课，也是收尾的一课。前面 11 课把 Token、提示词、Agent、工作流、RAG、Function Calling、MCP、微调都单独讲过，这一课把它们钉到同一张地图上。如果你是从这篇进来的新读者，可以把它当索引用，哪个词不熟就回对应课程补，更多同主题内容在 AI 产品经理专题里。
为什么按四层组织, 而不是按字母表
字母表排序的术语表只能查，不能用。你查完 RAG 还是不知道它和 Embedding 什么关系，和微调怎么选。
这张地图按系统层次切四刀：
- 模型层：模型出厂时自带什么能力，决定”能干什么”。
- 生成控制层：每次调用时你能拧哪些旋钮，决定”这次输出长什么样”。
- 工程层：围绕模型搭的外围系统，决定”产品怎么搭出来”。
- 训练层：模型怎么被造出来、怎么被改，决定”要不要动模型本身”。
一个判断技巧先给你：工程师提的任何方案，先问自己”这是在动哪一层”。改提示词是生成控制层，加知识库是工程层，微调是训练层。层越往下，成本越高、周期越长、越难回滚。很多需求争议本质上是”用哪一层的手段解决问题”的争议。
模型层: 模型出厂自带的能力边界
参数量
白话：参数是模型内部的”旋钮”数量，训练过程就是把这亿万个旋钮拧到合适的位置。参数量越大，模型一般越”聪明”，但推理成本和延迟也越高。
PM 视角：参数量是成本和能力的粗略代理指标，但不是唯一指标——小模型在特定任务上经过训练也能打，选型时看任务表现而不是只看大小。各家模型在不同任务上的实际差异，可以看大模型对比专题里的实测。
Token
白话：模型处理文本的最小单位，不是字也不是词，是介于两者之间的”碎片”。中文一个字通常对应一到两个 token，英文一个单词可能是一个或几个 token。
PM 视角：计费按 token、限长按 token、截断也按 token。做成本测算时永远用 token 口径，不要用字数口径，两者的换算比例还因语言和模型而异。第 01 课把这件事讲得更细。
上下文窗口
白话：模型单次调用能”看见”的内容总量上限，包括你发的所有内容和它回的所有内容。窗口外的东西，模型完全不知道。
PM 视角：上下文窗口是工作台面积，不是仓库。台面再大，东西也是这次用完就收走。所有”AI 怎么又忘了”的用户投诉，八成源于团队把窗口当成了记忆——后面误用澄清一节专门讲这个坑。
多模态
白话：模型除了文字，还能处理图片、音频、视频等其他形式的输入或输出。主流旗舰模型现在普遍支持图文混合输入。
PM 视角：多模态打开的是”输入形态”的产品空间——拍照报销、截图提 bug、语音转工单。评估时要分清”能看图”和”看得准”是两回事，OCR 密集或图表推理场景务必先跑评测再承诺。
推理模型
白话：一类在回答前先进行长链条”思考”的模型，用更多的计算时间换更高的答案质量，擅长数学、代码、多步规划类任务。
PM 视角：推理模型贵且慢，适合低频高价值的场景（方案生成、代码审查），不适合高频轻量场景（闲聊、改写）。产品里最常见的错误是全场景无脑上推理模型，账单先爆。
生成控制层: 每次调用能拧的旋钮
采样
白话：模型每一步都在一堆候选词里”抽签”决定下一个词输出什么，这个抽签过程叫采样。它是”同一个问题两次答案不一样”的根源。
PM 视角：随机性是特性不是 bug。创意场景要它，事实场景防它。写 PRD 时对”输出稳定性”的要求，落地就是对采样参数的要求。
温度
白话：控制抽签”胆子多大”的旋钮。温度低，模型倾向选最稳妥的词，输出保守且稳定；温度高，冷门词也有机会被选中，输出更多样也更容易跑飞。
PM 视角：客服、审核、结构化输出场景把温度压低；起名、文案、头脑风暴场景适当调高。跟工程师讨论”输出不稳定”时，先问温度设的多少，这是最便宜的一个排查点。
top_p
白话：另一种控制抽签范围的方式——只允许从概率靠前、累计占比达到某个阈值的候选词里选。和温度是两个旋钮，通常调一个就够。
PM 视角：你不需要会调它，但要知道它存在，这样当工程师说”我们调了采样参数”时，你知道这属于便宜、快速、可回滚的那类改动。
幻觉
白话：模型一本正经地编造事实。根源在于它是概率续写机器，只保证”像人话”，不自带事实校验层——说得流利和说得对，在模型内部是同一种能力。
PM 视角：幻觉不能根治，只能工程化围堵：接 RAG 提供依据、要求输出引用来源、关键字段走规则校验。有趣的是幻觉也能变成产品特性，站内有一篇用幻觉做长文本创作变奏的案例，方向对了缺陷就是能力。
系统提示词
白话：开发者预埋在对话最前面的”出厂设定”，规定模型的角色、口径、边界，用户看不见但每次调用都生效。
PM 视角：系统提示词是产品资产，要版本化管理，不能散落在工程师的代码注释里。同时它也是攻击面——提示词层面绕过模型安全限制的实战案例已经不少见，做 C 端产品要把”提示词被套出来、被绕过去”列进风险清单。写好提示词的方法在第 02 课和第 03 课。
工程层: 围绕模型搭起来的系统
这一层的术语最多，也最值钱——产品的差异化基本都发生在这一层。模型大家都能调 API，工程层的设计才是你自己的。
Embedding
白话：把一段文字变成一串数字（向量），让”语义相近”变成”数字上距离近”。这是让机器做语义比较的基础操作。
PM 视角：所有”语义搜索””相似推荐””找相关内容”功能的地基。你不需要懂向量数学，但要知道语义匹配的质量上限由 Embedding 模型决定，这一环选差了后面全白搭。
向量库
白话：专门存储和检索向量的数据库。你给它一个查询向量，它快速找出库里距离最近的那批内容。
PM 视角：知识库产品的核心基础设施之一，但不是唯一选项——关键词检索在不少场景下依然更准，工程界一直有混合检索的讨论。评估方案时问一句”为什么用向量而不是关键词”，能过滤掉不少跟风设计。
RAG
白话：检索增强生成。用户提问时，先从知识库里检索相关资料，把资料和问题一起塞给模型，让它”看着资料回答”。相当于开卷考试。
PM 视角：解决知识时效、私有知识、控幻觉三大问题的主流方案，运营成本大头在数据侧（清洗、更新、权限）而不是模型侧。要不要在 RAG 之上叠知识图谱之类的重结构，站内有一篇知识图谱在 RAG 与 Agent 里到底是刚需还是噱头的辨析值得一读。系统性入门看第 07 课和第 08 课。
Function Calling
白话：让模型输出”我想调用某个工具、参数是什么”的结构化意图，由你的系统真正去执行，再把结果喂回给模型。注意：模型从头到尾没有执行任何东西，它只是填表。
PM 视角：这是模型从”会说”到”会做”的桥梁。产品的工具清单就是能力清单，每加一个工具都要过权限和审计这道门。第 09 课有完整的时序拆解。
MCP
白话：一个开放协议，统一了”AI 应用怎么连接外部工具和数据”的接口标准，常被比作 AI 应用的 USB-C。工具方按协议包一次，所有支持 MCP 的 AI 入口都能用。
PM 视角：对平台方是生态入口，对服务方是分发渠道——把自家服务包成 MCP server，等于拿到进入各个 AI 入口的门票。但第三方 server 也是供应链风险入口，接入要做权限最小化。第 10 课专门讲它和 Function Calling 的互补关系。
Agent
白话：智能体。给模型一个目标、一套工具和一个”思考—行动—观察”的循环，让它自己决定下一步做什么，直到完成任务。和单轮问答的区别在于”有目标、会自主推进”。
PM 视角：Agent 的能力上限取决于工具和反馈回路，不取决于话术。它适合路径不确定的探索型任务；路径确定的任务用工作流更稳。想看真实产品里 Agent 长什么样，AI Agent 专题里有大量案例，编程类的可以看 Claude Code 和 Codex 两个专题——编程智能体是目前落地最深的 Agent 形态。
工作流
白话：把大任务拆成固定节点串成的生产线，每个节点做一件事，顺序和分支由人预先设计好。模型在节点里干活，但不掌握流程控制权。
PM 视角：工作流是把 AI 能力产品化的第一形态——可测试、可审计、可回滚。它和 Agent 是一条光谱的两端而不是二选一，什么时候用流程、什么时候放权，第 05 课和第 06 课讲透了这笔账。
训练层: 模型怎么被造出来和改出来
这一层离产品经理最远，但报价单上最贵的词都在这层，值得认识一遍。
预训练
白话：用海量语料从零训练模型，让它学会语言规律和世界知识。这是最烧钱的阶段，只有基座模型厂商玩得起。
PM 视角：预训练决定了模型的知识截止日期——这之后发生的事它一概不知，所以才需要 RAG 和联网搜索来补时效。
SFT
白话：监督微调。用人工写好的”问题—标准答案”示范数据继续训练模型，教会它按人类期望的方式回答问题。预训练教会说话，SFT 教会好好说话。
PM 视角：报价单上出现 SFT 时，追问数据从哪来——高质量示范数据的成本通常远高于训练本身的算力成本。
RLHF
白话：基于人类反馈的强化学习。让人对模型的多个回答排序打分，用这些偏好信号训练模型”揣摩人类喜好”。这是模型显得礼貌、对齐、有分寸的主要来源。
PM 视角：你产品里的点赞点踩数据就是这类偏好信号的原料，从第一天就把反馈埋点设计好，这是能持续升值的数据资产。
蒸馏
白话：用大模型当老师、小模型当学生，让小模型学着模仿大模型的输出，从而以小得多的体积逼近特定任务上的表现。
PM 视角：降本的常规手段——线上先用大模型跑通业务，攒下的输入输出数据正好用来蒸馏一个便宜的小模型替换高频场景。
量化
白话：把模型参数的数字精度压低（好比把高清照片存成压缩图），换取更小的显存占用和更快的推理速度，代价是精度轻微受损。
PM 视角：涉及私有化部署、端侧部署时一定会遇到这个词。关注点只有一个：量化后在你的业务评测集上掉了多少分，掉多少可接受。
微调
白话：在现成模型的基础上用自己的数据继续训练，改变模型权重。和改提示词、加 RAG 的本质区别是：前两者是”递小抄”，微调是”动脑子”。
PM 视角：微调是最后手段，不是首选手段。决策顺序永远是 prompt、few-shot、RAG、Function Calling 都试过之后再考虑微调，而且微调是资产也是负债——基座模型一升级就可能要重训。什么时候该微调、什么时候千万别微调，第 11 课有决策清单。
高频误用澄清: 四个最容易翻车的等号
下面四个”等号”在评审会上出现频率极高，每个都值得单独掰开。
token 不等于字
“这个模型支持十万 token”不等于”能读十万字”。中文一个字通常对应一到两个 token，英文、代码、表情符号的换算比例又各不相同。做容量规划和成本测算时，把”字数”和”token 数”混着用，误差可能大到直接推翻结论。正确做法：一切以 tokenizer 实测为准，不要口算。
上下文不等于记忆
上下文窗口是”这次对话的工作台”，对话结束就清空，模型不会记得任何用户。市面上产品的”记忆”功能，全部是工程层实现的：把用户历史信息存在外部数据库里，每次对话时挑选相关部分塞回上下文。想看这种机制的具体实现，可以参考对 Claude 记忆机制的后台交互拆解。PM 的坑在于：把”记忆”写进 PRD 却没人评估外部存储的检索质量，上线后用户发现 AI”记性时好时坏”，根因全在检索而不在模型。
微调不等于喂知识
“把公司文档微调进模型”是最贵且效果最差的知识注入方式。微调擅长改变行为模式（语气、格式、领域黑话），不擅长精确记住事实——微调过的模型照样会把你的产品参数编错。知识注入用 RAG，行为调整才考虑微调。评审会上听到”微调解决知识问题”，直接追问一句”为什么不用 RAG”，大部分时候对面会改口。
多模态不等于多语言
多模态说的是输入输出的”形式”（文字、图片、音频），多语言说的是”语种”（中文、英文、日文）。两个词只有一字之差，指的能力毫不相干。一个多模态模型可能中文很差，一个多语言模型可能完全看不了图。写需求文档时用错这两个词，工程师会按字面意思评估出完全跑偏的方案。
怎么用这张概念地图
三个具体用法：
开评审会前过一遍。 把会上要讨论的方案先在四层地图上定位：动的是哪一层？这一层的改动成本和回滚难度是什么量级？术语对齐能省一半会议时间，剩下的时间才能用来吵真正值得吵的事。
当技术方案的翻译器。 供应商或工程团队给的方案书，把里面的术语逐个映射到四层。凡是映射不上去的词，当场问清楚——要么是新概念值得学，要么是包装出来的黑话。行业里专门收黑话和生僻术语的词典项目都出现了，可见这个问题多普遍。
当学习路线的进度条。 哪一层的术语你解释不出白话版，就回哪一课补：模型层回第 01 课，生成控制层回第 02 课，工程层回第 04 到 10 课，训练层回第 11 课。
术语会持续通胀，但四层框架是稳的——新词出来，先问它挂在哪一层，老地图就能消化新地名。
相关阅读
- 大模型、Agent 与 MCP 等核心术语的扫盲式梳理
- AI 领域核心概念与技术名词的体系化整理
- AI 开发的术语通胀现象：从 MCP 到 Agent 开发者直呼学不动
- Vibe Coding 概念走红，小团队面临 AI 协作开发新挑战
FAQ
这二十多个术语需要背下来吗？
不需要背，需要能定位。看到一个术语能说出它属于四层里的哪一层、解决什么问题，就够用了。真正值得花力气记住的是四个误用澄清，因为那四个坑会直接写进错误的 PRD 里。
产品经理要懂到什么程度，需要学算法吗？
不需要。这个系列的目标从来不是让你上生产线，而是让你能验证别人说的对不对：工程师说”必须微调”，你能问出”为什么 RAG 不行”；供应商说”我们的 Agent 很智能”，你能问出”工具清单和失败兜底是什么”。判断力比实现力值钱。
新术语层出不穷，这张地图会不会很快过期？
单个术语会过时，四层框架不会。模型层、生成控制层、工程层、训练层对应的是”能力从哪来、输出怎么控、系统怎么搭、模型怎么改”四个恒定问题。新词出现时先归层再理解，学习成本会低很多。
会上和工程师对术语理解不一致怎么办？
当场对齐，别含糊过去。最有效的句式是”你说的 X 是指哪一层的事”——大部分术语分歧其实是层次分歧。如果对齐不了，把双方的定义都写进会议纪要，比带着歧义往下推进便宜得多。
结语
术语不是门槛，是坐标。四层地图在手，新词老词都有地方安放，评审会上你就不再是听众，而是能定位问题的那个人。整个系列到这里收官，欢迎回到路线图检查你的学习进度。
