AI Agent 工程 · 01
01.2 Prompt、Token 和 Context
把模型输入看成有限的工作台:给足任务所需事实,同时避免把无关历史和敏感数据塞进去。
知识定位
本节是 Context Engineering(上下文工程)的前置概念。先理解输入空间有限,才能在之后设计记忆、检索和状态。
一句话定义
**提示词(Prompt)**是给模型的任务说明;**Token(词元)**是模型处理文本的计量单位,不等于一个汉字或英文单词;**上下文(Context)**是当前调用中模型可见的全部信息。
核心原理
模型不会永久记得上一轮对话。每次调用,应用选择哪些系统规则、历史消息、工具结果和知识片段重新放入上下文。上下文有容量与成本限制,也会让模型更容易被无关内容干扰。因此“更多”不等于“更好”。
对客服来说,好的上下文可包含:当前用户的授权状态、这笔订单的必要字段、与问题相关的政策段落、明确的回复格式。它不应包含其他客户订单、整本手册或未经筛选的内部备注。
知识连接
Prompt 说明“怎么做”,Tool 说明“能做什么”,Context 提供“现在知道什么”。三者共同决定本次模型调用,但最终权限仍由后端执行。
实践任务
输入:客户问“我的退款为什么没到?”执行:分别写出“必须放进上下文”“应通过工具获取”“绝不能放进上下文”的信息。预期输出:三组清单。验收标准:清单不含完整支付卡号、其他客户数据或猜测的政策。
主动回忆
当客服连续聊了 50 轮时,为什么不能机械地把全部历史消息都再发给模型?
纸质笔记
- 必须记:Context 是每次调用可见的信息,不是永久记忆。
- 建议记:最小必要上下文原则。
- 不用记:不同模型精确的 token 上限,它会变化。