AI Agent Engineering · Week 06
06-01|Context Engineering:模型这一刻到底能看到什么
把指令、当前请求、业务状态、工具证据与精选记忆组装成最小、可信、可追溯的模型输入。
系统知道,不等于模型看到了
V0.5 的数据库里有订单、退款 State、审批记录和对话历史。模型每次调用只会使用被应用放进当前请求的材料。Context Engineering 负责选择、组织、标注和压缩这些材料,让模型在这一刻看到完成当前决定所需的最小可信信息。
把所有可用数据都放入 Context 会增加成本、冲突、隐私暴露和错误关注点。缺少关键证据则会迫使模型猜测。
Context 是运行时组装结果
相关性:只服务当前决定
判断“下一步是否追问审批状态”时,需要当前退款 State 与最新审批事件,不需要客户过去两年的全部订单。判断“如何称呼客户”可能读取已确认偏好,不需要退款执行 Trace。
可信度:标明来源与时间
客户说“物流已经签收”和 Carrier Tool 返回 delivered 要标记不同来源。业务事实应带 source、updatedAt 和必要引用;模型才能在冲突时选择查询或说明不确定。
结构:把不同类型信息分区
指令、客户数据、Tool Result 和历史摘要应有清晰边界。客户消息属于数据,不能因包含“忽略规则”就变成系统指令。
Current Task
↓ derive requirements
Context Policy
↙ ↓ ↘
State Store Tool / DB Memory Store
↘ ↓ ↙
Filter → Authorize → Rank → Format
↓
Model Input + Provenance
Context Window 是容量边界,不是资料仓库
更大的窗口允许更多 Token,却不会自动判断相关性,也不提供长期保存。每一轮重新组装 Context,运行结束后由 State Store、Memory Store 和 Database 分别持久化各自数据。
缺审批状态,模型只能猜
当前 State + 必要 Tool 证据 + 最小历史
全量聊天、订单、日志互相冲突
Failure Lab
每轮重放全部聊天历史
为什么诱人: 实现简单,似乎不会遗忘。
为什么失败: 旧指令、过期事实和敏感数据反复进入模型,Token 与冲突持续增长。
更合理设计: 保存原始历史供审计,运行时只选最近必要消息与带来源摘要。
把 Tool Result 拼成一段无来源文字
为什么诱人: Prompt 更短、更像自然语言。
为什么失败: 模型无法区分客户陈述、数据库事实和系统推断,也不知道数据是否过期。
更合理设计: 保留结构、来源、更新时间和错误状态。
Context Builder 绕过权限读取更多数据
为什么诱人: “模型可能会用到”看起来是合理理由。
为什么失败: Context 聚合会变成跨租户数据泄露通道。
更合理设计: 每个来源先按可信身份授权,再做相关性选择。
实践:设计退款回复 Context
场景:客户问“昨天批准的退款为什么还没到账?”列出本轮 Instructions、Current Input、State、Tool Evidence、Memory 与 Output Contract,并写出明确不应进入 Context 的数据。
Acceptance Criteria
- ☐ 每项 Context 都能说明服务哪个当前决定。
- ☐ State、Tool Result 和客户陈述有不同来源标签。
- ☐ 过期时间与查询时间可见。
- ☐ 客户文本不能覆盖系统指令。
- ☐ 数据在选择前已经完成租户与客户授权。
- ☐ 明确排除全量聊天、其他客户数据和无关日志。
- ☐ Context 不承担持久业务存储职责。
主动回忆
- 系统拥有的数据为什么不会自动进入模型?
- Context Builder 应先做任务选择还是先读取全部数据?
- Context Window 与长期保存有什么区别?
- 来源和更新时间怎样影响模型决定?
下一课把四个经常混用的词放在同一张地图上:Context、State、Memory 和 Database 分别回答什么问题,谁拥有真相。
延伸阅读 / Sources
核查日期:2026-10-18。
- OpenAI API:Conversation state。用于核对多轮输入与服务端对话状态的当前实现。
- OpenAI Agents SDK:Sessions。用于核对 Session 历史怎样进入后续运行。
- OpenAI API:Prompt engineering。用于核对指令、Context 与示例组织原则。
长期有效的原理: 按任务选择、按身份授权、保留来源、控制容量。当前实现方式: conversation ID、session backend 与 compaction API 会变化,Context Policy 应独立于供应商 SDK。