跳到主要内容
← 返回AI Agent Engineering|12 周从 Demo 到真实 Agent 系统

AI Agent Engineering · Week 06

06-01|Context Engineering:模型这一刻到底能看到什么

把指令、当前请求、业务状态、工具证据与精选记忆组装成最小、可信、可追溯的模型输入。

Context Engineering · Context Window · Data Boundary

系统知道,不等于模型看到了

V0.5 的数据库里有订单、退款 State、审批记录和对话历史。模型每次调用只会使用被应用放进当前请求的材料。Context Engineering 负责选择、组织、标注和压缩这些材料,让模型在这一刻看到完成当前决定所需的最小可信信息。

把所有可用数据都放入 Context 会增加成本、冲突、隐私暴露和错误关注点。缺少关键证据则会迫使模型猜测。

Context 是运行时组装结果

Instructions本轮目标、允许动作、禁止事项
Current Input客户最新消息与可信身份引用
Workflow StaterefundId、status、version、可用事件
Tool Evidence经过校验的订单 / 物流最小事实
Selected Memory与当前服务直接相关且允许保留的信息
Output Contract需要返回的结构与失败状态
图 1|Context Builder 从不同真源取材,模型不直接拥有这些存储。

相关性:只服务当前决定

判断“下一步是否追问审批状态”时,需要当前退款 State 与最新审批事件,不需要客户过去两年的全部订单。判断“如何称呼客户”可能读取已确认偏好,不需要退款执行 Trace。

可信度:标明来源与时间

客户说“物流已经签收”和 Carrier Tool 返回 delivered 要标记不同来源。业务事实应带 source、updatedAt 和必要引用;模型才能在冲突时选择查询或说明不确定。

结构:把不同类型信息分区

指令、客户数据、Tool Result 和历史摘要应有清晰边界。客户消息属于数据,不能因包含“忽略规则”就变成系统指令。

Current Task
↓ derive requirements
Context Policy
↙    ↓    ↘
State Store Tool / DB Memory Store
↘    ↓    ↙
Filter → Authorize → Rank → Format
↓
Model Input + Provenance

图 2|先判断任务需要什么,再授权和选择;“能读取”不代表“应该放入 Context”。

Context Window 是容量边界,不是资料仓库

更大的窗口允许更多 Token,却不会自动判断相关性,也不提供长期保存。每一轮重新组装 Context,运行结束后由 State Store、Memory Store 和 Database 分别持久化各自数据。

Too Little

缺审批状态,模型只能猜

Task-fit

当前 State + 必要 Tool 证据 + 最小历史

Too Much

全量聊天、订单、日志互相冲突

图 3|Context 质量取决于任务匹配、来源和边界,不取决于填满窗口。

Failure Lab

每轮重放全部聊天历史

为什么诱人: 实现简单,似乎不会遗忘。

为什么失败: 旧指令、过期事实和敏感数据反复进入模型,Token 与冲突持续增长。

更合理设计: 保存原始历史供审计,运行时只选最近必要消息与带来源摘要。

把 Tool Result 拼成一段无来源文字

为什么诱人: Prompt 更短、更像自然语言。

为什么失败: 模型无法区分客户陈述、数据库事实和系统推断,也不知道数据是否过期。

更合理设计: 保留结构、来源、更新时间和错误状态。

Context Builder 绕过权限读取更多数据

为什么诱人: “模型可能会用到”看起来是合理理由。

为什么失败: Context 聚合会变成跨租户数据泄露通道。

更合理设计: 每个来源先按可信身份授权,再做相关性选择。

实践:设计退款回复 Context

场景:客户问“昨天批准的退款为什么还没到账?”列出本轮 Instructions、Current Input、State、Tool Evidence、Memory 与 Output Contract,并写出明确不应进入 Context 的数据。

Acceptance Criteria

  • ☐ 每项 Context 都能说明服务哪个当前决定。
  • ☐ State、Tool Result 和客户陈述有不同来源标签。
  • ☐ 过期时间与查询时间可见。
  • ☐ 客户文本不能覆盖系统指令。
  • ☐ 数据在选择前已经完成租户与客户授权。
  • ☐ 明确排除全量聊天、其他客户数据和无关日志。
  • ☐ Context 不承担持久业务存储职责。

主动回忆

  1. 系统拥有的数据为什么不会自动进入模型?
  2. Context Builder 应先做任务选择还是先读取全部数据?
  3. Context Window 与长期保存有什么区别?
  4. 来源和更新时间怎样影响模型决定?

下一课把四个经常混用的词放在同一张地图上:Context、State、Memory 和 Database 分别回答什么问题,谁拥有真相。

延伸阅读 / Sources

核查日期:2026-10-18。

长期有效的原理: 按任务选择、按身份授权、保留来源、控制容量。当前实现方式: conversation ID、session backend 与 compaction API 会变化,Context Policy 应独立于供应商 SDK。