AI Agent Engineering · Week 06
06-03|Short-term Memory 与 Long-term Memory
从作用域、生命周期、写入策略和遗忘机制设计短期会话记忆与长期客户偏好记忆。
“记住”必须说明范围和期限
客户在当前工单里补充订单号,这项信息需要在后续几轮继续使用;客户长期偏好西班牙语,可能在未来新工单中复用。两者都常被称为 Memory,但作用域、写入条件和删除规则不同。
Short-term Memory:当前会话或任务的工作记忆
Short-term Memory 服务正在进行的会话或任务,常包含最近必要消息、阶段摘要、已收集参数和 Tool Result 引用。它帮助下一轮避免重复追问,但不应无限保存全部原始历史。
Long-term Memory:跨任务复用的精选信息
Long-term Memory 只保存未来任务确实有用、允许持久化并能被更正的信息。语言偏好可以成为候选;“客户今天很生气”通常只与当前工单有关;订单状态属于 Database,不应变成长期记忆。
作用域:当前 conversation / ticket
例:本轮 orderId、最近摘要、未解决问题
结束、压缩或 TTL 后清理。作用域:明确客户与用途
例:已确认语言与联系渠道偏好
需要写入理由、来源、更新时间和删除机制。Memory Write Policy
模型可以提出候选记忆,应用必须决定是否写入。至少检查:这条信息是否明确、是否可能变化、是否敏感、用户是否允许保存、未来场景是否真的需要、什么时候过期。
Candidate Memory
↓
Confirmed? → Useful later? → Allowed to retain?
↓ YES
Scope + Source + TTL + Sensitivity
↓
Persist / Update / Reject
读取时同样需要策略
Memory Retrieval 应按当前客户、租户、任务和时间筛选。即使偏好合法保存,也不必每轮全部注入。当前消息明确要求英文时,本轮可覆盖长期西班牙语偏好;是否更新长期记录需要进一步确认。
压缩、过期与遗忘
Short-term Memory 可以把多轮对话压缩成带引用摘要,并保留关键原始消息。Long-term Memory 需要 TTL 或复核时间,用户更正时保留必要变更记录。删除请求必须真正作用于底层存储和派生索引。
Conversation Evidence → Candidate → Policy Check → Scoped Memory
↓ ↓
short-term summary review / expire / correct / delete
Failure Lab
每轮结束自动总结成长期 Memory
为什么诱人: 自动化程度高,Agent 看起来越来越懂客户。
为什么失败: 模型推断、临时情绪和错误事实会被永久化,还可能违反数据最小化。
更合理设计: 只生成候选;写入策略和必要确认决定是否保存。
只保留摘要,删除全部原始依据
为什么诱人: 节省存储和 Token。
为什么失败: 摘要可能遗漏限定条件,后续无法核查来源或纠错。
更合理设计: 摘要保存证据引用;按合规策略保留必要原文并控制访问。
Memory 命中后不再查询 Database
为什么诱人: 响应更快、调用更少。
为什么失败: Memory 里的业务事实会过期,可能导致错误订单或退款回复。
更合理设计: Memory 用于偏好和连续性;动态事实仍通过 Tool 查询。
实践:制定客服 Memory Policy
为语言偏好、联系渠道、订单号、退款状态、投诉情绪、地址和支付信息分别决定:不保存、短期保存或长期保存。写明作用域、来源、TTL、敏感级别、更正与删除方式。
Acceptance Criteria
- ☐ Short-term 与 Long-term 按作用域和用途区分。
- ☐ 全量聊天历史没有被直接称为 Memory 方案。
- ☐ 长期写入经过确认、必要性与敏感性检查。
- ☐ 每条 Memory 有 source、updatedAt、scope 和 TTL / reviewAt。
- ☐ 当前指令与长期偏好冲突时有明确规则。
- ☐ 动态订单事实仍通过 Database / Tool 查询。
- ☐ 更正、过期和删除流程可执行。
主动回忆
- Short-term Memory 与 Context 有什么关系?
- 哪些信息不应自动进入 Long-term Memory?
- 为什么摘要需要证据引用?
- Memory 命中后哪些事实仍要重新查询?
下一课把 Context Builder、短期会话、长期偏好、Workflow State 与业务 Tool 合在一起,完成可跨轮继续服务的 V0.6。
延伸阅读 / Sources
核查日期:2026-10-18。
- OpenAI Agents SDK:Sessions。用于核对当前 SDK 的会话历史保存与恢复。
- OpenAI Agents SDK:Agent memory。用于核对跨运行 Memory 与 Session history 的区别。
- NIST Privacy Framework。用于核对数据处理、治理和风险管理原则。
长期有效的原理: Memory 需要选择、作用域、来源和遗忘。当前实现方式: Session backend、向量索引和 SDK Memory API 会变化,治理字段与业务规则应独立保存。