跳到主要内容
← 返回AI Agent Engineering|12 周从 Demo 到真实 Agent 系统

AI Agent Engineering · Week 06

06-03|Short-term Memory 与 Long-term Memory

从作用域、生命周期、写入策略和遗忘机制设计短期会话记忆与长期客户偏好记忆。

Short-term Memory · Long-term Memory · Privacy

“记住”必须说明范围和期限

客户在当前工单里补充订单号,这项信息需要在后续几轮继续使用;客户长期偏好西班牙语,可能在未来新工单中复用。两者都常被称为 Memory,但作用域、写入条件和删除规则不同。

Short-term Memory:当前会话或任务的工作记忆

Short-term Memory 服务正在进行的会话或任务,常包含最近必要消息、阶段摘要、已收集参数和 Tool Result 引用。它帮助下一轮避免重复追问,但不应无限保存全部原始历史。

Long-term Memory:跨任务复用的精选信息

Long-term Memory 只保存未来任务确实有用、允许持久化并能被更正的信息。语言偏好可以成为候选;“客户今天很生气”通常只与当前工单有关;订单状态属于 Database,不应变成长期记忆。

Short-term

作用域:当前 conversation / ticket

例:本轮 orderId、最近摘要、未解决问题

结束、压缩或 TTL 后清理。
Long-term

作用域:明确客户与用途

例:已确认语言与联系渠道偏好

需要写入理由、来源、更新时间和删除机制。
图 1|时长只是表面差异;真正的边界是作用域、用途与治理方式。

Memory Write Policy

模型可以提出候选记忆,应用必须决定是否写入。至少检查:这条信息是否明确、是否可能变化、是否敏感、用户是否允许保存、未来场景是否真的需要、什么时候过期。

Candidate Memory
↓
Confirmed? → Useful later? → Allowed to retain?
↓ YES
Scope + Source + TTL + Sensitivity
↓
Persist / Update / Reject

图 2|“模型觉得重要”只是候选信号,不能直接成为长期客户记录。

读取时同样需要策略

Memory Retrieval 应按当前客户、租户、任务和时间筛选。即使偏好合法保存,也不必每轮全部注入。当前消息明确要求英文时,本轮可覆盖长期西班牙语偏好;是否更新长期记录需要进一步确认。

压缩、过期与遗忘

Short-term Memory 可以把多轮对话压缩成带引用摘要,并保留关键原始消息。Long-term Memory 需要 TTL 或复核时间,用户更正时保留必要变更记录。删除请求必须真正作用于底层存储和派生索引。

Conversation Evidence → Candidate → Policy Check → Scoped Memory
↓                         ↓
short-term summary           review / expire / correct / delete

图 3|Memory 是有生命周期的数据产品,不是永远增长的消息数组。

Failure Lab

每轮结束自动总结成长期 Memory

为什么诱人: 自动化程度高,Agent 看起来越来越懂客户。

为什么失败: 模型推断、临时情绪和错误事实会被永久化,还可能违反数据最小化。

更合理设计: 只生成候选;写入策略和必要确认决定是否保存。

只保留摘要,删除全部原始依据

为什么诱人: 节省存储和 Token。

为什么失败: 摘要可能遗漏限定条件,后续无法核查来源或纠错。

更合理设计: 摘要保存证据引用;按合规策略保留必要原文并控制访问。

Memory 命中后不再查询 Database

为什么诱人: 响应更快、调用更少。

为什么失败: Memory 里的业务事实会过期,可能导致错误订单或退款回复。

更合理设计: Memory 用于偏好和连续性;动态事实仍通过 Tool 查询。

实践:制定客服 Memory Policy

为语言偏好、联系渠道、订单号、退款状态、投诉情绪、地址和支付信息分别决定:不保存、短期保存或长期保存。写明作用域、来源、TTL、敏感级别、更正与删除方式。

Acceptance Criteria

  • ☐ Short-term 与 Long-term 按作用域和用途区分。
  • ☐ 全量聊天历史没有被直接称为 Memory 方案。
  • ☐ 长期写入经过确认、必要性与敏感性检查。
  • ☐ 每条 Memory 有 source、updatedAt、scope 和 TTL / reviewAt。
  • ☐ 当前指令与长期偏好冲突时有明确规则。
  • ☐ 动态订单事实仍通过 Database / Tool 查询。
  • ☐ 更正、过期和删除流程可执行。

主动回忆

  1. Short-term Memory 与 Context 有什么关系?
  2. 哪些信息不应自动进入 Long-term Memory?
  3. 为什么摘要需要证据引用?
  4. Memory 命中后哪些事实仍要重新查询?

下一课把 Context Builder、短期会话、长期偏好、Workflow State 与业务 Tool 合在一起,完成可跨轮继续服务的 V0.6。

延伸阅读 / Sources

核查日期:2026-10-18。

长期有效的原理: Memory 需要选择、作用域、来源和遗忘。当前实现方式: Session backend、向量索引和 SDK Memory API 会变化,治理字段与业务规则应独立保存。