跳到主要内容
← 返回AI Agent Engineering|12 周从 Demo 到真实 Agent 系统

AI Agent Engineering · Week 07

07-04|从普通 RAG 到 Agentic RAG

比较固定检索链路与 Agent 自主规划检索的成本、收益、停止条件和适用边界,完成 V0.7。

Agentic RAG · RAG · V0.7

两种检索控制方式

固定 RAG 对每个知识问题执行同一条链路:生成 Query、检索、返回证据、回答。它容易预测、测试和控制成本。Agentic RAG 把部分检索决策交给 Agent:是否需要检索、搜什么、证据是否足够、是否再次检索。

固定 RAG

Question → Retrieve once → Evidence → Answer

路径稳定,适合问题类型清晰、知识源单一的客服场景。
Agentic RAG

Decide → Retrieve → Inspect → Refine / Stop

适合需要拆解、多知识源或证据迭代的问题。
图 1|自主检索增加适应性,也增加调用次数、延迟和控制难度。

Agentic RAG Loop

Question + Goal
↓
Need knowledge?
↓ yes
Choose source + Query + Filters
↓
Inspect Evidence
↙ sufficient      insufficient ↘
Answer + citations  Refine / another source
              ↖ max retrieval turns
Stop: answered / insufficient / budget reached

图 2|检索 Loop 和 Agent Loop 一样,需要预算、证据门槛与明确停止原因。

什么时候值得增加自主判断

客户只问“德国站退货期限”,固定 RAG 通常足够。客户问“这台设备在德国保修条款下能否因运输损坏退款,同时需要哪些证明”,可能需要依次检索产品保修、市场政策和物流索赔材料,并核对证据是否覆盖全部子问题。

增加 Agentic RAG 前应看到具体收益:固定 Query 经常漏掉必要知识源,复杂问题可被稳定拆解,多轮检索能明显提升证据覆盖率。否则保持固定链路。

V0.7 Knowledge Grounding

V0.6 Context Builder
↓ knowledge intent
Retrieval Policy
↙        ↘
Fixed RAG   Bounded Agentic RAG
↘        ↙
Evidence Bundle + Citation
↓
Grounded Response / Escalation

图 3|V0.7 默认固定检索;只有经过评估的复杂问题进入受限自主检索。

检索策略应限制知识源、最大检索轮次、总片段数、延迟和成本。每次 Query、Filter、返回片段、充分性决定与 Stop Reason 都进入 Trace。Agent 仍不能通过检索获得新的业务权限。

Failure Lab

所有问题都交给 Agent 自主检索

为什么诱人: 一个通用 Loop 看起来可以覆盖全部问题。

为什么失败: 简单问题产生额外模型调用,路径不稳定,错误 Query 还会偏离正确知识源。

更合理设计: 默认固定 RAG;只有复杂度和评估收益达到门槛时进入 Agentic 路径。

没有检索停止条件

为什么诱人: 希望 Agent 一直搜索到“完全确定”。

为什么失败: 知识库可能没有答案,Loop 持续消耗 Token 和延迟,重复证据也无法补足缺口。

更合理设计: 设置最大轮次、证据充分性、预算和 insufficient_evidence 停止原因。

把多轮检索当成事实验证

为什么诱人: 多个片段表达相似,看起来像交叉验证。

为什么失败: 它们可能复制同一份过期来源,相关性也不代表适用性。

更合理设计: 检查来源独立性、版本与 metadata;关键业务事实仍走 Tool。

实践:为 V0.7 设计 Retrieval Policy

把 20 个客服问题分为无需 RAG、固定 RAG、受限 Agentic RAG、必须升级人工四类。为 Agentic 路径写出允许知识源、最大轮次、证据门槛、预算和停止原因。

Acceptance Criteria

  • ☐ 固定 RAG 是默认路径,Agentic RAG 有明确进入条件。
  • ☐ Agent 只能访问获准知识源与 metadata 范围。
  • ☐ 每次检索记录 Query、Filter、Evidence 和 Stop Reason。
  • ☐ 最大检索轮次、Token、延迟和片段总量受限。
  • ☐ 证据不足会停止或升级,不会生成猜测。
  • ☐ V0.1~V0.6 的身份、State、Tool 与 Memory 边界继续生效。
  • ☐ Support Agent 能用政策或产品证据回答并给出来源。

主动回忆

  1. 固定 RAG 的工程优势是什么?
  2. 什么证据支持引入 Agentic RAG?
  3. 检索 Loop 至少需要哪些停止条件?
  4. 多次检索为什么仍不能替代业务 Tool?

Week 07 完成:Support Agent V0.7 已具备 Knowledge Grounding。下一周给敏感动作划出权限与人工责任边界。

延伸阅读 / Sources

核查日期:2026-10-18。

长期有效的原理: 自主检索只在可测收益覆盖成本与失败面时成立。当前实现方式: File Search 和 SDK 编排方式会演化,Retrieval Policy 与验收集应保持平台独立。