AI Agent Engineering · Week 07
07-04|从普通 RAG 到 Agentic RAG
比较固定检索链路与 Agent 自主规划检索的成本、收益、停止条件和适用边界,完成 V0.7。
两种检索控制方式
固定 RAG 对每个知识问题执行同一条链路:生成 Query、检索、返回证据、回答。它容易预测、测试和控制成本。Agentic RAG 把部分检索决策交给 Agent:是否需要检索、搜什么、证据是否足够、是否再次检索。
Question → Retrieve once → Evidence → Answer
路径稳定,适合问题类型清晰、知识源单一的客服场景。Decide → Retrieve → Inspect → Refine / Stop
适合需要拆解、多知识源或证据迭代的问题。Agentic RAG Loop
Question + Goal
↓
Need knowledge?
↓ yes
Choose source + Query + Filters
↓
Inspect Evidence
↙ sufficient insufficient ↘
Answer + citations Refine / another source
↖ max retrieval turns
Stop: answered / insufficient / budget reached
什么时候值得增加自主判断
客户只问“德国站退货期限”,固定 RAG 通常足够。客户问“这台设备在德国保修条款下能否因运输损坏退款,同时需要哪些证明”,可能需要依次检索产品保修、市场政策和物流索赔材料,并核对证据是否覆盖全部子问题。
增加 Agentic RAG 前应看到具体收益:固定 Query 经常漏掉必要知识源,复杂问题可被稳定拆解,多轮检索能明显提升证据覆盖率。否则保持固定链路。
V0.7 Knowledge Grounding
V0.6 Context Builder
↓ knowledge intent
Retrieval Policy
↙ ↘
Fixed RAG Bounded Agentic RAG
↘ ↙
Evidence Bundle + Citation
↓
Grounded Response / Escalation
检索策略应限制知识源、最大检索轮次、总片段数、延迟和成本。每次 Query、Filter、返回片段、充分性决定与 Stop Reason 都进入 Trace。Agent 仍不能通过检索获得新的业务权限。
Failure Lab
所有问题都交给 Agent 自主检索
为什么诱人: 一个通用 Loop 看起来可以覆盖全部问题。
为什么失败: 简单问题产生额外模型调用,路径不稳定,错误 Query 还会偏离正确知识源。
更合理设计: 默认固定 RAG;只有复杂度和评估收益达到门槛时进入 Agentic 路径。
没有检索停止条件
为什么诱人: 希望 Agent 一直搜索到“完全确定”。
为什么失败: 知识库可能没有答案,Loop 持续消耗 Token 和延迟,重复证据也无法补足缺口。
更合理设计: 设置最大轮次、证据充分性、预算和 insufficient_evidence 停止原因。
把多轮检索当成事实验证
为什么诱人: 多个片段表达相似,看起来像交叉验证。
为什么失败: 它们可能复制同一份过期来源,相关性也不代表适用性。
更合理设计: 检查来源独立性、版本与 metadata;关键业务事实仍走 Tool。
实践:为 V0.7 设计 Retrieval Policy
把 20 个客服问题分为无需 RAG、固定 RAG、受限 Agentic RAG、必须升级人工四类。为 Agentic 路径写出允许知识源、最大轮次、证据门槛、预算和停止原因。
Acceptance Criteria
- ☐ 固定 RAG 是默认路径,Agentic RAG 有明确进入条件。
- ☐ Agent 只能访问获准知识源与 metadata 范围。
- ☐ 每次检索记录 Query、Filter、Evidence 和 Stop Reason。
- ☐ 最大检索轮次、Token、延迟和片段总量受限。
- ☐ 证据不足会停止或升级,不会生成猜测。
- ☐ V0.1~V0.6 的身份、State、Tool 与 Memory 边界继续生效。
- ☐ Support Agent 能用政策或产品证据回答并给出来源。
主动回忆
- 固定 RAG 的工程优势是什么?
- 什么证据支持引入 Agentic RAG?
- 检索 Loop 至少需要哪些停止条件?
- 多次检索为什么仍不能替代业务 Tool?
Week 07 完成:Support Agent V0.7 已具备 Knowledge Grounding。下一周给敏感动作划出权限与人工责任边界。
延伸阅读 / Sources
核查日期:2026-10-18。
- OpenAI API:Retrieval。用于核对多次查询、ranking 与 filtering 的当前能力。
- OpenAI API:File search。用于核对模型调用托管知识检索工具的当前方式。
- OpenAI Agents SDK:Running agents。用于核对 Agent Loop、运行限制与 Trace 配置边界。
长期有效的原理: 自主检索只在可测收益覆盖成本与失败面时成立。当前实现方式: File Search 和 SDK 编排方式会演化,Retrieval Policy 与验收集应保持平台独立。