AI Agent Engineering · Week 00
00-01|AI Agent Engineering 到底在学什么
从一条物流退款请求出发,学会分配普通代码、工作流与 Agent 的职责,看懂跨境客服系统及其 12 周演化路线。
“能不能做一个 AI 来接客服?”
一家跨境电商的负责人说:“我们海外客服每天都要处理订单查询、物流异常、退款和产品问题,能不能做一个 AI 来接?”
你很快做出一个聊天页面。输入“包裹没到,想退款”,模型礼貌地回复“非常抱歉,请提供订单号”。演示顺利,但负责人接着问:“它查的是哪家店的订单?物流接口挂了怎么办?谁批准退款?下个月政策变了,要改哪里?”
这些问题把任务从“生成一句回复”推到了“接手一段业务”。会回答和能接手之间,隔着事实、权限、流程、失败处理以及责任归属。
智能体工程(AI Agent Engineering)训练的是:把真实业务问题转化成可以运行、测试、部署和交付的 AI Agent 系统。 提示词(Prompt,给模型的任务说明)、框架和接口都是材料。工程师要决定材料放在哪里、连接之后会发生什么,以及如何证明结果值得信任。
本课不要求你先会搭服务器。你需要先能把负责人那句话拆成可讨论的设计:哪些请求能自动处理,哪些只能给建议,系统需要什么事实,谁对最终动作负责。后续写代码和指挥 AI Coding 时,这份判断才是验收依据。
学完后,先检查你能做哪四个判断
- 面对运费计算、退款审核、模糊投诉,能分别选出普通代码、固定流程或 Agent,并说出理由。
- 能区分模型、聊天界面、工作流和 Agent,不再把“能聊天”当成“能处理业务”。
- 能沿着架构图说明:订单事实、售后政策、审批权限和执行记录各自放在哪里。
- 能把 12 周的每次升级对应到一个新能力和一个可验证结果,而不是只记住技术名称。
一张地图:你要连接的是六类能力
先看分支,再看分支之间的关系。你不需要此刻记住所有缩写;后面每一层都会回到同一个客服案例。
让技术共同服务业务结果
Problem:定义要改善的结果
Process:明确步骤与责任
LLM:理解与生成
不替代事实来源与授权
Workflow:走预定路径
Agent:选行动;Tool:执行
API:业务系统接口
MCP:标准化连接外部能力与上下文
Week 04 展开
Database:保存业务事实
RAG:检索企业知识
Week 05–07 展开
Eval:测结果;Observability:看过程
Security / Deployment:受控运行
Week 09–11 展开
这是系统工程问题,因为局部正确不保证整体正确。模型准确识别了“退款”,若工具查错商家,后面的政策判断再漂亮也没有意义。模型和数据都正确,若同一请求重试时退了两次钱,系统仍然失败。
业务问题(Business Problem)先说明“要改善什么”,例如减少重复物流问询,而不是泛泛地“提高智能化”。业务流程(Business Process)接着说明“谁在什么条件下做什么”。你应先访谈客服:他们如何确认身份、查看物流、解释政策、升级工单,再决定哪些环节交给机器。
一份可开工的目标可以是:“已登录客户查询自己的订单时,系统给出可核查的物流状态;事实不完整就转人工;退款只能生成申请并等待审批。”它比“自动处理所有售后”小,却能被测试。
沿着地图往下建,整门课始终遵循一条线:先确定业务结果和责任,再选择理解与行动方式,最后用连接、数据和工程控制把结果托住。 图中的名词是设计坐标,不是要求每条客户消息依次走过所有技术。
四个词,分别回答四种问题
大语言模型(Large Language Model,LLM)是根据输入上下文理解、推断和生成内容的模型。它能识别投诉语气、提取订单号、草拟回复;没有读取订单系统时,它并不知道此刻包裹在哪里。即使输出很肯定,也不构成物流事实。
聊天机器人(Chatbot)描述的主要是产品交互:用户发消息,系统回消息。它的内部可以只有一个模型,也可以连接复杂的 Agent。看到聊天窗口,无法据此判断后台是否能完成业务。
工作流(Workflow)是开发者事先安排主要步骤和分支的执行过程。它可以在某一步调用 LLM,例如先让模型分类投诉,再按固定规则分派队列。“用了模型”不自动意味着“用了 Agent”。
智能体(Agent)在给定目标和约束下,能依据当前信息选择下一步行动。它可能先查订单,发现缺少物流信息后再查询承运商,也可能发现无法确认身份而停止。承载这些选择的仍是软件运行机制,权限和停止条件需要明确实现。
| 概念 | 你在设计什么 | 在客服里的位置 | 不能据此推断什么 |
|---|---|---|---|
| LLM | 理解与生成能力 | 把一句抱怨识别为物流问题和退款诉求 | 不能推断它已查过订单 |
| Chatbot | 对话入口与体验 | 客户在网站发送消息 | 不能推断后台有自主行动能力 |
| Workflow | 预设步骤和条件分支 | 验证身份 → 查订单 → 按规则审核 | 不能推断每一步都必须靠模型 |
| Agent | 有边界的行动选择 | 在允许工具中选择查询、追问或升级 | 不能推断它有权执行所有动作 |
这些概念不互斥:同一个 Chatbot 可以用 Workflow 包住一个 Agent;Agent 调用 LLM,也调用工具。区分它们,是为了知道哪一层出了错该改哪里。回复语气不合适可能要改模型输入;退款越权需要修授权边界,不能只补一句“请小心”。
先选择最容易验证的解法
面对一个业务需求,不要立即决定“做几个 Agent”。先把任务拆小,再逐项问下面的问题。
计算、校验、查询、固定规则
按预定步骤和分支执行
补规则、补输入,或交给人
在受限行动中选择下一步
能普通代码解决 → 不用 LLM。 假设商家运费规则为“订单实付满 80 美元免邮,否则收 6 美元”。金额确定以后,一个条件判断即可输出结果。让模型反复读规则算钱,只会增加延迟、成本和误差。模型可以从客户原话里提取“想知道运费”,实际金额仍由代码计算。
能 Workflow 解决 → 不用 Agent。 退款资格若由签收日期、商品类别和凭证是否齐全决定,就把条件写进规则。流程固定为查订单、核对窗口、收集凭证、送审。遇到不同分支不代表必须让 Agent 选择:分支可枚举,工作流照样能处理。模型可以整理客户上传的说明,但不能把自己的判断变成审批权限。
当客户写“等太久了,这个还能怎么处理”,系统需要结合订单状态决定先查物流、询问缺失信息还是转人工。输入表达开放、下一步依赖工具返回结果时,才有理由试用 Agent。这里的判断是受限选择,不是让模型自行发明公司政策。
能单 Agent 解决 → 不用 Multi-Agent。 多智能体让多个 Agent 分工,也增加交接、冲突和排错成本。一个 Agent 配边界清晰的工具通常更容易追踪;只有独立权限、独立上下文或并行任务确实带来可验证收益时,才在后续课程考虑拆分。
这三条是优先顺序,不是禁止使用复杂方法。你需要解释为什么简单解法不足,以及新增的自由度如何受控。
把完整系统放到一张架构图里
贯穿项目叫 Cross-border AI Support Agent。它的目标是处理一段跨境客服任务。下面展示逻辑关系,不代表必须部署成这么多独立服务,也不代表所有请求都经过每条支路。
↓ Interface 网站 / 邮件 / 客服入口
↓ Identity 身份与店铺验证
LLM 提出下一步 → 程序校验并调度 → 结果返回决策层 ↺
Workflow
退款规则、分支与审批等待
动作仍经受控工具执行
Tools
查订单、查物流、建工单
经 API / MCP 连接能力
RAG
检索有效政策与产品知识
从 Knowledge Base 返回证据
Shopify / ERP / CRM / Carrier / Knowledge Base
Database:订单、工单、审批记录
State / Context / Memory:进度、当前材料、允许保留的信息
敏感动作前暂停
检验结果是否合格
记录路径、耗时与错误
身份、权限、隔离与保护
Response + Record|回复、状态与执行记录
入口与决策层:知道谁在问,再决定做什么
入口把消息、登录身份和店铺信息交给服务端。客户只说出一个订单号,不代表有权读取该订单。店铺和客户范围必须由可信身份确定,不能让模型从消息里猜。
编排(Orchestration)协调“下一步做什么、交给谁、结果回来后怎么办”。Agent 借助 LLM 提出行动,程序检查参数、权限和次数限制后才执行。第二周会展开这个循环;本课只需记住:模型提出调用,不等于模型获得后台控制权。
执行与连接层:工具负责动作,接口负责连接
工具(Tool)是系统允许调用的一项具体能力,例如“读取当前客户的订单摘要”。它必须写清输入、输出和失败方式。API 是软件提供业务功能的接口;MCP 是标准化 AI 应用与外部能力 / 上下文的连接方式。查订单工具可以直接调用 API,也可以通过 MCP 服务接入。Week 03–04 会展开连接细节;此处只记住:MCP 不取代业务 API,也不会自动赋予数据访问权。
Shopify、ERP、CRM 分别可能保存订单、履约或工单信息。企业实际以哪个系统为准必须逐项确认,不能把同名字段当成同一份最新事实。
数据层:事实、证据与记忆不能混成一包
数据库(Database)保存订单、工单和审批等业务事实;RAG 从知识库检索适用政策和证据。二者可能使用相同存储技术,但职责不同:订单状态要精确查询,政策知识要找到适用版本和段落。Week 05 与 Week 07 会分别展开。
State 表示任务进行到哪里,Context 表示模型这一轮实际看到了什么,Memory 表示以后还要继续保留的信息。三者不能用“完整聊天历史”代替;Week 05–06 会讲如何保存、选择和隔离。
工程控制层:证明系统可以被托付
Human-in-the-loop 是让人在关键节点判断;Human Approval 是敏感动作先暂停,可信审批完成后程序才继续。客户文字或模型输出不能代替授权,Week 08 会正式实现。
Eval 测结果是否正确,Observability 看执行过程发生了什么;Security 限制身份、权限和数据边界;Deployment 负责服务持续运行。Week 09–11 会逐项展开。它们从第一天就是设计约束,只是暂时不在本课学习实现细节。
一条请求,怎样穿过这些层
客户发来:“My package still hasn't arrived and I want a refund.”(包裹还没到,我想退款。)
先不要写回复。假设客户已经登录,订单确属该客户;物流显示已发出但超过预计送达日 3 天;教学商家的政策规定超过 7 天才能进入延误退款审核。系统应先补全事实,再处理客户要求。
| 执行顺序 | 谁负责 | 输入、输出与边界 |
|---|---|---|
| 1. 理解诉求 | LLM | 提取“未收到货 + 退款意愿”;不能据此断言包裹丢失 |
| 2. 选择查询路径 | Agent | 识别同时涉及物流和退款,缺订单号时先追问 |
| 3. 查询订单 | Tool / API / Database | 服务端校验店铺和客户权限,返回必要订单字段 |
| 4. 查询物流 | Tool / API | 返回承运商状态、预计日期和更新时间;超时必须显式返回 |
| 5. 获取政策 | RAG | 检索适用地区、商品和有效版本的政策,返回证据段落 |
| 6. 判断资格 | Workflow / 普通代码 | 使用已确认的规则与事实计算延误天数,当前不满足 7 天条件 |
| 7. 处理例外 | Human-in-the-loop | 客户提出紧急特殊情况时建人工工单;模型不能擅自破例退款 |
| 8. 组织回复 | LLM + 输出校验 | 解释当前物流和政策,不说“已退款”;不暴露内部敏感字段 |
| 9. 保留结果 | Database / Observability | 记录状态、证据版本、调用结果和转人工原因,敏感内容按需脱敏 |
这张表是一次可能的执行轨迹,不是所有请求的固定顺序。退款规则若已明确,就不必每次让模型重新解释政策;检索用于找到适用依据,受控规则负责可重复的资格判断。政策冲突或无法映射成已审核规则时,停止自动判定并交给人。
如果条件满足,系统也只是进入审批状态;“满足申请条件”“审批通过”“支付接口执行成功”是三件不同的事。程序需要依次确认,不能把第一件写成第三件。
下面是一段执行记录示意,非可运行代码。你暂时不用知道怎样生成它,只需理解它为什么比一段聊天记录更能解释业务状态。
{
"order_id": "XB-1024",
"intents": ["delivery_delay", "refund_request"],
"delay_days": 3,
"policy_version": "teaching-policy-v1",
"state": "awaiting_customer_decision",
"refund_executed": false,
"next_options": ["continue_tracking", "request_human_review"]
}
这些字段应来自被校验的工具结果和流程状态,不能因为模型生成了一段合法 JSON 就相信其中的事实。结构化输出解决“形状是否符合约定”,事实核对解决“内容是否有依据”,授权解决“能否执行动作”。
12 周,项目怎样一步步长出来
下图是一条学习演化线。它从简单模型调用开始,每一步都保留前面的可用能力,再增加一项可验证的工程责任。十二周是路径长度,周内可以有多节原理课、实战课和验收课。
每一版保留上一版能力,再加入一项可验收的工程责任。
- V0.1Week 01
Structured Output
稳定提取诉求字段,并检查格式与缺失值 - V0.2Week 02
Agent Loop
根据结果选择下一步,达到限制就停止 - V0.3Week 03
Tools
通过受控工具查询订单,拒绝未授权请求 - V0.4Week 04
API / MCP
连接外部能力,失败必须显式返回 - V0.5Week 05
Workflow + State
让退款流程可恢复,重复请求不重复处理 - V0.6Week 06
Context + Memory
只提供任务所需材料,并隔离客户信息 - V0.7Week 07
RAG
检索适用政策,用可核查证据回答 - V0.8Week 08
Human Approval
敏感动作暂停,审批后按状态恢复 - V0.9Week 09
Eval + Observability
测量结果质量,并追踪工具、耗时与失败 - V1.0 RCWeek 10
Security
验证恶意输入、越权和数据隔离边界 - V1.0 ProductionWeek 11
Production
部署可监控、可告警、可回滚的服务 - Enterprise DeliveryWeek 12
Case Study
把 V1.0 变成可演示、可验收、可交接的企业案例
第七周还会接触 Agentic RAG:让 Agent 在限定范围内决定是否继续检索。它增加的是检索决策自由度,不是保证答案正确的开关。
到第十二周,你应能演示一段完整任务:客户请求进入、授权查询、政策核对、审批暂停、恢复执行、记录结果,还能演示失败分支。它可以部署到受控环境,上线接入真实业务前则需完成目标商家的授权、数据和验收要求。
这套成果能进入作品集,因为你能展示系统如何工作和如何失败;能写进简历,因为你能说明亲自完成的设计和验证;能用于客户沟通,因为它把“AI 很聪明”变成了明确的接入范围和交付证据。课程项目本身不等于已经获得某家企业的生产准入,也不保证所有商家可直接复用。
Failure Lab:四条很诱人的错误路线
1. 把所有业务都丢给 LLM
为什么诱人: 把运费、退款政策、订单记录一起塞进提示词,似乎一个请求就能完成全部工作。
哪里会坏: 同样的金额可能得到不同结果;政策换版本后难定位;模型说“可退款”与程序真正允许退款之间没有硬边界。
更好的设计: LLM 只解释客户表达和生成答复,金额由代码计算,资格由版本化规则判断,执行由授权工具完成。保留每次判断的输入,让出错时能复算。
2. 一上来就做 Multi-Agent
为什么诱人: 把团队组织图复制成“物流 Agent、退款 Agent、经理 Agent”,看起来分工专业。
哪里会坏: 每次交接都可能丢失身份、政策版本或审批状态;多个 Agent 互相同意也不构成真实授权。调用次数增加后,延迟和排错成本也跟着增加。
更好的设计: 先用一个 Agent 和明确工具跑通任务。若测试发现独立的专业上下文确实改善质量,再比较拆分前后的正确率、耗时和成本。先证明边界有用,再增加角色。
3. 为了用 MCP 而用 MCP
为什么诱人: 统一协议听起来可以一次解决所有集成。
哪里会坏: 给一个稳定的本地函数套远端服务,可能增加连接和维护负担;MCP 服务即使连接成功,也可能暴露过大的查询权限。
更好的设计: 单个内部服务可以先用直接函数或 API。需要让多个 AI 应用按一致协议接入同一能力时,再评估 MCP。无论采用哪种连接,工具仍要验证身份、参数和访问范围。
4. Demo 能跑,就当成企业交付
为什么诱人: 演示中的客户、订单和问题都经过准备,系统连着成功三次,很容易让人相信已经完成。
哪里会坏: 客户漏填订单号、物流接口超时、审批跨夜、请求重复到达,都会改变路径。若只有成功截图,没有故障证据,接管人员不知道怎样恢复。
更好的设计: 准备正常、缺信息、越权、超时和重复请求案例;记录哪些通过、哪些必须人工处理。交付部署说明、告警与回滚方法,并安排业务负责人验收。只对已验证范围作承诺。
第一次实践:先画责任,再画技术
需求仍是:“客服每天处理大量物流查询、退款申请和产品常见问题。”给自己 20 分钟,用纸、笔记软件或表格做一份架构草图。现在不需要写调用模型的代码。
先写下你还不知道的三件事,例如客户身份怎样确认、哪个系统是订单真源、谁有退款批准权。不要用技术名词掩盖缺失的业务条件。
然后把任务划给六类角色:普通代码、Workflow、Agent、Tool、知识(Knowledge)、Human Approval。每类至少写一项输入、输出和失败后的去向。同一业务任务可以跨多类,但每项责任需要有明确归属。
练习交付物: 一张责任表、一张有箭头的关系图、两个失败案例。建议先独立完成,再展开参考方案。
展开参考架构:比较责任边界,不必复制同一张图
| 责任 | 参考分配 | 输入 → 输出 | 失败后去哪 |
|---|---|---|---|
| 普通代码 | 验证身份、计算日期和金额 | 登录身份与订单 → 授权结果、天数 | 拒绝访问或提示补全身份 |
| Workflow | 固定退款审核与审批等待 | 订单、审核规则 → 资格与任务状态 | 缺凭证等待补充;冲突转人工 |
| Agent | 理解模糊诉求后选择查询或追问 | 客户消息、可用工具 → 下一步请求 | 达到次数上限或证据不足就升级 |
| Tool | 查订单、查物流、创建工单 | 经过校验的参数 → 事实或明确错误 | 超时按策略重试或交给客服 |
| Knowledge | 产品 FAQ、有效售后政策 | 问题、地区、版本 → 相关证据 | 无适用资料就不编答案 |
| Human Approval | 批准例外或敏感资金动作 | 事实、建议、金额 → 批准或拒绝记录 | 审批未完成前保持暂停 |
客户 → 身份校验 → 诉求分流
├─ 物流:订单工具 → 物流工具
├─ 退款:订单工具 → 固定审核 → 人工审批
└─ FAQ:知识检索 → 有证据的答复
各路径 → 回复或转人工 → 工单与执行记录
分流若可用固定选项完成,就先用规则;输入开放且路径需要随事实变化时,再让受控 Agent 参与。敏感动作的审批闸门必须在执行入口,不能只依靠分流模型“记住”。
两个失败案例:客户 A 输入客户 B 的订单号,查询层拒绝,模型不能换工具绕过;物流工具超时,系统说明暂时无法确认并建立跟进任务,不能生成“仍在清关”的猜测。参考图没有预设每个分支都需要 Agent,也没有要求三个分支各配一个 Agent。
验收时,请一位同伴沿图追问:“如果这个工具失败,下一步是谁负责?”你若只能回答“AI 会处理”,说明责任还没划清。如果“知识检索”能直接触发退款,说明把证据与执行权限接在了一起。把这两个问题修清,比先接入一个框架更有价值。
合上正文,试着回答
- 为什么一个能输出完整退款建议的 LLM,仍然不等于完整 Agent 系统?
- 退款有多个条件分支,为什么仍可能适合 Workflow?什么时候才需要 Agent 判断?
- Agent 选择了查订单工具,谁负责验证身份和实际执行?
- 为什么政策 RAG 和订单数据库不能简单当成同一种数据来源?
- 演示一次正确退款流程之后,你还需要哪些证据,才能讨论交付?
先用自己的话作答,再沿前面的案例检查。你要能解释“为什么”,而不只是把缩写放回原位。
你现在已经能沿系统说明谁理解、谁查询、谁批准、谁记录。但“能画出一个 Agent 系统”还不能回答一个更难的问题:如果商家的任务完全固定、数据尚不可用,或者错误根本无法接受,这个系统是否值得开始?
这正是 00-02|什么时候根本不应该使用 Agent 要追问的事。
延伸阅读 / Sources
正文中的案例、责任表和四张图是本课的教学设计;以下资料用于核查边界和继续深入,不承担核心解释。核查日期:2026-10-17。
- Anthropic:Building effective agents。用于核对预设工作流与模型动态选择行动的区别,以及从简单方案开始的工程原则。
- OpenAI:Function calling。用于核对“模型提出工具调用、应用执行、结果回传”的职责分离。
- MCP:Architecture overview。用于核对 host、client、server 及工具等能力的接入关系;协议不能代替业务授权。
- OpenAI:Guardrails and human review。用于核对敏感动作前暂停、审批并恢复运行的控制方式。
- OpenAI:Agents。作为工具、状态、追踪和部署等能力的官方资料导航。
长期有效的原理是职责划分、事实核验、权限边界、失败恢复和基于证据验收。当前实现方式包括 SDK 的审批与追踪接口、MCP 的具体版本和传输约定;它们会变化。本课不依赖某个 SDK 方法名或协议版本,后续实战应以实际使用版本的官方文档为准。