跳到主要内容
← 返回AI Agent Engineering|12 周从 Demo 到真实 Agent 系统

AI Agent Engineering · Week 02

02-02|Agent Loop 真正怎么运行

逐轮拆解 Goal、Observe、Decide、Act 与 Stop,理解 Tool result、max turns 和错误恢复怎样共同约束 Agent。

Agent Loop · Runtime · Stop Condition

一个 Loop 不是一个 while true

循环让 Agent 能根据新事实继续工作,也可能让错误、成本和副作用重复发生。可靠 Loop 每一轮都要知道:目标是什么、当前观察是什么、允许哪些行动、行动结果是什么、现在应该继续还是停止。

Goal
  ↓
Observe → Decide → Act
  ↑               ↓
  └── Tool Result ┘
  ↓
Stop / Continue

Loop 的一次完整转动

Goal|取得可授权订单的物流事实,或给出明确失败出口
Observe
消息、状态、结果、错误
Decide
追问、查询、回复、升级
Act
Runtime 校验并执行
Stop Gate|完成?无法继续?达到 max turns?出现不可恢复错误?
图 1|Stop Gate 每轮都执行;继续循环是一项受控决定。

Observe:只加入可信且相关的新信息

Observation 可以来自客户、工具、应用状态或错误处理器。来源必须可识别。客户说“物流显示已签收”和承运商工具返回 delivered 不是同等级事实。Context 应保留来源标签和必要字段。

Decide:模型只能选择允许的动作

模型看到当前 Context 与可用动作定义,返回 final response 或 action request。动作集合越清晰,决策越容易验证。模型生成一个不存在的工具名,应被 Runtime 当成行为错误处理。

Act:应用执行,副作用受控

Runtime 校验动作名称、参数、权限、预算和当前状态。查询类动作可以按策略重试;退款等副作用动作还要做幂等和审批。Week 03 会深入 Tool,本周使用模拟执行器理解循环。

Tool result 重新进入 Context

工具返回后,Runtime 把结果与对应 call ID 加入下一轮。模型才能知道 XB-1024 查到了什么。只把“工具成功”加入 Context 不够;返回应包含做下一步所需的最小事实和明确错误码。

一次物流查询的执行 Trace

  1. TURN 1
    Observe
    “Where is my order?”
    Decide → ask_for_order_id
  2. TURN 2
    Observe
    Customer supplied XB-1024
    Decide → lookup_order
  3. ACTION
    Runtime
    参数与身份通过;模拟查询
    Result → status=shipped, tracking=TR-7
  4. TURN 3
    Observe
    经过校验的订单结果
    Decide → lookup_tracking
  5. ACTION
    Runtime
    模拟物流查询
    Result → in_transit, ETA=2026-10-20
  6. TURN 4
    Stop
    Goal 已满足
    Final response with sourced facts
图 2|Trace 把每轮输入、决定、执行和结果分开,故障时可以定位责任层。

Stop Conditions:完成与终止都要设计

条件示例系统行为
Goal completed已取得有来源的物流状态生成最终回复并结束
Need user input缺订单号返回追问,等待新输入,不在后台空转
Max turns已运行 6 轮仍未完成停止并升级人工
Non-recoverable error身份不匹配、权限拒绝立即停止,不换工具绕过
Retry exhausted物流接口连续超时明确暂时无法确认,建立跟进
Budget/time limit达到调用或时长预算保存状态并安全结束

Max Turns 不是业务完成条件,它是保险丝。设得很大不会让任务更聪明,只会让错误循环更久。设得过小则会截断合理路径,因此要用代表任务 Trace 来确定。

Error 怎样进入 Loop

Recoverable
timeout
有限退避重试
Need input
missing orderId
向客户追问
Denied
unauthorized
立即停止
Behavior error
unknown action
记录并有限重试
Invalid result
malformed tool data
拒绝使用并升级
Exhausted
max turns
保存 Trace,转人工
图 3|错误必须成为结构化 Observation,并由策略决定重试、追问、停止或升级。

Failure Lab

没有 Stop Condition

为什么诱人: 希望 Agent 坚持到成功。

为什么失败: 同一失败工具可能被反复调用,成本不断增加,副作用还可能重复。

更好的设计: 业务完成条件与保险丝同时存在;记录轮数、重复动作和错误次数。

Tool 失败后只返回一段模糊文本

为什么诱人: “Something went wrong” 实现简单。

为什么失败: 模型无法区分超时、未授权和不存在,可能选择危险的恢复路径。

更好的设计: 返回稳定错误码、是否可重试和安全说明;敏感内部信息不进入模型。

每个错误都让模型自由决定

为什么诱人: 看起来最灵活。

为什么失败: 未授权属于硬边界,模型不应通过换参数或换工具绕过。

更好的设计: Runtime 先执行确定错误策略,只有允许恢复的情况才交给模型选择下一步。

实践:手工跑一段 Loop

用纸或表格模拟“缺订单号 → 补充订单号 → 订单查询成功 → 物流超时”的过程。每一行写 turn、observations、decision、action、result、stop check。物流超时只允许重试一次,第二次超时后必须停止并给出可交付给人工客服的状态。

Acceptance Criteria

  • ☐ Trace 至少包含三轮模型决策与两个模拟动作。
  • ☐ 每个结果都带来源和稳定状态。
  • ☐ Tool result 会进入下一轮 Observation。
  • ☐ 未授权错误立即停止,不交给模型绕过。
  • ☐ 超时重试次数明确且有限。
  • ☐ Max Turns、时间或成本至少有一项硬上限。
  • ☐ 最终回复只引用 Trace 中已经确认的事实。
  • ☐ 停止后保留足够信息供人工继续处理。

合上正文,试着回答

  1. Agent Loop 的五个核心动作是什么?
  2. 为什么工具结果必须带来源和错误类型?
  3. Max Turns 解决什么问题,不能解决什么问题?
  4. 哪些错误可以交给模型选择恢复,哪些必须由 Runtime 终止?
  5. 为什么无限 Loop 属于工程事故?

下一课会让 Codex 实现这个最小 Loop,用模拟动作得到可运行的 Support Agent V0.2,并用 Trace 与失败测试验收。

延伸阅读 / Sources

核查日期:2026-10-17。

长期有效的原理: 每轮都有 Observation、受控 Action 和 Stop Gate;错误是状态,不是可忽略文本。当前实现方式: SDK 异常类型和默认轮数可能更新,生产实现应显式配置并测试。