跳到主要内容
← 返回AI Agent Engineering|12 周从 Demo 到真实 Agent 系统

AI Agent Engineering · Week 02

02-01|从一次模型调用到 Agent

区分一次模型输出与能够观察、选择行动并停止的 Agent Runtime,明确 V0.2 要增加的责任。

Agent Loop · Model Call · V0.2

V0.1 已经很有用,为什么还不是 Agent

客户输入一句话,V0.1 返回结构化意图。调用到这里结束。即使模型准确判断 needTool: true,它也没有查询工具、没有读取结果、没有根据新事实选择下一步,更没有停止规则。

一次 Model Call 解决“给定这些输入,输出什么”。Agent 系统还要解决“输出要求行动时,谁执行;结果回来后,谁决定继续还是结束”。

Model Call 与 Agent 的责任差异

Model Call

Input → Model → Output

  • 一次请求
  • 没有应用侧行动
  • 输出后结束
Agent System

Goal → Observe → Decide → Act → Observe → Stop

  • 可能多次模型调用
  • Runtime 执行受控行动
  • 状态与停止条件明确
图 1|“模型会推理”与“系统能行动”属于不同层;Agent 需要 Runtime 把二者连接起来。

Agent 的最小组成

  1. Goal: 当前任务的完成条件,例如“获得授权订单的物流状态,或明确说明为什么无法获得”。
  2. Observations: 客户消息、已验证身份、上一步工具结果和当前错误。
  3. Decision: 模型在允许集合里选择追问、调用工具、回复或停止。
  4. Actions: 由应用 Runtime 校验并执行,不由模型直接访问数据库。
  5. State: 保存已经发生什么、还缺什么、用了多少轮。
  6. Stop Conditions: 完成、无法继续、达到上限、出现不可恢复错误。
GoalObserveDecideActObserve AgainStop / Continue

Runtime 在每次行动前校验,在每次结果后更新 Context,并在边界触发时终止。

图 2|循环不是让模型无限思考;它是应用管理的有限状态推进。

V0.2 要怎样处理物流查询

客户说:“Where is my order?”

  1. V0.1 观察到 order_tracking,但 orderId 为 null。
  2. Agent 选择 ask_for_order_id,向客户追问。
  3. 客户提供 XB-1024,新信息进入下一轮 Context。
  4. Agent 选择 lookup_order。Week 02 先用模拟动作返回结果;Week 03 才实现正式 Tool。
  5. Runtime 校验动作和参数,执行后把结果作为 Observation 加回。
  6. Agent 看到订单存在但缺物流号,选择说明当前状态或转人工。
  7. 最终输出满足 Goal,循环停止。

动态性只出现在“根据当前 Observation 选择下一步”。身份校验、参数验证、轮数限制和动作执行仍由代码负责。

谁决定下一步

Model proposes
  • 追问订单号
  • 请求调用允许工具
  • 根据结果组织回复
Runtime decides what can execute
  • 动作是否在白名单
  • 参数与权限是否通过
  • 是否超过轮数或预算
  • 错误后重试、停止或升级
图 3|模型提出下一步,Runtime 拥有执行边界。这个分离贯穿后续所有工具课。

Failure Lab

把生成“我要查订单”当成已经查过

为什么诱人: 模型输出完整句子,用户体验像任务已经发生。

为什么失败: 语言声明没有产生业务事实。

更好的设计: 区分 action request、tool result 和 final response;只有 Runtime 执行后才产生 Observation。

每轮把所有历史原样重发

为什么诱人: 实现简单,似乎不会忘记。

为什么失败: Context 持续增长,旧错误与敏感信息反复进入模型。

更好的设计: 当前先保存最小状态和必要结果;Week 06 再系统设计 Context 策略。

没有可检查的完成条件

为什么诱人: 让模型自己判断“做好了”。

为什么失败: 模型可能继续调用、提前结束,或用一句自信回复掩盖事实缺失。

更好的设计: Goal 写成可观察状态,同时设置 max turns、不可恢复错误和人工升级条件。

实践:把一次分类改写成有限任务

为“查询订单物流”写出 Goal、初始 Observation、允许 Decision、模拟 Action、State 字段和四类 Stop Condition。不要写代码,先确保每次循环都能回答“现在多知道了什么”和“为什么还要继续”。

Acceptance Criteria

  • ☐ 能区分 Model Call 输出与 Runtime 执行动作。
  • ☐ Goal 能由状态判断是否完成。
  • ☐ 至少定义追问、查询、回复和升级四类动作。
  • ☐ 每个动作都有应用侧校验。
  • ☐ 工具结果会作为新 Observation 进入下一轮。
  • ☐ 定义完成、缺信息、达到上限和不可恢复错误四类停止条件。
  • ☐ 没有让模型直接拥有数据库或退款权限。

合上正文,试着回答

  1. V0.1 为什么仍是一次模型调用?
  2. Agent 系统最少需要哪六类组成?
  3. 模型选择工具后,谁决定是否执行?
  4. Tool result 为什么要重新进入 Context?
  5. “模型说任务完成”为什么不能成为唯一 Stop Condition?

下一课会打开 Agent Loop 的内部:逐轮追踪 Observe、Decide、Act、错误和 Stop Condition,理解无限循环怎样成为工程事故。

延伸阅读 / Sources

核查日期:2026-10-17。

长期有效的原理: 模型提出行动,Runtime 执行并控制循环;完成条件必须可观察。当前实现方式: Agent Runtime 可以手写或由 SDK 管理,接口会演进。