AI 科普 AI-04

AI-04

智能体(Agent)

  • 智能体
  • Agent

面试在问什么

听到「Agent」,面试官很少停在定义。他们接着问:这个场景真的需要 Agent 吗?循环什么时候停?哪一步不能自动跑?出了错怎么复现?

能说出「这里不该用 Agent」的候选人,往往比把什么都包装成 Agent 的人更让人放心。

定义

智能体(Agent):模型围绕一个还没完成的目标,反复选择动作、观察结果、决定下一步,直到满足停止条件或预算用完。动作通常是 工具调用,也可以是向用户追问,或把草稿交给人确认。

它和单次工具调用的区别在于谁决定下一步。单次调用的路径是写死的:问进度就调 get_claim_status,调完回答。Agent 的下一步由模型根据上一轮的观察来选,但只能在你给的工具、权限和预算范围内选。

少了下面任何一个零件,就别急着叫它 Agent:

  • 目标:什么算完成。
  • 循环:观察 → 选动作 → 执行 → 再观察。
  • 停止条件:成功、失败、转人工、预算用尽。
  • 跨步状态:已经查到什么、还缺什么、上次错在哪。

什么时候不该用 Agent

Anthropic 2024 年底的文章 Building effective agents 区分了两种系统:workflow(代码预先定好路径,模型只负责其中几步)和 agent(模型自己决定路径)。他们的建议是先用最简单的方案,确实需要时才加复杂度。

实践中的判断:

  • 路径事先已知(总是先查 A 再查 B 再回答)→ 写成 workflow,用代码编排。好测、便宜、可预测。
  • 只读一个字段就能回答 → 单次工具调用。
  • 路径会随中间结果分叉,分支多到写不完 → 才考虑 Agent。

Agent 的代价是:步数不定,成本和延迟不可预测,每多一步就多一次出错的机会,调试也更难。面试时主动说出这些代价,是加分项。

循环与规划

最常见的骨架是 ReAct(Yao 等人,ICLR 2023):想一步,做一个动作,看结果,再想。另一种是先规划后执行(plan-and-execute):先让模型列出步骤,再逐步执行,中途结果不对就重新规划。前者灵活,后者更容易让人审阅计划。

不管用哪种,状态要存在程序里(已确认的事实、待办、错误记录),不要只靠对话历史。对话越长,模型越容易忘掉前面的观察,token 成本也越高。

停止条件与预算

写在程序里,不写在提示词里:

  • 成功条件:目标达成,例如缺件清单为空。
  • 失败条件:同一错误连续出现两次 → 转人工。
  • 预算:最大轮数、最大工具调用次数、总耗时、总 token 费用。

预算用完时,输出已确认的事实、未完成的步骤、最后一次错误原文。禁止说「已处理完毕」。这和后端给请求设超时、给重试设上限是同一件事:没有上限的循环迟早会在生产环境里空转。

护栏与人在回路

  • 工具白名单:Agent 只能调清单里的工具,权限按调用者身份算,循环中途不能换成更宽的凭证。
  • 前置条件:有副作用的工具要求前面有对应的观察。例如没有成功读到缺件清单,就不允许写催办记录。
  • 人工门闩:写入、对外发送、改结论、动钱的操作,模型只能提议,人确认后执行。门闩在代码里,不靠模型自觉。怎样设计暂停、确认画面和超时,见 人工在环。
  • 输入隔离:工具返回的网页、邮件、文档内容是数据,里面的「指令」不能触发新动作。

评测

Agent 的评测比单轮问答难,因为同一个任务可以有很多条路径。至少做三层:

  1. 任务成功率:准备一组真实场景,看最终结果对不对。
  2. 步骤检查:工具选得对不对,参数对不对,有没有越权或多余的写入。
  3. 效率:每个任务平均几步、多少 token、多长时间。成功率不变,步数翻倍也是退化。

写操作在评测时接 mock 或沙箱,不打真实系统。每次换模型、改提示词、加工具,都要把这组场景重跑一遍,和后端改代码跑回归测试一样。

可观测性

Agent 出错后最难的是复现。每次运行都要记下:

  • 一个 trace id 串起所有步骤,每一步是一个 span(类似分布式链路追踪);
  • 每步的输入、模型输出、工具名、参数、返回或错误、耗时、token 数;
  • 模型版本和提示词版本。

有了这些,才能回放一次失败的运行,判断是模型选错了动作、工具返回异常,还是停止条件写漏了。

一个柜面例子

虚构的香港保险公司。柜员说:「P-18442 缺的材料帮我跟一下,齐了告诉我,还缺就记一笔催办。」

任务卡:

目标:在柜员权限内,把 P-18442 的缺件跟到「可提交」或「需转人工」。
工具:get_claim_status(只读);list_missing_docs(只读);create_followup_note(写入,需柜员确认,幂等键由应用生成)。
禁止:拒赔、改理赔结论、承诺批复日期。
停止:缺件为空 → 成功;同一错误连续 2 次 → 转人工;超过 8 轮或 12 次工具调用 → 预算用尽。
预算用尽时:列出已确认事实、未完成步骤、最后一次错误原文。

一次正常运行:读进度(等材料)→ 列缺件(缺医疗收据正本)→ 柜员确认后写催办 → 再读一次状态,仍缺收据,停在「已记催办,仍缺收据」。

如果第一步超时,交回超时原文,不进入写入步骤。如果模型没列缺件就想写催办,程序直接拒绝。

换一类雇主

  • AI 原生/产品公司:Agent 本身可能就是产品,重点是评测体系、成功率和每次任务的成本。
  • 大厂云与平台:平台通常提供 Agent 编排和工具接入能力,你要帮客户判断哪些流程用 workflow 就够,哪些值得用 Agent。
  • 咨询与系统集成:客户期望往往偏高,先交一个范围很窄、能验收的 Agent,把人工门闩和审计日志写进方案。
  • 甲方企业内部:最看重权限、人工确认和可追溯,能用 workflow 解决的,通常不该上 Agent。

面试怎么说

"I only use an agent when the path really depends on intermediate results. If the steps are known in advance, a workflow in code is cheaper, faster and easier to test. When I do build an agent, it gets a whitelist of tools running with the user's permissions, a step and cost budget, and stop conditions written in code. Reads can loop automatically. Writes and anything customer-facing wait for a human. Every step is traced, so I can replay a failed run. And I evaluate on a fixed scenario set: task success, whether the right tools were called, and steps per task, rerun after every model or prompt change."

先说「什么时候不用」,再说怎么控;用客户习惯的语言(粤语或普通话)讲清楚,用英文把结论写下来。

自测

  1. 单次查保单进度,和「缺材料跟到可提交或转人工」,哪个需要 Agent?你会写哪些停止条件和人工门闩?
  2. 如果面试官来自咨询公司,客户想要一个「全自动处理理赔」的 Agent,你会怎样回应和收窄范围?
参考答案

自测 1

单次查进度是一次工具调用,不需要 Agent。跟进缺件的下一步取决于中间结果(缺什么、写入成功没有),可以用带停止条件的循环。如果路径其实固定,写成 workflow 更好。

停止条件:缺件为空 → 成功;同一错误连续两次 → 转人工;轮数、调用次数或费用超上限 → 预算用尽,输出已确认事实和未完成步骤。

人工门闩:写催办需柜员确认;宣布可提交、拒赔、承诺批复日期都不自动执行。

自测 2

不直接说不行,先拆。把「理赔处理」拆成读取、核对、起草、决定、通知几步,标出哪些只读、哪些有副作用、哪些会改变赔付结论。

第一期只自动化只读和起草:收集材料、核对缺件、起草给理赔员的摘要。决定和对外通知留给人。验收标准写清楚,例如缺件识别准确率、理赔员每单节省的时间,并约定评测场景集。

审计日志和人工门闩写进交付文档。后续按数据逐步放开,而不是一开始就承诺全自动。

一句话总结

Agent 是带着目标、预算和停止条件的工具循环。 路径固定就用 workflow;需要 Agent 时,读可以自动,写要等人,每一步都要能追踪和复现。

延伸观看

  1. What are AI Agents? — IBM Technology 的短解说:从复合系统讲到把控制逻辑交给模型的 Agent。
  2. AI Agents Explained: LLM, Tools & Memory — 把大脑(LLM)、手(工具)、记忆与目标拆开讲的一节短解说。

在 GitHub 上查看源文