AI 科普 AI-16
AI-16
可观测性(Observability)
- 可观测性
- Observability
面试在问什么
虚拟银行助手已经能查余额、检索说明书、转账前停下来等人确认。同事说:「日志都有,出了问题可以查。」面试官很少停在这句话。他们接着问:客户把转账上限说成了错误的数字,你能不能回放那一笔?当时检索到了哪一条、哪个版本?模型叫的是哪一个、提示词里有没有那句原文?工具有没有真正执行?护栏拦了吗?是谁点的批准?花了多少 token?
只说「我们有日志」,偏弱。能讲清可观测性是一次请求的可回放记录——步骤、依据、裁决和费用都能对上,并且客户资料不会因此多出一个出口——才像 FDE。
公开面经里的常见问法就围着这几件转:线上错句怎么定位、追踪里要记什么、敏感数据怎么处理、追踪和评测怎么接起来。
怎样用冻结集验收,见 评测。怎样在模型外面拦截或等人,见 护栏 和 人工在环。这篇只讲:上线之后,你怎样看见一笔请求真正走了哪几步,以及怎样在能看见的同时不把客户资料散出去。
定义
可观测性(Observability):靠系统对外给出的遥测,判断内部发生了什么,并能定位到可以改的那一步。
对 LLM 应用,核心载体是一次请求的追踪(trace)。用户这一轮是根,下面挂着检索、模型调用、工具、护栏裁决和人工确认这些子步骤(span / run)。每一步留下输入、输出、耗时;模型调用再留下模型版本、token 和费用。同一段对话里的多轮,用同一个会话标识串起来。
它解决的不是「磁盘上有日志」。一条合格的追踪要能回答四件事:
- 这一笔为什么这样答。 检索到了什么、模型看见了什么、工具返回了什么。
- 卡在哪、错在哪。 是检索错了、模型改了数字、工具空返回还继续说,还是人点漏了。
- 花了多少。 延迟、token、费用,以及有没有把无关上下文全部塞进去。
- 能不能复现、能不能给人看。 有权限的人能打开;无关的人打不开别人的请求;出域的内容已经脱敏。
日志、指标和追踪差在哪
三者都要,但查一句错答时,先打开追踪。
| 典型长什么样 | 它能做的 | 它做不到的 | |
|---|---|---|---|
| 日志 | 「生成成功,800ms」 | 记事件、报错堆栈 | 回放当时的检索片段和提示词 |
| 指标 | P95 延迟、当日费用、拒答率 | 报警、看趋势 | 解释这一笔为什么错 |
| 追踪 | 一棵步骤树,从用户输入到最终答案 | 回放单笔、把失败归到可以改的位置 | 单独替代评测标准;也代替不了权限和脱敏 |
「接口返回 200」只说明请求走完了。助手完全可以在 200 里给出一句没有依据的上限。
一条追踪里至少要有什么
不必绑定某一家观测产品,结构要对得上排查:
- 标识。 请求 ID、会话 ID、租户或内部用户号。不要用证件号、卡号当 ID。
- 最终给用户看的那句话,以及中间步骤的输入和输出。
- 检索。 查询是什么、命中了哪些文档和片段、版本号是多少。只写「检索成功」不够。
- 模型调用。 模型名和版本、关键参数、token、延迟、费用。
- 工具。 名字、参数、返回或错误码,以及是否真正执行。见 工具调用。
- 护栏和人工在环。 拦了还是放了、改道到谁、谁在何时批准或驳回。没有这些步骤,出了写操作你说不清责任。
- 失败名字。 和评测用同一套,例如「该拒没拒」「引用对不上」「工具空返回仍作答」。名字要具体到能改。
不能把什么都写进去
提示词和检索片段里经常有账户、地址、余额,保险场景里还有病历。如果把原文原样送到境外或共享的追踪平台,等于又开了一个数据出口。
要先定三件事:
- 出域前脱敏。 证件号、账户号、电话、地址做掩码,或改写成内部 ID。需要原文排障时,在受控环境里按权限查看,而不是把全文默认同步到演示项目。
- 谁能看、留多久。 按角色和租户隔离;保留期写清楚。追踪是为了排障和评测,不是再存一份客户档案。
- 生产和演示分开。 给面试或客户演示用的项目,不要连着生产流量。
大厂云与平台常把追踪做成托管服务。要替客户问清:数据驻留在哪、能不能自托管或导出、默认保留多久、提示词原文默认出不出域。
和评测怎么配合
评测 讲的是冻结集和回归。追踪提供那些真实出错的样本。
线上的点踩、转人工、护栏触发、引用核对失败,都要能跳到那一条追踪。先抽样阅读,给失败起名字,再决定改检索、改提示词、改工具校验还是改确认画面。改完用同一套冻结集重跑,并看线上同类失败有没有下降。
没有可回放的追踪,评测只能在自己编的例子上转圈;只有追踪没有冻结集,你看见了错,却说不清这次改动有没有把旧的错改回来。
香港落地例子
延续上一篇那间虚构的香港虚拟银行客户助手。
客户投诉:助手把某账户的每日转账上限说成了 HK50,000。下面的金额是编的,不代表任何机构。
如果只有应用日志,你大概能看到「生成成功,800ms」。不知道检索到的是哪一页、是不是过期版本、模型是不是自己改了数字、引用核对有没有跑。
打开追踪以后,常见是两条路,改法不同:
- 检索步骤就错了。 命中了另一款产品,或命中了已下线的 FAQ。该改切块、过滤条件或索引版本,见 RAG。
- 检索是对的,生成写错了。 片段里是 50,000,答案写成了 100,000。该查引用核对和输出护栏为什么没拦住,见 幻觉 和 护栏。
再演一笔写操作。同事说「帮我把结单发到这个新邮箱」。追踪里要能看到:发信工具有没有真正执行、护栏有没有把未验证地址拦住、是谁在确认画面上点的批准。如果只有「邮件已发送」,出了误发也分不清是自动执行还是人批准的。
上线前用几笔演练验收:不看代码也能从追踪回放关键步骤;账户号在出域副本里已被掩码;无权人员打不开别人的请求。
换一类雇主
虚拟银行写在上面。另外几类用同一把尺子,题目不同:
| 雇主 | 通常要能回放的 | 你要钉住的 |
|---|---|---|
| 保险公司 | 抽取了哪些字段、对照了哪条条款、谁签了结论 | 病历和身份证不能以明文进共享平台。结论和出处能从追踪对上 |
| 大厂云与平台 | 客户在托管追踪里能看到步骤、费用和延迟 | 数据驻留、保留期、脱敏默认值和谁能导出,要在开通前问清 |
| 咨询与系统集成 | 错句能查到步骤,验收案例能对上追踪 | 客户签字的是「能回放、能脱敏、能和冻结集对齐」,不是「接入了某家观测产品」 |
| AI 原生 / 产品公司 | 多租户隔离、费用和延迟、失败类型的趋势 | 默认不要把客户的生产追踪送到你们自己的演示项目 |
甲方企业内部的银行、保险、地产、基金,和上面这间虚拟银行是同一刀法:能回放、能定位、出域先脱敏、访问有控制。
面试怎么说
"Observability for an LLM app means I can replay a single request, not just see that it returned 200. The trace is a tree: retrieved chunks with document versions, each model call with tokens and cost, each tool call and whether it actually ran, plus any guardrail or human-approval decision. If a virtual-bank assistant quotes the wrong transfer limit, I can see whether retrieval hit the wrong product or an outdated FAQ, or whether the right clause was there and the model changed the number. Metrics alert me when latency or cost spikes; they don't explain that one answer. Thumbs-down should open the same trace so we can name the failure and rerun the frozen eval set. Prompts contain customer data, so we mask identifiers before anything leaves our boundary, and we scope access by tenant and role."
先把「200 成功」和「能回放这一笔」拆开,再说追踪里有什么、和评测怎么接、资料怎么保护;用客户习惯的语言(粤语或普通话)讲清楚,用英文把结论写下来。
小练习
仍是上面那间虚构的虚拟银行。同事报了三句「已经有可观测性」。哪一句其实只有指标?哪一句能回放但仍把资料露出去了?哪一句看起来有日志、却查不清责任?各用一句话。
- 仪表盘上有 P95 延迟和每日 token 费用,同事认为错句也可以从这里看出来。
- 每次请求都把完整提示词和检索原文送到境外演示用的追踪项目,团队里所有人都能打开任意客户的对话。
- 应用日志写了「邮件已发送」。结单被发到错误地址后,看不到工具参数、护栏裁决,也看不到是谁点的批准。
自测
- 这间虚拟银行。应用日志和追踪差在哪?客户把转账上限报错时,你在追踪里先看哪两处?为什么不能把提示词原文默认同步到共享平台?
- 如果面试官来自保险公司,理赔助手要抽收据字段并对照条款。和这间虚拟银行相比,追踪里哪些字段更要留下,哪些内容更不能明文出域?评测要怎样用上这些追踪?
参考答案
小练习
- 其实只有指标。 P95 和每日费用能报警、能看趋势,解释不了这一笔为什么把上限说错。要回放检索、生成和核对这些步骤。
- 能回放,但把资料露出去了。 提示词里常有账户和余额。出域前要脱敏,按租户和角色控制访问,演示项目不要连生产流量。
- 看起来有日志,却查不清责任。 「邮件已发送」只说明走完了。追踪里还要有工具参数、是否真正执行、护栏有没有拦、是谁批准的。
自测 1
差别:应用日志多半只记「生成成功」和耗时。追踪是这一轮的步骤树,能回放检索到的片段和版本、模型看见了什么、工具有没有执行、护栏和人工确认怎么裁决,以及 token 和费用。
先看两处。第一,检索步骤:命中的是不是该产品、是不是当前版本。错了就改索引、切块或过滤。第二,生成和核对:片段里的数字对不对、模型有没有改写、引用核对有没有拦住。检索对、生成错,改的是核对和护栏,不是先重建整个索引。
提示词和检索原文里有客户资料。默认同步到共享平台,等于多开一个数据出口。出域前掩码,生产和演示分开,无权的人打不开别人的请求。
自测 2
更要留下的:抽取到的字段、对照了哪一条条款、条款版本、结论是谁在何时签的。这些是事后对账和审计要用的,不能只有「已生成理赔意见」。
更不能明文出域的:病历、身份证,以及其他可以直接认出当事人的材料。银行这边要掩码的是账户和余额;保险这边还要先把健康资料挡在共享平台之外。需要原文排障时,在受控环境里按权限查看。
评测同样从真实出错的追踪里取样,给失败起名字,再写进这间公司自己的冻结集:该抽取对的、该拒答的、条款对不上就必须停给人。不要拿银行的转账上限案例来交差。改完重跑冻结集,并看线上同类失败有没有下降。
一句话总结
可观测性是一次请求的可回放记录:步骤、依据、裁决和费用都能对上,并且能定位到可以改的那一步。 「接口返回 200」或一条「生成成功」不是可观测性。它给评测提供真实出错样本,但不能代替冻结集;看见的同时,客户资料不能多出一个出口。
延伸观看
- LLM Observability, Evaluation, Experimentation Platform — AI Engineer Europe 上 Dat Ngo(Arize)的短分享:把一次请求的提示词、检索和工具调用看成可回放的追踪,再和评测、实验接起来。看的是「能看见、能改进」这一层,不必绑定某一个平台。