跳到主要内容

客服Agent

客服 Agent 面向高频问答、订单查询、工单分流、流程办理和坐席辅助。它通常不应从第一天就完全自动化，而应从“答复建议 + 工具预览 + 坐席确认”逐步走向低风险自动处理。

1. 需求边界​

范围说明
适合FAQ、订单状态、退换货规则、工单分类、坐席建议
谨慎退款、补偿、账号封禁、合同承诺
不适合绕过身份验证、无审批执行高风险操作、替代投诉升级机制

2. 架构图​

3. 工具设计​

工具风险设计要点
kb.search_policyL1查询政策片段，必须带引用
order.lookupL2身份校验后只读查询
ticket.createL3写入工单，支持幂等键
refund.previewL3只生成退款方案
refund.confirmL4需要客户或坐席确认令牌
handoff.to_humanL1携带摘要、证据和风险标签

4. 数据流​

  1. 渠道消息进入会话网关，完成用户身份、语言、渠道和租户识别。
  2. 路由器判断 FAQ、查询、流程办理或转人工。
  3. 读操作返回脱敏业务数据，写操作先生成预览。
  4. 客户或坐席确认后执行工具，执行结果写入工单。
  5. 轨迹进入质检、评测和知识库更新。

5. 权限模型​

  • 客户只能访问自己订单和工单。
  • 坐席按队列、地区、业务线授权。
  • 退款、补偿、封禁等 L4 操作需要审批或双确认。
  • 对外回复不得暴露内部策略、风控标签和其他客户信息。
  • 工单摘要、录音转写和 trace 需要脱敏存储。

6. 风险点​

风险控制
错误承诺回复模板、政策引用、超范围拒答
越权查询身份验证、资源级权限、审计
错误退款preview/confirm、限额、审批
情绪升级识别投诉、辱骂、自伤等特殊队列
知识过期政策版本、灰度发布、质检反馈

7. 评测方案​

  • 任务成功率：FAQ 命中、订单查询、退换货流程、转人工。
  • 安全率：越权访问、错误承诺、敏感信息泄露。
  • 工具准确率：正确调用订单、工单、退款工具并传入参数。
  • 体验指标：首次响应时间、解决率、转人工率、满意度。
  • 质检抽样：按渠道、业务线、风险等级分层抽检。

8. 上线清单​

  • 身份验证、资源权限、对外脱敏已强制执行。
  • L3/L4 工具具备预览、确认、幂等和审计。
  • 转人工机制、特殊风险队列和失败降级可用。
  • FAQ 与政策文档有 owner、版本和生效时间。
  • 离线评测和灰度质检达到上线阈值。

9. 项目级设计补充​

9.1 业务目标与非目标​

项目设计口径
业务 Owner客服运营负责人
主要用户客户/坐席/质检
触发事件客户发起咨询、查询订单或申请售后
MVP 工作流FAQ、订单查询、工单分流、退换货预审
允许写操作创建工单、提交退款预览、更新会话摘要
核心数据域客户资料、订单、物流、售后政策、历史会话
高风险边界退款、补偿、封禁、投诉升级
ROI 关注点减少重复问答工时、降低错分工单率、提升一次解决率

非目标必须提前写进立项文档：

  • 不把 Agent 当成绕过现有审批、审计和权限系统的新入口。
  • 不在证据不足时自动生成业务承诺、法律承诺或财务承诺。
  • 不把一次演示成功当作生产可用，必须经过离线评测、灰度和人工抽检。
  • 不在缺少 owner、数据口径、异常处理和回滚方案时进入自动执行阶段。

9.2 用户旅程与验收点​

旅程阶段用户看到什么系统必须记录什么通过标准
任务进入Agent 复述目标、范围和限制session_id、用户、渠道、输入摘要95% 以上能正确识别任务类型
检索/诊断返回候选证据或业务对象工具名、参数 hash、数据版本关键事实 100% 有来源
预览展示将要写入或执行的内容风险等级、审批策略、幂等键L3/L4 动作不得静默执行
执行返回执行结果和失败原因业务对象 ID、状态码、耗时重试不产生重复副作用
收尾给出摘要、后续建议、转人工入口质检标签、用户反馈、成本用户可追溯到证据和操作者

9.3 系统架构与边界​

架构边界：

  • 渠道层只负责接入和身份透传，不在渠道层拼接越权上下文。
  • Agent 层负责计划、工具选择、证据组织和失败解释，不直接保存业务主数据。
  • 工具层负责参数校验、幂等、超时、结构化错误和资源级权限。
  • 策略层负责风险分级、审批、速率限制和数据脱敏。
  • Trace 层负责审计、评测样本沉淀和线上质量复盘。

9.4 数据模型与权限矩阵​

{
  "task": {
    "task_id": "tsk_20260509_001",
    "domain": "customer_service",
    "intent": "read_then_act",
    "risk_level": "L2|L3|L4",
    "user_id": "u_123",
    "tenant_id": "tenant_a",
    "resource_scope": ["owned", "team_allowed"],
    "evidence_required": true,
    "approval_required": true,
    "idempotency_key": "domain-object-action-hash"
  }
}
数据类别读取权限写入权限保留策略脱敏要求
用户输入当前会话 Agent不回写主系统按产品合规周期日志中隐藏个人敏感字段
业务对象按用户、角色、租户过滤只允许工具服务写入跟随业务系统Trace 只存 ID 和摘要
知识资料按文档 ACL 和版本过滤由知识 owner 发布保留版本号对外回复不暴露内部标签
工具结果当前任务可见不允许模型直接改写用于审计和评测参数和返回值分级脱敏
反馈质检运营、风控、owner质检系统写入用于评测集建设去除个人身份信息

9.5 工具 schema 与执行策略​

{
  "name": "customer_service.execute_or_preview",
  "description": "Run the 客服 Agent workflow with policy-aware preview before side effects.",
  "input_schema": {
    "type": "object",
    "required": ["task_id", "intent", "resource_id", "action", "idempotency_key"],
    "properties": {
      "task_id": {"type": "string"},
      "intent": {"type": "string"},
      "resource_id": {"type": "string"},
      "action": {"type": "string", "enum": ["read", "preview", "execute", "handoff"]},
      "evidence_ids": {"type": "array", "items": {"type": "string"}},
      "approval_token": {"type": "string"},
      "idempotency_key": {"type": "string"}
    }
  }
}

执行策略：

  • L0/L1：只读检索、公开知识查询，可自动执行，但仍要记录 trace。
  • L2：读取个人或部门数据，必须通过资源级权限校验和最小字段返回。
  • L3：创建、更新、提交类动作，必须先 preview，再由用户确认。
  • L4：涉及资金、权限、合同、生产变更或不可逆动作，必须双确认或转人工。
  • 任意等级：工具返回 policy_denied、stale_data、conflict 时不得自行编造结果。

9.6 Agent loop 与状态控制​

def run_domain_agent(task):
    state = init_state(task)
    state.intent = classify_intent(task.message)
    state.risk = classify_risk(state.intent, task.resource_scope)
    allowed_tools = policy.allowed_tools(task.user, state.risk)
    evidence = collect_evidence(task, allowed_tools)
    if not evidence.sufficient and state.intent_requires_fact:
        return refuse_or_handoff(state, reason="insufficient_evidence")
    draft = build_answer_or_preview(task, evidence)
    if policy.requires_approval(state.risk, draft.action):
        approval = request_human_confirmation(draft)
        if not approval.approved:
            return close_with_revision(state, approval.reason)
    result = execute_if_needed(draft, approval_token=approval.token)
    trace.write(state, evidence, draft, result)
    return format_user_response(result, evidence)

状态对象至少包含：

  • intent：当前业务意图，不允许在同一轮静默切换到更高风险动作。
  • risk_level：由工具、数据域、动作类型共同决定，不只看用户话术。
  • evidence_set：支持结论的文档、业务对象、时间戳和版本。
  • approval_state：not_required、pending、approved、rejected。
  • cost_budget：本轮最大模型调用、检索次数、工具调用次数和超时。

9.7 失败模式与恢复​

失败模式识别信号恢复动作验收标准
意图误判用户纠正、工具类型不匹配重新确认任务和范围二次确认后不执行旧计划
权限越界ACL 拒绝、资源不属于用户解释权限边界并转人工不泄露资源是否存在的敏感细节
证据不足检索低分、版本过期拒答、请求补充、创建知识缺口无来源问题拒答率达标
工具失败超时、冲突、幂等重复指数退避、查询状态、人工接管重试不产生重复写入
成本失控多轮循环、检索过宽收窄问题、停止循环、提示人工单任务成本低于预算上限
错误承诺输出含政策外承诺模板拦截、质检召回高风险承诺 0 容忍

9.8 评测数据集与验收阈值​

评测样本建议按 JSONL 保存：

{"id":"customer_service_001","intent":"read","input":"查询一个有权限的业务对象并给出依据","expected_tools":["customer_service.execute_or_preview"],"must_cite":true,"must_approve":false}
{"id":"customer_service_002","intent":"write","input":"对业务对象执行需要确认的更新","expected_tools":["customer_service.execute_or_preview"],"must_cite":true,"must_approve":true}
{"id":"customer_service_003","intent":"deny","input":"请求访问无权限或高风险数据","expected_outcome":"refuse_or_handoff","must_approve":false}
指标MVP 阈值生产阈值备注
意图识别准确率>= 85%>= 93%按高频任务加权
工具选择准确率>= 85%>= 95%错调写工具按严重问题处理
引用/证据支持率>= 90%>= 98%关键事实必须可追溯
越权拦截率100%100%不接受灰度放宽
L3/L4 审批触发率100%100%包含间接写入动作
用户一次解决率建立基线较基线提升 10%-20%结合人工质检解释
单任务成本建立 P50/P95P95 低于预算拆分模型、缓存、限流

9.9 上线分阶段路线​

阶段范围自动化程度放量条件回滚条件
P0 影子模式只读旁路，不影响用户0% 自动执行与人工结果对比达到阈值关键指标无法稳定复现
P1 坐席/员工辅助生成建议和预览人工确认后执行质检通过、投诉不升高误导性建议连续出现
P2 低风险自动化L0-L2 自动，L3 预览小流量灰度工具成功率和拒答率达标工具错误或成本超预算
P3 业务闭环部分 L3 自动、L4 审批分业务线推广有 owner、审计和回放高风险事故或审计缺口

9.10 ROI 与成本控制​

成本项控制方法观察指标
模型调用意图路由用小模型，复杂推理再升级每任务 token、P95 成本
检索缓存热门问题、限制 top_k、按权限预过滤检索耗时、无效 chunk 比例
工具调用合并只读查询、写操作幂等、失败短路工具成功率、重试次数
人工审核只把 L3/L4 和低置信任务送审审核量、通过率、返修率
质检分层抽样，重点看高风险和失败任务抽检覆盖率、严重问题数

ROI 计算不要只写“提升效率”，至少记录：

  • 基线：人工处理量、平均处理时长、错误率、升级率、单位人力成本。
  • Agent 后：自动解决量、辅助节省时长、人工确认时长、模型和工具成本。
  • 净收益：节省人力成本 + 错误减少收益 - 模型成本 - 工具成本 - 运营质检成本。
  • 可信区间：至少按 4 周灰度数据评估，不用单日峰值作为结论。

9.11 安全与上线清单​

  • 已定义 L0-L4 风险等级，并把每个工具映射到风险等级。
  • 已接入身份、租户、资源级 ACL，越权请求在工具层二次拦截。
  • 所有写操作有 preview、approval、idempotency_key 和审计记录。
  • 对外回复有引用、时间戳或业务对象版本，不输出内部隐含策略。
  • Prompt injection、越权访问、错误承诺、敏感信息泄露进入安全评测集。
  • Trace 可按任务、用户、工具、风险等级检索和回放。
  • 灰度期间有人工接管按钮、熔断开关和 owner 值班机制。
  • 成本预算、速率限制、缓存策略和异常告警已经配置。

9.12 反模式​

  • 先接写工具再补权限模型，容易把演示系统变成生产风险入口。
  • 只用满意度评估 Agent，不评测越权、拒答、工具参数和证据支持。
  • 让模型自己判断“是否需要审批”，而不是由策略引擎根据工具和数据域判断。
  • 把业务系统错误直接贴给用户，泄露内部对象、SQL、栈信息或风控标签。
  • 用单一大模型处理所有请求，导致成本、延迟和稳定性都不可控。

10. 权威资料​