跳到主要内容

architecture

核对日期:2026-05-13。

1. 架构目标

本系统优先保证:

  • 输出有依据。
  • 失败可观察。
  • 权限可控制。
  • 成本可估算。
  • 关键动作可回滚。

2. 总体架构

3. 核心模块

模块职责输入输出失败处理
UI收集任务、展示结果和引用用户输入请求、反馈表单校验、重试提示
API鉴权、任务管理、限流请求任务结果错误分类、trace id
Context Builder组织指令、上下文和约束任务、检索结果prompt/messages超长截断、缺信息拒答
RAG/工具层检索证据或调用工具query / tool args文档片段 / 工具结果权限过滤、空结果
模型网关调用模型、路由、fallbackmessages原始模型输出超时、重试、降级
Parser结构化解析和校验模型输出可用结果schema 校验失败重试
Trace记录调用、成本、延迟执行事件日志和指标脱敏、采样

4. 数据流

  1. 用户提交任务。
  2. 系统做身份校验和输入校验。
  3. 系统根据任务构造检索 query 或工具调用参数。
  4. 检索层返回带 metadata 的证据。
  5. Context Builder 组装模型输入。
  6. 模型返回结果。
  7. Parser 做结构化校验。
  8. 系统展示结果、引用、风险提示和反馈入口。

5. 控制流

6. 权限和审计

资源或动作权限要求审计字段人工确认
读取公开知识库登录用户user id、doc id、query
读取内部文档文档权限user id、doc id、permission
执行业务工具工具级权限tool name、args hash、result status视风险
写入或外发高权限approver、payload summary、trace id

7. 状态和存储

数据存储位置保留时间脱敏要求
会话记录[存储][时间]移除敏感字段
任务 trace[存储][时间]参数摘要化
评测结果[存储]长期不含真实隐私数据
失败样例[存储]长期用合成或脱敏样例

8. 回滚和停用

至少准备:

  • 关闭模型功能的开关。
  • 降级到规则或人工流程的路径。
  • 回滚 prompt 版本的方法。
  • 回滚模型版本或 provider 的方法。
  • 清理错误缓存或污染索引的方法。