本页原始导出仅包含标题。以下内容依据章节主题补充为工程实践指南;涉及具体项目参数时,请以实际代码与配置为准。
本章目标
在不牺牲正确性与安全性的前提下减少 Agent 端到端延迟。
核心设计
- 减少不必要的模型轮次
- 安全并行化独立步骤
- 缓存稳定结果并裁剪上下文
落地步骤
- 规则能确定的路由不调用模型
- 将互不依赖的查询和工具并行执行
- 记录各阶段 P50/P95,优先优化最长路径
常见风险
- 盲目并行造成资源尖峰
- 缓存未隔离用户或版本
- 删减上下文后答案速度更快但正确率下降
验收标准
实现完成后,应能用可复现的测试或运行轨迹证明:主流程结果正确,异常路径能够安全终止或恢复,权限和敏感信息没有越界,并且关键延迟、成本与失败原因可以被观测。