编排多个实验
当你需要在同一个推理服务上测试多个负载时,可以一次配置并运行多个实验。
创建编排
跳转到「创建编排」- 在 性能实验 点击 编排多个实验。
- 填写共享的目标地址、模型和环境信息。
- 添加或复制实验,为每一步分别设置并发、请求数、测试数据和原生配置。
- 核对依赖关系与预计负载。
- 点击 立即运行流程。不需要先保存模板。
页面最多配置 24 个实验,每个实验最多选择 7 个前置实验,整个流程请求最多 1 MiB。
串行还是并行
跳转到「串行还是并行」默认按添加顺序串行执行。测试同一服务的不同并发时,串行更便于避免实验彼此叠加负载。
取消前置依赖可让实验并行运行。例如,两个独立节点同时开始,第三个节点等待它们都完成后再执行。系统不允许循环依赖。
查看运行进展
跳转到「查看运行进展」性能页展示最近的流程记录。进入流程详情后,可以从已关联实验的节点打开日志和结果。还未开始的节点不会提前产生实验指标。
遇到失败时,先看节点诊断及是否允许重试。重试是显式操作;不能假定包含部署等副作用的节点都能直接重做。
复制或保存
跳转到「复制或保存」- 复制流程再运行:带入原配置,修改后创建新的执行。
- 保存为可复用流程:进入团队流程库,供后续重复使用。
一次性运行也保留冻结的执行快照,但不会自动加入团队模板库。API Key 不回填,也不写入共享流程;再次执行需要重新提供。
环境快照的复用
跳转到「环境快照的复用」使用孔明服务时,各实验共享选择服务时采集的环境快照。复制、重试和后续执行不会自动重新采集。服务配置变化后,应主动重新选择服务并保存新版本。
命令行的串行、并行 JSON 和幂等提交见多实验编排与 CI。