跳转到内容

编排多个实验

当你需要在同一个推理服务上测试多个负载时,可以一次配置并运行多个实验。

  1. 在 性能实验 点击 编排多个实验。
  2. 填写共享的目标地址、模型和环境信息。
  3. 添加或复制实验,为每一步分别设置并发、请求数、测试数据和原生配置。
  4. 核对依赖关系与预计负载。
  5. 点击 立即运行流程。不需要先保存模板。

页面最多配置 24 个实验,每个实验最多选择 7 个前置实验,整个流程请求最多 1 MiB。

默认按添加顺序串行执行。测试同一服务的不同并发时,串行更便于避免实验彼此叠加负载。

取消前置依赖可让实验并行运行。例如,两个独立节点同时开始,第三个节点等待它们都完成后再执行。系统不允许循环依赖。

性能页展示最近的流程记录。进入流程详情后,可以从已关联实验的节点打开日志和结果。还未开始的节点不会提前产生实验指标。

遇到失败时,先看节点诊断及是否允许重试。重试是显式操作;不能假定包含部署等副作用的节点都能直接重做。

  • 复制流程再运行:带入原配置,修改后创建新的执行。
  • 保存为可复用流程:进入团队流程库,供后续重复使用。

一次性运行也保留冻结的执行快照,但不会自动加入团队模板库。API Key 不回填,也不写入共享流程;再次执行需要重新提供。

使用孔明服务时,各实验共享选择服务时采集的环境快照。复制、重试和后续执行不会自动重新采集。服务配置变化后,应主动重新选择服务并保存新版本。

命令行的串行、并行 JSON 和幂等提交见多实验编排与 CI。