认识 DiscernLens
DiscernLens(察微)帮助团队评测 LLM 推理服务、测量性能,并将代码或镜像连接到部署与验证。每次运行保留当时的输入、配置与结果,便于复查。
选择适合的入口
跳转到「选择适合的入口」| 你想做什么 | 从哪里开始 | 会得到什么 |
|---|---|---|
| 判断模型回答是否满足质量要求 | 质量评测 | 得分、报告和基于绝对规则的结论 |
| 测量推理服务的延迟、吞吐和承载能力 | 性能实验 | 冻结参数的实验记录,可选择多个结果比较 |
| 让 Agent 修改代码并产出可评审结果 | 智能交付 → 任务 | 新分支或待评审 PR,以及运行记录 |
| 重复执行部署、压测与评测步骤 | 智能交付 → 流程 | 不可变的流程版本及每次执行的证据 |
| 连接个人代码、模型、镜像仓库或孔明账号 | 连接与设置 | 归你本人所有的连接 |
| 管理团队成员、职责和项目级配置 | 项目管理 | 项目授权、默认模型和可选通知 |
质量与性能分别回答什么
跳转到「质量与性能分别回答什么」质量评测回答“这次结果是否达标”。结论取决于本次冻结的证据和绝对阈值。样本或证据无效时,系统不会把它当成模型质量不合格。
性能实验回答“在这组条件下,服务表现如何”。你可以临时选择 2–6 个成功实验,指定其中一个作为参照。这个参照只属于当前比较,不会成为项目默认值,也不会改写质量结论。
交付与评审
跳转到「交付与评审」个人代码任务默认生成待评审 PR,代码评审发生在 Gitea。可重复流程可以包含 Agent、CI、构建、部署、性能实验和质量评测等步骤;可用节点取决于环境配置。
已发布的流程版本和已经创建的运行快照不会随配置更新而改变。调整后需要发布新版本或创建新运行。
开始前准备
跳转到「开始前准备」- 取得团队部署的 DiscernLens 地址,并能通过 Authentik 登录。
- 加入一个项目,确认自己具备创建相应任务的权限。
- 准备正在运行的推理服务地址、服务实际接受的模型名,以及需要时的推理 API Key。
- 创建代码任务时,再准备个人 Gitea 和模型连接。