AC-PROF / STREAMING LOAD
流式负载扫描
顺序运行的负载点;服务未重置。曲线表示已采样表现,不推断最大容量,也不提供独立实验置信区间。
吞吐与时延
每条线固定另一负载轴及输入、SLO、主机、服务观测和 token 计数口径。空值与缺失点断开;中断或未确认完成的点仅显示为菱形标记。
逐点证据
完整运行中的请求失败仍参与曲线。输出 token/s 需要覆盖全部成功请求;未配置 SLO 时 Goodput 不可用。P99 为各点成功请求的分位数,样本不会跨点合并。
| 点 / 条件 | 负载 | 状态 | 成功 / 预算 | 吞吐 req/s | Goodput req/s | 输出 token/s | P99 TTFT (s) / TPOT (s/token) / E2E (s) | 样本 / 覆盖 | 诊断 / 来源 |
|---|
条件与来源
服务观测来自启动前的可选 probe。观测缺失不证明服务相同;相同观测也不能证明扫描期间没有变化。条件摘要保留请求体 SHA256,不嵌入 prompt 或逐请求记录。
输入文件 SHA256
Plotly.js license
__LICENSE__