AC-PROF / STREAMING LOAD

流式负载扫描

顺序运行的负载点;服务未重置。曲线表示已采样表现,不推断最大容量,也不提供独立实验置信区间。

吞吐与时延

每条线固定另一负载轴及输入、SLO、主机、服务观测和 token 计数口径。空值与缺失点断开;中断或未确认完成的点仅显示为菱形标记。

逐点证据

完整运行中的请求失败仍参与曲线。输出 token/s 需要覆盖全部成功请求;未配置 SLO 时 Goodput 不可用。P99 为各点成功请求的分位数,样本不会跨点合并。

点 / 条件负载状态成功 / 预算吞吐 req/sGoodput req/s 输出 token/sP99 TTFT (s) / TPOT (s/token) / E2E (s)样本 / 覆盖诊断 / 来源

条件与来源

服务观测来自启动前的可选 probe。观测缺失不证明服务相同;相同观测也不能证明扫描期间没有变化。条件摘要保留请求体 SHA256,不嵌入 prompt 或逐请求记录。

输入文件 SHA256
Plotly.js license
__LICENSE__