DeepSeek · B200

连接中… 模型 — 并行 — 上下文 — 投机 — 最大并发 — 网关运行 —

进行中 server

—

生成 TPS tok/s · 10 s 均值

—

TTFT p50 首字延迟

—

网关请求 gateway

—

KV 容量

—

—

端到端延迟 p50 E2E

—

前缀缓存命中率

—

—

投机接受率

—

—

生成吞吐 tok/s

Prefill 吞吐 tok/s

请求进行中排队网关在飞

TTFT p50p90

缓存 KV 使用 %前缀命中率 %

投机解码接受率 %

累计输入 tokens server

—

累计输出 tokens server

—

请求总数 gateway

—

来源 IP

—

IP 排行榜按输出 tokens每 IP 上限 4

#	IP	在飞	请求	输入	输出	429
暂无请求

输出列底色 = 占全部输出的比例；网关重启不清零（每 30 s 落盘）

最近请求

时间	IP	路径	状态	TTFT	耗时	tokens 入 → 出
暂无请求