DeepSeek-V4-Flash-0731-W8A8 性能测试报告 C600 测评 vs H20

Tokens Generated per Second。指系统每秒处理的Token总量，评估集群整体并发吞吐能力。

首Token延迟（ms）。指从发出请求到收到第一个响应Token的耗时，主要取决于Prefill计算阶段。

单Token生成延迟（ms）。指输出阶段每生成一个Token的平均间隔耗时，衡量Decode生成流畅度。

交互生成速率（Token/s）。代表单用户感知到的输出流畅度，数值越大用户端打字机效果越流畅。

严格交互体验约束条件：约束 TTFT ≤ 1000ms，TPOT ≤ 30ms，适用于高优先级实时交互场景。

容量优先约束条件：约束 TTFT ≤ 3000ms，TPOT ≤ 60ms，适用于高吞吐批处理与普通并发场景。