TF32 → FP32 tensor rate

TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.

数据怎么来的

Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.

是否受 SM speed-select 熔丝约束:是

实测行

共 5 行,覆盖 5 张卡。5 行提升超过 5%,0 行没有变化;提升最大的是 GeForce RTX 4050 Laptop GPU,为 2.00×。

模式解锁前解锁后提升显卡
tf32 · 13.21 TF/s (209.56 ms) -> 26.42 TF/s (104.78 ms)13.226.4 TFLOP/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SM
tf3223.246.2 TFLOP/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SM
tf3247.594.5 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SM
tf32 · tensor_modes_issue through the driver runner, 0 mismatches33.165.8 TFLOP/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM
tf32 · tensor_modes_issue, 0 mismatches42.484.0 TFLOP/s1.98×GeForce RTX 4070 Ti · AD104 · 60 SM

这组里最小的比值是 GeForce RTX 4070 Ti,为 1.98×。

1.00× 该怎么读

1.00× 不代表解锁失败。它说明那条路径本来就没有被限速,覆盖没有可恢复的东西。如果你在自己的卡上测出你关心的模式是 1.00×,解锁很可能确实生效了,只是对这个负载没有帮助。

其他测量路径