BF16 → FP32 tensor rate
BF16 multiply with an FP32 accumulator, the shape used by bf16 training stacks.
数据怎么来的
Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.
实测行
共 8 行,覆盖 8 张卡。8 行提升超过 5%,0 行没有变化;提升最大的是 GeForce RTX 4070 SUPER,为 2.00×。
| 模式 | 解锁前 | 解锁后 | 提升 | 显卡 |
|---|---|---|---|---|
bf16/f32 | 76.7 | 153.6 TF/s | 2.00× | GeForce RTX 4070 SUPER |
bf16/f32 | 106.9 | 213.6 TF/s | 2.00× | GeForce RTX 4080 |
bf16/f32 | 66.9 | 133.7 TF/s | 2.00× | GeForce RTX 4070 (Gigabyte) |
bf16/f32 | 104.8 | 209.3 TF/s | 2.00× | GeForce RTX 4080 SUPER |
bf16/f32 | 165.5 | 330.3 TF/s | 2.00× | GeForce RTX 4090 |
bf16/f32 | 84.7 | 168.9 TF/s | 1.99× | GeForce RTX 4070 Ti |
bf16/f32 | 18.2 | 36.3 TF/s | 1.99× | GeForce RTX 3050 6GB |
bf16/f32 | 66.3 | 132.0 TF/s | 1.99× | GeForce RTX 4070 (AD103) |
1.00× 该怎么读
1.00× 不代表解锁失败。它说明那条路径本来就没有被限速,覆盖没有可恢复的东西。如果你在自己的卡上测出你关心的模式是 1.00×,解锁很可能确实生效了,只是对这个负载没有帮助。