BF16 → FP32 tensor rate

BF16 multiply with an FP32 accumulator, the shape used by bf16 training stacks.

数据怎么来的

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

是否受 SM speed-select 熔丝约束:是

实测行

共 8 行,覆盖 8 张卡。8 行提升超过 5%,0 行没有变化;提升最大的是 GeForce RTX 4070 SUPER,为 2.00×。

模式解锁前解锁后提升显卡
bf16/f3276.7153.6 TF/s2.00×GeForce RTX 4070 SUPER · AD104 · 56 SM
bf16/f32106.9213.6 TF/s2.00×GeForce RTX 4080 · AD103 · 76 SM
bf16/f3266.9133.7 TF/s2.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SM
bf16/f32104.8209.3 TF/s2.00×GeForce RTX 4080 SUPER · AD103 · 80 SM
bf16/f32165.5330.3 TF/s2.00×GeForce RTX 4090 · AD102 · 128 SM
bf16/f3284.7168.9 TF/s1.99×GeForce RTX 4070 Ti · AD104 · 60 SM
bf16/f3218.236.3 TF/s1.99×GeForce RTX 3050 6GB · GA107 · 18 SM
bf16/f3266.3132.0 TF/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM

这组里最小的比值是 GeForce RTX 4070 (AD103),为 1.99×。

1.00× 该怎么读

1.00× 不代表解锁失败。它说明那条路径本来就没有被限速,覆盖没有可恢复的东西。如果你在自己的卡上测出你关心的模式是 1.00×,解锁很可能确实生效了,只是对这个负载没有帮助。

其他测量路径