TF32 → FP32 tensor rate

TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.

測定方法

Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.

SM speed-select ヒューズの対象か: はい

実測行

5 枚のカードにわたる 5 行。5 行が 5% 超の向上、0 行は変化なし。最大の向上は GeForce RTX 4050 Laptop GPU の 2.00× です。

モード純正アンロック後向上カード
tf32 · 13.21 TF/s (209.56 ms) -> 26.42 TF/s (104.78 ms)13.226.4 TFLOP/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SM
tf3223.246.2 TFLOP/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SM
tf3247.594.5 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SM
tf32 · tensor_modes_issue through the driver runner, 0 mismatches33.165.8 TFLOP/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM
tf32 · tensor_modes_issue, 0 mismatches42.484.0 TFLOP/s1.98×GeForce RTX 4070 Ti · AD104 · 60 SM

このセットで最小の比率は GeForce RTX 4070 Ti の 1.98× です。

1.00× の読み方

1.00× の行はアンロック失敗ではありません。その経路が元々制限されておらず、オーバーライドが復元するものがなかったという意味です。自分のカードで測定して、気にしているモードが 1.00× だった場合、アンロックは正しく適用されていて、そのワークロードには効かないだけかもしれません。

他の測定パス