TF32 → FP32 tensor rate
TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.
測定方法
Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.
実測行
5 枚のカードにわたる 5 行。5 行が 5% 超の向上、0 行は変化なし。最大の向上は GeForce RTX 4050 Laptop GPU の 2.00× です。
| モード | 純正 | アンロック後 | 向上 | カード |
|---|---|---|---|---|
tf32 | 13.2 | 26.4 TFLOP/s | 2.00× | GeForce RTX 4050 Laptop GPU |
tf32 | 23.2 | 46.2 TFLOP/s | 1.99× | GeForce RTX 4060 Ti 16GB |
tf32 | 47.5 | 94.5 TFLOP/s | 1.99× | GeForce RTX 4070 Ti SUPER |
tf32 | 33.1 | 65.8 TFLOP/s | 1.99× | GeForce RTX 4070 (AD103) |
tf32 | 42.4 | 84.0 TFLOP/s | 1.98× | GeForce RTX 4070 Ti |
1.00× の読み方
1.00× の行はアンロック失敗ではありません。その経路が元々制限されておらず、オーバーライドが復元するものがなかったという意味です。自分のカードで測定して、気にしているモードが 1.00× だった場合、アンロックは正しく適用されていて、そのワークロードには効かないだけかもしれません。