GPUUnlock

FP16 → FP32 tensor rate

FP16 multiply with an FP32 accumulator — the shape most inference and attention kernels use.

測定方法

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

SM speed-select ヒューズの対象か: はい

実測行

11 枚のカードにわたる 11 行。11 行が 5% 超の向上、0 行は変化なし。最大の向上は GeForce RTX 4070 SUPER の 2.00× です。

モード純正アンロック後向上カード
f16/f3276.7153.6 TF/s2.00×GeForce RTX 4070 SUPER · AD104 · 56 SM
f16/f32107.0213.7 TF/s2.00×GeForce RTX 4080 · AD103 · 76 SM
f16/f32104.8209.7 TF/s2.00×GeForce RTX 4080 SUPER · AD103 · 80 SM
f16/f32 · 26.48 TF/s (209.02 ms) -> 52.97 TF/s (104.51 ms)26.553.0 TF/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SM
f16/f3218.336.6 TF/s2.00×GeForce RTX 3050 6GB · GA107 · 18 SM
f16/f32165.6330.8 TF/s2.00×GeForce RTX 4090 · AD102 · 128 SM
f16/f3284.8169.4 TF/s2.00×GeForce RTX 4070 Ti · AD104 · 60 SM
f16/f3267.0133.8 TF/s2.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SM
f16/f3266.3132.2 TF/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM
f16/f3295.0189.0 TF/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SM
f16/f3246.492.3 TF/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SM

このセットで最小の比率は GeForce RTX 4060 Ti 16GB の 1.99× です。

1.00× の読み方

1.00× の行はアンロック失敗ではありません。その経路が元々制限されておらず、オーバーライドが復元するものがなかったという意味です。自分のカードで測定して、気にしているモードが 1.00× だった場合、アンロックは正しく適用されていて、そのワークロードには効かないだけかもしれません。

他の測定パス