FP16 → FP16 tensor rate

FP16 multiply with an FP16 accumulator, the path that already runs at full tensor rate.

測定方法

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

SM speed-select ヒューズの対象か: いいえ

実測行

8 枚のカードにわたる 8 行。0 行が 5% 超の向上、8 行は変化なし。最大の向上は GeForce RTX 4090 の 1.02× です。

モード	純正	アンロック後	向上	カード
`f16/f16` · unlocked values are the 40,000-iteration run; f16/f16 was mostly unaffected, unlike f16/f32	325.7	331.6 TF/s	1.02×	GeForce RTX 4090 · AD102 · 128 SM
`f16/f16` · control mode, already at full rate	169.4	170.0 TF/s	1.00×	GeForce RTX 4070 Ti · AD104 · 60 SM
`f16/f16` · control mode, already at full rate	210.1	210.4 TF/s	1.00×	GeForce RTX 4080 SUPER · AD103 · 80 SM
`f16/f16` · control mode, already at full rate	153.4	153.6 TF/s	1.00×	GeForce RTX 4070 SUPER · AD104 · 56 SM
`f16/f16` · control mode, already at full rate	133.9	133.9 TF/s	1.00×	GeForce RTX 4070 (Gigabyte) · AD104 · 46 SM
`f16/f16` · control mode, already at full rate	36.6	36.6 TF/s	1.00×	GeForce RTX 3050 6GB · GA107 · 18 SM
`f16/f16` · control mode, already at full rate	214.2	213.9 TF/s	1.00×	GeForce RTX 4080 · AD103 · 76 SM
`f16/f16` · control mode, already at full rate	132.6	132.2 TF/s	1.00×	GeForce RTX 4070 (AD103) · AD103 · 46 SM

このセットで最小の比率は GeForce RTX 4070 (AD103) の 1.00× です。

1.00× の読み方

1.00× の行はアンロック失敗ではありません。その経路が元々制限されておらず、オーバーライドが復元するものがなかったという意味です。自分のカードで測定して、気にしているモードが 1.00× だった場合、アンロックは正しく適用されていて、そのワークロードには効かないだけかもしれません。

FP16 → FP16 tensor rate

実測行

1.00× の読み方

他の測定パス