FP16 → FP16 tensor rate

FP16 multiply with an FP16 accumulator, the path that already runs at full tensor rate.

So wurden sie gemessen

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

Unter der Kontrolle der SM-Speed-Select-Sicherung: nein

Gemessene Zeilen

8 Zeilen über 8 Karten. 0 verbesserten sich um mehr als 5 %, 8 nicht; der größte Gewinn ist GeForce RTX 4090 mit 1.02×.

ModusOriginalUnlockGewinnKarte
f16/f16 · unlocked values are the 40,000-iteration run; f16/f16 was mostly unaffected, unlike f16/f32325.7331.6 TF/s1.02×GeForce RTX 4090 · AD102 · 128 SMs
f16/f16 · control mode, already at full rate169.4170.0 TF/s1.00×GeForce RTX 4070 Ti · AD104 · 60 SMs
f16/f16 · control mode, already at full rate210.1210.4 TF/s1.00×GeForce RTX 4080 SUPER · AD103 · 80 SMs
f16/f16 · control mode, already at full rate153.4153.6 TF/s1.00×GeForce RTX 4070 SUPER · AD104 · 56 SMs
f16/f16 · control mode, already at full rate133.9133.9 TF/s1.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SMs
f16/f16 · control mode, already at full rate36.636.6 TF/s1.00×GeForce RTX 3050 6GB · GA107 · 18 SMs
f16/f16 · control mode, already at full rate214.2213.9 TF/s1.00×GeForce RTX 4080 · AD103 · 76 SMs
f16/f16 · control mode, already at full rate132.6132.2 TF/s1.00×GeForce RTX 4070 (AD103) · AD103 · 46 SMs

Das kleinste Verhältnis in diesem Satz ist GeForce RTX 4070 (AD103) mit 1.00×.

Wie ein Verhältnis von 1,00× zu lesen ist

Eine 1,00×-Zeile ist kein fehlgeschlagenes Unlock. Sie sagt, dass dieser Pfad nie gedrosselt war, das Override also nichts wiederherzustellen hatte. Wenn du deine eigene Karte benchmarkst und bei dem Modus, der dir wichtig ist, 1,00× siehst, kann das Unlock durchaus korrekt gegriffen haben und dieser Workload profitiert einfach nicht.

Andere Messpfade