TF32 → FP32 tensor rate

TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.

So wurden sie gemessen

Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.

Unter der Kontrolle der SM-Speed-Select-Sicherung: ja

Gemessene Zeilen

5 Zeilen über 5 Karten. 5 verbesserten sich um mehr als 5 %, 0 nicht; der größte Gewinn ist GeForce RTX 4050 Laptop GPU mit 2.00×.

ModusOriginalUnlockGewinnKarte
tf32 · 13.21 TF/s (209.56 ms) -> 26.42 TF/s (104.78 ms)13.226.4 TFLOP/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SMs
tf3223.246.2 TFLOP/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SMs
tf3247.594.5 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SMs
tf32 · tensor_modes_issue through the driver runner, 0 mismatches33.165.8 TFLOP/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SMs
tf32 · tensor_modes_issue, 0 mismatches42.484.0 TFLOP/s1.98×GeForce RTX 4070 Ti · AD104 · 60 SMs

Das kleinste Verhältnis in diesem Satz ist GeForce RTX 4070 Ti mit 1.98×.

Wie ein Verhältnis von 1,00× zu lesen ist

Eine 1,00×-Zeile ist kein fehlgeschlagenes Unlock. Sie sagt, dass dieser Pfad nie gedrosselt war, das Override also nichts wiederherzustellen hatte. Wenn du deine eigene Karte benchmarkst und bei dem Modus, der dir wichtig ist, 1,00× siehst, kann das Unlock durchaus korrekt gegriffen haben und dieser Workload profitiert einfach nicht.

Andere Messpfade