TF32 → FP32 tensor rate

TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.

Comment elles ont été prises

Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.

Sous le contrôle du fusible SM speed-select : oui

Lignes mesurées

5 lignes sur 5 cartes. 5 ont progressé de plus de 5 % et 0 non ; le gain le plus élevé est GeForce RTX 4050 Laptop GPU à 2.00×.

ModeOrigineDébloquéGainCarte
tf32 · 13.21 TF/s (209.56 ms) -> 26.42 TF/s (104.78 ms)13.226.4 TFLOP/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SM
tf3223.246.2 TFLOP/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SM
tf3247.594.5 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SM
tf32 · tensor_modes_issue through the driver runner, 0 mismatches33.165.8 TFLOP/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM
tf32 · tensor_modes_issue, 0 mismatches42.484.0 TFLOP/s1.98×GeForce RTX 4070 Ti · AD104 · 60 SM

Le plus petit ratio de cet ensemble est GeForce RTX 4070 Ti à 1.98×.

Comment lire un ratio de 1,00×

Une ligne à 1,00× n'est pas un déblocage raté. Elle indique que ce chemin précis n'a jamais été bridé, donc la dérogation n'avait rien à restaurer. Si vous mesurez votre propre carte et obtenez 1,00× sur le mode qui vous intéresse, le déblocage a peut-être bien fonctionné et n'aide simplement pas cette charge de travail.

Autres chemins de mesure