FP16 → FP16 tensor rate

FP16 multiply with an FP16 accumulator, the path that already runs at full tensor rate.

Comment elles ont été prises

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

Sous le contrôle du fusible SM speed-select : non

Lignes mesurées

8 lignes sur 8 cartes. 0 ont progressé de plus de 5 % et 8 non ; le gain le plus élevé est GeForce RTX 4090 à 1.02×.

ModeOrigineDébloquéGainCarte
f16/f16 · unlocked values are the 40,000-iteration run; f16/f16 was mostly unaffected, unlike f16/f32325.7331.6 TF/s1.02×GeForce RTX 4090 · AD102 · 128 SM
f16/f16 · control mode, already at full rate169.4170.0 TF/s1.00×GeForce RTX 4070 Ti · AD104 · 60 SM
f16/f16 · control mode, already at full rate210.1210.4 TF/s1.00×GeForce RTX 4080 SUPER · AD103 · 80 SM
f16/f16 · control mode, already at full rate153.4153.6 TF/s1.00×GeForce RTX 4070 SUPER · AD104 · 56 SM
f16/f16 · control mode, already at full rate133.9133.9 TF/s1.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SM
f16/f16 · control mode, already at full rate36.636.6 TF/s1.00×GeForce RTX 3050 6GB · GA107 · 18 SM
f16/f16 · control mode, already at full rate214.2213.9 TF/s1.00×GeForce RTX 4080 · AD103 · 76 SM
f16/f16 · control mode, already at full rate132.6132.2 TF/s1.00×GeForce RTX 4070 (AD103) · AD103 · 46 SM

Le plus petit ratio de cet ensemble est GeForce RTX 4070 (AD103) à 1.00×.

Comment lire un ratio de 1,00×

Une ligne à 1,00× n'est pas un déblocage raté. Elle indique que ce chemin précis n'a jamais été bridé, donc la dérogation n'avait rien à restaurer. Si vous mesurez votre propre carte et obtenez 1,00× sur le mode qui vous intéresse, le déblocage a peut-être bien fonctionné et n'aide simplement pas cette charge de travail.

Autres chemins de mesure