BF16 → FP32 tensor rate
BF16 multiply with an FP32 accumulator, the shape used by bf16 training stacks.
Comment elles ont été prises
Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.
Lignes mesurées
8 lignes sur 8 cartes. 8 ont progressé de plus de 5 % et 0 non ; le gain le plus élevé est GeForce RTX 4070 SUPER à 2.00×.
| Mode | Origine | Débloqué | Gain | Carte |
|---|---|---|---|---|
bf16/f32 | 76.7 | 153.6 TF/s | 2.00× | GeForce RTX 4070 SUPER |
bf16/f32 | 106.9 | 213.6 TF/s | 2.00× | GeForce RTX 4080 |
bf16/f32 | 66.9 | 133.7 TF/s | 2.00× | GeForce RTX 4070 (Gigabyte) |
bf16/f32 | 104.8 | 209.3 TF/s | 2.00× | GeForce RTX 4080 SUPER |
bf16/f32 | 165.5 | 330.3 TF/s | 2.00× | GeForce RTX 4090 |
bf16/f32 | 84.7 | 168.9 TF/s | 1.99× | GeForce RTX 4070 Ti |
bf16/f32 | 18.2 | 36.3 TF/s | 1.99× | GeForce RTX 3050 6GB |
bf16/f32 | 66.3 | 132.0 TF/s | 1.99× | GeForce RTX 4070 (AD103) |
Comment lire un ratio de 1,00×
Une ligne à 1,00× n'est pas un déblocage raté. Elle indique que ce chemin précis n'a jamais été bridé, donc la dérogation n'avait rien à restaurer. Si vous mesurez votre propre carte et obtenez 1,00× sur le mode qui vous intéresse, le déblocage a peut-être bien fonctionné et n'aide simplement pas cette charge de travail.