BF16 → FP32 tensor rate
BF16 multiply with an FP32 accumulator, the shape used by bf16 training stacks.
So wurden sie gemessen
Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.
Gemessene Zeilen
8 Zeilen über 8 Karten. 8 verbesserten sich um mehr als 5 %, 0 nicht; der größte Gewinn ist GeForce RTX 4070 SUPER mit 2.00×.
| Modus | Original | Unlock | Gewinn | Karte |
|---|---|---|---|---|
bf16/f32 | 76.7 | 153.6 TF/s | 2.00× | GeForce RTX 4070 SUPER |
bf16/f32 | 106.9 | 213.6 TF/s | 2.00× | GeForce RTX 4080 |
bf16/f32 | 66.9 | 133.7 TF/s | 2.00× | GeForce RTX 4070 (Gigabyte) |
bf16/f32 | 104.8 | 209.3 TF/s | 2.00× | GeForce RTX 4080 SUPER |
bf16/f32 | 165.5 | 330.3 TF/s | 2.00× | GeForce RTX 4090 |
bf16/f32 | 84.7 | 168.9 TF/s | 1.99× | GeForce RTX 4070 Ti |
bf16/f32 | 18.2 | 36.3 TF/s | 1.99× | GeForce RTX 3050 6GB |
bf16/f32 | 66.3 | 132.0 TF/s | 1.99× | GeForce RTX 4070 (AD103) |
Wie ein Verhältnis von 1,00× zu lesen ist
Eine 1,00×-Zeile ist kein fehlgeschlagenes Unlock. Sie sagt, dass dieser Pfad nie gedrosselt war, das Override also nichts wiederherzustellen hatte. Wenn du deine eigene Karte benchmarkst und bei dem Modus, der dir wichtig ist, 1,00× siehst, kann das Unlock durchaus korrekt gegriffen haben und dieser Workload profitiert einfach nicht.