TF32 → FP32 tensor rate

TF32 multiply with an FP32 accumulator, the default for unqualified fp32 matmul.

Como foram medidas

Register-resident MMA issue rate at the card's stock power cap, 20,000 iterations and three timed repetitions, with every output cell checked per state.

Sob o fusível SM speed-select: sim

Linhas medidas

5 linhas em 5 placas. 5 subiram mais de 5 % e 0 não; o maior ganho é GeForce RTX 4050 Laptop GPU com 2.00×.

ModoOriginalDesbloqueadoGanhoPlaca
tf32 · 13.21 TF/s (209.56 ms) -> 26.42 TF/s (104.78 ms)13.226.4 TFLOP/s2.00×GeForce RTX 4050 Laptop GPU · AD107 · 20 SMs
tf3223.246.2 TFLOP/s1.99×GeForce RTX 4060 Ti 16GB · AD106 · 34 SMs
tf3247.594.5 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · AD103 · 66 SMs
tf32 · tensor_modes_issue through the driver runner, 0 mismatches33.165.8 TFLOP/s1.99×GeForce RTX 4070 (AD103) · AD103 · 46 SMs
tf32 · tensor_modes_issue, 0 mismatches42.484.0 TFLOP/s1.98×GeForce RTX 4070 Ti · AD104 · 60 SMs

O menor rácio deste conjunto é GeForce RTX 4070 Ti com 1.98×.

Como ler um rácio de 1,00×

Uma linha de 1,00× não é um desbloqueio falho. Ela diz que aquele caminho específico nunca foi limitado, então a substituição não tinha nada a restaurar. Se você medir sua própria placa e ver 1,00× no modo que lhe importa, o desbloqueio pode ter sido aplicado corretamente e simplesmente não ajudar aquela carga de trabalho.

Outros caminhos de medição