FP16 → FP32 tensor rate
FP16 multiply with an FP32 accumulator — the shape most inference and attention kernels use.
Como foram medidas
Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.
Linhas medidas
11 linhas em 11 placas. 11 subiram mais de 5 % e 0 não; o maior ganho é GeForce RTX 4070 SUPER com 2.00×.
| Modo | Original | Desbloqueado | Ganho | Placa |
|---|---|---|---|---|
f16/f32 | 76.7 | 153.6 TF/s | 2.00× | GeForce RTX 4070 SUPER |
f16/f32 | 107.0 | 213.7 TF/s | 2.00× | GeForce RTX 4080 |
f16/f32 | 104.8 | 209.7 TF/s | 2.00× | GeForce RTX 4080 SUPER |
f16/f32 | 26.5 | 53.0 TF/s | 2.00× | GeForce RTX 4050 Laptop GPU |
f16/f32 | 18.3 | 36.6 TF/s | 2.00× | GeForce RTX 3050 6GB |
f16/f32 | 165.6 | 330.8 TF/s | 2.00× | GeForce RTX 4090 |
f16/f32 | 84.8 | 169.4 TF/s | 2.00× | GeForce RTX 4070 Ti |
f16/f32 | 67.0 | 133.8 TF/s | 2.00× | GeForce RTX 4070 (Gigabyte) |
f16/f32 | 66.3 | 132.2 TF/s | 1.99× | GeForce RTX 4070 (AD103) |
f16/f32 | 95.0 | 189.0 TF/s | 1.99× | GeForce RTX 4070 Ti SUPER |
f16/f32 | 46.4 | 92.3 TF/s | 1.99× | GeForce RTX 4060 Ti 16GB |
Como ler um rácio de 1,00×
Uma linha de 1,00× não é um desbloqueio falho. Ela diz que aquele caminho específico nunca foi limitado, então a substituição não tinha nada a restaurar. Se você medir sua própria placa e ver 1,00× no modo que lhe importa, o desbloqueio pode ter sido aplicado corretamente e simplesmente não ajudar aquela carga de trabalho.