FP16 → FP16 tensor rate

FP16 multiply with an FP16 accumulator, the path that already runs at full tensor rate.

Como foram medidas

Register-resident mma.sync issue rate: all-one inputs, eight independent accumulator chains per warp, 20,000 iterations and three timed repetitions, best of three reported.

Sob o fusível SM speed-select: não

Linhas medidas

8 linhas em 8 placas. 0 subiram mais de 5 % e 8 não; o maior ganho é GeForce RTX 4090 com 1.02×.

ModoOriginalDesbloqueadoGanhoPlaca
f16/f16 · unlocked values are the 40,000-iteration run; f16/f16 was mostly unaffected, unlike f16/f32325.7331.6 TF/s1.02×GeForce RTX 4090 · AD102 · 128 SMs
f16/f16 · control mode, already at full rate169.4170.0 TF/s1.00×GeForce RTX 4070 Ti · AD104 · 60 SMs
f16/f16 · control mode, already at full rate210.1210.4 TF/s1.00×GeForce RTX 4080 SUPER · AD103 · 80 SMs
f16/f16 · control mode, already at full rate153.4153.6 TF/s1.00×GeForce RTX 4070 SUPER · AD104 · 56 SMs
f16/f16 · control mode, already at full rate133.9133.9 TF/s1.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SMs
f16/f16 · control mode, already at full rate36.636.6 TF/s1.00×GeForce RTX 3050 6GB · GA107 · 18 SMs
f16/f16 · control mode, already at full rate214.2213.9 TF/s1.00×GeForce RTX 4080 · AD103 · 76 SMs
f16/f16 · control mode, already at full rate132.6132.2 TF/s1.00×GeForce RTX 4070 (AD103) · AD103 · 46 SMs

O menor rácio deste conjunto é GeForce RTX 4070 (AD103) com 1.00×.

Como ler um rácio de 1,00×

Uma linha de 1,00× não é um desbloqueio falho. Ela diz que aquele caminho específico nunca foi limitado, então a substituição não tinha nada a restaurar. Se você medir sua própria placa e ver 1,00× no modo que lhe importa, o desbloqueio pode ter sido aplicado corretamente e simplesmente não ajudar aquela carga de trabalho.

Outros caminhos de medição