INT8 → INT32 tensor rate

INT8 multiply with an INT32 accumulator, the quantised inference path.

Cómo se tomaron

Register-resident MMA issue rate: all-one inputs, eight independent accumulator chains per warp, best of three timed runs.

Bajo el fusible SM speed-select: no

Filas medidas

8 filas en 8 tarjetas. 0 subieron más del 5 % y 8 no; la mayor ganancia es GeForce RTX 4070 SUPER con 1.00×.

ModoOriginalDesbloqueadoGananciaTarjeta
s8/s32 · control mode306.9307.3 TOP/s1.00×GeForce RTX 4070 SUPER · AD104 · 56 SM
s8/s32 · control mode267.4267.4 TOP/s1.00×GeForce RTX 4070 (Gigabyte) · AD104 · 46 SM
s8/s32 · control mode338.8338.0 TOP/s1.00×GeForce RTX 4070 Ti · AD104 · 60 SM
s8/s32 · already at full rate before the unlock661.6659.5 TOP/s1.00×GeForce RTX 4090 · AD102 · 128 SM
s8/s32 · control mode, already at full rate427.1425.7 TOP/s1.00×GeForce RTX 4080 · AD103 · 76 SM
s8/s32 · control mode72.872.6 TOP/s1.00×GeForce RTX 3050 6GB · GA107 · 18 SM
s8/s32 · control mode418.9417.0 TOP/s0.99×GeForce RTX 4080 SUPER · AD103 · 80 SM
s8/s32 · control mode265.1263.7 TOP/s0.99×GeForce RTX 4070 (AD103) · AD103 · 46 SM

El ratio más pequeño de este conjunto es GeForce RTX 4070 (AD103) con 0.99×.

Cómo leer un ratio de 1,00×

Una fila de 1,00× no es un desbloqueo fallido. Dice que esa ruta concreta nunca estuvo limitada, así que la anulación no tenía nada que restaurar. Si haces tu propia prueba y ves 1,00× en el modo que te importa, puede que el desbloqueo se haya aplicado correctamente y simplemente no ayude a esa carga de trabajo.

Otras rutas de medición