Benchmarks: original frente a desbloqueado

Todas las mediciones antes/después en la misma tarjeta publicadas aguas arriba, incluidos los modos tensoriales que no cambiaron, el par FP8 CUTLASS que midió 1,0029× y la tabla cuBLAS de la RTX 2080 Ti del fork Turing.

Cómo se tomaron

Las filas de RTX 4090 provienen de un bucle de tasa de emisión MMA residente en registros ejecutado a 20.000 iteraciones y tres repeticiones por modo, informando el mejor de tres. Las filas de RTX 4070 Ti SUPER provienen del tensor-modes-comparison.json del fork: 66 SM, controlador 580.178.04, límite de 240 W, 20.000 iteraciones y tres repeticiones, con entradas todo-unos en ocho cadenas independientes. El par FP8 es una ejecución aparte del perfilador CUTLASS 4.8.1 sobre un kernel sm_89. Las filas de RTX 2080 Ti son la tabla del README del fork Turing: GEMM cuBLAS FP16 con acumulación FP32, 250 W, controlador 575.51.03, cuatro tamaños M.N.K, medidos en una tarjeta Dell de 22 GB. El README da los TFLOPS directamente y añade entre paréntesis el porcentaje de un pico de 56,9 TF/s, tomado del libro blanco de NVIDIA Turing; esos TFLOPS se citan aquí tal cual. Aguas arriba no indica número de iteraciones, así que aquí tampoco se muestra.

GeForce RTX 4090

AD102 · 128 SM · controlador unrecorded in the evidence file

ModoOriginalDesbloqueadoGanancia
f16/f16325.70 TF/s331.60 TF/s1.02×
f16/f32165.60 TF/s330.80 TF/s2.00×
bf16/f32165.50 TF/s330.30 TF/s2.00×
s8/s32661.60 TF/s659.50 TF/s1.00×
dp4a164.50 TF/s164.10 TF/s1.00×
ffma79.10 TF/s79.10 TF/s1.00×
  • f16/f16: unlocked values are the 40,000-iteration run; f16/f16 was mostly unaffected, unlike f16/f32
  • s8/s32: already at full rate before the unlock
  • ffma: FP32 was never rate-limited

Archivos fuente de esta ejecución

GeForce RTX 4070 Ti SUPER

AD103 · 66 SM · controlador 580.178.04

ModoOriginalDesbloqueadoGanancia
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×
tf3247.49 TFLOP/s94.51 TFLOP/s1.99×
u4/s32754.81 TOP/s754.68 TOP/s1.00×
  • u4/s32: integer path, unaffected

Archivos fuente de esta ejecución

GeForce RTX 2080 Ti

TU102 · 68 SM · controlador 575.51.03

ModoOriginalDesbloqueadoGanancia
f16/f32 1024³50.30 TF/s68.30 TF/s1.36×
f16/f32 2048³55.70 TF/s91.40 TF/s1.64×
f16/f32 4096³53.70 TF/s81.70 TF/s1.52×
f16/f32 8192³52.80 TF/s77.90 TF/s1.48×
  • f16/f32 1024³: README row 1024: 50.3 (88.4% of a 56.9 TF/s peak) -> 68.3 (120.0%)
  • f16/f32 2048³: README row 2048: 55.7 (97.9% of a 56.9 TF/s peak) -> 91.4 (160.6%)
  • f16/f32 4096³: README row 4096: 53.7 (94.4% of a 56.9 TF/s peak) -> 81.7 (143.6%)
  • f16/f32 8192³: README row 8192: 52.8 (92.8% of a 56.9 TF/s peak) -> 77.9 (136.9%)

Archivos fuente de esta ejecución

El par FP8 que no se movió

El fork midió un GEMM 4096³ de entrada E4M3 FP8 emparejada, acumulación FP32, en la 4070 Ti SUPER con el mismo binario del perfilador CUTLASS, un solo kernel, 10 calentamientos y 20 iteraciones de perfilado, exigiendo verificación contra la referencia del dispositivo. Ambas ejecuciones pasaron sus comprobaciones de referencia.

EjecuciónmsGFLOP/s
original2.3172459325.8
desbloqueado2.3106659495.0

RTX 4070 Ti SUPER · cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 · 1.0029×

Cómo leer un ratio de 1,00×

Una fila de 1,00× no es un desbloqueo fallido. Dice que esa ruta concreta nunca estuvo limitada, así que la anulación no tenía nada que restaurar. Si haces tu propia prueba y ves 1,00× en el modo que te importa, puede que el desbloqueo se haya aplicado correctamente y simplemente no ayude a esa carga de trabajo.