INT8 → INT32 tensor rate
INT8 multiply with an INT32 accumulator, the quantised inference path.
So wurden sie gemessen
Register-resident MMA issue rate: all-one inputs, eight independent accumulator chains per warp, best of three timed runs.
Gemessene Zeilen
8 Zeilen über 8 Karten. 0 verbesserten sich um mehr als 5 %, 8 nicht; der größte Gewinn ist GeForce RTX 4070 SUPER mit 1.00×.
| Modus | Original | Unlock | Gewinn | Karte |
|---|---|---|---|---|
s8/s32 | 306.9 | 307.3 TOP/s | 1.00× | GeForce RTX 4070 SUPER |
s8/s32 | 267.4 | 267.4 TOP/s | 1.00× | GeForce RTX 4070 (Gigabyte) |
s8/s32 | 338.8 | 338.0 TOP/s | 1.00× | GeForce RTX 4070 Ti |
s8/s32 | 661.6 | 659.5 TOP/s | 1.00× | GeForce RTX 4090 |
s8/s32 | 427.1 | 425.7 TOP/s | 1.00× | GeForce RTX 4080 |
s8/s32 | 72.8 | 72.6 TOP/s | 1.00× | GeForce RTX 3050 6GB |
s8/s32 | 418.9 | 417.0 TOP/s | 0.99× | GeForce RTX 4080 SUPER |
s8/s32 | 265.1 | 263.7 TOP/s | 0.99× | GeForce RTX 4070 (AD103) |
Wie ein Verhältnis von 1,00× zu lesen ist
Eine 1,00×-Zeile ist kein fehlgeschlagenes Unlock. Sie sagt, dass dieser Pfad nie gedrosselt war, das Override also nichts wiederherzustellen hatte. Wenn du deine eigene Karte benchmarkst und bei dem Modus, der dir wichtig ist, 1,00× siehst, kann das Unlock durchaus korrekt gegriffen haben und dieser Workload profitiert einfach nicht.