INT8 → INT32 tensor rate
INT8 multiply with an INT32 accumulator, the quantised inference path.
Comment elles ont été prises
Register-resident MMA issue rate: all-one inputs, eight independent accumulator chains per warp, best of three timed runs.
Lignes mesurées
8 lignes sur 8 cartes. 0 ont progressé de plus de 5 % et 8 non ; le gain le plus élevé est GeForce RTX 4070 SUPER à 1.00×.
| Mode | Origine | Débloqué | Gain | Carte |
|---|---|---|---|---|
s8/s32 | 306.9 | 307.3 TOP/s | 1.00× | GeForce RTX 4070 SUPER |
s8/s32 | 267.4 | 267.4 TOP/s | 1.00× | GeForce RTX 4070 (Gigabyte) |
s8/s32 | 338.8 | 338.0 TOP/s | 1.00× | GeForce RTX 4070 Ti |
s8/s32 | 661.6 | 659.5 TOP/s | 1.00× | GeForce RTX 4090 |
s8/s32 | 427.1 | 425.7 TOP/s | 1.00× | GeForce RTX 4080 |
s8/s32 | 72.8 | 72.6 TOP/s | 1.00× | GeForce RTX 3050 6GB |
s8/s32 | 418.9 | 417.0 TOP/s | 0.99× | GeForce RTX 4080 SUPER |
s8/s32 | 265.1 | 263.7 TOP/s | 0.99× | GeForce RTX 4070 (AD103) |
Comment lire un ratio de 1,00×
Une ligne à 1,00× n'est pas un déblocage raté. Elle indique que ce chemin précis n'a jamais été bridé, donc la dérogation n'avait rien à restaurer. Si vous mesurez votre propre carte et obtenez 1,00× sur le mode qui vous intéresse, le déblocage a peut-être bien fonctionné et n'aide simplement pas cette charge de travail.