Sblocca le prestazioni complete dei tensor core sulla tua GPU NVIDIA
NVIDIA vende due famiglie di schede grafiche costruite sullo stesso silicio: le GeForce per il gaming e le RTX A-series professionali per le workstation. L'hardware dei tensor core è identico, ma la versione GeForce esce dalla fabbrica con un selettore di velocità impostato a metà regime per i calcoli FP16, BF16 e TF32 con accumulo FP32. Sono esattamente le precisioni usate da quasi tutti i carichi di addestramento, fine-tuning, generazione di immagini e inferenza non quantizzata. Il progetto gpu-unlock rimuove questo limite all'avvio, prima che il driver NVIDIA originale entri in contatto con la scheda. Nessun driver modificato, nessun flash del VBIOS e nulla da rifare quando NVIDIA pubblica un nuovo driver.
Perché le GeForce consumer girano a metà velocità
La limitazione non è un difetto hardware e non dipende dal driver. Ogni GPU contiene un selettore di velocità nascosto nel firmware e nella ROM del VBIOS. Sulle schede consumer quel selettore è programmato a metà regime: i tensor core eseguono comunque ogni istruzione correttamente, ma con una cadenza ridotta per un insieme definito di modalità di calcolo matriciale. Le schede professionali montano lo stesso silicio con il selettore impostato a regime pieno. Si tratta di segmentazione di prodotto implementata nel firmware, ed è il motivo per cui una GeForce può sembrare sproporzionatamente lenta rispetto a una scheda workstation della stessa generazione.
Come gpu-unlock elimina il limite
Il modulo viene caricato dal ramdisk initramfs durante le prime fasi dell'avvio. Legge i parametri del firmware, porta il selettore da metà regime a regime pieno, quindi esegue un Function Level Reset PCIe in modo che il dispositivo si reinizializzi con la nuova impostazione. Solo dopo questo passaggio il driver NVIDIA ufficiale si collega alla scheda. Poiché la modifica avviene prima dell'inizializzazione del driver, sopravvive agli aggiornamenti del driver stesso. Non c'è alcuna patch binaria da riapplicare, nessun modulo firmato da ricostruire a ogni nuova versione del kernel oltre a una normale ricompilazione e nessun VBIOS modificato sulla scheda. Se si avvia senza il modulo, la GPU si comporta come una scheda originale.
Quali GPU sono supportate
Lo sviluppo e i test di stabilità si concentrano sulla serie RTX 30, in particolare sui chip GA102, GA103, GA104 e GA106. Il supporto sperimentale copre anche alcune GPU desktop e laptop delle serie RTX 20 e RTX 40. Le schede già sbloccate, come le professionali RTX A-series, non ottengono alcun vantaggio perché non c'è alcun limite da rimuovere. La tabella seguente riassume la situazione attuale.
| Generazione | Chip tipici | Stato |
|---|---|---|
| Serie RTX 30 | GA102, GA103, GA104, GA106 | Pienamente supportata, obiettivo principale |
| Serie RTX 20 | TU106 e simili | Supporto sperimentale |
| Serie RTX 40 | Modelli desktop e laptop | Supporto sperimentale |
| RTX A-series professionali | Stesso silicio, già a regime pieno | Nessuna modifica necessaria |
Guadagni prestazionali misurati
I miglioramenti si vedono dove ci si aspetta, nella moltiplicazione matriciale densa. Su una RTX 3090 Ti la velocità FP16 passa da circa 87 a oltre 118 TFLOPS, il BF16 sale da circa 87 a 157 TFLOPS e il TF32 da circa 42 a oltre 82 TFLOPS. Sulle schede consumer supportate la velocità GEMM densa migliora di circa il 25-80 per cento a seconda della precisione e della forma del modello. In pratica significa prefill più rapido per i modelli linguistici di grandi dimensioni, fine-tuning più brevi, passi di generazione immagini più veloci e più margine quando si mantengono i pesi in BF16 o FP16 invece di quantizzare a INT8.
| Precisione con accumulo FP32 | TFLOPS originali | TFLOPS sbloccati | Guadagno |
|---|---|---|---|
| FP16 | 87 | 118 | circa il 35 per cento |
| BF16 | 87 | 157 | circa l'80 per cento |
| TF32 | 42 | 82 | circa il 95 per cento |
Dove non noterai alcuna differenza
Lo sblocco riguarda esclusivamente le operazioni dei tensor core. Non cambia nulla nei carichi di gaming rasterizzato tradizionale, nelle istruzioni FP32 scalari, nell'inferenza quantizzata INT8 o nella decodifica video. Questi percorsi sono limitati dalla larghezza di banda della memoria, dal comportamento della cache o da hardware a funzione fissa, non dalla cadenza dei tensor core. Se la tua pipeline è già completamente quantizzata a INT8, non aspettarti alcun cambiamento. Lo stesso vale per i carichi dominati dallo spostamento di dati anziché dall'intensità aritmetica.
Note sulla configurazione dell'avvio
L'ordine è importante. Il modulo deve essere caricato prima che il driver NVIDIA si impossessi del dispositivo, il che in pratica significa aggiungerlo all'initramfs e garantire l'ordine corretto rispetto agli hook di caricamento anticipato del driver proprietario. Le distribuzioni che costruiscono l'initramfs con dracut, mkinitcpio o update-initramfs gestiscono la cosa in modo diverso, quindi segui le istruzioni del progetto per la tua. Le configurazioni con Secure Boot richiedono la firma del modulo con una chiave registrata, esattamente come per qualsiasi altro modulo del kernel fuori dall'albero. Verifica il risultato controllando il throughput tensoriale riportato invece di dare per scontato il successo.
Vale la pena usarlo?
Se addestri, fai fine-tuning o generi immagini su una GeForce consumer in BF16, FP16 o TF32, lo sblocco è uno dei guadagni di prestazioni più economici disponibili: non costa nulla a runtime e non aggiunge manutenzione a ogni aggiornamento del driver. Se invece giochi soprattutto, decodifichi video o esegui inferenza quantizzata INT8, lascia perdere. Leggi la documentazione del repository, verifica che il tuo chip sia coperto e misura prima e dopo per sapere esattamente quanto hai guadagnato.
Lavoriamo insieme
Hai bisogno di maggiori informazioni, aiuto con il tuo progetto o di sviluppare un'idea?
Che si tratti di una domanda semplice, un dubbio rapido o una chat di 5 minuti, mandami un messaggio—non costa nulla e sono sempre pronto ad aiutare. Mi piace ascoltare per capire il problema, essere creativo nelle soluzioni e puntare a idee semplici, affidabili e non complicate da realizzare rapidamente.
Contattami →