Shortage di schede video all'orizzonte, questa volta colpa dell'IA?

Il mining è stato l'incubo dei videogiocatori per parecchio tempo, e ora i problemi di shortage di schede video potrebbero tornare a causa del boom delle intelligenze artificiali. A quanto sembra infatti le aziende che operano in questo campo stanno facendo incetta di GPU dedicate ai videogiocatori, decisamente più economiche di quelle progettate per l'allenamento dell'IA.

Una prova di questa tendenza l'abbiamo nel post di George Hotz, famoso hacker che forse molti di voi conosceranno come "geohot" che ora è a capo di Comma AI, un'azienda che si occupa assistenza alla guida automatizzata con l'IA. Dal posto possiamo vedere un circa 60 XFX Merc 310 Radeon RX 7900 XTX, ma probabilmente ne arriveranno molte di più dato che Hotz parla di "exaFLOPS", mentre qui siamo a circa 7,38 PFLOPS di potenza in FP16.

Cannot get X.com oEmbed

Per darvi un'idea delle cifre, per acquistare queste 60 GPU Hotz ha speso circa 60 mila dollari, ma per raggiungere la potenza dichiarata nel post potrebbe arrivare a spendere circa 20 milioni di dollari, forse anche di più, assumendo che acquisterà altre RX 7900 XTX. E sono tutte schede video che sarebbero dedicate ai videogiocatori, o comunque a utenti consumer.

Se vi state chiedendo perché Hotz abbia scelto delle GPU AMD, la risposta è semplice: per la quantità di VRAM. I carichi IA hanno bisogno di molta memoria video e se da un lato la RX 7900 XTX non offre poi così tanta potenza in FP16 rispetto a GPU NVIDIA di fascia più bassa (la RTX 4060 arriva a 121 teraFLOPS sfruttando le matrici sparse, contro i 122,88 teraFLOPS della GPU AMD), dall'altro ha decisamente molta più VRAM. Se si ha a che fare con un algoritmo che necessita di molta memoria, una Radeon RX 7900 XTX può fare il lavoro di tre RTX 4060, o di due RTX 4070.

Il post di Hotz non è il primo di questo genere ed è l'ennesimo segnale che dimostra come l'industria dell'intelligenza artificiale stia facendo crescere sempre di più la domanda di schede video. Il fatto che queste aziende stiano acquistando grandi quantità di soluzioni consumer è tutt'altro che positivo: se dovessero assorbire tutto l'inventario i prezzi salirebbero parecchio e si finirebbe nuovamente in una situazione simile a quella vissuta con il mining, con prezzi alle stesse e disponibilità rasente lo zero, a discapito anche questa volta dei videogiocatori.