NVIDIA si prepara ad alzare ulteriormente l'asticella delle prestazioni in ambito data center con la sua nuova GPU H100, basata sull'architettura Hopper, che è in grado di consumare sino a 700W per fornire fino a 60 FP64 Tensor TFLOP. I colleghi di ServeTheHome hanno avuto modo di visitare gli uffici di NVIDIA e vedere in prima persona il modulo SXM5 equipaggiato con una di queste mostruose GPU, che ha le generose dimensioni di 814mm² ed è stata realizzata sul nodo a 4nm di TSMC (che appartiene alla famiglia N5).
La GPU NVIDIA H100 è costituita da ben 80 miliardi di transistor, mentre la sua frequenza operativa è di 1,40-1,50 GHz. Son presenti 8.448 FP64 e 16.896 FP32 core, così come 538 Tensor Core, ma una delle caratteristiche più di rilievo è l'impiego di 96GB di memorie HBM3. Tuttavia, gli utenti, a causa del supporto ECC e altri fattori, sono in grado di accedere "solo" a 80GB attraverso l'ampio bus a 5.120 bit. L'esemplare fotografato è una revisione A1 contraddistinto dalla sigla U8A603.L06 ed è stato costruito nel ultima settimana dello scorso anno.
Le dimensioni dei moduli H100 SXM5 sono al momento sconosciuti, ma sappiamo che sono stati pensati per essere utilizzati nei sistemi DGX H100 e DGX SuperPod High Performance Computing (HPC) dell'azienda e, ovviamente, non saranno acquistabili separatamente prezzo i negozi al dettaglio. Per alimentare questi energivori moduli sono stati inseriti VRM con 29 induttori per alta corrente, ciascuno dotato di due stadi di potenza, nonché tre induttori con uno stadio di potenza. A causa delle alte temperature che possono raggiungere, i VRM sono protetti da gusci di metallo che ne migliorano il raffreddamento.
NVIDIA inizierà a spedire le compute GPU Hopper H100 nel corso della seconda metà di quest'anno e, sebbene il prezzo non sia ancora stato specificato, sicuramente non si tratterà di un prodotto alla portata di tutti.