GB300 NVL72

Échelle rack, 72 GPU refroidis par liquide

Fiche matériel · QDNA plateforme IA souveraine

GPU	72 Blackwell Ultra et 36 Grace (2592 cœurs)
Mémoire	environ 20,7 To HBM3e (40 To de mémoire rapide)
Calcul	environ 1,1 ExaFLOPS FP4 en dense
NVLink	130 To/s sur un domaine de 72 GPU
Consommation	environ 120 kW, refroidissement liquide
Format	rack 42U complet

Ce que la machine exécute

Un seul supercalculateur de 72 puces sert les modèles frontière et un cloud IA privé. Runtime conseillé : vLLM désagrégé avec LiteLLM.

Positionnement

La grande entreprise héberge son propre modèle frontière dans une baie, en cloud IA souverain.

Constructeurs

Assemblage rack chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte, en refroidissement liquide.

Stockage GPUDirect

Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Le débit soutenu atteint environ 50 gigaoctets par seconde par lien. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.

Support

Pile ouverte supportée par QDNA et les communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par carte.