Serveur RTX PRO 6000

Serveur GPU refroidi par air, Blackwell Server Edition

Fiche matériel · QDNA plateforme IA souveraine

Mémoire	96 Go GDDR7 par GPU (2 à 8 GPU, jusqu’à 768 Go)
Calcul	environ 4 PFLOPS FP4 avec sparsité par GPU
Bande passante	1,6 To/s, PCIe Gen5
Isolation	MIG jusqu’à quatre instances de 24 Go
Consommation	600 W par GPU, air
Densité	2 à 8 GPU par serveur

Ce que la machine exécute

Plusieurs modèles de 70 à 200 milliards de paramètres en parallèle, RAG et réglage fin multi-GPU. Runtime conseillé : vLLM. Socle du stack dwarfstar.

Positionnement

Le cheval de bataille souverain fonctionne en refroidissement par air sur des serveurs standards, avec le meilleur rapport coût sur jeton.

Constructeurs

Serveurs certifiés chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.

Stockage GPUDirect

Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Le débit soutenu atteint environ 50 gigaoctets par seconde par lien. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.

Support

Pile ouverte supportée par QDNA et les communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par carte.