GIGABYTE 2HE Server XH23-VG0-AAJ1 - NVIDIA MGX™ GH200
GIGABYTE 2HE Server XH23-VG0-AAJ1 - NVIDIA MGX™ GH200
Über reine CPU-Anwendungen hinaus ist der NVIDIA GH200 Grace Hopper Superchip für KI- und HPC-Anwendungen im großen Maßstab konzipiert. Er basiert auf einer Kombination aus einer NVIDIA Grace™ CPU und einer NVIDIA H100 Tensor Core GPU.
Durch den Einsatz derselben NVIDIA® NVLink®-C2C-Technologie, die die zentralen Rechenkomponenten in einem einzigen Superchip miteinander verbindet, entsteht ein besonders leistungsfähiges Rechenmodul. Das kohärente Speicherkonzept nutzt sowohl den schnellen HBM3- bzw. HBM3e-GPU-Speicher als auch den groß dimensionierten LPDDR5X-CPU-Speicher.
Der Superchip übernimmt außerdem die Möglichkeit zur Skalierung über InfiniBand-Netzwerke, indem NVIDIA BlueField®-3 DPUs oder NICs eingesetzt werden. Dadurch entsteht ein System mit einer Übertragungsgeschwindigkeit von 100 GB/s für ML- und HPC-Workloads.
Der kommende NVIDIA GH200 NVL32 kann Deep-Learning- und HPC-Workloads noch weiter beschleunigen, indem bis zu 32 Superchips über das NVLink Switch System miteinander verbunden werden. Dieses System basiert auf NVLink-Switches und bietet eine Bandbreite von 900 GB/s zwischen jeweils zwei Superchips. Dadurch lassen sich die leistungsstarken Rechenchips und der erweiterte GPU-Speicher optimal ausnutzen.
Hauptmerkmale:
- 1x NVIDIA GH200 Grace Hopper Superchip
- NVIDIA Grace CPU: 72 Arm Neoverse V2 Kerne
- NVIDIA H100 Tensor Core GPU: 96 GB HBM3
- CPU-Speicher: bis zu 480 GB LPDDR5X ECC
- GPU-Speicher: 144 GB HBM3
- CPU-GPU-Verbindung: NVIDIA NVLink-C2C
- Massenspeicher: 4× 2,5" PCIe Gen5 NVMe + 2× M.2 PCIe Gen5
- Erweiterung: 3× PCIe Gen5 x16
- Netzwerk: 2× 10GbE + 1× 1GbE Management
- Netzteile: 2× 2000 W, redundant ausgelegt
- Management: GIGABYTE Management Console / ASPEED BMC
- Typische Einsatzbereiche: KI/ML, Deep Learning und HPC
Einsatzmöglichkeiten:
- KI-Training und Deep Learning
- KI-Inferenz und Generative AI
- High Performance Computing (HPC)
- Wissenschaftliche und technische Simulationen
- Large Language Models (LLMs) und andere große KI-Modelle
- Datenanalyse und rechenintensive Anwendungen
- GPU-beschleunigte Anwendungen und Forschung
- Skalierbare KI-/HPC-Cluster durch Anbindung an schnelle NetzwerkeWissenschaftliche Anwendungen: Ideal für komplexe Simulationen und Datenanalysen in Forschungseinrichtungen
Vorteile:
- Sehr hohe CPU-GPU-Kopplung durch NVLink-C2C
- Große und schnelle Speicherarchitektur
- NVIDIA-zertifiziert
NVIDIA MGX™ Plattform
Das System basiert auf der NVIDIA MGX™ Plattform, die eine skalierbare Architektur für KI und Supercomputing-Anwendungen bietet. Dank der NVLink-Verbindung zwischen den GPUs wird eine Hochgeschwindigkeits-Datenübertragung gewährleistet, die deutlich schneller als herkömmliche PCIe-Verbindungen ist. So wird maximale Effizienz bei Multi-GPU-Workloads erreicht.
Der Server ist daher für eine Vielzahl von Anwendungen geeignet, darunter z.B.:
- Künstliche Intelligenz (KI) und maschinelles Lernen (ML)
- Hochleistungsrechnen (HPC)
- Datenanalyse
- Forschung und Entwicklung
- Deep Learning
Mit dem GIGABYTE XV23-ZX0-AAJ1 erhalten Sie eine skalierbares und zuverlässiges System, die den anspruchsvollsten Workloads standhält. Die Kombination aus AMD EPYC Prozessoren, NVIDIA H200 GPUs und der MGX™-Plattform macht dieses Serversystem zur soliden Basis für KI, Forschung oder wissenschaftlichen Anwendungen.
Sämtliche ProSTOR® PC- und Serversysteme werden in unserem Hause mit höchster Sorgfalt gefertigt, professionell implementiert und einer umfassenden Qualitätssicherung unterzogen. Dabei gewährleisten wir, dass alle Treiber sowie sämtliche relevanten Updates dem aktuellsten Stand zum Zeitpunkt der Fertigung entsprechen.
