PNY NVIDIA H200 NVL HBM3e - GPU-Rechenprozessor - 141GB
Die NVIDIA H200 Tensor Core GPU beschleunigt generative KI und High-Performance-Computing (HPC)-Workloads mit bahnbrechender Leistung und Speicherkapazität. Basierend auf der NVIDIA Hopper™-Architektur ist die NVIDIA H200 die erste GPU, die 141 Gigabyte (GB) HBM3e-Speicher mit einer Bandbreite von 4,8 Terabyte pro Sekunde (TB/s) bietet – das entspricht nahezu der doppelten Kapazität der NVIDIA H100 Tensor Core GPU und 1,4-facher Speicherbandbreite.
Der größere und schnellere Speicher der H200 beschleunigt generative KI und Large Language Models (LLMs) und treibt gleichzeitig das wissenschaftliche Rechnen für HPC-Workloads voran – mit besserer Energieeffizienz und geringeren Gesamtbetriebskosten (TCO).
Die NVIDIA H200 NVL wird mit einem fünfjährigen NVIDIA AI Enterprise-Abonnement geliefert und vereinfacht den Aufbau einer unternehmensweiten, KI-bereiten Plattform. Die H200 beschleunigt die Entwicklung und Bereitstellung von produktionsreifen generativen KI-Lösungen, darunter Computer Vision, Sprach-KI, Retrieval Augmented Generation (RAG) und mehr.
NVIDIA AI Enterprise umfasst NVIDIA NIM™, ein Set benutzerfreundlicher Microservices, die darauf ausgelegt sind, die Einführung generativer KI im Unternehmen zu beschleunigen.
Hauptmerkmale:
- Architektur: NVIDIA Ada Lovelace
- Arbeitsspeicher: 24 GB GDDR6
- Speicher-Bandbreite: 300 GB/s
- System-Schnittstelle: PCI Express 4.0 x16
- Max. Leistungsaufnahme: 72 W
Technische Daten:
| Architektur: | NVIDIA Hopper™ |
| FP64: | 30 TFLOPS |
| FP64 Tensor Core: | 60 TFLOPS |
| FP32: | 60 TFLOPS |
| TP32 Tensor Core: | 835 TFLOPS mit Sparsity |
| BFLOAT16 Tensor Core | 1671 TFLOPS mit Sparsity |
| FP16 Tensor Core | 1671 TFLOPS mit Sparsity |
| FP8 Tensor Core | 3341 TFLOPS mit Sparsity |
| INT8 Tensor Core | 3341 TFLOPS mit Sparsity |
| Speichergröße: | 141 GB |
| Speicher-Bandbreite: | 4.8 TB/s |
| Max. Thermal Design Power (TDP): | bis zu 600 Watt (konfigurierbar) |
| System-Schnittstelle: | PCI Express |
| Formfaktor: | Dual Slot, luftgekühlt |
| Interconnect: | 2- or 4-way NVIDIA NVLink bridge: 900GB/s per GPU PCIe Gen5: 128GB/s |
| Serveroption: | NVIDIA MGX™ H200 NVL Partner und NVIDIA-Certified Systeme mit bis zu 8 GPUs |
| NVIDIA AI Enterprise: | Inklusive |
| Garantiezeit: | 36 Monate limitierte Herstellergarantie |