GIGABYTE 2HE Serversystem R263-ZG0-AAL2 - AMD EPYC / GPU

AMD EPYC™ 9015 Prozessor

Hauptmerkmale:

• 8 Kerne und 16 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.95GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 64MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9124

AMD EPYC™ 9174F

AMD EPYC™ 9184X

AMD EPYC™ 9115 - 2.6GHz - 16Kerne/32Threads - Tray

Hauptmerkmale:

• 16 Kerne und 32 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.3GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 64MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.

Technische Daten:

AMD EPYC™ 9135 Prozessor

Hauptmerkmale:

• 16 Kerne und 32 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.25GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 64MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9224

AMD EPYC™ 9254

AMD EPYC™ 9274F

AMD EPYC™ 9255 Prozessor

Hauptmerkmale:

• 24 Kerne und 48 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 128MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9334

AMD EPYC™ 9354

AMD EPYC™ 9354P

AMD EPYC™ 9374F

AMD EPYC™ 9384X

AMD EPYC™ 9355 Prozessor

Hauptmerkmale:

• 32 Kerne und 64 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.2GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9335 Prozessor

Hauptmerkmale:

• 32 Kerne und 64 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 128MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9365 Prozessor

Hauptmerkmale:

• 36 Kerne und 72 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.15GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 192MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9454

AMD EPYC™ 9454P

AMD EPYC™ 9474F

AMD EPYC™ 9475F Prozessor

Hauptmerkmale:

• 48 Kerne und 96 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.4GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9965 Prozessor

Hauptmerkmale:

• 48 Kerne und 96 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.1GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9534

AMD EPYC™ 9554

AMD EPYC™ 9554P

AMD EPYC™ 9575F Prozessor

Hauptmerkmale:

• 64 Kerne und 128 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.5GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9555 Prozessor

Hauptmerkmale:

• 64 Kerne und 128 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.2GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9555P Prozessor

Hauptmerkmale:

• 64 Kerne und 128 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.2GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9535 Prozessor

Hauptmerkmale:

• 64 Kerne und 128 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.5GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9565 Prozessor

Hauptmerkmale:

• 72 Kerne und 144 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.2GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9634

AMD EPYC™ 9654

AMD EPYC™ 9654P

AMD EPYC™ 9684X

AMD EPYC™ 9655 Prozessor

Hauptmerkmale:

• 96 Kerne und 192 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.1GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9645 Prozessor

Hauptmerkmale:

• 96 Kerne und 192 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.3GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 256MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9655P Prozessor

Hauptmerkmale:

• 96 Kerne und 192 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.1GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9734

AMD EPYC™ 9754

AMD EPYC™ 9755 Prozessor

Hauptmerkmale:

• 128 Kerne und 256 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 4.1GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 512MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9745 Prozessor

Hauptmerkmale:

• 128 Kerne und 256 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.45GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9825 Prozessor

Hauptmerkmale:

• 144 Kerne und 288 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.3GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9845 Prozessor

Hauptmerkmale:

• 160 Kerne und 320 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.25GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 320MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

AMD EPYC™ 9965 Prozessor

Hauptmerkmale:

• 192 Kerne und 384 Threads: Hohe Multitasking-Leistung für parallele Anwendungen.
• All Core Boost Speed 3.35GHz: Frequenz-Durchschnitt aller Kerne im Leistungsmodus bei gleichzeitiger Nutzung einer geringen Arbeitslast.
• 384MB Intel Smart Cache: Schneller Zugriff auf häufig benötigte Daten.
• AMD AVX-512 Instruktionen: Beschleunigung von datenintensiven Berechnungen.

Technische Daten:

PNY NVIDIA H100 NVL HBM3 - GPU-Rechenprozessor - 94GB

Die NVIDIA® H100 NVL Tensor Core GPU ist die am stärksten optimierte Plattform für LLM-Inferenz (Large Language Models) – mit hoher Rechendichte, hoher Speicherbandbreite, hoher Energieeffizienz und einer einzigartigen NVLink-Architektur. Sie bietet eine beispiellose Beschleunigung für die leistungsfähigsten elastischen Rechenzentren der Welt im Bereich KI, Datenanalyse und High Performance Computing (HPC). Die NVIDIA H100 NVL Tensor Core Technologie unterstützt eine breite Palette an mathematischen Genauigkeiten und stellt somit einen einheitlichen Beschleuniger für unterschiedlichste Rechenlasten dar. Unterstützt werden Double Precision (FP64), Single Precision (FP32), Half Precision (FP16), 8-Bit Floating Point (FP8) und Integer (INT8) Berechnungen.

Außergewöhnliche Leistung für umfangreiche KI und HPC

Der Hopper Tensor-Core-Grafikprozessor wird die NVIDIA Grace Hopper CPU und GPU-Architektur unterstützen, die speziell für beschleunigtes Computing im Terabyte-Bereich entwickelt wurde und eine 10-mal höhere Leistung bei KI und HPC bei großen Modellen bietet. Die NVIDIA Grace-CPU nutzt die Flexibilität der Arm® Architektur, um eine CPU- und Serverarchitektur zu erstellen, die von Grund auf für beschleunigtes Computing entwickelt wurde. Die Hopper GPU wird mit der Grace CPU sowie der ultraschnellen Chip-zu-Chip-Verbindung von NVIDIA kombiniert und bietet eine Bandbreite von 900 GB/s – 7-mal schneller als PCIe der 5. Generation. Dieses innovative Design bietet eine bis zu 30-mal höhere Gesamt-Systemspeicherbandbreite im Vergleich zu den schnellsten gegenwärtig verfügbaren Servern und eine bis zu 10-mal höhere Leistung für Anwendungen mit einem Datenvolumen von mehreren Terabytes.

Die NVIDIA H100 NVL verfügt über Multi-Instance GPU (MIG)-Funktionalität. Damit lässt sich die GPU in bis zu sieben voneinander isolierte GPU-Instanzen aufteilen, wodurch eine flexible Plattform entsteht, die sich dynamisch an veränderte Anforderungen im Rechenzentrum anpassen kann. Gleichzeitig können Ressourcen optimal zugewiesen werden – von kleinsten bis zu größten Multi-GPU-Aufträgen. Dank ihrer Vielseitigkeit können IT-Manager mit der H100 NVL den Nutzen jeder einzelnen GPU im Rechenzentrum maximieren.

Enterprise-Ready: KI-Software optimiert Entwicklung und Bereitstellung

NVIDIA H100 NVL wird mit einem NVIDIA AI Enterprise Fünf-Jahres-Abonnement geliefert und vereinfacht den Aufbau einer KI-fähigen Plattform für Unternehmen. H100 beschleunigt die Entwicklung und Bereitstellung von KI für produktionsfähige generative KI-Lösungen, einschließlich Computer Vision, Sprach-KI, Retrieval Augmented Generation (RAG) und mehr. NVIDIA AI Enterprise umfasst NVIDIA NIM™, eine Reihe einfach zu bedienender Microservices, die entwickelt wurden, um die Bereitstellung generativer KI in Unternehmen zu beschleunigen. Zusammen bieten Bereitstellungen Sicherheit, Verwaltbarkeit, Stabilität und Support auf Unternehmensebene. Dies führt zu leistungsoptimierten KI-Lösungen, die schnelleren Geschäftswert und umsetzbare Erkenntnisse liefern.

Transformations-KI-Training

H100 verfügt über Tensor-Recheneinheiten der vierten Generation und eine Transformer Engine mit FP8-Präzision, die bis zu 4-mal schnelleres Training im Vergleich zur vorherigen Generation für GPT-3 (175B) Modelle bietet. Die Kombination aus NVLink der vierten Generation, das 900 GIGABYTE pro Sekunde (GB/s) der GPU-zu-GPU-Verbindung bietet, und dem NDR Quantum-2 InfiniBand-Netzwerk, das die Kommunikation durch jeden Grafikprozessor über Knoten hinweg beschleunigt, PCIe Gen5 und NVIDIA Magnum IO™ Software bietet effiziente Skalierbarkeit von Systemen für kleine Unternehmen bis hin zu riesigen, einheitlichen GPU-Clustern.

Die Bereitstellung von H100-Grafikprozessoren im Rechenzentrumsmaßstab bietet hervorragende Leistung sowie die nächste Generation von Exascale High-Performance-Computing (HPC) und Billionen-Parameter-KI für alle Forscher.

Echtzeit-Deep-Learning-Inferenz

KI löst eine Vielzahl von geschäftlichen Herausforderungen mit einer ebenso breiten Palette an neuronalen Netzen. Ein hervorragender KI-Inferenzbeschleuniger muss nicht nur höchste Leistung, sondern auch die Vielseitigkeit bieten, um diese Netzwerke zu beschleunigen.

H100 erweitert die marktführende Position von NVIDIA im Bereich Inferenz durch mehrere Verbesserungen, die die Inferenz um das bis zu 30-Fache beschleunigen und die niedrigste Latenz bieten. Tensor-Recheneinheiten der vierten Generation beschleunigen alle Präzisionen, einschließlich FP64, TF32, FP32, FP16, INT8 und jetzt FP8, um die Speichernutzung zu reduzieren und die Leistung zu steigern, während gleichzeitig die Genauigkeit für LLMs erhalten bleibt.

Exascale High-Performance Computing

Die NVIDIA-Rechenzentrumsplattform bietet konsistente Leistungssteigerungen, die über das Mooresche Gesetz hinausgehen. Die neuen bahnbrechenden KI-Funktionen von H100 verstärken die Leistungsfähigkeit von HPC und KI weiter, um für Wissenschaftler und Forscher, die an der Lösung der wichtigsten Herausforderungen der Welt arbeiten, die Zeit bis zum Entdecken zu verkürzen.

H100 verdreifacht die Gleitkommaoperationen pro Sekunde (FLOPS) der Tensor-Recheneinheiten mit doppelter Genauigkeit und liefert 60 TeraFLOPS FP64-Computing für HPC. KI-gestützte HPC-Anwendungen können auch die TF32-Präzision von H100 nutzen, um einen PetaFLOPS Durchsatz für Matrixmultiplikationsoperationen mit einfacher Genauigkeit zu erreichen, ohne Codeänderungen.

Außerdem verfügt H100 über neue DPX-Anweisungen, die 7-mal höhere Leistung als A100 und 40-fache Beschleunigung gegenüber CPUs bei dynamischen Programmieralgorithmen wie Smith-Waterman für die DNA-Sequenzausrichtung und Proteinausrichtung für die Proteinstrukturvorhersage liefern.

Leistungsschub für Inferenz großer Sprachmodelle mit H100 NVL

Für LLMs mit bis zu 70 Milliarden Parametern (Llama 2 70B) nutzt die PCIe-basierte NVIDIA H100 NVL mit NVLink-Brücke die Transformer Engine, NVLink und 188 GB HBM3-Speicher, um optimale Leistung und einfache Skalierung in jedem Rechenzentrum zu bieten – und bringt LLMs damit in den Mainstream. Server, die mit H100 NVL-GPUs ausgestattet sind, steigern die Llama-2-70B-Leistung um das bis zu 5-Fache gegenüber NVIDIA A100-Systemen bei gleichzeitiger geringer Latenz in Rechenzentrumsumgebungen mit begrenztem Stromverbrauch.

Technische Daten:

• Produktübersicht (englisch)

NVIDIA L4 - GPU-Rechenprozessor - 24GB

Die NVIDIA L4 Tensor Core GPU mit der NVIDIA Ada-Lovelace-Architektur bietet universelle, energieeffiziente Beschleunigung für Videofunktionen, KI, Visual Computing, Grafikfunktionen, Virtualisierung und mehr. Die L4 im Low-Profile-Formfaktor ist eine kostengünstige, energieeffiziente Lösung für hohen Durchsatz und geringe Latenz in jedem Server, vom Edge-Bereich bis zum Rechenzentrum und zur Cloud.

NVIDIA L4 Tensor Core GPUs bieten bis zu 120-fache KI-Videoleistung, was bis zu 99 % höhere Energieeffizienz und niedrigere Gesamtbetriebskosten im Vergleich zu herkömmlicher CPU-basierter Infrastruktur bewirkt.

Mit RT-Recheneinheiten der 3. Generation und KI-gestütztem NVIDIA Deep Learning Super Sampling 3 (DLSS 3) bietet NVIDIA L4 die 4-fache Leistung für KI-basierte Avatare, virtuelle Welten mit NVIDIA Omniverse™, Cloud-Gaming und virtuelle Workstations. Diese Funktionen ermöglichen es den Entwicklern, Echtzeit-Grafik und -Szenen in Kinoqualität für immersive visuelle Erlebnisse zu erzeugen, die mit CPUs nicht möglich sind.

NVIDIA L4 ist ein integraler Bestandteil der NVIDIA-Rechenzentrumsplattform. Die für Videofunktionen, KI, NVIDIA RTX™ Virtual Workstation (vWS), Grafikfunktionen, Simulation, Datenwissenschaft und Datenanalyse entwickelte Plattform beschleunigt über 3000 Anwendungen und steht auf breiter Ebene zur Verfügung, vom Rechenzentrum bis zur Edge-Umgebung und zur Cloud und bietet sowohl enorme Leistungssteigerung als auch Energieeffizienzpotenzial.

Hauptmerkmale:

• Architektur: NVIDIA Ada Lovelace
• Arbeitsspeicher: 24 GB GDDR6
• Speicher-Bandbreite: 300 GB/s
• System-Schnittstelle: PCI Express 4.0 x16
• Max. Leistungsaufnahme: 72 W

Technische Daten:

• Datenblatt (englisch)

NVIDIA L4 - GPU-Rechenprozessor - 24GB

Die NVIDIA L4 Tensor Core GPU mit der NVIDIA Ada-Lovelace-Architektur bietet universelle, energieeffiziente Beschleunigung für Videofunktionen, KI, Visual Computing, Grafikfunktionen, Virtualisierung und mehr. Die L4 im Low-Profile-Formfaktor ist eine kostengünstige, energieeffiziente Lösung für hohen Durchsatz und geringe Latenz in jedem Server, vom Edge-Bereich bis zum Rechenzentrum und zur Cloud.

NVIDIA L4 Tensor Core GPUs bieten bis zu 120-fache KI-Videoleistung, was bis zu 99 % höhere Energieeffizienz und niedrigere Gesamtbetriebskosten im Vergleich zu herkömmlicher CPU-basierter Infrastruktur bewirkt.

Mit RT-Recheneinheiten der 3. Generation und KI-gestütztem NVIDIA Deep Learning Super Sampling 3 (DLSS 3) bietet NVIDIA L4 die 4-fache Leistung für KI-basierte Avatare, virtuelle Welten mit NVIDIA Omniverse™, Cloud-Gaming und virtuelle Workstations. Diese Funktionen ermöglichen es den Entwicklern, Echtzeit-Grafik und -Szenen in Kinoqualität für immersive visuelle Erlebnisse zu erzeugen, die mit CPUs nicht möglich sind.

NVIDIA L4 ist ein integraler Bestandteil der NVIDIA-Rechenzentrumsplattform. Die für Videofunktionen, KI, NVIDIA RTX™ Virtual Workstation (vWS), Grafikfunktionen, Simulation, Datenwissenschaft und Datenanalyse entwickelte Plattform beschleunigt über 3000 Anwendungen und steht auf breiter Ebene zur Verfügung, vom Rechenzentrum bis zur Edge-Umgebung und zur Cloud und bietet sowohl enorme Leistungssteigerung als auch Energieeffizienzpotenzial.

Hauptmerkmale:

• Architektur: NVIDIA Ada Lovelace
• Arbeitsspeicher: 24 GB GDDR6
• Speicher-Bandbreite: 300 GB/s
• System-Schnittstelle: PCI Express 4.0 x16
• Max. Leistungsaufnahme: 72 W

Technische Daten:

PNY NVIDIA L40S - GPU-Rechenprozessor - 48GB

Die NVIDIA L40S GPU, die auf der Ada Lovelace-Architektur basiert, ist die leistungsstärkste universelle GPU für Rechenzentren und bietet bahnbrechende Multi-Workload-Beschleunigung für das Inferenz- und Training von großen Sprachmodellen (LLM) sowie für Grafik- und Videoanwendungen. Als führende Plattform für multimodale generative KI ermöglicht die L40S GPU eine durchgängige Beschleunigung für Inferenz-, Trainings-, Grafik- und Video-Workflows und treibt die nächste Generation von KI-unterstützten Audio-, Sprach-, 2D-, Video- und 3D-Anwendungen voran.

Hauptmerkmale:

• CUDA Kerne: 18,176
• Arbeitsspeicher: 48 GB GDDR6
• Speicher-Bandbreite: 864 GB/s
• System-Schnittstelle: PCI Express 3.0 x16
• Max. Leistungsaufnahme: 350 W
• Display-Anschlüsse: 4x DisplayPort 1.4a

Technische Daten:

• Datenblatt (englisch)

• RT-Cores der dritten Generation
  Erhöhter Durchsatz und gleichzeitige Raytracing- und Shading-Funktionen verbessern die Raytracing-Leistung und beschleunigen das Rendern für Produktdesign und Workflows in den Bereichen Architektur, Engineering und Konstruktion. Erleben Sie naturgetreue Designs in Aktion mit hardwarebeschleunigter Bewegungsunschärfe für beeindruckende Echtzeit-Animationen.
• Tensorkerne der vierten Generation
  Die Hardwareunterstützung für strukturelle Sparsamkeit und das optimierte TF32-Format bieten sofortige Leistungssteigerungen für schnelleres KI- und Data-Science-Modelltraining. Beschleunigte KI-erweiterte Grafikfunktionen, einschließlich DLSS, liefern eine hochskalierte Auflösung mit besserer Leistung in ausgewählten Anwendungen.
• Großer GPU-Speicher
  Bewältigen Sie speicherintensive Anwendungen und Arbeitslasten wie Data Science, Simulation, 3D-Modellierung und Rendering mit 48 GB ultraschnellem GDDR6-Speicher. Weisen Sie mit der vGPU-Software mehreren Benutzern Speicher zu, um große Arbeitslasten auf Kreativ-, Data-Science- und Design-Teams zu verteilen.
• Rechenzentrumstauglich
  Der NVIDIA L40 wurde mit energieeffizienter Hardware und Komponenten für den 24x7-Betrieb in Rechenzentren entwickelt. Er ist für den Einsatz im großen Maßstab optimiert und liefert maximale Leistung für eine Vielzahl von Rechenzentrums-Workloads. Der L40 verfügt über Secure Boot mit Root-of-Trust-Technologie, die eine zusätzliche Sicherheitsebene bietet, und ist NEBS Level 3-konform, um die Standards für Rechenzentren zu erfüllen.

Technische Daten:

NVIDIA A16 - GPU-Rechenprozessor - 64GB

Die NVIDIA® A16 ist die ideale GPU für hochdichte, grafikintensive VDI-Umgebungen. Sie basiert auf der NVIDIA Ampere-Architektur und wurde speziell entwickelt, um die höchste Benutzerdichte zu erreichen – mit bis zu 64 gleichzeitigen Nutzern pro Karte im Dual-Slot-Formfaktor. In Kombination mit der NVIDIA Virtual PC (vPC) Software bietet sie die Leistung und Performance, um jedes Projekt von überall aus zu bewältigen.

Dank der Ampere-Architektur ermöglicht die A16 doppelte Benutzer­dichte im Vergleich zur Vorgängergeneration, bei gleichzeitig bestmöglicher Benutzererfahrung.

Hauptmerkmale:

• Architektur: Ampere
• CUDA: 5120 Kerne
• NVIDIA Tensor: 160 Kerne
• NVIDIA RT: 40 Kerne
• Arbeitsspeicher: 64 GB GDDR6
• System-Schnittstelle: PCI Express 4.0 x16
• Kühlung: passiv

Technische Daten:

PNY NVIDIA A2 - GPU-Rechenprozessor - 16GB

Die NVIDIA A2 Tensor Core GPU bietet Inferenz auf Einstiegsniveau mit geringem Stromverbrauch, kompakter Bauform und hoher Leistung für intelligente Videoanalysen (IVA) oder NVIDIA AI am Netzwerkrand (Edge). Mit einer Low-Profile-PCIe-Gen4-Karte und einer konfigurierbaren thermischen Designleistung (TDP) von nur 40–60 Watt bringt die A2 vielseitige Inferenzbeschleunigung in jeden Server.

Dank ihrer Vielseitigkeit, kompakten Größe und ihres niedrigen Stromverbrauchs übertrifft die A2 die Anforderungen großflächiger Edge-Einsätze und wertet bestehende CPU-Server der Einstiegsklasse sofort für Inferenzaufgaben auf. Mit A2-GPUs beschleunigte Server liefern bis zu 20-mal höhere Inferenzleistung im Vergleich zu CPUs und ermöglichen 1,3-mal effizientere IVA-Einsätze als frühere GPU-Generationen – und das zu einem attraktiven Einstiegspreis.

NVIDIA-zertifizierte Systeme mit den Tensor Core GPUs NVIDIA A2, A30 und A100 sowie NVIDIA AI – einschließlich des NVIDIA Triton Inference Servers, einer Open-Source-Inferenzdienst-Software – bieten bahnbrechende Inferenzleistung über Edge, Rechenzentrum und Cloud hinweg. Sie ermöglichen die Bereitstellung KI-gestützter Anwendungen mit weniger Servern und geringerem Energieverbrauch, was einfachere Inbetriebnahmen, schnellere Erkenntnisse und deutlich geringere Kosten zur Folge hat.

Hauptmerkmale:

• Architektur: Ampere
• CUDA: 1280 Kerne
• NVIDIA Tensor: 40 Kerne (Gen. 3)
• NVIDIA RT: 108 Kerne (Gen. 2)
• Arbeitsspeicher: 16 GB GDDR6 ECC
• System-Schnittstelle: PCI Express 4.0 x8

Technische Daten:

PNY NVIDIA A10 - GPU-Rechenprozessor - 24GB GDDR6

Die NVIDIA A10 Tensor Core GPU kombiniert modernste Hardware mit der NVIDIA RTX Virtual Workstation (vWS) Software, um Unternehmen leistungsstarke Grafik-, Video- und KI-Funktionen direkt in ihre Rechenzentren zu bringen. So erhalten Designer, Ingenieure, Kreative und Wissenschaftler die Performance, die sie brauchen, um aktuelle Herausforderungen effizient zu meistern.

Basierend auf der NVIDIA Ampere Architektur vereint die A10 die neuesten Technologien: RT Cores der zweiten Generation, Tensor Cores der dritten Generation, brandneue Streaming-Multiprozessoren und 24 GB GDDR6-Speicher – alles in einem kompakten 150W-Design. Das Ergebnis ist vielseitige Leistung für Grafik, Rendering, KI und High-Performance-Computing – egal ob für virtuelle Workstations, Render-Nodes oder heterogene Workloads im Rechenzentrum.

Mit ihrem einfach breiten, vollhohen und voll langen PCIe-Formfaktor ist die A10 perfekt auf den flexiblen Einsatz in modernen IT-Umgebungen zugeschnitten. Als Teil der NVIDIA-Certified Systems™ wird die A10 sowohl im lokalen Rechenzentrum als auch in der Cloud und am Edge unterstützt.

Hauptmerkmale:

• Architektur: NVIDIA Ampere Architektur
• Arbeitsspeicher: 24 GB GDDR6
• Speicher-Bandbreite: 600 GB/s
• System-Schnittstelle: PCI Express 4.0 x16
• Max. Leistungsaufnahme: 150 W

Technische Daten:

• Datenblatt

PNY NVIDIA A40 - GPU-Rechenprozessor - 48GB

Hauptmerkmale:

• Architektur: NVIDIA Ampere
• Arbeitsspeicher: 48 GB GDDR6 mit ECC
• Speicher-Bandbreite: 696 GB/s
• Max. Leistungsaufnahme: 300 W

Technische Daten:

• Datenblatt (englisch)

PNY NVIDIA A2 - GPU-Rechenprozessor - 16GB

Die NVIDIA A2 Tensor Core GPU bietet Inferenz auf Einstiegsniveau mit geringem Stromverbrauch, kompakter Bauform und hoher Leistung für intelligente Videoanalysen (IVA) oder NVIDIA AI am Netzwerkrand (Edge). Mit einer Low-Profile-PCIe-Gen4-Karte und einer konfigurierbaren thermischen Designleistung (TDP) von nur 40–60 Watt bringt die A2 vielseitige Inferenzbeschleunigung in jeden Server.

Dank ihrer Vielseitigkeit, kompakten Größe und ihres niedrigen Stromverbrauchs übertrifft die A2 die Anforderungen großflächiger Edge-Einsätze und wertet bestehende CPU-Server der Einstiegsklasse sofort für Inferenzaufgaben auf. Mit A2-GPUs beschleunigte Server liefern bis zu 20-mal höhere Inferenzleistung im Vergleich zu CPUs und ermöglichen 1,3-mal effizientere IVA-Einsätze als frühere GPU-Generationen – und das zu einem attraktiven Einstiegspreis.

NVIDIA-zertifizierte Systeme mit den Tensor Core GPUs NVIDIA A2, A30 und A100 sowie NVIDIA AI – einschließlich des NVIDIA Triton Inference Servers, einer Open-Source-Inferenzdienst-Software – bieten bahnbrechende Inferenzleistung über Edge, Rechenzentrum und Cloud hinweg. Sie ermöglichen die Bereitstellung KI-gestützter Anwendungen mit weniger Servern und geringerem Energieverbrauch, was einfachere Inbetriebnahmen, schnellere Erkenntnisse und deutlich geringere Kosten zur Folge hat.

Hauptmerkmale:

• Architektur: Ampere
• CUDA: 1280 Kerne
• NVIDIA Tensor: 40 Kerne (Gen. 3)
• NVIDIA RT: 108 Kerne (Gen. 2)
• Arbeitsspeicher: 16 GB GDDR6 ECC
• System-Schnittstelle: PCI Express 4.0 x8

Technische Daten:

NVIDIA A16 - GPU-Rechenprozessor - 64GB

Die NVIDIA® A16 ist die ideale GPU für hochdichte, grafikintensive VDI-Umgebungen. Sie basiert auf der NVIDIA Ampere-Architektur und wurde speziell entwickelt, um die höchste Benutzerdichte zu erreichen – mit bis zu 64 gleichzeitigen Nutzern pro Karte im Dual-Slot-Formfaktor. In Kombination mit der NVIDIA Virtual PC (vPC) Software bietet sie die Leistung und Performance, um jedes Projekt von überall aus zu bewältigen.

Dank der Ampere-Architektur ermöglicht die A16 doppelte Benutzer­dichte im Vergleich zur Vorgängergeneration, bei gleichzeitig bestmöglicher Benutzererfahrung.

Hauptmerkmale:

• Architektur: Ampere
• CUDA: 5120 Kerne
• NVIDIA Tensor: 160 Kerne
• NVIDIA RT: 40 Kerne
• Arbeitsspeicher: 64 GB GDDR6
• System-Schnittstelle: PCI Express 4.0 x16
• Kühlung: passiv

Technische Daten:

PNY NVIDIA L40S - GPU-Rechenprozessor - 48GB

Die NVIDIA L40S GPU, die auf der Ada Lovelace-Architektur basiert, ist die leistungsstärkste universelle GPU für Rechenzentren und bietet bahnbrechende Multi-Workload-Beschleunigung für das Inferenz- und Training von großen Sprachmodellen (LLM) sowie für Grafik- und Videoanwendungen. Als führende Plattform für multimodale generative KI ermöglicht die L40S GPU eine durchgängige Beschleunigung für Inferenz-, Trainings-, Grafik- und Video-Workflows und treibt die nächste Generation von KI-unterstützten Audio-, Sprach-, 2D-, Video- und 3D-Anwendungen voran.

Hauptmerkmale:

• CUDA Kerne: 18,176
• Arbeitsspeicher: 48 GB GDDR6
• Speicher-Bandbreite: 864 GB/s
• System-Schnittstelle: PCI Express 3.0 x16
• Max. Leistungsaufnahme: 350 W
• Display-Anschlüsse: 4x DisplayPort 1.4a

Technische Daten:

• Datenblatt (englisch)