NVIDIA L40S - 48GB GDDR6
PNY NVIDIA L40S - GPU-Rechenprozessor - 48GB
Die NVIDIA L40S GPU, die auf der Ada Lovelace-Architektur basiert, ist die leistungsstärkste universelle GPU für Rechenzentren und bietet bahnbrechende Multi-Workload-Beschleunigung für das Inferenz- und Training von großen Sprachmodellen (LLM) sowie für Grafik- und Videoanwendungen. Als führende Plattform für multimodale generative KI ermöglicht die L40S GPU eine durchgängige Beschleunigung für Inferenz-, Trainings-, Grafik- und Video-Workflows und treibt die nächste Generation von KI-unterstützten Audio-, Sprach-, 2D-, Video- und 3D-Anwendungen voran.
Hauptmerkmale:
- CUDA Kerne: 18,176
- Arbeitsspeicher: 48 GB GDDR6
- Speicher-Bandbreite: 864 GB/s
- System-Schnittstelle: PCI Express 3.0 x16
- Max. Leistungsaufnahme: 350 W
- Display-Anschlüsse: 4x DisplayPort 1.4a
Technische Daten:
| GPU Architektur: | NVIDIA Ada Lovelace Architektur |
| Speichergröße: | 48 GB GDDR6 |
| Speicherbandbreite: | 864 GB/s |
| CUDA-Kerne: | 18,176 |
| RT Cores: | 142 |
| Tensor Cores: | 568 |
| RT Core Performance: | 212 TFLOPS |
| FP32: | 91.6 TFLOPS |
| TF32 Tensor Core: | 366 TFLOPS |
| BFLOAT16 Tensor Core: | 366 / 733 TFLOPS (bei Sparsamkeit) |
| FP16 Tensor Core: | 366 / 733 TFLOPS (bei Sparsamkeit) |
| FP8 Tensor Core: | 733 / 1466 TFLOPS (bei Sparsamkeit) |
| Peak INT8 Tensor: | 733 / 1466 TFLOPS (bei Sparsamkeit) |
| Peak INT4 Tensor: | 733 / 1466 TFLOPS (bei Sparsamkeit) |
| Formfaktor: | 4.4" (H) x 10.5" (L), dual slot |
| Bildschirmanschluss: | 4x DisplayPort 1.4a |
| Maximaler Stromverbrauch: | 350Watt |
| Stromanschluss: | 16-pin |
| Kühlung: | passiv |
| Virtual GPU (vGPU) Software Support: | Ja |
| NVENC / NVDEC | 3x / 3x (inkl. AV1 Encode and Decode) |
| Secure Boot with Root of Trust: | Ja |
| NEBS Ready: | Level 3 |
| MIG Support: | Nein |
| Garantiezeit: | 36 Monate limitierte Herstellergarantie |
- Datenblatt (englisch)