NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise
NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise
Dieses Produkt ist ausschließlich für Unternehmen, staatliche Einrichtungen und Bildungseinrichtungen bestimmt. Mit dem Abschluss der Bestellung im Onlineshop kommt noch kein Vertrag zustande, sondern es wird lediglich eine Anfrage übermittelt.
Der Verkauf des Produkts unterliegt Export-, Sanktions- und sonstigen rechtlichen Beschränkungen. Vor Annahme der Bestellung müssen der Käufer, der Endnutzer, das Lieferland und der Verwendungszweck überprüft werden. Die Anfrage kann erst nach erfolgreicher Autorisierung durch den Lieferanten angenommen werden.
Werden die erforderlichen Bedingungen nicht erfüllt, kann die Anfrage abgelehnt oder die Bestellung ohne Anspruch auf Lieferung der Ware storniert werden.
Bei Interesse an einer KI-Lösung oder einem KI-Beschleuniger können Sie uns auch unter [email protected] kontaktieren. Anschließend erstellen wir Ihnen ein Angebot und einen individuellen Vertrag. Weitere Informationen finden Sie in den Allgemeinen Geschäftsbedingungen (Punkte 3.46 und 3.47).
Grafikkarte NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise
Die NVIDIA H200 NVL Passive PCIe 141GB reagiert auf diesen Hunger auf eine Weise, die die Konkurrenz erst noch einholen muss: 141 GB HBM3e-Speicher mit einer Bandbreite von 4,8 TB/s, NVIDIA Hopper-Architektur mit GH100-Chip und einer Leistung von 3.341 TFLOPS in FP8 und 1.671 TFLOPS in FP16 für Inferenzen und das Training der größten KI-Modelle direkt im PCIe-Rack ohne die Notwendigkeit einer spezialisierten HGX-Infrastruktur. Im Vergleich zur H100 NVL bietet die NVIDIA H200 NVL eine bis zu 1,7-fach höhere Leistung bei LLM-Inferenzen und eine 1,3-fach höhere Leistung für HPC-Anwendungen – und eine im Preis inbegriffene Fünfjahreslizenz für NVIDIA AI Enterprise gewährleistet einen produktiven Einsatz vom ersten Tag an.
HBM3 / 141 GB
Arbeitsspeicher
PCIe 5.0 x16
Busschnittstelle
Keine
Zusätzliche Stromversorgung
Tesla Hopper (GH100)
Chiparchitektur
1.600 W
Empfohlene Netzteil-Leistung
Hauptmerkmale der Grafikkarte NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise
- Die Karte verfügt über 141 GB HBM3e-Speicher mit einer Bandbreite von 4,8 TB/s auf einem 6.144-Bit-Bus – fast die doppelte Kapazität und eine 1,4-fach höhere Bandbreite im Vergleich zur H100 – für Inferenzen und das Training der größten Sprachmodelle, wissenschaftlicher Simulationen sowie HPC-Workloads ohne Speicherbeschränkungen
- Die NVIDIA Hopper-Architektur mit dem GH100-Chip und einer Boost-Frequenz von bis zu 1.785 MHz erreicht 60 TFLOPS in FP32, 1.671 TFLOPS in FP16/BF16 und 3.341 TFLOPS in FP8 und INT8 für maximale Leistung bei KI-Inferenzen und dem Training umfangreicher Modelle
- Die Multi-Instance-GPU ermöglicht es, die Karte in bis zu 7 vollständig isolierte Instanzen zu je 16,5 GB aufzuteilen, jede mit eigenem Speicher, Cache und garantierter Servicequalität für den sicheren gleichzeitigen Betrieb mehrerer Benutzer oder Workloads auf einer einzigen Karte
- Die Unterstützung für 2- oder 4-Wege NVIDIA NVLink-Bridges mit einer Bandbreite von 900 GB/s pro GPU ermöglicht die Verbindung von bis zu vier H200 NVL-Karten zu einem leistungsstarken Multi-GPU-Cluster mit größerem gemeinsam genutztem Speicher für extrem große Modelle und Datensätze
- Die PCIe Gen 5-Schnittstelle mit einer Bandbreite von 128 GB/s ermöglicht den Einsatz in Standard-Enterprise-Servergehäusen ohne die Notwendigkeit einer spezialisierten HGX- oder DGX-Infrastruktur, was die Einstiegsbarriere für KI-Rechenzentren erheblich senkt
- Confidential Computing mit Hardware-Isolierung schützt sensible Daten und KI-Modelle vor unbefugtem Zugriff auch in einer gemeinsam genutzten Serverinfrastruktur, um strenge Sicherheits- und Compliance-Anforderungen zu erfüllen
- Sieben NVDEC-Decoder und sieben JPEG-Encoder gewährleisten die Hardwarebeschleunigung der Video- und Bilddatenverarbeitung für KI-Vision-Anwendungen, Medien-Workflows sowie Datenpipelines in großem Maßstab
- Die Karte wird mit einer fünfjährigen NVIDIA AI Enterprise-Lizenz geliefert, die NVIDIA NIM-Mikrodienste, optimierte Frameworks für generative KI, Computer Vision, Sprach-KI und RAG-Systeme mit unternehmensweiter Sicherheit und Unterstützung umfasst
- Eine TBP von bis zu 600 W (konfigurierbar) mit einer PCIe 5.0 x16-Schnittstelle erfordert eine Serverinfrastruktur mit entsprechender Stromversorgung und Kühlung für einen stabilen Produktionsbetrieb
Speicherbandbreite, die KI-Inferenzen verändert
Die größte Bremse bei modernen KI-Inferenzen ist nicht die Rechenleistung – es ist die Datenübertragung zwischen Speicher und Rechenkernen. Die NVIDIA H200 NVL PCIe 141GB beseitigt diese Barriere radikal. Insgesamt 141 GB HBM3e mit einer Bandbreite von 4,8 TB/s stellen sicher, dass die Rechenkerne niemals auf Daten warten. Modelle wie Llama2 70B kann die H200 NVL bis zu 1,7-mal schneller verarbeiten als die H100 NVL, GPT-3 175B sogar 1,6-mal schneller – und das bei identischem Leistungsprofil, was gleiche Anforderungen an die Stromversorgungs- und Kühlinfrastruktur bedeutet. Für KI-Fabriken und Supercomputersysteme, die mehr Leistung benötigen, ohne die Energieinfrastruktur zu erweitern, ist die NVIDIA H200 NVL die natürliche Wahl.
PCIe-Formfaktor für Rechenzentren ohne HGX-Infrastruktur
Leistung der HGX-Klasse in Servern, die sie zuvor nicht aufnehmen konnten – genau das bietet die NVIDIA H200 NVL PCIe 141GB. Während die SXM-Ausführung ein spezialisiertes HGX-Mainboard erfordert, passt die PCIe-Variante in Standard-Enterprise-Server von NVIDIA MGX und NVIDIA-Certified Systems mit einer Kapazität von bis zu acht GPUs in einem System. Die Unterstützung von 2- oder 4-Wege-NVLink-Bridges mit einer Bandbreite von 900 GB/s pro GPU ermöglicht dann den Aufbau eines leistungsstarken Multi-GPU-Clusters auch ohne ein proprietäres Verbindungssystem. Für Rechenzentren, die ihre bestehende Serverinfrastruktur aufrüsten möchten, anstatt sie vollständig zu ersetzen, ist dies eine strategische Wahl mit sofortiger Rendite.
5 Jahre NVIDIA AI Enterprise
Hardware ohne Software ist nur die halbe Lösung. Die NVIDIA H200 NVL PCIe 141GB wird daher mit einem fünfjährigen Abonnement für NVIDIA AI Enterprise geliefert, das im Preis inbegriffen ist – einer kompletten Plattform für die Entwicklung und den produktiven Einsatz generativer KI, Sprachmodelle, RAG-Systeme und agentischer KI-Anwendungen. NVIDIA NIM-Mikrodienste ermöglichen die Bereitstellung optimierter KI-Modelle als Container mit einer Vorlaufzeit von Minuten; Enterprise-Treiber und Support gewährleisten Stabilität und Sicherheit für geschäftskritische Einsätze. Für Organisationen, die von KI-Experimenten zu einer Produktionsinfrastruktur übergehen müssen, verkürzt die H200 NVL mit AI Enterprise den Weg vom Prototyp zur Produktion auf ein Minimum.
NVIDIA Hopper-Architektur
Definiert die Standards moderner KI-Inferenzen und HPC-Berechnungen
3.958 TFLOPS in FP8
KI-Inferenzleistung der Hopper-Architektur für LLMs in großem Maßstab
141 GB HBM3e
4,8 TB/s Bandbreite für Inferenzen und das Training der größten KI-Modelle
NVLink 900 GB/s
Verbindung von bis zu vier GPUs zu einem Multi-GPU-Cluster mit extremer Datenbandbreite
7× MIG zu je 16,5 GB
Bis zu 7 isolierte GPU-Instanzen für gemeinsam genutzte Rechenzentrumsumgebungen
Confidential Computing
Hardware-Isolierung von Daten und Modellen für Compliance- und Sicherheitsanforderungen
PCIe Gen 5-Formfaktor
Einsatz in Standard-Enterprise-Servern ohne HGX-Infrastruktur
5 Jahre NVIDIA AI Enterprise
NIM-Mikrodienste, Enterprise-Support und optimierte KI-Frameworks im Preis inbegriffenSpezifikationen
Chip
Leistung und Verwendung
Speicher
Frequenz
Schnittstelle
Technologie
Kühlung
Abmessungen
Verbrauch
AI
NCNR (Non-Cancellable, Non-Returnable)
Tops
AI-Spezifikationen
| Code: | NVh01 |
| Garantie: | 36 Monate |
| Links: | Herstellerwebsite |