NVIDIA A800 40GB Active Grafikkarte

Die ultimative Workstation-Entwicklungsplattform für KI, Datenwissenschaft und HPC.

Bezugsquellen

Finden Sie einen NVIDIA Design- und Visualisierungspartner.

Die Supercomputing-Plattform für Workstations

Die NVIDIA® A800 40GB Active GPU, die auf der NVIDIA Ampere Architektur basiert, ist die ultimative Workstation-Entwicklungsplattform mit integrierter NVIDIA AI Enterprise Software und bietet eine hohe Leistung zur Beschleunigung von Datenwissenschaft, KI, HPC und technischen Simulationen/CAE-Workloads der nächsten Generation.

Erste Schritte mit NVIDIA A800 40GB Active

Erfahren Sie, wie Sie die NVIDIA A800 40GB Active mit einer zusätzlichen GPU für die Anzeige einrichten und die Lizenz für NVIDIA AI Enterprise aktivieren.

Video ansehen

Highlights

Branchenführende Leistung

Double-Precision-Leistung (FP64)

9,7 TFLOPS¹

Tensor Leistung

1.247 KI-TOPS²

Speicher-Bandbreite

1,5 TB/s

¹ Die Spitzenwerte basieren auf der GPU-Boost-Taktung. ² Theoretische INT8-TOPS mit Sparsity.

Eigenschaften

Basierend auf der NVIDIA Ampere-Architektur

Tensor-Recheneinheiten der dritten Generation

Leistung und Vielseitigkeit für eine Vielzahl von KI- und HPC-Anwendungen mit Unterstützung für Double-Precision (FP64) und Tensor-Float-32-Präzision (TF32) bietet bis zu doppelt so viel Leistung und Effizienz gegenüber der vorherigen Generation und ermöglicht schnelles Modelltraining und Inferenz direkt auf RTX-gestützten KI-Workstations. Doppelter Inferenzdurchsatz dank Hardware-Support für Structural Sparsity.

Mehr-Instanzen-GPU

Vollständig isolierte und sichere Mehrmandantenfähigkeit auf Hardware-Ebene mit dediziertem Speicher, Cache und Rechenkernen mit hoher Bandbreite. Die Mehr-Instanzen-GPU (MIG) maximiert die Nutzung der GPU-beschleunigten Infrastruktur und ermöglicht es, eine A800 40GB Active GPU in bis zu sieben unabhängige Instanzen zu partitionieren, sodass mehrere Benutzer Zugang zur GPU-Beschleunigung erhalten.

NVIDIA NVLink der dritten Generation

Erhöhte GPU-zu-GPU-Verbindungsbandbreite bietet einen einzelnen skalierbaren Speicher zur Beschleunigung von Workloads und zur Bewältigung größerer Datensätze. Verbinden Sie zwei NVIDIA A800 40GB Active GPUs mit NVIDIA NVLink®, um den effektiven Speicherbedarf auf 80 GB zu erhöhen und die Anwendungsleistung zu skalieren, indem Sie GPU-zu-GPU-Datenübertragungen mit Raten von bis zu 400 GB/s (bidirektional) ermöglichen.

Ultra-schneller HBM2-Speicher

Erzielen Sie einen enormen Rechendurchsatz mit 40 GB Hochgeschwindigkeits-HBM2-Speicher mit einer klassenführenden Speicherbandbreite von 1,5 TB/s – eine Steigerung von über 70 % im Vergleich zur vorherigen Generation – und deutlich mehr integriertem Speicher, einschließlich eines Level-2-Caches von 40 MB, um die rechenintensivsten KI- und HPC-Workloads zu beschleunigen.

Erfahren Sie mehr über die NVIDIA Ampere GPU-Architektur

Workloads

KI- und HPC-Workflows branchenübergreifend optimieren

Generative KI

Mithilfe von neuronalen Netzwerken zur Erkennung von Mustern und Strukturen in vorhandenen Daten können Benutzer mit generativen KI-Anwendungen neue und originelle Inhalte aus einer Vielzahl von Eingaben und Ausgaben generieren, darunter Bilder, Sounds, Animationen und 3D-Modelle. Nutzen Sie NVIDIAs generative KI-Lösung NeMo™ Framework, die in NVIDIA AI Enterprise enthalten ist, zusammen mit der A800 40GB Active GPU für eine einfache, schnelle und anpassbare generative KI-Modellentwicklung.

Montage einer Sonnenuntergangsansicht, eines Proteins und eines Spielzeugs, das Jensen darstellt.

Technische Simulation/CAE

Die A800 40GB Active GPU bietet eine bemerkenswerte Leistung für GPU-beschleunigte CAE-Anwendungen (Computer-Aided Engineering). Technische Analysten und CAE-Spezialisten können umfangreiche Simulationen und technische Analysecodes in voller FP64-Präzision mit unglaublicher Geschwindigkeit ausführen, was die Entwicklungszeiten verkürzt und die Wertschöpfung beschleunigt.

Mit den zusätzlichen RTX-beschleunigten GPUs, die Anzeigefunktionen für Vor- und Nachbearbeitung bieten, können Konstrukteure und Ingenieure umfangreiche Simulationen und Modelle in vollstandiger Designtreue visualisieren.

Simuliertes Bild eines Motors — Image credit: Dassault Systèmes

Datenwissenschaft und Datenanalyse

Beschleunigen Sie durchgängige Datenwissenschafts- und Analyse-Workflows mit hoher Leistung, um schnell aussagekräftige Erkenntnisse aus großen Datensätzen zu gewinnen. Durch die Kombination der Hochleistungsrechenfähigkeiten der A800 40GB Active mit NVIDIA AI Enterprise können Datenexperten eine große Sammlung von Bibliotheken, Tools und Technologien nutzen, um Datenwissenschafts-Workflows zu beschleunigen – von der Datenvorbereitung über die Analyse bis hin zur Modellierung.

Computer, der auf eine Datenbank zugreift und Erkenntnisse extrahiert.

KI-Training und -Inferenz

Entlasten Sie Rechenzentrums- und Cloud-basierte Computing-Ressourcen und bringen Sie Supercomputing-Leistung für lokale KI-Trainings- und Inferenz-Workloads auf den Desktop. Leistungsstarke Workstations mit vier A800 40GB Active GPUs bieten mehr als 2,5 Petaflops an KI-Rechenleistung und 160 GB kombinierten HBM2-Speicher.

Prozess der Übernahme eines LLM, seiner Optimierung und der Bereitstellung einer Endlösung.

KI-Plattform

Produktionsreife KI mit NVIDIA AI Enterprise

Sofortige KI-Entwicklung

Jede NVIDIA A800 40GB Active GPU wird mit einem Drei-Jahres-Abonnement für NVIDIA AI Enterprise geliefert, einer End-to-End-Unternehmenssoftwareplattform für die schnelle Entwicklung und den Einsatz von produktionsreifer generativer KI, Computer Vision, Gesprächs-KI und mehr. Eine Software-Aktivierung ist erforderlich.

Beschleunigte Datenpipelines

NVIDIA AI Enterprise enthält Datenwissenschafts-Bibliotheken und -Tools, um schneller Einblicke zu liefern. Unternehmen können NVIDIA RAPIDS™ für bis zu 50-mal schnellere End-to-End-Pipelines für die Datenwissenschaft nutzen.

KI-Training und -Inferenz

NVIDIA AI Enterprise beschleunigt jede Phase der KI-Entwicklung, von der Datenvorbereitung und dem Modelltraining bis hin zur Inferenz und der Bereitstellung im großen Maßstab:

Zugriff auf vortrainierte Modelle mit NVIDIA TAO
Optimierung der Inferenz mit NVIDIA® TensorRT
Skalierbare Bereitstellung mit NVIDIA Triton™ Inference Server

Erfahren Sie mehr über NVIDIA AI Enterprise

Leistung

Anspruchsvolle KI- und HPC-Workloads bewältigen

Die NVIDIA A800 40GB Active GPU bietet eine außerordentliche Leistung, um die anspruchsvollsten Workflows auf Workstation-Plattformen zu erobern – von KI-Training und Inferenz bis hin zu komplexen technischen Simulationen, Modellierung und Datenanalyse. Mit einer mehr als 2-fachen Leistung im Vergleich zur Vorgängergeneration unterstützt die A800 40GB Active problemlos eine Vielzahl rechenintensiver Workloads.

KI-Training – ResNet-50 V1.5

ResNet-50 V1.5-Schulung. Batchgröße=256; Präzision=Gemischt.

KI-Training – BERT – Large

BERT Large Vortrainingsphase 2 Batchgröße=8; Präzision=Gemischt.

HPC – GTC

GTC Version 4.5, TAE, Präzision=FP32.

HPC – LAMMPS

LAMMPS patch_8Feb2023, Atomic Fluid Lennard-Jones 2.5 (cutoff); Präzision=FP64.

KI-Inferenz – ResNet-50 V1.5

ResNet-50 V1.5 Inferenz. Batchgröße=128; Präzision=Gemischt.

KI-Inferenz – BERT – Large

BERT Large Inferencz. Batchgröße=128; Präzision=INT8.

Leistungstests mit A800 40GB Active und Quadro GV100 GPUs und Intel Xeon Gold 6126 Prozessor.

Supercomputing-Leistung auf Desktop-Workstations

Entlasten Sie die Rechenzentrumsressourcen mit NVIDIA RTX™-gesteuerten KI-Workstations, die die Leistung eines Supercomputers auf den Desktop bringen. Workstation-Plattformen, die mit den neuesten NVIDIA RTX-Grafikprozessoren ausgestattet sind, bieten leistungsstarke KI-Leistung für die Entwicklung, das Training und die Bereitstellung der nächsten Generation von KI-gestützten Anwendungen und Modellen. Beschleunigen Sie die Entwicklung, das Training und Inferenz-Workloads und vereinfachen Sie die Bereitstellung im großen Maßstab mit der weltweit fortschrittlichsten KI-Plattform.

Erfahren Sie mehr über NVIDIA RTX-betriebene KI-Workstations

Technische Daten