Confidential-AI-Lösungen

NVIDIA Confidential Computing

Sicherung proprietärer Modelle und sensibler Daten

Überblick

Schützen Sie Modelle und Daten während der Verarbeitung

Da Unternehmen zunehmend auf agentische KI setzen, um die Produktivität zu steigern und die Geschäftsergebnisse zu verbessern, tritt ein kritisches Anliegen in den Vordergrund: der Schutz ihrer sensiblen Daten und Modelle während der Inferenz und Feinabstimmung. Unternehmensdaten sind anfällig für potenzielle Bedrohungen, die ihre Integrität und Vertraulichkeit gefährden könnten. NVIDIA Confidential Computing, jetzt in der dritten Generation mit der NVIDIA Rubin-Architektur, treibt die KI weiter voran – und bietet starke Daten- und Modellsicherheit bei einer Leistung, die mit der von unverschlüsselten Modellen vergleichbar ist. Mit NVIDIA Confidential Computing können Unternehmen den Wert ihrer sensiblen Daten mit KI erschließen, um revolutionäre Erkenntnisse zu gewinnen – mit der Gewissheit, dass Daten und Modelle sicher, regelkonform und unverfälscht bleiben.

Erweitertes NVIDIA Confidential Computing ermöglicht es führenden KI-Laboren, Frontier-Modelle auf souveräner KI-Infrastruktur bereitzustellen

Anthropic, Google, Mistral, Apple und andere Entwickler von Foundation Models nutzen NVIDIA Confidential Computing, um die NVIDIA GPU-Kapazität zu erschließen und ihre Inferenzdienste global zu skalieren.

Hardwarebasierte KI-Sicherheit, die Sie nicht ausbremst

NVIDIA Confidential Computing bietet Schutz auf Hardware-Ebene für KI-Workloads und sichert Daten, Modellgewichte und Inferenz zur Laufzeit mit bis zu 98 % der Leistung von ungesicherten Bereitstellungen.

Vorteile

Confidential Computing sichert jeden KI-Workload

Erfahren Sie, wie Unternehmen den KI-Stack mit NVIDIA Confidential Computing sichern können.

Absicherung von Modellen und Daten während der Verarbeitung

NVIDIA Vera Rubin NVL72 ermöglicht Confidential Computing im Rack-Maßstab über NVLink für eine Skalierung mit hoher Geschwindigkeit und geringer Latenz, um eine einheitliche Sicherheitsdomäne zu schaffen, die 72 NVIDIA Rubin-GPUs, 36 NVIDIA Vera-CPUs und Verbindungen umfasst. Es schützt die GPU-Ausführung, den Speicher und die Registerzustände und sorgt gleichzeitig dafür, dass Modelle, Trainingsdaten und Inferenzaufforderungen während des gesamten KI-Lebenszyklus isoliert bleiben.

Leistungsstarke KI-Sicherheit

NVIDIA Confidential Computing gewährleistet die Vertraulichkeit und Integrität von KI-Modellen, die auf Rubin-, Blackwell- und Hopper-GPUs bereitgestellt werden. Vera Rubin NVL72 erweitert die nahezu unverschlüsselte Leistung auf Rack-Ebene, ermöglicht durch NVLink und NVLink-C2C. Dieses Design ermöglicht es, sensible KI-Workloads sicher und in großem Maßstab mit nahezu nativer Leistung auszuführen, selbst in gemeinsam genutzten oder Cloud-Umgebungen.

Keine Codeänderungen

Mit NVIDIA Confidential Computing auf Hopper-, Blackwell- und Rubin-GPUs können Unternehmen jedes Modell schnell und ohne Codeänderungen in eine geschützte Enklave verschieben. Legen Sie einfach die Workloads fest, die geschützt werden müssen – und mit wenigen Tastaturanschlägen sind diese Workloads geschützt.

Überprüfbarkeit mit Gerätebestätigung

Eine Zero-Trust-Architektur mit hardwarebasierter Attestierung zur Verifizierung der Vertrauenswürdigkeit von Rechenressourcen. Mit der Vera-Rubin-Plattform sowie den Blackwell- und Hopper-GPUs können Sie die Compliance aufrechterhalten und sicherstellen, dass Apps und Daten innerhalb der vertrauenswürdigen Ausführungsumgebung (TEE) geschützt sind, unabhängig davon, wo die Plattform oder der Workload läuft.

Produkte

Confidential Computing mit NVIDIA

KI-Sicherheit und die Erfüllung der Anforderungen im Bereich der Datensouveränität sind heute möglich, unabhängig davon, wo sich Ihre Daten befinden und wo die Infrastruktur bereitgestellt wird. NVIDIA hat die vertrauenswürdige Grundlage für den Schutz der KI geschaffen – unabhängig davon, ob sie auf einem dedizierten Bare-Metal-Host, Kubernetes-nativen vertraulichen Containern oder vertraulichen virtuellen Maschinen ausgeführt wird.

Confidential Bare-Metal

KI-Labore und Modellbesitzer erhalten die volle Kontrolle über die dedizierte Infrastruktur, um ihre Modelle sicher on-premises bereitzustellen. Sie betreiben und verifizieren die Umgebung selbst und halten den Infrastrukturanbieter außerhalb der vertrauenswürdigen Grenze.

Confidential Containers auf Kubernetes

Unternehmen schützen Kubernetes-Workloads, ohne die Art und Weise zu ändern, wie sie Anwendungen entwickeln oder bereitstellen. Jeder Pod läuft in einer eigenen hardwaregeschützten Umgebung, die eine sichere Isolation bietet und gleichzeitig die Portabilität sowie die betriebliche Flexibilität von Kubernetes wahrt.

Confidential Virtual Machines

Unternehmen erweitern Confidential Computing auf ihre bestehenden Umgebungen für virtuelle Maschinen. Jede Mandanten-VM läuft innerhalb einer hardwaregeschützten Umgebung, wodurch Workloads und Daten geschützt werden – sogar vor dem Host-Infrastrukturanbieter.

Anwendungsfälle

Erfolgsgeschichten von Kunden und Partnern entdecken

Erfahren Sie, wie führende Unternehmen die Sicherheit mit NVIDIA Confidential Computing revolutionieren – modernster Technologie, die sensible Workloads sicher hält, während Daten verwendet werden. 

NVIDIA Confidential Computing unterstützt die Erweiterung von Apples Private Cloud Compute

NVIDIA-GPUs sollen serverseitige Inferenz für Apple Intelligence unterstützen.

Private Sprach-KI für regulierte Branchen

Deepgram und Fortanix nutzen NVIDIA Confidential Computing, um die Gewichte der Sprach-KI-Modelle und Audiodaten während der gesamten aktiven Inferenz in regulierten lokalen Umgebungen verschlüsselt zu halten.

Absicherung von KI-Modellen in On-Premises-Umgebungen für Unternehmen

Dell Technologies und SpaceXAI nutzen NVIDIA Confidential Computing auf NVIDIA Blackwell-GPUs, um proprietäre Modellgewichte und Unternehmensdaten während der Verarbeitung in der Dell AI Factory mit NVIDIA zu schützen.

Ressourcen

Erweitern Sie Ihr Verständnis

Informieren Sie sich über NVIDIA Confidential Computing anhand unserer Blogs, Schulungsvideos, Aufzeichnungen von „Meet the Expert“ und GTC-Sessions.

Die Auswirkungen von Confidential Computing mit Intel, Azure, AMD und NVIDIA

CTOs nehmen an einer Podiumsdiskussion über Confidential Computing, häufige Anwendungsfälle, technische Herausforderungen und Attestation teil und treffen Vorhersagen über die Zukunft dieser Technologie, insbesondere in Bezug auf KI, moderiert von Felix Schuster (CEO, Edgeless Systems).

Leistungsstarkes Confidential Computing auf NVIDIA-GPUs

Session zum Thema „Leistungsstarkes Confidential Computing“ mit Sicherheitsexperten, einem NVIDIA Senior Director und renommierten Architekten.

NVIDIA GPU-fähiges Confidential Computing auf Microsoft Azure

In diesem schnellen Chat schließen sich Mark Russinovich, Azure CTO und Technical Fellow bei Microsoft, und Daniel Rohrer, VP of Software Security bei NVIDIA, Terry Sweeney von Dark Reading an.

Confidential Computing verbessert die Sicherheit und den Datenschutz in der Cloud

Mark Russinovich hält die Keynote auf dem CC Summit „Confidential Computing: Elevating Cloud Security and Privacy.“

Anwender

Fortschritte in jeder Branche mit Confidential Computing

FAQs

NVIDIA Confidential Computing verschlüsselt und schützt Daten während der Ausführung. Für KI-Workloads ermöglicht dies die Verschlüsselung und den Schutz proprietärer KI-Modelle und sensibler Daten während der Verarbeitung, einschließlich Trainingsdaten, Feinabstimmungsdatensätzen, Inferenz-Prompts und Modellgewichten, innerhalb einer hardware-erzwungenen vertrauenswürdigen Ausführungsumgebung (TEE). Dieser Schutz erstreckt sich auf lokale Modellbereitstellungen und stellt sicher, dass proprietäre Modelle und vertrauliche Daten selbst innerhalb einer gemeinsamen oder mehrfach mandantenfähigen Infrastruktur sicher bleiben, wodurch Unternehmen die volle Kontrolle über ihre KI-Workloads erhalten, ohne die Sicherheit zu beeinträchtigen.

NVIDIA Confidential Computing wird auf den Plattformen NVIDIA Rubin, NVIDIA Blackwell und NVIDIA Hopper™ unterstützt. Detaillierte Informationen zu unterstützten GPU-, CPU- und Bereitstellungskonfigurationen finden Sie auf der Seite „Unterstützte Plattformen“.

Die Attestierung nutzt hardwarebasierte Nachweise, um die Identität und Sicherheitslage einer Confidential Computing-Umgebung zu überprüfen und ihre Integrität zu gewährleisten, bevor sensibler Code oder sensible Daten an sie freigegeben werden.

Die unterstützten Konfigurationen sind für die Ausführung mit nahezu nativer Leistung ausgelegt. Die tatsächlichen Ergebnisse hängen vom Workload, der Plattform und der Konfiguration ab. Entdecken Sie den Confidential Computing Performance Blog, um weitere Details zur Leistung zu erhalten.

Viele unterstützte Workloads können Confidential Computing ohne Änderungen am Anwendungscode nutzen. Infrastruktur- und Bereitstellungseinstellungen müssen weiterhin der unterstützten Konfiguration entsprechen.

Es kann Datenschutz- und Isolationskontrollen unterstützen, zertifiziert jedoch keinen Workload alleine. Stimmen Sie Ihre vollständige Architektur und Ihren Betriebsprozess mit Ihren Sicherheits-, Datenschutz- und Compliance-Teams ab.

Nächste Schritte

Sind Sie bereit für den Einstieg?

Sichern Sie Ihre Daten noch heute in einer vertrauenswürdigen Ausführungsumgebung, die von NVIDIA Confidential Computing unterstützt wird.

Azure Cloud-Dienste

Wenn Ihre Daten in der Microsoft Azure-Cloud gespeichert sind, schützen Sie Ihre Daten während der Verwendung durch den Zugriff auf Confidential Computing.

Google Cloud Services

Cloud: Schützen Sie Ihre Daten während der Verarbeitung, indem Sie auf Confidential Computing in der Google Cloud zugreifen.