Soluzioni IA riservate

NVIDIA Confidential Computing

Proteggere i modelli proprietari e i dati sensibili

Panoramica

Proteggi i modelli e i dati in uso

Mentre le organizzazioni si rivolgono all'IA agentica per migliorare la produttività e i risultati aziendali, emerge una preoccupazione critica: la salvaguardia dei propri dati e modelli sensibili durante l'inferenza e l'ottimizzazione. I dati aziendali sono vulnerabili a potenziali minacce che potrebbero comprometterne l'integrità e la riservatezza. NVIDIA Confidential Computing, ora nella sua terza generazione con l'architettura NVIDIA Rubin, continua a promuovere l'IA, offrendo una forte sicurezza di dati e modelli con prestazioni paragonabili ai modelli non crittografati. Con NVIDIA Confidential Computing, le aziende possono sbloccare il valore dei propri dati sensibili con l'IA per offrire informazioni rivoluzionarie, con la garanzia che i dati e i modelli rimangano sicuri, conformi e non compromessi.

L'espansione di NVIDIA Confidential Computing consente ai principali laboratori IA di distribuire modelli di frontiera sull'infrastruttura IA sovrana

Anthropic, Google, Mistral, Apple e altri sviluppatori di modelli fondamentali utilizzano NVIDIA Confidential Computing per sbloccare la capacità delle GPU NVIDIA e scalare i loro servizi di inferenza a livello globale.

Sicurezza IA basata sull'hardware che non ti rallenta

NVIDIA Confidential Computing offre una protezione a livello hardware per i carichi di lavoro IA, salvaguardando i dati, i pesi dei modelli e l'inferenza in runtime, fino al 98% delle prestazioni delle distribuzioni non protette.

Vantaggi

Il calcolo riservato protegge ogni carico di lavoro IA

Scopri come le aziende possono proteggere lo stack IA con NVIDIA Confidential Computing.

Salvaguardare i modelli e i dati in uso

NVIDIA Vera Rubin NVL72 sblocca il confidential computing su scala rack tramite NVLink per un ridimensionamento ad alta velocità e bassa latenza, al fine di creare un dominio di sicurezza unificato che comprende 72 GPU NVIDIA Rubin, 36 CPU NVIDIA Vera e interconnessioni. Protegge l'esecuzione della GPU, la memoria e gli stati dei registri, mantenendo isolati modelli, dati di training e inferenza per tutto il ciclo di vita dell'IA.

Sicurezza IA ad alte prestazioni

NVIDIA Confidential Computing tutela la riservatezza e l'integrità dei modelli di IA distribuiti su GPU Rubin, Blackwell e Hopper. Vera Rubin NVL72 estende le prestazioni quasi non criptate su scala rack, abilitate da NVLink e NVLink-C2C. Questo design consente ai carichi di lavoro IA sensibili di essere eseguiti in modo sicuro su scala con prestazioni quasi native, anche in ambienti condivisi o cloud.

Nessuna modifica al codice

NVIDIA Confidential Computing su GPU Hopper, Blackwell e Rubin consente alle aziende di spostare rapidamente qualsiasi modello in un enclave protetta senza modifiche al codice. Basta identificare i carichi di lavoro che devono essere protetti e, con poche sequenze di tasti, i carichi di lavoro saranno protetti.

Verificabilità con attestazione del dispositivo

Un'architettura zero-trust con attestazione basata sull'hardware per verificare l'affidabilità delle risorse di calcolo. Mantieni la conformità e assicurati che le app e i dati siano protetti all'interno dell'ambiente di esecuzione affidabile (TEE) con la piattaforma Vera Rubin, le GPU Blackwell e Hopper, a prescindere da dove la piattaforma o il carico di lavoro siano in esecuzione.

Prodotti

Calcolo riservato con NVIDIA

La sicurezza dell'IA e il rispetto degli imperativi relativi alla sovranità dei dati sono possibili oggi, indipendentemente da dove risiedono i tuoi dati e da dove è distribuita l'infrastruttura. NVIDIA ha fornito la base affidabile per salvaguardare l'IA, sia che sia in esecuzione su un host bare-metal dedicato, container riservati nativi di Kubernetes o macchine virtuali riservate.

Confidential Bare-Metal

I laboratori IA e i proprietari di modelli ottengono il pieno controllo dell'infrastruttura dedicata per distribuire in modo sicuro i propri modelli on prem. Operano e verificano l'ambiente stessi mantenendo il fornitore dell'infrastruttura al di fuori del confine affidabile.

Container riservati su Kubernetes

Le aziende proteggono i carichi di lavoro Kubernetes senza cambiare il modo in cui creano o distribuiscono le applicazioni. Ogni pod viene eseguito nel proprio ambiente protetto da hardware, fornendo un isolamento sicuro, mantenendo la portabilità e la flessibilità operativa di Kubernetes.

Macchine virtuali riservate

Le aziende estendono il Confidential Computing ai propri ambienti di macchine virtuali esistenti. Ogni VM del tenant viene eseguita all'interno di un perimetro protetto da hardware, salvaguardando i carichi di lavoro e i dati, anche dal fornitore dell'infrastruttura host.

Casi d'uso

Scopri le storie di successo di clienti e partner

Scopri come le principali organizzazioni stanno rivoluzionando la sicurezza con NVIDIA Confidential Computing, una tecnologia all'avanguardia che mantiene i carichi di lavoro sensibili al sicuro mentre i dati sono in uso. 

NVIDIA Confidential Computing per aiutare a espandere il calcolo cloud privato di Apple

GPU NVIDIA per supportare l'inferenza lato server per Apple Intelligence.

IA vocale privata per i settori regolamentati

Deepgram e Fortanix utilizzano NVIDIA Confidential Computing per mantenere i pesi dei modelli IA vocale e i dati audio crittografati durante l'inferenza attiva in ambienti regolamentati on premise.

Proteggere i modelli IA on-premise per gli ambienti aziendali

Dell Technologies e SpaceXAI utilizzano NVIDIA Confidential Computing sulle GPU NVIDIA Blackwell per proteggere i pesi dei modelli proprietari e i dati aziendali in uso nella Dell AI Factory con NVIDIA.

Risorse

Migliora la tua comprensione

Scopri di più su NVIDIA Confidential Computing esplorando i nostri blog, i video di formazione, le registrazioni di Meet the Expert e le sessioni della GTC.

L'impatto del calcolo riservato con Intel, Azure, AMD e NVIDIA

I CTO partecipano a una tavola rotonda sul calcolo riservato, sui casi d'uso comuni, sulle sfide tecniche e sull'attestazione e fanno previsioni sul futuro di questa tecnologia, in particolare per quanto riguarda l'IA, moderata da Felix Schuster (CEO, Edgeless Systems).

Confidential Computing ad alte prestazioni sulle GPU NVIDIA

Sessione sul calcolo riservato ad alte prestazioni da parte di esperti di sicurezza, NVIDIA Senior Director e illustri architetti.

Calcolo riservato basato sulle GPU NVIDIA su Microsoft Azure

In questa veloce chiacchierata, Mark Russinovich, CTO di Azure e tecnico presso Microsoft, e Daniel Rohrer, VP della sicurezza software presso NVIDIA, si uniscono a Terry Sweeney di Dark Reading.

Confidential Computing per migliorare la sicurezza e la privacy nel cloud

Mark Russinovich tiene il discorso principale al CC Summit "Confidential Computing: Elevare la sicurezza e la privacy nel cloud".

Utilizzatori

Far progredire ogni settore con il Confidential Computing

FAQ

NVIDIA Confidential Computing crittografa e protegge i dati durante l'esecuzione. Per i carichi di lavoro IA, ciò consente di crittografare e proteggere i modelli IA proprietari e i dati sensibili in uso, tra cui i dati di addestramento, i set di dati di fine-tuning, i prompt di inferenza e i pesi dei modelli, all'interno di un ambiente di esecuzione affidabile (TEE) applicato da hardware. Questa protezione si estende alle distribuzioni di modelli on-premise, garantendo che i modelli proprietari e i dati riservati rimangano sicuri anche all'interno dell'infrastruttura condivisa o multi-tenant, offrendo alle organizzazioni il pieno controllo sui propri carichi di lavoro IA senza compromettere la sicurezza.

NVIDIA Confidential Computing è supportato nelle piattaforme NVIDIA Rubin, NVIDIA Blackwell e NVIDIA Hopper™. Per informazioni dettagliate su GPU, CPU e configurazioni di distribuzione supportate, fare riferimento alla pagina delle piattaforme supportate.

L'attestazione sfrutta le prove radicate nell'hardware per verificare l'identità e la postura di sicurezza di un ambiente di Confidential Computing, garantendone l'integrità prima che vi venga rilasciato qualsiasi codice o dato sensibile.

Le configurazioni supportate sono progettate per essere eseguite con prestazioni quasi native. I risultati effettivi dipendono dal carico di lavoro, dalla piattaforma e dalla configurazione. Scopri il blog sulle prestazioni di calcolo riservato per più dettagli sulle prestazioni.

Molti carichi di lavoro supportati possono utilizzare il Confidential Computing senza modifiche al codice delle applicazioni. Le impostazioni di infrastruttura e distribuzione devono ancora seguire la configurazione supportata.

Può supportare i controlli di protezione e isolamento dei dati, ma non certifica un carico di lavoro da solo. Conferma la tua architettura completa e il processo operativo con i tuoi team di sicurezza, privacy e conformità.

Prossimi passi

È tutto pronto per iniziare?

Proteggi i tuoi dati oggi in un ambiente di esecuzione affidabile basato su NVIDIA Confidential Computing.

Servizi cloud Azure

Se i tuoi dati sono archiviati nel cloud Microsoft Azure, proteggi i tuoi dati in uso accedendo al computing confidenziale.

Google Cloud Services

Cloud, proteggi i tuoi dati in uso accedendo al Confidential Computing nel cloud di Google.