NVIDIA Confidential Computing

Proteggi dati e modelli IA durante l'uso.

Panoramica
Vantaggi
Resources

Panoramica
Vantaggi
Resources

Sicurezza performante per LLM

I dati e l'IA hanno un potenziale immenso per le aziende, ma possono anche introdurre rischi per la privacy e la sicurezza. La GPU NVIDIA è stata la a fornire il computing riservato su architettura NVIDIA Hopper™ con l'accelerazione senza precedenti delle GPU NVIDIA Tensor Core. L'architettura NVIDIA Blackwell ha portato il computing riservato a un livello superiore, con prestazioni quasi identiche rispetto alle modalità non crittografate per i modelli linguistici di grandi dimensioni (LLM), offrendo la possibilità di rilevare informazioni altamente fruibili con dati e modelli protetti, conformi e senza compromessi.

I vantaggi di NVIDIA Confidential Computing

Secure LLMs: Edgeless Systems

Edgeless Systems introduced Continuum AI, the first generative AI framework that keeps prompts encrypted at all times with confidential computing by combining confidential virtual machines with NVIDIA H100 GPUs and secure sandboxing.

Read Complete Story

Public Sector: Anjuna Seaglass

Anjuna Seaglass enabled the U.S. Navy to create and deploy secure LLMs with confidential computing in less than one hour while obtaining high-speed processing with maximum performance.

Read Complete Story

Drug Discovery: Fortanix

Fortanix provides the confidential computing platform that enables organizations like Xeureka to manage security policies and orchestrate the use of siloed and confidential datasets for clinical advancements.

Read Complete Story

I vantaggi di NVIDIA Confidential Computing

Sicurezza e isolamento basati su hardware

Assicura la conformità proteggendo la riservatezza e l'integrità dei dati, con il pieno isolamento della macchina virtuale, dall'edge al cloud, grazie a NVIDIA Blackwell. Il computing riservato fornisce un ambiente di esecuzione affidabile (TEE) fisicamente isolato, per proteggere l'intero carico di lavoro mentre i dati sono in uso.

Scelte di sicurezza ad alte prestazioni

Il computing riservato su NVIDIA Blackwell unisce prestazioni e sicurezza anche per i modelli di dati più voluminosi per fornire protezione di dati, modelli IA e applicazioni in uso. Il computing riservato è disponibile sulle GPU NVIDIA Blackwell e Hopper.

Verificabilità con attestazione del dispositivo

Supporta un'architettura zero-trust con servizi di attestazione che verificano l'affidabilità delle risorse di calcolo. Mantieni la conformità e assicurati che le app e i dati siano protetti all'interno dell'ambiente TEE con le GPU NVIDIA Blackwell e Hopper, a prescindere dalla piattaforma o dal carico di lavoro in esecuzione.

Prestazioni senza modifiche al codice

Sfrutta tutti i vantaggi del computing riservato senza modificare il codice. Usa il software ottimizzato per GPU NVIDIA per accelerare i carichi di lavoro IA completi sulle GPU Hopper e Blackwell, in modo che l'azienda possa assicurare privacy, sicurezza e conformità normativa.

Nuove possibilità con informazioni sicure

Tutela della proprietà intellettuale IA

La tecnologia NVIDIA Confidential Computing tutela la riservatezza e l'integrità dei modelli e degli algoritmi IA distribuiti su GPU Blackwell e Hopper. I fornitori di software indipendenti (ISV) possono ora distribuire e implementare i modelli IA proprietari su larga scala, su infrastruttura condivisa o remota, dall'edge al cloud.

Sicurezza per training e inferenza con IA

I modelli IA come gli LLM possono comportare rischi per la privacy e la sicurezza dei dati se addestrati su dati privati raccolti dai clienti o generati da operazioni aziendali. Questi rischi si aggravano quando le informazioni di identificazione personale (PII) e i dati personali (PI) sono inclusi nei modelli di training. Proteggi i dati con il computing riservato basato su NVIDIA Blackwell e assicurati che i dati siano protetti contro l'esposizione e le violazioni.

Collaborazione sicura tra più utenti

Creare e migliorare modelli IA per scenari di utilizzo come il rilevamento delle frodi, la diagnostica per immagini e lo sviluppo di farmaci richiede dataset eterogenei, attentamente etichettati per addestrare le reti neurali. Consenti la collaborazione sul training dei modelli tra più proprietari di dati mantenendo riservati e protetti i dati proprietari e i modelli.

Specifiche preliminari. Dati soggetti a modifica.

Risorse

Documentazione di NVIDIA Confidential Computing

Blog:

Video:

Approfondisci l'architettura NVIDIA Hopper

Leggi il white paper