保護使用中的資料和人工智慧模型。
無論部署於內部、雲端或邊緣端,使用中的資料、人工智慧模型和應用程式,都容易受到外部攻擊和內部威脅。NVIDIA 機密運算是 NVIDIA Hopper™ 架構中的突破性安全功能,能夠減少威脅,同時讓使用者享受人工智慧工作負載適用的 NVIDIA H200 和 NVIDIA H100 Tensor 核心 GPU 帶來的加速成果。NVIDIA 機密運算使用以硬體為基礎的強大安全功能,防止敏感資料和專有人工智慧模型遭到未經授權存取。
在內部、雲端或邊緣實現虛擬機器 (VM) 完全隔離。CPU 和 H200 或 H100 GPU之間的資料傳輸,會以 PCIe 線路速率加密和解密。使用內建硬體防火牆建立物理隔離的可信任執行環境 (TEE),保護 H200 或 H100 GPU 上的所有工作負載。
保護使用中的資料和人工智慧工作負載的機密性與完整性。未經授權實體包括虛擬機管理程式、主機作業系統、雲端供應商,以及任何能夠實體存取基礎架構的人,都不得在執行期間檢視或修改人工智慧應用程式和資料,藉此保護敏感客戶的數據和智慧財產。
確保只有經過授權的終端使用者,才能將資料和程式碼放入 H200 或 H100 的可信任執行環境中執行。此外,裝置認證能夠驗證使用者是否正在與真實的 NVIDIA GPU 對話,韌體未遭篡改且 GPU 韌體已按照預期更新。
在大多數情況下,您的 GPU 加速工作負載無需更改程式碼,即可充分利用機密運算的所有優勢。使用 NVIDIA 的 GPU 優化軟體,在 H200 和 H100 GPU 上加速端到端人工智慧工作負載,同時維持安全、隱私且符合法規。
NVIDIA 機密運算可維護部署在 H200 和 H100 GPU 上的人工智慧模型和演算法的機密性和完整性。獨立軟體廠商 (ISV) 現在可以在共用或遠端基礎架構上,大規模發佈和部署專有人工智慧模型,包括第三方或主機託管資料中心、邊緣基礎架構和公用雲端。這讓零售業和製造業的獨立軟體廠商,能夠廣泛提供人工智慧解決方案,同時還能保護智慧財產 (IP),避免遭到未經授權存取或修改,即使使用者能夠在實體上存取部署基礎架構,也無法違規存取或修改。
訓練人工智慧模型整合是一段運算密集、複雜且反覆的過程,需要處理大量資料。訓練完成後,這些人工智慧模型會整合至企業應用程式,用於推論或預測得到的新資料。金融、醫療照護和公共部門等越來越多產業,用於訓練人工智慧模型和推論的資料都十分敏感且受到監管,例如,個人可識別資訊 (PII)。企業利用 NVIDIA 機密運算,在人工智慧訓練和推論期間,無論是在內部、雲端或邊緣端,都能確保資料機密。
為詐欺偵測、醫學影像成像和藥物開發等使用案例,建立並改善人工智慧模型,需要多樣且經仔細標記的資料集,以便訓練神經網路。因此需要多方合作,且不能損害資料來源的機密性與完整性。NVIDIA 機密運算可開啟安全多方運算功能,讓各組織可以合作訓練或評估人工智慧模型,並確保資料和人工智慧模型皆受到保護,防止任何參與方遭到未經授權存取、外部攻擊和內部威脅。
目前僅是初步規格,之後將有可能更新