生成式 AI
NVIDIA AI Foundry
為生成式人工智慧建構客製化模型的端對端平台與服務。
新聞稿 | 技術部落格
概覽
NVIDIA AI Foundry 平台兼服務運用了企業資料與特定領域的知識，打造客製化生成式人工智慧模型。如同台積電生產其他公司設計的晶片，NVIDIA AI Foundry 讓各組織有能力開發各自的人工智慧模型。
晶片代工廠提供尖端的電晶體技術、製程、大型晶片晶圓廠、專業知識，以及第三方工具與程式庫供應商組成的豐富生態系統。同樣地，NVIDIA AI Foundry 則是包含 Nemotron 和 Edify 這類 NVIDIA 打造的人工智慧模型、熱門的開放式基礎模型、客製化模型用的 NVIDIA NeMo™ 軟體，以及 NVIDIA 人工智慧專家打造及支援之 NVIDIA DGX™ Cloud 提供的專用產能。最終締造出 NVIDIA NIM™ 這項可隨處部署的推論微服務，內容涵蓋客製化模型、最佳化引擎以及標準 API。
NVIDIA AI Foundry 及其程式庫已整合至獨步全球的人工智慧生態系統，範圍涵蓋新創公司、企業軟體供應商和全球服務供應商。
透過 NVIDIA AI Foundry，企業可善用領域知識和技能，並且結合公司詞彙以及其他文化細微差別，客製化 Llama 大型語言模型 (LLM)，進而能夠依照組織需求量身打造生成式人工智慧解決方案。
NVIDIA AI Foundry 運用企業資料以及合成生成的資料，補強及修改預先訓練基礎模型包含的一般知識。模型經過客製化、評估並配備防護措施後，便會以 NVIDIA NIM 推斷微服務的方式輸出。開發人員使用 NIM 的標準 API 打造生成式人工智慧驅動的應用程式。從部署應用程式中獲得的知識可供晶圓代工廠參考，進一步改良客製化模型。
優勢
先從尖端的基礎模型著手，然後運用企業資料及領域的專業知識，打造專為應用程式需求建置的客製化模型。
致力利用利用組織的知識和 AI 的突破性見解，而非將時間用於維護及調整人工智慧開發平台。
自行建立模型，保護資料隱私和智慧財產權。善用 NVIDIA 企業支援、API 穩定性，以及可靠的安全性更新，在生產環境中放心執行。
自行選擇雲端服務供應商 (CSP)，在 DGX Cloud 利用最新的 NVIDIA 架構高效打造模型。使用最佳化引擎部署客製化模型，以易於使用的 NVIDIA NIM 推斷微服務作為封裝方式。
生成式人工智慧模型
社群和 NVIDIA 打造的模型經過最佳化，可在 NVIDIA 加速的基礎架構提供最佳效能，是企業開始著手的絕佳選擇。這些模型可使用 NVIDIA NeMo 客製化，利用 NVIDIA NIM 在生產環境中隨處大規模部署。
開始客製化最佳化的 LLM、視覺語言模型、語音和醫療保健模型，提高使用案例的準確度。
NVIDIA NeMo
NVIDIA NeMo 這個端對端平台可讓您隨處開發客製化的生成式人工智慧，包括 LLM、多模型、視覺和語音人工智慧。提供具有精準的資料管理方式、尖端客製化和最佳化效能的企業就緒模型。
模型內的 NeMo Curator 可加快資料整理速度、NeMo Customizer 可簡化微調程序、NeMo Evaluator 可評估人工智慧模型，而 NeMo Guardrails 則可保護 LLM。
NVIDIA DGX Cloud
客製化人工智慧模型時，需要取用重要的運算資源、人工智慧專業知識和軟體，藉此精簡人工智慧模型的開發過程。
NVIDIA DGX Cloud 這款端對端人工智慧平台適用於開發人員，提供採用最新 NVIDIA 人工智慧架構、並與全球領先 CSP 共同設計的專用容量。在 DGX Cloud 量身打造專屬的人工智慧模型。
NVIDIA NIM™
NVIDIA AI Foundry 建構的 NVIDIA NIM，可隨處快速部署及擴充客製化模型。
NVIDIA NIM 這套微服務易於使用，其設計可跨雲端、資料中心和工作站，以安全可靠的方式部署高效能人工智慧模型推斷。
NVIDIA 人工智慧生態系統
NVIDIA NIM 是 NVIDIA AI Enterprise 的一環，數以百計的 NVIDIA 技術合作夥伴正將這項服務整合至他們的平台，為特定領域的應用加速生成式人工智慧的部署。
合作夥伴包括各大公用雲端、系統建置商、企業基礎架構供應商，以及 MLOps 與 AIOp 領導者等。
NVIDIA 合作夥伴
NVIDIA AI Foundry 由 NVIDIA 人工智慧專家打造並提供支援。
NVIDIA 與 NVIDIA 合作夥伴網路 (NPN，包括首屈一指的全球系統整合商、服務交付合作夥伴，以及解決方案供應商) 已經準備就緒，能協助為企業應用程式打造客製化的模型。
使用案例
瞭解 NVIDIA AI Foundry 如何支援各種產業使用案例，幫助您快速展開人工智慧開發。
各組織無不希望利用客製化 LLM 與檢索增強生成 (RAG)，打造出更聰明的人工智慧聊天機器人。聊天機器人搭配 RAG，能夠從組織知識庫擷取最新資訊，以自然語言即時回應，準確地回答特定領域的問題。這類聊天機器人可用來增強客戶支援、打造個人化的人工智慧虛擬角色、管理企業知識、精簡員工就職流程、提供智慧 IT 支援，以及創作內容等。
生成式人工智慧可產生息息相關且準確的內容，這些內容基於貴企業的領域專業知識和專有智慧財產權。
Katana
全球電信公司爭相探索如何透過 5G 和即將問世的 6G 網路，以符合成本效益的方式在邊緣部署新的人工智慧應用程式。有了 NVIDIA 加速運算和人工智慧技術，電信公司、CSP 與企業可打造有線與無線雲端原生網路，不僅更加節能，安全性也更滴水不漏。
Agility, Apptronik, Fourier Intelligence, Unitree
金融服務業中，處理文件的過程涉及各種複雜資料，例如貸款記錄、外部監管申報文件、交易記錄，以及公開市場申報文件等。金融機構可以使用客製化的 IDP 生成式人工智慧（例如建置聊天機器人），結合 RAG 架構將貸款流程自動化，或是為建構投資組合和執行交易深入解析市場。
隨著常見弱點與暴露風險 (CVE) 資料庫中回報的安全漏洞數量創下歷史新高，修補軟體安全問題的難度亦隨之提高。生成式人工智慧可提升漏洞防禦機制，減輕安全團隊負擔。
Delta Electronics
零售商的庫存動輒上百萬，而且隨季節改變，錯綜複雜。在過去十年間崛起的高度競爭市場中，頂尖零售業者善用人工智慧與資料科學的強大威力，提供了即時高度客製化的購物體驗，不僅擴大購物車容量、打造品牌好感度，更提高了轉換率。
Verneek
運用合宜的工具與技術，打造客製化的生成式人工智慧模型。
在 ai.nvidia.com 使用各種基礎模型測試及建置。
利用 NVIDIA NeMo 軟體和 LLM 的低階適應 (LoRA) 客製化技術打造客製化模型。
需要取得最新 NVIDIA 人工智慧技術的專屬管道嗎？利用 DGX Cloud 訓練客製化人工智慧模型，因應您的人工智慧需求變化輕鬆擴充。
客戶案例
客戶：ServiceNow
產品：NVIDIA AI Foundry、NVIDIA NeMo、NVIDIA DGX Cloud
技術：LLM
Amdocs
客戶：Amdocs
產品：NVIDIA AI Foundry、NVIDIA NeMo
客戶：Getty
產品：NVIDIA AI Foundry、NVIDIA Picasso
技術：視覺語言模型
生態系
後續步驟
與 NVIDIA 專家聊聊，瞭解如何善用 NVIDIA AI Enterprise 的安全機制、API 穩定性與支援，將客製化的生成式人工智慧應用程式從試用階段推向部署。