能將大型語言模型 (LLM) 從開發階段帶到實際運作階段的工具。
體驗端對端企業級生成式人工智慧平台。
體驗經 NVIDIA 最佳化的基礎模型。
使用由 NeMo 和 NVIDIA 託管的 API 製作原型。
使用 NVIDIA AI Enterprise 在生產環境中執行。
NVIDIA 打造出頂尖的開放原始碼生成式人工智慧模型,經過微調處理以求提升效能和效率,可協助您開始製作原型。接著可使用 NeMo 來自訂大型語言模型,並透過 NVIDIA API 目錄中的 NVIDIA NIM 加以部署。
利用自動化資料處理、模型訓練技術和靈活的部署選項,著手開發生成式人工智慧模型。
將企業資料連結至生成式人工智慧模型,擷取資訊時盡量以低延遲、高輸送量的方式進行,並充分保護資料隱私。
協調 LLM 的對話管理,確保智慧應用程式的準確度、適當性和安全性。
使用此 GPU 加速的資料統籌工具,為預先訓練的生成式人工智慧模型準備大規模的優質資料集。
透過這項高效能且可擴充的微服務,簡化針對特定領域使用案例進行的 LLM 微調和校準作業。
在任何雲端或資料中心上,都能以各種學術和自訂基準,有效率且可靠地評估自訂 LLM 和 RAG。
NVIDIA AI Enterprise 是一個端對端軟體平台,讓每個企業都有機會使用生成式人工智慧,並為生成式人工智慧基礎模型提供最快速、最有效率的執行階段。這個平台包含 NeMo 和 NVIDIA NIM,具安全性、穩定性、可管理性並提供支援,因而得以簡化採用流程。
立即申請 90 天免費評估版,取得生成式人工智慧解決方案和企業支援。
您可以在 NeMo 文件中心內找到一系列文件、指南、手冊、操作方法和其他資源。
觀看 NVIDIA 隨選內容,包含 GTC 和其他全球技術大會關於 NeMo 的免費內容。
閱讀並瞭解 NeMo 如何協助您建置、自訂和部署大型語言模型。
瞭解如何透過實作學習建立端對端專案,並獲得最新生成式人工智慧技術的認證。
NVIDIA NeMo 是端對端的雲端原生框架,可在任何地方打造、自訂和部署生成式人工智慧模型。此軟體包含訓練和推論框架、防護工具組、資料統籌工具和預先訓練模型,能讓企業以符合成本效益且簡單快速的方式採用生成式人工智慧。開發人員可以選擇透過以下方式使用 NeMo:使用 GitHub 上的開放原始碼、NVIDIA NGC™ 目錄上的封裝容器,或透過 NVIDIA AI Enterprise 訂閱來使用。
NVIDIA AI Enterprise 現已包含 NeMo。如需完整的定價和授權詳細資訊,請參閱此處。
客戶可透過包含 NeMo 的 NVIDIA AI Enterprise 訂閱,獲得 NVIDIA 企業標準支援 。NVIDIA 企業標準支援提供服務等級協議、NVIDIA 專家聯絡管道,以及跨本機和雲端部署的長期支援。
NVIDIA AI Enterprise 包含 NVIDIA 企業標準支援。如需其他可用的支援和服務,例如 NVIDIA 企業重點支援、技術客戶經理、訓練和專業服務,請參閱 NVIDIA 企業支援與服務指南。
NeMo Curator 是可擴充的資料統籌工具,能讓開發人員整理有上兆標記的多語言資料集,並用於預先訓練大型語言模型。NeMo Curator 由一組 Python 模組構成,以 API 的形式呈現,並利用 Dask、cuDF、cuGraph 和 Pytorch 將各種資料統籌工作擴充到數千個運算核心,包括資料下載、文字擷取、清除、篩選、精確/模糊重複資料刪除和文字分類等。
NeMo Guardrails 是可協調對話管理的開放原始碼工具組,可確保採用大型語言模型之智慧應用程式的準確度、適當性和安全性,並可為監督 LLM 系統的組織提供安全保障。
NeMo Guardrails 能讓開發人員設定三種防護:
透過 NeMo Retriever 的一系列生成式人工智慧微服務,企業便可將自訂模型與各種商業資料流暢連結,進而提供高度準確的回應。NeMo Retriever 提供世界級的資訊擷取功能,並具備最低延遲、最高輸送量和最充分的資料隱私保護,讓組織能更有效使用資料,並即時產生商業見解。NeMo Retriever 透過企業級的檢索增強生成技術 (RAG),來強化生成式人工智慧應用程式,進而能連結至分散各處的企業資料。
NVIDIA NIM 為 NVIDIA AI Enterprise 的一部分,是易於使用的執行階段,專為加速部署企業間的生成式人工智慧而設計。這項多功能微服務支援多種人工智慧模型,包含開放原始碼社群模型、NVIDIA AI Foundation 模型,以及量身打造的自訂人工智慧模型。此模型以強大的推論引擎為基礎,專為促進流暢的大規模人工智慧推論而設計,足以確保人工智慧應用程式可跨雲端、資料中心和工作站進行部署。
NeMo Evaluator 是一項自動化微服務,能為自訂 LLM 和 RAG 進行快速且可靠的評估。此工具使用預先定義的指標,涵蓋多種基準測試,包含人工評估和以 LLM 為評核標準的技術等。您可以透過 API 呼叫多個評估工作,同時部署在偏好的雲端平台或資料中心的 Kubernetes 上,以有效率的方式彙總結果。
NeMo Customizer 是一項高效能、可擴充的微服務,可簡化針對特定領域使用案例進行的 LLM 微調和校準作業。
檢索增強生成技術可讓 LLM 連結公司知識庫,根據最新資訊來建立回應。NeMo 與許多第三方和社群工具合作,包含 Milvus、Llama Index 和 LangChain,以便從向量資料庫中擷取相關的資訊片段,並提供給 LLM,產生以自然語言撰寫的回應。
NVIDIA 提供人工智慧工作流程,包含雲端原生的封裝參考範例,藉此說明如何善用 NVIDIA 人工智慧框架打造人工智慧解決方案。透過預先訓練的模型、訓練和推論流程、Jupyter Notebook 與 Helm Chart,人工智慧工作流程可加速提供人工智慧解決方案。
使用這些端對端工作流程,快速打造生成式人工智慧解決方案:
NVIDIA LaunchPad 是一個通用的試驗場,可為最新的 NVIDIA 企業硬體和軟體提供進行廣泛測試的場所。這個動態平台可加速短期試驗、推動長期概念驗證 (POC) 進行,並加速管理式服務和獨立解決方案的開發。
使用者可以透過專為自身需求量身打造的制式開發環境,展開他們的人工智慧旅程。或者,他們也可以探索種類繁多的實作實驗室,這些實驗室都是專為人工智慧、資料科學、3D 設計和基礎架構最佳化等各種使用案例而設計,可提供身歷其境的體驗。企業可以輕鬆存取部署在私有託管基礎架構上的最新加速硬體和軟體堆疊。
NVIDIA AI Enterprise 是端對端的雲端原生軟體平台,可加速資料科學流程進行,並簡化生成式人工智慧、電腦視覺、語音人工智慧等生產級人工智慧應用程式的開發與部署。此平台也為人工智慧使用專家提供一流的開發工具、框架、預先訓練模型和微服務,並為 IT 專業人員提供可靠的管理功能,以確保效能、API 穩定性和安全性。
NVIDIA API 目錄提供可用於實際生產環境的生成式人工智慧模型,以及持續進行最佳化的推論執行階段,並可封裝為 NVIDIA NIM,也就是可在任何 GPU 加速的系統上,使用標準化工具輕鬆部署的微服務。
隨時掌握來自 NVIDIA 的生成式人工智慧最新消息。
將開發者更新、最新公告等 NVIDIA 相關訊息直接發送到您的信箱。
我想收到 NVIDIA 的企業業務解決方案及開發技術與工具最新消息、公告與更多資訊。
NVIDIA 隱私權政策