Project G-Assist：GeForce RTX AI PC 的 AI 助理，現已在 NVIDIA App 上架

在 Computex 2024 亮相的 Project G-Assist 是一項技術展示，讓大家一窺 AI 助理可如何提升玩家與創作者等的 PC 體驗。今天，我們透過 NVIDIA App，推出了供 GeForce RTX 桌上型電腦使用者使用的 Project G-Assist 系統助理功能實驗版，未來更新時也可支援 GeForce RTX 筆記型電腦。

新式 PC 的功能愈來愈強大，操作方式也愈來愈複雜。為實現最高效能，現今的使用者配置 PC 時，需要面對超過 1 兆種可能的軟硬體設定組合，包括 GPU、CPU、主機板、顯示器與周邊設備等。

我們打造的 Project G-Assist，是可在 GeForce RTX AI 電腦本機執行的 AI 助理，有助於簡化這個配置過程。G-Assist 協助使用者，透過簡單的語音或文字指令，即可控制各項 PC 設定，包括將遊戲與設定最佳化、繪製畫格率與其他關鍵能統計資料的圖表，以及控制部分周邊設備的設定，例如照明。

Project G-Assist 採用特別微調的小型語言模型 (SLM)，可高效解讀自然語言指令，以及呼叫各種 NVIDIA 與第三方 PC API 在電腦執行動作。

G-Assist 可提供即時診斷與建議，協助緩減系統瓶頸問題、提升功率效率、最佳化遊戲設定，以及將 GPU 超頻等。

這個系統助理可將各種效能指標繪製成圖表匯出，例如 FPS、延遲、GPU 利用率與溫度等。

這個系統助理可回答 PC 硬體或 GeForce RTX GPU 內建 NVIDIA 軟體的相關問題。

G-Assist 甚至透過簡單的指令，即可控制部分周邊設備與軟體應用程式，因此使用者可在支援的 Logitech G、Corsair、MSI 與 Nanoleaf 裝置執行基準測試、調整風扇速度，或是變更燈光。

Project G-Assist 採用的第三方 SLM，是專為在本機執行，並非針對成為通用的對話式人工智慧而設計。若要讓 Project G-Assist 實現最佳成果，請參閱支援的功能清單，而且新指令與功能加入陣容時，這份清單也會隨之更新。

G-Assist 在 GeForce RTX GPU 執行，與需要線上存取權和付費訂閱的大型雲端託管型 AI 模型不同。這意味著，這款系統助理不僅回應速度快、使用免費，而且還可離線執行。

G-Assist 內部目前採用包含 80 億個參數的 Llama 技術指令模型，將現語言理解能力壓縮到遠小於現今大規模 AI 模型的微小空間。這樣一來，G-Assist 便可在 GeForce RTX 硬體本機執行。此外，SLM 研究突飛猛進，這些小型模型的功能與效率，每隔幾個月就會隨之提升

。假設您為了將圖形設定最佳化或檢查 GPU 溫度，按下 Alt+G 提示向 G-Assist 尋求協助，GeForce RTX GPU 就會暫時分配部分運算能力執行 AI 推論。如果您同時在玩遊戲，或者執行其他需要大量 GPU 運算的應用程式，則在這幾秒內，渲染速率或推論完成速度有可能短暫下降。G-Assist 完成工作後，GPU 隨即會恢復原狀，為遊戲或應用程式提供完整效能。

Project G-Assist 需要下列 PC 元件與作業系統：

Project G-Assist 發佈時支援桌上型電腦 GPU，將在未來更新時支援筆記型電腦。這裡提供 G-Assist 系統需求，包含合作夥伴周邊設備需求的完整清單。

打造 G-Assist 時所採用的 NVIDIA ACE，正是遊戲開發人員為了讓 NPC 栩栩如生所使用的同一個 AI 技術套件。OEM 與 ISV 目前已利用 ACE 技術，打造自訂的 AI 助理，例如 G-Assist。

舉例而言，MSI 在 CES 揭曉的「AI Robot」引擎，可驅動 MSI Center 與 MSI Afterburner 內建的 AI 助理。Logitech 正利用 ACE 開發 Streamlabs Intelligent AI Assistant，並配備互動式虛擬替身，可與直播主聊天以及評論遊戲過程等。此外，HP 也正致力於利用 ACE 在 Omen Gaming Hub 實現 AI 助理功能。

AI 開發人員和愛好者也可以利用及擴充 G-Assist 的功能。

G-Assist 是專為社群帶動的擴充功能而設計。首先，NVIDIA 發佈的 GitHub 儲存庫隨附範例與指令，可用於建立新增功能的外掛程式。社群開發人員用簡單的 JSON 格式便可定義函式，並將設定檔案拖放至指定目錄，這樣一來 G-Assist 便可自動載入及解讀檔案。開發人員甚至可向 NVIDIA 提交外掛程式接受審查，而且日後還可能有機會納入，將這些新功能開放給其他人使用。

目前提供的外掛程式範例包括，無需用手控制音樂和音量的 Spotify 以及 Google Gemini，這樣一來 G-Assist 便可叫用更大的雲端型 AI，利用免費的 Google AI Studio API 金鑰，執行更複雜的對話、自由討論及網路搜尋。您可在下方這段短片看到，G-Assist 詢問 Gemini，在《Apex 英雄》單獨參加排位賽時，應該挑選哪一位英雄，以及在《暗黑破壞神 IV》，於第 25 級進入噩夢模式是否為明智的決定：

為了實現進一步自訂，NVIDIA 在 GitHub Repository 發佈說明，協助使用者利用 ChatGPT 技術的「Plugin Builder」生成 G-Assist 外掛程式。使用者有了這項工具，可先利用 AI 生成格式正確的程式碼，然後整合至 G-Assist，實現快速回應文字和語音指令的 AI 輔助功能。

觀看開發人員如何利用 Plugin Builder 為 G-Assist 建立 Twitch 外掛程式。開發人員利用 ChatGPT 生成必要的 JSON manifest 與 Python 檔案後，只要將檔案拖放至指定的目錄即可。接著，G-Assist 便可立即查看直播主是否在線上，並針對「Twitch 你好，[直播主] 在線上嗎？」這類指令傳回即時更新與觀眾人數。

GitHub 儲存庫中的文件，提供了如何建構、分享及載入外掛程式的相關細節。

NVIDIA 正在向更廣大的 AI 社群開放 G-Assist 框架，而 CrewAI、Flowise 與 LangFlow 這類工具，未來有機會將 G-Assist 當成自訂元件使用，這樣一來，社群便可透過低程式碼/無程式碼的工作流程、AI 應用程式與代理型流程整合函式調用功能。

我們迫不及待想看看社群會構思出什麼樣的夢想了！如需深入瞭解外掛程式和社群建構的 AI 應用程式，請參閱 NVIDIA RTX AI Garage 部落格系列。

請透過 NVIDIA App，從 Home 索引標籤的 Discovery 區段下載 Project G-Assist。G-Assist 目前支援 GeForce RTX 桌上型電腦 GPU、英文，以及這裡列出的語音和文字指令。我們會在未來的更新中，持續更新並新增 G-Assist 功能。安裝完成後，按下 Alt+G 即可啟用 G-Assist。

請切記：意見回饋有助於帶動未來發展！G-Assist 這項實驗性功能，展現了採用尖端 AI 研究的本機小型 AI 模型可執行哪些功能。如果您想參與塑造 G-Assist 的未來，請按一下 NVIDIA App 視窗右上角的「Send Feedback」驚嘆號圖示，然後選取「Project G-Assist」，提交意見回饋。您的寶貴意見有助於我們決定，接下來應如何改進內容及開發功能。