Project G-Assist: GeForce RTX AI PC용 AI 어시스턴트, 이제 NVIDIA App에서 사용 가능

NVIDIA는 Computex 2024에서 AI 어시스턴트가 게이머, 크리에이터 등의 PC 경험을 어떻게 향상시킬 수 있는지 보여주는 기술 데모인 Project G-Assist를 선보였습니다. 그리고 오늘, GeForce RTX 데스크톱 사용자를 위한 Project G-Assist 시스템 어시스턴트 기능의 실험적 버전을 NVIDIA App을 통해 출시합니다. GeForce RTX 노트북에 대한 지원은 향후 업데이트에서 제공될 예정입니다.

현대 PC의 성능이 강력해지면서 작동 방식도 점점 더 복잡해지고 있습니다. 오늘날 사용자는 최고 성능을 위해 PC를 구성할 때 GPU, CPU, 마더보드, 모니터, 주변기기 등에서 1조 가지가 넘는 하드웨어 및 소프트웨어 설정 조합에 직면하게 됩니다.

NVIDIA는 이러한 복잡한 경험을 단순화하기 위해 GeForce RTX AI PC에서 로컬로 실행되는 AI 어시스턴트인 Project G-Assist를 구축했습니다. G-Assist는 사용자가 게임 및 시스템 설정 최적화, 프레임 속도 등의 주요 성능 통계 차트 작성, 조명과 같은 일부 주변 기기 설정 제어 등의 다양한 PC 설정을 기본 음성이나 텍스트 명령을 통해 제어할 수 있도록 지원합니다.

Project G-Assist는 특별히 튜닝된 소형 언어 모델(SLM)을 사용하여 자연어 명령을 효율적으로 해석하고, 다양한 NVIDIA 및 서드파티 PC API를 호출하여 PC에서 작업을 실행합니다.

G-Assist는 실시간 진단과 추천 기능을 통해 시스템 병목 현상 완화, 전력 효율성 개선, 게임 설정 최적화, GPU 오버클로킹 등을 지원할 수 있습니다.

FPS, 지연 시간, GPU 사용률, 온도 등과 같은 다양한 성능 지표를 차트로 작성하고 내보낼 수 있습니다.

또한 PC 하드웨어나 GeForce RTX GPU에 탑재된 NVIDIA 소프트웨어에 대한 질문에 답변할 수 있습니다.

G-Assist는 간단한 명령으로 일부 주변 기기와 소프트웨어 애플리케이션을 제어할 수 있어, 사용자는 벤치마크 실행, 팬 속도 조정, Logitech G, Corsair, MSI, Nanoleaf 기기 등의 조명 변경 등이 가능합니다.

Project G-Assist는 로컬 환경에서 실행되도록 설계된 서드파티 SLM을 사용하며, 범용적인 대화형 AI를 의도하지는 않습니다. Project G-Assist로 최상의 결과를 얻으려면 지원되는 기능 목록을 참조하십시오. 이 목록은 새로운 명령과 기능이 추가될 때마다 업데이트될 예정입니다.

온라인 액세스와 유료 구독이 필요한 대규모 클라우드 호스팅 AI 모델과 달리, G-Assist는 GeForce RTX GPU에서 실행됩니다. 따라서 반응성이 뛰어나고, 무료로 사용할 수 있으며, 오프라인에서 실행할 수 있습니다.

내부적으로 G-Assist는 80억 개의 매개변수가 있는 Llama 기반 Instruct 모델을 사용하고 있으며, 오늘날의 대규모 AI 모델에 비해 극히 작은 크기에 언어 이해 능력을 담았습니다. 그래서 G-Assist를 GeForce RTX 하드웨어에서 로컬로 실행하는 것이 가능합니다. 또한 SLM 연구가 빠르게 발전하면서, 이러한 소형 모델은 몇 개월 간격으로 더욱 유능하고 효율적으로 진화하고 있습니다.

그래픽 설정 최적화나 GPU 온도 확인 요청 등을 위해 Alt+G를 눌러 G-Assist에 도움을 요청하면 GeForce RTX GPU가 잠시 동안 AI 추론에 처리 성능의 일부를 할당합니다. 게임을 하거나 다른 GPU를 많이 사용하는 애플리케이션을 동시에 실행하는 경우, 그 몇 초 동안 렌더링 속도나 추론 완료 속도가 일시적으로 약간 느려질 수 있습니다. G-Assist가 작업을 마치면 GPU는 다시 게임이나 앱에 최상의 성능을 제공합니다.

Project G-Assist에는 다음과 같은 PC 구성 요소와 운영 체제가 필요합니다.

Project G-Assist는 데스크톱 GPU에 대한 지원과 함께 출시되며, 노트북 지원은 추후 업데이트될 예정입니다. 파트너 주변 기기를 포함한 G-Assist 시스템 요구 사항의 전체 목록은 여기에서 확인할 수 있습니다.

G-Assist는 게임 개발자가 NPC에 생명력을 불어넣기 위해 사용하는 것과 동일한 AI 기술 제품군인 NVIDIA ACE로 구축되었습니다. OEM과 ISV는 이미 ACE 기술을 활용하여 G-Assist와 같은 맞춤형 AI 어시스턴트를 구축하고 있습니다.

예를 들어, MSI는 MSI Center와 MSI Afterburner에 탑재된 AI 어시스턴트를 지원하도록 설계된 'AI Robot' 엔진을 CES에서 공개했습니다. Logitech는 ACE를 활용하여 스트리머와 채팅하고, 게임 플레이에 대해 코멘트하는 등 다양한 기능을 지원할 수 있는 대화형 아바타를 탑재한 Streamlabs 지능형 AI 어시스턴트를 개발하고 있습니다. 또한 HP는 Omen Gaming Hub의 AI 어시스턴트 기능 구현에 ACE를 활용하기 위해 노력하고 있습니다.

AI 개발자와 애호가들 또한 G-Assist의 기능을 활용하고 확장할 수 있습니다.

G-Assist는 커뮤니티가 주도하여 확장해 나갈 수 있도록 설계되었습니다. 이를 지원하기 위해 NVIDIA는 새로운 기능을 추가하는 플러그인을 만드는 데 필요한 샘플과 지침이 포함된 GitHub 리포지토리를 게시했습니다. 커뮤니티 개발자가 간단한 JSON 형식으로 기능을 정의하고 구성 파일을 지정된 디렉터리에 추가하면, G-Assist가 자동으로 해당 파일을 로드하고 해석할 수 있습니다. 개발자가 NVIDIA에 플러그인을 제출하여 검토 및 잠재적 포함을 요청할 수도 있으며, 이를 통해 다른 사람들이 이러한 새로운 기능을 사용하도록 할 수 있습니다.

현재 사용 가능한 샘플 플러그인에는 Spotify와 Google Gemini가 있습니다. Spotify는 핸즈프리 음악 감상과 볼륨 제어를 지원하고, Google Gemini는 G-Assist가 무료 Google AI Studio API 키를 사용하여 더 복잡한 대화, 브레인스토밍 세션, 웹 검색을 위해 훨씬 더 강력한 클라우드 기반 AI를 호출할 수 있도록 해줍니다. 아래 영상에서는 G-Assist가 Apex Legends에서 솔로 플레이 시 어떤 레전드를 선택해야 하는지, 그리고 Diablo IV의 25 레벨에서 나이트메어 모드에 도전해도 괜찮은지를 Gemini에게 물어보는 장면을 볼 수 있습니다.

NVIDIA는 더욱 폭넓은 맞춤화를 지원하기 위해, ChatGPT 기반 'Plugin Builder'를 사용해 G-Assist 플러그인을 생성하는 방법에 대한 지침을 GitHub 리포지토리에 게시했습니다. 사용자는 이 도구를 통해 AI를 활용하여 적절한 형식의 코드를 생성하고, 이를 G-Assist에 통합하여, 텍스트와 음성 명령에 응답하는 AI 기반 기능을 빠르게 활성화할 수 있습니다.

개발자가 Plugin Builder를 사용하여 어떻게 G-Assist용 Twitch 플러그인을 구축했는지 확인하세요. 개발자는 ChatGPT를 사용하여 필요한 JSON 매니페스트와 Python 파일을 생성한 후, 이를 지정된 디렉터리에 추가하기만 하면 됩니다. 그 후, G-Assist는 스트리머가 온라인 상태인지 즉시 확인하고, '헤이, Twitch, 지금 라이브 중이야?'와 같은 명령에 응답하여 실시간 업데이트 정보와 시청자 수를 알려줍니다.

플러그인을 구축, 공유 및 로드하는 방법에 대한 자세한 내용은 GitHub 리포지토리의 설명서에서 확인할 수 있습니다.  

NVIDIA는 G-Assist 프레임워크를 더 광범위한 AI 커뮤니티에 공개하고 있습니다. 향후 CrewAI, Flowise, LangFlow와 같은 도구가 G-Assist를 맞춤형 구성 요소로 활용하여, 로우코드/노코드 워크플로우, AI 애플리케이션, 에이전틱 플로우에 함수 호출 기능을 통합하도록 지원할 예정입니다.

커뮤니티가 어떤 것을 만들어낼지 기대가 큽니다! 플러그인과 커뮤니티 구축 AI 애플리케이션에 대해 자세히 알아보려면, NVIDIA의 RTX AI Garage 블로그 시리즈를 확인하세요.

NVIDIA App의 Home 탭 > Discovery 섹션에서 Project G-Assist를 다운로드하세요. 현재 G-Assist는 GeForce RTX 데스크톱 GPU에서 영어로 사용할 수 있으며, 여기에 제시된 음성 및 텍스트 명령을 지원합니다. 향후 업데이트를 통해 G-Assist 기능을 지속적으로 개선하고 추가할 예정입니다. 설치 후 Alt+G를 눌러 G-Assist를 활성화하세요.

기억하세요: 여러분의 피드백이 미래를 만듭니다! G-Assist는 최첨단 AI 연구에서 얻어진 소규모 로컬 AI 모델의 가능성을 보여주는 실험적 기능입니다. G-Assist의 미래를 함께 만들어 가고 싶다면, NVIDIA App 창의 오른쪽 상단에 있는 '피드백 보내기' 느낌표 아이콘을 클릭하고 'Project G-Assist'를 선택하여 피드백을 제출할 수 있습니다. 여러분의 통찰력 있는 의견은 향후 무엇을 개선하고 어떤 기능을 추가할지 결정하는 데 도움이 됩니다.