GPU-beschleunigte Microservices und Bibliotheken für KI.
Entwickler, Forscher und Erfinder aus den verschiedensten Bereichen nutzen die GPU-Programmierung, um ihre Anwendungen zu beschleunigen. Für die Entwicklung dieser Anwendungen ist eine robuste Programmierumgebung mit hochgradig optimierten, domänenspezifischen Microservices und Bibliotheken erforderlich. NVIDIA CUDA-X basiert auf CUDA® und ist eine Sammlung von Microservices, Bibliotheken, Tools und Technologien, die in zahlreichen Anwendungsdomänen – von Datenverarbeitung bis KI und High Performance Computing (HPC) – eine deutlich höhere Leistung als verfügbare Alternativen bieten.
CUDA-X-Microservices wurden von CUDA-Experten bei NVIDIA entwickelt und umfassen Entwicklertools, GPU-beschleunigte Bibliotheken und Technologien, die als Cloud-APIs verpackt sind. Sie lassen sich einfach in Datenverarbeitungs-, KI- und HPC-Anwendungen einbinden, anpassen und bereitstellen.
Zu den CUDA-X-Microservices gehören NVIDIA® Riva für anpassbare Sprach- und Übersetzungs-KI, NVIDIA Earth-2 für hochauflösende Klima- und Wettersimulationen, NVIDIA cuOpt™ für Routing-Optimierung und NVIDIA NeMo™-Retriever für reaktionsschnelle RAG-Funktionen (Retrieval Augmented Generation) in Unternehmen.
CUDA-X-Bibliotheken bauen auf CUDA auf, um die Einführung der Beschleunigungsplattform von NVIDIA in den Bereichen Datenverarbeitung, KI und HPC zu vereinfachen. Über die CUDA-Plattform mit ihren mehr als 400 Bibliotheken können Entwickler ganz einfach Anwendungen für PCs, Workstations, die Cloud und Supercomputer erstellen, optimieren, bereitstellen und skalieren.
Um transformative KI-Anwendungen zu entwickeln, müssen Unternehmen Modelle anhand ihrer einzigartigen, proprietären Daten trainieren – und das in einer Zeit, in der die Datensätze jedes Jahr um Zettabytes wachsen. Dies stellt ein enormes Rechenleistungsproblem dar, für das die CUDA-X-Datenverarbeitungsplattform entwickelt wurde. Über sie steht eine Vielzahl beschleunigter Bibliotheken bereit, die die Verarbeitung von Bild-, Text- und tabellarischen Daten beschleunigen und skalieren.
CUDA-X ist vielerorts verfügbar. Die Software-Beschleunigungsbibliotheken sind Teil der führenden Cloud-Plattformen, darunter AWS, Microsoft Azure und Google Cloud. Sie sind kostenlos erhältlich als einzelne Downloads oder containerisierte Zusatzsoftware von NGC. CUDA-X-Bibliotheken können auf allen NVIDIA-Grafikprozessoren bereitgestellt werden, einschließlich Desktops, Workstations, Server, Supercomputer, Cloud Computing und Geräten im Internet der Dinge (IoT).
Durch das Verwenden von CUDA-X können über 1 Million Entwickler die Produktivität ankurbeln und gleichzeitig von anhaltenden Leistungssteigerungen bei Anwendungen profitieren. Unabhängig davon, ob Sie eine neue Anwendung erstellen oder eine bestehende Anwendung beschleunigen möchten, bietet CUDA-X den effizientesten und effektivsten Weg in die Zukunft.
Erfahren Sie, welche Bereiche mit NVIDIA CUDA-X transformiert wurden und entdecken Sie die grafikprozessorbeschleunigten Bibliotheken, die dort verfügbar sind.