MLOPs-Lösungen für Unternehmen

Weights & Biases

Weights & Biases (W&B) ist der Entwickler-Stack für Machine Learning-Praktiker. Nutzen Sie ihre leichtgewichtigen, interoperablen Tools zum Debuggen und Reproduzieren des gesamten Lebenszyklus Ihrer Machine Learning-Projekte. Über 150.000 Anwender von maschinellem Lernen, die bessere Medizin, sicherere selbstfahrende Autos, nachhaltigere Landwirtschaft und modernste Forschung entwickeln, vertrauen auf W&B.

Die MLOps-Software von Weight & Biases ist für die Verwendung mit NVIDIA DGX-Systemen zertifiziert und auch mit NVIDIA Base Command verfügbar.

Kontakt

www.wandb.ai

ClearML

ClearML bietet einen Verwaltungs und Orchestrierungs-Stack auf DGX-Systemen. Mit ClearML können Teams ihre Workloads einfacher verwalten, besser den Überblick und die Kontrolle über ihre Daten und Modelle behalten und effektiv zusammenarbeiten.

ClearML Orchestrate erlaubt es Teams, ein oder mehrere NVIDIA DGX A100-Systeme zu nutzen, um virtuelle Cluster für virtuelle Remote-Entwicklungsumgebungen zu erstellen und skalierbare Trainings-Workloads zu unterstützen.

Ressourcen

Optimieren Sie medizinische Bildgebungs-Workflows mit NVIDIA DGX Station™ A100, NVIDIA Clara™ Imaging und ClearML (Lösungsübersicht)

Kontakt

www.clear.ml (Allegro AI)

Shakudo

Die Hyperplane-Plattform von Shakudo ist eine End-to-End-Umgebung für Machine Learning-Teams. Hyperplane kombiniert die besten Open-Source-Tools und -Frameworks zu einer einzelnen vorkonfigurierten und abgestimmten Plattform, die auf beste Entwicklererfahrung ausgelegt ist. Der Ansatz von Shakudo besteht in der Bereitstellung einer einzelnen Benutzeroberfläche und eines sich ständig weiterentwickelnden Backends mit mehreren Frameworks und Infrastrukturen, das an den bestehenden Machine Learning-Stacks in der Branche ausgerichtet ist. Er ist schnell einsatzbereit mithilfe von Hyperplane auf NVIDIA DGX-Systemen mit vollständiger Unterstützung für RAPIDS™, NVIDIA Triton™ Inference Server, NVIDIA Multi-Instance GPU (MIG) und anderen leistungsstarken NVIDIA-Technologien. Hyperplane umfasst den gesamten Machine Learning-Lebenszyklus, von Entwicklung und Experimenten über Skalierung, Bereitstellung von Modellen und ETL-Aufträge bis hin zu Versuchsverfolgung, Überwachung und Echtzeit-Fehlerbehebung bei Produktionsworkloads.

Kontakt

Domino Data Lab

Die Datenwissenschaftsplattform von Domino zentralisiert alle Arbeitsschritte und die Infrastruktur der Datenwissenschaften im gesamten Unternehmen für gemeinsames Training sowie gemeinsame Erstellung, Bereitstellung und Verwaltung von Modellen – schneller und effizienter. Mit Domino können Datenwissenschaftler schneller innovativ sein, Teams können Arbeit wiederverwenden und besser zusammenarbeiten, während IT-Teams die Infrastruktur verwalten und steuern können.

Ressourcen

Wie Lockheed Martin die Grenzen der Raketenwissenschaft mit Datenwissenschaft überwindet (On-Demand-Webinar)

Kontakt

www.dominodatalab.com

Determined AI

Determined ist eine quelloffene Deep-Learning-Trainingsplattform für schnelle und einfache Modellerstellung. Determined ermöglicht Ihnen:

Schnelleres Modelltraining mit modernstem verteiltem Training, ohne Änderungen Ihres Modellcodes
Automatische Entdeckung hochwertiger Modelle mit fortschrittlichem Hyperparameter-Tuning von den Erschaffern von Hyperband
Bessere Erträge Ihrer GPUs durch intelligente Planung und niedrigere Cloud-GPU-Kosten durch nahtlose Verwendung vorhersagbarer Instanzen
Verfolgung und Reproduktion Ihrer Arbeit mit integrierter Experimentverfolgung, die Codeversionen, Metriken, Prüfpunkte und Hyperparameter abdeckt

Kontakt

www.determined.ai

Paperspace

Paperspace Gradient beschleunigt und skaliert die Entwicklung und Bereitstellung von produktionsfähigen ML- und Deep Learning-Modellen. Die Plattform läuft auf der branchenweit ersten umfassenden Engine für Continuous Integration und Continuous Deployment (CI/CD) für Aufbau, Training und Einsatz von Deep Learning-Modellen. Die erstklassigen Tools und Methoden für maschinelles Lernen von Paperspace unterstützen Multi-Cloud-, lokale und hybride Umgebungen für moderne Unternehmen. Sie funktionieren auch mit NVIDIA NGC und sind für NVIDIA DGX-Systeme optimiert.

Kontakt

www.paperspace.com

Red Hat OpenShift

Red Hat OpenShift ist eine Hybrid-Cloud-Plattform voller Möglichkeiten: leistungsstark, damit Sie alles erstellen können, und flexibel, damit es überall funktioniert.

Da OpenShift Teil des DGX-Ready Software-Programms ist, haben Kunden Zugriff auf bewährte, getestete Softwarelösungen in Unternehmensqualität, die mit OpenShift auf Clustern von NVIDIA DGX-Systemen zertifiziert sind. Dies kann die Bereitstellung, Verwaltung und Skalierung der KI-Infrastruktur vereinfachen, während Ökosystempartner OpenShift nutzen können, um Lösungen für Kunden auf skalierbarere und wiederholbare Weise zu entwickeln und bereitzustellen.

Kontakt

www.openshift.com

Pachyderm

Pachyderm bietet die Datenschicht, die es Machine Learning(ML)-Teams ermöglicht, ihren Machine Learning-Lebenszyklus zu produzieren und zu skalieren. Die branchenführende Datenversionierung von Pachyderm ist für die Verwendung mit NVIDIA DGX™-Systemen zertifiziert und bietet Pipelines und Lineage-Teams datengesteuerte Automatisierung, Petabyte-Skalierbarkeit und End-to-End-Reproduzierbarkeit. Teams, die Pachyderm verwenden, bringen ihre ML-Projekte schneller auf den Markt, senken die Datenverarbeitungs- und Speicherkosten und können die Anforderungen an die Einhaltung gesetzlicher Vorschriften leichter erfüllen.

Kontakt

https://www.pachyderm.com

D2iQ

D2iQ Kaptain ist eine unternehmenstaugliche End-to-End-Plattform für maschinelles Lernen (ML), die auf Kubeflow basiert und die Markteinführungszeit sowie positiven ROI beschleunigt, indem sie die Barrieren zwischen ML-Prototypen und Produktion abbaut. D2iQ Kaptain ermöglicht es Unternehmen, ML-Workloads in großem Maßstab in Hybrid- und Cloud-Umgebungen zu entwickeln und bereitzustellen.

D2iQ Konvoy ist eine umfassende Kubernetes-Distribution, die es Unternehmen ermöglicht, Kubernetes mit einer einfachen, sofort einsatzbereiten Erfahrung der Enterprise-Klasse zu nutzen. Konvoy basiert auf reiner Upstream-Open-Source-Software mit ausgewählten, integrierten Add-ons für aktive Produktionsumgebungen, die für hybride und Cloud-Umgebungen in großem Umfang getestet wurden.

Ressourcen

D2iQ Kubernetes-Plattform und NVIDIA DGX-Systeme (Lösungsübersicht)

Kontakt

https://d2iq.com/partners/nvidia

Run:AI

Run:AI hat die weltweit erste Compute-Management-Plattform für die Orchestrierung und Beschleunigung von KI entwickelt. Durch Zentralisierung und Virtualisierung von GPU-Compute-Ressourcen bietet Run:AI Transparenz und Kontrolle über die Ressourcenpriorisierung und -zuweisung, vereinfacht zeitgleich Workflows und vermeidet Infrastrukturprobleme für Datenwissenschaftler. Dadurch wird sichergestellt, dass KI-Projekte den Geschäftszielen zugeordnet werden und die Produktivität von Data Science-Teams erheblich verbessert wird, sodass sie ohne Ressourcenbeschränkungen gleichzeitig mehrere Modelle erstellen und trainieren können.

Ressourcen

Die Entwicklung des besten KI-Infrastruktur-Stacks zur Beschleunigung Ihrer Datenwissenschaft (On-Demand-Webinar)

Kontakt

www.run.ai

Shakudo

Die Hyperplane-Plattform von Shakudo ist eine End-to-End-Umgebung für Machine Learning-Teams. Hyperplane kombiniert die besten Open-Source-Tools und -Frameworks zu einer einzelnen vorkonfigurierten und abgestimmten Plattform, die auf beste Entwicklererfahrung ausgelegt ist. Der Ansatz von Shakudo besteht in der Bereitstellung einer einzelnen Benutzeroberfläche und eines sich ständig weiterentwickelnden Backends mit mehreren Frameworks und Infrastrukturen, das an den bestehenden Machine Learning-Stacks in der Branche ausgerichtet ist. Er ist schnell einsatzbereit mithilfe von Hyperplane auf NVIDIA DGX-Systemen mit vollständiger Unterstützung für RAPIDS™, NVIDIA Triton™ Inference Server, NVIDIA Multi-Instance GPU (MIG) und anderen leistungsstarken NVIDIA-Technologien. Hyperplane umfasst den gesamten Machine Learning-Lebenszyklus, von Entwicklung und Experimenten über Skalierung, Bereitstellung von Modellen und ETL-Aufträge bis hin zu Versuchsverfolgung, Überwachung und Echtzeit-Fehlerbehebung bei Produktionsworkloads.

Kontakt

https://shakudo.io

Canonical

Ubuntu von Canonical ist eine optimierte Plattform für NVIDIA DGX, NVIDIA EGX™, NVIDIA NGC™-Container und vieles mehr. Dadurch können Datenwissenschaftler und Techniker produktiver Innovationen entwickeln. Canonical Kubernetes basiert auf optimierten Ubuntu-Images und bietet unvergleichliche Integrationen sowie Operationen für jede Rechenumgebung. Als bewährtes, konformes Multi-Cloud-Kubernetes mit vollständiger Lifecycle-Automatisierung bietet es Entwicklern Primitives und Abstraktionen, sodass sie sich auf die Entwicklung der neuesten KI-Lösungen auf NVIDIA DGX-Systemen konzentrieren können.

Ressourcen

http://www.microk8s.io/docs/nvidia-dgx

http://www.ubuntu.com/kubernetes/docs/nvidia-dgx

Kontakt

www.ubuntu.com/kubernetes

www.microk8s.io/

IBM Spectrum LSF

Das IBM Spectrum^® LSF^® Suites-Portfolio, eine vollständige Workload-Management-Lösung für anspruchsvolle verteilte Computing-Umgebungen, trägt zur Steigerung der Nutzerproduktivität und Hardwarenutzung bei gleichzeitiger Senkung der Verwaltungskosten bei. LSF Suites bieten Unterstützung für klassisches High Performance Computing (HPC), Big Data, GPUs, maschinelles Lernen (ML) und KI sowie containerisierte Workloads vor Ort und in der Cloud. Dynamisches Hybrid-Cloud-Bursting und intelligentes Data Staging helfen Unternehmen dabei, die Kosten zu kontrollieren, indem sie nur für das bezahlen, was sie verwenden.

Ressourcen

Verwendung von IBM Spectrum mit NVIDIA DGX-Systemen

Kontakt

https://www.ibm.com/products/hpc-workload-management

SchedMD

SchedMD ist der Kernentwickler und Dienstleister für Slurm und bietet Support-, Beratungs-, Konfigurations-, Entwicklungs- sowie Trainingsdienstleistungen für Cloud- und Lokal-Cluster.

Slurm ist der marktführende Open-Source-Workload-Manager, der für die komplexesten und anspruchsvollsten HPC-, HTC- und KI-Systeme mit hohem Durchsatz entwickelt wurde. Slurm maximiert den Workload-Durchsatz und die Zuverlässigkeit bei gleichzeitiger Optimierung der Nutzung und Verwaltung von Workloads über Cloud- und Lokal-Cluster hinweg.

Slurm ermöglicht die wichtigste Planung für NVIDIA-Grafikprozessoren:

Manages GPUs similar to CPUs with flexible control for requesting GPUs and binding tasks to the GPU (GPU=erstklassige Ressource)
Unterstützt Mehr-Instanzen-Grafikprozessor (MIG) von NVIDIA
Automatische Erkennung von GPU-Ressourcen
Beschränken Sie Workloads auf die zugewiesenen GPUs und verhindern Sie, dass Prozesse mehr als die angeforderten verwenden.
Legt CUDA_VISIBLE_DEVICES Umgebungsvariable fest, sodass der Auftrag die zugewiesene GPU kennen kann

Ressourcen

Beschleunigung von Hochleistungs- und KI-Workloads mit Slurm- und NVIDIA DGX-Systemen

Kontakt

www.schedmd.com/

SUSE

Vom Rechenzentrum über Cloud bis hin zu Edge: Die Kubernetes-Managementlösung von SUSE Rancher bietet einen kompletten Stack, der die Betriebs- und Sicherheitsherausforderungen bei der Verwaltung mehrerer Container-Cluster zum Kinderspiel macht. Mit Rancher können Entwickler die beste NVIDIA-Software und -Infrastruktur schnell in ihre Kubernetes-Umgebungen integrieren und nutzen, sodass sie sich auf AI-Aufgaben konzentrieren können.

Ressourcen

NVIDIA DGX – Test- und Implementierungsanleitung

Kubernetes-Managementlösung von Rancher

Grundlagenschulung für Kubernetes und Rancher

Kontakt

SUSE kontaktieren

Dataiku

Dataiku ist die Plattform für AI im Alltag. Sie unterstützt Daten- und Fachexperten bei der Zusammenarbeit bei der Integration von AI im Arbeitsalltag. Gemeinsam entwerfen, entwickeln und implementieren sie neue AI-Funktionen aller Art und in allen Branchen. Unternehmen, die Dataiku verwenden, geben ihren Mitarbeitern damit ein Werkzeug in die Hand, um außergewöhnliche Leistungen zu erbringen, und entwickeln die AI, die ihr Unternehmen für die Zukunft voranbringt.

Mehr als 500 Unternehmen weltweit nutzen Dataiku für eine Vielfalt von Anwendungsfällen: Von vorbeugender Wartung und Optimierung der Lieferkette über Qualitätskontrolle in der Präzisionstechnik bis hin zur Marketingoptimierung und allem dazwischen.

Kontakt

www.dataiku.com

Zertifizierte MLOps-Software für NVIDIA DGX-Systeme

Optimierung von KI-Bereitstellung und Workflows

KI-Infrastruktur mit MLOps

DGX-fähige Softwarelösungen

Nutzen Sie Ihre DGX-Systeme besser mit MLOps

Weights & Biases

Kontakt

Backend.AI

Kontakt

Bright Computing

Kontakt

ClearML

Ressourcen

Kontakt

Shakudo

Kontakt

Domino Data Lab

Ressourcen

Kontakt

Determined AI

Kontakt

Iguazio

Kontakt

Paperspace

Kontakt

Red Hat OpenShift

Kontakt

Pachyderm

Kontakt

D2iQ

Ressourcen

Kontakt

Run:AI

Ressourcen

Kontakt

Shakudo

Kontakt

Canonical

Ressourcen

Kontakt

IBM Spectrum LSF

Ressourcen

Kontakt

SchedMD

Ressourcen

Kontakt

Altair

Ressourcen

Kontakt

SUSE

Ressourcen

Kontakt

Dataiku

Kontakt