Hochschulen und Forschung

Die University of Pennsylvania beschleunigt die Forschung in verschiedenen Disziplinen mit NVIDIA DGX SuperPOD

Ziel

Die University of Pennsylvania (Penn) ist eine der führenden Forschungsuniversitäten des Landes und besteht aus zwölf Schulen, die in der staatlich geförderten Forschung aktiv sind, in den Bereichen biomedizinische Wissenschaft, Robotik, Ingenieurwesen sowie Kunst und Wissenschaft. Als KI-Methoden begannen, diese Studienbereiche gleichzeitig neu zu gestalten, tätigte Penn eine entscheidende Investition in eine gemeinsame KI-Recheninfrastruktur mit einem NVIDIA DGX SuperPOD™. Das Ergebnis ist „Betty“, eine universitätsweite KI-Forschungsplattform, die Rechenleistung im Frontier-Maßstab für etwa 1 US-Dollar pro GPU-Stunde in die Hände jedes Penn-Forschers legt und so sowohl das erweitert, was Forscher erreichen können, als auch den Umfang der Fragen, die sie verfolgen können.

Kunde

University of Pennsylvania

Partner

VAST Data/AHEAD/Flexential

Thema

Generative KI/LLMs

Das Wichtigste im Überblick

  • 12-fache Beschleunigung des Vision-Language-Action-Modelltrainings, wodurch Modelle mit 3 Milliarden oder mehr Parametern ermöglicht werden, was zuvor außerhalb der Reichweite war.
  • Wartezeiten für genehmigte und in Warteschlangen stehende KI-Anwendungsfälle werden von Wochen auf Stunden reduziert.
  • 1,5 Jahre Rechenzeit reduziert auf drei Tage für ein schulübergreifendes Dokumentenanalyseprojekt, das mehr als 40.000 Dokumente umfasst.
  • 14-fache Steigerung des täglichen experimentellen Durchsatzes.
  • 950 Forscher in 200 Forschungsgruppen teilen eine einzige KI-Plattform für ca. 1 US-Dollar pro GPU-Stunde und liefern monatlich 120.000 GPU-Stunden.
  • Erschlossene generative KI-Modelle optimieren die von Penns Nobelpreisträgern entwickelte mRNA-Technologie und treiben eine 400-mal höhere Proteinexpression voran.

Skalierung der Rechenleistung zur Erfüllung der Ambitionen der modernen Forschung

Der Aufstieg der KI in großem Maßstab hat die Bedeutung der computergestützten Wissenschaft grundlegend verändert. Bereiche wie die biomedizinische Wissenschaft, Robotik, Linguistik und Materialwissenschaft, die spezialisierte Rechenressourcen erfordern, generieren jetzt Trainings-Workloads, die an die Grenzen dessen stoßen, was jedes einzelne Labor praktisch unterstützen kann. Für Penn, eine Universität mit zwölf Fakultäten, die gleichzeitig vom Bund geförderte Forschung betreiben, war die Frage nicht, ob man in KI-Infrastruktur investieren sollte, sondern wie man etwas Gemeinsames entwickelt, das zugänglich ist und leistungsstark genug, um jeden Forscher auf dem Campus zu unterstützen.

Die Public Cloud konnte kurzfristige Rechenlücken schließen, aber die Wirtschaftlichkeit erwies sich im akademischen Maßstab als schwierig. Die wiederholte Ausführung von Experimenten mit Dutzenden von Modellvarianten, zufälligen Seeds und großen Datensätzen ist die Art von rigoroser Arbeit, die Innovationen und die gemeinsame Veröffentlichung der Ergebnisse fördert sowie Möglichkeiten für die weitere Exploration bietet. Aber es erforderte eine Rechenleistung, die entweder nicht lokal verfügbar oder kostspielig genug war, um die Iteration undurchführbar zu machen. Die ehrgeizigsten Experimente waren am schwierigsten zu verfolgen, genau dann, wenn sie am wichtigsten waren: Bevor es Ergebnisse gab, die eine zusätzliche wirtschaftliche Unterstützung für den Fortschritt rechtfertigten.

Was Penn benötigte, war eine Plattform, die jeden Forscher dort abholen konnte, wo er stand – skalierbar genug für das Training von Frontier-Modellen, erschwinglich genug für einen breiten Zugriff und so integriert, dass der Einstieg Stunden und nicht Monate dauerte.

University of Pennsylvania

Betty, ein Supercomputer aus der TOP500-Liste von Juni 2026 mit NVIDIA DGX SuperPOD mit DGX B200-Systemen als Teil der Infrastruktur von Betty

Aufbau einer gemeinsamen KI-Grundlage mit NVIDIA DGX SuperPOD

Diese Plattform ist Betty, die auf einem NVIDIA DGX SuperPOD mit NVIDIA DGX B200-Systemen basiert, dem fortschrittlichsten KI-Computing-System von NVIDIA, das speziell für umfangreiche Trainings- und Inferenz-Workloads entwickelt wurde. Betty ist nach Frances Elizabeth „Betty“ Snyder Holberton benannt, einer der sechs ursprünglichen Programmiererinnen von Penns ENIAC und einer Pionierin der modernen Softwareentwicklung. Die Zusammenstellung des Full-Stacks erforderte die Koordinierung von Rechenleistung, Netzwerken, Datenspeicher und Colocation in einem dedizierten Team von Partnern. Der NVIDIA DGX-Ready Colocation-Partner Flexential lieferte etwa ein Megawatt Colocation-Kapazität in etwa drei Monaten. Innerhalb von Betty bietet NVIDIA InfiniBand die Hochgeschwindigkeits-Fabric zur Verbindung der Rechenknoten. Separat verbindet eine dedizierte Dark-Fibre die externe Anlage direkt mit dem Penn-Campus und bietet Forschern einen Zugriff auf das System mit hoher Bandbreite und geringer Latenz. NVIDIA und der DGX SuperPOD-spezialisierte Partner AHEAD stellten gemeinsam die KI-Rechenleistung, die leistungsstarken Netzwerke und die unterstützende Infrastruktur bereit, die erforderlich sind, um den DGX SuperPOD als einzelne integrierte Plattform und nicht als Sammlung einzelner GPU-Server zu betreiben.

Der Datenspeicher war eine kritische Design-Überlegung. Penn setzte ein VAST Data 15x10-Array ein, das mehr als 250 GB/s Lesedurchsatz und 60 GB/s Schreibdurchsatz über mehrere Petabyte an Daten bietet, mit einem konsistenten Datenreduktionsverhältnis von 1,5:1. Forscher müssen ihre Workflows nicht mehr darauf ausrichten, wo sich Daten befinden oder wie darauf zugegriffen wird. VAST unterstützt die hochgradig konkurrierenden, datenintensiven Muster, die große KI-Workloads generieren, wodurch die GPU-Ressourcen kontinuierlich versorgt werden.

Nachdem die Datenebene vorhanden ist, nutzt Penn NVIDIA Mission Control, um Betty als einheitliches DGX SuperPOD zu betreiben und zu optimieren. „NVIDIA Mission Control bietet clusterweite Transparenz über den gesamten DGX SuperPOD und kombiniert Gesundheits- und Auslastungsdaten mit GPU-Leistung, Speicher, Tensor Core und Kommunikationstelemetrie. Mit NVIDIA Mission Control können wir schlecht funktionierende Workloads erkennen, Forschern dabei helfen, ihren Code zu optimieren und die Zeit bis zur Erzielung von Ergebnissen zu verkürzen, während wir gleichzeitig Kapazitäten an die breitere Penn-Community zurückgeben“, erklärte Kenneth Chaney, PhD, PARCC Associate Director of AI and Technology an der University of Pennsylvania. Als Teil von NVIDIA Mission Control führt der Cluster sowohl Slurm für herkömmliche High-Performance-Computing-Workloads (HPC) als auch NVIDIA Run:ai für KI-native Workloads aus, einschließlich Inferenzdienste. Dies ermöglicht es Forschern, dieselbe Infrastruktur zu teilen und gleichzeitig den Scheduling-Ansatz zu verwenden, der am besten für jede Art von Arbeit geeignet ist.

Die Bereitstellung demonstrierte außerdem den Wert des direkten Zugriffs auf die KI-Experten von NVIDIA. Als Penn Evo 2, ein für die DNA-Sequenzanalyse im langen Kontext konzipiertes Genomik-Foundation Model, auf seinem NVIDIA DGX SuperPOD skalierte, arbeiteten NVIDIA-Forscher und Ingenieure direkt mit der Universität zusammen, um das Modell für die Plattform abzustimmen und zu optimieren. Diese Zusammenarbeit ermöglichte es den Penn-Forschern, von der Variante mit 1B-Parametern auf die 7B- und 40B-Modelle mit Kontextfenstern mit bis zu einer Million Nukleotiden zu wechseln, was Experimente ermöglichte, die bisher auf dem Campus nicht praktikabel waren.

Image Courtesy of Penn Engineering

Monate in Tage verwandeln, in den Bereichen Medizin, Robotik und mehr

Die Auswirkungen auf den Forschungsumfang und die Geschwindigkeit sind unmittelbar. Im Robotik-Programm von Penns können Forscher, die Experimente zum bestärkenden Lernen für die Navigation in unbekannten Umgebungen ausführen, Trainingstests jetzt auf Betty vollständig parallelisieren. Das gleiche Team trainierte Predicate-informierte Vision-Language-Action-Modelle (VLA) mit mehr als 3B Parametern, die zuvor aufgrund der Rechenanforderungen außerhalb der Reichweite waren. Die Ergebnisse erzielten eine 12-fache Beschleunigung des Modelltrainings im Vergleich zu ihrer vorherigen Einrichtung, wobei die vorläufigen VLA-Ergebnisse den Stand der Technik übertrafen. „Auf einer Desktop-GPU dauert jeder Trainingslauf für bestärkendes Lernen drei bis vier Stunden, wodurch wir auf sechs oder sieben Durchläufe pro Tag beschränkt sind. Mit nur einer Flotte von acht GPUs auf unserem DGX SuperPOD können wir 100 Durchläufe pro Tag mit verschiedenen Konfigurationen durchführen – mehr als eine 14-fache Steigerung des täglichen experimentellen Durchsatzes“, erklärte Vijay Kumar, Professor und Dekan der Nemirovsky Family bei Penn Engineering.

Der Einfluss von Betty geht weit über ein einzelnes Labor hinaus. Eine Kooperation zwischen dem Mack Institute und dem Penn Center for Innovation nutzte Betty, um semantische Korrelationen in mehr als 40.000 Dokumenten zu analysieren und so eine geschätzte Rechenzeit von 1,5 Jahren auf nur drei Tage zu reduzieren. CAMEL-ECG, ein Modell, das zur Reduzierung der Alarmermüdung in der klinischen EKG-Diagnose entwickelt wurde, wurde auf Betty von einem Team trainiert, das aus Penn Engineering und der Perelman School of Medicine besteht: Eine Zusammenarbeit, die direkt durch den gemeinsamen Zugriff auf die Plattform ermöglicht wurde.

Die biomedizinische Wissenschaft ist eine langjährige Stärke an der Penn, wo Forscher Pionierarbeit bei der mit dem Nobelpreis ausgezeichneten mRNA-Impfstofftechnologie geleistet haben. Betty unterstützt jetzt ein generatives Modell für mRNA- und Protein-Konstrukte, das eine über 400-mal höhere Expression demonstriert hat. Die Penn-Fakultät hat außerdem das vollständige PubMed-Repository durchsucht und einen Wissensgraph für das Training prädiktiver Modelle für Biomolekültypen extrahiert, mit einem agentischen Co-Scientist-System, das auf diesen Daten basiert, um die Entwicklung von RNA- und Lipid-Nanopartikel-Therapeutika zu unterstützen.

Heute bedient Betty etwa 950 registrierte Forscher in 200 Forschungsgruppen und liefert 120.000 GPU-Stunden und 30.000 Jobs pro Monat zu subventionierten Kosten von etwa 1 US-Dollar pro GPU-Stunde. Jeder Penn-Forscher kann Zugriff anfordern, und neue Benutzer können innerhalb von Stunden statt Wochen von der Anmeldung zur produktiven Arbeit auf Betty übergehen. „Betty bietet Penn-Forschern eine integrierte KI-Kapazität, die bisher auf dem Campus nicht verfügbar war. Zu mehr als 10-mal geringeren Kosten als kommerzielle Cloud-Alternativen verwandelt der DGX SuperPOD groß angelegte Modelltrainings- und KI-für-Wissenschaft-Projekte von aussichtslosen Vorhaben in solche, die Forschungsteams entwickeln, testen und verfeinern lassen“, fügte Vijay hinzu.

„Mit dem DGX SuperPOD konnten wir die Trainingsgeschwindigkeit des Vision-Language-Action-Modells (VLA) um das 12-fache verbessern und Modelle auf 3B+ Parameter skalieren, die zuvor außerhalb der Reichweite lagen.“

Vijay Kumar
, Professor und Nemirovsky Family Dean, Penn Engineering

Image Courtesy of Penn Engineering

Die Erweiterung der Grenzen des wissenschaftlich Möglichen

Penn erweitert bereits das Modellportfolio von Betty. Die Plattform bedient jetzt offene Modelle im Frontier-Maßstab, einschließlich GLM-5.2-NVFP4 – einer NVIDIA-optimierten Bereitstellung für NVIDIA Blackwell-GPUs, die Kontextlängen von bis zu 500.000 Token mit Kimi K3-Bereitstellungen mit mehreren Knoten unterstützt. Die Funktionen von Betty unterstützen nicht nur die Forschung, sondern auch die Lehre. Der neue Kurs von Penn zur Softwareentwicklung mit KI-Coding-Agenten startet in diesem Herbst mit 75 Studenten, die einen von Betty gehosteten Modell-Endpunkt für Coding-Aufgaben und Benotungen nutzen, wobei die Einschreibung im Frühjahr auf 250 Studenten anwachsen wird.

In der biomedizinischen Bildgebung entwickeln Penn-Forscher multimodale Datensätze, die vom Organmaßstab bis hin zur Einzelzellauflösung reichen, und schaffen so die Grundlage für Modelle, die letztendlich die Organfunktion vorhersagen oder die regenerative Medizin unterstützen könnten. Die klinischen Auswirkungen von Bettys Arbeit werden immer deutlicher, aber die Plattform treibt bereits die Rechen-Workloads an, die Peptid-, Protein- und mRNA-Kandidaten für experimentelle Tests und die potenzielle Umsetzung in die Behandlung auswählen.

Penns Investition in Betty zeigt, was möglich ist, wenn eine Forschungsuniversität Rechenleistung nicht als Abteilungsressource, sondern als gemeinsame Grundlage für Innovation behandelt – offen für jeden Forscher, im akademischen Maßstab erschwinglich und leistungsstark genug, dass die Wissenschaft, und nicht die Hardware, die Grenze setzt.

„Die bemerkenswerteste Änderung ist der Ehrgeiz und die Breite der Fragen, die sie verfolgen können. Doktoranden können von einer Idee zu einem großen Experiment übergehen, ohne zuerst über knappe lokale GPUs zu verhandeln oder das Projekt zu reduzieren, um es an die verfügbare Hardware anzupassen.“

Dave Meaney
Vice Provost für Forschung

Image Courtesy of Penn Engineering

Erfahren Sie, wie NVIDIA DGX SuperPOD KI-Rechenleistung im Frontier-Maßstab an Forschungsuniversitäten liefert, die gemeinsam genutzt, erschwinglich und vom ersten Tag des Zugriffs an bereit ist für jeden Workload.

Ähnliche Erfolgsgeschichten