Finanzbranche

Was Monate dauerte, braucht nun wenige Minuten: Wealthsimple beschleunigt die Bereitstellung und Inferenz von Machine Learning-Modellen

Ziel

Wealthsimple ist ein führendes kanadisches Service-Unternehmen für Online-Investment-Management mit über 15 Milliarden kanadischen Dollar an verwalteten Vermögenswerten. Das Unternehmen wandte sich an die KI-Inferenzplattform von NVIDIA, um die Markteinführung ihrer Machine-Learning-Modelle (ML-Models) zu beschleunigen, die für die Bereitstellung von erstklassigen Kundenerfahrungen verwendet werden.

Kunde

Wealthsimple

Partner

Amazon Web Services (AWS)

Anwendungsfall

Generative KI

Produkte

NVIDIA Triton Inference Server

145 Millionen Prognosen: Erfolg skalierbar machen mit der KI-Inferenzplattform von NVIDIA

Wealthsimple nutzt modernste Technologie, um eine vollständige Suite einfacher, sorgfältig ausgewählter Finanzprodukte für verwaltete Investitionen, Do-it-Yourself-Trading, Kryptowährungen, Steuererklärungen, Ausgaben und Sparen anzubieten. Ihre Mission ist es, allen zu helfen, finanzielle Freiheit zu erreichen, egal wer sie sind oder wie viel sie haben. Die kanadische Money-Management-Plattform stand jedoch vor einer generellen Herausforderung. Ohne eine standardisierte KI-Inferenzplattform benötigten die Ingenieurteams durchschnittlich mehrere Monate, um neue Machine-Learning-Modelle in die Produktion zu bringen, was den Erfolg des Unternehmens bei der Bereitstellung von ML-fähigen Investmentdienstleistungen für ihre Kunden behindert hatte. Das Unternehmen entschied sich, die NVIDIA AI-Inferenzplattform einzusetzen, was zu einer Reihe bemerkenswerter Erfolge führte.

Heute unterstützt Wealthsimple, das über 30 Milliarden CAD an Vermögenswerten verwaltet, über 30 KI-Modelle, die in den letzten 12 Monaten über 145 Millionen Vorhersagen generiert haben. Es ist erwähnenswert, dass in den letzten anderthalb Jahren nach der Implementierung der NVIDIA AI Inference-Plattform die Organisation, welche mit dem Engineering der Plattform beauftragt ist, kein einziges IT-Ticket in Bezug auf das KI-Inferencing bekommen hat – ein Beweis dafür, dass die Plattform kaum Instandhaltung braucht und eine hohe Zuverlässigkeit mitbringt.

Vor Kurzem konnte die Money-Management-Plattform einen neuen Meilenstein erreichen. Es gelang den Modellentwicklern, ihr erstes ML-Modell ohne Engineering Support bereitzustellen. Mithilfe der NVIDIA AI Inference-Plattform konnte das Unternehmen Wealthsimple nahtlos dazu übergehen, nun auch anderen Teams ML als Service zur Verfügung zu stellen. Dadurch konnte verhindern werden, dass wertvolle Datenwissenschaftsressourcen wichtiger Projekte zerstreut würden. Als Folge dieses Wandels konnte die Bereitstellungszeit eines Modells von der Dauer mehrerer Monate auf nur 15 Minuten gekürzt werden – ein bahnbrechender Fortschritt für die Organisation.

Erstklassige Erfahrungen durch ML-getriebene Personalisierung

ML-Modelle spielen bei Wealthsimple eine zentrale Rolle, da sie Betrug erkennen, verdächtige Transaktionen analysieren und die Onboarding-Erlebnisse für neue Kunden optimieren. Das führende kanadische Fintech-Unternehmen verwendet auch Empfehlungsengines, um die Kundenerfahrung zu verbessern und einen erstklassigen Service für neue Benutzer zu gewährleisten. Die NVIDIA AI-Inferenzplattform ermöglicht es Wealthsimple, Modelle zu implementieren, die die Abteilung innerhalb eines bestimmten Finanzinstituts vorhersagen, an die eine institutionelle Überweisung gesendet werden sollte. Dies beschleunigt Transaktionsprozesse für ihre Kunden erheblich.

Bevor das Unternehmen den NVIDIA TritonTM Inference Server übernahm, der Teil der NVIDIA AI-Inferenzplattform ist, experimentierte das Unternehmen mit einem alternativen nativen KI-Framework-Inferenzprodukt und erlebte eine Verfügbarkeit von 95 %. Dies führte zu Verzögerungen von bis zu mehreren Wochen für 5 % der elektronischen Überweisungen ihrer Kunden. Triton Inference Server hat das Spiel gewendet und wartet mit einer beeindruckenden Betriebszeit von 99,999 % auf. Was das bedeutet, ist klar, da jede falsche Vorhersage nicht mehr wochenlange Verzögerungen für die Kunden und damit ihrem Zugang zu ihren Geldern nach sich zieht.

Wealthsimple begann seine transformierende Reise mit dem Testen von Modellen auf CPUs, was sich schnell dahin entwickelte, dass sie ihre Modelle auf NVIDIA GPUs laufen ließen. Dies wurde mittels Triton Inference Servern ermöglicht, die mit ihren hardware-unabhängigen Eigenschaften sowohl auf GPUs als auch auf CPUs laufen können. Heute lässt Wealthsimple Modelle laufen, die von NVIDIA A10G GPUs auf der AWS Cloud betrieben werden und hineinreichen in die NVIDIA GPU-Optimized AWS Machine Image, um Effizienz und Innovation voranzutreiben.

Der Triton Inference Server ist in Zusammenhang mit NVIDIA AI Enterprise erhältlich und bietet auf Unternehmen zugeschnittene Sicherheit, Stabilität und Support. 

Über Wealthsimple

Wealthsimple ist eine der vertrauenswürdigsten Money-Management-Plattformen Kanadas, die ein sehr schnelles Wachstum verzeichnet. Das Unternehmen bietet eine vollständige Palette von einfachen, sorgfältig ausgewählten Finanzprodukten für verwaltete Investitionen, Do-it-yourself-Trading, Kryptowährungen, Steuererklärungen, Ausgaben und Sparen. Wealthsimple bedient derzeit 3 Millionen Kanadier und hält über 30 Milliarden Dollar an Vermögenswerten. Das Unternehmen wurde 2014 von einem Team von Finanzexperten und Technologieunternehmern gegründet und hat seinen Hauptsitz in Toronto, Kanada.

„Die KI-Inferenzplattform von NVIDIA war der Dreh- und Angelpunkt in der ML-Erfolgsgeschichte unserer Organisation. Sie revolutionierte die Bereitstellung unserer Modelle, reduzierte Ausfallzeiten und ermöglichte es uns, unseren Kunden einen unvergleichlichen Service zu bieten.“

Mandy Gu,
Senior Software Development Manager bei Wealthsimple

Ergebnisse

  • Reduzierung der Modellbereitstellungszeiten von mehreren Monaten auf 15 Minuten
  • Erhöhung der Inferenz-Verfügbarkeit von 95 % auf 99,999 % Reduzierung der Inferenz-Dienst-Latenz um 20 %
  • Bereitstellung von 145 Millionen Prognosen in den letzten 12 Monaten ohne IT-Tickets

Erfahren Sie mehr darüber, wie die NVIDIA KI Inferenzplattform Ihnen helfen kann, KI-Anwendungsfälle von der Erprobung in die Produktion zu führen.