Obiettivo
Lockheed Martin sta accelerando l’adozione dell’IA centralizzando risorse di computing, strumenti per le operazioni di machine learning (MLOps) e best practice nella propria fabbrica IA, alimentata da un NVIDIA DGX SuperPOD™ per l'addestramento e l’inferenza. All’interno della Fabbrica IA di Lockheed Martin, ha sviluppato una piattaforma MLOps personalizzata basata su DGX SuperPOD, fornendo le soluzioni necessarie ai team per costruire e distribuire un’IA affidabile su larga scala.
Cliente
Lockheed Martin
Scenario di utilizzo
IA generativa / LLM
Prodotti
NVIDIA DGX
Accelerare lo sviluppo e l'integrazione dell'IA all'interno di Lockheed Martin
Lockheed Martin, azienda leader mondiale nel settore della tecnologia per la sicurezza, eccelle nello sviluppo di soluzioni avanzate 21st Century Security® in settori quali aerospaziale, esplorazione spaziale e sicurezza informatica. Da oltre un secolo, l'azienda affronta sfide complesse e contribuisce all'avanzamento delle scoperte scientifiche. Tra i progetti attuali vi sono l'invio di esseri umani su Marte, il ritorno sulla Luna e una migliore rilevazione, previsione e lotta agli incendi.
Con 122.000 dipendenti in tutto il mondo, Lockheed Martin sta scalando l'IA in tutta l'azienda al fine di promuovere l'efficienza e l'innovazione. Attualmente integra l'IA in centinaia di progetti, migliorando i programmi dei clienti e ottimizzando le operazioni aziendali interne. Per accelerare ulteriormente la trasformazione digitale, ha istituito il Lockheed Martin AI Center (LAIC) nel 2021 per ridurre le barriere nell'implementazione dell'IA. La sua iniziativa di fabbrica IA integra infrastrutture e strumenti MLOps e di IA generativa. Consente agli ingegneri e agli sviluppatori di fornire funzionalità automatizzate e ripetibili basate sull'IA in applicazioni ad alta produttività, promuovendo soluzioni abilitate all'IA rapidamente e su vasta scala dal prototipo alla produzione.
Lockheed Martin
Lockheed Martin
Centralizzare l'infrastruttura IA per risolvere la frammentazione e le inefficienze
Sviluppare un'IA affidabile, sicura e protetta è un ordine esecutivo della Casa Bianca a cui Lockheed Martin aderisce. "A causa delle nostre rigorose linee guida di governance dei dati, è fondamentale che i nostri dati rimangano in loco presso Lockheed Martin o all'interno di ambienti classificati. I controlli degli accessi fanno sì che le persone visualizzino solo i dati di cui hanno bisogno e possano proteggere i set di dati all'interno dei loro spazi di lavoro", afferma Greg Forrest, direttore AI Foundations di Lockheed Martin.
Forrest aggiunge: "Oltre alla governance e alla sicurezza dei dati, i team hanno dovuto affrontare sfide derivanti da processi frammentati, automazione limitata e risorse di computing separate, risultanti in inefficienze, costi maggiori e risorse di computing obsolete. Sono emersi lavoro duplicato e pratiche incoerenti dovuti alla mancanza di una strategia IA unificata e di una chiara gestione dei fornitori".
Per supportare i diversi casi d'uso in tutta l'azienda, il LAIC ha mirato a centralizzare le risorse di computing, gli strumenti MLOps e le best practice attraverso la propria fabbrica IA basata sull'architettura di riferimento NVIDIA DGX SuperPOD per l'addestramento e la distribuzione, consentendo di aderire ai principi etici relativi all'IA del governo sfruttando al contempo le migliori soluzioni tecnologiche di ultima generazione in tutto lo stack tecnologico.
- L'obiettivo di Lockheed Martin mirava ad allineare la propria infrastruttura, semplificare le risorse cloud e diffondere le best practice tra i team.
- Gli sviluppatori possono ora accedere in modo sicuro alle risorse della GPU, mettere in funzione ambienti in pochi minuti e ridurre i tempi di addestramento da settimane a giorni.
- Lockheed Martin utilizza DGX SuperPOD per addestrare e personalizzare i modelli e ospitarli nella propria fabbrica IA interna. Questa configurazione supporta il rapido sviluppo di applicazioni IA, come chatbot e assistenti di programmazione interni.
Lockheed Martin
Accesso rapido al computing sicuro e best practice condivise per aumentare la produttività degli sviluppatori
“Uno dei vantaggi più significativi che abbiamo osservato una volta implementata la fabbrica IA è stato un sostanziale aumento della produttività degli sviluppatori”, ha dichiarato Bryan Donovan, responsabile tecnico di AI Foundations presso Lockheed Martin. “In precedenza, la creazione di un ambiente di sviluppo su laptop o workstation locali era un compito impegnativo a causa di rigorosi vincoli di sicurezza, il cui completamento spesso richiedeva diverse settimane. Ora, grazie alla fabbrica IA con DGX SuperPOD, gli sviluppatori possono richiedere risorse GPU e mettere in funzione ambienti in pochi minuti”.
L’accesso alle GPU con le interconnessioni ad alta velocità di DGX SuperPOD ha permesso ai team di sfruttare funzionalità in precedenza inaccessibili con i singoli programmi. I processi di addestramento che una volta richiedevano settimane sono ora ridotti a giorni. Forrest ha commentato: “Inoltre, la nostra fabbrica IA ci consente di condividere best practice e competenze in tutta Lockheed Martin. Abbiamo codificato le best practice in materia di IA in un insieme di componenti, pipeline e playbook riutilizzabili, migliorando ulteriormente la produttività degli sviluppatori."
La centralizzazione del calcolo tramite la Fabbrica IA di Lockheed Martin ha portato a notevoli risparmi sui costi. I token vengono creati quando un modello suddivide il testo in unità più piccole come parole, parti di parole o caratteri e vengono utilizzati nell'addestramento per convertire i dati testuali in dati numerici che il modello può comprendere e imparare. “L’utilizzo delle API tramite cloud pubblico richiede l’acquisto di token per coprire i costi di computing, ma con la nostra fabbrica IA in loco possiamo gestire la tokenizzazione, l’addestramento e la distribuzione internamente”, ha affermato Forrest. “Il nostro DGX SuperPOD ci aiuta a elaborare oltre un miliardo di token a settimana, consentendo il perfezionamento, la generazione aumentata di recupero (RAG) o l’inferenza sui nostri modelli linguistici di grandi dimensioni (LLM). Questa soluzione evita l'aumento dei costi e le notevoli limitazioni delle commissioni basate sull'utilizzo dei token."
Oltre al DGX SuperPOD, il team sfrutta ancora il burst-scaling agli ambienti cloud per esigenze temporali e per addestrare e gestire dati non classificati. I sistemi DGX in loco consentono a Lockheed Martin di controllare tipi di dati e telemetria specifici in un ambiente sicuro. “Grazie ai data center interni approvati, gli sviluppatori possono utilizzare immediatamente i dati sensibili, garantendo sicurezza e agilità in tutti i casi d’uso senza dover attendere ulteriori approvazioni. Ciò consente una maggiore flessibilità e una distribuzione più rapida delle soluzioni IA”, ha affermato Donovan.
“Lockheed Martin ha una quantità enorme di diversi tipi di dati che vengono elaborati per varie applicazioni IA, tra cui dati di serie temporali, intelligenza del segnale, dati geospaziali, testi, immagini e video. DGX SuperPOD supporta un’ampia gamma di casi d’uso, dall’analisi dei dati all’inferenza su larga scala, sulla stessa piattaforma, migliorando l’efficienza e riducendo i costi”, ha aggiunto Forrest.
“Il nostro DGX SuperPOD ci aiuta a elaborare oltre un miliardo di token a settimana. Questa soluzione evita l’aumento dei costi e le limitazioni significative delle commissioni basate sull’utilizzo dei token.”
Greg Forrest,
direttore di AI Foundations, Lockheed Martin
Potenziare 7.000 utenti senza scendere a compromessi su sperimentazione, costi o sicurezza dei dati
Oggi, 7.000 ingegneri e sviluppatori accedono alla fabbrica IA di Lockheed Martin, con tecnologia DGX SuperPOD, per supportare i programmi all'interno di Lockheed Martin e produrre migliaia di pipeline automatizzate e milioni di richieste API ogni settimana. Più di 1.100 tirocinanti hanno migliorato le loro conoscenze in materia di IA attraverso il Deep Learning Institute (DLI) di NVIDIA, mentre migliaia di altri hanno completato programmi di formazione aggiuntivi curati dal Lockheed AI Center (LAIC). Questi programmi hanno dotato i partecipanti di competenze tecniche ed esperienza pratica utilizzando strumenti e framework standard del settore.
"Siamo passati da GPU sparse su infrastrutture ad hoc locali, risorse cloud statiche e sottoutilizzate e persino addestramento direttamente su laptop, a una piattaforma centralizzata, dove non serve scendere a compromessi tra sperimentazione, costi e sicurezza dei dati", ha detto Donovan. "Questo passaggio accelera il nostro flusso di lavoro". La fabbrica IA supporta vari carichi di lavoro di IA generativa, RAG, perfezionamento di LLM e chatbot e assistenti di programmazione interni.
"Ad esempio, abbiamo reso la stesura di proposte più efficiente. In quanto appaltatori statali, leggiamo molte proposte e abbiamo un enorme archivio," ha commentato Forrest. “Ospitiamo un modello linguistico di grandi dimensioni open source su DGX SuperPOD e applichiamo la RAG sulle proposte di Lockheed Martin. Ciò ci consente di generare rapidamente nuove proposte mediante l’IA generativa, riassumendo il lavoro passato e creando nuovi contenuti.
“Un altro esempio è Lockheed Martin Text Navigator, un’interfaccia di chat basata su un modello linguistico di grandi dimensioni in grado di riassumere testi lunghi, analizzare documenti di ricerca, generare idee strategiche e produrre e risolvere il codice integrato negli IDE”, ha affermato Forrest.
Lockheed Martin Text Navigator viene utilizzato da migliaia di dipendenti per le attività quotidiane di produttività. Ospitato internamente sul DGX SuperPOD e distribuito in modo sicuro attraverso la piattaforma MLOps e di IA generativa di Lockheed Martin, Text Navigator migliora l'efficienza e supporta un'ampia gamma di funzioni in tutta l'azienda.
“Siamo passati da GPU sparse a una piattaforma centralizzata, dove non scendere a fare compromessi tra sperimentazione, costi e sicurezza dei dati”.
Bryan Donovan,
responsabile tecnico di AI Foundations, Lockheed Martin
Guardando verso il futuro
Lockheed Martin sfrutta e continua a scalare il SuperPOD DGX di NVIDIA all'interno della sua fabbrica IA per addestrare e perfezionare i modelli open-source e sviluppare nuovi modelli linguistici per applicazioni specializzate. L'addestramento e l'inferenza sono condotte sul SuperPOD DGX, utilizzando NVIDIA Triton Inference Server™ e NVIDIA NeMo™ Framework, inclusi con NVIDIA AI Enterprise, oltre a CUDA® e a immagini NVIDIA pre-integrate.
"L'esperienza di settore di Lockheed Martin, combinata con l'infrastruttura all'avanguardia di NVIDIA, sta rivoluzionando attraverso l'IA il modo in cui affrontiamo i requisiti aziendali e relativi alla mission, consentendoci di rispondere a sfide complesse con velocità, precisione e insight ineguagliabili", ha dichiarato Matt Wittstock, responsabile dell'infrastruttura IA di Lockheed Martin.
Questo approccio integrato accelera lo sviluppo e l'implementazione dell'IA, consentendo a Lockheed Martin di fornire in modo efficiente soluzioni IA avanzate ai suoi clienti. Attualmente, ha consolidato oltre 30 modelli sulla sua infrastruttura locale mediante la propria fabbrica IA e il numero è in crescita.
Oggi, Lockheed Martin registra il pieno utilizzo e l'occasionale sovrautilizzo del proprio hardware il loco. Con 122.000 dipendenti e un numero crescente di persone che utilizzano l'IA generativa ogni giorno, è già in grado di gestire milioni di chiamate API settimanalmente. Per supportare i carichi di lavoro in crescita, prevede di espandere il proprio ambiente on-premise mediante le nuove architetture GPU NVIDIA e di rendere la sua soluzione di fabbrica IA e MLOP disponibile commercialmente ai propri clienti.
“L'esperienza di settore di Lockheed Martin, combinata con l'infrastruttura all'avanguardia di NVIDIA, sta rivoluzionando attraverso l'IA il modo in cui affrontiamo i requisiti aziendali e relativi alla mission, consentendoci di rispondere a sfide complesse con velocità, precisione e insight ineguagliabili”.
Matt Wittstock
Responsabile dell'infrastruttura IA, Lockheed Martin
Lockheed Martin
I risultati
- Ambienti di intelligenza artificiale sicuri e con accelerazione GPU on-premise, pronti non più in settimane ma in minuti.
- Risparmi significativi sui costi scalando l'intelligenza artificiale generativa.
- Infrastruttura unificata per diversi tipi di dati e casi d'uso, dall'addestramento all'inferenza.
- Supporto per 7.000 ingegneri e sviluppatori che producono migliaia di pipeline automatizzate ogni settimana.
DGX SuperPOD offre un'infrastruttura accelerata leader e prestazioni scalabili per i carichi di lavoro IA più impegnativi, con risultati comprovati nel settore.
