“Uno dei vantaggi più significativi che abbiamo osservato una volta implementata la fabbrica IA è stato un sostanziale aumento della produttività degli sviluppatori”, ha dichiarato Bryan Donovan, responsabile tecnico di AI Foundations presso Lockheed Martin. “In precedenza, la creazione di un ambiente di sviluppo su laptop o workstation locali era un compito impegnativo a causa di rigorosi vincoli di sicurezza, il cui completamento spesso richiedeva diverse settimane. Ora, grazie alla fabbrica IA con DGX SuperPOD, gli sviluppatori possono richiedere risorse GPU e mettere in funzione ambienti in pochi minuti”.
L’accesso alle GPU con le interconnessioni ad alta velocità di DGX SuperPOD ha permesso ai team di sfruttare funzionalità in precedenza inaccessibili con i singoli programmi. I processi di addestramento che una volta richiedevano settimane sono ora ridotti a giorni. Forrest ha commentato: “Inoltre, la nostra fabbrica IA ci consente di condividere best practice e competenze in tutta Lockheed Martin. Abbiamo codificato le best practice in materia di IA in un insieme di componenti, pipeline e playbook riutilizzabili, migliorando ulteriormente la produttività degli sviluppatori."
La centralizzazione del calcolo tramite la Fabbrica IA di Lockheed Martin ha portato a notevoli risparmi sui costi. I token vengono creati quando un modello suddivide il testo in unità più piccole come parole, parti di parole o caratteri e vengono utilizzati nell'addestramento per convertire i dati testuali in dati numerici che il modello può comprendere e imparare. “L’utilizzo delle API tramite cloud pubblico richiede l’acquisto di token per coprire i costi di computing, ma con la nostra fabbrica IA in loco possiamo gestire la tokenizzazione, l’addestramento e la distribuzione internamente”, ha affermato Forrest. “Il nostro DGX SuperPOD ci aiuta a elaborare oltre un miliardo di token a settimana, consentendo il perfezionamento, la generazione aumentata di recupero (RAG) o l’inferenza sui nostri modelli linguistici di grandi dimensioni (LLM). Questa soluzione evita l'aumento dei costi e le notevoli limitazioni delle commissioni basate sull'utilizzo dei token."
Oltre al DGX SuperPOD, il team sfrutta ancora il burst-scaling agli ambienti cloud per esigenze temporali e per addestrare e gestire dati non classificati. I sistemi DGX in loco consentono a Lockheed Martin di controllare tipi di dati e telemetria specifici in un ambiente sicuro. “Grazie ai data center interni approvati, gli sviluppatori possono utilizzare immediatamente i dati sensibili, garantendo sicurezza e agilità in tutti i casi d’uso senza dover attendere ulteriori approvazioni. Ciò consente una maggiore flessibilità e una distribuzione più rapida delle soluzioni IA”, ha affermato Donovan.
“Lockheed Martin ha una quantità enorme di diversi tipi di dati che vengono elaborati per varie applicazioni IA, tra cui dati di serie temporali, intelligenza del segnale, dati geospaziali, testi, immagini e video. DGX SuperPOD supporta un’ampia gamma di casi d’uso, dall’analisi dei dati all’inferenza su larga scala, sulla stessa piattaforma, migliorando l’efficienza e riducendo i costi”, ha aggiunto Forrest.