En exploitant la plateforme de LILT et les GPU de NVIDIA, l'agence a obtenu un rendement de traduction pouvant atteindre 150 000 mots par minute (performances mesurées dans quatre langues). Le déploiement sur AWS permet une mise à l'échelle nettement plus importante par rapport à ce qui était possible sur site. Les ressources GPU évolutives accroissent facilement le rendement, y compris avec les charges de travail les plus intensives, ce qui signifie qu'aucun utilisateur final ne doit attendre trop longtemps qu'une file d'attente soit traitée et que toutes les missions peuvent être menées à bien avec l'assistance et les ressources adéquates.
Pour atteindre ce résultat, LILT a accéléré l'entraînement des modèles avec des GPU NVIDIA A100 Tensor Core et l'inférence des modèles avec les GPU NVIDIA T4 Tensor Core. En exploitant des modèles développés avec NeMo, la plateforme de LILT peut fournir un débit de caractères jusqu'à 30 fois supérieur en matière de performances d'inférence par rapport aux modèles équivalents exécutés sur des CPU. De plus, la plateforme d'IA de NVIDIA permet à LILT de quintupler la taille de ses modèles avec des améliorations importantes, non seulement en matière de latence, mais également en matière de qualité.
NeMo fait partie intégrante de NVIDIA AI Enterprise, une plateforme de production logicielle sécurisée de bout en bout destinée aux entreprises qui vise à simplifier la conception et le déploiement de logiciels d'IA accélérés.
Les modèles d'apprentissage automatique adaptatif de LILT s'améliorent constamment, spécifiquement lorsque des linguistes révisent le contenu et y apportent des modifications. Ce contenu est alors utilisé en tant que données d'entraînement pour le réglage fin des modèles. Ces améliorations constantes du contexte permettent aux outils dynamiques de LILT de s'adapter au langage courant et de registre familier, en évolution constante, que l'on retrouve sur les réseaux sociaux et dans d'autres sources de contenu essentielles. LILT exploite en outre un workflow multifacettes avec des applications pour linguistes et non linguistes, permettant ainsi à chaque équipe de travailler de manière autonome et de tirer le meilleur parti de ses compétences uniques pour optimiser son efficacité dans les situations critiques.
Découvrez comment d'autres entreprises font appel à LILT pour améliorer leurs propres opérations et l'expérience client.