En colaboración con NVIDIA, Amdocs lanzó su estrategia para integrar la IA generativa en su cartera central. Comenzaron por identificar áreas de aplicación y, después, pasaron a hacer que las capacidades de IA generativa fueran más fáciles de usar a través del rediseño de UX y a priorizar la ingeniería rápida. Al optimizar los formatos de datos y ajustar los LLM, Amdocs mejoró la precisión de su sistema de preguntas y respuestas de facturación, a la vez que redujo significativamente los costos.
El compromiso con NVIDIA generó aumentos notables en la precisión de las respuestas generadas por la IA, lo que aumentó la precisión hasta en un 30 por ciento. Este tipo de mejora es fundamental para lograr una adopción generalizada en la industria de las telecomunicaciones y satisfacer las demandas de servicios de IA generativa directa al consumidor.
Al utilizar los microservicios NVIDIA NIM, Amdocs también logró mejoras de desempeño en costo y latencia:
- Reducción de los costos de operación: Con el uso de la generación aumentada por recuperación basada en telecomunicaciones en la infraestructura de NVIDIA, Amdocs redujo la cantidad de tokens consumidos para casos de uso implementados hasta en un 60 por ciento para el preprocesamiento de datos y hasta en un 40 por ciento para la inferencia. Esto les permitió alcanzar el mismo nivel de precisión a un costo significativamente menor por token, según las diversas influencias y volúmenes utilizados.
- Mejoras de latencia: La colaboración ha reducido con éxito la latencia de consultas en aproximadamente un 80 por ciento, lo que garantiza que los usuarios finales experimenten respuestas casi en tiempo real. Esta aceleración mejora la experiencia del usuario en comercio, atención a la salud, operaciones y más.
Amdocs planea continuar integrando la IA generativa en su plataforma amAIz de varias maneras:
- Optimizar el enrutamiento de consultas de los clientes mediante el análisis del lenguaje y el sentimiento impulsado por la IA
- Mejorar las capacidades de razonamiento de sus soluciones de IA para proporcionar sugerencias adaptadas a las necesidades específicas de los clientes
- Abordar escenarios complejos que requieren un amplio conocimiento del dominio y soluciones multimodales y de varios pasos, como el diagnóstico y la optimización de la red
Mira la sesión bajo demanda de NVIDIA GTC y obtén más información sobre la plataforma Amdocs amAIz.