Colaborando com a NVIDIA, a Amdocs iniciou sua estratégia para integrar a IA generativa em seu portfólio principal. A empresa começou identificando as áreas de aplicação e, em seguida, remodelou a experiência do usuário e priorizou uma engenharia rápida para facilitar o uso da IA generativa para os usuários. Ao otimizar os formatos de dados e ajustar os LLMs, a Amdocs aprimorou a precisão de seu sistema de Q&A de faturamento, reduzindo significativamente os custos.
O envolvimento com a NVIDIA proporcionou aumentos notáveis na precisão das respostas geradas pela IA, aumentando a precisão em até 30%. Esse tipo de melhoria é fundamental para alcançar a adoção generalizada do setor de telecomunicações e atender às demandas de serviços de IA generativa direcionados ao consumidor final.
Usando os microsserviços NVIDIA NIM, a Amdocs também alcançou melhorias de desempenho para o custo e a latência:
- Diminuição dos custos de operação: Usando geração aumentada por recuperação baseada em telecomunicações na infraestrutura da NVIDIA, a Amdocs reduziu o número de tokens consumidos para os casos de uso implantados em até 60% para pré-processamento de dados e até 40% para inferência. Isso permitiu que eles alcançassem o mesmo nível de precisão a um preço significativamente menor por token, dependendo de diversos fatores e dos volumes utilizados.
- Melhorias de latência: A colaboração reduziu com sucesso a latência de consultas em aproximadamente 80%, garantindo que os usuários finais tenham respostas quase em tempo real. Essa aceleração aprimora as experiências do usuário nos setores de comércio, atendimento, operações e muito mais.
A Amdocs planeja continuar integrando a IA generativa em sua plataforma amAIz de várias maneiras:
- Aprimorando o roteamento de consultas para clientes usando análise de linguagem e sentimento impulsionada por IA
- Aprimorando as capacidades de raciocínio de suas soluções de IA para fornecer sugestões adaptadas às necessidades específicas dos clientes
- Abordando os cenários complexos que exigem amplo conhecimento de domínio e soluções multimodais e de várias etapas, como o diagnóstico e a otimização de rede
Assista à sessão on demand do NVIDIA GTC e saiba mais sobre a plataforma amAIz da Amdocs.