Cómo implementar, ejecutar y escalar modelos de IA con facilidad

Lee este informe técnico para obtener consejos y prácticas recomendadas sobre estandarización y optimización de la inferencia de IA de producción.

Regístrate ahora

¿Qué aprenderás?

Hacer avanzar tu proyecto de IA hasta producción puede ser complicado. Aprende a estandarizar y optimizar tu inferencia de IA en múltiples marcos de trabajo de modelos, diferentes tipos de consulta e infraestructura diversa de CPU y GPU con el servidor de inferencia NVIDIA Triton™.

Desafíos para implementar modelos de IA en producción

Múltiples marcos de trabajo

La existencia de varios marcos de trabajo de deep learning (DL) y aprendizaje automático (ML), cada uno con su propio backend de ejecución de modelos, puede ser problemático.

Infraestructura mixta

Puede ser difícil administrar soluciones dispares para la infraestructura basada en CPU y GPU en la nube, en el centro de datos y en el perímetro.

Implementación escalable

La falta de integración con las plataformas y herramientas de producción puede hacer que la implementación de IA sea costosa y difícil.

Tipos de inferencia dispares

Los distintos tipos de inferencia (en tiempo real, por lotes, streaming de audio y ensamblado) requieren diferentes tipos de optimizaciones.

Registrarse para acceder al informe técnico

Section

Section

Nombre

Apellidos

Dirección de correo electrónico profesional

Nombre de la organización/universidad

Sector industrial

Cargo

Ubicación

Idioma preferido

estado/provincia

¿Estás utilizando Triton?

Sí

enterpriseOptIns hidden field

Envíame las últimas novedades de noticias empresariales, así como anuncios y otra información de NVIDIA. Puedo cancelar la suscripción en cualquier momento.

enterpriseOptIns hidden field

Envíame las últimas novedades de soluciones para desarrolladores, así como anuncios y otra información de NVIDIA. Puedo cancelar la suscripción en cualquier momento.

Política de privacidad de NVIDIA

Acepto que NVIDIA <span class="corporation-txt hidden">Corporation </span>recopile y procese la información anterior con fines de investigación y organización de eventos, y he leído y acepto la <a href="https://www.nvidia.com/es-es/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">Política de privacidad de NVIDIA</a>.

Acepto que la información anterior sea transferida a NVIDIA Corporation en los Estados Unidos y almacenada de forma coherente con <a href="https://www.nvidia.com/es-es/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">Política de privacidad de NVIDIA</a> debido a las necesidades de investigación, organización de eventos y la correspondiente gestión interna de NVIDIA y necesidad de funcionamiento del sistema. Puedes ponerte en contacto con nosotros enviando un correo electrónico a <a href="mailto:privacy@nvidia.com">privacy@nvidia.com</a> para resolver problemas relacionados.