Empieza a trabajar con NVIDIA Triton

Encuentra la licencia adecuada para implementar, ejecutar y escalar la IA en cualquier aplicación y cualquier plataforma.

Opciones de licencia de NVIDIA Triton

	GitHub Para personas que buscan acceso al código de código abierto del servidor de inferencia Triton para desarrollo.	NVIDIA NGC Para personas que buscan acceso a contenedores gratuitos del servidor de inferencia Triton para desarrollo.	NVIDIA AI Enterprise Para empresas que quieren comprar Triton para producción
Características	Código de acceso	Obtener contenedor	Contactar con un comercial
Servidor de inferencia NVIDIA Triton™
Compilaciones personalizadas (Windows, NVIDIA® Jetson™), PyTriton
Contenedor Docker precompilado (dependencias de versión: CUDA®, back-ends del marco)
Triton Management Service (orquestación de modelos para implementaciones a gran escala)
Flujos de trabajo de IA y arquitecturas de referencia para casos de uso comunes de IA
Funciones de gestión de cargas de trabajo e infraestructura
Asistencia de nivel empresarial que incluye lo siguiente: Casos de asistencia técnica ilimitados a través del portal del cliente y del teléfono, de forma ininterrumpida Asistencia de escalado durante el horario comercial local (de 9:00 a 17:00, de lunes a viernes) Resolución oportuna proporcionada por expertos e ingenieros de NVIDIA Correcciones de seguridad y notificaciones prioritarias Ramas de producción que garantizan la estabilidad de la API Tres años de asistencia a largo plazo
Laboratorio práctico sobre NVIDIA LaunchPad			Pruébalo ahora
	Código de acceso	Obtener contenedor	Contactar con un comercial

Preguntas frecuentes

El servidor de inferencia NVIDIA Triton es un software de servicio de inferencia de código abierto. Permite a los equipos implementar, ejecutar y escalar modelos de IA desde cualquier marco (TensorFlow, NVIDIA TensorRT™, PyTorch, ONNX, XGBoost, Python, marcos personalizados y más) en cualquier infraestructura basada en GPU o CPU (nube, centro de datos o perímetro). Para obtener más información, visita la página web de Triton.

El Analizador de modelos Triton es una herramienta sin conexión que optimiza las configuraciones de implementación de inferencia (tamaño de lote, número de instancias de modelo, etc.) para lograr el mejor rendimiento, latencia y uso de la memoria en la GPU o CPU de destino. Admite el análisis de un único modelo, de conjuntos de modelos y de varios modelos simultáneos.

Triton se incluye con NVIDIA AI Enterprise, una plataforma software de IA de extremo a extremo con asistencia, estabilidad de seguridad y capacidad de administración de nivel empresarial. NVIDIA AI Enterprise incluye una asistencia de nivel empresarial que proporciona acceso a expertos en IA de NVIDIA, formación de clientes, recursos de la base de conocimientos y mucho más. También hay disponibles asistencia y servicios empresariales adicionales, como asistencia crítica para la empresa, un administrador técnico de cuenta dedicado, formación y servicios profesionales. Para obtener más información, visita la Guía del usuario de asistencia y servicios empresariales.

Sí, hay varios laboratorios que utilizan Triton en NVIDIA Launchpad.

NVIDIA LaunchPad es un programa que proporciona a los usuarios acceso a corto plazo al hardware y software empresarial de NVIDIA a través de un navegador web. Selecciona entre un amplio catálogo de laboratorios prácticos para experimentar soluciones en torno a casos de uso, desde IA y ciencia de datos hasta diseño 3D y optimización de la infraestructura. Las empresas pueden aprovechar inmediatamente las pilas de hardware y software necesarias en una infraestructura alojada privada.

Sí, Triton es la mejor opción del ecosistema para la inferencia de IA y la implementación de modelos. Triton está disponible en los mercados de AWS, Microsoft Azurey Google Cloud con NVIDIA AI Enterprise. También está disponible en Alibaba Cloud, Amazon Elastic Kubernetes Service (EKS), Amazon Elastic Container Service (ECS), Amazon SageMaker, Google Kubernetes Engine (GKE), Google Vertex AI, HPE Ezmeral, Microsoft Azure Kubernetes Service (AKS), Azure Machine Learningy Oracle Cloud Infrastructure Data Science Platform.

Mantente informado sobre las últimas novedades sobre inferencia de IA de NVIDIA.

Regístrate

Contact Us

Section

Section

Nombre

Apellidos

Dirección de correo electrónico profesional

Teléfono de la empresa

Nombre de la organización/universidad

Envíame las últimas novedades de noticias empresariales, así como anuncios y otra información de NVIDIA. Puedo cancelar la suscripción en cualquier momento.

Política de privacidad de NVIDIA

Empieza a trabajar con NVIDIA Triton

Opciones de licencia de NVIDIA Triton

GitHub

NVIDIA NGC

NVIDIA AI Enterprise

Características

Preguntas frecuentes

Qué es el servidor de inferencia NVIDIA Triton?

Cuándo debo usar el Analizador de modelos Triton?

Cómo pueden los clientes obtener soporte empresarial para Triton?

Hay un laboratorio de Triton en NVIDIA Launchpad?

Triton está disponible en proveedores de servicios en la nube?

Contact Us