herramientas para llevar grandes modelos de lenguaje (LLM) desde el desarrollo hasta la producción.
Experimente la plataforma integral lista para empresas para IA generativa.
Experimente los modelos básicos optimizados por NVIDIA.
Prototipo con NeMo y API alojadas en NVIDIA.
Ejecute en producción con NVIDIA AI Enterprise.
Comience a crear prototipos con los principales modelos de IA generativa de código abierto y creados por NVIDIA que han sido ajustados para lograr un alto rendimiento y eficiencia. Luego, los LLM se pueden personalizar con NeMo e implementar utilizando NVIDIA NIM del Catálogo de API de NVIDIA.
Inicie el desarrollo de modelos de IA generativa con procesamiento de datos automatizado, técnicas de entrenamiento de modelos y opciones de implementación flexibles.
Conecte datos empresariales a modelos de IA generativa y recupere información con la latencia más baja, el mayor rendimiento y la máxima privacidad de los datos.
Orqueste la gestión de diálogos para LLM, garantizando precisión, idoneidad y seguridad en aplicaciones inteligentes.
Utilice esta herramienta de curación de datos acelerada por GPU para preparar conjuntos de datos a gran escala y de alta calidad para el entrenamiento previo de modelos de IA generativa.
Simplifique el ajuste y la alineación de los LLM para casos de uso específicos de dominio con este microservicio escalable y de alto rendimiento.
Evalúe LLM y RAG personalizados de manera eficiente y confiable a través de diversos puntos de referencia académicos y personalizados en cualquier nube o data center.
NVIDIA AI Enterprise es la plataforma de software de extremo a extremo que pone la IA generativa al alcance de todas las empresas, proporcionando el tiempo de ejecución más rápido y eficiente para los modelos básicos de IA generativa. Incluye NeMo y NVIDIA NIM para agilizar la adopción con seguridad, estabilidad, capacidad de administración y soporte.
Solicitar un evaluación gratuita de 90 días para acceder a soluciones de IA generativa y soporte empresarial hoy.
Encuentre una colección de documentos, guías, manuales, procedimientos y otros recursos informativos en el Centro de Documentación de NeMo.
Consulte NVIDIA On-Demand, que presenta contenido gratuito sobre NeMo de GTC y otras conferencias tecnológicas de todo el mundo.
Lea cómo NeMo le permite crear, personalizar e implementar grandes modelos de lenguaje.
Aprenda a configurar proyectos integrales con aprendizaje práctico y obtenga la certificación en las últimas tecnologías de IA generativa.
NVIDIA NeMo es un framework nativo de la nube de extremo a extremo para crear, personalizar e implementar modelos de IA generativa en cualquier lugar. Incluye frameworks de capacitación e inferencia, un conjunto de herramientas de protección, herramientas de curación de datos y modelos previamente entrenados, lo que ofrece a las empresas una forma fácil, rentable y rápida de adoptar la IA generativa. Los desarrolladores pueden optar por acceder a NeMo a través de código fuente abierto en GitHub, como un contenedor empaquetado en NVIDIA. Catálogo NGC™oo/? mediante una suscripción a NVIDIA AI Enterprise.
NeMo está disponible como parte de NVIDIA AI Enterprise. Los detalles completos de precios y licencias se pueden encontrar aquí.
Los clientes pueden obtener el Soporte NVIDIA Business-Standard a través de una suscripción NVIDIA AI Enterprise, que incluye NeMo . El Soporte NVIDIA Business-Standard ofrece acuerdos de nivel de servicio, acceso a expertos de NVIDIA y soporte a largo plazo en implementaciones locales y en la nube.
NVIDIA AI Enterprise incluye Soporte NVIDIA Business-Standard. Para obtener soporte y servicios adicionales disponibles, como NVIDIA Business-Critical Support, un administrador de cuentas técnico, capacitación y servicios profesionales, consulte la Guía de Servicios y Soporte Empresarial de NVIDIA .
NeMo Curator es una herramienta de curación de datos escalable que permite a los desarrolladores clasificar conjuntos de datos multilingües de billones de tokens para la capacitación previa de los LLM. Consiste en un conjunto de módulos de Python expresados como API que utilizan Dask, cuDF, cuGraph y Pytorch para escalar tareas de curación de datos, como descarga de datos, extracción de texto, limpieza, filtrado, deduplicación exacta/difusa y clasificación de texto a miles. de núcleos de cómputo.
NeMo Guardrails, un conjunto de herramientas de código abierto, organiza la gestión de diálogos, garantizando precisión, idoneidad y seguridad en aplicaciones inteligentes con grandes modelos de lenguaje. Protege a las organizaciones que supervisan los sistemas LLM.
NeMo Guardrails permite a los desarrolladores establecer tres tipos de límites:
Con NeMo Retriever, una colección de microservicios de IA generativa, las empresas pueden conectar sin problemas modelos personalizados a diversos datos comerciales para ofrecer respuestas altamente precisas. NeMo Retriever proporciona recuperación de información de clase mundial con la latencia más baja, el mayor rendimiento y la máxima privacidad de datos, lo que permite a las organizaciones utilizar mejor sus datos y generar información empresarial en tiempo real. NeMo Retriever mejora las aplicaciones de IA generativa con capacidades de generación aumentada de recuperación (RAG) de nivel empresarial, que se pueden conectar a los datos comerciales dondequiera que residan.
NVIDIA NIM, parte de NVIDIA AI Enterprise, es un tiempo de ejecución fácil de usar diseñado para acelerar la implementación de IA generativa en las empresas. Este microservicio versátil admite un amplio espectro de modelos de IA, desde modelos comunitarios de código abierto hasta modelos de NVIDIA AI Foundation, así como modelos de IA personalizados. Construido sobre las sólidas bases de los motores de inferencia, está diseñado para facilitar una inferencia de IA fluida a escala, garantizando que las aplicaciones de IA se puedan implementar en la nube, el data center y la workstation.
NeMo Evaluator es un microservicio automatizado diseñado para una evaluación rápida y confiable de LLM y RAG personalizados. Abarca diversos puntos de referencia con métricas predefinidas, incluidas evaluaciones humanas y técnicas de LLM como juez. Se pueden implementar múltiples trabajos de evaluación simultáneamente en Kubernetes en las plataformas de nube o centros de datos preferidos a través de llamadas API, lo que permite resultados agregados eficientes.
NeMo Customizer es un microservicio escalable de alto rendimiento que simplifica el ajuste y la alineación de LLM para casos de uso específicos de dominio.
La generación aumentada de recuperación es una técnica que permite a los LLM crear respuestas a partir de la información más reciente conectándolas a la base de conocimientos de la empresa. NeMo trabaja con varias herramientas comunitarias y de terceros, incluidas Milvus, Llama Index y LangChain, para extraer fragmentos relevantes de información de la base de datos de vectores y enviarlos al LLM para generar respuestas en lenguaje natural.
NVIDIA ofrece workflows de IA: ejemplos de referencia empaquetados y nativos de la nube que ilustran cómo se pueden aprovechar los frameworks de trabajo de IA de NVIDIA para crear soluciones de IA. Con modelos previamente entrenados, pipelines de capacitación e inferencia, Notebooks Jupyter y gráficos Helm, los workflows de IA aceleran el camino hacia la entrega de soluciones de IA.
Cree rápidamente sus soluciones de IA generativa con estos workflows de un extremo a otro:
NVIDIA LaunchPad es un campo de pruebas universal que ofrece pruebas amplias del último hardware y software empresarial de NVIDIA. Esta plataforma dinámica acelera las pruebas a corto plazo, facilita las pruebas de concepto (POC) a largo plazo e impulsa el desarrollo acelerado tanto de servicios gestionados como de soluciones independientes.
Los usuarios pueden iniciar su viaje hacia la IA con un entorno de desarrollo prescriptivo adaptado a sus necesidades. O pueden explorar un amplio catálogo de laboratorios prácticos diseñados para ofrecer experiencias inmersivas en un espectro de casos de uso, desde inteligencia artificial y ciencia de datos hasta diseño 3D y optimización de infraestructura. Las empresas obtienen fácil acceso a las últimas pilas de hardware y software aceleradas implementadas en infraestructura alojada privada.
NVIDIA AI Enterprise es una plataforma de software nativa de la nube de extremo a extremo que acelera los procesos de ciencia de datos y agiliza el desarrollo y la implementación de aplicaciones de IA de nivel de producción, incluida la IA generativa, la visión por computadora, la IA del habla y más. Incluye las mejores herramientas de desarrollo, frameworks, modelos previamente entrenados y microservicios para profesionales de IA y capacidades de gestión confiables para profesionales de TI para garantizar el rendimiento, la estabilidad de API y la seguridad.
El Catálogo de API de NVIDIA proporciona modelos de IA generativa listos para producción y un tiempo de ejecución de inferencia continuamente optimizado, empaquetados como NVIDIA NIM: microservicios que se pueden implementar fácilmente con herramientas estandarizadas en cualquier sistema acelerado por GPU.
Manténgase actualizado sobre las últimas noticias sobre IA generativa de NVIDIA.
Recibe actualizaciones para desarrolladores, anuncios y más de NVIDIA directamente en tu bandeja de entrada.
Sí, quiero recibir las últimas noticias, anuncios y más de NVIDIA sobre las Soluciones Empresariales y las Herramientas y Tecnologías para Desarrolladores.
Política de Privacidad de NVIDIA