Perplexity ha adoptado NVIDIA NeMo aprovechado su fiabilidad, flexibilidad y facilidad de uso para crear modelos personalizados para su motor de respuestas en línea. Utilizaron varias técnicas de procesamiento de datos y alineación de modelos avanzadas con el apoyo de NeMo:
- Ajuste supervisado: las capacidades de NeMo para gestionar datos distribuidos en múltiples nodos permitieron a Perplexity escalar sus procesos de entrenamiento de manera eficiente.
- Optimización de preferencias directas (DPO): esto permitió a Perplexity mejorar el rendimiento de los modelos preentrenados para alinearse con las preferencias humanas, adaptando los modelos a las necesidades de los usuarios.
- Optimización de políticas proximales (PPO): esta técnica de alineación mejoró los resultados de los modelos de entrenamiento para tareas complejas, como jugar a juegos y controlar robots, con resultados mejorados.
A los pocos días del lanzamiento de una nueva versión de código abierto el equipo ya disponía de un nuevo modelo de Sonar que mejoraba en un 20% el modelo base de búsqueda.
Perplexity ha aplicado ajustes a los modelos de vanguardia, incluyendo las familias de modelos Llama y Mistral, y aprovecha la generación aumentada por recuperación para ofrecer respuestas breves y precisas basadas en los datos recuperados. Este nivel de personalización ha permitido a Perplexity lograr una alta precisión y relevancia en sus aplicaciones de IA.
Además, la facilidad de uso de NeMo, la amplitud de las arquitecturas de modelos admitidas y el alto rendimiento de entrenamiento han permitido a Perplexity experimentar rápidamente y encontrar los modelos mejor ajustados para sus aplicaciones.