AutoModel

Nemo AutoModel es una biblioteca de entrenamiento de código abierto SPMD nativa de Pytorch DTensor bajo el marco NVIDIA NeMo, diseñada para optimizar y escalar el entrenamiento y el ajuste fino para LLMs, VLMs, modelos de difusión y modelos de recuperación. Diseñada para flexibilidad, reproducibilidad y escalabilidad, NeMo AutoModel permite tanto experimentos a pequeña escala como implementaciones masivas en múltiples GPU y nodos para una rápida experimentación en entornos de investigación y producción.