AutoModel

Nemo AutoModel est une bibliothèque d'entraînement open-source SPMD native de Pytorch DTensor sous le cadre NVIDIA NeMo, conçue pour rationaliser et évoluer l'entraînement et le réglage fin pour les LLMs, VLMs, modèles de diffusion et modèles de récupération. Conçue pour la flexibilité, la reproductibilité et l'échelle, NeMo AutoModel permet à la fois des expériences à petite échelle et des déploiements massifs multi-GPU et multi-nœuds pour une expérimentation rapide dans des environnements de recherche et de production.