Curator

Scalable data pre processing and curation toolkit for LLMs

Data Quality ManagementOpen Source Data PlatformsOpen Source

About

NeMo Curator aide les ingénieurs ML et les équipes de données à créer des pipelines reproductibles accélérés par GPU qui chargent, filtrent, dédupliquent et transforment de grands ensembles de données textuelles, d'images, de vidéos et d'audio pour l'entraînement de l'IA. Exécute le même pipeline sur un ordinateur portable ou sur un cluster Ray multi-nœuds.

Open Source Health

Not enough history
Stars
1,764
Forks
323
License
Apache-2.0
Last commit
1 months ago
Python

Resources & Links

Related Categories

Tu utilises Curator ?

Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.

Ajouter à mon stack

Vendor

NVIDIA-NeMo

Open-source projects on GitHub: Speech, Guardrails and Switchyard

View vendor profile

More by NVIDIA-NeMo