Captum

Captum fournit des outils pour comprendre et interpréter des modèles d'apprentissage automatique construits avec PyTorch. Il prend en charge diverses modalités, y compris la vision et le texte, et permet aux utilisateurs d'implémenter et d'évaluer de nouveaux algorithmes d'interprétabilité. En tant que bibliothèque open-source, elle est conçue pour les chercheurs et les développeurs cherchant à améliorer l'interprétabilité de leurs modèles avec des modifications minimales.