nanoVLM
The simplest, fastest repository for training/finetuning small-sized VLMs.
About
nanoVLM est le dépôt le plus simple pour entraîner/affiner un modèle Vision-Language de petite taille avec une implémentation légère en PyTorch pur. Le code lui-même est très lisible et accessible, le modèle se compose d'un Vision Backbone (models/vision_transformer.py ~150 lignes), d'un Language Decoder (models/language_model.py ~250 lignes), d'une Modality Projection (models/modality_projection.py ~50 lignes) et du VLM lui-même (models/vision_language_model.py ~100 lignes) ainsi qu'une boucle d'entraînement simple (train.py ~200 lignes).
Open Source Health
- Stars
- 5,018
- Forks
- 509
- License
- Apache-2.0
- Last commit
- 1 years ago
Alternatives à nanoVLM
Peftby Hugging Face🤗 PEFT : Ajustement fin efficace en paramètres à la pointe de la technologie.
Sophia Script For Windowsby Dmitry Nefedovzap : Le module PowerShell pour le réglage de Windows 10 et Windows 11 sur GitHub.KTransformersby kvcache.aiUn cadre flexible pour l'optimisation de l'inférence et du fine-tuning de LLM hétérogènes.
LongWriterby THUKEG[ICLR 2025] LongWriter : Libère la génération de plus de 10 000 mots à partir de LLMs à long contexte.
Regress Lmby Google DeepMindBibliothèque pour la prédiction numérique de séquence à séquence, applicable à toute entrée tokenisable, et permet le pré-entraînement et l'ajustement fin sur plusieurs tâches.
Resources & Links
Related Categories
Tu utilises nanoVLM ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum