Streaming Vlm
StreamingVLM: Real-Time Understanding for Infinite Video Streams
About
StreamingVLM permet une compréhension stable en temps réel de vidéos effectivement infinies en maintenant un cache KV compact (cache clé-valeur) et en alignant l'entraînement avec l'inférence en streaming. Il évite les coûts quadratiques et les pièges de la fenêtre glissante, fonctionne jusqu'à 8 FPS sur un seul H100 et obtient 66,18 % contre GPT-4o mini sur un nouveau benchmark de vidéo longue. Il améliore également le VQA général (Visual Question Answering) sans ajustement fin spécifique à la tâche. Tu peux saisir l'essentiel en parcourant d'abord cette section.
Open Source Health
- Stars
- 1,080
- Forks
- 67
- License
- MIT
- Last commit
- 1 years ago
Alternatives à Streaming Vlm
Deep-Feature-Flowby MSRA CVerDeep Feature Flow pour la reconnaissance vidéo
MMActionby Open MmlabUne boîte à outils open-source pour la compréhension des actions basée sur PyTorch
VideoPrismby Google DeepMindDépôt officiel pour "VideoPrism : Un encodeur visuel fondamental pour la compréhension vidéo" (ICML 2024)
Temporal Segment Networksby yjxiongCode et modèles pour Temporal Segment Networks (TSN) dans ECCV 2016
Cosmos Curatorby NVIDIACosmos Curator est un système de curation vidéo qui traite, analyse et organise du contenu vidéo en utilisant des modèles d'IA avancés et de l'informatique distribuée.
Resources & Links
Related Categories
Tu utilises Streaming Vlm ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han