Streaming Vlm

StreamingVLM: Real-Time Understanding for Infinite Video Streams

Video AnalyticsOpen Source Media & EntertainmentOpen Source

About

StreamingVLM permet une compréhension stable en temps réel de vidéos effectivement infinies en maintenant un cache KV compact (cache clé-valeur) et en alignant l'entraînement avec l'inférence en streaming. Il évite les coûts quadratiques et les pièges de la fenêtre glissante, fonctionne jusqu'à 8 FPS sur un seul H100 et obtient 66,18 % contre GPT-4o mini sur un nouveau benchmark de vidéo longue. Il améliore également le VQA général (Visual Question Answering) sans ajustement fin spécifique à la tâche. Tu peux saisir l'essentiel en parcourant d'abord cette section.

Open Source Health

Not enough history
Stars
1,080
Forks
67
License
MIT
Last commit
1 years ago
Python

Related Categories

Tu utilises Streaming Vlm ?

Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.

Ajouter à mon stack

Vendor

MIT HAN Lab

Efficient AI Computing. PI: Song Han

View vendor profile

More by MIT HAN Lab