Radial Attention

[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation

AI Video CreationOpen Source AI & Machine LearningOpen Source

About

Radial Attention è un meccanismo di attenzione sparsa scalabile che migliora i modelli di diffusione video raggiungendo una complessità computazionale di O(n log n). Utilizza una sparità ispirata alla fisica per imporre un'attenzione localmente spaziale e temporalmente decrescente, che rispecchia la dissipazione di energia nei sistemi fisici. Questo approccio consente la generazione efficiente di video più lunghi mantenendo alta qualità, rendendolo adatto per applicazioni nella generazione e nel trattamento dei video.

Open Source Health

Not enough history
Stars
607
Forks
34
License
Apache-2.0
Last commit
11 months ago
Python

Related Categories

Usi Radial Attention?

Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.

Aggiungi al mio stack

Vendor

MIT HAN Lab

Efficient AI Computing. PI: Song Han

View vendor profile

More by MIT HAN Lab