Radial Attention

Radial Attention es un mecanismo de atención dispersa escalable que mejora los modelos de difusión de video al lograr una complejidad computacional de O(n log n). Utiliza una sparsidad inspirada en la física para imponer atención local espacialmente y temporalmente decreciente, lo que refleja la disipación de energía en sistemas físicos. Este enfoque permite la generación eficiente de videos más largos mientras mantiene alta calidad, lo que lo hace adecuado para aplicaciones en generación y procesamiento de video.