Bi Att Flow

Bi-directional Attention Flow (BiDAF) network is a multi-stage hierarchical process that represents context at different levels of granularity and uses a bi-directional attention flow mechanism to achieve a query-aware context representation without early summarization.

NLP & Text AnalysisOpen Source AI & Machine LearningOpen Source

About

Il modello ha ~2,5 milioni di parametri. Il modello è stato addestrato con NVidia Titan X (Architettura Pascal, 2016). Il modello richiede almeno 12 GB di RAM GPU. Se la tua RAM GPU è inferiore a 12 GB, puoi ridurre la dimensione del batch (le prestazioni potrebbero degradarsi) oppure puoi utilizzare più GPU (vedi sotto). L'addestramento converge a ~18.000 passi e ha impiegato ~4 secondi per passo (cioè ~20 ore).

Open Source Health

Not enough history
Stars
1,546
Forks
667
License
Apache-2.0
Last commit
3 years ago
Python

Resources & Links

Related Categories

Usi Bi Att Flow?

Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.

Aggiungi al mio stack

Vendor

Allenai

Publisher of Dont Stop Pretraining, Objaverse Xl and Procthor

View vendor profile

More by Allenai