LayerSkip
Code for "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source
Über
Sobald du diese Schritte ausgeführt hast, sollten die folgenden Befehle zum Ausführen der LayerSkip-Checkpoints funktionieren.
Open Source Health
- Stars
- 381
- Forks
- 47
- License
- Not stated
- Last commit
- 3 months ago
Python
Alternativen zu LayerSkip
- RPG_KDD2025von FacebookresearchDieses Repository bietet den Code zur Implementierung von RPG, wie in unserem KDD'25-Paper "Generierung von langen semantischen IDs in Parallel für Empfehlungen" beschrieben.
- Seamless Communicationvon FacebookresearchGrundlagenmodelle für moderne Sprach- und Textübersetzung
- OrienterNetvon FacebookresearchQuellcode für das Papier "OrienterNet Visuelle Lokalisierung in 2D-Öffentlichen Karten mit Neuronaler Zuordnung"
- Matrixvon FacebookresearchMatrix (Multi-Agent daTa geneRation Infra und eXperimentation Framework) ist eine vielseitige Engine zur Generierung von Multi-Agenten-Konversationsdaten.
- Spidervon FacebookresearchEin allgemeines, physikbasiertes Retargeting-Framework.
Ressourcen & Links
Verwandte Kategorien
Nutzt du LayerSkip?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Facebookresearch
Publisher of Fairseq
