LayerSkip
Code for "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
Une fois que tu auras exécuté ces étapes, les commandes ci-dessous pour exécuter les points de contrôle de LayerSkip devraient fonctionner.
Open Source Health
- Stars
- 381
- Forks
- 47
- License
- Not stated
- Last commit
- 3 months ago
Python
Alternatives à LayerSkip
- RPG_KDD2025by FacebookresearchCe dépôt fournit le code pour mettre en œuvre RPG décrit dans notre article KDD'25 "Génération d'IDs sémantiques longs en parallèle pour la recommandation".
- Seamless Communicationby FacebookresearchModèles fondamentaux pour la traduction de la parole et du texte à la pointe de la technologie.
- OrienterNetby FacebookresearchCode source pour l'article "OrienterNet Localisation Visuelle dans des Cartes Publiques 2D avec Correspondance Neuronale"
- Matrixby FacebookresearchMatrix (Multi-Agent daTa geneRation Infra et eXperimentation framework) est un moteur polyvalent pour la génération de données conversationnelles multi-agents.
- Spiderby FacebookresearchUn cadre de retargeting basé sur la physique général.
Resources & Links
Related Categories
Tu utilises LayerSkip ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
Facebookresearch
Publisher of Fairseq
