LayerSkip
Code for "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
Una vez que ejecutes esos pasos, los comandos a continuación para ejecutar los puntos de control de LayerSkip deberían funcionar.
Open Source Health
- Stars
- 381
- Forks
- 47
- License
- Not stated
- Last commit
- 3 months ago
Python
Alternativas a LayerSkip
- RPG_KDD2025by FacebookresearchEste repositorio proporciona el código para implementar RPG descrito en nuestro artículo de KDD'25 "Generando IDs semánticos largos en paralelo para recomendaciones".
- Seamless Communicationby FacebookresearchModelos fundamentales para traducción de voz y texto de última generación.
- OrienterNetby FacebookresearchCódigo fuente para el artículo "OrienterNet Localización Visual en Mapas Públicos 2D con Coincidencia Neural"
- Matrixby FacebookresearchMatrix (Multi-Agent daTa geneRation Infra y eXperimentation framework) es un motor versátil para la generación de datos conversacionales multi-agente.
- Spiderby FacebookresearchUn marco de retargeting basado en física general.
Resources & Links
Related Categories
¿Usas LayerSkip?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
Facebookresearch
Publisher of Fairseq
