LLM Awq
[MLSys 2024 Best Paper Award] AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
Cuantización de pesos de bajo bit (INT3/4) eficiente y precisa para LLMs, que admite modelos ajustados por instrucciones y LMs multimodales.
Open Source Health
- Stars
- 3,633
- Forks
- 325
- License
- MIT
- Last commit
- 1 years ago
Python
Alternativas a LLM Awq
The Algorithmby TwitterCódigo fuente para el Algoritmo de Recomendación X
Recommendersby TensorFlowTensorFlow Recommenders es una biblioteca para construir modelos de sistemas de recomendación utilizando TensorFlow.- RPG_KDD2025by FacebookresearchEste repositorio proporciona el código para implementar RPG descrito en nuestro artículo de KDD'25 "Generando IDs semánticos largos en paralelo para recomendaciones".
- Pairecby AlibabaUn marco web de Go para construir rápidamente servicios de recomendación en línea basados en configuración JSON.
Textrankby Summa NLPImplementación de TextRank para Python 3.
Resources & Links
Related Categories
¿Usas LLM Awq?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
