LLM Awq
[MLSys 2024 Best Paper Award] AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
Quantification de poids à faible bit (INT3/4) efficace et précise pour les LLM, prenant en charge les modèles ajustés par instruction et les LMs multimodaux.
Open Source Health
- Stars
- 3,633
- Forks
- 325
- License
- MIT
- Last commit
- 1 years ago
Python
Alternatives à LLM Awq
The Algorithmby TwitterCode source pour l'algorithme de recommandation X
Recommendersby TensorFlowTensorFlow Recommenders est une bibliothèque pour construire des modèles de systèmes de recommandation avec TensorFlow.- RPG_KDD2025by FacebookresearchCe dépôt fournit le code pour mettre en œuvre RPG décrit dans notre article KDD'25 "Génération d'IDs sémantiques longs en parallèle pour la recommandation".
- Pairecby AlibabaUn cadre web Go pour construire rapidement des services de recommandation en ligne basés sur une configuration JSON.
Textrankby Summa NLPImplémentation de TextRank pour Python 3.
Resources & Links
Related Categories
Tu utilises LLM Awq ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
