LLM Awq
vonMIT HAN Lab
[MLSys 2024 Best Paper Award] AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source
Über
Effiziente und präzise Low-Bit-Gewichtquantisierung (INT3/4) für LLMs, die anweisungsoptimierte Modelle und multimodale LMs unterstützt.
Open Source Health
- Stars
- 3,633
- Forks
- 325
- License
- MIT
- Last commit
- 1 years ago
Python
Alternativen zu LLM Awq
The Algorithmvon TwitterQuellcode für den X Recommendation Algorithm.
Recommendersvon TensorFlowTensorFlow Recommenders ist eine Bibliothek zum Erstellen von Empfehlungsmodell-Systemen mit TensorFlow.- RPG_KDD2025von FacebookresearchDieses Repository bietet den Code zur Implementierung von RPG, wie in unserem KDD'25-Paper "Generierung von langen semantischen IDs in Parallel für Empfehlungen" beschrieben.
- Pairecvon AlibabaEin Go-Web-Framework zum schnellen Aufbau von Empfehlungsdiensten basierend auf JSON-Konfiguration.
Textrankvon Summa NLPTextRank-Implementierung für Python 3.
Ressourcen & Links
Verwandte Kategorien
Nutzt du LLM Awq?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
MIT HAN Lab
Efficient AI Computing. PI: Song Han
