LLM Awq
[MLSys 2024 Best Paper Award] AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
Quantizzazione dei pesi a bassa bit (INT3/4) efficiente e precisa per i LLM, che supporta modelli ottimizzati per istruzioni e LMs multimodali.
Open Source Health
- Stars
- 3,633
- Forks
- 325
- License
- MIT
- Last commit
- 1 years ago
Python
Alternative a LLM Awq
The Algorithmby TwitterCodice sorgente per l'Algoritmo di Raccomandazione X
Recommendersby TensorFlowTensorFlow Recommenders è una libreria per costruire modelli di sistemi di raccomandazione utilizzando TensorFlow.- RPG_KDD2025by FacebookresearchQuesto repository fornisce il codice per implementare RPG descritto nel nostro articolo KDD'25 "Generazione di ID semantici lunghi in parallelo per raccomandazioni".
- Pairecby AlibabaUn framework web Go per costruire rapidamente servizi di raccomandazione online basati su configurazione JSON.
Textrankby Summa NLPImplementazione di TextRank per Python 3.
Resources & Links
Related Categories
Usi LLM Awq?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
