Streaming LLM
[ICLR 2024] Efficient Streaming Language Models with Attention Sinks
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
https://github.com/mit-han-lab/streaming-llm/assets/40906949/2bd1cda4-a0bd-47d1-a023-fbf7779b8358
Open Source Health
- Stars
- 7,267
- Forks
- 401
- License
- MIT
- Last commit
- 2 years ago
Python
Alternatives à Streaming LLM
The Algorithmby TwitterCode source pour l'algorithme de recommandation X
Recommendersby TensorFlowTensorFlow Recommenders est une bibliothèque pour construire des modèles de systèmes de recommandation avec TensorFlow.- RPG_KDD2025by FacebookresearchCe dépôt fournit le code pour mettre en œuvre RPG décrit dans notre article KDD'25 "Génération d'IDs sémantiques longs en parallèle pour la recommandation".
- Pairecby AlibabaUn cadre web Go pour construire rapidement des services de recommandation en ligne basés sur une configuration JSON.
Textrankby Summa NLPImplémentation de TextRank pour Python 3.
Resources & Links
Related Categories
Tu utilises Streaming LLM ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
