Streaming LLM
[ICLR 2024] Efficient Streaming Language Models with Attention Sinks
LLM OrchestrationOpen Source AI & Machine LearningOpen Source
About
https://github.com/mit-han-lab/streaming-llm/assets/40906949/2bd1cda4-a0bd-47d1-a023-fbf7779b8358
Open Source Health
- Stars
- 7,267
- Forks
- 401
- License
- MIT
- Last commit
- 2 years ago
Python
Alternativas a Streaming LLM
The Algorithmby TwitterCódigo fuente para el Algoritmo de Recomendación X
Recommendersby TensorFlowTensorFlow Recommenders es una biblioteca para construir modelos de sistemas de recomendación utilizando TensorFlow.- RPG_KDD2025by FacebookresearchEste repositorio proporciona el código para implementar RPG descrito en nuestro artículo de KDD'25 "Generando IDs semánticos largos en paralelo para recomendaciones".
- Pairecby AlibabaUn marco web de Go para construir rápidamente servicios de recomendación en línea basados en configuración JSON.
Textrankby Summa NLPImplementación de TextRank para Python 3.
Resources & Links
Related Categories
¿Usas Streaming LLM?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
