Sarathi Serve
vonMicrosoft
A low-latency & high-throughput serving engine for LLMs
ModellbereitstellungMLOps & ExperimentverfolgungOpen Source
Über
Sarathi-Serve ist ein hochdurchsatzfähiges und latenzarmes LLM-Serving-Framework. Bitte beziehe dich auf unser OSDI'24-Papier für weitere Details.
Open Source Health
- Stars
- 522
- Forks
- 67
- License
- Apache-2.0
- Last commit
- 9 months ago
Python
Alternativen zu Sarathi Serve
- BitNetvon MicrosoftOffizielles Inferenz-Framework für 1-Bit LLMs
CHaiDNNvon XilinxHLS-basierte Beschleunigerbibliothek für tiefe neuronale Netzwerke für Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkvon Soul AI LabSoulX-FlashTalk ist das erste 14B-Modell, das eine Startlatenz von unter einer Sekunde (0,87 s) erreicht und gleichzeitig einen Echtzeit-Durchsatz von 32 FPS auf einem 8xH800-Knoten beibehält.
Ts Patternvon Gabriel VergnaudDie umfassende Pattern Matching-Bibliothek für TypeScript mit intelligenter Typinferenz.
Nobodywhovon NobodyWhoNobodyWho ist eine Inferenz-Engine, mit der du LLMs lokal und effizient auf jedem Gerät ausführen kannst.
Ressourcen & Links
Verwandte Kategorien
Nutzt du Sarathi Serve?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Microsoft
Empower every person and organization to achieve more.
