ParrotServe
vonMicrosoft
[OSDI'24] Serving LLM-based Applications Efficiently with Semantic Variable
LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source
Über
Die leistungsstarke Sprachverständnisfähigkeit von großen Sprachmodellen (LLMs) hat ein neues Anwendungsparadigma ermöglicht, in dem eine oder mehrere Anwendungseinheiten, bekannt als KI-Agenten oder Co-Piloten, über natürliche Sprache, bekannt als "Prompts", mit LLMs kommunizieren, um eine Aufgabe gemeinsam zu erfüllen.
Open Source Health
- Stars
- 226
- Forks
- 16
- License
- MIT
- Last commit
- 2 years ago
Python
Alternativen zu ParrotServe
- Recognizers-Textvon MicrosoftRecognizers-Text bietet die Erkennung und Auflösung von Entitäten wie Zahlen, Daten und Einheiten in mehreren Sprachen.
Language Server Protocolvon MicrosoftDefiniert ein gemeinsames Protokoll für Sprachserver.- Azure AI Speechvon MicrosoftAzure Speech in Foundry Tools
- Lamar Benchmarkvon MicrosoftQuellcode für das ECCV 2022 Papier "Benchmarking Localization and Mapping for Augmented Reality".
- Pyrightvon MicrosoftStatischer Typprüfer für Python
Ressourcen & Links
Verwandte Kategorien
Nutzt du ParrotServe?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Microsoft
Empower every person and organization to achieve more.
