Switchyard
vonNVIDIA-NeMo
Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.
LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source
Über
Switchyard leitet jeden LLM-Aufruf an das günstigste Modell weiter, das die Aufgabe noch erfüllen kann. Dabei wird keine Zeile deines Agents verändert.
Open Source Health
- Stars
- 3,012
- Forks
- 266
- License
- Apache-2.0
- Last commit
- 1 months ago
Python
Alternativen zu Switchyard
Speechvon NVIDIA-NeMoEin skalierbares generatives KI-Framework, das für Forscher und Entwickler an großen Sprachmodellen, multimodalen und Sprach-KI (Automatische Spracherkennung und Text-to-Speech) entwickelt wurde.
The Algorithmvon TwitterQuellcode für den X Recommendation Algorithm.
Recommendersvon TensorFlowTensorFlow Recommenders ist eine Bibliothek zum Erstellen von Empfehlungsmodell-Systemen mit TensorFlow.- RPG_KDD2025von FacebookresearchDieses Repository bietet den Code zur Implementierung von RPG, wie in unserem KDD'25-Paper "Generierung von langen semantischen IDs in Parallel für Empfehlungen" beschrieben.
- Pairecvon AlibabaEin Go-Web-Framework zum schnellen Aufbau von Empfehlungsdiensten basierend auf JSON-Konfiguration.
Ressourcen & Links
Verwandte Kategorien
Nutzt du Switchyard?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
NVIDIA-NeMo
Open-source projects on GitHub: Speech, Guardrails and Switchyard
