AnyLanguageModel
vonHugging Face
An API-compatible, drop-in replacement for Apple's Foundation Models framework with support for custom language model providers.
ModellbereitstellungMLOps & ExperimentverfolgungOpen Source
Über
AnyLanguageModel verwendet Swift 6.1 Traits, um schwerwiegende Abhängigkeiten bedingt einzuschließen, sodass du nur die Sprachmodell-Backends aktivieren kannst, die du benötigst. Dies führt zu kleineren Binärgrößen und schnelleren Build-Zeiten.
Open Source Health
- Stars
- 933
- Forks
- 93
- License
- Apache-2.0
- Last commit
- 1 months ago
Swift
Alternativen zu AnyLanguageModel
Optimumvon Hugging Face🚀 Beschleunige die Inferenz und das Training von 🤗 Transformers, Diffusers, TIMM und Sentence Transformers mit einfach zu bedienenden Hardware-Optimierungstools.
CHaiDNNvon XilinxHLS-basierte Beschleunigerbibliothek für tiefe neuronale Netzwerke für Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkvon Soul AI LabSoulX-FlashTalk ist das erste 14B-Modell, das eine Startlatenz von unter einer Sekunde (0,87 s) erreicht und gleichzeitig einen Echtzeit-Durchsatz von 32 FPS auf einem 8xH800-Knoten beibehält.
Ts Patternvon Gabriel VergnaudDie umfassende Pattern Matching-Bibliothek für TypeScript mit intelligenter Typinferenz.
Nobodywhovon NobodyWhoNobodyWho ist eine Inferenz-Engine, mit der du LLMs lokal und effizient auf jedem Gerät ausführen kannst.
Ressourcen & Links
Verwandte Kategorien
Nutzt du AnyLanguageModel?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum
