AnyLanguageModel
An API-compatible, drop-in replacement for Apple's Foundation Models framework with support for custom language model providers.
Model DeploymentMLOps & Experiment TrackingOpen Source
About
AnyLanguageModel utilise les traits Swift 6.1 pour inclure conditionnellement des dépendances lourdes, te permettant de choisir uniquement les backends de modèles de langue dont tu as besoin. Cela se traduit par des tailles de binaire plus petites et des temps de construction plus rapides.
Open Source Health
- Stars
- 933
- Forks
- 93
- License
- Apache-2.0
- Last commit
- 1 months ago
Swift
Alternatives à AnyLanguageModel
Optimumby Hugging Face🚀 Accélère l'inférence et l'entraînement des 🤗 Transformers, Diffusers, TIMM et Sentence Transformers avec des outils d'optimisation matérielle faciles à utiliser.
CHaiDNNby XilinxBibliothèque d'accélérateur de réseaux neuronaux profonds basée sur HLS pour Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk est le premier modèle 14B à atteindre une latence de démarrage inférieure à une seconde (0,87 s) tout en maintenant un débit en temps réel de 32 FPS sur un nœud 8xH800.
Ts Patternby Gabriel VergnaudLa bibliothèque exhaustive de correspondance de motifs pour TypeScript, avec une inférence de type intelligente.
Nobodywhoby NobodyWhoNobodyWho est un moteur d'inférence qui te permet d'exécuter des LLM localement et efficacement sur n'importe quel appareil.
Resources & Links
Related Categories
Tu utilises AnyLanguageModel ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum
