AnyLanguageModel
An API-compatible, drop-in replacement for Apple's Foundation Models framework with support for custom language model providers.
Model DeploymentMLOps & Experiment TrackingOpen Source
About
AnyLanguageModel utilizza i trait di Swift 6.1 per includere condizionatamente dipendenze pesanti, consentendoti di attivare solo i backend dei modelli di linguaggio di cui hai bisogno. Questo porta a dimensioni binarie più piccole e tempi di compilazione più rapidi.
Open Source Health
- Stars
- 933
- Forks
- 93
- License
- Apache-2.0
- Last commit
- 1 months ago
Swift
Alternative a AnyLanguageModel
Optimumby Hugging Face🚀 Accelera l'inferenza e l'addestramento di 🤗 Transformers, Diffusers, TIMM e Sentence Transformers con strumenti di ottimizzazione hardware facili da usare.
CHaiDNNby XilinxLibreria acceleratrice di reti neurali profonde basata su HLS per Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk è il primo modello da 14B a raggiungere una latenza di avvio sotto un secondo (0,87 s) mantenendo un throughput in tempo reale di 32 FPS su un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa libreria di Pattern Matching esaustiva per TypeScript, con inferenza di tipo intelligente.
Nobodywhoby NobodyWhoNobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente e in modo efficiente su qualsiasi dispositivo.
Resources & Links
Related Categories
Usi AnyLanguageModel?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum
