AnyLanguageModel
An API-compatible, drop-in replacement for Apple's Foundation Models framework with support for custom language model providers.
Model DeploymentMLOps & Experiment TrackingOpen Source
About
AnyLanguageModel utiliza traits de Swift 6.1 para incluir condicionalmente dependencias pesadas, permitiéndote optar solo por los backends de modelos de lenguaje que necesitas. Esto resulta en tamaños de binarios más pequeños y tiempos de compilación más rápidos.
Open Source Health
- Stars
- 933
- Forks
- 93
- License
- Apache-2.0
- Last commit
- 1 months ago
Swift
Alternativas a AnyLanguageModel
Optimumby Hugging Face🚀 Acelera la inferencia y el entrenamiento de 🤗 Transformers, Diffusers, TIMM y Sentence Transformers con herramientas de optimización de hardware fáciles de usar.
CHaiDNNby XilinxBiblioteca aceleradora de redes neuronales profundas basada en HLS para Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk es el primer modelo de 14B que logra una latencia de inicio de menos de un segundo (0.87 s) mientras mantiene un rendimiento en tiempo real de 32 FPS en un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa biblioteca de coincidencias de patrones exhaustiva para TypeScript, con inferencia de tipos inteligente.
Nobodywhoby NobodyWhoNobodyWho es un motor de inferencia que te permite ejecutar LLMs localmente y de manera eficiente en cualquier dispositivo.
Resources & Links
Related Categories
¿Usas AnyLanguageModel?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum
