AWS Lambda Docker Serverless Inference
vonAws Samples
Serve scikit-learn, XGBoost, TensorFlow, and PyTorch models with AWS Lambda container images support.
ModellbereitstellungMLOps & ExperimentverfolgungOpen Source
Über
Dieses Repository enthält Ressourcen, die dir helfen, Lambda-Funktionen basierend auf Python- und Java-Docker-Images bereitzustellen.
Open Source Health
- Stars
- 101
- Forks
- 19
- License
- MIT-0
- Last commit
- 2 years ago
Jupyter Notebook
Alternativen zu AWS Lambda Docker Serverless Inference
CHaiDNNvon XilinxHLS-basierte Beschleunigerbibliothek für tiefe neuronale Netzwerke für Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkvon Soul AI LabSoulX-FlashTalk ist das erste 14B-Modell, das eine Startlatenz von unter einer Sekunde (0,87 s) erreicht und gleichzeitig einen Echtzeit-Durchsatz von 32 FPS auf einem 8xH800-Knoten beibehält.
Ts Patternvon Gabriel VergnaudDie umfassende Pattern Matching-Bibliothek für TypeScript mit intelligenter Typinferenz.
Nobodywhovon NobodyWhoNobodyWho ist eine Inferenz-Engine, mit der du LLMs lokal und effizient auf jedem Gerät ausführen kannst.
ds4von Salvatore SanfilippoDeepSeek 4 Flash und PRO lokale Inferenz-Engine für Metal, CUDA und ROCm
Ressourcen & Links
Verwandte Kategorien
Nutzt du AWS Lambda Docker Serverless Inference?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Aws Samples
Publisher of IAM Identity Center Team, Serverless Patterns and Siem On Amazon Opensearch Service
