Optimum Onnx
🤗 Optimum ONNX: Export your model to ONNX and run inference with ONNX Runtime
Model DeploymentMLOps & Experiment TrackingOpen Source
About
Per evitare conflitti tra onnxruntime e onnxruntime-gpu, assicurati che il pacchetto onnxruntime non sia installato eseguendo pip uninstall onnxruntime prima di installare Optimum.
Open Source Health
- Stars
- 159
- Forks
- 56
- License
- Apache-2.0
- Last commit
- 3 months ago
Python
Alternative a Optimum Onnx
Optimumby Hugging Face🚀 Accelera l'inferenza e l'addestramento di 🤗 Transformers, Diffusers, TIMM e Sentence Transformers con strumenti di ottimizzazione hardware facili da usare.
CHaiDNNby XilinxLibreria acceleratrice di reti neurali profonde basata su HLS per Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk è il primo modello da 14B a raggiungere una latenza di avvio sotto un secondo (0,87 s) mantenendo un throughput in tempo reale di 32 FPS su un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa libreria di Pattern Matching esaustiva per TypeScript, con inferenza di tipo intelligente.
Nobodywhoby NobodyWhoNobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente e in modo efficiente su qualsiasi dispositivo.
Resources & Links
Related Categories
Usi Optimum Onnx?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
Hugging Face
Publisher of Speech To Speech, Diffusers and Optimum
