XNNPACK
byGoogle
High-efficiency floating-point neural network inference operators for mobile, server, and Web
Model DeploymentMLOps & Experiment TrackingOpen Source
About
XNNPACK è una soluzione altamente ottimizzata per l'inferenza di reti neurali su piattaforme ARM, x86, WebAssembly e RISC-V. XNNPACK non è destinato all'uso diretto da parte di praticanti e ricercatori nel campo del deep learning; fornisce invece primitive di prestazione a basso livello per accelerare framework di machine learning di alto livello, come TensorFlow Lite, TensorFlow.js, PyTorch, ONNX Runtime, ExecuTorch e MediaPipe.
Open Source Health
- Stars
- 2,448
- Forks
- 559
- License
- Not stated
- Last commit
- 1 months ago
C
Alternative a XNNPACK
CHaiDNNby XilinxLibreria acceleratrice di reti neurali profonde basata su HLS per Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk è il primo modello da 14B a raggiungere una latenza di avvio sotto un secondo (0,87 s) mantenendo un throughput in tempo reale di 32 FPS su un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa libreria di Pattern Matching esaustiva per TypeScript, con inferenza di tipo intelligente.
Nobodywhoby NobodyWhoNobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente e in modo efficiente su qualsiasi dispositivo.
ds4by Salvatore SanfilippoMotore di inferenza locale DeepSeek 4 Flash e PRO per Metal, CUDA e ROCm
Resources & Links
Related Categories
Usi XNNPACK?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
Organize the world's information and make it universally accessible.
