Nobodywho
NobodyWho is an inference engine that lets you run LLMs locally and efficiently on any device.
About
NobodyWho è un motore di inferenza progettato per eseguire modelli di linguaggio di grandi dimensioni (LLM) localmente e in modo efficiente su qualsiasi dispositivo. Supporta più piattaforme, tra cui Kotlin, Swift, Python, Flutter, React Native, Expo e Godot. Il motore consente il funzionamento offline senza la necessità di chiavi API, abilitando funzionalità come testo a voce e voce a testo, supportando anche input multimodali. Gli utenti possono caricare modelli direttamente da diverse fonti, rendendolo versatile per gli sviluppatori che cercano di integrare capacità di IA sul dispositivo.
Open Source Health
- Stars
- 1,107
- Forks
- 79
- License
- EUPL-1.2
- Last commit
- 1 months ago
Alternative a Nobodywho
CHaiDNNby XilinxLibreria acceleratrice di reti neurali profonde basata su HLS per Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk è il primo modello da 14B a raggiungere una latenza di avvio sotto un secondo (0,87 s) mantenendo un throughput in tempo reale di 32 FPS su un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa libreria di Pattern Matching esaustiva per TypeScript, con inferenza di tipo intelligente.
ds4by Salvatore SanfilippoMotore di inferenza locale DeepSeek 4 Flash e PRO per Metal, CUDA e ROCm
RECCONby Deep Cognition and Language Research (DeCLaRe) LabQuesto repository contiene il dataset e le implementazioni in PyTorch dei modelli dell'articolo sul riconoscimento delle cause delle emozioni nelle conversazioni.
Resources & Links
Related Categories
Usi Nobodywho?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
NobodyWho
Inference engine that lets you run LLMs locally and efficiently on any device