Nobodywho
NobodyWho is an inference engine that lets you run LLMs locally and efficiently on any device.
About
NobodyWho est un moteur d'inférence conçu pour exécuter des modèles de langage de grande taille (LLMs) localement et efficacement sur n'importe quel appareil. Il prend en charge plusieurs plateformes, y compris Kotlin, Swift, Python, Flutter, React Native, Expo et Godot. Le moteur permet un fonctionnement hors ligne sans avoir besoin de clés API, activant des fonctionnalités telles que la synthèse vocale et la reconnaissance vocale, tout en prenant également en charge les entrées multimodales. Les utilisateurs peuvent charger des modèles directement depuis diverses sources, ce qui le rend polyvalent pour les développeurs cherchant à intégrer des capacités d'IA sur l'appareil.
Open Source Health
- Stars
- 1,107
- Forks
- 79
- License
- EUPL-1.2
- Last commit
- 1 months ago
Alternatives à Nobodywho
CHaiDNNby XilinxBibliothèque d'accélérateur de réseaux neuronaux profonds basée sur HLS pour Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk est le premier modèle 14B à atteindre une latence de démarrage inférieure à une seconde (0,87 s) tout en maintenant un débit en temps réel de 32 FPS sur un nœud 8xH800.
Ts Patternby Gabriel VergnaudLa bibliothèque exhaustive de correspondance de motifs pour TypeScript, avec une inférence de type intelligente.
ds4by Salvatore SanfilippoMoteur d'inférence local DeepSeek 4 Flash et PRO pour Metal, CUDA et ROCm
RECCONby Deep Cognition and Language Research (DeCLaRe) LabCe dépôt contient l'ensemble de données et les implémentations PyTorch des modèles de l'article sur la reconnaissance des causes des émotions dans les conversations.
Resources & Links
Related Categories
Tu utilises Nobodywho ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
NobodyWho
Inference engine that lets you run LLMs locally and efficiently on any device