Hpc Ops
byTencent
High Performance LLM Inference Operator Library
Model DeploymentMLOps & Experiment TrackingOpen Source
About
HPC-Ops es una biblioteca de operadores de inferencia LLM de grado de producción, de alto rendimiento y fácil de usar, desarrollada por el equipo de Tencent Hunyuan AI Infra.
Open Source Health
- Stars
- 1,157
- Forks
- 140
- License
- Not stated
- Last commit
- 1 months ago
C++
Alternativas a Hpc Ops
CHaiDNNby XilinxBiblioteca aceleradora de redes neuronales profundas basada en HLS para Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk es el primer modelo de 14B que logra una latencia de inicio de menos de un segundo (0.87 s) mientras mantiene un rendimiento en tiempo real de 32 FPS en un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa biblioteca de coincidencias de patrones exhaustiva para TypeScript, con inferencia de tipos inteligente.
Nobodywhoby NobodyWhoNobodyWho es un motor de inferencia que te permite ejecutar LLMs localmente y de manera eficiente en cualquier dispositivo.
ds4by Salvatore SanfilippoMotor de inferencia local DeepSeek 4 Flash y PRO para Metal, CUDA y ROCm
Resources & Links
Related Categories
¿Usas Hpc Ops?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
Tencent
Publisher of Bugly and TDesign
