Checkpoint Engine
checkpoint-engine is a lightweight, decoupling and efficient weight update middleware
Model DeploymentMLOps & Experiment TrackingOpen Source
About
Checkpoint-engine es un middleware simple para actualizar los pesos del modelo en motores de inferencia LLM, un paso crítico en el aprendizaje por refuerzo. Proporcionamos una implementación eficiente y ligera para la actualización de pesos en su lugar: actualizar nuestro modelo Kimi-K2 (1 billón de parámetros) en miles de GPUs tarda aproximadamente 20 segundos.
Open Source Health
- Stars
- 1,005
- Forks
- 107
- License
- MIT
- Last commit
- 1 months ago
Python
Alternativas a Checkpoint Engine
CHaiDNNby XilinxBiblioteca aceleradora de redes neuronales profundas basada en HLS para Xilinx Ultrascale+ MPSoCs- SoulX-FlashTalkby Soul AI LabSoulX-FlashTalk es el primer modelo de 14B que logra una latencia de inicio de menos de un segundo (0.87 s) mientras mantiene un rendimiento en tiempo real de 32 FPS en un nodo 8xH800.
Ts Patternby Gabriel VergnaudLa biblioteca de coincidencias de patrones exhaustiva para TypeScript, con inferencia de tipos inteligente.
Nobodywhoby NobodyWhoNobodyWho es un motor de inferencia que te permite ejecutar LLMs localmente y de manera eficiente en cualquier dispositivo.
ds4by Salvatore SanfilippoMotor de inferencia local DeepSeek 4 Flash y PRO para Metal, CUDA y ROCm
Resources & Links
Related Categories
¿Usas Checkpoint Engine?
Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.
Añadir a mi stackVendor
Moonshot AI
Open-source projects on GitHub: Kimi-Dev, MoonEP and Checkpoint Engine
