kvcache.ai

Open-source project on GitHub: KTransformers

  • 1 produit actif

Portefeuille de produits consolidé

  • KTransformers

    A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

    Fine Tuning PlatformOpen Source

Profil de l'entreprise et stratégie

kvcache.ai maintient le projet open-source KTransformers sur GitHub. Langue principale : Python. KTransformers : Un cadre flexible pour expérimenter des optimisations d'inférence/ajustement fin de LLM hétérogènes.

Empreinte open source

1 dépôt19.5K étoiles
Visiter l'organisation GitHub

Save & manage the vendor's products in Productapp.

Save and manage this vendor's products in Productapp.

Start free trial