Olive
vonMicrosoft
Olive: Simplify ML Model Finetuning, Conversion, Quantization, and Optimization for CPUs, GPUs and NPUs.
FeinabstimmungsplattformMLOps & ExperimentverfolgungOpen Source
Über
Gegeben ein Modell und die Zielhardware, komponiert Olive (Abkürzung für Onnx LIVE) die am besten geeigneten Optimierungstechniken, um die effizientesten ONNX-Modelle für das Inferencing in der Cloud oder am Edge auszugeben, während eine Reihe von Einschränkungen wie Genauigkeit und Latenz berücksichtigt werden.
Open Source Health
- Stars
- 2,389
- Forks
- 313
- License
- MIT
- Last commit
- 1 months ago
Python
Alternativen zu Olive
Peftvon Hugging Face🤗 PEFT: Fortschrittliches, parameter-effizientes Fine-Tuning.
Sophia Script For Windowsvon Dmitry Nefedovzap: Das leistungsstarke PowerShell-Modul zur Feinabstimmung von Windows 10 und Windows 11 auf GitHub
KTransformersvon kvcache.aiEin flexibles Framework für die Durchführung heterogener LLM-Inferenz-/Feinabstimmungsoptimierungen.
LongWritervon THUKEG[ICLR 2025] LongWriter: Entfessle die Generierung von über 10.000 Wörtern aus langen Kontext-LLMs.
Regress Lmvon Google DeepMindBibliothek für die numerische Vorhersage von Sequenzen, anwendbar auf beliebige tokenisierbare Eingaben, ermöglicht Pretraining und Fine-Tuning über mehrere Aufgaben.
Ressourcen & Links
Verwandte Kategorien
Nutzt du Olive?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Microsoft
Empower every person and organization to achieve more.
