Tutel
vonMicrosoft
Tutel MoE: Optimized Mixture-of-Experts Library, Support GptOss/DeepSeek/Kimi-K2/Qwen3 using FP8/NVFP4/MXFP4
LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source
Über
Tutel MoE: Eine optimierte Implementierung von Mixture-of-Experts, auch die erste parallele Lösung, die "No-penalty Parallism/Sparsity/Capacity/.. Switching" für modernes Training und Inferenz mit dynamischem Verhalten vorschlägt. Unterstützt direkte NVFP4/MXFP4/Blockweise FP8-Inferenz für MoE-basierte GLM-5.x / DeepSeek-3.x / Kimi-2.x / Kimi-3.x / Qwen3 / Gpt-OSS unter Verwendung von A100/A800/H100/MI300/..
Open Source Health
- Stars
- 1,018
- Forks
- 110
- License
- MIT
- Last commit
- 1 months ago
C
Alternativen zu Tutel
- Recognizers-Textvon MicrosoftRecognizers-Text bietet die Erkennung und Auflösung von Entitäten wie Zahlen, Daten und Einheiten in mehreren Sprachen.
Language Server Protocolvon MicrosoftDefiniert ein gemeinsames Protokoll für Sprachserver.- Azure AI Speechvon MicrosoftAzure Speech in Foundry Tools
- Lamar Benchmarkvon MicrosoftQuellcode für das ECCV 2022 Papier "Benchmarking Localization and Mapping for Augmented Reality".
- Pyrightvon MicrosoftStatischer Typprüfer für Python
Ressourcen & Links
Verwandte Kategorien
Nutzt du Tutel?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
Microsoft
Empower every person and organization to achieve more.
