TensorRT
PyTorch/TorchScript/FX compiler for NVIDIA GPUs using TensorRT
Über
Torch-TensorRT integriert TensorRT mit PyTorch, um die Inferenzleistung auf NVIDIA-Plattformen zu verbessern. Es ermöglicht dir, die Modellinferenz erheblich zu beschleunigen und schnellere Ausführungszeiten mit minimalen Codeänderungen zu erreichen. Das Tool unterstützt sowohl Python- als auch C++-Umgebungen, sodass du deine Modelle effizient optimieren und bereitstellen kannst. Dieses Produkt eignet sich für Entwickler, die mit Deep-Learning-Anwendungen arbeiten und eine verbesserte Leistung auf NVIDIA-Hardware benötigen.
Open Source Health
- Stars
- 2,993
- Forks
- 410
- License
- BSD-3-Clause
- Last commit
- 1 months ago
Alternativen zu TensorRT
- Visionvon PyTorchDatensätze, Transformationen und Modelle für Computer Vision
PyTorchvon PyTorchTensors und dynamische neuronale Netzwerke in Python mit starker GPU-Beschleunigung.
Rclipvon Yurij MikhalevichSemantische Fotosuche für die Kommandozeile
ChineseNERvon jingyuanzhangEin neuronales Netzwerkmodell zur Erkennung benannter Entitäten im Chinesischen.
Head Pose Estimationvon Yin GuobingEchtzeit-Schätzung der Kopfpose des Menschen mit ONNXRuntime und OpenCV.
Ressourcen & Links
Verwandte Kategorien
Nutzt du TensorRT?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
PyTorch
Publisher of Captum and Bayesian Optimization Library (botorch)
