Selbstgehostete Inferenzserver

IDEs, KI-Coding-Assistenten, CI/CD, Container, Beobachtbarkeit, Sicherheit, Vorfallmanagement, mobil, Spiel, eingebettet, Web3, Echtzeit-Infrastruktur und jede andere Schicht der modernen Ingenieur-Toolchain.

13 Produkte · 4 UnterkategorienEntwickler-Tools-Ressourcen

Zeige 1–12 von 13

BentoML Service

von Bentoml

github_stars pypi_status actions_status documentation_status join_slack BentoML ist eine einheitliche Inferenzplattform zum Bereitstellen und Skalieren von KI-Systemen mit jedem...

NVIDIA Triton & TorchServe

Caret

von Topepo

Caret ist ein Paket, das für die Datenvorverarbeitung, das Modelltraining und das Tuning in der prädiktiven Analyse entwickelt wurde.

llama.cpp & MLXTraining von Machine Learning-ModellenOpen Source

Dioptra

von Dioptra

Dioptra bietet Werkzeuge und Plattformen für Internetmessung und Datenbildung.

NVIDIA Triton & TorchServe

Dorf

von Dorf Ai

Dorf.ai ist eine Domain, die zum Kauf verfügbar ist.

llama.cpp & MLX

KoboldAI

von KoboldAI

KoboldAI Lite - Ein leistungsstarkes Tool, um direkt in deinem Browser mit KI zu interagieren.

vLLM & TGI

Paddle Serving

von PaddlePaddle

Paddle Serving ist eine Dokumentationsplattform für das Bereitstellen von Paddle-Modellen.

NVIDIA Triton & TorchServe

RidgeRun

von RidgeRun

RidgeRun bietet unvergleichliche Dienstleistungen zur Entwicklung von Embedded-Software für Linux-Systeme sowie Lösungen für System-on-Chip-Anbieter und -Frameworks.

NVIDIA Triton & TorchServe

TSLearn

von TSLearn

TSLearn ist ein Python-Paket für die Analyse von Zeitreihen mit Methoden des maschinellen Lernens.

llama.cpp & MLX

Text Generator AI

von Text Generator

Text Generator AI bietet eine API für Text-, Vision- und Sprach-KI-Funktionalitäten.

Ollama & LM Studio

TextFlint

von TextFlint

TextFlint ist ein Software-Tool, das für Textverarbeitungs- und Generierungsaufgaben entwickelt wurde.

vLLM & TGI

Textatlas

von Textatlas

KI-gestützte Suche, die Umsatz steigert

Ollama & LM Studio

Transformers.js

von Transformers.js

Transformers.js ermöglicht die Inferenz von Transformer-Modellen direkt im Browser ohne Serveranforderungen.

vLLM & TGI

Zahlst du schon für einige davon?

Füge deine Tools aus Entwickler-Tools zu Productapp hinzu und sieh Gesamtausgaben, doppelte Lizenzen und die nächste Verlängerung.

Meinen Stack kostenlos verwalten

Entdecken Sie Entwickler-Tools mit strukturierten Kategorien, praktischen Filtern und unabhängigen Produktdaten

Häufig gestellte Fragen