MarketplacevLLM & TGITransformers.js

Transformers.js

Transformers.js enables browser-native transformer model inference without server requirements.

vLLM & TGI

Über

Transformers.js erlaubt es Nutzern, die Inferenz von Transformer-Modellen direkt im Browser durchzuführen und nutzt WebGPU zur Beschleunigung. Es unterstützt verschiedene Modelle für Aufgaben wie Bildklassifikation und Textgenerierung und lädt Modelle direkt von Hugging Face. Dieses Tool ist für Entwickler und Forscher konzipiert, die daran interessiert sind, maschinelles Lernen Modelle zu nutzen, ohne eine Serverinfrastruktur zu benötigen.

Ressourcen & Links

Verwandte Kategorien

Nutzt du Transformers.js?

Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.

Zu meinem Stack hinzufügen

Anbieter

Transformers.js

Publisher of Transformers.js

Vendor-Profil anzeigen