Pure C inference of Mistral Voxtral Realtime 4B speech to text model

TranskriptionVoice, Speech & Audio KIOpen Source

Über

Dies ist eine C-Implementierung der Inferenzpipeline für das Voxtral Realtime 4B-Modell von Mistral AI. Es hat keine externen Abhängigkeiten über die C-Standardbibliothek hinaus. Die MPS-Inferenz ist anständig schnell, während die BLAS-Beschleunigung verwendbar, aber langsam ist (sie konvertiert kontinuierlich die bf16-Gewichte in fp32).

Open Source Health

Not enough history
Stars
1,747
Forks
123
License
MIT
Last commit
8 months ago
C

Ressourcen & Links

Verwandte Kategorien

Nutzt du voxtral.c?

Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.

Zu meinem Stack hinzufügen

Anbieter

Salvatore Sanfilippo

Computer programmer based in Sicily, Italy. I mostly write OSS software. Born 1977. Not a puritan

Vendor-Profil anzeigen

Mehr von Salvatore Sanfilippo