Pure C inference of Mistral Voxtral Realtime 4B speech to text model

TranscriptionVoice, Speech & Audio AIOpen Source

About

Ceci est une implémentation en C du pipeline d'inférence pour le modèle Voxtral Realtime 4B de Mistral AI. Il n'a aucune dépendance externe au-delà de la bibliothèque standard C. L'inférence MPS est raisonnablement rapide, tandis que l'accélération BLAS est utilisable mais lente (elle convertit continuellement les poids bf16 en fp32).

Open Source Health

Not enough history
Stars
1,747
Forks
123
License
MIT
Last commit
8 months ago
C

Resources & Links

Related Categories

Tu utilises voxtral.c ?

Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.

Ajouter à mon stack

Vendor

Salvatore Sanfilippo

Computer programmer based in Sicily, Italy. I mostly write OSS software. Born 1977. Not a puritan

View vendor profile

More by Salvatore Sanfilippo