Pure C inference of Mistral Voxtral Realtime 4B speech to text model

TranscriptionVoice, Speech & Audio AIOpen Source

About

Questa è un'implementazione in C della pipeline di inferenza per il modello Voxtral Realtime 4B di Mistral AI. Non ha dipendenze esterne oltre alla libreria standard C. L'inferenza MPS è ragionevolmente veloce, mentre l'accelerazione BLAS è utilizzabile ma lenta (converte continuamente i pesi bf16 in fp32).

Open Source Health

Not enough history
Stars
1,747
Forks
123
License
MIT
Last commit
8 months ago
C

Resources & Links

Related Categories

Usi voxtral.c?

Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.

Aggiungi al mio stack

Vendor

Salvatore Sanfilippo

Computer programmer based in Sicily, Italy. I mostly write OSS software. Born 1977. Not a puritan

View vendor profile

More by Salvatore Sanfilippo