Pure C inference of Mistral Voxtral Realtime 4B speech to text model

TranscriptionVoice, Speech & Audio AIOpen Source

About

Esta es una implementación en C de la tubería de inferencia para el modelo Voxtral Realtime 4B de Mistral AI. No tiene dependencias externas más allá de la biblioteca estándar de C. La inferencia MPS es razonablemente rápida, mientras que la aceleración BLAS es utilizable pero lenta (convierte continuamente los pesos bf16 a fp32).

Open Source Health

Not enough history
Stars
1,747
Forks
123
License
MIT
Last commit
8 months ago
C

Resources & Links

Related Categories

¿Usas voxtral.c?

Controla su coste junto al resto de tu stack y recibe un recordatorio antes de que se renueve.

Añadir a mi stack

Vendor

Salvatore Sanfilippo

Computer programmer based in Sicily, Italy. I mostly write OSS software. Born 1977. Not a puritan

View vendor profile

More by Salvatore Sanfilippo