TinyChatEngine
TinyChatEngine: On-Device LLM Inference Library
Machine Learning Model TrainingML FrameworksOpen Source
About
Eseguire grandi modelli di linguaggio (LLM) e modelli di linguaggio visivo (VLM) ai margini è utile: servizi di copilota (codifica, ufficio, risposta intelligente) su laptop, auto, robot e altro. Gli utenti possono ottenere risposte istantanee con una migliore privacy, poiché i dati sono locali.
Open Source Health
- Stars
- 962
- Forks
- 102
- License
- MIT
- Last commit
- 2 years ago
C++
Alternative a TinyChatEngine
Rclipby Yurij MikhalevichRicerca semantica di foto per la riga di comando
ChineseNERby jingyuanzhangUn modello di rete neurale per il riconoscimento delle entità nominate in cinese.
Head Pose Estimationby Yin GuobingStima della posa della testa umana in tempo reale con ONNXRuntime e OpenCV.
Video Subtitle Extractorby 天涯古巷视频硬字幕提取，生成srt文件。无需申请第三方API，本地实现文本识别。基于深度学习的视频字幕提取框架，包含字幕区域检测、字幕内容提取。A GUI tool for extracting hard-coded subtitle (hardsub) from videos and generating srt files.
U 2 Netby Xuebin QinIl codice per il nostro articolo recentemente accettato in Pattern Recognition 2020: "U^2-Net: Andare più in profondità con la struttura U annidata per il rilevamento di oggetti salienti."
Resources & Links
Related Categories
Usi TinyChatEngine?
Tieni traccia del suo costo insieme al resto del tuo stack e ricevi un promemoria prima del rinnovo.
Aggiungi al mio stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
