TinyChatEngine
vonMIT HAN Lab
TinyChatEngine: On-Device LLM Inference Library
Training von Machine Learning-ModellenML-FrameworksOpen Source
Über
Das Ausführen von großen Sprachmodellen (LLMs) und visuellen Sprachmodellen (VLMs) am Edge ist nützlich: Copilot-Dienste (Codierung, Büro, intelligente Antworten) auf Laptops, Autos, Robotern und mehr. Nutzer können sofortige Antworten mit besserem Datenschutz erhalten, da die Daten lokal sind.
Open Source Health
- Stars
- 962
- Forks
- 102
- License
- MIT
- Last commit
- 2 years ago
C++
Alternativen zu TinyChatEngine
Rclipvon Yurij MikhalevichSemantische Fotosuche für die Kommandozeile
ChineseNERvon jingyuanzhangEin neuronales Netzwerkmodell zur Erkennung benannter Entitäten im Chinesischen.
Head Pose Estimationvon Yin GuobingEchtzeit-Schätzung der Kopfpose des Menschen mit ONNXRuntime und OpenCV.
Video Subtitle Extractorvon 天涯古巷视频硬字幕提取，生成srt文件。无需申请第三方API，本地实现文本识别。基于深度学习的视频字幕提取框架，包含字幕区域检测、字幕内容提取。A GUI tool for extracting hard-coded subtitle (hardsub) from videos and generating srt files.
U 2 Netvon Xuebin QinDer Code für unser neu akzeptiertes Papier in Pattern Recognition 2020: "U^2-Net: Tiefer gehen mit geschachtelter U-Struktur zur Erkennung auffälliger Objekte."
Ressourcen & Links
Verwandte Kategorien
Nutzt du TinyChatEngine?
Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.
Zu meinem Stack hinzufügenAnbieter
MIT HAN Lab
Efficient AI Computing. PI: Song Han
