TinyChatEngine
TinyChatEngine: On-Device LLM Inference Library
Machine Learning Model TrainingML FrameworksOpen Source
About
Exécuter de grands modèles de langage (LLMs) et des modèles de langage visuel (VLMs) en périphérie est utile : services de copilote (codage, bureau, réponse intelligente) sur ordinateurs portables, voitures, robots et plus encore. Les utilisateurs peuvent obtenir des réponses instantanées avec une meilleure confidentialité, car les données sont locales.
Open Source Health
- Stars
- 962
- Forks
- 102
- License
- MIT
- Last commit
- 2 years ago
C++
Alternatives à TinyChatEngine
Rclipby Yurij MikhalevichRecherche photo sémantique pour la ligne de commande
ChineseNERby jingyuanzhangUn modèle de réseau de neurones pour la reconnaissance d'entités nommées en chinois.
Head Pose Estimationby Yin GuobingEstimation de la pose de la tête humaine en temps réel avec ONNXRuntime et OpenCV.
Video Subtitle Extractorby 天涯古巷视频硬字幕提取，生成srt文件。无需申请第三方API，本地实现文本识别。基于深度学习的视频字幕提取框架，包含字幕区域检测、字幕内容提取。A GUI tool for extracting hard-coded subtitle (hardsub) from videos and generating srt files.
U 2 Netby Xuebin QinLe code de notre article récemment accepté dans Pattern Recognition 2020 : "U^2-Net : Approfondir avec une structure U imbriquée pour la détection d'objets saillants."
Resources & Links
Related Categories
Tu utilises TinyChatEngine ?
Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.
Ajouter à mon stackVendor
MIT HAN Lab
Efficient AI Computing. PI: Song Han
