[KDD'2024] "HiGPT: Heterogenous Graph Language Models"

LLM OrchestrationOpen Source AI & Machine LearningOpen Source

About

L'apprentissage de graphes hétérogènes vise à capturer des relations complexes et des sémantiques relationnelles diverses entre des entités dans un graphe hétérogène afin d'obtenir des représentations significatives pour les nœuds et les arêtes. Les avancées récentes dans les réseaux neuronaux de graphes hétérogènes (HGNNs) ont atteint des performances de pointe en tenant compte de l'hétérogénéité des relations et en utilisant des fonctions de message spécialisées et des règles d'agrégation. Cependant, les cadres existants pour l'apprentissage de graphes hétérogènes présentent des limitations pour généraliser à travers divers ensembles de données de graphes hétérogènes. La plupart de ces cadres suivent le paradigme de "pré-entraînement" et "d'ajustement" sur le même ensemble de données, ce qui limite leur capacité à s'adapter à de nouvelles données non vues. Cela soulève la question : "Pouvons-nous généraliser les modèles de graphes hétérogènes pour qu'ils soient bien adaptés à diverses tâches d'apprentissage en aval avec des changements de distribution tant dans les ensembles de tokens de nœuds que dans l'hétérogénéité des types de relations ?" Pour relever ces défis, nous proposons HiGPT, un modèle de grand graphe général avec le paradigme d'ajustement d'instructions de graphes hétérogènes. Notre cadre permet d'apprendre à partir de graphes hétérogènes arbitraires sans avoir besoin d'un processus d'ajustement à partir d'ensembles de données en aval.

Open Source Health

Not enough history
Stars
146
Forks
7
License
Apache-2.0
Last commit
2 years ago
Python

Resources & Links

Related Categories

Tu utilises HiGPT ?

Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.

Ajouter à mon stack

Vendor

✨Data Intelligence Lab@HKU✨

Open-source projects on GitHub: Nanobot, LightRAG and DeepTutor

View vendor profile

More by ✨Data Intelligence Lab@HKU✨