HiGPT

L'apprendimento di grafi eterogenei mira a catturare relazioni complesse e diverse semantiche relazionali tra entità in un grafo eterogeneo per ottenere rappresentazioni significative per nodi e archi. I recenti progressi nelle reti neurali di grafi eterogenei (HGNNs) hanno raggiunto prestazioni all'avanguardia considerando l'eterogeneità delle relazioni e utilizzando funzioni di messaggio specializzate e regole di aggregazione. Tuttavia, i framework esistenti per l'apprendimento di grafi eterogenei hanno limitazioni nella generalizzazione attraverso diversi set di dati di grafi eterogenei. La maggior parte di questi framework segue il paradigma del "pre-addestramento" e "fine-tuning" sullo stesso set di dati, il che limita la loro capacità di adattarsi a nuovi dati non visti. Questo solleva la domanda: "Possiamo generalizzare i modelli di grafi eterogenei affinché siano ben adattati a diverse attività di apprendimento downstream con cambiamenti di distribuzione sia nei set di token dei nodi che nell'eterogeneità dei tipi di relazione?" Per affrontare queste sfide, proponiamo HiGPT, un modello di grafo grande generale con il paradigma di tuning delle istruzioni di grafi eterogenei. Il nostro framework consente di apprendere da grafi eterogenei arbitrari senza la necessità di alcun processo di fine-tuning da set di dati downstream.