HiGPT

El aprendizaje de grafos heterogéneos tiene como objetivo capturar relaciones complejas y diversas semánticas relacionales entre entidades en un grafo heterogéneo para obtener representaciones significativas para nodos y aristas. Los avances recientes en redes neuronales de grafos heterogéneos (HGNNs) han logrado un rendimiento de vanguardia al considerar la heterogeneidad de las relaciones y utilizar funciones de mensaje especializadas y reglas de agregación. Sin embargo, los marcos existentes para el aprendizaje de grafos heterogéneos tienen limitaciones para generalizar a través de diversos conjuntos de datos de grafos heterogéneos. La mayoría de estos marcos siguen el paradigma de "pre-entrenar" y "ajustar" en el mismo conjunto de datos, lo que restringe su capacidad para adaptarse a datos nuevos y no vistos. Esto plantea la pregunta: "¿Podemos generalizar modelos de grafos heterogéneos para que se adapten bien a diversas tareas de aprendizaje posteriores con cambios de distribución tanto en los conjuntos de tokens de nodos como en la heterogeneidad de tipos de relación?" Para abordar estos desafíos, proponemos HiGPT, un modelo de grafo grande general con el paradigma de ajuste de instrucciones de grafos heterogéneos. Nuestro marco permite aprender de grafos heterogéneos arbitrarios sin necesidad de ningún proceso de ajuste a partir de conjuntos de datos posteriores.