Codage des graphiques pour les modèles de gros langues

GraphQa se concentre sur des tâches simples liées aux graphiques, comme la vérification si un bord existe, le calcul du nombre de nœuds ou de bords, de trouver des nœuds connectés à un nœud spécifique et de vérifier les cycles dans un graphique. Ces tâches peuvent sembler basiques, mais elles nécessitent de comprendre les relations entre les nœuds et les bords. En couvrant différents types de défis, de l’identification des modèles à la création de nouvelles connexions, GraphQa aide les modèles à apprendre à analyser efficacement les graphiques. Ces tâches de base sont cruciales pour un raisonnement plus complexe sur les graphiques, comme trouver le chemin le plus court entre les nœuds, la détection des communautés ou l’identification des nœuds influents. De plus, GraphQa comprend la génération de graphiques aléatoires en utilisant divers algorithmes comme Erdős-Rényi, réseaux sans échelle, Modèle de barabasi-albertet modèle de bloc stochastiqueainsi que des structures de graphiques plus simples comme les chemins, les graphiques complets et les graphiques étoiles, fournissant un ensemble diversifié de données pour la formation.

Lorsque nous travaillons avec des graphiques, nous devons également trouver des moyens de poser des questions liées aux graphiques que les LLM peuvent comprendre. Provoquer une heuristique sont des stratégies différentes pour ce faire. Décomposons les plus communs:

• Zéro: Décrivez simplement la tâche (« Y a-t-il un cycle dans ce graphique? ») Et dire au LLM d’y aller. Aucun exemple fourni.
• À quelques coups: C’est comme donner au LLM un mini test de pratique avant la vraie affaire. Nous fournissons quelques exemples de questions graphiques et leurs réponses correctes.
• Chaîne de pensées: Ici, nous montrons au LLM comment décomposer un problème étape par étape avec des exemples. L’objectif est de lui apprendre à générer son propre «processus de réflexion» face à de nouveaux graphiques.
• Homard: Similaire à COT, mais au lieu de formation d’exemples, nous donnons au LLM une simple invite, comme « PENGONS SPÉRIEUX » pour déclencher sa propre panne de résolution de problèmes.
• Sac (construire un graphique): Ceci est spécifiquement pour les tâches du graphique. Nous ajoutons l’expression « Créons un graphique … » à la description, en aidant le LLM à se concentrer sur la structure du graphique.

Nous avons exploré différentes façons de traduire les graphiques en texte avec lesquels les LLM peuvent fonctionner. Nos questions clés étaient:

• Codage de nœud: Comment représentons-nous les nœuds individuels? Les options testées incluent simples entiersnoms communs (personnes, personnages) et lettres.
• Encodage de bord: Comment décrivons-nous les relations entre les nœuds? Les méthodes impliquaient la notation des parenthèses, des phrases comme «sont des amis» et des représentations symboliques comme les flèches.

Divers codages de nœuds et de bord ont été combinés systématiquement. Cela a conduit à des fonctions comme celles de la figure suivante: