Brevet FR3078182A1 — publié le 20190823

I Système et procédé informatique d'analyse de performance d'une application réalisant des appels de fonction de communication entre plusieurs processus La présente invention concerne un système et un procédé informatique d'analyse de performance d'une application réalisant des appels de fonction de communication entre plusieurs processus. Elle trouve notamment une application pour l'analyse de performance et la schématisation des communication inter-processus dans une application informatique en environnement de cacul parallèle et distribué, par exemple lorsque la communication entre processus est implémentée selon la norme « Message Passing Interface » ou MPI. L'analyse des performances d'une application en environnement de calcul parallèle et distribué est une tâche complexe. On s'intéresse notamment à la communication inter-processus à travers la norme MPI. La norme MPI, implémentée sous forme de bibliothèques de fonctions, permet un interfaçage avec l'application, par l'intermédiaire de bibliothèques spécifiques s'interposant entre cette application et la bibliothèque MPI. Ceci permet de récolter des informations telles que : - le temps par processus et le temps global de communication, - le nombre de messages ainsi que la taille des messages envoyés et reçus, - les différents appels de fonction MPI, - la durée par appel de fonction MPI, - le moment où intervient cet appel. Ces différentes informations sont utiles à la fois pour obtenir des statistiques globales et locales à chaque processus, et pour tracer une suite temporelle d'appels de fonctions (communément appelée ligne de temps ou « timeline »). Cette suite temporelle est cependant compliquée à générer, à interpréter, et à utiliser. Un des buts de l'invention est donc de résoudre notamment le problème précité. Ainsi, l'invention a notamment pour objectif de proposer un procédé et un système facilitant l'analyse de performance d'une application utilisant la communication inter- processus en environnement de cacul parallèle et distribué. L'invention a ainsi pour objet, selon un premier aspect, un procédé informatique d'analyse de performance d'une application, ladite application réalisant des appels de fonctions de communication entre plusieurs processus, un appel ou une succession d'au moins deux appels formant un motif. Le procédé comprend une étape de collecte d'informations relatives aux appels de fonction, et une étape de compression des informations collectées. 2 L'étape de compression comprend une étape de détection, à partir des informations collectées, de motifs et de successions de motifs, pour former une grammaire dans laquelle chaque motif et chaque succession de motifs sont identifiés par un identifiant unique. 5 L'étape de compression comprend également une étape de détection, dans la grammaire, de la répétition de motifs et de successions de motifs. Cette étape de compression comprend encore une étape de génération d'un fichier trace compressé dans lequel sont stockés les motifs et les successions de motifs, ainsi que leurs nombres respectifs de répétition. 10 Suivant certains modes de mise en oeuvre, le procédé comprend en outre une ou plusieurs des caractéristiques suivantes, prise(s) isolément ou suivant toutes les combinaisons techniquement possibles : - le procédé comprend la génération d'un graphe à partir du fichier trace compressé, dont les noeuds représentent les motifs ordonnés selon la chronologie des appels 15 des fonctions formant lesdits motifs ; - le graphe comprend une première catégorie d'arrêtes, chaque arrête de ladite première catégorie d'arrêtes reliant deux noeuds correspondant à deux motifs successifs selon l'ordre chronologique des appels des fonctions formant chacun des deux motifs successifs ; 20 - le graphe comprend une deuxième catégorie d'arrêtes, chaque arrête de ladite deuxième catégorie d'arrêtes reliant deux noeuds correspondant respectivement au début et la fin d'une succession de motifs qui se répète dans le fichier trace, ou formant une boucle sur un noeud qui se répète dans le fichier trace, chaque arrête de ladite deuxième catégorie d'arêtes étant affectée d'un poids correspondant au 25 nombre de répétition de la succession de motifs correspondante ou du motif correspondant ; - l'étape de détection de motifs et de successions de motifs examine dans les informations collectées, pour chaque appel d'une fonction de communication, la fonction appelée, le processus receveur, le processus émetteur, et le moment de 30 l'appel ; - l'examen de chaque appel est réalisé au fur et à mesure de l'exécution de l'application ; - la grammaire est stockée dans une mémoire, et l'étape de détection de la répétition des motifs et des successions de motifs est réalisée par parcours de la 35 grammaire une fois l'exécution de l'application terminée ; 3 - l'étape de collecte d'informations comprend une étape de génération d'un fichier trace dans lequel sont stockés, pour chaque appel d'une fonction de communication et de façon ordonnée selon le moment de l'appel, la fonction appelée, le processus receveur, le processus émetteur, et en ce que l'examen de 5 chaque appel est réalisé dans le fichier trace, une fois l'exécution de l'application terminée ; - chaque motif est identifié par le nom de la première fonction appelée dans ce motif, et chaque succession de motifs est identifiée par le nom de la première fonction appelée dans le premier motif de cette succession de motifs ; 10 - les appels de fonctions sont réalisés, par exemple, selon un protocole de type « Message Passing Interface » ou MPI, ou de type « Open Multi-Processing » ou OpenM P. L'invention a également pour objet, selon un deuxième aspect, un système informatique d'analyse de performance d'une application réalisant des appels de fonctions 15 de communication entre plusieurs processus, le système comprenant un processeur et une mémoire, la mémoire comprenant des instructions de programme qui, lorsqu'elles sont exécutées par le processeur, mettent en oeuvre le procédé tel que présenté ci-dessus. Ainsi, le procédé et le système de l'invention permettent de générer facilement la 20 ligne de temps, et de simplifier cette ligne de temps, en détectant les boucles d'appels de fonctions de communication entre processus, c'est-à-dire une succession d'appels hiérarchiques qui se répète. Pour ce faire, les appels de fonction sont examinés, au fil de l'eau lors de l'exécution de l'application, ou en utilisant un fichier trace qui enregistre les appels. 25 Ces appels forment des motifs complexes qui sont détectés et enregistrés, sans perte d'information. Cette détection de motifs est réalisée sur chaque processus, mais également entre processus, ce qui permet d'obtenir une représentation graphique encore plus allégée et claire de tous les schémas de communication en un seul graphique. Les caractéristiques et avantages de l'invention apparaitront à la lecture de la 30 description qui va suivre, donnée uniquement à titre d'exemple, et non limitative, en référence aux figures annexées suivantes : - figure 1 : représentation algorithmique d'un exemple application réalisant des appels de fonctions de communication inter-processus, selon la norme MPI ; - figure 2: représentation d'un exemple de fichier trace brut généré au cours de 35 l'exécution de l'application de la figure 1 ; 4 - figure 3: représentation d'un exemple de fichier trace compressé correspondant à l'exécution de l'application de la figure 1, généré selon le procédé de l'invention ; - figure 4: représentation schématique d'un graphe généré selon le procédé de 5 l'invention, à partir de l'application de la figure 1. Dans la suite de la description, un exemple de mise en oeuvre du procédé de l'invention est présenté dans le contexte de l'utilisation de la norme MPI. Dans un programme, ou une application, parallèle et distribué, les communications sont généralement réalisées entre un processus et ses voisins proches (distance égale à 10 1), à chaque pas de temps. Un exemple d'application, représenté sous la forme d'un algorithme, est représenté à la figure 1. Dans cet exemple, un certain nombre d'opérations correspondant à des appels de fonctions MPI sont répétées N fois. Plus précisément, il s'agit d'opérations d'envoi aux, et de réception depuis les, processus de distance égale à 1 15 (rang du processus émetteur, respectivement récepteur, plus ou moins 1). Dans cet exemple, 6 appels 1 à 6 de fonction de communication sont effectués et répétés, à savoir : - un appel 1 à la fonction de réception MPI_Irecv pour réception par le processus de rang courant d'une information de la part d'un processus de rang 20 courant plus un (distance égale à un), - un appel 2 à la fonction de réception MPI_Irecv pour réception par le processus de rang courant d'une information de la part d'un processus de rang courant moins un (distance égale à un), - un appel 3 à la fonction d'envoi MPI_Isend pour envoi par le processus de rang 25 courant d'une information à un processus de rang courant plus un (distance égale à un), - un appel 4 à la fonction d'envoi MPI_Isend pour envoi par le processus de rang courant d'une information à un processus de rang courant moins un (distance égale à un), 30 - deux appels 5 et 6 à la fonction MPI_VVaitall pour temporisation, le temps que toutes les communications en cours soient terminées. Dans cet exemple, la syntaxe utilisée pour les appels de fonction de communication est celle de la bibliothèque de fonctions MPI en langage C. Ainsi, selon le procédé de l'invention, l'analyse de performance de l'application 35 représentée algorithmiquement à la figure 1, consiste tout d'abord à détecter des motifs, 5 soit des appels parmi les appels 1 à 6, ou une succession d'au moins deux appels parmi les appels 1 à 6, et leurs répétitions éventuelles. Le procédé comprend ainsi une étape de détection de la répétition des motifs et successions de motifs, ces motifs étant représentés sur un exemple avec les références 7 5 à 11 sur les figures 3 et 4 qui seront décrites plus loin de manière plus détaillée. Chaque motif 7 à 11 détecté est identifié par un identifiant unique, qui peut par exemple contenir le nom de la première fonction appelée dans le motif 7 à 11, et chaque succession de motifs détectée est identifiée par un identifiant unique, qui peut par exemple contenir le nom de la première fonction appelée dans le premier motif de la 10 succession de motifs. Cette étape de détection des motifs 7 à 11 permet de former une grammaire, à partir de laquelle, en la parcourant, les répétitions de motifs sont détectées à leur tour. A partir de l'examen des appels 1 à 6, un fichier trace compressé est généré, tel que représenté sur la figure 3, dans lequel sont stockés les motifs 7 à 11 et les 15 successions de motifs 7 à 11, ainsi que leurs nombres respectifs de répétition référencés 12 à 15. Plus précisément, pour la détection de la répétition de motifs 7 à 11 et de la répétition de successions de motifs 7 à 11, on examine, pour chaque appel 1 à 6 d'une fonction de communication, la fonction appelée, le processus receveur, le processus 20 émetteur, et le moment de l'appel. Ces appels 1 à 6 peuvent être examinés directement au fil de l'eau lors de l'exécution de l'application, c'est-à-dire en traitant les appels dès leur achèvement. Alternativement, on peut utiliser un fichier trace qui enregistre ces appels 1 à 6, tel que représenté sur la figure 2. Précisément, pour chaque appel 1 à 6, sont notamment 25 stockés, de façon ordonnée selon le moment de l'appel, la fonction appelée, le processus receveur, le processus émetteur. L'examen de chaque appel 1 à 6 peut alors être réalisé en différé dans ce fichier trace. Pour la détection des motifs 7 à 11 et de leurs répétitions, on peut utiliser un algorithme de type compression de données sans perte d'information et sans perte de 30 séquentialité, tel qu'un algorithme de type Sequitur modifié. Sequitur est un algorithme qui permet une compression hiérarchique de texte, en inférant une structure hiérarchique à partir d'une séquence de symboles discrets, par remplacement des phrases répétées détectées par une règle grammaticale qui génère la phrase, et en continuant de manière récursive (voir : Nevill-Manning, C.G. and VVitten, I.H. 35 (1997) " ldentifying Hierarchical Structure in Sequences: A linear-time algorithm, "Journal of Artificial Intelligence Research, 7, 67-82). 6 Le résultat de l'exécution d'un tel algorithme peut être donné sous la forme d'une représentation hiérarchique de la séquence originale, qui offre des informations sur sa structure lexicale. Mais alors que Sequitur se base sur des symboles simples comme des lettres ou 5 des chiffres, le procédé de l'invention est plus complexe, puisqu'un élément terminal de la structure hiérarchique, correspondant à un motif 7 à 11, est composé à la fois de mots, d'entiers et de nombre réels. Pour les besoins du procédé de l'invention, on se limite cependant à un sous-ensemble d'information, à savoir : la fonction (son nom), le rang de l'appelant, le receveur, 10 l'émetteur, le moment (définit par exemple par le numéro de ligne dans le fichier trace). On se recentre ainsi sur la séquence d'instructions (ou d'appels), tout en conservant les notions d'émetteur, de receveur, d'appelant, ainsi que la notion de temporalité par la structure même du fichier trace puisque les appels sont ordonnés chronologiquement. 15 Les chaines de caractères correspondant aux appels de fonction, dans le fichier trace ou au fil de l'eau, sont donc analysées pour former le fichier trace compressé représenté à la figure 3, comprenant les symboles terminaux 7 à 11 correspondant aux motifs 7 à 11, et les boucles 12 à 15 représentants les répétitions 12 à 15 d'un ou plusieurs symboles terminaux ou motifs 7 à 11. 20 Le fichier trace compressé comprend également la définition des liens chronologiques 17 à 20 entre les différents motifs 7 à 11 Cette trace compressée permet de générer un graphe pour visualiser l'enchaînement des motifs 7 à 11 et les différentes répétitions 12 à 15. Ainsi, à partir de la trace compressée correspondant à l'exécution de l'application 25 représentée sur la figure 1, le graphe 16 de la figure 4 est généré. Ce graphe 16 contient des noeuds 7 à 11 représentent les motifs 7 à 11 ordonnés selon la chronologie des appels 1 à 6 des fonctions formant ces motifs 7 à 11. Par ailleurs, le graphe 16 comprend deux catégories d'arrêtes 12 à 20 reliant certains des noeuds 7 à 11 entre eux. 30 Dans la première catégorie d'arrêtes, chaque arrête 17 à 20 relie deux noeuds 7 à 11 correspondant à deux motifs 7 à 11 successifs selon l'ordre chronologique des appels 1 à 6 des fonctions formant chacun des deux motifs 7 à 11 successifs. Ainsi : - l'arrête 17 relie les noeuds 7 et 8, en direction du noeud 8, 35 - l'arrête 18 relie les noeuds 8 et 9, en direction du noeud 9, - l'arrête 19 relie les noeuds 9 et 10, en direction du noeud 10, 7 - l'arrête 20 relie les noeuds 10 et 11, en direction du noeud 11. Dans la deuxième catégorie d'arrêtes, chaque arrête 12 à 15, soit relie deux noeuds 7 à 11 correspondant respectivement au début et la fin d'une succession de motifs 7 à 11 qui se répète lors de l'exécution de l'application et/ou dans le fichier trace, soit 5 forme une boucle 14 sur un noeud 11 qui se répète lors de l'exécution de l'application et/ou dans le fichier trace. Chaque arrête 12 à 15 de cette deuxième catégorie d'arêtes est affectée d'un poids 21 à 24 correspondant au nombre de répétition 21 à 24 de la succession de motifs 7 à 11 correspondante, ou du motif 11 correspondant. 10 Dans l'exemple de graphe 16 représenté sur la figure 2, le paramètre N de l'application représenté sur la figure 1 est égal à 9. Ainsi : - l'arrête 12 relie les noeuds 7 et 8, en direction du noeud 7, et est affectée du poids 21 égal à 9, pour matérialiser les 9 répétitions des appels successifs des 15 fonctions dans les motifs 7 et 8, - l'arrête 13 relie les noeuds 9 et 10, en direction du noeud 9, et est affectée du poids 22 égal à 9, pour matérialiser les 9 répétitions des appels successifs des fonctions dans les motifs 9 et 10, - l'arrête 14 relie le noeud 11 avec lui-même, et est affectée du poids 23 égal à 20 9, pour matérialiser les 9 répétitions des appels successifs des fonctions dans le motif 11, - l'arrête 15 relie les noeuds 7 et 11, en direction du noeud 7, et est affectée du poids 24 égal à 9, pour matérialiser les 9 répétitions des appels successifs des fonctions dans les motifs 7 à 11. 25 Pour générer le fichier trace compressé à partir du fichier trace, et pouvoir ensuite générer le graphe 16, on effectue le parcours en profondeur de la structure hiérarchique correspondant à la grammaire obtenue, et on compare les différents symboles non-terminaux afin de les regrouper s'ils sont équivalant, tout en comptant le nombre de fois où ils se répètent aux différentes profondeurs de la grammaire. La profondeur de la 30 grammaire correspond au nombre de symboles non terminaux avant un symbole terminal dans la structure hiérarchique obtenue. Différents graphes sont ainsi obtenus pour les différents processus. On compare alors ces graphes pour former des groupes de processus. Un groupe est composé de tous les processus ayant un graphe identique. A la fin de ce processus, un seul graphe 35 est conservé par groupe, ce qui permet d'alléger encore le modèle et de n'afficher qu'un graphe par groupe de processus. 8 Comme présenté plus haut, un graphe 16 se compose de noeuds 7 à 11 et d'arrêtes directionnelles 12 à 20 qui représentent le passage d'un appel à l'autre ou d'une succession d'appels à une autre. Les arrêtes 12 à 15 correspondant aux boucles 12 à 15 sont affectées de poids 21 à 24 représentant les nombre de passages respectifs par ces 5 arrêtes. Une fois le graphe 16 obtenu, on récupère toutes les données exclues lors de la compression pour reconsidérer toutes les notions de temps, durées et de tailles des messages transmis. En récupérant ces données, il est possible de calculer pour chaque boucle, et pour chaque appel, les statistiques de temps et de tailles de messages 10 transmis. Il est également possible de détecter les désynchronisations de processus au sein d'un même groupe. A partir de ces données, on peut affecter un poids à chaque noeud, proportionnel au temps passé dans l'appel de fonction correspondant. Un noeud peut également être associé à toutes les statistiques relatives à l'appel correspondant pour les différents 15 processus d'un groupe. Pour la mise en oeuvre du procédé, un système informatique est utilisé, qui comprend un processeur et une mémoire. Dans la mémoire sont stockées des instructions de programme qui, lorsqu'elles sont exécutées par le processeur, mettent en oeuvre le procédé de l'invention. 20 La présente description est donnée à titre d'exemple et n'est pas limitative de l'invention. En particulier, l'invention ne se limite pas à des applications utilisant des fonctions de communication inter-processus de type MPI. Elle s'étend à d'autres bibliothèques de fonctions, telles que les fonctions de type « Open Multi-Processing » ou OpenMP par 25 exemple. Elle s'étend aussi à l'analyse des appels de fonctions d'entrée-sortie (lecture- écriture). Plus généralement elle s'étend à l'analyse d'applications réalisant des appels de fonctions dont on est en mesure d'extraire les informations de façon chronologique, depuis un fichier trace ou au fil de l'exécution de l'application REVENDICATIONS1.- Procédé informatique d'analyse de performance d'une application, ladite application réalisant des appels (1 à 6) de fonctions de communication entre plusieurs processus, un appel (1 à 6) ou une succession d'au moins deux appels (1 à 6) formant un motif (7 à 11), le procédé étant caractérisé en ce qu'il comprend une étape de collecte d'informations relatives aux appels (1 à 6) de fonction, et une étape de compression des informations collectées, ladite étape de compression comprenant : - une étape de détection, à partir des informations collectées, de motifs (7 à 11) et de successions de motifs (7 à 11), pour former une grammaire dans laquelle chaque motif (7 à 11) et chaque succession de motifs (7 à 11) sont identifiés par un identifiant unique, - une étape de détection, dans la grammaire, de la répétition de motifs (7 à 11) et de successions de motifs (7 à 11), - une étape de génération d'un fichier trace compressé dans lequel sont stockés les motifs (7 à 11) et les successions de motifs (7 à 11), ainsi que leurs nombres respectifs de répétition (12 à 15). 2. Procédé selon la revendication 1, caractérisé en ce qu'il comprend la génération d'un graphe (16) à partir du fichier trace compressé, dont les noeuds (7 à 11) représentent les motifs (7 à 11) ordonnés selon la chronologie des appels (1 à 6) des fonctions formant lesdits motifs (7 à 11). 3. Procédé selon la revendication 2, caractérisé en ce que le graphe (16) comprend une première catégorie d'arrêtes, chaque arrête (17 à 20) de ladite première catégorie d'arrêtes reliant deux noeuds (7 à 11) correspondant à deux motifs (7 à 11) successifs selon l'ordre chronologique des appels (1 à 6) des fonctions formant chacun des deux motifs (7 à 11) successifs. 4. Procédé selon l'une quelconque des revendications 2 et 3, caractérisé en ce que le graphe (16) comprend une deuxième catégorie d'arrêtes, chaque arrête (12 à 15) de ladite deuxième catégorie d'arrêtes reliant deux noeuds (7 à 11) correspondant respectivement au début et la fin d'une succession de motifs (7 à 11) qui se répète dans le fichier trace, ou formant une boucle (14) sur un noeud (11) qui se répète dans le fichier trace, chaque arrête (12 à 15) de ladite deuxième catégorie d'arêtes étant affectée d'un 10 poids (21 à 24) correspondant au nombre de répétition (21 à 24) de la succession de motifs (7 à 11) correspondante ou du motif (11) correspondant. 5. Procédé selon l'une quelconque des revendications précédentes, caractérisé en 5 ce que l'étape de détection de motifs (7 à 11) et de successions de motifs (7 à 11) examine dans les informations collectées, pour chaque appel (1 à 6) d'une fonction de communication, la fonction appelée, le processus receveur, le processus émetteur, et le moment de l'appel. 10 6. Procédé selon la revendication 5, caractérisé en ce que l'examen de chaque appel (1 à 6) est réalisé au fur et à mesure de l'exécution de l'application. 7. Procédé selon la revendication 6, caractérisé en ce que la grammaire est stockée dans une mémoire, et en ce que l'étape de détection de la répétition des motifs (7 15 à 11) et des successions de motifs (7 à 11) est réalisée par parcours de la grammaire une fois l'exécution de l'application terminée. 8. Procédé selon la revendication 5, caractérisé en ce que l'étape de collecte d'informations comprend une étape de génération d'un fichier trace dans lequel sont 20 stockés, pour chaque appel (1 à 6) d'une fonction de communication et de façon ordonnée selon le moment de l'appel, la fonction appelée, le processus receveur, le processus émetteur, et en ce que l'examen de chaque appel (1 à 6) est réalisé dans le fichier trace, une fois l'exécution de l'application terminée. 25 9. Procédé selon l'une quelconque des revendications précédentes, dans lequel chaque motif (7 à 11) est identifié par le nom de la première fonction appelée dans ce motif (7 à 11), et chaque succession de motifs (7 à 11) est identifiée par le nom de la première fonction appelée dans le premier motif (7 à 11) de cette succession de motifs (7 à 11). 30 10.- Système informatique d'analyse de performance d'une application réalisant des appels (1 à 6) de fonctions de communication entre plusieurs processus, le système comprenant un processeur et une mémoire, ladite mémoire comprenant des instructions de programme qui, lorsqu'elles sont exécutées par ledit processeur, mettent en oeuvre le 35 procédé selon l'une quelconque des revendications précédentes.