FR 2896896 A1 20070803 FR 0650376 A 20060202 PROCEDE DE CLASSIFICATION D'EVENEMENTS OU D'ETATS EN DEUX ETAPES DESCRIPTION Le sujet de cette invention est la classification d'états ou d'événements en deux étapes. La classification est aussi appelée, dans l'art, discrimination ou reconnaissance de forme. Elle peut porter sur toutes sortes de domaines : des images, des caractères manuscrits, des visages, des maladies, des fleurs, des signaux divers, des pages trouvées sur Internet, etc. et plus généralement tous les états ou événements qu'on peut décrire. Dans la suite de cette description, le terme d'événement sera employé avec une signification englobant les domaines indiqués ci-dessus. A chaque événement est associé un certain nombre de caractéristiques appelées paramètres qui servent à la classification et qui peuvent provenir de mesures ou d'autres informations comme un nom de fichier, un nom de personne photographiée, une date de l'événement, un lieu de l'événement, etc. Les événements doivent être répartis en catégories appelées classes d'après les valeurs que prennent les paramètres. Certains procédés de classification sont accomplis de façon automatique, par un ordinateur disposant d'outils logiques ou numériques de comparaison et de décision. Deux procédés principaux existent. Dans le 30 premier, la classification fait appel à des règles explicites qui font dépendre l'appartenance à une classe de la valeur d'un paramètre particulier ou d'un groupe des paramètres. Par exemple, un événement est attribué à une classe si un paramètre atteint une valeur supérieure à un seuil, ou si la somme d'un groupe des paramètres est supérieure à un seuil, dont la valeur est définie par l'homme de l'art. Dans un exemple consistant à classer les événements sismiques en tremblements de terre, effondrements de couches minières ou explosions, on pourra ainsi définir une règle pour classer les événements dans les tremblements de terre si leur magnitude est supérieure à un seuil élevé. L'autre groupe de méthodes connues utilise ce qu'on appelle une base d'apprentissage comprenant un certains nombres d'événements. L'ordinateur doit alors définir les règles de classification, qui restent implicites à l'opérateur d'après les valeurs des paramètres. Dans une première variante dite d'apprentissage non supervisé, l'ordinateur répartit lui-même les événements de la base en classes d'après les similitudes ou les distances entre les événements, et la définition des classes reste inconnue. Dans une autre variante, dite d'apprentissage supervisé, l'opérateur indique la classe de chaque événement de la base d'apprentissage, et la tâche de l'ordinateur est de définir une fonction numérique ou logique qui respecte le classement décidé par l'opérateur d'après les paramètres des événements. Il est aussi possible de combiner les deux variantes pour en obtenir une troisième dite d'apprentissage semi-supervisé où l'appartenance à une classe est définie par l'opérateur seulement pour certains des événements de la base d'apprentissage (en pratique, en petit nombre par rapport aux autres). L'inconvénient commun à toutes ces méthodes est la difficulté d'établir de bonnes règles, aptes à minimiser la proportion d'événements mal classés. Avec des règles explicites définies par l'opérateur, beaucoup d'événements restent indéterminés en pratique car il est difficile d'établir des règles précises et détaillées par l'observation ou l'intuition ; dans les procédés par apprentissage, les règles définies automatiquement seront imprécises si les exemples donnés sont mal représentatifs des événements futurs, et parfois le manque de maîtrise de l'opérateur sur ces règles implicites ne lui permettra pas de les corriger. De plus, la constitution manuelle d'une base d'apprentissage demande du temps et peut impliquer des erreurs. Enfin, une telle table ne sera pas évolutive. Le progrès apporté par l'invention, sous sa forme la plus générale, est d'améliorer les résultats de classification. Pour résumer, l'invention est relative sous sa forme la plus générale à un procédé de classification d'événements, chacun des événements étant caractérisé par des valeurs de paramètres, comprenant pour chaque événement à traiter une première étape de classement d'après des premières règles de décision pour un premier sous-ensemble des paramètres, caractérisé en ce qu'il comprend, pour tout événement qui n'a pu être classé par les premières règles de décision, une seconde étape de classement au moyen d'une base d'apprentissage d'où sont tirées des secondes règles de décision pour un deuxième sous-ensemble des paramètres. La succession de deux classificateurs différents améliore les résultats de la classification en classant de façon sûre certains des événements à la première étape et en utilisant un autre procédé pour conclure la classification à une seconde étape. Sous une forme particulièrement importante, l'invention comprend, entre les étapes de classement, un choix dans lequel la seconde étape de classement est appliquée à l'événement à traiter s'il n'a pu être classé à la première étape de classement mais n'est pas appliquée si l'événement à traiter a pu être classé à ladite première étape de classement, ledit événement à traiter étant alors versé dans la base d'apprentissage et les secondes règles de décision étant amendées d'après les valeurs des paramètres et un résultat de classement de l'événement à traiter. Cette étape d'enrichissement de la base d'apprentissage et d'amendement des secondes règles de décision offre l'avantage d'améliorer constamment la qualité de la classification en rendant adaptatif le procédé de classification. L'invention sera maintenant décrite plus en détail au moyen des figures et dans certaines applications particulièrement envisagées : - la figure 1 est une vue générale du procédé, - la figure 2 est une vue d'un réseau de neurones, - la figure 3 est une vue schématique d'une application du procédé, et la figure 4 est un diagramme détaillant un exemple de cette application. Nous abordons la figure 1. L'invention met en oeuvre un opérateur dans les premières étapes du procédé, puis un ordinateur. Dans une étape de début 1, l'opérateur distingue deux sous-ensembles de paramètres des événements à l'étape 2, et élabore des premières règles de décision à l'étape 3 au moyen du sous-ensemble des premiers paramètres, puis élabore des secondes règles de décision. Il crée enfin une base d'apprentissage qui peut être soit vide, soit partiellement remplie. L'ordinateur reçoit ensuite l'information d'un nouvel événement sous forme d'un signal à traiter à l'étape 4 ; ce signal comprend les paramètres de l'événement, qu'on a obtenu par des mesures ou d'autres moyens. L'ordinateur extrait les valeurs de premiers paramètres de ce signal à l'étape 5. Il s'efforce ensuite de classer l'événement parmi les différentes classes au moyen des premières règles de décision définies à l'étape 3, mais sans y parvenir nécessairement en présence d'un événement douteux (étape 6). Dans ce cas, l'ordinateur extrait du signal les valeurs des deuxièmes paramètres à l'étape 7 et reprend la tentative de classification à l'étape 8 suivante en appliquant des secondes règles de décision retenues par l'ordinateur à l'étape 10. Un état de classification est finalement donné à l'étape 11. Si cependant la première étape de classification de l'étape 6 a été fructueuse, le procédé est mené autrement et l'extraction des deuxièmes paramètres, effectuée à une étape 12, sert alors à remplir la base d'apprentissage en y ajoutant ces paramètres et le résultat de la première classification, complétant ou amendant les secondes règles de décision utilisées à l'étape 10 d'après le résultat de classification du présent événement et les valeurs de ses seconds paramètres. On a ainsi la présomption que les événements futurs seront classifiés avec de plus en plus de sûreté. Les moyens concrets d'élaboration des secondes règles de décision comprennent divers genres connus. On décrira ici à titre d'illustration l'utilisation d'un réseau de neurones à la figure 2. Le réseau comprend une couche de neurones d'entrée P1, P2,..., Pn pour recevoir les valeurs des deuxièmes paramètres des événements sous forme numérique. La décision de classification dans une classe déterminée est donnée, aussi sous forme numérique, par le contenu d'un neurone de sortie D. Le réseau de neurones comprend au moins une couche cachée de neurones y qui effectuent des combinaisons numériques des paramètres et les transmettent à la couche suivante du réseau, ici immédiatement au neurone de sortie D. Des poids numériques w sont appliqués aux valeurs transmises avant qu'elles n'atteignent les neurones de la couche cachée ou le neurone de sortie. Ici, les neurones de la couche cachée effectuent une activation en tangente hyperbolique et le neurone de sortie effectue une activation linéaire. La fonction de décision peut alors être écrite d'après la formule (1) ( 1 ) Dw(P) =sgn w; tanh 1w;ZPI +wo; j+woj où sgn est la fonction signe, tanh la fonction tangente hyperbolique, wi le poids reliant la sortie du neurone y au neurone de sortie D, wo et won des poids particuliers appelés biais ou seuils reliant un neurone fictif de sortie de valeur égale à 1 au neurone de sortie (pour couche cachée (pour ou aux neurones y de la et wji les poids reliant les neurones d'entrée Pi aux neurones de la couche cachée Yi Les réseaux de neurones permettent, sous réserve de bien choisir le nombre de neurones dans la couche cachée ou les couches cachées, d'approcher n'importe quelle fonction une fois que les bons poids ont été trouvés. L'élaboration des secondes règles de décision revient donc à ajuster les poids w de manière à faire coïncider, pour chaque exemple ou presque de la base d'apprentissage 9, le résultat de la décision par le réseau de neurones et le résultat, connu, de la classification. Quand l'étape 12 est mise en oeuvre, l'ordinateur ajuste les poids de manière que le plus grand nombre d'événements de la base d'apprentissage enrichie du nouvel événement - soit bien évalué par les secondes règles de décision. D'autres genres de classificateurs numériques sont connus dans l'art séparateurs linéaires, vaste marge arbres de décision, SVM (machine à support de vecteurs ou séparateur à vaste marge) ; l'invention s'applique aussi à eux. Certains exemples d'applications privilégiées seront maintenant décrits. Dans le problème plus général de reconnaître des caractères manuscrits, on s'intéresse au traitement automatique des chèques bancaires. Un procédé connu aujourd'hui consiste à reconnaître les chiffres manuscrits pour les identifier. Une base d'apprentissage de chiffres fournit des règles de décision d'après certaines caractéristiques de forme, hauteur, longueur, de proportions ou de répartition de l'écriture de chiffres sur l'image. L'application de l'invention à cet exemple pourrait consister à extraire des événements (les chèques) non seulement les chiffres mais les mots composant le montant de la somme et à trouver la correspondance entre chaque chiffre (identifié ou non) et chaque mot ou groupe de mots (identifié ou non) qui le décrit, d'après leur ordre dans les montants respectifs écrits en chiffres ou en lettres. Les premières règles de décision seraient alors celles qui permettraient d'identifier un chiffre à partir des mots qui lui sont associés, et les secondes règles de décision celles qui permettraient d'identifier un chiffre directement à partir de son écriture. L'enrichissement de la base d'apprentissage consisterait alors à fournir de nouvelles écritures de chiffres sûrement identifiés par leur montant en lettres afin d'améliorer les règles de reconnaissance directe des chiffres. Le procédé pourrait être utilisé de façon plus complexe, en cherchant à identifier à la fois les montants écrits en chiffres et en mots : on disposerait alors aussi d'une base d'apprentissage de mots, qui serait enrichie à chaque fois qu'un chiffre serait identifié avec certitude. La confiance qu'on peut accorder au procédé de reconnaissance serait encore accrue, et le chèque pourra être certifié si on dispose aussi d'une base d'apprentissage de noms. Selon une autre application possible de l'invention, on se préoccupe d'identifier la posture d'une personne à tout moment par télésurveillance, notamment à des fins médicales. La personne est équipée d'un capteur de mouvement d'un genre connu et pouvant comprendre un accéléromètre triaxial et un magnétomètre triaxial pour détecter l'orientation et le mouvement de la personne qui le porte d'après les directions du champ magnétique terrestre et de la gravité. Se référant à la figure 3, où la personne porteuse a la référence 15 et le capteur la référence 16, on voit que le capteur 16 est fixé sur le torse de la personne 15 et que les axes principaux de mesure sont l'axe antério-postérieur AP dirigé vers l'avant, l'axe médiolatéral ML dirigé vers la droite et l'axe vertical VT dirigé vers le haut ; si besoin est, une procédure préliminaire de calibration est réalisée sur la personne 15 pour aligner les axes de mesure du capteur et les axes anatomiques de la personne 15, en déterminant une matrice de passage qui les relie. Cette matrice est supposée invariable, ce qui est vrai tant que le capteur 16 n'est pas déplacé sur la personne 15. De plus, des algorithmes de fusion d'information permettent de donner l'orientation du capteur 16 dans l'espace à partir de ses mesures en les exprimant par des rotations d'angles d'Euler ou des quaternions. L'invention est mise en oeuvre pour distinguer entre certains genres d'activité de la personne 15 et certaines de ses postures. Par exemple, l'invention peut être appliquée pour distinguer entre la position assise et la position debout (ou la position couchée, ou toute autre position). Les états transitoires, ici debout/assis et assis/debout, devront aussi être considérés, ce qui donne un problème de reconnaissance de quatre classes. Dans le diagramme de la figure 4, exprimé en énergie d'activité en fonction du temps, on trouve successivement un état debout, une transition debout/assis, un état assis, une transition assis/debout et un état debout aux états 19 à 23. Les états de transitions correspondent toujours à des activités fortes et à des pics d'énergie, et des états de position stable sont souvent plus longs et moins actifs, mais des exceptions existent, comme la course, pendant laquelle le porteur en position debout stable aura une grande énergie. De plus, l'énergie peut varier fortement pendant un même état. Une période de course 24 pendant le premier état debout 19 est ainsi représentée. Il n'est donc pas possible de déduire directement la succession des états d'un diagramme tel que celui de la figure 4. La première étape de l'application du procédé consistera en une division du signal en portions uniformes (ici, une pour chacun des états 20 à 23 et trois portions pour l'état 19 : avant, et après la période pendant l'état 24), puis chacune de ces portions sera examinée. Les règles du premier groupe pourront être choisies parmi les suivantes : reconnaissance d'une phase d'activité correspondant à une marche (accélération positive et assez régulière dans l'axe AP), donc de classe debout ; - reconnaissance d'une phase de repos puis, sans transition, d'une phase de marche (seule l'accélération dans l'axe AP changeant), donc classification de la phase de repos en classe debout ; reconnaissance d'une phase de repos présentant un angle de tangage ou d'élévation, (autour de l'axe ML à partir de l'axe VT) fortement négatif correspondant à une personne assise inclinée vers l'arrière, donc de classe assis ; - reconnaissance d'une phase de repos de durée importante présentant un angle de lacet (rotation autour de l'axe VT) variant faiblement, donc de classe assis ; reconnaissance d'une phase d'activité présentant un angle de lacet variant fortement et un angle de tangage ou d'élévation de variation modérée, correspondant à un changement de direction du porteur, donc de classe debout ; - reconnaissance d'une phase de repos de durée importante présentant un angle de lacet similaire à un azimut de référence (correspondant à un siège d'orientation fixe dans la résidence du porteur), donc de classe assis ; ces exemples montrent qu'un paramètre de classement sera souvent l'angle de lacet ou sa variation temporelle ; - reconnaissance d'une phase de forte activité de durée peu importante entre deux postures identiques donc de classe identique on est en présence d'un mouvement intérieur à une même classe debout ou assis ; -reconnaissance d'une phase de forte activité de durée peu importante entre deux postures différentes, donc correspondant à une transition, et classement en debout/assis ou assis/debout. Ces renseignements sont donnés soit par les accéléromètres (pour le mouvement), soit par les magnétomètres (pour les orientations), soit par une combinaison des deux. Quand cette première reconnaissance a été effectuée, certains des états ont été identifiés et d'autres restent indéterminés. Les phases identifiées alimentent la base d'apprentissage. Les signaux correspondants des accéléromètres et des magnétomètres sont pour cela analysés en extrayant des valeurs de paramètres. Des paramètres typiques à considérer sont ceux qu'on utilise couramment dans le traitement du signal, comme la moyenne, le minimum et le maximum, la variance, ou la fréquence prédominante. Il peut s'agir, comme dans les autres applications, de paramètres utilisés pour appliquer les premières règles de classifications ou d'autres paramètres. Les secondes règles de classification sont amendées pour tendre à faire concorder les évaluations qu'elles donnent de ces phases identifiées avec les évaluations obtenues avec les premières règles de classification pour les mêmes phases. La suite du procédé consiste à analyser les signaux des phases non identifiées pour en extraire les paramètres d'intérêt et leur appliquer les secondes règles de classification et déterminer dans quelle classe chacune des phases appartient. Certaines améliorations du procédé de base décrit jusqu'ici peuvent être proposées. C'est ainsi que, si les premières règles de décision sont associées à la production d'un indice de confiance du résultat de classement qu'elles donnent, les événements qui auront été classés à la première étape pourront être versés à la base d'apprentissage seulement si l'indice de confiance a atteint une valeur supérieure à un seuil déterminé des événements classés dès la première étape mais avec une sûreté insuffisante n'auront pas d'influence sur des secondes règles de décision. Le procédé de l'invention se prête bien à un apprentissage supervisé des secondes règles de décision. Toutes les règles de décision sont alors définies par l'opérateur les premières règles de décision pourront être celles dont l'application est la plus simple, et les secondes règles de décision celles qui nécessitent des calculs, qui interagissent entre elles ou qui tolèrent des exceptions ou ne sont pas connues parfaitement et pourront être amendées par la suite. Dans d'autres cas, il pourra être utile au contraire de corriger les premières règles de décision, quand elles donnent un résultat différent des secondes règles de décision ou qu'elles se contredisent : le résultat donné par les secondes règles de décision permettra d'identifier les premières règles de décision qui auront donné un résultat opposé ; ces règles pourront être amendées (quand elles dépendent d'un seuil par exemple), minorées en leur attribuant une importance moins grande, ou même supprimées. La correction pourra être décidée d'après le nombre et l'indice de confiance des résultats, ou la fiabilité respective des règles. Les secondes règles de décision peuvent elles-mêmes être contrôlées par des troisièmes règle de décision spécifiées par l'opérateur et servant à détecter des erreurs de classement des secondes règles de décision. Quand des erreurs seront détectées, les secondes règles de décision pourront être corrigées pour tendre à faire coïncider leur résultat de classement avec le résultat désiré. Il est encore possible de verser les événements concernés dans la base d'apprentissage avec les valeurs de leurs paramètres et le résultat corrigé par les troisièmes règles de décision. Un autre perfectionnement du procédé consisterait à supprimer les premières règles de décision ou seulement certaines d'entre elles, progressivement ou non, quand il est jugé que les secondes règles de décision ont atteint une fiabilité suffisante, notamment quand la base d'apprentissage a atteint une taille suffisante ou que les secondes règles de décision sont stabilisées à un état où elles classent tous les événements de façon fiable. Pour tous ces perfectionnements où les règles de décision sont susceptibles d'évoluer, l'utilisation d'indices de confiance offre une aide non seulement en désignant des résultats douteux, mais en dévoilant les règles qui les donnent et sont donc moins utiles ou susceptibles d'être corrigées. L'invention peut évidemment être appliquée à tous les domaines cités au début. B 15475/JCI REVENDICATIONS 1) Procédé d'identification de postures d'une personne (15), équipée d'un capteur (16) d'orientation ou de mouvement de ladite personne qui émet un signal, comprenant une définition de classes de postures, caractérisé en ce qu'il comprend une division du signal en portions et une extraction de certains paramètres des portions du signal ; pour chaque portion du signal, une première étape de classement dans lesdites classes d'après des premières règles de décision pour un premier sous-ensemble des paramètres, et, pour toute portion qui n'a pu être classée par les premières règles de décision, une seconde étape de classement, dans lesdites classes, au moyen d'une base d'apprentissage d'où sont tirées des secondes règles de décision pour un deuxième sous-ensemble des paramètres. 2) Procédé d'identification de postures d'une personne selon la revendication 1, caractérisé en ce que le capteur (16) comprend un accéléromètre triaxial et un magnétomètre triaxial. 3) Procédé d'identification de postures d'une personne selon l'une quelconque des revendications 1 ou 2, caractérisé en ce que les classes de postures comprennent des postures statiques dont deux au moins parmi une position debout, une position assise et une position couchée, et des postures transitoires reliant lesdites positions statiques. B 15475/JCI 2896896 17 4) Procédé d'identification de postures d'une personne selon l'une quelconque des revendications 1 à 3, caractérisé en ce que le signal 5 est divisé en portions uniformes. 5) Procédé d'identification de postures d'une personne selon l'une quelconque des revendications 1 à 4, caractérisé en ce qu'il comprend 10 des reconnaissances de phases d'activité et de repos consécutives à l'extraction des paramètres. 6) Procédé d'indentification de postures d'une personne selon la revendication 5, caractérisé en 15 ce que les premières règles de décision comprennent au moins l'une parmi une reconnaissance d'une phase d'activité correspondant à une marche, une reconnaissance d'une phase de repos puis, sans transition, d'une phase de marche, une reconnaissance 20 d'une phase de repos présentant un angle de tangage ou d'élévation, une reconnaissance d'une phase de repos de durée importante présentant un angle de lacet variant faiblement, une reconnaissance d'une phase d'activité présentant un angle de lacet variant fortement et un 25 angle de tangage ou d'élévation de variation modérée, correspondant à un changement de direction de la personne, une reconnaissance d'une phase de repos de durée importante présentant un angle de lacet similaire à un azimut de référence, correspondant à un siège 30 d'orientation fixe dans une résidence de la personne, reconnaissance d'une phase de forte activité de durée B 15475/JCI, 2896896 18 peu importante entre deux postures identiques, et une reconnaissance d'une phase de forte activité de durée peu importante entre deux postures différentes. 5 7) Procédé d'identification de postures d'une personne selon l'une quelconque des revendications 1 à 6, caractérisé en ce que les paramètres comprennent une moyenne du signal, un maximum et un minimum du signal, une variance du 10 signal, une fréquence prédominante du signal, pour chacune des portions du signal. 8) Procédé d'identification de postures d'une personne selon l'une quelconque des 15 revendications précédentes, caractérisé en ce qu'il comprend, entre les étapes de classement, un choix dans lequel la seconde étape de classement est appliquée à la portion à traiter s'il n'a pu être classé à la première étape de classement mais n'est pas appliquée 20 si la portion à traiter a pu être classé à ladite première étape de classement en donnant un résultat de classement, ladite portion à traiter étant alors versé dans la base d'apprentissage et les secondes règles de décision étant amendées d'après les valeurs des 25 paramètres et le résultat de classement de la portion à traiter. 9) Procédé d'identification de postures d'une personne selon la revendication 8, caractérisé en 30 ce qu'il comprend, à la première étape de classement, une attribution d'un indice de confiance au résultat de B 15475/JCI, 2896896 19 classement, et en ce que la portion à traiter est versée dans la base d'apprentissage seulement si l'indice de confiance est supérieur à un seuil prédéterminé. 5 10) Procédé d'identification de postures d'une personne selon l'une quelconque des revendications précédentes, caractérisé en ce que les secondes règles de décision sont établies d'après un 10 procédé d'apprentissage supervisé. 11) Procédé d'identification des postures d'une personne selon l'une quelconque des revendications précédentes, caractérisé en ce qu'il 15 comprend une réévaluation des premières règles de décision d'après des résultats de classement des secondes règles de décision. 12) Procédé d'identification des postures 20 d'une personne selon l'une quelconque des revendications précédentes, caractérisé en ce qu'il comprend une étape finale de suppression d'au moins une des premières règles de décision. 25