FR 2678088 A1 19921224 FR 9107672 A 19910621 i Procédé et dispositif de recalage continu d'images en veille panoramique La présente invention concerne un procédé et un dispositif de recalage continu d'image en veille panoramique Elle s'appli- que notamment aux systèmes d'imagerie panoramique pour la surveillance L'image peut appartenir au domaine des longueurs d'onde visible ou infrarouge Plus généralement, l'invention concerne les domaines du traitement d'images, de l'optronique et du traitement du signal Elle peut par exemple s'appliquer au recalage des données obtenues par un radar de veille panorami- que. Les systèmes d'imagerie panoramique permettent une sur- veillance selon un angle de 360 Ils sont constitués d'une tête optique tournante et d'un détecteur linéaire A chaque instant, le détecteur linéaire forme une colonne de l'image panoramique. L'image panoramique est obtenue par la juxtaposition des colon- nes d'images formées par ce capteur linéaire en rotation autour d'un axe vertical Le nombre de colonnes par tour peut atteindre plusieurs dizaines de milliers Le recalage d'images consiste à mettre en correspondance les images successives obtenues durant les tours successifs du capteur Le recalage d'images est par exemple nécessaire dans le cas de détection de mouvement ou de poursuite d'objets en déplacement En effet, pour détecter les mouvements révélateurs de cibles otu de menaces potentielles, il faut procéder par analyse de la différence entre l'image cou- rante et l'image formée au tour précédent Or I ce problème est compliqué par les propres mouvements ou oscillations du disposi- tif de veille, à savoir la tête optique tournante et le détec- teur linéaire, inhérents à certaines applications C'est le cas notamment quand ce dispositif est installé sur un porteur mobile ou au sommet d'un mât par exemple. Le problème à résoudre consiste donc à mettre au point un procédé permettant d'estimer de façon précise les déformations des images obtenues par le dispositif de veille tournant afin de rendre possible la détection d'objets en mouvement par diffé- rence entre l'image présente et l'image précédente corrigée de sa déformation Des solutions connues utilisent des techniques de recalage global, comme celle décrite par l'article "Recursive motion estimation based on a model of the camera dynamics" paru dans la revue Signal Processing V: Theoric and Applications (L Torres, E Margrau et M A Lagunnas éditeur) D'autres solutions sont applicables lorsque chaque image est obtenue de façon quasi instantanée, sur imagerie de type télévision par exemple, et que la déformation peut être réduite à une transfor- mation paramétrique globale telle qu'une translation-rotation en deux dimensions ou en trois dimensions en utilisant des modèles de profondeur de la scène Des techniques non paramétriques fondées sur la recherche de transformations élastiques utilisant une hypothèse de continuité de la déformation sont parfois appli- cables Néanmoins, des défauts apparaissent avec ces solutions, en particulier une imprécision de la mise en correspondance des images et une lourdeur des calculs. Le but de l'invention est de pallier les inconvénients précités. A cet effet, l'invention a pour objet un procédé de reca- lage continu d'images en veille panoramique utilisant des points caractéristiques extraits de l'image en cours et des points caractéristiques prédits à partir de l'image précédente caracté- risé en ce qu'il consiste à utiliser un filtre de Kalman pour estimer les paramètres instantanés de déformation de l'image à partir des mesures des écarts entre les points caractéristiques prédits et ceux obtenus dans l'image en cours. L'invention a également pour objet un dispositif pour la mise en oeuvre du procédé précité. L'invention a pour principaux avantages qu'elle permet un recalage d'images compatible avec les applications de surveillances, notamment la détection et la caractérisation des mouvements d'objets en veille panoramique tout en réduisant la complexité des calculs de résolution. D'autres caractéristiques et avantages de l'invention apparaîtront à l'aide de la description qui suit faite en regard des dessins annexés qui représentent: La figure 1, un organigramme pour illustrer les étapes du procédé mis en oeuvre par l'invention. Les figures 2 a et 2 b, des représentations des différents repères utilisés. La figure 3, des images générées en deux tours succes- sifs et représentées en superposition. La figure 4, un mode de réalisation possible d'un dispo- sitif pour la mise en oeuvre de l'invention. Comme le montre l'organigramme de la figure 1, le procédé selon l'invention comporte cinq étapes Ce procédé utilise la structure particulière des images panoramiques qui est continue et fermée, c'est-à-dire qu'il n'y a ni bord droit, ni bord gau- che Il utilise par ailleurs la connaissance a priori que Iton peut avoir sur les mouvements du dispositif de veille, connais- sance de nature statistique aisément représentable par un modèle Gaussien-Markovien Le procédé consiste suivant une étape 1 à extraire les points caractéristiques de l'image panoramique, suivant une étape 2 à gérer la liste des points caractéristi- ques, suivant une étape 3 à prédire les paramètres instantanés de la déformation a priori selon la technique du filtre de Kalman, suivant une étape 4 à mettre en correspondance les points caractéristiques qui viennent d'être extraits de l'image actuelle avec la liste des points caractéristiques prédits à partir de ceux de l'image précédente et des paramètres de défor- mation estimés a priori lors de l'étape 3, enfin suivant une étape 5 à estimer les paramètres instantanés de la déformation à partir des mesures des écarts entre les points caractéristiques prédits et ceux obtenus dans l'image courante, au moyen d'un filtre de Kalman Cette dernière étape constitue le recalage d'images La technique de filtrage de Kalman utilisée dans le procédé est bien connue de l'homme de l'art, elle est décrite en particulier dans l'ouvrage de MM Labarrere, J P Krief et B. Gimonet "Le filtrage et ses applications" aux éditions Cepadues, Toulouse. L'étape 4 de mise en correspondance peut être décomposée en une étape de sélection des points caractéristiques parmi la liste établie suivi de l'étape de mise en correspondance Par ailleurs, pour effectuer la détection d'objets mobiles, il est nécessaire d'ajouter une sixième étape de compensation de la déformation de l'image de référence pour qu'elle devienne super- posable à l'image présente Cette compensation est effectuée par la mise en oeuvre de la transformation paramétrique estimée à l'étape précédente 5 Les techniques d'extraction des points caractéristiques utilisées dans l'étape 1 ne sont pas dévelop- pées parce qu'elles relèvent de méthodes connues Il est possi- ble par exemple d'extraire de l'image courante des points carac- téristiques d'un tour à l'autre à l'aide du détecteur de Moravec, exposé dans l'article de H P Moravec "Towards automa- tic visual obstacle avoidance", in Proceding of the Internatio- nal Joint Conference on Artificial Intelligence (IJCAI), 1977. Dans l'étape 2, de gestion de la liste des points caractéristi- ques, les points extraits au tour présent sont mémorisés pour être utilisés lors de la mise en correspondance du tour suivant. Cette étape ne constituant pas une caractéristique de l'inven- tion ne sera plus amplement décrite. Les paramètres de déformation estimés par le filtre de Kalman peuvent être par exemple les trois angles qui définissent à chaque instant l'orientation du dispositif tournant de veille panoramique Dans ce cas, l'étape 3 consistera donc à prédire les angles de visée de ce dispositif de veille Ces trois angles sont notés 0, O et 'p Ils sont indiqués sur les figures 2 a et 2 b qui montrent la représentation des différents repères utilisés et décrits ci-après. Soit figure 2 a R = (O, x, y, z) un repère orthonormé, fixe de référence et R 1 = (O, x 1, y 1, z 1) un repère orthonormé lié à la plate-forme supportant le dispositif de veille Cette plate-forme peut être un porteur mobile ou le sommet d'un mât par exemple. Soit figure 2 b R 2 = (O, x 2, Y 2, Z 2) un repère orthonormé lié au dispositif de veille et tournant avec ce dispositif autour de l'axe Oz 1 du repère R 1 à la vitesse angulaire À,, dans ce repère R 2 ' l'axe Ox 2 matérialise l'axe optique du dispositif et (O, u, v) le repère R v définissant l'espace de dimension U,v deux lié à l'image panoramique Dans ce dernier repère, l'axe "horizontal" u indique la position de chaque colonne de l'image panoramique, proportionnel à Lt t, o t représente le temps Un point de l'espace défini dans le repère R 2 est vu à l'instant t tel que Y 2 = O avec une ordonnée v telle que v/f = z 2/x 2, f étant la distance focale de la ligne de visée de la tête optique tournante Pour des commodités de calculs, f sera pris égale à 1. Soit ROTI la matrice de passage du repère R au repère R et ROT 2 la matrice de passage du repère R 1 au repère R 2. Soit X = (x, y, z) la matrice des coordonnées d'un point dans le repère R o t X désigne la transposée de la matrice X Soit X 2 = (x 2, Y 2, z 2) la matrice des coordonnées d'un point dans le repère R 2. D'après les définitions précédentes, il vient: X = ROT 2 ':ROTI':X, produit matriciel de ROTI, ROT 2 et de la matrice transposée de X. RO Ti est définie à partir des angles 0, O et y comme suit 4- ROT 1 = |-'j 1 O l -0 V o J O Les paramètres de la matrice ROT 1 constituent un déve- loppement du premier ordre des coordonnées du repère R 1 dans le repère R Cette approximation est satisfaisante puisque 0, O et T sont petits Cette matrice est indépendante de l'ordre des rotations et elle est unitaire au premier ordre près, donc orthonormée. ROT 2 est définie comme suit cosu W t -sine t O O ROT 2 = sin îC t costa t O I O O 1/ Le système à estimer selon la méthode du filtre de Kalman doit être décrit par un vecteur d'état Il a été choisi ici le vecteur X = t(S 0, - , -j 9), vecteur des variations angulaires de ligne de visée de la tête optique d'un tour au suivant, défini par le passage sur le même point L'évolution du système est décrite par un modèle de dynamique, en général de type Gaussien-Markovien représenté sous forme matricielle par l'équation X' = f(X) +w, o X' est la dérivée du vecteur d'état X par rapport au temps, f (X) une fonction de X et W un bruit excitateur représentant les fluctuations aléatoires de l'état et caractérisé par la matrice de covariance de ce bruit, cette équation est linéarisée et devient X' = FPOX+w ( 1), F *X étant le produit matriciel de la matrice F définie selon le filtre de Kahman et du vecteur d'état X Cette méthode permet ici de prédire les fonctions de densité de probabilité des angles +, O et Y et donc de fournir une estimée a priori de ces angles à l'instant t, prenant en compte de façon optimale toutes les mesures passées Le bruit a une densité de probabilité gaussienne Plus ce bruit est grand, moins la prédiction est précise. A partir de l'estimée a priori de ces paramètres, il est possible de prédire la position des points de recalage dans l'image On recherche les points correspondants dans un voisi- nage de ces prédictions L'association des points détectés dans l'image courante avec les points de référence est faite dès que l'on trouve un point non ambigu détecté dans l'image courante et dans le voisinage de recherche Cette mise en correspondance, qui constitue l'étape 4, fait apparaître un écart entre la posi- tion trouvée et la position prédite: cet écart constitue la mesure grâce à laquelle les paramètres angulaires de la ligne de visée de la tête optique peuvent être recalés au cours de l'étape 5. Chaque point caractéristique de l'image panoramique est repéré par ses coordonnées u et v définies dans le repère R v u,v décrit précédemment L'angle u correspond au numéro de colonne de l'image panoramique directement proportionnel au temps grâce à la relation u = Ad t définie précédemment. Dans la suite (,5 u, S v) représente l'écart entre la posi- tion définie dans le repère Ruv par (u n, vn) et obtenue dans l'image en cours et la position (unl, vn_ 1) obtenue dans l'image précédente pour le même point caractéristique. -Uu -= un 1 et S v = V -vn_ n n-i N n-? Soit T, l'écart de temps qui sépare la détection du tour n et celle du tour n-l, T est relié à S u par la relation suivante u = 'x T-2 Â, cet angle est supposé petit Soient S O = O (t+T)-0 (t) b O = O(t+T) -O (t) Es Y == (t+T)- (t) o O (t+T) est la valeur de l'angle O au temps t+T O (t) est la valeur de l'angle O au temps t, de même pour e et Les matrices de rotation ROT 1 et ROT 2 définies précédem- ment sont orthonormées, donc leurs matrices transposées sont aussi leurs matrices inverses Les angles 0, O et M étant fonctions du temps, ces matrices sont fonctions du temps Si t RO Ti(t) et t ROT 2 (t) sont les matrices transposées des matrices ROT 1 (t) et ROT 2 (t) fonctions du temps, il vient: X 2 (t+T) =ROT 2 (t+T)* ROT 1 (t+T)*t ROT 1 (t):*t ROT 2 (t)*X 2 (t) ( 2) d'o est déduit la relation suivante (S( - u)x 2 (t+ T)=(sin Lct O+cosi:t 0)z 2 (t+T) ( 3) au premier ordre près, ce qui est possible puisque les angles 0, O et T sont petits. Il a été établi précédemment que v(t) = z 2 (t)/x 2 (t), en conséquence: u = i{ -v(sintt O +cos Wt q 0) ( 4) de l'équation ( 3), est également déduit x 2 (t+T) =x 2 (t) +(cosv't O -sin Lt () z 2 (t) ( 5) z 2 (t+T) =z 2 (t)-(cost t O-i,t)x 2 (t) ( 6) enfin des relations ( 5) et ( 6) il découle v(t)-(cost, 0-sincut 0) v(t+T) = ( 7) 1 + (cos;t O-sintujt 60)v(t) L'équation ( 4) est linéaire en -60, G O et % De plus si le point caractéristique est près de la ligne centrale (v= 0), u= 'If Autrement dit, dans ce cas, l'écart en nombre de colonnes est directement proportionnel à l'écart angulaire autour de l'axe vertical L'équation ( 7) est homographique en S 0, S O et,S'If mais peut se linéariser si v est sensiblement nul Dans ce cas: ÀSv =v(t+T)- v(t) = cosc,:t ' O-sinu W t {S O ( 8) En réalité, les angles de visée sont petits, les points caractéristiques sont donc tels que v est sensiblement nul, il est donc possible, après linéarisation d'écrire les équations de mesure en utilisant le formalisme du filtre de Kalman (Su \ 1 -vsinc t -vcos = c (( 9) v cosu Ct sin Lt oit (Wu, Wv) représente le bruit de mesure. Cette relation matricielle suivant le formalisme du filtre de Kalman crée un lien entre le vecteur d'état (, e, à 0) et la mesure définie par ( vecteur d'état à partir de la mesure ( 8 u, cb v). Auparavant, dans l'étape 4 de mise en correspondance, en utilisant la relation ( 9), à partir des valeurs prédites des variations a priori des angles 0, 9 et, il est possible de prédire la position dans l'image courante des points caractéristiques extraits au tour précédent en appliquant la relation |Un| 1 v N 1 lsin lit _vn cos _t I hun-1 Q clecosdt sine t i * n-î ( 10) le signe ^ indique que les valeurs sont estimées. (Un 1, yn 1) est un vecteur de coordonnées connues, puisque définies au tour précédent. Le vecteur (u, v) indique la position théorique estimée a priori du point caractéristique que l'on devrait trouver. L'étape 4 consiste ensuite à mettre en correspondance les points caractéristiques de l'image en cours avec ceux du tour précédent par une méthode de pistage, c'est-à-dire par la recher- che dans la liste des points caractéristiques de l'image cou- rante, des points qui se projettent dans les voisinages des points prédits selon la relation ( 10) à partir des points carac- téristiques de l'image précédente et de l'estimée a priori des paramètres angulaires de visée La taille des voisinages dépend de l'incertitude de l'estimation Cette mise en correspondance est illustrée par la figure 3 Sur cette figure apparaissent l'image 6 prise au tour n-1 et l'image déformée 7 prise au tour n superposée à la précédente Les signes X représentent les points caractéristiques dans l'image au tour n-1, les signes ronds et pleins représentent les points prédits suivant la rela- tion ( 10) d'après les points caractéristiques du tour n-1 et les angles 0, ( et y estimés a priori, les signes carrés représentent les points caractéristiques trouvés dans l'image au tour N associés aux points prédits cités précédemment, enfin les espaces délimités par des traits pointillés représentent les voisinages de recherche autour des points prédits Dans la prati- que le nombre de détections n'est pas trop important, il n'y a donc pas souvent de conflits d'affectations de sorte que l'on peut ignorer les mesures ambiguës. C'est à partir des points représentés sur la figure 3 par des ronds pleins et des carrés et mis en correspondance ou associés au cours de l'étape 4 que le filtre de Kalman va opérer dans l'étape 5 Cette dernière étape consiste en l'utilisation du filtre de Kalman appliqué à l'estimation des paramètres ins- tantanés de la déformation à partir des mesures des écarts entre les points caractéristiques prédits et ceux obtenus dans l'image courante qui leurs sont associés suivant la mise en correspon- dance de l'étape 4 de mise en correspondance. En effet, par application du filtre de Kalman et grâce à l'équation de mesure ( 9) définie selon ce formalisme, il est possible de déduire des écarts mesurés et définis par les vecteurs (: u, u v), l'estimée optimale du vecteur d'état (O d,,) estimée dite à posteriori, (r S 0, S 0, 51 >) représentant la variation des paramètres angulaires de déformation entre deux tours successifs L'estimation optimale de cette variation permet le recalage continu de l'image en veille panoramique. Un mode de réalisation possible est représenté par la figure 4 Les données de l'image sont prises en compte par un bus d'entrée 8 relié à un circuit extracteur de points caracté- ristiques 9, ce dernier peut par exemple être un circuit intégré VLSI, suivant la terminologie anglo-saxonne "very large scale integration" La sortie du circuit 9 est reliée à un bus 13 reliant un processeur 12, une mémoire de programme et de tra- vail Il contenant notamment les algorithmes de calcul du filtre de Ka Iman, et une mémoire de type RAM par exemple contenant la liste des points caractéristiques Le processeur 12 délivre par un bus de sortie 14 les paramètres de déformation estimés, par exemple l'estimation des variations des paramètres angulai- res 0, O O et S' du dispositif de veille. Plusieurs variantes peuvent être appliquées au procédé selon l'invention Une première variante consiste à remplacer la méthode de pistage des points caractéristiques utilisée dans l'étape 4 de mise en correspondance par une méthode de corréla- tion Dans ce cas, au lieu de mettre en correspondance les lis- tes de points caractéristiques de l'image présente avec celle du tour précédent, il est possible d'effectuer une corrélation d'images: la prédiction de la ligne de visée de la tête optique est utilisée pour prédire la position de l'image La précision du recalage est augmentée et, surtout, le problème de I'initiali- sation est simplifié De plus, le problème de la sélection des points caractéristiques est évité: les points peuvent être prélevés au hasard ou périodiquement La précision de la corréla- tion s'exprime par une matrice de covariance de l'erreur de mesure déduite des résultats de corrélation Cette matrice inter- vient dans l'équation de recalage du filtre de Kalman. Une deuxième variante ne prend pas en compte les varia- tions angulaires de la ligne de visée & 0, 8 9 et û, mais cherche à estimer directement les angles de la ligne de visée et les positions angulaires des points caractéristiques Cela revient à estimer 0, 8, I et les coordonnées angulaires (ui, vi) des points caractéristiques, i étant compris entre 1 et n, nombre de points caractéristiques. Ces coordonnées angulaires sont mesurées à chaque tour par les équations de mesure de la forme: uim = V -vi(Osinuct)+ O cosut) vi (Ocos À t-O O sin u't) v = ln 1 + (Ocosu, t-Osin L t) vi o (uim, vim) est la mesure du point caractéristique de rang i. Dans ce cas O et 0 ne sont plus nécessairement des petits angles. Il est possible cependant de linéariser ces équations autour de la prédiction Le filtrage de Kalman Etendu s'applique alors sur un vecteur d'état à 2 n+ 3 paramètres au lieu de 3: (, 8, V, u 2, v 1, un, vn) La dynamique des positions des points caractéristiques est plus simple puisqu'il suffit de considérer ces points comme fixes. Au bout d'un certain nombre de tours, la position estimée du point repéré par (u P, vi) sera précise Il faut noter cependant que la connaissance des angles absolus 0, e et y n'est pas indispensable pour le recalage, en effet la connaissance des variations d'angles 0, e et YF suffit En revanche, elle améliore le pistage des cibles car elle permet d'utiliser un modèle de dynamique plus précis du fait que l'on dispose d'une estimation précise des angles. Enfin, une troisième variante permet d'améliorer l'estima- tion des paramètres de déformation à condition toutefois de tolérer un retard à l'estimation de ces paramètres En effet, le filtrage de Kahman ne tient compte que des mesures passées En tenant compte des mesures futures cette estimation peut être améliorée par la technique connue de lissage de Raugh par exem- pie dont une description peut être trouvée dans l'ouvrage de MM Labarrere, J P Krief et B Gimonet "Le filtrage et ses applications" aux éditions Cepadues, Toulouse Cela revient, en quelque sorte, à interpoler les paramètres instantanées de déformation d'image en s'appuyant sur des points de mesures situés de part et d'autre de cette colonne. REVENDICATIONS 1 Procédé de recalage continu d'images en veille panorami- que utilisant des points caractéristiques extraits de l'image courante ( 1) et des points caractéristiques prédits à partir de l'image précédente caractérisé en ce qu'il consiste à utiliser un filtre de Kalnan pour estimer les paramètres instantanés de déformation de l'image ( 5) à partir des mesures des écarts entre les points caractéristiques prédits et ceux obtenus dans l'image courante. 2 Procédé selon la revendication 1 caractérisé en ce qu'il consiste à prédire les paramètres instantanés de déforma- tion a priori ( 3) selon la technique du filtre de Kalman. 3 Procédé selon les revendications 1 et 2 caractérisé en ce qu'il met en correspondance par une méthode de pistage ( 4) les points caractéristiques de l'image en cours avec les points caractéristiques prédits à partir de ceux de l'image précédente et des paramètres de déformation estimés a priori ( 3). 4 Dispositif pour la mise en oeuvre du procédé selon l'une quelconque des revendications 1 à 3 caractérisé en ce qu'il est constitué d'un circuit comprenant au moins un proces- seur ( 12), un extracteur de points caractéristiques ( 9), une mémoire de programme et de travail ( 11) et une mémoire conte- nant la liste des points caractéristiques ( 10) reliés par un même bus ( 13).