Groupes de déformations et appariements de formes G.D.R. Mathématiques des systèmes perceptifs et cognitifs Vendredi 10 Mai 1996

Alain Trouvé

Soit f : [0, 1]^{2} → ℝ une image considérée comme modèle que l’on veut apparier point par point avec une image observée f̂ au travers d’un champs de déplacement u : [0, 1]^{2} → ℝ^{2}. Les techniques classiques de recherche d’une solution au problème d’appariement sont des techniques de minimisation d’une énergie W (u) de la forme

W (u) = ∫ |f̂(x) − f(x + u(x))|^{2}dx + \frac{1}{2}||u||^{2} (1)

où ||u|| est une norme ad-hoc de contrôle de la régularité de u (ex: ||u||^{2} = ∫ (Δ^{2}u_{1})^{2} + (Δ^{2}u_{2})^{2}dx (modèle de plaques élastiques)) le plus souvent construite sur une norme de Sobolev. Le premier terme contrôle l’attache au données. La formulation 1 présente un avantage et deux faiblesses. L’avantage est que la variable u vit généralement dans un espace de Hilbert ce qui place le problème de minimisation dans un cadre agréable. Les deux défauts sont que l’application ϕ(x) = x + u(x) n’est généralement pas à valeurs dans [0, 1]^{2} ni même et surtout inversible dès que les déformations en jeu sont “grandes”. Ces deux “défauts” cachent en vérité un problème mathématiquement plus profond qui est que l’objet naturel que l’on recherche est un difféomorphisme de [0, 1]^{2} qui vit dans un groupe G est non dans un Hilbert. R. Azencott a proposé d’énoncer le problème 1 en la variable ϕ et de voir le terme ||u||^{2} comme la linéarisation au voisinage de l’identité de d_{G}(Id, ϕ)^{2} où d_{G} est la distance invariante à droite sur G engendrée par ||.|| vue comme une métrique sur l’espace tangent en Id de G. Nous proposons une mise en place rigoureuse de cette idée énoncée dans un cadre formel de groupe de Lie de dimension infinie, notamment la construction d’une distance invariante à droite d_{G} à partir d’une métrique “admissible” sur u (essentiellement ||u|| contrôle en norme sup u et ses dérivées premières). On définit sur le groupe G (qui est un sous-groupe des homéomorphismes) une structure faible de variété de dimension infinie sur laquelle on énonce le problème d’appariement comme

(2) Trouver ϕ̂ = argmin ∫ |f̂(x) − f ∘ ϕ(x)|^{2}dx + \frac{1}{2}d_{G}(Id, ϕ)^{2}.

Nous montrons alors l’existence d’une solution ϕ̂ dans G et nous proposons un algorithme sous-optimal d’estimation de ϕ̂ fondé sur un algorithme de gradient exprimé dans G. Nous illustrerons cette nouvelle approche dans un travail numerique de calcul d’appariements impliquant des déformations importantes. L’algorithme écrit dans le logiciel Matlab construit à partir de la donnée du modèle et de l’observation un appariement automatique. Nous discuterons en particulier le problème du choix de la métrique || || admissible pour les déplacements infinitésimaux.