Responsables scientifiques du DEA: Robert Azencott ENS Cachan Jean-Michel MOREL ENS Cachan

Professeur Robert AZENCOTT / Professeur Jean-Michel MOREL

ECOLE NORMALE SUPERIEURE

CMLA/Département de Mathématiques

61, av. du Président Wilson 94230 CACHAN

tel. : 01 47 40 59 06

DEA cohabilité par

Ecole Normale Supérieure (Cachan ) CMLA/Département de Mathématiques

Robert Azencott Jean Michel Morel Yves Meyer Laurent Younes

Université Paris - Dauphine Département de Mathématiques

Jean-Pierre Aubin Laurent Cohen Françoise Dibos

Ecole Polytechnique Departements Maths appliquées et Informatique

Stéphane Mallat Donald Geman

Ecole Normale Supérieure (Ulm) DMI

Michel Duflo

Extensions des cohabilitations envisagées pour 2000/2001

(avec 3 équipes collaborant au DEA depuis plus de deux ans)

Telecom Paris

Département TSI

Henri Maitre

Université Paris 5 Dépt de Mathématiques

Christine Graffigne

Université Paris Nord Institut Galilée

Alain Trouvé

APPARTENANCES A ECOLES DOCTORALES :

ENS Cachan : Ecole Doctorale de l'ENS Cachan

Secteur Maths Appliquées

responsables Robert Azencott et Jean-Michel Morel

Université Paris-Dauphine : Ecole Doctorale EDOMADE

Responsable Laurent Cohen

Ecole Polytechnique : Ecole Doctorale de l'Ecole Polytechnique

responsable Roland Sénéor

OBJECTIFS PEDAGOGIQUES, SCIENTIFIQUES, PROFESSIONNELS DU DEA

Le DEA comporte des cours théoriques assortis, pour la plupart, de travaux pratiques pour éprouver la validité des modèles et des algorithmes. L'examen peut consister en problème en temps limité et, sur demande motivée, en un projet sur ordinateur.

Sur le plan pédagogique il s'agit d'offrir une initiation cohérente et solide à tout un faisceau de concepts, modèles, et techniques mathématiques (ou informatiques) de haut niveau applicables à la vision, à la perception, à l'apprentissage, en focalisant le DEA sur des domaines de recherche très actifs : la vision artificielle, l'analyse automatique du signal et de l'image, l'émulation des comportements perceptifs ou adaptatifs de l'homme. Ce DEA se place donc dans la perspective du développement rapide et passionnant des mathématiques appliquées à la modélisation et à l'émulation de l'intelligence humaine, développement soutenu par la montée en puissance accélérée des sciences du cerveau.

Depuis dix ans, ces champs applicatifs importants attirent l'intérêt d'un nombre croissant de mathématiciens, liés à des domaines de recherche mathématique en pleine activité : analyse harmonique, analyse en ondelettes et traitement du signal, méthodes variationnelles et EDP en analyse d'images, relaxation stochastique, champs markoviens, géométrie algèbrique et algèbre effective en vision artificielle, théorie des déformations élastiques appliquée à l'imagerie automatique et à la reconnaissance de formes, théories de l'information et reconnaissance des formes, théories probabilistes de l'apprentissage, modélisations de textures et de backgrounds, modèles statistiques parcimonieux et réseaux neuronaux formels, modélisation de tâches intelligentes par minimisation de fonctions de coût complexes.

Au plan professionnel, des débouchés vers les grands laboratoires de recherche franco-européens, privés (Aérospatiale / Alcatel / Sagem/ General Electric / Matra / Philips / Siemens / Thomson / Xerox etc...) ou publics (CEA / CNES / INRA / INRIA / ISPRA / LETI etc...) sont évidemment ouverts aux bons thèsards ou étudiants doctorants formés dans un DEA de ce type.

Les débouchés vers l'enseignement supérieur s'orienteront d'une part vers les départements de Maths Appliquées, et d'autre part vers certains départements d'Informatique .

1^er Trimestre 99/2000 Cours Maths/ Vision

Françoise Dibos (Univ Paris Dauphine) Restauration d'images (Méthodes variationnelles)

Olivier Faugeras (INRIA) Géométrie et vision

Séphane Mallat (Ecole Polytechnique) Estimation/ Compression par ondelettes

Henri Maître (Télécom Paris) Initiation au traitement d'images et à la

Programmation

Yves Meyer (ENS Cachan/U. Paris-Dauphine) Ondelettes et analyse d'images

Jean-Michel Morel (ENS Cachan) Travaux dirigés d'analyse de Fourier et ondelettes

Alain Trouvé (Univ Paris Nord ) : Déformations élastiques d'images

Laurent Younès (ENS Cachan) Backgrounds et textures / Modèles

stochastiques d'images

1^er Trimestre 99/2000 Cours Maths/ Apprentissage

Jean-Pierre Aubin Yves Burnod Réseaux de neurones biologiques

(Univ. Paris-Dauphine et Univ. Paris 6)

Jean-Pierre Nadal (CNRS/ENS Ulm) Modélisation et inférence : physique statistique et

Isabelle Bloch / Christine Graffigne Imagerie médicale

(ENS Telecom et Univ. Paris 5)

Bernard Chalmond (Univ. Cergy) Imagerie X et tomographie industrielle

Laurent Cohen (Univ. Paris Dauphine) Modèles déformables en analyse

d'images

JP Guillois / C. Bernard Compression d'images

(Telecom Paris et Ecole Polytechnique)

Henri Maître (ENS Telecom) Traitement numérique des images

Jean-Michel Morel (ENS Cachan) Filtrage iteratif d'images et EDP

JM Nicolas (Telecom Paris) Imagerie satellitaire

2^ème trimestre 99/2000 Cours Maths/ Apprentissage

Michel Benaim (Univ. Cergy) Systèmes dynamiques / Apprentissage

Maris Cottrell (Univ. Paris 1) Analyse de données et techniques neuronales

Donald Geman Reconnaissance visuelle

Jérôme Lacaille (ENS Cachan) Apprentissage et réseaux de neurones

Jean-Jacques Slotine (MIT) Dynamique de l'apprentissage

J.-P. AUBIN - Y. BURNOD

Réseaux de nuerones biologiques

" Régulation des fonctions neuronales "

Le cours " Régulation des Fonctions Neuronales " offre une formation doctorale interdisciplinaire neuro-sciences / mathématiques afin de préparer les jeunes chercheurs ) explorer les domaines des neuro-sciences susceptibles d'être interprétables par des métaphores ou modèles mathématiques.

Le cours sera divisé en trois parties :

1. Neurones biologiques et évolution des systèmes neuronaux qui traitera des problèmes d'adaptation et d'apprentissage dans les réseaux de neurones biologiques, des réseaux de neurones pour la vision, , pour la motricité, de la comparaison des réseaux de neurones biologiques et formels.
2. Régulation des équations d'évolution qui traitera des équations différentielles et de leur théorie qualitative, incluant les problèmes de stabilité, de bassins d'attraction et de capture, des noyaux de viabilité, ainsi qu'aux équatins différentielles avec mémoire et d'une initiation à la théorie du contrôle et de la régulation des systèmes, à la théorie de la viabilité et à celle des systèmes hybrides et impulsionnels.
3. Approches mathématiques qui traitera de la propagation de l'influx nerveux dans les neurones (équations de Hodgkin-Huxley) et dans les réseaux de neurones. On proposera en plus d'une modélisation par des systèmes dynamiques purement continus une modélisation par des systèmes hybrides (continus / discrets) et impulsionnels dans le cadre de réseaux à seuil.

F. DIBOS

Restauration d'images (Méthodes variationnelles)

" Restauration d'images par minimisation de la variation totale "

Osher et Rudin ont été les premiers à proposer un modèle de restauration d'images par minimisation de la variation totale. Dans ce cours, on présentera d'une part, le cadre mathématique utilisé pour résoudre ce problème : l'espace des fonctions à variation bornée (définition, formule de coaire, rectifiabilité de l'ensemble des sauts) et d'autre part plusieurs travaux récents dans ce domaine : algorithmes de Chambolle-Lions, Ito-Kunish, Dibos-Koepler.

O. FAUGERAS

" Géométrie et Vision "

Résumé en préparation

S. MALLAT

" Estimation / Compression par ondelettes "

Traiter des signaux de grande taille tels que des images ou des sons nécessite de construire des représentation permettant d'approximer ces signaux par un petit nombre de coefficients. L'élaboration et l'analyse d'algorithmes non-linéaires est alors considérablement simplifiée. Le cours étudie des applications pour la compression d'images, le débruitage et la solution de problèmes inverses. Les sujets suivants seront abordés :

• Approximations linéaires et non-linéaires dans des bases ;
• Modèles d'images par fonctions à variation bornée ;
• Approximations dans des bases d'ondelettes ;
• Compression d'images ;
• Estimation minimax linéaire et non-linéaire pour le débruitage ;
• Déconvolution d'images .

H. MAITRE

" Initiation au traitement d'images et à la programmation "

1. Leçon : Propriétés statistiques des images

TP : Initiation au traitement d'images (logiciel xview)

2. Leçon : Echantillonnage

" Ondelettes et analyse d'images

Ce cours est motivé par les progrès récents en traitement de l'image (nouvel algorithme JPEG 2000 pour la compression des images fixes et débruitage des images SPOT). Il comportera deux :

1. Une approche des algorithmes multirésolution (ces algorithmes comprennent les algorithmes pyramidaux de Burt et Adelson, les algorithmes d'Ulso de " Knot removal ", les ondelettes, etc...
2. Une approche des algorithmes " temps-fréquence " (analyse de Fourier à fenêtre, transformée de W Wigner-Ville etc...)

J.-M. MOREL

" Travaux dirigés d'analyse de Fourier et ondelettes "

J.-P. NADAL

" Modélisation et inférence : physique statistique et théorie de l'information "

(Une introduction à la modélisation des mécaniques d'apprentissage et d'adaptation dans les systèmes naturels et artificiels)

Le cours a pour objectif de donner une introduction à la modélisation des mécanismes d'apprentissage et d'adaptation dans les systèmes naturels et artificiels, en mettant l'accent sur les approches basées sur la physique statistique, les statistiques (bayesiennes) et la théorie de l'information. Les concepts de ces disciplines utiles pour le cours seront introduits au fur et à mesure des besoins. Les thèmes principaux seront : théorie(s) statistique(s) de l'apprentissage (modèles de mémoire associative, classification supervisée, apprentissage d'une règle par l'exemple), modélisation du " codage neuronal " et applications au traitement du signal (analyse en composantes indépendantes).

A.TROUVE

" Déformation élastiques d'images "

Modèles déformables aléatoires et méthodes d'appariement en reconnaissance de formes.

Le problème de l'appariement de formes consiste sous sa forme la plus simple à chercher à apparier point par point deux objets d'une même classe à travers un difféomorphisme. Un domaine privilégié d'application est l'imagerie médicale pour l'étude de la variabilité des organes.

Classiquement, lorsque le difformorphisme est proche de l'identité (la deformation est petite), on linéarise celui-ci par un champ de déplacements reconstruit comme la solution d'un problème variationnel faisant intervenir un terme de régularisation et un terme d'attache aux données. Nous reformulerons cette approche dans un cadre statistique Bayesien pour lequel l'a priori sur le champ de déformations est donné par un champ gaussien dont la structure de covariance est dictée par le terme de régularisation. Nous développerons différentes approches pour le problème d'estimation associé. Dans une deuxième partie, nous développerons une approche non linéaire valable pour les grandes déformations et dans un cadre suffisamment général pour nous permettre de travailler directement sur les difféomorphismes. Le problème d'appariement devient alors un problème de calcul de géodésiques dans un groupe de Lie pour une métrique invariante. On s'attachera à préciser cette structure géométrique et l'on montrera que cette approche conduit à des algorithmes effectifs de calculs d'appariements. Enfin, nous

terminerons sur un certains nombre de questions ouvertes sur une interprétation Bayesienne de ce problème variationnel dans sa forme non linéaire.

Pré-requis: Les outils mathématiques nécessaires seront introduits au fur et à mesure notamment en ce qui concerne les champs gaussiens et les groupes de Lie. Une certaine familiarité avec la théorie des opérateurs auto-adjoints peut être utile mais n'est pas requise.

L. YOUNES

" Backgrounds et textures : Modèles stochastiques d'images "

La modélisation du processus de formation des images naturelles est u thème de recherche actuellement en important développement, avec des applications en analyse des scènes, détection d'objets et synthèse de texture. De manière très schématique, on met en évidence un comportement statistique " typique " des images naturelles, l'on veut ensuite caractériser, exploiter et éventuellement reproduire.

Ce cours se propose de fournir les outils nécessaires à cette approche, accompagnés d'un certain nombre d'application. Il contiendra les éléments suivants :

1. Notions de base en probabilité et statistiques : loi de probabilité, lodèles statistiques, maximum d'entropie, estimation, simulation ;
2. Techniques d'apprentissage de modèles
3. Analyse empirique d'images : filtres et hitogrammes. Propriétés d'invariances ;
4. Modèles de textures ;
5. Modèles d'images (arrière-plan).

COURS DU 2^ème TRIMESTRE

M. BENAIM

" Systèmes dynamiques et Apprentissage "

Résumé en préparation

L. BLOCH - C. GRAFFIGNE

" Imagerie médicale "

Ce cours présentera les principales techniques d'acquisition en imagerie médicale, et leurs spécificités pour les problèmes de traitement d'images et de reconnaissance des formes. Les applications abordées porteront sur l'imagerie cérébrale, la mammographie et l'imagerie cardio-vasculaire. Pour chacune d'entre elles, un certain nombre de techniques de traitement d'images seront présentées et illustrées ; Ces thèmes seront complétées par des conférences données par des intervenants extérieurs.

B. CHALMOND

" Imagerie X et tomographie industrielle "

Les problèmes listés ci-dessous englobent un large domaine de l'imagerie radiographique. Les méthodes exposées, bien que développées en secteur industriel, seront génériques et donc applicables à d'autres secteurs comme celui de la radiographie médicale.

Traitement de dégradation : la formation des images radiographiques est perturbée par des phénomènes de diffusé (transport des photons) et par un bruit lors de l'acquisition de l'image.
Détection : l'image contient des entités spécifiques que l'on veut automatiquement détecter. Reconstruction tri-dimensionnelle : à partir de plusieurs images radiographiques d'un même objet, il s'agit de reconstruire l'intérieur de cet objet.

Les solutions mathématiques et algorithmiques présentées reposeront le plus souvent sur une modélisation à base d'énergie directe ou continues.

L. COHEN

"  Modèles Déformables en Analyse d'Images "

Un modèle déformable est une courbe ou une surface élastique qui se déforme sous l'action de forces d'attraction vers les attributs recherchés dans une image. Ce cours montre comment l'utilisation des méthodes variationnelles et des EDP a permis, ces dix dernières années, de définir une nouvelle approche pour la segmentation, la restauration, l'extraction et le suivi de contours (snakes). Ces méthodes sont fondamentales pour le traitement des images (et des séquences dynamiques) médicales 2D et 3D. Elles constituent aussi un outil puissant d'aide au tracé et la reconstruction 3D, aussi bien pour des applications biomédicales qu `en imagerie aérienne ou industrielle.

M.COTTRELL

" Analyse de données et techniques neuronales "

• Introduction aux réseaux de neurones artificiels. Le perceptron simple, théorème de convergence, l'adaline ;
• Introduction aux méthodes d'apprentissage des réseaux de neurones ; méthode du gradient et du gradient stochastique ;
• Le perceptron multi-couches, l'algorithme de rétro-propagation du gradient, application à la régression non linéaire, aux séries temporelles. Détermination de l'architecture par des méthodes du style stepwise descendant. Exemples ;
• Analyse en composantes principales, analyse des correspondances ;
• Analyse canonique, analyse discriminante ;
• Introduction aux méthodes de classification classiques ;
• Algorithme de Kohonen, propriétés théoriques.
• Méthodes neuronales pour la réduction de dimension, alternative neuronale de l'analyse en composantes principales ;
• Analyse d'un tableau de contingence ou d'une table de Burt, à l'aide de l'algorithme de Kohonen, Algorithmes KOUPLET et KACM ;
• Application des méthodes de classification ) la prévision de courbes de charges ou de courbes financières.

D. GEMAN

" La Reconnaissance Visuelle "

J.-P. GUILLOIS

" Compression d'images "

J. LACAILLE

" Apprentissage et réseaux de neurones "

Ce cours constitue une introduction à l'utilisation numérique des réseaux de neurones. Le premier chapitre introduit brièvement la notion de neurone et celle de réseaux. On y rappelle aussi les quelques modèles classiques utilisés couramment par les numériciens et statisticiens. Le second chapitre présente des outils mathématiques permettant de mieux comrrendre la dynamique des réseaux. Il s'agit d'un début de théorie de l'apprentissage , mais appréhendée du point de vue de l'utilisation des réseaux de neurones.

Le chapitre trois développe le thème des réseaux déterministes. On commence par une étude simple de perceptron, puis des réseaux feedforward multicouches. Pour finir on propose une méthode d'apprentissage des réseaux récurrents.

Le chapitre quatre présente les réseaux stochastiques et les méthodes d'apprentissage adaptées aux machines de Boltzmann synchrones et multiconnectées. On étudie les convergences de ces algorithmes et les possibilités d'implémenter efficacement des modèles séquentiels en utilisant une méthodologie de parallélisme partiel.

Alors que les trois chapitres précédents présentent des réseaux classiques mettant en oeuvre des méthodologies d'apprentissage supervisés les dernier chapitre traite de l'auto-organisation des réseaux de neurones ; On rappelle les découvertes de Linsker sur le système visuel et on donne la méthodologie de programmation d'une extraction de composantes principales d'un échantillon de données.
Une annexe bibliographique permet à l'étudiant de mieux se repérer dans ses recherches.

H. MAITRE

" Traitement numérique des images "

Cet enseignement a pour objectif de présenter les techniques de base du traitement numérique des images et particulièrement les outils les plus couramment utilisés pour améliorer l'image (contraste, bruit), détecter et reconnaître les structure principales qui la composent (contours, textures, zones) et les décrire pour une application future, quelque soit son domaine (satellite, médical, industriel, etc.). Cet enseignement doit permettre à l'étudiant de résoudre complètement un problème de traitement d'images avec les outils existant aujourd'hui, il permet également d'aborder de façon critique la littérature spécialisée. Enfin, il remet dans le contexte du traitement des images des outils vus par ailleurs dans le DEA : ondelettes, représentations échelle-espace, équations de diffusion, champs de Markov, réseaux neuromimétiques, théorie de l'information, etc.

Cet enseignement fait appel aux travaux pratiques pour asseoir la présentation théorique sur une expérimentation concrète. Il s'appuie également sur une large base d'applications dans des domaines variés des sciences de l'ingénieur qui sont présentés en illustration.

1. Introduction à l'image numérique : les images, les acteurs, les moyens, le contexte. Les prétraitements d'images : augmentation du contraste, amélioration , suppression du bruit, traitements photométriques et colorimétriques ;
2. Morphologie mathématiques : les bases de la MM en N&B et en niveaux de gris ;
3. Travaux pratiques de Morphologie Mathématique (sous Khoros) ;
4. Travaux pratiques : traitements photométriques colorimétriques, prétraitements, amélioration, estimation robuste (sous Khoros) ;
5. Détection de contours, contours actifs. La théorie de Canny et ses variantes, Rôle des contours dans le traitement des images, poursuite et fermeture de contours ;
6. Segmentation par zones, méthode par histogramme, partage et réunion, croissance de région. La théorie de Mumford et Shah, le MDL (Minimum Description Length) ;
7. TP : détection de contours, segmentation (sous Khoros) ;
8. Description , analyse et synthèse de textures ;
9. Descripteurs de forme, codage de Guzman, de Freeman, descripteurs de Fourier, transformation d e Hough, classification des formes ;
10. Traitement des images en couleur ;
11. Travaux pratiques sur les traitements géométriques dans les images (sous Khoros).

J.-M. MOREL

" Filtrage itératif d'image et EDP "

Dans ce cours, on donnera une brève présentation des philtres les plus employés en traitement d'images classique linéaire et en morphologie mathématiques. On examinera les conséquences mathématiques du " principe d'invariance par changement de contraste ". On montrera que l'on peut classifier les filtres classiques (et quelques nouveaux) par leur comportement asymptotique et que leur itération est régie par une équation aux dérivées partielles non linéaire. On discutera ces équations et on donnera les éléments de la théorie d'existence et d'unicité par la méthode des solutions de viscosité. Le cours sera assorti de travaux pratiques. Pour permettre un plus ample accès aux étudiants de formation informatique, l'examen aura deux formes possibles : problème en temps limite ou remise d'un petit mémoire, théorique ou expérimental. Un polycopié illustré, écrit en anglais, sera remis aux étudiants.

Les TP sont asssurés par Lionel MOISAN.

J.-M. NICOLAS

" Imagerie satellitaire "

Ce module a pour but d'effectuer une présentation globale des satellites d'imagerie existants (visible, radar, IR), d'analyser les moyens et les techniques mises en oeuvre dans ces systèmes d'imagerie et de montrer leurs diverses applications : surveillance de l'environnement, météorologie, cartographie, archéologie, renseignement militaire... il s'attachera à souligner les problèmes spécifiques à chaque technique d'imagerie, et à montrer, au travers des applications, les techniques utilisées. Il vise à donner une formation pour de futurs ingénieurs R&D de groupes industriels impliqués dans le domaine de l'imagerie satellitaire (Aérospatiale, CNES, Dassault, Matra, Thompson).
Programme :

• Les satellites : mécanique satellitaire, choix d'orbite, contraintes physiques et technologiques, planification de mission d'imagerie.
• Imagerie dans le domaine visible et Infra Rouge : Présentation des différents satellites existants (SPOT, LANDSAT ? NOAA, Meteosat,...). Problèmes liés aux capteurs et à la propagation dans l'atmosphère, recalage et reconstruction. Problèmes liés à la géométrie du système pour des applications de stéréovision. Modèle numérique de terrain. Application en analyse de texture : classification, analyse multispectrale, fusion de données. Application en cartographie : Analyse de scènes, reconnaissance de primitives (routes, côtes, fleuves...), extensions à l'imagerie aérienne et aux futurs systèmes imageurs satellitaires métriques.
• Imagerie radar : présentation des différents satellites existants (ERS1, JERS, SIR, Radarsat). Problèmes liés aux capteurs, à la polarimétrie, à la propagation dans l'atmosphère, aux lois de réflexion, au chatoiement (speckle). Principe du radar à ouverture synthétique (ROS). Reconstruction des images. Traitements et filtres spécifiques. Images d'interférométrie : principes de la construction de telles images, extraction des informations, utilisation et exploitation.
• Les SIG (systèmes d'informations géographiques) : applications et réalisations, perspectives.
• Etude de problèmes spécifiques liés à la cartographie (géoréférencement, géodésie,...°

J.-J. SLOTINE

" Dynamique de l'apprentissage "

1. Introduction et motivation : robotique, filtrage adaptatif, physiologie du mouvement ;
2. Stabilité et convergence des systèmes dynamiques non-linéaires ;
3. Robotique adaptative ;
4. Apprentissage de la coordination vision-manipulation ;
5. Diffusion anisotropique sur images video, filtrage non-linéaire temps-espace.