Vous êtes sur la page 1sur 32

J Phys.

Ivfrance 12 (2002) prl-3


© EDP Sciences, Les Ulis
DOT 10 1051/jp42002001

Problkmes inverses en traitement du signal et de l'image


G. Demoment

Laboratoire des Signaux et Syst4mes, UMR 8506 (CNRS/SUP£LEC/UPS), Sup61ec,


Plateau de Moulon, 9f f92 Gif-sur-Yvette Cedex, France

Table des matikres


ou
bien encore
fr6queniielle, d'une g<andeur scalaire ou vec-
ionelle, k pariir des direcies indirectes La
~ , '~~~° ~ "~~'°" ~ mesures au carac-
iknsiique commune de tels probldmes esi qu'ils sent sou;eni
mat-posbs au mat-condiiionn4s Nous passons des
2 °~"~ ~~~~'P~~~ 4
en revue
rdsultais maihdmai>ques de base sur ces
probldmes inverses
2 Restauration d'image 4 et iniroduisons d'abord )es caractknsiiques
naus tout essen-
2.2 Synth~se de Fourier. 6 tielles de la ihkone de la rkguiansaiion Puis, utiisant une
nouvelle approche de la ihAone de l'information et des ouiils
3 Aspects mathkmatiques 6 gkndraux de l'analyse con;exe, nous montrons que beaucoup
3 1 Probldmes mal-posks 7 des cntkres de r4gulansaiion exisianis, qui ant ktk introduits
3 ~ j~~~~~~~~ ~~~~~~j~~~ ~
dans la hiikraiure par des approches ir~s ditfdrenies, peuveni
~ ~ ~ .~. ~. ~°~
dire inierprk16s comme des cas pariiculiers d'une entropie,
"~~~ "~ ~
malgrk leur apparenie divers>t6 Finalement, nous discuions

~ ~~ ~" , ~"~~~'°'~
de ses limitations et nous pr6senians l'approche bay4sienne
~~
qui permei d'iniroduire des propriktks gkomktnques locales
~ ~°~~~~~~ d~ d~'~~~S~°~ ~l
k I aide des champs de Markov et des fonciions d'knerg>e lo-
4.2 Minimisation d'un critdre Composite 13 cafes assoc>kes, et qm otfre sans
douie )es rkponses )es plus
4 3 Choix du Coefficient de rkgularisation IS complkies aux divers probikmes renconirks tars d'une inver-

sion
5 Rkgularisation, information, et entropie 16
5 1 Maximum d'entropie sur
la moyenne 16
5.2 Quelquesexemples 17
1 IntrodUction
5.3 Prise en Compte du bruit 18
Dans de nombreux
domaines de la phjstque apph-
6 Approche bayksiertne de l'inversion 19 quAe tels l'opiique, le radar, la ihermique, la spec-
que
6.I Inverston et infkrence statistique 19 iroscopie, gAophystque
la l'acousiique, la radtoasiro-
6 2 Infkrence (I) vraisemblance 19 nomie, le conir61e non
desiruciif, le g6nte biomddical,
6 3 Infkrence (2) rdgle de Bayes 21 l'instrumentation et l'imagerie en gAn4ral, nous sommes

6 4 Approche bayksienne de l'inversion 21


confroniks au
probldme de la dktermination de la dis-

6 5 L~~~~ i~~ ~~~~~d~~ d~~~~~~~~~~~~ tribuiion spabale d'une grandeur scalaire au veciorielle
~~~~ ~~
~ ~ ~~~~~~ on
parle souvent de 1°objet h pariir des mesures
~-~ ~~ ~~ ~~~~~~~ ~~
~~~~~ ~~~ ~ ~~ .~~~~'
direcies on parle alors d'image indirecies on
~ ~ ~~ ~ ~~~ ~~ ou

~'~ ~[j parle alors de projections dans le cas de la tomographie,


~
~~ ~ ~"~" ~~
~ ~ $ ~~ ~~)~~~~~
[
~~
par exemple
b14me d'imagene peui dtre
de cet objet La rAsolutiot1
habiiuellement
d'utl tel pro-
dkcompos#e
~ ~~ p ro mesa gorit ~ miques 28
~~ rots e.~ apes j~~ ~~j
,

~ ~~ ~;~ ~~ ~ ~,~ utl


probld me dined oil, connaissani l'objet et le mkca-
~ ~ ~~
msme
d'observation, on Atablit une
description mathA-
~ ~~ ~ ~ ~ ~~~~ ~~
~~$~~ matique des donnAes observkes Ce modAle dolt dtre as-
~ ~ ~ ~~ ~ ~~
~'~ ~~ ~~~P~ sez prdcis pour fourtlir description
utle correcte du ph4-
~~
nomAne physique d'observation, et assez simple cepen-
dant pour prdter h traitement numknque ultdrieur,
g ~ °~'~ ""°'~ ~~ se un

utl
probldme d'inlrvmenlafion oil l'otl dolt recueilhr
Rksumk Dans de nombreux domames de la phy- des plus
dot1nAesinformatives possibles afitl de rA-
les

sique appfiqu4e, nous sommes


confrontds au prob14me de la soudre le problAme d'imagerie dons les meilleures condi-
deier<ninaiion de la distribution temporelle, o,i
bien spatiale, Lions,
Prl-4 JOURNAL DE PHYSIQIJE IV

un
probldme inverse off l'on dolt calculer une image et l'image est reprAset1tke par le vecteur ~
des M va-

acceptable de l'objei h partir du mod#le et des donnkes leurs des intensiiAs des pixels Dans tous problAmes
les
prkckdetlis de traitemeni d'tmage #voquAs dons 1°introduction,l'ob-
L'obtention d'une bonne nAcessite Avidem- jet d'mtkr@I ne peui pas dire observk directemetli et dolt
image
trois sous-problAmes soietli 4iudiks de dire dkiermink I pariir des donnkes mesurdes pour Ali-
merit que ces

mamdre coordonnAe Mais la caraciAnsiique miner


les dAfauts du m6camsme d'observatiotl
commune

de ces
problAmes de reconstruction ou
de resiaura-

lion d'image esi qu'ils sent souveni mal-posks ou


mat- L'exemple pariicuher de restauration d'image que
condiiionn4s LesproblAmesdeplushautmveauquel'on nous
allons suivre se rencontre en
gAophysique (plus
renconire vision ordinaieur, tels que la segmen-
prkaskment en
rdflemon sismiqlte), en contr61e non des-
en par
ration d'image, le traitemetlt du flat opUque, la recons-
iructif par ultrasons, ou en
kchographie mAdicale Le

truciion de formes i1 partir d'ombrages, sent aussi


des ProblAme Psi schkmaiisk I la Fig I.

probldmes in~erses et ils souRreni des m%mes difliculiks

11, 3, 43] ?
II schAmatiquement,
existe, deux grandes cominu-

nauiAs scientifiques qui s'inikresseni h ces problAmes in- gcophancs


verses, d'un point de vue mkthodologique
celle de la physique maihdmatiqve, que l'on peui rat-
iacher aux iravaux fondaieurs de Tikhonov dans les an-

nkes 1960, dent PC Sabaiier rut un des pionniers en

France (avec son ATP du m4me nom), et dent une revue

reprAsentative est Inverse problems,


celle du traitemeni stafishqve des donndes, que l'on
peut rattacher aux travaux de Franklin I la fin des an-

nkes 1960 jig], dent les frdres Geman ant constitud les
p~~~~~ ~ ~ ~~ j~
~~~ ~~~~~ ~ ~~_~~~~~~~~
accklkrateurs en inditement d'image il y a une quinzaine
d'annkes [21], et dent une revue reprksentative esi IEEE on veut obtemr une image en coupe des disconti-
Image Processing
Transactions on nuiiAs d'un milieu d'inikr%I (le sous-sol en
l'occurrence)
On peut dire, trAs grossiArement, que les uns
abordent caractkrisk par des couches homogAnes skparkes par des
le problAme en dimension infinie, avec les questions interfaces rkguh#res et sensiblemeni honzontales Utle
d'exisience, d'uniciik et de siabilitA qui devienneni irks source, placAe Ala surface de skparaiion du milieu d'avec
comphqukes avec
des problAmes directs non
linkaires, et l'extkrieur, engendre une onde acousUque qui se propage
lerksolvent numkriquementen dimensionfinie. alors que dans le milieu et est partiellement rdflkchie h la traver-
les autres partent d'un problAme dent la discrktisation ske de chacune des interfaces Les ondes renvoydes vets

Pst d4jilfaite et non remise en cause, et profitetlt du ca- la surface sent mesurkes par des traducteurs (gkophones,
racmre rim du problAme pour iniroduire une information capteurs pikzoAlectriques), et le problAme est de recons-

a priori klaborke au iravers modAlesprobabilistes


de iruire une carte des interfaces du milieu h pariir des
Nous nous proposotls d'indiquer dans ce cours quels dchogrammes ainsi
obtenus
sont, de notre point de vue, l'Atat de l'art et les ques-
tions ouvertes dons le domaine de la rAsolution des pro-
bl~mes inverses, en
accordant une place importanie aux

approches probabilisies

j
2 Deux exemples j
j
2.I Restauration d'image ~

a
Le prohlAme de la restauration d'une image dAgra-
dAe par le processus d'obser~aiion Aiant frAquemmeni
rencontrk en astronomie, nous le choisissons comme pre-
mier
fit directevr afin d'illustrer les ditfArents concepts
qui seront introduits darts ce cours
~ ~~ z~ ~ ~o so eo
Utle image est gknAralement dAfime comme utle
fotlc- ~~'~~~'"~~

bon scalaire de deux variables appartenant h une rA- ~~~ ~_ c~d~ d~ wfl~~~~~~~i ~di~j~
gion donn4e de l'espace Bien que ce support soil sou-

vent contmu,il est habituellement kchantillonn# sur une


La Fig 2 montre un
exemple de carte de rAflectmitk
grille rectangulaire Cea dkfimt un
ensemble de pixels, idkale, avec
le mode de reprAsentation communAmet1t
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS HI -5

employk par les gkophysioens L'abscisse reprAsente la


direction horizoniale et l'ordonnke le temps de propaga-
tion alter-retour Par convention, la surface du milieu est

en
haul de la figure Chaque trace verticale repr4sente
la variaiLon relative d'impkdance acousiLque du milieu, j
h la verticale du point considkrk en
surface Pour un ml- I
iLeu de nature, il s'agii
cetie essentieliement d'uit signal (
partout nut (traversAe de couches homogAnes) et f
presque
comprenani quelques impulsLons, posiiLves ou nAgaiives,
I
la tra;erske des interfaces
I

o to 2C 30 #C so e0
Se,s,mc«we#

FIG 4~ Sismogrammemesuri
j
( numAnquement l'kquation hnkaire II), connaissani l'on-
< delette (matrice A) et les donnAes mesurbes (~ecteur y)
II s'agii donc d'inverser JR probl~me Comme z et y ne

sent pas nAcessairement de mime diinension, une


idke
naturelle est de mmimiser un cnmre des moindres car-

r#s de la forme

£T(z) =
G(v A xl =
llv A xii] (2)
.i, Jo .s o s to is
T,r~(nw)
La solution des moindres carrks ou
de norme
mimmale
FIG 3 Ondeleife se propageant s'Acni

~'~~ l~~~l ~~Y ~~~ ~~Y i~~


Les ph4nomdnes depropagation d'une onde acous-
°~

tique dans un LPI milieu sont complexes mais, sous


selonquelamatricenormaleA~AesirkguhAreouqu'elle
les hypothAses habiiuellemeni faites (linkartik des phk- n'admet qu'une inverse
gknkraliske At Ce choix semble
nomAites, propagation dans la seule direction verti- d'autant plus raisoitnable que, sous
l'hypothAse d'un
cafe), moycnnani un Aveniuel prk-iraiiemeni des don- bruit blanc et cenirk, la solution esi aussi un esiimateur
nkes (sommafion de point-milieu en
rAflexion sismique sans hiais et I variance
mmimale, proprAt4s souveni re-

par exemple), on
constdAre que l'Achogrammemesurk est cherchAes en statisiique
la convolution de la rkfleciivitk idkale du milieu ~ par
l'ondeleite acousUque qui se propage (un exemple d'on-
delette est donnk h la Fig 3) L'objet z et les mesures

y sotlt done rel16s par une kquahon de convolution

Y"Az+b, II)

dans laquelle A est la matnce de convolution dent les


lignes sotlt constituAes de versions dAcalkes de l'onde-
leite, et b un ierme d'erreur, ou
de bruit, reprAset1tat1i
les incertitudes de mesure et les erreurs
d'approxima-
Lion du problAme direct La Fig 4 donne un
exemple
typ<que de sismogramme mesurk, obtenu par simulation
t1umArique h partir du meddle (I), avec un
bruit pseudo-
alAatoire gaussietl et blatlc

L~s grandes structures du milieu sotlt clairemetlt vi-

sibles~ ma<s
la r#solution spahale de ce
mode d'imagene ' '° I<«e« '° ~

<tlsutfisante observer les petites structures La


est pottr
~~~~~ ~~ ~~~ ~~ ~°~~~~~ ~l~~~~~~ ~~~~~~~ ~~ ~~°~~~~~~~~ °"' FtG 5 Solution des momdres c«rrfs
cc qitt revtent au mime, son
support temporel trap long
Les expAnmentales permettant guAre Le rksultat dans notre exemple est tndtquA >la Fig b
contratntes ne

de modifier setlstblemetlt l'otldelette darts type d'tma- Aucutle amkltoratiotl tl'est obtenue, hien au contraire
ce

acoustique, l'tdke vtent naturellement h l'esprit (es structures spattales qut apparaissent sent sans rap-
gene qut
aiTt#ltorer larksolutton du dtsposttifest de rksoudre port a;ec
celles de l'ohjet rAel de la Fig 2 et, de plus~
pour
Prl-6 JOURNAL DE PHYSIQIJE IV

l'amplitude des rAflecteurs dkpasse, en


de nonibreux en- y [yi, =
expAnmentales,
,yN]~ ies domikes
drains, plusieurs dizaines d'umtks alors qu'elle devrait .K(v) la (TF) cherchAe (on
trat1sformAe de Fourier
dire en
module infArieure I l'unttA Cette solution est s'mtkresse en
fait plut6t b [,Y(v)[~), et
done iitacceptable zk
II Xiv) exp(2j~tkv) dv les coefficients du dA-
"

veloppement en s4rte de Fourier de X(v) qui esi pkrio-


2.2 Synthkse de Fourier dttlUc

Pour illusirer les ditf6renis concepts utilisAs dans cc


°

cours, nous
utilisons un second fil directeur, coitstitu@ ~
du problAme de l'atlalyse specfrale qui a
fait l'objet des nz -,o

travaux pratiques assoaAs ce cours [61] Cc problAme, z


qui s'apparetlte aussi celui de synthdse de
la Fourier ( _~

renconirk en
radio-astronomic par exemple, tl'esi pas ha- f -3°

biiuellemeni abordk comme un


problAme inverse Nous
_~

verrons
cependant qu'il gagne k l'otre, et que l'inversion ° °°~ °' °'~ °~ °" °~ °~~ °~ °~ °~

confond, finalement, l'infArence F~Aq~~~~~ ~~12~tt~~


se avec

Le signal h frailer esi iypique de ceux quo l'on peui FIG 7 Specire fhdoriqve dv signal d analyser
recueilhr en
inierfAromkirie opiique visible, par exemple
Le problAme esi de dkierminer le nombre de raies dans le L~ Probl#lTte d'analYse SPecira'e Petit dire atnsi for-
mulA j29j
specire du signal analysk, leur position, leur amplitude
leur.< largeur », bref d'effectuer une estimation specirale, ~~~~~~ ,,~~j jj
~ ~ j~
c'esi-A-dire esiimer ' '

I q xk = yk k =
1, 2, N (4)
~~~~~ ~~~~~~~~~~~
' On pourraii aussi 1° rechercher le nombre de sinusoides
parUr d'une mesure imparfaiie de ill) (support de et 2° esiimer leurs frkquences et leurs amplitudes, ce

mesure
hmit4, bruit de mesure, «
fond »
variable, eta que nous ne
tenons pas pour l'instant Laformulation cl-
dessus diffAre de la formulation habituelle des mkthodes
dines modernes qui consiste k rechercher la densitk spec-
2
trale de puissance d'un processus alkatoire h partir de y
4§ considkrk fragment de trajectoire
comme un Elle s'ap-
4 ,

Parente plut6t k celle des probldmes de synthAse de Fou-


j o
Tier
dAjh Avoquks RemaTquons aussi que cette formu-
,
lation est conimve-discrdte puisque l'on recherche
~ une
~~ fonction X(v) I partir d'un nombre rim de donnAes dis-
~° ~
° '° ~° " *
crAtes y
Indice des Achantillons
jj ~~~~i~ ~~~d~~~~~~i ~~~
~~~~ t ~.C ~ ~ S°
j ~ "llS ~ j~~
FIG 6 Signal d analyser Puisque la skrie des ~k connus esi ironquke Le problAme
esi done mdiiermmd Tousles prolongemenis de la suite
Ce signal. doni le graphe est iracA la Fig 6, est d~~ ~~ ~~~~~~~ j~ ~~ j~ .~~ ~
~~~~~~ ~~~ ~~~~~~ ~~~~
bien connu
de la communauiA des iraiteurs de signaux F~~~j~~ xj~) ~ ~~
=
~~~(_~~~?j ~~~~ ~~~~)~$j~~
puisqu'il fur uiilisA dons un
cAlAbre article de synihAse ~~~~~~~i~j((~~~~ j~~ ~~~~. ~~
~~~~~~ ~ ~~ ~ ~~~~~ ~ ~ ~~
sun l'analyse specirale au
dAbui des annAes 1980 [37] II
Ces deux exemples sent typiques des difliculiAs Ten-
~~~ ~~~~~~~~~ ~~
contrAes dans la rAsolution de nombreux prob14mes
d~~~ ~~~~~~d~~ d~ ~~~~ ~~~j~~~ ~~ ~~~~ j~~ in-
~~~~
~' ~~ ~~ ~~°~P°~~~ ~'~~ ~°~°~P~~~~~~ ~~ ~~~~~~
frAquences sent s4parAes d'un longueur in-
intervalle de
~~~~~~
~l' ~~

avant d #tudier les solutions permeitani de les contour-


f~~j~~~~ jj~~~~~j~~j~~ ~~~ ~~~~~d~~ ~j~~~~~~~ ~,~~~j~~
~~~
spectrale
d'une troisiAme s1tlusoide bien sAparAe des deux pre-
miAres
'
mais
dont la puissance est mfkrieure de 20 dB h 3 Aspects ~~thfi~~ti ~jUeS
j a j eur, «

d'un bruit colorA par passage d'ut1bruit blanc gaus, Nous plus bas dans chapitre je
verrons ce que ca-

sien
pseudo-alAaioire darts utlfilire I moyetltle ghssante ractAre inacceptable de la solution des momdres carrAs
(ou filtre I rAponse itTipulsiot1t1elle finie, ou encore
filtre obtenue dans tlotre premier exempje est la consdquence
&lA), de marl#re I comp[iqUer l'ana[yse dU condtlionnemenf de la mairjce A
manuals qui a pour
L'kiude du track de ce signal monire clairemeni un bai~ effei d'amphfier fortemeni le bruit a%ectant ies donn4es
tement entre les frAquences des deux sinusoides les plus llais il est important de comprendre que ce njauvais
proches Son spectre thkonque est indiquA h la Fig 7 conditionnement est la consAquence d'une diflicuit4 ion-
On note damentale de la rksolution des probmtTies diffi-
inverses,
ANALYSE DES DONNEES EN SCIENCES DEL'UMVERS Pr1-7

cultk dAji prAsente dans le probldme continu initial dont (5) peut alors Atre rdkcrit comme
l'kquation (I) est une approximation discr#te
~ ~~ ~~~~ ~ ~ y ~~ ~ y ~~j
,

oft ~ et y sont maintenant des AlAments d'espaces fonc-


3. I P~°bl~°l~S °l~'~P°S~S de dimension
tionneh infinie.K et i', respectivement, et
~~d~~~~~ ~jfi~~ j~~ ~~~~~~~~~~ off A X l'opArateur linAaire correspondant h
~ i' est
~ ~~~~ ~~>~~~ ~~~_
~j~~~ ~~j~~~~j~~~~ ~~~j ~~~~_~~~~
l'Aquation intAgrale de preniidre espAce (5)
~~j ~~~~~~ d~~~~~ ~ d~~~ ~j~~~ d~fi~~~
Suppmons que ~ et y appartiennent au m#nieespace
~~~~ ~~~

y ~j ~~~~~~ ~~j~j~~~~ ~~~~ ~j~~~ ~~~~~~~~~ ,-


de Hilbert et que h SOIL de carrA intAgrable, condition
~~~ ~ ~~~

~~)~~j~~~~~ rernplie par beaucoup de systAnies d'iniagerie Le pro-


j~,(j~~~~~ ~~j b14nie direct est alors bien-posA petite dz
~~~ ~~~~~~ ~~~~ x ~~~~~~jij une erreur

j~~ j~ d~~~~ d~~~~ ~~ ~ ~~~ ~~~~~~~ ~ ~ ~~~ j~~~~~~~ sur


)es donnkes entraine une petite erreur
dy sur la solu-
~.~~j_~_~~~~,~~~~~~
~~ j~~~~~~
j,~~~~~~ j~ ~~~ j~ d~~~~~ ~ j~~j lion Cette condition n'est cependant pas reniphe dans
~~~~ j~ ~~~~~~~ j~ ~~j~~~~~ ~~~d le prohldnie inverse
correspondant oft c'est l'objet z qui
~~~~ ~~~ ~ ~~~~~
dolt dire calculk h partir de la rkponse y A~~ y En
~~~~ ~~~~'~~~~~~~~~j~~ ~ =

~,~~~ ~~~~~ d~ ~~~~~~~~j~ ~~j ~~j~~~ ~ ~~jj~ d~ ~~_


effet, [es conditions nAcessaires et suffisante~d'existence,
d'unicitA et de continuitk de la solution s'Acnvent alors
~~j~~~ ~~ d~ ~~~~~~~~~~ d~ j~ ~~j~~~~~ ~~ ~~~~i~~~j~
cependant une condition nAcessaire, ~~~P~~~~~~~~~~
est trials pas suf-
fisante, de stabilitk Un problAnie bien-posA peut Atre i'= Ini(A) Ker(A) =
(0) Ini(A) =
Ini(A) (7)
mat-cotiditiotind, ainsi que nous le verrons 3 3.
au ~% i~( Aj ~~~ j,~~~g~ ~~ ~ (~,~~~_~_d~~~ j,~~~~~bj~ d~~ y
Tous )es problAnies classiques de la physique niath#-
~~~ ~~~~ ~~~~~~ d>~~ ~ ~ xj ~~~j ~j ~~~ ~~~~~ j~,~~~_
rll~tlqUe, C°rllrlle Ce'Ul de Dlrlch'et P°Ur 'eS AqUat1°rlS I-dire l'ensenible l'dquation Ax
des 0), solutijns h =
ellipt.iques, ou
celui de Cauchy pour [es Aquations hyper-
~t q j~ ~~~~~j~~~ ~~ j~~ ~~ Q~~~ d j~ ~~y~~ h
boliques, sont bieu-posbs au sens de Hadamard Mais )es d~ ~~~~~ ~~~~ ~~~i~j~ jh~~~j~~ d~
probldnies inverses obtenus I partir d'un probldnie
~~~
) j~ b~~~~ ~j ~~~~~~~ j4~j
~~~~_~~~~~~j ~~_
.< .>, d~~~~~ ~~~ j>~~~~~j~~~ ~~j M~~~
direct en dchangeant )es roles de la solution et des
.< » j,~~~ ~~ ~,~~ ~~d~~t~~~ ~~~p~~j ~,~~j p~~ f~~~~~ (~~~f
d°rlrlAes> rle S°rlt gArlAr~'erllerlt P~S blent"P°SAS dans le dimension finie) Ceci
cas dAgAnbrA oil sa est
Prenons un exeniple dldmentaire enipruntd h l'op- signifie que l'opArateur inverse
A~~ n'est pas horrid, ou
tique classique. Si la distribution d'knergie T est donnAe stable, son image n'est pas ferniAe, et la troisidnie condi-
dans le plan objet d'un instrument optique et [es lion de Hadaniard n'est reniplie pour le probldnie
si ca- pas
ractAnstiques de l'instrument soul connues, il est pas- inverse
sible de calculer la distribution d'Anergie y darts le plan Ces difficultds derneurent dans le problArne syrndtrisd
image Dans le cas de l'optique de Fourier, on trouve
~* ~ ~* ~~
~ j~~
une
relation hnkaire entre x et y

~ j~ '~ i~
II ~~~ ~
~i ~>j ~j~ ~j ~~ ~~i j~~
off
<
A*
Ax, y
cst l'opArateur
>=< ~,A* y >
adjoint
pour
de
tout
.4,
~
et
E «K et
done
y E Y
tel que
Le
' ' '
syrnbole < > reprksente bien s0r le produit scalaire
,

d,. equa j de ~ d~ d
utilisA dans [es espaces de l'objet et de l'image
qui es un cas par j icu ier ion re o rn e

preniidre espAce Le noyau h de cette Aquation mtAgrale Un Aclairage coniplAnientaire, plus bvocateur, peut et
~~jhrAponse inipulsionnelle2-DdusystAnie d'iniagerie Atre obtenu en
utilisant une
dbconiposition spectrale
s~pp~~~~~ q~~ h(~,'p, ~', r'j =
h(~ r,
s'- r') (I'(q Iluisque 4* A est un opArateur auto-adjoint ddfini non
(5) est alors convolution) et h(r,r') soil nAgatif, et pass#de
syst#nie propre Soit (~n) done un
une que une
fonction h bande iiniitAe il existe alors des fonctions ~
[es valeurs (et aussi de A A*
propres ordonnAes de A*A

qui produisent une image nulle (songer h une


fonction et coniptAes avec
)cur niultiphcitA ~i > ~2 > >
dent routes [es coniposantes de Fourier sent dehors de ~n > 0 D'aprAs le thAorAme de Hilbert-Schniidt [47],
en
j~ b~~de passante de l'instrument) et l'unicitk n'est donc ~n tend vcrs 0 quand n ~ cxJ, et, ou bien la halite est
De plus, ii rAsultat d'une expArience, atteinte bier elle n'est
pas assurAe y est le pour n = no, ou atteiute pour
et donc inkvitablenient entachAe de bruit, elle n'est aucune valeur finie de Soil E l'ensemble des indices
pas n n

nkcessairement h bande limitbe, ou peut Atre h bande tels ~n # 0, et


que sort jttn, vn, ~nl Un SYStAnIe SingU'ier
pins large celle de l'instrunient Dans conditions, de l'opArateur A
que ces

nne solution h iq (5) n'existe pas ~( ~n E E


= n
Conime [es donndes sort incertaines ou hrwtAes. A A* tin ~n A* A ~n
= tin vn = vn
iious tic pouvons pas espdrer rbsondre exactenient cette A i,n = ~n un A* ttn = an i>n
~q~~~~°~ ~~ '~ ~°'~~'°~ ~°'~ ~~~~ ~I~I~~°~~~~ ~~~~ ~~ ~~~ L'Aquation (8) n'adniet de solution pour tout. g E Y qne
~~~~ ~~~~
~~ ~°~~~I~~ ~~ ~~~~~~~~ ~~~~~ ~~~~~~ ~~~ ~ °~~
si, et seulenient si
naturel d'Avaluer la qualitd d'une approxima-
un

tion,
moyen
ce qui expiique pourquoi x et y wnt souv~nt sup-
~ ~i~ I< Y> tin
>l~ < +'C 191
posAs appartenir h des espace~ de Hilbert I,e probl#me nEE
Pr1-8 JOURNAL DE PHYSIQUE IV

Cette condition est dAduite du cntAre de Picard [47i s'annule dons la bande j-Q, +fl] atom que l'image de A
Pour qu'elle sort sati~faite,les composantes < y, ttn > du est l'ensemble des fonctions h bande liniitAe sun
le nidnie
dAveloppenient de l'image sur l'ensemble des fonciions intervalle, t~ui est un sous-espace ferniA de L(
propres (ttn) doivent dAcroitre plus vile que [es valeurs Un rnoyen de restaurer l'existence et unicitA de la

propres
~( lorsque 11 ~ cxJ Cornrne, en pratique, ces solution darts )es conditions ci-dessus est de reddfinir 1la
fonctions sent de plus en plus oscillantes I rnesure qne n lots l'espace ~K des solutions et l'espace Y des donnAes Si
croft, cette condition peut Atre intuitivernent interprdt@e nous
choisissons un nouvel espace X' qui est l'ensemble
coninie une
limitation du contenu de l'image parfaite y de toutes [es fonctions orthogonales h Iler(A) (dans le
dans le doniaine des hautes frAquences cas
ill), .K' est l'ensemble des fonctions de carrA sow-

De plus, quand l'existence et l'unicitA sont assurkes, triable et h bande hniitAe h l'intervalle j-Q, +Q]), et si

une
perturbation ou un
bruit dy sun
)es donnAes entraine nous prenons pour nouvel espace i" des donnAes ml(A)
une
perturbation &~ sur
la solution (qui est h nouveau, dons le cas
(11), l'ensemble des fonc-
lions de carrd somniable et h bande liniitke h l'intervalle
~j ~ j~ ~
~ + dz =
~[~ < y, ttn > I + '
~
"
vn
[-fl, +fl]), alors, pour tout y E i", ii existe un z E Ii'
~ Y'~'" ~
nEE unique tel que Ax = g (darts notre exemple ill), la so-
lloj iution est mdme triviaie T
g) et le probmme
= nouveau

Ceci l'erreur chacune des ~~~ d°~~


niontre que sun coniposantes b~~~jP°~A
d~ dd~~j~~~~~~~~ p~t ~~~~~~~~~~j p~~p~~j~~~~~jj~ Le fait qu il soil en pnncipe possible de choisir, dans
~~ ~~

r~pp~~j ~~g~~j_~_br~~j / ~y ~ ~ c,~~j la plupart des cas, )es espaces .K et Y pour que le pro-
~ y ~ ~ ~ ~~~
preniiAre cause de dAgradati~n puisque~c/rapport peut b'~rll~ d~~~~~~~ b~~~"P°SA, est de PeU d'intbr@t PratiqUe
~t~~ ~~~vent bier plus grand lorsque ie bruit
l'unit6 Puisque c'est l'apphcation viske qui impose en g6nkral
que
jy ~t l'image parfaite ant des propriAt4s spectra]es lesespaces appropri6s Un autre moyenenvisageableest
y
d~~t~~~t~~ c~p~~d~~t, ~o~~ q~~~d j~ ~~pp~~t ~~g~d_ de changer la notion niAnie de solution
h-bruit reste AlevA sur tout le spectre (ttn), )es cow-

posantes < &y, > de l'erreur soul divis6es )es Pseudo-solutions


ttn par
valeurs singuli#res qui tendent vets zAro lorsque ~
n cxJ ~~~~~dj~~~~ ~~~~ ~,~~ ~ j~ ~
De petites erreurs sur
l'iniage iuduisent dove de grandes j~~~j ~~ j~j~ j
°$.~ ~~ °~~ ~~
,~~~~
j~ ~~~)~~li~ ~£
~ ~~
la solution ~j~
erreurs sur
Sa is ai e ni enseni e
~~~~(
es
~~~~ ions
one z E

ii &y ((~ 0 ##(( jr ((~ 0 solut,ions du problAnie variationnel

Cette situation survient frAqueninient dans des pro- ~=argniin((Az-y((y, j12)


~~~
blAnies inverses
inipliquant des espaces fonctiounels dif-
fArents l'objet et [es dounkes °~ ((Y dAsigne la11°mile dans Y, sent appelAes pseudo-
pour observkes Ceci ex- II
~°~~'~"~~' ~°~~'~"~~ ~~~ ~"~~~~~ ~~~~~~ ~~' Pr°b'A~e
P'ique pourquoi )es niAthodes habituellcs par filtrage °~'

~~~~~~~~~~~~~~~~~~~~~~~~~~~q~l~~~~l~~~~~~(~~
~~1~~l~s~( f~A~$~t)$~t~i~~e/~~t(~ri( ~t$/$~s~~e
PrerlliAre eSPACe (14] A*A z =
A*y (13)
Quand Ini(A) est ferniAe, l'tq Ii 3) possAde toujours
3.2 inversion gknkralis6e solution, elle n~est le Iler(A)
une

mars pas unique si noyau


~~ ~. ~, ~~~~~ ~ ~ ~j~~~
n'ed pas trivial Lorsqu'il l'est, coninie supposA ici, le
~~ ~ ~
ni~~~ni~t~qu~ri~$nt bien~po~~s)~t~aisce~ei~~~n~~~n ~~~~~~~~~ ~~~~"P°~~ ~ ~~~ ~~~~~~'~~
pas
grand intArdt pour )es sciences de l'iirgAnieur, est h l'ori-
gine de deux rAcentes de l'aualyse
branche~
la thdorie S°'Ut1°ITS gkllAr~llsAes
d~ "~~~'~~~~°~ 9"?~~h~~~, ~t ~~"~ d~ '~ ~%"'~"~d~°~
Cousidkrons niaintenantle cas oil la condition d'uni-
f~~~ "°bJ~t d~ Ch~P 4
q~~ citA n'est pas satisfaite (Iler(A) # (0), le probl#nie est
Supposons quo l'kquation Ax 0 art des solutions = ~~dj~~~~~~jj ~>~~~~~~bj~ d~~ ~~j~~~~~~ d~ ~~j j~~~~
~'°~
t~"~M~~ ~'~~'~~~b'~
K~~(~) # Ill ~~ ~" ~°'~t~°"~
sous-ensenible ferniA de .", il done
~~

convexe contient tin


~~t ~~~ "~~~~~?~~~ f~~~~ ~~ .K C ~~t ' ~~~~~f"~ ~~~ °b"
" klAment unique de
nornie mininiale, qui eat notA ~t ou
jets in~isibles puisqu'ds produisent image nulle
~, uue y ~~~ ~~p~jd ~~jyi,~~ g~~i~~j~~~~ d~ j~j ~t ~t~~~ ~~_
~t
Supposons aussi wus-espace que 1ni(A) ~oit
fermi de un t~~)~~~j ~ ~~~( ~j ~~~~~ ~~~~~~~ d~ d~fi~~~ j~ ~~j~~~~~
I' Vu exemple est fuuriri op%rateur int%gnat cot-
par ~~~ d~~~~~j~~~~ ~ ~(~~~~~ xi ~~~~ ~ji
~~SP°~d~~'t ~ ~~' fi't~~~~ P~~~~~b" ~d~M )our
Coninie ii existe xl tout ~',
un unique y E une
fl(r r') application At de
(A ~)(r) =
~~ +~ sin
ll(r r')
z(r') dr' (ii
linbaire Y dans .I est dbfinie par

A y = ~ =
FIG (14)
Si choisissons." Y L~ le l'ensemble L'opdrateur lit
de
nous

[es functions
= =

dent.
( uoyau est est appe14 inverse gdndrafisi de ~4 et est
routes ~ transforniAe de Fourier coutinu
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS Pr1-9

Le prob14nie du calcul de la solution g4nAralisAe de Les relations de Plancherel et Parseval nous niontrent
l~iq (6) est bien-pos4 si, et seulenient si, 1ni(A) est fer- que c'est Aquivalent I rechercher [es coefficients
ni4e La raison essentielle est que c'est une
condition 1

n4cessaire et suffisante pour que l'on d4coniposer


puisse
ik #
Ii (vi exp(2 jtrkv) dv, k E Z,
Y selon Y ml(A) eIni(A)~, oft
=
e dksigne la soninie

directe Ini(A)~ le comp16ment orthogonal de Ini(A) tels que


et

k = arg win
~j (zk (~ s c ~k # Yk k =
1, N
donnkes discrAtes ~~~b ,

Cas des kEZ

Lorsque )es dorm%es sort discrAtes, L~ S°'~'ti°11 est tnviale puisque le prob14nie est s%pa-
y est un vec-

de dimension N dons euclidien Igno- table


teur un espace
rant [es erreurs snr
)es donnAes, un
probldnie inverse 2~ y~ ~~
k ~ jj ~ llj
=
' '
hnkaire avec des donn4es discrdtes peut Atre AnoncA
~
comnie suit ttant donnA un
ensemble (F,(x))$ de
~~~°~

~,
fonctionnelles lmAaires dkfinies .K, et ensemble On a
done
sun un

(y< Iii de nornbres, trouver fonction E wt telle N


une ~
SIG Iv) ~j yk
exp(-2 jtrkv) (15)
que =

k=I
~ ~~~ ~' '~
~
qui donne, aprAs quadration, le pdnodogmmme de Schus-
particulier, quand [es fonctionnelles l~ ter, h coefficient prAs :
En sent continues un

sur

~i'
.K, le th40rdrne
'~N ~~"~~ ~~~
de Riesz dir qu'il existe des fouctions

Yr (Ml
~~~ ( [Xiv) l~ =
( N
£ zn expl-2Jtrvn)
2

""~
F, (xi =
<z, ~,>x

L'exernple 414rnentaire de l'tq IS) preud cette forrne


quand y(r)
°
est rnesurAe sur un
ensemble rim de points,
disons est L~ Dans
# ~
ri, TN, et que ~K un espace ce

cas nous avons ~


fl _~
,
~.,(s) =
h(r,, s) j -W

uo -5o

Ce probl#rue est un cas


particulier de celui de l'tq (6) Jo~
~~ ~, ~~~ ~~ ~~ ~~ ~~ ~~ _ ~~
d%finissons op%rateur A de ~K dons Y par la
si nous un ~ requence re
j a~ we
re a ion
FIG 8 Spectre dn pdriodogr«mme (en trait plein) et
IA ~)> " <Z, ~>>x i "
I, N specfre fhiortque (en poitililldj
,

L'op4rateur A n'est pas injectif Ker(A) est le sous- Le p6nodograrnrne de notre exernple est track h la

espace ferni4 de dimension mfinie de toutes )es fonctions Fig 8 Les deux rates au voisinage de la fr4quence r4-

~
orthogonaies au sous-espace en gendr% par ies fonctious duite 0,2 ne sort pas s4par6es, en raison
d'un nonibre
~,. Inversenient, A, Ini(A) l'image de est ferni4e Ini(A) insuffisant d'Achantilions La troisidnie rare en 0,1 se
dis-
est %niplenient Y quand )es fonctions $,, sont hnkaire- jingue trial du bruit dont le spectre est assez
trial rendu
went indkpendantes, sinon
c'est un sous-espace de di- Nous rAsolu le probl#nie de l'unicitA trials
la solu-
ovens
N' < N Lion n'est pour autant satisfaisante
niension pas

Exempie 3.3 Discrktisation

Pour d'mversion g%nkralis6e,


illustrer cette notion Une prenidre description d'un prob14nie direct fait
sjnth#se de Fourier du
h notre exeniple de souvent intervenir des fonctions de variables r4elles
revenons

22 qui eutre daus la catAgorie dkfime dans le pa- (tenips, frAqueuce, variables d'espace, ), repr4sen-
ragraphe prAcAdent, avec )es exponentielles de Fourier [ant grandeurs physiques arises en jeu
)es grandeurs
fonctions Pour imposer une
solution unique accessibles b la niesure et grandeurs d'intkrdt inconnues
conime ~>,
dans la classe des solutions possibles effectuant un pro- L'analyse du prob14me I ce niveau
de description a per-
longenient de la suite des ~k counus, uous pou~ons choi- nils
de fouruir une explication des difficultks rencontrAes

sir
lasolutiou inverse
g4nkraliske du problAnie initial (4) lots de l'inversion, en se
plajant dons des espaces fonc-
tiouuels de dimension infinie Nous ovens vu ainsi que

,(~~(~) y(~jj2 ~~ dans le cas


d'Un ptobldme inverse
d6crlt par Une #qUa-
= ~~g ~~~
xjvjELblo,il urn intAgrale de prem14re esp#ce, l'inversion %fait tin

s ~ ~k = yk k =
1. ,JV problAnie mat-posh au sens de Hadaniard
Pr1-10 JOURNAL DE PHYSIQUE IV

Cette analyse est cependant insuffisante Les donnkes solution inverse gAnkrahsde ~t La hn4aritk de l'fq (14)
expArinientales disponibles sent presque tou_yours con~ti- entraine quo
&zt A'&y, iniphque
= ce qui
tu4es de la niesure
de grandeur~ physiques accessibles en
~ ~ j ~~~ ~
nombre n4cessairenient fini de points du tlomaifie de ~ ~~~ ~~'~ Y~~~'
un '

dAfinition de leurs variables Elles sent done naturelle- oil ((Atjj dAsigne la nornie de l'opArateur contiitu Al De
went discrdtes, et nous
[es regroupons dans le vecteur niandre analogue, l'iq (6) iniplique
y coninie nous
l'avons fait dons le 3 2 ci-dessus Mais
~ ~ ,
l'objet inconnudiscr%tis4, soil d'embl%e, soil
est lui aussi
jj Y~~~ ~~~ ~~~

en tours
de r4solution (coninie dans l'exeniple du pbno- En conibinant ces deux relations on
obtient l'in6gaht6
dograninie ci-dessus), par dAconiposition stir un nonibre
jj~~~jj jj~ ~ jj
fini de fonctions Si celles-ci sent des AlAnients d'une base ~
< ((A((((A'(( ~
(16)
,
de l'espace auquel l'objet dAcomposition
appartietit, la ~~~ ~~~ ~~Y~'~

est nkcessairenient tronquAe En iniagerie par exeniple, II est important quo cette in6gaht6 est pr6cise
de noter
on utilise coninie
fonctious de base dons la tr4s grande dans un Quand A est uue
certain niatnce de di-
sens

niajont6 des cas )es iudicatnces des pixels, ou [es sinus nieusious
(N x M) on correspond h un problAnie inverse
cardiuaux, selon quo l'objet est iniphcitenient suppos6 h avec
des donn6es discr#tes, alors l'inkgalit6 pout devenir
support hniit6 ou h spectre liniit6. On commence aussi une 6galit6 Quand A est un op6rateur sur des espaces
h utiliser des bases d'ondelettes [46] Le point de dApart de dimension infinie, alors on peut seulenient Atablir que
est done constituA d'un meddle paramdird par le vec-
le nienibre de gauche de l'inAgalitk (16) peut dtre arbi-
teur z
des coefficients de la dAcomposition, c'est-h-dire trairenient proche du membre de droite La quantitA
d'un ensemble d'hjpothAses exclusives dent chacune est
~
~j ~~ ~t ~ ~~ j~~~
indexAe la valeur des coeffitients Cet d'hy- jj
par espace
pothAses est done l'ensenible~des valeurs possibles de est appelAe nombre de condition du problAnie Quand c
ces paranimres mconnus, ~ =
(~,) Le choix de ces
est proche de l'unit6,le probl~nie est dtt bieu-conditionnd,
fonctions de base fait 6vidcninient partie du probldnie atom que quand il est grand devant l'unitk, le problAnie
d'inversion, niArne s'il est assez peu abordd. est dit hial-conditlonnd
Ilest irnportanten pratique d'avoirune
D~~~ j~ ~~
d~~~~~t j~~ pj~~ ~~~~j~~~~j d~~~~~j_ estimation

di~~~~jj j~ p~~bjj~~ ~~~~g~ ~~~~~bj~~~~j du nonibrc de condition renseigne


qui sur la stabiht%
~~~ ~ ~j y ~~_
partieni~ent h des espaces del'op%ra- dimension finie et ~~~'~~~~~~'~ ~~' P~°b'A~~ QUand A est Une rllatnce de
teur lin4aire A devient niatrice A L'iq ii) poss4de
~~~~~'"°~~ (lV X if), ((-4(( est la racme carr6e de la plus
une
solution unique de nornie niininiale £iG At ~~~~~~ ~~~ ~~'~~'~~ P~°P~~~ ~~ '~ ~~~~~~~ ~~~~~~~fi~~~
une y qui =

dApend continfiment de y l'inverse g§n§ralisAe P°~~~~~~ ~~ ~Y~'~~~~~qUe A*A, de dimensions (~f X ~~fl
puisque
Al ~~j ~j~~s toujours bornke j47j Le probl#me est done ((es valeurs propres positives de cette matrice coincident
toujours bien-posd au sens de Hadamard Alais, ni@nie ~~~~
~~"~~ ~~ '~ ~~~~~~~ ~~~), et ((A'(( est l'inverse de
dans ce cadre, le prob14nie d'inversion la racine carrAe de la plus petite de ni#tries valeurs
a encore
d'un ces

point de vue nuni%rique cette foe, un caract4re-injtable ?~°?~~~


La d%coniposition spectrale (10) est toujours valable, I
~ =
~ /~
la seule diffArence que le nonibre de valeurs singulidres de ~~~ ~'~

la niatrice norniale A~A est niainteuant fiui et [gal h M ~~'~~~~ll'e Irks connu probldnie bien-pos4, et cepen-
de
Ces valeurs siugu14res peuveut dtre rarement caicu%es
daut extrAniemeut trial-couditiouuk, est le probldme des
explicitenieut,niaisdauslecasparticulierdelarestaura- moments qui cousiste h dAterniiuer uue
fouctiou z(r),
jiou d'iniage avec objet finis
d4fiuie sur [0, ii par exeniple, h partir de moments
uu et uu uoyau I supports ~e~

la ddconipositiou spectrale (10) est ddconipositior~ J~'~~~'~ ' °~~~~ ~


une
de
du
Fourier
spectre
et
de Fourier
[es valeurs
du systAnie d'irnagene,
propres de
6valuAes
A~A soul [es valeurs
Yn #
/ i
r"~~~(r)dr, n =
I, N
,

b des frAqueuces spatiales rAguh~rnent espacAes Quand °

je systdrne d'irnagene est du type passe-has


ce qui est
Si uous choisissons .K =
L([0, ii, l'opArateur AA* est
tr~s frAqueut, ~n prend de tr4s foibles vale~irs lorsque la rnatrice de Hilbert d'@I%nients [HN]ni #
In + m

n ~ ,W Mdrne si fious excluons [es valeurs singuh#res 1)~~, n,m I, =


iV, et le nomhre de condition croit
nulles, coninie en utilisant At, ii y a toujours des v~- exponentiellenient
,

avec N cm exp(1,75N)
tours singuli#res proches de zAro I,aniatrice A est done Cc phAnoniAne que nous ovens
anaiysj dart( ie cas
'~~~&C°'ld~l~°'l'l£~ LeS C°efficients ~[~ < &y,un > darts de la restauratiou d'iniage valable d'autres
reste pour
(1°) d~vle'l'le'lt tt#S gta'lds Pour 'eS ~n Proches de zkro, problAiues [3, 27, 33] le problAnie direct
inversm est
~~~e~l ~Y~~t ?~t't bier-posA alors le problAnie l'est
que inverse ne pas
D~ ~~lll~~~ gA'lAra'e, qUe "°n SOL dons 'e discret En consAquence,
cas route tentative de rAwlution h l'aide
°~' ~°ll, S~'P?°S°ITS qU~ 'rll(A) soil fernide pour qne l'ifi- de niAthodes classiques allant de peut
« soi » ne que
~erse
gdn6ralis6 At sort continu DAsigfions par &y une conduire I solution inacceptable dom1n6e
une car par
erreur sun [es donnAeq yet par dz' l'erreur iuduite la l'amplification dn hrijit
sur
ANALYSE DES DONNEES EN SCIENCES DE UUNIVERS Pr1- Ii

Rksumk 2) Vy E Im(A), lini~~o Ray Aty =

Autrenieut dir, puisque l'op6rateur inverse


A~I tie
Q~~~ ~ "°~~~~°~~~
~ "~~~
~ ~_~
~,~'~~~) prksente )es propnAtAs de continuitA de stabi-
~~~ ~~ ~~~~~~~ ~ ~~ ~" ~~(~~~~~~'~~
~Y°~ ~
pas ou
~~°~~~~ ~~ ~'~
litA coustruit faniille d'op6rateurs conti-
'
requises, on une
~~°~~ ~~~~'~~~°~'~ P~~'~~~P~
~'°~'~ ~~°~'~ ~~
nus, indexAs par uu paranidtre de rAglage o (appelA co-
(~) ~ ~~~ ~~'~"~~' ~°~'~~'~~' ~~ ~'~~~~~~ ~(~~~°'~
~~ ~~ ejficieiil de rdgularisalion), et incluant conirne cas
li-
'~~ ° ~~~'~~ ~°~~'~~°~ ~~ ~°~~'~~°~ ~~"~~ fl~ At Apphquk h des donnkes
" ~ ~°~~~
mite parfaites j Rn four-
°' ~°~~ ~"(~) 1°11' ~~ ~~~ ~°~ ~~~~~ ~~~ ~~~~~i ~~ xl nieilleure
"
nit uue approximation de d'autaut que
~°~'f~~ Pf~ ~f(~l "
~" ~~ P~°~~~~~ ~~~~~~~ ~~~ ~~~~~
o ~ 0 Cepeudaut, quaud R« est appliqu41des don-
P°~~ ~~~
' °P"~~~~'~ ~~~ ~°~'~~~'~''
~~'~~~~~
n4es w Az+b iu%vitablenient entach4es d'un bruit b,
(b) ~ ~~~~~~ P" ~~J~~~~~' ~~'~ ~~'~(~) ~~~ ~~~~~' =

~~ ~~*
on
obtient une
solution «pprochde ~~ =
Raw, et on a
alors, en
recherchant une
pseudo-solution, le probmnie

iu~erse
devieut bieu-posA dans la niesure ou
l'iuverse g4- Ray~ =
R~y + Rob (18)
n4ralis% est coutiuu,
~j j,~~~j~~ Le second ternie diverge quaud ~ 0 II s'eusuit qu'uu
j. ~
j
~~~~~~j~'~~~~~~'~~~~j~')~
j
$~ , f
$$~j)~
.~
j>~~~~j~~~~ ~~
d.~~~
coniproniis doit #tre trouv4 eutre
o

deux terries autago-


~~~~~j~~~~~~ ~~ j~ ~~j~~~[~ ~~~~)~~ nistes, l'erreur d'approxiniation (premier ternie) et l'et-
reur
due au bruit (second ternie) Ceci se fait, au sein
Q~'~~~ ~~~"~ ~
~~$°P~~f~~'~~
~~~~~~
d'op4rateurs R~, en
~'°~'~ ~~°~'~ d'uue faniille douu4e ajustaut la
~~'~ ~$ ~~P~~[ ~~ ~~~~~'~~°~'~~'~~ ~ ~~ ~ '~~ ~~' ~YP~ valeur du coefficient de r%gularisatiou o
A R ~ R uous avous h nouveau trois situations
~j~
,
La plupart des ni%thodes qui out dtA proposAes de-
~ ~~~~~
d'auu4es r%soudre stabiliser
j~~ ~~ ~°
d~~~
~~~~~~ j~ ~~~~ d~ j~ ~~~~~~~ ~~~~~~~ ~ puis uue treutaiue pour et

~j~~~ ~ ~~~~~~ )es probldnies trial-pos4s eutrent, d'une faqon ou


d'uue
j, ~~~ ~
~ ll ~ ~~~
~/~~~~~ ~M ~$~ j~j~~~£ ~~)~~~ ~~~~~~~~ ~~~ ~~j
autre, daus ce schdnia g4u4ral peut )es classer enOn

le prob14nie inverse est bien d6fini ~~~'~ ~~~~'~" f~~fl'~~ ~~"~~ ~~'~ P~°~~~~~'~ P~~ ~°~'~~°~~
unique, et
d'une dimension A est alors uu ensemble discret et
~~j ~~ ~ ~ ~j~~~ j,~~~~~~ ~,~~~ ~~~~~~
jj -~
(j, ~~~~~~~~~~~
~
~~~ ~~~~~~~~/ ~ j~~_
~~~~
celles qui op4reut par niininiisation d'un crit4re campo-
~ ~~ ~,~ ~ ~~'
~~~$)~ site ou par optiniisation sous contrainte A est alors

(cl Si p < M,
~+ ~~~~ ~~ ~°~'~~ ~°~'~ ~°~~ ~~~~~~~~~~°~~ P"~~~P~~~~
alors l'existence ne peut dtre assur4e
des donuAes quelcouques, elle l'Atre ~~~~ ~'~~~~°~~~~~~~'~~~~ ~~~~'°~~~~~~~~~'~~~'~~~'°~
pour niais peut en
cousid4raut h nouveau une inversion
g4nAralis4e
Pour des opArateurs daus des de dimeu- 4.I Contrble de dimension
espaces
siou
fiuie,
ou gAu4ralisA est toujonrs
l'iu~erse l~iuverse
~~;~;~~ ~~~~~~~ ~j~ ~ ~~j~~~~
~. ~~ ~~ ~ ~~~~ ~ ~~~ ~~
coutiuu cousAqueuce, l'utihsation
En d'uue inversion gA-
nAralis4e suffit h garautir le caractAre bien-posk Mais d Un exeniple typique de ni4thodes de la premiAre fa-
fautsesouveuirqu'un probldniebien-pos4 peut dtre trial- niille est fourui par l'exanieu de la relation (10) pour
conditionn%, et que dans ce cas il est n4cessaire d'eni- supprinier couditiouuenieut
le du prohlAnie, il
niauvais

ployer )es nidthodes de r4gularisatiou que uous


allous suffit de d4veloppenieut en relevant )es cow-
trouquer le
prdseuter au
chapitre suivaut, coninie pour )es probldnies posautes correspoudaut I des valeurs siugulidres suffi-
nial-pos4s saninient graudes pour que )es terries d'erreur de la
fornie ~p~ < dy, tin > restent faibles C'est la ddcompo-
sition lronqttde en v«leitrs singitfidres [47] Elle est trAs
4 R~igUlEtrlsEttloll elficace pour assurer
la stabilitk numArique Se pose tout
de ni#nie le probldnie du choix de l'ordre de la tronca-
Quand l'image lm(A) n'est pas fermke, alors l'inverse
pure, le r61e de l'inverse d'un coefficient de rk-
quijoue in
A~~, ou l'inverse gAnArahsA At, n'est pas d4fim partout &i~~~ j~ ~~incipal d4faut de cette approche
g~j~~~~~~~~~
sur
Y et n'est pas contiuu C'est le cas par exeniple ~~~j,~~~~~~~~~~~dj~bj,rlesconiposantesspectrales
~~j
des op6rateurs compacts non dAgknAr6s (ou de rang non ~~j d~d j~~p ddg~~dd~~ par le dispositif d'iniagerie
~~~
rim), et il est facile de ~oir que le nonibre de condition ~~~~~ j~ ddfi~~~~~~ d~ ~~~j~~~ d~ rAwlution de
p~~~
du probldnie est infini Des techniques de r@solution ap- ~~yj~~g~ ~,~~~~~~ ~~t~~ ~~f~~~a-
~~ ~p~~~~~~ ~~ ~~~~~~
propnAes sont atom requises, et il faut
voir aussi
qu'un ~~~~ j,~b~~~ ~~~~j~~~d ~~~ j~ f~~~ ~~~ d~~~g, ~oit
~~~~ ~~~
problAfiie biefi-pusk, mars sdvdreuient trial-coutlitionnA, fi~~~ ~j~~~ ~~~ j~ ~j~~~~~ d~ ~~~p~ ~~ ~ait qu'd est par
se comporte en pratique coninie un
prob14nie trial-pos%, ~~~~~j~ p~~~~~f ~~ ~~~~ ~~>~j ~~~pj~~~ d~~ rAgibm h va-
et doit dtre traitk par [es nidnies techniques ~~~~~~~~ ~~~j~~jjj ~ d~~~~~ ~ ~4pi~4~~ par des contour~

Que l'on soil en


dimension finie ou
infinie, un rdgnla- nets, ou bieu qu'il est h valeurs born4es, ou
bien encore

riseitr
de l'fq (6) y= Ax est une
faniilled'op6rateurs h support bomb Si l'on veut alter au
delb de cette

(R«, ci E A) lets que r%solution de Rayleigh, il est indispensable de pouvoir


ii Vu E A, fin est un opArateur coutiuu de ~ dons.K, preudre en conipte ce giure d'inforniation a priori
Pr1-12 JOURNAL DE PHYSIQUE IV

Changement de discrktisation Les coefficients


ak sort appelks coefficients de rAgression
d%conipositior~ tronquAe en
Darts la valeurs sin-
°~
~°~fi~~~i~~ ~~~"~~~~~~~ (~~l ~~ ~~ ~~"~"~~
~~ ~'l'~l
~~~ ~°~~~ ~"'°" ~~ ~~~~'~~~~ ~°~~~~~'~~~
guhdres, c~est le dispositif d'iniagerie qui inipose, en ~

quelque sorte la discr4tisation travers des fonctions Yr(V) ~( (H(v)(~ "


(19)
au
smguh~res de l'op4rateur correspondant Mais on peut Le prob14nie d'analyse spectrale se r6duit ainsi h celui
aussi contoumer [es difficult#s soulevdes par le niauvais
de l'estimation de ces d + I paranidtres id paranidtres
conditionnement de
consAquence d'une la matnce A, AR et-la variance du bruit) De nonibre0ses vanantes
discr4tisation de l'objet sur une
grille cart6sienne, par existent selon la nature du cadre statistique adoptA et
exernple, en choisissant une paramdlrisalion parcimo-
)es approxirnationsfaites [37, 61],
meitse
de l'objet rnieux
adapt4e aux propri4t4s a priori La Fig 9 donne un exeniple de spectre obtenu avec
de celui-ci C'est ce que font, par exeniple. [es ni4thodes une ni4thode du maximum de vraiseniblance, ou des
de dAcomposition sur une
base d'ondelettes [5, 34] Le nioindres carrds (elles sont en offer Aquivalentes avec )es
principe reste le ni#nie on
procdde par seitillage parmi hypothdses habituellenient faites), et un ordre p d%ter-
)es coefficients de la d4composition, en
dliminant le sous-
mink par le crit4re classique de Rissanen-Schwarz (BIC)
espace doniiu4 par )es coniposantes du bruit Le spectre est beaucoup plus r4gulier que celui du p4-
Ce mode de discr#tisation r6soud, par pnncipe, le nodograninie(Fig 8), niaisla r6solutiou de la ni6thode
prob14nie de stabflit% ou
de mauvais conditionnement reste ni4diocre
analys4 plus haul, mais ne
fournit pas toujours pour
autant une
solution satisfaisante Tout dApend de la d6-
5o

composition choisie Pour l'illustrer, nous


allons Atudier £
deux des param6trisations )es plus utilisAes dons [es pro-
'~ ~

blames d'analyse spectrale [61] jj 3o


~
(
o
°'
,eo

%
~ am 0~ 0<6 02 083 03 033 04 am 05
,~
E Fr4quence relative

z
j FIG 10 Spectre obtenit par la mdtl~ode MusIc On n'a
/j ,~

pas reprdsentd les Jo rates recl~ercl~des, le speclre


~~
mats
obtenit d p«fur de la matrice de corrdlalion correspon-
~°° danle
5 '° <5 3° 83 3° 35 de dimensions (25 x 25).


Un autre exemple de param4tnsation parcimonieuse
£ '°
est foumi la Fig 10 Le signal fois
par est cette mo-
~° °
d411s6 comme une somme de sinusoides et d'un
pures
jj ~'°
bruit blanc, cc qui est manifestement adapts h
mieux
t ~~°
notre exemple Sous ces hypoth4ses,
c# on pout mettre en
'~°
Avidence des propri4t4s gAom4triques inn%ressantes des
~%
°°5 °< °<5 °2 °25 °3 °" °' °" °5
« sous-espace signal »
(entendons par Ii [es siuusoides)
~~j ~~'~~' et « sous-espace bruit »
dont ies dimensions respecti~es
~ ~ ~~ ~ ~ ~
apparaisseut dons le spectre des valeurs de la
FIG- 9 propres
M°d?'~ AR ~l m?tll°d~ dir de
mammitm Ural- matrice de corrAlatiou du signal aualysk La dAtermiua-
S~'~~b'a'lC~. ~~r'~'ll~ Pr?-fendlrde> ordre d 4
«VeC IIn = tion de ces
valeurs propres, et la r6solution d'une Aqua-
d?l~~~l~l'? '~ Crllire
Par BIG lion polyuoniiale assoc16e, pernietteut de dAterniiner le
~ nonibre et [es valeurs des fr4quences contenues
arts a premiere, e sigma j a qua j yser est suppos4 pures
_~ j ~,
~ aus e sigua 37 6i] Alais daus la pratique la
e re une red isa ion itti processns «
j. e«loire h tenips dis- j' ' '
cor
re,j a ion ~ u sigua u
, est pas couuue et doit dtre estini4e
ore,~ s a iouuaire pour pouvoir parer ~ e spectre ou,
a partir ~e AC ~ anti jj De plus tout
pus precisemeu ~ ans ce cas, ~e ~ ensiid spectra j e ~ e ses ous
'
ceci repose
j,~ ypo ~~. ese ~, un ~ ruit ~j arc, vknfike darts
~~s~ ~~~d'~~i ~~ ~~j~ j ~ ~ ,
sun non notre
~ ~~~~~~"~~~
proc~i~~~~~kat~$~i~(n(~~~~ii~~t ~t~~~u~ [~~'~(~~ ~~(
P~~~~, ~~~)~~~'~~"~ P~~~~~'~~~
uaire
dons un
filtre hnAaire invariant, et de fonction de
~"~ ~ "$~ /°'~~/"~~~~(~'~~'~ ~~~~~~~~' ~"~ ~ ~~'~~~~'
~~~~~~~~~ ~j~~ ,, ou po,j es »
~ e
~j~ re geuerateur est
correspon an au ruit co ark ant ktk aussi extraites
d%crit par Aqnation rkcurrente
Mkthodes itkratives
~(n) = ai x(n ii + + ad z(n d) + tt(n),
j j Une faniille de rri4thodes trds populaires est consti-
~ ~~ ~°~~~~~ ~~ ~ ~
~ °~~ "~ ~~ ~~~~ ~~ ~~
tude des ni%triodes itdralmes, de la forme
~~~~ ~~~~~~ ~~~~ +
l Z~' Z~d ° (Y ~ ~~~~) '~ °'~ (~°)
al ad
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS Pr1-13

nit 0 < o < 2/((A(( (nibthode de Bialy [13]) Si A est Un algonthnieniultiplicatifde lafornie (21) assure
done
un opArateur tin%dire bomb non n%gatif (c'est-h-dire tel la croissance
au seas
large de la log-vraiseniblance et la
que < A~, ~ > > o, v~ E,"), et si y i~ possAde au = positivitk de la solution (pour autant que ji'°~ > oj
molt une solution, alors lasuite des xl") converge, et Lorsqu'il existe au moms une
solution positive
11
=

~~ ~jnj p/oj Ap, on en obtient une


(qui est le point fixe de l'algo-
~~ ~~'
n~m
rithniej, niais le bruit d'estiniation de q par ] n'est pas
oii P est l'opirateur de projection orthogonale sun Pris en conipte et l'on ne peut laisser croitre md@fim-
Ker(A) et ZIG la solution inverse
gkukralisAe Cette mentlenonibred'it#rations
ni%thode recherche en
fait le point fixe de l'opArateur Toutes mAthodes peuveut fouruir de solution
ces tie
G Gz = a y + II «>ii z, niais St
A est compact et acceptable qu'i la condition de limiter le uonibre d'itA-
X de dimension infinie, atom II o
Al n'est pas une rationsjquijoue alors le r61e de l'in~crse d'un coefficient
contraction et la niAthode diverge De plus, nous avons de rAgularisation) Ceci se
fait souvent de nianiAre em-

vu aussi t~ue, ni@nie en


dimension finie, la solution in- pirique thAorique initial ne prenant pas en
car
le cadre
verse
gdnArahs4e Atait souvent doniin4e par le bruit conipte le bruit d'observation, une th40rie de r4glage dn
La condition de non n4gativit4 exclut beaucoup nonibred'it4rationspourhniiterl'aniplificationdubruit
d'opkrateurs, niais
la ni4thode pout dtre apphquke i la ne peut Atre qu'hAtArononie [41] Ceci exphque pourquoi
r6solution de l'kquation norniale A*y =
A*Az puisque nous nous
focalisons sur
[es niAthodes de rAgularisation
A*A est un opkrateur non
nAgatif On obtient ainsi
la de la seconde faniille qui sent de ce point de vue, plus
nikthode de Landweber [13] autouomes

z'"+~) z(") + A* (y Ax(")) 0, 1,


= a n =

4.2 Minimisation d'un Critdre Composite


avec 0 < ci < 2/((A*~4(( La mAthode bieu connue

de Gerchberg-Papoulis-Vau-Cittert pour l'extrapolatiou Le cadre adoptk daus la suite relive de la secoude


d'un signal i spectre liniitk e# uu cas
particulier de la faniille des niAthodes de rkgularisation dont la caract%-
niAthode de Bialy-Landweber ristique principale est de demander i la solution de rda-

C'est daus laniAniecatkgorie des niAthodes itAratives 'lser Url C°rllPr°rills elltre Url~
fidA'ltA aUX
d°nnAes me-

l'ou la ni4thode Lucy [40], tr~s po-


de sur%es et fidAlit41une information priori [60] Ce
que peut ranger uue a

pulaire astrouoniie On s'int4resse 1uu objet positif C°rllPr°rllisest 6tab'i h "aide d'Url Unique CntAre d'°Pti"
en

~~pp~~d d~~j~~b~j ~~j~~ j~~ d~ p~~b~b~hjd ~~jj~_ niahtA Cette dkniarche peut s'interpr4ter de la nianiAre
~, ~~~

noniiale p, et on
observe l'iniage y, distribuAe se)on q
SUlv~llte

o~ j~~ ~~j~j~~~~ Lasolution des nioindres carrds £MC niininiisel'4ner-


~

gie de l'erreur le niod~le Ax les donn4es En


q "
Al'> ~ ~t #
1, ~ Pj "
~ atj #
I, elle
cntre
la plu~ grande
et
fid4litA
y
donnAes
, ce sens, procure aux

J Mais lorsque le bruit large bande,


d'observation est b
oil les AlAnients atj de la niatnce A repAsentent [es pro- la relation (10) niontre de l'objet
que [es coniposantes
babilitAs d'observer un quanta de flux en
f sachant qu'il restaurk ou reconstruit h des fr4quences spatiales AlevAes

y a une source
ponctuelle en j Les distributions de pro- out des amplitudes %levAes qui r4sultent pnncipalenient
babilitk p et q vAnfieut l'Aquatiou du point fixe du bruit La solution £MC, bieu que statistiquenieut sons
biais, atom rejet%e s'atteud le ob-
PJ PJ~t"~J PJ
~ a~~ q~ est
des
car

spatiales
on

~ensiblenient
i ce que
plus
vrai

douces
" "
~ ~~ ~
jet ait variations
'
II faut done introduire un peu d'infidAhtA aux
donnAes
L'algorithnie de Lucy est un algonthnie it%ratif multi-
pour obtenir une
solution moms rugueuse que celle des
Phcatif de recherche du point fixe, de la fornie nioindres carrAs et plus confornie i l'idAe que l'on s'en

j, fait Un dksorniais classique d'y


~
Pj"~ ~~
"
ij" ~ ~~ ~
n =
0,1, (iii est
a
fourni
priori
par la
nioyen
niiuiniisatiou d'un cut#re
parvenir
composite
~li U£<P>
~~~
t j47, 57, 58] L'idAe de base est_ de renoncer
h espoir
oh ] est une estimation de q dAduite des donnAes y
d'accAder h la solution exacte h partir de donnAes im-

(par exeniple d A~y et ( d/~ d,)) Cette nib- parfait.e~, de considArer que
l'iq (ii dAfinit une
classe
= =

thode peut faciiement s'interprAter da~is un cadre pro-


de soiitlion.s admi<sibies (£ ((y Az(( < ((b((), et
babiliste La vraisernblance des pararnAtres inconnus p
de rechercher darts cette classe une solution qui peut
attachAe aux
pseudo-donn4es § s'4cnt en
effet, a~ec
des itre consitl%rbe cornrne %tant physiqnernent raisonnable,
distributions rnuitinoniiaics c'est-I-dire compatible avec une certmne information a

Ceci s'obtient usueilenient recherchant


~~Q~l'l ll~~~l j ll(~~~~P"<) j priori
£(a,y)
en une so-
lution qm mininiise un cntAre de la fomie
m m k

il lui correspond la log-vraisemblance £T(~l "


GIY A ?I + °
J~(?) ° < Ct < +°C
(22)
L(p) =
£ )m log(£ Ukm pm)
~pAcifiquenient conju pour
~, ~
Prl-14 JOURNAL DE PHYSIQUE IV

que la solution soit, jusqu'i un certain point, fidme L'ordre k de l'op4rateur des diff4reuces T7( vaut habi-

aux
douuAes (premier ternie du cntdre), et tuellenient I ou 2 La niesure (23) est niininiale lorsque
renforcer certairies propn4t4s souhaitables qui r4- routes [es coniposautes de ~ sort Agates (si k =
Ii
sunieut uotre couuaissauce a priori sun
la solution (se-
cond ternie)
Cette nianiAre de procAder s'oppose ainsi aux nib-
thodes de r4gulansation par contr61e de dimension qui,
dans le cas
d'un probldnie trial-pos4 ou trial-conditionnk,
coutoumeut la difficultA en cherchant le minimum
de (2)
dons uu sous-espace de dimension rAduite, aprds Even- f
tuellenieut uu
rhangement de base appropri4 (
choix ~
Le cboix des fonctionnelles F et est uu qua-
litatif qui dAterniine la niaudre selou laquelle la rkgula-
nsatiou est effectube Iuversenieut, le choix de ci, qui est
le coejficienl de rdgitlarisafion, est quautitatifet permet
d'ajuster le coniproniis eutre [es deux sources d'iufor-
niation Une fid4htA parfaite aux
dounAes est obtenue

avec o =
0, alors qu'une fidklit6 parfaite h l'a priori est o to 2r 30 4o 50 5o
obtenue si o = oc
~~"~~~'~

La htt6rature sur
le super est doniinAe par quelques FIG II Ddconvolitfion findaire-qitadraliqite
fonctionnelles dour voici
les plus frAquentes [60].
AppliquA h notre exeniple de rAflexion sisniique, cc

~j~~~~~~~ ~~~d~~~i~~~~ mode de r4gulansation conduit au rbsultat de la Fig II


L'ani%lioration est cette fois sensible par rapport h la so-
La distance euc[idienne eutre deux objets xi et z2 [ution des rnoindres carr6s de la Fig 5, h bien
rnais, y
est ((xi ~2(($. oU P est Une nl&ttice de ponder&lion, tegatdet, peUt demander S1la tbsolUt1on est
on se Vtal-
syni6tnque dAfinie et non n6gative, qui est choisie pour went anidliorAe rapport donn6es brutes de la
par aux
traduire certaines caractkristiques souhaitAes de la me- Fig 4 Nous y reviendrons au
Chap 6
sure
de proxiniitk Une distance de ce type constitne le
choix habituel pour dans le cas oil le bruit b est sup-
posA gaussien, centrA et indApendant de z Elle est aussi
~,~~~~~~ ~~ ~~n~~~~
trds souvent utilisAe pour F afin de pknaliser [es objets
z
de grande amplitude Dans beaucoup de prob14nies de traitement d'iniage,
AppliquA I notre exeniple d'analyse spectrale (qui une caracmristique I prAserver est la
essentielle positi-
est, rappelons-le, du type coutiuu-discret), cc
mode de vit6 des iutensitAs des pixels II existe plusieurs-nianiAres
r4gulansatiou nous conduit i rechercher la trausforniAe d'y parveuir, l'une d'entre elles 4tant de cousidArer que
de Fourier du signal ,,#rifiaut l'objet positifpeut Atre ideutifiA, aprds uornialisatiou, h

X(v) # argnlln
((TN
Y((
~
+ °
/ i
.I(M)(~~~j uue
distribution
de distance
de
eI1tre
probabilit4,
(ols de
puis
probabl(1t#
d'utiliser
La
des
pseudo-
me-

sUres
~~"'~~~'° ° °
distance de Kullback
[xi, f/ xiv) exp(2jtrkv)
oil
La
zN
solution
=

s'Acnt
,
xN]~ et xk "
dv

,j
( zJ
i ' "
~ ~>"' " ~j j °gQ j~4j
X~"~(V) #
~~lG(V) j-1 ~
1+ ci

Le spectre ainsi rAgularisA est done siniplement propor- off est positif, utilisAe
m un vecteur est souvent
tionnel au
pAriodograninie (15) que l'on obtient conime

cas
liniite (a ~ DJ) Ce type de rAgularisation ne

con,<ient donc pas dans cot exeniple


~~~~~~~j~~~

Mesures de rugositk Le critAre (22 rAsunie de la rAgularisation


une vision

~ j ~ j~ ~,~~~ que l'onpeut qualifier de ddlerminisle puisque la seule


~~~~~~~ ~~ ~~~~j
~'~~~$~ ~)~~'~'~ ~~~
~'~ ~~~~~~~~~
$~ ~~~~~~~ distribution de probabilitk utihske est, au atoms iniphci-
~ ~~
(~'~~$~~("~$ ~~j ~~$~~~j~~j~~ j~ ~~~j~ ~~~~~~ ~~
tenient au travers du choix de la fonctionnelle G, celle du
~~~~~~
j)~~~ $$~j$~~j~~~~~~ j,~~j~~~~~~ ~~ ~~~~~~~~~~~~~~ bruit Elle a
douu% lieu h des dAveloppenients th40nques
~
~~~ ~~~ ~ j,~~~~~ ~~~~~~~j~ j~ ~~
importants, esseutiellenieut en
physique math4niatique
~ ~~ ~~~~~~
)~ ~~~~~ ~(~~~~~~~~~~ ~~~~~~~~
Cependant le~ questions du choix de la fonctionnelle r%-
~ ~~~
gularisante F(z) et du coefficient de r6gularisation y
J~(~) "? (~)" ~ "~'~ ~" 2
(~3) a
" "
sort encore largement ouvertes
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS prl-15

4.3 ChoiX dU Coeflicient de rkgularisa- de ci car


l'erreur de mesure
b domino £(o) et ne
satis-
ti~~ fait pas la condition de Picard discrAte [26] La partie
horizontale de la courbe, dAcrite pour des ;aleurs Alevkes
Dans beaucoup de prohlAnies inverses, un rAglage de correspond b des solutions pour lesquelles c'est la
o,
Prbcis du coefficient de rAgularisation n'est pas nAces- carr6 des r6sidus ((y A £(o)((( qui est la plus
nornie au
la solution u'6tant sensible qu'h ties variations sensible variations de £(o) est doniiu6e
saire, aux a car par
d'environ uu
ordre de grandeur de o II est alors possible, j,erreur de r6gularisatiou, autaut b satis-
pour quo y
avec uu peu d'expknence, de choisir enipinquement o, fasse la condition de Picard discrAte
darts uu
mode sitperuisi Daus le cas coutraire il existe,
~~"~ '~ ~~~~~ ~~ ~~ ~~'~P~~~~' ~~'~'~~~~ ~~~~'°~~~ ~~ ~~" Validation croiske
glage autoniatique, h partir des dounAes, c'est-h-dire en

~~d~ sitperms/ [59] On veut kvidemnieut trouver uue valeur du coeffi-


non
cient rbgulansation o telle quo la
de solution r6gulansAe
.~
£(o, y) soil aussi proche que possible du v4ntable objet
~ on ~ ro
,j e
~ e j,. energie ~ e
y erreur resi ue ~~ e
z
~ vec
le c
~ oix
de ~ istances qua ~ ratiques pour ~ et ~
Uue des idAes les plus iutuitives et [es plus aucieuues ii est uaturel de choisir aussi uue
distance quadratique
pour r4gier la vaieur de a qui intervient darts le cnt4re ~r Pour mesurer
i'kcart entre £(ci,y) et ~ Une nib-
r6gulans6, ou p6nahs4 (22), est de consid4rer a coninie thode raisonnable de choix de a serait done de choisir la

un
niultiphcateur de Lagrange dans le problAnie 4qui- valeur qui mininiise ce risque en nioyenne, c'est-h-dire
valent l'erreur quadratique nioyenne d'estiniation

I = arg win
Fix) s c
Ply A ~) " C 12~l EQMjO, z) =
/ ~rja, z, y) ply ?) dy j26)
z

Le degr6 de rkgularisation est fixk par la valeur de c Malheureusenient, la solution de ce probl~nie dApend
Lorsque est quadratique, on pr4conise souvent de choi- de l'objet rkel qui est 4videninient mconnu
Coninie la

sir c =
N si est pond4r4e par l'inverse de la niatrice solution rAgulansAe £(o.y) peut dtre vue aussi cornnie

de covanance du bruit, ou ~AT~~ si est le cntAre des


un
prAdicteur des observations au travers de §(o,y) =

niomdres comas ordinaires et si


le bruit est blanc, de A+(o,y), onpourraitaussiniesurerl'%cartentrelesob-
variance
~~ Mais un
tel choix ne
conduit pas toujours servations rAelles et prkdites avec une
fonction de perte
h une
r4gularisation acceptable Une explication en est quadratique ~y(o, z, vi et rechercher la valeur de o qui
quo, darts beaucoup de problArnes, le graphe de la forte- niininiise
le risque rnoyen correspondant, qui est dons ce

lion G(y A ii G(ci) est presqu'horizontal sur une


= cas
l'erreur quadratique nioyenne de pr4diction
large piage
lion de ~~
de
entraine
vaieurs
done
de «

de
route
grandes
erreur

variations
dons "esiima-
dons la EQMP(o,z) =
/ ~y(ci, z,y) p(y ix) dy, (27)
valeur de a qui satisfait la contrainte (25)
niais, Ii encore, la solution dApend de l'objet rAel La

~ ~
difficult4 peut dtre cependant surniont4e car
lc critdre
~.~~
~ °
~ ~
~ ~
j ~ ~°~~ ~ ~~
~ ~
EtIMP(o,z) peUt dtte eSt1nl6 pat Validafion croisie gi-
On peut aussi
utiliser une
ni%thode alternative qui a ndrafisde (VCG) Le pnncipe de base en est le suivant
fait ses preuves darts des probldnies inverses
hn4aires de j23] Soit £(a, y'~~l) le rnininiiseur
du crit4re
la forrne (22) et dons le cas oil la fonctionnelle de r4gula-
~
i~~~(~~~~~~~~e~~~~i~~~~~ii~f~~~~c~~,~~ri ~l~~~~ ~~ ~" ~~ ~~"~~ ~
~~~~~
~~~~
~~~~~
~(_~ °
'

log-log la fonctionnelle de r4gularisation F(£(o)) en " '"~

~~'~~~~"~~~ ~°~~
fouction du critAre des nioindres carr6s ((y- A£(ci)((( ~'~~~~~~~'~~ ~~°~~~~ ~~~~~~'~~ ~°~~~~ ~~~

~~j~~ uses saitf l'6chautillou yk II est possible de i'utiliser


~~
~~~~~~~~~~~~j~~~~~~~~~~ d~~j~~j~~~~~~~~~ ~
(d'oii ensUlte P°Ur Predlre '~ d°rl"~~ ~~"~"~~'~~
courbe a en
gAn6ral l'allure caract6ristique d'un L

S°Il r1°rll) et la VaieUr de °


C°rresP°rlda"t h i'~rlgk d~ ~~ f~ijo) = (A £(o, y'~~lj) j29)
L fouruit uu
bon coniproniis eutre )es
exigences contra- k

dictoires de fidkhtA aux


dour%es et de rid%htd I i'a priori ~~ ~~j~~~~ cousiste I rechercher la valeur de ci qui nii-
conipreudre
Pour pourquoi il en va aiusi, on sait que niniise une
Anergie pondArAe de l'erreur de prddiction
~o dAsigne la solution exacte, alors l'erreur £(o) zo V'(o),
si o~~~ = arg niin~ a;ec

peut dtre dkconiposAe en deux une erreur


de perInr-

~~i~~~rr~ii~ ~
~d~~~~~~~o~i~/~i~~~ei~ipl~~/~J~i p~~ ~~°l
~

~~~°~ '~~ ~ ~~°~~~


'
~~~~

rateur rAgularisant au lieu d'un opkrateur inverse (~oir


l'(q (18)) La partie verticaie de la courbe en L, d4crite oil ies coefficients w((a) sont mtrodUits pour evitet qUe

de foibles valeurs de correspond h des solutions le cntAre (30) n'ait des propn@t@S irld@Sirab'es> te"eS qUe
pour o,
F(£(o)) le d'irlvariance darts de~ arbitraires de
pour lesquelles est tr#s sensible aux variations nianque rotations
prl-16 JOURNAL DE PHYSIQUE IV

l'espace des observations ou


l'absence de minimum
Ils condui~e h une
procAdure d'inversion satisfaisante? »

wnt donn%s par


Cette question petit Atre pr4cis4e avec
[es desiderata sui-

~~~~(le
llJk(Q) " ~j~~(/()jj(/~~ dolt imposer h la solution de ~atisfaire exacte-

merit [es donnAes darts le cas saris


bruit et, sinon, de
off [B(a)]k,k est le k~ 6lAment diagonal de la matrice j~~~ ~~~~ ~~~~~~~~~~ fi~~j~ j~~j ~~ j~~~~~ ~~~~j~ ~~~
~t ~j-i ~t statistiques du bruit,
~j~j ~ ~ ~ ~
elle doit imposer b la solution d'dtre dans C,
Le calcul du minimums'appuie sun
le caractdre linAaire-
j>~bj~~ ~~~~~~~~~~ d~a ~~~ ~~ d~~~ djp~~d~~
~~~~~~
quadratique du probmme qui permet d'4tabhrlarelatiou ~~~j~~o~~~j ~~~ ~~~~~~~
°'~'~ ~~~I~'~ quaud solution
~

est disponible, le
uue a priori m

N (([I B(o)] y((~ ProcAd4 de reconstruction doit avoir


les propnAtAs d'une
~(°) (3~) projection de le sous-eusernble de routes [es solu-
"

j~ ~ ~~~
j~ ~j ° jjj2 m sun

tious qui sent compatibles avec


[es douu4es et [es con-
rnontre clairernent que la fraction de validation
qui croi- ~~~~~~~
sde g%n%rahsAe Via) est en
fait la sorrirne
des carrds ~~~ ~~~j ~~~~~~~~~~~ ~~~~j~~~~~~~j ~~~ j~
~~~~~~~~~
des erreurs
rAsiduelles ponddrie par inn
coejficient ddpen- ~jj~~~~ ~~ ~,~~j~~ ~ j~
~~~~~~~ ~~ ~~~ ~~ ~ ~~~~
dant de ct
De nornbreux rAsultats pratiques exphquent
que cette rn4thode art 4tA souvent utilisAe dons des pro-
blames i-D Son emploi en traitement d'image est plus 5.I MaXimum d'entrople sur
la moyenne
r#cent [53, 18]
Priucipe informatlonnel Par souci
de simplicitA,
commenjons par traiter le cas
idAal, sons bruit L'infor-
~ j
°"~ ~~"~'
matron a priori joue grand role
un puisque la con~truc-
Ces m4thodes de choix du coefficient de r4gularisa- tioucommeucepar laspdcificatiou del'eusembleconvexe
Lion n'ont justification Claire que dons le cas de~ co-
de C et d'uue mesure de r%f4reuce dlt(z) sur
C Suppo-
tares rAgulans4s quadratiques Par ailleurs, la question sons que les donnAes y soient obtenues par apphca-
du choix delafouctiouueller%gulansautef u'apasrequ, tiou de la matnce A h la moyenne d'uu processus X
daus ce cadre d4termiuiste, de r4pouse autre que des pus- sous uue
distribution de probabilit4 P d4finie sur
C
tificatious empinques Le but du chapitre suivaut est de Cornrne est couvexe, la moyeuue Ep(z) sous P est

moutrer qu'il est possible d'en trouver une


darts le cadre daus C, et la coutrainte convexe est automatiquemeut
de la th40rie de l'information satisfaite Mats comme la contraiute fouruie par les don-
n6es y =
AEp(X) ne
suffit pas h d6finir une distri-
bution P unique, il foul faire appel h pnncipe
~ ~, ~gU j ~t~lS~tt1°'l, ln
~ °~Ul~tt1°11, ~t suppl%mentaire,
nous
de la th40ne de l'information
un
Nous
issu

eutropie introduisons pour cela l'information de Kullback qui est


d6finie, pour une mesure de r6f6rence 1t et une mesure

On peut moutrer quo beaucoup de cnt4res clas- deprobabiht6Ppar


siques r%gulansation
de sout des solutions particulidres
~ p
d'un prob14me dit de mammisation de l'etitropie silt
la K(P,1t) log dP (34)
=
~~
moyenne [J2, 39] Dans ce
probl~me, des contraintes sur
l'objet z sont spAcifiAes au travers de son appartenance I si P est absolument continue par rapport I 1t et infinie
un
ensemble convexe C, et la solution est choisie comme sinon

Atant la moyenne de la distribution qui est la plus proche Nous choisissons done j~ d~~tnbuji~r~ p qu~ ~i~~~~~~
d'~'"e ~es~'re
de rAfAre"Ce Ii SUr C, par rapport I la K(P,1t) sous
lacontrainte « en moyenne» AEp(X) =

distance de Kullback Cette approche fournit un cadre


y Autrement d~t p est ja dmt~~but~~~ j~ pj~~ p~~~~~
gdndral pour l'interprAtation de ces curares qui appa- de1t au seas de I)divergence de Kuiiback parmi cejjes
~~~~~~~'~ ~~~~~ ~°~~e bt~"t t°~'~ des elltr°Ples d°lit la qm~4nfientlesdonn4esenmoyenne Lasol~itionretenue
forme est directement like h l'information « priori utili- pour ie probj~rne d'~nver~~~n e~j ~j~rs + =
E jxj o~
sAe exemple de telles
Un contraintes est l'appartenance sail qne la solution d'un tej probidrne d>op~rnisajjon
'
de l'objet h l'ensemble convexe j~r~qu'ejje e~i~j~ ~~~ d~~~ j~ f~~jj~ ~~~~~~~~~~jj~
~ ~~ ~~ ~~~~'~~~' ~ ~' '~~~' ~~~~
~ ~~ dPs(~) = exp (s~z logZ(s)) dp(z) (35)
oil -C'C, < ak < bk < +OC Sont connUs

prob14me 6tre formulA de la mamdre d°nt le parammre naturel, A~ A, dApeud des mul-
Le peut sui-
s =

vante Comment constrmre des fonctionuelles F et G


tiphcateurs de Lagrange prob14me d'optimisa-
A du
Darts l'tq j35), logZ est la log-
«

teiles que l'ol~timisation de t1°I' sous contrainte


~~ ~~ ~~~~~~ ~~~~~ ~~~ ~~~ ~~~~~
~(~) "
~~Y ~ ~) + °
J~(~) (33) j~~~i$~s~i~t~~~~~~~
ANALYSE DES DONNEES EN SCIENCES DE L'UMVERS Prl-17

Le probldme dual La thAone de la duahtA [42] mdique F(~) =


+oc pour ~
~ C et sa
dArivAe est iifinie sun

qu'il y a kgaht4 entre la valeur optimale du probldme la frontdre de C,


prkcAdent et la valeur optimale de son problAme dual Fix > 0 a~ec %galit% pour ~ = m, la valeur moyenne
~°"~
~~ ~'~~~~'~~ ~
itif K(P, ~) = sup (A~y F* (A~A) (36
PEPV >Eva
,
Notre problAme initial peut done dtre formulk dif-
fAremment St P est distribution candidate de
~~ p j p ~~ j~j ~j ~~j j,~~~~~bj~ d~~ d~~_ une

tnbu~ions normali$bles ~°Y~~~~ ~'"~'~~'~°~~~~"~~ ~~ ~~"'b~~~ I~" ~~I~?"~ ~ P


qui satisfont la contrainte sun
~M z( ~t ~) ~ est plus gtande 6gale h FIX De plus. cette borne
~~j j>~~~ ~~~j~ j ~ ~
quo ou
j~ ~~~~~~ ~ ~j ~ cherchant £
~j ~~~~~j j~~j ~,v ~~j ~~ j~ ~~~~jj~~
infAneure pout dtre abaiss6e en un vecteur
~~~~ ~~( ~~ ~
l'ensemble Cy (z Ax y) Le
d~)j ~~~ ~~~~~~~~~
'
minimisaut F sun = =

de I~~°~'A~~ d~~~~"~ ~°"~


Une fois que le probldme dual du second membre
l'fq (36) est rAsolu, fournissant valeur optimale I, inf inf K(P, ~))
une
~~~~
l'expression de la deusit4 P P~,~ et on peut en ~~~[
on a =
S~ I~'@°"~ ~~"~ ' ~~I~~~~ ~~ ' , °bJ~l
dAduire l'objet £ en
calculant (numAnquement) l'espA- "°~'~ "°~'~ "°~'~ ~~°~'~

~~~I~'~~~~'~ b~~°~~ ~~ ~~°~~~~


rauce
E p(X) Mais ce
n'est pas le moyen le plus efficace
d'y En fait, il existe dons la famille expoueu-
I argmiu Fix) (40)
parvetiir =

le paramdtre ~~~v
tielle (35) uue
bijectiou eutre uaturel s et

la IF(s) de la distribution correspoudaute Remarquons ce probldme admet le mAme probldme


que
moyeuue
dual que (38) En fait nous
celui de
avous fait apparaitre
~,~
2(s) =
-(s) (37) un autre probl#me dual associk I l'fq (38), directement
~~
dans l'espace objet R~. Sa solution £ est la solution de
La solution £ peut donc dtre plus simple~i~ent obtenue
~~j~~ p~~~j~~~ ~~~~~~~
~dd~j~~~ j~~~ ~~~~ ~~~j) c~~~~
C~'CU'~nt 137) P°'nt °PtlI'la' ? A~A problAmes pnmals est connu le
~r' au " commutation entre sous
En rksumA, la mAthode nAcessite de choisir un
do- d~ d~ ~~~~~~~~~~ ~~y~~~~~ ~~~~~~_
~~~ _~ ~~~~~~~~ ~ ~~
C, refl4tant notre du do- f~~~~~~~~~jj~ y ~~~j dj~~
maine convexe connaissance ~~~~~ D~ ~~ p~~~~ d~ ~~~
j~
mame off la solution dolt itre recherchAe, et une mesure ~~~~~d~~~~ ~~/~~~~~
~~~~~ ~~~

de r%f%rence domaine Ensuite d faut calculer ~~~~~f~~~d~ d~ ~~~~~~ ~~~~


~ sur ce 1,~~ ~~~~~~j~~~ d~ j~
lal'~'YtlqUel'lel'tl la '°g-f°l'jtl°n Partitl°I' de all'sl qU~ unites pour une
lorsque l'on utilise l'entropie
inversion,
la re'atl°rl Pr'I'la'-dUa' d~ "Eq (37) Erlfirl, II taut l'l~Xl- y crimre, comme
dons l'Aquatiou (40) La
comme un

I'llS~~
(nUnlArlqUenlentl 'e CrltAre dual stricte convexitA autorise une wise en ceuvre
simple et
At~ _,*j ~t~j garantit l'unicit6 de la solution La seconde propn4t6
~jAj =
j~~~
montre que toute mAthode de descente fouruira une so-
II est important de noter quo crit4re dual est stnc- ~ j~ ~ ~,~~~
ce j~~~~~ d~~~ ~~~~ ~~ ~~~j~~~~j~ ~ ~ p~
tement par construction On peut donc em- ~~~~(,~j~~~~j~~~ ~~ ~~~~~~~~~~~~~~jj~~~~j~~
convexe ~~~~~fi~~
ployer des mAthodes d'optimisation num4rique eflicaces , ~~~j ~j~~ ~~~~~~~~~~ ~~~~~ ~~~ ~~~~~~
~~ ~~~_
~~
utilisant le gradient de D qui est simplement [gal 1 ~~~~~ ~~~~ ~~~~~~~ ~~~j~~~~ ~~~~~j~~
~~~~~ ~ ~j ~
AIF (A~A) Pendant cette optimisation, la relation
y ~~~~ j~,~~j~
primal-dual sert I calculer l'objet courant h partir du

~~~~~~'~ ~~'~' ~ exemples


5.2 Quelques
Uti aittre probldme primal Pour chaque z E C, consi-
d6rons prob14me d'optimisation analogue dont la Le cas
gaussien
un

~°~'~~"~'~~ ~~~
~~l~j~,~l' ~~
~~~$~~£jj)~f ~°~~~
Le premier exemple est fourni par un
probmme off
la valeuroptimale e inormation e u ac pour ce j ~ e j, o ~ je
aucune contrain e n ,
es connue sun es va eurs
,

I~~° ~j, R'~ Nous choisissons la


bien que C gaus-
~~~ mesiire
si =

y(z) inf K(P,1t), N(m, Rx) de rAfdreiice ~ sur


C
sienne comme mesure
=
~~~~
Un calcul simple fournit la transform@e de Cramkr

oil Pz (P Ep(X) z) Comrne nous


l'avons vu
,~ ~~t ~-i~~ ~~ 4j
= =
~ ~~
plu~ haut (36), nous avons h l'optirnum, par duahtA ~ '

n'ew d'autre qu'une rAgularisa-


fonctionnelle de
qui rien
J~l') SUP
IA '~
J~ ~ (All 139) quadratique dent dkjh signalk quelle Atait like
" jiofi on a
~~~~ de de
l priori gaussien de moyenne m et matrice
un a
Cette Aquation implique que F est la conjugude convexe ~
~~~~~~~~~~
de F* et, comme
F* est la log-trausform4e de Laplace ~

de la lratisformde de Cramdr de 1t Les propnAt%s


~, ~ ~ ~~~ ~°~~' .~,
les plus intAressantes de cette transform%e pour uotre
Rdfdrence de Poisson et enlropie de S'hannon Sup-
probl#me sont )es suivantes
F continfiment diffArentiable et strictement posons maintenant que C soit lo, +OC[, et quo la distri-
est con-
bution de r4fkrence soit la loi de Poisson d~ moyenne
vexe sur
C,
Pr1-18 JOURNAL DE PHYSIQUE IV

Sans information corr41ation entre Avec bruit de Poisson, nou~ prenons 8 R( et une
m a priori snr une un =

pixels adjacents de l'objet, la distribution est supposAe mesure


de rAfArence v
de Poisson

skparable Nous pouvons alors dAfinir une


nouvelle entropie en

utilisant de r6f6rence fi
d Si est la

~~~~
jj ~~~J~ ~
fl m)~ distribution
une
du
mesure
bruit, 1t la mesure
de
sur

r6fkrence
v

sun
C
( ~~~ ~
pour l'objet, et si nous supposons quo l'objet et le bruit
~~~ ~~~ L'entropie
sont ind4pendants, nous obtenons fi = 1t©v
L'entropie F, est la tran~formAe de Cram6r de 1t, recherchAe, quiest dans cas
latransformkede Cram6r
qui ce

de~ient de fi, s'Acnt simplement

'~~~ ~ ~J
M

~°~
(() ~
~ ~~
~j
~~~~ de
y~jjj
l'objet
=
y~jzj
dtendu
+ y~(nj
faite minimisation
j44)
L'estimation est par
~"~
contrainte de Fj(I), la contrainte Atant Al
y = =

est forrne g4n4ralisde de l'entropie de Shannon Ax +n Elle se


r%duit donc h la minimisation non con-
qui une

(le terme supp14mentaire mj Tj assure


la positivitA trainte du cnt6re composite
de F lorsque soit ~, soit m, ou
les deux. ne sont pas y j~~ ,_jj~ ~~jt~ , j,j ~, j~ ~~~
c »
~ » M

norma ises a
j, unite .~ ~4~j
Rdfdrence Gamma et Bttrg Si la mesure
enlropie de ~~j~ ,
~~~ ~~~~~ ~~~ d~~j~ ~~~ ~~~~~~ ~~ ~~~~~~~j~~~
~~(
~~
de r%fArence est une
loi exponentielie de moyenne m, ~~, ~~~~ ~~~~~j~~~j~~j~~ ~~'~~~~ ~~~~~~~
~~ ~
utilisant la d4finition de la transform4e de Cram4r, on ~~~j~)~ ~~~j ~,~~~j
obtient l~entropie
D(A) A y Fj(A ~
A) F](A)

,j~~
( zJ
j~ ~
mj
~J
j~~j
Le probldrne dual ktant r4solu, nous
obtenons
=

la solu-

mj bon primate par la relation primal-dual qui, grice h la


~~_~
sdparabilit6 de la log-transform%e de Laplace de fi, est
qui est la mesure
de distorsion d'ltakura-Saito entre z et la m@me que dans le cas sans
hruit
Avec i, [cart I objet plat, dy*
et
m

nous
m

retrouvons
= nous

l'entropie
mesurons

en
un

«
log(z)
un

», ou entropie ?(A~A) =
j(A~A)
i~
~~ ~~~~ Nous done prendre compte des distributions
pouvons
possible de retrouver
II est ainsi
beaucoup des forte- de bruit sp%cifiques saris
perdre les bores proprikt6s
tionnelies r4gularisantes convexes
de lath40rie classique des cnt4res le cnt4re global (45) est toujours convexe

de la r4gulansation, et d'en construire de nouvelles, ex- et la contrainte convexe est automatiquement satisfaite)
plicites ou non, grice h l'analyse duale [39] Dans le cas
d'un bruit gaussien, on
v4rifie bien que l'on
retrouve le prob14me de minimeation du cnt4re compo-

5.3 Prise en compte du bruit "~~

~~~~'~~~ ~ ~~~ ~ ~~~~~ ~~~~


Les cntdres pr%cAdents ont At4 4tablis en maximisant

sous une conlrainle eTacte une ~-entropiedAfinie comme qui avait 6t6 introduit au
chapitre prkc6dent par des
~p(P) -K(P, pi (si ~ est une mesure de probabilit6) consid#rations diff6rentes II est toujours possible de mo-
=

La contrainte exacte nous a set<, en interpr4tant [es differ nos mesures


de rAf4rence pour 4quihbrer [es deux
obser;ations comme une
transformation hndaire d'une termes du critdre global (45) qui peut alors s'dcnre

moyenne de distribution, A construire une mesure


de dis- ~ j~) y j~ ~i ~j ~ y j~j
~
" "
tance F La pr%sence inbvitable de bruit sur
[es donn4es ~ '

° ~~~ '~ ~°~~~~~~~ ~~ ~~~~"~~~~~~~°~


ne penner pas de satisfaire exactement la contrainte im-
°~'

posAe par les donnAes Cependant, la mAme approche L'approche du maximum d'entropie sur
la moyenne
peut dtre employAe pour prendre en compte ce bruit permetdoticd'exphquer laformeg4nArique des critdres
d'observation, qu'il soil caractAris4 par une statistique rAgularisAs du Chap 4, et de r4soudre efficacement par
gaussienne ou non [39] II suffit pour cela d'introduire un dualitA le problAme mdme si [es cntAres pnmals Fp et
objet dtendit l~ [z~, n~], et rAkcrire le prob14me di-
de Fv n'ont pas d'expression analytique exphcite Mais,
=

rect sous
la forme y =
Al, ji
avec
[A, ii Le vecteur
=
h l'exception notable de la mesure gaussienne, elle ne
k Avolue dans le convexe/de R~+~ (iV est ladimension s'applique qu'h des mesures
skparables et il n'est donc
de b), qui se
factorise en
le produit du cotivexe C prick- pas possible d'ttitrodutre sur l'objet des propri4t4s a
dent et de 8 fl =
C x 8, oft 8 est l'en~eloppe convexe priori locales, relies que l'existence de corr41ations ou
de
du support da bruit n contours plus, le problAme du choix du coefficient de
De
Nous utilisons ensuite une mesure de r4f4rence u sun
r%gulansation, et plus g4nAralement des paramdtres qut
l'ensemble-bruit Par exemple, darts le cas
d'un bruit d4finissent [es mesures de r4fdrence, n'est pas r%solu par
8 R~ et loi gaussienne cette approche Nous darts le chapitre suivant,
gaussien, nous prenons = une verrons,
centrA de mat-rice de covariance R~ comme mesure u
quelles rAponses apporte l'approche baydsienne
ANALYSE DES DONNIIES EN SCIENCES DE UUNIVERS Pr1-19

6 Approche bEty~isielllle de l'ill-


puisque la solution pout trAs bien lorsque le noyau
~~~~~ ~~
K est vide Atre unique et dApendre continument des
donnAes L'instabflitA provient du maitiiais
conddionne-
II deux ~~~~l d~ ~ [~4]
existe au moms raisons qui pousscnt h inscnre
j~ ~j~~j~j~~~ d~~ ~~~~j~~~~ ~~~~~~~~ d~~~ ~~
~~d~~ ~~yj_ On voit done que, darts ces
problAmes mal-posAs,
~,~~j d~~~ ~~d~~ ~~,~~j jjj ~~~~~~~~j~~ j~~ f~~~_ l'obtention d'une solution n'est pas du tout
~~~~ ~~ un pro-
j~~~~ ~,~~~~~~~ j~~~j~ ~j j~~ ~~~j~~~~~~~~ ~~~~~~~~~~~~ blAme de dAduction mathAmatique, c'est un
probl#me
~~~~~~ ~~~~~j~~~~j j~ ~,~~~g~ j ~~~
d'infirence, c'est-i-dire de traitement de l'information
~~~ ~~~ j~~~j~~~~j

~~~~~~
~~~ ~>~~~ ~~~~~
j~~ ~~~ ~fl~~ j~~ ~>~~~~~~ j~~ ~j~~ comment firer [es meilleures conclusions possihles de
~~~~~~~j~~ ~j j~~ ~j~~ ~~~~j~j~~ j ~~~ ~~~~j~~~~ j~~~_ l'inforntationincompldte qui est disponible
~~~ ~~~~~~~ ~~~~ j~~ ~~~~~~ ~~~~~~~~~ ~~~~~ j~ ~~~~~ Toute m%thode d'inf%fence scientifique devrait, pour
~~~ ~yp~~p~~~~~j~~~ j,~pj~~~~~j~~r~'d,~~ ~~~ti~~ ~~j_ dtre acceptable, 1° prendre en compte toitte l'informa-
~~

j~~~~~j lion perlrnente dispomble et, 2° dinner soigneusement de


supposer une
information disponible alors qu'elle ne l'est
pas La moddlisation probabiliste est un moyefi
~'~ ~~~~~~~°~ ~~ ~~~~~~~~~ ~~~~~~~~~l~~ com-
mode et coh6rent de d4cnre une situation d'information
~xph~jer le lien qui unit
p~~r inversion et infArence incomp14te ,Nous allonsvoir commentelle conduit h une
statistique, il est utile, i ce stade, de r6sumer l'analyse approche statistique bay4sienne
faite au Chap 3 Aprds discr%tisation, le probmme di-
rect prend la forme gAnArale A(z,y) 0, oft A est un ~~ ~ i~f~~~~~~ (i) ~~~i~~~bj~~~~
=

opdrateur reliant l'objet inconnu z aux


donnAes expA-
nmentales y II prend mdme souvent la forme explicite II faut pr4ciser d'emb14e que tout prob14me auquel
y A(z), voire hnAaire y ="A z L'inversion, c'est-a-
= on s'attaque par une approche bayksienne dolt dtre bien
dire le calcul de z connaissant A et y, est trAs souvent posd dans le seas oft information sutfisante doit dtre
une

un
probldme mal-posk, en deux sens apportAe pour permettre d'attribuer sans
ambiguitA les
prem14rement, l'opArateur A est souvent singulier distributions probabihtA de
nAcessaires au
calcul. Ceci
darts le seas off il existe une classe K de solutions z E K signifie, au minimum, qu'un ensemble exhaustif de pos-
jelles que Ax =
0 (le noyau Ker(A) =
K n'est done pas sibilitAs doit dtre spAcifik au dAbut de chaque probldme
,,ide) Tout #lAment de K peut dtre ajout6 h toute solu- Nous l'appellerons espace des denudes (ou des dpreitves)
lion pour donner une autre solution, et nous ne pouvons s'il s'agit des rAsultats possibles de l'exp6rience, ou es-
donc inverser
la relation directe pour dAterminer unique- pace des l~ypolhdses s'il spkcifie [es hypothAses que nous
ment z h partir de y Ce manque d'umcitA fait que le voulons vAnfier II est utile aussi de distmguer deux
probmme inverse discret est mal-posA au sens d'Hada- classes de prob14mes, appelAes estimation et choiz de
mard Cette situation survient h chaque fois que la rA- meddle L estimation Atudie les consAquences du choix
ponse instrumentale dktruit une partie de l'iuformation d un modAle particulier, supposA vrai », alors que le .<

nAcessaire Pour reconstruire l'objet choix de mod~le a pour but d'en retenir un par compa-
Deuxdmement, aucun
dispositif expAnmental n'est raison avec plusieurs
une alternatives
ou

complAtement affranchi d'une incertitude, dont l'origine Dans un


probldme d~estimation, on suppose que le
la plus simple est la prAcision finie des mesures
II est mod#le e~t vrai pour itne
valeur (inconuue) de ses para-
donc plus r6aliste de considbrer l'objet recherch6 que mAtres, et on explore les contraintes irnposAes aux pa-
et les rnesures sort reliAs par une kquation de la forrne rarnAtres par [es donnAes L'espace des hypoth#ses est
y =
A(z) o b dans laquelle A est un op%rateur d4cri- alors l'ensernble de toutes [es valeurs possibles des para-
vant la partie essentielle de l'exp%fierce, et ob prend mdtres, ~ (z,) Les donn4es consistent en un ou plu-
=

en compte la d%gradation de cette repr4~entation id4ale sieurs


Achantillons, pour rendre le probldme bien-posA,
par diffArentes sources d'erreur (de discrAtisation, de me- l'espace de tout )es kchantillons possibles. S (y<), dolt =

sure) regroupkes sous le terme de britit Quand le mAca- 4tre aussi prAcisA Les espaces ~ et S peuvent dtre tous
nisme d'observation peut dtre approchA par une distor- deux discrets ou continus

sion linAaire et l'ajout d'un bruit, alors cette Equation se Ddsignant par zo la vraie
valeur du param4tre, nous
rAduit h y =
Ax + b (ii La prAsence de ce brmt a pour pouvons nous attaquer au
problAme d'estimation en
cal-
eiet d'« Alargir »
l'ensemble K puisque tout AlAment z
culant la probabilit6 que chacune des valeurs possibles
tel que Ax = E, off E est «
petit » par rapport au m-
du paramdtre soit la ~raie
valeur DAsignons par D la
veau supposd de bruit, peut %tre ajout6 I toute solution propo%tion affirmant expAnmen- les valeurs des donnAes
possible pour obtenir une autre solution acceptable En tales rAellement observ4es, par H la proposition zo z #

pratique cela se
traduit par l'instabilit6 des tentatives affirmant que l'une des valeurs possibles du paramAtre,
d'inversion directe de la relation Ii), des petits change- z, est la vraie valeur zo, et par I l'environnement lo-
ments dans les donnAes entrainant de grandes variations gique du problAme C'mt cet environnement logique qui
de la solution calciilAe Ce n'est plus, cette fois, nAces- d#limit notre problAme en spAcifiant l'e~pace des hypo-
sairement un
problAme mal-posh au seas d'Hadamard thAses, l'espace des donnAes, comment les hjpothdses
Pr1-20 JOURNAL DE PHYSIQUE IV

(valeurs des param#tres) et [es donnbes sort rehkes, et situatioit d'incertitude Nous supposons in
deux choses,
toute informatiou supplkmentaire que nods pournons 1° que le bruit peut prendre toute valeur r4elle mais
qu'il
avoir sur
[es hypoth>ws ou [es donnAe.s Nous pourrions est de mop,enne nulle, c'est-I-dire qu'il n'y a pas d'erreur
d%flair I comme
la proposition affirmant 1° que la vraie
de mesure systdmatique (ou que s'il y en a, nous avons
valeur du parani#tre est darts ~. 2° que les donnAes ob- dtA capable de la dAtecter et de la corriger), et 2° que
servdesconsistent en
~vdchantillonsdel'espaces~,3°la nous nous
attendons I ce
qu'il y ait une <,
kchelle tj-
manidre dont [es parammres sort reliAs aux
doun4es (le pique »
du hruit, c'est-I-dire que grandes contribu-
[es
modMe direct A), et 4° toute information supp14men- tions du bruit ne sort pas aussi probables que [es petites
taire Bien entendu, la nature physique des paramAtres Autrement dit, nous pensons que la distribution pour
et des donnkes est spAcifiAe imphcitement dans ~, S et le bruit dolt avoir une moyenne nulle et un kcart-type
A fini, m#me si nous
n'avons pas d'idke prAcise de la va-

premi#re %tape dans


La toute mAthode d'infArence leur de ce
dewier Par
contre, nous
n'avons aucunc
idke
statistique destinAe I r4soudre un probmme tel que (1) de l'existence ou non de cumulants d'ordre supArieur h
consiste b choisir une distribution de probabilitA dAcn- deux Dans ces conditions, le choix le moms compro-
vant notre information ou notre incertitude sur mettant vis-I-vis des caractknstiques que nous ignorons
les erreurs
b q(b Ii C'est une [tape essentielle puis- quo l'on peut justifier formellement par des pnncipes
qu'elle permet d'en ddduire la distribution direcle, ou
informationnels [31] est celui d'une distribution gaus-
d'ichanlillonnage sienne
Et si
l'on suspecte que [es composantes du bruit
affectant [es N Achantillons ont des 4chelles diffArentes et
~~~ ~' ~ ~~~ ~ ~~ ~~')
~
sont corrd14es, la matrice de covariance
de la distribution
Dans la trds grande majontA des choisit dis- est Ii pour cela II n'est pas n%cessaire d'en spAcifier la
cas, on une
tnbution gaussienne centrAe pour les erreurs, ind4pen- valeur, mars si elle est mconnue, ses
414ments, regroup%s
dante de z, ce qui donne dans un vecteur d'hyperparamdlres 6, viendront en g%-
n%ral compliquer le problAme On les appelle paramdtres
-~ Az((~-,
pjy z,1) =
(2x (R()~N/2 exp ((y de nitisance pour cette raison
~ ,
Ce choix est appropn% i chaque fois que cette mfor-
off R d#signe la matrice de de la distribution ~~t1°~' est tout ce que nous savons
du bruit Comme
covariairce
q(b( I) Elle est souvent diagonale, mdme c'est une situation fr4quente, il est souvent fait Si nous
voire propor-
tioirnelle b l'ideirtitA ire question immkdiate- a~°~'S
des l~'f°r~ations supplAmentaires sur le bruit, qui
se pose
merit quel doit-on dormer h tel choix et darts irous
conduiraient h choisir une
distribution non gaus-
seas un
quelles situation~ tel modme est-il appropn4? ~le"~'e. ~'°~'S Pouvons les mature de la m#me maniAre,
un

Avec interprAtation frdqnenlisle d'une probabi- mais


cela ne
conduira I des rAsultats nettement amAlio-
une
htd, la distribution le bruit devrait Atre la distn- rAS qUe Sl
la distribution diff4re nettement d'une gaus-
pour
bution de fr4quence de ses
valeurs darts un
trAs grand sieirne
II existe ainsi
des situations commel'imagene
nombre de r4pAtitions des Elle est alors ~ faible taux de comptage de particules oil les donn4es
mesures j u~-
tifiAe rAfkrence thAor#me central hmije da sort entiAres et de faible valeur Le choix tl'une distn-
par au qui
des conditions larges, le bruit darij button poissonniennepeut alorsamAliorer [es r4sultats
sous assez quo si

un Achantillon des donnAes rksulte d'un grand nombre Munisde cette seuledistributiondirecte p(y( z,6,1),
d'effets A1Amentaires curnuiAs, alAatoires « et inddpen- nous pournons dAfinir la solution du problAme in~erse

dants, la distribution est borne comme 4tant celle du mammitm de vraisemblance, la


gaussienne une approxi-
motion de v%ritable distribution de frdquence Mais vraisemblance Atant la distribution directe darts laquelle
sa

exceptA [es fluctuations d'origine %lectronique dans unj la variable y prend sa valeur observ4e et le param4tre z

chaine le bruit n'est pas en gAnkral le r4sultat


de devient la variable
mesure
~'~'~' ~"~'~ ~'°~'~~~~ ~~~~~~~ ~~'~~~~~'~~~'~~ (songeons £MV
pat " argnlax ply z, 6, II
exemple aux erreurs de discrdtisation qui d%pendent de zE~
la solution zo) De plus, pour pouvoir effectuer une in-
La solution des momdres carrds est un cas particuher
fArence cette interprAtation, il serait nAcessaire de celle du maximum de vraisemblance, lorsque la dis-
avec que
nous
disposions de nombreux rksultats d'autres mesures
tribution dir«te est gaussienne
pour pouvoir dAtermmer ces
frAquences, ce qui est uue j~~~ ~~g~~~jy A~jt ~-i ~
~ ~
situation expdnmentale extr@mement rare zE~
Cette hypoth#se » gaussienne n'est done pas une Introduite il s'agit
de toujours d'une
cette maniAre,
hypothese sur le caract#re »
alkatoire »
du bruit Nous ne mkthode des ponddr£s (par la matnce
moindres carrAs
prAtendons nullement que le phdnom~ne dormant nais-
R~~) qui possAde la propridtd indispensable d'invarjance
sance au
bruit soit vAritablement alAatoire et changement d'unitAs darts it et s Dans beaucoup
suive une par
distribution gaussienne Ce n'est mdme hypo- de situations simples, cette mkjhode d'mfkrence
pas une four-
thAse I proprement parler, c'est plut6t le choix le nit toute l'information recherchAe, mais dans [es pro-
moms
compromettant ou le plus conservateur que nous hl#rues inver~es dour la paramAtrisation est
n pas parci-
Puissions faire pour la di~tribution du bruit dans la distrihution directe ne contient
une monieuse, pas route
ANALYSE DES DONNEES EN SCIENCES DE L'UMVERS Pr1-21

l'information nAcessaire pour rendre le probldme bien- 6.3 Infkrence (2)1 rkgle de Bayes
posd et elle ne foumit pas tout l'appareil technique rid-
parce qu'elle
~, m ~_ erence
~
ayesienne est ainsi nommke
~~~~"~~ ~~ ~~~~
fait un
large usage de la rAgle de Bayes, consAqucnce
a) Dans le cas
particuher d'un probldme indAterminA elle-m#me d'une rAgle fondamentale du calcul des pro-
y =
Ax oft A est singulier (probldme dit d'inversion babilitks, rdgle d~ pioditit [11] Soit H une hypothdse
la
gdnirafisde), il n'y a pas de bruit », et done pas de dont nous voulons [valuer la v4racit4, D un ensemble
distribution directe, sauf dons le sens
rudimentaire oft de donnAes en rapport cette hypothAse, et I une
avec
p(y lx- I) est constant si z est dans la classe C des an- proposition dAfinissant l'environnement logique du pro-
t4cAdents possibles de y, et nul sinon La vraisemblance blame La rAgle du produit stipule que
@rant constante dans la ciasse C, maximisation
sa ne
p ~ ~ ~~ p ~ ~ ~j pj ~ ~j pj ~ ~ jj p~ ~ jj
nous est d'aucune aide pour choisir dans cette clmwe '

L'essence du probidme rkside dons la prAsence °~> P" ~~~~'~P'~. ~lHlD>11 dbslgn~ d~ I'la"lAr~ habl"
ne pas
~>~~ ~~~~j ~j~~j~~~~ p~~j~~~~~j ~~~~j~~ tuelle la probabiht4 que H soil vraie
sachant D et I On
,~ ~ ~~~ ~~~~
plut6t dans le fait notre information erl tl~e '~ ~~g'~ d~ B~Y~~°
que soit moor-
plate, bien qu'essentiellernent non
bruit4e. P(H Ii P(D H, I)
~j ~ ~ ~j
b) Dans le lindaire ii), la problArne
A du
~~~ ~~
cas rnatrice
direct est souvent mat condilionnde L'opkrateur de r4- qUl rl'est ~lerl
d'aUtre qU'Urle rdg'e d aPPre'lllssaYe e"e
~~j~j~~~ ~i+ ~it ~-i ~i) ~- i ~it ~~~ ~~~j~~j~ ~j j~ nous
dit comment nous
devons ajuster la probabilitk at-
=

~~j~j~~~ £~~ ~i+ y ~~~ ~~~~~~p~~bj~ j>~~pj~fi~~j~~~ tnbu4e h la hypothdse lorsque notre Atat
v#racit4 d'une
=

d~ b~~~j ~~~ ~~~~~~~~~


de connaissance change
l'acquisition de donnAes avec
La probabilitd a posleriori pour H, P(H D, I), est ob-
C) L~ P~°b'dw~ PeUt aV°lr
des P~r~W4treS de rlUl" rnultiphant sa probabilitA a priori, P(H II),
tenue en
S~rlce S~rIS lrlt~~dt Pout r1°US, et erl
gtarld r1°Wbte
parlaprobabilit4d'avoirobserv4lesdonn4esDensup-
Ainsi, lorsque la rnatnce R est pleine, il went s'ajouter pjD H I) ~j ~~ ~~~~~~n~
p~~~~j j>~yp~j~~~~ ~~~~~ j~
IV (N l)/2 hYPetParanlAtres ql'l> '°rsql"I'S S°nt Inc°n"
tout la probabilitA d')voir obsirvi )es donnkes indk-
par
d°lverlt gArlAra' dtre estInles de
rl~'S> ~rl Par WaXlnl~'nl pendamment du fait que l'hypoth~se soit vraie ou non,
Vtalserllb'arlce 'e~ PatanlAtt~~ d'l~'tbt@~ ~> ~t '~
C°nInle P(D I) Ce demier terme, parfois appel% vraisemblatice
rll~XlrllUrll
global PeUt a'°rS rl'fitre Plus Ull P°lrlt rllals globale, le r61e d'une
joue constante de normalisation
route une r%gion
~) N°~'~ P°~'~°~'~ ~~°lr U~'~
lilt°trllatl°rl haUterllerlt 6.4 Approche bayksienne de I'inversion
Pertinente sur la solution recherchAe Par exemple, nous
qu'elle doit dtre positive, qu'elle doit
~~~ P~~ ~~P°~~~~t~ d~ "lrlfArerlce Statls~ique est
Pouvons savoir ou
satisfaire (comme ~°~~~~ ~~'~
"~~P'°i d'une information oi priori sur
[es
certaines contraintes en imagene as-

tronomique off l'int4grale de l'objet peut dtre gralldeUrs h estimer, qui vient s'ajouter I l'information
connue par
ailleurs), qu'elle est constitu4e de r4gions homogdnes ~PI~°~~~~ P~~ '~~ d°~'~'b~~ II n'est done pas surprenant,
ou

S%par%es des contours nets De telles informations ~~


'~°~' ~~ profonde du pnncipe de la r4-
~~~A~~ ~ '~ ~'~~~'te
par
sont contenues dans la distribution directe et il ~~'~~~~~~~°~ ~~P°Sb ~~'Ch~P 4> qU'elle pr%sente un lien
ne pas
dAraisonnable ~~~°~~ ~~~~ "~~'f4rence baybsienne
serait de tenir compte
ne pas en
~~~
~~~~~~~~~l~l~~
~~~~~~~~~~~~~~~~~~'~~~~~°~> $$~~~~i~~~~~~~~~~~~~~~~
~~~~'~~
~~ '~ ~°~~~~~~ '~'~ ~~~°~d~~ ~~'~~~ d~ '~ ~~~'e s'exprime, darts bayAsien, la forme
~
z un contexte sous
distribution directe (47), [es itilervalles de confiance d>un~ d~n~~jd d~ ~~~b~b~~~~ ~, e~ ~~ ~~ j~
~°~~~'~~ I~~~ ~'~I~I~~°~~'~ ~~~~~'~~'~*~~ ~'~ ~'°~'~ ~erlselgrlellt de Bayes de la
~ p~~~~~
combiner
$ec l'informat~on
nous penner
~f~ ~~'~ ~~ ~°~I~°~~~~~llt d '°~Y l~~'~~~ de '~ S°'Ut1°11. contenue dans )es donnkes obtenir la loi paste-
pour a

c
est-h-dire sur son comportement moyen dans un trds
non
i~~~s/$~~t1~~~~ ~~~ )
~l~~~~~$~~t~~l~~~~~~~x~~i~tl~ P(~ A, 6) (48)
Y, =
~)~/ ~j~'~~
~
d'ailleurs trds souvent non
ieproductible ~°
Dans cette bquation, 6 est un vecteur d'hyperpoiramdtres
fl Erlfirl, l'estimation des param4tres u'un mod41e constitud des paramNres des distributions a priori des
supposd valable n'est souvent qu'une Atape, et l'on peut erreurs et de l'objet, et p(y lx, A, 6) dAsigne la loi des
avoir
besoin de juger [es mArites relatifs de diff4rents donnAes conditionnAe par la vraie solution z Elle est
W°dAles compldtement d6terminde par la connaissance
du trod#le

II done d'aller au-dell de l'infArence


~~~"~ (~l ~~ ~~ '~ '" ~~ ?~°b~b~'~~b ~~' b~~'~~ L~ d~rll'~r
est nAcessaire
~~~~~ ~~~~'~~
'~ ~~°~~~~~~~~°~ d~ '~ '°~ ~ P°d~~~°~~
Par maximum de vraisemblance Toutes le~ extensions
kvoqu%es ci-dessus sont «
automatiquement >.
fournies ~(yj ~i ej /~j~j~ ~i ~j ~° ~
~j ~ ~
j~~j
par l'approche baydsienne ' ' '
Pr1-22 JOURNAL DE PHYSIQUE IV

L'approche bajAsienne fournit ainsi une rAponse daire et bayAsien elles tlAfinissent z comme un
champ de Mar-
sans
ambiguitk au probl#me de l'inversion des donnAes kov [4, 7, 21] Mais bier que % point de vue dnergi-
expdrimeiitales aprds avoir observA les seule< donates tiqite soit aussi reprAsentA dans la communautA des trai-

y, l'incertitudesur l'objet zest entidrement ddcrite par teurs d'image, tous les critdres de la forme (22) sont
la distribution de probabilit4 (48) Mais %rant donn4 une
formellement un
cadre hay%sien r41nterprktables dans
distribution deprobabilitd pour un param~tre ~, contmu La question l'interpr4tation bay%-
n'est pas de savoir si

ou
discret, quelle meilleure estimation «
peut-on efi » sienne reprAsentc une justification des autres approches,
faire, et avec quelle prAcision? II n'y a pas de r6ponse mais
plut6t de voir ce qu'elle apporte en rdponse aux
unique i cette question, le probldme relive de la thbone prob14mes 6voquAs ci-dessus En plus de sa grande coh6-
de la d§osion qui rApond I la question Qite deuons- rence, elle fournit des outils originaux pour le choix des
.<

nays
faire Q Ceci implique des jugements de valeur hyperparamAtres (marginalisation) et pour la minimisa-

et va par cons4quence au deli des pnncipes de l'infd- lion composA(algorithmes pseiudo-aldaloires),


du critdre

rence qui r4pond seulement I la question Qtte savors- «


et la qu'elle permet
var16t6
coots des
d'utiliser conduit

nails
? On peut ainsi
d4duire de (49) aussi
bien un h des solutions qui n'ont pas d'kquivalent dans le cadre
estirnateur poirctuel qu'iiire rAgion d'incertitude [43, 57] Anerg6tique (rdgression
Un choix d'estimateur trAs frAquent coirsiste I attnbuer
h z la valeur qui maximise
la distribution a poslenori ~ ~ ~~ ~~~
ji~6~i~~ ~t g~~~~i~~
Mais n'est des olutions
une structure linAaire
ce
possibles
Cette esti- linAaires,
matron correspond
h la minimisation d'un coot de donc un cadre algorithmique extrdmement commode.
MAP

d6cision moyen avec ne de coot


tout-ou-rien,
evanche
elles ne permettent d'incorporer quo des infor-

limite (lorsque e ~ 0) du coot moyen P((( £ - zo ((> e) mations


frustes~
D'antres fonctions de coot out oulevd
r%cemment l'in- Aristiques dans
la th40ne standard
Ainsi,
t4rdt dans le cadre de la mod411sation des images par de ar4gulansation [60],le termequadratique

champs markoviens
lles conduisent I des de fid4ht4 aux onndes G(y - A xi
probabflit%s margmales [4, 43] aut
h celui distribution normale
pour
d'une le~bruit
q(b(Re,1) ~,V(0,Rb). vec Rb cc ~~ De mdme, le
6.5 Liens avec les dktermi- choix d'une

ni~te~ 4quivaut lui aussi h celui d'une distribution « priori


normale pour l'objet p(z(Rz~l) ~ N(0,Rz), avec
Dans le cas qui intAresse lo.
bl4me finie~ il est flair que
soit positive La
riser
en
dimension
principe le
r%gula-
4,
price D[Dk
est
14finie d~-
selon le g4n4ral dans
chapitre terministe lindaire quadratique
donc
et
donc un critdre tel que (22)
ou 46), est 4quivalente il'estimationhn%aire aussienne
du fijjrage
h choisir qui aximise
la loi a paste- d~ Kajma~ La est exphcije
l'image solution
non ~ ~ _~ _~ _~ _~ ~

P(~ '
~, ~) " ~~P ~ ~

est
_ _ onction
Aaire
des donn4es
donc
~fl~~~'~~ ~~' b~~'~~
L~ '" d~ de l'4tudier

~~~~~~~'~~
~'~~~ ~~' ~'~' ~~~ ~~'°~~
P""b'~~
~'~~~~'~
°~'~~ ticulier off A dAsigne une
convolution iscrdte et off les
fonction strictement onotone autre
que l'exponentielle
~~gr~~u~ ~~r~j ~~pp~~4~ ~~
~j~j~~~~~i~~~ j~~~
~~~~~~ ~°~'~~~'~' ~~"~~ ~~'"~ P~rtl~~"lArewe~'t
~filtrage de lviener) Si l'on d4signe
bien ici puisqu'avec le modAle
~°~'~~~~'~

lin4aire (1) les ypo- y~ j ~j


loi ~
sous
~~~(~ ~~ ~~ ~~'
As ors que G est
~~'~~~I~~~'~~~'~~
une ~~~'~' oi~rler

la
norme eudidienne,
~ jj ~ j ~ ~j ~ , jj ne e
de
u sa ys
de o et de celle e du o
erne
corrAlation,
p(Y ( ~, '
A, ' ~~ cc ke, -
~~ ~~
Ax)) (52) on
~oit que

Pour soil la
loi purr doit .((v) =
lV(u)Y(v)

aussi la forrne suivante ~~


prendre

p(z
( 6) cc exp(-(o/2~~)
Fix)),

li'(uj ~ -
(55)
et qu'elle
non Sl) sort propre, Atant que Le de est
il
donc de la
neconditionsuffisante filtre

(52)
et (53) le soient aussi en ascade d'un filtre inverse une wlution
eaucoup de
fonctions
locale utdiskes en
naive et macceptahle) et
d'un filtre de
traitement 'image ont dtA introduites dan~ nn cadre chant
l'amphfication du hruit dans la bande
ANALYSE DES DONNEES EN SCIENCES DE UUNIVERS Prl -23

de frAquence off (H(u)(~gx(u) S gb(u)) Cette inver- niveau d'mfArence peut Atre rAsolu par maximisation de
sion
linAaire quadratique ou tin%aire gaussienne occu- cette vraisemblance Mais il taut pour cela rAsoudre un
pant une place prApondkrante dans les problAmes d'in- probl~rne de rnarginalisation
version, une r4action courante est de dire Les pro-
bldmes inverses, ce
n'esl pas compliqui, ii su~il
<,

de lisser Ply16> A) "


/P(?, VI 6, Aid?
les donndes avant d'mverser ~
Cette vision n'est pas
fausse et suffit pour beaucoup de probldrnes, rnais
elle =
/p(y(z,6,A) p(z (b)dz (57)
est rAductnce, ne permet pas d'aller plus loin, et induit
~~~~~~ ~~~~~dj ~~~ ~,~~~ ~~~~~fi~ ~~~ d~~~ j~ ~~d~~ Une telle int4grale conduit trAs rarement h un r4sultat
~~

~~d~~~~~~~ ~~~~~ d~~~ ~~j~~ ~~~~~j~ d~ ~~_


j~~~~~~~ ~~~~ exphcite Uueexceptiou remarquableestfournie parune
~~~~~~ d~ j~ ~~~'~~ j~ ~~~~~~~~ d~ j~~~~~~~~ distribution conjomte p(z,y(6,A) gaussieniie, ce qui
~~
~~~j ~~d~~~ j j,~~d~j(j~~ d~ j~ ~~~ ~ ~j~~j d~ est justement le cas
de l'analj,se spectrale avec un mo-
~~~~~

tjpe passe-~ande, le filtre de Wiener fournit la


d~'~ ~"1°~d9~~~~~f'°'l9 [38]
qui so-
lution r4gularis4e n'effectue qu'une ig«fisaliou spectrale °~ ~°~~~~~~ ~~
~~~~ ~~~~ ~~~ ~~~~'°d~~ ~'~~'~"~~ d~'
darts Atroite bande frkquence,
de 4 ~, ~~~ "~~g~~~~~~~°~ ~~ "°~~~~ d ~~ ~°~~'~
une et ne peut donc res- ~~

taurer le contenu spectral de l'objet [es frAquences I~~~"~~~ ~~ ~~~~'~ ~~"~ ~~""~~~ '~~ I~'~~ ~"~~~I~°~'~~~~
pour
~j~~~~~ ~~~~j~~j ~~d~~~~~~~~j~ ~~~~~j aux
3 smusoides effectivement pr4sentes dans le signal
~~ ~~~ ~~~ ~~~~ ~~
~~~~j~)~~~~j ~~~~ ~j~~ ~~ ~~~~~~j ~~~j
de notresecond exemple, maisau
pnxde l'appantionde
j ~~~d~~
~~~~~~~

~~~j~~ d~ ~~d~~
~~
jj fluctuations importantes dans le spectre Pour contour-
y ~~~~~~~~ ~~~~ ~~~~~~~~ ~~
solution
nj plus filtrage linAaire des donn4es ~~~
'~ I~~°b'~~~ d~ '~ d~~~~~~~~~~°~ d~ "°~~~~' ~~' ~~~
sera un
solu avec
les cntdres usuels, on retient un
moddle d'ordre

~ ~ YP~~P~~~~~~~~~
maximal d N (mod41e AR-long >.), et on contr61e
~' ~ ~~°~'~ ~~
= «

les fluctuations erratiques du spectre en


lui imposant
L'mterpr4tation bayAsienne perrnet d'4tendre derna- une contrainte de doitceitr en mmirnisant la rnesure de
mare apprAciable la garnrne des rnAthodes de d4terrnina- rU§osili d'ordre k
lion
dans
des
les
hyperpararndtres. Toutes les rn%thodes
chapitres
d4crites
prAcAdents n%cessitent en
effet pour
F(ei) =
lZk[B(u)] ~#
/ +i/2 ~k ~j~j 2

du, (58)
~ ~
leur mise en
effective, de choisir la valeur du co-
ceuvre
~~/~ ~

efficient de rkgulansation a, et plus gknkralement, de oh Bjv) estlarAponseenfrkquencedufiltreblanchisseur


tous [es hyperparamdtres 6 dAfinissant [es mesures
de du signal (19):
distance F et la bruit, [es paramdtres
variance du N-i
de corr41ation de l'objet, paramAtres des fonctions
et les B(v) ~~~
l/R(v) =
I £ am exp(-2jmv) (59)
d'Anergie locale La dAtermination de 6 est l'Atape la plus m=i
dAhcate des m4thodes de restauration et de reconstruc- (voir [61], 23-29) On aboutit h probldme
pp ainsi un
lion d'image Bien que ce
probmme suit encore ouvert, des moindres carr4s contrainte, de minimisation
sous ou
l'approche bay4sienne foumit des outils cohArents pour d'uncurare composA (22) qui poss4de une interpr4ta-
l'aborder bayAsienne simple (51) Les paramAtres de rAglage
lion
Les hyperparamdtres 6 constituent un second mveau
de la m4thode ne sort plus l'ordre d du moddle, mais
de description du probl#me, indispensable pour « rigi- le degrk k de douceur de la solution et le coefficient de
differ »
le premier ni~eau constitiiA par [es paramAtres r4gularisation o La ddtermination de ces deux hgper-
eux-mAmes l'objet z Dans un problAme
c'est-I-dire paramdlres par maximum
de vraisemblance marginale
mal-posA, la hyperparamdtres est importante
valeur des permet d'obtenir une
mAthode non sitpermsde
pour obtenir une solution acceptable, mais ne prAsente
pas d'intArdt en sot Dans une
approche bayksienne, on (
peut done distinguer deux mveaux
d'mfArence Le pre- °~
0

mier inf#re sur z, pour une valeur donn4e de 6, au tra- E -,02

de la distribution l'Aquation (48) posteriori de


vers

Le second infAre analogue


6
a

grice b uire relation ) -m

p(6 y, A) ~°~~ ~~ ~°~~ ~' ~~


sur

(56)
j -se~
~
'
° '~
~
'
P(y IA) = -,
_~ ~
as

On retrouve d'ailleurs Ii une caractAnstique de l'utili- 'ogio° k


sation de la rAgle de Bayes la vraisemblance p(y 6, A) FIG 12 Moddle AR-long allnie de la log-~raisemblance
attach6e aux
donnAes dans le second niveau est le coef- ~~~g,t~~j~ /o,~~j,~t~ d~~ hyperparamdtres k (ordre de
~t~
ficient de normalisation dans le premier j de doitcenr) et o (coejficient de rdgnlaiisa-
~ot~j~~~t~j~
Si, cela est souvent le terme est suffi-
comme cas, ce t~~~j
sammeiit «
piquk »,
c'est-h-dire si [es donnAes y contien-
nent suffisamment d'information, l'influence de la dis- Les r@sultats obtenns sont prksentAs h la Fig 12 On
jrihution a priori pie Al est nAgligeable, et le second observe que la nappe de log-vraisemblance ne prAsente
Pr1-24 JOURNAL DE PHYSIQUE IV

plut6t ligne local (20]


pas de maximumbien net, et qu'il existe une
n'existe m@me pas toujours un maximum

de crAte sur
laquelle la vraisemblance varie peu Autre-

ment dit, cette ligne, augmentation de l'ordre ~ ~ ~~d#j~ ~~~~~~


sur une ~
k de la contrainte de douceur, accompagnAe d'une di-
du coefficient de r4gulari~ation ci, ne II est souvent bayAsienne de
reprochA h l'estimation
minution conjointe
valeur de la vraisemblanLe dApendre de hypothAtique
la d'un
change pas notablement la vrai
connaissance

On observe donc consAquemment qu'il est possible modme alAatoire


>,
ayant engendrk l'objet h reconstruire

d'obtenir, de~ valeurs diffkrentes de l'ordre k, des Implicitement, pour formuler ce


reproche, il faut ad-
pour
tels celui prAsentk h la mettre que la r4ahtd peut Atre enfermAe dans
spectres voisins, que qui est <, » un

CephAnomAnepeuts'exphquerquahtativemeut mod#1e mathAmatique Vaste dAbat Dans le de


Fig 13 cas

le fait la mAthode doit rAaliser compromis


l'approche probabiliste de l'inversion telle quo nous la
par que un

la douceur nAcessaire bien rendre l'aspect r6- concevons, l'interprAtation frAquentiste des probabilitAs
entre pour
du entretient confusion ficheuse il semble
gulier du spectre du bruit, et l'absence de douceur une nous im-

prAciser que hypothAses probabilistes


spectre des 3 composantes harmoniques du signal Avec portaut de nos ne

des hypoth#ses le caractdre al%atoire de


ce type de signal et ce mode de rAgularisation, l'am4110- sont pas sur «

attendue n'est donc vraiment convaincante, l'objet, ou


du bruit affectant les donnAes, mais
des choix
ration pas
de rAgularisation permet effectivement d'un mode de reprAsentation d'une information priori
mAme si
le terme a

de contr61er le~ fluctuations du spectre dues h incompldte- ou


d'une connaissance incertaine- com-
mieux

l'augmentation de l'ordre du modAle Patible avec l'outil d'iufArence choisi Cette situation u'a
d'ailleurs rien
de singulier puisqu'il est rare que dans un
probmme rAel l'information « priori disponible le soit
,~ forme directement adaptke au cadre th#orique
j sous une
~
choisi pour le traitement
~
_,~
Les avantages apport%s l'approche bayAsienne ne
par
e
( _~
sort pas taut darts l'information supp14mentaire intro-
fi _~
'
duite par I'« priori [es interprAtations Anerg4tiques,

dAterministes, de la fonctionnelle de rkgularisation Fix)
~o
° °°~ °'
°'~, _°~
°~ °~ °" °~ °°~ °~
du 65 montrent qu'elle ne lui est pas propre, et
~~~~~'~~~~ ~~'~~~~~ l'information introduite [es param#tres de nuisance
sur

FIG 13- Speclre oblen~ modileAR-long (k I, est diffuse la plupart du temps que dans l'accAs h
«vec ~n =

0,005) une
couche d'outils qui n'existe pas dans les autres ap-
o =
proches
Pourcontourner ladifficult% posAe par le calcul exph- la margmalisation (on mtdgre simpiement c~ qu~ n~
~~~~ ~'~'~~ ~~~~~~~b'~~~~ ~~rglrl~'~> °rl PeUt intr°dUire
nous int6resse pas hors dir probldme, au lieu d'#tre obhg4
des <.
variables cachAes z qui viennent compldter les ob- d'imaginer nne rApAtition virtuelle d'e~pdriences aida- o

Servations y de man14re que la nouvelle vraisembiance toires »).

~
PIY>z16,Aj SOIL plus simple h calculer on est atom la rkgression jl'espkrance condijionnei]e n'a pas
conduit h maximiser
des espArances conditionnelles par d'kquivalent dans [es autres approches)
destechniques itArat»es, dAterministesoustochastiques j'Achantillonnage stochasjique (m4tl~odes de M~nje
~~~~~~~~~~~~i~~~~

~~~~~'~~~~~ ~~ ~~°~~~~ ~' ~ ~~~°~~ ~~~ ~°~'~~~~ ~~'°~" ~~


On peut aussi remarquer que ladistnbutiou conjointe
°~
~~~~~~~~~~~~ ~~~~~~~~~~~ ~~~~~~~~~$~ji~~js~~~~~~~~t~l~~s~~~i~ni~~~e~~~
P(Y, z
6, Al "
P(z Y, 6, A) p(y 6, A) des Ch°iX taisonnables [2, 35, 54], et sont surtout utilisAes

~~~ ~'~' ~~ ~~~ ~~ ~~~~ ~~s ~~~p~~~l~(~~s(~t~)~~p~~~i~ ~~s~~~~$~~~


rASUrlle toute l'information propre au premier niveau
particuliAre quandilssont correctement mampu16s[32]
d'inf%rence, et vouloir en
faire la maximisation conjointe En quejques exempj~s
voici

P~~ "P?"~ ~ ~ ~~ ~ L~ Pr°b'Arll~ d'lntbgration sou-


Certaines m%thodes reposent sur lath40ne des groit-
(57j k;idemment I e fixA, le transformation
'~V~ Par est AvacuA maxi- pes de pour dAtermmer la mesure
de r6-
~~l'~
d~ ~~als~lllb'a~c~ gAnkraliske (MVG) coincide avec
fkrence naturelle pour le problAme et >.
satisfaire h
'~ ~~~ ~~~ ~°~~~~ ~
fi~~' '~
~ "t~~tl°rl ~t bea~conp certains principes d'invariance Mais en pratique cette
momsfavorable la vraisemblance g%ndralisAc n'est pas, approche n'a guAre permis que de justifier apris c~up
en
gAnkral, majorAe sur son
domame de tl4finition, et il l'emploi de la mesure
de Lehesgne pour )es paramdtres
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS pr1-25

de locafisalion (fournissant ainsi une extension au cas


Anaiyse spectraie
continu de la distribution uniforme r%sultant de l'appli-
P~~~"P~ ~ , ~ , ~~~°'~~~°~'
cation du «
Principe d'mdiff6rence »
de Bernoulli dans
~~~
°
~~~('~ ~
°~~(~~~°~ ~'~~

le discret) de la de Jeffreys dans le des ~~


'~~ ~~~~~'°~~~ ~ ~~~'Y~~ ~'""~~~~ ~~
et ~~~')~
cas mesure cas
~YP~ )~~~ ~~~~~ '~
paramAtres d'ichelle [32, 52] P~"° °9~~'~~'~~~ ~°~~~~ ~f~~~ ~'~~hfrl"
D'autres m4thodes des
~~~~°~~ ~(°(~~~~~~' ~~~ ~°°~°~~'~ ~~~~ ~~~~~~~~~ ~~ '
reposcnt sur pnncipes infor- ~~'"

matiouuels II s'agit pnucipalement des mAthodes dites ~~~~~~ ~~~~ ~~


~~~~°~' ~' °~ ~~ ~~ ~°~~~~~~~°~' ~~~

d'enlropie ~°~~~~~""~ i ~ ~'~°~~~~~ ~~°~~~~ ~~ °~°~'~~~


d maximum darts lesquelleson recherche
»
~~, ~

une
distribution qui soit la plus proche d'une distnbu- [°~~i ~~~~~ ~ ~~~
~~~~~P°~~~(°~
~~ ~~~~~~ [~~l' ~~~~~"
~~~~ ~~~'~~~~'~( ~~~~~~~ ~ ~~~~~~~ ~°~°~~~~~ ~
tion de r%f4rence (au sens d'une distance de Kullback) ~ ~ ~~ "

'f~"~~' '~'~l'~~ ~~~~~~~°~ ~ » ~' ~~ ~~'


tout en une
v4rifiant incompl~te connue a
information ~~~
~~~
priori [31] Mais16 encore, cette approche a surtout per- °"

mis
de justifier aprAs coup certains choix De plus, elle y =
FX, (61)
n'est v%ntablement praticable que lorsque cette informa- ~o ya ~~~ d~ ~~~~~~~ ~~~~~ d,~jj~~~j~
~~~ ~~~~~~~ ~~~j~~
lion est faite de contramtes bn@aires la dis-
a priori sur j~ i ~~pj~~~~~ /~j ~~ d~ d~~~~~~~~~ ~ ~j
tnbution recherchAe (moments) On travaille alors dans ~l'j~~~(~~ ~~j d~~~ ~~~~~~~~ ~~j_~~~j ~~~~~~,~~dj_
~

la famflle des distnbittions ezponentielles ~~~~~~~ ~~~~ ~~ ~~~~~~~~~ fi~~~ ~~~~~


~~~~ ~~j~~ ~~
Un autre pniicipe formel consiste h utiliser des ~j~
a ~~~j ~~~ ~~~~~~~ ~~~~~~~ ~~ ~~~j~~~ j~~~
priori coiijitguds, famille de lots telles que [es distnbu- ~~~~(~j x ~~~~~~~'~j~j ~~ ~~~~ j~~
~~~$~
~~~
~~~j
~~

~~ ~
~~°~~ ~ P"~~~~°~~ ~°~~~~ ~~~~ '~
supAneure 6 celle ~, proildme
~°~~~)?°~~~f~~~ ~~'~~~ du vecteur des donndes le
~~~'~~~~~ [~41 ~~~' I~~~~~~~~ ~ ~~~~~~~ ~~~ '~d~~~ f~"
~~ ~~ peut #tre effectivernent vu aussi cornrne un probmme
mille est petite que possible, et param4tr4e Dans ~.~~j~~~~j~~~~~ ~~ ~~~~~j ~~ ~~~~~j ~~ j~
aussi
~~ ~ ~j~~~~~~ d~
~~ ~~ ~'~ "~ P°~l~~~°~~' I~~~ ~I~"
~~ ~"' I~~~~~~~ P~°" ~ la marl#re dAsormais habituelle (5J)
plication de la r~gle de Bayes, se rdduit h la mise h your
des paramAtres L'intkrdt de cette mAthode est X = arg mm (((y F Xii] + a
F(X)) (62)
essen- ,

tie"erllerlt d'°rare technique puisque l'a posteriori est oh F(X) est la fonctionnelle rkgulansation
de i choisir
t°llJ°firs calculable, au moins
jusqu'A uu certain point Ceci est, nous l'avons vu plus haut, Aqwvalent h recher-
°ll Pellt aUSSI
'Ui tr°Uver une
justification partielle par cher le mode (MAP) d'une distribution posteriori
a

un raisonnement d'invanance si
[es donnAes y modifient
p(z I) p(z I), l'iuformation ~ ~ ~' ~~ " ~ ~ ~ ~~~ ~ ~~
en y, apportAe par y sur z ' '

est Avidemment limitde, elle ne


devrait pas condwre h off la vraisemblance p(y (X, 6) serait de la forme nor-

une
modification de toute la structure de p(z iii, mats
male habituelle
seulement de ses paramAtres Alais il est clair que la -N/2 j
pnncipale ~~~ ~' ~ ~
~~"~d~ ~~P ~$ ((Y FX((I
motivation est sa commoditA d'emploi Les a '

~
conjuguks sont habituellement associAs h des dis-
priori
tributionsdirectes particulidres qui permettent toujours
~,~ ~ M
'
~ ~ ~ ~
'
~"~ ~~
~~~~ ~~~~ ~"~ ~~P~~~~~~
~~ j~~ ~~~~~~ j~ ~~'~~ jj quune telle vraisemblance ne peut pas s'interprAter
~~~~~~ ~~ j ~ jj j~j ~
~~~~(~~~~ ~(~~~~~~ ~~~ ~~ ~~~~~( ~~ comrne une version dAcentrAe d'une distribution de pro-
~~ ~il~p~~~l~i~- ~~~~~~~ ~~~
cependant trompeur~ des hyp~rparamdlre~ P°~'~ ~~~~~'"

taires apparaissent inkvitablement, qu'il faut aussi rA- P(y(X,6) =


q(y- FX (9),
g'~~. puisqu'il n'y bruit dans probldme
a aucun « »
notre
Nous allons plut6t nous intAresser darts ce cours I celui-ci s'4crit en
effet y =
FX et non pas y =
FX +
une
derni#re classe trAs importante, celle des construc- b-et, partant, aucunedistribution directe, saufdansle
t-ions faites i la main,>, c'est-h-dire qui ne
s'appuient sens
rudimentaireoii P(y(n)(X) =
J ou
0 selon que yin)
pas sur
des pnncipes de portAe gAukrale comme
)es prA- est, ou pas, uue donnAe compatible avec X Les donnAes
cAdentes, mais
introdwsent de mani#re pragmatique des observAes y nous disent seulementque le urai
Xo doit « »

rnodAles probabih~tes traduisant au


[es propnA-
rnieux Atre dans la classe C pour laquelle P(y(n)(X) I La =

tAs attendues des solutions C'est dans cette cat4gorie vraisernblanceprAsente doncunplateau horizontal,pour
qu'entrent [es meddles inarkomens qw out connu un
dk- tous [es X E C, ce qui exphque que la recherche d'une
~eloppernent spectaculaire en irnagene depuis 1984 [21], solution au maximum
de vraisernblance soit sans issue

et qui perrnettent d'incorporer dans une distribution i C'est le choix d'une distribution a priori pour X qui
priori des propriAtAs locales essentiellcs que doit pos- perrnettra,Aventuellement, d'obtenirune distribution I
sAder l'objet La construction de ces modAles dernande post4non p(X iv, 6) suffisarnrnent piqude pour pouvoir
beaucoup de savoir-faire Aussi, avant tl'illustrer ces
der- prendre une dAcision
niers a~ec notre premier exernple, nous cornrnencerons on rnontre [56. 6J] que le choix d'un a priort gaus-
parreprendre lesecond, celuidel'audysespectrale, afin sien pour X nous rata#ne I la solution du pbriodo-
d illustrer simplement quelle peut Atre l'influence d'un gramme c'est-I-dire I une
extrapolation par des zA-
modMe a priori sur
le rAsultat d'uue inversion ros et qu'il faut choisir une
distrihution «
I longue
Pr1-26 JOURNAL DE PHYSIQUE IV

alter de% Plusieurs choix sont possibles Restauration d'image


queue » pour au

[lS], [56] choisit lot de Cauchy, parfaitement uti~


et une ~ ~"~ ~ ~" ~ ~ ~~ ~~~~~~°" ~~~~°"~ (~f'l~~~l'
lisable malgrA la non moments, caractb existence de ses
~~°~~ ~~' ~i ~ ~ ~l~~ ~(~'~(~l~~
~ ~~~~~~~~~~~°( ~~~~~~~
et h l'ongine de la rnalAdiction dont
ristique bien connue
frdquentiste On choi-
~°~'( "'~~~'~~°~"~P~~
~~~(~
I ~~i"~ ~ ~
elle semble frapp%e en statistique (~~
~'~~°"~~~~~~
~~~~~~~
~"~~~P~~~~~~°~~~~~
sit donc un coefficient de rAgulansation nul, et le seul (~~~~~~~'~~'~~~~'"~'(~'~~
~~""~ ~' ~ "°~~ ~" ~ ~'"~
~~P~~~~"" ~~
hyperparamdtre h rAgler est le pararn4tre d'%chelle de la
choix d'un rnodAle a priori
°~'~(~
imp iciternent gaussien et
j~ ~~ ~ ~~ ~ conduit
~~
stationnaire pour la rAflectmitA inconnue I ef-
fectuer, lors de l'inversion, un
filtrage linAaire des don-

exemple de r%sultat pr%sentA obtenu h la ndes, et celui-ci est finalement un compromisentre le fil-
Un est
n4cessaire des impulsions
pures du signal sent trAs
Fig Les 3 frbquences
14 bier trage inverse pour restituer au

localis4es. et leurs amplitudes respectives bien resti- contenu spectral umforme, et le lissage accentuA nkces-

la dynamique de l'amphtude pour limiter l'influence du bruit. Le rAsultat abou-


tubes On remarquera aussi saire

du tit, dons contexte hnAaire, h n'effectuer qu'une Aga-


spectre estimk ce

lisation spectrale dons une Atroite bande de frdquences,


du caracmre de l'ondelette qui se propage II
en raison
,~
fautdonc, pour aller deli, quitter ce
cadre finiaire en
~ o
au

~O -'°
adoptant un
mod~le a priori mieux approprid
[$ Un modfle gaussien stationnaire n'est effectivement
e
) pas bier adaptd h la description d'un signal qui est

ct " presque partout nul, et ne cornporte qu un petit nornbre


[~ d'impulsions correspondant h la traversde des mter-
° °°~ °' °'~
_°~
°~ °~ °" °~ °" °~
f~ces sAparant deux couches homog4nes Comment dA-
~~~~~~~~~ ~~~~~~~ simplement tel signal irnpulsionnel, saris trop
core un

FIG 14 Spectre obtenit de C«iuchy s'4carter pour autant dn mod41e gaussien stationnaire?
avec inn a priori
(extrapolation M 024 pomls) Un moyen simple [45] est d'introduire une variable
svr =

d'occitrrence impulsions, q(n), binaire, prenant la


des
La composante du spectre due au
bruit n'est pas ~~iu~ j j~rsq~>~~~ ~rnpub~~~ ~~t ~rd~~~t~ ~ j>~~~j~~t ~
'

tr4s bien rendue, par contre, m6me si


l'enveloppe des ~j j~ ~~j~ur ~ujj~ ~~~~~ ~t d'~d~pjp~ j~ rn~d~j~ ~ p~~~~~
pics
correspondants donne uue idde correcte Ceci
en

de la lot T(n) N(0,~~q(n)) (63)


provietit, bien sir, du choix « priori pour X
qui est s4parable ceci convient tr#s bien pour des com
lieu du mod41e stationnaire Tin) ~r (0, ~~)
~ utilisk
au
posantes ~ armoniques sans rapport entre e jj es, mais tie ~ j ~j~ ~~~~ ~ ~ ~j ~
~. '~~~~j~~~~( )~~~~
~~~
permet pas de traduire les propri4t4s de continuit4 frk- ~~'(P~~~~'~f"
douce de la composatite
~i~ ~ ~~
(~"~ ~( ~~ ~~~ ~ ~ ~
~(P"~~
quetitielle et de variation spec- ~P)~
(~~~~'~~" ~~~P j~ ~~" ~~~"~ ~~'~)
/(
~" ~ ~ ~ ~
trale due bruit II faudrait r4aliser mAlange (~ ~~~ ~(~ ~~~
dons la
au

foncttontielle de rAgularisatioti
un

Des
«

travaux rd-
~~ )~ ~~~ ~ ~ "~'~~ ~~~~ ~~~ ~~~~~~~'~
~'~_~~~~~ ~~
cents explorent cette voie [10], mais
[es rdsultats n'en
~'~~' l'~°""1' ~~
°P~~ )~~
~(~~~(~~~~
~~~
~~
~ ~°~
sont encore
qu'au stade prdhmmaire ~~
~~
~j~°I
~
$~ ~ ~ ~ ?"°"' " ~

ernou i separa e

~~~~'~~ ~~
~' ~~~~'~~ ~~ ~
Quoi qu'il en soit, cette approche permet aussi
d'ef-
fectuer une extrapolation du signal, en appliquant une Le mod~lecomprend donc aussi un hyperparamdtresup-
TFD inverse au vecteur X obtenu, ainsi que le montre pjAmentaire, la probabilitA ~ d'occurrence d'une impul-
la Fig 15 stun
On montre que la solution de ce problAme de dA-
convolution Bernoulli-gaussienne s»crit [24]
ii, ii = arg min
(((y Az((~ + pz~o z + a
Nil
~ ,

~
(64)
1 ' it ( iii.;=
if
s,~
G ,~,'~..4jj,1§# % I(#~'i(. ,I@ i"; oft Ni est le nombre total d'occurrences d'impulsion et
( o
I, 'I( ~l' ~~ off Q diag(q) On observe done cntAre p@-
" que ce
_,
-t ' nalise «itlomaliqitement le nombre d'impulsions dAtec-
~~ tAes, faute de quoi il est facile de voir
qu'on dAtecterait
_~ _~ _~ _,~ ~ ,~ ~ ~ ~ ~

j~ ~~~~ ~~~ ~~~~~t~jj~~~ une impulsion h chaque in~tant n, ce qui nous ram>-
nerait au prkcAdent
rnoddle Mais l'intro-
stationnaire
FIG 15 Ezlrap0laiioIt des N 64 rich«llld'0nS dM # duction du vecteur radicalemetit changA la nature
q a
signal jitsqv'd St 1024, mdlode de regll'«- du probldme d'optimisatioti I
avec itne =
q fixd, nous avons tou-
risalion fondee sun itll a priori de Caitchy Le5 do1I1Ides probmme de minimisation dans R~ d'un rritAre
yours un
~onl en trait plein et ie signal ezlrapold en
poinlillds
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS Prl -27

convexe
dont la solution est unique et explicite Or q continuitksdansuneinterface, et1pour dAcrire lacorrk-
peut prendre 2~ configurations diffkrentes, % bien qu'il lation entre deux rAflecteurs successifs aria de permettre
se
greie un probldme d'optimisation combinaloire sur h la rkflectivit6 de varier le long d'une interface II faut
ce
problAme d'optimisation continue Le problAme d'op- aussi
faire en sorle que le champ 2-D ainsi constrmt sort
timisation global nAcessite donc que 2'~ probldmes AIR- spatialement stationnaire puisqu'on n'aaucune raison a
mentaires, du type (54), soient rAsolus, ce qui est prati- priori de supposer qu'il en soit autremenl
quement impossible dAs que iV prentl une valeur rdaliste
II de,,lent donc impossible d'accAder h la solution dont
on ne connait pas d'expression explicite, et il faut se
contenter de l'approcher par des techniques d'optimisa-
tion sou~-optimales [25]
j
I

i
~

~
i
E ~
i

0 10 lC 30 W 50 50
5e>,,mc Wwe #

FIG 17- Ddconvolittionmarkov-Bernoitlfi-gaitssienne

Le champ bmaire (q, t) est un champ de Markov uni-

o
latAral, ou chaine de Markov vectorielle du l~~ ordre lcs
to 2o 30 5o
irnpulsions reprAsentant les rAflecteurs sont en corres-

F~~ i~ /Jd~~~~~,j~~~ ~~~~~~jj~_g~~~~~~~~~ pondance eutre colonnes adjacentes, h l'exclusion d'in-


teraction de longue port4e Chaque colonne est un pro-
Un exernple d'inversion avec un
tel moddle est donna cessus
de Bernoulli, et l'ensemble (z, q, t) forme un
h la Fig 16 On constate deux choses champ de Markov-Bemoulli-Gauss [28]
~° ~haq~~ tta~~ V~TtiC~'~ d~ '~ t~ll~ctlvltk t~StaUT6~ exemple de dAconvolution obtenue
Un avec ce mo-
~~~ b~~~ ~'~' ~~glla' irllPU'Si°rifle'> dU tYPe S°Uhaitb Le ddleest prAsentA hlafig 17 Lesfausses dAtections dela
~°rlt~rl~ ~P~ctra' a d°rl~ ktk ~t~rld~ bl~rl a~' d~'b d~ la Fig 16 ont disparu et la continuitd latArale est assurke,
b~~~~ ~~ frkq~'~~~~~ ~~'t°~lsbe P~r '~ fi'tr~ge de Wlerler mdme s'il subsiste encore quelques erreurs de localisa-
~" 6 6
tion des impulsions de l'ordre du pas d'4chantfllonnage
2° il subsiste cependant un certain nombre de d4- ~e~j~~d
fauts, avec
des fausses d4tections ou une mauvaise Io-
cahsation des impulsions, et la carte bi-dimensionnelle De faqon g4n4rale, la traduction quantitative de pro-
reconstruite ne
possdde manifestement pas la continmtk pri4tAs locales d'une image (rkgions homogAnes sAparAes
latArale d'un milieu caractkrisd par des interfaces rAgu- par des contours,exemple) peut Atre envisagAe dans
par
liAres et sensiblement horizontalcs le cadre tr~s large
fonctions d'dnergic qui ont AtA
des
Ceci est facilernent explicable puisque [es traces sis-
introduites en traitement d'irnage en considArant que
miques sont trait4es indApendamment les unes
des l'objet z est, cornrne
le bruit, une
rAahsation d'une va-

autres, et ensuite jnxtaposAes II est donc indispensable, nable alAatoire [4, 21] Un pr4alable consiste h d4finir un

pour rem6dier I ce dAfaut, d'introduire un


rnodAle 2-D systAme de voisinages (d,) dans lequel d, est la collec-
du milieu pour pouvoir d6cnre les propn6t6s spatiales tion des pixels qui sont suppos6s interagir directernent
attendues ~vec
le pixel i Une caractAnstique fr6quente de beau-
coup d'images est qu'd est trds probable que les valeurs
~~ ~, ~~
~~~~~~~~~
~~
~~~~~?~~ ~~Q~ ~~~ ~~~~~~~~~
(~ ~~~~~~jj~_~~~~~
j~~j~~j~
des intensit6s en des sites voisins soient elles-rndrnes voi-
~~~_
c6dent consi$e h introduire supplAmentaire de ~~~~~
~°~~ ~~~~~~~~ ~~~~~ P~°P~"~~ ~"~~~~~' °~ P~~~
un jeu
choisir, h titre d'exemple AlAmentaire~ des Anergies lo-
~~~~~~j~~ ~~~~~~~ ~~~j ~~~~~~~~ ~jj~~_~~~~~~ ~~ ~j~~~~~~~
~~~~~ ~~ ~~ ~°~~~
l'existence, ou non, d'une transition entre deux impul-
sions voisines appartenant [28] i deux traces contigues
Mais le modAle comphque sensiblement Le
~(~>'~J) " (~< ~J(" ~
J E d>
a priori se
uombre des hyperparam#tres auginente puisqu'il en faut =
0 sinon
(65)
3 pour dAcrire [es frAquences des transitions horizontales,
montantes et descendantes, I pour la fr6quence des dis- Ces Anergies de liaison, calculkes sur tous les pixeh voi-
Prl -28 JOURNAL DE PHYSIQUE IV

sins, sont ajout6es pour dAfinir l'knergie de l'image assurAes de converger, et de foumir une certaine robits-

~j ~ ~ ~ ~j ~" ~~
~ ~~ ~
Jesse h la solution [7] Les autres permettent de dAtecter
rAellement [es discontinuitAs, mais au prix d'une certaine
~ ~
instabilitA et d'un coot calculatoire klevA [22]
Vk est l'dnergie associAe au
k~ ensemble de pixels voi-

sins, et k indexe l'ensemble de toutes [es paires de sites


L'idke dan~ cette construction est 6.9 Cho1X de critdres
,,oisins suivie que
Viz) doit dtre faible pour [es images qui vArifient les
~, approc ~ e
~ ayesienneramene j, inversiona a
~_~
e er-
proprietes que ~, on veut uti j iser pour ~_~
e nir
j, « priori,
mination ~, une
~ is ri
~ ution a posleriori ~ omiue i
j n est
c est-a- ~ ire
~ ans cet exemp e
j es images ~ ont j es pixe s
pas envisagea ~j e
~e ca cu et comp j, element ~ e te jj es
~ is-
voisins on en
~ ance a a~oir es memes va eurs
~, in en-
tn ~utions, on se contente ~e rec
~ erc
~ er un estimateur
site ~ ais es
j onctions ~,. energie peuvent aussi tra ~ uire
ponctue qui est souvent ce ui
~ u maximum a postbnon
~, autres proprietes, te j~ es que j, existence ~e regions pros- ~, y j
autres a erna ives exis en ~ mammvm a pos eriori
qu ,
separees par ~ contours marques ~ our
uni ormes es
marginal, moyenne a posterior, ), mais
il est im-
mo
~.~
e iser ces ruptures ~,~ omogeneite, ~, image i
~_ea e est
portan ~e ~ j consequences ~, te c
~ oix
alors considdrAe comme uue paire (~,t) associant un
ten eva tier es un

et ~ e proposer, si necessaire, ~ es a tematives


~ec eur ~, in ~ ensi ~,e ~ es pixe s z, qui serai
~ irec emen
~~ ~~~~ ~°~~~~~~ ~~ ~~"
observable avec un instrument parfait, h un vecteur t i~~~~f(/~~ ~~~~~~~~[~
,

~° ~~ ~~~~)~~ ~~~~~
~~~°f ~°~~
de variables supplAmentaire~ cachAes traduisant des ca- ~(P°~)~ ~'

~°~(~~(~
ractAnstiques inobservables telles la prAsence d'un P~~ ~'~~ P~~ ~ ~
que ~~$~~ °~'~~~ ansation
~°~~~~'~~~~'~
regu que ap-
~°~
~~)
~, [~j ~(~~~~' ~~~
~ ~
~.~
~ ~~ ~~~~~ ~ ~~~ ~~~~~
convexi
proches
e es

quadratiques et entropiques
cn

sont bien
res e ors es

connues
~~~ ~ ° ~
j~ ~ ~ ~~'~~
pour rendre [es probl#mes inverses
bien posAs, la mini-
J~(?.t) "
Vr(z) + Vt(t) + Vrt(?,t), misation d'une fonctionnelle peut
non convexe ne assu-

compos4e de trois termes un terme d'intensit4 Vx(z), rer que la solution soit continue une
petite variation
untermedecontourvt(t)etuntroisiAmetermevrt(z,t) dans les donn4es peut induire un «
saut »
d'une val-

qui ddcrit [es interactions nAcessaires entre [es contours lie I une autre, et donc une perte de continuitA Mais,
et les pixels [21] On peut d'aflleurs remarquer que le cri-
beaucoup de probl#mes, ces
dans transitions sont non

t#re associk au
modAle I-D de Bernoulli-Gauss (64) pos-
dAsirables, mais
seulement nAcessaires pour restaurer des
side justement cette structure Ces knergies locales ont discontinuitAs, des frontiAres, des interfaces, des points
des liens 6troit~ avec
la physique statistique et [es dis- brillants, sans
hmiteen termede rAsolutionspatiale
,

tributions de Gibbs qui out la forme suivante p(z, t) =


tin %clairage diiArent peut Atre donnk h ce probldme en
e~p(-V(z,t)/T) off T cst un paramAtre de temp4ra- observant que certains critdres non convexes
introduits
ture Dans le domaine de la ~egmentation d'image, des en imagerie possddent une expression Aquivalente impli-
formes spkcifiques de variables de contour out ktA intro- quant des t>ariables cackles Dans ce cas
le probldme
duites pour obtenir de~ contours fermAs Les variables quitte l'analjse convexe et incorpore une certaine dose
cachkes constituent un moyentrAs puissant d'incorporer d'analyse combinatoire, ou
de test d'hypothAse, ce qui
une
information a priori %labor%e, comme nous
l'avons reld,,e de la thkone de la ddcision plus que de l'esti-
vu
plus haut dans l'exemple de la r%flexion sismique, mation L'analyse bay4sienne reste pertinente dans ce

mais
leur principal mconvAnient tient aux problAmes cal- contexte de dktection-estimation comb1n4es Nombre de
culatoiresque poselaminimisationdes critAres associ4s, tra,,aux r4cents ont AtA engagks dans cette voie, com-

ainsi que nou~


l'avons vu
dans cet exemple et que nous
binant plusieurs niveaux
de variables, mAlangeant des-
le reverrons au
6 10 captions h has et haut niveau, ou
des donn4es recueillies
Un autre moyen de mieux pr4server [es discontinuit4s Par des modalit4s exp%nmentales diff4rentes C'est en
dans objet que ne le font [es mAthodes de rAgulansa-
un ce sens que [es concepts classiques de la r4gulansation,
tion employant des cntdres quadratiques, consiste hem- comme
la continuit6 par rapport aux donn6es, ne sont
Ployer des dnergies non qvadrahqves [30] Le principe plus totalement appropriAs et qu'un effort d'extension
est d'utihser une fonction qui croit moms vite qu'une doit dtre fait
parabole, afin de moms p%naliser les variations impor-
tantes Elles sont essentiellement de deux types ~ ~~ p ~°
~j, ~~~~ ~
j ~°~~~ ~ ~~~l~~~
)es fonctions Lit. c'est-h-dire les fonctions con~exes,
contmoment diffkrentiables. comportement de quadra- L'approche bay,Asienne que nous adopt@e darts
avons
~~q~'~ h "°r~g~~~> "Y'UPt°tlqUement 'inkaires, et dont ce cours offre un cadre remarquablement cohArent pour
~~'~~~~P'~ ~YP~q~~ ~~t '~ bt~rl~he d'l'YPetb°'e, traiter de problAmes d'infkrence dans situation
une in-
[es fonctions Ljo qui diffArent des prAc6dentes en certaine off l'on dispose pjusieurs de d'informa-
sources
Atant asjmptouquement constantes, et donc non conve- tion donnAes expArimentaleq, mod>je direct, a priori
~~~ Les limitations en sent bier connues, elle sort essentiel-
"~~ ?~~'~~~~~~ °~r~rlt ""~rlt~ge d'°tre C°IlveXes, si lenient d'ordre calrulatoire Les critAres 6tant choisis,
bier [es techniques standards de minimisation sont la question de jeur cajcuj Pj
que se pose encore t t d
ex ici e e e
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS Prl -29

leur extrAmahsation, d'autairt qu'ils sort souvent multi- Bien que (67) converge pour une
large classe de densi-
Inodaux tAs h, le choix de h est important II faut d'une part
En d'image, [es lois h
modklisatioli maximum
d'efi- que [es ~anables engendrer, le gk-
~, soient faciles b
tropie se gAnAralisent naturellement sous
la forme de nArateur pseudo-alAatoire correspondant doit @tre liable
champs de Markov, qm permettent d'incorporer des in- et rapide D'autre part, la fonction h(z) doit @tre re-
formations structurelles liAes aux
propriAtks locales des latiiement proche de p(~ (y,I), aria de rAduire la va-
objets La possibihtk de dAcnre des zones
homogAnes riabilitk de (67) et Avitcr que [es poids ~(z,) ne soient
sdpar4es par des discontinuit%s est en
effet cruciale en trop faibles II con,,ient en
particulier que )es queues de
traitement d'image [30] Mais quand une reprdsentation h soient au moms aussi
lourdes que celles de p(~ y, I)
markovienne associ4e h une
6nergie de Gibbs est utih- pour %utter que (67) ne converge trop lentement
Ske, la principale difficultA provient de l'impossibilit# de Lorsqiie la distribution « posleriori n'est pas cal-
calculer la distribution a
posleriori de l'objet, I cause culable, une premiAre id#e est d'engendrer une suite
des propridt4s de ces Anergies et du nombre trds 61evd de d'objets pseudo-alAatoires tir4s selon la distribution de
configurations possibles Les distributions marginales a Gibbs p(~ y) Partant d'un objet initial z(°', l'Avolu-
Priori p(z,), par exemple, ne sort d4ji pas calculables, bon de xl") I z'"+~' concerne un
pixel au
plus, et se
seules les distributions conditionnelles p(z, zj), j E d,, fait hasard selon la distribution conditionnelle locale
au
le soirt Cette difficult4 a ktA en partie levbe par des pj~, j~~,y), j e d,, qui est calculable si le syst4me de
techniques stochastiques du type ,<
Monte Carlo »
voismage de la loi a posteriori est de dimension r%duite
Comme nous
l'avons vu
plus haut, la distribution de C'est I'<. Achantfllonneur de Gibbs [21] permet de
» qm
Probabilit4 a posleriori pour un
paramdtre z associ4e 1 ~imuler, quand n ~ oc, des rAahsations de p(z (y), et
line distribution directe ply z, A,ej et I une
distribu- donc d'estimer, co0t de calcul raisonnable, des
avec un
lion « priori pixie) est donn4e par la rAgle de Bajes estimateurs marginaux[43) Laseconde id4e est d'intro-
148) Deux diffcultks peuvent apparaitre tars de la ma- duire la distribution auxiliaire
nipulation de cette rAgle
PT(~ Y'~'~l °~
iP(~ ~) P(Y ~'~' ~ )] ~/~ ~~
le calcul explicite de la distribution a posleriori peut '

@tre impossible, oil T > 0 est un «


param4tre de tempArature »
Quand
mdme si
p(z iv, A, 6) est connue, son utihsation dans T ~ oc, (68) tend vers une
distribution uniforme, alors

un
calcul ultArieur, tel que celui de la moyenne a pas- que quandT~ 0, ladistribution (68) est concentrAesur
tenon, peut conduire I une intAgration analytiquement le maximum a poderiori Lorsque l~Achantillonneur de
impossible Une solution h mdme de skduire les proba- Gibbs est employ,4 a~ec une
distribution telle que (68),
bihstes est, calculer intAgrale de la forme et la tempdrature T est abaissAe lentenlent I zdro,
j 9(~)
pour

P~Y
une

~'~) P~~ ~) ~~ (~~~


on
que
converge vers l'estimateur du MAP C'est le «
recuit
' simu14 » Mais,lA complexitk
encore, calculatoire
sa
croit

de profit du fait que


tirer p(z Ii est uire
deirsit4 de rapidement avec
la du syst#me de
dimension voisinage,
probabilit4, et d'engendrer, g%n%rateur pseudo- ce qui la rend pratiquement inexploitable darts les pro-
avec un

alAatoire reproduisant p(z Ii, une suite de vecteurs blAmes inverses off la matrice A n'est pas uII opArateUr
Par la loi des grands nombres, alors local L'algonthmcicm [4] est une variantedAterministe
xi, ,zn on a

j~ ~~r~~~~g~q~
du recuit, plus rapide que ce dernier, mais qui ne fournit

n
qu'un minimum local du crit>re rdgnlarisA
~
L91?>)PlYl?,>I) - /§I?lPlYl?>IlPl?llldZ Lorsque la r@solution du probl~me inverse conduit
>"I I oplimisalion non convexe, le recitil simvld est la
une
q~'~"d 'l
terld ~~t~ +°° ~'~~~ ~~ q~ ,
°" ~I~I~~"~ ~"~ "~~" mkthode plus souvent le avant, compte tenu de
mise en
lh°d~ d~ M°'l~~ C~~'° ~~~ ~~~~ ~'~~~ approche
~ I~" ~~~~~~~~~~ ~~'
ses
propnAtAs thkonques [21] &Iais cette sto-
gerldrer 'eS ?> SUivarlt PI' ') P°Ur °bt~rllr U'~~
b°~'~'~
chastique se rdvdle encore trks trop cooteuse
sou~ent nu-
aPPr°Xl'Uatl°rl de (66) St h( est U"e derlslt~ de Pt°f'~~
mbnquemeiit @tre rAaliste, et d'autres approches,
pour
b"ltA ~rbltr~~~~ ~~r 7l> °~ I~~~~ ~~g~~~~~~ '~~ ~> ~~'~~~~
bier poss4der le mdme potentiel
connues pour ne pas
h et l'intkgrale est approchAe par j~j~~~~~~~ j~~j_i_f~~j ~~~~~~rr~~j~ejj~~ L~ do-
f ~~~'~"~~'~' maine de la
~~~~~~~~j
restauration i-D, dont )es d4veloppements
I pass4s ont souvent pr%figur% ceux
de la restauration
'"~
2-D l'illustre parfaitement connait de nombreux
~~~id~$'i~ibres s~i~~'j~~i~~~i~el~u~
~~
~~nditi~ns~e
~ j ~~ ~~~I~~~~ )(
on

'~~~( ~~
~~~~)~~ ~°~'~~~~~j~l'~'(~
giilantA, quo cette approxiInation converge kgalernent b~~~'
~~[_~ ~ ~~~
(" ~~~
~)~/jl~
~( ~ ~ ~~~ ~) °~)~~~ ~~' ~~'~

~~~i~~~~
~~~~~(~)~ ~~~~~~~~~~f~~(~~~~(
~' ~) P(* ~) ~~ iin~~~i~~~~~~e~~~~~~ii~~
JR P(Y (?. I) PI? III d? latoire bien moindre II taut bien votr
qu'i cc niveau
il
~"_~ gjz,j~(z,) n'existe de rAponse gAnArale h probldme d'opti-
*
~j~,j
'fn i~~l
misation
pas
Pour dtre cr@dible, il fart
ufi

accepter de qmtter
<=1
Pr1-30 JOURNAL DE PHYSIQUE IV

le domaine mathkmatiques appliquAes poiir celm des


des 7.I FacteUrs de Bayes
sciences l'ingdnicur Citons par exemple le prockdA
pour
d'optimisation par non convemtd graditelle qui est une S~PP°"~~ P°~t C°~~~IlC~t qUe [es d°rlrlAes Y ~le'lt
mAthode sous-optimale de relaxation dAterministe btb ~llgelldrAes S°US "Urle °U "llUtte de deux hypothAses
im-
tialement mtroduite segmentation d'image j6j L'idAe ~i et ~W2, Se'orl yrle dellsitA de Ptobabilitk f(y MI, Ii
en

est de construire suite V(")(~) de fonctions d'kner- °~ f(Y M2. II Etant d°nnb des Pr°bobi"tAs a priori
une

gie convergeant Viz), dont la fonction initiate cst


P(fi'i ') et P(M2 III I P(fill II> [es d°nnAes
verb "

convexe, et faisant sorte la suite des pr°dUisenL 'eS pr°babilitAs posleriori P(Mi (y>I) et
en en que minima a

locaux converge vers minimum global recherchA. Les le P(fif2 Iv, II "
I ~P(Mi Iv- I) L'bvidence apportAe par
r%sultats obtenus quelques probldmes sont
'~~ d°Illl~~~ ~Il
f~v~~'r de l'une ou
l'autre hypoth4se prend
sur inverses
jrjsencourageants[9 44 48 49) uneformeparticulidrnentsimpleenutihsantl'Achelledes
Enfin, comme
l'utjlis~tioiide champs de Markov ~°~~~ (~°~~ P"b~b~'~~~ I Ii Pt°babl'lte))
"
avec
des fonctions d'%nergie non souldve de dAlicats
convexes pj ~ ~~ pj,~ ~j ~° ~ ~~ ~' ~j
probldmes d'optimisation globale, on peut leur prAfA- ~'~
~~ ~~' =
(69)
les champs de Markov
~
~
~~~~~~~ ~~Y~~~~~~~
rer gaussiens gAn%ralisAs, aria-
logues aux moddles utilisAs en estimation robuste, et qui La cote est donc simplement multipjide
a priori par
conduisent I des crit4res convexes [7, 9, 30]
~
~~~ ,lf~) ~~
~(~ ~~~~
II '

~' ~~~~ ~~ ~~~~~~


qui est le fadeitr de Bayes [36) Dans le cas le plus
~,~~j~~~j~~~ ~~~ ~,~~
simple, quand les deux hypothAses sont des distributions
~~~~~~~~~ ~~~~j~ ~ _,

vrai n'est sou~eri qu'une Atape dans i~o)~~i~~ ~~~~ ~~~~~~°~~~~ '~~~~ (~~~°~~~~~~ ~~'~P~~~l' ~12 est le
« », un
d'inversion, et l'on peut besoin de
~~~~°~~ ~~
~~~i~~'~~~~~°~~
~~~°~'~~~~~ ~~~~~°~ ~'~~~~~
aussi avoir juger [es
~~~ ~'YP°~~'~~~~ ~~'~P~~~~ ~~~ P~~~~'~~~~~~
rnAntes relatifs de diffkrents modmes a priori
~~~°~'~'~~ ~~' '~
~~~~~~'~ ~~ ~~~~~ ~ ~°~°~~~ ~~ ~°~~'~~ ~~~~ ~~PP°~~ ~~
Leprobldrneconsisteusuellernentichoisirunrnoddle
vraisemblance mais
les densitAs p(y(Mk II (k 2)
Par icu ier ~ k Pk y zk ~ ans une ami jj e ~ i ~ ate '
can ' '

~ ~p~ ~ j ~.~ j ~ ~ ~ onI16eso ~


soul o ~ tenues en ml£grant jet non en
maximisant) sur
zk " I ,sUt a ase es set-
, j, ~~~~~~ ~ ~~~~~'~~~~~~
v4es y Une des rnAthodes de choix [es plus utilisAes ~~

(AIC ),
traitement
conduit
du
cntdre signal, le
d'information
poUrtant h Une probabl(ltk de sUrparamk-
d'Akaike
en

~(Y l'~k, I)
/ P(Y ~~k, ~k> I) P(*k l'~k, I) dZk
tnsation non nulle quand N = dim(y) ~ Un autre
oc (~i)
critdre populaire, celui de Rissanen-Schwarz (BIC), ap-
porte une amAlioration par une estimation convergeant Cette vraisernblance margmale n'est d'autre
men que
presque sorement II en existe bien d'autres, its 'e coefficient de normalisation dans l'expression de la
mais
souffrent de dAfauts qui deviennent particulirement Avi- densitA de probabihtA posliriori le param4tre
oi pour
dents quand le contrasle rapport entre le nombre de zk donn%e par la rdgle de Bayes, contrairernent
rnais
donnAes disponibles et le nornbre pk de pararndtres utili- b beaucoup d'autres applications de la vraisernblance,
sds dans le moddle est faible ils tendent I surestimer tous les facteurs constants intervenant dans son expres-
consid4rablement l'ordre b moins que de fortes restnc- sion
doivent dtre consem4s lors du calcul de B12
lions soient I la dimension maxirnale des S'd Ii rnodmes MI,
ne mises rno- y a concurrents ,MK et si
b, la r/lation
dAles candidats De plus. [es rAsultats obtenus l'on dAfifiit l'hypothdse nitlle ilfo
avec un y =
faible nornbre de donn4es tr4s sensibles h la forrne (69) I posleriori
que la probabilit4
sort rnontre
pour Mk est
de pAnallsation apportAe
la h la log-vraisernblance Or donnke par
[es problArnes inverses sort souvent caract4ris4s par nn
~~~~i~~~~~~l~~~h~/~~s~~il~~~~~~~f~ ~~~~ ~'~~
$i~~~Bk>o
~i~ilii~~~i~ '
~~~~
probldrne fait que les Atudes h faible nornbre de donn4es
sont tr4s rares
°~ ~k P(fifk I)/P(Mo Ii Quand les diffArentes hy-
#

ist~i~~~ ~~~~~~~ ~°~~~~~~~~~~~~~~~~~~~~~~~~~~~ ~~~~~~j


~~n~~~~~~~~$i~~~~iii~~~~~~~~~~~)~~
des donnAes fonction ~~ ~~~~~' ~~~~ P°~~ ~°~~~~ ~~ ~~~~'~ ~°~~~~~~~ ~~'
en de chacun des trod#les (probabi- Pas-
litAs directes), et le thdordrne Bajes ~~~~ ~~ ~°~~~~~~~~ ~~~~ ~~~ ~~~~~~°~'~ ~~~' ~°) additives
de est employA pour
calculer la probabihtk ~~ ~'~°~~~~ ~~ ~°~~ ~~~~~~"~ ~~ ~~ ~°g-Vraiserllb'ance
a postenori que l'un des rnoddles mar-
soit L'%I%rnent central le facteitr ~~~~~~
correct est de Bayes
r~i~~i~u~~l~~~~i4~~$ ~~l~ii~~~u$~i~~~~~i~i~~~~~~~i~j
~~~ ~°~~°~~ ~~' ~~ ~~~~
'

~~~~~~~~~~ di'idence le mod41e


ou pour candidat AIL
ANALYSE DES DONNEES EN SCIENCES DE L'UNIVERS Prl-31

7.2 DiflicUltks gaussien circulaire~ et dont on sait [61] qu'il conduit h


extrapoler le signal observA par des zAros, et dour I la
On peut montrer [36, b0] que le cntdre de ltissanen-
~~j~~~~~ ~~ ~~~~ ~~ ~~~~~ ~~~ j~ ~ ~~~~~ ~~~ ~~~
j~
~~~'"~~~ ~~~ ~'~~ ~PP~°"~~~°~ ~~°~~~~~~ ~~ ~~~~~~'~~ ~~
nAcessite uritraiteri~ent part~culier pi~isque, com~rie n~us
Bayes correspondant h des a priori vanAs II olfre l'avan-
j, ~ ~ j ~. ~~ ~~~~~ ~~
~ ~~~
serf j~dirntillire
~~~~~ ~~ ~~ ~ ~ ~
~~~~ ~?°~~~~~~~~ ~ ~~~~~~ ~~~~"~ ~ °~~~~~" ~~~ P"°~~' ~~
de distribution