Vous êtes sur la page 1sur 7

Chapitre VI

Methodes Iteratives Equations Non


Lineaires

a-dire pour une fonction


    

donnee, on cherche un point tel que  

En pratique, on est souvent confronte a la resolution dun systeme dequations non lineaires. Cest-

  (0.1)

En general, il ny a pas dalgorithme fini pour trouver une solution. On est donc oblige dutiliser
des methodes iteratives.
   !
Sans hypotheses supplementaires, on ne sait rien sur lexistence dune solution de (0.1). Par
exemple, pour il ny a pas de solution, pour il y en a une infinite. Mais, #" $%
'&()" 
le theoreme dinversion locale nous fournit un resultat sur lunicite locale: si
* " et si la
+ 
, *  +
matrice jacobienne
"
est inversible, il existe un voisinage de et un voisinage de tels

* "
que soit bijective. Ceci implique que est la seule solution de (0.1) dans le voisinage
de .

Bibliographie sur ce chapitre


J.M. Ortega & W.C. Rheinboldt (1970): Iterative Solution of Nonlinear Equations in Several Vari-
ables. Academic Press, New York.
A.M. Ostrowski (1966): Solution of Equations and Systems of Equations. Academic Press, New
York, 2nd edition. [MA 65/27]
P. Deuflhard (2004): Newton Methods for Nonlinear Problems ; Affine Invariance and Adaptive
Algorithms. Springer Ser. Comp. Math. 35.

VI.1 Methode des approximations successives


Dune facon generale ... je nindique pas lorigine des theoremes que je crois trop simples
... (S. Banach 1932 ; Preface)
- . /  0 ; c.-a-d., on
  
On considere le probleme du calcul dun point fixe de lapplication

12-  3
cherche tel que
(1.1)

-  45 76   -  48 96;:  


Les problemes (0.1) et (1.1) sont equivalents et il y a beaucoup de possibilites pour ecrire (0.1) sous
la forme (1.1). Par exemple, on peut definir comme - ou
:
(ici est soit un nombre non-nul, soit une matrice bien choisie).
114 Methodes Iteratives Equations Non Lineaires

Pour resoudre (1.1), on se donne une approximation initiale < (arbitraire) et on considere la
methode iterative
>
@
= B
? C
A 2
 -  > =D
Si la suite EF >=DG converge, disons vers
"     "
, et si la fonction -  est continue en , la limite
"
(1.2)

 "   est une solution de (1.1),


est une solution de (1.1). Mais que peut-on dire sur lerreur?
Theoreme 1.1 Si - "  est H fois continument differentiable et si
lerreur =4I >=
6
=J?BA2- & #" =KML 3N = NPO 3
satisfait

" )
 "
(1.3)
Demonstration. Comme ;-  , on obtient
=J?BAQ >=J?BA6 " -  >=D6M- #" - & )" =.KIL N = NPO 
R si - & #"  possede une valeur propre STA satisfaisant UVSTAJUXW Y , la composante de = dans la
On peut tirer plusieurs conclusions de la formule (1.3):

direction du vecteur propre Z[A va etre agrandie literation ne converge pas vers .
"
R si toutes les valeurs propres de - &\)"  satisfont U]S_^3Ua`bY , on peut choisir une norme dans  

N - & #"  N `cY . Ceci et (1.3) impliquent
N N
telle que pour la norme matricielle
que, pour = suffisamment petit, on a =J?BA
N Nedgf
N = N ou f est un nombre entre N - & )"  N
correspondante

et Y . Lerreur = converge donc vers zero.


Exemple. Ceux parmi vous, qui ne sont pas encore fed up du nombre dor du cours de Geometrie,
voudraient peut-etre connatre la valeur de lexpression mysterieuse

"  YhK YhK YK YhKMi YjKM@Flk


Eh bien, literation
>=J?BAC i YhKm >=n9 <oYXn YFqpYrpsH YF!tutsvsw YF!tuxswY Yr!yYuYrw Yr!yYzyY YFqyYr{upXF@
&\)" C Oz| A
donne
La convergence evidente de cette suite sexplique par la derivee - A\?s} ~ s!vY .
Estimation de lerreur. (Banach 1922, These,  2, Thm. 6, Oeuvres II, p. 330)
Lhypothese cruciale est que - soit une contraction, i.e.,
N >=.6m >=@BA N  N -  >=JBA6M-  >=J O  N.d8f
N >=JBA6m >=@ O N avec f `gYr (1.4)

>=
6 "   >=.6m >=J?BAK  >=J?BA6 >=J? O KI@@
En appliquant linegalite du triangle a lidentite

N >=
6 "TN
d f f
(en cas de convergence), on obtient
N >=
6m >=JBA N 
Yh6 (1.5)

Exemples. Pour les deux iterations


> =J?BA  Y KQqv = > =@?BA   6sY > =
=J?BA Y 6 P >= n
=J?BA H  = (1.6)

la norme euclidienne de lerreur de >=un = est dessinee dans la fig. VI.1 (a gauche pour la premiere
iteration et a &droite
#
 " pour la deuxieme). On peut bien observer la convergence lineaire. Le rayon
spectral de -  vaut ~ )Yr{s{ et ~ qpsps{ respectivement. Cest la raison pour laquelle la
premiere iteration converge plus rapidement que la seconde. Le dessin
la convergence nest pas necessairement monotone (pour la norme
NTN O a).droite f
montre aussi que
Donc, le coefficient =
de (1.4) peut etre plus grand que Y meme si literation converge.
Methodes Iteratives Equations Non Lineaires 115

100 100

102 102

104 104

106 106

108 108
0 10 20 0 10 20
F IG . VI.1: Convergence des iterations (1.6)

VI.2 Methode de Newton


Considerons le probleme de la resolution dun systeme dequations non lineaires
 C (2.1)
j 
7  
 <  
ou la fonction
une approximation de la solution cherchee, on linearise autour de
 
est supposee etre au moins une fois differentiable. Si
<
est

   <JK &  <J  6 <F


~
et on calcule le zero de cette linearisation. Si lon repete cette procedure avec la nouvelle approxi-
mation, on obtient lalgorithme suivant:
for nsYFnFHn@F@ '&\
&  >=DP >= >8= 6  >=D > =D
calculer et
(systeme lineaire a resoudre)
>=J?BAQ >=
KI >=
end for

Exemple 2.1 Pour une retraite doree choisissons

 C2i YhKm 6 Y YFqssussssussssussssussssussssuu


H FY qyspsu{stspspswuHssvspsuwYrps{supsYrpspu{sps{s{swuxup
&  C Y 65Y v YFqyYrwuststswsuHYr{sxsuvspswsysxBYryspsysHuyssysHsxutut
p YFqyYrwusvsvsxswuws{s{ssHBYrpswsHsvuxsps{sxsBYrswstsxu{uv
H i YhKm t YFqyYrwusvsvsxswuws{spsxswuxspswspswuHsspsysupspsys{svuyBY
y YFqyYrwusvsvsxswuws{spsxswuxspswspswuHsspstswuyswsvspsvuyuy
ou, un peu plus proche de nous, lexemple original de Newton (1671, voir Anal. Hist., p. 96)

YHqsssussssussssussssussssusssDs
 I X6MHF 6Mt H H)YrssussssussssussssussssusssDs
&  CvF O 6MH v HqsxspstuyswYrHYuYrspYrwutsHYrwYzystsysHs{u{swsHs{DHst
p HqsxspstutYrpswYzysxswYrxuxsvssHswuwsvswsHsvu{ssvstDpsp
t HqsxspstutYrpswYztspsHsvsHuystsxYrpuxsyssyspuwsps{Ytsp
y HqsxspstutYrpswYztspsHsvsHuystsxYrpuwsHsvswsyutspsstD{sx
Pour etudier la convergence de la methode de Newton, considerons un terme de plus dans la
serie de Taylor:

 #"    >=K &  > = )" 6 >=DK H Y & &  > =D )" 6 >=un " 6 >=DKML 3 N 6 >= N 3 (2.2)
116 Methodes Iteratives Equations Non Lineaires

  >=K &  > =D  >=J?BA6m >=


Si lon soustrait

(definition de >=J?BA ), on obtient pour lerreur =4Q >=


6
" la formule
 &  >=D  6=@?BAPK & &  >=D  =Dn@=KIL N = N  N =J?BA N.dH N = NPO n
si
Ns)'&  BA N.d et NF'& &\N.d , ce qui explique la convergence faramineuse de cette methode.

VI.3 Methode de Gauss-Newton



... hat man schon Beobachtungen von 1 oder mehrern Jahren , so halte ich den Gebrauch der
Differential-Anderung, wobei man eine beliebige Zahl von Beobachtungen zum Grunde legen
kann, fur das beste Mittel. (Gauss, last sentence of the Summarische Ubersicht, 1809)

une fonction
 
  0
Dans ce paragraphe, on va sinteresser a des systemes non lineaires surdetermines. On considere
ou W
et on cherche une solution de . Evidemment,
 
1   
comme on a plus de conditions que dinconnues, ce probleme ne possede en general pas de solu-
tion. On se contente donc de trouver un vecteur tel que
NF  N O  !o (3.1)
 
Si  est differentiable, la fonction $
NF  N OO est aussi differentiable et une condition
&\
necessaire pour que soit un minimum local est davoir C; , c.-a-d.
&  (  C2 (3.2)

Une possibilite pour resoudre (3.1) est dappliquer une methode iterative, par exemple la methode h 
Une autre possibilite est de lineariser
 
de Newton, au systeme (3.2). Ceci necessite le calcul de la deuxieme derivee de
dans (3.1) autour dune approximation
.
de la <
solution et de calculer de A
NF <@K &   <J  A6 <@ N O  !o (3.3)

Une repetition de cette idee donne lalgorithme suivant (methode de Gauss-Newton)


for nsYFnFHn@F@ & 
>= > FN =D
> =K _&\ > = >= N O  !
calculer et
determiner >=
de (moindres carres)
>=J?BAQ >=
KI >=
end for
Pour calculer >= on peut soit resoudre les equations normales (section IV.5)
 &  > =u &  > =DP >=26 # &  >=D  >= (3.4)
'&(
soit calculer la decomposition QR de >=D et appliquer lalgorithme de la section IV.6.
Exemple (Identification de parametres). La fig. VI.2 montre une photographie de la Vallee
Blanche (prise il y a quelques annees par le Didaskalos en personne). On y reconnat le Col
des Grandes Jorasses, lAiguille du Geant, lAiguille Blanche de Peterey, lAiguille du Tacul, le
Petit Rognon et lAiguille du Moine. La fig. VI.4 est une copie dune carte geographique de cette
Methodes Iteratives Equations Non Lineaires 117

F IG . VI.2: Photographie de la Vallee Blanche

TAB . VI.1: Les donnees pour le probleme Vallee Blanche

= Zu= A =J O =J =J
1. Col des Grandes Jorasses 6qspswu !uHsxs xuwstst tsysws vswsHst
2. Aiguille du Geant 6qYru !uvsst wBYr{s tssHs psYrv
3. Aig. Blanche de Peterey qspsxu !uHswst Huwswst {svs pYrs{
4. Aiguille de Tacul 6qYrxu !BYsYrt wuxss {stsvs vspspsp
5. Petit Rognon qsysu 6 !usst tu{ss {ssHst vsssw
6. Aiguille du Moine qYrHut 6 !uHs{s wuxsws sY YsYrHs vspYrH

region. Le probleme consiste a trouver la position de la camera, ses caracteristiques (foyer) et les
angles dinclinaison.
 nPZ>
Pour la formulation mathematique de ce probleme, nous avons choisi des coordonnees  AnP O n 
sur la photographie (fig. VI.2, lorigine est au centre) et des coordonnees
y
sur la carte
( represente laltitude). Les valeurs mesurees pour les points reconnus sont donnees dans le

tableau VI.1.


 hAPnP O 

"

F IG . VI.3: Projection centrale


118 Methodes Iteratives Equations Non Lineaires

"
Pour fixer les inconnues, notons par la position du foyer dune camera, et par un vecteur la

"  "M snFnYr
direction de vue et la distance du plan de projection. Pour fixer le plan, calculons deux vecteurs

puis  "
et orthogonaux entre eux et orthogonaux a : dabord
, les deux normalises a 1 :
(ainsi il est horizontal),

 Y # " "  Y  " " " " J" O " O


" O A K " OO O nF6 AnFu3n )" O A K " OO  )" O A K " OO K " O  6 A n@6 O n A K O 3 (3.5)

Le vecteur , reliant le foyer au point de projection, doit etre un multiple de 6 :

2S  6 j (3.6)

Le S se determine par la condition : 6 " doit etre orthogonal a


" :

6 " n "a 2 " n "a



S 6 n "a  (3.7)

f
Finalement, les produits scalaires 
et  (voir Theoreme 2 ci-dessus) sont les co-
ordonnees recherchees. Au cas ou notre photographe naurait pas tenu sa camera horizontalement,
on pourrait faire suivre une rotation

 f
Z rP
6 Po

F 
(3.8)


par un angle . Ainsi, une image en perspective est determinee par 7 parametres : 3 pour , 3 pour
"
et 1 pour .
Par le principium nostrum, nous devons chercher ces inconnues pour que


T =6 T= O K  uZ =
6 Zu=D O  !
=JBA
(3.9)

On doit donc ecrire une sousroutine pour

=  n " nFDIT=6 T=on ?s=  n " n@CQZu=


6 Zs=n
et appliquer un algorithme qui calcule les derivees partielles de par differences finies. Ainsi,
lalgorithme de Gauss-Newton donne, avec des valeurs initiales assez crudes, apres quelques
iterations, la solution

,2xsys{sx gYrvYrvsx ;pYrvYr


Methodes Iteratives Equations Non Lineaires 119

F IG . VI.4: La region de la Vallee Blanche

Cest a lAiguille Verte (altitude 4122) que cette photo a ete prise.

BONNES VACANCES !