Académique Documents
Professionnel Documents
Culture Documents
(x
0
)
x
1
= x
0
f (x
0
)
f
(x
0
)
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Algorithme de Newton-Raphson
Entr ees: une approximation initiale p
0
(la pr ecision d esir ee)
N
0
(le nombre maximum dit erations)
Sortie: valeur approch ee de p ou un message d echec
1
N = 1
2
Tant que N N
0
, faire les etapes 3 ` a 6.
3
Poser p = p
0
f (p
0
)
f
(p
0
)
4
Si| p p
0
| alors imprimer p, aller ` a l etape 8.
5
Poser N = N + 1.
6
Poser p
0
= p.
7
Imprimer la m ethode a echou e apr ` es N it erations.
8
Fin.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
M ethode de la s ecante
La m ethode de Newton-Raphson suppose le calcul de f
(p).
On remplace dans la m ethode de Newton f
(p
n
) par
f (p
n
) f (p
n1
)
p
n
p
n1
.
L equation de la s ecante s ecrit :
s(x) = f (p
n
) + (x p
n
)
f (p
n
) f (p
n1
)
p
n
p
n1
Si s(p
n+1
) = 0 , on en d eduit:
p
n+1
= p
n
f (p
n
)
p
n
p
n1
f (p
n
) f (p
n1
)
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Algorithme de la s ecante:
Trouver une solution de f (x) = 0
Entr ees: deux approximations initiales p
0
et p
1
(la pr ecision d esir ee)
N
0
(le nombre maximum dit erations)
Sortie:la valeur approch ee de p ou un message d echec
1
poser N = 1, q
0
= f (p
0
), q
1
= f (p
1
)
2
Tant que N N
0
+ 1,faire les etapes 3 ` a 6
3
poser p = p
1
q
1
(p
1
p
0
)
q
1
q
0
4
Si | p p
1
| alors imprimer p, aller ` a l etape 8
5
Poser N = N + 1
6
Poser p
0
= p
1
, q
0
= q
1
, p
1
= p,q
1
= f (p)
7
Imprimer la m ethode a echou e apr es N
0
it erations
8
Fin
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
M ethode du point xe
Nous pouvons observer que la m ethode de Newton peut
sinterpr eter comme
p
n+1
= g(p
n
) o` u g(x) = x (
f (x)
f
(x)
).
Si la fonction g(x) est continue et
si lalgorithme converge (c. ` a.d. p
n
p),
Alors, puique p
n+1
= g(p
n
), on a p : p = g(p) ;
on dit que p est un point xe de g.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Algorithme du point xe
Trouver une solution de g(x) = x
Entr ees: une approximation initiale p
0
(la pr ecision d esir ee)
N
0
le nombre maximale dit erations
Sortie: valeur approch ee de p ou un message d echec
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Convergence et ordre de convergence.
D enition
Soit D une partie de R et F une application de D dans D. On dit
que la fonction F est contractante si
x, y D , k [0, 1[ tel que
| F(x) F(y) | k | x y | .
k est le coefcient de contraction ou de Lipschitz de F.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Convergence et ordre de convergence.
Th eor ` eme:
Consid erons le segment S = [p
0
a, p
0
+ a] D;
si F est contractante sur S et si | F(p
0
) p
0
| (1 k) a,
alors lit eration p
n+1
= F(p
n
) de point initial p
0
, converge vers
lunique point xe p S de F.
Th eor ` eme:
Si F est diff erentiable au voisinage dun point xe p et si
| F
e
n
e
n1
_
converge, on dit que la suite p
n
converge
lin eairement vers p ou encore que la m ethode est du premier
ordre.
Si on a
_
e
n
(e
n1
)
k
_
converge, alors la convergence est dite
dordre k (k le plus grand possible.)
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Ordre de convergence: Exemple.
La m ethode de Newton est une m ethode de type point xe avec
F(x) = x
f (x)
f
(x)
.
Si p est racine simple de f (x) = 0, alors f
(x
) = 0 et
il existe un voisinage V de p tel que pour tout p
0
V,
la suite (p
n
)
n
converge vers p et lordre de convergence est 2.
Pour d eterminer lordre de convergence, on utilise la formule de
Taylor en p :
F(x) = F(p) + F
(p)(x x
) + F
(x)
(x p)
2
2
.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Nous consid erons le probl ` eme suivant :
F : R
n
R
n
, trouver p R
n
tel que F(p) = 0.
Nous allons pour cela etendre au cas de la dimension n > 1
certains des algorithmes propos es dans les sections
pr ec edentes.
Pour k 0, et D R
n
,
C
k
(D) = Ensemble des fonctions k fois continument
diff erentiables de R
n
dans R
n
restreintes ` a D.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Nous supposerons que F C
1
(D).
J
F
(x) est la matrice jacobienne associ ee ` a F et evalu ee au
point x = [x
1
, ..., x
n
]
T
de R
n
.
(J
F
(x))
ij
= (
JF
i
x
j
(x)), i , j = 1, ..., n.
Pour une norme vectorielle donn ee .,
B(p; R) = {y R
n
: y p < R}.
Boule ouverte de rayon R et de centre p
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
La m ethode de Newton et ses variantes
On peut etendre la m ethode de Newton au cas vectoriel :
x
(0)
R
n
etant donn e x,
pour k = 0, 1, ..., jusqu ` a convergence:
r esoudre J
F
(x
(k)
)x
(k)
= F(x
(k)
),
poser x
(k+1)
= x
(k)
+ x
(k)
.
On doit donc r esoudre un syst ` eme lin eaire de matrice J
F
(x
(k)
)
` a chaque it eration k.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Exemple
Exemple
Consid erons le syst ` eme non lin eaire
_
e
x
2
1
+x
2
2
1 = 0
e
x
2
1
x
2
2
1 = 0
qui admet pour unique solution p = (0, 0)
T
.
Dans ce cas,
F(x) = [e
x
2
1
+x
2
2
1, e
x
2
1
x
2
2
1].
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Pour
_
_
(k)
_
_
2
10
10
( x comme test darr et )
Si x
(0)
= [0.1, 0.1]
T
on obtient en 26 it erations le couple [0.1 10
8
, 0.13 10
8
]
T
ce qui d emontre une convergence assez rapide.
Si x
(0)
= [10, 10]
T
, 229 it erations sont n ecessaires pour obtenir
une solution comparable ` a la pr ec edente,
la m ethode diverge si x
(0)
= [20, 20]
T
.
Le comportement est cependant tr ` es sensible au choix de la
donn ee initiale.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Th eor ` eme
Soit F : R
n
R
n
et F C
1
sur un ouvert convexe D de R
n
qui
contient p.
Supposons que J
1
F
(p) existe et quil existe des constantes
R, C et L telles que
_
_
_J
1
(p)
_
_
_ C
et
J
F
(x) J
F
(y) Lx y x, y B(p; R)
Il existe alors r > 0 tel que, pour tout x
(0)
B(p; R)
la suite est d enie de facon unique et converge vers p avec
_
_
_x
(k+1)
x
()
_
_
_ CL
_
_
_x
(k)
x
()
_
_
_
2
.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
D emonstration.
On va montrer par r ecurrence sur k que :
x
(k+1)
B(p; r ) , avec r = min(R, 1/(2CL)).
Pour x
(0)
B(p; r )
la matrice inverse J
1
F
(x
(0)
) existe.
On a
_
_
_J
1
F
(p)(J
F
(x
(0)
J
F
(p)
_
_
_
_
_
_J
1
F
(p)
_
_
_
_
_
(J
F
(x
(0)
J
F
(p)
_
_
CLr
1
2
.
et on d eduit du Th eor ` eme que J
1
F
(x
(0)
) existe car
_
_
_J
1
F
(x
(0)
)
_
_
_
_
_
_J
1
F
(p)
_
_
_
1
_
_
_J
1
F
(p)
_
_
_
_
_
J
F
(x
(0)
) J
F
(p)
_
_
2
_
_
_J
1
F
(p)
_
_
_ 2C
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Demonstration - suite
Par cons equent, x
(1)
est bien d eni et
x
(1)
p = x
(0)
p J
1
F
(x
(0)
)[F(x
(0)
) F(p)]
En mettant en facteur J
1
F
(x
(0)
) dans le membre de droite et en
prenant les normes, on obtient
_
_
_x
(1)
p
_
_
_
_
_
_J
1
F
(x
(0)
)
_
_
_
_
_
_F(p) F(x
(0)
) J
F
(x
(0)
)
_
p x
(0)
__
_
_
2C
L
2
_
_
_p x
(0)
_
_
_
2
On a major e le reste de la s erie de Taylor de F.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Demonstration - suite
Comme de plus x
(0)
B(p; r ), on a
_
_
x
x
(0)
_
_
1/(2CL),
do` u
_
_
_x
(1)
p
_
_
_
1
2
_
_
_p x
(0)
_
_
_ .
Ce qui assure que x
(1)
B(p; r ).
On montre de mani ` ere analogue que si on suppose la relation
vraie pour un certain k, alors elle est encore vraie pour k + 1.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Remarques
Si x
(0)
est assez proche de la solution p et si la matrice
jacobienne est inversible.
La m ethode de Newton converge de mani ere quadratique.
Il faut noter que la r esolution du syst eme lin eaire peut sav erer
excessivement co uteuse quand n devient grand.
De plus, la matrice J
F
(x
(k)
)peut etre mal conditionn ee, ce qui
rend difcile lobtention dune solution pr ecise.
Pour ces raisons, plusieurs versions modi ees de la m ethode
de Newton sont propos ees.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Remarque
Si on note r
(k)
= F(x
(k)
) le r esidu ` a l etape k,
La m ethode de Newton peut etre r ecrite sous la forme
(Id J
G
(x
(k)
))
_
x
(k+1)
x
(k)
_
= r
(k)
avec G(x) = x F(x)
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
M ethodes de Newton modi ees.
Ce r esultat ne donne pas dindication constructive sur la
mani ere de calculer les incr ements h.
En diminuant les h, on peut diminuer lerreur de troncature
commise dans M ethodes de type s ecante.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Application Contractante
On dit quune application G : D R
n
R
n
est contractante sur
lensemble D
0
D
sil existe une constante < 1 telle que
G(x) G(y) x y pour tout x, y dans D
0
.
Propri et e (th eor eme de lapplication contractante): Si
G : D R
n
R
n
est une contraction sur un ensemble ferm e
D
0
D telle que G(x) D
0
pour tout x D
0
,alors G admet un
unique point xe dans D
0
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
M` ethodes de Point Fixe
Th eor eme du point Fixe : On suppose que G : D R
n
R
n
poss` ede un point xe x ` a lint erieur de D et que G est
continument differentiable dans un voisinage de p
On note J
G
la jacobienne de G et on suppose que le rayon
spectral (J
G
(p)) < 1.
Alors il existe un voisinage S de x tel que S D et, pour tout
x
(0)
S,la suite d enie avant demeure dans D et converge
vers x .
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Exemple
Consid erons le syst ` eme non lin eaire
F(x) = [x
2
1
+ x
2
2
1, 2x
1
+ x
2
1]
T
= (0, 0)
T
dont les solutions sont x
1
= (0, 1)
T
et x
2
= (4/5, 3/5)
T
Utilisons pour le r esoudre deux m ethodes de point xe
respectivement d enies par les fonctions dit eration
G
1
(x) =
_
1x
2
2
_
1 x
2
1
_
, G
2
(x) =
_
1x
2
2
_
1 x
2
1
_
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
suite
On peut v erier que G
1
(x
i
) = x
i
pour i = 1, 2;
les deux m ethodes sont convergentes dans un voisinage de
leur point xe respectif car
J
G1
(x
1
) =
_
0
1
2
0 0
_
, J
G2
(x
2
) =
_
0
1
2
4
3
0
_
et donc (J
G1
(x
1
)) = 0 et (J
G2
(x
2
)) =
_
2
3
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
En ex ecutant le Programme avec une tol erance de 10
10
Si x
(0)
= [0.9, 0.9]
T
, le sch ema converge vers x en 9
it erations.
Si x
(0)
= [0.9, 0.9]
T
, le sch ema converge vers x en 115
it erations
Cette diff erence de comportement entre les deux suites
sexplique par la diff erence entre les rayons spectraux des
matrices dit eration correspondantes.
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires
R esolution d equations non lin eaires
R esolution de syst ` emes d equations non lin eaires
Remarque:
La m ethode de Newton peut etre vue comme une m ethode de
point xe associ ee ` a la fonction
G
N
(x) = x J
1
F
(x)F(x).
S. EL HAJJI et T. GHEMIRES R esolution d equations non lin eaires