Vous êtes sur la page 1sur 36

ASI 3

Mthodes numriques
pour lingnieur
Rsolution de systmes
dquation non linaires
f(x)=0
Introduction
Comment rsoudre le systme suivant ?
Mthodes directes
Mthodes itratives

'

+
+
+
0 20 13 2
0 4 81
0 3
z y x
z y x
z y x
Introduction
Comment rsoudre le systme suivant ?
Mthodes directes : impossibles
Mthodes itratives

'

+ +
+ + +

0
3
3 10
20
0 06 . 1 ) sin( ) 1 . 0 ( 81
0
2
1
) cos( 3
2 2

z e
z y x
yz x
xy
Rsolution de f(x)=0
Soit une fonction f : R
n
R
n
continue sur ...
Drivable sur ...
Principe :
trouver une mthode itrative u
k+1
= g(u
k
)
qui converge vers la solution
Plusieurs mthodes
Newton
Quasi-Newton (scante, Broyden, )
Point fixe
Gradient
Problmes ?
Convergence
Complexit
Rsolution de f(x)=0
f(x)=0 lorsque n=1
Recherche par dichotomie
mthode de la squente
mthode de point fixe
mthode de Newton-Raphson
}
Aussi lorsque
2 n
f
(
x
)
c=a+b/2
f(c)
a
f(a)
b
f(b)
M thode de la dichotomie
Recherche dichotomique
c b
c f b f
c a
c f a f
c
c f
b a
c b f a f

>

>
<
+
<
alors
0 ) ( ) ( si sinon
alors
0 ) ( ) ( si sinon
: solution la trouv a on alors
) ( si
2
0 ) ( ) (

Thorme :
{ }
{ }
1
2

: avec vers converge
0 ) ( : problme du solution la soit
, dichotomie par recherche de algorithme l'
par gnre suite la soit

n
a b
p p
p p
p f p
p
n
n
N n
n
N n
n
Alors
Bonne ide : prendre c lintersection de la squente et le laxe des x
c
f(c)
a
f(a)
b
f(b)
M thode de la s quente
Mthode de la squente
) ( ) (
) (
) ( ) (
) (
1
1
1


k k
k k
k k k
x f x f
x x
x f x x
a f b f
a b
b f b c
x
1
f(x
1
)
x
2
f(x
2
)
x
3
x
4
x
5
f(x
5
)
M thode de la fausse position
x
1
f(x
1
)
x
2
f(x
2
)
x
3
x
4
x
5
f(x
5
)
M thode de la s quente
La fausse bonne ide
garder f(a) et f(b) de signe oppos
Bonne ide : si on est proche de la solution : prendre la drive
a
f(a)
b
f(b)
c
f(c)
M thode de Newton-Raphson
Mthode de Newton
) ( '
) (
1
k
k
k k
x f
x f
x x
+
) ( '
1
) (
) ( ) (
) (
b f
b f b c
a f b f
a b
b f b c


Mthode de Newton
En dimension 1 :
on considre l'approximation affine :
on cherche h tel que f(u
k
+h)=0 soit si on
nglige les terme en h
2
et ainsi
( )
( )
k
k
k k k
u f
u f
u h u u

+
+1
( ) ( ) ( ) ( ) h h h u f u f h u f
k k k
+ + +
) ( '
) (
k
k
u f
u f
h
0 0. 5 1 1. 5 2 2. 5 3
-2
- 1. 5
-1
- 0. 5
0
0. 5
1
1. 5
2
Mthode de Newton
Illustration
y=tanh(x)cos(x
2
)+x-2
y'=(1-tanh
2
(x))cos(x
2
)
-2tanh(x)sin(x
2
)x+1
y(x)
1 . 9 1 . 9 5 2 2 . 0 5 2 . 1 2 . 1 5 2 . 2
-1
- 0. 5
0
0 . 5
Mthode de Newton
Illustration
y=tanh(x)cos(x
2
)+x-2
y'=(1-tanh
2
(x))cos(x
2
)
-2tanh(x)sin(x
2
)x+1
u
0
= 2
u
1
= 2.1627
u
2
= 2.1380
u
3
= 2.1378
u
4
= 2.1378
u
1
= 2.1627
u
2
= 2.1380
u
0
= 2
Mthode de point fixe
Dfinition
f(x)=0 et le x = g(x)
exemple
convergence (suite de Cauchy)
thorme de convergence globale
thorme de convergence local
thorme du point fixe
Mthode du point fixe
Principe gnral :
trouver g en fonction de f telle que
f()=0 g()=
la suite u
k
converge (si u
0
est bien choisi)
conditions suffisantes sur g en dimension 1
g drivable et |g'()| < 1
conditions suffisantes sur g en dimension n
g diffrentiable et [g()] < 1 ( = rayon spectral)
Mthode du point fixe
Convergence linaire :
il existe C > 0 tel que
Inconvnient : choix de g de manire algbrique
u C u
k k

+1
Exemple en dimension 1
rsolution de x
2
- 2 = 0
choix de g :
g
1
(x) = 2/x g'
1
(x) = -2/x
2
g'
1
() = -1
g
2
(x) = 2x - 2/x g'
1
(x) = 2+2/x
2
g'
1
() = 3
g
3
(x) = x/2 + 1/x g'
1
(x) = 1/2-1/x
2
g'
1
() = 0
Mthode du point fixe
|g'()| < 1
convergence
assure
u
0
= 1
u
1
= 1.5000
u
2
= 1.4167
u
3
= 1.4142
u
4
= 1.4142
u
0
= 1
u
1
= 2
u
2
= 1
u
3
= 2
u
4
= 1
u
0
= 0.999
u
1
= -0.0402
u
2
= 49.668
u
3
= 99.296
u
4
= 198.57
g
1
g
2
g
3
Exemple en dimension 1
rsolution de x
2
- 2 = 0
choix de g :
g
1
(x) = 2/x g'
1
(x) = -2/x
2
g'
1
() = -1
g
2
(x) = 2x - 2/x g'
1
(x) = 2+2/x
2
g'
1
() = 3
g
3
(x) = x/2 + 1/x g'
1
(x) = 1/2-1/x
2
g'
1
() = 0
Mthode du point fixe
|g'()| < 1
convergence
assure
u
0
= 1
u
1
= 1.5000
u
2
= 1.4167
u
3
= 1.4142
u
4
= 1.4142
u
0
= 1
u
1
= 2
u
2
= 1
u
3
= 2
u
4
= 1
u
0
= 0.999
u
1
= -0.0402
u
2
= 49.668
u
3
= 99.296
u
4
= 198.57
g
1
g
2
g
3
rsum
Dichotomie
squente
newton
Point fixe
Acclration !
Multidimensionnel ?
Acclration de la convergence
Dfinition : lordre de la convergence
Motivation
Dfinition du principe de Aitken
Thorme de convergence quadratique
Aitken et Steffensen
Mthode de Newton
En dimension n :
une quation, n inconnues :
n quations, n inconnues :
( )
( ) ( ) ( )
( )
( ) ( )

,
_


x
x
f
x
x
f
x
x
f
x
x
f
x
x
f
x
x
f
x f
n
n n
n
L L
M O M
M O
L
1
1
2
1
2
1
1
1
La matrice jacobienne
R R f
n
:
1
1
1
1
1
1
1
1
]
1


n
i
x
f
x
f
x
f
x f
M
M
1
) (
) ( ) ( '
2
1
) ( ' ) ( ) (
2
h h h x H h x f h x f h x f
f
+ + + +
Le vecteur gradient
La matrice Hessine
n n
R R f :
) ( ) ( '
2
1
) ( ) ( ) (
2
h h h x H h h x f x f h x f
f
+ + + +
Mthode de Newton
En dimension n :
on considre l'approximation affine :
on cherche h tel que f(u
k
+h)=0
soit systme linaire !
et ainsi
( ) ( )
k k
u f h u f
n n
R R f :
h u f u f h u f
k k k
) ( ) ( ) ( + +
itration
(LU) linaire systme ) ( ) (
tion initialisa
1
0
h u u
u f h u f
u
k k
k k
+

+
Mthode de Newton
Thorme :
s'il existe tel que
f()=0
f est diffrentiable dans un voisinage de

f() est inversible


alors il existe > 0 tel que
si u vrifie
alors la suite construite par la mthode de Newton
converge vers
x f x f ) ( ) (
< u
Mthode de Newton
Avantage : convergence quadratique
il existe C > 0 tel que
Inconvnient : calcul de f(x) souvent difficile
2
1
u C u
k k

+
Exemple

'

'

0
1
3
2
1
) cos(
0
0
2
y
x
e x
xy
y
Mthodes de Quasi-Newton
Comment se passer du calcul de f(x) ?
En dimension 1 : mthode de la scante
En dimension n :
le rapport prcdent n'a aucun sens (u est un vecteur)
comment approcher f(u
k+1
) ?
( )
( ) ( )
k k
k k
k k k
u f u f
u u
u f u u


+
+
+ + +
1
1
1 1 2
Approximation
de 1/f '(u
k+1
)
Mthodes de Quasi-Newton
Approximation de f(u
k+1
) par la matrice A
k
A
k
doit vrifier A
k
(u
k
- u
k-1
)=f(u
k
) - f(u
k-1
)
Problme : il existe une infinit de A
k
Mthode de Broyden :
condition supplmentaire : A
k
z = A
k-1
z si (u
k
- u
k-1
)'z = 0
Mthodes de Quasi-Newton
Mthode de Broyden : algorithme
initialisation de u
0
et A
0
(diffrences finies)
itration :
( )
k k k k
u f A u u
1
1

+

( ) ( )
k k k
u f u f y
+ + 1 1
k k k
u u s
+ + 1 1
( )( )
2
1
1 1 1
1
+
+ + +
+

+
k
k k k k
k k
s
s s A y
A A
Convergence de la mthode de Broyden :
"super-linaire"
moins rapide que Newton
0 lim
1

+

u
u
k
k
k
Mthodes de Quasi-Newton
Mthode du point fixe
Principe gnral :
trouver g en fonction de f telle que
f()=0 g()=
la suite u
k
converge (si u
0
est bien choisi)
conditions suffisantes sur g en dimension 1
g drivable et |g'()| < 1
conditions suffisantes sur g en dimension n
g diffrentiable et [g()] < 1 ( = rayon spectral)
Mthode du point fixe
Exemple en dimension 3

'

+ +
+ + +

0
3
3 10
20
0 06 . 1 ) sin( ) 1 . 0 ( 81
0
2
1
) cos( 3
2 2

z e
z y x
yz x
xy

'


+ +
+

3
3 10
20
1
1 . 0 06 . 1 ) sin(
9
1
6
1
) cos(
3
1
2

xy
e z
z x y
yz x

'

) , (
) , (
) , (
3
2
1
y x g z
z x g y
z y g x

'

0 ) , , (
0 ) , , (
0 ) , , (
3
2
1
z y x f
z y x f
z y x f
Mthode du point fixe
Exemple en dimension 3

'

+ +
+ + +

0
3
3 10
20
0 06 . 1 ) sin( ) 1 . 0 ( 81
0
2
1
) cos( 3
2 2

z e
z y x
yz x
xy

'


+ +
+

3
3 10
20
1
1 . 0 06 . 1 ) sin(
9
1
6
1
) cos(
3
1
2

xy
e z
z x y
yz x

'

) , (
) , (
) , (
3
2
1
y x g z
z x g y
z y g x

'

0 ) , , (
0 ) , , (
0 ) , , (
3
2
1
z y x f
z y x f
z y x f
Mthode du point fixe
Exemple en dimension 3 (suite)
valeurs initiales (x
0
=0.1 ; y
0
=0.1 ; z
0
=-0.1)

convergence vers (0.5 ; 0.0 ; -0.5236)


rsultat thorique: (0.5 ; 0.0 ; -/6)

'


+ +
+



3
3 10
20
1
1 . 0 06 . 1 ) sin(
9
1
6
1
) cos(
3
1
1 1
1
2
1
1 1

k k
y x
k
k k k
k k k
e z
z x y
z y x

'


+ +
+


3
3 10
20
1
1 . 0 06 . 1 ) sin(
9
1
6
1
) cos(
3
1
1
2
1 1

k k
y x
k
k k k
k k k
e z
z x y
z y x
Comment essayer d'acclrer la
convergence
remplacer les valeurs par leurs "dernires"
estimations
(cf. Gauss-Siedel pour les systmes linaires)
exemple :
Mthode du point fixe
Conclusion
Mthodes
Newton :
inconvnient = calcul des drives
avantage = convergence quadratique
Quasi-Newton :
inconvnient = convergence super-linaire
avantage = plus de calcul des drives
Point Fixe :
inconvnient = convergence linaire
inconvnient = choix de g
Problme gnral : initialisation de la suite !
TD
Implmenter en Matlab :
Newton, Broyden, point fixe (+Gauss Siedel)
pour les problmes suivants :
comparer le temps de convergence
(pour un mme seuil)

'

+ +
+ + +

0
3
3 10
20
0 06 . 1 ) sin( ) 1 . 0 ( 81
0
2
1
) cos( 3
2 2

z e
z y x
yz x
xy
( )

'

+ +
+
+ +
5
1 2 3
7 ) ( log sin
3
2
z y x
z y x
z y x
e