Cours 02 Résolution Équations

Analyse Numérique - 1
ENSEM ISN 1A, Ana Num
Didier Schmitt
IECL
Printemps 2022
Didier Schmitt IECL

Résolution des équations non linéaires
Chapitre 2 : Résolution des équations non

linéaires
Didier Schmitt IECL

Introduction
Introduction
Didier Schmitt IECL

Introduction
Description du problème
Didier Schmitt IECL

Introduction
Nous savons résoudre explicitement certaines équations.
Didier Schmitt IECL

Introduction
Par exemple l’équation
x2 − x − 1 = 0
√ √
1+ 5 1− 5
admet deux solutions : et
2 2
Didier Schmitt IECL

Introduction
x2 − x − 1 = 0
√ √
1+ 5 1− 5
2 2
En revanche, si nous considérons l’équation
cos x = x,
une étude mathématique (laquelle ?) nous indique qu’elle possède

une unique solution comprise entre 0 et 1, mais nous ne pouvons pas
l’exprimer de façon explicite.
Didier Schmitt IECL

Introduction
x2 − x − 1 = 0
√ √
1+ 5 1− 5
2 2
En revanche, si nous considérons l’équation
cos x = x,
une étude mathématique (laquelle ?) nous indique qu’elle possède

une unique solution comprise entre 0 et 1, mais nous ne pouvons pas
l’exprimer de façon explicite.
Toutefois, pour faire du calcul numérique, une approximation de la
solution sera suffisante (voir cours précédent) avec si possible une
estimation de l’erreur.
Didier Schmitt IECL
Introduction
Soit l’équation
f (x) = 0
où f une fonction d’une variable réelle à valeur réelle.
Didier Schmitt IECL

Introduction
Soit l’équation
f (x) = 0
On suppose que cette équation admet (au moins) une racine r .
Didier Schmitt IECL

Introduction
Soit l’équation
f (x) = 0
L’idée est de construire une suite (xn ) qui converge vers r la solution
de notre équation.
Didier Schmitt IECL

Introduction
Soit l’équation
f (x) = 0
Ainsi, par définition de la convergence, le terme xn de la suite sera
une approximation de r , la précision dépendant du choix de n.
Didier Schmitt IECL

Introduction
Soit l’équation
f (x) = 0
Ainsi, par définition de la convergence, le terme xn de la suite sera
une approximation de r , la précision dépendant du choix de n.
Question
Comment construire cette suite (xn ) qui converge vers cette solution de
notre équation ?
Didier Schmitt IECL

Introduction
Objectifs du chapitre
Didier Schmitt IECL

Introduction
Décrire les méthodes numériques les plus fréquemment utilisées.
Didier Schmitt IECL

Introduction
Étudier la convergence de ces méthodes.
Didier Schmitt IECL

Introduction
Évaluer la performance de ces méthodes i.e. la vitesse de
convergence des suites associées.
Didier Schmitt IECL

Introduction
Évaluer la performance de ces méthodes i.e. la vitesse de
convergence des suites associées.
Adapter quelques méthodes pour traiter le problème plus général
f (x) = 0
où f une fonction de Rn dans Rn et x un vecteur de Rn .
Didier Schmitt IECL

Un peu d’analyse avant de commencer
Didier Schmitt IECL

Soit l’équation
f (x) = 0
Didier Schmitt IECL

Soit l’équation
f (x) = 0
Avant de mettre en oeuvre une méthode numérique, il convient (si

possible) de
Didier Schmitt IECL

Soit l’équation
f (x) = 0

possible) de
s’assurer que l’équation possède au moins une solution ;
Didier Schmitt IECL

Soit l’équation
f (x) = 0

possible) de
déterminer le nombre de racines ;
Didier Schmitt IECL

Soit l’équation
f (x) = 0

possible) de
déterminer le nombre de racines ;
séparer les racines i.e. déterminer des intervalles [ai , bi ] dans lesquels
l’équation considérée a une solution et une seule.
Didier Schmitt IECL

Pour cela nous avons :

Théorème des Valeurs Intermédiaires
Soient I un intervalle de R, f une application de I dans R, continue sur I .
S’il existe deux éléments a et b de I tels que a < b et f (a)f (b) ≤ 0 alors
il existe r ∈ [a, b] tel que f (r ) = 0.
Didier Schmitt IECL

Pour cela nous avons :

Théorème des Valeurs Intermédiaires
Soient I un intervalle de R, f une application de I dans R, continue sur I .
S’il existe deux éléments a et b de I tels que a < b et f (a)f (b) ≤ 0 alors
il existe r ∈ [a, b] tel que f (r ) = 0.
Théorème
Soient a et b deux réels tels que a < b et f une application de [a, b] dans
R, continue et strictement monotonesur [a, b].
Si f (a)f (b) ≤ 0 alors il existe un unique r ∈ [a, b] tel que f (r ) = 0.
Didier Schmitt IECL

Exemple 1 :
Résoudre sur R
x − 0.2 sin (x) − 0.5 = 0.
Didier Schmitt IECL

Exemple 1 :
Résoudre sur R
x − 0.2 sin (x) − 0.5 = 0.
Soit f la fonction définie sur R par
f (x) = x − 0.2 sin (x) − 0.5
Didier Schmitt IECL

Exemple 1 :
Résoudre sur R
x − 0.2 sin (x) − 0.5 = 0.
f (x) = x − 0.2 sin (x) − 0.5
La fonction f est continue et dérivable sur R et comme nous avons pour

tout x
f 0 (x) = 1 − 0.2 cos (x) > 0
cette fonction est aussi strictement croissante sur R. De plus, comme
lim f (x) = −∞ et lim f (x) = +∞
x→−∞ x→+∞
Didier Schmitt IECL

Exemple 1 :
Résoudre sur R
x − 0.2 sin (x) − 0.5 = 0.
f (x) = x − 0.2 sin (x) − 0.5
Nous en déduisons que f admet une unique racine sur R.
Didier Schmitt IECL

Exemple 1 :
Résoudre sur R
x − 0.2 sin (x) − 0.5 = 0.
f (x) = x − 0.2 sin (x) − 0.5
Plus précisément, comme
f (0) = −0.5 < 0 et f (π) = π − 0.5 > 0
f admet une unique racine sur R comprise entre 0 et π.
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
f (x) = cos (x) − e −x .
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
f (x) = cos (x) − e −x .

tout x
f 0 (x) = − sin (x) + e −x .
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
f (x) = cos (x) − e −x .

tout x
f 0 (x) = − sin (x) + e −x .
Il est donc difficile d’étudier le signe de f 0 et d’en déduire les variations

de f , puisque nous retrouvons un problème ”similaire”.
Didier Schmitt IECL
Exemple 2 :
Résoudre sur R
cos (x) = e −x .
Considérons maintenant la fonction g définie sur R par
g (x) = e x cos (x) − 1
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
Considérons maintenant la fonction g définie sur R par
g (x) = e x cos (x) − 1
La fonction g est continue et dérivable sur R et comme nous avons pour

tout x √ π
g 0 (x) = e x (cos (x) − sin (x)) = 2e x cos x + .
4
cette fonction est aussi strictement monotone sur les intervalles
[ π4 + kπ, 5π
4 + kπ], k ∈ Z .
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
La fonction g est continue et dérivable sur R et comme nous avons pour

tout x √ π
g 0 (x) = e x (cos (x) − sin (x)) = 2e x cos x + .
4
cette fonction est aussi strictement monotone sur les intervalles
[ π4 + kπ, 5π
4 + kπ], k ∈ Z .
L’étude des signes successifs de g ( π4 + kπ) permet alors de localiser les

racines.
Didier Schmitt IECL

Exemple 2 :
Résoudre sur R
cos (x) = e −x .
0,5
0 1 2 3 4 5 6 7 8 9 10
-0,5
-1
Didier Schmitt IECL

Analyse Numérique - 1 Figure – les deux courbes
Quelques algorithmes classiques
Didier Schmitt IECL

Méthode de dichotomie
Le principe de la dichotomie
1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

1,6
1,2
0,8
0,4
-0,4 0 0,4 0,8 1,2 1,6 2 2,4 2,8 3,2 3,6 4
-0,4
-0,8
Didier Schmitt IECL

On part d’un intervalle contenant une racine et on construit une suite
d’intervalles vérifiant :
la racine appartient à tous les intervalles ;
la longueur des intervalles tend vers 0.
On obtient ainsi un encadrement de plus en plus fin de la racine.
Didier Schmitt IECL

Un intervalle [a, b] étant défini par ses extrémités a et b, pour définir la

suite d’intervalles il est équivalent de définir les suites (an ) et (bn ) des
extrémités des intervalles.
Algorithme de la dichotomie
Soit f : [a, b] → R continue et telle que f (a) f (b) ≤ 0.
a0 = a, b0 = b;
pour tous les n de 0 à N faire
m := (an +b2
n)
;
si f (a) f (m) ≤ 0 alors
an+1 := an , bn+1 := m;
sinon
an+1 := m, bn+1 := bn ;
Didier Schmitt IECL

On montre alors que ces deux suites (an ) et (bn ) vérifient par
construction :
∀ n ∈ N, an ≤ an+1 ≤ bn+1 ≤ bn .
∀ n ∈ N, |an − bn | = |a−b|
2n
.
∀ n ∈ N, f (an )f (a) ≥ 0, f (bn )f (a) ≤ 0.
Didier Schmitt IECL

construction :
∀ n ∈ N, an ≤ an+1 ≤ bn+1 ≤ bn .
∀ n ∈ N, |an − bn | = |a−b|
2n
.
∀ n ∈ N, f (an )f (a) ≥ 0, f (bn )f (a) ≤ 0.
Par conséquent, les deux suites (an ) et (bn ) sont adjacentes et elles
convergent vers une même limite r ∈ [a, b].
Didier Schmitt IECL

construction :
∀ n ∈ N, an ≤ an+1 ≤ bn+1 ≤ bn .
∀ n ∈ N, |an − bn | = |a−b|
2n
.
∀ n ∈ N, f (an )f (a) ≥ 0, f (bn )f (a) ≤ 0.
Comme f est continue sur [a, b], les suites (f (an )) et (f (bn ))
convergent vers f (r ).
Didier Schmitt IECL

construction :
∀ n ∈ N, an ≤ an+1 ≤ bn+1 ≤ bn .
∀ n ∈ N, |an − bn | = |a−b|
2n
.
∀ n ∈ N, f (an )f (a) ≥ 0, f (bn )f (a) ≤ 0.
Suivant le signe de f (a), elle vérifient de plus, pour tout n ∈ N
(f (an ) ≤ 0 et f (bn ) ≥ 0) ou (f (an ) ≥ 0 et f (bn ) ≤ 0) .
Didier Schmitt IECL

construction :
∀ n ∈ N, an ≤ an+1 ≤ bn+1 ≤ bn .
∀ n ∈ N, |an − bn | = |a−b|
2n
.
∀ n ∈ N, f (an )f (a) ≥ 0, f (bn )f (a) ≤ 0.
Suivant le signe de f (a), elle vérifient de plus, pour tout n ∈ N
(f (an ) ≤ 0 et f (bn ) ≥ 0) ou (f (an ) ≥ 0 et f (bn ) ≤ 0) .
Dans les deux cas, nous obtenons à la limite que f (r ) ≤ 0 et

f (r ) ≥ 0, ce qui implique que f (r ) = 0.
Didier Schmitt IECL
Remarques
Dès que f est continue sur [a, b] et que f (a)f (b) ≤ 0, cette
méthode converge.
Didier Schmitt IECL

Remarques
méthode converge.
Une seule évaluation de la fonction f est nécessaire par itération
Didier Schmitt IECL

Remarques
méthode converge.
Comme nous avons
an ≤ r ≤ bn , ∀n ≥ 0,
on peut choisir indifféremment aN ou bN comme valeur approchée

de la racine, aN sera alors une valeur approchée par défaut et bN une
valeur approchée par excès
Didier Schmitt IECL

Remarques
méthode converge.
Comme nous avons
an ≤ r ≤ bn , ∀n ≥ 0,
on peut choisir indifféremment aN ou bN comme valeur approchée

de la racine, aN sera alors une valeur approchée par défaut et bN une
valeur approchée par excès
Nous aurons alors une précision de
|a − b|
|aN − r | ≤ |aN − bN | =
2N
Didier Schmitt IECL
Remarques
On peut, en fonction de la précision souhaitée , déterminer a priori
le temps d’arrêt N
|a − b|
|aN − bN | = <
2N

ln (|a − b|) − ln ()
N≥E +1
ln (2)
Didier Schmitt IECL

Remarques
On peut, en fonction de la précision souhaitée , déterminer a priori
le temps d’arrêt N
|a − b|
|aN − bN | = <
2N

ln (|a − b|) − ln ()
N≥E +1
ln (2)
Cette méthode converge même si la fonction f a plusieurs racines
dans l’intervalle de départ.
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Exemple :
-1,5 -1 -0,5 0 0,5 1 1,5 2 2,5 3 3,5 4
-1
-2
-3
Didier Schmitt IECL

Les méthodes de point fixe
Principe
La recherche d’une solution de l’équation f (x) = 0 peut être vue comme
la recherche d’une solution de l’équation :
g (x) = x
Didier Schmitt IECL

Principe
g (x) = x
par exemple en posant :

g (x) = x − f (x)
f (x)
g (x) = x − , avec α 6= 0
α
f (x)
g (x) = x − , avec ∀ x ∈ I , α(x) 6= 0
α(x)
Didier Schmitt IECL

Principe
g (x) = x
Ainsi la recherche d’une racine de f se ramène à la recherche

d’un point fixe de g .
Didier Schmitt IECL

On peut alors utiliser l’algorithme suivant :

x0 donné;
pour tous les n de 0 à . . . faire
xn+1 = g (xn )
Didier Schmitt IECL

On peut alors utiliser l’algorithme suivant :

x0 donné;
xn+1 = g (xn )
En effet, rappelons ce résultat d’analyse :

Théorème
Soient I un intervalle stable par g , a un point de I et (xn ) la suite définie
par les relations x0 = a et pour tout n ∈ N, xn+1 = g (xn ).
Si on ajoute les hypothèses I fermé et f continue sur I , si la suite (xn )
converge alors sa limite est un point fixe de g dans I .
Didier Schmitt IECL

Ainsi, si la suite (xn ) générée par cet algorithme converge (et sous ces
hypothèses), alors sa limite sera un point fixe de la fonction g et donc
une racine de la fonction f .
Didier Schmitt IECL

Ainsi, si la suite (xn ) générée par cet algorithme converge (et sous ces
hypothèses), alors sa limite sera un point fixe de la fonction g et donc
une racine de la fonction f .
La convergence de la suite (xn ) générée par cet algorithme converge peut

être obtenue facilement avec des résultats classiques d’analyse.
Didier Schmitt IECL

En particulier
Théorème du point fixe
Supposons I fermé, g contractante sur I de rapport k et I stable par g .
Alors, nous avons :
la fonction g admet sur I un unique point fixe r ∈ I .
pour toute condition initiale a ∈ I , la suite (xn ), définie par x0 = a et
la relation de récurrence xn+1 = g (xn ), converge vers ce point fixe r .
les estimations suivantes :
kn
∀ n ∈ N, |xn − r | ≤ |x1 − x0 |
1−k
k
∀ n ∈ N, |xn − r | ≤ |xn − xn−1 |
1−k
Didier Schmitt IECL

Exemple
Soit f la fonction définie sur I = [0, +∞[ par
f (x) = x − e −(1+x)
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
Cette fonction possède une unique racine r comprise entre 0 et 1

2
1,6
1,2
0,8
0,4
-1 -0,5 0 0,5 1 1,5 2
-0,4
-0,8
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
Soit g la fonction définie sur I par
g (x) = e −(1+x)
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
g (x) = e −(1+x)
On vérifie aisément que I est stable par g , que g est une contraction sur
I et que I est fermé
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
g (x) = e −(1+x)
Donc pour tout a ∈ I , la suite (xn ) définie par x0 = a et xn+1 = g (xn ),

converge vers l’unique point fixe de g qui est aussi la racine de f
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
Soit maintenant h la fonction définie sur I par
h(x) = x 2 e (1+x)
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
Soit maintenant h la fonction définie sur I par
h(x) = x 2 e (1+x)
La fonction h admet sur I deux points fixes : 0 et r
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
Étudions pour tout a ∈ I , le comportement asymptotique de la suite (xn )

définie par x0 = a et xn+1 = h(xn )
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
On montre que :
si a ∈ [0, r [ alors la suite (xn ) converge vers 0
si a = r alors la suite (xn ) est constante
si a ∈]r , +∞[ la suite (xn ) diverge vers +∞
Didier Schmitt IECL

Exemple
f (x) = x − e −(1+x)
On montre que :
si a ∈ [0, r [ alors la suite (xn ) converge vers 0
si a = r alors la suite (xn ) est constante
si a ∈]r , +∞[ la suite (xn ) diverge vers +∞
Ce deuxième algorithme n’est donc pas adapté pour obtenir une

approximation de la racine r !
Didier Schmitt IECL
Stabilité du point fixe

Soit g une application de I dans I admettant un point fixe r ∈ I .
On dit que r est un point fixe attractif ou stable s’il existe η > 0 tel
que toute suite (xn ) définie par x0 ∈]r − η, r + η[∩I et la relation de
récurrence xn+1 = g (xn ) converge vers r .
Didier Schmitt IECL

Stabilité du point fixe

Soit g une application de I dans I admettant un point fixe r ∈ I .
On dit que r est un point fixe attractif ou stable s’il existe η > 0 tel
que toute suite (xn ) définie par x0 ∈]r − η, r + η[∩I et la relation de
récurrence xn+1 = g (xn ) converge vers r .
On dit que r est un point fixe répulsif ou instable lorsque pour toute
suite (xn ) définie par la relation de récurrence xn+1 = g (xn ) et qui
converge vers r , il existe n0 ∈ N tel que pour tout n ≥ n0 , xn = r .
Didier Schmitt IECL

Théorème
Soit g une application de I dans I admettant un point fixe r ∈ I . On
suppose g dérivable en r .
si |g 0 (r )| < 1, alors r est un point fixe attractif.
si |g 0 (r )| > 1, alors r est un point fixe répulsif.
si |g 0 (r )| = 1, alors les deux cas peuvent se produire
Didier Schmitt IECL

Théorème
Soit g une application de I dans I admettant un point fixe r ∈ I . On
suppose g dérivable en r .
si |g 0 (r )| < 1, alors r est un point fixe attractif.
si |g 0 (r )| > 1, alors r est un point fixe répulsif.
si |g 0 (r )| = 1, alors les deux cas peuvent se produire
Remarque
Dans l’exemple précédent, nous avons |h0 (r )| > 1
Didier Schmitt IECL

Vitesse de convergence
Soit (xn ) une suite qui converge vers le nombre r .
Didier Schmitt IECL


On dit que la convergence de la suite est linéaire, s’il existe C ,
0 < C < 1 tel que
|xn+1 − r |
lim = C. (1)
n→∞ |xn − r |
Didier Schmitt IECL


0 < C < 1 tel que
|xn+1 − r |
lim = C. (1)
n→∞ |xn − r |
Le nombre C est appelé vitesse de convergence.
Didier Schmitt IECL


0 < C < 1 tel que
|xn+1 − r |
lim = C. (1)
n→∞ |xn − r |
Le nombre C est appelé vitesse de convergence.

On dit que la convergence est au moins linéaire, s’il existe C ,
0 < C < 1 tel que
|xn+1 − r | ≤ C |xn − r | ∀n ≥ 0
Didier Schmitt IECL

Lorsque (1) est vérifiée pour C = 0, on dit alors que la convergence

de la suite est super-linéaire.
Dans ce cas, il est possible de préciser la vitesse de convergence
On dit que la convergence est d’ordre q, s’il existe q > 1, C > 0 tel
que
|xn+1 − r |
lim q =C
n→∞ |xn − r |
On dit que la convergence est d’ordre au moins q, s’il existe q > 1,

C > 0 tel que
q
|xn+1 − r | ≤ C |xn − r |
Une convergence d’ordre 2 est aussi dite quadratique et une
convergence d’ordre 3 est aussi dite cubique.
Didier Schmitt IECL

Signification pratique
Posons pour tout n ∈ N, en = |xn − r |. Le nombre en représente l’erreur
commise lorsqu’on approche le nombre r par le nombre xn .
Didier Schmitt IECL

Si la convergence est linéaire alors il existe 0 < C < 1 tel que
en+1 ∼ Cen
Didier Schmitt IECL

en+1 ∼ Cen
Ceci signifie qu’asymptotiquement l’erreur est réduite d’un facteur C
à chaque itération.
Didier Schmitt IECL

en+1 ∼ Cen
Ceci signifie qu’asymptotiquement l’erreur est réduite d’un facteur C
à chaque itération.
Plus petite sera la vitesse de convergence, plus rapide sera donc la
convergence de la suite.
Didier Schmitt IECL

Si la convergence est d’ordre q > 1, alors il existe 0 < C tel que
en+1 ∼ Cenq .
Didier Schmitt IECL

en+1 ∼ Cenq .
Posons alors pour tout n ∈ N, λn = − log10 en .
Didier Schmitt IECL

en+1 ∼ Cenq .
Le nombre λn est une ”mesure” du nombre de décimales exactes de
xn .
Didier Schmitt IECL

en+1 ∼ Cenq .
xn .
En effet si en = 10−5 alors λn = 5, si en = 10−10 alors λn = 10,
etc...
Didier Schmitt IECL

en+1 ∼ Cenq .
xn .
etc...
Nous avons
λn+1 ∼ qλn .
ce qui signifie qu’asymptotiquement, le nombre xn+1 possède q fois
plus de ”décimales exactes” que le nombre xn .
Didier Schmitt IECL

en+1 ∼ Cenq .
xn .
etc...
Nous avons
λn+1 ∼ qλn .
ce qui signifie qu’asymptotiquement, le nombre xn+1 possède q fois
plus de ”décimales exactes” que le nombre xn .
Plus grand sera l’ordre de convergence, plus rapide sera donc la
convergence de la suite
Didier Schmitt IECL
Ordre de convergence pour une méthode de point fixe
Soit (xn ) une suite définie par la relation de récurrence xn+1 = g (xn ) et
soit r un point fixe de g .
Didier Schmitt IECL

Soit (xn ) une suite définie par la relation de récurrence xn+1 = g (xn ) et
soit r un point fixe de g .
Si g est une fonction 3 fois dérivable sur I , alors d’après la formule
Taylor-Young, nous avons pour tout n ∈ N :
xn+1 − r = g (xn ) − g (r )
g 00 (r ) g 000 (r )
= g 0 (r )(xn − r ) + (xn − r )2 + (xn − r )3 + o((xn − r )3 ).
2 6
Soit encore :
g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en + e + en + o(en3 ).
2 n 6
Didier Schmitt IECL

g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en +
e + en + o(en3 )
2 n 6
Plusieurs cas se présentent alors à nous :
Didier Schmitt IECL

g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en +
e + en + o(en3 )
2 n 6
si g 0 (r ) 6= 0 et |g 0 (r )| < 1, alors en+1 ∼ Cen avec C = |g 0 (r )|.
La suite (xn ) converge linéairement vers r .
Didier Schmitt IECL

g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en +
e + en + o(en3 )
2 n 6
|g 00 (r )|
si g 0 (r ) = 0 et g 00 (r ) 6= 0, alors en+1 ∼ Cen2 avec C = 2 .
La suite (xn ) est convergente d’ordre 2.
Didier Schmitt IECL

g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en +
e + en + o(en3 )
2 n 6
|g 00 (r )|
si g 0 (r ) = g 00 (r ) = 0 et g 000 (r ) 6= 0, alors en+1 ∼ Cen3 avec
000
µ = |g 6(r )| .
Didier Schmitt IECL

g 00 (r ) 2 g 000 (r ) 3
en+1 = g 0 (r )en +
e + en + o(en3 )
2 n 6
|g 00 (r )|
si g 0 (r ) = g 00 (r ) = 0 et g 000 (r ) 6= 0, alors en+1 ∼ Cen3 avec
000
µ = |g 6(r )| .
et ainsi de suite, si on suppose plus de régularité sur g .
Didier Schmitt IECL

La méthode de Newton
Didier Schmitt IECL

Description de la méthode
Si f est une fonction affine
f (x) = ax + b (a 6= 0)
b
alors, il est facile de déterminer la racine : r = − .
a
Didier Schmitt IECL

f (x) = ax + b (a 6= 0)
b
a
Dans le cas général, l’idée est de substituer à la fonction f une
approximation affine
Didier Schmitt IECL

f (x) = ax + b (a 6= 0)
b
a
Dans le cas général, l’idée est de substituer à la fonction f une
approximation affine
Pour cela nous pouvons utiliser sa tangente.
Didier Schmitt IECL

Supposons que f soit une fonction définie sur un intervalle I , dérivable
sur I et qu’elle possède une racine r dans I .
Didier Schmitt IECL

Soit x0 un point I assez proche de la racine r .
Didier Schmitt IECL

Soit x0 un point I assez proche de la racine r .
On a alors
f (x) = f (x0 ) + f 0 (x0 )(x − x0 ) + o(x − x0 )

= fx0 (x) + o(x − x0 )
avec fx0 (x) = f 0 (x0 )(x − x0 ) + f (x0 ).
Didier Schmitt IECL

La fonction affine fx0 admet une racine x1 si et seulement si
f 0 (x0 ) 6= 0, et dans ce cas
f (x0 )
x1 = x0 − .
f 0 (x0 )
Didier Schmitt IECL

f (x0 )
x1 = x0 − .
f 0 (x0 )
On peut espérer alors que x1 soit plus proche de la racine r que ne

l’est x0 i.e. que x1 soit une meilleure approximation de r .
Didier Schmitt IECL

f (x0 )
x1 = x0 − .
f 0 (x0 )

On peut alors recommencer avec x1 à la place de x0 et ainsi de suite
...
Didier Schmitt IECL

f (x0 )
x1 = x0 − .
f 0 (x0 )

On peut alors recommencer avec x1 à la place de x0 et ainsi de suite
...
On espère donc améliorer l’approximation de la racine r par
itérations successives.
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

Algorithme de Newton
x0 donné;
xn+1 = xn − ff0(x(xnn))
Didier Schmitt IECL

x0 donné;
Remarques
Pour que la suite (xn ) soit bien définie, il faut que f 0 (xn ) 6= 0 pour
tout n ∈ N.
Didier Schmitt IECL

x0 donné;
Remarques
tout n ∈ N.
À chaque itération, nous devons faire deux évaluations de fonction :
calcul de f (xn ) et calcul de f 0 (xn )
Didier Schmitt IECL

x0 donné;
Remarques
tout n ∈ N.
À chaque itération, nous devons faire deux évaluations de fonction :
calcul de f (xn ) et calcul de f 0 (xn )
La méthode de Newton est une méthode de point fixe avec
f (x)
g (x) = x −
f 0 (x)
Didier Schmitt IECL

Convergence de la méthode de Newton
Théorème
Soient f une application de I dans I et r ∈ I une racine de la fonction f .
On suppose que f est deux fois dérivable sur un voisinage de r et que
f 0 (r ) 6= 0.
Alors, il existe η > 0 tel que, pour tout x0 ∈]r − η, r + η[∩I , la méthode
de Newton génère une suite (xn ) qui est bien définie et qui converge au
moins quadratiquement vers r .
Didier Schmitt IECL

Théorème
On suppose que f est deux fois dérivable sur un voisinage de r et que
f 0 (r ) 6= 0.
Alors, il existe η > 0 tel que, pour tout x0 ∈]r − η, r + η[∩I , la méthode
de Newton génère une suite (xn ) qui est bien définie et qui converge au
moins quadratiquement vers r .
En effet
2
(f 0 (x)) − f (x)f 0 (x)
g 0 (x) = 1 − 2
(f 0 (x))
et donc g 0 (r ) = 0 !
Didier Schmitt IECL
Remarques
Didier Schmitt IECL

Remarques
Ce résultat indique que si x0 est choisi assez proche de r (et si
f 0 (r ) 6= 0) alors la méthode converge.
Didier Schmitt IECL

Remarques
Lorsqu’il y a convergence, elle est rapide (au moins d’ordre 2).
Didier Schmitt IECL

Remarques
Si x0 n’est pas choisi assez proche de r , alors il peut y avoir
divergence .
Didier Schmitt IECL

Remarques
Si x0 n’est pas choisi assez proche de r , alors il peut y avoir
divergence .
Dans la pratique, il n’y a généralement aucun moyen de savoir dans
quelle mesure x0 est assez voisin de r !
Didier Schmitt IECL

x x0
x2 x0 1
x1
Didier Schmitt IECL

Exemple : x 2 = a
Soit a > 0
Didier Schmitt IECL

Exemple : x 2 = a
Soit a > 0
√
On cherche à obtenir une approximation de a.
Didier Schmitt IECL

Exemple : x 2 = a
Soit a > 0
√
2
Ici f (x) = x − a et l’algorithme de Newton s’écrit dans ce cas :
xn2 − a

1 a
xn+1 = xn − = xn + .
2xn 2 xn
Didier Schmitt IECL

Exemple : x 2 = a
Soit a > 0
√
2
xn2 − a

1 a
xn+1 = xn − = xn + .
2xn 2 xn
On retrouve le fameux algorithme d’Héron ou méthode

babylonienne !
Didier Schmitt IECL

Exemple : x 2 = a
Soit a > 0
√
2
xn2 − a

1 a
xn+1 = xn − = xn + .
2xn 2 xn
On retrouve le fameux algorithme d’Héron ou méthode

babylonienne !
On montre
√ facilement que pour tout x0 > 0 cette suite converge
vers a.
Didier Schmitt IECL

Exemple : x 2 = a
Pour a = 2 et x0 = 1, on obtient :
x0 = 1
3
x1 = = 1.5
2
17
x2 = = 1.41666666666666...
12
577
x3 = = 1.41421568627450...
408
665857
x4 = = 1.41421356237468...
470832
Didier Schmitt IECL

Exemple : x 2 = a
Pour a = 2 et x0 = 1, on obtient :
x0 = 1
3
x1 = = 1.5
2
17
x2 = = 1.41666666666666...
12
577
x3 = = 1.41421568627450...
408
665857
x4 = = 1.41421356237468...
470832
√
Pour mémoire : 2 = 1.414213562373095...
Didier Schmitt IECL
Remarque
f (xn )
xn+1 = xn −
f 0 (xn )
La méthode de Newton nécessite à chaque itération deux

évaluations de fonction : le calcul de f (xn ) et le calcul de f 0 (xn ).
Didier Schmitt IECL

Remarque
f (xn )
xn+1 = xn −
f 0 (xn )

Il faut donc connaitre la dérivée de f et être capable d’implémenter
un algorithme de calcul de f 0 .
Didier Schmitt IECL

Remarque
f (xn )
xn+1 = xn −
f 0 (xn )

Il faut donc connaitre la dérivée de f et être capable d’implémenter
un algorithme de calcul de f 0 .
Pour remédier à cet inconvénient, nous pouvons remarquer que
f (x + h) − f (x)
f 0 (x) ' .
h
Didier Schmitt IECL

Une nouvelle méthode

Ainsi, nous pouvons obtenir une méthode assez voisine qui évite le calcul
de f 0 :
x0 donné;
f (xn )hn
xn+1 = xn − f (xn +h n )−f (xn )
Didier Schmitt IECL


de f 0 :
x0 donné;
f (xn )hn
xn+1 = xn − f (xn +h n )−f (xn )
Remarques
Cette méthode est bien définie si à chaque itération
f (xn + hn ) − f (xn ) 6= 0.
Didier Schmitt IECL


de f 0 :
x0 donné;
f (xn )hn
xn+1 = xn − f (xn +h n )−f (xn )
Remarques
f (xn + hn ) − f (xn ) 6= 0.
Le pas de calcul hn peut être différent à chaque itération.
Didier Schmitt IECL


de f 0 :
x0 donné;
f (xn )hn
xn+1 = xn − f (xn +h n )−f (xn )
Remarques
f (xn + hn ) − f (xn ) 6= 0.
Le pas de calcul hn peut être différent à chaque itération.
À chaque itération, nous devons toujours faire deux évaluations :
calcul de f (xn ) et calcul de f (xn + hn ).
Didier Schmitt IECL

Vers la méthode de la sécante
Pour éviter cette double évaluation, on peut poser :
hn = xn−1 − xn ∀n ≥ 0.
En effet, si (xn ) converge, alors (hn ) converge vers 0 et à chaque itération

nous avons seulement une évaluation à faire : calcul de f (xn ) (si
l’algorithme est correctement écrit !)

n −xn−1 )
xn+1 = xn − ff(x(xnn)(x
)−f (xn−1 )
Didier Schmitt IECL

Vers la méthode de la sécante
Pour éviter cette double évaluation, on peut poser :
hn = xn−1 − xn ∀n ≥ 0.
En effet, si (xn ) converge, alors (hn ) converge vers 0 et à chaque itération

nous avons seulement une évaluation à faire : calcul de f (xn ) (si
l’algorithme est correctement écrit !)

n −xn−1 )
xn+1 = xn − ff(x(xnn)(x
)−f (xn−1 )
Nous venons d’obtenir la méthode de la sécante.
Didier Schmitt IECL

La méthode de la sécante
Supposons que f soit une fonction définie sur un intervalle I et qu’elle
possède une racine r dans I .
Didier Schmitt IECL

Soient x0 et x1 deux points de I assez proches de la racine r .
Didier Schmitt IECL

Soient x0 et x1 deux points de I assez proches de la racine r .
Nous substituons au voisinage de x1 la fonction f par la droite
passant par les points (x1 , f (x1 )) et (x0 , f (x0 )) d’équation :

f (x1 ) − f (x0 )
fx1 (x) = (x − x1 ) + f (x1 ).
x1 − x0
Didier Schmitt IECL

f (x1 ) − f (x0 ) 6= 0, et dans ce cas :

x1 − x0
x2 = x1 − f (x1 ) .
f (x1 ) − f (x0 )
Didier Schmitt IECL


x1 − x0
x2 = x1 − f (x1 ) .
f (x1 ) − f (x0 )
On peut espérer alors que x2 soit plus proche de la racine r que ne le

sont x0 et x1 .
Didier Schmitt IECL


x1 − x0
x2 = x1 − f (x1 ) .
f (x1 ) − f (x0 )

sont x0 et x1 .
On peut alors recommencer avec x2 et x1 et ainsi de suite ...
Didier Schmitt IECL


x1 − x0
x2 = x1 − f (x1 ) .
f (x1 ) − f (x0 )

sont x0 et x1 .
On peut alors recommencer avec x2 et x1 et ainsi de suite ...
On espère donc améliorer l’approximation de la racine r par
itérations successives.
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

2,5
-0,5 0 0,5 1 1,5 2 2,5 3 3,5
Didier Schmitt IECL

Algorithme de la sécante
x0 x1 donnés;
(xn − xn−1 )
xn+1 = xn − f (xn )
f (xn ) − f (xn−1 )
Didier Schmitt IECL

x0 x1 donnés;
(xn − xn−1 )
xn+1 = xn − f (xn )
f (xn ) − f (xn−1 )
Remarques
Pour que la suite (xn ) soit bien définie, il faut que f (xn ) 6= f (xn−1 )
pour tout n ∈ N.
Didier Schmitt IECL

x0 x1 donnés;
(xn − xn−1 )
xn+1 = xn − f (xn )
f (xn ) − f (xn−1 )
Remarques
Pour que la suite (xn ) soit bien définie, il faut que f (xn ) 6= f (xn−1 )
pour tout n ∈ N.
À chaque itération, nous devons faire une unique évaluation : calcul
de f (xn ).
Didier Schmitt IECL

Convergence de la méthode de la sécante
Théorème
On suppose que f est deux fois continument dérivable sur un voisinage
de r et que f 0 (r ) 6= 0.
Alors, il existe η > 0 tel que pour tout x0 ∈]r − η, r + η[∩I et pour tout
x0 ∈]r − η, r + η[∩I la méthode de la sécante génère une suite (xn ) qui
est bien définie et qui converge vers r . √
Dans ce cas la convergence est au moins d’ordre 1+2 5 = 1.618...
Didier Schmitt IECL

Comparaison des algorithmes
Didier Schmitt IECL

Avantages :
La convergence est assurée.
Un seul calcul de fonction à chaque itération.
Inconvénients
Vitesse de convergence linéaire, donc lente.
Didier Schmitt IECL

Méthode de Newton
Avantages :
Converge très rapidement lorsqu’il y a convergence.
Relativement stable et peu sensible aux erreurs d’arrondis si f 0 (r )
n’est pas trop petit.
Inconvénients
Peut diverger si la donnée initiale est mal choisie.
Nécessite le calcul de la dérivée de la fonction.
Deux évaluations de fonctions à chaque itération.
Didier Schmitt IECL

Méthode de la Sécante
Avantages :
Convergence relativement rapide lorsqu’il y a convergence.
Nécessite une seule évaluation de fonction à chaque itération.
Inconvénients
Peut diverger si la donnée initiale est mal choisie.
Didier Schmitt IECL

Un exemple : résolution de x − 0.2 sin x − 0.5 = 0 à l’aide des quatre

algorithmes
Dichotomie Sécante Newton Point fixe

x−1 = 0, 5 x−1 = 0, 5 x0 = 1 x0 = 1
x0 = 1, 0 x0 = 1, 0 x = 0, 2 sin x + 0, 5
1 0, 75 0, 5 0, 5 0, 50
2 0, 625 0, 61212248 0, 61629718 0, 595885
3 0, 5625 0, 61549349 0, 61546820 0, 612248
4 0, 59375 0, 61546816 0, 61546816 0, 614941
5 0, 609375 0, 61538219
6 0, 6171875 0, 61545412
7 0, 6132812 0, 61546587
8 0, 6152343 0, 61546779
9 0, 6162109 0, 61546810
10 0, 6157226 0, 61546815
11 0, 6154785
12 0, 6153564
13 0, 6154174
14 0, 6154479
15 0, 6154532
16 0, 61547088
17 0, 61546707
18 0, 61546897
19 0, 615468025
20 0, 615468502
Didier Schmitt IECL

Accélération de convergence
Didier Schmitt IECL

Principe
Étant donné une suite (xn ) convergeant vers r , accélérer sa convergence
consiste à la remplacer par une suite (yn ) convergeant plus vite vers r ,
i.e ; vérifiant
yn − r
lim = 0.
n→+∞ xn − r
Didier Schmitt IECL

Principe
Étant donné une suite (xn ) convergeant vers r , accélérer sa convergence
consiste à la remplacer par une suite (yn ) convergeant plus vite vers r ,
i.e ; vérifiant
yn − r
lim = 0.
n→+∞ xn − r
Exemple
Si (xn ) converge linéairement alors (yn ) aura une meilleure vitesse de
convergence ou un ordre de convergence supérieur.
Didier Schmitt IECL

Méthode de relaxation
Soit une méthode de point fixe
xn+1 = g (xn )
qui converge lentement ou ne converge pas.
Didier Schmitt IECL

xn+1 = g (xn )
L’équation que nous cherchons à résoudre ici x = g (x) peut aussi s’écrire
pour tout α 6= −1 :
x + αx = g (x) + αx.
Soit encore :
g (x) + αx
x= = G (x).
1+α
Didier Schmitt IECL

xn+1 = g (xn )
On peut donc envisager d’utiliser la méthode de point fixe
yn+1 = G (yn )
avec
g (x) + αx
G (x) = .
1+α
Didier Schmitt IECL

D’après les résultats vus précédemment, cette méthode va converger dès
que y0 est proche du point fixe r et dès que
0
0
g (r ) + α
|G (r )| = < 1.
α+1
Didier Schmitt IECL

0
0
g (r ) + α
|G (r )| = < 1.
α+1
Et la convergence sera d’autant plus rapide que |G 0 (r )| est petit !
Didier Schmitt IECL

0
0
g (r ) + α
|G (r )| = < 1.
α+1
Et la convergence sera d’autant plus rapide que |G 0 (r )| est petit !
Comme nous sommes libres de choisir le paramètre de relaxation α, l’idée

est de le prendre le plus proche possible de −g 0 (r ) !
Didier Schmitt IECL

Accélération d’Aı̈tken
Didier Schmitt IECL

Le principe
Soit (xn ) une suite convergeant vers r et telle que :
xn+1 − r = k (xn − r ) où 0 < k < 1.
Didier Schmitt IECL

Le principe
xn+1 − r = k (xn − r ) où 0 < k < 1.
On a :
xn+1 − r = k (xn − r ) ,
xn+2 − r = k (xn+1 − r ) .
Par différence, on obtient alors :
xn+2 − xn+1 = k (xn+1 − xn ) .
Didier Schmitt IECL

Le principe
xn+1 − r = k (xn − r ) où 0 < k < 1
En substituant alors dans la première équation mise sous la forme

xn+1 − xn
r = xn + ,
1−k
on a alors :
2
(xn+1 − xn )
r = xn − .
xn+2 + xn − 2xn+1
Didier Schmitt IECL

Le principe
xn+1 − r = k (xn − r ) où 0 < k < 1
Comme
2
(xn+1 − xn )
r = xn − ,
xn+2 + xn − 2xn+1
on remarque que trois termes consécutifs de la suites suffisent donc pour
obtenir r !
Didier Schmitt IECL

Le principe
Mais l’hypothèse est très forte et peu réaliste.
Didier Schmitt IECL

Le principe
L’idée d’Aı̈tken est de généraliser cette remarque aux suites convergeant

linéairement c’est-à-dire telles que :
xn+1 − r = kn (xn − r ) avec lim kn = k ∈ [0, 1[ .

n→∞
Didier Schmitt IECL

Le principe
L’idée d’Aı̈tken est de généraliser cette remarque aux suites convergeant

linéairement c’est-à-dire telles que :
xn+1 − r = kn (xn − r ) avec lim kn = k ∈ [0, 1[ .

n→∞
Pour n grand, kn est presque constant, donc le nombre

2
(xn+1 − xn )
yn = xn −
xn+2 + xn − 2xn+1
devrait être voisin de r .

Didier Schmitt IECL
Théorème
Soit une suite (xn ) convergeant linéairement vers une limite r . Alors la
suite (yn ) définie par :
2
(xn+1 − xn )
yn := xn −
xn+2 + xn − 2xn+1
vérifie :
yn − r
lim = 0.
n→∞ xn − r
Didier Schmitt IECL

Théorème
Soit une suite (xn ) convergeant linéairement vers une limite r . Alors la
suite (yn ) définie par :
2
(xn+1 − xn )
yn := xn −
xn+2 + xn − 2xn+1
vérifie :
yn − r
lim = 0.
n→∞ xn − r
Le procédé d’Aı̈tken permet donc d’accélérer la convergence d’une suite

qui converge linéairement.
Didier Schmitt IECL

Remarque :
Pour les calculs, on utilisera l’expression équivalente
1
yn = xn+1 + 1 1
xn+2 −xn+1 − xn+1 −xn
celle-ci ayant un meilleur comportement vis à vis des erreurs de calcul

que commet un ordinateur.
Didier Schmitt IECL

Algorithme de Steffensen
Le principe
Soit (xn ) définie par :
xn+1 = g (xn ) ∀n ≥ 0
et on suppose que (xn ) converge au moins linéairement vers r .
Didier Schmitt IECL

Le principe
xn+1 = g (xn ) ∀n ≥ 0
On peut accélérer cette convergence en utilisant la méthode d’Aı̈tken.
Didier Schmitt IECL

Le principe
xn+1 = g (xn ) ∀n ≥ 0
On peut accélérer cette convergence en utilisant la méthode d’Aı̈tken.
L’idée est “d’utiliser” yn (a priori plus proche de la limite r que xn ) à la

place de xn dans l’algorithme d’Aı̈tken pour ainsi espérer obtenir une
“double” accélération...
Didier Schmitt IECL

On obtient ainsi l’algorithme

x0 donné;
yn := g (xn );
zn := g (yn );
2
(yn − xn )
xn+1 := xn −
zn − 2yn + xn
Didier Schmitt IECL

Remarques
Didier Schmitt IECL

Remarques
Cet algorithme est à nouveau un algorithme de point fixe
2
(g (x) − x)
xn+1 = G (xn ) avec G (x) = x − .
g (g (x)) − 2g (x) + x
Didier Schmitt IECL

Remarques
2
(g (x) − x)
xn+1 = G (xn ) avec G (x) = x − .
g (g (x)) − 2g (x) + x
On montre que si g 0 (r ) 6= 0, alors G 0 (r ) = 0. L’algorithme associé à

G converge alors de façon quadratique.
Didier Schmitt IECL

Remarques
2
(g (x) − x)
xn+1 = G (xn ) avec G (x) = x − .
g (g (x)) − 2g (x) + x

Ainsi, par rapport à l’algorithme associé à g :
On accélère la convergence quand elle a lieu.
On a un procédé convergeant, même si |g 0 (r )| ≥ 1.
Didier Schmitt IECL

Remarques
2
(g (x) − x)
xn+1 = G (xn ) avec G (x) = x − .
g (g (x)) − 2g (x) + x

Ainsi, par rapport à l’algorithme associé à g :
On accélère la convergence quand elle a lieu.
On a un procédé convergeant, même si |g 0 (r )| ≥ 1.
Il faut noter que, si l’algorithme associé à G converge plus vite que
celui associé à g , chaque itération comporte deux évaluations de la
fonction : on y met le prix !
Didier Schmitt IECL

Résolutions des équations non linéaires
Systèmes d’équations non linéaires
Didier Schmitt IECL

Soit l’équation
F (X ) = 0
où F : RN 7→ RN ou encore de façon développée


 f1 (x1 , x2 , . . . , xN ) = 0
 f2 (x1 , x2 , . . . , xN ) = 0

.. ..


 . .
fN (x1 , x2 , . . . , xN ) = 0 .

Didier Schmitt IECL

La méthode de Newton-Raphson
La méthode de Newton-Raphson est la généralisation de la méthode

de Newton unidimensionnelle aux dimensions supérieures
xn+1 = xn − (f 0 (xn ))−1 f (xn ).
Elle fait intervenir la matrice Jacobienne de F :

 ∂f1 ∂f1 ∂f1 
∂x1 ∂x2 . . . ∂x N
F 0 (Xn ) =  ... .. .. ..  ,

. . . 
∂fN ∂fN ∂fN
∂x1 ∂x2 . . . ∂x N
toutes les dérivées partielles étant évaluées au point Xn .
Didier Schmitt IECL

La méthode de Newton-Raphson est la généralisation de la méthode

de Newton unidimensionnelle aux dimensions supérieures
xn+1 = xn − (f 0 (xn ))−1 f (xn ).
Elle fait intervenir la matrice Jacobienne de F :

 ∂f1 ∂f1 ∂f1 
∂x1 ∂x2 . . . ∂x N
F 0 (Xn ) =  ... .. .. ..  ,

. . . 
∂fN ∂fN ∂fN
∂x1 ∂x2 . . . ∂x N
toutes les dérivées partielles étant évaluées au point Xn .

La méthode de Newton-Raphson s’écrit donc formellement
Xn+1 = Xn − [F 0 (Xn )]−1 F (Xn ).

Didier Schmitt IECL
Dans la pratique, on ne calcule pas explicitement l’inverse de la matrice

Jacobienne, ce qui s’avèrerait trop coûteux, et on préfère écrire
l’algorithme sous la forme suivante :
X0 donné;
Résolution du système linéaire F 0 (Xn )δn = −F (Xn );
Xn+1 = Xn + δn ;
Didier Schmitt IECL

Remarques :
Encore plus qu’en dimension 1, le choix de l’initialisation est crucial
et le risque de divergence, si on ne démarre pas à proximité de la
solution cherchée, est grand.
Didier Schmitt IECL

Remarques :
La convergence est là aussi d’ordre 2, donc très rapide (quand il y a
convergence !)
Didier Schmitt IECL

Remarques :
La convergence est là aussi d’ordre 2, donc très rapide (quand il y a
convergence !)
La méthode de Newton-Raphson s’avère assez coûteuse puisqu’il
faut à chaque itération :
évaluer N 2 + N fonctions (les N 2 dérivées partielles de la matrice
Jacobienne, plus les N fonctions coordonnées).
résoudre un système linéaire N × N (dont la matrice est en général
pleine).
Didier Schmitt IECL

La méthode de Broyden
Principe
Dans la méthode de Newton-Raphson, le calcul de la matrice
Jacobienne est très coûteux.
Didier Schmitt IECL

Principe
On va donc se contenter de déterminer une valeur approchée Bn à
chaque itération.
Didier Schmitt IECL

Principe
chaque itération.
Nous avons vu que la méthode de la sécante pouvait être déduite de
la méthode de Newton en approchant
f (xn ) − f (xn−1 )
f 0 (xn ) par .
xn − xn−1
Didier Schmitt IECL

Principe
chaque itération.
Nous avons vu que la méthode de la sécante pouvait être déduite de
la méthode de Newton en approchant
f (xn ) − f (xn−1 )
f 0 (xn ) par .
xn − xn−1
En dimension N, on va simplement imposer à la suite de matrices

(Bn ) de vérifier la même relation :
Bn (Xn − Xn−1 ) = F (Xn ) − F (Xn−1 ).
Didier Schmitt IECL

Remarques :
Cette relation ne permet pas de définir de manière unique la matrice
Bn (n équations pour n2 inconnues).
Didier Schmitt IECL

Remarques :
Elle n’impose que sa valeur dans une direction.
Didier Schmitt IECL

Remarques :
Broyden a proposé de passer de Bn à Bn+1 en ajoutant simplement
une matrice de rang 1 :
(δFn − Bn δXn )(δXn )T

Bn+1 = Bn +
kδXn k2
où on a noté δXn = Xn+1 − Xn et δFn = F (Xn+1 ) − F (Xn ).
Didier Schmitt IECL

Remarques :
Broyden a proposé de passer de Bn à Bn+1 en ajoutant simplement
une matrice de rang 1 :
(δFn − Bn δXn )(δXn )T

Bn+1 = Bn +
kδXn k2
où on a noté δXn = Xn+1 − Xn et δFn = F (Xn+1 ) − F (Xn ).

On vérifie immédiatement que la suite de matrice (Bn ) ainsi définie
satisfait la relation.
Didier Schmitt IECL

Algorithme de Broyden :
X0 etB0 donnés;
Résolution du système linéaire Bn δn = −F (Xn );
Xn+1 = Xn + δn ;
δFn = F (Xn+1 ) − F (Xn );
(δFn − Bn δn )(δn )T
Bn+1 = Bn + ;
kδn k2
Didier Schmitt IECL

Remarques :
On peut prendre comme matrice initiale B0 = Id, il faut évidemment
attendre un certain temps avant d’avoir une approximation
raisonnable de la matrice Jacobienne.
On peut démontrer qu’en général, comme pour la méthode de la
sécante, la convergence est superlinéaire.
La suite de matrices (Bn ) ne converge pas forcément vers la matrice
Jacobienne de F .
Didier Schmitt IECL


Cours 02 Résolution Équations

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Cours 02 Résolution Équations

Transféré par

Droits d'auteur :

Formats disponibles

Analyse Numérique - 1

ENSEM ISN 1A, Ana Num

Didier Schmitt IECL

Chapitre 2 : Résolution des équations non

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

une étude mathématique (laquelle ?) nous indique qu’elle possède

Didier Schmitt IECL

une étude mathématique (laquelle ?) nous indique qu’elle possède

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

Didier Schmitt IECL

où f une fonction de Rn dans Rn et x un vecteur de Rn .

Didier Schmitt IECL

Un peu d’analyse avant de commencer

Didier Schmitt IECL

Didier Schmitt IECL

Avant de mettre en oeuvre une méthode numérique, il convient (si

Didier Schmitt IECL

Avant de mettre en oeuvre une méthode numérique, il convient (si

Didier Schmitt IECL

Avant de mettre en oeuvre une méthode numérique, il convient (si

Didier Schmitt IECL

Avant de mettre en oeuvre une méthode numérique, il convient (si

Didier Schmitt IECL

Pour cela nous avons :

Didier Schmitt IECL

Pour cela nous avons :

Didier Schmitt IECL

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = x − 0.2 sin (x) − 0.5

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = x − 0.2 sin (x) − 0.5

La fonction f est continue et dérivable sur R et comme nous avons pour

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = x − 0.2 sin (x) − 0.5

Nous en déduisons que f admet une unique racine sur R.

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = x − 0.2 sin (x) − 0.5

Plus précisément, comme

f (0) = −0.5 < 0 et f (π) = π − 0.5 > 0

f admet une unique racine sur R comprise entre 0 et π.

Didier Schmitt IECL

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = cos (x) − e −x .

Didier Schmitt IECL

Soit f la fonction définie sur R par

f (x) = cos (x) − e −x .

La fonction f est continue et dérivable sur R et comme nous avons pour