Chapitre 3 : Interpolation et approximation

Analyse numérique
CP(S4)
 2/61
A partir d’un ensemble de points (xi , yi )

i =0:n , on recherche dans un
espace de fonctions,

Interpolation : une fonction s qui interpole les noeuds (xi , yi ),

s (xi ) = yi , ∀i = 0 : n
Approximation au sens des moindres carrés : une fonction s qui
minimise l’énergie,
n
X
|yi − s (xi )|2
i =0
 3/61
Exemples d’interpolation :

fig: Interpolation polynomiale, linéaire par morceaux et spline

Exemples d’approximation au sens des moindres carrés :

fig: Régression linéaire, quadratique

 4/61

1 Interpolation polynomiale

2 Interpolation polynomiale par morceaux

3 Approximation au sens des moindres carrés

Interpolation polynomiale :
5/61

Définition
On note Pn l’ensemble des polynômes réels de degré n
n o
Pn = p (x ) ; p (x ) = a0 + a1 x + a2 x 2 + ... + an x n

avec ai ∈ R

On recherche un polynôme pn ∈ Pn tel que pour tout i = 0 : n,

pn (xi ) = yi .

Théorème
Il existe un unique polynôme pn ∈ Pn qui interpole les noeuds (xi , yi )

i =0:n .
Polynôme d’interpolation de Vandermonde :
6/61

On souhaite trouver un polynôme de degré 2 qui interpole les noeuds

(−1, 2), (0, 3), (1, 6) .


On cherche le polynôme p2 sous la forme p2 (x ) = a0 + a1 x + a2 x 2 tel que

p2 (−1) = 2, p2 (0) = 3 et p2 (1) = 6. Alors
  



 p2 (−1) = 2 


 a0 − a1 + a2 = 2 


 a0 = 3
  
p2 (0) = 3 =⇒  = 3 =⇒  a1 = 2
  

  a0 

 
 

p2 (1) = 6
 a0 + a1 + a2 = 6
 a2 = 1


La solution du problème est donc p2 (x ) = 3 + 2x + x 2

Polynôme d’interpolation de Vandermonde :
7/61

Plus généralement,
n Pno est un espace vectoriel dont la base canonique
s’écrit 1, X , X , ..., X n et
2

n
X
pn (x ) = ak x k .
k =0

Alors
 



 p n ( x0 ) = y0



 a0 + a1 x0 + a2 x02 + ... + an x0n = y0
a0 + a1 x1 + a2 x1 + ... + an x1
  2 n
pn (x1 ) = y1 = y1


 


 
.. =⇒ ..
. .


 




 


 

pn (xn ) = yn
 a0 + a1 xn + a2 x 2 + ... + an x n


= yn
n n
Polynôme d’interpolation de Vandermonde :
8/61





p (x0 ) = y0  1 x0 x02 · · ·

x0n

  a0
 
  y0


  1 x x 2 · · ·
p (x1 ) = y1 x1n a1 y1

     

 1 1
.. =⇒  . ..  =  .. 
     



 . .
 .  
  .   . 


1 xn xn2 · · · xnn
    

p (xn ) = yn
 an yn
Les coefficients ai du polynôme d’interpolation s’obtiennent donc en
résolvant le système linéaire suivant
Ba = y ,
où (B )i ,j = xji −1 , (a )i = ai et (y )i = yi .

Propriété
Le déterminant de la matrice B vérifie
Y
det (B ) = (xj − xi ).
0≤i <j ≤n
Polynôme d’interpolation de Vandermonde :
9/61

Le polynôme d’interpolation pn s’obtient donc par la résolution du système

linéaire Ba = y ! Mais en pratique
B est une matrice mal conditionnée !
Coût de la résolution du système linéaire en O (n3 ) !

Idée : Exprimer le polynôme pn dans une autre base de Pn et pour

laquelle, la décomposition de pn est explicite !
Polynôme d’interpolation de Lagrange
10/61
On souhaite trouver le polynôme d’interpolation associé aux noeuds
(−1, 2), (0, 3), (1, 6) .

On introduit alors les trois polynômes L0 , L1 et L2 définis par
1 1
L0 (x ) = x (x − 1), L1 (x ) = 1 − x 2 , et L2 (x ) = x (1 + x ),
2 2
qui vérifient




 L0 (−1) = 1, L0 (0) = 0, L0 (1) = 0,
L1 (−1) = 0, L1 (0) = 1, L1 (1) = 0,





L2 (−1) = 0, L2 (0) = 0, L2 (1) = 1,



Exercice
Montrer que la famille {L0 , L1 , L2 } est libre et expliciter la décomposition
de p2 dans cette base
Polynôme d’interpolation de Lagrange
n o 11/61
Plus généralement, on introduit une base de Pn notée Lnk , où les
k =0:n
polynômes Lnk sont définis par la propriété suivante :

1 si k = i

Lnk (xi ) = 

0 sinon


Propriété
Le polynôme L nk s’explicite sous la forme
Qn
i =0,i ,k (x − xi )
Lnk (x ) = Qn .
i =0,i ,k (xk − xi )

Propriété
Le polynôme d’interpolation pn au noeuds (xi , yi )

i =0:n vérifie
n
X
pn = yi Lni
i =0
 12/61

fig: Interpolation polynomiale de la fonction f (x ) = 1

1+x 2
sur [−1, 1] avec
respectivement n = 6, n = 14 et n = 24

fig: Interpolation polynomiale de la fonction f (x ) = 1

1+x 2
sur [−5, 5] avec
respectivement n = 6, n = 14 et n = 24
Erreur d’interpolation
13/61

On suppose que f : [a , b ] → R est une fonction suffisamment régulière.

On vient d’expliquer comment obtenir le polynôme d’interpolation pn au

noeuds (xi , f (xi )) i =0:n .


On souhaite maintenant donner une estimation de l’erreur E (x ) commise

entre pn et f :
E (x ) = f (x ) − pn (x ).
Erreur d’interpolation
14/61

Théorème
Soit f ∈ C n+1 [a , b ] avec a = x0 < x1 < x2 ... < xn = b. Alors ∀x ∈ [a , b ], il
existe ξx ∈ [a , b ] tel que
n
f (n+1) (ξx ) Y
f (x ) − pn(x ) = (x − xi )
(n + 1)! i =0

Démonstration : Appliquer le théorème de Rolle à la fonction φ

définie par

( f (x ) − pn (x )) ni=0 (t − xi )
Q
φ(t ) = f (t ) − pn(t ) − Qn
i =0 (x − xi )
Erreur d’interpolation
15/61

Si les noeuds sont équirépartis sur [a , b ] alors

n
Y n! n+1
(x − xi ) ≤ h ,
4
i =0

où h = (b − a )/n, et
!n+1
b −a 1
 
|E | ≤ sup f (n+1)
(x ) .
x ∈[a ,b ] n 4(n + 1)

Exercice
Montrer le résultat précédent
Noeuds d’interpolation de tchebychev
16/61
Idée : Optimiser la position des noeuds xi ∈ [a , b ] afin de minimiser
n
Y
max (x − xi )
x ∈[a ,b ]
i =0

Solution :

a+b b −a
xi = + x̂i ,
2 2
où
π 2i + 1
!
x̂i = cos
2 n+1 x0 x1 x2 x3 x4 x5 x6 x7 x 8 x 9 x 10

On obtient alors l’estimation

1 (b − a )n+1
max |E (x )| ≤ sup f (n+1) (x ) ,
(n + 1)! 22n+1 x ∈[a ,b ]
et limn→∞ E = 0.
 17/61

fig: Interpolation polynomiale de la fonction f (x ) = 1+1x 2 sur [−5, 5] avec

respectivement n = 6, n = 14 et n = 24 et noeuds equirépartis

fig: Interpolation polynomiale de la fonction f (x ) = 1+1x 2 sur [−5, 5] avec

respectivement n = 6, n = 14 et n = 24 et noeuds d’interpolation de tchebychev
Interpolation de Newton
18/61

Définition
On appelle polynôme nodal de degré n + 1 le polynôme défini
 w0 (x ) = 1,

n
par Y

 w n+1 (x ) = (x − xi ) = (x − x0 )(x − x1 ).....(x − xn ), n > 0
i=0

Analyse numérique
Interpolation de Newton
19/61

Définition
On appelle polynôme nodal de degré n + 1 le polynôme défini
 w0 (x ) = 1,

n
par Y

 w n+1 (x ) = (x − xi ) = (x − x0 )(x − x1 ).....(x − xn ), n > 0
i=0

Proposition
Les polynômes nodaux forment une base de l’ensemble des
polynômes de degré inférieur ou égal à n.

Analyse numérique
Interpolation de Newton.
20/61

Théorème
En posant y0 = f [x0 ], et w0 = 1, on a
n
X
Pn f (x ) = wk (x )f [x0 , x1 , ....., xk ].
k=0

Cette expression est appelée formule des différences di-

visées de Newton du polynome d’interpolation.

Analyse numérique
Interpolation de Newton.
21/61

Théorème
En posant y0 = f [x0 ], et w0 = 1, on a
n
X
Pn f (x ) = wk (x )f [x0 , x1 , ....., xk ].
k=0

Cette expression est appelée formule des différences di-

visées de Newton du polynome d’interpolation.

Remarque
Par unicité du polynôme d’interpolation cette expression définit le
même polynôme que la formule de Lagrange.

Analyse numérique
Interpolation de Newton.
22/61
Définition (différences divisées)
f [.] désigne les dfférences divisées de f définies par :
f [xi ] = f (xi ) ; i = 0, 1, ....., n
f [x1 ,x1 ,.....,xk ]−f [x0 ,x1 ,.....,xk−1 ]
f [x0 , x1 , ....., xk ] = xk −x0 ,k ≥1

Analyse numérique
Interpolation de Newton.
23/61
Définition (différences divisées)
f [.] désigne les dfférences divisées de f définies par :
f [xi ] = f (xi ) ; i = 0, 1, ....., n
f [x1 ,x1 ,.....,xk ]−f [x0 ,x1 ,.....,xk−1 ]
f [x0 , x1 , ....., xk ] = xk −x0 ,k ≥1

Définition
Le coefficient an = f [x0 , ....., xn ] est appelée n−ème différence
divisée de Newton.

Analyse numérique
Interpolation de Newton.
24/61
Définition (différences divisées)
f [.] désigne les différences divisées de f définies par :
f [xi ] = f (xi ) ; i = 0, 1, ....., n
f [x1 ,x1 ,.....,xk ]−f [x0 ,x1 ,.....,xk−1 ]
f [x0 , x1 , ....., xk ] = xk −x0 ,k ≥1

Définition
Le coefficient an = f [x0 , ....., xn ] est appelée n−ème différence
divisée de Newton.
On a :
n
X
Pn (x ) = ak wk (x )
k=0
= a0 + a1 (x − x0 ) + .... + an (x − x0 )(x − x1 ).....(x − xn−1 )

Analyse numérique
Interpolation de Newton.
25/61

Différences divisées
On a Pn (x ) = nk=0 ak wk (x ) et les ai sont donnés par récur-
P

rence, par les fractions divisées de Newton :

a0 = f (x0 ) = f [x0 ]
f [x1 ]−f [x0 ]
a1 = f [x0 , x1 ] = x1 −x0

a2 = f [x0 , x1 , x2 ] = f [x1 ,xx22]−f [x0 ,x1 ]

−x0

a3 = f [x0 , x1 , x2 , x3 ] = f [x1 ,x2 ,xx33]−f

−x0
[x0 ,x1 ,x2 ]

ak = f [x0 , x1 , x2 , x3 , ..., xk ] =
f [x1 ,x2 ,x3 ,...,xk ]−f [x0 ,x1 ,x2 ,...,xk−1 ]
xk −x0

Analyse numérique
Interpolation de Newton.
26/61

Exemple
1 Déterminer le polynôme de Lagrange interpolant les points
y0 = 10, y1 = 4 et y2 = 6 aux noeuds x0 = −2, x1 = −1 et
x2 = 1.
2 Donner sous forme de Newton le polynôme qui interpole la
fonction au points suivants,
(1; 14); (2; 15.6); (3; 17.6); (4; 20); (5; 22.8)

Analyse numérique
 27/61

1 Interpolation polynomiale

2 Interpolation polynomiale par morceaux

3 Approximation au sens des moindres carrés

Interpolation polynomiale par morceaux
28/61

Motivation :
L’interpolation polynomiale a tendance à produire des oscillations
lorsque le degré des polynômes est trop élevé : c’est le phénomène
de Runge ...
-> Utiliser des polynômes de degré plus petit sur des sous-intervalles
de [a , b ]
Interpolation polynomiale par morceaux
29/61

Noeuds d’interpolation a = x0 < x1 < x2 < ... < xn = b

On note Ii = [xi −1 , xi ] et hi = |Ii | = |xi − xi −1 | pour tout i = 1 : n
On recherche une interpolation de f dans les espaces Shk ,r définis par

Skh ,r ([a , b ]) = s ∈ C r ([a , b ]) ; s|Ii ∈ Pk (Ii ), ∀i = 1 : n



p3
p2
p4
f(x 2)
f(x 3) p1
f(x 4)

f(x 1)

f(x 0)

I1 I2 I3 I4
x0 x1 x2 x3 x4
Interpolation linéaire par morceaux
30/61

Espace Skh ,r ([a , b ]) avec k = 1 et r = 0

Espace vectoriel de dimension n + 1
2n coefficients associés aux n polynômes (sur chaque intervalle Ii )
n − 1 contraintes pour la continuité de s : pi (xi ) = pi +1 (xi ).
Solution explicite
! !
x − xi x − xi −1
s|iI (x ) = yi −1 + yi
xi −1 − xi xi − xi −1
 31/61

Exercice
Avec φi définie par
 x −x




i −1
xi −xi −1 si x ∈ [xi −1 , xi ]
 xi+1 −x
φi (x ) =  si x ∈ [xi , xi +1 ]


 xi +1 −xi

0 sinon


Montrer que {φi }i =0:n forme une base de S1h,0 ([a , b ]) et que

n
X
s= yi φi .
i =0

Exercice
Soit f ∈ C 2 ([a , b ]), montrer que

1
max |hi |2 max |f 00 (x )|

max s (x ) − f (x ) ≤
x ∈[a ,b ] 8 i =1:n x ∈[a ,b ]
Interpolation Spline
32/61

Motivation : On souhaite plus de régularité...

En particulier, on recherche parmi toutes les fonctions C 2 ([a , b ]) qui
interpolent f aux noeuds {xi }i =0:n , celle qui minimise l’énergie élastique
Z b
00 2
J (s ) = s (x ) dx .
a

Definition
La fonction s définie sur [a , b ] est une spline cubique (par rapport à la
subdivision a = x0 < x1 < ... < xn ) si s ∈ S3,2 ([a , b ]). Si de plus
s 00 (a ) = s 00 (b ) = 0, alors s est une spline cubique naturelle.
Interpolation Spline
33/61

L’espace vectoriel S3,2 ([a , b ]) est de dimension n + 3

n polynômes de degré 3 → 4n coefficients
contrainte continuité → n − 1 conditions
contrainte dérivée continue → n − 1 conditions
contrainte dérivée seconde continue → n − 1 conditions
Il faut donc imposer 2 conditions supplémentaires pour espérer avoir
l’unicité de l’interpolation spline

Théorème
Il existe une spline cubique qui interpole les noeuds (xi , yi ) i =0:n . Si de

plus les coefficients s 00 (a ) et s 00 (b ) sont fixés, alors cette spline est
unique.
 34/61

Une expression explicite de la spline interpolante s’obtient en résolvant un

système linéaire de taille n + 1. Pour simplifier les calculs, nous
supposons que la répartition des noeuds est uniforme, c’est à dire

hi = |xi − xi −1 | = h = (b − a )/n

La restriction de s à Ii est un polynôme de degré 3 noté pi :

s|Ii = pi ∈ P 3 (Ii )

p3
p2
p4
f(x 2)
f(x 3) p1
f(x 4)

f(x 1)

f(x 0)

I1 I2 I3 I4
x0 x1 x2 x3 x4
Interpolation spline.
35/61

Sur chaque intervalle Ii = [xi−1 , xi ], la spline vérifie

Si (x ) = ai (x −xi−1 )3 +bi (x −xi−1 )2 +ci (x −xi−1 )+di pour i = 1, 2, ..., n

Il faut chercher 4n inconnus (ai , bi , ci et di pour i = 1, 2, ..., n).

Contraints :
S1 (x0 ) = f (x0 ) et Sn (xn ) = f (xn )
Si (xi ) = f (xi ) ; i = 1, 2, ..., n − 1
Si+1 (xi ) = f (xi ) ; i = 1, 2, ..., n − 1
′ ′
Si (xi ) = Si+1 (xi ) ; i = 1, 2, ..., n − 1
′′ ′′
Si (xi ) = Si+1 (xi ) ; i = 1, 2, ..., n − 1
ces contraints présentent au totale 4n − 2 équations.

Analyse numérique
Interpolation spline.
36/61
′′
Si (x )
Si on note Si (xi−1 ) := Si , Mi (x ) = 2 et Mi (xi−1 ) := Mi , alors
on obtient :
di = Si = f (xi−1 )
bi = Mi
Mi+1 −Mi
ai = 3hi
Si+1 −Si
ci = hi − hi Mi+13+2Mi

Analyse numérique
Interpolation spline.
37/61
′′
Si (x )
Si on note Si (xi−1 ) := Si , Mi (x ) = 2 et Mi (xi−1 ) := Mi , alors
on obtient :
di = Si = f (xi−1 )
bi = Mi
Mi+1 −Mi
ai = 3hi
Si+1 −Si
ci = hi − hi Mi+13+2Mi
′ ′
D’autre part, Si (xi ) = Si +1(xi ) pour tout i =1, ..., n − 1 est
équivalente à :

Si+2 − Si+1 Si+1 − Si

 
hi Mi +2(hi +hi+1 )Mi+1 +hi+1 Mi+2 = 3 −
hi+1 hi

Ceci offre n-1 équations avec n+1 inconnus.

Analyse numérique
Interpolation spline.
38/61

Pour avoir l’unicité de l’iterpolation, il faut penser à ajouter deux

autre conditions.
′′
Option 1 : S (a) = S ′′ (b) = 0 (Spline naturelle)
On obtient le système linèaire suivant : AM = N avec
 1 0 0 . . . . . . . 0 
h1 2(h1 + h2 ) h2 0 0 . . . . . 0
 0 h2 2(h2 + h3 ) h3 0 0 . . . . 0 
 . 0 h3 2(h3 + h4 ) h4 0 . . . . . 
 . . 0 h4 . . . . . . . 
A= . . . . . . . . . . . 
 . . . . . . . . . . . 
. . . . . . . . . . .
 
 . . . . . . . . . . .

0 0 . . . . . 0 hn−1 2(hn−1 + hn ) hn
0 0 . . . . . . . 0 1

M = (M1 , M2 , ......, Mn+1 )T

et T
3(Si+2 − Si+1 ) 3(Si+1 − Si )

N = 0, − ,0
hi+1 hi (1≤i≤n−1)

Analyse numérique
Interpolation spline.
39/61

′
Option 2 : S (a) = f ′(a) et S ′(b) = f ′(b) (Spline contrainte).
On obtient le système linéaire suivant : AM = N avec
 2h1 h1 0 . . . . . . . 0 
h1 2(h1 + h2 ) h2 0 0 . . . . . 0
 0 h2 2(h2 + h3 ) h3 0 0 . . . . 0 
 . 0 h3 2(h3 + h4 ) h4 0 . . . . . 
 . . 0 h4 . . . . . . . 
A= . . . . . . . . . . . 
 . . . . . . . . . . . 
. . . . . . . . . . .
 
 . . . . . . . . . . .

0 0 . . . . . 0 hn−1 2(hn−1 + hn ) hn
0 0 . . . . . . . hn 2hn

M = (M1 , M2 , ......, Mn+1 )T

et
 
3(S2 − S1 ) ′ 3(S3 − S2 ) 3(S2 − S1 ) 3(Sn+1 − Sn ) 3(Sn − Sn−1 ) ′ 3(Sn+1 − Sn )
N = − 3f (a), − , ..., − , 3f (b) −
h1 h2 h1 hn hn−1 hn

Analyse numérique
Exemple d’interpolation spline 2d
40/61

Théorème (Erreur d’interpolation)

Soit f ∈ C 4 [a , b ] avec a = x0 < x1 < x2 ... < xn = b. Alors

1 4
max f (x ) − s (x ) ≤ h max f (4) (x )
x ∈[a ,b ] 2 x ∈[a ,b ]
 41/61

Théorème (Minimisation d’énergie)

Soit f ∈ C 2 [a , b ] telle que f (xi ) = yi . Alors la spline cubique naturelle s
vérifie Z b Z b
(s 00 (x ))2 dx ≤ (f 00 (x ))2 dx
a a

Démonstration : Montrer que

Z b 
f 00 (x )s 00 (x ) − s 00 (x )2 dx = 0,
a

puis en déduire le résultat.

 42/61

1 Interpolation polynomiale

2 Interpolation polynomiale par morceaux

3 Approximation au sens des moindres carrés

Approximation au sens des moindres carrés
43/61
Motivation :
Lorsque les données sont bruitées, l’interpolation de f aux noeuds
(xi , yi ) i =0:n n’est pas efficace. Il est alors préférable de rechercher une

fonction dans un espace vectoriel plus petit qui minimise une erreur L 2 par
rapport aux attaches au données.
Approximation au sens des moindres carrés
44/61

Plus précisément, l’idée consiste à introduire un ensemble de fonctions

linéairement indépendantes
n o
g0 , g1 , ...gp

et parmi l’ensemble des combinaisons linéaires des gk , on recherche la

Pp
fonction g = k =0 ak gk qui minimise l’énergie

n p 2
X X
φ(a0 , a1 ..., ap ) = yi − ak gk (xi ) .
i =0 k =0
Régression linéaire
45/61
Pour la régression linéaire, on utilise g0 = 1 et g1 = x et on minimise
n
2
X
φ(a0 , a1 ) = yi − (a0 + a1 xi ) .
i =0

Le minimum de φ est alors atteint si ∇φ = 0 :


∂a0 φ(a0 , a1 ) = −2 i =0 (yi − (a0 + a1 xi )) = 0
 Pn

∂a1 φ(a0 , a1 ) = −2 Pn xi (yi − (a0 + a1 xi )) = 0,


i =0

où encore
P  n
X
n
(n + 1)a0 + i =0 xi a1 = yi
i =0
 n  n
X  P  X
 xi  a0 + ni=0 xi2 a1 = xi yi
i =0 i =0
Regression linèaire
46/61

Les coefficients a0 et a1 s’identifient donc à :

Pn 1 Pn
xi yi − y ni=0 xi i=0 xi yi − x · y
P
n+1 σxy
a0 = Pi=0
n 2 n = 1 Pn =
i=0 xi − x
2 2 σx2
P
i=0 xi n+1 i=0 xi − x

et
a1 = y − a0 x
1 Pn 1 Pn
où x = n+1 i=0 xi et y = n+1 i=0 yi
Regression linèaire
47/61

Conclusion
La droite des moindres carrés y = ax + b a pour coefficients :
σxy
a= et b = y − ax .
σx2
Regression linèaire
48/61

Exemple
Lors d’une expérience, on a relevé les valeurs suivantes :
x 1 2 3 4 5 6 7 8 9 10
y 1.1 3.1 4.7 7.3 9.2 11.1 12.9 15.4 17 18
1 Donner l’équation d’une droite ajustant ces valeurs par la
méthode des moindres carrés.
2 Interpoler la valeur de yb pour x = 11.5.
Ajustements (Regression) non linéaires
49/61

Dans certains cas, l’ajustement à une fonction linéaire n’est pas

adéquat : un ajustement des données à une fonction non linéaire
doit être envisagé. Les cas que nous considérerons sont ceux où on
peut se ramener par une simple transformation à un ajustement
affine.
Ajustements (Regression) non linéaires
50/61

Ajustement par une hyperbole :

Les points (xi ; yi ) ne sont pas alignés, mais plutôt proches d’une
certaine hyperbole de la forme yb = ax1+b .

Méthode
1
calculer zi = yi ;
déterminer l’équation de la droite de régression de z en x avec
la méthode des moindres carrés ;
de l’équation obtenue z = ax + b, on déduit immédiatement
l’équation de l’hyperbole yb = ax1+b .
 51/61

Exercice d’application
Ajuster ce nuage des points par une hyperbole.
x 1 2 3 4 5 6 7 8 9 10
y 1.1 0.4 0.19 0.15 0.08 0.05 0.06 0.05 0.04 0.03
Ajustements (Regression) non linéaires
52/61

Ajustement par une fonction puissance :

Les points (xi ; yi ) sont proches d’une courbe de fonction puissance
comme yb = bx a . On remarque que ln(y ) = aln(x ) + ln(b).
Méthode
calculer ui = ln(xi ) et vi = ln(yi ) ;
déterminer l’équation de la droite de régression de v en u avec
la méthode des moindres carrés ;
de l’équation obtenue v = Au + B, on déduit l’équation de la
fonction puissance yb = bx a , puisque a = A et b = e B .
 53/61

Exercice d’application
Ajuster ce nuage des points par une fonction puissance.
x 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5
y 0.2 0.4 1.2 2.15 5 7.75 11.2 15.5 22 28
Ajustements (Regression) non linéaires
54/61

Ajustement par une exponentielle :

Les points (xi ; yi ) sont proches d’une courbe d’une exponentielle
de la forme yb = bax . On remarque que ln(y ) = xln(a) + ln(b).
Méthode
calculer zi = ln(yi ) ;
déterminer l’équation de la droite de régression de z en x avec
la méthode des moindres carrés ;
de l’équation obtenue z = Ax + B, on déduit l’équation de la
fonction puissance yb = bax , puisque a = e A et b = e B .
 55/61

Exercice d’application
Ajustez ce nuage de points par une exponentielle.
x 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5
y 0.2 0.4 0.5 6 7 1.1 1.6 2.4 3.3 4
Ajustements (Regression) non linéaires
56/61

Ajustement par une fonction logarithmique :

Les points (xi ; yi ) sont proches d’une courbe d’une exponentielle
de la forme yb = a ln(x ) + b.
Méthode
calculer zi = ln(xi ) ;
déterminer l’équation de la droite de régression de y en z avec
la méthode des moindres carrés ;
de l’équation obtenue y = az + b, on déduit l’équation de la
fonction logarithmique yb = a ln(x ) + b.
 57/61

Exercice d’application
Ajustez ce nuage de points par une fonction logarithmique.
x 1 2 3 4 5 6 7 8 9 10
y 1.0 2.9 4.5 5.2 5.9 6.6 7.1 7.4 7.8 8.3
Définition du gradient d’une fonctionnelle
58/61

Soit φ une fonctionnelle de Rp → R.

La différentielle de φ en x dans la direction y est noté D φ(x )(y )

φ(x + ty ) − φ(x )
D φ(x )(y ) = lim .
t →0 t
Le gradient de φ en x par rapport à un produit scalaire < ., . > donné
est alors défini par

< ∇φ(x ), y >= D φ(x )(y ), ∀y ∈ Rp .

Pp
Dans le cas du produit scalaire canonique < x , y >= xy,
i =0 i i

(∇φ(x ))i = ∂xi φ(x ).

Définition du gradient d’une fonctionnelle
59/61

Exercice
Calculer le gradient des fonctionnelles suivantes




 φ1 (x ) =< x , b >
φ2 (x ) =< Ax , b >





φ3 (x ) = 1 < Ax , Ax >


2
Moindres carrés, cas général
60/61

On introduit p + 1 fonctions {gi }i =0:p et on recherche le minimum de

l’énergie
n p 2
X X
φ(a0 , a1 ..., ap ) = yi − ak gk (xi ) .
i =0 k =0

La fonctionnelle φ s’exprime sous la forme

φ(a ) =< y − Ba , y − Ba >,

avec

a0  g0 (x0 ) g1 (x0 ) · · · gp (x0 )  y0 

     
  
 a1   g (x ) g (x ) · · · gp (x1 )   y 
 0 1 1 1  1 
..  , B =  .. .. .. ..  , y =  ..  ,
  
a = 

 .   . . . .   . 
    
ap g0 (xn ) g1 (xn ) · · · gp (xn ) yn
Moindres carrés, cas général
61/61

Le gradient de φ s’identifie à
 
∇φ(a ) = 2 B t Ba − B t y .

Les coefficients a sont donc solution du système linéaire suivant

B t Ba = B t y .

Exercice
nEcrire la omatrice B dans le cas d’approximation polynomiale :
gk = x k .
k =0:p

Exercice
Retrouver l’expression de a0 et a1 dans le cas d’une régression linéaire.