La régression linéaire

1 Dataset
Importer le dataset (x,y) ou générer des données aléatoires avec une tendance
linéaire

2 Le modèle linéaire
Notation matricielle:
Ŷ = X.β
Y = X.β + ε

3 Fonction Cout : Erreur Quadratique moyenne

Mean Squared Error (MSE)
1
J(β) = Σ(X.β − Y )2
2m

4 EMCO
β = (XX 0 )−1 X 0 Y
A éviter pour les gros volumes de données

5 Gradients et Descente de Gradient

Formule du gradient pour la MSE
δJ(β) 1
= X T .(X.β − Y )
δβ m
Descente de gradient
δJ(β)
β =β−α
δβ
α est le pas d’apprentissage (learning rate)

6 Phase d’entrainement
Fixer le nombre d’itérations
Choisir un pas d’apprentissage
Lancer la boucle d’apprentissage

7 Courbe d’apprentissage
Évolution de coût en fonction du nombre d’itérations

1
8 Évaluation du modèle
Coefficient de détermination R2