Régression linéaire multiple

1) Definition
2) Test de signification (parametre,temperature,pression)
3) Exemple avec 3 varriables
1) Définition
la régression multiple est une technique statistique appliquée sur des
ensembles de données dédiés à établir une relation entre une variable
de réponse ou dépendante et plusieurs variables indépendantes.
De la définition, il est évident que l’étude d’un événement ou de
phénomènes aura divers facteurs à l’origine de son apparition.
La régression multiple fonctionne en considérant les valeurs des
variables indépendantes multiples disponibles et en prédisant la valeur
d’une variable dépendante.
Nous commencerons la discussion en examinant
d’abord l’équation de régression linéaire :
y = bx + a
Où,y est une variable dépendante que nous devons
trouver, x est une variable indépendante. Les
constantes a et b déterminent l’équation. Mais selon
notre définition, comme la régression multiple prend
plusieurs variables indépendantes (x), donc pour
l’équation, nous aurons plusieurs valeurs x aussi:
y = b1x1 + b2x2 + … bnxn + a
Exemple : Un électricien décide d’étudier le rendement des batteries
sur une période de temps.
Il a observé qu’au fur et à mesure que la chaleur augmente pendant la
journée, la performances des batteries commençaient également à
diminuer.
Les éléments de la variable dépendante « paramétrage, température,
pression » et bien plus encore.
y = paramètre + b1 * température + b2 * pression+ b3
Qu'est-ce qu'un test significatif ?
Un test est dit statistiquement significatif lorsque le
risque quantifié de se tromper, nommé p-valeur, est
inférieur à un niveau de signification alpha.
Pour être plus précis, la valeur-p est la probabilité
d'obtenir une donnée aussi extrême sous l'hypothèse
nulle.
Comment faire un test de significativité ?
Comment calculer le seuil de signification statistique
1 - Déterminer quel facteur tester. Il est important de
commencer par déterminer quel facteur sera testé. ...
2 - Commencer à collecter les données. Après avoir
déterminé quel facteur tester, il est temps de collecter
les données. ...
3 - Calculer les résultats du test du χ²
Comment tester la significativité d'une variable
?
La significativité d'un coefficient est testée à partir du t
de Student.
On teste l'hypothèse d'un coefficient nul contre
l'hypothèse alternative d'un coefficient différent de
zéro (positif ou négatif, le test étant bilatéral).
Un coefficient sera significatif si la probabilité est
inférieure au seuil de 5%.
Test de Student
Nous voulons tester H0 : βj = 0 contre H1 : βj 6= 0, appelé test
bilatéral de significativité de βj .
Selon ce qu’on vient de voir, la statistique de test est : F = kYˆ −
Yˆ 0k 2 σˆ 2 .
Nous rejetons H0 si l’observation de la statistique de test,
notée F(w), est telle que : F(w) > f 1 n−p (1 − α),
où f 1 n−p (1 − α) est le quantile d’ordre (1 − α) d’une loi de
Fisher à 1 et (n − p) degrés de liberté
Ce test est en fait équivalent au test de Student à (n − p)
degrés de liberté qui permet de tester H0 : βj = 0 contre H1 :
βj 6= 0, avec cette fois la statistique de test : T = βˆ j σˆj , où σˆj
= ˆσβˆ j = ˆσ q (X′X) −1 jj est l’écart-type estimé de βˆ j .
On peut en effet montrer que F = T 2
Nous rejetons H0 si l’observation de la statistique de test,
notée T(w), est telle que : |T(w)| > tn−p(1 − α/2), où tn−p(1 −
α/2) est le quantile d’ordre (1 − α/2) d’une loi de Student à (n
− p) degrés de liberté.
C’est sous cette forme que le test de significativité d’un
coefficient apparaît dans tous les logiciels de statistique.
Il est donc complètement équivalent au test général que nous
avons proposé, lorsqu’on spécialise celui-ci à la nullité d’un
seul coefficient.