Vous êtes sur la page 1sur 130

ENSEIGNEMENTS TRANSVERSES SCIENTIFIQUES

3ÈME ANNÉE - CYCLE INGÉNIEUR

ANALYSE EN PLUSIEURS VARIABLES


Fàdel Hamdan
fadel.hamdan@me.com
UN PEU D’HISTOIRE

Thomas Malthus
UN PEU D’HISTOIRE
Économiste et démographe britannique (1766 - 1834). Il est surtout
connu pour sa théorie de la population : Malthus soutenait que la
croissance de la population humaine était exponentielle, tandis que la
croissance des ressources nécessaires à sa subsistance était linéaire. Il
en concluait que, tôt ou tard, la population dépasserait la capacité de la
Terre à fournir des moyens de subsistance, entraînant inévitablement des
périodes de famine, de maladie et de misère.

Cette théorie de Malthus a suscité des débats importants sur la question


de la croissance démographique et des ressources, et elle a souvent été
citée dans les discussions sur la planification familiale, la politique
économique et les questions environnementales. Bien que certaines de
ses prédictions aient été critiquées et ne se soient pas réalisées dans les
délais qu'il avait estimés, l'influence de Malthus persiste dans les débats
contemporains sur la population mondiale et la durabilité des ressources.
Thomas Malthus
UN PEU D’HISTOIRE

Londres en 2000,
une vision
malthusienne de
l'avenir d'un
Londres surpeuplé

George Cruikshank,
gravure, 1851
UN PEU D’HISTOIRE
UN PEU DE DÉMOGRAPHIE
UN PEU DE DÉMOGRAPHIE

Aux alentours de 1740 en France, près d’un nouveau-né


sur trois mourait avant d’avoir atteint son premier
anniversaire, victime le plus souvent d’une maladie
infectieuse. La situation change à la fin du XVIIIe siècle :
la mortalité infantile, c’est-à-dire la mortalité des
enfants de moins d’un an, se met à baisser rapidement.
Vers 1850, la mort ne frappe plus qu’un nouveau-né sur
six. Cette baisse est principalement liée au succès
remporté par la vaccination contre la variole, l’une des
grandes causes de décès d’enfants à cette époque, mais
aussi à l’amélioration des méthodes d’accouchement et
des premiers soins donnés au nouveau-né.
UN PEU DE DÉMOGRAPHIE

1943
UN PEU DE DÉMOGRAPHIE
Je risque de donner une fausse idée de notre planète à ceux qui ne la
connaissent pas. Les hommes occupent très peu de place sur la terre.
Si les deux milliards d'habitants qui peuplent la terre se tenaient
debout et un peu serrés, comme pour un meeting, ils logeraient
aisément sur une place publique de vingt milles de long sur vingt
milles de large. On pourrait entasser l'humanité sur le moindre petit
îlot du Pacifique.

Les grandes personnes, bien sûr, ne vous croiront pas. Elles


s'imaginent tenir beaucoup de place. Elles se voient importantes
comme des baobabs. Vous leur conseillerez donc de faire le calcul.
Elles adorent les chiffres: ça leur plaira. Mais ne perdez pas votre
temps à ce pensum. C'est inutile. Vous avez confiance en moi.
UN PEU DE DÉMOGRAPHIE
Je risque de donner une fausse idée de notre planète à ceux qui ne la
connaissent pas. Les hommes occupent très peu de place sur la terre.
Si les deux milliards d'habitants qui peuplent la terre se tenaient
debout et un peu serrés, comme pour un meeting, ils logeraient
aisément sur une place publique de vingt milles de long sur vingt
milles de large. On pourrait entasser l'humanité sur le moindre petit
îlot du Pacifique.

Les grandes personnes, bien sûr, ne vous croiront pas. Elles


s'imaginent tenir beaucoup de place. Elles se voient importantes
comme des baobabs. Vous leur conseillerez donc de faire le calcul.
Elles adorent les chiffres: ça leur plaira. Mais ne perdez pas votre
temps à ce pensum. C'est inutile. Vous avez confiance en moi.
UN PEU DE DÉMOGRAPHIE
UN PEU DE DÉMOGRAPHIE
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?
« Un enfant = 1 bouche mais 2
bras » Mao Zedong

Politique de l’enfant unique Politique nataliste


UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?

Covid : la hausse des naissances en 2021 interrompt une


décennie de baisse. En 2021, 58 279 bébés sont nés en
Occitanie, soit 1 004 naissances de plus qu'en 2020.
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?

Covid : la hausse des naissances en 2021 interrompt une


décennie de baisse. En 2021, 58 279 bébés sont nés en
Occitanie, soit 1 004 naissances de plus qu'en 2020.
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?
Le baby-boom est une augmentation
importante du taux de natalité dans certains
pays, juste après la fin de la Seconde Guerre
mondiale. Les enfants nés durant cette période
sont appelés des baby-boomer (voire
simplement des boomers). Cette période s'étend
de 1945 jusqu'au milieu des années 1970 pour la
plupart des pays occidentaux. Durant les deux
premières décennies du XXIème siècle, les baby-
boomers qui partent massivement à la retraite
créent un nouvel effet socioéconomique
d'envergure : le papy-boom.
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?

Les Trente Glorieuses (1945 - 1975), une époque


rêvée…
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?
Les Trente Glorieuses sont la période de
forte croissance économique et
d'augmentation du niveau de vie qu’a
connue la grande majorité des pays
développés entre 1945 et 1975. Les Trente
Glorieuses sont une révolution porteuse de
changements économiques et sociaux
majeurs, qui ont marqué le passage de
l'Europe à la société de consommation.
Prennent fin après les chocs pétroliers de 1973
(guerre du Kippour) et de 1979 (Révolution
islamique en Iran)
UN PEU DE DÉMOGRAPHIE
De quoi dépend l’évolution de
la population mondiale ?

Politiques Conditions économiques Conditions écologiques

Conditions sociologiques Avancées sociales, médicales

Espérance de vie à la naissance Guerre et paix Éducation

Urbanisation Répartition des sexes Catastrophes naturelles (ou pas…)


UN PEU DE DÉMOGRAPHIE
Soit f la fonction qui
représente la population
mondiale
Politiques Conditions économiques Conditions écologiques

Conditions sociologiques Avancées sociales, médicales

Espérance de vie à la naissance Guerre et paix Éducation

Urbanisation Répartition des sexes Catastrophes naturelles (ou pas…)

f (x, y, z…)
EXEMPLE DE FONCTION À PLUSIEURS VARIABLES

Si vous voulez décrire le temps qu’il fait, à un moment


donné, en Europe, vous allez modéliser la pression et la
température par des fonctions de deux variables :
T (x, y)
P (x, y)
Bien sûr, pour plus de précision, il sera nécessaire
d'introduire la variable altitude z, et de considérer la
pression P et la température T comme des fonctions des
trois variables x, y, et z. Si vous souhaitez décrire l'évolution
de la pression P et de la température T au cours du temps,
vous devrez introduire une quatrième variable t, et
considérer la pression P et la température T comme des
fonctions des quatre variables x, y, z, et t. Et ainsi de suite.
EXEMPLE DE FONCTION À PLUSIEURS VARIABLES
Si vous voulez décrire le temps qu’il fait, à un
moment donné, en Europe, vous allez modéliser
la pression et la température par des fonctions
de deux variables :
T (x, y)
P (x, y)

Une fois qu'on a modélisé un phénomène naturel par une


fonction de plusieurs variables, il faut être capable — si on
veut étudier le phénomène naturel en question — de décrire
le comportement de cette fonction.
EXEMPLE DE FONCTION À PLUSIEURS VARIABLES
Si vous voulez décrire le temps qu’il fait, à un
moment donné, en Europe, vous allez modéliser
la pression et la température par des fonctions
de deux variables :
T (x, y)
P (x, y)

Une fois qu'on a modélisé un phénomène naturel par une


Autrement dit, tout comme il est utile
fonction de plusieurs variables, il faut être capable — si on
de savoir étudier les fonctions d'une
veut étudier le phénomène naturel en question — de décrire
variable, il est utile de savoir étudier
le comportement de cette fonction.
les fonctions de plusieurs variables.
EXEMPLE DE FONCTION À PLUSIEURS VARIABLES
Si vous voulez décrire le temps qu’il fait, à un
moment donné, en Europe, vous allez modéliser
la pression et la température par des fonctions
de deux variables :
T (x, y)
P (x, y)

Une fois qu'on a modélisé un phénomène naturel par une


Autrement dit, tout comme il est utile
fonction de plusieurs variables, il faut être capable — si on
de savoir étudier les fonctions d'une
veut étudier le phénomène naturel en question — de décrire
variable, il est utile de savoir étudier
le comportement de cette fonction.
les fonctions de plusieurs variables.
dérivées ?
domaine de variations ?
définition ? limites ?
représentation graphique ? etc.
QUELQUES DÉFINITIONS

Une fonction de deux variables (réelles) est la donnée d’un ensemble A


non vide de R2 et d’une correspondance de A dans R tels qu’à chaque
couple (x, y) dans A on associe un et un seul nombre réel noté f (x, y).
On dit que f est une fonction de A dans R.

Le plus grand sous-ensemble de R2 sur lequel cette correspondance est


définie est dit domaine de définition de la fonction. C’est à dire, c’est un
ensemble de couples (x, y) pour lesquels on peut calculer f (x, y)
EXEMPLES

Calculer f (1,2), f (2,1) et g (3,1)


EXEMPLES

Calculer f (1,2), f (2,1) et g (3,1)

Donner le domaine de définition des fonctions f et g.


EXEMPLES

Calculer f (1,2), f (2,1) et g (3,1)

Donner le domaine de définition des fonctions f et g.

Pour f, il faut que x soit différent de 1 et que x + y + 1 soit positif…


EXEMPLES

Calculer f (1,2), f (2,1) et g (3,1)

Donner le domaine de définition des fonctions f et g.

Pour g, il faut que y2 - x soit strictement positif…


EXEMPLES
EXEMPLES
EXEMPLES

Donner l’image de (e, 0).

Donner le domaine de définition de la fonction f.


EXEMPLES

Donner l’image de (e, 0).


f (e, 0) = ln(e) + sin(0) = 1 + 0 = 1
Donner le domaine de définition de la fonction f.
EXEMPLES

Donner l’image de (e, 0).


f (e, 0) = ln(e) + sin(0) = 1 + 0 = 1
Donner le domaine de définition de la fonction f.
+,⋆
Pour que ln(x) existe il faut (et il suffit) que x > 0. Donc x ∈
R .
sin(y) existe pour tout y ∈ R. Donc y ∈ R.
Ainsi le plus grand domaine de définition possible pour f est :
+, ⋆
R × R.
UTILISATION DE GEOGEBRA 3D

https://www.geogebra.org/3d
EXEMPLES

N’existe que pour les x positifs


EXEMPLES

z en fonction de x, dans un plan y = cste


EXEMPLES

z en fonction de y, dans un plan x = cste


REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
f (x, y) = 6 − 3x − 2y
REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
f (x, y) = 6 − 3x − 2y

Comment on fait ?
REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
f (x, y) = 6 − 3x − 2y

Comment on fait ?

On regarde ce qui se passe successivement lorsque x, y et z valent 0


REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
z = f (x, y) = 6 − 3x − 2y

On regarde ce qui se passe successivement lorsque x, y et z valent 0


REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
z = f (x, y) = 6 − 3x − 2y

On regarde ce qui se passe successivement lorsque x, y et z valent 0

x et y = 0

x et z = 0
y et z = 0
REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
z = f (x, y) = x2
REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
z = f (x, y) = x2

Dans chaque plan y, on a z = x2


REPRÉSENTATION GRAPHIQUE
Tracer la surface représentative de la fonction donnée par :
z = f (x, y) = x2

Dans chaque plan y, on a z = x2


TRACES, COURBES DE NIVEAU
On peut avoir une idée assez précise de la surface représentative d’une
fonction de deux variables réelles, en fixant l’une ou l’autre des
variables (ce qui revient à couper la surface par des plans).

Je fais une coupe transversale dans un plan de z (je fixe une variable)
et je regarde ce qui se passe entre les deux variables restantes : x et y.

Soit c un nombre réel et f : D → R une fonction de deux variables. On


appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }
TRACES, COURBES DE NIVEAU
Soit c un nombre réel et f : D → R une fonction de deux variables. On
appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }

Exemple :
TRACES, COURBES DE NIVEAU
Soit c un nombre réel et f : D → R une fonction de deux variables. On
appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }

Que représente la courbe de niveau 2 de la fonction polynomiale


donnée par : f(x, y) = x2 + y2 ?
TRACES, COURBES DE NIVEAU
Soit c un nombre réel et f : D → R une fonction de deux variables. On
appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }

Que représente la courbe de niveau 2 de la fonction polynomiale


donnée par : f(x, y) = x2 + y2 ?

Rappel, indice : équation cartésienne d’un cercle de centre (a, b) et de rayon R


TRACES, COURBES DE NIVEAU
Soit c un nombre réel et f : D → R une fonction de deux variables. On
appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }

Que représente la courbe de niveau 2 de la fonction polynomiale


donnée par : f(x, y) = x2 + y2 ?

Il s’agit du cercle de centre (0 , 0) et de rayon √2.


TRACES, COURBES DE NIVEAU
Soit c un nombre réel et f : D → R une fonction de deux variables. On
appelle courbe de niveau c de f l’ensemble suivant :
{ (x, y) ∈ D ; f(x, y) = c }

Que représente la courbe de niveau 2 de la fonction polynomiale


donnée par : f(x, y) = x2 + y2 ?

Il s’agit du cercle de centre (0 , 0) et de rayon √2.


TRACES, COURBES DE NIVEAU
EXOS : COURBES DE NIVEAU
Représenter les courbes de niveaux des fonctions définies par les
expressions suivantes :

f (x, y) = y - 2 g (x, y) = x h (x, y) = e y-x 2


EXOS : COURBES DE NIVEAU
Représenter les courbes de niveaux des fonctions définies par les
expressions suivantes :

f (x, y) = y - 2 g (x, y) = x h (x, y) = e y-x 2

c=y-2
y=c+2
EXOS : COURBES DE NIVEAU
Représenter les courbes de niveaux des fonctions définies par les
expressions suivantes :

f (x, y) = y - 2 g (x, y) = x h (x, y) = e y-x 2

c=y-2 c=x
y=c+2 y=c+2
EXOS : COURBES DE NIVEAU
Représenter les courbes de niveaux des fonctions définies par les
expressions suivantes :

f (x, y) = y - 2 g (x, y) = x h (x, y) = e y-x 2

2
c= e y-x
c=y-2 c=x
ln (c) = y - x 2
y=c+2 y=c+2
y = cste + x 2
DÉRIVÉES PARTIELLES

La dérivée partielle d'une fonction de plusieurs variables


est sa dérivée par rapport à l'une de ses variables, les
autres étant gardées constantes.

La dérivée partielle de la fonction f par rapport à la


variable x est souvent notée
DÉRIVÉES PARTIELLES

Calculer les dérivées partielles premières de la fonction suivante :

f (x, y) = ex cos y
DÉRIVÉES PARTIELLES

Calculer les dérivées partielles premières de la fonction suivante :

f (x, y) = ex cos y
DÉRIVÉES PARTIELLES

Calculer les dérivées partielles premières de la fonction suivante :

f (x, y) = x cos (y) + 2x2y + ey


DÉRIVÉES PARTIELLES

Calculer les dérivées partielles premières de la fonction suivante :

f (x, y) = x cos (y) + 2x2y + ey

Calculer les dérivées partielles secondes de f. Vérifiez que les dérivées


croisées sont égales.
L’INTELLIGENCE ARTIFICIELLE

Dans les années 1940, le mathématicien Alan Turing


a formulé l’hypothèse
Toute pensée résulte d’un calcul,
tout calcul peut être fait par une
machine, donc la pensée peut être
simulée sur une machine
L’ INTELLIGENCE ARTIFICIELLE C’EST INTELLIGENT

« Ensemble de théories et de techniques mises en œuvre


en vue de réaliser des machines capables de simuler
l'intelligence humaine »
L’ INTELLIGENCE ARTIFICIELLE C’EST INTELLIGENT

« Ensemble de théories et de techniques mises en œuvre


en vue de réaliser des machines capables de simuler
l'intelligence humaine »

Notant le peu de précision de la définition, des instances


comme la CNIL ont présenté l’IA comme « le grand
mythe de notre temps »
L’ INTELLIGENCE ARTIFICIELLE C’EST INTELLIGENT

« Ensemble de théories et de techniques mises en œuvre


en vue de réaliser des machines capables de simuler
l'intelligence humaine »

Intelligence Deep Learning - Technique pour


Artificielle pouvoir effectuer des prédictions à
partir d’un ensemble de données
d’entrainement. Elle repose sur le
modèle des réseaux neurones dont
l’objectif est de mimer le
Deep fonctionnement du cerveau humain
Learning
INTELLIGENCE ARTIFICIELLE
LES RÉSEAUX DE NEURONES
But : prédire un résultat en fonction de plusieurs variables fournies en
entrée

x
y f (x, y, z)
z

La fonction f
INTELLIGENCE ARTIFICIELLE
LES RÉSEAUX DE NEURONES
But : prédire un résultat en fonction de plusieurs variables fournies en
entrée

Régression Classification

x x
Une valeur
y y Une classe
continue
z z

La fonction f La fonction f
INTELLIGENCE ARTIFICIELLE
LES RÉSEAUX DE NEURONES
But : prédire un résultat en fonction de plusieurs variables fournies en
entrée

Régression Classification

x x
Une valeur
y y Une classe
continue
z z

La fonction f La fonction f
Ex : un prix en fonction de Ex : un animal en fonction
caractéristiques des pixels sur la photo
INTELLIGENCE ARTIFICIELLE
CAS PRATIQUE
But : prédire la consommation énergétique d’un bâtiment
INTELLIGENCE ARTIFICIELLE
CAS PRATIQUE
But : prédire la consommation énergétique d’un bâtiment

SÉLECTION DES ENTRÉES


De quoi peut dépendre la consommation énergétique d’un bâtiment ?
A B C D

4
A B C D

2 La consommation en
électricité est moins
importante le samedi et le
dimanche que le reste de la
3
semaine

4
A B C D

2 Les températures sont


généralement plus élevées en
milieu d’année (à partir de
mai et jusqu’au mois
3
d’octobre)

4
A B C D

2 La consommation est élevée


en début et en fin d’année
(hiver) et en milieu (été). Elle
est moins importante au
3
printemps et en automne

4
A B C D

La consommation en fonction
2
de la température suit une
trajectoire parabolique, elle
est élevée lorsque les
3 températures sont très basses
ou très élevées

4
INTELLIGENCE ARTIFICIELLE
CAS PRATIQUE
But : prédire la consommation énergétique d’un bâtiment

SÉLECTION DES ENTRÉES


De quoi peut dépendre la consommation énergétique d’un bâtiment ?
Instinctivement, on sait qu’il y a un lien entre
les différentes variables : les chaleurs
augmentent en été (mois de juin, juillet et
août) et le froid en hiver (décembre, janvier et consommation = f (jour de
février). On sait aussi que, comme le
chauffage et la climatisation fonctionnent à la semaine, température)
l’électricité, la consommation augmente avec
le froid ou la chaleur.

Éviter les redondances et


les fausses corrélations !
FAUSSES CORRÉLATIONS
Les corrélations
de l’absurde !

Le score du vainqueur à
l'Eurovision semble
étrangement lié au nombre
de morts foudroyés… Simple
coïncidence?
FAUSSES CORRÉLATIONS
Les corrélations
de l’absurde !

Le nombre de
fonctionnaires dans le
public semble être
intimement lié au nombre
de chevaux abattus en
Allemagne…
FAUSSES CORRÉLATIONS
Les corrélations
de l’absurde !

Les publicités au cinéma


tuent !
LE DEEP LEARNING
consommation = f (jour de
Modèle du perceptron,
la semaine, température)
le modèle du neurone
artificiel
b N

Z= (xi wi) + b
Entrée 1 : jour de la x1 w1 i
semaine (entier de 1 à 7)

Entrée 2 : température w2
z a a
La sortie obtenue, la
consommation (pas
(en degrés Celsius) vraie pour l’instant)
x2
b : un biais, une valeur qu’on rajoute pour
éventuellement casser la linéarité
LE DEEP LEARNING
consommation = f (jour de
Modèle du perceptron,
la semaine, température)
le modèle du neurone
artificiel N

b Z= (xi wi) + b
i
x1 w1 A étant une fonction
a = A (z) d’activation

w2
z a a
x2
Les fonctions d’activation servent à casser la linéarité entre deux neurones successifs
RELU SIGMOÏDE
LE DEEP LEARNING
consommation = f (jour de
Modèle du perceptron,
la semaine, température)
le modèle du neurone
artificiel
b N

Z= (xi wi) + b
Entrée 1 : jour de la x1 w1 i
semaine (entier de 1 à 7)

Entrée 2 : température w2
z a a
La sortie obtenue, la
consommation (pas
(en degrés Celsius) correcte pour l’instant)
x2
b : un biais, une valeur qu’on rajoute pour
éventuellement casser la linéarité
LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b

x1 w1 Pour ajuster la sortie obtenue, pour


avoir une bonne prédiction, il faut
entraîner le neurone avec des
w2
z a a exemples connus : un historique de
x2 relevé de consommation avec des
températures et des jours de
semaine.
L’objectif est de trouver les bons paramètres : les poids w1 et w2 et b qui
permettent d’avoir la bonne conso en fonction des entrées
LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b

x1 w1 Pour ajuster la sortie obtenue, pour


avoir une bonne prédiction, il faut
entraîner le neurone avec des
w2
z a a exemples connus : un historique de
x2 relevé de consommation avec des
températures et des jours de
semaine.
Comment faire pour l’entraînement ?
LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?
On initialise aléatoirement les poids, et on calcule a, la sortie (qui n’a
x1 w1 aucune raison d’être correcte)

On va créer une fonction coût (Loss en

w2
z a a anglais) dont le rôle sera d’estimer l’écart
entre la sortie obtenue et la sortie
x2
attendue.
Forward Propagation
L = 1/2 (sortie attendue - sortie obtenue)2

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?
On initialise aléatoirement les poids, et on calcule a, la sortie (qui n’a
x1 w1 aucune raison d’être correcte)

On va créer une fonction coût (Loss en

w2
z a a anglais) dont le rôle sera d’estimer l’écart
entre la sortie obtenue et la sortie
x2
attendue.
L = 1/2 (sortie attendue - sortie obtenue)2
Forward Propagation
L dépend de w1, de w2 et de b

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?

x1 w1
L = 1/2 (sortie attendue - sortie obtenue)2

w2
z a a L dépend de w1, de w2 et de b

x2 L’objectif est de réduire L en agissant sur les


valeurs de w1, de w2 et de b
Back Propagation

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?

x1 w1
L = 1/2 (sortie attendue - sortie obtenue)2

w2
z a a L dépend de w1, de w2 et de b

x2 L’objectif est de réduire L en agissant sur les


valeurs de w1, de w2 et de b
Back Propagation Et comment on étudie l’influence de variation
de variables d’entrées sur une sortie ? :-)

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?

x1 w1
L = 1/2 (sortie attendue - sortie obtenue)2

w2
z a a L dépend de w1, de w2 et de b

x2 L’objectif est de réduire L en agissant sur les


valeurs de w1, de w2 et de b
Back Propagation EURÊKA ! LA DÉRIVÉE !

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


LE DEEP LEARNING
consommation = f (jour de la semaine, température)
b Comment faire pour l’entraînement ?
L = 1/2 (sortie attendue - sortie obtenue)2
x1 w1
L dépend de w1, de w2 et de b
L’objectif est de réduire L en agissant sur les

w2
z a a valeurs de w1, de w2 et de b

x2 Il conviendra de dériver L par rapport aux


différents poids et par rapport aux biais :
Back Propagation ∂L ∂L
et
∂wi ∂b

Sortie obtenue = a = A(z) = A (x1 w1 + x2 w2 + b)


b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

Zone où la Zone où la
dérivée est dérivée est
négative positive
wi
Valeur optimale de wi
b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

La dérivée est positive, qu’est ce que je fais ?

Zone où la Zone où la
dérivée est dérivée est
négative positive
wi
Valeur optimale de wi
b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

La dérivée est positive, qu’est ce que je fais ?


Je baisse la valeur de wi
Zone où la Zone où la
dérivée est dérivée est
négative positive
wi
Valeur optimale de wi
b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

La dérivée est positive, qu’est ce que je fais ?


Je baisse la valeur de wi
Zone où la Zone où la La dérivée est négative, qu’est ce que je fais ?
dérivée est dérivée est
négative positive
wi
Valeur optimale de wi
b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

La dérivée est positive, qu’est ce que je fais ?


Je baisse la valeur de wi
Zone où la Zone où la La dérivée est négative, qu’est ce que je fais ?
dérivée est dérivée est J’augmente la valeur de wi
négative positive
wi
Valeur optimale de wi
b
LE DEEP LEARNING
w1
x1 consommation = f (jour de la semaine, température)

w2 za a Comment faire pour l’entraînement ?


x2 L = 1/2 (sortie attendue - sortie obtenue)2
L dépend de w1, de w2 et de b
Back Propagation L’objectif est de réduire L en agissant sur les valeurs de w1, de w2 et de b
Il conviendra de dériver L par rapport aux différents poids et par rapport aux
L(wi) ∂L ∂L
biais : et
∂wi ∂b

La dérivée est positive, qu’est ce que je fais ?


Je baisse la valeur de wi
Zone où la Zone où la La dérivée est négative, qu’est ce que je fais ?
dérivée est dérivée est J’augmente la valeur de wi
négative positive
wi
Valeur optimale de wi La dérivée est nulle : super, j’ai atteint mon min
LE DEEP LEARNING
b

x1 w1 Forward Propagation Calcul de la sortie,


de la fonction coût

w2
z a a Back Propagation Calcul des dérivées partielles de
la fonction coût et mise à jour
x2 des paramètres en fonction des
valeurs des derivées

L’entraînement, c’est plusieurs centaines de forward et de back propagation avec tous les
exemples que nous avons à notre disposition.
LE DEEP LEARNING

Exemple d’évolution du Loss : plus le modèle s’entraîne, plus


l’écart entre la sortie attendue et la sortie effective est
réduit, plus le Loss devient petit
LE DEEP LEARNING

Dans la vraie vie, un neurone est rarement suffisant, c’est des centaines de neurones répartis en
couches : on parle de réseau de neurones
INTELLIGENCE ARTIFICIELLE
CAS PRATIQUE
But : prédire la consommation énergétique d’un bâtiment

Évolution de la prédiction de la consommation en électricité en fonction de la température pour chaque jour de la semaine
INTELLIGENCE ARTIFICIELLE
CAS PRATIQUE
But : prédire la consommation énergétique d’un bâtiment

Les couleurs :
également une
façon de
présenter une
fonction à
plusieurs
variables

Évolution de la prédiction de la consommation en électricité en fonction de la température pour chaque jour de la semaine
LE GRADIENT D’UNE FONCTION
Le gradient est un vecteur dont les coordonn es sont les
d riv es partielles. Il est très utile en physique. Par exemple, en
météorologie, le gradient de température est le taux de
variation de la température selon l’altitude.



LE GRADIENT D’UNE FONCTION
Le gradient est un vecteur dont les coordonn es sont les
d riv es partielles. Il est très utile en physique. Par exemple, en
météorologie, le gradient de température est le taux de
variation de la température selon l’altitude.

On le mesure en °C/hm (en degrés Celcius par cent mètres). Le


gradient dans l'atmosphère est généralement de l'ordre de 6,5 °K/km
(diminution de 0,65 °C par 100 m de dénivelé), mais il peut varier en
fonction des régions et de la situation météorologique.



LE GRADIENT D’UNE FONCTION
Le gradient est un vecteur dont les coordonn es sont les
d riv es partielles.



LE SYMBOLE NABLA

Le symbole nabla, représenté par le signe ∇, est un opérateur


mathématique utilisé principalement en physique pour
représenter l'opérateur gradient.
LE SYMBOLE NABLA
La forme de nabla (∇) vient de la lettre grecque delta majuscule (Δ)
renversée. La définition du nabla a été introduite en 1847.

Temporairement surnommé avec


malice « atled » (« delta » à l'envers)
par Maxwell, le nom nabla lui fut
donné en 1870, par analogie de
forme avec une harpe hébraïque qui
dans l'antiquité portait ce nom
LE GRADIENT D’UNE FONCTION
Soit f une fonction de trois variables, f (x, y, z). Son gradient peut être noté
ainsi :

Le gradient est un vecteur qui s’applique sur un scalaire


LE GRADIENT D’UNE FONCTION

Pour cette fonction f (x, y, z) de trois variables, au point a (x0, z0, y0), on a :

sont les dérivées partielles de f au


point a par rapport aux variables x, y,
z respectivement.
LE GRADIENT D’UNE FONCTION

Pour cette fonction f (x, y, z) de trois variables, au point a (x0, z0, y0), on a :

sont les dérivées partielles de f au


point a par rapport aux variables x, y,
z respectivement.

Le résultat est un vecteur qui pointe dans la direction où la


fonction augmente le plus rapidement
LE GRADIENT D’UNE FONCTION

La fonction
f(x,y) = −(cos2x + cos2y)2
est représentée par la surface
orange. Le gradient de f est un
champ vectoriel, représenté
par les flèches bleues ;
chacune pointe dans la
direction où f croît le plus
vite.
EXOS : CALCULS DE GRADIENTS

Calculer les gradients des fonctions suivantes

f (x, y)=x y
2 3 g (x, y, z) = x sin(yz)
2
EXOS : CALCULS DE GRADIENTS

Calculer les gradients des fonctions suivantes

f (x, y)=x y
2 3 g (x, y, z) = x sin(yz)
2
EXOS : CALCULS DE GRADIENTS

Calculer les gradients des fonctions suivantes

f (x, y)=x y
2 3 g (x, y, z) = x sin(yz)
2
EXOS : CALCULS DE GRADIENTS

Calculer le gradient de la fonction f au point a = (2, 1)

f (x, y)=x y
2 3
EXOS : CALCULS DE GRADIENTS

Calculer le gradient de la fonction f au point a = (2, 1)

f (x, y)=x y
2 3
LA MATRICE HESSIENNE
Appelée ainsi en hommage au mathématicien allemand Ludwig Otto
Hesse, il s’agit d’une matrice qui regroupe les dérivées partielles
secondes de f par rapport à ces variables.
LA MATRICE HESSIENNE
Appelée ainsi en hommage au mathématicien allemand Ludwig Otto
Hesse, il s’agit d’une matrice qui regroupe les dérivées partielles
secondes de f par rapport à ces variables. Si f est une fonction de deux
variables, la matrice hessienne est de la forme :

2 2
∂f ∂f
∂x 2 ∂x∂y
H= 2 2
∂f ∂f
∂y∂x ∂y 2
LA MATRICE HESSIENNE

Exercice : soit la fonction f (x, y) = x2 + 2y2

Calculer la matrice Hessienne de cette fonction.


LA MATRICE HESSIENNE

Exercice : soit la fonction f (x, y) = x2 + 2y2

Calculer la matrice Hessienne de cette fonction.

Les dérivées partielles premières :

∂f
= 2x
∂x
∂f
= 4y
∂y
LA MATRICE HESSIENNE

Exercice : soit la fonction f (x, y) = x2 + 2y2

Calculer la matrice Hessienne de cette fonction.

Les dérivées partielles premières : Les dérivées partielles secondes :

∂f ∂f2
= 2x = 2 2
∂x ∂x 2 ∂f
=0
∂f ∂f2 ∂x∂y
= 4y = 4
∂y ∂y 2
LA MATRICE HESSIENNE

Exercice : soit la fonction f (x, y) = x2 + 2y2

Calculer la matrice Hessienne de cette fonction.

Les dérivées partielles premières : Les dérivées partielles secondes : La matrice hessienne H :

∂f ∂f2
= 2x = 2
[0 4]
2
∂x ∂x 2 ∂f 2 0
=0 H=
∂f ∂f2 ∂x∂y
= 4y = 4
∂y ∂y 2
RECHERCHE D’EXTREMUMS
Maximum

Minimum
Point-selle
RECHERCHE D’EXTREMUMS
Maximum

Minimum
Point-selle
RECHERCHE D’EXTREMUMS

Pour trouver les extremums d’une fonction à une variable, on fait la


dérivée et on regarde quand est-ce qu’elle s’annule.
RECHERCHE D’EXTREMUMS

Pour trouver les extremums d’une fonction à une variable, on fait la


dérivée et on regarde quand est-ce qu’elle s’annule.

Pour une fonction à plusieurs variables, c’est pareil !


On commence par regarder quand est-ce que le gradient s’annule.
RECHERCHE D’EXTREMUMS
det
Les étapes :
• Calculer le gradient
Positif Négatif
• Calculer la Hessienne
• Trouver les points critiques
en trouvant les points qui Il y a un Il s’agit d’un
annulent le gradient extremum point-selle
• Calculer la Hessienne en
chacun des points critiques
• Calculer le déterminant des Tr>0 Tr<0
Hessiennes
Minimum Maximum
La trace Tr = la somme des termes
de la diagonale de gauche à droite
RECHERCHE D’EXTREMUMS
det
Les étapes :
• Calculer le gradient
Positif Négatif
• Calculer la Hessienne
• Trouver les points critiques
en trouvant les points qui Il y a un Il s’agit d’un
annulent le gradient extremum point-selle
• Calculer la Hessienne en
chacun des points critiques
• Calculer le déterminant des Tr>0 Tr<0
Hessiennes
Minimum Maximum
La trace Tr = la somme des termes
de la diagonale de gauche à droite f (x, y) = (y - x2)2 - x2 g (x, y) = (x2 - 4)2 + y2
RECHERCHE D’EXTREMUMS

Point-selle

Vous aimerez peut-être aussi