Vous êtes sur la page 1sur 22

Chapitre 3 : Mthodes globales / Algorithmes dvolution e e 3.

4 Quelques approches alternatives aux algorithmes gntiques e e


Recuit simul / Simulated annealing (SA) e
SA = mthode doptimisation stochastique sappuyant sur des valuations e e alatoires de la fonction objectif de telle faon que des transitions hors de e c minima locaux sont possibles. la mthode prsente linconvnient de ncessiter en gnral un nombre lev e e e e e e e e dvaluations de la fonction objectif pour atteindre la solution optimale e en revanche, elle fournit loptimum global avec une probabilit leve mme pour ee e e des fonctions fortement multi-modales (nombreux optima locaux) la mthode tire son nom du processus de refroidissement de certains matriaux e e solides. recuit = traitement thermique consistant a porter un mtal, un alliage, un solide ` e a une temprature susante puis a lui faire subir un refroidissement progressif, ` e ` pour en amliorer les qualits physiques et mcaniques. e e e refroidissement lent et contrl dun solide chau solidication correcte, oe e caractrise par un tat cristallin hautement ordonn qui correspond a un e e e e ` minimum dnergie interne. e inversement, refroidissement (trop) rapide dfauts a lintrieur du matriau. e ` e e
C. Corre (ENSE3 - LEGI) Optimisation pour lingnieur e 15 dcembre 2011 e 1 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e

Recuit simul / Simulated annealing (SA) e


on consid`re le probl`me de minimisation minP f (x) o` lespace des param`tres e e u e (l) (u) P est form par les intervalles [xi , xi ] pour chaque composante xi du vecteur e des param`tres x e e e a partir dun vecteur initial x(0) , lalgorithme gn`re successivement des points ` (ou tats) successifs x(1) , x(2) , . . . qui voluent progressivement vers le minimum e e global du probl`me. e e e e e si x(i) dsigne ltat courant, des dplacements alatoires sont successivement raliss suivant chaque direction de lespace des param`tres an de construire un e e e nouvel tat candidat, not x e e les pas maxima associs a ces dplacements alatoires sont stocks dans un e ` e e e vecteur S qui peut tre actualis au cours de loptimisation e e ce vecteur candidat est accept ou rejet comme nouvel tat du syst`me en e e e e fonction dun crit`re dit Metropolis. e en assimilant lobjectif f a minimiser a un niveau dnergie interne, on introduit ` ` e f = f (x) f (xi )

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

2 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e

Recuit simul / Simulated annealing (SA) e


si f 0 (diminution de lnergie), le nouveau point est accept comme nouvel e e tat : x(i+1) = x(i) e sinon, x est accept comme nouvel tat avec une probabilit e e e P (f ) = exp f kT

o` k est un facteur qui peut tre assimil a la constante de Boltzmann et le u e e` param`tre T est assimilable a une temprature e ` e la valeur de k inuence les caractristiques de convergence de la mthode mais e e peut tre incorpore en pratique au sein du facteur kT qui permet donc de e e contrler lvolution du syst`me (i.e. la convergence de loptimisation) o e e dirents protocoles (schedules) de refroidissement ont t proposs dans la e ee e littrature e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

3 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e

Recuit simul / Simulated annealing (SA) e


qualitativement, lalgorithme SA dmarre avec une temprature leve T0 e e e e une squence de solutions est alors gnre jusqu` ce quun quilibre soit atteint e e e e a e pour cette valeur de T : la valeur moyenne de lobjectif f atteint une valeur stable quand on augmente le nombre de designs explors i e le vecteur des pas S est priodiquement ajust pendant cette phase de faon a e e c ` sadapter au comportement de la fonction objectif le meilleur point (tat dnergie interne la plus faible) obtenu lorsque lquilibre e e e est atteint est enregistr comme xopt e la temprature est alors diminue et une nouvelle squence dexploration dmarre e e e e a partir de xopt jusqu` ce que lquilibre thermique soit a nouveau atteint ` a e ` le processus se poursuit jusqu` ce quune temprature susamment basse soit a e atteinte, pour laquelle plus aucune amlioration de la fonction objectif ne peut e tre attendue e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

4 / 22

Simulated Annealing
Algorithme (g. tire de Engineering Optimization, S. Rao, John Wiley & Sons (1996)) e

schma de principe de lalgorithme e SA extension possible au cas multi-objectifs en intgrant les e dirents objectifs dans une unique e fonction de cot grce au crit`re de u a e dominance (cf. Algorithme Gntique) e e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

5 / 22

Simulated Annealing : exemple dapplication

Optimum thermal design of microchannel heat sinks by the SA method, C.W. Chen, J.J. Lee, H.S. Kou, Int. Comm. in Heat and Mass Transfer 35 (2008) 980-984

contexte : conception optimale de micro-canaux destins a vacuer la chaleur dgage par des e `e e e composantes lectroniques e param`tres de design : gomtrie du canal et de e e e lailette

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

6 / 22

Simulated Annealing : exemple dapplication


Mthodologie e
1) choix dun design initial S ( = gomtrie initiale) et dune temprature e e e initiale T0 2) calcul (par CFD) de la rsistance thermique fonction de cot R(S) e u 3) 100 passages dans la boucle suivante :
3.1) choix dun voisin S de S 3.2) calcul de R(S ) 3.3) dmarche acceptation / rejet en utilisant la rsistance thermique ` minimiser e e a comme nergie interne e 3.4) continuer avec la variable de design suivante en rptant les tapes 3.1) a 3.3) e e e ` ci-dessus

4) enregistrement de la meilleure conguration pour cette temprature de e refroidissement comme nouveau design de rfrence S ee 5) application de la stratgie de rduction de la temprature et rptition des e e e e e tapes 3) et 4) e 6) quand la meilleure conguration obtenue nest pas modie pendant 6 tapes e e de rduction de la temprature, on consid`re que lquilibre nal est atteint et e e e e que le recuit est achev. e
C. Corre (ENSE3 - LEGI) Optimisation pour lingnieur e 15 dcembre 2011 e 7 / 22

Simulated Annealing : exemple dapplication


Rsultats e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

8 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e


Particle Swarm Optimization (PSO) / Optimisation par Essaim de Particules
PSO = algorithme doptimisation base sur un mod`le social simpli, e e e troitement li a la thorie dessaimage e e` e algorithme dexploration de lespace de design initialement propos par Kennedy e et Eberhart en 1995 analogie physique = essaim dabeilles cherchant une source de nourriture. Chaque abeille (=particule) utilise sa propre mmoire ainsi que la connaissance e acquise par lensemble de lessaim pour trouver la meilleure source de nourriture disponible. valeur optimale de lobjectif = meilleure source de nourriture disponible exploration de lespace de design par lessaim la mthode PSO utilise un vecteur vitesse pour actualiser la position de chaque e particule de lessaim cette position est actualise en sappuyant sur le comportement social dune e population dindividus (=essaim) caractris par le fait que cette population e e sadapte a son environnement en retournant vers les rgions intressantes qui ont ` e e t prcdemment dcouvertes ee e e e
C. Corre (ENSE3 - LEGI) Optimisation pour lingnieur e 15 dcembre 2011 e 9 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e

Particle Swarm Optimization (PSO) / Optimisation par Essaim de Particules


les principales tapes de lalgorithme PSO sont : e
1) initialisation de lessaim par gnration alatoire de particules e e e dans lespace de design 2) calcul dun vecteur vitesse pour chaque particule de lessaim 3) actualisation de la position de chaque particule ` partir de sa position a prcdente et du vecteur vitesse calcul e e e 4) retour ` ltape 2 et itration jusqu` convergence a e e a

lactualisation de la position de chaque particule est ralise en crivant : e e e xi


(k+1) (k+1)

= xi

(k)

+ vi

(k+1)

t
(k+1)

o` xi u dsigne la position de la particule i a litration k + 1 et v i e ` e est le vecteur vitesse correspondant. Le pas de temps t peut tre choisi unitaire. e la dnition du vecteur vitesse est au coeur de lalgorithme PSO et peut varier e dune version a lautre. `

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

10 / 22

3.4 Quelques approches alternatives aux algorithmes gntiques e e


Particle Swarm Optimization (PSO) / Optimisation par Essaim de Particules
Un choix classique pour le vecteur vitesse est celui propos par Shi et Eberhart e (1998) scrit : e vi o` u
r1 , r2 = nombres alatoires compris entre 0 et 1 e pi = meilleur emplacement trouv par la particule i depuis linitialisation e = position occupe par la particule i pour laquelle lobjectif a atteint sa valeur e maximale (par exemple) depuis le lancement de lessaim pg = meilleure position trouve par lensemble de lessaim (g = global) depuis e linitialisation = inertie de la particule (param`tre dpendant du probl`me) qui contrle les e e e o proprits dexploration de lalgorithme e e valeurs leves de comportement global ou e e local c1 , c2 = param`tres dits de conance qui dpendent galement du probl`me et e e e e sont a priori rglables par lutilisateur (conance de la particule dans sa propre e information ou dans celle fournie par lessaim)
(k+1)

= vi

(k)

+ c 1 r1

p i xi t

(k)

+ c2 r2

p g xi t

(k)

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

11 / 22

Particle Swarm Optimization (PSO)

Choix dinitialisation
gnration dun essaim initial tel que les particules sont distribues e e e alatoirement dans lespace de design, chaque particule possdant un vecteur e e vitesse initial dni de faon alatoire lui-aussi e c e xi vi
(0)

= xmin + r1 (xmax xmin ) = xmin + r2 (xmax xmin ) t

(0)

autre possibilit : utilisation dun space lling DOE (plan dexprience e e remplissant lespace des param`tres) pour une initialisation homog`ne plutt e e o qualatoire e en pratique ce processus dinitialisation na pas dimportance sur la performance globale de lalgorithme d`s lors que lon vite de concentrer lessaim e e initial dans une zone spcique de lespace de design e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

12 / 22

Particle Swarm Optimization (PSO)

Param`tres de lalgorithme e
dans la version de base propose lalgorithme PSO prsente 3 param`tres de e e e rglage : , c1 , c2 e la littrature recommande le choix c1 = c2 = 2 qui assure que les deux termes e dattraction dans la formule dactualisation de la vitesse vont conduire la particule ` survoler les positions optimales correspondant a la mmoire a ` e individuelle (pi ) et collective (pg ) avec une probabilit de 1/2 chacune ` chaque e a pas de temps dautres choix sont cependant possibles. Venter et al. (AIAA Paper 2002-1235) recommande par exemple dutiliser c2 = 2.5 et c1 = 1.5, i.e. la particule accorde un peu plus de conance a lessaim et un peu moins de conance a elle-mme. ` ` e la gamme de valeur recommande pour est [0.8, 1.4] avec les valeurs plus e leves de utilises dans une premi`re phase (pour favoriser lexploration e e e e globale) puis rduit dynamiquement durant loptimisation (pour favoriser une e exploration davantage locale)

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

13 / 22

Particle Swarm Optimization (PSO)


Param`tres de lalgorithme e
une stratgie dactualisation du param`tre dinertie a t propose par (Fourie & e e ee e Groenwold, 2002) : est x a une valeur initiale 0 puis progressivement e` diminu par un facteur [0, 1] si aucune amlioration de la solution nest e e obtenue apr`s h pas de temps conscutifs e e si f (pg )|k f (pg )|kh alors k+1 = k

une autre stratgie dactualisation a t propose par (Venter & al, 2002) : la e ee e formule dactualisation de reste new = f old (avec f = 0.975 jouant le rle o du prcdent) mais lapplication de cette formule est plus subtile e e un sous-ensemble form par 20% des meilleures particules de lessaim est e identi puis la valeur moyenne de lobjectif et sa dviation standard sur cet e e ensemble sont calculs pour obtenir une valeur du coecient de variation e COV = StdDev M ean

si le coecient de variation passe sous une valeur seuil (xe a 1), cela signie e ` que lessaim est en train de converger vers une solution optimale et la valeur du coecient dinertie est alors rduite dun facteur f e
C. Corre (ENSE3 - LEGI) Optimisation pour lingnieur e 15 dcembre 2011 e 14 / 22

Particle Swarm Optimization (PSO)

Oprateur de folie (craziness operator) e


on retrouve dans lalgorithme PSO un quivalent de loprateur de mutation e e dans les algorithmes gntiques, destin a augmenter la diversit des directions e e e` e (i.e. augmenter lexploration) prsentes dans lessaim ou le troupeau (ock) e cet oprateur cherche ` reproduire par exemple le comportement e a momentanment alatoire dun oiseau scartant du groupe e e e si r est un nombre alatoire tir entre 0 et 1 et Pcr une probabilit de folie e e e prdnie, on modie alatoirement la direction et lamplitude de la vitesse e e e dune particule avec une probabilit Pcr : e si
(k+1)

r < Pcr

alors valeur alatoire assigne a e e `

vi

(k+1)

avec 0 < v i v max (o` lingalit vectorielle doit tre comprise composante par composante) u e e e on trouve direntes variantes de cet oprateur : application a une petite e e ` fraction des particules, modication alatoire de la vitesse et de la position, . . . e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

15 / 22

Particle Swarm Optimization (PSO)


Elitisme
Eberhart & Shi (1998) propose de sinspirer des algorithmes gntiques en e e introduisant une particule dlite qui remplacerait ` chaque itration de e a e lalgorithme la pire particule, i.e. celle dont la position correspond a la pire ` valeur de la fonction objectif dans limplmentation propose par (Fourie and Groenwold 2002), la position de e e la particule dlite est actualise au temps k en replaant la pire particule a cet e e c ` instant a la position : ` xpe = pg o` on rappelle que pg correspond a la meilleure position trouve par lessaim u ` e depuis linitialisation de lalgorithme (utilise comme point dattraction pour e toutes les particules) les rsultats numriques obtenus tablissent que cette modication permet e e e damliorer la vitesse de convergence de lalgorithme vers loptimum global e on peut galement introduire une vitesse dlite dans lalgorithme avec, a e e ` nouveau, pour consquence lamlioration des proprits de convergence vers e e ee loptimum global
C. Corre (ENSE3 - LEGI) Optimisation pour lingnieur e 15 dcembre 2011 e 16 / 22

Particle Swarm Optimization (PSO)

Optimisation sous contraintes


lalgorithme PSO de base a t dni pour des probl`mes sans contraintes ee e e la prise en compte des contraintes est simplement ralise en faisant appel a la e e ` technique de pnalisation prsente prcdemment dans le contexte des e e e e e algorithmes gntiques e e la fonction objectif associe a chaque particule est modie comme suit par e ` e rapport a la fonction objectif f de base : `
m

f (x) = f (x) +
i=1

max(0, gi (x))2

o` gi (x) dsigne lensemble des contraintes (la violation des contraintes u e conduisant a des valeurs suprieures a 0) et le param`tre de pnalisation est ` e ` e e choisi comme une constante positive de valeur tr`s leve (par exemple = 108 ). e e e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

17 / 22

Particle Swarm Optimization (PSO)


Exemples de rsultats : calcul de structures e
PSO incluant lensemble des ingrdients prsents appliqu a loptimisation de e e e e` structures en comparant GA/PSOA (Fourie & Groenwold, 2002) taille de population pour AG = 3 fois le nombre de variables de design taille essaim tr`s faible = 4 (avec litisme, 3 valuations objectif / itration) e e e e

Optimisation dune structure ` 2 barres a

objectif = minimisation des contraintes param`tres (2) de design = section e des barres

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

18 / 22

Particle Swarm Optimization (PSO) : application ` loptimisation de a structures


Optimisation dune structure ` 2 barres a
Rsultats tirs de : P. Fourie, A. Groenwold e e The PSOA in size and shape optimization Structural and Multidisciplinary Optimization, 23(4), pp. 259-267 (2002)

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

19 / 22

PSOA : application ` loptimisation de structures a


Optimisation dun torque arm

objectif = minimisation des contraintes 7 param`tres de design (forme e extrieure) e

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

20 / 22

PSOA : application ` loptimisation de structures a

Optimisation dun torque arm

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

21 / 22

PSOA : application ` loptimisation de structures a

Optimisation dun torque arm

attractivit de PSOA dmontre par e e e les auteurs il est prfrable de se faire sa propre ee opinion en appliquant lapproche a ` ses propres probl`mes doptimisation e an de limiter les biais ventuels e danalyse (lobjectif des auteurs est ici de promouvoir autant que possible lutilisation de PSOA)

C. Corre (ENSE3 - LEGI)

Optimisation pour lingnieur e

15 dcembre 2011 e

22 / 22