Universit de Reims Champagne-Ardenne

Equilibre de charge
Equilibre de charge statique Equilibre de charge dynamique
Approches centralises Approches distribues Approches semi-distribues
Ch Jaillet

Info53 - L3 Informatique - 2006

Universit de Reims Champagne-Ardenne

Equilibre de charge
Faciliter le partage des ressources Faciliter le partage de l'effort de calcul Load balancing
Maintenir une rpartition quitable des tches accomplir

Load sharing
Maintenir tous les processeurs actifs

Crit res
Choi! des indicateurs de charge Mthode d'appariement des processeurs "cision centralise vs distribue
Ch Jaillet

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

#rogramme parall le
Ensemble de tches$ qui communiquent #lacer les tches sur les processeurs disponibles

#erformance
%cessite une rpartition quitable

Moment de la dcision
&quilibre statique &quilibre dynamique
Ch Jaillet

la compilation l'e!cution

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

&quilibre de charge statique

%cessite de disposer d'info' sur les tches$ A(A%) l'e!n
%b de tches * temps d'e!cution "iagrammes de prcdence +DAG , Directed Acyclic Grapht tches$ n proc$ sans dpendance ./ nt poss' 0pb %#-complet1

Algorithmes e!acts
"2elopper toutes les solutions possibles +de rpartitionMinimiser la fonction de co3t , temps d'e!cution de l'appli parall le #as d'algo polynomial ./ 45 si pb de petite taille

6tilisation d'heuristiques ./ solution approche

7louton ./ rapide 8 pb de qualit +ordre de distribution des tches9ecuit simul +co3teu!$ impr2isible-$ recherche tabou$ '''
Ch Jaillet

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

&quilibre de charge dynamique

#arce que l'e!cution d'une appli est dynamique :uestions , ;Comment faire pour ''' <;
9duire au ma!' les communications < 9partir quitablement l'ensemble du tra2ail entre les proc <

#robl me
#as de mod le d'e!cution unique +un par type de machineM=M"$ >=M"$ >#M" Algos M=M" pour machine parall le Comm' peu co3teuses +rseau d'interconnection performantMachine considre comme ddie l'application considre Algos M=M" pour syst mes distribus +rseau de stationsCh Jaillet

'''

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

:ui est charg de rpartir <

:ui est charg de rpartir la charge entre les processeurs < ./ classification ?' #rise de dcision centralise
+gnralt- stratgie de type client-ser2eur @ maAtre-escla2e un proc' est charg de rpartir ./ rpartition globale , tous les processeurs sont concerns

B' #rise de dcision distribue

C l'initiati2e de n'importe lequel des processeurs ./ quilibrage au ni2eau local ou global

D' #rise de dcision semi-distribue

6n proc' responsable de la rpartition pour un groupe de procs
Ch Jaillet

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

:ui est charg de rpartir <

Classification
statique ... centralis client-serveur une liste centralise une liste / r!c.

quilibre de charge

dynamique

semi-distribu

hirarchique artiti!nnement l!gique

serveur initiative distribu

Ch Jaillet

s!urce initiative hybride

M1 Informatique - PPM - 2007/08

Universit de Reims Champagne-Ardenne

?' algos centraliss de type client-ser2eur

Eargement utiliss
>imples implmenter Efficaces +le plus sou2ent-

Approche ? ,
6n processeur unique poss de une file d'attente globale +contenant l'ensemble des tches du syst meEe serveur dispose de la file d'attente des tches )ransmet ? tche un proc lorsque celui-ci le demande Ees autres proc$ clients$ traitent les tches En demandent une e!cuter d s qu'ils sont disponibles Fin . file d'attente 2ide
Ch Jaillet

M1 Informatique - PPM - 2007/08

"

Universit de Reims Champagne-Ardenne

?' algos centraliss de type client-ser2eur

Approche ? ,
6ne file d'attente centralise

./ tr s performant +bon quilibre de chargeAucune information ncessaire a priori +tps d'e!n$ ressources mm'>ur-co3t de communication rduit nbt tches $ n proc ./ BF nbt * n-? messages Tma . temps de la tche la plus longue ./ temps de dtection de terminaison par l'ens des proc Tma ./ granularit + temps de dcou2erte de terminaison''' mais granularit fine ./ co3t de comm grand +nbt ./ compromis * 2iter qu'un proc' termine a2ant que le ser2eur ait fini sa distribution en cours #oss' de granularit dynamique
Ch Jaillet

rapport tcom ti pour lisser le tra2ail@disponibilit du ser2eur# M1 @ Informatique - PPM 2007/08

Universit de Reims Champagne-Ardenne

?' algos centraliss de type client-ser2eur

Approche ? ,
6ne file d'attente centralise

#oss' de granularit dynamique$ en modifiant le rapport tcom @ ti )rop grand ./ +augmenter la granularitrend le ser2eur plus disponible +nb de requGtes ) %b de requGtes trop faible ./ affinier la granilarit rduire le temps moyen d'e!cution des tches Attention l'effet ping-pong < bornes sup et in! du rapport ./ choi! laiss l'utilisateur %H , Iypoth ses )aille des tches modifiables Ea taille des tches influence leur temps d'e!cution
Ch Jaillet

M1 Informatique - PPM - 2007/08

1$

Universit de Reims Champagne-Ardenne

?' algos centraliss de type client-ser2eur

Approche B ,
Chaque proc' dispose d'une file d'attente des tches sa charge Chaque proc' initialise sa file d'attente a2ec sa liste de tches Ee ser2eur maintient une file d'attente des proc surchargs :uand un proc' #i de2ient dcharg$ il contacte le ser2eur ./ le ser2eur interroge les processeurs de sa file en choisit un qui puisse partager sa charge , #" en transmet le nJ #i ./ rpartition de la charge entre #i et #" =nitiati2e , ser2eur @ #i @ #" ./ <<
Ch Jaillet

:u'est-ce qu'un proc ;surcharg; <

M1 Informatique - PPM - 2007/08

11

Universit de Reims Champagne-Ardenne

?' algos centraliss de type client-ser2eur

A2antages des approches centralises ,
Mise en oeu2re simple #olitique de mise Kour des informations simple 9alise par un seul processeur Honne efficacit >urco3t faible puisque les clients ne sont pas pnaliss

=ncon2nients ,
>er2eur goulot d'trangement lorsque le nb de proc' beaucoup Hcp de clients rclament >er2eur , mise Kour des informations dissmines
Ch Jaillet

%b de proc' en attente * nb de tches en attente @ proc' Clients , doi2ent attendre

M1 Informatique - PPM - 2007/08 12

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

7estion distribue de la rpartition de la charge Chaque proc' peut prendre l'initiati2e d'une phase d'quilibrage L catgories ,
Algos de type source initiati2e Algos de type ser2eur initiati2e Algos hybrides Algorithmes ench res source initiated server initiated

(ocabulaire ,
#rocs source < #rocs serveur <
Ch Jaillet

+dfinition d'un syst me distribuAKoutent des tches dans le syst me Calculent les tches , ;ser2eurs de calcul;

M1 Informatique - PPM - 2007/08

13

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

a' algos de type source initiative

7estion de l'quilibre , la charge des proc' charge le2e Iypoth ses usuelles ,
Ees processeurs sont identiques Ees proc' source sont soumis la mGme loi d'arri2e des tches

- >tratgie source initiati2e alatoire

:uand un proc est surcharg$ il choisit un proc alatoirement et lui transmet une tche 6n proc qui reMoit une tche < retransmet ./ risque d'instabilit < conser2e
Ch Jaillet

./ se pnalise

./ retansmission d'? tche un nb limit de fois ./ Aucune information ncessaire sur l'tat global du syst me
M1 Informatique - PPM - 2007/08 14

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

a' algos de type source initiative

- >tratgie source initiati2e seuil

#roc' surcharg , choi! alatoire du proc #i +idem)ransfert si pas de risque de surcharger #i >inon$ choi! d'un autre proc ser2eur ''' etc Kusqu' trou2er un ser2eur peu charg nb de tentati2es ma! &2ite les transferts inutiles de tches #as de meilleur choi! mais choi! amliorant localement Faible ni2eau d'information ncessaire +seuil B+seuil ?-

Ch Jaillet

M1 Informatique - PPM - 2007/08

15

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

a' algos de type source initiative

- >tratgie source initiati2e du meilleur choi!

#roc' surcharg , interroge un certain nb de procs alatoirement ./ effectue le meilleur choi! ./ lui transf re une tche s'il n'est pas dK surcharg %cessite une grande quantit d'information sur le syst me +param-

C4M#A9A=>4% ,
' alatoire ' seuil
Ch Jaillet

- et sans besoin d'informations ** et faible e!igence d'information encore mieu! mais plus e!igeant
M1 Informatique - PPM - 2007/08 16

' meileur choi!

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

b' algos de type serveur initiative

7estion de l'quilibre , par les proc' charge faible @ oisifs &2ite un surcroAt de tra2ail pour les procs dK surchargs "iffrents types de stratgie ,
>olutions globales et locales au probl me d'quilibre de charge E!emple +solution globale- , mthode du gradient
- hyp' de 2oisinage entre certains processeurs ./ graphe +support des commns- chaque proc mesure sa pro imit du proc oisif le plus proche incrmental , 4 si oisif 8 sinon$ ? * min2oisins ./ itrer - si charg$ transfert au 2oisin de plus faible pro!imit ./ propage

- seuils , ;oisif;$ ;charg; ./ 2ite les rquilibrages trop 2iolents - risque d'instabilit si peu de proc oisifs +les chargs le bombardent./ signaler le transfert , le proc choisi peut refuser
Ch Jaillet

- co3t de communication +messages de contrNle OM1important Informatique - PPM - 2007/08

17

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

c' source initiative 2s serveur initiative

A2antage commun +solutions distribues&2ite les goulots d'tranglement

=ncon2nient , besoin de * de commns pour un ni2eau d'info qui2alent Ees stratgies ser2eurs initiati2e simples ont de bons rsultats #as de meilleure stratgies dans tous les cas
Charge globale tr s le2e ./ ser2eur initiati2e Charge globale faible ou modre ./ source initiati2e

Machine ddie une appli <

>er2eur initiati2e au dbut +grand nb de tches$ de proc chargs>ource initiati2e la fin +peu de proc surchargs$ qui sauront trou2er un appariementCh Jaillet

./ approches hybrides
M1 Informatique - PPM - 2007/08 1"

Universit de Reims Champagne-Ardenne

B' algorithmes distribus

d' algos de type ench#re

Mise en place d'une conomie de march , en cas de besoin$

6n client fait un appel d'offre Chaque prestataire rpond Ee client choisit le mieu! offrant +moins co3teu!-

Ees agents ,
6ne tche peut acheter une ressource +temps C#6$ mmoire6n processeur peut s'offrir une tche e!cuter 6ne tche dispose d'une capacit financi re et doit payer pour utiliser un lien de comm' +2ite les fluctuations de chargeEes procs en2oient de la publicit prsentant leurs ser2ices et pri!

Hons rsultats$ mais co3t des comm

Ch Jaillet

9isque de saturation de l'interconnect par les publicits

M1 Informatique - PPM - 2007/08

1#

Universit de Reims Champagne-Ardenne

D' algorithmes semiP distribus

"istribues
E!tensibles +informations locales- 8 placements moins pertinents

Centralises
Efficaces$ faciles implmenter si moins de procs #eu e!tensibles

Algos hirarchiques , procs organiss comme un arbre

Ee p re d'un sous-arbre dispose de l'information de ses fils +et la sienne propreprend l'initiati2e des rquilibrages pour le sous-arbre

Algos partitionnement logique

9duit le co3t d'une phase d'quilibre de charge +direct , * largeCh Jaillet

M1 Informatique - PPM - 2007/08

2$

Universit de Reims Champagne-Ardenne

:ualits d'une stratgie

"iffrents crit res >table ,
ssi 2ite le dplacement inutile d'une tche ssi ne perturbe pas trop l'e!cution ssi bon comportement lorsque le nb de procs rsoudre plus 2ite le porbl me pos

./ ncessite plus d'information

=ntrusion minimale , E!tensibilit , Efficacit ,

%b de messages +trafic$ bande passante- @ ressources C#6 45 pour les stratgies distribues Acclration , 2olution du temps en fonction du nb de procs Efficacit . acclration @ nb#
Ch Jaillet

M1 Informatique - PPM - 2007/08

21