Vous êtes sur la page 1sur 140

Optimisation

energ
etique de data centers par utilisation
de liquides pour le refroidissement des baies
informatiques
Fabien Douchet

To cite this version:


Fabien Douchet. Optimisation energetique de data centers par utilisation de liquides pour le
refroidissement des baies informatiques. Energie electrique. Universite de Bretagne Sud, 2015.
Francais. .

HAL Id: tel-01325363


https://tel.archives-ouvertes.fr/tel-01325363
Submitted on 2 Jun 2016

HAL is a multi-disciplinary open access Larchive ouverte pluridisciplinaire HAL, est


archive for the deposit and dissemination of sci- destinee au depot et `a la diffusion de documents
entific research documents, whether they are pub- scientifiques de niveau recherche, publies ou non,
lished or not. The documents may come from emanant des etablissements denseignement et de
teaching and research institutions in France or recherche francais ou etrangers, des laboratoires
abroad, or from public or private research centers. publics ou prives.
THESE / UNIVERSITE DE BRETAGNE-SUD prsente par
sous le sceau de lUniversit europenne de Bretagne
Fabien DOUCHET
pour obtenir le titre de
DOCTEUR DE LUNIVERSITE DE BRETAGNE-SUD Prpare au LIMATB
Mention : Sciences pour lingnieur Laboratoire dIngnierie de MaTriaux de Bretagne
Ecole doctorale SICMA N dordre : 386

Thse soutenue le 17/12/2015


Optimisation nergtique de data devant le jury compos de :

centers par utilisation de liquides Rapporteurs


M. Yves LE GUER
pour le refroidissement des baies Matre de confrence HDR, Universit de Pau

informatiques M. Franois LANZETTA


Professeur des universits, Universit de Franche-Comt
Examinateurs
M. Phillipe MARTY
Professeur des universits, Universit de Grenoble
M. Herv NOL
Matre de confrence, Universit de Bretagne Sud
Directeur de thse
M. Patrick GLOUANNEC
Professeur des universit, Universit de Bretagne Sud
Co-encadrant de thse
M. David NORTERSHAUSER
Docteur Orange Labs
Membre invit
M. Stphane LE MASSON
Docteur Orange Labs
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Ce que lon fait dans sa vie rsonne dans
lternit.
Maximus Decimus Meridius

Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Remerciements

Jaimerais tout dabord remercier mon directeur de thse, Patrick GLOUANNEC, pour
mavoir suivi avec un professionnalisme toute preuve tout au long de ce travail de re-
cherche. De plus, sa relecture finale mticuleuse de chacun des chapitres ma sans aucun
doute permis de mieux mettre en valeur les diffrents travaux que jai pu mens.
tant inscrit dans le programme dune thse CIFRE, je tiens galement remercier cha-
leureusement mon encadrant au sein dOrange Labs, David NORTERSHAUSER, pour son
immense partage de connaissances et son aide trs apprcie. Ce ft un rel plaisir de tra-
vailler avec une personne avec qui il ma t permis de nouer une certaine complicit durant
ces trois annes.

Ayant fait partie intgrante de lquipe REE dOrange Labs (Research on Energy and En-
vironment), je peux que souligner la gratitude que jprouve envers chacune des collgues
que je cite maintenant : Jacky GAUTIER, Gwenalle DELSART, Gilles NEGRE-AUSTRUY, Oli-
vier FOUCAULT, Alain PERAUDEAU et Michel CRENN. Je tiens galement remercier sp-
cialement mon manager Stphane LE MASSON pour son encadrement et ses conseils, mais
aussi un fier reprsentant de la Mayenne, Alain RINGNET, pour ses nombreuses anecdotes
et sa sympathie. Je tiens adresser une mention spciale Philippe LEVASSEUR, pour son
immense aide technique sur la fabrication de prototypes et son extrme gentillesse.

Bien que les travaux de thse sont gnralement synonymes de solitude, il est important
de pouvoir se changer les ides en discutant avec ses camarades doctorants et alternants.
Cest pourquoi je voudrais remercier Wafae BAKKALI, Florian OLIVEAU, Yazid KACED, Serge
Romaric TEMBO MOUAF et Audrey SEDJRO pour leur sympathie de tous les jours. Je vou-
drais galement adresser mes remerciements aux diffrents stagiaires que jai pu encadrer
et qui mont apport leur aide sur mes travaux de thse : Nicolas BROUANT, Yacine NOURI,
Ahlem ATMANI et Ilhem HASSANINE.

Je tiens galement mentionner les personnes qui mont soutenu dans la vie de tous les
jours, savoir en premier lieu ma moiti bien aime, Alexandra. Ma famille est aussi trs
chre mes yeux, cest pourquoi je remercie de tout cur mes parents, Christian et Martine,
et mon petit frre, Jrmy.

Jexprime tous mes remerciements lensemble des membres de mon jury : Messieurs
Yves LE GUER, Franois LANZETTA, Philippe MARTY et Herv NOL.

Pour finir, je tiens remercier sincrement les diffrentes personnes qui mont aid du-
rant ma thse, de prs comme de loin, qui nauraient pas t cites prcdemment.

Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Table des matires

Introduction 1

1 Etat de lart 3
1.1 Les data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.1 Descriptif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.2 Bilan et enjeux nergtiques . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 Climatisation des data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 Production de froid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Free cooling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.3 Influence de lenveloppe du btiment . . . . . . . . . . . . . . . . . . . . . 13
1.2.4 Analyse critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Vers le refroidissement liquide . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Modes de refroidissement . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3.2 Refroidissement monophasique . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 Refroidissement diphasique . . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.3.4 Potentiels de rutilisation de la chaleur . . . . . . . . . . . . . . . . . . . . 27
1.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

2 Refroidissement dune baie par un changeur air/eau 30


2.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . 31
2.1.1 Equipements informatiques . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.1.2 Instrumentation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.1.3 Configurations tudies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.2 Rsultats et discussions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.2.1 Refroidissement air sans changeur . . . . . . . . . . . . . . . . . . . . . 36
2.2.2 Refroidissement air avec changeur . . . . . . . . . . . . . . . . . . . . . 40
2.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
2.3.1 Modlisation de la baie et de lchangeur . . . . . . . . . . . . . . . . . . . 45
2.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . . 48
2.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . . 53
2.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

3 Refroidissement de serveurs par plaques froides 58


3.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . 59
3.1.1 Conception des plaques froides . . . . . . . . . . . . . . . . . . . . . . . . 59
3.1.2 Adaptation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.1.3 Instrumentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.1 Etude prliminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.2 Mesures en rgime transitoire . . . . . . . . . . . . . . . . . . . . . . . . . 65

i
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2.3 Relevs en rgime stationnaire et bilan nergtique . . . . . . . . . . . . 67
3.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3.1 Modlisation dun serveur et dune plaque froide . . . . . . . . . . . . . . 70
3.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . . 76
3.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79

4 Perspectives sur le refroidissement liquide 80


4.1 Immersion dans un bain dhuile . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
4.2 Immersion dans un fluide changement de phase . . . . . . . . . . . . . . . . . 88
4.2.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.2.2 Squences de mesures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.3 Bilan comparatif des diffrents modes de refroidissement . . . . . . . . . . . . . 97
4.3.1 Rcapitulatif global . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
4.3.2 Etude technico-conomique . . . . . . . . . . . . . . . . . . . . . . . . . . 98
4.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

Conclusion gnrale 102

Annexes 104
A.1 Indicateurs defficacit nergtique complmentaires . . . . . . . . . . . . . . . 104
A.2 Serveur informatique avec dissipateurs thermiques . . . . . . . . . . . . . . . . . 105
A.3 Simulations de panne du systme de refroidissement . . . . . . . . . . . . . . . . 105
A.4 Dtail des matrices des modles numriques de la baie et de lchangeur . . . . 109
A.5 Dtail des matrices du modle numrique "plaque froide-serveur" . . . . . . . 110
A.6 Proprits thermiques des fluides dilectriques . . . . . . . . . . . . . . . . . . . 111
A.7 Visualisation des bulles lors du refroidissement diphasique . . . . . . . . . . . . 114
A.8 Tableau comparatif des diffrents modes de refroidissement . . . . . . . . . . . 115
A.9 Donnes pour le calcul du retour sur investissement . . . . . . . . . . . . . . . . 117

Rfrences 118

ii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Liste des figures

1.1 Architecture globale dun data center . . . . . . . . . . . . . . . . . . . . . . . . . 4


1.2 Disposition de baies informatiques en alles chaudes/alles froides . . . . . . . 5
1.3 Confinement des alles froides et des alles chaudes . . . . . . . . . . . . . . . . 6
1.4 Diagramme des normes des plages climatiques des quipements lectroniques 6
1.5 Schma de production de froid dans un data center . . . . . . . . . . . . . . . . 7
1.6 Prdictions de lvolution des puissances consommes par les data centers . . 8
1.7 "Tailles" et classes de lindicateur defficacit nergtique DCEM . . . . . . . . . 9
1.8 Rpartition moyenne de la consommation dun data center . . . . . . . . . . . . 10
1.9 Cycle frigorifique monotag dEvans-Perkins . . . . . . . . . . . . . . . . . . . . 12
1.10 Free cooling air direct . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.11 Exemple dun data center en container . . . . . . . . . . . . . . . . . . . . . . . . 14
1.12 Reprsentation des circuits dair interne et externe en fonction de la tempra-
ture extrieure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.13 Transferts thermiques lchelle dun composant lectronique . . . . . . . . . . 17
1.14 Rayonnement thermique entre deux surfaces . . . . . . . . . . . . . . . . . . . . 19
1.15 Divers types dchangeurs tubulaires . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.16 Echangeur de chaleur IBM pour baie informatique . . . . . . . . . . . . . . . . . 20
1.17 Aquasar : IBM Bladecenter QS22 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1.18 Refroidissement par immersion dans de lhuile minrale . . . . . . . . . . . . . 22
1.19 Schma de principe dun caloduc . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
1.20 Diffrentes formes de caloducs pour le refroidissement de composants . . . . . 24
1.21 Schma de principe dune boucle diphasique gravitaire . . . . . . . . . . . . . . 24
1.22 Schma de principe dune boucle fluide diphasique pompage thermocapillaire 25
1.23 Boucles diphasiques ddies au refroidissement de composants . . . . . . . . . 26
1.24 Refroidissement liquide par bullition . . . . . . . . . . . . . . . . . . . . . . . . . 26
1.25 Systmes dimmersion pour serveurs avec du 3M Novec . . . . . . . . . . . . . . 27
1.26 Exemples de systmes de rcupration de lnergie . . . . . . . . . . . . . . . . . 28
1.27 Valeur conomique de chaleur pour diffrents procds de refroidissement . . 28

2.1 Baie quipe des serveurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31


2.2 Identification des principaux composants dun serveur . . . . . . . . . . . . . . 32
2.3 Emplacement des thermocouples dans un serveur instrument . . . . . . . . . 33
2.4 Schma du dispositif exprimental sans changeur . . . . . . . . . . . . . . . . . 34
2.5 Schma du dispositif exprimental avec changeur . . . . . . . . . . . . . . . . . 35
2.6 Disposition des thermocouples en entre et sortie dchangeur . . . . . . . . . . 35
2.7 Dbits dair mesur en fonction de la temprature dair en entre (baie et serveur) 37
2.8 Tempratures des composants en fonction de la puissance dissipe et de la
temprature dair en entre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.9 Evolution spatiale des tempratures dans les serveurs . . . . . . . . . . . . . . . 38
2.10 Bilans lectrique et thermique de la baie sans changeur . . . . . . . . . . . . . 39
2.11 Dbit dair en fonction de la temprature dentre de la baie avec changeur . . 40

iii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.12 Tempratures des composants en fonction de la puissance dissipe et de la
temprature dair en entre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
2.13 volution des tempratures dair dans les serveurs en fonction de la tempra-
ture dair en entre et de la puissance (avec changeur) . . . . . . . . . . . . . . 42
2.14 Bilans lectrique et thermique de la baie avec changeur . . . . . . . . . . . . . 44
2.15 Schma du modle nodal de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . 46
2.16 Schma du modle nodal de lchangeur . . . . . . . . . . . . . . . . . . . . . . . 47
2.17 Schma de principe de la procdure didentification . . . . . . . . . . . . . . . . 48
2.18 Squence didentification : variations des paramtres opratoires . . . . . . . . 49
2.19 Squence didentification : volutions des tempratures des serveurs . . . . . . 49
2.20 Squence didentification : volutions des tempratures de lchangeur . . . . . 50
2.21 Variations des conductances de la baie en fonction des paramtres opratoires 50
2.22 Variations des conductances de lchangeur en fonction des paramtres op-
ratoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.23 Identification : comparaison exprimental/numrique du modle de la baie . . 53
2.24 Identification : comparaison exprimental/numrique du modle de lchan-
geur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
2.25 Squence de validation : paramtres opratoires . . . . . . . . . . . . . . . . . . 54
2.26 Validation du modle de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.27 Validation du modle de lchangeur . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.28 Sensibilit des tempratures du modle de la baie aux variations des conduc-
tances thermiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.29 Sensibilit des tempratures du modle de lchangeur aux variations des conduc-
tances thermiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

3.1 Description des changes thermiques lors du refroidissement par plaques froides 59
3.2 Description des plaques froides . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.3 Schma global de linstallation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.4 Placement global des thermocouples dans un serveur et une plaque froide . . . 62
3.5 Evolution de la temprature de la RAM et de la consommation des ventilateurs
en fonction du dbit dair (Taent r e ' 25C) . . . . . . . . . . . . . . . . . . . . . . 63
3.6 Influence du dbit dair sur les composants refroidis par contact en fonction
de la puissance (Taent r e ' 25C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.7 Evolution des tempratures dair le long des serveurs en fonction du dbit dair
et de la puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.8 Variations des paramtres opratoires au cours du temps . . . . . . . . . . . . . 65
3.9 Profils de tempratures des faces externes des plaques froides et des botiers
des serveurs au cours du temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3.10 Profils des tempratures des composants et de la plaque froide en fonction du
temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.11 Influence du dbit deau sur les composants refroidis par contact en fonction
de la puissance (Taent r e ' 30C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.12 Evolution des gradients de tempratures sous les composants . . . . . . . . . . 68
3.13 Evolution des tempratures dair le long des serveurs en fonction du dbit deau
et de la puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.14 Puissance thermique cde leau et lair en fonction du dbit deau et de la
puissance lectrique consomme (Taent r e ' 30C) . . . . . . . . . . . . . . . . . . 69
3.15 Schma du modle nodal dun serveur et dune plaque froide . . . . . . . . . . . 72
3.16 Squences didentification : variations des paramtres opratoires . . . . . . . . 73
3.17 Squences didentification : volutions des tempratures du systme . . . . . . 73

iv
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.18 Squences didentification : validation des tempratures du systme . . . . . . 76
3.19 Squences de validation : paramtres opratoires . . . . . . . . . . . . . . . . . . 77
3.20 Squence de validation : comparaison des tempratures . . . . . . . . . . . . . . 77
3.21 Sensibilit des tempratures du modle "plaque froide-serveur" . . . . . . . . . 78

4.1 Banc dessai du refroidissement par immersion (huile minrale) . . . . . . . . . 81


4.2 Instrumentation des serveurs immergs dans lhuile minrale . . . . . . . . . . 82
4.3 Estimations des coefficients dchanges convectifs pour diffrents fluides . . . 83
4.4 Immersion dans lhuile : paramtres opratoires 40C . . . . . . . . . . . . . . 84
4.5 Profils de tempratures des serveurs (huile, 40C) . . . . . . . . . . . . . . . . . . 85
4.6 Immersion dans lhuile : paramtres opratoires 30C . . . . . . . . . . . . . . 86
4.7 Profils de tempratures des serveurs (huile, 30C) . . . . . . . . . . . . . . . . . . 87
4.8 Courbe dbullition libre et des diffrents rgimes observs en fonction de la
surchauffe de la paroi et du flux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
4.9 Schma du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
4.10 Photographies de linstallation du refroidissement diphasique et instrumenta-
tion des serveurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
4.11 Refroidissement diphasique : paramtres opratoires pour un serveur . . . . . 92
4.12 Evolution des tempratures dun serveur et du condenseur en fonction du temps 93
4.13 Evolution des tempratures des phases vapeur/liquide et de la pression relative
au cours du temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
4.14 Estimation des flux thermiques et de la puissance lectrique consomme au
cours du temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
4.15 Refroidissement diphasique : paramtres opratoires avec sept serveurs . . . . 95
4.16 Evolution des tempratures des serveurs en fonction du temps . . . . . . . . . . 95
4.17 Evolution des tempratures des phases vapeur/liquide . . . . . . . . . . . . . . . 95
4.18 Comparaison de la puissance lectrique consomme et de la puissance ther-
mique cde au condenseur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
4.19 Cots annuels estims des diffrents systmes de refroidissement en fonction
des annes de fonctionnement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
A.1 Serveur informatique avec dissipateurs thermiques . . . . . . . . . . . . . . . . . 105
A.2 Simulation de panne du refroidissement sans changeur air/eau . . . . . . . . . 106
A.3 Simulation de panne du refroidissement avec changeur air/eau . . . . . . . . . 107
A.4 Simulation de panne du refroidissement avec plaques froides PMIN . . . . . . 108
A.5 Simulation de panne du refroidissement avec plaques froides PMAX . . . . . . 108
A.6 Masse volumique en fonction de la temprature . . . . . . . . . . . . . . . . . . . 111
A.7 Chaleur spcifique en fonction de la temprature . . . . . . . . . . . . . . . . . . 112
A.8 Conductivit thermique en fonction de la temprature . . . . . . . . . . . . . . . 112
A.9 Viscosit cinmatique en fonction de la temprature . . . . . . . . . . . . . . . . 113
A.10 Visualisation des bulles lors du refroidissement diphasique . . . . . . . . . . . . 114
A.11 Visualisation des bulles lors du refroidissement diphasique (ancienne configu-
ration) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
A.12 Tableau comparatif des diffrents modes de refroidissement . . . . . . . . . . . 116
A.13 Dtail des donnes utilises pour le calcul du retour sur investissement . . . . . 117

v
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Liste des tableaux

1.1 Comparaison des performances nergtiques entre processeurs Intel et ARM . 10


1.2 Proprits thermo-physique de lair et leau 20C . . . . . . . . . . . . . . . . . 16
1.3 Ordres de grandeurs de la conductivit thermique pour diffrents matriaux . . 17
1.4 Ordres de grandeur du coefficient dchange convectif . . . . . . . . . . . . . . . 18

2.1 Principales dimensions du dispositif exprimental . . . . . . . . . . . . . . . . . 31


2.2 Principaux composants dun serveur . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.3 Capteurs et leurs incertitudes de mesures . . . . . . . . . . . . . . . . . . . . . . . 34
2.4 Incertitudes de mesures pour le dbit deau . . . . . . . . . . . . . . . . . . . . . 36
2.5 Tempratures et humidit relative moyennes (sans changeur) . . . . . . . . . . 39
2.6 Tempratures, humidit relative et efficacits moyennes . . . . . . . . . . . . . . 43
2.7 Calcul de lefficacit nergtique du refroidissement de la baie avec changeur 45
2.8 Expressions des conductances du modle de la baie . . . . . . . . . . . . . . . . 51
2.9 Identification des capacits thermiques pour le modle de la baie . . . . . . . . 52
2.10 Identification des capacits thermiques pour le modle de lchangeur . . . . . 52

3.1 Valeurs des tempratures maximales recommandes des composants . . . . . . 65


3.2 Consommation lectrique dtaille du refroidissement par plaques froides . . 70
3.3 Valeurs initiales pour lidentification des conductances thermiques . . . . . . . 74
3.4 Rsultats de lidentification des conductances thermiques quivalentes . . . . 74
3.5 Identification des capacits thermiques pour le modle dun serveur et dune
plaque froide . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75

4.1 Efficacit nergtique du refroidissement par immersion dans de lhuile . . . . 87


4.2 Bilans nergtiques du refroidissement par immersion (diphasique) . . . . . . . 96
4.3 Efficacits nergtiques des diffrents modes de refroidissement tudis . . . . 98
A.1 Valeurs du CEF en fonction de limplantation des centrales de production lec-
trique (Etats-Unis) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
A.2 Panne du refroidissement sans changeur air/eau : dure critique avant arrt
des serveurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
A.3 Panne du refroidissement avec changeur air/eau : dure critique avant arrt
des serveurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

vi
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Nomenclature

Cp Chaleur spcifique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . J.kg 1 .K 1


h Coefficient dchange de chaleur par convection . . W.m 2 .K 1
HR Humidit relative . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . %
L Longueur caractristique . . . . . . . . . . . . . . . . . . . . . . . . . . . m
Lv Chaleur latente de vaporisation . . . . . . . . . . . . . . . . . . . . J.kg 1
Nu Nombre de Nusselt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
p Pression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Pa
P Puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . W
qm Dbit massique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . kg .s 1
qv Dbit volumique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . m 3 .s 1
Ra Nombre de Rayleigh . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Re Nombre de Reynolds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
S Surface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . m2

T Temprature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . C

Symboles grecs

Conductivit thermique . . . . . . . . . . . . . . . . . . . . . . . . . . . . W.m 1 .K 1


Densit de flux de chaleur . . . . . . . . . . . . . . . . . . . . . . . . . . W.m 2
Flux de chaleur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . W
Masse volumique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . kg .m 3
Temprature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
C

Acronymes

ASHRAE American Society of Heating, Refrigerating and Air-conditioning


Engineers
CEF Carbon dioxide Emission Factor
CFD Computational Fluid Dynamics
COP Coefficient de Performance
CUE Carbon Usage Effectivness
DCEM Data Center Energy Management
DCiE Data Center infrastructure Efficiency
EER Energy Efficiency Ratio
ERF Energy Reuse Factor
ETSI European Telecommunications Standards Institute
GEC Green Energy Coefficient
HDD Hard Drive Disk
IT Information Technologies
KPI Key Performance Indicator
PDU Power Distribion Unit
PUE Power Usage Effectivness
SSD Solid State Drive
TGBT Tableau Gnral Basse Tension
UPS Uninterruptible Power Supply

vii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Introduction

En raison du dveloppement rapide des nouvelles technologies de linformation et des


communications (dbits croissants, services plus complexes,...), lis aux volutions techno-
logiques constantes des quipements informatiques (montes en frquence des puces, mul-
tiplication du nombre de curs), la densit de puissance dissipe par les quipements pro-
gresse significativement au fil du temps [1]. Pour assurer le maintien de ces derniers dans des
plages de tempratures et dhygromtrie acceptables, les oprateurs de tlcommunication
sont contraints demployer des dispositifs de climatisation fortement nergivores. En effet,
plus de 99% de lnergie fournie aux quipements informatiques est transforme en cha-
leur. Dautre part, en gnral les systmes de climatisation sont redondants et rgls dans
des plages de temprature et dhumidit restreintes. Du fait de la densit de puissance ins-
talle, larrt dun systme de refroidissement provoquerait une augmentation importante
de la temprature en quelques minutes, et donc, un arrt des quipements informatiques. Il
savre que les systmes de refroidissement et dalimentation en nergie consomment sou-
vent autant dlectricit que les systmes informatiques [2].
La situation diffre suivant que lon sintresse des quipements conformes aux normes
tlcoms (salles de commutations ou de transmission, stations de base) ou des quipements
de data centers (quipements informatiques, serveurs, disques durs). Ces derniers regroupent
des quipements pour linstant plus sensibles (i.e. devant tre maintenus dans des plages de
temprature et dhygromtrie plus restreintes) [3]. La rduction de la consommation ner-
gtique des centres de donnes constitue donc un challenge que les principaux acteurs (t-
lphonie, internet, hbergement, etc.) vont devoir relever.
Un centre de donnes ou data center est un site comportant des salles de grande sur-
face qui hberge les serveurs informatiques, les baies de stockage de donnes et des salles
techniques ddies lalimentation lectrique et la climatisation. Dans un data center le
maintien en temprature des serveurs est le plus souvent ralis par un flux dair issu dun
systme de climatisation. Outre lutilisation de btiments non adapts au problme, lun des
facteurs limitant la baisse de la consommation de la climatisation est lutilisation de lair en
tant que fluide caloporteur pour refroidir lensemble dune salle. Ces limitations sont telles
que les nouveaux supercalculateurs sont dores et dj refroidis par des systmes de refroi-
dissement liquide (Bull, IBM, etc).
La gnralisation de cette technologie lensemble des data centers requiert une antici-
pation afin dtre en mesure de dployer une architecture de refroidissement optimise (en
terme de refroidissement et de consommation nergtique), simple maintenir et aux cots
matriss.
Par ailleurs, lexploitation dun liquide comme fluide caloporteur permet denvisager dif-
frentes voies pour une valorisation de la chaleur rcupre.

Afin de rpondre ces enjeux, une dmarche exprimentale consquente a t mise en


uvre dans le cadre de cette thse afin de tester et dvaluer quatre solutions de refroidisse-
ment dquipements rels. Ces tudes ont ncessit la conception et la ralisation de pilotes.
En parallle une dmarche numrique de modlisation a t entreprise pour deux solutions.

1
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Aprs un descriptif des datas center et du contexte nergtique, le premier chapitre du
mmoire dresse un tat de lart des mthodes de refroidissement existantes qui utilisent
comme fluide caloporteur lair ou un liquide. La dernire partie de ce chapitre introduit les
possibilits de rcupration dnergie.
Le second chapitre est ddi lvaluation des performances dun systme de refroidis-
sement eau : un changeur air/eau est plac en sortie de baie afin de rcuprer les calories
du flux dair chaud. Afin de raliser des tests avec des quipements rels (baie informatique,
serveurs,...) une exprimentation consquente a t mise en uvre. Linstrumentation per-
met de suivre les tempratures au sein des serveurs et de disposer dun bilan nergtique
complet et prcis de cet quipement pilote.
Cet ensemble est test dans une enceinte, en faisant varier les diffrents paramtres op-
ratoires (puissance, tempratures dair et deau, dbits des fluides). Lanalyse et lexploitation
des squences de mesures permet la dtermination dindicateurs defficacit nergtique et
le dveloppement dun modle numrique pour la prdiction en transitoire de la rponse
thermique dun ensemble baie-changeur.
Le troisime chapitre est consacr au refroidissement localis des serveurs par le biais
de plaques froides mtalliques dont le refroidissement est assur par une circulation deau
interne. A chaque serveur est associe une plaque froide quipe de plots afin dobtenir un
contact direct avec les composants lectroniques de plus fortes puissances. Ces tudes ont
ncessit la dfinition et le dveloppement de prototypes dchangeurs. Une exprimen-
tation est mise en place pour plusieurs serveurs, avec une instrumentation complte afin
daboutir une analyse dtaille du fonctionnement. Ces exprimentations servent gale-
ment au dveloppement et la validation de modles numriques simplifis destins pr-
dire limpact nergtique du dploiement de cette seconde solution lchelle dune baie
complte, puis dune salle.
Le dernier chapitre est consacr la dfinition et lexprimentation de deux solutions de
refroidissement par immersion. La premire consiste immerger les quipements dans une
huile minrale dont la temprature est comprise entre 30 et 40C, tandis que la seconde met
en jeu un fluide diphasique qui va changer de phase au niveau des composants qui dissipent
le plus de chaleur. Un onglet technico-conomique vient en complment afin de dmontrer
lintrt de chacune des solutions tudies.

2
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1

Etat de lart

Sommaire
1.1 Les data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.1 Descriptif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.2 Bilan et enjeux nergtiques . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 Climatisation des data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 Production de froid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Free cooling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.3 Influence de lenveloppe du btiment . . . . . . . . . . . . . . . . . . . . 13
1.2.4 Analyse critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Vers le refroidissement liquide . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Modes de refroidissement . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3.2 Refroidissement monophasique . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 Refroidissement diphasique . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.3.4 Potentiels de rutilisation de la chaleur . . . . . . . . . . . . . . . . . . . 27
1.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

Afin de cerner les diffrents enjeux de la thse, ce chapitre fait un tat de lart sur le re-
froidissement des data center en mettant laccent sur la problmatique nergtique.
La premire partie prsente un tat des lieux de larchitecture et des diffrents quipe-
ments prsents dans les centres de donnes. Les enjeux nergtiques et conomiques sont
galement prciss, notamment ceux relatifs au bon fonctionnement des quipements de
data centers.
Les mthodes et les moyens mis en uvre pour climatiser les data centers sont ensuite in-
troduits. Nous nous intressons en particulier aux procds de production de froid et aux
diffrents modes de fonctionnement de la climatisation. Linfluence de lenveloppe des b-
timents est galement analyse du fait de son incidence sur la consommation des data cen-
ters. Une analyse critique est alors mene pour bien apprhender lintrt de la recherche de
nouvelles solutions de refroidissement,
Aprs avoir dcrit les diffrents types dchanges thermiques qui existent lchelle dun
composant lectronique, une tude bibliographie centre sur le refroidissement liquide fait
lobjet de la dernire partie de ce chapitre. Nous nous intressons en particulier aux avan-
tages potentiels de lutilisation dun liquide comme fluide caloporteur.

3
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

1.1 Les data centers


1.1.1 Descriptif
Un data center, ou centre de donnes, est un site comportant une ou plusieurs salles de
grande surface (par exemple, 20000m 2 sont prvus pour le data center dOrange situ Val
de Reuil) hbergeant un grand nombre de serveurs informatiques, de baies de stockage, ainsi
que des locaux techniques ddis lalimentation lectrique et la climatisation (Figure 1.1).

F IGURE 1.1 Architecture globale dun data center [4]

1 interne Orange
Le btiment est aliment en lectricit par une ou plusieurs arrives Haute Tension, cou-
ples des groupes lectrognes utiliss lors de pannes de courant [5]. Cette Haute Tension
est ensuite convertie en Basse Tension par des transformateurs et des TGBT (Tableau Gn-
ral Basse Tension) prsents dans les salles dalimentation lectrique. Afin dassurer la scu-
rit des quipements informatiques, les data centers disposent donduleurs (UPS, Uninter-
ruptible Power Supply). Ces appareils permettent entre autres de protger les quipements
des surtensions, et de les secourir (une dizaine de minutes maximum) lors de pannes lec-
triques laide de nombreuses batteries de secours. Pour terminer, les onduleurs alimentent
les armoires lectriques des baies informatiques, ou Power Distribution Unit (PDU). Les
autres systmes (climatisation, auxiliaires) peuvent tre galement aliments par les UPS ou
branchs directement aux TGBT. A noter que chaque raccordement ou cblage peut induire
une baisse du rendement global des installations (pertes en ligne). En gnral, le rendement
des chanes dalimentation en nergie est compris entre 90 et 95%.
Les quipements informatiques (serveurs, stockage, rseau) consomment une grande
quantit dnergie lectrique. La quasi-totalit de la puissance consomme par ces qui-
pements est convertie en puissance thermique par effet Joule, ce qui induit des apports de

4
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers

chaleur importants au niveau des baies informatiques. Les puissances dissipes par les ser-
veurs peuvent varier dune centaine de watts plusieurs milliers en fonction de leur taille et
de leurs caractristiques [6]. Les densits de puissance dans les salles informatiques peuvent
alors dpasser les 3kW/m 2 pour les data centers les plus rcents [7, 8]. Afin dassurer le bon
fonctionnement des quipements informatiques, il est ncessaire de les refroidir et dva-
cuer la chaleur hors de ces salles. Il est intressant de noter que la densit de puissance em-
ploye pour le dimensionnement des alimentations lectriques est exprime en W/m 2 , alors
quil serait plus judicieux dexprimer la densit de puissance en W/m 3 pour le dimension-
nement de la climatisation (impact de la hauteur des plafonds).

1.1.1.1 Amnagement des salles informatiques

Pour refroidir efficacement les quipements informatiques, il est ncessaire dagencer les
salles informatiques (disposition des baies et des climatiseurs) afin de permettre le passage
de lair froid et de limiter lapparition de points chauds, i.e. de tempratures trop leves en
face avant des baies, pouvant occasionner la dgradation et larrt des serveurs (non respect
des normes climatiques). Il est donc important de bien configurer les coulements dair afin
dempcher la prsence de ces points chauds, do une configuration en alles chaudes et
alles froides rgulirement utilise dans les data centers (cf. Figure 1.2). Lair froid issu de la
climatisation passe sous un faux plancher pour tre introduit dans la salle par des dalles per-
fores. Il est ensuite aspir en face avant des baies et est expuls en face arrire. Lair chaud
obtenu est repris par les climatiseurs, et les calories sont ensuite rejetes vers lextrieur.
Cette disposition des baies permet dviter les mlanges entre air froid et air chaud, limi-
tant ainsi le rchauffement de lair mis par les dalles perfores. Les recirculations nuisent
effectivement lefficacit nergtique car lair arrive une temprature plus haute en face
avant des baies, ce qui pousse abaisser les consignes de temprature en soufflage. Cette
opration entrane laugmentation de la consommation lectrique ddie la climatisation.

F IGURE 1.2 Disposition de baies informatiques en alles chaudes/alles froides [9]


2 interne Orange

La disposition des baies informatiques en alles froides et alles chaudes peut tre ren-
force par la mise en place de confinements afin de rduire au maximum les recirculations
dair. Le confinement consiste isoler une zone regroupant un certain nombre de baies,
laide de parois physiques, pour empcher toute interaction entre lair froid et lair chaud
[10]. Les deux types de confinement possibles sont illustrs sur la figure 1.3, avec des perfor-
mances nergtiques meilleures dans le cas du confinement en alles chaudes [11].

5
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

F IGURE 1.3 Confinement des alles froides ( gauche) et des alles chaudes ( droite) [12]

1.1.1.2 Normes climatiques


3 interne Orange
La consommation nergtique dun data center dpend galement des plages clima-
tiques (temprature et humidit relative) maintenues. La situation diffre suivant que nous
nous intressons des quipements tlcoms classiques (commutation, transmission, ADSL)
ou des quipements de data centers (serveurs, stockage, rseau). Il existe deux normes pour
la dfinitions des plages climatiques : les normes ETSI [13] et celles de lAmerican Society of
Heating, Refrigerating and Air-Conditioning Engineers (ASHRAE), consortium de socits du
domaine de lingnierie et quipements informatiques [3]. Les normes de la seconde entit
obissent des plages climatiques beaucoup plus restreintes, comme le montre la figure 1.4.

4 interne Orange

F IGURE 1.4 Diagramme des normes des plages climatiques des quipements lectroniques

La norme ASHRAE est tablie et reconnue par de nombreux fabricants dquipements


informatiques. Toutefois, de telles plages climatiques conduisent une surconsommation
du systme de conditionnement dair. Une solution pour amliorer lefficacit nergtique
serait donc dlever la temprature de consigne de la climatisation [14, 15, 16] afin de dimi-
nuer la puissance de froid ncessaire au refroidissement des quipements informatiques.

6
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers

1.1.1.3 Refroidissement des quipements

La technique la plus frquemment employe pour le maintien des conditions de temp-


rature et dhygromtrie consiste utiliser une climatisation en recyclage. Cela signifie que
lair de la salle climatiser est en permanence refroidi sans apport dair extrieur (cf. fi-
gure 1.5). Des systmes de dshumidification et dhumification de lair sont conjointement
utiliss pour maintenir le taux dhumidit relative dans les plages donnes par les normes
climatiques. Ces oprations sont extrmement nergivores : pour humidifier lair, il faut va-
poriser de leau tandis que pour le dshumidifier, il faut refroidir lair pour atteindre le point
de rose voire le rchauffer ensuite pour revenir une temprature de soufflage acceptable.

5 interne Orange

F IGURE 1.5 Schma typique de production de froid dans un data center

Au niveau des climatiseurs, des dbits dair importants sont ncessaires afin dvacuer
efficacement la chaleur mise par les quipements informatiques, ce qui pse sur le bilan
nergtique de la climatisation en recyclage. Une autre consquence directe de cette venti-
lation importante est la gnration de bruit, qui peut devenir une gne importante pour les
employs dans certains cas [17]. La maintenance associe est galement trs coteuse. De
plus, ces units utilisent des fluides frigorignes souvent nocifs pour lenvironnement. Par
exemple, lemploi du rfrigrant R22, trs rpandu dans les anciens climatiseurs, est proscrit
depuis 2004 pour les nouveaux appareils, jusqu son interdiction totale en 2015 pour son
effet nfaste sur la couche dozone.

1.1.2 Bilan et enjeux nergtiques


1.1.2.1 Contexte conomique et environnemental

En 2005, la consommation lectrique des data centers reprsentait 1% de la consom-


mation lectrique mondiale [18]. Ensuite, entre 2007 et 2012, elle a augment de plus de
50% et la consommation lectrique des data centers est value 1, 8% de la consommation
mondiale [1]. De plus, avec la hausse du cot de llectricit, la facture nergtique des data
centers salourdit au fil des annes. La densit de puissance des quipements installs a t
multiplie par 16 depuis 1992 (cf. Figure 1.6).

7
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

(a) Consommation nergtique des data centers (b) Densit de puissance installe

6 interne Orange
F IGURE 1.6 Prdictions de lvolution
7 des puissances consommes par les data centers
interne Orange

Limpact cologique est galement loin dtre ngligeable : publie en 2008 par Climate
Group, ltude Smart 2020 [19] soulignait que les missions de gaz effets de serre lies aux
data centers devraient augmenter de 7% par an jusquen 2020, et quelles devraient atteindre
12% des missions de C02 travers le monde. Le nombre de centres de donnes devrait lui
augmenter de 9% par an sur cette priode. Au niveau mondial, les data centers sont respon-
sables dune empreinte carbone plus importante que celles de certains pays comme lArgen-
tine ou les Pays-Bas.

1.1.2.2 Indicateurs defficacit nergtique

Pour estimer le rendement et comparer la consommation lectrique des data centers, il


est ncessaire de disposer dindicateurs defficacit nergtique admis par tous. The Green
Grid est un consortium but non lucratif regroupant des industriels de linformatique, et
dont les efforts portent sur la rduction de la consommation nergtique des centres de
donnes par le biais de normes et de standards. The Green Grid a dfini entre autres le Power
Usage Effectiveness (PUE) pour calculer lefficacit nergtique dun data center [20, 21] :

Ener g i e t ot al e consomm ee par l e d at acent er


PUE = (1.1)
par l es equi
Ener g i e ut i l i s ee pement s i n f or mat i ques

Par dfinition, ce rapport ne peut tre infrieur 1. Dun point de vue nergtique, un
PUE de 1 reprsenterait une efficacit optimale pour le data center. Toutefois, cela sous-
entendrait que le data center en question ne dispose daucun quipement destin au re-
froidissement ou la scurit des quipements informatiques. De plus, cet indicateur est
critiquable [22, 23] car lnergie lectrique consomme par les ventilateurs des serveurs est
comptabilise dans lnergie consomme par les serveurs. Or dans le cas o il ny aurait plus
de ventilateurs, la valeur du PUE serait plus leve que dans le cas "avec ventilateurs", ce qui
est contradictoire du fait des conomies ralises en retirant les ventilateurs.
Le PUE prend galement en compte les diffrents niveaux de redondance et de dispo-
nibilits de linfrastructure, qui sont classs par niveau, nomms TIER, allant de I IV (cor-
respondant respectivement une disponibilit de 99, 671% et 99, 995%) selon lUptime Insti-
tute [24]. Daprs Garimella et al. [17], les valeurs typiques de PUE des data centers seraient

8
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers

situes entre 1, 3 et 2, 7. Les valeurs typiques sont en moyenne autour de 1,6, et peuvent des-
cendre jusqu 1,2 [25]. Compte tenu des nombreux facteurs influenant le PUE, il est impor-
tant de soumettre le rsultat dun calcul de PUE certaines prcisions comme la localisation
du data center (en raison de limpact des conditions extrieures sur le systme de refroidis-
sement) et les plages de temprature et dhygromtrie maintenues [26].
Le Data Center infrastructure Efficiency (DCiE) est un second indicateur defficacit ner-
gtique qui exprime le rendement nergtique du data center et qui nest autre que linverse
du PUE.
Depuis janvier 2013, lETSI (European Telecommunications Standards Institute) a dfini
un nouvel indicateur defficacit pour les data centers appel le Data Center Energy Ma-
nagement (DCEM) [27]. Lindicateur defficacit nergtique KPIDCEM est compos de deux
grandeurs, DCG et DCP :
la premire, DCG , permet de dfinir la "taille" dun data center par rapport sa consom-
mation nergtique. Elle dpend uniquement du KPIEC ;
la seconde, DCP , dfinit la performance nergtique du data center pour une "taille"
donne. Elle est calcule par le biais de la formule suivante :

DCP = KPITE (1 WREUSE KPIREUSE ) (1 WREN KPIREN )


o WREUSE et WREN sont des facteurs correctifs compris entre 0 et 1 qui dpendent de
la "taille" du data center (la valeur par dfaut tant 0.5).
Les diffrents termes intituls KPI sont calculs sur une anne et sont dfinis ci-dessous :
KPIEC : nergie totale consomme par le data center ;
KPITE : dfinition du PUE introduite ci-dessus ;
KPIREUSE : fraction de lnergie rutilise par le data center sur lnergie totale consom-
me ;
KPIREN : fraction de lnergie provenant de sources renouvelables sur lnergie totale
consomme par le data center

(a) "Tailles" (b) Classes de DCP

F IGURE 1.7 "Tailles" et classes de lindicateur defficacit nergtique DCEM [27]


Il existe galement dautres indicateurs qui permettent de mettre en vidence diffrents
aspects nergtiques des data centers, dfinis dans le document [28] (cf. annexe A.1). Il est
intressant de noter que pour le moment, aucun indicateur ne permet de caractriser le ser-
vice rendu par un data center (informations traites ou stockes, dbit, etc..).
8 interne Orange

Pour mettre en place des solutions qui permettront de rduire la consommation des
data centers, il faut dabord sintresser la rpartition moyenne de cette consommation. Le
conditionnement de lair occupe une proportion importante de la consommation totale [29],
comme nous pouvons le constater sur la figure 1.8, illustrant le cas dun data center typique.

9
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

Le reste de la consommation est majoritairement d au fonctionnement de linformatique,


et environ 14% sont dus aux auxiliaires et au rendement des alimentations lectriques.

F IGURE 1.8 Rpartition moyenne de la consommation dun data center [2]

1.1.2.3 volutions technologiques

Des tudes ont t menes afin de rendre les serveurs informatiques moins nergivores,
notamment par le biais de la rduction de la consommation des ventilateurs internes des
quipements [30], ou par des avances technologiques dans le domaine des composants
lectroniques.

Ce sont les processeurs qui consomment les plus grandes quantits dnergie dans un
serveur. Afin de rduire cette consommation, les constructeurs sorientent vers des volu-
tions plus conomes en nergie. La modification de larchitecture des processeurs permet
aux puces ARM de concurrencer les architectures x86 en termes de consommation nerg-
erne Orange
tique. Blem et al. [31] ont montr quun processeur Intel i7 consommait quinze fois plus
quun ARM-A8. Toutefois, les ARM ont des performances infrieures aux processeurs Intel,
comme lindique le tableau 1.1.

TABLEAU 1.1 Comparaison des performances nergtiques entre processeurs Intel et ARM [32]

Power (Watts) Time (s)


Operation
ARM Intel ARM Intel

Full table scan 3.56 45.93 119.3 88.27

Update 3.50 44.25 60.24 14.42

Insert 3.47 44.13 51.39 12.26

Delete 3.48 43.98 43.23 8.73

Pour le stockage de donnes, les disques durs classiques (HDD, Hard Drive Disk) vo-
luent vers des SSD (Solid-State Drive). Les premiers sont constitus de pices mcaniques,
de ttes dcriture/lectures et de plateaux mobiles, tandis que les seconds permettent le sto-
ckage des donnes sur de la mmoire flash. Des tudes [33] ont t menes afin de com-
parer les performances nergtiques de chacun, notammant par Cheong et al. [34, 35] qui
ont montr quun SSD tait 22 fois plus performant quun HDD et 138% moins nergivore.
Des inconvnients majeurs subsistent nanmoins : le cot en capacit de stockage est net-
tement plus lev pour un SSD et le nombre de cycles possibles est infrieur compar un

10
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers

HDD classique, do la mise en place de solutions hybrides [36].

Limpact matriel peut galement tre rduit par la virtualisation, qui consiste installer
des serveurs virtuels sur un mme support physique afin de faire fonctionner un plus grand
nombre dapplications. Cela permet de minimiser les cots de maintenance et de refroidis-
sement quauraient engendrs la prsence de plusieurs serveurs physiques [37, 38, 39].

Toutefois, ces volutions technologiques ne semblent pas freiner suffisamment la mon-


te en puissance des data centers. Daprs le bilan nergtique tabli prcdemment (Fi-
gure 1.8), le conditionnement dair occupe une majeure partie de la consommation lec-
trique des data centers, voire autant que la consommation des serveurs [40, 41]. Le principal
levier dinnovation rside donc dans les systmes de climatisation, avec la cl de possibles
rductions nergtiques.

1.2 Climatisation des data centers


La puissance thermique dissipe par les quipements informatiques ncessite un refroi-
dissement constant pour assurer leur bon fonctionnement et maximiser leur dure de vie.
Cest pourquoi il est ncessaire de mettre en place des systmes dvacuation de la chaleur
efficaces dans les data centers. Afin davoir une vision globale des diffrents dispositifs exis-
tants, il convient de recenser les mthodes de conditionnement dair dployes dans les data
centers lheure actuelle, et den expliquer le principe de fonctionnement.
Le refroidissement des quipements informatiques est assur dans un premier temps par
la production dair froid, par le biais des machines frigorifiques, et dans un second temps par
lacheminement de celui-ci au plus prs des composants grce une ventilation importante.

1.2.1 Production de froid


La production de froid dans les data centers est principalement assure par lutilisation
de machines frigorifiques compression mcanique [42]. Le principe de fonctionnement
dune telle machine est dcrit, ainsi que ses principaux inconvnients.
Une machine frigorifique classique, i.e. compression mcanique, permet dextraire une
quantit dnergie calorifique dun milieu refroidir (source froide) pour la cder un autre
(source chaude) par le biais de changements dtat, moyennant un apport nergtique. Une
machine compression est constitue des lments suivants (voir figure 1.9.a) : un conden-
seur, un compresseur, un vaporateur et un dtendeur. Lefficacit dune telle machine est
donne par le coefficient de performance EER (appel aussi COPFr oi d ), dfini comme le ra-
tio entre la quantit dnergie extraite de la source froide et lnergie consomme par le sys-
tme. Il peut tre galement prsent comme le rapport de la puissance frigorifique obtenue
la source froide sur la puissance lectrique consomme par la climatisation. Les valeurs
usuelles dEER rencontres peuvent varier entre 2.5 et 5 pour les meilleures installations.
Dans le bilan nergtique de linstallation, cest le compresseur qui consomme une quantit
importante dlectricit, le reste de la consommation provenant des autres organes (ventila-
teurs, circulateurs deau, etc...).

La figure 1.9.a reprsente le schma du circuit dune machine frigorifique cycles mono-
tags tandis que la figure 1.9.b reprsente lvolution des tempratures le long des chan-
geurs lors dun cycle de compression/vaporation. Lors dun cycle, le rfrigrant, basse
pression p F et sous forme gazeuse, entre dans le compresseur pour en ressortir la pression
p C , suprieure p F . Sa temprature C est suprieure la temprature de la source froide c1 .

11
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

Il va alors se condenser son contact en lui cdant de la chaleur, on a alors C > c2 > c1 . Le
rfrigrant sous forme liquide passe ensuite dans le dtendeur, sa pression passant p C de
p F . Sa temprature F est maintenant infrieure celle de la source chaude f 1 , laquelle il
va soustraire de la chaleur en svaporant (F < f 2 < f 1 ) : il y a production de froid.

(a) Schma du circuit (b) volution des tempratures

F IGURE 1.9 Cycle frigorifique monotag dEvans-Perkins [42]


Une bouteille accumulatrice de liquide est gnralement place la sortie du conden-
seur, et permet dalimenter en permanence le dtendeur en phase liquide malgr les fluc-
tuations des volumes de liquide frigorigne retenus dans les changeurs.
0 interne Orange
10 interne Orange
Les principaux fluides frigorignes utiliss dans les machines compression peuvent tre
regroups au sein de diffrentes familles compte tenu de leurs proprits physico-chimiques.
Nous y retrouvons les substances inorganiques pures (eau, ammoniac ou dioxyde de car-
bone), les hydrocarbures (butane, propane), les hydrocarbures halogns et dautres pro-
duits rarement utiliss tels que les thers oxydes.

Les inconvnients majeurs des machines compression sont dus au fonctionnement


du compresseur, qui ncessite un apport important en lectricit et implique la prsence
de pices mobiles. Ce systme de climatisation est donc bruyant, et implique une certaine
maintenance. En outre, lemploi de fluides frigorignes est soumis de strictes restrictions,
du fait de leur nocivit sur lenvironnement.

1.2.2 Free cooling


Le paragraphe suivant prsente le principal amnagement mis en place dans les data
centers, savoir lemploi du free cooling. Il sagit dun procd permettant dutiliser lenvi-
ronnement extrieur du data center comme source dair frais (lorsque sa temprature et son
hygromtrie le permettent), et ainsi minimiser la consommation nergtique des machines
frigorifiques [43, 44, 45].

Le free cooling air est de loin le plus rpandu. Lair froid extrieur est directement in-
ject dans le circuit dair de refroidissement des quipements informatiques (voir Figure 1.10).

12
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers

F IGURE 1.10 Free cooling air direct


11 interne Orange
Lintrt du free cooling va dpendre des conditions climatiques locales autour du data
center. Effectivement, plus la temprature extrieure moyenne sur une anne sera basse,
plus ce type de refroidissement sera opportun et efficace. Si lair extrieur devient trop froid,
il est galement possible de mettre en place des salles de brassage, qui vont mlanger cet air
lair chaud repris en salles blanches, afin quil atteigne la bonne temprature. Il faut gale-
ment tenir compte de lhumidit externe et filtrer lair extrieur pour minimiser lapport de
poussires et de polluants, qui peuvent tre en contact avec les quipements informatiques.
La rduction de consommation par rapport une climatisation en recyclage seule est vi-
dente [46, 47]. Les data centers optant pour ce mode de refroidissement annoncent des PUE
plus bas que la moyenne, pouvant atteindre des valeurs proches de 1.3 [48]. Par contre, dans
la plupart des cas, la climatisation reste ncessaire pour passer la priode la plus chaude de
lanne, et la prsence du free cooling na aucun impact sur le dimensionnement de cette
dernire (do une augmentation de linvestissement). Le free cooling est redcouvert par
de nombreux industriels depuis quelques annes, alors que cette technique classique est re-
lativement ancienne. France Telecom la utilise au dbut des annes 1980, et pendant les
annes 1990 pour la climatisation des commutateurs 3G [49].
Dans le cas o lair extrieur ne serait pas conforme aux conditions climatiques souhai-
tes (temprature trop basse, taux dhumidit trop important, air trop pollu), un changeur
air/air peut tre plac dans le circuit de refroidissement du data center : on parle alors de
free cooling air indirect.
Dans le cas o le data center est proximit dune source deau froide, elle peut tre
distribue directement dans le circuit deau glace du centre informatique. Les principales
sources sont les puits canadiens, sur nappe, sur rivire, sur eau profonde de lac ou de mer,
qui permettent dassurer un refroidissement constant tout au long de lanne. Cette eau va
par la suite alimenter chacune des units de climatisation : cest le free cooling eau direct.

1.2.3 Influence de lenveloppe du btiment


Le concept de data center en container est prsent dans ce paragraphe. Il sagit de re-
grouper dans un volume restreint tous les quipements indispensables au fonctionnement
dun data center, avec une conception lgre des parois du contenant (pas dinertie ther-
mique, enveloppe conductrice). Ensuite la solution brevete de btiment exothermique

13
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

parois multicouches dOrange Labs est illustre et ses avantages rappels (abaissement de
la consommation nergtique, maximisation du temps dintervention (dure avant laquelle
les serveurs steignent automatiquement en cas darrt de la climatisation pour viter la
surchauffe), rduction des gradients thermiques, quipements labri des poussires et des
polluants).

1.2.3.1 Data centers en container

En 2009, Google a prsent un nouveau type de data center, introduisant ainsi le prin-
cipe de data center modulaires en container. HP, Microsoft, Sun, et Dell se sont galement
engags sur cette voie [50]. Diffrents types de containers existent, chacun ayant sa propre
configuration de baies informatiques, son type de refroidissement et sa densit de puissance
maximale, pouvant atteindre jusqu 14kW/m 2 [51].

Le concept est simple : il sagit de placer un maximum de serveurs dans des contai-
ners peu diffrents structurellement de ceux utiliss dans le transport de marchandises. Ces
containers sont ensuite disposs dans de grands hangars, ou lair libre. Ils sont quips
de systmes de refroidissement traditionnels, et sont livrs de telle sorte quil ne reste plus
que les divers raccordements effectuer (alimentation lectrique, eau glace, raccords tl-
coms).

Ce concept de container nimplique pas de mthode de conditionnement dair radica-


lement diffrente de ce que nous pouvons trouver dans des data centers classiques. Par
ailleurs, lutilisation du free-cooling est galement possible dans ce type de confinement.
Endo et al. [52] ont test un prototype de container refroidi grce lair extrieur (cf. fi-
gure 1.11), ce systme permettant de rduire la facture nergtique annuelle de 20, 8% par
rapport un refroidissement air ordinaire.

(a) Vue extrieure (b) Disposition intrieur

F IGURE 1.11 Exemple dun data center en container [52]


Le
12 concept de data center en container na donc pas de vocation amliorer intrins-
interne Orange

quement lefficacit nergtique dans la mesure o ce type denveloppe ne permet pas de se


prmunir contre les contraintes extrieures, ni mme de stocker de lnergie.
12 interne Orange
Par ailleurs, labsence totale dinertie thermique conjugue la haute densit de puis-
sance des quipements conduisent des temps dintervention trs bas (de lordre de quelques
minutes). La taille des conteneurs rduit de manire considrable le volume dair disponible
en cas de panne, do ces dlais trs courts [53].

14
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers

1.2.3.2 Btiment exothermique

Orange Labs travaille depuis quelques annes sur les effets de lenveloppe sur la consom-
mation nergtique de la climatisation. Des premires tudes ont t menes sur la climati-
sation simplifie ou ventilation optimise qui consiste utiliser le rafraichissement nocturne
des murs ou de la dalle bton des btiments [14]. Laccent a galement t port sur le d-
veloppement de modles prdictifs et sur lutilisation de matriaux changement de phase.
Lavantage majeur de cette innovation rside dans la rduction de production de froid, in-
duisant des consommations nergtiques importantes.

Le brevet de btiment exothermique [54] repose sur une paroi multicouches qui, travers
ses proprits, va permettre dobtenir des effets multiples :
lisolation thermique extrieure va permettre de limiter significativement les apports
externes (temprature, flux solaire). Celle-ci peut-tre obtenue avec tout matriau
dont la conductivit est suffisamment basse et qui rsiste aux agressions extrieures
(par exemple, du polystyrne extrud) ;
le matriau forte capacit de stockage thermique va permettre de stocker de la frai-
cheur qui pourra tre utilise pour passer les pics de temprature estivaux. Il pourra
sagir de bton ou dun matriau plus innovant incorporant des matriaux change-
ment de phase pour une capacit de stockage fortement accrue.
Plusieurs modes de fonctionnement doivent tre distingus. Le passage dun mode de
fonctionnement un autre se fait en fonction de la temprature de lair externe (comme
pour le free cooling).
Si la temprature externe est favorable (cf. figure 1.12.a), ie infrieure la temprature de
consigne, lnergie excdentaire des quipements est transporte par le flux dair interne, et
diffuse travers la paroi mtallique. Celle-ci cde alors cette nergie au flux dair externe
qui va lvacuer en partie haute (et le stocker dans une moindre proportion dans les murs et
le plafond en bton).
Dans le cas contraire, si la temprature extrieure est dfavorable (cf. figure 1.12.b), lin-
troduction dair externe dans la paroi multicouche est interdite (fermeture dun registre). Le
circuit dair interne reste inchang, par contre, lcoulement dair externe est mis en mouve-
ment par le biais de ventilateurs situs dans le faux-plancher afin de rcuprer la fraicheur
stocke dans la dalle, les murs et le plafond en bton.

(a) Temprature extrieure favorable (b) Temprature extrieure dfavorable

F IGURE 1.12 Reprsentation des circuits dair interne (billes oranges)


et externe (billes bleues) en fonction de la temprature extrieure

14 14 interne Orange
interne Orange
15
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

Compare aux techniques existantes dcrites dans les paragraphes prcdents, la m-


thode dcrite ici prsente lintrt du free cooling en termes de rapports nergie cde/nergie
consomme, sans en prsenter les inconvnients (apport direct de lair charg dhumidit et
de polluants au niveau des quipements). Par ailleurs, le stockage de fraicheur prsente un
intrt dans deux situations : lorsquun pic de temprature extrieure survient, et en cas de
panne des systmes de ventilation, le stockage de froid permet daugmenter le dlai dinter-
vention.

1.2.4 Analyse critique


Avec lvolution de la puissance dissipe par les quipements informatiques et laugmen-
tation des services de tlcommunication qui ncessitent un nombre importants dquipe-
ments informatiques, nous pouvons dire que lutilisation de lair en tant que fluide calopor-
teur a atteint ses limites.
Nous avons vu que lemploi de la production de froid, qui consomme une quantit dner-
gie importante pour maintenir les quipements dans des plages climatiques normes, peut
tre remplac par lemploi du free cooling ou en modifiant lenveloppe du btiment. Toute-
fois, dans chacun des cas discuts, le refroidissement occupe toujours une part importante
car il est toujours ncessaire dutiliser une climatisation lorsque les tempratures et/ou lhu-
midit extrieures sont ne sont pas satisfaisantes. De plus, les baies et les serveurs informa-
tiques utilisent une ventilation importante pour le refroidissement des composants.
Cest pourquoi nous allons nous intresser des mthodes de refroidissement qui re-
posent sur des modes de transferts de chaleur plus efficaces, par lutilisation de liquides.
En effet, le produit Cp indique la capacit dun matriau emmagasiner la chaleur par
rapport son volume. Les proprits physiques (cf tableau 1.2) montrent que la valeur de
cette grandeur est 3500 plus leve pour leau que pour lair, ce qui fait de leau un meilleur
fluide caloporteur. De plus, le coefficient dchange convectif est beaucoup plus important
lorsque le fluide est un liquide, amliorant grandement les changes thermiques. Il sagit
donc damener ces fluides au plus prs des composants afin de maximiser les transferts de
chaleur.

TABLEAU 1.2 Proprits thermo-physique pour lair et leau 20C [55]

Chaleur spcifique Cp Conductivit thermique Masse volumique


(J.kg 1 .K 1 ) (W.m 1 .K 1 ) (kg .m 3 )

Air 1006 0, 026 1, 204

Eau 4182 0, 60 1001

1.3 Vers le refroidissement liquide


La notion de refroidissement liquide pour les quipements informatiques est trs vaste.
En effet, des fluides liquides sont actuellement employs dans les data centers, comme par
exemple dans les diffrents changeurs constituants les machines frigorifiques. Une baie
informatique est considre comme refroidie laide dun liquide si le fluide en question
circule travers la baie (avec un systme entre/sortie) [56].
Les paragraphes suivants vont regrouper les principaux modes de refroidissement des
composants lectroniques et leur fonctionnement. Leurs applications directes dans le do-

16
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

maine du refroidissement des composants lectroniques sont galement prsentes. De plus,


lheure o lnergie reprsente un enjeu majeur, il est galement indispensable de sint-
resser la valorisation de la chaleur provenant des data centers. De ce fait, un paragraphe
traitera aussi des systmes de rcupration dnergie.

1.3.1 Modes de refroidissement


La figure 1.13 illustre les principaux transferts thermiques apparaissant lchelle dun
composant, qui est gnralement soud sur une carte lectronique et qui peut tre quip
dun dissipateur thermique (ailettes) pour augmenter la surface dchange. Ces transferts de
chaleur se font par des changes conductifs, convectifs et radiatifs coupls entre eux.

hconv hrad

Dissipateur

Composant

Carte lectronique Soudure par billes


hcond

F IGURE 1.13 Transferts thermiques lchelle dun composant lectronique

Le transfert dnergie par conduction se produit au travers des milieux (solides, liquides
ou gazeux) en contact direct avec le composant, qui dissipe une certaine puissance ther-
mique. Le flux conductif surfacique est alors exprim en fonction de la conductivit du ma-
triau (qui dpend de la temprature) et du gradient de tempratures entre les diffrentes
lments :

cond = (T)T (1.2)


Le tableau 1.3 donne les ordres de grandeur des conductivits thermiques de diffrents
corps.

TABLEAU 1.3 Ordres de grandeurs de la conductivit thermique pour diffrents matriaux [57]

Corps (W.m 1 .K 1 )

mtaux purs 40 400

alliages mtalliques 10 100

matriaux non mtalliques 0,1 15

solides isolants 0,03 0,2

liquides non mtalliques 0,08 0,6

gaz pression atmosphrique 0,006 0,2

17
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

Les changes thermiques entre le composant (ou son dissipateur) et le fluide environ-
nant se font par convection [58]. Le flux convectif surfacique peut alors sexprimer en fonc-
tion dun coefficient dchange convectif h conv , qui dpend de nombreux paramtres (go-
mtrie, fluide, etc...) :

conv = h conv T (1.3)


Nous pouvons distinguer trois types de convection en fonction de la nature du mouve-
ment du fluide. La convection force, par opposition la convection naturelle, est obtenue
lorsque le mouvement du fluide est impos par une action extrieure (pompe, ventilateur).
Lorsque ces deux phnomnes physiques sont coupls, nous pouvons parler de convection
mixte.
La valeur du coefficient de convection fait intervenir diffrentes corrlations et diffrents
nombres adimensionnels en fonction du rgime de lcoulement (laminaire ou turbulent).
Le nombre de Richardson Ri permet de discriminer les rgimes en convection naturelle
(Ri > 10) des rgimes en convection force (Ri < 1), et est dfini comme suit :

Gr g TL
2
= Ri = (1.4)
Re v2
o et v sont respectivement le coefficient thermique dexpansion isobare et la vitesse du
fluide, T la diffrence de temprature travers la couche de fluide dpaisseur L et g lac-
clration de la pesanteur.
Ces phnomnes de convection apparaissent galement lorsque que les composants
lectroniques sont immergs dans un fluide dielectrique. Dans le cas dun fluide avec chan-
gement de phase, des phnomnes dbullition apparaissent, ce qui augmente de faon im-
portante la quantit de chaleur change entre le composant et le fluide environnant.
Les ordres de grandeur du coefficient h conv sont donnes dans le tableau 1.4.

TABLEAU 1.4 Ordres de grandeur du coefficient dchange convectif [58]

Mode de refroidissement Type de fluide h conv (W.m 2 .K 1 )

Gaz 12 200
Convection force Eau 200 7500
Huile 30 3000

Gaz 3 30
Convection naturelle Eau 30 300
Huile 5 100

Avec condensation ou bullition Gaz, Eau 500 30000

A ces phnomnes de convection viennent se superposer des changes thermiques entre


surfaces par rayonnement. Dans le cas de surfaces grises spares par un milieu transparent
(voir figure 1.14), les changes thermiques radiatifs entre S i et S j peuvent exprims en fonc-
tion de leur radiosit J ou par le flux net r ad donn par la relation suivante [59] :

(Ti4 T 4j )
r ad = 1 j
(1.5)
1i
i S i + S 1F + j S j
i ij

18
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

o Fi j le facteur de forme, i lmissivit du corps i et la constante de Stefan Boltzmann,


gale 5, 68.108 W.m 2 .K 4 . Dans le cas o S i S j , lquation devient :

r ad = i (Ti4 T 4j ) (1.6)

corps j, surface Sj, missivit j


Tj
Ti

corps i, surface Si, missivit i


F IGURE 1.14 Rayonnement thermique entre deux surfaces

1.3.2 Refroidissement monophasique


1.3.2.1 Echangeurs

Un changeur est un systme au sein duquel un fluide chaud et un fluide froid changent
une quantit de chaleur, chaque fluide ayant une entre et une sortie distinctes [60]. Nous
pouvons classer les changeurs en fonction du mode dcoulement des deux fluides, selon
que lcoulement des fluides est parallle et de mme sens (cocourant), parallle et de sens
contraire (contre-courant) ou bien perpendiculaires (courants croiss).
Les changeurs tubes sont les plus usuels ; plusieurs configurations se distinguent en
fonction du nombre de tubes prsents et de leurs dispositions (voir figure 1.15).
Afin daugmenter lchange thermique entre deux fluides dont lun est moins bon ca-
loporteur que lautre, des ailettes sont ajoutes autour des tubes, ou mme lintrieur,
afin que la rsistance thermique globale ne soit pas principalement due au fluide ayant le
plus petit coefficient dchange thermique. Nous les retrouvons notamment dans le cas des
changeurs ayant comme fluides caloporteurs un liquide et un gaz (dans les machines frigo-
rifiques par exemple).

F IGURE 1.15 Divers types dchangeurs tubulaires [60]

Les techniques de refroidissement liquide laide dun changeur sont dployes plu-
sieurs chelles. Il existe des systmes intgrant un changeur air/eau larrire des baies

19
14 interne Orange
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

informatiques (ou lavant), au niveau de la sortie dair chaud. La prsence de lchangeur


permet de refroidir directement lair chaud issu des serveurs, permettant ainsi de rduire au
maximum lemploi dune climatisation traditionnelle.
Cette technique est tudie par IBM en 2005 avec une baie dune puissance de 32kW (cf.
figure 1.16) [61]. Les essais ont montr quune quantit importante (50-60%) de la chaleur
de la baie est cde lchangeur, avec une temprature deau en entre de 18C et une
temprature dair en entre de baie proche de 22C. Le pourcentage restant est rcupr par
la climatisation.
Comme lchangeur est plac sur la face arrire de la baie, lextraction de la chaleur est
beaucoup plus efficace compare des units de climatisation, qui se trouvent en priphrie
des salles informatiques.
Udakeri et al. [62] ont effectu des simulations CFD pour comparer limpact de cette so-
lution hybride "air-liquide" avec des solutions traditionnelles de refroidissement (soufflage
en faux-plancher ou faux-plafond) et ont montr des gains nergtiques importants dans le
cas de la premire solution.

F IGURE 1.16 Echangeur de chaleur IBM pour baie informatique [63]


(a) Vue de ct, (b) Montage sur une baie, (c) Application en data center

1.3.2.2 "Plaques froides"


15 interne Orange
Depuis 2008, IBM a galement coupl des changeurs air/eau des "plaques froides"
places directement en contact avec les composants de puissance leve [63, 64, 65]. Les
supercalculateurs sont les principaux quipements viss par ces dispositifs car ils ont une
densit de puissance plus grande que les serveurs. Daprs Ellsworth et al. [63], pour un su-
percalculateur dissipant 72kW, le design du systme de "plaques froides" permettrait de c-
der 80% de la puissance au circuit deau, soit 58kW.
Les "plaques froides" sont des blocs de cuivre (ou cuivre/aluminium) fixs directement
sur les processeurs ainsi que sur les barrettes de mmoire vive et dans lesquels circulent
de leau temprature ambiante. Le fait que le refroidissement se produise lchelle du
composant amliore lefficacit de faon drastique. En effet, la plupart des composants
base de silicium ont une temprature de jonction maximale de 125C. De ce fait, dans le

20
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

cas dun change quasi-direct avec les composants, pour sassurer que la temprature de
jonction ne dpasse pas sa limite, de leau 45C suffit, ce qui rend toute production de froid
inutile. Les conomies engendres sont de lordre de 30% par rapport un refroidissement
avec une climatisation [64].
En 2012, Goth et al. [65] ainsi que Zimmermann et al. [66] ont publi des rsultats pro-
metteurs concernant le refroidissement de supercalculateurs par le biais dchangeurs en
contact direct avec les composants (cf. figure 1.17) sans employer de convection force, et
avec un circuit deau dont la temprature est comprise entre 35 et 60C. Cela permettrait en
plus une rutilisation de leau chaude pour des applications de chauffage pour des locaux.
Toutefois au vu des illustrations, le faible diamtre des canaux reliant chaque dissipateur
laisse penser que ce systme engendrerait une perte de charge assez importante, do un
choix de pompes de forte puissance qui viendrait entacher le bilan nergtique final.

F IGURE 1.17 Aquasar : IBM Bladecenter QS22 [66]

1.3.2.3 Immersion dans un bain dhuile

Une des solutions de refroidissement par immersion consiste plonger les quipements
informatiques dans de lhuile minrale [67, 68]. Dans cette configuration, il ny a pas de chan-
16 internegement
Orange de phase. Lhuile qui maintient la temprature des composants est renouvele par
un systme de pompes, et le refroidissement de lhuile est assur par une boucle deau ou un
arorfrigrant externe. Eiland et al. [68] ont men des essais sur un seul serveur immerg
dans de lhuile minrale, avec une temprature dentre de 45C et une faible consommation
nergtique.
Haywood et al. [69] ont men des tudes sur le refroidissement par immersion avec de
lhuile minrale. La figure 1.18 montre le dispositif exprimental, qui comprend un conte-
nant isol dans lequel sont placs des serveurs informatiques. Ce contenant est lui-mme
plac dans un baril avec une pompe qui permet de faire circuler lhuile minrale jusqu un
radiateur pour vacuer la puissance dissipe par les quipements informatiques. Les rsul-
tats ont montr que le refroidissement des composants est bien assur et que la puissance
thermique issue des composants pourrait permettre de faire fonctionner une unit de pro-
duction frigorifique ( priori, 123 serveurs seraient capable dalimenter une climatisation
denviron 35 kW).

21
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

F IGURE 1.18 Refroidissement par immersion dans de lhuile minrale [69]

1.3.3 Refroidissement diphasique


17 interne Orange
1.3.3.1 Caloducs

Les caloducs, ou tubes de chaleur (heat pipes en anglais), sont des dispositifs capables de
transmettre des flux thermiques importants avec un trs faible gradient de temprature. Les
caloducs capillaires, les thermosiphons diphasiques ainsi que les caloducs oscillants sont les
trois grands groupes de caloducs employs de nos jours. Leur principe de fonctionnement
et leurs applications directes pour le refroidissement de composants lectroniques sont d-
taills.
Un caloduc est un systme dans lequel un liquide est en quilibre avec sa vapeur (ab-
sence totale dair ou de tout autre gaz) dans une enceinte tanche. Dans un tel systme, le
transport de la chaleur se fait depuis une source chaude, en contact avec lvaporateur, vers
une source froide, relie au condenseur. La diffrence de pression existante entre lvapora-
teur et le condenseur permet le dplacement de la vapeur, qui une fois condense, retourne
lvaporateur grce aux forces de capillarit ou de gravit (uniquement si le condenseur
se trouve au-dessus de lvaporateur) suivant quil sagisse dun caloduc capillaire (cf. fi-
gure 1.19.a) ou dun thermosiphon diphasique (cf. figure 1.19.b).

22
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

19 interne Orange

(a) Capillaire (b) Thermosiphon diphasique

F IGURE 1.19 Schma de principe dun caloduc [70]


Lexploitation de la chaleur latente lors du changement de phase du fluide prsent dans
18 interne Orange
le caloduc permet de transfrer lnergie thermique capte la source chaude qui est ensuite
transmise la source froide par un second changement dtat. La puissance thermique Pt h
(en W) extraite par le caloduc est donne par la relation suivante :

Pt h = q m L v (1.7)

avec q m , dbit massique du fluide dans le caloduc (kg .s 1 )


L v , chaleur latente de vaporisation (J.kg 1 )

Xu [71] a effectu une tude sur le refroidissement des serveurs informatiques par le biais
de caloducs. Lvaporateur est en contact avec les processeurs et le condenseur est plac sur
une plaque froide avec un circuit deau, ce qui permet au caloduc expriment de rcuprer
jusqu 450W de chaleur et dassurer le bon refroidissement des processeurs.
Diffrentes formes de caloducs ont t tudies par Elnaggar et al. [72] et Wang et al. [73]
afin de dterminer linfluence de la gomtrie des caloducs et des dissipateurs sur la quantit
de flux chaleur rcupre lors du refroidissement de composants lectroniques. Un exemple
de caloducs employ pour ce type de refroidissement est donn sur la figure 1.20.

23
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

(a) En forme de U [73] (b) En forme de L [72]

F IGURE 1.20 Diffrentes formes de caloducs pour le refroidissement de composants


20 interne Orange
Wang et al. [74] ont tudi le comportement thermodynamique dun systme de refroi-
dissement intgr pour les data centers qui combine un cycle de refroidissement caloduc
et un cycle de refroidissement par compression de vapeur. Des analyses thermodynamiques
bases sur des donnes exprimentales montrent que le PUE des data centers utilisant ce
systme de caloduc peut tre plus faible de 0,3, par rapport au refroidissement avec une cli-
matisation. Les gains potentiels dpendent toutefois des conditions climatiques extrieures.

1.3.3.2 Boucles diphasiques

Contrairement aux caloducs dcrits prcdemment, les boucles diphasiques diffrent


par le fait que la vapeur et le liquide circulent dans des canalisations distinctes [75]. A linstar
dun caloduc, le fluide caloporteur est en quilibre liquide-vapeur dans une boucle dipha-
sique gravitaire et inclut un vaporateur (source chaude) et un condenseur (source froide)
(cf. figure 1.21). Toutefois, elle dispose galement de deux tubes de liaison dans lesquels le
fluide circule sous leffet de la pesanteur.

F IGURE 1.21 Schma de principe dune boucle diphasique gravitaire [75]


21 interne Orange

Les boucles fluides diphasiques pompage thermocapillaire (BFDPT) sont similaires aux
boucles prcdentes, except la prsence dune matrice poreuse situe dans lvaporateur
qui fournit la pression motrice assurant la mise en mouvement du fluide. Un second lment

24
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

est caractristique de ce dispositif : le rservoir diphasique, dont son emplacement dans la


boucle va dfinir son interaction avec lvaporateur. Sa position permet de distinguer deux
types de BFDPT : les Capillary Pumped Loops (CPL) et les Loop Heat Pipes (LHP) dont le
fonctionnement est identique (voir figure 1.22). Ce rservoir joue un rle dcisif car il permet
de contrler la temprature de fonctionnement de lvaporateur, cette temprature pouvant
tre matrise par un dispositif chauffant (rsistance, module Peltier). Il assure galement la
fonction de volume tampon.

(a) Capillary Pumped Loop

22 interne Orange

(b) Loop Heat Pipe

F IGURE 1.22 Schma


23
de principe dune boucle fluide diphasique pompage thermocapillaire [75]
interne Orange

Comme pour les caloducs, les boucles diphasiques sont employes pour le refroidisse-
ment des composants lectroniques. Orange a dj effectu des tudes sur le sujet, notam-
ment pour amliorer le refroidissement passif des armoires de tlcommunications [76, 77].
Les rsultats ont montr que la puissance des quipements installs ne peut excder 250 W
avec un refroidissement air traditionnel (convection force), tandis quelle peut atteindre
jusqu 600 W en utilisant un systme de boucles diphasiques.
Tian et al. [78] ont expriment le refroidissement dune baie informatique avec une
densit de puissance leve. La baie est refroidie par un flux dair canalis, traversant deux
changeurs comprenant des boucles diphasiques qui sont situs sur les parties infrieures et
suprieures de la baie. Le rejet de la puissance dissipe par les quipements informatiques
se fait par une boucle deau (en free cooling ou en utilisant une production de froid selon les
conditions de tempratures extrieures). Cette configuration permet alors de rduire la part
de la consommation de la climatisation de 46%.
Le refroidissement de super-ordinateurs par des boucles diphasiques a t tudi par
Chernysheva et al. [79]. Le procd de fonctionnement est montr sur la figure 1.23 et permet
de refroidir jusqu 600 W dquipements avec des tempratures en entre de la boucle deau
comprises entre 20 et 80C.

25
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

F IGURE 1.23 Boucles diphasiques ddies au refroidissement de composants [79]

Des tudes sur lintgration de boucles diphasiques dans des serveurs ont t menes
par McGlen et al. [80], avec un refroidissement lchelle des composants avec un systme
coupl de boucles diphasiques et de convection force ( air ou eau en fonction de la puis-
24
sanceinterne
dissipe
Orange
au niveau de lvaporateur).

1.3.3.3 Immersion dans un liquide changement de phase

Ce type de refroidissement prsente de nombreux avantages par rapport aux autres modes
de refroidissement car il permet datteindre des densits de flux importantes [81]. De plus
il est possible de contrler la temprature dun composant en choisissant la temprature
dbullition de fluide adquate (le choix se porte alors sur les composants avec la temp-
rature limite la plus faible), et dimmerger tous les composants et leurs supports (excepts
les disques durs mcaniques non tanches). Il est toutefois important de vrifier la com-
patibilit chimique du fluide avec les diffrents matriaux constituants les quipements
immerger.
La figure 1.24 reprsente lun des deux principaux modes dbullition : lbullition libre
(ou en vase), dans lequel les vapeurs de fluide issues de lvaporation au niveau des sources
chaudes slvent vers le condenseur, puis retombent sous leffet de la gravit. Ce premier
mode de refroidissement est dit passif, par comparaison avec avec le second, qui est lbul-
lition en coulement forc, o le fluide est mis en mouvement par une action extrieure.

F IGURE 1.24 Refroidissement liquide par bullition [81]

La socit 3M a mis au point des fluides dilectriques ddis initialement la protection


incendie 25des installations
interne Orange
lectriques. A lchelle de laboratoires, des travaux de recherche
ont t initis pour leurs applications dans le domaine du refroidissement des composants

26
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide

lectroniques. La particularit de certains de ces fluides rside dans leur temprature dbul-
lition assez basse (plusieurs possibilits entre 34 et 76C). Par exemple, ils sont employs
dans le cadre du refroidissement par changement de phase dans des cuves o sont immer-
gs des serveurs informatiques (voir figure 1.25.a). Barnes et Tuma [82, 83] ont montr lin-
trt de cette solution, notamment au niveau des gains conomiques possibles sur le sys-
tme de refroidissement compar une climatisation air classique, ainsi que sur la densit
de puissance qui peut tre installe. Guess et al. [84] ont montr que la mise en place de
plaques micro-poreuses sur la surface des composants permet dintensifier les transferts. Ils
ont abouti une augmentation des changes de 300%.
La socit Iceotope et luniversit de Leeds emploient ce fluide lchelle dun serveur
[85, 86], comme le montre la figure 1.25.b : celui-ci est ferm hermtiquement et est rempli
dune certaine quantit de fluide dilectrique. Le systme de refroidissement situ en partie
suprieure du boitier permet via une circulation deau de condenser les vapeurs de fluide et
de rcuprer la chaleur dissipe par les composants.

26 interne Orange

(a) Immersion en bac (b) Immersion encapsule

F IGURE 1.25 Systmes dimmersion pour serveurs avec du 3M Novec [83, 86]
Warrier et al. [87] ont tudi plus de 30 fluides dilectriques afin didentifier lesquels
de ces fluides pourraient tre27 employs
interne Orange
dans le refroidissement par immersion des qui-
pements lectroniques.

1.3.4 Potentiels de rutilisation de la chaleur


Lintrt du refroidissement liquide est davoir des fluides avec des chaleurs spcifiques
plus importantes que lair et de pouvoir rutiliser plus efficacement la chaleur [66]. Cet as-
pect nest pas toujours exploit dans un systme de conditionnement dair traditionnel, mal-
gr quelques applications (par exemple, la valorisation du circuit deau chaude des machines
frigorifiques).
Ebrahimi et al. [88] ont dress un bilan non exhaustif de diffrents procds permet-
tant de valoriser lnergie rcupre par le systme de refroidissement des data centers, quil
sagisse de refroidissement air, liquide ou diphasique. Ces procds incluent par exemple
le chauffage de locaux tertiaires ou rsidentiels, le pr-chauffage des centrales au charbon, la
production directe dlectricit (thermolectricit, pizolectricit) ou bien le dessalement
de leau de mer. Leurs tudes ont notamment mis en avant deux procds ayant un fort
potentiel : lemploi de machines frigorifiques absorption et des cycles de Rankine orga-
niques. Les figures 1.26.a et 1.26.b montrent le principe de fonctionnement de ces systmes,
qui fonctionnent avec des tempratures deau en sortie de data centers comprises entre 65 et
90C (tempratures de sortie deau potentielles du refroidissement liquide ou diphasique).

27
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart

29 interne Orange

28 interne Orange

(a) Cycle de Rankine organique (b) Climatisation par absorption

F IGURE 1.26 Exemples de systmes de revalorisation de lnergie des data centers [88]
Zimmermann et al. [89] ont galement mis en vidence diffrents procds de rutilisa-
tion directe de lnergie thermique produite par les data centers en introduisant un indica-
teur, nomm "valeur conomique de la chaleur" et dfini comme tant le ratio entre le cot
dun kWh de chaleur produit par les nergies fossiles et le cot dun kWh de chaleur produit
par les data centers. Leur tude a permis de quantifier cet indicateur en fonction de la tem-
prature de sortie deau du systme de refroidissement liquide dun centre de donnes (cf.
figure 1.27).

F IGURE 1.27 Valeur conomique de chaleur pour diffrents procds de refroidissement [89]

Enfin,30plusieurs tudes mettent en avant la solution de chauffage de btiments tertiaires


interne Orange

ou rsidentiels grce la rcupration de leau chaude issue des data centers. Brunschwiller
et al. [90] ont mis au point un concept qui permettrait de transformer en cinq ans un data
center en une architecture "zro-mission", dans le sens o chaque kWh dpens pour le
fonctionnement des serveurs serait rutilis pour le chauffage de locaux durant la saison
froide ou la production annuelle deau chaude.
Zachary Woodruff et al. [91] ont quant eux mis en place un rseau nodal permettant
de modliser un data center comme un centre distributeur de chaleur pour plusieurs bti-
ments, en fonction des besoins de chaque partie, et ainsi rduire la facture nergtique et les
missions de gaz effets de serre de chacun des acteurs.

28
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.4. Conclusion

1.4 Conclusion
Ce premier chapitre ddi ltat de lart a permis de voir que laugmentation de la
consommation nergtique des data centers nest pas prs de flchir. Les volutions tech-
nologiques des quipements ont tendance augmenter la puissance dissipe dans les salles
informatiques. Do la ncessit de refroidir les composants informatiques dans des plages
climatiques bien dfinies, qui impose lutilisation dune climatisation.

Aprs avoir identifi le refroidissement liquide des quipements informatiques comme


un des principaux leviers de rduction de consommation, nous avons dtaill les diffrentes
solutions existantes. Celles-ci reposent majoritairement sur lutilisation de lair comme fluide
caloporteur et lemploi de machines frigorifiques nergivores. Des amliorations au niveau
du mode de fonctionnement ont t apportes avec le free cooling, qui permet dutiliser
"gratuitement" lair froid extrieur lorsque les conditions climatiques sont favorables. Ce-
pendant, au vue de la croissance importante de la densit de puissance dans les centres de
donnes, il est indispensable de rechercher dautres solutions pour lavenir.

Une des voies pour rduire significativement la consommation des data centers devrait
tre lutilisation du refroidissement liquide. En effet, ltat de lart indique clairement des
gains importants au niveau de la consommation nergtique des systmes de refroidisse-
ment tout en maintenant les composants lectroniques en-dessous de leur temprature li-
mite. Les procds diffrent en fonction du mode de transfert de la chaleur qui leur est asso-
ci, ce qui permet denvisager un grand panel de nouvelles solutions. Un tat de lart sur le
refroidissement par immersion sans ou avec changement de phase est galement fait.

Par ailleurs, les possibilits de valorisation de la chaleur rcupre laide dun fluide
liquide sont en thorie plus intressante. Il est donc indispensable de prendre en compte cet
aspects afin daboutir une minimisation globale de limpact nergtique des data centers.

29
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2

Refroidissement dune baie par un


changeur air/eau

Sommaire
2.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . 31
2.1.1 Equipements informatiques . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.1.2 Instrumentation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.1.3 Configurations tudies . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.2 Rsultats et discussions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.2.1 Refroidissement air sans changeur . . . . . . . . . . . . . . . . . . . . 36
2.2.2 Refroidissement air avec changeur . . . . . . . . . . . . . . . . . . . . 40
2.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
2.3.1 Modlisation de la baie et de lchangeur . . . . . . . . . . . . . . . . . . 45
2.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . 48
2.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . 53
2.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

Ce chapitre est consacr la prsentation des tudes exprimentales et numriques me-


nes sur une baie informatique refroidie classiquement par un flux dair et par un changeur
air/eau. Bien que ce type de refroidissement soit bien connu et fasse lobjet de nombreux
brevets [92, 93, 94], ces travaux visent dans un premier temps effectuer une analyse dun
systme de refroidissement de rfrence par air.
Des quipements informatiques rels sont utiliss dans des conditions dambiance stabi-
lises. Une instrumentation complte est ralise jusqu lchelle du composant, de faon
pouvoir effectuer un bilan nergtique prcis (mesures des tempratures et dbits dair,
des puissances lectriques, des conditions dambiance) et sassurer que la fonction refroi-
dissement est correctement assure pour tous les composants lectroniques. Une seconde
exprimentation est ensuite mise en place, en conservant les quipements lectroniques.
Lobjectif est cette fois dtudier le refroidissement eau lchelle de la baie, laide dun
changeur air/eau plaques. Une instrumentation sur le circuit deau (tempratures et d-
bit, puissances lectriques) vient complter linstrumentation dj initie, pour tre en me-
sure deffectuer des bilans nergtiques au niveau de lchangeur. A partir des rsultats ex-

30
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental

primentaux obtenus, une modlisation numrique par mthode nodale est entreprise
lchelle de la baie et de lchangeur.

2.1 Description du dispositif exprimental


2.1.1 Equipements informatiques
Quatorze serveurs en position verticale sont disposs horizontalement dans une baie,
quipe de modules dalimentation et de ventilation (cf. figure 2.1). Le renouvellement de
lair dans les serveurs et les alimentations est assur par quatre ventilateurs centrifuges pla-
cs la sortie de la baie. Le flux dair est aspir en face avant de la baie et est rejet en face
arrire. Les modules dalimentation lectrique des serveurs sont galement quips de ven-
tilateurs de faible puissance. Le dbit dair extrait est rgul automatiquement en fonction
de la temprature dair en entre. La baie est place dans une enceinte qui peut tre contr-
le en temprature. Les dimensions extrieures de lenceinte, de la baie et dun serveur sont
donnes dans le tableau 2.1.

Alimentations
Ventilateurs

Serveur
Alimentations
Serveur + ventilateurs

Alimentations

F IGURE 2.1 Baie quipe des serveurs

TABLEAU 2.1 Principales dimensions du dispositif exprimental

Dimensions Enceinte Baie Serveur

Hauteur (cm) 320 206 23,5


Largeur(cm) 396 80 3,1
Profondeur (cm) 306 80 44,5

La figure 2.2 et le tableau 2.2 ci-dessous recensent les composants majeurs prsents dans
les serveurs sans leurs dissipateurs respectifs afin de mieux distinguer leurs emplacements
et dimensions. La photographie dun serveur avec ses dissipateurs est donne en annexe A.2.
Le sens de lcoulement dair qui va assurer le refroidissement des composants se fait de la
gauche vers la droite par rapport la figure. Les valeurs de temprature limite correspondent
aux tempratures maximales que peuvent atteindre les composants avant la dgradation de
leur fonctionnement. Les valeurs donnes dans le tableau 2.2 sont spcifiques aux compo-
sants des serveurs utiliss durant la thse. La puissance lectrique maximale consomme
par un serveur est de lordre de 220 Watts.

31
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

Contrleur mmoire (Chipset) Disques durs (HDD)

Processeurs (CPU) Mmoire vive (RAM) Contrleur disque (SAS)

F IGURE 2.2 Identification des principaux composants dun serveur

TABLEAU 2.2 Principaux composants dun serveur

Composant Rle Temprature limite

CPU Excute les instructions des programmes par le biais doprations 66C (en surface)

de base arithmtique, logique ou dentre/sortie du systme

RAM Stocke temporairement les donnes 95C (en surface)

informatiques lors de leur traitement

HDD Permet le stockage des donnes 55C (ambiante)

SAS Gre la lecture/criture des donnes du disque dur 115C (en surface)

Chipset Traduit les requtes de lecture ou dcriture de mmoire 105C (en surface)

en provenance du processeur vers la mmoire vive

Le systme dexploitation Linux a t install sur tous les serveurs afin de mettre en place
certains programmes destins faire varier la puissance dissipe par les composants. Deux
types de charge de travail des composants ont t retenues, qui serviront lors des expri-
mentations :
charge de travail minimale, qui sera note ultrieurement comme "PMIN " : les com-
posants sont ici sollicits au minimum, seul le systme dexploitation est lanc. La
chaleur vacuer par la ventilation est au plus faible ;
charge de travail maximale, qui sera note ultrieurement comme "PMAX " : dans ce
cas, les processeurs fonctionnent leur capacit maximale. Dautres composants comme
la mmoire vive (RAM) et les disques durs (HDD) sont sollicits. Le but est datteindre
la consommation lectrique maximale pour chaque serveur, permettant ainsi de d-
gager le maximum de chaleur possible par les quipements informatiques.

2.1.2 Instrumentation de la baie


Afin de disposer dun bilan thermique prcis sur la partie refroidissement air des com-
posants, les tempratures dair sont mesures en entre de chaque serveur et en sortie de

32
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental

baie au niveau de chaque bouche dextraction des ventilateurs centrifuges. En faisant lhy-
pothse que tous les serveurs sont refroidis de la mme manire, des thermocouples de type
K sont installs lintrieur de quatre serveurs afin de suivre lvolution des tempratures de
surface (ou ambiante locale) des composants de puissances leves (CPU, chipset, SAS, RAM
et HDD) (Figure 2.3). Pour rduire le caractre intrusif de ces mesures internes aux serveurs,
des fils de thermocouples de diamtre 0,1 mm sont utiliss, avec des jonctions comprises
entre 0,2 et 0,3 mm. Pour la mesure des tempratures de surface des composants, les ther-
mocouples sont placs entre les composants et leurs dissipateurs (fixation mcanique entre
les deux surfaces). Une instrumentation est galement mise en place pour visualiser les va-
riations de la temprature de lair lintrieur des serveurs (cf. figure 2.3). Les tempratures
dair lintrieur de lenceinte sont galement releves.
Deux types de centrales dacquisition sont utilises pour la majeur partie des mesures de
tempratures qui sont soit une Agilent 34972A LXI, soit des Fluke Hydra Series II. La temp-
rature de rfrence pour la compensation de soudure froide des thermocouples est directe-
ment intgre aux centrales.
Toute la chaine de mesures en temprature (thermocouples+centrales dacquisition) a
t pralablement talonne via un bain thermostat Lauda RE104 et une sonde PT-100
Pico SE012+PT-104 data logger, permettant ainsi dobtenir une incertitude de 0,1C sur les
mesures de temprature. Ltalonnage sest fait suivant quatre points (20, 45, 70 et 90C) qui
correspondent la plage de tempratures susceptibles dtre rencontres dans ltude. Une
rgression linaire est ensuite applique pour obtenir la valeur de la temprature corrige
pour chaque thermocouple. La priode dacquisition des tempratures est de 15 secondes.
Pour mesurer le taux dhumidit relative lors des essais, une sonde HygroFlex HF5 est instal-
le sur une des parois de lenceinte, proximit de la face avant des serveurs.

X X x (cm)
0 14 29 X 42

X
X
Thermocouples (air) X Thermocouples (surface)

F IGURE 2.3 Emplacement des thermocouples dans un serveur instrument

Le moyen de mesure retenu pour calculer le dbit entrant dans les serveurs (en face avant
de la baie) est la mesure de vitesse laide de plusieurs anmomtre fil chaud. Pour ces me-
sures ponctuelles de vitesse, la surface dentre dair est maille du fait de la non-uniformit
du champ de vitesses. Des mesures de vitesses sont galement effectues larrire de la baie
au niveau des extractions dair chaud. Les surfaces de mesures sont divises en quatre sur-
faces gales et plus petites, puis les mesures de dbit sont effectues sur ces quatre surfaces
simultanment avec les quatre capteurs. Les capteurs de vitesse utiliss sont des Kimo CTV
210 et la priode dchantillonnage des mesures de vitesse est de 2 secondes.
Enfin, les puissances lectriques consommes par les ventilateurs centrifuges et par les
alimentations des serveurs (et des ventilateurs des alimentations) sont enregistres par un
nergimtre Fluke434. Un module de gestion interne permet de visualiser la puissance de
chaque lment de la baie, jusqu lchelle dun serveur. Dans le cadre du refroidissement

33
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

air sans changeur, les donnes utilises lors des comparaisons defficacit nergtique
seront celles issues de la littrature.
Les incertitudes des diffrents capteurs sont renseignes dans le tableau 2.3.

TABLEAU 2.3 Capteurs et leurs incertitudes de mesures

Capteur Prcision (VM=Valeur Mesure)

Temprature 0,1C
Anmomtre 3% VM 0,1m/s
Energimtre 1,5% VM 10W

2.1.3 Configurations tudies


2.1.3.1 Refroidissement classique par air

Dans un premier temps, la baie est place dans une enceinte qui peut tre contrle
en temprature par un systme de climatisation (cf. figure 2.4). Cela nous permet dtudier
dans un premier temps le comportement des quipements dans le cas dun refroidissement
classique par air sans changeur.

Systme de climatisation

, Serveur informatique

Flux dair entre baie


Alimentations
Ventilateurs

Flux dair sortie baie

T Mesure de temprature

V Mesure de vitesse dair


V Alimentations
P Mesure de puissance

Enceinte

F IGURE 2.4 Schma du dispositif exprimental sans changeur

2.1.3.2 Introduction dun changeur air/eau

La configuration initiale (enceinte et serveurs) reste identique la configuration prc-


dente. Le systme de climatisation associ lenceinte nest plus utilis.
Un changeur ailettes air/eau est mont au plus prs de la sortie dair chaud de la baie
(cf. figure 2.5). Il sagit dun changeur courants croiss dune surface totale de 37m2 . Des
parois solides ont t installes pour canaliser le flux dair entre la baie et lchangeur. Un cir-
cuit hydraulique comprenant une pompe Grundfos Magna 25-60-180 et un aroconvecteur
extrieur est connect lchangeur. La baie et lchangeur sont placs lintrieur de len-
ceinte de manire ce que les changes de chaleur avec lenvironnement extrieur soient

34
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental

limits aux pertes travers les parois. La pompe ainsi que les conduites deau de linstalla-
tion hydraulique ont t calorifuges.
Afin de raliser des bilans thermiques dans cette configuration, une instrumentation
complmentaire a t mise en uvre :
des thermocouples gains de type K et de diamtre 3 mm sont introduits dans le cir-
cuit deau en entre et en sortie dchangeur, de manire pouvoir dterminer la
puissance thermique cde leau dans lchangeur ;
des thermocouples sont placs dans lair de part et dautre de lchangeur (cf. figure
2.6), afin de pouvoir effectuer le bilan nergtique sur lair traversant lchangeur. Ces
derniers thermocouples ont t placs sur des supports de sorte mailler la surface
de passage de lair (8 thermocouples de part et dautre pour une surface de 0,3 m2 ).
Le maillage a t conu de faon ce quun thermocouple sur deux soit plac en face
dune sortie dair de ventilateur. Les valeurs donnes par les thermocouples en entre
et en sortie sont par la suite moyennes.

,
Serveur
, Flux dair
Alimentations T Mesure de temprature
Ventilateurs

V Mesure de vitesse dair

P Mesure de puissance

Dbitmtre

V Alimentations V Echangeur plaques

Arotherme extrieur
Pompe
Enceinte

F IGURE 2.5 Schma du dispositif exprimental avec changeur

10 cm

11 cm
16 cm

15 cm

23 cm

16 cm

10 cm

(a) Entre changeur (b) Sortie changeur

F IGURE 2.6 Disposition des thermocouples en entre et sortie dchangeur

35
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

Un thermocouple est galement plac proximit de laroconvecteur pour suivre lvo-


lution de la temprature lextrieur. La priode dchantillonnage est de 15 secondes pour
les mesures de temprature.

Les consommations lectriques de la la pompe et laroconvecteur sont mesures avec


un nergimtre Fluke434 avec des mesures toutes les 15 secondes.

La dtermination de la puissance thermique cde par lair leau travers lchangeur


implique la mesure des vitesses dair en sortie dchangeur. La surface de sortie de lchan-
geur de dimensions 750mm 400mm dans le plan vertical est rduite 220mm 220mm
via un convergent afin de diminuer le nombre de points de mesure (cf. figure 2.6.b.). Les
vitesses sont mesures en quatre points dans la dernire section du convergent avec une p-
riode dchantillonnage de 2 secondes.

Les mesures de dbit deau sont assures par un dbitmtre magnto-inductif IFM ELEC-
TRONIC SM8050 plac entre lchangeur et la pompe, avec une priode dacquisition de 15s.
Lincertitude de mesure de cet appareil est indique dans le tableau suivant.

TABLEAU 2.4 Incertitudes de mesures pour le dbit deau

Capteur Prcision (VM=Valeur Mesure)

Dbitmtre (eau) 2% VM 0.5 L/min

2.2 Rsultats et discussions


Les protocoles dessais et les rsultats des tudes exprimentales du refroidissement de la
baie sans et avec changeur air/eau sont analyss et compars. Linstrumentation de quatre
serveurs ont permis de mettre en vidence une reproductibilit des diffrentes mesures,
avec des cart-types compris entre 0,4 et 1,2C pour les composants, de lordre de 0,7C
pour les tempratures dair. Nous faisons donc lhypothse que le comportement thermique
de chaque serveur est identique. Les tempratures prsentes en rgime stationnaire sont
moyennes sur lensemble des mesures durant un intervalle de temps dune heure.

2.2.1 Refroidissement air sans changeur


Diffrents essais sont raliss avec des variations de paramtres opratoires, lists ci-
dessous, afin de cerner le comportement des quipements (un seul paramtre est modifi
chaque essai) :
temprature dair en entre : 20, 25 et 30C. Cette plage de tempratures, qui est g-
nralement retrouve dans les data centers, permet de suivre lvolution du systme
en fonction de la temprature dair en entre de la baie ;
puissance des serveurs : PMIN et PMAX . Comme dcrit prcdemment, cela permet
de modifier la puissance lectrique consomme par les composants des serveurs, et
donc la puissance thermique totale de la baie vacuer par le systme de refroidisse-
ment.

36
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions

Nous nous intressons dans un premier temps lvolution du dbit dair en fonction de
la temprature dair en entre de baie. La figure 2.7a montre lvolution du dbit dair total
traversant la baie (comprenant les alimentations et les serveurs), tandis que la figure 2.7b
montre uniquement le dbit dair travers un seul serveur. Le dbit dair augmente progres-
sivement avec la temprature dair en entre de manire non linaire, avec une trs faible
hausse entre 20 et 25C (+2%) et une forte augmentation entre 25 et 30C (+36%). Nous pou-
vons galement constater que le dbit dair nest pas fonction de la puissance dissipe par la
baie.
Des mesures de vitesses dair en face avant des serveurs montrent que 42% du dbit total
de la baie se retrouve au niveau des serveurs. Plus de la moiti du dbit dair permet donc de
refroidir les alimentations des serveurs, ce qui disproportionn par rapport aux puissances
dissipes par les alimentations. La vitesse moyenne dair en face avant des serveurs est com-
prise entre 2 m.s 1 et 3 m.s 1 . Nous nous attendons donc avoir des vitesses dair beaucoup
plus leves au niveau des composants, du fait des rductions des sections de passage dans
les serveurs.

2100 60

2000
55
1900
Dbit d'air (m /h)

Dbit d'air (m /h)

50
1800
3

1700 45

1600
40
1500
35
1400

1300 30
20 22 24 26 28 30 32 20 22 24 26 28 30 32
entre entre
T (C) T (C)
a a

(a) Baie (b) Serveur

F IGURE 2.7 Dbits dair mesur en fonction de la temprature dair en entre (baie et serveur)
interne Orange 2 interne Orange

La figure 2.8 donne un rcapitulatif des mesures de tempratures des composants PMIN
et PMAX pour diffrentes valeurs de tempratures dair en entre. Nous constatons que le re-
froidissement des composants est bien assur, les tempratures limites de fonctionnement
ntant pas atteintes quel que soit le scnario.
Llvation des tempratures entre les deux puissances est notable, surtout pour les CPU
qui voient une hausse moyenne de leur temprature de surface denviron 12,4C. Les temp-
ratures augmentent de 5,8C pour le Chipset, de 4,4C pour le SAS et de 9,8C pour la RAM.
Nous remarquons que les tempratures de surface des composants sont plus faibles lors
des essais avec une temprature dair en entre de baie de 30C par rapport aux essais 25C.
Le dbit dair plus important dans le premier cas explique ce phnomne : lchange convec-
tif tant plus important et la puissance dissipe restant identique, lcart de temprature est
rduit mme avec une temprature dair en entre plus leve.

37
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

20,4C 25,0C 29,8C 20,0C 25,2C 29,8C


70 70
Max=115C

Max=105C Max=95C
60 60
Max=115C

Max=105C Max=95C Max=66C Max=55C


50 50

Temprature (C)

Temprature (C)
Max=66C Max=55C
40 40

30 30

20 20

10 10

0 0
CPUs Chipset SAS RAM HDDs CPUs Chipset SAS RAM HDDs

(a) PMIN (b) PMAX

4 interne Orange
F IGURE 2.8 Tempratures
5
des composants en fonction de la puissance dissipe
interne Orange
et de la temprature dair en entre

La figure 2.9 montre lvolution de la temprature de lair dans les serveurs. Nous obser-
vons dans un premier temps que ces variations de tempratures permettent de visualiser
la distribution de puissance dans le serveur. En effet, la dissipation de puissance est plus
importante en entre des serveurs, o sont placs les composants les plus dissipatifs (CPU).
Entre x=0 et x=29cm, les temprature dair augmentent en moyenne de 9,8C PMIN et 15,0C
PMAX . Ensuite, la hausse des tempratures est plus faible entre x=29 et x=42cm avec une
augmentation de 3,8 et 1,7C pour chaque mode de puissance. Nous notons que lvolution
des tempratures est quasi-linaire, avec un cart moyen de temprature entre la sortie et
lentre des serveurs de 13,6C PMIN et de 16,7C PMAX .
Daprs le tableau 2.5, une diffrence de plusieurs degrs existe entre la temprature dair
en sortie de serveur labscisse x=42cm et la temprature dair en sortie de la baie. Cela
est d au mlange des flux dair des serveurs et des alimentations lors de laspiration des
ventilateurs centrifuges.
Nous pouvons galement noter que lhumidit relative dans lenceinte est trs faible, de
lordre de 15%. Cela provient du systme de rgulation de la temprature de lair dans len-
ceinte, qui le dshumidifie.

20,4C (P ) 25,2C (P ) 29,8C (P )


MIN MIN MIN

20,0C (P ) 25,2C (P ) 29,8C (P )


MAX MAX MAX
45

40
Temprature (C)

35

30

25

20
0 10 20 30 40
x (cm)

F IGURE 2.9 Evolution spatiale des tempratures dans les serveurs


6 interne Orange

38
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions

TABLEAU 2.5 Tempratures et humidit relative moyennes (sans changeur)

PMIN PMAX

Tent
a
r ee
(C) 20.4 25.2 29.8 20.0 25.2 29.8
sor t i e
TB,a (C) 26.6 31.6 35.2 28.8 34.0 37.2

HR (%) 15.9 17.5 17.6 17.8 11.1 11.3

Afin de quantifier la puissance thermique dissipe par la baie, des bilans thermiques sur
lair sont effectus. Ils permettent galement de vrifier si linstrumentation en place est suf-
fisante, en comparant les rsultats obtenus aux mesures de puissance lectrique. La figure
2.10 expose les mesures de puissance lectrique consomme par les serveurs et les alimenta-
tions, les ventilateurs et la puissance thermique calcule sur lair. Les rsultats sont affichs
en fonction de la temprature en entre de baie pour les deux modes de puissance.
Nous constatons que la puissance lectrique de la baie augmente denviron 46% entre
PMIN et PMAX . Les bilans thermiques sont corrects, nous retrouvons une valeur similaire entre
la puissance thermique calcule et la puissance lectrique mesure. Les incertitudes sont
values 4% pour les mesures lectriques et 7% pour le calcul de la puissance thermique.
Nous notons toutefois une lgre augmentation de la puissance thermique lorsque la tem-
prature dair en entre est de lordre de 30C.
Nous avons galement vu prcdemment que le dbit dair est fonction de la temp-
rature dair en entre de baie, ce que confirme laugmentation de la puissance consomme
par les ventilateurs centrifuges. A 20C, ils consomment environ 319W, contre 682W 29,8C.
Cela reprsente une hausse de 114% de la consommation lectrique par rapport la valeur
minimale.

Serveurs+alimentations (P ) Puissance thermique (P ) Ventilateurs


MIN MIN

Serveurs+alimentations (P ) Puissance thermique (P )


MAX MAX

5000

4000
Puissance (W)

3000

2000

1000

0
18 20 22 24 26 28 30
entre
T (C)
a

F IGURE 2.10 Bilans lectrique et thermique de la baie sans changeur

7 interne Orange

39
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

2.2.2 Refroidissement air avec changeur


Dans notre tude, la temprature dair en entre de baie est directement lie la temp-
rature deau en entre dchangeur. Pour ces essais, la temprature deau vise est comprise
entre 17 et 27C, ce qui correspond des tempratures dair variant entre 20 et 30C. Ces tem-
pratures de consigne ont t choisies afin de se rapprocher le plus possible des essais avec
le systme de rfrence et dviter les problmes de condensation au niveau de lchangeur.
Le second paramtre modifi est la valeur du dbit deau travers lchangeur. Du fait des
pertes de charges dans le circuit hydraulique, le dbit couvert par la pompe vitesse variable
est compris entre 10 et 16 L/min. Enfin, le troisime et dernier paramtre opratoire reste la
puissance dissipe par les serveurs, avec deux niveaux de puissance PMIN et PMAX .
Dans cette partie, nous allons discuter des rsultats obtenus en rgime stationnaire afin
de les comparer ceux obtenus lors des essais de refroidissement sans changeur air/eau.

Des mesures de vitesses dair en sortie dchangeur ont t faites en faisant varier la tem-
prature dair en entre de baie sur une plage allant de 15 45C, afin de caractriser lvo-
lution du dbit dair en fonction de cette temprature. La vitesse dair a t mesure par pas
de 1C et est moyenne sur une priode de 2 minutes pour chaque point de mesure. Les
rsultats obtenus ont t reports sur la figure 2.11.
Entre 15C 25C, nous observons que le dbit dair est constant 1066 m3 /h. Lorsque la
temprature dair en entre de baie passe de 25 33C, le dbit dair crot jusqu atteindre
une valeur de 1894 m3 /h. Il est ensuite constant entre 33 et 39C, puis partir de 39C il
atteint sa valeur maximale de 2020 m3 /h. Les incertitudes sur les mesures du dbir dair sont
en moyenne de lordre de 5%.
Les mesures de vitesse dair en face avant des serveurs ont confirm cette tendance et
ont galement montr que 32% du dbit dair total de la baie passe travers les serveurs.
Par rapport au refroidissement air sans changeur, nous notons une baisse du dbit
dair total de lordre de 20% (10% de baisse au niveau des alimentations lectriques addi-
tionne aux 10% de pertes au niveau des serveurs). Cette baisse est due la mise en place de
lchangeur, qui induit une perte de charge supplmentaire pour les ventilateurs de la baie.

2200

2000
Dbit d'air (m /h)

1800
3

1600

1400

1200

1000
16 20 24 28 32 36 40 44
entre
T (C)
a

F IGURE 2.11 Dbit dair en fonction de la temprature dentre de la baie avec changeur

5Le dbit
internedair
Orange peut alors tre reprsent par en fonction de la temprature dentre de la

baie (cf. quation 2.1). Une rgression exponentielle a t applique sur la partie variable de

40
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions

la courbe. Cette fonction sera par la suite utilise dans les diffrents modles numriques
pour le calcul du dbit dair en fonction de la temprature dair en entre de baie.



0, 296 pour Taent r ee < 25C

0, 0517 exp(0, 07 T ent r ee ) pour 25 T ent r ee < 33C

a ent r ee a a
Q (Ta )= (2.1)
0, 526 pour 33 Taent r ee < 39C


0, 561 pour Taent r ee > 39C

La figure 2.12 montre les tempratures des composants en fonction de la puissance dis-
sipe et de la temprature dair en entre, avec un dbit deau constant de 15,7 l.min1 . Les
valeurs maximales recommandes pour les tempratures de chaque composant sont gale-
ment reportes sur la figure.
Une augmentation des tempratures est constate entre les deux modes de puissances.
En moyenne, les tempratures de surface des composants augmentent de 13,8C pour les
CPUs, 8,7C pour le chipset et le SAS, 12,6C pour la RAM et 7,7C pour les HDDs. Par rapport
aux rsultats obtenus avec un refroidissement sans changeur, nous notons que les tempra-
tures sont en moyenne suprieures de 2,5C dans le cas du refroidissement avec changeur,
avec un maximum de 8,1C pour le SAS. Cette disparit sexplique par laugmentation de
la perte de charge due lchangeur air/eau. Cette hausse des tempratures na aucune in-
cidence sur le bon fonctionnement des composants, qui sont encore trs loignes de leur
temprature limite recommande. Le refroidissement des composants est donc bien assur
avec la mise en place dun changeur en fond de baie.
Nous remarquons galement que dans certains cas, la temprature des composants avec
une temprature dair en entre de lordre de 25C est plus leve que dans le cas dune
temprature dair en entre proche de 30C. Ceci sexplique par le fait de la forte hausse de
la valeur du dbit dair dans cette plage de tempratures.

20,1C 25,1C 30,9C 21,7C 26,6C 32,2C


70 70 Max=115C
Max=95C
Max=105C
60 Max=115C 60
Max=105C Max=95C
Max=66C Max=55C
50 50
Temprature (C)

Temprature (C)

Max=66C Max=55C
40 40

30 30

20 20

10 10

0 0
CPUs Chipset SAS RAM HDDs CPUs Chipset SAS RAM HDDs
(a) PMIN (b) PMAX

F IGURE 2.12 Tempratures des composants en fonction de la puissance dissipe


interne Orange et de
6 la temprature
interne Orange dair en entre (avec changeur)

Les variations des tempratures dair lintrieur des serveurs sont traces sur la figure 2.13.
Entre lentre et la sortie des serveurs, les temprature dair augmentent en moyenne de
13,1C PMIN et 20,7C PMAX avec des variations quasi linaires.

41
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

Les profils de tempratures sont similaires aux rsultats obtenus avec un refroidissement
sans changeur air/eau. Toutefois, nous constatons un cart important entre les deux tech-
niques de refroidissement en sortie de serveur PMAX : en moyenne, lair est plus chaud de
5,8C dans le cas avec changeur cause pertes de charges supplmentaires.

20,1C (P ) 25,1C (P ) 30,9C (P )


MIN MIN MIN
21,7C (P ) 26,6C (P ) 32,2C (P )
MAX MAX MAX
50

45
Temprature (C)

40

35

30

25

20
0 10 20 30 40
x (cm)

F IGURE 2.13 volution des tempratures dair dans les serveurs


en fonction de la temprature dair en entre et de la puissance (avec changeur)
7 interne Orange

Le tableau 2.6 donne les tempratures de lair et de leau en entre et sortie de baie et
dchangeur, ainsi que les valeurs de lefficacit de lchangeur. Les valeurs des tempra-
tures deau en entre dchangeur sont proches des tempratures de consigne fixes 17, 22
et 27C. La temprature dair en entre dchangeur est identique la temprature en sortie
de baie. Ces valeurs augmentent en fonction de la puissance dissipe par les quipements.
Entre la sortie et lentre des fluides au niveau de lchangeur, nous observons des carts de
tempratures PMIN de 7,4C pour lair et de 2,4C pour leau. A PMAX , les diffrences de tem-
pratures sont de lordre de 10,1C pour lair et de 3,6C pour leau. De plus, les tempratures
deau en sortie dchangeur sont trs proches des tempratures dair en sortie dchangeur.
En effet, la diffrence moyenne entre ces tempratures est de 0,2C PMIN et de 0,4C PMAX .
Par comparaison avec le systme de rfrence air, nous remarquons que la diffrence
de temprature dair entre la sortie et lentre de la baie est en moyenne plus leve de 1,3C
PMIN et de 1,8C PMAX .
Lors des essais PMAX , la temprature dair en entre de baie est suprieure denviron
1,5C par rapport PMIN pour une mme temprature deau en entre dchangeur. Cet cart
est d laugmentation de la temprature deau en sortie dchangeur lorsque la puissance
dissipe par la baie est plus grande.
Nous pouvons galement noter que lhumidit relative dans lenceinte est de lordre de
30 40%, soit deux trois fois plus que les valeurs mesures dans le cas du refroidissement
de la baie sans changeur. Comme la rgulation de la temprature de lair nest pas en fonc-
tionnement, il ny a pas de dhumidification de lair dans lenceinte.

42
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions

Lefficacit dun changeur est donne par la relation ci-dessous (quation 2.2). Pour rap-
pel, les valeurs sont calcules pour un dbit deau constant de 15,7 l.min1 et un dbit dair
variant avec la temprature dair en entre de la baie. Lerreur sur le calcul de lefficacit est
de lordre de 4%.

sor t i e sor t i e
TB,a TE,a
= sor t i e
(2.2)
TB,a Teent r ee

TABLEAU 2.6 Tempratures, humidit relative et efficacits moyennes

PMIN PMAX

Tent
a
r ee
(C) 20,1 25,1 30,9 21,7 26,6 32,2
sor t i e
TB,a (C) 27,8 32,9 37,3 33,0 37,1 40,7

Tent
e
r ee
(C) 17,6 22,8 28,2 17,7 22,9 27,9
Tesor t i e (C) 20,0 25,1 30,8 21,2 26,4 31,8
sor t i e
TE,a (C) 20,0 25,0 30,8 21,6 26,6 32,2

HR (%) 39,3 33,1 28,8 38,1 29,9 29,1

0,76 0,78 0,71 0,75 0,74 0,66

Afin dvaluer la quantit de chaleur rcupre par lchangeur, des bilans thermiques
sont effectues sur chaque fluide. La figure 2.14 donne les puissances lectriques mesures
et les puissances thermiques calcules lors des diffrents essais. Les incertitudes sont res-
pectivement values 7% et 12% pour la puissance thermique sur lair et sur leau.
Dans un premier temps, les puissances lectriques consommes par la baie et les venti-
lateurs sont similaires celles mesures dans le cas de du refroidissement sans changeur.
La puissance consomme par les serveurs et les alimentations est de 2755 W PMIN et at-
teint 4150 W PMAX . La puissance thermique cde lair est de 2771 W PMIN et de 4103
W PMAX . En comparaison, la puissance thermique capte par lchangeur est de 2561 W
PMIN et de 3809 W PMAX . La puissance thermique rcupre par lchangeur Pe reprsente
donc plus de 90% de la puissance lectrique consomme par la baie.
Comme pour le refroidissement de la baie sans changeur, pour une temprature dair
en entre de baie proche de 30C, nous obtenons sur les bilans thermiques des rsultats plus
levs, qui sont nanmoins toujours compris dans lintervalle des incertitudes de mesures.

43
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

Serveurs+alimentations (P ) Serveurs+alimentations (P ) Ventilateurs


MIN MAX
Puissance thermique air (P ) Puissance thermique air (P )
MIN MAX
Puissance thermique eau (P ) Puissance thermique eau (P )
MIN MAX

5000

4000
Puissance (W)

3000

2000

1000

0
20 22 24 26 28 30 32 34
entre
T (C)
a

F IGURE 2.14 Bilans lectrique et thermique de la baie avec changeur


8 interne Orange
Lefficacit nergtique du systme de refroidissement est galement prsente. Nous
rappelons que la puissance consomme par la baie et le systme de refroidissement repr-
sentent la puissance totale consomme par linstallation (PIT + Pcool i ng ) et que la puissance
consomme par le systme de refroidissement est uniquement donne par la consomma-
tion lectrique de la pompe et de laroconvecteur. Les donnes correspondantes sont rsu-
mes dans le tableau 2.7.
Comme la consommation lectrique de la pompe est toujours constante 21 W, les va-
riations de la puissance consomme par le systme de refroidissement sont dues laro-
convecteur. En effet, son fonctionnement va dpendre de la puissance thermique vacuer
dans le milieu extrieur et de la temprature de ce dernier.

Enfin, afin dvaluer lefficacit nergtique du systme de refroidissement, nous uti-


lisons un indicateur defficacit nergtique partiel, variante du PUE, appel pPUE (par-
tial Power Usage Effectiveness) [95]. Le pPUE dans notre tude se concentre sur lnergie
consomme par le systme de refroidissement (cf. quation 2.3).

PIT + Pcool i ng
pPUE = (2.3)
PIT
Cet indicateur ne prend donc pas en considration les autres lments dfinissant le
PUE, notamment le rendement de la chane dalimentation lectrique.

Lindicateur defficacit nergtique a une valeur de 1,02. Compare la littrature (va-


leur autour de 1,3 pour un refroidissement air classique), cette valeur est trs basse et satis-
faisante malgr la faible puissance consomme par les quipements. Cela indique donc que
lutilisation dun changeur air/eau en fond de baie permet de rcuprer une fraction trs
importante de la puissance dissipe par les quipements informatiques tout en ayant une
faible consommation de fonctionnement.

44
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

TABLEAU 2.7 Calcul de lefficacit nergtique du refroidissement de la baie avec changeur

PMIN PMAX

Tent
ai r
r ee bai e
(C) 20,4 25,2 30,9 21,7 26,6 32,2

PIT (W) 300165 304766 351073 436585 449787 509496


Pcool i ng (W) 7311 6511 5611 10112 8411 6911

pPUE 1,020,05 1,020,05 1,020,05 1,020,04 1,020,04 1,020,04

2.3 Simulations numriques


Dans la littrature, nous trouvons un certain nombre de publications portant sur la mo-
dlisation numrique de serveurs [96] ou dchangeurs [97, 98].
Dans notre tude, nous proposons une approche avec des modles de comportement
par une mthode simplifie de type nodale. Le dveloppement de ces modles numriques
permet de prdire la rponse en tempratures de la baie et de lchangeur en fonction des
paramtres opratoires. Ces modles font intervenir diffrents paramtres qui sont identifis
par technique inverse partir des squences exprimentales.

2.3.1 Modlisation de la baie et de lchangeur


La figure 2.15 prsente le schma lectrique quivalent du modle de la baie. Les nuds
et les conductances correspondent aux tempratures et aux coefficients dchange convec-
tifs et conductifs [99].
Du fait des vitesses dair importantes dans les serveurs, les changes thermiques par
convection sont supposs prpondrants par rapport aux changes radiatifs.

Les paramtres dentre pour ce modle sont la temprature dair en entre (Taent r ee ), la
temprature ambiante de lair (Taamb ) et la puissance dissipe par les quipements (PMIN ou
PMAX ) en fonction du temps. Le dbit dair total traversant la baie est divis en deux parties
distinctes afin de prendre en compte le dbit dair traversant les serveurs QSa et celui tra-
versant les alimentations lectriques (Qaal i m ). La valeur du dbit dair pour une temprature
dair en entre donne est obtenue partir des mesures exprimentales prsentes prc-
demment.
A partir des rsultats exprimentaux, les nuds du modle nodal ont t choisis afin de
S S
correspondre quelques points physiques. Les nuds 1 (Ta,1 ) et 2 (Ta,2 ) reprsentent les
tempratures dair situes x=29cm et x=42cm. Ils correspondent aux tempratures dair
quivalentes de la premire partie (de 0 29cm) et de la seconde partie (de 29 42cm) des
S S
serveurs. De plus, les nuds 3 (Tc,1 ) et 4 (Tc,2 ) reprsentent les tempratures quivalentes
des composants dans chaque zone. En se basant sur les fiches techniques des composants,
la puissance dissipe par les composants nest pas uniformment rpartie dans les serveurs.
En effet, la puissance P associe au noeud 3 reprsente 72,5% de la puissance totale des
serveurs PMIN et 80% PMAX . La puissance quivalente P 0 est quant elle associe au noeud
4 et reprsente la puissance restante dissipe par les autres composants.
Les transferts de chaleur par conduction et convection entre les nuds (1,3) et (2,4) sont
reprsents par les conductances thermiques quivalentes h 13 et h 24 . Les changes ther-
miques entre lair ambiant et la baie sont galement pris en compte.

45
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

Le refroidissement des alimentations lectriques par convection force est galement


modlis. Le nud Taal i m correspond la temprature dair en sortie des alimentations. P 00
reprsente la chaleur dissipe par les alimentations lors de la conversion du courant alter-
natif en courant continu. Leur efficacit est obtenue partir des mesures lectriques et est
estime en moyenne 90% pour les deux modes de puissances confondus.
sor t i e
Le nud 6 correspond la temprature dair en sortie de baie (TB,a ), o les flux dair
provenant des serveurs et des alimentations lectriques se mlangent.

, ,

, ,

, , , Modle
changeur
, ,
,

F IGURE 2.15 Schma du modle nodal de la baie

Le calcul des tempratures aux diffrents nuds du modle nodal passe par un bilan
des flux thermiques en chacun des points. Le systme dquations rgissant ce modle est
dtaill ci-dessous, avec par exemple, Ca,1 la capacit thermique du nud 1, m aS le dbit dair
massique travers les serveurs. h 100 et h 13 sont les conductances quivalentes modlisant
les changes thermiques entre lair ambiant, lair lintrieur des serveurs et la surface des
composants.
S

dTa,1
aS .Cpa (Taent r ee Ta,1 S
) + h 100 (Taamb Ta,1 S S S

C =m ) + h 13 (Tc,1 Ta,1 )

a,1





dt
S

dTa,2


aS .Cpa (Ta,1
S S
) + h 200 (Taamb Ta,2 S S S

C =m Ta,2 ) + h 24 (Tc,2 Ta,2 )

a,2



dt

S

dTc,1
S S

C
c,1
= P + h 13 (Ta,1 Tc,1 )
dt
(2.4)
S

dTc,2
0 S S
Cc,2 dt = P + h 24 (Ta,2 Tc,2 )






dTaal i m


= P 00 + m aal i m .Cpa (Taent r ee Taal i m )

C

a,3

dt





dT sor t i e


Ca,4 B,a

aS .Cpa (Ta,2
S sor t i e
aal i m .Cpai r (Taal i m TB,a
sor t i e

=m TB,a )+m )
dt

Une notation matricielle est employe pour reprsenter le systme dquations :




dT


= A T + BU (2.5)
dt

46
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

Les dtails des diffrentes matrices et vecteurs sont donns dans lannexe A.4.

Le modle nodal retenu pour lchangeur courants croiss est galement donn (cf.
figure 2.16). Le modle est compos de deux parties (pour chaque fluide) qui sont relies
aux diffrents nuds par trois conductances. Les paramtres dentre du modle sont la
temprature deau Teent r ee , le dbit massique deau m e , le dbit massique dair m a et la tem-
sor t i e
prature dair en entre dchangeur TB,a , qui est calcule partir du modle de la baie
dcrit prcdemment (nud 6). Deux nuds intermdiaires sont introduits, correspondant
moy
aux moyennes arithmtiques des tempratures dentre et sortie de lair (Ta ) et de leau
moy
(Te ). Ces nuds ne proviennent donc pas directement de points de mesures et ne repr-
sente en aucun cas les tempratures que lon serait susceptibles de retrouver au milieu de
sor t i e
lchangeur. Enfin, les nuds 10 et 11 reprsentent la temprature dair TE,a et la temp-
rature deau Tesor t i e en sortie dchangeur.

eau
, ,

, ,

Modle ,
baie
air , , ,

F IGURE 2.16 Schma du modle nodal de lchangeur

Le systme dquations rgissant ce modle est dtaill ci-dessous :


moy
dTa moy moy moy
Ca,5 =m a .Cpa (TB,a
sor t i e
Ta ) + h 89 (Te Ta )





dt
moy


dTe moy moy moy
e .Cpe (Teent r ee Te ) + h 89 (Ta Te )

e,1 dt = m
C



sor t i e
(2.6)
dTE,a moy
a .Cpa (Ta TE,a sor t i e
) + h 7,10 (Teent r ee TE,a
sor t i e

C =m )

a,6





dt
sor t i e

C dTe

moy

=m e .Cpe (Te Tesor t i e ) + h 6,11 (TB,a sor t i e
Tesor t i e )

e,2
dt

Le contenu des diffrentes matrices est explicit dans lannexe A.4.

La rsolution du problme se fait avec un schma implicite, en exprimant la drive tem-


porelle avec une diffrence finie lordre 1, dcentr arrire [100] :

dT T(t ) T(t t )
= + O(t )
dt t
(2.7)

= T(t + t ) = (Id t A(t + t ))1 [T(t ) + t B(t + t )U(t + t )]

47
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

La formulation implicite permet de saffranchir de critre de stabilit mais entrane une


inversion matricielle qui peut rendre le calcul plus consquent.

2.3.2 Identification des paramtres


2.3.2.1 Procdure didentification

Lidentification des conductances et des capacits thermiques quivalentes des modles


nodaux prcdents passent par lutilisation de mthodes de rsolution inverse, bases sur
la minimisation dun critre aux moindres carrs [101]. Le schma de principe de la proc-
dure didentification est donn sur la figure 2.17. Nous introduisons la fonctionnelle f (qua-
tion 2.8) qui est dfinie comme la somme quadratique des carts entre les tempratures me-
sures T et les tempratures calcules T e chaque instant t partir du vecteur paramtre
x.


Ici le vecteur paramtre x est constitu des valeurs estimes des conductances quivalentes


h = [h 100 , h 200 , h 13 , ...] et des capacits thermiques quivalentes C = [Ca,1 , Ca,2 , Cc,1 , ...]. En
notant m le nombre de points de mesures du modle et N le nombre de pas de temps, nous
aboutissons la relation :

1 Xm X N
f (
e j (

j
x )= (Ti Ti
x ))2 (2.8)
N i =1 j =1

La minimisation de cette fonctionnelle f est effectue partir dun algorithme doptimi-


sation. Le choix sest port sur la fonction fmincon du logiciel Matlab qui est base sur une
mthode de gradient et qui permet entre autres de borner les valeurs des paramtres dans
un intervalle dfini par lutilisateur [102].
Dans notre tude, nous avons un nombre important de paramtres estimer. Lidentifi-
cation est alors faite en deux phases : une premire estimation des paramtres est effectue
en rgime stationnaire afin de dterminer les valeurs des conductances thermiques quiva-
lentes. En effet, en rgime permanent, la partie gauche des quations des systmes 2.4 et 2.6
est nulle. Puis dans une seconde phase, les capacits thermiques quivalentes sont identi-
fies en rgime transitoire.

Tairambiant
Tairentre Systme rel
P
Calcul de f

Modle nodal (baie)

Optimisation

F IGURE 2.17 Schma de principe de la procdure didentification

48
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

2.3.2.2 Identification des conductances quivalentes

La squence de mesures utilise pour identifier les conductances est dtaille sur les fi-
gures 2.18 2.20. La fonctionnelle est calcule sur les six points de mesures pour le modle
de la baie et sur les quatre points de mesures pour le modle de lchangeur.

F IGURE 2.18 Squence didentification : variations des paramtres opratoires

1 interne Orange T T T air


CPU SAS HDD T
x=29cm
T T air air
Chipset RAM T T
x=14cm x=42cm

65

60

55
Temprature (C)

50

45

40

35

30
0 10 20 30 40 50 60 70 80
Temps (h)

F IGURE 2.19 Squence didentification : volutions des tempratures des serveurs


3 interne Orange

49
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

sortie sortie sortie


T T T
B,a e E,a

45

40
Temprature (C)

35

30

25
0 10 20 30 40 50 60 70 80
Temps (h)

F IGURE 2.20 Squence didentification : volutions des tempratures de lchangeur


4 interne Orange

La figure 2.21 montre les valeurs des conductances quivalentes en fonction des para-
mtres opratoires pour le modle de la baie. Nous observons que la conductance h 13 d-
pend du dbit dair de la baie et de la dissipation de puissance des serveurs. En effet, les
valeurs sont proches de 150 W/K PMIN alors quelles atteignent 250 W/K PMAX . Les va-
leurs de h 100 et de h 200 sont assez faibles compares aux autres conductances et nont pas t
ngliges car elles sont ncessaires la convergence du modle numrique.

h -P h -P h -P h -P
13 min 24 min 10' min 20' min

h -P h -P h -P h -P
13 max 24 max 10' max 20' max

300

250
Conductance (W/K)

200

150

100

50

0
300 350 400 450 500 550 600 650
S 3
Q (m /h)
a

F IGURE 2.21 Variations des conductances de la baie en fonction des paramtres opratoires
1 interne Orange

Afin de modliser ces dpendances, les relations donne par le tableau 2.8 ont t obte-
nues par le biais de rgressions linaires et quadratiques.

50
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

TABLEAU 2.8 Expressions des conductances du modle de la baie

Conductances (W/K) PMIN PMAX

h 13 185 QSa + 134 287 QSa + 211


2 2
h 24 4680 QSa 1247 QSa + 152 4644 QSa 1042 QSa + 130
2 2
h 100 1024 QSa + 274 QSa 7 1758 QSa 325 QSa + 30
2 2
h 200 831 QSa + 212 QSa 9 2250 QSa + 533 QSa 22

La figure 2.22 donne le rsultat de lidentification des conductances pour le modle de


lchangeur. Ces conductances sont fonction du dbit dair Qa (en m3 /s) et du dbit deau
Qe (en L/min) traversant lchangeur. Les mesures exploites sont toujours celles dcrites
sur les figures 2.18 2.20 avec un dbit deau constant 14,6 L/min. Une seconde squence
de mesures a t utilise pour identifier les conductances avec des paramtres opratoires
identiques, mais avec un dbit deau constant de 10,1 L/min. Le but est de caractriser la
dpendance des conductances en fonction des valeurs des dbits dair et deau traversant
lchangeur. Une rgression du premier ordre a t faite afin de dexprimer la dpendance
linaire des conductances avec en fonction de ces deux paramtres opratoires. Les diff-
rentes relations sont exprimes ci-dessous :

h 6,11 = 7.1 Qe Qa + 435 Qa 1.4 Qe + 81


h 89 = 35 Qe Qa 128 Qa 4.3 Qe + 243 (2.9)

h
7,10 = 22 Qe Qa + 56 Qa + 52 Qe 55

eau eau eau


h -Q h -Q h -Q
6,11 1 89 1 7,10 1

eau eau eau


h -Q h -Q h -Q
6,11 2 89 2 7,10 2
Data 55
700

600
Conductance (W/K)

500

400

300

200

100
1000 1200 1400 1600 1800 2000
3
Q (m /h)
a

F IGURE 2.22 Variations des conductances de lchangeur en fonction des paramtres opratoires
2 interne Orange

51
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

2.3.2.3 Identification des capacits thermiques quivalentes

Une fois les conductances quivalentes connues, nous recherchons par identification les
valeurs des capacits thermiques de chaque nud laide des quations en rgime tran-
sitoire. Les squences de mesures exploites sont celles utilises lors de lidentification des
conductances quivalentes. Le tableau 2.9 renseigne les rsultats obtenus lors de ce calcul.

Pour le modle de la baie, nous observons que les capacits des nuds 1 et 3 sont plus
leves que celles des autres nuds. Ces nuds correspondent aux points physiques pr-
sents lentre des serveurs. Le reste des capacits thermiques a des valeurs proches. En
considrant la masse totale de la baie, la somme de toutes les capacits thermiques de la
baie donne une valeur pertinente. En effet, en prenant la capacit thermique de lacier (465
J/kg/K) et la masse suppose des quipements informatiques (115 kg, daprs les donnes
constructeur), nous obtenons une valeur thorique de 53,5 kJ/K.

Capacit thermique Ca,1 Ca,2 Cc,1 Cc,2 Ca,3 Ca,4 Total

Valeurs obtenues (kJ/K) 16,8 3,5 14,6 4,1 5,9 5,6 50,5

TABLEAU 2.9 Identification des capacits thermiques pour le modle de la baie

Les capacits thermiques quivalentes du modle de lchangeur ont toutes le mme


ordre de grandeur. Nous notons que les valeurs des capacits Ca,5 et Ce,1 sont de 43,5 et 47,1
kJ/K, tandis que pour les nuds en sortie dchangeur nous obtenons respectivement 56,4
et 61,9 kJ/K pour Ca,6 et Ce,2 . Cette disparit est explique par le choix des nuds inter-
mdiaires, dfinis comme les moyennes des tempratures en entre et en sortie de chaque
fluide et qui ne correspondent pas aux tempratures au milieu de lchangeur. Nous consta-
tons galement que les capacits quivalentes de lair (Ca,5 , Ca,6 ) sont plus faibles que les
capacits quivalentes de leau (Ce,1 , Ce,2 ).

Capacit thermique Ca,5 Ce,1 Ca,6 Ce,2 Total

Valeurs obtenues (kJ/K) 43,5 47,1 56,4 61,9 208,9

TABLEAU 2.10 Identification des capacits thermiques pour le modle de lchangeur

2.3.2.4 Validation sur la squence didentification

Les conductances fluides et les capacits thermiques tant dtermines, il est possible de
vrifier dans un premier temps si la modlisation est correcte pour la squence de mesures
qui a permis didentifier ces paramtres. La figure 2.23 prsente les rsultats obtenus pour
le modle de la baie et la figure 2.24 ceux obtenus pour le modle de lchangeur. Les trs
faibles carts de tempratures entre les mesures de tempratures exprimentales et celles is-
sues du modle indiquent que les valeurs identifies pour chaque paramtre sont correctes.

52
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

S S S S alim sortie
T - exp T - exp T - exp T - exp T - exp T - exp
a,1 a,2 c,1 c,2 a B,a
S S S S alim sortie
T - num T - num T - num T - num T - num T - num
a,1 a,2 c,1 c,2 a B,a

60

55

50
Temprature (C)

45

40

35

30

25
0 10 20 30 40 50 60 70 80

Temps (h)
3 interne Orange

F IGURE 2.23 Identification : comparaison exprimental/numrique du modle de la baie

moy moy sortie sortie


T - exp T - exp T - exp T - exp
a e E,a e

moy moy sortie sortie


T - num T - num T - num T - num
a e E,a e

40

38

36
Temprature (C)

34

32

30

28

26

24
0 10 20 30 40 50 60 70 80

Temps (h)
4 interne Orange
F IGURE 2.24 Identification : comparaison exprimental/numrique du modle de lchangeur

2.3.3 Comparaisons expriences/simulations


Les deux modles numriques sont ensuite tests sur plusieurs squences de mesures
avec des paramtres opratoires diffrents de ceux utiliss lors de lidentification des para-
mtres. Un nouveau jeu de paramtres opratoires est donn par la figure 2.25. La tempra-
ture dair en entre varie entre 24,4 et 27,8C, la temprature deau en entre dchangeur est
proche de 22C tandis que le dbit deau est compris entre 10,0 et 14,7 L/min. La puissance
dissipe par les quipements est galement modifie plusieurs reprises.

53
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

F IGURE 2.25 Squence de validation : paramtres opratoires


5 interne Orange

Les figures 2.26 et 2.27 montrent la rponse des modles de la baie et de lchangeur
vis vis des paramtres dentre de la nouvelle squence de mesures. Nous observons que
lerreur moyenne entre les tempratures mesures et calcules est infrieure 7% pour le
modle de la baie, et est denviron 4% pour celui de lchangeur. Les tempratures simules
sont donc proches des donnes exprimentales avec toutefois la temprature en sortie de
sor t i e
baie (TB,a ) qui est surestime (+0.7C) PMAX et sous-estime (-0.6C) PMIN . Les rsultats
sont trs satisfaisants sur cette squence de validation.

S S S S alim sortie
T - exp T - exp T - exp T - exp T - exp T - exp
a,1 a,2 c,1 c,2 a B,a
S S S S alim sortie
T - num T - num T - num T - num T - num T - num
a,1 a,2 c,1 c,2 a B,a

60

55

50
Temprature (C)

45

40

35

30

25
0 40 80 120 160

Temps (h)
7 interne Orange
F IGURE 2.26 Validation du modle de la baie

54
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques

moy moy sortie sortie


T - exp T - exp T - exp T - exp
a e E,a e

moy moy sortie sortie


T - num T - num T - num T - num
a e E,a e

34

32

30
Temprature (C)

28

26

24

22
0 40 80 120 160

Temps (h)
8 interne Orange
F IGURE 2.27 Validation du modle de lchangeur

2.3.4 Etude de sensibilit


Ltude de sensibilit des tempratures du modle aux variations des paramtres p i et
est importante pour avoir des informations sur la possibilit destimer les paramtres simul-
tanment. Nous dfinissons alors un coefficient de sensibilit de la variable T j au paramtre
p i ainsi :

T j
S i j (t , p) = k 6= i
p i p k
et comme la variable T j nest pas simplement drivable en p i , nous utilisons une ap-
proximation en diffrences centres pour rcrire la drive partielle :

T j (t , p 1 , p 2 , ..., p i + p i , ..., p n ) T j (t , p 1 , p 2 , ..., p i p i , ..., p n )


S i j (t , p) =
2p i
p i reprsente 10% de p i .
Afin de pouvoir comparer les sensibilits aux diffrents paramtres, nous introduisons
un coefficient de sensibilit rduit, exprim ainsi :

S i j (t , p) = p i S i j (t , p)

Ce coefficient, qui est de mme unit que la variable T j , permet de quantifier lamplitude
de cette dernire provoque par une variation de 10% de p i .

Les paramtres p i sont ici les conductances thermiques quivalentes du modle. La fi-
gure 2.28 permet de visualiser limpact dune variation de 10% de ces conductances sur cha-
cune des tempratures du systme. Nous constatons que les tempratures dair dans les ser-

55
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau

veurs T1 et T2 dpendent principalement des conductances relies la temprature am-


biante, avec une amplitude maximale de -2C. En revanche, T3 et T4 dpendent fortement
des conductances h13 et h24 avec une amplitude de lordre de -9C. La sensibilit de T6 est
assez faible par rapport aux variations des hi j .

1 1
Sensibilit rduite ( C)

Sensibilit rduite ( C)
ST1 (h13 ) ST2 (h13 )
ST1 (h24 ) ST2 (h24 )
0 ST1 (h100 ) 0 ST2 (h100 )
ST1 (h200 ) ST2 (h200 )
1 1

2
2
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de T1 (b) Sensibilit de T2

0
Sensibilit rduite ( C)

Sensibilit rduite ( C)
ST3 (h13 ) 0 ST4 (h13 )
ST3 (h24 ) ST4 (h24 )
ST3 (h100 ) ST4 (h100 )
5 ST3 (h200 ) ST4 (h200 )
5

10

0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de T3 (d) Sensibilit de T4

1
Sensibilit rduite ( C)

Sensibilit rduite ( C)

ST5 (h13 ) ST6 (h13 )


0.5 ST5 (h24 ) ST6 (h24 )
ST5 (h100 ) 0 ST6 (h100 )
0 ST5 (h200 ) ST6 (h200 )

0.5
0.5

0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(e) Sensibilit de T5 (f) Sensibilit de T6

F IGURE 2.28 Sensibilit des tempratures du modle de la baie


aux variations des conductances thermiques
Ltude de sensibilit des tempratures du modle de lchangeur aux variations des pa-
ramtres p i est identique celle effectue pour le modle de la baie. Ici, seulement trois
paramtres p i sont faire varier : h6,11 , h89 et h7,10 . La figure 2.29 prsente les rsultats ob-
tenus pour chaque temprature calcule du modle. Nous observons que les conductances
h6,11 et h7,10 nont aucun impact sur les valeurs de T8 et T9 . Dautre part, T11 et T10 sont res-
pectivement dpendants des couples (h89 , h7,10 ) et (h89 , h6,11 ).

56
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.4. Conclusion

1.5
0

Sensibilit rduite ( C)

Sensibilit rduite ( C)
ST8 (h6,11 ) ST9 (h6,11 )
ST8 (h89 ) 1 ST9 (h89 )
1 ST8 (h7,10 ) ST9 (h7,10 )

0.5
2

0
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de T8 (b) Sensibilit de T9

2
0
Sensibilit rduite ( C)

Sensibilit rduite ( C)
ST10 (h6,11 ) ST11 (h6,11 )
ST10 (h89 ) 1.5 ST11 (h89 )
1 ST10 (h7,10 ) ST11 (h7,10 )
1

0.5
2

0
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de T10 (d) Sensibilit de T11

F IGURE 2.29 Sensibilit des tempratures du modle de lchangeur


aux variations des conductances thermiques

2.4 Conclusion
Dans ce second chapitre, le refroidissement dquipements informatiques rels par un
changeur air/eau plac larrire de la baie a t tudi. Le flux dair chaud est alors direc-
tement refroidi la sortie des serveurs.
Les rsultats obtenus ont t compars des essais effectus sur la mme baie refroi-
die sans changeur. Nous avons observ que lajout de lchangeur a pour consquence une
diminution du dbit dair (pertes de charge changeur) qui se traduit par une lgre aug-
mentation des tempratures des composants, sans incidence sur leur fonctionnement. En
outre, linstrumentation mise en place a permis de montrer que la majorit de la puissance
dissipe par les quipements est rcupre par lchangeur. La consommation du systme
de refroidissement est trs faible par rapport un refroidissement air classique.
De plus, les squences de mesures ont permis de dfinir des modles numriques sim-
plifis sappuyant sur une approche nodale lchelle de la baie et de lchangeur. Les co-
efficients des diffrents modles ont t identifis par technique inverse partir des me-
sures exprimentales puis valids sur des squences de mesures additionnelles. Les carts
de tempratures entre les expriences et les simulations sont satisfaisants avec des valeurs
infrieures 10%. Ces modles pourront tre par la suite dupliqus lchelle dune salle
informatique pour estimer limpact du dploiement dune telle solution de refroidissement.
Des simulations de panne du systme de refroidissement de la baie sans et avec chan-
geur sont prsentes dans lannexe A.3.

57
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3

Refroidissement de serveurs par plaques


froides

Sommaire
3.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . 59
3.1.1 Conception des plaques froides . . . . . . . . . . . . . . . . . . . . . . . 59
3.1.2 Adaptation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.1.3 Instrumentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.1 Etude prliminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.2 Mesures en rgime transitoire . . . . . . . . . . . . . . . . . . . . . . . . 65
3.2.3 Relevs en rgime stationnaire et bilan nergtique . . . . . . . . . . . 67
3.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3.1 Modlisation dun serveur et dune plaque froide . . . . . . . . . . . . . 70
3.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . 76
3.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79

Le refroidissement des composants lectroniques par contact avec des sources froides
fait lobjet de nombreux dpts de brevets [103, 104, 105]. Gnralement, les diamtres des
canaux internes dans lesquels circulent le liquide de refroidissement sont de lordre du mi-
cromtre voire du nanomtre. En effet, dans le cas dun coulement en convection force
dans un tube de diamtre D, les coefficients dchanges convectifs varient en D1/3 en r-
gime laminaire et en D0,2 en rgime turbulent [55]. Toutefois, les pertes de charges dans
un tube sont plus importantes lorsque la valeur de D est petite, ce qui implique une forte
consommation nergtique du systme de pompage. Lobjectif de la thse est donc dtu-
dier le refroidissement de composants en contact avec des plaques froides, afin de limiter
lutilisation dune climatisation tout en ayant une consommation nergtique basse au ni-
veau du circuit hydraulique.

Dans ce chapitre, lobjectif est dtudier le refroidissement des serveurs informatiques


par le biais de plaques froides en aluminium maintenues en temprature par une circu-
lation deau, avec des tubes dont le diamtre est de lordre du centimtre. Un change direct

58
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.1. Description du dispositif exprimental

par conduction thermique est assur pour les composants lectroniques de plus fortes puis-
sances.
Dans un premier temps, le dimensionnement et la gomtrie des plaques froides sont
dcrits. Un paragraphe est ensuite consacr linstrumentation mise en place durant cette
tude puis nous analysons les rsultats exprimentaux obtenus. Dans la dernire partie, la
base de donnes exprimentales est exploite pour mettre en place un modle numrique
simplifi de la rponse thermique dun ensemble plaque froide-serveur .

3.1 Description du dispositif exprimental


Lobjectif vis est de raliser un refroidissement local par conduction directe entre les
composants, sources de dissipation de puissance, et une source froide. Dans ce cas, comme
le montre la figure 3.1, chaque serveur est associe une plaque froide mtallique et main-
tenue en temprature par une circulation deau. Des plots mtalliques usins dans la plaque
froide sont en contact direct avec les composants (Figure 3.2). Dautres flux de chaleur sont
galement prsents, les changes par rayonnement entre les diffrentes surfaces mises en
jeu, par conduction travers le circuit imprim (PCB) et par convection naturelle (ou force
si des ventilateurs sont prsents) au niveau des autres composants, du PCB et de la plaque
froide.

F IGURE 3.1 Description des changes thermiques lors du refroidissement par plaques froides

3.1.1 Conception des plaques froides


4 interne Orange
Des plaques froides en aluminium dpaisseur 26 mm ont t usines sur-mesure afin
de permettent la circulation dun fluide de refroidissement (dans notre cas de leau), qui est
rparti sur la majeure partie de la surface (cf. figure 3.2.a). Un joint caoutchouc est plac
entre les parties suprieure et infrieure des plaques pour empcher les fuites de liquide. Le
volume total de liquide prsent dans une plaque est de lordre de 0,34 litre, avec une section
moyenne de passage de 200 mm2 (conduites rectangulaires de diamtre hydraulique denvi-
ron 16 mm). Il reste une restriction de diamtre lentre et la sortie du trac interne, avec
une section de 150 mm2 . Le poids total dune plaque froide sans fluide est dun peu moins
de 7 kg.
La figure 3.2.b montre les dimensions dune plaque froide ddie au serveur prsent sur
la photo. Quatre plots mtalliques ont t raliss pour assurer un contact direct avec les
composants dissipant le plus de chaleur : les processeurs (CPU, 1 et 2), le chipset (3) et le
contrleur disque (SAS, 4). Les hauteurs des plots en aluminium sont ajustes en fonction

59
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

des composants cibls et varient entre 14 et 20 mm. De la pte thermique (de conductivit
2,9 W/m/K) est place entre les surfaces des plots et des composants. Dautre part, un sys-
tme de fixation par vis permet dassurer un bon contact entre la plaque froide et le serveur.

Vis de Vis de
fixation fixation
4 1 4
Couvercle Couvercle

2 3

0mm eau
40mm
12mm Joint dtanchit 4 2 3 12mm Joint dtanchit
225mm

225mm
1 30mm
15mm 3 15mm
2
4 1 4
eau
m Plaque froide 395mm

(a) Vue 3D clate (b) Dimensions

F IGURE 3.2 Description des plaques froides

3.1.2 Adaptation de la baie


Dans un premier temps, lobjectif initial tait de refroidir les principaux composants dun
serveur avec une plaque froide en supprimant les ventilateurs de la baie. Toutefois, certains
composants ne sont pas en contact avec une plaque froide du fait de leur gomtrie restric-
tive et ncessite un minimum de convection force.
Dans le cas de cette tude, trois serveurs IBM HS21 quips dune plaque froide sont pla-
cs verticalement dans une baie. Les serveurs et leur plaque respective sont numrots en
fonction de leur position (de gauche droite, voir figure 3.3). Les trois serveurs sont placs
cte cte afin de visualiser linfluence des serveurs et des plaques entre eux. En effet, le
botier du serveur n1 nest pas proche dune plaque froide, tandis que la plaque froide du
serveur n3 nest pas proche dun serveur. Le serveur n2 et sa plaque froide ont des condi-
tions aux limites diffrentes, ce qui nous permet dobserver les volutions des tempratures
pour trois cas de dispositions diffrentes. A noter quil existe un cart de quelques milli-
mtres entre une plaque froide et le serveur voisin (pas de contact direct).
En parallle, les ventilateurs centrifuges prsents initialement dans la baie (cf. chapitre 2)
sont retirs et remplacs par plusieurs ventilateurs axiaux SUNON PMD1204PQBX-A, contr-
ls par une alimentation courant continu 0-12V, pour assurer le refroidissement des com-
posants qui ne sont pas contact avec les plaques froides.
Les trois plaques froides sont raccordes par des tuyaux calorifugs de diamtre interne
19 mm un circuit de refroidissement comprenant une pompe GRUNDFOS MAGNA Magna
25-60-180 et un arotherme extrieur eau/air pour vacuer les calories (Figure 3.3).

60
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.1. Description du dispositif exprimental

Enceinte

T
T
T Serveur
Alimentations

Plaque froide

T Mesure de temprature
Alimentations
Dbitmtre (eau)

Arotherme extrieur
T T T Pompe

F IGURE 3.3 Schma global de linstallation

3.1.3 Instrumentation
Afin de suivre lvolution des tempratures des trois serveurs et des plaques froides cor-
respondantes, une instrumentation complmentaire est installe (figures 3.3 et 3.4). Plu-
sieurs thermocouples de type K (fils de diamtre 0,1mm) ont t implants entre la surface
des composants et les plots, de mme que sur la surface des barrettes mmoires refroidies
par air.
Pour mesurer la temprature de lair lintrieur des serveurs, six thermocouples sont
implants en diffrents points et deux anmomtres fil chaud placs directement en sortie
de serveurs permettent de mesurer la vitesse du flux dair (figure 3.4.a). La surface maille
est rectangulaire, de dimensions 40mm*20mm, chaque anmomtre mesurant la vitesse sur
une surface de 400 mm2 .
Sur le serveur n2, des thermocouples ont t placs sous les composants en contact
avec la plaque froide, au niveau du PCB et du botier du du serveur. Des thermocouples sont
galement colls sur les faces internes et externes des plaques froides (voir figure 3.4.b).
En ce qui concerne la comptabilit des puissances au niveau des plaques froides, des
thermocouples de type K chemiss de diamtre 3 mm sont introduit dans le circuit deau en
entre et en sortie de chaque plaque.
De plus, trois dbitmtres IFM ELECTRONIC SM7000 sont installs pour suivre le dbit
deau dans chaque plaque froide, tandis que le dbitmtre principal permet de suivre le dbit
total dans la boucle de refroidissement. Chaque boucle intermdiaire est dote dune vanne
qui permet de rguler le dbit deau de chaque plaque froide pour avoir un dbit identique
dans chacune des trois boucles.
Des mesures de puissance lectrique permettent de suivre la consommation de la pompe,
de larotherme extrieur, des serveurs et des ventilateurs axiaux. Les incertitudes de me-
sures des diffrents capteurs sont identiques celles prsentes dans le chapitre 2.

61
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

CPUs Chipset SAS

Thermocouples (air)
x (cm)
X X
X Thermocouples (surface)
0 8 11 28 X 36 42
Mesure ponctuelle de vitesse
X (fil chaud)

X
RAM
(a) Vue de dessus

Face plaque (interne) Face plaque (externe) Thermocouples

Eau

CPU Chipset Flux dair


SAS
Botier serveur

Surface - composant

PCB - composant
Serveur (int.) - composant
Serveur (ext.) - composant

(b) Coupe transversale

F IGURE 3.4 Placement global des thermocouples dans un serveur et une plaque froide
2 interne Orange

3.2 Rsultats exprimentaux


Linfluence de trois paramtres opratoires est tudie : la temprature de lair en entre
des serveurs, la puissance dissipe par les serveurs informatiques (PMIN et PMAX ) et le dbit
deau (qui varie entre 0,5 et 2 L/min). Le dbit peut tre modifi sur une grande plage de
valeurs grce au variateur de la pompe et aux vannes prsentes sur le circuit hydraulique.
La temprature de consigne deau en entre de la plaque est fixe par le biais dun r-
gulateur qui commande la vitesse de larotherme extrieur. Le dbit dair lintrieur du
serveur est galement fix et fait lobjet dune tude prliminaire, prsente dans le para-
graphe suivant.

3.2.1 Etude prliminaire


Cette premire tude a pour objectif de dterminer le dbit dair minimal requis pour
que la temprature limite des composants non refroidis par contact direct (notamment la
RAM) ne soit pas atteinte, et que la consommation nergtique des ventilateurs soit la plus
faible possible. Pour cette tude, certains paramtres opratoires sont pralablement fixs.
Pour une comptabilit nergtique suffisamment prcise, le dbit deau est fix une valeur

62
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux

faible de 1,0 L/min. Les tempratures dair et deau en entre sont de lordre de 25C pour se
placer dans des conditions moyennes de fonctionnement.
Dans un premier temps, les essais sont effectus la puissance PMIN . Nous faisons en-
suite varier la tension aux bornes des ventilateurs de 4 12V par pas de 2V. Les valeurs des
tempratures, des dbits dair et des puissances consommes par les ventilateurs sont re-
leves en rgime stationnaire. Lopration est rpte pour la puissance dissipe PMAX . Le
composant le plus fragile tant la mmoire vive, le suivi de temprature se fait sur ce com-
posant qui ne doit pas dpasser 95C en surface.
Les relevs de tempratures ont montr que les disparits de mesures entre les trois ser-
veurs sont faibles, avec des carts-types compris entre 0,3 et 1,0C en fonction des com-
posants. Nous faisons donc lhypothse que tous les serveurs ont le mme comportement
thermique. Tous les rsultats qui vont suivre sont obtenus partir des valeurs moyennes
des trois serveurs.
La figure 3.5 prsente les rsultats obtenus en fonction du dbit dair lintrieur du ser-
veur (la temprature dair en entre est mesure et gale 26C). Nous observons que la
temprature de surface du composant dcrot logiquement avec laugmentation du dbit
dair. Nous notons galement une diffrence de temprature denviron 12C entre PMIN et
PMAX . La consommation des ventilateurs varie entre 8 W et 89 W pour des dbits dair allant
de 6 17 m3 /h.
Pour un dbit dair denviron 13 m3 /h, la temprature maximale atteinte par le compo-
sant est de 73,5C avec une puissance de ventilateurs proche de 37 W. Cest ce point qui pr-
sente le meilleur compromis entre temprature de surface (infrieure 95C avec une marge
de scurit en cas de hausse de la temprature dair en entre) et puissance consomme par
la ventilation (qui doit tre la plus faible possible).
Par rapport au refroidissement air tudi dans le chapitre 2, pour une temprature dair
proche de 25C, le dbit dair est rduit de 69% et la consommation lectrique des ventila-
teurs est rduite de 50%. Il serait possible par la suite de moduler le dbit dair en fonction
de la puissance des serveurs pour rduire la consommation de ces ventilateurs.

T (P ) T (P ) P
RAM MIN RAM MAX ventil.
100 100

90 80
Puissance lectrique (W)
Temprature (C)

80 60

70 40

60 20

50 0
4 6 8 10 12 14 16 18
3
Dbit d'air (m /h)

F IGURE 3.5 Evolution de la temprature de la RAM et de la consommation


des ventilateurs en fonction du dbit dair (Taent r e ' 25C)

Il est galement intressant de suivre lvolution des tempratures des composants lec-
troniques en contact avec les plaques froides en fonction de la valeur du dbit dair. En effet,
des changes convectifs peuvent apparaitre entre le flux dair et les plots mtalliques comme

63
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

le montre la figure 3.6. A PMIN , seule la temprature du SAS dcroit avec laugmentation du
dbit dair, tandis que les tempratures des autres composants sont stables. Nous observons
un comportement diffrent PMAX o toutes les tempratures baissent avec des dbits dair
plus importants. Ces phnomnes sexpliquent par le fait qu PMIN , les tempratures des
composants sont quasi gales la temprature dair en entre des serveurs.

33 33
Dbit
Dbitd'air
d'air(m
(m/h)
/h) Dbit
Dbitd'air
d'air(m
(m/h)
/h)
5,9
5,9 12,5
12,5 17,5
17,5 5,9
5,9 12,5
12,5 17,2
17,2
40
40 40
40

35
35 35
35

30
30 30
30
(C)
Temprature (C)

(C)
Temprature (C)
25
25 25
25
Temprature

Temprature
20
20 20
20

15
15 15
15

10
10 10
10

55 55

00 00
CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS

(a) PMIN (b) PMAX

F IGURE 3.6 Influence du dbit dair sur les composants refroidis par contact
en fonction de la puissance (Taent r e ' 25C)

Les mesures prliminaires ont permis de mettre en vidence linfluence de la valeur du


dbit dair sur les profils des tempratures dair le long des serveurs (cf. figure 3.7). Aug-
menter le dbit dair induit des baisses des tempratures dair le long des serveurs, avec des
carts plus importants au niveau des pics de tempratures. Il en est de mme pour les tem-
pratures de sortie des serveurs (pour x = 42 cm) o nous observons des baisses de plusieurs
degrs lorsque le dbit dair est multipli par 2.

Dbit d'air
3 3 3
5,9 (m /h) 12,5 (m /h) 17,5 (m /h)
3 3 3
5,9 (m /h) 12,5 (m /h) 17,2 (m /h)
38

36

34
Temprature (C)

32

30

28

26

24
0 0,1 0,2 0,3 0,4
x (m)

F IGURE 3.7 Evolution des tempratures dair le long des serveurs en fonction
du dbit dair et de la puissance (avec PMIN en trait plein, PMAX en pointills)

64
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux

3.2.2 Mesures en rgime transitoire


Pour rappel, le dbit dair travers les serveurs est fix 13 m3 /h environ. Dautre part,
les tempratures de surface des composants ne doivent pas dpasser les valeurs maximales
recommandes, qui sont rappeles dans le tableau 3.1.

TABLEAU 3.1 Valeurs des tempratures maximales recommandes des composants

CPU Chipset SAS RAM HDD

Temprature (C) 66 105 115 95 55

Dans un premier temps, il est intressant pour la comprhension des changes ther-
miques dobserver le comportement transitoire du systme afin dvaluer les changements
de tempratures en fonction des variations des paramtres opratoires. Un exemple est donn
pour un dbit deau constant de lordre de 1,0 L/min avec des variations des tempratures
dair et deau en entre, et de la puissance dissipe par les serveurs (figure 3.8).

entre entre
T T Puissance
a e
34 700

32 650

Puissance lectrique (W)


30 600
Temprature (C)

28 550

26 500

24 450

22 400

20 350
0 5 10 15 20 25 30 35
Temps (h)

F IGURE 3.8 Variations des paramtres opratoires au cours du temps

La figure 3.9 donne lvolution des tempratures des faces externes des plaques froides
et des botiers des serveurs. Nous observons que les tempratures des faces externes des
plaques froides sont trs proches. Pour les botiers des serveurs, nous notons une petite dif-
frence de temprature (de 0,6C en moyenne) entre le serveur n1 et les deux autres. Cela
sexplique par le fait que le botier de ce serveur nest pas proximit dune plaque froide
pour le refroidir. De plus, du fait de la disposition des serveurs dans la baie, cette singularit
ne peut donc apparatre que sur le serveur se situant tout gauche.
Le faible cart de temprature enregistr par les diffrents thermocouples permet de cor-
roborer lhypothse que les tempratures des serveurs et des plaques froides sont similaires
quel que soit le serveur tudi.

65
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

Botier (n1) Botier (n3) Face externe plaque (n2)


Botier (n2) Face externe plaque (n1) Face externe plaque (n3)
40

35
Temprature (C)

30

25

20
0 5 10 15 20 25 30 35
Temps (h)

F IGURE 3.9 Profils de tempratures des faces externes des plaques froides
et des botiers des serveurs au cours du temps

La figure 3.10 prsente les profils moyens de tempratures des principaux composants
des serveurs. A PMIN , les composants refroidis par eau ont des tempratures proches, ex-
cept le SAS qui a une temprature plus leve denviron 5C. La faible diffrence de temp-
ratures entre les deux CPU (0,7C) rside vraisemblablement dans la disposition des entres
et des sorties deau des plaques froides et du parcours de leau travers celle-ci. Daprs la
figure 3.2, le premier CPU est plac prs de lentre deau. A PMAX , les carts de tempratures
entre leau et les composants deviennent plus importants. Laugmentation des tempratures
lors du changement de puissance est beaucoup plus marque pour les processeurs (+10,1C
en moyenne) que pour les autres composants (+1,4C pour le chipset et 1,0C pour le SAS).
Cela sexplique par le fait que les processeurs dissipent plus de puissance que les autres com-
posants.
Nous pouvons galement noter que la temprature dair en entre des serveurs un effet
sur la temprature des composants en contact avec les plaques froides. Par exemple, passer
dune temprature dair en entre de 26 30C fait augmenter la temprature des compo-
sants refroidis par eau de 2,4C en moyenne PMAX . La figure 3.10 montre galement les
profils de tempratures des composants seulement refroidis par le flux dair comme la RAM
et le HDD. Les tempratures maximales atteintes par ces composants sont respectivement
de 66C et 37C PMIN et de 77C et 39C PMAX .
Dans nos conditions dessais, nous constatons que tous les composants fonctionnement
en-dessous de leur temprature maximale recommande. Toutefois, les CPU sont les com-
posants qui ncessitent la plus grande attention si la temprature de consigne deau entre
de plaque venait tre augmente. En effet, lcart de temprature entre la surface des CPU
et la temprature deau en entre est denviron 13C PMAX .
La face interne de la plaque froide, qui est du ct des composants, a une temprature
qui volue essentiellement en fonction de la temprature dair en entre. Le passage de PMIN
PMAX a une lgre influence, avec une lvation moyenne de temprature de 1,8C.

66
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux

CPU Chipset RAM Face interne plaque


CPU SAS HDD

80

70

Temprature (C)
60

50

40

30

20
0 5 10 15 20 25 30 35
Temps (h)

F IGURE 3.10 Profils des tempratures des composants et de la plaque froide en fonction du temps

3.2.3 Relevs en rgime stationnaire et bilan nergtique


3.2.3.1 Tempratures

La figure 3.11 montre les tempratures de surface des composants en contact avec les
plaques froides pour diffrentes valeurs de dbits deau et pour une temprature dair en
entre de serveurs de lordre de 30C.
Nous observons que les tempratures baissent logiquement avec laugmentation de la
valeur du dbit deau. La baisse de temprature est plus marque lors du passage de 0,5
1 L/min avec une baisse moyenne de 1,8C PMIN et de 2,2C PMAX . En revanche, lors du
passage de 1 2 L/min, les tempratures ne baissent en moyenne que de 0,4C PMIN et
de 1,3C PMAX . Diminuer la valeur du dbit deau noccasionne pas de hausse importante
des tempratures des composants, dont les valeurs mesures sont toujours infrieures aux
valeurs maximales recommandes. Augmenter le dbit deau au-del de 2 L/min ne permet
donc pas de rduire la temprature de surface des composants de manire consquente du
fait de lefficacit dchange limite due la configuration gomtrique des plaques froides.

Dbit d'eau
Dbit (l/min)
d'eau (l/min) Dbit d'eau
Dbit (l/min)
d'eau (l/min)
0,5 0,5
l/min
l/min 1 l/min
1 l/min 2 l/min
2 l/min 0,5 0,5
l/min
l/min 1 l/min
1 l/min 2 l/min
2 l/min
45 45 45 45

35 35 35 35
Temprature (C)

Temprature (C)
Temprature (C)

Temprature (C)

25 25 25 25

15 15 15 15

5 5 5 5

CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS

(a) PMIN (b) PMAX

F IGURE 3.11 Influence du dbit deau sur les composants refroidis par contact
en fonction de la puissance (Taent r e ' 30C)

67
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

Comme la temprature de la face suprieure des composants est impose par la plaque
froide, des mesures de tempratures complmentaires ont t effectues afin de visualiser le
gradient de temprature en-dessous des diffrents composants. Les rsultats de la figure 3.12
sont obtenus pour une temprature dair de 30C et un dbit deau de 1 L/min. Nous consta-
tons que les tempratures mesures sous les composants au niveau du PCB sont gnra-
lement suprieures aux tempratures de surface de lordre de 3C (except pour les CPU
PMAX o linverse est observ). Entre la surface du PCB et le botier du serveur, les tempra-
tures baissent de 1,6 5,7C pour les CPUs, de 4,5C pour le chipset et de 2,4 pour le SAS.

F IGURE 3.12 Evolution des gradients de tempratures sous les composants

Sur la figure 3.13 sont reportes les tempratures dair le long des serveurs pour diff-
rentes valeurs du dbit deau et des deux niveaux de puissance. En premier lieu, la diffrence
de temprature dair entre la sortie et lentre des serveurs est assez leve, de lordre de 4C
PMIN et de 6C PMAX . Une partie de la puissance des serveurs se retrouve donc sur le flux
dair. Par rapport aux rsultats observs au chapitre 2, les profils des tempratures dair le
long des serveurs ne sont pas linaires. Laugmentation du dbit deau permet de rduire
faiblement les tempratures dair au sein des serveurs. En effet, multiplier la valeur du dbit
deau par 4 fait baisser la valeur des tempratures de moins de 1 degr en moyenne.

0,5 l/min - P 2 l/min - P


MIN MIN

0,5 l/min - P 2 l/min - P


MAX MAX
40

38
Temprature (C)

36

34

32

30

28
0 0,1 0,2 0,3 0,4
x (m)

F IGURE 3.13 Evolution des tempratures dair le long des serveurs


en fonction du dbit deau et de la puissance

68
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux

3.2.3.2 Puissances thermiques et lectriques

Lorsque les composants sont utiliss au maximum de leurs capacits, la puissance lec-
trique des serveurs augmente de 73% par rapport PMIN (cf. tableau 3.2).
Sur la figure 3.14 sont reportes les puissances thermiques rcupres sur leau et sur
lair en fonction des principaux paramtres opratoires, pour des tempratures dair et deau
respectivement de lordre de 30C et 25C. Les rsultats indiquent que les puissances ther-
miques cdes aux deux fluides dpendent de la valeur du dbit deau.
La puissance thermique cde leau est assez proche de la puissance lectrique consom-
me par le serveur. En effet, le ratio entre ces deux quantits varie, selon le dbit deau, entre
69 et 91% PMIN et entre 65 et 78% PMAX . La plaque froide mise en place assure donc une
rcupration correcte des calories dissipes. Il est donc impratif de slectionner les points
de fonctionnement qui permettent de rcuprer un maximum de calories par le biais des
plaques froides. La puissance thermique sur lair reprsente environ 13% de la puissance
consomme par les serveurs. Malgr les lvations de tempratures dair au sein des ser-
veurs, les puissances sur lair sont faibles du fait de la valeur du dbit dair. Dans notre cas, la
prsence de quelques composants ne pouvant tre refroidis par un contact avec une plaque
froide rend ncessaire la prsence dune climatisation de faible puissance.
Les incertitudes sur les calculs de la puissance thermique sont de 20% sur leau et de 16%
sur lair.

P (P ) P (P ) P (P ) P (P )
eau MIN eau MAX air MIN air MAX
700

600
Puissance thermique (W)

500

400

300

200

100

0
0 0,5 1 1,5 2 2,5
Dbit d'eau (l/min)

F IGURE 3.14 Puissance thermique cde leau et lair


en fonction du dbit deau et de la puissance lectrique consomme (Taent r e ' 30C)

Les relevs des puissances lectriques consommes dune part par les serveurs, et dautre
part par le systme de refroidissement, permettent de chiffrer lefficacit nergtique de
linstallation. Toutefois, compar au cas dun data center rel, nous ne pouvons calculer
quune efficacit partielle prenant uniquement en compte la consommation du systme de
refroidissement. Lindicateur partiel defficacit nergtique utilis dans notre cas est le par-
tial Power Usage Effectiveness (pPUE), dont lexpression est rappele ci-dessous :

Consommat i on t ot al e d e l 0 i nst al l at i on
pPUE = (3.1)
Consommat i on d es qui pement s i n f or mat i ques
La consommation lectrique du systme du refroidissement est compose de la consom-
mation de la pompe du circuit hydraulique et du ventilateur de lchangeur eau/air extrieur.

69
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

La consommation des ventilateurs qui assurent la circulation du flux dair au sein des ser-
veurs est comprise dans la consommation des quipements informatiques.
Le tableau 3.2 rcapitule les puissances lectriques consommes par les quipements.
La pompe consomme entre 10 et 70 Watts en fonction du dbit choisi, qui est compris entre
0,5 et 5 L/min. Nous obtenons des valeurs de pPUE proches de 1,1 PMIN et 1,06 PMAX .
Ces valeurs sont intressantes compares un refroidissement air classique et elles sont
susceptibles de baisser pour trois principales raisons :
en prenant en compte un plus grand nombre de serveurs, car linstallation hydrau-
lique utilise est surdimensionne pour refroidir uniquement trois serveurs ;
la dfinition du pPUE ne permet pas de prendre en compte la baisse de la consom-
mation des ventilateurs par rapport un refroidissement classique, qui est englo-
be dans la consommation des quipements informatiques. En effet, dans notre cas,
diminuer la consommation lectrique des ventilateurs permet de rduire la facture
nergtique (qui est lobjectif principal atteindre) mais donne un indicateur def-
ficacit nergtique plus mauvais. Si nous prenons le cas dune salle informatique
contenant 100 baies quipes des serveurs utiliss durant ltude (soit un total de
2800 serveurs), nous arrivons une conomie denviron 223 MWh par an ;
par ailleurs, nous pouvons supposer quavec des serveurs adapts, le problme de la
convection force pour les seules barrettes de mmoires pourrait ne plus se poser.

TABLEAU 3.2 Consommation lectrique dtaille du refroidissement par plaques froides

Serveurs (PMIN /PMAX ) Ventilateurs Pompe Arotherme

Puissance (W) 390/675 37 de 10 70 35

3.3 Simulations numriques


Afin de disposer dun modle numrique de prdiction de la rponse thermique de len-
semble "plaque froide-serveur", un modle de comportement est tabli. Diffrentes squences
de mesures sont exploites pour identifier les paramtres.

3.3.1 Modlisation dun serveur et dune plaque froide


La figure 3.15 prsente le schma lectrique quivalent du modle retenu. par rapport
au chapitre 2, les vitesses dair en entre de serveurs sont rduites et sont de lordre de 0,7
m/s. De ce fait, les changes thermiques convectifs au sein des serveurs vont tre moins im-
portants. En supposant que la vitesse des composants soit de lordre de 2 m/s, le coefficient
dchange convectif est denviron 5 10 W/m2 /K.

Pour les changes radiatifs, en faisant lhypothse que les tempratures des surfaces
mises en jeu sont du mme ordre de grandeur, le coefficient dchange radiatif h r ad peut
scrire sous la forme :

Tcomposant + Tpl aque


h r ad = 4( ) ' 3, 9 W/m 2 /K (3.2)
2
avec = 0, 5, Tcomposant = 303, 15 K et Tpl aque = 343, 15C.

70
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques

Malgr la baisse du dbit dair au sein des serveurs, les coefficients dchange radiatif
sont moins levs que les coefficients dchange conductif, mais ils ne sont pas pour autant
ngligeables.

Nous dfinissons une temprature moyenne pour la face interne de la plaque froide
moy moy
(TPFI ) et une temprature moyenne deau (Te ) pour lensemble des changes thermiques
avec la plaque froide.

Les grandeurs dentre pour ce modle sont (figure 3.15) :


la temprature dair en entre de serveur (Taent r ee ) ;
la temprature deau en entre de plaque froide (Teent r ee )
la puissance dissipe par les composants P1 et P2 ;
S S
les tempratures du boitier du serveur sous les composants (Tb,1 et Tb,2 );
moy
la temprature de la face externe de la plaque froide (TPFE ).
Les valeurs des dbits dair et deau sont galement renseigner.

A partir des rsultats exprimentaux, les nuds du modle nodal ont t choisis. Pour
S S
le serveur deux zones sont retenues pour lair. Les nuds 3 (Ta,1 ) et 4 (Ta,2 ) correspondent
aux tempratures dair de la premire partie (de 0 11cm) et de la seconde partie (de 11
S S
42cm) des serveurs. De plus, les nuds 1 (Tc,1 ) et 2 (Tc,2 ) reprsentent les tempratures
quivalentes des composants dans chaque zone. La puissance dissipe par les composants
est rpartie de la mme faon que dans le chapitre 2. Au nud 1, la puissance P1 est la puis-
sance totale des processeurs en contact avec la premire range de plots de la plaque froide.
La puissance quivalente P2 associe au nud 2 correspond la puissance dissipe par les
autres composants.
Les transferts de chaleur par conduction directe dans les plots entre les nuds (1,5)
et (2,5) sont pris en compte par les conductances thermiques quivalentes h 15 et h 25 . Les
changes thermiques par convection entre lair traversant le serveur et la surface des plots
en contact avec les composants sont modliss par le biais des conductances h 13 et h 24 . Les
(conductances h 35 et h 45 ) et prennent en compte les changes par convection entre la face
interne de la plaque froide et le flux dair.
La puissance thermique cde leau travers la plaque froide est reprsente par la
conductance h 56 . La temprature deau en sortie de la plaque est obtenue par le calcul de
la temprature deau moyenne qui circule au sein de la plaque froide. Les conditions aux li-
mites extrieures sont prises en compte par le biais du noeud 9 qui reprsente la temprature
moy
de la face externe de la plaque froide (TPFE ).
Le transfert de chaleur entre leau et la face interne de la plaque froide est reprsente
par la conductance h 56 . La temprature deau en sortie de la plaque est obtenue par le calcul
de la temprature deau moyenne qui circule au sein de la plaque froide.

71
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Schma du modle
Chapitre 3. Refroidissement de serveurs par plaques froides

Calcul de

,
,

, ,

, ,

, ,

, ,

F IGURE 3.15 Schma du modle nodal dun serveur et dune plaque froide
Le calcul des tempratures aux diffrents nuds passe par un bilan thermique en cha-
cun des points. Le systme dquations rgissant ce modle est dtaill ci-dessous, avec par
S
exemple, Ca,1 la capacit thermique du nud Ta,1 ,m aS le dbit dair massique travers le
serveur. h 17 et h 28 sont les conductances thermiques quivalentes modlisant les changes
thermiques entre la surface des composants et le boitier des serveurs.


S
dTc,1 moy
S S S S S
C = P1 + h 13 (Ta,1 Tc,1 ) + h 15 (TPFI Tc,1 ) + h 17 (Tb,1 Tc,1 )

c,1





dt
S

dTc,2


S S moy S S S
C = P2 + h 24 (Ta,2 Tc,2 ) + h 25 (TPFI Tc,2 ) + h 28 (Tb,2 Tc,2 )

c,2





dt
S


dTa,1 moy
a .Cpa (Taent r ee Ta,1
S S S S

Ca,1 =m ) + h 13 (Tc,1 Ta,1 ) + h 35 (TPFI Ta,1 )


dt




S (3.3)
dTa,2 moy

Ca,2 =m a .Cpa (Ta,1
S S
Ta,2 S
) + h 24 (Tc,2 S
Ta,2 ) + h 45 (TPFI Ta,2S
)
dt




moy

dTPFI



S moy S moy S moy
CPF = h 15 (Tc,1 TPFI ) + h 25 (Tc,2 TPFI ) + h 35 (Ta,1 TPFI )



dt
moy moy moy

S
TPFI ) + h 56 (Te TPFI )



+h 45 (Ta,2



moy
dT

moy moy moy moy moy

Ce e e .Cpe (Teent r ee Te ) + h 56 (TPFI Te ) + h 69 (TPFE Te )

=m
dt

Une notation matricielle est employe pour reprsenter le systme dquations :




dT


= A T + BU (3.4)
dt
Les dtails des diffrentes matrices et vecteurs sont donns dans lannexe A.5.

72
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques

3.3.2 Identification des paramtres


La procdure didentification des paramtres est la mme que celle dfinie au chapitre
2. Du fait du nombre consquent de paramtres du modle, les valeurs des conductances
thermiques quivalentes sont, dans un premier temps, identifies partir des mesures en
rgime stationnaire. Les capacits thermiques quivalentes sont alors calcules en rgime
transitoire.

3.3.2.1 Identification des conductances quivalentes

La squence de mesures utilise pour identifier les conductances est dtaille sur les fi-
gures 3.16 3.17. La fonctionnelle est calcule sur les six points de mesures du fait du grand
nombre de paramtres identifier. Lestimation des conductances thermiques est lance
avec des valeurs initiales des paramtres pr-calcules (voir tableau 3.3).
entre S moy
entre S moy
T T T
entre S moy
T
entre
T
S
T
moy
Ta Tb,1 TPFE
Ta Tb,1 TPFE T
aentre
T
b,1S PFE
P
aentre b,1S PFE e entre b,2 S
T T P T T P
Te
entre
Tb,2
S 40 e b,2 225
P 225 225
40 e b,2 40
40 225

35 200
35 200 35 200
(C)

35 200

Puissance
(C)

(C)
Puissance

Puissance
(C)

Temprature
Puissance
Temprature

Temprature

30 175
Temprature

30 175 30 175
30 175

(W)
(W)

(W)
(W)

25 150
25 150 25 150
25 150

20 125
20 125 20 0 10 20 30125
20 0 8 16 24 32125 0 10 Temps (h)20 30
0 8 16 (h)
Temps 24 32 Temps (h)
Temps (h)
(a) Qe = 0, 5 L/mi n (b) Qe = 2 L/mi n

F IGURE 3.16 Squences didentification : variations des paramtres opratoires

S S moy
S S moy S
T S
T T
moy PFI
c,1 a,1
S
T S
T T
moy PFI
T T T
c,1 a,1 c,1 a,1 PFI
T T T T
S
T
S
T
sortie
c,1 S a,1 S PFI sortie S S sortie e
c,2 a,2
T T T T T T
T
S c,2
T
S a,2
T
sortie e 40 c,2 a,2 e
c,2 a,2 e 40

40
40 36
36
Temprature (C)
Temprature (C)
Temprature (C)
Temprature (C)

35
35 32
32

30
30 28
28

25
25 24
24 0 10 20 30
0 4 8 12 16 20 24 28 32 0 10 Temps20(h) 30
0 4 8 12 16 20 (h)24
Temps 28 32 Temps (h)
Temps (h)
(a) Qe = 0, 5 L/mi n (b) Qe = 2 L/mi n

F IGURE 3.17 Squences didentification : volutions des tempratures du systme

73
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

TABLEAU 3.3 Valeurs initiales pour lidentification des conductances thermiques

Conductances h 35 h 45 h 17 h 28 h 13 h 24 h 56 h 69 h 15 h 25

Valeurs initiales (W/K) 1 1 15 15 1 1 50 50 30 30

Afin daboutir une identification probante des conductances thermiques, les squences
de mesures utilises correspondent aux priodes durant lesquelles les gradients de temp-
rature sont les plus consquents. Le tableau 3.4 donne un ordre de grandeur des valeurs des
conductances quivalentes en fonction de certains paramtres opratoires. Dans le cas des
conductances thermiques des plots, il est possible de calculer des valeurs thoriques puis-
quelles reprsentent des changes par conduction pure (avec des contacts parfaits) :


t hor i que
um S CPU
h 15
= 2 al umieniCPU = 30, 6 W/K
(3.5)
h t hor i que = al umi ni um S Chi pset + al umi ni um S SAS = 23, 04 W/K

25 e Chi pset e SAS

Toutefois, les valeurs obtenues par identification sont beaucoup plus faibles du fait des
rsistances de contacts importantes entre les plots et les composants. En effet, de la pte
thermique conductrice ( = 2, 9W/m/K, donne fabricant) est insre entre les plots et les
composants. Lpaisseur est mesure laide de cales micromtriques et donne une valeur
denviron 0,3 mm. La rsistance de contact pour un processeur est alors de lordre 0,095 K/W.

Les valeurs des conductances h 35 , h 45 , h 13 et h 24 sont faibles puisquelles reprsentent


les coefficients dchanges convectifs entre lair, la plaque froide et les surfaces des plots.

Les coefficients dchanges convectifs entre la plaque et leau sont reprsents par les
conductances h 56 et h 69 sont trs proches et avec des valeurs importantes (convection for-
ce).

TABLEAU 3.4 Rsultats de lidentification des conductances thermiques quivalentes pour Qe =


0, 5 L/mi n et Taent r e = 30C ( PMAX )

Conductances h 35 h 45 h 17 h 28 h 13 h 24 h 56 h 69 h 15 h 25

Valeurs identifies (W/K) 4,9 1,6 13,2 13,7 1,2 8,8 58,3 59,2 4,0 1,0

Les conductances varient fortement en fonction des paramtres opratoires lors de liden-
tification sur les squences de mesures en rgime stationnaire. Afin de rduire le nombre de
paramtres estimer, nous fixons les valeurs des conductances h 15 et h 25 celles obtenues
dans le tableau 3.4.

74
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques

Afin de modliser ces dpendances, les relations suivantes ont t obtenues par le biais
de rgressions au premier ordre en fonction des deux principaux paramtres opratoires Qe
et Taent r e (il sagit de la mthode employe pour la dfinition des conductances de lchan-
geur air/eau dans le chapitre 2) :

h 35 = 0, 14 Qe Taent r e 3, 5 Qe + 0, 32 Taent r e 4, 9


h 45 = 0, 11 Qe Taent r e 1, 2 Qe + 0, 03 Taent r e 0, 41






h 17 = 0, 33 Qe Taent r e 6, 2 Qe + 0, 14 Taent r e + 7, 0





h = 0, 87 Q T ent r e 20 Q + 0, 50 T ent r e 4, 2

28 e a e a
ent r e ent r e
(3.6)


h 13 = 0, 17 Q e T a 3, 7 Q e + 0, 01 T a + 0, 76
h 24 = 1, 9 Qe Taent r e 40 Qe 0, 39 Taent r e + 12






h 56 = 3, 4 Qe Taent r e 67 Qe + 0, 47 Taent r e + 26





h = 0, 64 Q T ent r e + 22 Q + 2, 5 T ent r e 18

69 e a e a

3.3.2.2 Identification des capacits thermiques quivalentes

Une fois les conductances quivalentes connues, nous recherchons par identification les
valeurs des capacits thermiques de chaque nud laide des quations en rgime tran-
sitoire. Les squences de mesures exploites sont celles utilises lors de lidentification des
conductances quivalentes. Le tableau 3.5 donne les rsultats obtenus lors de ce calcul.

Nous observons que les capacits des nuds reprsentant les composants sont logique-
ment plus faibles que celles des autres nuds. Les capacits thermiques de la plaque froide
et de leau circulant lintrieur de celle-ci sont de lordre de 8000 J/K et 500 J/K. En consid-
rant les masses et les capacits thermiques de la plaque froide (7 kg, Cpal umi ni um =897 J/kg/K),
de leau (0,34 kg, Cpeau =4182 J/kg/K) et du serveur (3 kg, Cpaci er =465 J/kg/K), la somme de
toutes les capacits thermiques donne une valeur pertinente.

TABLEAU 3.5 Identification des capacits thermiques pour le modle dun serveur et dune plaque
froide

Capacit thermique Cc,1 Cc,2 Ca,1 Ca,2 CPF Ce Total

Valeurs obtenues (J/K) 14 11 9 11 8181 493 8719

3.3.2.3 Validation sur la squence didentification

Les conductances fluides et les capacits thermiques tant dtermines, il est possible de
vrifier dans un premier temps si la modlisation est correcte pour la squence de mesures
qui a permis didentifier ces paramtres. La figure 3.18 prsente les rsultats obtenus. Les
faibles carts entre les tempratures mesures et celles issues du modle indiquent que le
modle permet une bonne reprsentation de la rponse thermique de lensemble "plaque
froide-serveur". Nous notons toutefois sur la figure 3.18.b quil existe des carts denviron
1,5C entre les tempratures Tc,2 mesures et calcules pour certains paramtres opratoires.
Ceci peut sexpliquer par les propagations derreur dans la dfinition des rgressions tablies
pour le calcul des conductances. Toutefois ces carts de tempratures reprsentent moins de
5% derreur relative sur le calcul des tempratures.

75
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T - exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e

40
Temprature (C)

35

30

25

0 4 8 12 16 20 24 28 32
Temps (h)
(a) Qe = 0, 5 L/mi n

S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T -exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e

40

38

36
Temprature (C)

34

32

30

28

26

24

0 5 10 15 20 25 30
Temps (h)

(b) Qe = 2 L/mi n

F IGURE 3.18 Squences didentification : validation des tempratures du systme

3.3.3 Comparaisons expriences/simulations


Le modle numrique est ensuite test sur une squence de mesures avec des paramtres
opratoires diffrents de ceux utiliss lors de lidentification des paramtres (Figure 3.19). La
temprature dair est comprise entre 20 et 27C, la temprature deau en entre varie entre
15 et 26C. Le dbit deau et la puissance lectrique consomme par le serveur est galement
modifie plusieurs reprises.

76
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques

entre S moy
T entre T S T moy
Ta T b,1 T PFE Q
a entre b,1 S PFE Qe P
T entre T S 3,5 e P 240
Te T b,2 3,5 240
e b,2

40
40 3 220
3 220
36
36
2,5 200

Puissance
(C)

2,5 200

Puissance(W)
(C)

32

(l/min)
32

QQ(l/min)
Temprature
Temprature

2 180
28 2 180
28

e e

(W)
24 1,5 160
24 1,5 160
20
20 1 140
1 140
16
16
0,5 120
0 5 10 15 20 25 30 35 40
0 5 10 15Temps
20 (h)
25 30 35 40
0,5 0 5 10 15 20 25 30 35 40 120
0 5 10 15 Temps
20 25
(h) 30 35 40
Temps (h)
Temps (h)
(a) Tempratures (b) Dbit deau et puissance

F IGURE 3.19 Squences de validation : paramtres opratoires

La figure 3.20 montre la rponse thermique correspondante du serveur et de la plaque


froide. Nous observons que lerreur relative moyenne entre les tempratures mesures et
calcules est de 9% avec un maximum 38% pour la temprature Ta,2 lorsque la puissance
dissipe est minimale, soit 130 W, et avec un dbit deau de 3 L/min. Les carts de temp-
ratures les plus consquents entre valeurs mesures et calcules se retrouvent donc sur la
temprature dair au sein et en sortie de serveur. Linstrumentation mise en place pour me-
surer les tempratures dair dans le serveur et directement en sortie des serveurs est peut-
tre remettre en cause. En effet, la proximit des thermocouples (qui ne possdent pas
dcran radiatif ) avec des composants peut introduire un biais au niveau des mesures dans
certaines conditions exprimentales. Ceci a donc par la suite une consquence directe sur
les valeurs obtenues numriquement. Nous retrouvons toutefois dune faon satisfaisante
les autres grandeurs de sortie du modle comme la temprature deau en sortie Te et la tem-
moy
prature moyenne de la plaque froide des composants TPFI .

S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T - exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e

40

35
Temprature (C)

30

25

20

15
0 5 10 15 20 25 30 35 40
Temps (h)

F IGURE 3.20 Squence de validation : comparaison des tempratures

77
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides

3.3.4 Etude de sensibilit


Ltude de sensibilit des tempratures du modle de lensemble "plaque froide-serveur"
aux variations des paramtres p i est identique celle effectue dans le chapitre 2. La fi-
gure 3.21 permet de visualiser limpact dune variation de 10% de ces conductances sur cha-
cune des tempratures du systme, avec des valeurs de sensibilits rduites plus importantes
moy
PMAX . Les sensibilits rduites de la temprature Te ne subissent que de trs faibles va-
riations avec des amplitudes de lordre 0,2C.

0
Sensibilit rduite ( C)

Sensibilit rduite ( C)
0
ST1 (h13 ) ST2 (h24 )
2 ST1 (h15 ) ST2 (h25 )
ST1 (h17 ) ST2 (h28 )
1
4

6 2

8
0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de Tc,1 (b) Sensibilit de Tc,2
Sensibilit rduite ( C)

Sensibilit rduite ( C)

ST3 (h13 ) 2 ST4 (h24 )


ST3 (h35 ) ST4 (h45 )
1 0

0.5
4

0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de Ta,1 (d) Sensibilit de Ta,2

1
Sensibilit rduite ( C)

Sensibilit rduite ( C)

ST5 (h15 ) ST6 (h56 )


ST5 (h25 ) 0.4 ST6 (h69 )
ST5 (h35 )
0 ST5 (h45 )
ST5 (h56 ) 0.2

1
0
0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
moy moy
(e) Sensibilit de TPFI (f) Sensibilit de Te

F IGURE 3.21 Sensibilit des tempratures du modle "plaque froide-serveur"


aux variations des conductances thermiques

78
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.4. Conclusion

3.4 Conclusion
Ce chapitre avait pour objectif dtudier un systme de refroidissement pour serveur in-
formatique lchelle des composants lectroniques. Les dimensions des plaques froides
sont aussi petites que possible afin de limiter la quantit daluminium utilise et de maximi-
ser les transferts thermiques par conduction directe par le biais de plots mtalliques. Les me-
sures ralises ont montr lefficacit de cette approche pour les composants qui dissipent le
plus de puissance. Un faible flux dair a t conserv afin de refroidir les autres composants.
Il est important de noter que les plaques testes ont t fabriques par usinage numrique.
Or ce procd de fabrication peut tre remplac par du moulage, qui reprsenterait un cot
beaucoup moins onreux que celui utilis pour la conception des prototypes.
Ltude mene lchelle de plusieurs serveurs a permis de mettre en vidence lint-
rt nergtique de cette solution de refroidissement. Par rapport aux rsultats obtenus au
chapitre 2, le remplacement des ventilateurs centrifuges de la baie par des ventilateurs plus
petits a un impact positif direct sur la consommation nergtique totale.
Un modle numrique par approche nodale a t mis lchelle dun serveur et dune
plaque froide. Lidentification des conductances et capacits thermiques quivalentes a t
mene partir de squences de mesures avec des variations des diffrents paramtres op-
ratoires. Les valeurs obtenues ont t valides sur une squence de mesures additionnelle
avec des rsultats satisfaisants.
Des simulations de panne du systme de refroidissement des serveurs et des plaques
froides sont prsentes dans lannexe A.3.

79
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4

Perspectives sur le refroidissement liquide

Sommaire
4.1 Immersion dans un bain dhuile . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
4.2 Immersion dans un fluide changement de phase . . . . . . . . . . . . . . . 88
4.2.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.2.2 Squences de mesures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.3 Bilan comparatif des diffrents modes de refroidissement . . . . . . . . . . . 97
4.3.1 Rcapitulatif global . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
4.3.2 Etude technico-conomique . . . . . . . . . . . . . . . . . . . . . . . . . 98
4.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

Ce chapitre a pour but dapporter des lments de rponse sur lutilisation du refroi-
dissement par immersion pour les quipements informatiques des data centers. Nous nous
sommes en particulier intresss aux aspects lis lefficacit du refroidissement, la consom-
mation dnergie et la mise en uvre.
Du fait de laugmentation de la densit de puissance des quipements informatiques
dans les data centers, deux voies de refroidissement font lobjet dapplications industrielles
et dtudes. La premire repose sur des transferts de chaleur par convection naturelle ou
force sans changement de phase (huile minrale) tandis que la seconde exploite des fluides
dont la temprature de changement dtat se situe aux environs de 50C afin dintensifier les
mcanismes de transfert (bullition nucle).
Le refroidissement par immersion dans un bain dhuile fait lobjet dune premire tude
exprimentale. Les tests sont mens sur une installation disponible chez des quipemen-
tiers.
La seconde partie de ce chapitre dcrit le prototype mis en uvre et les tests raliss
pour tudier une solution de refroidissement dans le cas dun changement dtat du fluide.
Les rsultats exprimentaux permettent de quantifier la consommation nergtique des sys-
tmes de refroidissement et de vrifier si les transferts de chaleur sont suffisants pour refroi-
dir efficacement les composants lectroniques. Une tude finale comparative entre les diff-
rents modes de refroidissement tudis durant la thse et une tude technico-conomique
viennent clturer ce chapitre.

80
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile

4.1 Immersion dans un bain dhuile


Depuis plusieurs annes, des transformateurs lectriques sont immergs dans de lhuile
pour assurer leur bon refroidissement [106]. Dans le chapitre 1, nous avons vu que le refroi-
dissement par immersion dans des liquides dilectriques tel que lhuile minrale peut tre
appliqu aux composants lectroniques [68, 69]. Dans le cadre de la thse, il est intressant
de voir si les coefficients dchanges thermiques sont suffisants pour refroidir efficacement
des serveurs informatiques prvus initialement pour tre refroidis par un flux dair impor-
tant.
Pour ces tudes, un dispositif de la socit Green Revolution Cooling (GRC) est utilis. Les
quipements informatiques sont immergs dans de lhuile minrale dilectrique PIONIER
2076 P, dont les principales proprits physiques sont donnes en annexe A.6.

4.1.1 Dispositif exprimental


4.1.1.1 Descriptif du banc dessai

Le dispositif exprimental comprend une cuve non isole de longueur 1,9 m et de 0,6
m de large pour une hauteur de 1 m. Elle contient environ 800 litres dhuile minrale dans
laquelle les quipements informatiques sont plongs (cf. figure 4.1). Un couvercle non her-
mtique permet de recouvrir la cuve.
Le renouvellement de lhuile lintrieur de la cuve est assur par des orifices dinjection
et daspiration de chaque ct du bac. Un filtre est install sur le circuit de recirculation pour
filtrer les impurets prsentes dans la cuve. A ce circuit est associ un changeur huile/air
afin de maintenir la temprature de lhuile. Lensemble est rgul automatiquement par le
biais de diffrents capteurs de tempratures. La temprature de consigne pour lhuile en
sortie de la cuve peut tre impose. Le rglage est effectu par un ajustement du dbit dhuile
et de la vitesse du ventilateur de larotherme. La valeur du dbit dhuile dans le circuit nest
pas accessible via la console du systme, et il na pas t possible dinstaller un dbitmtre.
Sept serveurs informatiques IBM HS21 et leurs alimentations ont t immergs dans
lhuile. Lorientation des serveurs et des alimentations est due aux dimensions du chssis
dans lequel ils sont placs. Les ventilateurs centrifuges des serveurs et les ventilateurs axiaux
des alimentations ont t retirs. Il a galement t ncessaire de dporter les disques durs
des serveurs lextrieur de la cuve car ils ne sont pas tanches.

F IGURE 4.1 Banc dessai du refroidissement par immersion (huile minrale)

81
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

4.1.1.2 Instrumentation

Les mesures de tempratures sont effectues avec des thermocouples de type K avec des
fils de diamtre 0,1 mm. La priode dacquisition des tempratures est de 10 secondes.
Au total, trois serveurs ont t instruments avec des thermocouples placs (fixation
mcanique) entre la surface des principaux composants et leur dissipateur (cf. figure 4.2).
Dautre part, des thermocouples mesurent la temprature de lhuile prs des serveurs. Dans
cette tude, nous faisons lhypothse que les tempratures des composants de chaque ser-
veur ont un comportement identique car la puissance dissipe est la mme. La duplication
de linstrumentation sur plusieurs serveurs permet aussi davoir une certaine redondance
au niveau des capteurs de tempratures.
Des thermocouples ont t installs diffrents endroits afin de mesurer les tempra-
tures de lhuile en entre et en sortie de la cuve. Ils ont t placs sur la droite (D), au milieu
(M) et sur la gauche (G) de la cuve (cf. figure 4.1).
bac
Un suivi de la temprature dair au-dessus de la surface libre de lhuile (Tai r
) et de lair
ambiant est galement ralis.

CPUs Chipset SAS

X X
X
X
X

RAM
Thermocouples (huile) X Thermocouples (surface)

F IGURE 4.2 Instrumentation des serveurs immergs dans lhuile minrale

La puissance consomme par les serveurs et leurs alimentations est mesure. Des me-
sures de puissances lectriques permettent de suivre lvolution de la consommation de
lensemble pompe et arotherme qui est la seule source de consommation nergtique du
systme de refroidissement. Toutefois, il nest pas possible de diffrencier la puissance consom-
me par chacun des deux organes.

4.1.1.3 Valeurs des coefficients dchanges convectifs

Linjection de lhuile est assure par 60 buses rparties tout le long de la cuve. Comme la
vitesse de lhuile lintrieur de la cuve est a priori trs faible du fait de cette rpartition, les
transferts thermiques par convection naturelle sont vraisemblablement dominants avec des
coefficients dchanges que nous pouvons estimer.
En effet, les changes par convection naturelle sont rgis par le nombre de Rayleigh [55] :

g TL3
Ra = (4.1)

82
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile

o , et sont respectivement le coefficient thermique dexpansion isobare, la viscosit


cinmatique et la diffusivit thermique du fluide, T la diffrence de temprature travers
la couche de fluide dpaisseur L et g lacclration de la pesanteur. Dans notre tude, les
valeurs du nombre de Rayleigh pour lhuile sont de lordre de 107 et 108 .
Il existe une relation entre le coefficient dchange thermique h et le nombre de Nusselt,
nombre adimensionnel qui reprsente le rapport des transferts thermiques convectifs et des
transferts thermiques conductifs. Il existe plusieurs corrlations pour exprimer le nombre
de Nusselt Nu en fonction du type dchanges thermiques et de la gomtrie du problme.
Dans notre tude, nous nous intressons aux coefficients dchanges en convection naturelle
au niveau des composants lectroniques. Lexpression de ces coefficients est donne par la
relation [55] :

Nu
= CRa m h= (4.2)
L L
avec m et C dpendant du rgime dcoulement et de la gomtrie de la surface. Dans notre
cas, m = 14 et C = 0, 59.
En se basant sur une gomtrie de type plaque verticale et en prenant les proprits
thermo-physiques de lhuile minrale utilise, nous pouvons donc estimer la valeur du co-
efficient dchange en fonction de la diffrence de temprature entre la surface dun com-
posant et la temprature de lhuile proche, pour diffrentes valeurs de L. La figure 4.3 donne
les rsultats obtenus et sont compars ceux calculs en prenant lair comme fluide calo-
porteur. Les valeurs des coefficients convectifs sont en moyenne 15 fois plus grandes dans le
cas de lhuile.

(a) Dans lhuile (b) Dans lair

F IGURE 4.3 Estimations des coefficients dchanges convectifs pour diffrents fluides

Des tests prliminaires ont montr une lvation importante de la temprature de sur-
face des principaux composants lorsque ceux-ci sont utiliss sans leurs dissipateurs (larrt
des serveurs intervient au bout dune dizaine de secondes aprs leur dmarrage). Du fait des
faibles surfaces des composants (entre 180 et 1600 mm2 ), il est ncessaire de laisser les dis-
sipateurs sur les composants afin daugmenter la surface dchange. Les valeurs estimes de
h dans lhuile permettent de vrifier ce point, notamment pour les CPU qui peuvent dissiper
jusqu 80 W.

83
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

4.1.2 Rsultats exprimentaux


Les paramtres opratoires qui ont pu tre modifis au cours des tests sont la puissance
consomme par les serveurs et leurs alimentations (PMIN et PMAX ), ainsi que la temprature
de consigne du systme de refroidissement. Deux valeurs de consigne pour la temprature
de lhuile en sortie ont t testes, 40C et 30C, afin de dterminer limpact de ce paramtre
sur la consommation nergtique du systme de refroidissement ainsi que sur les tempra-
tures des composants. Les tests ont t raliss par priode de 24h en ne faisant varier quun
seul des paramtres chaque fois.

4.1.2.1 Relevs de tempratures

Lhypothse pralablement faite sur la similitude des profils de tempratures entre les
diffrents serveurs a bien t vrifie. Lcart-type entre les diffrentes mesures pour chaque
composant varie de 0,1 1,7C, avec une moyenne de 0,8C pour lensemble des composants.
La reproductibilit des mesures tant assure, les tempratures prsentes pour chaque com-
posant seront donc des moyennes effectues partir des relevs des trois serveurs.

Essai 40C

Les paramtres opratoires des essais avec une temprature de consigne dhuile de 40C
en sortie sont prsents sur la figure 4.4. Nous constatons que les tempratures dhuile sont
plus leves vers le milieu (M) et la gauche (G) du bac, ce qui concide avec la position des
serveurs dans le bac.
Durant les premires 24 heures, les serveurs sont la puissance PMIN puis PMAX du-
rant les dernires 24 heures. Une lgre baisse de la puissance apparat durant les dernires
heures du fait de larrt de lun des serveurs.
Les vitesses de fonctionnement de la pompe et du ventilateur de lchangeur huile/air
externe sont galement indiques (exprimes en pourcentage) et varient avec la puissance
consomme par les quipements.

Sortie
Sortie(G)
(G) Sortie
Sortie(M)
(M) Sortie
Sortie(D)
(D) Pompe
Pompe
Puissance Arotherme
55
55 3 Puissance Arotherme 100
3 3

2,8
2,5 80
2,5
(kW)

50
lectrique(kW)

50
Commande de vitesse
(C)
Temprature (C)

lectrique

2 2
Vitesse (%)

2,6 60
Temprature

45
45
1,5 1,5
Puissance

2,4 40
Puissance

1 1
40
40
2,2 20
0,5 0,5

35
35 2 0
00 88 16
16 24
24 32
32 40
40 48
48 00 8 16 24 32 40 48 0
Temps
Temps(h)
(h) 0 8 16 Temps
24 (h) 32 40 48
Temps (h)
(a) Tempratures dhuile (b) Puissance et fonctionnement du refroidisseur

F IGURE 4.4 Immersion dans lhuile : paramtres opratoires 40C

84
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile

Les relevs de la figure 4.5 montrent lvolution des tempratures moyennes des com-
posants des serveurs au cours du temps pour une consigne de 40C. A charge minimale,
les tempratures des composants mesures par les thermocouples sont constantes et trs
proches autour de 55C pour tous les composants sauf la RAM qui atteint une temprature
denviron 73C. La temprature de lhuile prs des composants est de lordre de 42C.
Lorsque les serveurs sont mis puissance maximale (PMAX ), nous observons une hausse
importante de la temprature des diffrents composants (environ 18C), notamment pour
les processeurs qui dissipent le plus de puissance. Les autres composants ont une lvation
de temprature plus faible. La temprature dhuile prs des composants augmente quant
elle denviron de 2,5C.
Au cours de cette deuxime phase nous observons une baisse de temprature qui inter-
vient vers t=38h, qui est due larrt dun des serveurs. En effet, la temprature de surface
des CPU tant suprieure de prs de 7C la valeur limite recommande, lun des serveurs
sest mis en scurit et sest teint automatiquement. Cela a pour consquence de rduire la
puissance dissipe lintrieur du bac, do une baisse globale des tempratures.
Les tempratures dhuile en entre de la cuve sont quasi constantes PMIN et varient de
quelques degrs PMAX . La temprature de lair au-dessus de lhuile est galement indique,
dont les valeurs sont sensibles aux variations des tempratures de lair ambiant et de lhuile
dans la cuve.

CPU Chipset RAM Entre (G) Entre (D)


CPU SAS Huile Entre (M) T
bac
air

80

70
Temprature (C)

60

50

40

30

0 8 16 24 32 40 48
Temps (h)

F IGURE 4.5 Profils de tempratures des serveurs (huile, 40C)

Essai 30C

Les paramtres opratoires des essais avec une temprature de consigne dhuile en sortie
de 30C sont prsents sur la figure 4.6. Par rapport au cas prcdent, la temprature dhuile
mesure en sortie vers le milieu de la cuve est plus leve que les deux autres mesures de
tempratures.
Durant les premires 24 heures, les serveurs sont la puissance PMIN puis PMAX durant
les dernires 24 heures.
Les vitesses de fonctionnement de la pompe et du ventilateur de lchangeur huile/air
externe sont reportes et montrent une hausse importante de ces valeurs lors du passage

85
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

PMAX afin de maintenir la temprature de consigne de 30C. De plus, compar au cas pr-
cdent, les vitesses de la pompe et du ventilateur externe sont plus importantes avec des
valeurs identiques et comprises entre 2,2 et 5. Nous avons donc une augmentation non n-
gligeable de la vitesse de ces deux organes, qui va induire une augmentation de la consom-
mation nergtique du systme de refroidissement.

Sortie (G) Sortie (M) Sortie (D) Pompe


Pompe
Sortie (G) Sortie (M) Sortie (D) Puissance Arotherme
Puissance Arotherme
45 45 3 3 5 100

2,8 4,5

Puissance lectrique (kW)


2,8 80

Puissance lectrique (kW)

Commande de vitesse
40 40
4
Temprature (C)

2,6
Temprature (C)

Vitesse (%)
2,6 60
35 35 2,4 3,5

2,4 40
2,2 3
30 30

22,2 2,520

25 25 2 0
1,8 2
0 0 8 8 16 16 24 24 32 32 40 40 48 48 0 0 8 8 16 16 24 24 32 32 40 40 48 48
Temps (h) (h) Temps
Temps(h)(h)
Temps
(a) Tempratures dhuile (b) Puissance et fonctionnement du refroidisseur

F IGURE 4.6 Immersion dans lhuile : paramtres opratoires 30C

La figure 4.7 prsente les tempratures des composants et de lhuile prs des serveurs. Par
rapport au cas prcdent, nous observons une baisse des tempratures pour chaque com-
posant de 9C environ quel que soit le niveau de puissance, et la temprature dhuile a quant
elle baiss de 10C en moyenne. Durant les essais, aucun arrt des serveurs nest survenu.
Les composants sont largement en-dessous de leur temprature limite respective. En effet,
PMIN , la temprature de la RAM est en moyenne de 65C tandis que celles des autres com-
posants varient autour de 48C. A PMAX , les tempratures augmentent de quelques degrs
avec toujours une hausse plus importante pour les CPU. Malgr cette augmentation de la
temprature des CPU PMAX , la temprature de surface de ces composants est en dessous
de la valeur limite recommande.
Les trois tempratures dentre dhuile ont un comportement rgulier avec des valeurs
proches quelle que soit la localisation des capteurs de tempratures. En moyenne, elles sont
de 28,1C PMIN et de 25,5C PMAX .

86
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile

CPU Chipset RAM Entre (G) Entre (D)


CPU SAS Huile Entre (M) T
bac
air

70

60
Temprature (C)

50

40

30

20
0 8 16 24 32 40 48
Temps (h)

F IGURE 4.7 Profils de tempratures des serveurs (huile, 30C)

4.1.2.2 Bilan nergtique

Dans le tableau 4.1 sont reportes les valeurs des puissances lectriques consommes
par les quipements immergs et par le systme de refroidissement. Les valeurs de lindi-
cateur defficacit nergtique partiel (pPUE, ratio de la puissance totale sur la puissance
consomme par les quipements informatique) sont galement calcules pour chaque cas.
Nous constatons que dans le cas 30C, laugmentation de la consommation du systme
du refroidissement induit une hausse du pPUE de 0,2 par rapport au cas 40C. De plus, la
puissance dissipe dans la cuve est faible par rapport au dimensionnement de linstallation
(20% de la charge maximale thorique). Les valeurs de pPUE sont donc susceptibles dtre
amliores dans le cas dune charge thermique plus importante.

TABLEAU 4.1 Efficacit nergtique du refroidissement par immersion dans de lhuile

T consigne 30C 40C

Puissance PMIN PMAX PMIN PMAX

Puissance des quipements (W) 2012 2731 2150 2910

min 329 547 100 90


Puissance refroidissement (W) max 1936 1949 220 750
moy 612 885 150 310

min 1,2 1,03 1,04


pPUE max 1,9 1,7 1,1 1,3
moy 1,3 1,1

Les rsultats en termes defficacit nergtique prsents ci-dessus sont comparer


des tests complmentaires mens dans un data center dOrange avec un plus grand nombre

87
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

dquipements informatiques (pouvant atteindre une puissance consomme de 7 kW). Cela


permet donc destimer lefficacit nergtique de la solution de refroidissement avec une
puissance dissipe plus importante que dans notre tude. Le bilan a montr que le pPUE
moyen est de 1,08. Les rsultats avec une plus grande charge thermique vacuer sont donc
satisfaisants.
Lintrt de cette solution rside galement dans le fait que tous les ventilateurs des ser-
veurs sont retirs. Des conomies nergtiques sont alors possibles mais qui napparaissent
pas dans le calcul du pPUE du fait de sa dfinition qui englobe la consommation des ventila-
teurs dans celle des quipements informatiques. En se basant sur un datacenter contenant
100 baies quipes des serveurs utiliss durant ltude (soit un total de 800 ventilateurs cen-
trifuges), nous arrivons une conomie denviron 1,23 GW.h par an.

En conclusion, nous avons tudi une solution de refroidissement par immersion dans
de lhuile minrale. Elle permet de refroidir des quipements informatiques avec une consom-
mation nergtique faible pour le systme de refroidissement, qui comprend une pompe et
un changeur huile/air externe pour le rejet des calories. Toutefois, lefficacit du refroidis-
sement des processeurs dans notre tude nest pas assure lorsque la temprature dhuile
est leve. Lutilisation de dissipateurs ddis au refroidissement par immersion dans des
liquides visqueux est tudier.

4.2 Immersion dans un fluide changement de phase


Du fait de laugmentation de la densit de puissance installe dans les data centers [1], il
est intressant de se tourner vers des solutions de refroidissement avec des liquides dont la
temprature de vaporisation se situe dans la gamme des tempratures limites des compo-
sants, ce qui permet potentiellement davoir des coefficients dchanges thermiques trs im-
portants [58]. Dans le cas de lbullition libre, Nukiyama [107] a mis en vidence une relation
entre la densit de flux de la source chaude et la diffrence de temprature entre la paroi de
cette source et le fluide en contact (Tsat = Tp Tsat ). Nous constatons sur la figure 4.8 que
les transferts thermiques par convection naturelle sont suivis par plusieurs rgimes dbul-
lition.
Dans le cadre du refroidissement des composants lectroniques, ce sont les fluorocar-
bures (FC) qui sont principalement employs du fait de leurs proprits dilectriques. Le
rgime dbullition nucle dans le cadre du refroidissement de puces lectroniques a t
tudi par El-Genk [108].

F IGURE 4.8 Courbe dbullition libre et des diffrents rgimes observs


en fonction de la surchauffe de la paroi et du flux [109]

88
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase

Lobjectif de cette tude est de mettre en place un banc dessais exprimental afin de re-
froidir plusieurs serveurs immergs dans un fluide dilectrique changement de phase et
de visualiser le comportement thermique et nergtique de linstallation. Un premier para-
graphe prsente le dispositif exprimental mis en place ainsi que linstrumentation, puis les
rsultats exprimentaux sont analyss et discuts.

4.2.1 Dispositif exprimental


Dans cette tude, le liquide de refroidissement utilis est le Novec 649 fabriqu par la
socit 3M. Ce fluide dont les proprits sont donnes en annexe A.6 possde une tempra-
ture dbullition de 49C pression atmosphrique normale, qui convient aux tempratures
limites des composants de nos serveurs. Ce produit ayant une trs faible chaleur latente de
vaporisation (88 kJ/kg, presque 30 fois infrieure celle de leau) et une faible tension de sur-
face, il est ncessaire davoir un contenant tanche. Par ailleurs, la compatibilit chimique
avec les diffrents matriaux est galement prendre en compte lors de la conception du
contenant (plastiques, colle, joints, etc...).

4.2.1.1 Descriptif du banc dessai

Sept serveurs IBM HS21 sont placs dans un contenant en inox fabriqu sur-mesure, avec
leurs alimentations respectives (cf. figure 4.9). Lorientation des serveurs est impose par leur
conception (connectiques et raccordements lectriques au fond du contenant). Une surface
transparente en plexiglas sur lun des cts permet de visualiser lun des serveurs immergs,
afin de se rendre compte du comportement du fluide et de la localisation des zones dbul-
lition. Les dimensions du contenant sont de 100 cm en hauteur, 43,5 cm en largeur et 42,5
cm en profondeur. Le volume total de fluide dans le contenant est de lordre de 70 litres.
Des orifices sont prsents sur les faces latrales (en hauteur au niveau du condenseur) pour
le passage des cbles dalimentation et des thermocouples. Ltanchit est assure par un
joint silicone. La partie suprieure du contenant est un couvercle sous lequel est fix un ser-
pentin en cuivre qui joue le rle de condenseur et dans lequel circule de leau. Il est reli
un circuit hydraulique compos dune pompe GRUNDFOS UPS 25-50 180 et dun changeur
eau/air externe. Les parois du contenant sont calorifuges afin de limiter les pertes travers
celles-ci et de rcuprer le maximum de la puissance thermique via le condenseur.

4.2.1.2 Instrumentation

Toutes les mesures sont releves avec une priode de 5 secondes. Au niveau de linstru-
mentation du contenant, des thermocouples chemiss de type K et de diamtre 3 mm sont
placs dans les conduites deau en entre et en sortie du condenseur. Le dbit deau lint-
rieur du circuit est donn par un dbitmtre magnto-inductif IFM ELECTRONIC SM8050.
Il est donc possible de dterminer la puissance thermique cde au condenseur.
Un capteur OMEGA PXM219 permet de suivre lvolution de la pression relative lin-
trieur du contenant. En effet, avec laugmentation de la temprature du fluide en phase
liquide (avec un coefficient dexpansion environ 5 fois suprieur celui de leau 40C) et
lapparition de la phase vapeur, la pression va augmenter lintrieur du contenant. Il est
donc intressant de suivre lvolution de la pression interne en fonction de la puissance dis-
sipe par les serveurs afin de dterminer la ncessit de systme de rgulation de pression
(soufflet, vase dexpansion, etc...).
La temprature du fluide en phase liquide est mesure laide de six thermocouples de
type K qui sont rpartis diffrents endroits et diffrents hauteurs (notes H, M et B) afin
de voir sil existe un gradient de tempratures (voir figure 4.9). Quatre thermocouples, nots

89
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

de A1 B2, sont galement placs dans la phase vapeur du fluide, entre le condenseur et la
surface du liquide. Un thermocouple permet de suivre les variations de la temprature en
surface du condenseur.
Quelques thermocouples fins (fils de diamtre 0,1 mm) de type K sont placs de part et
dautres des parois du calorifuge afin destimer les pertes thermiques travers lisolant. Le
flux de chaleur travers la surface vitre est galement estim grce deux thermocouples
placs de part et dautre de la paroi en plexiglass.

Vue de dessus
A2 B2

Condenseur
1 A1 B1

(H)
Alimentations

Alimentations

2 (M)
1 Phase vapeur
2 Phase liquide
(B)
Thermocouples (liquide)
Vue de profil Thermocouples (vapeur)

F IGURE 4.9 Schma du dispositif exprimental

A lchelle des serveurs, linstrumentation est similaire celle effectue dans les prc-
dents essais. Des thermocouples fins de type K sont placs en surface des composants pour
vrifier si les tempratures sont infrieures aux tempratures maximales recommandes (cf.
figure 4.10). Les dissipateurs des principaux composants ont t retirs, les transferts de cha-
leur par bullition se font directement entre la surface des composants et le liquide. Des
thermocouples permettent galement de mesurer la temprature du liquide prs des pro-
cesseurs.

CPU (G) CPU (D)

Liquide

Chipset

RAM

SAS

F IGURE 4.10 Photographies de linstallation du refroidissement diphasique


et instrumentation des serveurs

Des mesures de puissances lectriques finalisent linstrumentation afin de dterminer la


puissance consomme par les serveurs, les alimentations, la pompe et larotherme.

90
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase

4.2.2 Squences de mesures


Diffrents essais ont t mens avec des tests sur un serveur dans un premier temps, et
sept serveurs oprationnels dans un second temps. Nous prsentons dans les paragraphes
suivants les relevs de mesures de tempratures et de pression obtenus, ainsi que les bilans
des puissances thermiques et lectriques mises en jeu lors des diffrents essais.

4.2.2.1 Essais avec un serveur

Les rsultats dcrits ci-dessous sont obtenus dans le cadre dun essai charge minimale
(PMIN ) du refroidissement dun serveur et des alimentations prsentes dans le contenant. La
figure 4.11 montre les variations des paramtres opratoires durant les essais avec un seul
serveur en fonctionnement.
La hausse de puissance au dbut des essais correspond au dmarrage du serveur. Il est
important de noter que les alimentations consomment une certaine quantit dnergie mme
lorsquaucun serveur ne fonctionne.
Le dbit deau travers le condenseur est constant durant les essais avec une valeur de 6,3
L/min. La temprature de la boucle deau augmente au cours du temps car la temprature
de consigne de larotherme est fixe 30C. Nous constatons que lcart des tempratures
deau en sortie en entre de condenseur est trs faible la fin des essais, de lordre de 1C.
Les tempratures de lair ambiant et de lair extrieur sont galement reportes. La tem-
prature ambiante augmente cause dquipements prsents dans la salle o se trouve le
contenant.

La figure 4.12 permet dobserver la brusque monte des tempratures des principaux
composants lors du dmarrage du serveur. Au bout dune minute, les tempratures de sur-
face passent denviron 20C des valeurs comprises entre 37 et 43C. Un rgime quasi-
stationnaire est atteint aprs 4 heures de fonctionnement, durant lequel chaque composant
tend vers une temprature de surface diffrente. Lapparition de bulles est notable au niveau
des composants les plus dissipatifs comme le montre lannexe A.7.
Dans un premier temps, nous pouvons diffrencier les tempratures des deux proces-
seurs (qui sont des composants identiques avec une mme implantation). En effet, le pro-
cesseur de droite (CPU (D)) atteint une temprature de 54,4C tandis que celui de gauche
(CPU (G)) a une temprature de surface plus faible, gale 52,5C. Cet cart de temprature
sexplique par le fait que la fixation des thermocouples sur les processeurs est diffrente : le
thermocouple de droite est fix laide dun adhsif aluminium tandis que le second est fix
laide dune colle. Le collage ne couvre pas la mme surface du composant do une sur-
face dchange qui diffre et donc une temprature de surface plus leve dans un cas que
dans lautre.
Pour les autres composants, le chipset a une temprature en rgime stationnaire de 54,4C,
le SAS de 57,8C et la RAM de 63,0C. L encore, les diffrences de tempratures entre les
composants sexpliquent par les dimensions des surfaces des composants en change avec
le liquide. De plus, la rugosit des surfaces peut diffrer entre chaque composant et peut fa-
voriser ou non lbullition.

La figure 4.13 montre lvolution au cours du temps des tempratures du fluide en phase
liquide et en phase vapeur. Nous pouvons constater dans un premier temps que la monte
en temprature des deux phases diffre quelque peu lors du rgime transitoire. En effet, les
tempratures du liquide sont plus leves que celles de la phase vapeur de plusieurs degrs.
Aprs quelques heures, les tempratures mesures dans la phase vapeur augmentent rapi-
dement pour venir approcher les tempratures de la phase liquide. En rgime stationnaire,

91
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

les valeurs des tempratures des deux phases sont trs proches (aux alentours de 50C).
Le trac de lvolution de la pression relative montre augmentation durant les premires
heures avec des valeurs autour de 8,4 millibars suivie dune monte aprs 3 heures de fonc-
tionnement des quipements. La pression relative augmente jusqu atteindre la valeur maxi-
male de 84 millibars, puis perd la moiti de sa valeur en quelques minutes. Il est important de
noter que la monte en pression est aussi la consquence de llvation de plusieurs centi-
mtres du niveau de la phase liquide. Cette chute de pression est la preuve de la prsence de
fuites au niveau de la phase vapeur du fluide. Visuellement, les fuites sont identifiables par
la condensation hors du contenant du fluide par quelques passages de cbles et galement
lintrieur de certains cbles lectriques par capillarit.
Une seconde hypothse serait que le condenseur ne permet pas de maintenir le systme
dans une plage de tempratures, do des problmes pour condenser le fluide. Cela impli-
querait une augmentation de la pression dans le contenant et donc lapparition de fuites.

entre sortie amb ext


T T T T
eau eau air air Puissance
26 490

24 465
Temprature (C)

22 440

Puissance (W)
20 415

18 390

16 365

14 340
0 1 2 3 4 5
Temps(h)

F IGURE 4.11 Refroidissement diphasique : paramtres opratoires pour un serveur


1 interne Orange

92
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase

CPU (G) CPU (D) Chipset SAS RAM Liquide Condenseur

70

60
Temprature (C)

50

40

30

20

10
0 1 2 3 4 5
Temps (h)

F IGURE 4.12 Evolution des tempratures dun serveur et du condenseur en fonction du temps
2 interne Orange

Vapeur (A1) Vapeur (B1) Liquide (H) Liquide (B)

Vapeur (A2) Vapeur (B2) Liquide (M) Pression

60 0,1

50 0,08
Temprature (C)

Pression (bar)
40 0,06

30 0,04

20 0,02

10 0
0 1 2 3 4 5
Temps (h)

F IGURE 4.13 Evolution des tempratures des phases vapeur/liquide


3 interne Orange
et de la pression relative au cours du temps

A partir des mesures de tempratures de surface des parois du bac, il a t possible desti-
mer les pertes thermiques travers la surface vitre et les faces isoles du bac (cf. figure 4.14).
La plaque transparente en plexiglas (vi t r e =0,19 W/K/m) a une surface de 0,13 m2 et une
paisseur de 8 mm tandis que les parois calorifuges (i sol ant =0,033 W/K/m) ont une sur-
face totale de 1,6 m2 et une paisseur de 20 mm.
En rgime stationnaire, les pertes thermiques travers le plexiglass sont estimes 21 W
tandis que celles travers lisolant sont de lordre de 50 W.
La puissance thermique cde au condenseur eau varie grandement, avec un maximum
de 415 W, ce qui reprsente 85% de la puissance dissipe par les quipements. Toutefois, ce
ratio diminue fortement durant la fin des essais. Cette chute est corrle la baisse de la
pression dans le bac, cause par des fuites du fluide hors du bac. Cela induit donc une baisse
important de la puissance cde au condenseur.
Les incertitudes sur le calcul des pertes travers les parois sont de 11%, et de 7% pour le
calcul de la puissance thermique sur leau.

93
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

P
vitre isolant eau serveurs
500 500

400 400

Puissance thermique (W)

Puissance lectrique (W)


300 300

200 200

100 100

0 0

-100 -100
0 1 2 3 4 5
Temps (h)

F IGURE 4.14 Estimation des flux thermiques et de la puissance lectrique consomme


au cours du temps
4 interne Orange

4.2.2.2 Essais avec sept serveurs

Des essais ont galement t effectus avec un plus grand nombre de serveurs (sept au
total). Par rapport au cas prcdant, cela correspond une hausse de la puissance installe
dans le bac de 770 W. Les paramtres opratoires de cette srie de mesures sont donns par
la figure 4.15. Les serveurs et alimentations sont mis en fonctionnement durant quelques
heures, puis la puissance est mise zro par la suite. Le dbit deau dans le condenseur est
de 6,2 L/min durant toute la dure des essais. La temprature deau augmente continuel-
lement car larotherme extrieur nest pas en fonctionnement (temprature de consigne
30C).

La figure 4.16 montre que les montes des tempratures sont plus rapides par rapport
au cas avec un seul serveur. En effet, le rgime stationnaire est atteint en moins de 2 heures.
Les niveaux de tempratures des composants sont similaires aux essais prsents prcdem-
ment, except pour le SAS qui est quelques degrs plus bas. Lorsque la puissance des qui-
pements est remise zro, nous observons quil faut plusieurs heures avant de revenir aux
valeurs initiales des tempratures.

Les mmes phnomnes sont observs sur la figure 4.17 avec une hausse rapide des tem-
pratures des phases vapeur et liquide. En rgime stationnaire, toutes les tempratures sont
proches de 49C. Il est galement intressant de visualiser les baisses de tempratures de
chaque phase aprs larrt des quipements. Le condenseur est toujours en fonctionnement
durant cette phase de descente en temprature.

94
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase

entre sortie ambiant ext


T T T T
eau eau air air Puissance
25 1500

20 1200

Temprature (C)

Puissance (W)
15 900

10 600

5 300

0 0
0 4 8 12 16 20 24
Temps (h)

F IGURE
6
4.15 Refroidissement diphasique : paramtres opratoires avec sept serveurs
interne Orange

CPU (G) CPU (D) Chipset SAS RAM Liquide

60

50
Temprature (C)

40

30

20

0 4 8 12 16 20 24
Temps (h)

F IGURE 4.16 Evolution des tempratures des serveurs en fonction du temps

7 interne Orange

Vapeur (A1) Vapeur (B1) Liquide (H) Liquide (B)


Vapeur (A2) Vapeur (B2) Liquide (M)
50

45

40
Temprature (C)

35

30

25

20

15

10

0 4 8 12 16 20 24
Temps (h)

F IGURE 4.17 Evolution des tempratures des phases vapeur/liquide


8 interne Orange

95
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

Dans le cas o sept serveurs sont utiliss, un total de 837 W est rcupr par le conden-
seur en rgime stationnaire (Figure 4.18). Cela reprsente 67% de la puissance des quipe-
ments. Malgr le fait que le suivi de la pression relative lintrieur du bac ne soit pas dis-
ponible pour ces essais, des fuites de fluide sont rapidement apparus durant les tests, avant
mme datteindre le rgime permanent. Cest pourquoi la puissance thermique calcule au
niveau du condenseur est faible compare au cas prcdent. Les pertes travers les parois
du bac sont estimes 84 W.

P
eau serveurs
1400 1400

1200 1200
Puissance thermique (W)

Puissance lectrique (W)


1000 1000

800 800

600 600

400 400

200 200

0 0
0 4 8 12 16 20 24
Temps (h)

F IGURE 4.18 Comparaison de la puissance lectrique consomme


et de la puissance thermique cde au condenseur
9 interne Orange

4.2.2.3 Efficacit nergtique de linstallation

Afin de comparer ces valeurs avec la puissance dissipe par les quipements, le tableau 4.2
rcapitule les diffrents bilans nergtiques (lectrique et thermique) du banc dessai. Les r-
sultats sont obtenus pour les deux essais charge minimale (PMIN ) pour lesquels le nombre
de serveurs en fonctionnement est diffrent. Pour rappel, dans le premier cas, un seul ser-
veur est allum ainsi que les alimentations prsentes dans le contenant. Les essais sont en-
suite effectus avec sept serveurs en fonctionnement.
En termes defficacit nergtique de linstallation, seule la consommation lectrique de
la pompe est retenue dans le bilan car larotherme extrieur ne sest jamais mis en marche
durant les essais. De ce fait, le bilan nergtique est trs bon, avec des pPUE compris entre
1,07 et 1,03.

TABLEAU 4.2 Bilans nergtiques du refroidissement par immersion (diphasique)

PIT (W) eau (W) per t es (W) Pcool i ng (W) pPUE

1 serveur 485 318 73 1,07


34
7 serveurs 1255 837 84 1,03

En conclusion, nous avons mis en place un banc dessais pour le refroidissement par im-
mersion diphasique comprenant un ou plusieurs serveurs avec leurs alimentations, plongs

96
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.3. Bilan comparatif des diffrents modes de refroidissement

dans du Novec 649. Lensemble est plac dans un contenant isol dont la partie suprieure
est quipe dun condenseur dans lequel circule de leau. Linstrumentation mise en place
en place a permis de montrer que le refroidissement des composants est bien assur, avec
une consommation du systme de refroidissement trs faible.

4.3 Bilan comparatif des diffrents modes de refroidissement


Lobjet de ce paragraphe est dans un premier temps de comparer en termes defficacit
nergtique les quatre voies tudies durant la thse. Ensuite, une tude technico-conomique
permet de mettre en vidence les gains potentiels lors du dploiement du refroidissement
dans une salle informatique, compar un refroidissement par climatisation classique ou
par free cooling.

4.3.1 Rcapitulatif global


Lannexe A.8 rcapitule les informations concernant les transferts thermiques qui per-
mettent le refroidissement des composants lectroniques, ainsi que les tempratures mises
en jeu en fonction des diffrents prototypes utiliss (tempratures des fluides, carts de tem-
pratures entre les composants et les fluides).
Le tableau 4.3 donne le dtail des puissances lectriques consommes par les quipe-
ments informatiques, en sparant les contributions des ventilateurs et des quipements in-
formatiques eux-mmes (serveurs et alimentations). La puissance lectrique consomme
par les diffrents systmes de refroidissement est galement reporte. Lindicateur deffica-
cit nergtique partiel, not pPUE, a t utilis pour caractriser uniquement lefficacit
nergtique du refroidissement. Pour rappel, sa dfinition est donne ci-dessous :

Pui ssance t ot al e consomme par l 0 ensembl e d e l 0 i nst al l at i on


pPUE = (4.3)
Pui ssance consomme par l es qui pement s i n f or mat i ques

En faisant apparatre les diffrentes contributions de chaque lment, nous obtenons la


relation suivante :

Pser veur s + Pvent i l at eur s + Pr e f r oi d i ssement


pPUE = (4.4)
Pser veur s + Pvent i l at eur s
Par dfinition, la puissance consomme par les ventilateurs est comprise dans la puis-
sance consomme par les quipements informatiques Pser veur s . Or diminuer cette contri-
bution revient augmenter la valeur du pPUE et donc avoir une moins bonne efficacit
nergtique, ce qui nest pas logique puisque la puissance lectrique consomme diminue.
Afin de corriger cet aspect, nous introduisons notre propre indicateur defficacit nerg-
tique, not CEI (Cooling Effectiveness Index), dont la dfinition est proche du pPUE ceci
prs que la contribution des ventilateurs nest plus comprise dans la puissance consomme
par les quipements informatiques :

Pser veur s + Pvent i l at eur s + Pr e f r oi d i ssement


CEI = (4.5)
Pser veur s
Il est noter que lorsque la ventilation est supprime, les valeurs de pPUE et de CEI sont
identiques.
Les valeurs defficacit nergtique obtenues sont assez proches pour lensemble des so-
lutions de refroidissement tudies.

97
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

TABLEAU 4.3 Efficacits nergtiques des diffrents modes de refroidissement tudis

Climatisation Echangeur en Plaques Immersion dans Immersion avec


Type de refroidissement
(production de froid) fond de baie froides un bain dhuile changement de phase

Nombre de serveurs 14 14 3 7 7

Puissance des 2680 2680 390 1255 1255


quipements informatiques (W) 4070 4070 675 1955 1955

Puissance des ventilateurs (W) 430 430 37 0 0

Puissance du systme 1244 65 45 150 34


de refroidissement (W) 1800 85 45 310 98

1,4 1,02 1,1 1,12 1,03


pPUE
1,4 1,02 1,06 1,16 1,05

1,62 1,18 1,21 1,12 1,03


CEI
1,55 1,13 1,12 1,16 1,05
N.B : Les valeurs sont donnes pour PMIN et PMAX.

Pour finir, il est important de considrer les limites dutilisation des solutions de refroidis-
2 interne Orange
sement prsentes durant la thse. En effet, en prenant en compte les variations climatiques
extrieures, certaines solutions vont voir leurs performances se dgrader. La temprature
deau en entre des systmes de refroidissement ne peut tre infrieure la temprature ex-
trieure sans une production de froid associe. Dans le cas de lchangeur en fond de baie,
la temprature dair en entre de la baie est trs proche de la temprature deau en sortie
dchangeur. Pour des conditions extrmes de tempratures extrieures (par exemple 40C),
il est ncessaire de refroidir leau en entre dchangeur afin davoir des tempratures com-
prises entre 20 et 30C pour assurer le bon fonctionnement des quipements.
Pour les autres systmes de refroidissement, cet aspect est moins contraignant car nous
avons des fluides qui sont des tempratures assez leves et avec des coefficients dchange
plus importants. Ce sont gnralement les processeurs qui sont les composants critiques du
fait de leur temprature maximale recommande et de la puissance quils dissipent. Dans
le cas des plaques froides (cf. chapitre 3), la temprature deau pourrait atteindre des va-
leurs de 40-45C (avec des serveurs entirement refroidis par eau, sans flux dair). Et pour
le refroidissement par immersion, le Novec ayant une temprature dbullition basse, nous
pouvons utiliser ces mmes tempratures deau en entre de condenseur. Toutefois, pour
limmersion dans le bain dhuile les rsultats sont nuancer du fait des tempratures de
processeurs rencontres lors des essais.

4.3.2 Etude technico-conomique


Lobjectif de cette tude est de donner une premire estimation des cots dacquisition,
de dploiement et de fonctionnement des diffrents systmes de refroidissement liquide qui
ont t tudis durant la thse. En extrapolant les rsultats sur plusieurs annes, il est ainsi
possible de dterminer quel moment ce type de refroidissement prsente un intrt co-
nomique par rapport au refroidissement air classique (production de froid, free cooling).
Plusieurs hypothses ont t faites, notamment sur les diffrents cots des systmes de re-
froidissement liquide qui ont t dfinis sur la base des cots des devis des prototypes utili-
ss durant la thse, avec des effets dchelles pour une srie en grand nombre dexemplaires.
Lensemble des dtails est donn sur lannexe A.9.

98
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.3. Bilan comparatif des diffrents modes de refroidissement

Pour notre tude, nous prenons le cas dune salle informatique comprenant 100 baies
quipes des serveurs tudis pendant la thse. Les principales hypothses sont listes ci-
dessous :
les puissances consommes par les quipements informatiques, la ventilation et les
systmes de refroidissement proviennent des mesures exprimentales ;
les cots en infrastructure pour le free cooling est suprieur de 25% par rapport
une production de froid car le dimensionnement des installations frigorifiques est le
mme mais le free cooling ncessite dautres installations pour utiliser lair extrieur
(filtres, ventilation, etc...) ;
le cot du dploiement et dinstallation du systme de refroidissement reprsente
50% du cot dacquisition de ce mme systme ;
la consommation lectrique annuelle du systme de refroidissement est calcule
partir des valeurs de pPUE exprimentales ;
les solutions de refroidissement liquide sont couples une production de froid re-
prsentant 10% de la puissance totale des quipements informatiques, afin de prendre
en compte les changes thermiques avec lair ambiant de la salle (cette fraction est
porte 20% pour le refroidissement par plaques froides) ;
le prix du kWh lectrique est fix 0,1 e ;
les cots de linstallation lectrique (onduleurs, groupes de secours, etc...) et de main-
tenance (vidange ou addition de liquides, changement de filtres...) ne sont pas pris en
compte.

La figure 4.19 montre les rsultats du calcul des cots annuels pour chaque solution de
refroidissement en fonction des annes dutilisation. Nous pouvons constater que les cots
dacquisition (qui correspondent lanne 0) sont trs proches pour la plupart des systmes
de refroidissement, seules les solutions de refroidissement par immersion ont un cot plus
lev.
Par rapport un refroidissement avec production de froid ou par free cooling, nous ob-
servons que le retour sur investissement se fait ds la premire anne pour les solutions de
refroidissement avec des changeurs en fond de baie, par immersion diphasique ou par des
plaques froides. Le refroidissement par immersion dans un bain dhuile permet davoir un
retour sur investissement au bout de 2 ans par rapport une production de froid et de 5 ans
par rapport au free cooling. Dans lensemble, les solutions de refroidissement liquide sont
rapidement rentables par rapport lutilisation dune production de froid ou du free cooling.

99
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide

F IGURE 4.19 Cots annuels estims des diffrents systmes de refroidissement


en fonction des annes de fonctionnement

4.4 Conclusion
Dans ce chapitre, nous avons tudi le refroidissement par immersion des serveurs infor-
matiques dans un bain dhuile pour lequel les changes thermiques par convection naturelle
dominent, et dautre part dans un liquide diphasique.
Le refroidissement des composants est plus efficace dans le second cas, avec une temp-
rature dbullition du fluide qui permet davoir des tempratures de surface des composants
plus stable et proche du point dbullition du fluide. Toutefois, il est important de souligner
que le choix de la temprature de consigne dhuile est crucial pour le bon fonctionnement
des quipements. Il est noter que les quipements initialement plongs dans lhuile pr-
sentent toujours des traces de fluide aprs plusieurs semaines lair libre. La maintenance
des quipements informatiques peut se faire sans teindre le systme de refroidissement
avec des quipements de protection.
Dans le cas du refroidissement diphasique, les mesures de tempratures des compo-
sants, du fluide en phase liquide et vapeur et de pression ont permis de montrer un quilibre
des diffrentes tempratures en rgime stationnaire. Les mesures de puissance lectrique
des quipements informatiques ont t compares aux calculs de la puissance thermique
rcupre par le condenseur. Malgr les problmes dtanchits rencontrs, nous avons
constat que 65% de la puissance dissipe par les serveurs est vacue par le condenseur. Il
est donc ncessaire de bien dimensionner celui-ci. La maintenance des serveurs informa-
tiques devra galement se faire sous des conditions bien dfinies pour minimiser la perte de
fluide lors des interventions.
De plus, nos rsultats indiquent quune partie de la puissance thermique est vacue
travers les parois des contenants utiliss durant nos tudes. Il est probable que ce type de
solution soit employ dans des salles informatiques qui devront tre ventiles afin dvacuer
cette quantit de chaleur ou bien utiliser des contenants qui soient suffisamment isols.
En outre, les solutions de refroidissement par immersion permettent de rduire la consom-
mation nergtique des serveurs par rapport une autre solution de refroidissement du fait

100
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.4. Conclusion

que les ventilateurs des serveurs ne sont plus utiliss.


Pour finir, nous avons rcapitul les rsultats des diffrentes solutions de refroidissement
tudis durant la thse, tant au niveau du refroidissement des quipements informatiques
quau niveau de lefficacit nergtique. Une tude technico-conomique a montr que les
solutions de refroidissement liquide proposent un retour sur investissement trs rapide par
rapport lutilisation dune production de froid ou du free cooling.

101
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Conclusion gnrale

Les objectifs des travaux de thse taient de dfinir des solutions de refroidissement per-
mettant damliorer lefficacit nergtique des data centers. Une approche exprimentale
et numrique a t mise en uvre pour disposer dune base de donnes pertinente pour
comparer diffrentes solutions de refroidissement lchelle de baies informatiques et de
composants lectroniques.

Les tudes bibliographiques prsentes au chapitre 1 ont montr que la densit de puis-
sance consomme par les data centers, lie aux volutions technologiques constantes des
quipements informatiques, va augmenter significativement durant les annes venir. Le
refroidissement actuel des salles informatiques reposent en grande partie sur la climatisa-
tion et la production de froid qui sont trs nergivores. En outre, lutilisation de lair comme
fluide caloporteur va atteindre ses limites. Cest pourquoi le refroidissement liquide offre
une alternative prometteuse, avec des coefficients dchanges thermiques convectifs plus
importants. Une des approches possibles pour rduire les puissances consommes est de
disposer par le systme de refroidissement au plus prs des quipements informatiques.
Dans le chapitre 1, un tat de lart portant sur ce type de solutions de refroidissement a donc
t fait. Nous avons vu que les diverses applications existantes reposent sur diffrents types
dchanges thermiques. La rutilisation de la chaleur issue des quipements informatiques
a galement fait lobjet dune tude bibliographique.

La dmarche exprimentale expose au chapitre 2 a permis de disposer dune base de


donnes pertinente sur le refroidissement dune baie informatique par un flux dair. Lins-
trumentation de serveurs informatiques rels jusquau niveau des composants a permis de
vrifier que leur refroidissement tait bien assur. Les mesures ralises sur le prototype ont
montr lintrt de rcuprer les calories directement sur le flux dair en sortie dune baie par
le biais dun changeur air/eau. De plus, ces rsultats ont t compars des essais de re-
froidissement de la mme baie mais sans changeur air/eau, passant dune valeur de pPUE
de 1,4 1,02.
En parallle ces expriences, des travaux ddis au refroidissement des serveurs lchelle
des composants lectroniques ont abouti ltude de plaques froides avec une circulation
deau interne. Nous avons ainsi montr quil tait possible de rduire le dbit dair au sein
des serveurs. Les rsultats exprimentaux obtenus en termes de refroidissement des com-
posants et de lefficacit nergtique de linstallation sont trs bons. La rduction de la ven-
tilation des serveurs a permis de rduire une partie de la consommation des quipements
informatiques.
Les squences de mesures ont t exploites afin de dvelopper et de valider des mo-
dles numriques simplifis donnant accs aux tempratures dair en sortie de la baie et de
lchangeur et la temprature deau en sortie de lchangeur en fonction des paramtres
opratoires (puissance, dbits dair et deau). Une modlisation numrique dun serveur et
de sa plaque froide a galement t entreprise et valide exprimentalement. Ce modle
pourra tre dupliqu lchelle dune salle informatique pour quantifier limpact de cette

102
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
solution de refroidissement.

Les travaux prsents au chapitre 4 ont permis de faire un tat des lieux sur le refroidis-
sement par immersion.
Une premire tape a consist immerger les serveurs dans une cuve remplie dhuile
minrale, qui est mise en mouvement par un circuit de pompage. Du fait des faibles vi-
tesses mises en jeu, les changes thermiques par convection naturelle sont dominants et
permettent de refroidir efficacement les composants informatiques avec une faible consom-
mation nergtique du systme. Les aspects de maintenance et de la dure de vie de lhuile
et des quipements immergs nont pu tre analyss durant la thse. Nous pouvons donc
mettre certaines rserves sur lefficacit du refroidissement long terme qui devra faire
lobjet dtudes futures. Le refroidissement par immersion dans un liquide diphasique a ga-
lement fait lobjet dune tude exprimentale. Le fluide utilis ayant une temprature dbul-
lition de 49C, des rgimes dbullition en bulles sont apparus au niveau des composants
dissipant le plus de chaleur. La puissance thermique est ensuite cde un condenseur qui
faisait retomber le fluide sous forme de gouttelettes sous leffet de la gravit. Les squences
de mesures ont montr des gains importants sur la consommation du systme de refroi-
dissement. Dimportantes difficults de mise en uvre ont t rencontres durant la thse,
notamment des problmes dtanchit au niveau du contenant et sur lefficacit de refroi-
dissement du condenseur utilis. Il est important de mettre en place des tudes de recherche
et dveloppement plus pousses lavenir afin de progresser sur ce mode de refroidissement
pour obtenir un systme de refroidissement efficace et industrialisable.
Enfin, une tude comparative des diffrentes solutions de refroidissement ainsi quune
tude technico-conomique ont permis de montrer que lvolution vers le refroidissement
liquide est justifie, que ce soit en termes defficacit du refroidissement des quipements,
de la rduction de la consommation nergtique ou en termes de cots industriels.

Cette thse constitue une premire tape pour disposer dune base de donnes expri-
mentales pertinente sur le refroidissement liquide et doutils de simulation numrique pour
anticiper son impact au sein de data centers. Diffrentes perspectives se dgagent pour les
annes venir :
mettre en place ce type de refroidissement lchelle dune salle informatique relle ;
approfondir les tudes de R& D lies au refroidissement par immersion (mise en
uvre, industrialisation,...)
tudier le potentiel de rcupration de lnergie issue des data centers qui utilisent le
refroidissement liquide.

103
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

A.1 Indicateurs defficacit nergtique complmentaires


GEC (Green Energy Coefficient) : il reprsente simplement le pourcentage dnergies
renouvelables utilis pour alimenter un datacenter. Toujours selon [28], la dfinition
des nergies dites "vertes" diffre selon les certifications en vigueur dans les pays
(Union Europenne, Etats-unis, Japon). Il est donc ncessaire de se renseigner sur
le type dnergie renouvelable utiliser dans le calcul du GEC, dont la dfinition est
la suivante :
par l e d at acent er
Ener g i es r enouvel abl es ut i l i s ee
GEC = (A.6)
Ener g i e t ot al e al i ment ant l e d at acent er

Le GEC peut atteindre un maximum de 1, qui indique que le datacenter est entire-
ment aliment via des nergies renouvelables.
ERF (Energy Reuse Factor) : il sagit dun indicateur identifiant la proportion dner-
gie exporte pour une rutilisation quelconque en dehors du datacenter, par exemple
pour chauffer un batiment proche ou alimenter une usine situe proximit. Le cal-
cul de lERF est base sur la formule suivante, avec une valeur comprise entre 0 et
1:
Ener g i e r eut a` l 0 ext er
i l i s ee i eur d u d at acent er
ERF = (A.7)
Ener g i e t ot al e al i ment ant l e d at acent er
CUE (Carbon Usage Effectiveness) : il permet de traduire lempreinte carbone du da-
tacenter. Il sagit dun indicateur recommand car il value la production de gaz ef-
fets de serre par rapport lnergie consomme par les quipements informatiques.
De ce fait, lidal pour le CUE est de tendre vers 0, montrant ainsi quaucune mis-
sion de CO2 na t engendre pour alimenter les quipements informatiques du da-
tacenter. Pour obtenir linventaire complet des missions, le calcul du CUE doit in-
clure lensemble de celles mises par chacune des sources dnergie utilises comme
par exemple llectricit ou les sources dnergie primaire (gaz naturel, diesel, bio-
gaz,etc). Dans le cas o le datacenter est uniquement aliment en lectricit, lqua-
tion recommande pour le calcul du CUE est CUE = CEF PUE, o le PUE est lin-
dicateur introduit prcdemment et le CEF (Carbon dioxide Emission Factor) est le
facteur dmission de CO2 , en kg CO2 eq.kWh 1 du site. Cette valeur est dfinie dans
des tables dont voici un exemple :

104
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.2. Serveur informatique avec dissipateurs thermiques

Indirect Greenhouse Gas Emission Factors - Purchased Electricity

Electricity Grid by eGRID Subregion CEF (kgCO2 eq.MBTU1 )

AKGD (ASCC Alaska Grid) 171.163

AZNM (WECC Southwest) 167.2509

CAMX (WECC California) 90.8653

TABLEAU A.1 Valeurs du CEF en fonction de limplantation des centrales


de production lectrique (Etats-Unis) [28]

Pour les data centers aliments par des sources dnergie diffrentes, la formule ap-
proprie pour le CUE est la suivante :

ssi ons caus ees


Tot al d es emi par l 0 ener
g i e t ot al e d u d at acent er
CUE =

Ener g i e t ot al e d es equi pement s i n f or mat i ques
(A.8)

A.2 Serveur informatique avec dissipateurs thermiques

Contrleur mmoire (Chipset) Disques durs (HDD)

Processeurs (CPU) Mmoire vive (RAM) Contrleur disque (SAS)


F IGURE A.1 Serveur informatique avec dissipateurs thermiques

A.3 Simulations de panne du systme de refroidissement


Refroidissement sans changeur air/eau
Chaque essai est succd de la simulation dune panne du systme de refroidissement.
Dans le cas de la baie refroidie sans changeur, la rgulation en temprature de lenceinte
est interrompue. Le renouvellement de lair est alors uniquement assur par les ventilateurs
des serveurs. Llvation de la temprature de lenceinte est releve et nous stoppons les
simulations de panne lorsque la temprature dair en entre de serveurs dpassent les 39C.

105
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

Nous dfinissons alors le temps critique (t cr i t ) qui dtermine le laps de temps ncessaire
pour viter un arrt des serveurs d aux fortes tempratures. Toutefois il faut rapporter ce
temps au volume dair prsent dans lenceinte.
La figure A.2 montre un exemple de monte en temprature lors dune simulation de
panne. Nous constatons que les tempratures voluent linairement tout au long de la si-
mulation.
Le tableau A.2 donne les diffrentes valeurs de t cr i t en fonction des paramtres opra-
toires utiliss.

60

55
entre
T
50 air
Temprature (C)

sortie
T
air
45 T
CPU
T
Chipset
40 T
SAS
T
RAM
35

30

25
0 5 10 15 20 25 30 35 40
Temps (min)

F IGURE A.2 Simulation de panne du refroidissement sans changeur air/eau


(avec Tent
ai r
r e
=29,8C PMIN )

TABLEAU A.2 Panne du refroidissement sans changeur air/eau : dure critique avant arrt des
serveurs

PMIN PMAX

Tent
ai r
r e
( t=0) (C) 20,4 25,2 29,8 20,0 25,2 29,8

t cr i t (min) 97 65 32 65 38 22

Refroidissement avec changeur air/eau


Dans le cas du refroidissement de la baie avec un changeur air/eau, les simulations de
panne consiste dbrancher lectriquement larotherme extrieur ainsi que la pompe qui
permet la circulation deau au sein de lchangeur. Un exemple est donn sur la figure A.3.
Les mesures obtenues pour chaque essai sont consignes dans le tableau A.3.
Par rapport aux cas o la baie est refroidie sans changeur air/eau, les valeurs de t cr i t
sont plus leves (pour une temprature dair t=0 quivalente).

106
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.3. Simulations de panne du systme de refroidissement

70
entre
T
air

sortie
60 T
B,air

T
Temprature (C)

CPU

50 T
Chipset

T
SAS

T
40 RAM

entre
T
eau

sortie
30 T
eau

sortie
T
E,air

20
5 10 15 20 25 30 35 40
Temps (min)

F IGURE A.3 Simulation de panne du refroidissement avec changeur air/eau


(avec Tent
ai r
r e
=25,2C PMAX )

TABLEAU A.3 Panne du refroidissement avec changeur air/eau : dure critique avant arrt des
serveurs

PMIN PMAX

Tent
ai r
r e
( t=0) (C) 20,1 25,1 30,9 21,7 26,6 32,2

t cr i t (min) 128 90 37 74 34 15

Refroidissement avec plaques froides


Les figures A.4 et A.5 prsentent lvolution des tempratures au cours du temps aprs
avoir arrt la circulation deau lintrieur des plaques froides. Le flux dair lintrieur des
serveurs est conserv.
Nous constatons quil faut plusieurs heures pour atteindre une temprature dair en en-
tre de serveurs de lordre de 39C. Les tempratures maximales recommandes des compo-
sants en contact avec les plots ne sont jamais atteintes durant ce laps de temps.

107
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

80
entre
T
air
70 sortie
T
air
Temprature (C)

60 T
CPU

T
Chipset
50
T
SAS

40 T
RAM

entre
T
30 eau

sortie
T
eau
20

0 1 2 3 4 5 6 7 8
Temps (h)

F IGURE A.4 Simulation de panne du refroidissement avec plaques froides


(avec Tent
ai r
r e
=24,2C PMIN )

90 entre
T
air
80 sortie
T
air
70
Temprature (C)

T
CPU

60 T
Chipset

T
50 SAS

T
RAM
40
entre
T
eau
30
sortie
T
eau
20

0 1 2 3 4 5 6
Temps (h)

F IGURE A.5 Simulation de panne du refroidissement avec plaques froides


(avec Tent
ai r
r e
=23,2C PMAX )

108
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.4. Dtail des matrices des modles numriques de la baie et de lchangeur

A.4 Dtail des matrices des modles numriques de la baie et


de lchangeur
Modle nodal de la baie


aS .Cpa h 100 h 13
m h 13
0 0 0 0
Ca,1 Ca,1




m aS .Cpa aS .Cpa h 200 h 24
m h 24


0 0 0

Ca,2 Ca,2 Ca,2


h 13 h 13
0 0 0 0
Cc,1 Cc,1

A= ,

h 24 h 24


0 0 0 0

Cc,2 Cc,2

aal i m .Cpa

m
0 0 0 0 0

Ca,3




aS .Cpai r
m aal i m .Cpa
m a .Cpa
m

0 0 0
Ca,4 Ca,4 Ca,4


aS .Cpa
m h 100
S 0 0 0
Ta,1

Ca,1 Ca,1


T ent r ee
a
h 200

TS

a,2
0 0 0 0
Ca,2
Taamb



S
1
Tc,1 0 0 0 0

Cc,1

T= ,B= et U =

P
1

TS

c,2
0 0 0 0
Cc,2
P0

al i m a

a .Cp
m 1
T al i m
0 0 0

a
Ca,3 Ca,3


P 00



sor t i e
TB,a 0 0 0 0 0

109
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

Modle nodal de lchangeur


a .Cpa h 89
m h 89
0 0
Ca,5 Ca,5




h 89 e .Cpe h 89
m

0 0
Ce,1 Ce,1
A0 =

,
a .Cpa a .Cpai r h 7,10

m m
0 0
Ca,6 Ca,6




e .Cpe
m e .Cpe h 6,11
m

0 0
Ce,2 Ce,2


moy a .Cpa
m
Ta
0
Ca,5




moy



e .Cpe
m
sor t i e
Te 0 TB,a

Ce,1

0 0 0

T = ,B = et U =


h 7,10

T sor t i e 0 ent r ee
Te

E,a
Ca,6



h 6,11

sor t i e
Te 0
Ce,2

A.5 Dtail des matrices du modle numrique "plaque froide-


serveur"

h 13 h 15
0 0 0
Cc,1 Cc,1



h 24 h 25



0 0 0

Cc,2 Cc,2


h 13 h 35
0 0 0

Ca,1 Ca,1

A= ,


h 24 a .Cpa
m h 45



0 0

Ca,2 Ca,2 Ca,2


h 15 h 25 h 35 h 45 h 56


CPF CPF CPF CPF CPF



h 56



0 0 0 0
Ce

h 13 h 15 h 17 h 24 h 25 h 28 a .Cpa h 13 h 35
m
= ;= ;= ;
Cc,1 Cc,2 Ca,1

110
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.6. Proprits thermiques des fluides dilectriques

a .Cpa h 24 h 45
m h 15 h 25 h 35 h 45 h 56 e .Cpe h 56 h 69
m
= ;= ;=
Ca,2 CPF Ce


P
1
1 h 17

S

Tc,1 0 0 0 0 0

Cc,1 Cc,1


P2


1 h 28

S

Tc,2 0 0 0 0 0
Cc,2 Cc,2


T ent r ee





a .Cpa
m

a
S

Ta,1 0 0 0 0 0 0

Ca,1

T= ,B= et U =

Teent r ee



S


Ta,2
0
0 0 0 0 0 0






TS
b,1

moy


TPFI 0

0 0 0 0 0 0






Tb,2
S
e .Cpe




moy

m h 69


Te 0 0 0 0 0

Ce Ce

moy
TPFE

A.6 Proprits thermiques des fluides dilectriques


Les principales proprits thermiques des fluides dilectriques (Huile minrale PIONIER
2076 P et 3M Novec 649 [110]) utiliss lors des essais de refroidissement par immersion sont
prsents ci-dessous. Elles sont galement compares aux proprits thermiques de leau.

Masse volumique
Pour lhuile minrale, la masse volumique est de = 862kg /m 3 T = 45C.

Eau Novec 649


1700

1600
Masse volumique (kg/m )
3

1500

1400

1300

1200

1100

1000

900
0 20 40 60 80 100
Temprature (C)

F IGURE A.6 Masse volumique en fonction de la temprature

111
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

Chaleur spcifique

Eau Huile Novec 649


4500

4000
Chaleur spcifique (J/kg.K)
3500

3000

2500

2000

1500

1000
0 20 40 60 80 100
Temprature (C)

F IGURE A.7 Chaleur spcifique en fonction de la temprature

Conductivit thermique

Eau Huile Novec 649


0,7
Conductivit thermique (W/m.K)

0,6

0,5

0,4

0,3

0,2

0,1

0
0 20 40 60 80 100
Temprature (C)

F IGURE A.8 Conductivit thermique en fonction de la temprature

112
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.6. Proprits thermiques des fluides dilectriques

Viscosit cinmatique

Eau Huile Novec 649


0,001

Viscosit cinmatqiue (m/s)


0,0001

-5
10

-6
10

-7
10
-100 -50 0 50 100
Temprature (C)

F IGURE A.9 Viscosit cinmatique en fonction de la temprature

113
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes

A.7 Visualisation des bulles lors du refroidissement dipha-


sique

F IGURE A.10 Visualisation des bulles lors du refroidissement diphasique

114
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.8. Tableau comparatif des diffrents modes de refroidissement

F IGURE A.11 Visualisation des bulles lors du refroidissement diphasique (ancienne configuration)

A.8 Tableau comparatif des diffrents modes de refroidisse-


ment
La figure A.12 rcapitule les informations concernant les transferts thermiques qui per-
mettent le refroidissement des composants lectroniques, ainsi que les tempratures mises
en jeu en fonction des diffrents prototypes utiliss (tempratures des fluides, carts de tem-
pratures entre les composants et les fluides).
Il est intressant de noter que les changes thermiques entre la surface des composants
et le fluide caloporteur se font principalement par conduction, travers des dissipateurs ou
des plots mtalliques, et par convection force avec une ventilation dair ou une circulation
deau.
Plusieurs types de liquides ont t employs durant la thse (eau, huile, Novec) avec des
proprits thermiques diffrentes. Les gammes de tempratures dans lesquelles sont em-
ploys ces fluides varient galement, avec des tempratures de plus en plus leves. En effet,
lobjectif final du refroidissement liquide est de refroidir des composants informatiques avec
des fluides ayant une temprature leve, afin de saffranchir du refroidissement des fluides
caloporteurs et de valoriser au mieux lnergie qui leur est cde.
Les dbits dair permettant de refroidir les composants sont galement renseigns. La
suppression des ventilateurs pour le refroidissement des serveurs est galement lun des
buts finaux de lutilisation du refroidissement liquide. En effet, les solutions de refroidis-
sement par plaques froides (dans le cas o tous les composants qui dissipent une puissance
importantes sont en contact avec des plaques) et par immersion montrent quil est possible
de se passer de la ventilation.
Les carts de tempratures entre les surfaces des principaux composants et le(s) fluide(s)
de refroidissement permettent de visualiser lefficacit du refroidissement de chaque essai.
En effet, nous pouvons observer que le refroidissement par plaques froides ou par immer-
sion (diphasique) donnent des carts plus faibles que dans les autres cas.

115
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
116
Annexes

Climatisation Echangeur en Immersion dans Immersion avec


Type de refroidissement Plaques froides
(production de froid) fond de baie un bain dhuile changement de phase
dans lair ambiant de la salle.

Transferts thermiques Conduction Conduction Conduction Convection


Convection
dominants Convection Convection Convection Ebullition/condensation

Fluide(s) mis en jeu Air Air/Eau Air/Eau Huile minrale Novec 649
T du/des fluide(s) (C) 20 30 17 27 (eau) 25 (eau) 30 et 40 49
Dbit dair
40 57 32 48 13 0 0
par serveur (m3/h)
T CPU (C) * 22 20 14 32 10

T Chipset (C) * 28 30 7 19 8

T SAS (C) * 26 32 13 15 8

T RAM (C) * 34 40 52 37 13

*Ecarts maximum de tempratures mesurs entre la surface des composants et le fluide de refroidissement PMAX

F IGURE A.12 Tableau comparatif des diffrents modes de refroidissement


2 interne Orange

Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
dutiliser une climatisation de faible puissance pour rcuprer la puissance thermique cde
dune part la quantit de chaleur rcuprable, et dautre part de vrifier sil est ncessaire
Enfin, le ratio de la puissance rcupre sur le refroidissement liquide permet destimer
Salle informatique Nombre de baies considres 100
Rendement des alimentations 90%
Equipements Baie Chssis blade Serveurs Ventilateurs centrifuges Ventilateurs alimentations Nombre de serveurs par chssis 14
Nombre 100 400 5600 800 4800 Nombre de chssis par baie 4
Puissance/equipement (kW) 15,9 3,98 0,22 0,15 0,0035 Nombre de ventilateurs centrifuges par chssis 2
Puissance totale (kW) 1592 1592 1232 120 16,8 Nombre de ventilateurs alimentations par chssis 12

Dimensionnement

Nombre Prix/unit () Cot infrastructure (k) Cot dploiement (k) Total refroidissement initial (k)
Production de froid (kW) 640 425 272 136 408 Quantit de Novec par serveur (litres) 1,5
10% production de froid (kW) 64 425 27,2 13,6 41
Echangeur fond de baie 300 1000 300 150 450 Ratio "cout dploiement"/"cout achat infrastructure" 50%
Plaques froides 5600 50 280 140 420
Immersion huile 100 6500 650 325 975
Fluide Novec (litres) 8400 60 504 252 756

Cot de l'lectricit par solution de refroidissement Nombre d'heures par anne 8766
IT COOLING IT+COOLING Cot d'un kWh (/kWh) 0,1
Conso. lectrique/an (kWh) Conso. lectrique/an (kWh) Conso. lectrique/an (kWh) Conso. ventilateurs plaques froides/serveur (W) 13
Production de froid 1,40E+07 5,58E+06 1,95E+07 pPUE
Free cooling 1,40E+07 2,79E+06 1,67E+07 Production de froid 1,4
Echangeur fond de baie + 10% production de froid 1,40E+07 8,37E+05 1,48E+07 Free cooling 1,2
Plaques froides + 20% production de froid 1,32E+07 3,10E+06 1,63E+07 Echangeur fond de baie 1,02
Immersion huile + 10% production de froid 1,28E+07 1,83E+06 1,46E+07 Plaques froides 1,15
Immersion Novec + 10% production de froid 1,28E+07 1,83E+06 1,46E+07 Immersion huile 1,1
Immersion Novec 1,1

F IGURE A.13 Dtail des donnes utilises pour le calcul du retour sur investissement
A.9 Donnes pour le calcul du retour sur investissement

Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.9. Donnes pour le calcul du retour sur investissement

117
Rfrences

[1] W. Van Heddeghem, S. Lambert, B. Lannoo, D. Colle, M. Pickavet, and P. Demeester,


Trends in worldwide ICT electricity consumption from 2007 to 2012, Computer Com-
munications, vol. 50, pp. 6476, Sept. 2014. 1, 7, 88
[2] M. Uddin, Y. Darabidarabkhani, A. Shah, and J. Memon, Evaluating power efficient
algorithms for efficiency and carbon emissions in cloud data centers : A review, Rene-
wable and Sustainable Energy Reviews, vol. 51, pp. 15531563, Nov. 2015. 1, 10
[3] ASHRAE, Thermal guidelines for data processing environments - expanded data cen-
ter classes and usage guidance, vol. 9.9, 2011. 1, 6
[4] High density scalable water cooled large data center.
www.apc.com/solutions/us/en/solution/high-density-scalable-water-cooled-large-
data-center. Consult le 14/08/2015. 4
[5] A. Greenberg, J. Hamilton, D. A. Maltz, and P. Patel, The Cost of a Cloud : Research Pro-
blems in Data Center Networks, SIGCOMM Comput. Commun. Rev., vol. 39, pp. 68
73, Dec. 2008. 4
[6] J. Spitaels, Dynamic power variations in data centers and network rooms, American
Power Conversion White Paper, 2005. 5
[7] S. Shrivastava, M. Iyengar, B. Sammakia, R. Schmidt, and J. VanGilder, Experimental-
Numerical Comparison for a High-Density Data Center : Hot Spot Heat Fluxes in
Excess of 500 W/ft, IEEE Transactions on Components and Packaging Technologies,
vol. 32, pp. 166172, Mar. 2009. 5
[8] A. H. Beitelmal and C. D. Patel, Thermo-Fluids Provisioning of a High Performance
High Density Data Center, Distributed and Parallel Databases, vol. 21, pp. 227238,
Apr. 2006. 5
[9] temperature@lert Environmental Monitoring - Blog - Latest News in the Indus-
try. www.temperaturealert.com/blog.aspx-CntTagID=38963b6a-06a4-410a-beb8-
e08b9bf08bfe. Consult le 14/08/2015. 5
[10] B. Fakhim, M. Behnia, S. Armfield, and N. Srinarayana, Cooling solutions in an opera-
tional data centre : A case study, Applied Thermal Engineering, vol. 31, pp. 22792291,
Oct. 2011. 5
[11] S.-W. Ham and J.-W. Jeong, Impact of aisle containment on energy performance of a
data center when using an integrated water-side economizer, Applied Thermal Engi-
neering, June 2015. 5
[12] J. Niemann, K. Brown, and V. Avelar, Impact of hot and cold aisle containment on
data center temperature and efficiency, Schneider Electric Data Center Science Center,
White Paper, vol. 135, pp. 114, 2011. 6
[13] E. T. S. Institute, ETSI EN 300 019-1-3 V2.3.2, 2009. 6
[14] D. Nortershauser, J. Gautier, and S. Le Masson, A step towards green datacenters :
Enlarging climatic ranges-studying the effects of the building, in Telecommunications

118
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

Energy Conference, 2008. INTELEC 2008. IEEE 30th International, pp. 15, Sept. 2008.
6, 15
[15] M. Patterson, The effect of data center temperature on energy efficiency, in 11th
Intersociety Conference on Thermal and Thermomechanical Phenomena in Electronic
Systems, 2008. ITHERM 2008, pp. 11671174, May 2008. 6
[16] D. Moss, Energy Impact of Increased Server Inlet Temperature, APC" White Paper,
vol. 138, 2009. 6
[17] S. V. Garimella, L.-T. Yeh, and T. Persoons, Thermal Management Challenges in Te-
lecommunication Systems and Data Centers, IEEE Transactions on Components, Pa-
ckaging and Manufacturing Technology, vol. 2, pp. 13071316, Aug. 2012. 7, 8
[18] J. G. Koomey, Worldwide electricity used in data centers, Environmental Research
Letters, vol. 3, p. 034008, July 2008. 7
[19] M. Webb, Smart 2020 : Enabling the low carbon economy in the information age, The
Climate Group. London, 2008. 8
[20] E. Jaureguialzo, PUE : The Green Grid metric for evaluating the energy efficiency in
DC (Data Center). Measurement method using the power demand, in Telecommuni-
cations Energy Conference (INTELEC), 2011 IEEE 33rd International, pp. 18, Oct. 2011.
8
[21] A. H. Beitelmal and D. Fabris, Servers and data centers energy performance metrics,
Energy and Buildings, vol. 80, pp. 562569, Sept. 2014. 8
[22] G. A. Brady, N. Kapur, J. L. Summers, and H. M. Thompson, A case study and critical
assessment in calculating power usage effectiveness for a data centre, Energy Conver-
sion and Management, vol. 76, pp. 155161, Dec. 2013. 8
[23] J. Yuventi and R. Mehdizadeh, A critical analysis of Power Usage Effectiveness and
its use in communicating data center energy consumption, Energy and Buildings,
vol. 64, pp. 9094, Sept. 2013. 8
[24] R. Arno, A. Friedl, P. Gross, and R. Schuerger, Reliability of Data Centers by Tier Clas-
sification, IEEE Transactions on Industry Applications, vol. 48, pp. 777783, Mar. 2012.
8
[25] J. Cho, T. Lim, and B. S. Kim, Viability of datacenter cooling systems for energy effi-
ciency in temperate or subtropical regions : Case study, Energy and Buildings, vol. 55,
pp. 189197, Dec. 2012. 9
[26] V. Avelar, Mthode de calcul de lefficacit nergtique (PUE) dans les data centers,
American Power Conversion by Schneider Electric, White Paper, vol. 158, 2010. 9
[27] ETSI GS OEU 001 V2.1.1, Dec. 2014. 9
[28] Harmonizing Global Metrics for Data Center Energy Efficiency, Oct. 2012.
www.thegreengrid.org/. Consult le 24/04/2013. 9, 104, 105
[29] Emerson Network Power, Energy logic : Reducing data center energy consumption by
creating savings that cascade across systems, White paper, Emerson Electric Co, 2009.
9
[30] Y. Kodama, S. Itoh, T. Shimizu, S. Sekiguchi, H. Nakamura, and N. Mori, Imbalance of
CPU temperatures in a blade system and its impact for power consumption of fans,
Cluster Computing, vol. 16, pp. 2737, Mar. 2013. 10
[31] E. Blem, J. Menon, and K. Sankaralingam, Power struggles : Revisiting the RISC vs.
CISC debate on contemporary ARM and x86 architectures, in 2013 IEEE 19th Interna-
tional Symposium on High Performance Computer Architecture (HPCA2013), pp. 112,
Feb. 2013. 10

119
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[32] Z. Ou, B. Pang, Y. Deng, J. Nurminen, A. Yl-Jski, and P. Hui, Energy- and Cost-
Efficiency Analysis of ARM-Based Clusters, in 2012 12th IEEE/ACM International Sym-
posium on Cluster, Cloud and Grid Computing (CCGrid), pp. 115123, May 2012. 10
[33] S. Rizvi and T.-S. Chung, Flash SSD vs HDD : High performance oriented modern
embedded and multimedia storage systems, in 2010 2nd International Conference on
Computer Engineering and Technology (ICCET), vol. 7, pp. V7297V7299, Apr. 2010.
10
[34] S.-K. Cheong, Y.-W. Jeong, J.-J. Jeong, and S.-H. Yang, DDR-SSD and HDD storage sys-
tem performance evaluation in unified storage system for cloud computing, in 2012
Fourth International Conference on Ubiquitous and Future Networks (ICUFN), pp. 394
397, July 2012. 10
[35] S.-K. Cheong, C. Lim, and B.-C. Cho, Database processing performance and energy
efficiency evaluation of DDR-SSD and HDD storage system based on the TPC-C, in
2012 International Conference on Cloud Computing and Social Networking (ICCCSN),
pp. 13, Apr. 2012. 10
[36] Y. Kim, A. Gupta, B. Urgaonkar, P. Berman, and A. Sivasubramaniam, HybridStore :
A Cost-Efficient, High-Performance Storage System Combining SSDs and HDDs, in
2011 IEEE 19th International Symposium on Modeling, Analysis Simulation of Compu-
ter and Telecommunication Systems (MASCOTS), pp. 227236, 2011. 11
[37] F. Kamoun, Virtualizing the Datacenter Without Compromising Server Performance,
Ubiquity, vol. 2009, Aug. 2009. 11
[38] Y. Jin, Y. Wen, and Q. Chen, Energy efficiency and server virtualization in data centers :
An empirical investigation, in 2012 IEEE Conference on Computer Communications
Workshops (INFOCOM WKSHPS), pp. 133138, Mar. 2012. 11
[39] Y. Gao, H. Guan, Z. Qi, B. Wang, and L. Liu, Quality of service aware power manage-
ment for virtualized data centers, Journal of Systems Architecture, vol. 59, pp. 245259,
Apr. 2013. 11
[40] G. I. Meijer, Cooling Energy-Hungry Data Centers, Science, vol. 328, pp. 318319, Apr.
2010. 11
[41] K. Kant, Data center evolution : A tutorial on state of the art, issues, and challenges,
Computer Networks, vol. 53, pp. 29392965, Dec. 2009. 11
[42] M. Duminil and J.-P. Domblides, Thorie des machines frigorifiques - Machine
compression mcanique. Cycles monotags | Techniques de lIngnieur BE9731,
Apr. 2012. 11, 12
[43] K.-P. Lee and H.-L. Chen, Analysis of energy saving potential of air-side free cooling for
data centers in worldwide climate zones, Energy and Buildings, vol. 64, pp. 103112,
Sept. 2013. 12
[44] T. Lu, X. L, M. Remes, and M. Viljanen, Investigation of air management and energy
performance in a data center in Finland : Case study, Energy and Buildings, vol. 43,
pp. 33603372, Dec. 2011. 12
[45] E. Or, V. Depoorter, N. Pflugradt, and J. Salom, Overview of direct air free cooling
and thermal energy storage potential energy savings in data centres, Applied Thermal
Engineering, vol. 85, pp. 100110, June 2015. 12
[46] J. Kim, M. Ruggiero, and D. Atienza, Free cooling-aware dynamic power management
for green datacenters, in 2012 International Conference on High Performance Compu-
ting and Simulation (HPCS), pp. 140 146, July 2012. 13

120
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[47] Y. Udagawa, S. Waragai, M. Yanagi, and W. Fukumitsu, Study on free cooling systems
for data centers in Japan, in Telecommunications Energy Conference (INTELEC), 32nd
International, pp. 1 5, June 2010. 13
[48] D. Christy Sujatha and S. Abimannan, Energy Efficient Free Cooling System for Data
Centers, in 2011 IEEE Third International Conference on Cloud Computing Technology
and Science (CloudCom), pp. 646651, Nov. 2011. 13
[49] S. Le Masson, J. Gautier, and D. Nortershauser, Simplified Air-conditioning for tele-
communication switches, in Telecommunications Energy Conference, 2006. INTELEC
06. 28th Annual International, pp. 15, 2006. 13
[50] A. Qouneh, C. Li, and T. Li, A quantitative analysis of cooling power in container-based
data centers, in 2011 IEEE International Symposium on Workload Characterization
(IISWC), pp. 6171, Nov. 2011. 14
[51] J.-J. Hu, H.-C. Li, and H.-M. Tai, Thermal distribution monitoring of the container
data center by a fast infrared image fusion technique, Computers & Mathematics with
Applications, vol. 64, pp. 14841494, Sept. 2012. 14
[52] H. Endo, H. Kodama, H. Fukuda, T. Sugimoto, T. Horie, and M. Kondo, Effect of cli-
matic conditions on energy consumption in direct fresh-air container data centers,
Sustainable Computing : Informatics and Systems, vol. 6, pp. 1725, June 2015. 14
[53] S. Le Masson, D. Nortershauser, B. Deddy, and P. Glouannec, Thermal model for data
centre cooling, in Telecommunications Energy Conference (INTELEC), 2011 IEEE 33rd
International, pp. 16, 2011. 14
[54] D. Nortershauser, S. Le Masson, and J. Gautier, Exothermal Building, Apr. 2011. 15
[55] J. Taine, J.-P. Petit, and R. Smria, Transferts thermiques : mcanique des fluides ani-
sothermes : cours et donnes de base. Dunod Paris, 1995. 16, 58, 82, 83
[56] ASHRAE, Design considerations for datacom equipment centers, American Society
of Heating, Refrigerating and Air-conditioning Engineers, Inc, 2005. 16
[57] A. Degiovanni, Transmission de lnergie thermique conduction, Techniques de lin-
gnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. article :
be8200, 2015. fre. 17
[58] J. Padet, Convection thermique et massique principes gnraux, Techniques de lin-
gnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. article :
be8205, 2015. fre. 18, 88
[59] J. Crabol, Transfert de chaleur. Masson, 1989. 18
[60] changeurs de chaleur - Description | Techniques de lIngnieur BE9516, Jan. 2014.
19
[61] R. Schmidt, R. C. Chu, M. Ellsworth, M. Iyengar, D. Porter, V. Kamath, and B. Lehman,
Maintaining Datacom Rack Inlet Air Temperatures With Water Cooled Heat Exchan-
ger, pp. 663673, Jan. 2005. 20
[62] R. Udakeri, V. Mulay, and D. Agonafer, Comparison of Overhead Supply and Un-
derfloor Supply with Rear Heat Exchanger in High Density Data Center Clusters, in
Twenty-fourth Annual IEEE Semiconductor Thermal Measurement and Management
Symposium, 2008. Semi-Therm 2008, pp. 165172, Mar. 2008. 20
[63] M. Ellsworth, L. Campbell, R. Simons, and R. Iyengar, The evolution of water co-
oling for IBM large server systems : Back to the future, in 11th Intersociety Conference
on Thermal and Thermomechanical Phenomena in Electronic Systems, 2008. ITHERM
2008, pp. 266274, May 2008. 20

121
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[64] M. Iyengar, M. David, P. Parida, V. Kamath, B. Kochuparambil, D. Graybill, M. Schultz,


M. Gaynes, R. Simons, R. Schmidt, and T. Chainer, Server liquid cooling with chiller-
less data center design to enable significant energy savings, in 2012 28th Annual IEEE
Semiconductor Thermal Measurement and Management Symposium (SEMI-THERM),
pp. 212223, Mar. 2012. 20, 21
[65] G. Goth, A. Arvelo, J. Eagle, M. Ellsworth, K. Marston, A. Sinha, and J. Zitz, Thermal
and mechanical analysis and design of the IBM Power 775 water cooled supercompu-
ting central electronics complex, in 2012 13th IEEE Intersociety Conference on Ther-
mal and Thermomechanical Phenomena in Electronic Systems (ITherm), pp. 700709,
May 2012. 20, 21
[66] S. Zimmermann, I. Meijer, M. K. Tiwari, S. Paredes, B. Michel, and D. Poulikakos,
Aquasar : A hot water cooled data center with direct energy reuse, Energy, vol. 43,
pp. 237245, July 2012. 21, 27
[67] Green Revolution Cooling. www.grcooling.com. Consult le 27/03/2014. 21
[68] R. Eiland, J. Fernandes, M. Vallejo, D. Agonafer, and V. Mulay, Flow Rate and inlet tem-
perature considerations for direct immersion of a single server in mineral oil, in 2014
IEEE Intersociety Conference on Thermal and Thermomechanical Phenomena in Elec-
tronic Systems (ITherm), pp. 706714, May 2014. 21, 81
[69] A. M. Haywood, J. Sherbeck, P. Phelan, G. Varsamopoulos, and S. K. S. Gupta, The
relationship among CPU utilization, temperature, and thermal power for waste heat
utilization, Energy Conversion and Management, vol. 95, pp. 297303, May 2015. 21,
22, 81
[70] Systmes diphasiques de contrle thermique - Thermosiphons et caloducs | Tech-
niques de lIngnieur BE9545, Oct. 2010. 23
[71] G. Xu, Evaluation of a Liquid Cooling Concept for High Power Processors, in Twenty
Third Annual IEEE Semiconductor Thermal Measurement and Management Sympo-
sium, 2007. SEMI-THERM 2007, pp. 190195, Mar. 2007. 23
[72] M. H. A. Elnaggar, M. Z. Abdullah, and M. Abdul Mujeebu, Characterization of wor-
king fluid in vertically mounted finned U-shape twin heat pipe for electronic cooling,
Energy Conversion and Management, vol. 62, pp. 3139, Oct. 2012. 23, 24
[73] J.-C. Wang, L-type heat pipes application in electronic cooling system, International
Journal of Thermal Sciences, vol. 50, pp. 97105, Jan. 2011. 23, 24
[74] Z. Wang, X. Zhang, Z. Li, and M. Luo, Analysis on energy efficiency of an integrated
heat pipe system in data centers, Applied Thermal Engineering, vol. 90, pp. 937944,
Nov. 2015. 24
[75] Systmes diphasiques de contrle thermique - Boucles capillaires et gravitaires |
Techniques de lIngnieur BE9546, Jan. 2011. 24, 25
[76] B. Mecheri, Refroidissement dune armoire de Tlcommunication avec Bouche Dipha-
sique Thermosyphon. Mmoire de doctorat, Universit de Technologie de Belfort-
Montbeliard, Feb. 2011. 25
[77] A. Samba, H. Louahlia-Gualous, S. Le Masson, and D. Nrterhuser, Two-phase ther-
mosyphon loop for cooling outdoor telecommunication equipments, Applied Ther-
mal Engineering, vol. 50, pp. 13511360, Jan. 2013. 25
[78] H. Tian, Z. He, and Z. Li, A combined cooling solution for high heat density data cen-
ters using multi-stage heat pipe loops, Energy and Buildings, vol. 94, pp. 177188, May
2015. 25

122
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[79] M. A. Chernysheva, S. I. Yushakova, and Y. F. Maydanik, Copper-water loop heat pipes


for energy-efficient cooling systems of supercomputers, Energy, vol. 69, pp. 534542,
May 2014. 25, 26
[80] R. J. McGlen, R. Jachuck, and S. Lin, Integrated thermal management techniques for
high power electronic devices, Applied Thermal Engineering, vol. 24, pp. 11431156,
June 2004. 26
[81] J.-P. Petit, Dissipation thermique dans les systmes lectroniques | Techniques de lIn-
gnieur E3952, Feb. 2001. 26
[82] C. Barnes and P. Tuma, Practical considerations relating to immersion cooling of po-
wer electronics in traction systems, in IEEE Vehicle Power and Propulsion Conference,
2009. VPPC 09, pp. 614621, Sept. 2009. 27
[83] P. Tuma, The merits of open bath immersion cooling of datacom equipment, in
26th Annual IEEE Semiconductor Thermal Measurement and Management Sympo-
sium, 2010. SEMI-THERM 2010, pp. 123131, Feb. 2010. 27
[84] J. Gess, S. Bhavnani, B. Ramakrishnan, R. Johnson, D. Harris, R. Knight, M. Hamilton,
and C. Ellis, Impact of surface enhancements upon boiling heat transfer in a liquid
immersion cooled high performance small form factor server model, in 2014 IEEE
Intersociety Conference on Thermal and Thermomechanical Phenomena in Electronic
Systems (ITherm), pp. 435443, May 2014. 27
[85] P. Hopton and J. Summers, Enclosed liquid natural convection as a means of transfer-
ring heat from microelectronics to cold plates, in 2013 29th Annual IEEE Semiconduc-
tor Thermal Measurement and Management Symposium (SEMI-THERM), pp. 6064,
Mar. 2013. 27
[86] Y. Q. Chi, J. Summers, P. Hopton, K. Deakin, A. Real, N. Kapur, and H. Thompson, Case
study of a data centre using enclosed, immersed, direct liquid-cooled servers, in
Semiconductor Thermal Measurement and Management Symposium (SEMI-THERM),
2014 30th Annual, pp. 164173, Mar. 2014. 27
[87] P. Warrier, A. Sathyanarayana, D. V. Patil, S. France, Y. Joshi, and A. S. Teja, Novel heat
transfer fluids for direct immersion phase change cooling of electronic systems, In-
ternational Journal of Heat and Mass Transfer, vol. 55, pp. 33793385, June 2012. 27
[88] K. Ebrahimi, G. F. Jones, and A. S. Fleischer, A review of data center cooling technology,
operating conditions and the corresponding low-grade waste heat recovery opportu-
nities, Renewable and Sustainable Energy Reviews, vol. 31, pp. 622638, Mar. 2014. 27,
28
[89] S. Zimmermann, M. K. Tiwari, I. Meijer, S. Paredes, B. Michel, and D. Poulikakos, Hot
water cooled electronics : Exergy analysis and waste heat reuse feasibility, Internatio-
nal Journal of Heat and Mass Transfer, vol. 55, pp. 63916399, Nov. 2012. 28
[90] T. Brunschwiler, B. Smith, E. Ruetsche, and B. Michel, Toward zero-emission data
centers through direct reuse of thermal energy, IBM Journal of Research and Deve-
lopment, vol. 53, pp. 11 :111 :13, May 2009. 28
[91] J. Zachary Woodruff, P. Brenner, A. P. C. Buccellato, and D. B. Go, Environmentally
opportunistic computing : A distributed waste heat reutilization approach to energy-
efficient buildings and data centers, Energy and Buildings, vol. 69, pp. 4150, Feb.
2014. 28
[92] J.-M. Rodriguez, Rackmount rear door heat exchanger, Feb. 2014. U.S. Classifi-
cation 165/80.2, 165/101, 361/679.49, 165/100, 361/724 ; International Classification
G06F1/20, F28F27/02, H05K5/00, F28F7/00 ; Cooperative Classification H05K7/20609,
H05K7/20754, H05K7/20781. 30

123
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[93] D. J. Delia and W. M. Delia, Implementing a front door air to water heat exchan-
ger, Oct. 2013. U.S. Classification 165/11.1, 165/104.33 ; International Classification
F28D15/00, B60H1/00 ; Cooperative Classification H05K7/20781, G05D23/1931. 30
[94] A. Claassen, E. A. Eckberg, D. J. Hansen, V. Kamath, M. K. Iyengar, H. V. M.
Jr, M. S. Miller, and S. P. Mroz, Rack with integrated rear-door heat ex-
changer, Feb. 2010. U.S. Classification 361/696, 361/695, 454/184, 165/80.4 ;
International Classification H05K7/20 ; Cooperative Classification H05K7/2079,
G06F2200/201, H05K7/20736, G06F1/20, Y10T29/49826 ; European Classification
G06F1/20, H05K7/20S20D, H05K7/20S10C. 30
[95] D. Azevedo, J. Cooley, M. Patterson, and M. Blackburn, Data Center Efficiency Me-
trics : mPUE, Partial PUE, ERE, DCcE, tech. rep., GreenGrid, Tech. Rep, 2011. 44
[96] S.-W. Ham, M.-H. Kim, B.-N. Choi, and J.-W. Jeong, Simplified server model to simu-
late data center cooling energy consumption, Energy and Buildings, vol. 86, pp. 328
339, Jan. 2015. 45
[97] T. Gao, M. David, J. Geer, R. Schmidt, and B. Sammakia, Experimental and numerical
dynamic investigation of an energy efficient liquid cooled chiller-less data center test
facility, Energy and Buildings, vol. 91, pp. 8396, Mar. 2015. 45
[98] T. Gao, B. Murray, and B. Sammakia, Analysis of transient and hysteresis behavior of
cross-flow heat exchangers under variable fluid mass flow rate for data center cooling
applications, Applied Thermal Engineering, vol. 84, pp. 1526, June 2015. 45
[99] W. Tang, Q. Wu, and Z. Richardson, Equivalent heat circuit based power transformer
thermal model, Electric Power Applications, IEE Proceedings, vol. 149, pp. 8792, Mar.
2002. 45
[100] W. F. Ames, Numerical Methods for Partial Differential Equations. Academic Press, June
2014. 47
[101] J. V. Beck and K. J. Arnold, Parameter Estimation in Engineering and Science. James
Beck, 1977. 48
[102] R. H. Byrd, J. C. Gilbert, and J. Nocedal, A trust region method based on interior
point techniques for nonlinear programming, Mathematical Programming, vol. 89,
pp. 149185, Nov. 2000. 48
[103] S. B. Branton, Liquid cooling system for a server, June 2014. U.S. Classi-
fication 361/679.53, 361/697, 361/696, 165/80.4, 361/699, 361/698 ; International
Classification H05K7/20 ; Cooperative Classification H05K7/20781, H05K7/20754,
H05K7/20763. 58
[104] G. Upadhya, M. Munch, N. Chow, P. Tsao, D. E. Werner, M. McMaster, F. Lan-
dry, I. Spearing, and T. Schrader, Liquid cooling loops for server applications,
Oct. 2009. U.S. Classification 361/699, 361/704, 174/15.1, 361/695, 165/104.33,
165/80.4, 361/727 ; International Classification H05K7/20 ; Cooperative Classification
H05K7/20727, H05K7/20781, H05K7/20772, H01L2924/0002 ; European Classification
H05K7/20S20C, H05K7/20S10B, H05K7/20S20B. 58
[105] R. Chu, M. Ellsworth, R. Schmidt, and R. Simons, Composite cold plate assembly,
June 2005. U.S. Classification 361/699, 361/689, 257/E23.098 ; International Classifi-
cation H05K7/20, H01L23/473 ; Cooperative Classification H01L23/473, H01L2224/16,
H01L2224/73253 ; European Classification H01L23/473. 58
[106] S. Mahajan, D. Robalino, and V. Sivan, Thermal Modeling of an Inverted-Type
Oil-Immersed Current Transformer, IEEE Transactions on Power Delivery, vol. 25,
pp. 25112518, Oct. 2010. 81

124
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences

[107] N. Shiro, Memories of my research on boiling, International Journal of Heat and Mass
Transfer, vol. 27, pp. 955957, July 1984. 88
[108] M. S. El-Genk, Immersion cooling nucleate boiling of high power computer chips,
Energy Conversion and Management, vol. 53, pp. 205218, Jan. 2012. 88
[109] M. Lallemand, Transferts en changement de phase bullition libre, Techniques de
lingnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. ar-
ticle : be8235, 2015. fre. 88
[110] 3M Novec 649 Engineered Fluid, 2009. multimedia.3m.com/mws/media/569865O/3mtm-
novectm-649-engineered-fluid.pdf. Consult le 01/01/2016. 111

125
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015