Top Banner
Irányelvek az adatközpontok energiasűrűségének specifikálásához Verzió 1 Írta: Neil Rasmussen Bevezetés 2 A sűrűség megadásának különböző módszerei 3 Telepítési stratégia 9 A modell 14 Végkövetkeztetés 20 Források 21 Függelék 22 kattintson arra a részre, amelyre ugrani szeretne Tartalom 120. tanulmány Az adatközpontok sűrűségének meghatározására hagyományosan használt módszerek félre-érthetők és félrevezetők. Az adatközpontok sűrűségét csupán W/m2 értékkel nem lehet kielégí-tően jellemezni, a nagy teljesítménysűrűségű informatikai fogyasztók, például blade szerverek energiaellátási és hűtési követelményeit csupán ezek alapján nem lehet kielégíteni. Hagyomá-nyosan nincs egyértelmű, szabványos módszer az adatközpontok specifikációinak meghatá-rozására, amivel biztosítani lehetne a nagysűrűségű fogyasztók kiszámítható működését. Az adatközpontok sűrűségének megfelelő specifikálásával garantálni lehet a várhatóan telepítés- re kerülő, nagysűrűségű fogyasztók kiszolgálását, egyértelmű utasításokat lehet megfogal-mazni az energiaellátó és hűtőrendszerek tervezését és telepítését illetően, meg lehet előzni a túlméretezést, illetve az elektromos rendszerben maximális hatékonyságot lehet elérni. Jelen tanulmány egy továbbfejlesztett, az adatközpontok energiaellátásának és hűtésének specifiká-lására alkalmas módszer elméleti hátterét és gyakorlati alkalmazását ismerteti. Vezetői összefoglaló > by Schneider Electric a tanulmányok megtalálhatók a Schneider Electric tanulmány-könyvtárban készítette a Schneider Electric Data Center Science Center [email protected]
22

Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A...

Feb 11, 2018

Download

Documents

phamcong
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energiasűrűségének specifikálásához

Verzió 1

Írta: Neil Rasmussen

Bevezetés 2

A sűrűség megadásának különböző módszerei

3

Telepítési stratégia 9

A modell 14

Végkövetkeztetés 20

Források 21

Függelék 22

kattintson arra a részre, amelyre ugrani szeretne Tartalom

120. tanulmány

Az adatközpontok sűrűségének meghatározására hagyományosan használt módszerek félre-érthetők és félrevezetők. Az adatközpontok sűrűségét csupán W/m2 értékkel nem lehet kielégí-tően jellemezni, a nagy teljesítménysűrűségű informatikai fogyasztók, például blade szerverek energiaellátási és hűtési követelményeit csupán ezek alapján nem lehet kielégíteni. Hagyomá-nyosan nincs egyértelmű, szabványos módszer az adatközpontok specifikációinak meghatá-rozására, amivel biztosítani lehetne a nagysűrűségű fogyasztók kiszámítható működését. Az adatközpontok sűrűségének megfelelő specifikálásával garantálni lehet a várhatóan telepítés-re kerülő, nagysűrűségű fogyasztók kiszolgálását, egyértelmű utasításokat lehet megfogal-mazni az energiaellátó és hűtőrendszerek tervezését és telepítését illetően, meg lehet előzni a túlméretezést, illetve az elektromos rendszerben maximális hatékonyságot lehet elérni. Jelen tanulmány egy továbbfejlesztett, az adatközpontok energiaellátásának és hűtésének specifiká-lására alkalmas módszer elméleti hátterét és gyakorlati alkalmazását ismerteti.

Vezetői összefoglaló>

by Schneider Electric a tanulmányok megtalálhatók a Schneider Electric tanulmány-könyvtárban készítette a Schneider Electric Data Center Science Center [email protected]

Page 2: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 2

Az adatközpontok és kiszolgálószobák üzemi energiasűrűségének meghatározása egyre komolyabb kihívást jelent az IT szakemberek számára. Ha az adatközpontokat a hagyományos 430 – 861 W/m2 sűrűségre tervezzük, akkor a legújabb generációs IT berendezések megbízható üzemeltetése nem nyílik lehetőség. Ha az adatközpontokat a legújabb, nagysűrűségű IT berendezések igényeit szem előtt tartva 6458 – 10 764 W/m2 üzemi sűrűségre tervezzük, akkor az energiaellátó és hűtőrendszerek technológia határait feszegetjük, ami elfogadhatatlan beruházási költségekhez és az elektromos ellátó rendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja, hogy olyan adatközpontokat kell tervezni, amelyek az IT berendezések frissítésének több ciklusán keresztül is képesek üzemelni, miközben a jövőbeli IT berendezések jellege ismeretlen. A megszokott, az adatközpontok sűrűségét W/m2 értékkel megadó módszer rendkívül kevés útmutatást nyújt az adatközpontok üzemeltetői előtt felbukkanó kritikus kérdések megválaszolásához. Az energiasűrűség megadásánál megszokott módszer például nem ad választ a következő alapvető kérdésre: „Mi történik, ha telepítünk egy, a sűrűségi specifikációt meghaladó rackszekrényt?” Márpedig ez egy rendkívül gyakorlatias kérdés, hiszen egy átlagos adatközpont névleges teljesítménye 1,5 kW/rack, míg ma egy a tipikus IT berende-zéseknél 3–20 kW/rack sűrűséggel kell számolni. Az adatközpontok energiasűrűségének meghatározásához tehát szükség van egy új, sokkal teljesebb módszerre. A továbbfejlesztett módszernek a következő igényeket kell kielégítenie:

• A nagysűrűségű IT berendezésekkel való kompatibilitás biztosítása

• A villamos energia, a hely és a pénz pazarlásának elkerülése

• Eszköz biztosítása az IT telepítési tervek és a tervezett hűtő- és áramellátó kapacitás összhangba ho-zatalára

Tanulmányunk az energiasűrűség megadásának egy továbbfejlesztett módszerét tárgyalja. A nagysűrűsé-gű alkalmazások számára megfelelő adatközpontok energiaellátása, hűtése, szekrényekkel való berende-zése és felügyelete több más APC tanulmánynak is témája, egyik ezek közül a 46., Nagysűrűségű rackszekrények és blade szerverek tápellátása és hűtése című.

Bevezetés

Nagysűrűségű rackszekrények és blade szerverek tápellátása és hűtése

Források 46. tanulmány

Page 3: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 3

Az energiasűrűség definíciója nem egységes a szakirodalomban, ami komoly félreértésekhez vezetett a felhasználók körében. Ha jobban meg akarjuk érteni ezeket a definíciókat, vegyünk példaként egy elkép-zelt, 500 kW-os adatközpontot:

500 kW-os adatközpont jellemzői Angol Metrikus

Az IT berendezések összfogyasztása 500 000 watt

Az IT berendezések által összesen igényelt hely 2800 ft2 260 m2

A hűtőberendezések és elosztószekrények stb.

számára szükséges hely 1400 ft2 130 m2

Az adatközpont összesített alapterülete 4200 ft2 390 m2

Alapterület IT rackszekrényenként 6,7 ft2 0,622 m2

A rackszekrények száma 100

Az 1. táblázat öt az energiasűrűség megadására széles körben alkalmazott definíciót tartalmaz, illetve a fent említett adatközpont megfelelő értékeit.

A sűrűség megadásának különböző módszerei

Page 4: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 4

Sűrűség definíciója Számítás Sűrűség Magyarázat Az IT berendezések energiafogyasztása osztva az IT rack-szekrények által elfoglalt összterülettel

500 000 W / (0,622 m2 x 100 rack)

8039 W / m2 A módszer csak a rackszekrények által elfoglalt területet veszi figyelembe, a körülöttük lévő folyosók területét és a hálózatkritikus fizikai infrastruktúra egyéb elemei által elfoglalt területet nem. A többihez képes ez a módszer magasabb értékeket szolgáltat. A készülékgyártók széles körben alkalmazzák.

Az IT berendezések energiafogyasztása osztva az IT rack-szekrények által elfoglalt és a mozgástér biztosításához szükséges összterülettel

500 000 W / 260 m2 1923 W / m2 A szakirodalomban leggyakrabban használt definíció. Szekrényként általában 2,6 m2 területtel szoktak számolni. Hatékony megoldás az energiaellátási és a hűtési igények felméréséhez. Az IT szakemberek széles körben alkalmazzák.

Az IT berendezések energiafogyasztása osztva az adatközpont összesített alapterületével

500 000 W / 390 m2 1282 W / m2 Az adatközpont összesített alapterületébe beletartozik az IT berendezések által elfoglalt hely, valamint az energiaellátó és a hűtőberendezéseket befogadó helyiség alapterülete. A módszer kiválóan alkalmazható az alapterület tervezésére, ugyanis a kiszolgáló berendezések helyigényét is figyelembe veszi, ami a nagysűrűségű telepítéseknél számottevő lehet. Az építészmérnökök széles körben alkalmazzák.

Az IT berendezések, az energiaellátó és a hűtőberendezések összesített energiafogyasztása osztva az adatközpont alapterületével

(500 000 W + 295 000 W) / 390 m2

2038 W / m2 A definíciót főleg a létesítmények és a közművek tervezésénél használják, ugyanis az adatközpont teljes alapterületét és az összesített áramfogyasztást veszi figyelembe. A hűtőberendezések fogyasztását 265 kW-nak feltételezzük, figyelembe véve a rendszer tökéletestől elmaradó hatékonyságát, míg az energiaellátó rendszernél 30 kW veszteséggel számolunk.

A rackszekrények energiafogyasztása

500 000 W / 100 rack

5 kW / rack A definíció rack alapú, így az energiasűrűség megadásánál felmerülő variációk jelentős részét figyelmen kívül lehet hagyni.

Az 1. táblázat definíciói a szakirodalomból és különféle specifikációs dokumentumokból származnak. A négy W/m2 alapú definíció nem egyértelmű, amíg pontosan meg nem adjuk, hogy mit számítunk bele a területbe és mit az energiafogyasztásba. Az eddig közzétett értékeknél ez az információ jellemzően hiányzik. Ez rengeteg félreértést okozott az iparágban, illetve kommunikációs problémákat az IT szakemberek és a létesítmények tervezői között. Az 1. táblázat adataiból egyértelműen kiderül, hogy az alkalmazott sűrűégdefiníciótól függően adott létesítmény sűrűségadataiban akár nyolcszoros eltérés is lehet. A sűrűség legegyértelműbb megadása a rackszekrényenkénti energiafogyasztás, mely jól érthető útmutatást ad az egyes rackszekrények energiaigényéről és hűtési szükségleteiről (az IT berendezések esetében a rackszekrények wattban mért villamosenergia-fogyasztása egyenlő a wattban mért hűtésigényükkel). Tanulmányunk rámutat, hogy a rackszekrényenkénti energiafogyasztás megadásának további fontos előnye az adatközpontok sűrűségének meghatározása terén, hogy az adatközpontokon belüli sűrűségelté-rések vizsgálatára is hatékony lehetőséget kínál. A gyakorlatban az adatközpontok energiasűrűsége nem egyenletes. Bizonyos rackszekrények több villa-mos energiát fogyasztanak, és ebből fakadóan a többinél erőteljesebb hűtést is igényelnek. A kábelrende-zőket tartalmazó rackszekrények például

1. táblázat Az adatközpontok energiasűrűségének megadására használt módszereket adott adatközpontra alkalmazva eltérő értékeket kapunk.

Page 5: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 5

egyáltalán nem fogyasztanak energiát, a blade szervereket tartalmazó rackszekrények fogyasztása viszont akár a 20 kW-ot is meghaladhatja. A problémát tovább súlyosbítja, hogy az IT berendezések folyamatosan megújulnak, vagyis az egyes rackszekrények energia-fogyasztása idővel módosulhat. A hagyományos sűrűségmegadási módszerek ezeket az energiaváltozáso-kat figyelmen kívül hagyják, ezért hatékonyságuk az idő múlásával romlik. A hagyományos sűrűségmegadási módszerek korlátai A hagyományos sűrűség megadási módszereknek komoly korlátaik vannak, ezeket az alábbi két példával szemléltethetjük: Elsőként vegyünk egy 538 W/m2 névleges kapacitású adatközpontot. A teljes IT terhelés / teljes IT rack-hely plusz mozgástér sűrűségdefiníciót véve 1400 W esik egy-egy rackszekrényre. Ha az adatközpontot úgy építették, hogy képes legyen legfeljebb 1400 W energiát és legfeljebb 1400 W hűtést szolgáltatni minden egyes rackszekrénynek, akkor megfelel ennek az elvárásnak. Csakhogy számos olyan IT berendezés létezik, ilyenek például a blade szerverek, amelyek önmagukban is több mint 1400 W energiát fogyaszta-nak. Ha az adatközpont szigorúan 1400 wattos rackszekrényenkénti kapacitásra van korlátozva, akkor egyetlen ilyen berendezés telepítésére sincs lehetőség. Ez azt jelenti, hogy az adatközpont jó néhány típusú IT berendezést képtelen lesz befogadni. Mindemellett, ha alacsony energiaigényű készülékeket, például patch paneleket telepítünk egy szekrénybe, akkor a kihasználatlanul hagyott kapacitást nem veheti igénybe a többi rack, hiszen minden rack 1400 wattos fogyasztásra és hűtésre van korlátozva. Végered-ményként egy olyan rossz hatékonyságú adatközpontot kapunk, mely számos IT berendezéstípussal inkompatibilis, továbbá a rendelkezésre álló rackszekrény-hely, energiaellátó- és hűtőkapacitás hatékony kihasználását sem teszi lehetővé. Második példaként az adatközpont sűrűségét rackszekrényenként adjuk meg. Minden rackszekrény-helyhez pontosan meghatározzuk az energia- és a hűtésigényt. Ekkor a tervet a specifikációkhoz lehet igazítani, és az adatközpont karakterét már előre ki lehet alakítani. Ez lenne az ideális megoldás, csakhogy a gyakorlatban alig létezik olyan adatközpont, amelynek rackszekrényenkénti jellemzőit előre meg lehetne határozni. A valós életben az adatközpontok rackszekrényszintű terhelését nem lehet a telepítés teljes élettartamára vetítve előre megjósolni. Ha a tényleges IT berendezések sűrűsége eltér az eredeti, rackszekrényszintű specifikációtól, annak komoly következményei vannak; többek közt, ha egy a rack specifikációja alatti IT terhelést telepítünk, akkor a szabad kapacitást nem veheti igénybe a többi rack, hiszen minden rackszekrényhez meghatározott energiaellátási és hűtési határérték tartozik. Az eredmény ismét egy rossz hatékonyságú adatközpont, amely-hez szükség van a jövőbeli IT telepítések jellemzően be nem szerezhető adataira is. A két példában szereplő módszereket széles körben alkalmazzák adatközpontok sűrűségének megadásá-ra. A teljes helyiségre vonatkozó specifikálás és a rackszekrényenkénti megadás egyaránt számos, a gyakorlati alkalmazhatóságot rontó hátránnyal rendelkezik, amelyek következménye a felhasználó elvárá-sait teljesíteni képtelen rendszer lehet. Ha a specifikálás módszerét sikerül továbbfejleszteni, akkor meg-őrizhetjük az IT fogyasztókkal kapcsolatos rugalmasságot és kompatibilitást, miközben egyaránt maximali-zálhatjuk az elektromos rendszer, az energiahasználat, a hűtés és a helykihasználás hatékonyságát. A sűrűségmegadási módszerrel szembeni elvárások Mint korábban már utaltunk rá, egy továbbfejlesztett sűrűségmegadási módszernek számos elvárást kell teljesítenie. Ezek a következők:

Page 6: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 6

• Kiszámíthatóság: A sűrűség megadásának lehetőséget kell nyújtania tetszőleges rack energia- és hűtésigényének meghatározására, bármely jövőbeli vagy meglévő IT berendezés telepítésekor.

• A részlegesen megadott jövőbeli követelmények kezelése: A módszer használatához ne legyen szükség az egyes rackszekrény-helyek pontos jövőbeli energiaigényének ismeretére. A valóságban az IT berendezések élettartama az adatközpont élettartamának töredéke, és rendszeresen lecserélik őket új, másfajta készülékekre.

• A táp- és a hűtéskölcsönzés támogatása: Legyen lehetőség az adott rackszekrénynél rendelkezésre álló, de kihasználatlan táp- és hűtőkapacitás más rackszekrények általi felhasználására.

• Veszteségek minimalizálása: Az elektromos veszteségeket a lehető legalacsonyabb szintre kell csökkenteni. A rendelkezésre álló táp- és hűtőkapacitást, illetve helyet ki kell használni. A beruházási és az üzemeltetési költségeket a lehető legalacsonyabbra kell szorítani.

• A fokozatos üzembe helyezés támogatása: A sűrűségmegadási módszernek támogatnia kell a fokozatos üzembe helyezést, ide értve azt az esetet is, amikor az egyes fázisok eltérő sűrűségűek, illetve a későbbi telepítések jellemzői a korábbi telepítések végrehajtásakor még ismeretlenek.

Bár a fenti követelmények közül némelyek ellentmondanak egymásnak, megfelelő kiindulási alapot nyújta-nak egy az adatközpontok energiasűrűségének megadására használható, továbbfejlesztett mód-szer kidolgozásához. Gyakorlati korlátok és lehetőségek Minden az energiasűrűség megadására szolgáló gyakorlatias módszernek figyelembe kell vennie az adaközpontok kialakításával összefüggő gyakorlati korlátokat és lehetőségeket. Az alábbiakban több ilyen korlátot és lehetőséget is ismertetünk, valamint tárgyaljuk a sűrűségmegadásra gyakorolt hatásukat is: • Energiaelosztási fokozatok: Az energiaelosztó rendszerek ára és bonyolultsága nem

lineárisan függ a kapacitástól. Például egy egyfázisú, 6 kW-os betáp nem harmadannyiba kerül, mint egy 18 kW-os, háromfázisú. A váltakozó áramú ellátásban különféle optimális kapacitások léteznek, amelyekben a megszakí-tók illeszkednek a csatlakozó aljzatokhoz, illetve megoldott a megszakítók hibakezelése. Ezeket a kérdéseket, illetve az optimális energiaelosztó áramköröket az APC 29-es számú, Rack Powering Options for High Density című (csak angolul) tanulmánya tárgyalja. Az energiaelosztó rendszer specifikációit ezekhez az optimális méretekhez közelítve kell kidolgozni – ezek viszont földrajzi területtől függően változnak.

• Légelosztási korlátok: Az adatközpontokon belüli légelosztó kapacitás az egyik elsődleges a szekrények energiasűrűségét korlátozó tényezők közül. Az IT berendezések 47,2 – 75,5 l/s légáramot igényelnek kW-onként. Sok adatközpontban régebben telepített álpadló van, illetve korlátozott a belmagasság, ami korlátozza az álpadló lehetséges magasságát is. Ha az álpadló része a légelosztó rendszernek, akkor a padlózat alatt megbízhatóan mozgatható légmennyiségnek gyakorlati korlátai vannak, ami behatárolja a rackszekrényeknél elérhető energiasűrűség átlagos és csúcsértékét. Sok meglévő telepítésnél emiatt az elérhető átlagos energiasűrűség körülbelül 5 kW/rack értékre korlátozódik. Ha ennél nagyobb sűrűségre van szükség, további légkondicionáló és/vagy -elosztó berendezéseket kell üzembe helyezni. Egy adott energiasűrűség felett tehát a költségek rohamosan növekednek; megfelelő sűrűségmegadással azonban a kérdés időben felismerhető és kezelhető, mielőtt valós problémává válna.

Rack Powering Options for High Density

Források 29. tanulmány

Page 7: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 7

• Súly: Bizonyos létesítményekben – különösen az álpadlóval ellátottakban – a padlózat terhelhetősége korlátozott. A nagy energiasűrűségű IT berendezéseket magukba foglaló rackszekrények általában komoly súllyal rendelkeznek. Egyes esetekben ez is gyakorlati korlátot jelent a nagysűrűségű telepítések számára. Ebből következik, hogy nem szabad olyan energiasűrűségű rendszert tervezni, amelynek súlya meghaladja a létesítmény padlózatának terhelhetőségét.

• Fenntartott terület: Sok adatközpont a sűrűségtől független funkciókhoz, szolgáltatásokhoz és művele-tekhez – például a mágnesszalagok tárolásához, az operátorok mozgásához, a készülékek eléréséhez – külön területet biztosít. A sűrűségi modellnek ezeket a területeket fenntartottként kell kezelnie, és a nagysű-rűségű energiaellátással vagy hűtéssel kapcsolatos funkciók megvalósítása terén nem szabad ezektől függenie.

• A terhelések szétszórásának lehetősége: Az IT berendezések fizikai, adatközponton belüli szétszórása napjaink IT berendezéseivel a gyakorlatban is könnyen megvalósítható, köszönhetően az optikai kábelek széles körű használatának. Sok esetben nem célszerű vagy egyszerűen szükségtelen a lehetséges maximális sűrűség kihasználása. A blade és az 1U magas szerverek például olyan nagysűrűségű IT berendezések, amelyeket a sűrűség csökkentése érdekében könnyen szét lehet szórni a rackszekrények között. Bár a szekrények blade és az 1U magas szerverekkel való feltöltése helykihasználás szempontjából optimális megoldásnak tűnik, sok esetben az előnyei csak látszólagosak, és a nagysűrűségű energiaellátás és hűtés többletköltsége messze meghaladja azt a költséget, ami egy további rack felhasználásával járna. A sűrűségi modellnek tehát nem csupán a berendezések által nyújtott lehetőségek alapján kell megadnia a sűrűségi értékeket, de figyelembe kell vennie a terhelések szétszórásának lehetőségét is, amivel optimalizálható a teljes rendszer költsége és rendelkezésre állása.

• A helyszín egyedi helykínálata: A tényleges fizikai helyszín helykínálata nagyban befolyásolja a sűrűség fontosságát. Sok kis sűrűségre tervezett létesítménynél a nagysűrűségű készülékek telepítésével csökken a zsúfoltság, ugyanakkor az IT készülékek által elfoglalt hely csökkentése csak kisebb előnyökkel jár. Léteznek viszont olyan a fizikai helyet tekintve szűkös létesítmények, amelyekben az alapterület rendkívül drága, illetve bővítése csak nehezen oldható meg. A sűrűség meghatározására használt módszernek tehát figyelembe kell vennie a hely értékét és a bővítések gyakorlati korlátait.

Az energiaellátó és a hűtési infrastruktúra miatti hely-veszteség Az energiaellátó és a hűtési infrastruktúra helyet foglal; ezt a helyet egyébként az IT berendezések is igénybe vehetnék. Egyes esetekben az energiaellátó és a hűtőberendezéseket az IT berendezések által használt helyiségtől elkülönítve, egy szomszédos helyiségbe telepítik. A helyigény azonban ettől még megmarad, és az elérhető sűrűség meghatározásakor veszteségként kell figyelembe venni. Az energiaellátó és hűtőbe-rendezések által elfoglalt helyet aszerint adhatjuk meg, hogy ezen a területen hány szekrényt lehetne elhe-lyezni. Ennek a területnek a nagysága az igényelt energiaellátó és hűtőkapacitással arányosan növekedik. Az összefüggést az 1. ábra szemlélteti.

Page 8: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 8

0%

20%

40%

60%

80%

100%

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

Átlagos rackszekrényenkénti teljesítmény (kW)

IT ra

cksz

ekré

nyek

elh

elye

zésé

refe

lhas

znál

ható

hel

y [%

]

Nem redundáns kialakítás

2N energiaellátás, N+1 hűtés

Az ábráról egyértelműen látszik, hogy az IT berendezések rendelkezésére álló hely aránya fordítottan arányos a berendezéseket tartalmazó rackszekrények energiasűrűségével. A vízszintes tengelyen a helyiség szekrényeinek átlagos energiafelhasználása szerepel. A függőleges tengelyről olvasható le, hogy a helyiség rackszekrény helyeinek mekkora hányadát foglalják el az energiaellátó és hűtési infrastruktúra elemei, például az UPS-ek, az energiaelosztó egységek és a számítógéptermi légkondicionálók. Az 1. ábra alsó görbéje kettős betáppal (2N) és (N+1) redundáns légkondicionálóval kiépített rendszerre vonatkozik. A nagysűrűségű rendszerek általában így épülnek fel. Megjegyezzük, hogy a napjainkban leginkább jellemző, 1,5 kW/rack sűrűségű adatközpontokban a rendelkezésre álló területnek csak körülbelül 15 százaléka vész el, ám a sűrűség növekedésével már komoly helyveszteséggel kell számolni. Ha a rackszekrényenként megadott energiafogyasztás túllépi a 7 kW-ot, akkor már a terület több mint felét az energiaellátó és hűtőberendezések foglalják el, elvéve a helyet az IT rackszekrényektől. Nem számít, hogy a tényleges sűrűség esetleg jóval alacsonyabb a meghatározottnál, az energiaellátó és hűtőberendezések mindenképpen elfoglalják a számukra szükséges helyet. A nagysűrűségű rendszerek tervezésekor tehát egy további alapelvet is figyelembe kell venni: Az adatközpontot a ténylegesen szükségesnél nagyobb sűrűségűre tervezve szükségtelenül csökkentjük az IT berendezések elhelyezésére használható területet. A helycsökkenés – a költségnöve-kedés és az üzemeltetési kiadások megugrása mellett – rendkívül fontos és hátrányos tényező. Éppen ezért kiemelt szerepet kap a sűrűség hatékony tervezése, illetve az, hogy az energiaellátó és a hűtőrendszereket lehetőleg csak a tényleges igényeket követve szabad kiépíteni. A terület felosztása sűrűségi zónákra A korábban felvázolt követelmények alapján egyértelműen szükség van annak lehetőségére, hogy az adatközpont különböző zónáihoz különböző energiasűrűségi értékeket adjunk meg. Minderre a fokozatos telepítések végrehajtása miatt lehet szükség, ahol az egyes fázisok sűrűsége eltérő lehet. A másik megol-dás, mely szerint a teljes adatközpontra a jövőben várható maximális terhelést adjuk meg, a gyakorlatban alkalmazhatatlan, hiszen szükségtelenül, 3–8-szoros mértékben növeli a beruházási költségeket, valamint komoly mértékben rontja az elektromos rendszer hatékonyságát. Az adatközpont sűrűségi zónákra osztásának még az egyetlen fázisban végrehajtott telepítéseknél is számot-tevő előnyei lehetnek. Komoly sűrűségbeli eltérés van például a blade szerverek és az adattároló berendezé-sek között, és ha az adatközpont alkalmas ezek elválasztására, akkor a különböző sűrűségi zónák elkülöníté-séből fontos előnyök

1. ábra Az átlagos rack sűrűség hatása az IT rackszekrények számára elérhető terület arányára

Megjegyzés: Az ábra görbéit a függelékben szereplő képletek alapján rajzoltuk fel.

Page 9: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 9

származhatnak, még akkor is, ha az adatközpont összesített energiaigénye változatlan marad. Ha a szerverek és az adattároló rackszekrények helye véletlenszerű, előre nem ismert, akkor az energia és a hűtés elosztását végző rendszereket úgy kell tervezni, hogy minden ponton fel legyenek készítve a maximális sűrűség kezelésére. Ha viszont az adattároló berendezések alacsonyabb sűrűségű zónáját előre kijelöljük, akkor az adott zónához kisebb kapacitású energiaellátó és hűtőrendszer is elegendő. Ennek ered-ményeként csökkennek a beruházási és üzemeltetési költségek, valamint javul az elektromos hálózat haté-konysága. Egy adatközpont sűrűségi zónáit az alaprajz segítségével, a rackszekrények besorolásával lehet megadni. Bevált megoldásként ugyanakkor a zónákra osztás nem lehet tetszőleges. A zónákat sorok szerint kell kialakítani, ahol egy sor az oldalukkal egymás mellé helyezett rackszekrények egy csoportja. A sűrűségi zónákat a következő szempontok miatt édemes sorok szerint kialakítani: • A rackszekrényekhez készült energiaelosztó megoldások jelentős része sor alapú.

• A rackszekrényekhez készült hűtési megoldások jelentős része sor alapú.

A sűrűségi követelményeket tehát a legcélszerűbben és leghatékonyabban sorok szerint lehet megadni, illetve a fejlesztéseket is soronként érdemes elvégezni. Tanulmányunk további részeiben ezért a sorokat vesszük a sűrűségi zónák megadásának egységeként. A sűrűségmegadási módszernek képesnek kell az idővel változó IT terhelések és a fokozatos telepítések kezelésére. Bizonyos feltételezéseket arra nézve is kell tenni, hogy az energiaellátó és a hűtési infrastruktúra vajon változik-e az idő folyamán, és ha igen, akkor hogyan. Értelmetlen volna azzal számolni, hogy a meglévő energia- és légelosztó szerelvények az IT terhelé-sek változását követve fognak módosulni. Ezeknek a rendszereknek a módosítása, például az üzemben lévő elektromos áramkörökön vagy vízvezetékeken való munkavégzés a rackszekrények egy-egy csoportjára vagy akár a teljes adatközpontra nézve a leállás veszélyével járna. Dokumentált tény, hogy az adatközpontokban előforduló leállások elsődleges okai az emberi hibák, és az üzemeltetési beren-dezésekben végzett változtatások komoly mértékben hozzájárulnak a leállásokhoz. Ezért a gyakorlatban arra kell törekedni, hogy egy-egy sor vagy zóna energiaellátó és hűtőberendezéseinek üzembe helyezése után a berendezések a sor vagy zóna élettartama során ne módosuljanak és ne kerüljenek átépítés-re. Mindennek gyakorlati megvalósítása a következőképpen felvázolt telepítési stratégiában foglalható össze: • A racksorok elrendezése az alaprajzon normál folyosóméretekkel

• Egy-egy sor sűrűségének meghatározása, majd egy teljes sor kiépítése a szükséges sűrűséggel

• Ha olyan készüléket kell üzembe helyezni, amelynek jellemzői megfelelnek egy meglévő sor terv sze-rinti paramétereinek, akkor a készüléket ebbe a sorba kell telepíteni.

• Ha olyan készüléket kell üzembe helyezni, amelynek jellemzői jelentősen eltérnek a még fel nem töl-tött sorok paramétereitől, akkor a telepítés végrehajtása érdekében nem szabad módosítani az energiaellátó és a hűtőrendszert, hanem ki kell építeni egy új, nagyobb sűrűségre tervezett sort.

Telepítési stratégia

Page 10: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 10

• A rossz kihasználtságú sorokat idővel teljesen le kell bontani, majd az aktuális igényekhez igazodva a korábbitól eltérő sűrűségre tervezve újra kell építeni.

A fenti stratégia alkalmazása azért is erősen javasolt, mert minimálisra csökkenti az adatközpont működő sorain végzett módosítási munkálatok során előforduló emberi hibák fellépésének valószínűségét. A fenti gyakorlatias és hatékony stratégia annyi megszorítást tartalmaz a sűrűségmegadási módszerre nézve, hogy az energiaellátó és hűtési infrastruktúrának a telepítés után nem szabad változnia. Megjegyezzük, hogy a piacon találhatók olyan energia- és hűtéselosztó megoldások is, amelyek lehetővé teszik az energiaellátó és hűtési infrastruktúra telepítés utáni, a leállások kockázata nélküli módosítását. Az APC InfraStruXure rendszere például a következő lehetőségeket biztosítja: • Az UPS kapacitásának növelése üzem közben cserélhető, bővíthető modulokkal

• A rackszekrényekben található aljzatok típusának és kapacitásának megváltoztatása üzem közben cserélhető, rackszekrénybe szerelt energiaelosztó egységekkel

• A hűtési kapacitás bővítése rack alapú InRow hűtéssel és rack be építhető levegőáramlást javító ké-szülékekkel

Az ilyen típusú készülékek a telepítés után nagyobb rugalmasságot biztosítanak; ez különösen a kisebb rendszereknél előnyös, amelyeknél a több soros, fokozatos telepítés nem alkalmazható. Sor vagy zóna átlagos és csúcssűrűsége Ha minden rack azonos fogyasztású készülékeket tartalmazna, az nagyban leegyszerűsítené a sűrűség megadását, csakhogy a korábbiak alapján kijelenthető, hogy a gyakorlatban nem érdemes erre törekedni. A gyakorlatban a rackszekrények sűrűsége nulla (patch panelek) és 30 kW (nagysűrűségű blade szerve-rek) között változhat. Az erőteljes változékonyság ugyanakkor komoly hatást gyakorol a sűrűségmegadási módszerre. Adott racksoron vagy zónán belül, ahol a rackszekrények energiaigénye változó, az átlagos energiafogyasztás kisebb lesz a csúcsértéknél. A sorokon belüli, rackszekrényekre vonatkozó energiafogyasztás tényleges csúcs/átlag aránya fontos mutató, értéke mindig nagyobb egynél, illetve egyenlő eggyel. Érdemes több eltérő, de ismert energiafogyasztású rackszekrényeket tartalmazó sorok energiasűrűségének meghatározására alkalmas módszert is megvizsgálni. A sor összes rackszekrényének csúcsértékre tervezése. A sorsűrűség megadásának egyik módja az, hogy a sor összes rackszekrényét az energiaellátás és a hűtés terén egyaránt a várt csúcsértékre tervez-zük. Ebben az esetben a hűtő- és energiaellátó kapacitást azt feltételezve kell megtervezni, hogy az összes rack maximális energiafogyasztással fog üzemelni. Természetesen ilyenkor az energiaellátó és hűtőkapaci-tást túlméretezzük, ami a beruházási és az üzemeltetési költségek növekedéséhez és az elektromos hálózat hatékonyságának csökkenéséhez vezet. Az ebből fakadó veszteség nulla lesz, ha az energiafo-gyasztás csúcs/átlag aránya egy, ám komoly mértékűre nő, ha ez a mutató 1,5-es vagy nagyobb értéket ér el. Mindemellett, ha a legrosszabb esetre tervezünk, akkor figyelmen kívül hagyjuk azt a lehetőséget, hogy a maxmális fogyasztást okozó készülékeket szét is lehetett volna osztani, ami a rackszekrényenkénti csúcs/átlag érték javulásához vezethetett volna. Általában elmondható, hogy a teljes sort a rackszekrények csúcsteljesítményre tervezve az optimálistól elmaradó megoldást kapunk, hacsak a csúcs/átlag érték nem közelít az egyhez – a gyakorlatban azonban ennek kicsi a valószínűsége.

Page 11: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 11

A sor összes rackszekrényének átlagértékre tervezése. Egy másik megoldás az összes rack átlagos energiasűrűségre tervezése. Az előzőhöz hasonlóan ez sem ideális eljárás, ám más okok miatt. A módszer alkalmazásához minden olyan készüléket, amely az átlagos terhelési érték túllépését okozná, el kellene távolítani, amíg el nem sikerülne érni egy átlagos vagy az alatti értéket. A módszernek további hátránya, hogy a tervezettnél alacsonyabb tényleges sűrűségű rackszekrények miatt kihasználatlan energiaellátó és hűtőkapacitás marad meg, amit nem lehet felhasználni a többi rack kapacitásának növelésére – pontosan azért, mert a sort úgy terveztük meg, hogy minden rackszekrényt csak átlagos szinten vagyunk képesek energiával ellátni és hűteni. Vegyük a következő példát: Egy IT üzemeltető egy 4 kW-os blade keretet szeretne telepíteni egy 2 kW-os rackszekrényenkénti terhelésre tervezett sorba. Azt várnánk, hogy mindez könnyedén megvalósítható, elég egy kihasználatlanul hagyott rack (amennyiben van ilyen) 2 kW-os ellátó ágát a blade kerethez vezetni. Csakhogy a 4 kW-os berendezés hűtése erősen kérdéses lesz, hiszen a hűtést nem készítettük fel a 2 kW feletti kapacitású rackszekrények jelenlétére. Az sem utólagos szempont, hogy így lesz egy használhatatlan rack, amelynek tápellátását egy másik rack vette el. A fentieket és a követelményeket összevetve arra jutunk, hogy a sűrűségmegadási módszer hatékonyságához a rackszekrények csúcs/átlag energiaigény arányát a sorokhoz előre meg kell határozni, és értékének egynél nagyobbnak kell lennie. A rackszekrények megfelelő csúcs/átlag energiaigény arányának megválasz-tása a rackszekrények közötti eltérések várható mértékétől függ. A 2. ábra ezt a viszonyt szemlélteti, az adatközpontok tervezésekor jellemzően figyelembe vett megszorítások és feltételezések szerint:

0%

100%

200%

1 2 3 4

Csúcs/átlag sűrűségi arány

Norm

aliz

ált T

CO a

kW

-ban

mér

t IT

terh

elés

re v

etítv

e

Erőteljes sűrűségváltozás

Nincs sűrűségváltozás

Jellemző sűrűségváltozás

A 2. ábra azt szemlélteti, hogy a rckszekrényekhez megadott csúcs/átlag arány az IT berendezésekhez telepített energiaellátó és hűtési infrastruktúra kW-onkénti kapacitásához viszonyítva hogyan befolyásolja a normalizált TCO-t1.. Az ábrán háromféle, a rackszekrényenkénti fogyasztások közötti szóráshoz tartozó eredményt tüntettünk fel. Az adatok rámutatnak, hogy ha az összes rack energiafogyasztása azonos, akkor a TCO optimális (lehető legalacsonyabb) értékéhez a szekrénysűrűség csúcs/átlag arányának egynek kell lennie. Ennek magyarázata az, hogy a csúcssűrűség növelésével növekedik az energiaellátás és a hűtés költsége, ám ennek semmilyen haszna nincs, ha az összes rack

1 A TCO (birtoklási összköltség) az energiaellátó és hűtőrendszer beruházási költségét, valamint tíz éves javítását, helyköltségét és villamosenergia-költségét foglalja magában. Értéke rackszekrényenként 50–90 ezer USD, kialakítástól és kihasználtságtól függően. Megjegyezzük, hogy az UPS-ek és a vízhűtők költségei függetlenek a csúcs/átlag aránytól; a TCO szórása az energia- és hűtéselosztó rendszerektől függ.

2. ábra A rack-sűrűség csúcs/átlag arányának hatása az energiaellátó és a hűtőrendszer birtoklási összköltségére, a rackszekrények közötti tényleges eltérések mértékétől függően

Page 12: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 12

energiafogyasztása azonos. Ha viszont a ténylegesen telepített rackszekrények között növekednek az energiafogyasztásbeli különbségek, a csúcs/átlag érték növelésének elhagyása számottevő hátrányokkal jár. Mindez abból fakad, hogy felesle-ges, kihasználatlan energiaellátó és hűtőkapacitást tartunk fenn, valamint adott IT terhelés ellátásához nagyobb területre van szükség. A valós telepítéseknél tehát egynél nagyobb rackszekrénysűrűségi csúcs/átlag aránnyal lehet optimális TCO-t elérni. A fentiek alapján újabb fontos elemmel bővíthetjük az adatközpontok sűrűségének megadására használt módszerünket: Az adott soron belüli rackszekrények energiafogyasztásának csúcs/átlag értéke az átlagos esetekben körülbelül kettő legyen. Ha a várható tényleges csúcs/átlag arány egy soron belül meghaladja a kettőt, akkor a legnagyobb sűrűségű IT terhelések rackszekrények közötti elosztásával csökkenteni kell a csúcs/átlag arányt, illetve a megfelelő készülékeket más sorokba kell áthelyezni. Szabály alapú sűrűségmegadás Miután megadtuk egy sor vagy zóna rackszekrényenkénti energiafogyasztásának átlagos és csúcsértékét, lehetővé válik egy a specifikációt kiszámítható módon megvalósító terv elkészítése. Ha a rackszekrények energiaigényének csúcsértéke közel van az átlagoshoz, a megvalósítás egyszerű. Ha viszont a rackszekrényenkénti energiaigény csúcs/átlag aránya eléri vagy meghaladja az 1,5-et, akkor a megvalósítás nehézségei és költségei megnőnek. A probléma az, hogy bármely rackszekrényhez biztosítani kell a csúcsértékű energiafogyasztással való üzemelés lehetőségét, feltéve, hogy az átlagértéket nem haladjuk meg – ez viszont az álpadlós légelosztást alkalmazó rendszereknél komoly korlátozó tényező lehet. Az elérhető energiasűrűség átlagos és csúcsértékét növelni tudjuk, ha a sűrűségmegadáson belül lehető-vé tesszük a szabály alapú sűrűségtelepítést. A szabály alapú specifikációk révén elhárított probléma szemléltetésére vegyünk példaként egy olyan sort, amelyet egy meglévő, álpadlós hűtőrendszerhez kell illeszteni, és a racksűrűség csúcs/átlag arányának ajánlott értéke 2. Az energiaellátó rendszer szemszögéből mindegyik rackszekrénynek csúcsértéki leágazást kell biztosítani, míg az energiaelosztó egység és az UPS névleges teljesítményének az átlagos rackszekrény-sűrűség és az IT rackszekrények számának szorzatával kell megegyeznie. Ezt egyszerű megvalósítani. Hűtési szempontból ellenben minden rackszekrénynek pontosan meghatározott légelosztó rendszere van, aminek névleges teljesítménye az átlagos racksűrűség kétszerese. Az átlag feletti sűrűséggel üzemelő rackszekrényeknek az átlag alatti sűrűségű rackszekrényektől kell átvenniük a kihasználatlan kapacitást. A korlátozott légmozgatási kapacitással rendelkező álpadló esetében ez azt jelenti, hogy a nagysűrűségű rackszekrényeket a soron belül egymástól elválasztva jelentősen csökkenthető a hűtéselosztó rendszer helyi túlterhelése. Ha egy specifikáció képes arra, hogy szabályokat határozzon meg a nagysűrűségű rackszekrények soron belüli elhelyezéséhez, akkor a rendszer keretein belül maradva is nagyobb átlagos és csúcssűrűséget lehet elérni. Egy egyszerű szabály lehet például az, hogy egy adott rack csak annyival lépheti túl az átlagos energiasű-rűséget, amennyivel a szomszédja az alatt marad. Sokkal kifinomultabb szabályok is létrehozhatók, ame-lyek alapján maximalizálni lehet egy adott telepítésnél kiszámíthatóan elérhető energiasűrűséget, illetve ezeket a szabályokat az energiaellátás és a hűtés felügyeleti rendszerében is meg lehet valósítani. 2

2 A hűtéssűrűségre vonatkozó szabályok felügyeleti rendszerben történő megvalósítására az APC Corporation bejegyzett szabadalommal rendelkezik.

Page 13: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 13

A jövőbeli bővítések sűrűségének kezelése Sok adatközpontot nem egyszerre, hanem fokozatosan építenek ki és bővítenek. Az ilyen esetekben nem mindig célszerű és lehetséges a még meg sem tervezett sorok vagy zónák sűrűségének előzetes megadása. Az adatközpontok sűrűségének megadására használt módszernek tehát képesnek kell lennie a jövőbeli, előre csak nehezen felmérhető sűrűségi igények kezelésére is, illetve meg kell hagynia a későb-bi választás lehetőségét. Ideális esetben az energiaellátó és hűtőinfrastruktúrával összefüggő kiadásokat és kötelezettségeket a lehető legkésőbb kell felvállalni. Emellett elvárás az is, hogy az adatközpont későbbi bővítése ne veszélyeztesse a már üzemelő IT berendezések rendelkezésre állását. Gyakran alkalmazott megoldás egy előre meghatározott energiasűrűség támogatására képes energiaellátó és hűtési infrastruktúra előzetes kiépítése. Ennek megvan az az előnye, hogy a berendezések előzetes telepítésének köszönhetően a jövőbeli IT telepítések során már nem kell komolyabb munkákat végezni az élő adatközpont kiszolgáló infrastruktúráján. A megoldásnak ugyanakkor több hátránya is van: • Ha a jövőbeli IT sűrűség meghaladja az energiaellátó és hűtési infrastruktúra

sűrűségét, akkor a telepítés nem végezhető el hatékonyan.

• Ha a jövőbeli IT sűrűség kisebb mint az energiaellátó és hűtési infrastruktúra sűrűsége, akkor az inrastruktúrára fordított források egy része kárba vész.

• Ha a létesítményt soha nem bővítik, vagy ha jogszabályi előírások vagy üzleti szempontok miatt a bővítést más helyszínen végzik el, akkor az infrastruktúrára fordított források kárba vesznek.

• Az adatközpont terhelése rövid távon jóval alacsonyabb az energiaellátó és hűtési infrastruktúra név-leges kapacitásánál, ami miatt romlik az elektromos rendszer hatékonysága, valamint számottevő fe-lesleges villamosenergia-költségek lépnek fel.

• A jelenleg felesleges energiaellátó és hűtési infrastruktúra kiépítése növeli a beruházási és az üzemel-tetési költségeket.

Ha a sűrűség megadására hatékony modellt akarunk kidolgozni, akkor annak a moduláris és bővíthető ener-giaellátó és hűtési infrastruktúrák tervezési és megvalósítási szintű támogatásával meg kell oldania a fenti problémákat. Ezeknél az architektúráknál előre megtörténik a fő ellátó ágak, például a sorok vagy zónák ágainak kiépítése, ám a költségesebb energiaellátó és hűtőberendezések, például az UPS rendszerek, az energiaelosztó egységek, a rackszekrények, a soron belüli elektromos hálózat, a légkondicionálók és a légelosztó szerelvények beszerzése csak a tényleges igény fellépésekor történik meg. Az adott zóna vagy sor által támogatott sűrűség meghatározása csak a telepítés elvégzésekor történik meg, és az energiaellátó és hűtési infrastruktúra telepítése soronként folyik. Az APC InfraStruXure rendszere például egy ilyen architektúra. Mindezek alapján újabb elemmel bővíthetjük a javasolt sűrűségmegadási módszert: Az adatközpont később telepítendő sorait vagy zónáit a legrosszabb esetre, a legnagyobb sűrűségre kell tervezni, illetve az ellátórendszerek kábelezését és csővezetékeit ehhez a sűrűséghez előre telepíteni kell. Ugyanakkor a sorok energiaellátó és hűtőberendezéseinek tényleges kiválasztását csak a készülé-kek telepítési sűrűségének meghatározása és a telepítés megtervezése után kell elvégezni. Ezzel a megoldással az energiaellátó és hűtési infrastruktúra legköltségesebb elemei illeszkedni fognak a valós igényekhez, és telepítésükre is csak akkor kerül sor, amikor és ahol ténylegesen szükségesek. Az eredmény a beruházási és az üzemeltetési költségek számottevő csökkenése, valamint az adatközpont energiahatékonyságának növekedése.

Page 14: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 14

A korábbiak alapján összeállíthatjuk az említett követelményeknek megfelelő, valamint a különféle gyakorlati korlátokat figyelembe vevő energiasűrűség-megadási modellt. A modell legfontosabb elemei a következők: • Az adatközpont racksorokon alapuló fizikai elrendezésének összeállítása

• Minden sorhoz a 2. táblázatban szereplő adatokra van szükség.

Adat Mértékegység Leírás Elsődleges felhasználás

Rack pozíciók száma

db Rack pozíciók száma a sorban. Az összes terület beletartozik, függetlenül attól, hogy az architektúrától függően a hely egy részét az energiaellátó és hűtőberendezések foglalják el.

A sor összesített energia- és hűtésigényének meghatározásához

A sor átlag-sűrűsége

kW / rack Adott sor IT rackszekrényeinek átlagos teljesítménysűrűsége. A helyiség összes sorához meg kell adni.

Az egyes sorok összesített energia- és hűtésigényének meghatározása

A sor csúcs sűrűsége

kW / rack Adott sor IT rackszekrényei közül a legnagyobb energiasűrűségű rack fogyasztása. A helyiség összes sorához meg kell adni.

A rackszintű energiaellátó és hűtéselosztó rendszer tervezése

• A jövőben telepítendő sorokhoz meg kell határozni az átlagos és a csúcsfogyasztás

maximális reális értékét. Figyelembe kell venni, hogy ezeket az értékeket a telepítés végrehajtása előtt csökkenteni is lehet, és ez csak elhanyagolható veszteséget jelent az ellátó infrastruktúra kábelezésének és csöve-zésének túlméretezése terén.

• A fenti adatok alapján állnak elő a 3. táblázat adatai.

A modell

2. táblázat Az egyes sorokkal kapcsolatosan szükséges adatok

Page 15: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 15

Adat Mértékegység Leírás Elsődleges felhasználás

Rendelkezésre álló IT rackszekrények száma

db Az IT rackszekrények tervezett száma. Ha a rack pozíciók egy részét az energiaellátó és hűtési infrastruktúra foglalja el, akkor a fennmaradó nettó érték.

Az energiaellátást igénylő rack pozíciók meghatározása tervezési célokból

Kezdő energiaigény kW Az IT helyiség energiaellátási és hűtési igénye, a jövőbeli bővítések nélkül

A kezdő energiaellátó és hűtési infrastruktúra kiépítéséhez szükséges ráfordítások meghatározása

kW A helyiség végső energia- és hűtésigénye a legrosszabb esetben.

Az alapvető ellátó infrastruktúra elemeinek (teljesítmény elosztás, kábelezés, hűtőcsövezés) méretezése

Energiasűrűség csúcsértéke

kW / rack A legnagyobb energiasűrűség, tetszőleges sorban A hűtéselosztó rendszer kiépítése

Az adatközpont átlagos energiasűrűsége

kW / rack Az adatközpont összesített energiasűrűsége Az egyéb elterjedt mértékegységekre való átszámításhoz, mint például W/m2. Az átszámítás attól függ, hogy az 1. táblázatban szereplő definíciók közül melyiket választottuk.

A sűrűség fenti módszerrel való megadásakor a legösszetettebb problémát az energiaellátó és hűtési infrastruktúra által elfoglalt, és így az IT berendezésektől elvett rack pozíciók számának meghatározása jelenti. A sűrűség becslésekor közelítő értékként vehetjük úgy, hogy az energiaellátó és hűtési infrastruktú-ra 15 kW-nyi kapacitásonként egy rack pozíciót foglal el. Ez az érték átlagos energiaellátási és hűtési igény esetén alkalmazható, tartalmazza a mozgástereket is (1N és 2N adatközpontoknál megfigyelt tapasztalati érték). A pontos érték a kiválasztott energiaellátó és hűtési infrastruktúrától, a helyiség adottságaitól és a rendszer szállítója által adott útmutatásoktól egyaránt függ. Az APC InfraStruXure adatközponti rendszerek esetében például az APC számítógépes tervezőeszközöket biztosít a számítás elvégzéséhez a helyiségre vonatkozó egyes tervekhez. Gyakorlati tanácsok Az ismertetett sűrűségmegadási modell használata önmagában még nem feltétlenül eredményez optimális helyiségtervet. A felhasználó feladata a helyiség elrendezésének, illetve magának a helyiségnek a kiválasztá-sa, továbbá a felhasználó becsüli meg a sűrűségi követelményeket – ezek a tényezők egyaránt kihatnak a végső telepítés sikerességére. A modell használata ugyanakkor több fontos előnnyel is jár: • Teljesebb és pontosabb leírást szolgáltat az adatközpontról, mint az egyéb széles

körben használt specifikálási módszerek.

• A specifikáció alapján épített adatközpontok teljesítménye kiszámíthatóbb.

• A modell elég pontos abból a szempontból, hogy a beruházási és üzemeltetési költségek gyorsan fel-becsülhetők, amivel felgyorsítható a fejlesztési ciklus és lehetővé válik az alternatív forgatókönyvek elemzése.

• Támogatja a moduláris, méretezhető adatközpontok telepítését, amivel számottevően csökkenthető a TCO és javítható az elektromos rendszer hatékonysága.

Az ismertetett sűrűségmegadási módszer gyakorlati alkalmazásai:

Page 16: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 16

• Az adatközpont különböző lehetséges helyszíneinek és helyiségeinek összehasonlítása TCO szem-pontjából

• Tervezett vagy meglévő adatközpont sűrűségének növelésével összefüggő költségek becslése

• Olyan specifikáció biztosítása, amely a várható sűrűségi értékeket az IT felhasználók számára érthető formában fejezi ki, így az IT felhasználók, az adatközpontok üzemeltetői és az adatközpontokban ta-lálható rendszerek szállítói azonos elképzelések alapján dolgozhatnak.

Az ismertetett sűrűségmegadási módszert az adatközpontok számítógéppel segített tervezésére alkalma-zott eszközökbe építve könnyebbé tehető és automatizálható a specifikációs és tervezési folyamat. Példa adatközpont specifikálására Egy példával szemléltetjük, hogyan lehet alkalmazni a modellt egy tényleges adatközpont jellemezésére. A feladat a szerverek konszolidációja a rendelkezésünkre bocsátott helyiségben. Minden UPS, energiaelosztó és hűtőrendszer ebbe a helyiségbe kerül. Jelenleg még semmi nincs megvásárolva. A belmagasság miatt nincs álpadló, illetve nem építhető ki. Többféle hálózati készüléket kell üzembe helyezni, köztük blade szerve-reket és rack-es szervereket, adattároló és hálózatkezelő eszközöket. A blade szerverek egy helyen lesznek, nem elosztva. Az elvárás az, hogy a rendelkezésre álló helyiségnek jelenleg csak a felét használjuk ki. A helyiség többi részét a jelenleginél 20 százalékkal nagyobb sűrűségű telepítéshez kell fenntartani, ahol várha-tóan legalább három rack-nyi blade szervert fognak üzembe helyezni, rackszekrényeként 25 kW fogyasztás-sal. Rendelkezésre állás terén az elvárás nem redundáns energiaellátó és hűtőrendszer kiépítése. A helyiség vázlatos alaprajza a 3. ábrán látható, továbbá szerepel rajta a rackszekrények javasolt elhelyezése is, ami összesen 41 rack telepítését teszi lehetővé. A döntés értelmében az 1., a 2. és a 3. sor telepítése azonnal megtörténik, míg a 4., az 5., a 6. és a 7. sor telepítését később végezzük el. A tervezett telepítések áttekintésével lehetőség nyílik a hasonló energiaigényű készülékek azonos sorokba rendezésére, amivel csökken az egyes sorokra jellemző csúcs/átlag energiaigény arány. A blade szerverek a 2. sorba kerülnek. Az 1., a 2. és a 3. sor jellemzői a 4. táblázatban találhatók.

Page 17: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 17

3. ábra A tervezett adatközpont alaprajza és a rackszekrények javasolt elrendezése (Kép az APC InfraStruXure Build-Out Tool alkalmazásból.)

Page 18: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 18

Adat Mértékegység 1. sor

2. sor

3. sor

4. sor

5. sor

6. sor

7. sor

Összesen

Rack pozíciók száma db 7 7 7 5 5 5 5 41

Rack átlag a sorban kW / rack 2 5 3 4 4 4 4 3,7

Rack csúcs a sorban kW / rack 4 15 6 15 15 15 15 15

A fentiek alapján az első telepítési ütem átlagos sűrűsége (2*7+ 5*7+ 3*7) / 21 = 3,3 kW/rack. Ha a további sorokat 20%-kal nagyobb sűrűségre tervezzük (a sorok pontos adatait egyelőre meghatározatlanul hagy-va), akkor a teljes adatközpont sűrűsége (2*7+ 5*7+ 3*7+ 4*5+ 4*5 + 4*5+ 4*5) / 41 = 3,7 kW/rack lesz. A jövőbeli, egyelőre pontosan nem specifikált sorok csúcssűrűségét 15 kW-ra tervezve biztosítható, hogy ezeket a sorokat a későbbiek során rugalmasan módosítani lehessen. A 4. táblázat ezeket a jövőbeli specifikációkat is tartalmazza a 4., 5., 6. és a 7. sorhoz. Az, hogy a jövőbeli sorokhoz magas csúcsértéke-ket veszünk, csak annyit jelent, hogy a központi hűtő- és energiaellátó berendezéseket előrelátó módon méretezzük. Az 1. ábra alapján az energiaellátó és hűtőberendezések által végül elfoglalt hely 3,7 kW-os átlagos rackszekrény-sűrűségnél 30 százalék lesz, ami 13 rackszekrénynek (30% x 41 szekrény) felel meg. A sűrűségi adatok alapján tehát az elhelyezhető IT rackszekrények száma – 70%-kal számolva 28 lesz. A tervezett szerver konszolidáció sűrűségi specifikációi a 4. táblázatban, míg a számított értékek az 5. táblázatban szerepelnek.

Adat Érték Mértékegység Megjegyzés Rendelkezésre álló IT rackek száma 28 db Az adatközpont területének egy részét az energiaelosztó és a hűtőrendszer foglalja el.

Kezdeti energiaigény

47 kW Kezdetben legalább 47 kW kapacitású energiaellátó és hűtőrendszerre van szükség. Az 1. ábra alapján, az 1., 2. és 3. sor sűrűségét figyelembe véve a rendelkezésre álló rack pozíciók száma rendre 6, 4 és 5. (6 x 2 kW / rack + 4 x 5 kW / rack + 5 x 3 kW / rack = 47 kW)

Teljes végső energiaigény 104 kW

Az energiaellátó és hűtőberendezések fennmaradó részét, mintegy 60 kW-nyi kapacitást csak a fennmaradó sorok jellemzőinek meghatározása után szerezzük be. (28 IT rack x 3,7 kW / rack = 104 kW)

Energiasűrűség csúcsértéke 15 kW / rack

Az ilyen nagy sűrűség hűtése szűkíti a választási lehetőségeket és növeli a költségeket. A nagyobb fogyasztású készülékeket a terv véglegesítése előtt meg kell próbálni szétszórni.

Az adatközpont átlagos energiasűrűsége

3,7 kW / rack A példában szereplő adatközpont közel kétszer akkora sűrűségű, mint a napjainkban létező átlagos adatközpontok. A jelenlegi adatközpontoknak alig 2 százaléka éri el ezt a sűrűséget.

4. táblázat A tervezett adatközpont sorainak sűrűségi adatai

5. táblázat Számított, helyiségszintű adatok a tervezett adatközponthoz

Page 19: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 19

Ezt követően megkezdhető a tervezés. A következő lépés az energiaellátó és hűtőberendezések helyének kiválasztása, mely a berendezések jellegétől és a rendszer kivitelétől függ. A folyamat az egyes berendezések összetett matematikai modelljeire, illetve optimalizálási eljárásokra és a felhasználó elvárásaira épül. A folya-mat az egyes energiaellátó és hűtőberendezések esetében gyártótól függő és egyedi, ezért itt nem tárgyaljuk részletesebben. Ideális esetben a terv nem csak a kezdeti telepítésnél szükséges energiaellátó és hűtőberen-dezésekre terjed ki, hanem a jövőbeliekre is, így képes kielégíteni a részlegesen specifikált jövőbeli telepítések igényeit is. Ezt szolgálja például az is, hogy az első telepítési fázisnál megtörténik a jövőbeli rackszekrények energiaellátó és hűtőinfrastruktúrájának kiépítése is. Érdemes megjegyezni, hogy bár már most megadjuk a jövőbeli sorokhoz a rackszekrények átlagos és csúcssűrűségét, ezek az értékek a telepítések tényleges elvégzése előtt bármikor módosíthatók, feltéve, hogy a módosítást követően teljes terület összesített energia-igénye nem haladja meg a jelenleg tervezett szintet.

Page 20: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 20

Az adatközpontok sűrűségének megadására hagyományosan használt módszerek primitívek, félreérthetők és nem teljesek. A régi módszerek alkalmatlanok arra, hogy tervezési útmutatást nyújtsanak a legújabb generációjú, nagysűrűségű IT berendezések befogadására is képes, azokat kiszámítható energiaellátási és hűtési teljesítménnyel ellátó adatközpontokhoz. Tanulmányunk ismerteti a sűrűségmegadással kapcsolatos elvárásokat, valamint tárgyal egy erre a célra használható új módszert. A módszer megbízható specifikációt szolgáltat, amelyek egyértelművé teszik a kommunikáció az IT szakemberek és a létesítmények tervezői között, továbbá megkönnyítik a kiszámítha-tó, költséghatékony és elektromos szempontból hatékonyan üzemelő adatközpontok létrehozását.

Végkövetkeztetés

Neil Rasmussenaz American Power Conversion műszaki igazgatója és egyik alapítója. Az APC-nél Neil irányítja a világ legnagyobb költségvetésű, a létfontosságú hálózatok energiaellátásával, hűtésével és szekrényes infrastruktúrájával kapcsolatos kutatás-fejlesztési munkákat végző szervezetet. A fő termékfejlesztési központok Massachusettsben, Missouriben, Dániában, Rhode Islanden, Tajvanon és Írországban találhatók. Neil jelenleg az APC moduláris, méretezhető adatközpont megoldások kifejlesztésére irányuló munkálatait vezeti. Az APC 1981-es megalapítása előtt Neil az MIT-n szerzett villamosmérnöki diplomát, diplomadolgozatát egy Tokamak fúziós reaktor 200 MW-os tápellátásáról írta. 1979 és 1981 között az MIT Lincoln Laboratóriu-mában dolgozott, ahol lendkerekes energiatároló megoldásokkal és napenergiás rendszerekkel foglalko-zott.

A szerzőkről

Page 21: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 21

Nagysűrűségű rackszek-rények és blade szerverek tápellátása és hűtése 46. tanulmány

Rack Powering Options for High Density 29. tanulmány

Források Az ikonra kattintva ugorhat a forráshoz

Tanulmányok Tallózása whitepapers.apc.com

tools.apc.com

TradeOff Tools™Eszközök Tallózása

A tanulmány tartalmával kapcsolatos észrevételeit a következő címre várjuk: Data Center Science Center [email protected] Amennyiben Ön ügyfelünk, és adatközponti projektjével kapcsolatos kérdése van: Forduljon Schneider Electric képviselőjéhez www.apc.com/support/contact/index.cfm

Elérhetőségünk

Page 22: Irányelvek az adatközpontok energiasűrűségének ... · PDF filerendszerben rossz üzemeltetési hatékonysághoz vezet. A sűrűségtervezés problémáját tovább súlyosbítja,

Irányelvek az adatközpontok energi-asűrűségének specifikálásához

Schneider Electric – Data Center Science Center Tanulmány 120 Ver 1 22

Az adatközpontban rack elhelyezésre megmaradó helyek hányada az energiaellátó és hűtőberendezések telepítése után Az 1. ábra grafikonja úgy áll elő, hogy egyensúlyba hozzuk a fogyasztók energiaigényét és az energiaellátó és hűtőberendezések kapacitását, ahol: PI = Az IT berendezések fogyasztása PN = Az energiaellátó és hűtőberendezések kapacitása DI = Az IT berendezések sűrűsége (kW / rack hely) DI = Az energiaellátó és hűtőberendezések sűrűsége (kW / rack hely) RN = Az energiaellátó és hűtőberendezések által elfoglalt rack helyek száma RI = Az IT berendezések által elfoglalt rack helyek száma RT = A rendelkezésre álló terület rack helyeinek összege

IN PP =

IINN DRDR =

Ugyanakkor: ITN RRR −=

Vagyis:

A záró képlet alapján áll elő az 1. ábrán látható görbe függvénye. A DN értéke a ténylegesen alkalmazott energiaellátó és hűtőberendezésektől és a redundanciától függ.

Függelék

N

IIN D

DRR =

N

IIIT D

DRRR =− ⎟⎟⎠

⎞⎜⎜⎝

⎛+=

N

IIT D

DRR 1

⎟⎟⎠

⎞⎜⎜⎝

⎛+

=

N

IT

I

DDR

R

1

1