消費電力は2万7千世帯分!?電力と冷却の仕組みを見てきたよ!【スパコン京を見に行こう!第3弾】
京の消費電力は、全能力をフル稼働させた場合、一般家庭の3万世帯分、定常運用でも約2万7千世帯分程度になるそうです。消費電力値としては約11,000kW!!
スーパーコンピュータのランキングには、 Top500やGraph500という性能ランキングの他に、Green500というエコ性能を比較するランキングがあります。「京」が世界一を達成した2011年6月、「京」はGreen500で第6位を獲得していました。現在は、よりエコなスパコンが登場していますが、「京」もできた当時はかなりエコなスパコンだったんですね。
商用電源とコジェネを併用!
「京」が設置されている理化学研究所 計算科学研究機構は、施設全体を関西電力からの商用電源と、発電機からの電力供給で稼働しています。この発電機は、川崎重工の「カワサキガスタービン・コージェネレーションシステム PUC60」という発電機で、約6,000kWのガスタービン発電機が2基、稼働しています。名前の通り、ただの発電機ではございません、コージェネレーションシステムなんです。(以下、「コジェネ」と略します)
コジェネとは、
- ガスや石油などを燃料として、発電を行い、
- 発電で発生した熱を回収し、さらに利用する
というエネルギー効率の高い仕組みを指します。
発電機で発電したら、発電で出る熱を回収して、それも使っちゃうんです。
こちらが理化学研究所に設置されている発電機です。
■コジェネを採用する理由
なぜ「京」ではコジェネが採用されているのか。それは低コスト・省エネが目的になっているからなんです。
電気料金は、年間の最大使用量を基準に契約電力(基本料金)が決められています。コジェネを商用電源と併用することで、電力のピークカット(最大使用量を下げること)ができるので、電気料金を削減することができます。商用電源だけでは、膨大な電気代がかかってしまいますが、電力と熱を無駄なく利用するコジェネでは、高いエネルギー効率を実現できるんですね。
しかもここのコジェネは、かなりの高効率。 火力発電所の熱効率は約38%と言われている中で、理化学研究所のコジェネは75%にもなるんです。なんという高効率!発電だけでは、理化学研究所のコジェネも30%程度にしかなりませんが、排熱も活用しているため、これだけの高効率を実現できています。
だったら商用電源は使わずに、全部発電機にすれば良いじゃない!とも思えますが、そうすると排熱を使い切れずに捨ててしまうことになり、コジェネの特性が生かせなくなってしまうんです。丁度良かったのが、商用電源と発電機の併用だったんですね。事実、コジェネのおかげで契約電力を約8,000kW低減することに成功していて、電力基本料金のうち、年間1.5億円を削減できているんだそうです。
商用電源は「京」に供給され、発電機で発電した電力は「京」以外のファイルシステムや、研究棟設備などの電力として使われています。
なぜ2種類の電力の供給先が、「京」と「それ以外」に分けられたんでしょうか。
■守るべきはスパコンよリもデータ!
サーバには、UPS (Uninterruptible Power Supply:無停電電源装置) という非常用の電源がセットで設置されることが多くあります。このUPSは、停電等により電力が断たれた場合、安全にサーバをシャットダウンするために、シャットダウンするための電力を供給してくれる装置です。
デスクトップパソコンを使っているとき、電源コードが抜けたり、落雷が発生したりすることで、突然パソコンが落ちててデータが消えちゃった...なんて経験、ありませんか?サーバでそれが起きると、個人が困る、というレベルを超えてきますので、UPSという装置を付けて重要なデータを守りつつシャットダウンするようになっています。
では、スパコン「京」はどうでしょう。
UPSは、サーバをシャットダウンするための電力しか有していません。時間にして5~10分程度。「京」をシャットダウンするには、数時間~丸1日を要するため、これでは全く足りません。しかも「京」を構成している筐体は864台もあります。「京」が設置してあるフロアと同じぐらいの面積を使ってUPSを何千台もダダーーーっと並べても足りません。しかもUPSは蓄電池なので、一定期間で交換が必要になります。UPSの導入費用、メンテナンス費用や設置面積の問題を考えると、あまり現実的ではありませんね。
ぇ、じゃあ停電が起きたら「京」は止まるの?
データセンターでは、大抵異なる電力会社から複数の電源を供給したり、自家発電設備を用意することで、絶えず電力を供給できるようになっています。しかし、「京」が稼働する施設には、1系統の電力会社からの電力供給しかありません。
そう、ここで登場するのがコジェネ!発電機がUPSの代わりになってくれます。
関西電力から供給される電力が何らかの理由で断たれてしまった場合、都市ガスを使って発電している発電機がフル稼働で「京」の電力供給も行います。2基ある発電機は、通常1基しか動かしていませんが、停電や、「京」計算能力を限界まで使うとき(性能を測定するとき)など、「京」の電力供給を補わなくてはならない場合は、2基同時に稼働させるそうです。
ただ、日本では停電は滅多に起こりません。
実は、精密機器にとって怖いのは、停電よりも「瞬低」なんです。
「瞬低」、瞬時電圧低下。0.05~0.2秒程度の瞬間的な電圧低下のことで、多くは送電線への落雷が原因となっています。一般家庭では問題になりませんが、精密機器の中には、この瞬低に耐えられないものがあります。
面白いことに、スパコンは、瞬低をそこまで気にする必要がないんです。多少の瞬低には耐えられるようになっているんですね。
しかし、スパコン以外の装置への電源供給を開け閉めしている機械(電磁開閉器)は瞬低の影響を受けてしまい、各種装置を停止させてしまいます。そうすると何が起こるかというと、スパコンが助かったとしても、それ以外の冷却装置などが停止してしまい、じきにスパコンも停止してしまうのです。
これらの事象から、瞬低の影響を受けやすいものや、絶対に停電させてはいけない重要なデータを抱えているファイルシステムは、商用電源を使わずに発電機からの電力で稼働させ、瞬低の影響を受けにくいスパコンは商用電源を使っている、ということなんですね。
電力供給だけじゃなーい!冷却にも役立つコジェネ!
コジェネは、ガスや石油などを燃料として発電を行い、発電で発生した熱を回収して、さらに利用する、と前述しました。
さてここで問題です。コジェネから出てくる排熱、温度は何度でしょう。
チッ
チッ
チッ
チーンッ。
答えは・・・・・、なんと、500度!!
しかもこの排熱、「京」の冷却に使われます。アツイ熱で冷却?
■水で「京」のプロセッサを冷やす!
「京」は、空気で冷やす"空気冷却"と、水で冷やす"液体冷却"を併用しています。特に高温になるCPUの周辺では液体冷却を用い、それ以外の部分は空気冷却を用いることで、効率的な冷却を行っています。中を通っている液体は純水で、14~15℃に保たれています。流れる液体の量は 「京」1筐体につき毎分約44リットル。結構な量ですね。CPUの熱を吸収して熱くなった冷却水は、発電機が置いてある熱源機械棟へ回収され、そこにある冷凍機で冷却された後、また「京」へと戻っていきます。
この熱源機械棟には、冷媒としてガスを採用し、ターボ式圧縮機で圧縮する「ターボ冷凍機」、ガスをスクリュー式圧縮機で圧縮する「スクリュー式冷凍機」、そして水(吸収力の高い液体)を冷媒として採用する「吸収式冷凍機」、という3種類の冷凍機があります。
今回は、吸収式冷凍機について紹介します。
まず、本体はコレ。
この吸収冷凍機は、蒸発、吸収、再生、凝縮、を繰り返しています。
- 蒸発
「京」のCPUの熱を吸収した液体は、蒸発器で冷やされます。蒸発器では、気化熱を利用して、液体を冷やしています。気化熱というのは、液体が蒸発するときに一緒に熱を奪っていく仕組みのこと。注射の時にアルコール消毒でヒヤっとするのは気化熱の仕業。夏に行う"打ち水"も気化熱の仕組みを利用したもの。
蒸発器の中は常に真空状態になって、低温でも水が蒸発するようになっています。「京」を冷却する液体の管に水をかけ、気化熱で6℃程度、液体の温度を低くすることができるのです。 - 吸収
蒸発器では、気化熱の仕組みで液体を冷やしていました。気化熱を上手く使うためには、蒸発器の中を常に真空状態に保たなくてはなりません。そのため、吸収器では、蒸発器で発生した蒸気を"吸収液(臭化リチウム)"を使って回収します。水蒸気は吸収液に溶け込み、吸収液は薄くなります。 - 再生
再生器では、吸収器にある薄くなった吸収液を回収し、熱することで水蒸気を蒸発させ、元の濃度の吸収液に戻します。この時に、発電機の熱い排熱を活用しています。 - 凝縮
再生器で発生した水蒸気は、凝縮器まで移動させます。凝縮器の中で水蒸気を冷却し、水に戻します。そしてその水はまた蒸発器へ移動し、「京」を冷却している液体を冷ますために使われていきます。
発電機の排熱を上手く活用しながら、「京」の冷却が行われているんですね。これがコジェネの魅力ですね:-)
屋外冷却塔では、冷却水を冷却するための巨大なラジエータのようなものが並んでいました(図中、緑色で記している冷却水を冷やすための冷却塔です。この冷却水は「京」のCPUを冷やすための液体ではありません)。近くで見ていると、冷却水が顔にピチャピチャと飛んできて、なぜか大興奮でした(笑)
■モンロー方式で効率的に空気冷却!?
夏の暑くて広い部屋を涼しくするためには、エアコンをフル稼働させないと冷えませんよね。同じように、体育館2つ分にもなる「京」が置いてある広大な部屋は、なかなか冷えません。
そこで考えられたのが、「京」の下から冷風を均等に吹き出す、という仕組み。前回のブログを読んでいただくと、3階に「京」が置いてあり、その下の2階は空調機械室になっているのがわかると思います。空調機械室には50台の空調機(強力なエアコンのようなもの)が並べられており、まるでマリリン・モンローが通気口の上で白いドレスが捲れるのと同じように、「京」の床下から冷風が吹き上げてきます。そう、これぞマリリン・モンロー方式!(冗談です、そんな言いかたしません笑)
サーバやデータセンターで聞く、あのうるさい騒音は、冷却用のファンが回転している音なんです。「京」のように、水冷と併用し、空冷の割合を減らすことで、騒音も抑えることができるんですね。
------------------------------
先日、行政事業レビューの中継を見ました。以前は「2位じゃダメなんですか!?」と話題になりましたね。今回は「京」の運用費用について行政レビューで質疑が上がっていました。
その中で、運用コストは保守体制を見直すことでマイナス8億円まで抑制できたにもかかわらず、電気代が上がってしまったために全体としては±0である、という話がでていました。実態はもっと複雑な話なのかもしれません。
私は、見学に行ったことで、この電力供給についての仕組みを学ぶことができました。
実際には電力供給のことだけを考えているわけではなく、全体としてどう最適化するか、ということが良く考え抜かれている施設であること、そしてそれは簡単なものではないんだ、ということを痛感いたしました。。
ぜひ、見学に行ける方は行ってみてください:-)
さぁ、次回は最終回、免震ピットに潜入!!です。
【連載】スパコン「京」を見に行こう!
第1弾:京コンピュータ前駅、初上陸!
第2弾:スパコンの能力を最大限に引き出す"城"
第3弾:消費電力は2万7千世帯分!?電力と冷却の仕組みを見てきたよ!【
第4弾:免震ピットへGo!