データセンターはどこまで遠くに

「ネットワークの遅延があるから地球の裏側とかのデータセンターは使いにくい」。こんな話をよく聞きます。確かにネットワークを伝わる信号は光の速さを超えられないので、米国のデータセンターなどを使えば、軽く100ミリ秒以上の損をします。でも100ミリ秒ちがったとして、本当にアプリケーションが使いづらいのか、ほかに高速化の手立てはないのか、ちょっと調べてみました。

アプリケーションによっては確かに数ミリ秒でも命取りになるものがあるのも事実です。最近話題の証券取引所などでは、プログラムで取引をして、より有利な売買をするために、取引所のデータセンターに投資家がサーバーを置けるようにする、コロケーションサービスが出始めました。まさに光の速度との戦いです。

一方では旧来のオンライン端末と呼ばれるものの応答時間の目標は3秒というのが昔よく聞かれた数字です。さすがに3秒は、銀行ATMの出始めとは違い、今の時代、ユーザーがかなり忍耐を強いられそうな数字です。実際、あのインターネットのキャッシングをしているアカマイの調査では、応答時間が3秒を超えるeコマースのサイトは相手にされなくなり、今は2秒がひとつの目安であるという調査結果が出ています。

こう見てくると、アプリケーションによってかなり幅はあるものの、広く使われるアプリケーションの多くは、皆さんの体感からも1秒や2秒程度がひとつの応答時間の目安ではないかと思われます。そこで実際に応答時間は何の総和で決まるかといえば、大雑把には、ネットワークの往復での遅延、サーバーでの処理の遅延、そしてクライアントの処理の遅延との和であることは容易に理解できます。

では実際、国際ネットワークの遅延はどのくらいでしょう。平均的な往復での遅延の目安について、キャリアの公表データからの現時点でのまとめがありました。国内とソウルや台北までならば50ミリ秒以内。シンガポールや北京といったところだと100ミリ秒以内。さらにバンコクや米国西海岸のサンホゼあたりでは100ミリ秒を超えるくらい。そしてニューヨークやシドニー、インドのムンバイだと200ミリ秒以内とのことです。もちろんこれを改善すべく努力もされているようです。

さてサーバーの処理時間と言えば、これもアプリケーションによって違いますし、測り方もいろいろありそうですが、平均処理時間が公表されているものがあります。PaaSで有名なSalesforceではトランザクションが一日1億に達しても平均253ミリ秒が実現できたとあります。またSaaSではオービックの勘定奉行 for J-SaaSでは、目標は3秒以内ですが、実績は平均32ミリ秒と、かなり軽くつくってあるようです。

そしてクライアント処理時間ですが、これはほとんどブラウザーのスピードになるわけです。Google Chromeが高速化にこだわって開発されていることは有名です。設計ポイントの一つが、DNS解決のプリフェッチによる高速化があり、それだけで軽く100ミリ秒がかせげるという記事がありました。彼らは過去、検索結果の行数を増やして500ミリ秒遅くしたことで収益を減らした経験があるそうです。

このように見てくると、速いブラウザーを使う、近くのセンターを使う、高速なサーバーを使うという応答時間に関する3つのポイントがあることが整理でき、それぞれの改善努力がされていることが分かります。もちろん速いにこしたことはありませんが、データセンターまでの距離で左右されるのがせいぜい200ミリ秒とすれば、国際ネットワークが遅いから地球の裏側のデータセンターは使えないはず、というのは特別なアプリケーションのみではないかなと思えてきました。