(57)【要約】【課題】本発明は、処理サーバの処理負荷を一定以下に保ちつつ、要求信号の処理ＴＡＴを低減することができる負荷分散装置および負荷分散方法を提供する。【解決手段】負荷分散装置１００は、低遅延サーバの処理の限界値である負荷制限値を記憶する情報格納部１３０と、低遅延サーバの負荷情報を取得するサーバ情報取得部１２０と、高遅延サーバの台数と、低遅延サーバの台数と、取得した負荷情報の最大値と低遅延サーバの負荷変動を示す処理サーバの負荷変動率Ａとに基づいて、負荷制限値を超えない範囲で、高遅延サーバに振り分けるべき信号を低遅延サーバに振り分ける肩代わり信号数Ｓを算出する肩代わり信号数算出部１１１と、算出した肩代わり信号数Ｓ分を、高遅延サーバから低遅延サーバに振り分ける振分機能部１１０と、を備える。【選択図】図１
2018128956.tif 000002
【特許請求の範囲】
【請求項１】
拠点内に複数の処理サーバが備えられ、クライアントからリクエストされた情報処理を実行させる前記処理サーバを決定する負荷分散装置であって、
各前記処理サーバの処理ＴＡＴ（Turn Around Time） を測定する処理時間測定手段と、
測定した前記処理ＴＡＴに基づいて、前記処理サーバを高遅延サーバと低遅延サーバとに分類する分類手段と、
前記低遅延サーバの処理の限界値である負荷制限値を記憶する記憶手段と、
前記低遅延サーバの負荷情報を取得する負荷情報取得手段と、
前記高遅延サーバの台数と、前記低遅延サーバの台数と、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記高遅延サーバに振り分けるべき信号を前記低遅延サーバに振り分ける肩代わり信号数を算出する信号数算出手段と、
算出した前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分ける振分手段と、
を備えることを特徴とする負荷分散装置。
【請求項２】
前記信号数算出手段は、前記低遅延サーバで処理した場合の処理ＴＡＴと、前記高遅延サーバで処理した場合の処理ＴＡＴとに基づいて、前記リクエストをあらかじめ決めた順序で各前記処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率を算出するとともに、
前記低遅延サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記肩代わり信号数を評価するスコアを算出し、
前記振分手段は、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲の中から、最大の前記スコアとなる前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分ける
ことを特徴とする請求項１に記載の負荷分散装置。
【請求項３】
前記負荷情報取得手段は、前記低遅延サーバのＣＰＵ使用率を負荷情報として取得する
ことを特徴とする請求項１に記載の負荷分散装置。
【請求項４】
前記低遅延サーバで処理した場合の処理ＴＡＴを１としたとき、前記高遅延サーバで処理した場合の処理ＴＡＴは、前記高遅延サーバの処理ＴＡＴの平均を前記低遅延サーバの処理ＴＡＴの平均で割った値で近似される
ことを特徴とする請求項１に記載の負荷分散装置。
【請求項５】
前記振分手段は、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動率とを乗算し、ＣＰＵ閾値を超えない前記肩代わり信号数の範囲を算出し、算出した前記肩代わり信号数の範囲の中で最大のスコアとなる前記肩代わり信号数の値で振り分けを行う
ことを特徴とする請求項１に記載の負荷分散装置。
【請求項６】
前記分類手段は、各前記処理サーバを処理ＴＡＴの小さい順に低遅延サーバとして１台ずつ、全台数−１まで増加させていき、それぞれの場合の前記低遅延サーバの台数と前記高遅延サーバの台数とを決定し、
前記信号数算出手段は、決定された前記低遅延サーバの台数と当該低遅延サーバの台数と、前記低遅延サーバで処理した場合の処理ＴＡＴと、前記高遅延サーバで処理した場合の処理ＴＡＴとに基づいて、前記リクエストをあらかじめ決めた順序で各前記処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率を算出するとともに、前記低遅延サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記肩代わり信号数を評価するスコアを算出し、
前記振分手段は、取得した負荷情報の最大値と低遅延サーバの負荷変動率を乗算し、ＣＰＵ閾値を超えない前記肩代わり信号数の範囲を算出し、算出した前記肩代わり信号数の範囲の中で最大の前記スコアとなる前記肩代わり信号数の値で振り分けを行う
ことを特徴とする請求項１に記載の負荷分散装置。
【請求項７】
拠点内に複数の処理サーバが備えられ、クライアントからリクエストされた情報処理を実行させる前記処理サーバを決定する負荷分散装置の負荷分散方法であって、
前記負荷分散装置は、
前記各処理サーバの処理ＴＡＴ（Turn Around Time）を測定する処理時間測定ステップと、
測定した前記処理ＴＡＴに基づいて、前記処理サーバを高遅延サーバと低遅延サーバとに分類する分類ステップと、
前記低遅延サーバの処理の限界値である負荷制限値を記憶する記憶ステップと、
前記低遅延サーバの負荷情報を取得する負荷情報取得ステップと、
前記高遅延サーバの台数と、前記低遅延サーバの台数と、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記高遅延サーバに振り分けるべき信号を前記低遅延サーバに振り分ける肩代わり信号数を算出する信号数算出ステップと、
算出した前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分ける振分ステップと、
を実行する負荷分散方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データセンタの複数の処理サーバに対して、クライアントからリクエストされた情報処理を実行させるサーバを決定する負荷分散装置および負荷分散方法に関する。
【背景技術】
【０００２】
サーバ構成技術や仮想化技術の発達、激甚災害対策等により、地域や国をまたいでデータセンタが接続され、そのデータセンタ内に複数の処理サーバが存在するようになった。点在する処理サーバに対して負荷を分散するため、ロードバランサのような負荷分散装置を設置し、当該負荷分散装置を用いて要求信号（リクエスト）を処理サーバに振り分け、各処理サーバの負荷を分散させることが一般的である。
例えば、非特許文献１では、各処理サーバの負荷状態（ＣＰＵ使用率など）や応答時間を考慮して振分先の処理サーバを決定し、負荷分散を実現している。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】負荷分散入門(ロードバランサ入門),［online］,［平成２９年１月２４日検索］,インターネット  〈 URL : http://fenics.fujitsu.com/products/ipcom/catalog/data/1/3.html〉
【非特許文献２】北野  雄大、岡本  光浩 ”拠点間通信遅延を考慮した負荷分散方法” 2016年電子情報通信ソサイエティ大会、B-6-13
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、地域や国をまたいで信号を処理サーバに振り分けることによって、当該信号において、地域や国をまたぐ分の処理遅延が生じることになる。処理遅延が生じると、例えば通信制御サーバにおいては、後続信号が先行信号を追い抜いたりすることも考えられ問題となる。
一方で、処理遅延を防止するため、拠点内の処理サーバへ優先して信号を割り振ると、拠点内の処理サーバのみ負荷が重くなってしまい、ハードウェアリソースの非効率化や不要なスケーリングにつながってしまう。
非特許文献１に記載の負荷分散方法は、応答時間や処理サーバの負荷を考慮して処理サーバを決定している。しかし、全ての処理サーバの負荷状態や応答時間を収集する必要があるため、処理サーバが地域や国をまたいで存在していた場合は、情報を収集するための信号が増大しネットワーク帯域を圧迫する可能性がある。
【０００５】
このような背景に鑑みて本発明がなされたのであり、本発明は、処理サーバの処理負荷を一定以下に保ちつつ、要求信号の処理ＴＡＴ（Turn Around Time）を低減することができる負荷分散装置および負荷分散方法を提供することを課題とする。
【課題を解決するための手段】
【０００６】
前記した課題を解決するため、請求項１に記載の発明は、拠点内に複数の処理サーバが備えられ、クライアントからリクエストされた情報処理を実行させる前記処理サーバを決定する負荷分散装置であって、各前記処理サーバの処理ＴＡＴを測定する処理時間測定手段と、測定した前記処理ＴＡＴに基づいて、前記処理サーバを高遅延サーバと低遅延サーバとに分類する分類手段と、前記低遅延サーバの処理の限界値である負荷制限値を記憶する記憶手段と、前記低遅延サーバの負荷情報を取得する負荷情報取得手段と、前記高遅延サーバの台数と、前記低遅延サーバの台数と、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記高遅延サーバに振り分けるべき信号を前記低遅延サーバに振り分ける肩代わり信号数を算出する信号数算出手段と、算出した前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分ける振分手段と、を備える負荷分散装置とした。
【０００７】
また、請求項７に記載の発明は、拠点内に複数の処理サーバが備えられ、クライアントからリクエストされた情報処理を実行させる前記処理サーバを決定する負荷分散装置の負荷分散方法であって、前記負荷分散装置は、各前記処理サーバの処理ＴＡＴを測定する処理時間測定ステップと、測定した前記処理ＴＡＴに基づいて、前記処理サーバを高遅延サーバと低遅延サーバとに分類する分類ステップと、前記低遅延サーバの処理の限界値である負荷制限値を記憶する記憶ステップと、前記低遅延サーバの負荷情報を取得する負荷情報取得ステップと、前記高遅延サーバの台数と、前記低遅延サーバの台数と、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記高遅延サーバに振り分けるべき信号を前記低遅延サーバに振り分ける肩代わり信号数を算出する信号数算出ステップと、算出した前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分ける振分ステップと、を実行する負荷分散方法とした。
【０００８】
このようにすることで、同じ拠点内に低遅延サーバと高遅延サーバが混在する場合や、他拠点の処理サーバのＴＡＴが動的に変動する場合であっても、振り分ける信号数を適切に算出することができる。その結果、処理サーバの処理負荷を一定以下に保ちつつ、要求信号の処理ＴＡＴを低減することができる。
【０００９】
また、請求項２に記載の発明は、前記信号数算出手段は、前記低遅延サーバで処理した場合の処理ＴＡＴと、前記高遅延サーバで処理した場合の処理ＴＡＴとに基づいて、前記リクエストをあらかじめ決めた順序で各前記処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率を算出するとともに、前記低遅延サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記肩代わり信号数を評価するスコアを算出し、前記振分手段は、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲の中から、最大の前記スコアとなる前記肩代わり信号数分を、前記高遅延サーバから前記低遅延サーバに振り分けることを特徴とする。
【００１０】
このようにすることで、処理サーバの負荷と応答時間の両面を考慮して、処理負荷を制限しつつ、応答時間をできるだけ早めることができる。換言すれば、低遅延サーバの処理負荷をギリギリまで上げてＴＡＴを減らすことができる。
【００１１】
また、請求項３に記載の発明は、前記負荷情報取得手段が、前記低遅延サーバのＣＰＵ使用率を負荷情報として取得することを特徴とする。
【００１２】
このようにすることで、各処理サーバのＣＰＵ使用率は比較的取得が容易であるため、各処理サーバの処理負荷をタイムリーで取得でき、負荷分散動作に直ちに反映させることができる。
【００１３】
また、請求項４に記載の発明は、前記低遅延サーバで処理した場合の処理ＴＡＴを１としたとき、前記高遅延サーバで処理した場合の処理ＴＡＴは、前記高遅延サーバの処理ＴＡＴの平均を前記低遅延サーバの処理ＴＡＴの平均で割った値で近似されることを特徴とする。
【００１４】
このようにすることで、低遅延サーバで処理した場合の処理ＴＡＴと高遅延サーバで処理した場合の処理ＴＡＴとの通信遅延倍率から、１ラウンドにおける信号処理ＴＡＴ変動率を求めることができる。これにより、低遅延サーバの負荷変動率と、平均信号処理ＴＡＴ変動率とを用いて肩代わり信号を算出することができる。
【００１５】
また、請求項５に記載の発明は、前記振分手段が、取得した前記負荷情報の最大値と前記低遅延サーバの負荷変動率とを乗算し、ＣＰＵ閾値を超えない前記肩代わり信号数の範囲を算出し、算出した前記肩代わり信号数の範囲の中で最大のスコアとなる前記肩代わり信号数の値で振り分けを行うことを特徴とする。
【００１６】
このようにすることで、算出した肩代わり信号数の範囲の中で最大のスコアとなる肩代わり信号数の値で振り分けを行うので、より信頼度の高い肩代わり信号数Ｓを得ることができる。その結果、より最適な肩代わり信号数Ｓ分だけ高遅延サーバから低遅延サーバに振り分けることができる。
【００１７】
また、請求項６に記載の発明は、前記分類手段が、各処理サーバを処理ＴＡＴの小さい順に低遅延サーバとして１台ずつ、全台数−１まで増加させていき、それぞれの場合の前記低遅延サーバの台数と前記高遅延サーバの台数とを決定し、前記信号数算出手段は、決定された前記低遅延サーバの台数と当該低遅延サーバの台数と、前記低遅延サーバで処理した場合の処理ＴＡＴと、前記高遅延サーバで処理した場合の処理ＴＡＴとに基づいて、前記リクエストをあらかじめ決めた順序で各前記処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率を算出するとともに、前記低遅延サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記肩代わり信号数を評価するスコアを算出し、前記振分手段は、取得した負荷情報の最大値と低遅延サーバの負荷変動率Ａを乗算し、ＣＰＵ閾値を超えない前記肩代わり信号数の範囲を算出し、算出した前記肩代わり信号数の範囲の中で最大の前記スコアとなる前記肩代わり信号数の値で振り分けを行うことを特徴とする。
【００１８】
このようにすることで、一定値である応答時間閾値を用いずに、処理サーバの全体的な処理遅延や処理負荷を見て動的に、その時点で最適な低遅延サーバおよび高遅延サーバを分類するので、より適切な処理サーバの分類を行うことができる。その結果、負荷分散のさらなる最適化を図ることができ、より一層処理負荷を制限しつつ、応答時間をできるだけ早めることができる。
【発明の効果】
【００１９】
本発明によれば、処理サーバの情報を収集するための信号量を減らしつつ、応答時間と処理サーバの処理負荷を減らすことができる負荷分散装置および負荷分散方法を提供することができる。
【図面の簡単な説明】
【００２０】
【図１】本発明の第１の実施形態に係る負荷分散装置が適用される分散システムを示す構成図である。
【図２】上記第１の実施形態に係る負荷分散装置の情報格納部が格納する拠点情報を示す図である。
【図３】上記第１の実施形態に係る負荷分散装置の負荷分散動作を説明する図である。
【図４】上記第１の実施形態に係る負荷分散装置の高遅延サーバに振り分ける信号を低遅延サーバで処理する負荷分散動作を表にして説明する図である。
【図５】上記第１の実施形態に係る負荷分散装置の負荷分散のシーケンス例を示すフローチャートである。
【図６】図５のシーケンス例を説明する図である。
【図７】上記第１の実施形態に係る負荷分散装置の肩代わり信号数算出部により算出された肩代わり信号数、低遅延サーバの負荷変動率、平均信号処理ＴＡＴ変動率、およびスコアの算出例を示す図である。
【図８】本発明の第２の実施形態に係る負荷分散装置が適用される分散システムを示す構成図である。
【図９】上記第２の実施形態に係る負荷分散装置の負荷分散方法のシーケンス例を説明するフローチャートである。
【図１０】図９のシーケンス例を説明する図である。
【図１１】上記第２の実施形態に係る負荷分散装置の肩代わり信号数算出部により算出された肩代わり信号数、低遅延サーバの負荷変動率、平均信号処理ＴＡＴ変動率、およびスコアの算出例を示す図である。
【図１２】上記第２の実施形態に係る負荷分散装置の肩代わり信号数算出部により算出された肩代わり信号数、低遅延サーバの負荷変動率、平均信号処理ＴＡＴ変動率およびスコアの算出、ならびにスコアＣを用いた肩代わり信号数による振り分け例を示す図である。
【図１３】非特許文献２の負荷分散装置が適用される分散システムを示す構成図である。
【発明を実施するための形態】
【００２１】
以下、図面を参照して本発明を実施するための形態（以下、「本実施形態」という）における負荷分散装置等について説明する。
（背景説明）
まず、非特許文献２を用いて背景技術を説明する。
図１３は、非特許文献２の負荷分散装置が適用される分散システムを示す構成図である。
図１３に示すように、２つのデータセンタ（ＤＣ：Data Center）１，２が存在している。データセンタ１（自拠点）とデータセンタ２（他拠点）とは、地域や国をまたいで存在可能である。例えば、データセンタ１は東京（日本）を拠点とし、データセンタ２はワシントンＤ.Ｃ.（米国）を拠点とする。データセンタ１とデータセンタ２間は、広帯域と低遅延のネットワーク３で接続される。ただし、データセンタ１とデータセンタ２には、信号の拠点間遅延がある。
【００２２】
本明細書において、自拠点とは、負荷分散装置１０が置かれている拠点をいう。ここで、自拠点は、データセンタ１である。他拠点とは、負荷分散装置１０（自身）が置かれている拠点とは別の離れた拠点をいう。ここで、他拠点は、データセンタ２である。
データセンタ１内には、複数（複数台）の処理サーバ１１〜１３が収容されており、各処理サーバ１１〜１３は、負荷分散装置１０にデータセンタ内ネットワークで接続されている。また、データセンタ２は、複数の処理サーバ２１〜２４がデータセンタ内ネットワークで接続されている。
データセンタ１は、クライアント（図示省略）がネットワークで接続されて構成される。
【００２３】
負荷分散装置１０は、データセンタ１（自拠点）に存在している。負荷分散装置１０は、データセンタ１またはデータセンタ２の処理サーバ１１〜１３，２１〜２４に対してクライアント（図示省略）からの要求信号（リクエスト）の振分を行っている。負荷分散装置１０は、クライアントからの要求を受け、データセンタ１またはデータセンタ２の処理サーバ１１〜１３，２１〜２４のうちの１台を選択し、その選択した処理サーバに処理を依頼する。選択された処理サーバは、クライアントからのアプリケーションの要求を処理する。
【００２４】
なお、負荷分散装置１０は、分散システムで動作するプログラムの一例としての分散処理ミドルウェアであってもよく、分散システム内の複数台の処理サーバ１１〜１３，２１〜２４に処理を振り分けるロードバランサのいずれでもよい。
また、図１３の分散システムを構成する各装置の台数は、図１３に例示した台数に限定されず、任意の台数としてもよい。
【００２５】
非特許文献２には、要求信号の処理ＴＡＴと処理サーバの処理負荷の両面を考慮した負荷分散方法が記載されている。非特許文献２に記載の負荷分散方法は、処理サーバの処理負荷や台数、２拠点間の遅延から低遅延サーバへ振り分ける信号数を算出する。
非特許文献２に記載の負荷分散方法では、サーバを、通信遅延が小さい低通信遅延サーバ（以下、低遅延サーバという）と通信遅延が大きい高通信遅延サーバ（以下、高遅延サーバという）の２種類に分け、あらかじめ与えられた遅延倍率（高遅延サーバの遅延時間を低遅延サーバの遅延時間で割った値）から振り分ける信号数の計算を行っている。図１３の場合、データセンタ１またはデータセンタ２の処理サーバ１１〜１３，２１〜２４のうち、データセンタ１の処理サーバ１１，１２が低遅延サーバ、データセンタ１の処理サーバ１３とデータセンタ２の処理サーバ２１〜２４が高遅延サーバである。
【００２６】
ところで、図１３の符号ｎに示すように、同じ拠点（データセンタ１（自拠点））内に低遅延サーバ１１，１２と高遅延サーバ１３が混在している場合がある。また、図１３の符号ｏに示すように、拠点（データセンタ２）では、処理サーバのＴＡＴが動的に変動する場合がある。処理サーバのＴＡＴが動的に変動するのは、具体的には以下のような状態のときに発生しうる。（１）処理サーバのバックグラウンド処理によってＴＡＴが変動する。（２）災害等によって特定のルートが遮断されることによってＴＡＴが変動する。
【００２７】
非特許文献２に記載の負荷分散方法では、処理サーバのＴＡＴが動的に変動する場合や、同じ拠点内に低遅延サーバと高遅延サーバが混在している場合には、ＴＡＴが変動するため各処理サーバの処理負荷を精確に測定できず、振り分ける信号数を適切に算出することができない。
【００２８】
同じ拠点内に低遅延サーバと高遅延サーバが混在する場合や、他拠点の処理サーバのＴＡＴが動的に変動する場合であっても、振り分ける信号数を適切に算出することができる方法が求められている。
【００２９】
（第１の実施形態）
図１は、本発明の第１の実施形態に係る負荷分散装置が適用される分散システムを示す構成図である。図１３と同一構成部には同一符号を付している。
図１に示すように、２つのデータセンタ（ＤＣ）１，２が存在している。ここでは、データセンタ１は東京（日本）を拠点とし、データセンタ２はワシントンＤ.Ｃ.（米国）を拠点とする例で説明する。データセンタ１とデータセンタ２間は、広帯域で低遅延のネットワーク３で接続される。
データセンタ１内には、複数（複数台）の処理サーバ１１〜１７が収容されており、各処理サーバ１１〜１７は、負荷分散装置１００にデータセンタ内ネットワークで接続されている。また、データセンタ２は、複数の処理サーバ２１〜２４がデータセンタ内ネットワークで接続されている。
データセンタ１は、クライアント３１〜３４がネットワークで接続されて構成される。
クライアント３１〜３４は、ユーザの端末や対向システムであり、データセンタ１，２の処理サーバ１１〜１７，２１〜２４に対して、アプリケーションの処理を要求する。
【００３０】
負荷分散装置１００は、データセンタ１（自拠点）に存在している。負荷分散装置１００は、データセンタ１またはデータセンタ２の処理サーバ１１〜１７，２１〜２４に対してクライアント３１〜３４からの要求信号（リクエスト）の振分を行っている。負荷分散装置１００は、クライアント３１〜３４からの要求を受け、データセンタ１またはデータセンタ２の処理サーバ１１〜１７，２１〜２４のうちの１台を選択し、その選択した処理サーバに処理を依頼する。選択された処理サーバは、クライアント３１〜３４からのアプリケーションの要求を処理する。
【００３１】
このように、負荷分散装置１００は、自身が設置された処理サーバ１１〜１７、または自拠点から離隔した処理サーバ２１〜２４に対して、クライアント３１〜３４からリクエストされた情報処理を実行させる処理サーバを決定する。負荷分散装置１００の詳細構成については後記する。
【００３２】
なお、負荷分散装置１００は、分散システムで動作するプログラムの一例としての分散処理ミドルウェアであってもよく、分散システム内の複数台の処理サーバ２１〜２７に処理を振り分けるロードバランサのいずれでもよい。
また、図１の分散システムを構成する各装置の台数は、図１に例示した台数に限定されず、任意の台数としてもよい。
【００３３】
負荷分散装置１００の詳細について説明する。
負荷分散装置１００は、処理サーバの処理負荷や台数、通信遅延を考慮しながら、できるだけ通信遅延が小さい処理サーバへ信号を振り分ける。負荷分散装置１００は、各処理サーバの処理ＴＡＴ（Turn Around Time）を測定する処理時間測定手段と、測定した前記処理ＴＡＴに基づいて、各処理サーバを低遅延サーバと高遅延サーバとに分類する分類手段としての機能を有する。なお、前記処理ＴＡＴには、負荷分散装置１００から処理サーバに信号を送信するのに要する時間（通信遅延時間）と処理サーバによる信号処理時間が含まれる。
図１に示すように、負荷分散装置１００は、肩代わり信号数算出部１１１（信号数算出手段）を有する振分機能部１１０（振分手段）と、サーバ情報取得部１２０（負荷情報取得手段）と、情報格納部１３０（記憶手段）と、を備える。
【００３４】
<肩代わり信号数算出部１１１>
肩代わり信号数算出部１１１は、肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣ（いずれも後記）の値を算出し、情報格納部１３０へ記憶する。
肩代わり信号数算出部１１１は、後記（方法１）を実行する場合、低遅延サーバの台数と高遅延サーバの台数と、高遅延サーバに振り分けるべき信号を低遅延サーバに振り分ける肩代わり信号数Ｓ（後記）とを用いて低遅延サーバの負荷変動を示す処理サーバの負荷変動率Ａを算出する。ここで肩代わり信号数Ｓは、ｎ（ｎは自然数）個あり、Ｓ＝０からＳ＝ｎまで、後記する式（１）に順次当てはめて、低遅延サーバの負荷変動率Ａを求める。なお、肩代わり信号数Ｓ決定の詳細については実施例１：（方法１）（後記図３，図４参照）で述べる。
そして、肩代わり信号数算出部１１１は、取得したＣＰＵ使用率（負荷情報）の最大値と低遅延サーバの負荷変動率Ａとに基づいて、ＣＰＵ限界値（負荷制限値）を超えない範囲で、高遅延サーバが処理すべき信号を低遅延サーバで処理する肩代わり信号数Ｓを決定する。
【００３５】
また、肩代わり信号数算出部１１１は、後記（方法２）を実行する場合、低遅延サーバの台数と高遅延サーバの台数と、高遅延サーバに振り分けるべき信号を低遅延サーバに振り分ける肩代わり信号数Ｓと、低遅延サーバで処理した場合の処理ＴＡＴ（応答時間）と、高遅延サーバで処理した場合の処理ＴＡＴとを用いて、リクエストをあらかじめ決めた順序で各処理サーバに振り分ける場合の応答時間の変動を示す平均信号処理ＴＡＴ変動率Ｂを算出する。ここで肩代わり信号数Ｓは、ｎ（ｎは自然数）個あり、Ｓ＝０からＳ＝ｎまで、後記する式（２）に順次当てはめて、平均信号処理ＴＡＴ変動率Ｂを求める。
【００３６】
そして、肩代わり信号数算出部１１１は、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂとを用いて、高遅延サーバが処理すべき信号を低遅延サーバで処理する肩代わり信号数Ｓの範囲を算出する。具体的には、肩代わり信号数算出部１１１は、情報格納部１３０から拠点情報１５０（後記図２参照）を参照し、取得した負荷情報の中の最大値と低遅延サーバの負荷変動率Ａを乗算し、あらかじめ設定されている低遅延サーバのＣＰＵ限界値（負荷制限値）を超えない肩代わり信号数Ｓの範囲を算出し、算出した肩代わり信号数Ｓの範囲の中で最大の肩代わり信号数Ｓを評価するスコアとなる肩代わり信号数Ｓを決定する。すなわち、肩代わり信号数算出部１１１は、低遅延サーバのＣＰＵ使用率の最大値をＡ倍しても低遅延サーバのＣＰＵ限界値（負荷制限値）を超えないような最大肩代わり信号数Ｓの範囲を算出し、この最大肩代わり信号数Ｓを超えない範囲で最も高いスコアとなる肩代わり信号数Ｓを決定する。なお、スコア算出による肩代わり信号数Ｓ決定の詳細については実施例２：（方法２）（図６，図７参照）で後記する。
【００３７】
ここで、負荷分散装置１００は、各処理サーバに均等にリクエストを振り分けるラウンドロビン（静的分散方式の１つ）を採る場合、上記平均信号処理ＴＡＴ変動率Ｂは、例えばラウンドロビンの１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂである。なお、処理サーバの処理能力に応じてリクエストの分散比率を変えて各処理サーバの負荷を均等にする重み付きラウンドロビンに適用し、この重み付きラウンドロビンにおいて、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂを算出する態様でもよい。
【００３８】
<振分機能部１１０>
振分機能部１１０は、肩代わり信号数算出部１１１によって算出された肩代わり信号数Ｓの値に従って、処理サーバへ信号の振り分けを行う。具体的には、振分機能部１１０は、振分先の処理サーバが高遅延サーバだった場合、肩代わり信号数Ｓの分だけ、本来高遅延サーバに振り分けていた信号を低遅延サーバに振り分ける（実施例１：（方法１）で後記）。
【００３９】
また、振分機能部１１０は、低遅延サーバのＣＰＵ限界値（負荷制限値）を超えない肩代わり信号数Ｓの範囲の中で最大のスコアとなる最大肩代わり信号数Ｓ分を、高遅延サーバから低遅延サーバに振り分ける（実施例２：（方法２）で後記）。具体的には、振分機能部１１０は、取得した負荷情報の最大値と低遅延サーバの負荷変動率Ａとを乗算し、ＣＰＵ閾値を超えない肩代わり信号数Ｓの範囲を算出し、算出した肩代わり信号数Ｓの範囲の中で最大のスコアＣとなる肩代わり信号数Ｓの値で振り分けを行う。
なお、振分機能部１１０は、クライアント３１〜３４からの要求信号（リクエスト）を受け取ると、あらかじめ決められた方法（例えばラウンドロビン方式）によって振分先の処理サーバを決める。
【００４０】
<サーバ情報取得部１２０>
サーバ情報取得部１２０は、各処理サーバの応答時間（ＴＡＴ）を取得する。また、サーバ情報取得部１２０は、各処理サーバの負荷情報（例えば、ＣＰＵ使用率、メモリ使用率等がある。本実施形態では、ＣＰＵ使用率を例に採る）を定期的に収集（取得）する。負荷情報取得部１２０は、収集したＣＰＵ使用率（負荷情報）を情報格納部１３０に格納するとともに、振分機能部１１０に通知する。
【００４１】
<情報格納部１３０>
情報格納部１３０は、ＣＰＵ閾値、各処理サーバの応答時間（ＴＡＴ）、および各処理サーバのＣＰＵ使用率を格納する。情報格納部１３０は、肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣ（図７参照）の値を保持する。
また、情報格納部１３０は、自拠点の処理サーバのＣＰＵ限界値（負荷制限値）、データセンタ１とデータセンタ２間の処理遅延時間値（拠点間遅延）、自拠点の処理サーバ数（処理サーバの台数）、自拠点の処理サーバ数のうち低遅延サーバ数（低遅延サーバの台数）および高遅延サーバ数（高遅延サーバの台数）、処理サーバのＣＰＵ使用率（負荷情報）などを拠点情報１５０（図２参照）として格納する。情報格納部１３０が保持する拠点情報１５０については、図２により後記する。
【００４２】
図２は、図１の負荷分散装置１００の情報格納部１３０が格納する拠点情報１５０を示す図である。
図２に示すように、情報格納部１３０は、拠点情報１５０として、低遅延サーバのＣＰＵ限界値（負荷制限値）、拠点間遅延、低遅延サーバ数（低遅延サーバの台数）、高遅延サーバ数（高遅延サーバの台数）、低遅延サーバ２１〜２３の使用率（処理サーバ２１のＣＰＵ使用率、処理サーバ２２のＣＰＵ使用率、および処理サーバ２３のＣＰＵ使用率）を格納する。なお、上記ＣＰＵ限界値を格納しておくことで、上記ＣＰＵ使用率の最大値をＡ（低遅延サーバの負荷変動率）倍した場合の比較から、肩代わり信号数Ｓを決定することができる。
【００４３】
図２の例では、低遅延サーバのＣＰＵ限界値は、「８０」(ＣＰＵ限界値の最大値を１００％とした場合、その８０％)である。
拠点間遅延は、「１０００」(１０００[ｍｓ])である。
自拠点の処理サーバ数は、自拠点（データセンタ１）内に７つの処理サーバ１１〜１７（図１参照）を有するので「７」である。
また、自拠点の処理サーバ１１〜１７のうち、測定した処理時間に基づいて分類された結果、低遅延サーバ数は「３」、高遅延サーバ数は「４」である（図３参照）。
他拠点の処理サーバ数は、他拠点（データセンタ２）内に４つの処理サーバ２１〜２４（図１参照）を有するので「４」である。
低遅延サーバ２１のＣＰＵ使用率は、「３５」（ＣＰＵ使用率の最大値を１００％とした場合、その３５％。以下同様。)、処理サーバ２２のＣＰＵ使用率は、「３４」、処理サーバ２３のＣＰＵ使用率は、「３４」である。
【００４４】
以下、上述のように構成された負荷分散装置１００の負荷分散方法について説明する。
［原理説明］
まず、本発明の基本的な考え方について述べる。
負荷分散装置１００は、各処理サーバの処理時間（ＴＡＴ）を測定し、測定した各処理サーバの処理時間（ＴＡＴ）があらかじめ設定された閾値より大きいか小さいかを判定して、各処理サーバを高遅延サーバと低遅延サーバとに分類する。
ここで、低遅延サーバの台数をＮｍ、高遅延サーバの台数をＮｎ、ラウンドロビン方式に従うと本来高遅延サーバで処理される信号を低遅延サーバで処理する１ラウンドあたりの肩代わり信号数をＳ（０≦Ｓ≦Ｎｎ）とすると、低遅延サーバの負荷変動率Ａは、次式（１）で示される。
【００４５】
低遅延サーバの負荷変動率Ａ＝（Ｎｍ＋Ｓ）／Ｎｍ      …（１）
【００４６】
また、低遅延サーバで処理した場合の処理ＴＡＴ（Turn Around Time）（応答時間）を１としたとき、高遅延サーバで処理した場合の処理ＴＡＴを通信遅延倍率Ｄとすると、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂは、次式（２）で示される。
【００４７】
平均信号処理ＴＡＴ変動率Ｂ＝（（Ｎｍ＋Ｓ）＋Ｄ×（Ｎｎ−Ｓ））／（Ｎｍ＋Ｄ×Ｎｎ）      …（２）
【００４８】
すなわち、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂは（（Ｎｍ＋Ｓ）＋Ｄ×（Ｎｎ−Ｓ））／（Ｎｍ＋Ｄ×Ｎｎ）倍となる。Ｄは、高遅延サーバの処理ＴＡＴの平均を低遅延サーバの処理ＴＡＴの平均で割った値で近似する遅延倍率である。
【００４９】
負荷分散装置１００は、肩代わり信号数Ｓを決定する方法として（方法１）と、（方法２）と、を備える。
【００５０】
（方法１）：自拠点の処理サーバの負荷変動率Ａを用いて肩代わり信号数Ｓを決定する。
負荷分散装置１００は、自拠点の各処理サーバのＣＰＵ使用率（負荷情報）を取得し、取得した負荷情報の中の最大値と低遅延サーバの負荷変動率Ａを乗算する。あらかじめ設定されている処理サーバのＣＰＵ限界値（負荷制限値）を超えない範囲で最大の肩代わり信号数Ｓを算出し、算出した肩代わり信号数Ｓまで高遅延サーバに振り分けられる信号を低遅延サーバで処理するようにする。
【００５１】
（方法２）：低遅延サーバの負荷変動率Ａを用いて最大肩代わり信号数の範囲を算出し、最大肩代わり信号数の範囲中で最大のスコアとなる肩代わり信号数Ｓを決定する。
負荷分散装置１００は、自拠点の各処理サーバのＣＰＵ使用率（負荷情報）を取得し、取得した負荷情報の中の最大値と低遅延サーバの負荷変動率Ａを乗算する。あらかじめ設定されている処理サーバの負荷制限値を超えない肩代わり信号数Ｓの範囲を算出する。算出した肩代わり信号数Ｓの範囲の中で最大のスコアとなる肩代わり信号数Ｓの値を用いて高遅延サーバで処理される信号を低遅延サーバで処理するようにする。上記スコアは、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂを用いて算出される評価関数で表される値である。例えば、スコアの一例として、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂから算出される減少関数を評価関数として用いる。この減少関数は、低遅延サーバの負荷変動率Ａまたは平均信号処理ＴＡＴ変動率Ｂが減少すると、スコアが上昇する値（例えば（１／Ａ＋１／Ｂ））である。
【００５２】
上記（方法１）または（方法２）により、肩代わり信号数Ｓが決定した後、負荷分散装置１００は、本来高遅延サーバに振り分けられる信号（本来高遅延サーバが処理するはずだった信号）を肩代わり信号数Ｓ分だけ、低遅延サーバで処理するように低遅延サーバへ振り分ける。その際、負荷分散装置１００は、自拠点のどの処理サーバを選択するかは、負荷分散装置１００がこれまで用いていた振分アルゴリズムに従えばよい。
【００５３】
まず、上記（方法１）の具体的動作例について説明する。
［実施例１：（方法１）の動作例］
上記（方法１）は、低遅延サーバの処理負荷をギリギリまで上げてＴＡＴを減らす手法を提供する。
図３および図４を参照して負荷分散装置１００の負荷分散方法の（方法１）動作について説明する。
図３は、負荷分散装置１００の負荷分散動作を説明する図である。図１と同一構成部には同一符号を付している。
図３に示すように、自拠点（データセンタ１）内の処理サーバ１１〜１７には、低遅延サーバ１１〜１３と高遅延サーバ１４〜１７とが混在している。負荷分散装置１００から各処理サーバ１１〜１７に伸びる矢印（細実線矢印、破線矢印、太実線矢印）は、負荷分散装置１００が各処理サーバ１１〜１７に信号を振り分けることを示している。例えば、負荷分散装置１００は、図３の細実線矢印（→印）に示すように、処理サーバ１１〜１３，１５〜１７に対してクライアントからの要求信号の振分を行っている。
【００５４】
上記（方法１）で述べたように、負荷分散装置１００は、低遅延サーバの負荷変動率Ａを用いて肩代わり信号数Ｓを算出し、算出した肩代わり信号数Ｓまで本来高遅延サーバに振り分けられる信号を肩代わり信号数Ｓ分だけ、低遅延サーバに振り分ける。図３の符号ａおよび白抜き矢印（⇒印）に示すように、本来であれば高遅延サーバ１４に振り分けられる信号（破線矢印参照）を低遅延サーバ１１へ振り分ける（太実線矢印参照）。
【００５５】
図４は、図３の負荷分散装置１００によって、高遅延サーバ１４〜１７に振り分ける信号を低遅延サーバ１１〜１３で処理する負荷分散動作を表にして説明する図である。図４は、１ラウンドあたりの肩代わり信号数Ｓが１の場合の振分例を示す。図４の縦軸は処理サーバによってシーケンシャル処理される信号シーケンス番号１〜１４を示し、横軸は処理サーバ１１〜１７（低遅延サーバ１１〜１３と高遅延サーバ１４〜１７）を示す。図４において、実線の白丸（○印）は信号が該当処理サーバに振り分けられることを示している。例えば、図４の信号１と低遅延サーバ１１とが交差する位置の実線の白丸（○印）は、信号シーケンス番号の信号１が低遅延サーバ１１に振り分けられることを示している。また、図４において、破線の白丸（破線○印）は、本来高遅延サーバに振り分けられる信号が低遅延サーバに振り分けられたことを示している。例えば、図４の信号４と低遅延サーバ１１とが交差する位置の実線の白丸（○印）は、本来高遅延サーバ１４に振り分けられる信号シーケンス番号の信号４が低遅延サーバ１１に振り分けられることを示している。
【００５６】
図４に示すように、１ラウンドあたりの肩代わり信号数Ｓが１の場合、肩代わり信号数Ｓが１であるので、１ラウンドあたり高遅延サーバに振り分けられる信号の１つを低遅延サーバへ振り分ける。すなわち、図４の符号ｂおよび破線の白丸（破線○印）に示すように、本来であれば高遅延サーバ１４（図３参照）に振り分けられる信号を低遅延サーバ１１（図３参照）へ振り分ける。また、図４の符号ｃおよび破線の白丸（破線○印）に示すように、本来であれば高遅延サーバ１５（図３参照）に振り分けられる信号を低遅延サーバ１２（図３参照）へ振り分ける。
【００５７】
図４の符号ｄおよび破線の枠囲みに示すように、１ラウンドあたりの肩代わり信号数Ｓが１の場合の振分例の効果は下記の通りである。
すなわち、高遅延サーバ１４〜１７に振り分けられる信号の１つを低遅延サーバ１１〜１３へ振り分けることで、低遅延サーバ１１〜１３の負荷は４／３倍になった。また、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂは、前記式（２）にＮｍ「３」とＮｎ「４」を代入することで、（４＋Ｄ×３）／（３＋Ｄ×４）倍となることが分かる。高遅延サーバ１４〜１７に振り分けられていた信号が低遅延サーバ１１〜１３により多く振り分けられるので、本負荷分散動作を行わない場合と比べて、迅速に取得が可能であり、よりタイムリーな情報で負荷分散処理が可能となる。
【００５８】
次に、上記（方法２）の具体的動作例について説明する。
［実施例２：（方法２）の動作例］
上記（方法２）は、処理負荷とＴＡＴから算出されるスコアを最大にする手法を提供する。
図５は、負荷分散装置の（方法２）の負荷分散のシーケンス例を説明する図である。図１と同一構成部には同一符号を付している。図６は、図５のシーケンス例を説明するフローチャートである。
図５のステップＳ１０１において、負荷分散装置１００は、各処理サーバ１１〜１７のＣＰＵ閾値、応答時間閾値（高遅延サーバか低遅延サーバかを判定するための閾値）を設定する。例えば、負荷分散装置１００は、各種設定値（ＣＰＵ閾値＝８０、応答時間閾値＝１０ｍｓ）を設定する。
【００５９】
ステップＳ１０２において、負荷分散装置１００は、処理時間測定手段として、定期的に全処理サーバ１１〜１７へテスト信号（ｐｉｎｇなど）を送信し、各処理サーバ１１〜１７の応答時間（ＴＡＴ）を取得（測定）する。図６の符号ｅに示すように、処理サーバ１１の応答時間（ＴＡＴ）「１．５ｍｓ」、処理サーバ１２の応答時間（ＴＡＴ）「２．１ｍｓ」、処理サーバ１３の応答時間（ＴＡＴ）「１．１ｍｓ」、処理サーバ１４の応答時間（ＴＡＴ）「１０．１ｍｓ」、処理サーバ１５の応答時間（ＴＡＴ）「１１．５ｍｓ」、処理サーバ１６の応答時間（ＴＡＴ）「２３．５ｍｓ」、処理サーバ１７の応答時間（ＴＡＴ）「１０．７ｍｓ」を取得する。
【００６０】
ステップＳ１０３において、負荷分散装置１００は、分類手段として、取得した各処理サーバ１１〜１７の応答時間（ＴＡＴ）を応答時間閾値と比較して、各処理サーバ１１〜１７を高遅延サーバ１４〜１７と低遅延サーバ１１〜１３とに分類する。例えば、図６に示すように、応答時間閾値を１０ｍｓに設定した場合、自拠点の処理サーバ１１〜１７のうち、処理サーバ１４〜１７を高遅延サーバ、処理サーバ１１〜１３を低遅延サーバに分類する。
【００６１】
ステップＳ１０４において、負荷分散装置１００のサーバ情報取得部１２０は、定期的に低遅延サーバ１１〜１３（図６参照）の負荷情報（ＣＰＵ使用率）を取得する。図６の例では、サーバ情報取得部１２０は、低遅延サーバである処理サーバ１１のＣＰＵ使用率「３５」、処理サーバ１２のＣＰＵ使用率「３４」、処理サーバ１３のＣＰＵ使用率「３４」を取得する。
【００６２】
ステップＳ１０５において、負荷分散装置１００は、取得した情報を情報格納部１３０に格納し、振分機能部１１０に通知する。
【００６３】
ステップＳ１０６において、振分機能部１１０の肩代わり信号数算出部１１１は、情報格納部１３０から情報を取り出し、低遅延サーバ数と高遅延サーバ数と肩代わり信号数Ｓとを用いて処理サーバ負荷変動数Ａと平均信号処理ＴＡＴ変動率ＢとスコアＣを算出し、スコアＣが最大となるときの肩代わり信号数Ｓの値を決定する。具体的には、肩代わり信号数算出部１１１は、高遅延サーバ台数、低遅延サーバ台数、高遅延サーバの応答時間の平均、低遅延サーバの応答時間の平均に基づいて、肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する（図７参照）。上記スコアＣは、肩代わり信号数Ｓを評価する評価値であり、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂから算出される減少関数（ＡまたはＢが減少すると上昇する）で表される。
【００６４】
ステップＳ１０７において、負荷分散装置１００の振分機能部１１０は、取得した負荷情報の最大値と低遅延サーバの負荷変動率Ａとを乗算し、ＣＰＵ閾値を超えない肩代わり信号数Ｓの範囲を算出し、算出した肩代わり信号数Ｓの範囲の中で最大のスコアＣとなる肩代わり信号数Ｓの値で、本来高遅延サーバに振り分けられる信号を低遅延サーバに振り分ける。すなわち、振分機能部１１０は、最大肩代わり信号数Ｓを超えない範囲で最も高いスコアＣとなる最大肩代わり信号数Ｓの分だけ、本来高遅延サーバ１１〜１４に振り分けられる信号を低遅延サーバ１１〜１３に振り分ける。
【００６５】
次に、図７を参照して低遅延サーバへの信号の振り分け例について説明する。
図７は、肩代わり信号数算出部１１１により算出された肩代わり信号数Ｓ、低遅延サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率Ｂ、およびスコアＣの算出例を示す図である。なお、スコアＣは、減少関数（１／Ａ＋１／Ｂ）を用いている。
低遅延サーバの負荷変動率Ａは、前記式（１）にＮｍ「３」を代入することによって算出され、また平均信号処理ＴＡＴ変動率Ｂは、前記式（２）にＮｍ「３」とＮｎ「４」を代入することで算出される。例えば、肩代わり信号数Ｓ「１」の場合には、Ｎｍ「３」とＳ「１」を前記式（１）に導入して低遅延サーバの負荷変動率Ａ「１．３３」が算出され、またＮｍ「３」とＮｎ「４」とＳ「１」を前記式（２）に導入して平均信号処理ＴＡＴ変動率Ｂ「０．８０」が算出される。また、Ｓ「１」の場合のスコアは、減少関数（１／Ａ＋１／Ｂ）に、Ａ「１．３３」とＢ「０．８０」を代入することで、スコア「２．０１」が算出される。同様にして、Ｓ「２」の場合には、低遅延サーバの負荷変動率Ａ「１．６７」、平均信号処理ＴＡＴ変動率Ｂ「０．５９」、スコア「２．２９」が算出され、Ｓ「３」の場合には、低遅延サーバの負荷変動率Ａ「２」、平均信号処理ＴＡＴ変動率Ｂ「０．３９」、スコア「３．０９」が算出され、Ｓ「４」の場合には、低遅延サーバの負荷変動率Ａ「２．３３」、平均信号処理ＴＡＴ変動率Ｂ「０．１８」、スコア「５．９５」が算出される。
【００６６】
本例の場合、前記図６に示すように、取得された低遅延サーバ１１〜１３のＣＰＵ使用率（負荷情報）は、処理サーバ１１のＣＰＵ使用率「３５」、処理サーバ１２のＣＰＵ使用率「３４」、処理サーバ１３のＣＰＵ使用率「３４」であり、ＣＰＵ使用率の最大値は、処理サーバ１１の「３５」である。また、前記図２に示すように、情報格納部１３０には、拠点情報１５０として、低遅延サーバのＣＰＵ限界値「８０」、拠点間遅延「１０００」、低遅延サーバ数「３」、高遅延サーバ数「４」が格納されている。さらに、肩代わり信号数算出部１１１は、図７に示す肩代わり信号数Ｓ、低遅延サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率Ｂ、およびスコアＣを算出している。
【００６７】
この場合、図７の符号ｇに示すように、取得したＣＰＵ使用率の最大値「３５」を２倍してもＣＰＵ限界値「８０」を超えないため、肩代わり信号数Ｓ「３」が最大肩代わり信号数の範囲となる。振分機能部１１０は、この最大肩代わり信号数の範囲の３信号を低遅延サーバ１１〜１３へ振り分けることが可能である。ちなみに、この最大肩代わり信号数Ｓをそのまま肩代わり信号数Ｓとして決定する方法が前記（方法１）に対応する。
【００６８】
また、図７の符号ｈに示すように、最大肩代わり信号数Ｓを超えない範囲で最も高いスコアＣは肩代わり信号数Ｓが「３」のため、肩代わり信号数Ｓ「３」の範囲の中で最も高いスコアであるスコア「３．０９」が選ばれ、そして該スコア「３．０９」が示すＳ「３」が決定される。この例では、振分機能部１１０は、スコア「３．０９」から肩代わり信号数Ｓ「３」を決定し、３信号を低遅延サーバ１１〜１３に振り分ける。
【００６９】
図７の例では、低遅延サーバの負荷変動率Ａのみを用いて、肩代わり信号数Ｓを決定する方法（方法１）によるＳ「３」と（図７の符号ｇ参照）、最大肩代わり信号数の範囲の中で最大のスコアとなる肩代わり信号数Ｓを決定する方法（方法２）によるＳ「３」と（図７の符号ｈ参照）、が同じ結果となっているが、決定される肩代わり信号数Ｓが両者で異なる場合もあり得る。すなわち、スコアの値によっては最大肩代わり信号数の範囲の中から、スコアの値がより高い別の肩代わり信号数Ｓが決定されることは有り得る。両者による肩代わり信号数Ｓが異なった場合、（方法２）による肩代わり信号数Ｓの決定を優先させる。
このように、（方法２）では、（方法１）で得られた最大肩代わり信号数の範囲から、最も評価の高い肩代わり信号数Ｓを決定するので、より信頼度の高い肩代わり信号数Ｓを得ることができる。その結果、より最適な肩代わり信号数Ｓ分だけ高遅延サーバから低遅延サーバに振り分けることができるので、負荷分散のさらなる最適化を図ることができ、より一層処理負荷を制限しつつ、応答時間をできるだけ早めることができる。
【００７０】
以上説明したように、本実施形態の負荷分散装置１００は、各処理サーバの処理ＴＡＴを測定する処理時間測定手段と、測定した処理ＴＡＴに基づいて、処理サーバを高遅延サーバと低遅延サーバとに分類する分類手段と、を備える。さらに、負荷分散装置１００は、低遅延サーバの処理の限界値である負荷制限値を記憶する情報格納部１３０と、低遅延サーバの負荷情報を取得するサーバ情報取得部１２０と、高遅延サーバの台数と、低遅延サーバの台数と、取得した負荷情報の最大値と低遅延サーバの負荷変動を示す処理サーバの負荷変動率Ａとに基づいて、負荷制限値を超えない範囲で、高遅延サーバに振り分けるべき信号を低遅延サーバに振り分ける肩代わり信号数Ｓを算出する肩代わり信号数算出部１１１と、算出した肩代わり信号数Ｓ分を、高遅延サーバから低遅延サーバに振り分ける振分機能部１１０と、を備える。
【００７１】
そして、負荷分散装置１００の負荷分散方法では、各処理サーバの処理ＴＡＴを測定する処理時間測定ステップと、測定した処理ＴＡＴに基づいて、処理サーバを高遅延サーバと低遅延サーバとに分類する分類ステップと、低遅延サーバの処理の限界値である負荷制限値を記憶する記憶ステップと、低遅延サーバの負荷情報を取得する負荷情報取得ステップと、高遅延サーバの台数と、低遅延サーバの台数と、取得した負荷情報の最大値と低遅延サーバの負荷変動を示す処理サーバの負荷変動率Ａとに基づいて、負荷制限値を超えない範囲で、高遅延サーバに振り分けるべき信号を低遅延サーバに振り分ける肩代わり信号数Ｓを算出する信号数算出ステップと、算出した肩代わり信号数Ｓ分を、高遅延サーバから低遅延サーバに振り分ける振分ステップと、を実行する。
【００７２】
既存技術のロードバランサの負荷分散方法のデメリットについて述べる。
既存技術のロードバランサの負荷分散方法には、負荷分散性に着目した「低負荷サーバ優先」と、平均処理時間に着目した「低遅延サーバ優先」とがある。
（１）低負荷サーバ優先
各処理サーバの負荷には、ばらつき（あるサーバは１００％だが、他のサーバは０％などという状況）がある。負荷分散性は、各処理サーバの負荷を均等に分散する。低負荷サーバ優先は、ＣＰＵ負荷が一番小さい処理サーバへ優先して振り分ける。低負荷サーバ優先では、ＴＡＴが短い（低遅延）サーバの負荷が上がってくると、ＴＡＴが長い（高遅延）サーバへ振り分けてしまう。このため、低遅延サーバの処理能力を使い切ることができない。結果として、平均ＴＡＴが高くなる可能性がある。
【００７３】
（２）低遅延サーバ優先
低負荷サーバ優先では、ＴＡＴが一番短いサーバへ優先して振り分ける。低負荷サーバ優先は、サーバの負荷を考慮しないため、ＴＡＴが短いサーバの負荷が一時的に高くなる可能性がある。結果として、ＣＰＵ規制などの対象となってしまう可能性がある。
【００７４】
本実施形態の負荷分散装置１００は、上記既存技術と比較して下記の特徴を有する。
本実施形態の負荷分散装置１００は、ＣＰＵ限界値を超えない範囲で、本来高遅延サーバ１４〜１７（図３参照）が処理すべき信号を低遅延サーバ１１〜１３に戻す振分を行っている。換言すれば、負荷分散装置１００は、低遅延サーバ１４〜１７への信号の振り分けを最適化するようにしているので、高遅延サーバ１４〜１７への信号の振分を、より減らすことで、処理遅延を防止しつつ、低遅延サーバ１１〜１３に過度の処理負荷をかけないようにしてハードウェアリソースの非効率化や不要なスケーリングを抑制することができる。その結果、処理サーバの処理負荷を一定以下に保ちつつ、要求信号の処理ＴＡＴを低減することができる。要求信号の処理ＴＡＴと処理サーバの処理負荷の両面を満足させることができる。
【００７５】
（第２の実施形態）
図８は、本発明の第２の実施形態に係る負荷分散装置が適用される分散システムを示す構成図である。図１と同一構成部には同一符号を付して重複箇所の説明を省略する。
図８に示すように、負荷分散装置２００は、肩代わり信号数算出部２１１を有する振分機能部２１０と、サーバ情報取得部１２０と、情報格納部１３０と、を備える。
【００７６】
負荷分散装置２００は、処理時間測定手段として、各処理サーバの処理時間を測定する。また、分類手段として、測定した処理時間に基づいて、処理サーバを高遅延サーバと低遅延サーバとに分類する。本実施形態では、負荷分散装置２００は、各処理サーバを処理ＴＡＴの小さい順に低遅延サーバとして１台ずつ、全台数−１まで増加させていき、それぞれの場合の低遅延サーバの台数と高遅延サーバの台数とを決定する。
【００７７】
肩代わり信号数算出部２１１は、決定された低遅延サーバの台数と当該低遅延サーバの台数と、低遅延サーバで処理した場合の処理ＴＡＴと、高遅延サーバで処理した場合の処理ＴＡＴとに基づいて、リクエストをあらかじめ決めた順序で各処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率Ｂを算出するとともに、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂとを基に、肩代わり信号数Ｓを評価するスコアＣを算出する。
振分機能部２１０は、取得した負荷情報の最大値と低遅延サーバの負荷変動率Ａを乗算し、ＣＰＵ閾値を超えない肩代わり信号数Ｓの範囲を算出し、算出した肩代わり信号数Ｓの範囲の中で最大のスコアＣとなる肩代わり信号数Ｓの値で振り分けを行う。
【００７８】
以下、上述のように構成された負荷分散装置２００の負荷分散方法について説明する。
本実施形態は、処理サーバの処理遅延や処理負荷、台数を考慮しながら、できるだけ通信遅延が小さい処理サーバへ信号を振り分ける。
負荷分散装置２００は、各処理サーバの処理時間（ＴＡＴ）と負荷を測定し、処理サーバをＴＡＴの小さい順にソートする。
そして、負荷分散装置２００は、ＴＡＴの小さい順に低遅延サーバ数をまず１つ決め、他を高遅延サーバ数（全台数Ｎ−１）として、肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣを算出する。次いで、ＴＡＴの小さい順に低遅延サーバ数を２つ決め、他を高遅延サーバ数（Ｎ−２）として、肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣを算出する。以下同様に、低遅延サーバ数をＴＡＴの小さい順に１，２，３，…と増やしていき、全ての低遅延サーバ数と高遅延サーバ数との組合せについて肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣを算出する。
【００７９】
そして、負荷分散装置２００は、全ての低遅延サーバ数と高遅延サーバ数との組合せの中から、低遅延サーバの負荷変動率Ａと負荷情報（ＣＰＵ使用率）の乗算値がＣＰＵ閾値を超えない範囲で最大のスコアＣとなる肩代わり信号数Ｓの値で振り分けを行う。
振分機能部１１０は、取得した負荷情報の最大値と低遅延サーバの負荷変動率Ａとを乗算し、ＣＰＵ閾値を超えない肩代わり信号数Ｓの範囲を算出し、算出した肩代わり信号数Ｓの範囲の中で最大のスコアＣとなる肩代わり信号数Ｓの値で振り分けを行う。
【００８０】
図９は、負荷分散装置２００の負荷分散方法のシーケンス例を説明するフローチャートである。図１０は、図９のシーケンス例を説明する図である。
図９のステップＳ２０１において、負荷分散装置２００は、各処理サーバ１１〜１７のＣＰＵ閾値を設定する。例えば、負荷分散装置２００は、ＣＰＵ閾値＝８０を設定する。
【００８１】
図９のステップＳ２０２において、負荷分散装置２００は、定期的に全処理サーバ１１〜１７へテスト信号（ｐｉｎｇなど）を送信し、各処理サーバ１１〜１７の応答時間（ＴＡＴ）を取得（測定）する。図１０の符号ｉに示すように、処理サーバ１１の応答時間（ＴＡＴ）「１．１ｍｓ」、処理サーバ１２の応答時間（ＴＡＴ）「１．５ｍｓ」、処理サーバ１３の応答時間（ＴＡＴ）「２．１ｍｓ」、処理サーバ１４の応答時間（ＴＡＴ）「１０．１ｍｓ」、処理サーバ１５の応答時間（ＴＡＴ）「１１．５ｍｓ」、処理サーバ１６の応答時間（ＴＡＴ）「１３．５ｍｓ」、処理サーバ１７の応答時間（ＴＡＴ）「１１８．７ｍｓ」を取得する。
【００８２】
ステップＳ２０３において、負荷分散装置２００のサーバ情報取得部１２０は、定期的に全処理サーバ１１〜１７の負荷情報（ＣＰＵ使用率）を取得する。図１０の符号ｊに示すように、サーバ情報取得部１２０は、処理サーバ１１のＣＰＵ使用率「３５」、処理サーバ１２のＣＰＵ使用率「３４」、処理サーバ１３のＣＰＵ使用率「３８」、処理サーバ１４のＣＰＵ使用率「４５」、処理サーバ１５のＣＰＵ使用率「４４」、処理サーバ１６のＣＰＵ使用率「３１」、処理サーバ１７のＣＰＵ使用率「２４」を取得する。
【００８３】
ステップＳ２０４において、振分機能部２１０の肩代わり信号数算出部２１１は、応答時間（ＴＡＴ）が少ない順に低遅延サーバを１台，２台，…，(全台数−１)台と増加させていき、それぞれの場合の肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する（後記図１１参照）。
図１０の例では、各処理サーバ１１〜１７の応答時間（ＴＡＴ）の測定結果を見ると、応答時間（ＴＡＴ）が少ない順に、処理サーバ１１の応答時間（ＴＡＴ）「１．１ｍｓ」、処理サーバ１２の応答時間（ＴＡＴ）「１．５ｍｓ」、処理サーバ１３の応答時間（ＴＡＴ）「２．１ｍｓ」、…となっている。したがって、まず、処理サーバ１１〜１７のうち、処理サーバ１１の１台を低遅延サーバとし、他の処理サーバ１２〜１７の６台を高遅延サーバとして、上記肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する。次に、処理サーバ１１と処理サーバ１２の２台を低遅延サーバとし、他の処理サーバ１３〜１７の５台を高遅延サーバとして、上記肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する。
【００８４】
以下、同様に、応答時間（ＴＡＴ）が少ない順に低遅延サーバを増加させていき、(全台数−１)すなわち処理サーバ１１〜１６の６台を低遅延サーバとし、他の処理サーバ１７の１台を高遅延サーバとして、上記肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する。以上により、応答時間（ＴＡＴ）が少ない順に、低遅延サーバの台数を変えた場合のすべての組み合わせについて、上記肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する。
【００８５】
ステップＳ２０５において、負荷分散装置２００の振分機能部２１０は、上記スコアＣが最大となるときの肩代わり信号数Ｓの値で振り分けを行う。すなわち、振分機能部２１０は、上記スコアＣが最大となるときの肩代わり信号数Ｓの分だけ、本来高遅延サーバに振り分けられる信号を低遅延サーバに振り分ける。
【００８６】
次に、図１１を参照して低遅延サーバへの信号の振り分け例について説明する。
図１１は、肩代わり信号数算出部２１１により算出された肩代わり信号数Ｓ、低遅延サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率Ｂ、およびスコアＣの算出例を示す図である。なお、スコアＣは、減少関数（１／Ａ＋１／Ｂ）を用いている。
図１１の符号ｋに示すように、低遅延サーバを増加させていき、それぞれの場合で、肩代わり信号数Ｓごとに低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値を算出する。図１１の例では、低遅延サーバの台数「１」かつ高遅延サーバの台数「６」の場合において、肩代わり信号数Ｓ「１」のとき、Ｎｍ「１」とＳ「０」を前記式（１）に導入して低遅延サーバの負荷変動率Ａ「１」が算出され、またＮｍ「１」とＮｎ「６」とＳ「０」を前記式（２）に導入して平均信号処理ＴＡＴ変動率Ｂ「１」が算出される。また、Ｓ「０」の場合のスコアは、減少関数（１／Ａ＋１／Ｂ）に、Ａ「１」とＢ「１」を代入することで、スコア「２」が算出される。同様にして、Ｓ「１」の場合には、低遅延サーバの負荷変動率Ａ「２」、平均信号処理ＴＡＴ変動率Ｂ「０．８６」、スコア「１．６７」が算出され、Ｓ「２」の場合には、低遅延サーバの負荷変動率Ａ「３」、平均信号処理ＴＡＴ変動率Ｂ「０．７１」、スコア「１．７４」が算出される。
そして、図１１の符号ｌに示すように、ＣＰＵ閾値を超えない肩代わり信号数Ｓの範囲を算出し、その中でスコアＣが最大となる肩代わり信号数Ｓで振り分けを行う。
【００８７】
次に、図１２ を参照して低遅延サーバへの信号の振り分け例についてより詳細に説明する。
図１２は、肩代わり信号数算出部２１１により算出された肩代わり信号数Ｓ、低遅延サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率ＢおよびスコアＣの算出、ならびにスコアＣを用いた肩代わり信号数Ｓによる振り分け例を示す図である。なお、スコアＣは、減少関数（１／Ａ＋１／Ｂ）を用いている。肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値の算出方法については、図１１により説明した。
【００８８】
図１２に示すように、低遅延サーバの台数と高遅延サーバの台数との組み合わせにおいて、それぞれの組み合わせにおける肩代わり信号数Ｓごとの低遅延サーバの負荷変動率Ａ，平均信号処理ＴＡＴ変動率Ｂ，スコアＣの値が算出されている。そして、図１２に示すように、負荷分散装置２００の振分機能部２１０（図８参照）は、低遅延サーバの中で最大のＣＰＵ値をＡ倍してもＣＰＵ閾値を超えないか否かを判定する。図１２の例では、例えば低遅延サーバの台数「１」かつ高遅延サーバの台数「６」の場合において、肩代わり信号数Ｓ「０」および「１」のとき、前記ＣＰＵ閾値を超え、肩代わり信号数Ｓ「２」〜「６」のときには、前記ＣＰＵ閾値を超えない。また、低遅延サーバの台数「２」かつ高遅延サーバの台数「５」の場合において、肩代わり信号数Ｓ「０」と「１」と「２」のとき、前記ＣＰＵ閾値を超え、肩代わり信号数Ｓ「３」〜「５」のときには、前記ＣＰＵ閾値を超えない。また、低遅延サーバの台数「３」かつ高遅延サーバの台数「４」の場合において、肩代わり信号数Ｓ「０」と「１」と「２」と「３」のとき、前記ＣＰＵ閾値を超え、肩代わり信号数Ｓ「４」のときのみ前記ＣＰＵ閾値を超えない。以下、低遅延サーバの台数「４」かつ高遅延サーバの台数「３」の場合、低遅延サーバの台数「５」かつ高遅延サーバの台数「２」の場合、低遅延サーバの台数「６」かつ高遅延サーバの台数「１」の場合は、肩代わり信号数Ｓの値にかかわらず、前記ＣＰＵ閾値を超える。
【００８９】
そして、図１２の符号ｍに示すように、低遅延サーバの中で最大のＣＰＵ値をＡ倍してもＣＰＵ閾値を超えないもののうち、最大のスコアＣとなる低遅延サーバの台数と高遅延サーバの台数と肩代わり信号数Ｓとの組合せで振り分けを行う。なお、単に最大のスコアＣとなるものは、低遅延サーバの台数「２」かつ高遅延サーバの台数「５」の場合において、肩代わり信号数Ｓ「５」のときのスコアＣ「６．７１」がある。しかし、この組合せは、ＣＰＵ閾値＝８０を超えた場合の肩代わり信号数Ｓ「５」による振り分け例である。つまり、処理サーバのＣＰＵ値を超えた状態においての振り分けとなるためシステム全体の処理時間は増大する。図１２の例では、低遅延サーバの台数「３」と高遅延サーバの台数「４」と肩代わり信号数Ｓ「３」の分だけ、本来高遅延サーバに振り分けられる信号を低遅延サーバに振り分ける。
【００９０】
ここで、前記第１の実施形態では、各処理サーバの応答時間（ＴＡＴ）を応答時間閾値と比較して、各処理サーバを低遅延サーバと高遅延サーバとに分類していた。これに対して、本実施形態では、第１の実施形態のような応答時間閾値を設けることなく、各処理サーバを処理ＴＡＴの小さい順に低遅延サーバとして１台ずつ、全台数−１まで増加させていき、それぞれの場合の低遅延サーバの台数と高遅延サーバの台数とを決定することで、各処理サーバを低遅延サーバと高遅延サーバとに分類する。すなわち、本実施形態では、一定値である応答時間閾値を用いずに、処理サーバの全体的な処理遅延や処理負荷を見て動的に、その時点で最適な低遅延サーバおよび高遅延サーバを分類するので、より適切な処理サーバの分類を行うことができる。その結果、負荷分散のさらなる最適化を図ることができ、より一層処理負荷を制限しつつ、応答時間をできるだけ早めることができる。
【００９１】
なお、上記各実施形態では、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂから減少関数（評価関数）を用いてスコアを算出しているが、平均信号処理ＴＡＴ変動率Ｂを用いるものであればよく、評価関数に基づくスコアを算出しないものでもよい。すなわち、低遅延サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂを用いて肩代わり信号数Ｓを決定するものであれば、どのようなものでもよい。
また、低遅延サーバの負荷変動率Ａを用いることなく、平均信号処理ＴＡＴ変動率Ｂのみを用いるものでもよい。この場合には、あらかじめＴＡＴ変動率Ｂ目標値を設定し、実測値との差値等から肩代わり信号数Ｓを求めることができる。
【００９２】
また、高遅延サーバに振り分けられる信号を低遅延サーバへ振り分ける（戻す）動作は、信号を他拠点から自拠点へ巻き取るイメージとなっている。この点で、低遅延サーバへの「振り分け（戻す）」は、「巻き取り」と呼称してもよい。
【００９３】
また、上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上述文書中や図面中に示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【００９４】
また、上記の各構成、機能、処理部、処理手段等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行するためのソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、ＳＳＤ（Solid State Drive）等の記録装置、または、ＩＣ（Integrated Circuit）カード、ＳＤ（Secure Digital）カード、光ディスク等の記録媒体に保持することができる。また、本明細書において、時系列的な処理を記述する処理ステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）をも含むものである。
【符号の説明】
【００９５】
１  データセンタ（自拠点）
２  データセンタ（他拠点）
１１〜１７，２１〜２４  処理サーバ
３１〜３４  クライアント
１００，２００  負荷分散装置（処理時間測定手段，分類手段）
１１１，２１１  肩代わり信号数算出部（信号数算出手段）
１１０，２１０  振分機能部（振分手段）
１２０  サーバ情報取得部（負荷情報取得手段）
１３０  情報格納部（記憶手段）
１５０  拠点情報
Ａ  低遅延サーバの負荷変動率
Ｂ  平均信号処理ＴＡＴ変動率
Ｓ  肩代わり信号数
Ｃ  スコア
【図１】
2018128956.tif 000003
【図２】
2018128956.tif 000004
【図３】
2018128956.tif 000005
【図４】
2018128956.tif 000006
【図５】
2018128956.tif 000007
【図６】
2018128956.tif 000008
【図７】
2018128956.tif 000009
【図８】
2018128956.tif 000010
【図９】
2018128956.tif 000011
【図１０】
2018128956.tif 000012
【図１１】
2018128956.tif 000013
【図１２】
2018128956.tif 000014
【図１３】
2018128956.tif 000015