(57)【特許請求の範囲】
【請求項１】
説明変数の値から目的変数を求めるリッジ回帰の回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶された学習データを記憶する記憶部と、
正則化パラメータをλとし、変換パラメータをδとし、ｋを正の実数とし、ｍを正の実数とした場合、以下に示す式（１）を変換式とし、変換パラメータδを０＜δ≦１とした範囲で変換パラメータの候補値を複数生成する生成部と、
前記学習データに基づき、前記回帰式の正則化パラメータを前記変換式により変換し、前記生成部により生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出する算出部と、
前記算出部により算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う予測部と、
を有することを特徴とする予測装置。 
【数１】
0006484449.tif 000013
【請求項２】
前記変換式は、以下に示す式（２）とする
ことを特徴とする請求項１に記載の予測装置。
【数２】
0006484449.tif 000014
【請求項３】
前記生成部は、前記範囲を均等な間隔で複数の変換パラメータの候補値を生成する
ことを特徴とする請求項２に記載の予測装置。 
【請求項４】
前記リッジ回帰の回帰式は、複数の説明変数を含み、
前記学習データに基づき、所定の停止条件を満たすまで、前記複数の説明変数のうち、前記回帰式から算出される目的変数の予測値と実績値との誤差に対する相関の絶対値が大きい説明変数を選択することを繰り返して、選択された説明変数による回帰式を特定する特定部をさらに有し、
前記生成部は、特定された前記回帰式の各説明変数の正則化パラメータについて変換パラメータの候補値を複数生成し、
前記算出部は、特定された前記回帰式の各説明変数の正則化パラメータをそれぞれ前記変換式により変換し、前記生成部により生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出し、
前記予測部は、特定された前記回帰式の各説明変数の正則化パラメータについて、前記算出部により算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う
ことを特徴とする請求項１〜３の何れか１つに記載の予測装置。 
【請求項５】
所定の停止条件は、相関が高い説明変数を所定個選択するまで、または、選択された説明変数による回帰式から算出される目的変数の予測値と実績値との誤差が増加するまでとする
ことを特徴とする請求項４に記載の予測装置。 
【請求項６】
前記学習データは、目的変数として所定の期間の電力需要と、当該電力需要が得られた際の複数の説明変数の実績値が記憶され、
前記予測部は、前記回帰式により電力需要の予測を行う
ことを特徴とする請求項１〜５の何れか１つに記載の予測装置。 
【請求項７】
説明変数の値から目的変数を求めるリッジ回帰の回帰式の正則化パラメータをλとし、変換パラメータをδとし、ｋを正の実数とし、ｍを正の実数とした場合、以下に示す式（３）を変換式とし、変換パラメータδを０＜δ≦１とした範囲で変換パラメータの候補値を複数生成し、
前記回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶された学習データに基づき、前記回帰式の正則化パラメータを前記変換式により変換し、生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出し、
算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う
処理をコンピュータが実行することを特徴とする予測方法。
【数３】
0006484449.tif 000015
【請求項８】
説明変数の値から目的変数を求めるリッジ回帰の回帰式の正則化パラメータをλとし、変換パラメータをδとし、ｋを正の実数とし、ｍを正の実数とした場合、以下に示す式（４）を変換式とし、変換パラメータδを０＜δ≦１とした範囲で変換パラメータの候補値を複数生成し、
前記回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶された学習データに基づき、前記回帰式の正則化パラメータを前記変換式により変換し、生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出し、
算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う
処理をコンピュータに実行させることを特徴とする予測プログラム。
【数４】
0006484449.tif 000016
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、予測装置、予測方法および予測プログラムに関する。
【背景技術】
【０００２】
線形回帰は、幅広い応用を持つ実用的な統計手法である。線形回帰は、様々な分野に用いられている。例えば、線形回帰は、電力需要予測や異常判別などに用いられている。
【０００３】
複数の説明変数を持つ回帰式を使った線形回帰では、説明変数間の相関が予測性能を低下させる、所謂、多重共線性の問題がある。この対策の一つとして、リッジ回帰(Ridge  Regression)が利用されている。リッジ回帰では、予測精度を改善するため、正則化パラメータを適切に設定する必要がある。
【０００４】
正則化パラメータとしては、予測誤差の推定値を小さくするものを設定することが望ましい。この予測誤差の推定値は、例えば、ＡＩＣ（Akaike's  information  criterion）、ＢＩＣ（Schwartz's  Bayesian  information  criterion）、交差検定、MallowのＣｐなどを用いて計算できる。リッジ回帰では、予測誤差の推定値を最小にする正則化パラメータを探索することで適切なパラメータが得られる。
【０００５】
正則化パラメータの探索の方法としては、正則化パラメータの候補値をいくつか生成し、それぞれの予測誤差の推定値を計算し、その中で予測誤差の推定値が最も小さい正則化パラメータの候補値を選ぶ方法が実用的である。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】Arthur  E.  Hoerl  and  Robert  W.  Kennard,  Ridge  Regression:  Biased  Estimation  for  Nonorthogonal  Problems,  Technometrics.  Vol.12,  No.1  (Feb,1970),pp.  55-67
【非特許文献２】Hui  Zou  and  Trevor  Hastie,  Regularization  and  Variable  Selection  via  the  Elastic  Net,  Journal  of  the  Royal  Statistical  Society:  Series  B  (Statistical  Methodology).  Volume  67,  Issue  2,  pages  301-320,  April  2005
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、従来の技術では、適切な正則化パラメータを効率的に探索できないという問題点がある。
【０００８】
正則化パラメータは、取り得る範囲が０＜λ≦∞である。また、正則化パラメータは、予測誤差に与える影響が非線形である。このため、正則化パラメータの探索では、どのように正則化パラメータの候補値を定めるかに試行錯誤が必要であり、適切な正則化パラメータを効率的に探索できない。
【０００９】
経験的に有効性が知られている正則化パラメータの候補値の生成法としては、例えば、０．０１，０．１，１，１０，１００のように、指数的に増加する値を用いる方法がある。この方法は、例えば、Ｋｉ＋１＝ｋｉ＋１とし、正則化パラメータの候補値を１０ｋ１,１０ｋ２,…,１０ｋ１０として正則化パラメータの候補値を生成する。しかし、候補値の初期値であるｋ１の値を決めるための試行錯誤が必要になる。
【００１０】
また、上述のように、正則化パラメータの候補値は、取り得る上限に制限がない。このため、複数の候補値から正則化パラメータを探索する場合、候補値の数が多いほど計算時間が長くなる。しかし、計算時間の制約から候補値の数は限られる。このため、正則化パラメータの候補値をどのように生成するかが問題となり、適切な正則化パラメータを効率的に探索できない。
【００１１】
本発明は、上記に鑑みてなされたものであって、適切な正則化パラメータを効率的に探索できる予測装置、予測方法および予測プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
上述した課題を解決し、目的を達成するために、本発明の予測装置は、説明変数の値から目的変数を求めるリッジ回帰の回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶された学習データを記憶する記憶部と、所定の変換パラメータの所定の範囲の値の変化により、前記回帰式の正則化パラメータの取り得る範囲の値が得られる変換式の前記変換パラメータの取り得る前記所定の範囲で変換パラメータの候補値を複数生成する生成部と、前記学習データに基づき、前記回帰式の正則化パラメータを前記変換式により変換し、前記生成部により生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出する算出部と、前記算出部により算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う予測部と、を有する。
【発明の効果】
【００１３】
本発明は、適切な正則化パラメータを効率的に探索できるという効果を奏する。
【図面の簡単な説明】
【００１４】
【図１】図１は、行列Ｘおよび列ベクトルｙを模式的に示した図である。
【図２】図２は、δとλの関係の一例を示した図である。
【図３】図３は、予測装置の機能的な構成の一例を示す図である。
【図４】図４は、予測結果の評価の一例を示す図である。
【図５】図５は、予測処理の手順の一例を示すフローチャートである。
【図６】図６は、予測プログラムを実行するコンピュータを示す図である。
【発明を実施するための形態】
【００１５】
以下に、本発明にかかる予測装置、予測方法および予測プログラムの実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【実施例１】
【００１６】
［線形回帰およびリッジ回帰］
最初に、線形回帰およびリッジ回帰について説明する。通常の線形回帰では、例えば、最小二乗法で回帰係数を求める。具体的には、回帰式と観測値の差である残差の二乗和を最小にする回帰係数を求める。これは以下の式（１）に示すような最小化問題として定義できる。
【００１７】
ｍｉｎ||Ｘβ−ｙ||２          （１）
【００１８】
ここで、βは、回帰係数である。Ｘは、観測値の説明変数を行列で表示したものである。ｙは、観測値の目的変数の列ベクトルである。行列Ｘおよび列ベクトルｙの各行は、一回の観測に対応する。行列Ｘの各列は、観測値の種類である。図１は、行列Ｘおよび列ベクトルｙを模式的に示した図である。例えば、電力需要の予測では、気温や湿度等が各列に割り当てられる。観測数をＮとし観測値の種類をＰとすれば、行列Ｘは、Ｎ行Ｐ列の行列である。列ベクトルｙは、Ｎ行の列ベクトルである。また、“||・||”は、二乗ノルムを表す。
【００１９】
リッジ回帰とは、回帰係数の大きさを二乗ノルムで表し、回帰係数が大きくならないように、回帰式の残差と回帰係数の大きさを二乗したものを同時に最小化する方法である。リッジ回帰の回帰係数は、以下の式（２）に示すような最小化問題を解くことで得られる。
【００２０】
ｍｉｎ||Ｘβ−ｙ||２＋λ||β||２        （２）
【００２１】
ここで、λは、正則化パラメータであり、０以上の実数である。
【００２２】
［リッジ回帰の一般化］
ここで、リッジ回帰を一般化（拡張）した形態について説明する。ベイズ理論の枠組みでは、リッジ回帰は、回帰係数の事前分布を正規分布で定義した場合の事後確率最大化推定に位置づけられる。上述の式（２）は、事前分布として回帰係数毎に独立な正規分布を用いることに相当するが、回帰係数の事前分布として多変量正規分布を用いれば、一般化したリッジ回帰が得られる。この場合、回帰係数は、以下の式（３）に示す最小化問題を解くことで得られる。
【００２３】
ｍｉｎ||Ｘβ−ｙ||２＋βＴΛβ        （３）
【００２４】
ここで、Λは、正則化パラメータである。行列ＸがＮ行Ｐ列の行列の場合、正則化パラメータΛは、Ｐ行Ｐ列の対称行列である。“βＴ”は、回帰係数βの転置をあらわす。通常のリッジ回帰では、正則化パラメータは、一つの実数値であったのに対し、一般化したリッジ回帰では、正則化パラメータは行列となり、複数の実数値からなる。
【００２５】
別の拡張方法としては、例えば、非特許文献２には、Elastic  Netが提案されている。これは一乗ノルムと二乗ノルムの両方で回帰係数の大きさを表す方法である。回帰係数は、以下の式（４）に示す最小化問題を解くことで得られる。
【００２６】
ｍｉｎ||Ｘβ−ｙ||２＋λ||β||２＋γ|β|        （４）
【００２７】
ここで、γは、Elastic  Net特有の正則化パラメータである。“|・|”は、一乗ノルムを表す。Elastic  Net特有の正則化パラメータγは、非ゼロとなる回帰係数の数を指定することで、Least  Angle  Regressionにより求まる。一方、正則化パラメータλはリッジ回帰と同様に、複数の候補値を生成して、予測誤差の推定値を最小化するパラメータを探索する必要がある。
【００２８】
［標準化］
上述の式（２）の正則化パラメータλの項は、全ての回帰係数βに対して一律に効果を持つ。このため、得られる回帰係数βは、説明変数の単位系（スケール）に依存してしまう。どのような単位系に対しても同じ回帰係数βが得られるようにするためには、リッジ回帰の前処理として標準化の処理が必要である。
【００２９】
標準化とは各説明変数および目的変数の平均がゼロとなり、標準偏差が１となるように各変数を変換する処理である。説明変数の行列Ｘにおけるｐ列目の説明変数の標準化は、以下の式（５）に示すように計算する。
【００３０】
【数１】
0006484449.tif 000002
【００３１】
ここで、ｘｐに付した“￣”は、平均を表す。平均ｘｐは、標準化前のｐ列目の説明変数の平均である。標準偏差σｐは、標準化前のｐ列目の説明変数の標準偏差である。ｘｉｐは、標準化前の行列Ｘのｉ行ｐ列目の説明変数である。ｘ'ｉｐは、標準化後の行列Ｘのｉ行ｐ列目の説明変数である。目的変数についても同様に標準化を行う。標準化を行うと、回帰式の定数項が常にゼロとなるため、定数項が不要になる。
【００３２】
標準化後に得られた回帰係数で目的変数の値を算出した場合、標準化後の目的変数の値は以下の式（６）により元のスケールに戻す。
【００３３】
【数２】
0006484449.tif 000003
【００３４】
ここで、ｙに付した“￣”は、平均を表す。平均ｙは、標準化前の目的変数の平均である。σyは、標準化前の目的変数の標準偏差である。β'ｐは、標準化後に得られた回帰係数である。
【００３５】
［変換手法］
リッジ回帰の回帰係数は、上述の式（２）の最小化問題を解くことであり、回帰係数βについては、以下の式（７）のように書ける。
【００３６】
β＝（ＸＴＸ＋λＩ）−１ＸＴｙ        （７）
【００３７】
ここで、Ｉは、単位行列である。行列ＸがＮ行Ｐ列の行列である場合、Ｉは、Ｐ行Ｐ列の単位行列となる。
【００３８】
このように、リッジ回帰の回帰係数βは、解析的に得られるが、回帰係数βに対する正則化パラメータλの影響は非線形となる。このため、正則化パラメータλを０から徐々に大きくしていったときに、回帰式が目的変数の空間でどのように変化していくのかを想定するのは難しい。
【００３９】
ここで、正則化パラメータλの効果が直感的に理解できるように、以下に示す式変形を利用する。上述の式(７)は、以下の式（８）のように書き換えることができる。
【００４０】
【数３】
0006484449.tif 000004
【００４１】
説明変数および目的変数が標準化されていれば、式（８）は、以下の式（９）のように書き換えることができる。
【００４２】
【数４】
0006484449.tif 000005
【００４３】
ここで、Ｒｘｘは説明変数の相関行列である。Ｒｘｙは、説明変数と目的変数の相関行列である。
【００４４】
正則化パラメータについて、以下の式（１０）のような変換を考える。
【００４５】
【数５】
0006484449.tif 000006
【００４６】
この式（１０）の変換を式（９）のλに適用すると、以下の式（１１）が得られる。
【００４７】
β＝（δＲｘｘ＋（１−δ）Ｉ）−１δＲｘｙ        （１１）
【００４８】
説明変数の間の相関が無い場合を考えると、Ｒｘｘは、単位行列になり、回帰係数は、以下の式（１２）のようになる。
【００４９】
β＝δＲｘｙ        （１２）
【００５０】
また、回帰式に説明変数を代入した結果は、以下の式（１３）のようになる。
【００５１】
ｙ^（δ）＝δＸＲｘｙ＝δｙ^ＯＬＳ        （１３）
【００５２】
ここで、ｙ^ＯＬＳは、通常の最小二乗法で回帰係数を求めた場合、すなわち、λ＝０の場合の回帰結果である。なお、ＯＬＳは、Ordinary  Least  Squaresの頭文字であり、通常の最小二乗法を指す。
【００５３】
これより、０から１の間でδを等間隔で動かすと、ｙ^(δ)は、通常の回帰結果とｙ^（０）＝０の間を等間隔で動くことがわかる。従って、正則化パラメータとしてδを０から１まで等間隔に探索すれば、目的変数の取り得る範囲の空間で線形な探索が実現できる。なお、説明変数の間に相関がある場合でも、その相関が小さければこれに準ずる性質が期待できる。
【００５４】
なお、式（１０）による変換は、δの範囲を０＜δ≦１とすると、δ＝１でλ＝０になり、δを小さくするとλが大きくなり、δが０に近づくとλが無限大に近づく性質がある。図２は、δとλの関係の一例を示した図である。図２の例は、Ｎ＝１の場合の式（１０）のδとｌｏｇ（λ）との関係を示している。図２に示されるように、δ＝０．５付近では、指数的にλを変化させることに対応しており、一方でδ＝０またはδ＝１に近づくほど、δの変化に対するｌｏｇ（λ）の変化が大きくなることがわかる。この変換により、δの変化によるλの予測に与える影響が近似的に線形に変換される。
【００５５】
［予測手法］
次に、通常のリッジ回帰において正則化パラメータλの候補値の生成法について説明する。本実施例では、上述の式（１０）を一般化した、以下の式（１４）に示す正則化パラメータの変換式を用いる。
【００５６】
【数６】
0006484449.tif 000007
【００５７】
ここで、ｋは、正の実数である。ｋの役割は、ＸＴＸの各要素が観測数Ｎの増加とともに大きくなるので、それにあわせて正則化パラメータの大きさを調整することにある。推奨値は、ｋ＝Ｎである。ｋ＝Ｎとした場合、式（１４）は、式（１０）と一致する。
【００５８】
本実施例では、正則化パラメータλの候補値を生成する代わりに、以下の式（１５）により正則化パラメータとして変換パラメータの候補値δｉを生成する。
【００５９】
【数７】
0006484449.tif 000008
【００６０】
ここで、Ｄは、事前に決めた正の整数とする。ｉは、１からＤまでの整数とする。
【００６１】
得られたＤ個の候補値δｉに対して、それぞれ予測誤差の推定値を計算し、予測誤差の推定値を最小にする候補値δｉを選ぶことで、適切な正則化パラメータが求まる。なお、Ｄの推奨値は、５０から１００程度である。
【００６２】
次に、一般化したリッジ回帰における正則化パラメータの候補値の生成法について説明する。一般化したリッジ回帰の正則化パラメータは、行列なので、この行列の各要素に対して値を設定する必要がある。一般化したリッジ回帰の回帰係数は、以下の式（１６）のように書ける。
【００６３】
β＝（ＸＴＸ＋Λ）−１ＸＴｙ        （１６）
【００６４】
式（１６）は、通常のリッジ回帰と大きな差が無いので、式（１４）の変換の代わりに、以下の式（１７）の変換を用いることで候補値を生成できる。
【００６５】
【数８】
0006484449.tif 000009
【００６６】
ここで、Λｉｊは、Λのｉ行ｊ列目の要素である。δｉｊは、範囲０＜δｉｊ≦１の実数である。ｋは、式（１４）と同様の役割であり、推奨値は、ｋ＝Ｎである。
【００６７】
各δｉｊの候補値を式（１５）で生成することもできるが、各δｉｊの候補値の組合せを考慮すると、最終的に得られるΛの候補値の数は指数的になる。この方法の代わりに、各δｉｊの候補値を範囲０＜δｉｊ≦１の乱数で生成すれば、Λの候補値の数を限定できる。なお、Λの行列に制約を課してもよい。例えば、Λの対角成分だけを式（１７）により決定し、対角成分以外をゼロとする制約を課してもよい。これにより、Λの候補値の数を限定できる。
【００６８】
［δの高度な探索方法］
次に、δの高度な探索方法について説明する。上述した等間隔にδの候補値を生成する方法は、予測誤差の推定値を最小化する正則化パラメータの探索方法の一つである。実用上は、上述の方法で十分な場合が多いが、観測値の種類が多い大規模なデータにリッジ回帰を適用する場合は、より厳密に正則化パラメータを設定する場合がある。例えば、観測値の種類が１万を超えるような大規模なデータにリッジ回帰を適用する場合は、より厳密に正則化パラメータを設定する必要がある場合がある。この場合、なるべく少ない候補値の数で、予測誤差の推定値を最小にする正則化パラメータを探すために、より高度な探索方法が有用である。
【００６９】
高度な探索方法としては、予測誤差の推定値を最小化する正則化パラメータの範囲を徐々に絞り込む方法が考えられる。高度な探索方法の一例としては、等間隔にδの候補値を生成して予測誤差の推定値を計算し、予測誤差の推定値が最小の部分を含む所定範囲についてさらに短い間隔でδの候補値を生成して予測誤差の推定値を計算する局所的な探索を所定の終了条件を満たすまで繰り返す方法がある。この所定範囲は、等間隔以上の範囲であればよく、例えば、等間隔の範囲とする。終了条件としては、例えば、局所的な探索を所定回繰り返すまでとしてもよく、予測誤差の推定値が所定の基準以下となるまでとしてもよい。例えば、まず０から１の範囲に等間隔に１０個の候補値を生成し、予測誤差の推定値を計算する。次に、０から０．５の範囲と０．５から１の範囲に対して、先の候補値のうち予測誤差の推定値を最小にするものが含まれる範囲に対して、等間隔に１０個の候補値を生成する。これを繰り返すことで、範囲を徐々に絞り込み、予測誤差の推定値を最小化する正則化パラメータを効率的に探索できる。
【００７０】
一般化したリッジ回帰では、乱数による候補値の生成も有用であるが、より高度な方法としては局所探索や、遺伝的アルゴリズム等の直接探索法も有用である。
【００７１】
［説明変数の選択手法］
次に、逐次的な説明変数の選択手法について説明する。リッジ回帰では、回帰式に複数の説明変数を持つ場合がある。例えば、Ｐ個の説明変数Ｘｐを持つ回帰式は、以下の式（１８）のように表せる。
【００７２】
【数９】
0006484449.tif 000010
【００７３】
ここで、ｙは、目的変数である。βは、回帰係数である。式（１８）では、目的変数ｙが複数の説明変数の回帰式から算出される。
【００７４】
例えば、目的変数ｙを電力需要として、電力需要の予測を行う場合、各説明変数Ｘｐは、気温、湿度、風速等に対応する。しかし、回帰式を作成する場合、必ずしも全ての観測値を使う必要はなく、一部の説明変数により十分な精度で予測できる場合がある。例えば、気温、湿度、風速を観測していたとしても、回帰式では気温と風速だけを使うことで、予測精度が改善する場合や、予測結果の解釈が容易になる場合がある。
【００７５】
このように複数の説明変数がある場合に、回帰式に組み込む説明変数を自動選択する手法を説明する。この手法は、一つの説明変数を持つ回帰式から始め、回帰式に一つずつ説明変数を追加することを繰り返す。追加する説明変数の選び方は、説明変数とその時点での回帰式の誤差との相関の絶対値がもっとも大きなものを選ぶ。回帰式の回帰係数は、リッジ回帰で計算し、正則化パラメータは提案手法で決める。
【００７６】
以下に具体的な手順の一例を示す。
【００７７】
ステップ１：説明変数の選択する領域を初期化する。例えば、選択した説明変数を保持する領域Ａ０＝｛｝を空にする。また、Ｙ^０＝０と初期化する。また、カウンタｔ＝１と初期化する。
【００７８】
ステップ２：未選択の説明変数ごとに、選択された説明変数による回帰式の誤差との相関を算出する。最初は、Ａ０が空であり、選択した説明変数がないため、目的変数の予測値がゼロとなり、目的変数の実績値がそのまま誤差と算出される。説明変数が選択された場合の誤差は、後述のステップ６で算出される。例えば、未選択の各説明変数と誤差との相関ＣＰは、以下の式（１９）から算出する。
【００７９】
ＣＰ＝Ｘ（:|ｐ）Ｔ（ｙ−Ｙ^ｔ−１）        （１９）
【００８０】
ここで、Ｘは、Ｎ行Ｐ列の説明変数の行列とする。Ａｔは、回帰式に組み込まれた説明変数を指す列番号の集合とする。Ｘ（:|ｐ）は、行列Ｘのｐ番目の列ベクトルとする。Ｘ（:|Ａ）は、Ａに含まれる列番号に対応するＸの列のみをもった行列とする。Ｙ^０は、要素数Ｎの列ベクトルとし、各要素は０とする。
【００８１】
ステップ３：未選択の説明変数のなかから、ステップ２で算出した相関の絶対値が最大の説明変数を求める。すなわち、未選択の説明変数のなかで、誤差と変動が最も類似する説明変数を求める。例えば、Ａｔ−１に含まれない説明変数ｐの中で、|ＣＰ|が最大の説明変数ｐをｐｔ＊とする。
【００８２】
ステップ４：相関ＣＰの絶対値が最大の説明変数ｐｔ＊を回帰式に組み込む。これは、例えば、以下の式（２０）のように表せる。
【００８３】
Ａｔ＝Ａｔ−１∪｛ｐｔ＊｝            （２０）
【００８４】
式（２０）は、Ａｔ−１に説明変数ｐｔ＊を追加してＡｔとすることを示す。
【００８５】
ステップ５：回帰式の正則化パラメータをそれぞれ変換式で変換して変換パラメータδの候補値δｉを生成して予測誤差の推定値を求める。そして、予測誤差の推定値が最小となる候補値を変換パラメータに適用して、回帰係数βｔを求め、回帰式を特定する。回帰係数βｔは、カウンタｔでの回帰係数を表す。
【００８６】
ステップ６：回帰係数βｔを適用した回帰式から算出される目的変数の予測値と実績値の誤差を算出する。予測値は、例えば、以下の式（２１）のように表せる。
【００８７】
Ｙ^ｔ＝Ｘ（:|Ａ）βｔ            （２１）
【００８８】
ステップ７：誤差が所定の停止条件を満たしているか判定する。停止条件を満たしていない場合は、カウンタｔをカウントアップ（ｔ＝ｔ＋１）してステップ２に戻る。これにより、ステップ２〜７が繰り返される。停止条件を満たす場合は、説明変数の選択を終了する。これにより、回帰式が特定される。停止条件は、例えば、相関が高い説明変数を所定個選択するまで、または、選択された説明変数による回帰式から算出される目的変数の予測値と実績値との誤差が増加するまでとする。停止条件を、相関が高い説明変数を所定個選択するまでとした場合は、停止条件を満たした際の回帰式で予測を行う。停止条件を、選択された説明変数による回帰式から算出される目的変数の予測値と実績値との誤差が増加するまでとした場合は、停止条件を満たした際の回帰式では誤差が増加しているため、１つ前の回帰式（ｔ−１で特定された回帰式）で予測を行う。なお、停止条件は、これらに限定されるものではなく、他の条件を用いてもよい。
【００８９】
［予測装置の構成］
次に、本願の提案手法を適用した予測装置１０の構成について説明する。なお、本実施例では、予測装置１０により電力需要の予測を行う場合について説明する。また、本実施例では、予測装置１０が上述の説明変数の選択手法を用いて、複数の説明変数から回帰式を特定して電力需要の予測を行う場合を説明する。
【００９０】
図３は、予測装置の機能的な構成の一例を示す図である。図３に示すように、予測装置１０は、表示部２０と、入力部２１と、記憶部２２と、制御部２３とを有する。予測装置１０は、図３に示した機能部以外にも既知の各種の機能部を有してもよい。例えば、予測装置１０は、他の端末と通信を行う通信インタフェース部などを有してもよい。
【００９１】
表示部２０は、各種情報を表示する表示デバイスである。表示部２０としては、ＬＣＤ（Liquid  Crystal  Display）などの表示デバイスが挙げられる。表示部２０は、各種情報を表示する。例えば、表示部２０は、各種の操作画面や予測結果を表示する。
【００９２】
入力部２１は、各種の情報を入力する入力デバイスである。例えば、入力部２１としては、予測装置１０に接続されたキーボードやマウス、予測装置１０に設けられた各種のボタン、表示部２０上に設けられた透過型のタッチセンサなどの入力デバイスが挙げられる。なお、図３の例では、機能的な構成を示したため、表示部２０と入力部２１を別に分けているが、例えば、タッチパネルなど表示部２０と入力部２１を一体的に設けたデバイスで構成してもよい。
【００９３】
記憶部２２は、各種のデータを記憶する記憶デバイスである。例えば、記憶部２２は、ハードディスク、ＳＳＤ（Solid  State  Drive）、光ディスクなどの記憶装置である。なお、記憶部２２は、ＲＡＭ（Random  Access  Memory）、フラッシュメモリ、ＮＶＳＲＡＭ（Non  Volatile  Static  Random  Access  Memory）などのデータを書き換え可能な半導体メモリであってもよい。
【００９４】
記憶部２２は、制御部２３で実行されるＯＳ（Operating  System）や各種プログラムを記憶する。例えば、記憶部２２は、後述する予測処理を実行する予測プログラムを含む各種のプログラムを記憶する。さらに、記憶部２２は、制御部２３で実行されるプログラムで用いられる各種データを記憶する。例えば、記憶部２２は、学習データ３０を記憶する。
【００９５】
学習データ３０は、リッジ回帰の回帰式において各種のパラメータの最適値の算出に用いるデータである。学習データ３０は、リッジ回帰の回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶されている。本実施例では、所定の期間の電力需要の実績値と、当該電力需要が得られた際の気温、湿度、風速などの複数の説明変数の実績値が記憶されている。
【００９６】
制御部２３は、予測装置１０を制御するデバイスである。制御部２３としては、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processing  Unit）等の電子回路や、ＡＳＩＣ（Application  Specific  Integrated  Circuit）、ＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路を採用できる。制御部２３は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、これらによって種々の処理を実行する。制御部２３は、各種のプログラムが動作することにより各種の処理部として機能する。例えば、制御部２３は、受付部４０と、特定部４１と、生成部４２と、算出部４３と、予測部４４と、出力制御部４５とを有する。
【００９７】
受付部４０は、各種の受け付けを行う。例えば、受付部４０は、電力需要の予測に関する各種の情報の入力や電力需要の予測に関する各種の操作指示を受け付ける。例えば、受付部４０は、不図示の操作画面を表示部２０に表示させ、入力部２１からの入力操作により各種の操作指示を受け付ける。例えば、受付部４０は、電力需要の予測開始の指示を受け付ける。
【００９８】
特定部４１は、上述の説明変数の選択手法により、電力需要の予測に有効な回帰式を特定する。例えば、特定部４１は、学習データ３０に基づき、所定の停止条件を満たすまで、学習データ３０に記憶された複数の説明変数のうち、回帰式から算出される目的変数の予測値と実績値との誤差に対する相関の絶対値が大きい説明変数を選択することを繰り返して、選択された説明変数による回帰式を特定する。例えば、特定部４１は、最初に、学習データ３０に記憶された電力需要の実績値をそのまま誤差として、それぞれの説明変数の実績値との相関を算出する。そして、特定部４１は、算出された相関の絶対値が最大の説明変数を特定する。特定部４１は、相関の絶対値が最大の説明変数を選択する。以降、特定部４１は、選択された説明変数による回帰式に、学習データ３０に記憶された説明変数の実績を代入して電力需要の予測値を算出し、算出した予測値と学習データ３０に記憶された実績値との誤差を算出する。そして、特定部４１は、回帰式に含まれない説明変数について、それぞれ誤差に対する相関を求め、相関の絶対値が大きい説明変数を選択して回帰式に追加する。特定部４１は、このように回帰式から算出される電力需要の予測値と実績値の誤差が停止条件を満たすまで、相関の絶対値が最大の説明変数の選択を繰り返す。
【００９９】
生成部４２は、特定部４１において説明変数が追加された回帰式の変換パラメータの候補値を複数生成する。例えば、生成部４２は、正則化パラメータの変換式として、上述の式（１４）を用いて、０＜δ≦１の範囲で均等に変換パラメータの候補値δを生成する。例えば、生成部４２は、式（１５）のＤ＝５０として、ｉは、１からＤまで変化させて５０個の候補値δｉを生成する。
【０１００】
算出部４３は、特定部４１において説明変数が追加された回帰式に、生成部４２により生成された複数の候補値をそれぞれ変換パラメータに適用した場合の回帰式の予測誤差の推定値を算出する。例えば、算出部４３は、特定部４１において説明変数が追加された回帰式の正則化パラメータを変換式により変換する。そして、算出部４３は、回帰式のそれぞれ変換パラメータにそれぞれ候補値δを順に適用し、ＡＩＣ、ＢＩＣ、交差検定、MallowのＣｐなどを用いて、学習データ３０から回帰式の予測誤差の推定値を算出する。算出部４３は、説明変数ごとに、算出される予測誤差の推定値が最小となる候補値を変換式に適用して正則化パラメータを求める。これにより、説明変数ごとに、誤差の小さい正則化パラメータが特定される。上述の特定部４１では、説明変数ごとに、誤差の小さい正則化パラメータを適用した回帰式を用いて、誤差を算出する。
【０１０１】
すなわち、予測装置１０では、特定部４１により、予測に有効な説明変数を選択し、選択された説明変数による回帰式を特定し、生成部４２により、当該回帰式の変換パラメータの候補値を生成して、算出部４３により、候補値を変換パラメータに適用した場合の回帰式の予測誤差の推定値を算出することにより、予測に有効な説明変数により構成され、誤差の小さい正則化パラメータが適用されたリッジ回帰の回帰式を求める。
【０１０２】
予測部４４は、求められたリッジ回帰の回帰式により予測を行う、本実施例では、予測部４４は、電力需要を予測する。
【０１０３】
出力制御部４５は、各種の出力の制御を行う。例えば、出力制御部４５は、予測部４４により予測された電力需要の情報を表示部２０に表示させる。また、例えば、出力制御部４５は、予測部４４により予測された電力需要の情報を外部の端末装置へ出力する。これにより、ユーザは、出力された情報から電力需要の予測結果を把握できる。
【０１０４】
［予測例］
ここで、電力需要の予測の一例を説明する。なお、本実施例では、午後１２時の電力需要の年周期パターンを回帰式として求め、電力需要を予測する場合について説明する。ここでは、リッジ回帰の回帰式としてはフーリエ級数を用いる。回帰式は、例えば、以下の式（２２）のように表せる。
【０１０５】
【数１０】
0006484449.tif 000011
【０１０６】
ここで、ｙは、目的変数であり、午後１２時の予測される電力需要である。ｔは、１月１日から１２月３１日に対して、１から３６５までの数字を順に割り当てたものとする。Ｔは、周期を表し、３６５とする。πは、円周率である。βは、回帰係数である。
【０１０７】
式（２２）に示す回帰式では、変数ｌを１〜１００とした場合の波形を回帰係数の割合でそれぞれ重み付け加算する。この場合、説明変数は、各変数ｌに対して、sin(2πtl/T)とcos(2πtl/T)を各列に割り当てた２００列の行列となり、また、回帰式に表れる説明変数の数は、２００個となる。
【０１０８】
以下の例では、通常のリッジ回帰に対する手法を用いてリッジ回帰の回帰係数を求める場合を説明する。なお、一般化したリッジ回帰に対する手法を用いてもよい。
【０１０９】
学習データ３０には、所定の期間の午後１２時の電力需要の実績値を記憶させる。例えば、学習データ３０には、２０１２年９月３０日から２０１３年９月２９日までの東京電力管内の午後１２時の電力需要の実績値を記憶させる。例えば、学習データ３０には、１月１日から１２月３１日に対して割り当てたｔの値にそれぞれ対応させて、電力需要の実績値を記憶させる。
【０１１０】
予測装置１０は、学習データ３０に対して式（７）でリッジ回帰の回帰係数を求める。本実施例では、予測装置１０は、式（１４）のｋを学習データ３０のデータ数である３６５とし、式（１５）のＤを１００として候補値を生成し、各候補値の予測誤差の推定値を算出して正則化パラメータを決定する。予測誤差の推定値は、交差検定の一種であるＬＯＯＣＶ(Leave-One-Out  Cross-Validation)で求める。例えば、学習データ３０の一部の日付のデータを学習用データとし、残りの日付のデータを検証用データとする。この理由は、学習データ３０の一部の日付のデータを学習用データとし、残りの日付のデータを検証用データとして、学習用データから正則化パラメータを決定し、決定された正則化パラメータを適用した回帰式により検証用データから予測誤差の推定値を求めるので、回帰式の予測の精度を適切に評価できるためである。予測装置１０は、学習用データを用いて正則化パラメータを決定し、決定された正則化パラメータを適用した回帰式により検証用データについて予測を行って予測値と実績値を比較し、予測誤差の推定値を算出する。なお、回帰係数を求める際は、説明変数と目的変数を標準化する。
【０１１１】
予測結果を評価するため、２０１３年９月３０日から２０１４年９月２９日までの東京電力管内の午後１２時の電力需要の実績値のデータをテストデータとする。予測装置１０が、学習データ３０から得られた回帰係数で、テストデータに対する電力需要を予測すれば、実際の予測を想定したシミュレーションになり、テストデータに対する誤差を予測誤差と見なすことができる。
【０１１２】
図４は、予測結果の評価の一例を示す図である。図４には、正則化パラメータの各候補値で得られるリッジ回帰の回帰係数について、学習データ３０に対する誤差と、予測誤差の推定値と、テストデータに対する誤差とが示されている。なお、各誤差は、ＲＭＳＥ(Root  Mean  Squared  Error)で算出する。図４の横軸は、δの値を表す。図４の縦軸は、対応するδを用いたリッジ回帰の各種誤差の大きさを表す。図４に示すように、学習データ３０に対する誤差は、δの増加に対して単調に低下する。一方で、予測誤差の推定値は、下に凸の形になることがわかる。この理由は、δが１の付近では、学習データ３０に対して回帰式がフィットし過ぎて、回帰式による予測結果がオーバーフィッティングとなるためである。
【０１１３】
一方で、予測誤差の推定値とテストデータの誤差には、差異がある。この理由は、ＬＯＯＣＶによる予測誤差の推定値に推定誤差が含まれるため、および、学習データ３０とテストデータは、違う年の電力需要のデータであり、電力需要の性質が経年により変化したためである。すなわち、学習データ３０に対してテストデータの性質が変化する場合がある。予測装置１０は、性質が変化する前の学習データ３０から回帰式を求めるため、回帰式による予測結果がテストデータに対して必ずしも誤差が最も小さくなるわけではない。しかし、予測装置１０は、学習データ３０に対して予測誤差の推定値が最小となる回帰式を求めることで、高い精度でテストデータを予測できる。
【０１１４】
本実施例の手法の有効性は、式（１４）の変換に依存している。この変換に求められる性質は、予測誤差が最小になるδの付近で、δの候補値の間隔に比べて予測誤差が大きく変化しないことである。図４に示すテストデータに対する誤差のカーブが滑らかであることから、式（１４）の変換の有効性が確認できる。
【０１１５】
図４の例では、δの値が０．８６で予測誤差の推定値が最小となる。予測装置１０は、δの値を０．８６として正則化パラメータを決定し、決定された正則化パラメータを適用した回帰式により電力需要を予測する。δ=０．８６でのテストデータに対する誤差は、３８１万ｋＷである。
【０１１６】
また、予測装置１０は、説明変数の選択手法を用いて、説明変数を選択して回帰式を求めてもよい。例えば、上述の式（２２）のsin(2πtl/T)とcos(2πtl/T)をそれぞれ説明変数とした場合、回帰式に表れる説明変数の数は、２００個となる。予測装置１０は、説明変数の選択手法を用いて、２００個の説明変数から有効な説明変数を選択して回帰式を求めてもよい。
【０１１７】
例えば、予測装置１０が、上述の電力需要を予測した場合と同じ条件で、学習データ３０に対して説明変数の選択手法に基づき、８０個の変数を選択した場合、得られた回帰式のテストデータに対する誤差が、３８６万ｋＷである。２００個の説明変数を用いたリッジ回帰のテストデータに対する誤差は、３８１万ｋＷである。このように、予測装置１０は、説明変数の選択手法を用いて、用いる説明変数を８０個まで減らした場合でも、ほぼ同様の予測性能が得られたことがわかる。このように、予測装置１０は、説明変数の選択手法を用いることにより、予測において重要な説明変数が選択できる。
【０１１８】
このように、予測装置１０は、回帰式の正則化パラメータを変換する変換式の変換パラメータの取り得る範囲で変換パラメータの候補値を複数生成する。このように、変換パラメータの取り得る範囲が定まることで、試行錯誤を行わずに変換パラメータの候補値を生成できる。ここで、従来、正則化パラメータは、取り得る上限に制限がないため、どの範囲まで正則化パラメータの候補値を生成するか、試行錯誤が必要であり、処理の自動化を実現し難かった。一方、予測装置１０では、正則化パラメータを変換する変換式の変換パラメータの取り得る範囲が定まるため、回帰式の正則化パラメータを求める処理の自動化を実現できる。この結果、予測装置１０は、適切な正則化パラメータを効率的に探索できる。
【０１１９】
また、予測装置１０は、変換パラメータの変化による回帰式の正則化パラメータの予測に与える影響を近似的に線形に変換する変換式を用いて、回帰式の正則化パラメータを変換パラメータに変換し、変換パラメータの取り得る範囲を均等な間隔で複数の変換パラメータの候補値を生成する。これにより、予測装置１０は、候補値の数に応じた細かさで、正則化パラメータの取り得る範囲について万遍なく正則化パラメータの候補を探索でき、候補値の数に応じた精度で、精度の良い適切な正則化パラメータを探索できる。また、予測装置１０は、探索された正則化パラメータを適用した回帰式により、精度よく予測を行うことができる。また、予測装置１０では、変換パラメータの取り得る範囲を均等な間隔で変換パラメータの候補値を生成すればよいため、回帰式の正則化パラメータを求める処理の自動化を実現できる。この結果、予測装置１０では、適切な正則化パラメータを効率的に探索できる。
【０１２０】
［処理の流れ］
本実施例に係る予測装置１０が予測を行う予測処理の流れについて説明する。図５は、予測処理の手順の一例を示すフローチャートである。この予測処理は、所定のタイミング、例えば、受付部４０により電力需要の予測開始の指示を受け付けたタイミングで実行される。
【０１２１】
図５に示すように、特定部４１は、説明変数の選択する領域を初期化する（Ｓ１０）。例えば、生成部４２は、選択した説明変数を保持する領域Ａ０＝｛｝を空にする。また、生成部４２は、Ｙ^０＝０と初期化し、カウンタｔ＝１と初期化する。
【０１２２】
特定部４１は、領域Ａ０に保持された以外の未選択の説明変数ごとに、選択された説明変数による回帰式の誤差との相関を算出する（Ｓ１１）。特定部４１は、最初、Ａ０が空であり、選択した説明変数がないため、目的変数の実績値がそのまま誤差として、説明変数ごとに、誤差との相関を算出する。
【０１２３】
特定部４１は、未選択の説明変数のなかから、Ｓ１１で算出した、誤差との相関の絶対値が最大の説明変数を求める（Ｓ１２）。
【０１２４】
特定部４１は、相関の絶対値が最大の説明変数を領域Ａｔに追加し、相関の絶対値が最大の説明変数を回帰式に組み込む（Ｓ１３）。
【０１２５】
生成部４２は、回帰式の正則化パラメータをそれぞれ変換式で変換して変換パラメータδの候補値δｉを生成する（Ｓ１４）。算出部４３は、学習データ３０に基づき、回帰式の正則化パラメータを変換式により変換し、それぞれ変換パラメータに候補値を適用した場合の回帰式の予測誤差の推定値を算出する（Ｓ１５）。
【０１２６】
特定部４１は、予測誤差の推定値が最小となる候補値を変換パラメータに適用して、説明変数毎に回帰係数を求め、回帰式を特定する（Ｓ１６）。
【０１２７】
特定部４１は、学習データ３０に基づき、回帰係数βｔを適用した回帰式から算出される目的変数の予測値と実績値の誤差を求める（Ｓ１７）。
【０１２８】
特定部４１は、誤差が停止条件を満たしているか判定する（Ｓ１８）。停止条件を満たしていない場合（Ｓ１８否定）、処理は、上述のＳ１１へ移行する。
【０１２９】
一方、停止条件を満たしている場合（Ｓ１８肯定）、処理を終了する。
【０１３０】
［効果］
上述してきたように、本実施例に係る予測装置１０は、説明変数の値から目的変数を求めるリッジ回帰の回帰式の目的変数の実績値と、当該実績値が得られた際の説明変数の実績値が記憶された学習データ３０を記憶する。予測装置１０は、所定の変換パラメータの所定の範囲の値の変化により、回帰式の正則化パラメータの取り得る範囲の値が得られる変換式の変換パラメータの取り得る所定の範囲で変換パラメータの候補値を複数生成する。予測装置１０は、学習データ３０に基づき、回帰式の正則化パラメータを変換式により変換し、生成された複数の候補値をそれぞれ変換パラメータに適用した場合の回帰式の予測誤差の推定値を算出する。予測装置１０は、予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う。これにより、予測装置１０は、適切な正則化パラメータを効率的に探索できる。
【０１３１】
また、本実施例に係る予測装置１０では、変換式は、変換パラメータの変化による正則化パラメータの予測に与える影響を近似的に線形に変換する。予測装置１０は、所定の範囲を均等な間隔で複数の変換パラメータの候補値を生成する。これにより、予測装置１０は、候補値の数に応じた細かさで、正則化パラメータの取り得る範囲について万遍なく正則化パラメータの候補を探索できる。
【０１３２】
また、本実施例に係る予測装置１０は、変換式を、上述の式（１４）とする。これにより、予測装置１０は、適切な正則化パラメータを効率的に探索でき、探索された正則化パラメータを適用した回帰式により、精度よく予測を行うことができる。
【０１３３】
また、本実施例に係る予測装置１０は、学習データ３０に基づき、所定の停止条件を満たすまで、回帰式に含まれる複数の説明変数のうち、回帰式から算出される目的変数の予測値と実績値との誤差に対する相関の絶対値が大きい説明変数を選択することを繰り返して、選択された説明変数による回帰式を特定する。また、その際、予測装置１０は、特定された回帰式の各説明変数の正則化パラメータについて変換パラメータの候補値を複数生成する。予測装置１０は、特定された前記回帰式の各説明変数の正則化パラメータをそれぞれ変換式により変換し、生成された複数の候補値をそれぞれ変換パラメータに適用した場合の前記回帰式の予測誤差の推定値を算出する。そして、予測装置１０は、特定された前記回帰式の各説明変数の正則化パラメータについて、算出される予測誤差の推定値が最小となる候補値を変換パラメータに適用した回帰式により予測を行う。これにより、予測装置１０は、予測において重要な説明変数を選択し、選択された説明変数による回帰式により予測を行える。また、予測装置１０は、予測において重要な説明変数を選択して回帰式を特定するため、予測の処理の負荷を低減できる。
【０１３４】
また、本実施例に係る予測装置１０は、所定の停止条件を、相関が高い説明変数を所定個選択するまで、または、選択された説明変数による回帰式から算出される目的変数の予測値と実績値との誤差が増加するまでとする。予測装置１０は、所定の停止条件を、相関が高い説明変数を所定個選択するまでとした場合、説明変数を選択する回数が定まるため、回帰式の特定の処理時間が長くなることを抑制できる。また、予測装置１０は、所定の停止条件を、選択された説明変数による回帰式から算出される目的変数の予測値と実績値との誤差が増加するまでとした場合、誤差の小さい回帰式を特定して予測を行うことができる。
【０１３５】
また、本実施例に係る予測装置１０は、回帰式により電力需要の予測を行う。予測装置１０は、回帰式の正則化パラメータを求める処理を自動化できるため、電力需要の予測の処理を自動化できる。
【実施例２】
【０１３６】
さて、これまで開示の装置に関する実施例について説明したが、開示の技術は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。
【０１３７】
例えば、上記の実施例では、変換式を上述の式（１４）とする場合について説明したが、開示の装置はこれに限定されない。例えば、以下の式（２３）に示す正則化パラメータの変換を用いてもよい。
【０１３８】
【数１１】
0006484449.tif 000012
【０１３９】
ここで、ｍは、正の実数とする。
【０１４０】
また、上記の実施例では、電力需要を予測する場合について説明したが、開示の装置はこれに限定されない。リッジ回帰が適用できれば、何れの予測に適用してもよい。
【０１４１】
また、上記の実施例では、説明変数の選択手法により有効な説明変数を選択して回帰式を求める場合について説明したが、開示の装置はこれに限定されない。説明変数の選択手法は、行わなくてもよい。
【０１４２】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的状態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、受付部４０、特定部４１、生成部４２、算出部４３、予測部４４および出力制御部４５の各処理部が適宜統合されてもよい。また、各処理部の処理が適宜複数の処理部の処理に分離されてもよい。さらに、各処理部にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
【０１４３】
［予測プログラム］
また、上記の実施例で説明した各種の処理は、あらかじめ用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータシステムで実行することによって実現することもできる。そこで、以下では、上記の実施例と同様の機能を有するプログラムを実行するコンピュータシステムの一例を説明する。図６は、予測プログラムを実行するコンピュータを示す図である。
【０１４４】
図６に示すように、コンピュータ３００は、ＣＰＵ（Central  Processing  Unit）３１０、ＨＤＤ（Hard  Disk  Drive）３２０、ＲＡＭ（Random  Access  Memory）３４０を有する。これら３００〜３４０の各部は、バス４００を介して接続される。
【０１４５】
ＨＤＤ３２０には上記の受付部４０、特定部４１、生成部４２、算出部４３、予測部４４および出力制御部４５と同様の機能を発揮する予測プログラム３２０ａが予め記憶される。なお、予測プログラム３２０ａについては、適宜分離してもよい。
【０１４６】
また、ＨＤＤ３２０は、各種情報を記憶する。例えば、ＨＤＤ３２０は、上述の学習データ３０など予測に用いる各種データを記憶する。
【０１４７】
そして、ＣＰＵ３１０が、予測プログラム３２０ａをＨＤＤ３２０から読み出して実行することで、実施例の各処理部と同様の動作を実行する。すなわち、予測プログラム３２０ａは、受付部４０、特定部４１、生成部４２、算出部４３、予測部４４および出力制御部４５と同様の動作を実行する。
【０１４８】
なお、上記した予測プログラム３２０ａについては、必ずしも最初からＨＤＤ３２０に記憶させることを要しない。
【０１４９】
例えば、コンピュータ３００に挿入されるフレキシブルディスク（ＦＤ）、ＣＤ−ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」にプログラムを記憶させておく。そして、コンピュータ３００がこれらからプログラムを読み出して実行するようにしてもよい。
【０１５０】
さらには、公衆回線、インターネット、ＬＡＮ、ＷＡＮなどを介してコンピュータ３００に接続される「他のコンピュータ（またはサーバ）」などにプログラムを記憶させておく。そして、コンピュータ３００がこれらからプログラムを読み出して実行するようにしてもよい。
【符号の説明】
【０１５１】
１０  予測装置
２０  表示部
２１  入力部
２２  記憶部
２３  制御部
３０  学習データ
４０  受付部
４１  特定部
４２  生成部
４３  算出部
４４  予測部
４５  出力制御部
【図１】
0006484449.tif 000017
【図２】
0006484449.tif 000018
【図３】
0006484449.tif 000019
【図４】
0006484449.tif 000020
【図５】
0006484449.tif 000021
【図６】
0006484449.tif 000022