統計数理（2018）
第 66 巻 第 2 号 295–317©2018 統計数理研究所［原著論文］

B - スプライン及び Adaptive Group LASSO に基づく正則化非線形ロジットモデルによるデフォルト確率の推定
高部 勲1,2 ・山下 智志3（受付 2017 年 12 月 31 日；改訂 2018 年 6 月 9 日；採択 6 月 20 日）

要

旨

企業の過去のデフォルトデータを基にデフォルト確率予測モデルを構築する際には線形な 2
項ロジットモデルが用いられることが多いが，これについては従前から，（1）企業の信用スコ
アと財務指標との間の非線形性に対する考慮が不十分であり，また（2）多くの説明変数の候補
からの変数選択に莫大な計算時間がかかるというという 2 つの課題についての指摘がある．本
稿では，このような非線形性と変数選択という 2 つの課題を同時に解決することを目的とし
B - スプラインに基づく非線形・ノンパラメトリック回帰モデル及び（2）
Adaptive Groupて，（1）
LASSO に基づく効率的な変数選択という 2 つの手法を組み合わせることにより，従前の手法
よりも効果的かつ効率的なデフォルト確率予測モデルの構築を試みた．複数の銀行のデータを統合した独自のデータベースを用いてデフォルト確率予測モデルの構築を行った結果，本稿で提案したモデルは，t 値・p 値に基づく変数選択や単純な LASSO と比較して，いずれの期間においても最も説明変数の数が少なくなっており，より効率的な変数選択を行うことができた．
また AR 値などの指標の観点から，推定精度が向上していることが確認された．
キーワード：信用リスク， B - スプライン， Adaptive Group LASSO.

1.

導入

金融機関の信用リスク管理を考える際に，個別企業のデフォルト確率や倒産確率の予測精度の向上は重要な課題となっている．企業のデフォルト確率の予測モデルには，企業価値や債券価格を確率過程で記述するモデル（Merton, 1974; Duﬃe and Singleton, 1999）や，多変量判別分などがあるが，金融機関における実務では企業の析に基づくモデル（Altman, 1968; 白田, 2008）
過去のデフォルトに関するデータを基にデフォルト確率を予測するモデルを構築することが多（尾木, 2017; 山下・三浦, 2011;
く，その際には線形な 2 項ロジットモデルがよく用いられている
森平, 2009; Martine, 1977; Engelmann and Raumeier, 2006）．しかし線形な 2 項ロジットモデ
ルについては従前から，以下の 2 つの課題があることが指摘されている．
（1）企業の信用スコアと各種財務指標との間の非線形性に対する考慮が不十分
1

総合研究大学院大学 複合科学研究科統計科学専攻：〒 190–8562 東京都立川市緑町 10–3

2

総務省統計局：〒 162–8668 東京都新宿区若松町 19–1

3

統計数理研究所：〒 190–8562 東京都立川市緑町 10–3

統計数理

296

第 66 巻 第 2 号 2018

（2）多くの説明変数（各種財務指標）の候補からの変数選択に莫大な計算時間がかかる（1）の非線形性に関する課題について，従来の研究ではロジットモデルの説明変数として 2
次以上の多項式などを用いることにより対処している場合が多い．しかしそのようなモデルでは，非線形かつ多様な変動を把握するには限界があると考えられる．また，（2）の変数選択の課題については，t 値・p 値や AIC を基にしたステップワイズな変数選択により対処している事例が多いが，説明変数として用いる財務指標の数が多くなると，比較対象となるモデルの数も指数的に増大し，計算時間の面で限界があることから，より効率的な変数選択の手法が必要とされている．
（これらの先行研
上記の 2 つの課題に対して個別に対処している先行研究は存在するものの究の具体的な内容については 2 節で示す），これらの課題を同時に考慮したデフォルト確率予測モデルの事例については，調べた限りでは存在しない．そこで本稿では，これらの課題を同時に解決することを目的として，以下の 2 つの手法を組み合わせることにより，従前の結果と比較して，より精度の高いデフォルト確率予測モデルの効率的な構築を試みた．
（1）
B - スプラインに基づく非線形・ノンパラメトリック回帰モデル
Adaptive Group LASSO に基づく効率的な変数選択（2）
本研究では複数の銀行のデータを統合した独自のデータベースを用いて，中小企業を対象としたデフォルト確率予測モデルの構築を行う．本研究において提案した手法はデフォルト確率との非線形な関係の合理的・効率的な構築に寄与するものであり，各種財務指標に基づく与信判断などにも資すると考えられる．
2.

先行研究と課題

2.1 ロジットモデルに基づくデフォルト確率予測モデル
企業の過去のデフォルトに関するデータを基にデフォルト確率予測モデルを構築する際に，個別企業に関する大規模なデータが活用できる場合には，線形な 2 項ロジットモデルが利用されることが多い．このような研究としては，中小企業信用リスク情報データベース協会のデータを用いた高橋・山下（2002）や，日本政策金融公庫のデータを用いた尾木（CRD 協会）
他（2015）などがある．
線形な 2 項ロジットモデルは，企業 i (1 ≤ i ≤ n) のデフォルト確率を Pi ，対応する財務指標を xij (1 ≤ j ≤ p) とした場合，以下のように表現される．

Pi= β0 +
βj xij
1 − Pi
p

(2.1)

log

j=1

式（2.1）の左辺は Pi のロジット変換である．式（2.1）は以下のように表現することもできる．
Pi =1
1 + exp(−Zi )(2.2)
Z i = β0 +p
βj xijj=1

ここで Zi は企業 i の信用スコアを表しており，一般的にこの数値が大きくなるほど企業の信用力が低くデフォルト確率 Pi が高くなる．信用スコア Zi を基に企業のデフォルトの可能性を予測することができる．
上記の 2 項ロジットモデルにおける回帰係数 β = (β0 , β1 , . . . , βp ) は最尤法により推定する．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定297

具体的には以下の対数尤度 L1 (β) を最大化するような β̂ を回帰係数の推定値とする．
L1 (β) =n

log[Pi δi (1 − Pi )1−δi ]

i=1

(2.3)

=

n


[δi log(Pi ) + (1 − δi ) log(1 − Pi )]

i=1


δi =

1 （企業 i がデフォルトしている場合）
0 （企業 i が非デフォルトである場合）（2.2）
で表されるデフォルト確率を代入する．このような単純な 2 項ロジットモデ
Pi には，式ルに基づくデフォルト確率予測については，回帰係数の推定が容易である一方，次節以降に示すような課題があることが指摘されている．
2.2 財務指標と信用スコアとの非線形な関係
式（2.1）による 2 項ロジットモデルでは線形なモデルを仮定している．しかし財務指標によっては信用スコアとの間に非線形な関係があることが指摘されている（Dwyer et al., 2004; 白田,2008）．このような場合に線形なモデルを用いると，信用スコアと財務指標との関係を適切にモデリングすることができず，デフォルト確率の予測精度が低下するおそれがある．図 1 は，のうち，2005 年から 2013 年までの期間に関して，い今回使用するデータ（詳細は 4.1 節を参照）
くつかの財務指標と実績デフォルト率のロジット変換値との関係を示したものである．具体的には各財務指標の大きさの順に企業を並べ，それらを財務指標の大きさに応じて 200 のクラスに分割し，各クラスにおける実績デフォルト率のロジット変換値をプロットしたものである．
その際に歪みの大きい一部の財務指標に対して対数変換又は neglog 変換を行っており，さらにそれらの値が 0 から 1 の範囲に収まるように線形変換を行っている．なお neglog 変換は以下のように定義されるもので，対数変換を負の値に拡張した変換となっている（森平, 2009; 山下・三浦, 2011）．



(2.4)

neglog(x) =log(x + 1)

( x ≥ 0)− log(−x + 1)

( x < 0)

また図 1 には併せて線形ロジットモデルによる予測値（点線）と，後述の式（3.1）の B - スプラインに基づく非線形ロジットモデルについて，単変量のモデルを各財務指標に当てはめて推定した予測値（実線）を示している．その際の B - スプラインの基底の数は，AIC に基づき選択した．
図 1 から，財務指標によっては実績デフォルト率のロジット変換値との間に明らかに非線形な関係があり，線形なモデルではこれらの変動に対応できていないことがわかる．
式（2.1）で示した 2 項ロジットモデルにおいて非線形な効果を扱う場合には，各財務指標の多項式や対数，平方根などの項を導入することが考えられる（Hosmer et al., 2013）．しかしそれらの関数形のどれが正しいかを事前に知ることはできないため，このような方法では各種財務指標の非線形な影響の把握には限界があると考えられる．
財務指標との関係を多項式モデルのような形であらかじめ設定するのではなく，ノンパラメ
トリック回帰モデルの手法を用いてデータから柔軟に曲線関係を推定している先行研究も存在
では，一般化加法モデル（Generalized Additive Model, Hastie and Tibshirani,する．Berg（2007）の枠組みを企業の倒産確率モデルに導入することにより，データから柔軟な形で財務指1990）
標と倒産確率との非線形な関係を推定している．そして従来の判別分析モデルや線形な 2 項ロ

298

統計数理

第 66 巻 第 2 号 2018

図 1．実績デフォルト率の状況（図中の「現預金比率」，「デットキャパシティレシオ」及び「借入
金月商倍率」については neglog 変換を行っている．また全ての財務指標について，0 か
ら 1 の範囲に収まるように線形変換を行っている．）．

ジットモデルと比較して，AR 値の観点から推定精度が向上したと報告している．Giordani et
では 2 次の自然スプラインを用いた非線形ロジットモデルを用いて個別企業の倒産
al.（2014）

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

299

確率を分析しており，線形ロジットモデルと比較して，AR 値や疑似決定係数の観点からモデルの精度が向上し，倒産確率と各種財務指標との非線形な関係を適切に捉えることができたとでは財務指標を離散化したスコアリングテーブルに基づき，遺伝的報告している．山内（2010）
アルゴリズムにより多目的最適化問題を解くことによって非線形なモデルを推定している．ただしこれらの先行研究では，いずれも非線形なモデルの構築のみに焦点を当てており，各種財務指標の中から適切なものを選択するという変数選択の観点は考慮されておらず，具体的な計算に入る前の段階でモデルに導入する財務指標の種類を，事前にある程度限定している．
2.3 複数の財務指標に関する変数選択
デフォルト確率予測モデルを構築する場合，説明変数として用いられる財務指標の候補の数
は主要なものだけでも数十程度あり，場合によっては 100 を超えることもある．これらの財務指標の全ての組合せに基づくモデルを推定して比較を行う場合，対象となるモデルの数が非常に多くなるため，モデル構築にかなりの時間を要する．例えば候補となる財務指標の数が 50である場合， 250（  1015 ）通りのモデルの候補が考えられる．これらの候補の中から AIC 等の基準に基づくステップワイズな方式によりモデル選択を行った場合，現実的な計算時間で推定を行うことは困難であることから，より効率的な変数選択の手法が必要となる．しかし従来のデフォルト確率予測モデルの構築においては t 値・p 値を用いた単純な変数の絞込みや，何らかの先験的な知見に基づく事前の財務指標の選択が行われているのが実情である．
これに関して近年，回帰係数の推定と変数選択を同時に実行できる LASSO（Least Absoluteに関する研究が発展しており（Tibshirani, 1996; Hastie etShrinkage and Selection Operator）
al., 2015; 冨岡, 2015），この方法を適用した企業のデフォルト確率や倒産確率の推定に関する研究も行われるようになってきている（Amendola et al., 2012; Perederiy, 2009; Tian et al.,．LASSO に基づくロジットモデルでは，式（2.3）の対数尤度 L1 (β) に，L1 ノルムに基づ
2015）
く正則化項を加えた以下の罰則付きの対数尤度 L2 (β) の最大化を行うことにより，回帰係数
β = (β0 , β1 , β2 , . . . , βp ) の推定を行う．
(2.5)

L2 (β) =n
i=1[δi log(Pi ) + (1 − δi ) log(1 − Pi )] − λ

p

p


|βj |

j=1

式（2.5）の最大化は，回帰係数 β の範囲に j=1 |βj | ≤ t という制約を加えた下での式（2.3）の最大化と同値である（λ と t は 1 対 1 に対応）．なお定数項 β0 にはこのような制約を課さない．L1 ノルムに基づく正則化項の下では，値の小さい回帰のが一般的である（Hastie et al., 2015）
係数が 0 になりやすくなる傾向があり，この性質が回帰係数の推定と説明変数の選択を同時に行うことを可能としている．ここで λ は正則化項の効果を調整するチューニングパラメータであり，交差検証法により決定することが多い．
Prederiy（2009）
は企業の倒産予測における変数選択の問題について，LASSO に基づく 2 項
ロジットモデルを用いて対処した先駆的な研究であり，効率的な変数選択により計算量の削減を達成するとともに，モデルの予測精度も向上したと報告している．ただし単純な線形ロジッ
トモデルに LASSO を適用するにとどまっており，財務指標との非線形な関係を考慮しておらず，最終的に選択された財務指標の数も多くなっている．また Amendola et al.（2012）や Tianet al.（2015）
では，Cox 比例ハザードモデルと LASSO を組み合わせて企業の倒産確率の長期予測を行っているが，これらの研究においても同様に単純な線形ロジットモデルが用いられて
おり，財務指標との間の非線形な関係を考慮したモデルとはなっていない．

300

3.

統計数理

第 66 巻 第 2 号 2018

非線形・正則化ロジットモデルに基づくデフォルト確率予測モデルの構築

3.1 本研究の目的
これまでに述べたように，信用スコアと財務指標との間の非線形性及び変数選択の問題については，双方ともモデルの構築に当たり重要な課題であるが，それぞれの課題に個別に対応する研究事例はあるものの，これらを同時に考慮したモデルに関する研究については，調べた限B - スプラインに基づく非線形・ノン
りでは存在しない．本研究ではこれらの課題に対し，（1）Adaptive Group LASSO に基づく合理的な変数選パラメトリック回帰モデルの導入，及び（2）択の適用という 2 つの手法を組み合わせたデフォルト確率予測モデルを提案する．
3.2 B - スプラインに基づく非線形モデル
まず財務指標との間の非線形性を考慮したモデリングについて検討する．これについてはス
プラインに基づく非線形な項を導入することにより対応する．スプラインは，説明変数に関するデータが含まれる区間をいくつかの小区間に分割し，各区間において区分的な多項式モデル．説明変数とデフォルト確を当てはめる方法である（小西, 2010; 山下・安道, 2006; 桜井, 1981）
率との複雑な関係を単一の多項式モデルで把握するのではなく，隣り合う各区間における多項式モデルを滑らかに接続することにより，非線形な構造に対処する方法となっている．
本稿では B - スプラインに基づく方法を検討する．B - スプラインは局所的な台を持つスプライン関数であり，複数の多項式を滑らかに接続して基底関数を構成する．B - スプラインの導入により，特定の関数形を仮定せずに，財務指標とデフォルト確率との間の非線形な関係をデー
タから柔軟に推定することが可能となる．B - スプラインに基づく非線形ロジットモデルは，式（3.1）
で置き換えることで得られる．
（2.2）における信用スコア Zi を以下の式(3.1)

Z i = β0 +

p

j=1

fj (xij ),fj (xij ) =mj

βjk φk (xij )k=1

ここで fj (1 ≤ j ≤ p) は各財務指標に対応する非線形関数であり，φk (1 ≤ k ≤ mj ) は B - ス
プラインの基底を表している．図 2 は B - スプラインに基づく非線形回帰のイメージを示したものである．左側の図が各説明変数に対する B - スプラインの基底を表しており（基底の数は 9に設定），右側の図はこれらの基底に基づく非線形回帰モデルの予測値を示している．このように非線形な基底を組み合わせることで，データから柔軟に関数を推定することが可能となる．
に基づき B - スプラインの次数は 3 次とし，基底の計
本稿では先行研究（Huang et al., 2010）

図 2．B - スプラインに基づく非線形回帰のイメージ 左図：B - スプラインの基底 右図：B スプラインに基づく非線形モデル（点がサンプルデータ，太線が予測値）．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

301

算には R の bs 関数を用いている．B - スプラインを構築するに当たり，区間を分割する節点を設定する必要がある．節点の位置については等間隔に設定している．また節点の数について
は，これを 5 から 15 の範囲で変化させて各財務指標に対して単変数の非線形ロジットモデル
を当てはめ，AIC に基づき財務指標ごとにその数を事前に決定している．
3.3 Group LASSO に基づく変数選択
B - スプラインに基づく非線形モデルでは，財務指標ごとに基底を複数個用意して滑らかな非線形の曲線を表現する．このとき 1 つの財務指標に対して複数の基底が対応することになるため，変数選択の際にはこれらの複数の基底をまとめてモデルに取り込む，あるいはモデルから除去する必要がある．このように複数の変数をグループとしてまとめて扱い，変数選択を行う（Meier et al., 2008; Hastie et al., 2015）．
方法として，Group LASSO がある
Group LASSO では，式（2.5）
における L1 ノルムによる正則化項の代わりに，L2 ノルムβ j 2 (= βj1 2 + βj2 2 + · · · + βjmj 2 ) による正則化項を用いた以下の L3 (β0 , β 1 , β 2 , . . . , β p ) を最大化することにより，回帰係数 β0 及び β j = (βj1 , βj2 , . . . , βjmj ) の推定値である β̂0 及びβ̂ j (1 ≤ j ≤ p) を得る手法である．これによりグループ単位での回帰係数の推定と変数選択を同時に行うことが可能となる．
(3.2)

L3 (β0 , β 1 , β 2 , . . . , β p ) =n[δi log(Pi ) + (1 − δi ) log(1 − Pi )] − λ

i=1

p

√

mj β j 2

j=1

Pi の式に含まれる信用スコア Zi には，式（3.1）を代入する．なお，Yuan and Lin（2006）では式（3.2）のように，Group LASSO の重みにはグループのサイズの平方根を用いることが推奨されている．
に関して，例えばある項 fj (xij ) に定数 C を加え，別の項 fk (xik（あるいは定)
ここで式（3.1）
数項）から定数 C を引いても同一の信用スコア Zi が得られることから，非線形関数の一意性が保証されないことになる．そこで非線形関数の一意性のために，Huang et al. (2010) に基づ
き，以下の制約を課す．
mj
n 


(3.3)

βjk φk (xij ) = 0

i=1 k=1

上記の制約については，φk を以下のように変換した新たな基底 ψjk を用いることで対応で
きる．
1
φk (xij ),
n
n

(3.4)

φ̄jk =

ψjk (xij ) = φk (xij ) − φ̄jk

i=1

スプラインと Group LASSO を組み合わせたモデルを遺伝子分野の研究に応用した事例としがある．本稿では Huang et al.（2010）の方法をて，Huang et al.（2010），Meier et al.（2009）
ベースとしつつ，次節に示すような調整を行った上で，デフォルト確率予測モデルを構築している．
3.4 Multistep Adaptive Group LASSO に基づく変数選択
LASSO や Group LASSO では正則化項にかかるチューニングパラメータ λ を変化させることで回帰係数にかかる制約の強さをコントロールすることができるが，全ての回帰係数に同一のパラメータ λ を適用している点は改良の余地がある．そこで回帰係数の大きさの逆数を罰則とすることで絶対値の小さな係数により大きな罰則を課し，効率的に変数を選択する方法が Adaptive Group LASSO である（Bühlmann and van de Geer, 2011; Huang et al., 2010）．

統計数理

302

第 66 巻 第 2 号 2018

Adaptive Group LASSO では，既に得られている推定値 β̂ j を用いて計算した ωj を基に，以下の L4 (β0 , β 1 , β 2 , . . . , β p ) を最大化することにより回帰係数の推定を行う．
L4 (β0 , β 1 , β 2 , . . . , β p ) =n[δi log(Pi ) + (1 − δi ) log(1 − Pi )] − λ



i=1

(3.5)

ωj =

p

√

mj ωj β j 2

j=1

β̂ j −12(β̂ j 2 > 0)∞(β̂ j 2 = 0)

ここで ωj = ∞ となる場合には，対応する変数をモデルから取り除くこととする．
本稿では変数の選択をより効率的に行うために，Adaptive Group LASSO を複数回適用する方法を用いる（以下ではこれを Multistep Adaptive Group LASSO と呼ぶ）．具体的には以下の手順により，係数を推定する．
（1）まず，Group LASSO を適用し，係数の推定値 β̂0 及び β̂ j (1 ≤ j ≤ p) を得る．
（2）得られた係数 β̂ j を基に重み ωj を計算し，Adaptive Group LASSO を適用して，係数の∗推定値 β̂0∗ 及び β̂ j (1 ≤ j ≤ p) を得る．
∗
（3）得られた係数 β̂ j を基に，再度重みを計算し，Adaptive Group LASSO を適用して係数の最終的な推定値を求める．
今回の分析では計算のコストを考慮して，阪本 他（2010）の設定を参考に，Multistep Adaptive
Group LASSO における反復回数を 2 回に設定している．これらの計算の際には Adaptive
Group LASSO の計算を比較的容易に行うことが可能であり，かつ高速な計算アルゴリズムを採用している R のパッケージ gglasso（Yang and Zou,
（Groupwise Majorization Descent）
を使用してモデルの構築及びパラメータの推定を行った．
2015）
4.

分析結果

4.1 データ
本稿の分析では，複数の銀行の債権に関する 2005 年から 2014 年までの統合データを用いている．またデフォルトの定義に関しては，企業の債権者区分が破たん懸念先以下に遷移する状
況（破懸基準）をデフォルトとして扱っている．このデータを，モデルの構築に用いる期間と，構築したモデルの評価（バックテスト）を行う期間（アウトオブタイム）に分割して分析を行う．
なお推定を行う期間の違いによって最適なモデルや結果の評価が影響を受ける可能性もあることから，分析に当たっては以下の表 1 に示すように，期間の分割の仕方を変えた 4 種類のデー
タセットを用意し，各データセットを対象としてモデルの構築を行い，結果を比較した．分析に用いた財務指標の一覧は表 2 に示している．
4.2 モデル構築及びパラメータ推定の際の設定
モデルの構築に当たっては，以下の設定の下でパラメータの推定等を行った．
表 1．分析に用いたデータセットの種類．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

303

表 2．分析に用いた財務指標の一覧．

変数変換の適用：財務指標によっては売上高のように，少数の企業が非常に大きな値をとる
ような右に歪んだ分布となる場合がある．このように歪みの強い変数については，対数変換又は neglog 変換を適用し，変数の安定化を図った．その上で，さらに全ての変数に対し，0 から1 の範囲に収まるように線形変換を行った．
はずれ値への対応：財務指標によっては，上記の変換を行ってもなお，はずれ値が存在することがある．そこで，はずれ値の影響を軽減するため，財務指標を大きさの順にソートし，分（上下 1% を超える値に対して上下 1% における値を代入）を行った．
布の上下 1% で折返し処理
欠測値への対応：財務指標によっては，欠測値が存在することがある．そのような場合には中央値を代入して補完を行った．なお今回のデータセットでは欠測値がそれほど多くないため，欠測値補完による分析結果への影響は，それほど大きくないと考えられる．
（全体の 5% 程度）
フラグ（ダミー）変数の導入：業種別，銀行別に関するフラグ変数を導入した．なお，これらのフラグ変数には LASSO の罰則を課していない．
チューニングパラメータ λ の決定：Adaptive Group LASSO を適用する際に，チューニング
パラメータ λ を決定する必要がある．これについては AUC に基づく 5 重交差検証法により最小となる値を求め，これをベースとして最終的に 1 標準誤差ルール（Hastie et al., 2015; 川野他, 2018）により λ を決定した．AUC については 4.3 節を参照．
4.3 複数の手法に基づくモデルの比較・検証方法
本稿では，パラメータの推定と変数（財務指標）の選択に関する以下の 5 つのモデルについて，各種指標により比較を行った．

［モデル 1］：線形な 2 項ロジットモデルを基に，2（1）線形モデル + p 値に基づく変数選択
段階で変数の選択を行う．具体的には，まず全ての変数を用いて推定を行い，p 値が 0.1 以上の変数をモデルから除外する．そして再度パラメータの推定を行い，p 値が 0.05 以上の変数をモデルから除外して，最終的なモデルを決定した．
（2.5）に基づき（2）線形モデル + LASSO［モデル 2］：線形な 2 項ロジットモデルを基に，式

304

統計数理

第 66 巻 第 2 号 2018

パラメータの推定及び変数の選択を行った．LASSO による推定には R のパッケージ glmnet（Friedman et al., 2010）
を用いた．
（3）線形モデル + Multistep Adaptive LASSO［モデル 3］：線形な 2 項ロジットモデルをに基づく Adaptive LASSO を 2 回適用することにより，パラメータの推定基に，以下の式（4.1）
及び変数の選択を行った．
L5 (β0 , β1 , β2 , . . . , βp ) =
(4.1)

n


p


i=1

j=1

[δi log(Pi ) + (1 − δi ) log(1 − Pi )] − λ

ωj =



|βj |−1(|βj | > 0)∞(|βj | = 0)ωj |βj |（4）
B - スプライン + Group LASSO［モデル 4］：B - スプラインに基づく 2 項ロジットモデに基づく Group LASSO を適用することにより，パラメータの推定及び変数
ルを基に，式（3.2）の選択を行った．
B - スプライン + Multistep Adaptive Group LASSO［モデル 5］：B - スプラインに基
（5）
（3.5）
に基づく Multistep Adaptive Group LASSO により，づく 2 項ロジットモデルを基に，式
パラメータの推定及び変数の選択を行った．
上記の方法により推定したモデル間の比較に用いる各種指標の定義については以下のとおりである（尾木, 2017; 山下・三浦, 2011; 森平, 2009; Engelmann and Raumeier, 2006）．
AUC（Area Under the Curve）：AUC は，ROC 曲線（Receiver Operatorating Characteristicの下側部分の面積で定義される指標である．AUC はモデルの順位性（信用スコアの低い
curve）（高い）企業ほどデフォルト率が高く（低く）なっているか）を評価するための指標であり，この値が大きいほどデフォルトの予測精度が高いといえる．AUC の計算には R の pROC パッケージを用いた．
AR 値（Accuracy Ratio）：AR 値は，CAP（Cumulative Accuracy Proﬁles）曲線の下側面積から計算される統計量である．AR 値と AUC との間には，AR 値 = 2AUC − 1 という関係があり，これらは同等な統計量であるが，信用リスクモデルの評価には AR 値を用いることが多い．
：疑似決定係数は，1 − (Lopt /Linit ) で表される統計量であり，マ
疑似決定係数（Pseudo R2 ）クファーデンの決定係数とも呼ばれる．ここで Linit は定数項のみのロジットモデルの推定を行った場合の対数尤度であり，Lopt は財務指標を用いたロジットモデルの推定を行った場合の対数尤度である．疑似決定係数はインサンプルにおけるモデルのデータへの当てはまりを表す指標であり，この値が大きいほど当てはまりが良いといえる．
nブライアスコア：ブライアスコアは，(1/n) i=1 (Pi − δi )2 で表される統計量である．ここで Pi は企業 i のデフォルト確率であり，δi は企業 i がデフォルトしていれば 1，非デフォル（推定されたデフォルト確トであれば 0 となる定数である．ブライアスコアはモデルの一致性
率と実際のデフォルト率がどの程度近いか）を表す指標であり，この値が小さいほど一致性が高いといえる．
4.4 推定結果
期間の分割の仕方を変えた 4 つのデータセットを対象に分析を行い，説明変数として選択された財務指標について示したものが，表 3 から表 6 である．
全てのデータセットにおいて，提案手法（モデル 5）が，選択された変数の数が最も少なくなっている．また，線形モデル＋ LASSO（モデル 2）と提案手法（モデル 5）について，各データ
セットにおいて選択された変数をまとめたものが表 7 である．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

表 3．各推定方法における変数選択の結果：データセット 1．

305

306

統計数理

第 66 巻 第 2 号 2018

表 4．各推定方法における変数選択の結果：データセット 2．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

表 5．各推定方法における変数選択の結果：データセット 3．

307

308

統計数理

第 66 巻 第 2 号 2018

表 6．各推定方法における変数選択の結果：データセット 4．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定309

表 7．モデル 2 及びモデル 5 において選択された変数．

線形モデル＋ LASSO（モデル 2）
ではデータセットによって（特にデータセット 2 とそれ以外で）選択される変数が大きく異なる場合があるのに対し，提案手法（モデル 5）による推定結果で

310

統計数理

第 66 巻 第 2 号 2018

表 8．各推定方法における推定結果の比較（太字は最も良いもの）．

は，選択された変数にそれほど大きな違いはなく，安定した推定結果となっている．
交差検証法（モデル構築期間）
及びバックテスト（アウトオブタイム）
における推定結果を示したものが表 8 である．
データセット 2（モデル構築期間：2005 年〜2012 年）のアウトオブタイムのサンプルにおける
AUC 及び AR 値を除いて，いずれのデータセットにおいても，提案手法（モデル 5）が最も良い性能を示しており，他のモデルと比較して，AR 値や疑似決定係数などの観点から推定精度が向上していることがわかる．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定311

図 3．非線形関数の推定結果（1）左列：図 1 再掲 右列：非線形関数の推定値
（図中の
「現預金
比率」については neglog 変換を行っている．また全ての財務指標について，0 から 1 の範囲に収まるように線形変換を行っている．）．

提案手法（モデル 5）に基づき，データセット 1（モデル構築期間：2005 年〜2013 年）に対して推定された一部の財務指標に関する非線形関数（式（3.1）における fj ）を示したものが図 3 及び
図 4 である．実績デフォルト率との比較のため，図 1 を再掲している．推定された非線形関数

312

統計数理

第 66 巻 第 2 号 2018

図 4．非線形関数の推定結果（2）左列：図 1 再掲 右列：非線形関数の推定値
（図中の
「デット
キャパシティレシオ」及び「借入金月商倍率」については neglog 変換を行っている．また全ての財務指標について，0 から 1 の範囲に収まるように線形変換を行っている．）．

（右の列）は，実績デフォルト率の変動（左の列）を，ある程度捉えていることがわかる．ただし
横軸で 0 又は 1 に近い領域では，サンプルサイズが小さいため，変動に幅があることに注意す
る必要がある．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定313

図 5．各データセットにおける非線形関数の推定結果（図中の「デットキャパシティレシオ」及び「借入金月商倍率」については neglog 変換を行っている．また全ての財務指標について，0 から 1 の範囲に収まるように線形変換を行っている．）．

図 1 に示した財務指標の中で，提案手法（モデル 5）において，全てのデータセットで変数として選択されている「自己資本比率」，「デットキャパシティレシオ」，「借入金月商倍率」及び「減価償却率」の 4 つの財務指標について，各データセットから推定された非線形モデルの予測値を重ねて表示したものが図 5 である．図 5 をみると，モデルを構築する際に用いるデータの期間の違いによって，推定される非線形関数の水準は異なるものの，期間が異なっても非線形関数の形状には大きな違いはないことがわかる．なお，借入金月商倍率に関しては，データセッ（モデル構築期間：2005 年〜2010 年）
において，非線形関数の値が他のデータセットの場合
ト4と比較して 0 に近く，フラットに近い形状であるものの，上昇・下降のパターンは他のデータ
セットの場合と同様である．
5.

考察

5.1 モデルの精度
本稿では複数の銀行データを統合したデータベースを基に，B - スプラインに基づく非線形モ
デル及び Multistep Adaptive Group LASSO に基づく変数選択の手法を導入したデフォルト確率予測モデルの構築を行った．このようにして得られたモデルは，t 値・p 値に基づく変数選択や単純な LASSO による方法と比較して，どの期間のデータセットにおいても最も変数が少なくなっており，選択された変数の種類に大きな変動がなく，効率的かつ安定的な変数選択を行うことができた．さらに AR 値などの各種指標を用いて比較を行った結果，本稿で提案したモデルが最も推定精度が高く，当てはまりの良いモデルであることが確認された．B - スプラインに基づく非線形モデルの導入により，信用スコアと財務指標との非線形な構造を捉えること

統計数理

314

第 66 巻 第 2 号 2018が可能となり，モデルの推定精度が向上したと考えられる．さらに Multistep Adaptive GroupLASSO に基づく変数選択の手法を導入することにより，よりコンパクトなモデルを推定することが可能となり，モデルの安定性が向上したことで，アウトオブタイムにおける推定精度の向上につながったものと考えられる．
5.2 財務指標の選択
表 3 から表 6 において，提案手法（モデル 5）の説明変数として，異なるデータセットで複数回選択された変数を見ると，利益，回転率，短期支払能力といった総合的な収益性の面から，「売上高経常利益率」，「売上債権回転日数」，「買入債務回転日数」，「流動比率」，「現預「ROA」
金比率」といった，実務でもよく用いられる代表的な財務指標が選択されている．これに対してデフォルト予測や与信判断に直接的に関係すると考えられる借入・資産の面からは「デット
キャパシティレシオ」，「借入金月商倍率」，「有利子負債利子率」，「現金預金対利子割引料率」，「自己資本比率」，「減価償却率」などのほか，「資産合計」
やこれに占める各種資産の割合など，
多くの財務指標が選択されている．収益性に関する指標を代表的なものに絞りつつ，借入・資産に重点を置くという，メリハリのある変数選択が行われている．
5.3 推定された非線形関数の形状に基づき推定された，主な財務指標の非線形関数の形状について考察す
提案手法（モデル 5）
る．総資産経常利益率は高い方が望ましいが，資金の必要性から総資産を処分する際に高くなる可能性もあり，極端に高すぎる又は低すぎる値は望ましくないと考えられる．自己資本比率
は高い方が，デットキャパシティレシオ（有利子負債と融資の担保にできる資産との比）は低い方が望ましいが，どちらもある程度の水準を満たしていればよい指標であり，一定値以上（以下）で頭打ちになると想定される．減価償却率については，早目に償却した方が安全である一方，逆に償却が進むと経費計上分が減少してしまうという観点もある．図 3 及び図 4 における非線形関数の形状には，これらの関係が表れていると考えられる．
一部の財務指標について，モデル構築に用いるデータの期間が異なる場合における非線形関数の形状の変化を見ると，図 5 に示すように，推定される非線形関数の水準は異なるものの，期間が異なっても非線形関数の形状には大きな違いはなく，安定していることが示された．このようにして推定された各財務指標の非線形関数を用いることで，財務指標ごとに信用スコア
が急激に変化する点や最も高くなる点などを判別することが可能となり，与信判断に資する情報が得られるものと期待される．
本研究において提案したデフォルト確率予測モデルは，財務指標と信用スコアとの非線形な関係が「見える」モデルの合理的・効率的な構築に寄与するものであり，各種財務指標に基づいて与信判断・審査等を行う金融実務において，有益であると考えられる．
6.

今後の課題

今後の課題として，以下の点が挙げられる．今回の分析では計算のコストを考慮して，Multistep Adaptive Group LASSO における反復回数を 2 回としたが，反復回数を多くすることがモデルの推定精度の改善に寄与するかという点に関しては検討の余地が残されている．
また，今回の手法を，より大規模なデータセットに対して分析を行うことが考えられる．具体的には，複数のデータベースを結合して得られた大規模なデータベースに対して適用することで，より多くの変数から効率的に非線形な構造を抽出できると考えられる．

正則化非線形ロジットモデルによる企業のデフォルト確率の推定

謝

315

辞

の助成を受けています．また改稿に当たり，有益
本研究は科研費（16H02013 及び 15H03390）
なコメントをいただいた 2 名の査読者に感謝申し上げます．

参

考

文

献

Altman, E. I. (1968). Financial ratios, discriminant analysis and the prediction of corporate bankruptcy,
Journal of Finance, 23, 589–609.
Amendola, A., Restaino, M. and Sensini, L. (2012). Dynamic statistical models for corporate failure
prediction in Italy, Journal of Modern Accounting and Auditing, 8, 1214–1224.
Berg, D. (2007). Bankruptcy prediction by generalized additive models, Applied Stochastic Models in
Business and Industry, 23, 129–143.
Bühlmann, P. and van de Geer, S. (2011). Statistics for High-Dimensional Data: Methods, Theory andApplications, Springer, Berlin.
Duﬃe, D. and Singleton, K. J. (1999). Modeling term structures of defaultable bonds, Review of
Financial Studies, 12, 687–720.
Dwyer, D. W., Kocagil, A. E. and Stein, R. M. (2004). The Moody’s KMV EDF RiskCalc v3.1 Model:
Next generation technology for predicting private ﬁrm risk, Moody’s KMV Company, San
Francisco.
Engelmann, B. and Raumeier, R. (2006). The Basel II Risk Parameters: Estimation, Validation andStress Testing, Springer, Berlin.
Friedman, J., Hastie, T. and Tibshirani, R. (2010). Regularization paths for generalized linear models
via coordinate descent, Journal of Statistical Software, 33, 1–22.
Giordani, P., Jacobson, T., von Schedvin, E. and Villani, M. (2014). Taking the twists into account:
Predicting ﬁrm bankruptcy risk with splines of ﬁnancial ratios, Journal of Financial and Quantitative Analysis, 49, 1071–1099.
Hastie, T. and Tibshirani, R. (1990). Generalized Additive Models, Chapman & Hall/CRC, Boca
Raton, Florida.
Hastie, T., Tibshirani, R. and Wainwright, M. (2015). Statistical Learning with Sparsity: The Lassoand Generalizations, Chapman & Hall/CRC, Boca Raton, Florida.
Hosmer, D. W., Lemeshow, S. and Sturdivant, R. X. (2013). Applied Logistic Regression: Third Edition,
Wiley, New York.
Huang, J., Horowitz, J. L. and Wei, F. (2010). Variable selection in nonparametric additive models,
Annals of Statistics, 38, 2282–2313.

川野秀一, 松井秀俊, 廣瀬慧 (2018).『スパース推定法による統計モデリング』, 共立出版, 東京.
小西貞則 (2010).『多変量解析入門：線形から非線形へ』, 岩波書店, 東京.
Martin, D. (1977). Early warning of bank failure: A logit regression approach, Journal of Banking and
Finance, 1, 249–276.
Meier, L., van de Geer, S. and Bühlmann, P. (2008). The group lasso for logistic regression, Journal of
the Royal Statistical Society Series B, 70, 53–71.
Meier, L., van de Geer, S. and Bühlmann, P. (2009). High-dimensional additive modeling, Annals of
Statistics, 37, 3779–3821.
Merton, R. C. (1974). On the pricing of corporate debt: The risk structure of interest rates, Journalof Finance, 29, 449–470.
森平爽一郎 (2009).『信用リスクモデリング：測定と管理』, 朝倉書店, 東京.

316

統計数理

第 66 巻 第 2 号 2018

尾木研三 (2017). 『スコアリングモデルの基礎知識：中小企業融資における見方・使い方』, 金融財政事情研究会, 東京.
尾木研三, 戸城正浩, 枇々木規雄 (2015). 小規模企業向け保善別回収率モデルの構築と実証分析,『ファイナンスとデータ解析（ジャフィー・ジャーナル：金融工学と市場計量分析）』（日本金融・証券計, 168–201, 朝倉書店, 東京.
量・工学学会 編）
Perederiy, V. (2009). Bankruptcy prediction revisited: Non-traditional ratios and lasso selection, European University Viadrina, Working Paper 16, Frankfurt.
阪本亘, 高橋史朗, 竹内正弘 (2010). 正則化法を用いたロジスティック回帰モデルによる多次元データでの変数選択手法に関する研究, 数理解析研究所講究録, 1703, 32–52.
桜井明 (1981).『スプライン関数入門：情報処理の新しい手法』, 東京電機大学出版局, 東京.
白田佳子 (2008).『倒産予知モデルによる格付けの実務』, 中央経済社, 東京.
高橋久尚, 山下智志 (2002). 大規模データによるデフォルト確率の推定：中小企業信用リスク情報デー
タベースを用いて, 統計数理, 50, 241–258.
Tian, S., Yu, Y. and Guo, H. (2015). Variable selection and corporate bankruptcy forecasts, Journalof Banking and Finance, 52, 89–100.
Tibshirani, R. (1996). Regression shrinkage and selection via the lasso, Journal of the Royal StatisticalSociety Series B, 58, 267–288.
冨岡亮太 (2015).『スパース性に基づく機械学習』, 講談社, 東京.
山下智志, 安道知寛 (2006). 時間依存共変量を用いたハザードモデルによるデフォルト確率期間構造の推計手法, 統計数理, 54, 23–38.
山下智志, 三浦翔 (2011).『信用リスクモデルの予測精度：AR 値と評価指標』, 朝倉書店, 東京.
山内浩嗣 (2010). 多目的遺伝的アルゴリズムを用いたスコアリングモデルのチューニング,『定量的信用リスク評価とその応用（ジャフィー・ジャーナル：金融工学と市場計量分析）』（日本金融・証券, 24–54, 朝倉書店, 東京.
計量・工学学会 編）
Yang, Y. and Zou, H. (2015). A fast uniﬁed algorithm for solving group-lasso penalized learning problems, Statistics and Computing, 25, 1129–1141.
Yuan, M. and Lin, Y. (2006). Model selection and estimation in regression with grouped variables,
Journal of the Royal Statistical Society: Series B, 68, 49–67.

Proceedings of the Institute of Statistical Mathematics Vol. 66, No. 2, 295–317 (2018)

317

Estimation of Default Probability Using Regularized Nonlinear Logit
Model with B-spline and Adaptive Group LASSO
Isao Takabe1,2 and Satoshi Yamashita3
1 Department of Statistical Science, School of Multidisciplinary Sciences, The Graduate University for

Advanced Studies

2 Consumer Statistics Division, Statistics Bureau, Ministry of Internal Aﬀairs and Communications
3 The Institute of Statistical Mathematics

Linear binomial logit models are widely used for the assessment and evaluation of acompany’s default probability based on a company default database. Previous studies havebeen criticized on the following bases: (1) insuﬃcient attention to nonlinear relationships
between default probabilities and ﬁnancial indicators; and (2) too much time requiredfor variable selection from many candidates for regressors in the models. In this study,
we aimed to solve these problems simultaneously by combining the following techniques:(1) nonlinear and nonparametric logistic regression model based on the B-spline; and (2)reasonable variable selection using adaptive group LASSO. We constructed a default probability prediction model using datasets of multiple periods, based on our own database ofdata from Japanese banks. The proposed model achieved more eﬀective performance thanmodels in other related studies. Compared with the method using t-statistic (p-value) or
simple LASSO, our proposed method had the smallest number of explanatory variables inany period, and achieved more eﬃcient variable selection. Moreover, estimation accuracy
was improved from the viewpoint of AR (accuracy ratio) value.

Key words: Credit risk, B-spline, adaptive group LASSO.