インフラ維持管理業務での機械学習活用に向けたモデリング試行と結果の解釈に関する一考察
湧田 雄基 1・山下 明美 1・吉田 啓佑 1・龍田 斉 2・関 和彦 3・
有井 賢次 4・熊谷兼太郎 5・中畑 和之 6・長沼 諭 7
1 正会員

北海道大学 数理・データサイエンス教育研究センター（〒060-0812 北海道札幌市北区北 12 条西 7） E-mail: wakuda@mdsc.hokudai.ac.jp (Corresponding Author)
2 正会員 大日本コンサルタント株式会社 インフラ技術研究所（〒330-6011 埼玉県さいたま市中央区新都心 11-2L.A.タワー11 階） E-mail: tatsuta@ne-con.co.jp
3 正会員 アイセイ株式会社 技術開発部（〒116-0013 東京都荒川区西日暮里 2-40-3）E-mail: seki-k@eyesay.co.jp
4 正会員 株式会社長大 構造事業本部 技術統括部（〒730-0017 広島県広島市中区鉄砲町 7-18）E-mail: arii-k@chodai.co.jp
5 正会員 湘南工科大学 工学部コンピュータ応用学科（〒251-8511 神奈川県藤沢市辻堂西海岸 1-1-25）E-mail: kumagai@sc.shonan-it.ac.jp
6 正会員 愛媛大学 大学院理工学研究科生産環境工学専攻 環境建設工学コース（〒790-8577 愛媛県松山市文京町 3）E-mail: nakahata@cee.ehime-u.ac.jp
7 正会員 株式会社鴻池組 本社 土木事業総轄本部 技術本部 技術企画部 企画課（〒541-0057 大阪市中央区北久宝寺町 3-6-1）E-mail: naganuma_ss@konoike.co.jp

本論文では，インフラマネジメント分野における AI（Artificial Intelligence）の活用を目的として，分析性能とモデルの解釈性に着目し，AI 活用の可能性についての考察を行う．特に，近年，機械学習のコンペ
ティション等で好成績を上げているアンサンブル型学習手法を中心に，XGBoost，LightGBM，CatBoost，Random Forest，決定木分析について，その数理的背景の概要を述べる．これらの手法により橋梁の劣化の推定を試行した結果について報告する．また，この結果について，個々の手法の特性をふまえ， AI のイ
ンフラマネジメント業務における活用の視点より考察を行った結果について報告する．

Key Words: インフラマネジメント，データサイエンス，AI，Machine Learning

1. はじめに確認できた．例えば，Baruaら 2)は，空港滑走路及び誘導路の舗装劣化予測を Gradient Boosting Machine Learning

本稿では，近年，実用化が進んでいる機械学習について，得られるモデルの分析性能に加え，モデルの特性理
解や考察を行うためのモデルの解釈性について考察を行う．特に，機械学習の数理的背景に基づき，手法毎の特徴について解説を行う．その上で，実際のデータ分析結果について，活用の視点より考察を行う．本研究は，土木学会 構造 AI 小委員会のワーキング・グループとして実施した結果について報告を行うものである．
この活動の一環として，インフラ維持管理分野において機械学習を活用した事例を中心に，直近 3 年間を対象に研究動向調査を実施した．近年の深層学習を用いた研究の興隆については多数報告されているとおりである 1)．
他方で，近年のデータ分析コンペティションで好成績を示すアンサンブル学習を用いた機械学習モデルの利用が（GBM）を用いて行っているほか，Li ら 3)は，モンテカ
ルロ法を取り入れた改良型勾配ブースティング決定木モ
デルによって，大型コンテナ船のラッシングブリッジの劣化予測を行っている．さらに，Chun ら 4)は，コンクリ
ート構造物のクラック検出課題に対して，画像検出の後段に LightGBM を用いた２段階の推定アーキテクチャを提案している．このように，アンサンブル型手法を他の手法と組み合わせ，精度向上を狙った研究も発表されている 5, 6)．また，構築したモデルの解釈を行う事例についても取り組まれている 7)．例えば，龍田ら 8)は，橋梁
管 理 デ ー タ を 対 象 と し て ， XGBoost ， LightGBM ，
CatBoostを用いた分析を行い，この結果について，SHAP（SHapley Additive exPlanations）を用いることで，変数毎437の貢献度を算出し，この可視化について報告している．

以上の結果をふまえ，本研究では，分析手法としては、 の進行を予測するモデルを構築することを検討した．
そこで，教師あり学習の目的変数としては，2 巡目のアンサンブル型機械学習手法（XGBoost9), LightGBM10),
Catboost11)）に着目することとした．また，機械学習によ
点検において構造物の健全性判定区分がⅢ以上に進行しり構築したモデルの解釈手法としては、Feature Importance, たか否かを示す 2 値データを作成し，これを目的変数とShapley 値に着目した．
した．具体的には，判定区分がⅢまたはⅣの場合を 1（Class1），ⅠまたはⅡの場合を 0（Class0）とした．
2014 年から 2019 年までの 6 年間のデータを統合する
2. データサイエンス試行の設計と，842,885 件が利用可能であった．このうち，1 巡目および 2 巡目のデータについて，結合に用いるマッチング
キー（橋梁名，路線名，市町村名）と，結合の検証に用いる橋長・幅員，さらに，分析に用いる架設年次（西暦）のいずれかが空欄のデータレコードを除去すると，それぞれ，491,059件および 86,231件となった．このデータ調(1) データサイエンスのプロセス
本研究におけるデータサイエンスのプロセスは、東京
大学 「情報技術によるインフラ高度化」社会連携講座（第１期 2009～2013，第２期 2014～2018）における検討
12)
や著者らの既往研究で用いたインフラマネジメント分野におけるデータサイエンスプロセス 13-14)に基づいた検討とした．同手法は，CRISP-DM15)を基に，インフラマ
ネジメント分野のデータサイエンスに適合するようカス
タマイズを施したものである．このプロセスのうち，業
務理解，データ理解，データ整備，分析，評価に関するデータサイエンスの設計について，以降に述べる．

製においては，架設年次が不明のレコードを除外した．
また，1巡目のデータ(491,059件)と 2巡目のデータ(86,231
件)とを対応付けるデータ調製について，前述のマッチ
ングキーが完全に一致するレコード同士を対応させる処理を行った．その結果，マッチングキーが完全に一致した 49,339 件のデータに対し，さらに，幅員または橋長が5%以上相違するデータレコードについては，今回の対(2) 対象データ
象から除外する処理を適用した．ここで，5%という値
は、統計における有効水準で多く用いられる値を試行的
今回は，利用可能なデータとして，国土交通省が提に設定したものである．この処理の結果，幅員と橋長に供する「道路メンテナンス年報」16)を取り上げた．このついて，比による誤差がいずれも 5%未満となるデータ
データでは，入手可能な表形式データにおいて，構造物健全性の判定区分Ⅰ～Ⅳの記載がある．構造物としては， を抽出すると，全データの約 67%にあたる 33,140 件のデータセットを得た．なお，誤差が 1%未満のデータは橋梁，トンネル，シェッド，大型カルバート，横断歩道
36.8%（18,137 件）であり，誤差無く完全に一致するデ橋，門型標識等の 6 種類について提供されている．本検ータは，29.5%（14,536 件）であった．
討では，橋梁を対象とした．
取得可能なデータには，12 の変数（管理区分，点検(3) 試行設計
年度，橋梁名，橋梁名(フリガナ)，路線名，架設年次(西データサイエンスにおける試行設計については，表-1
暦)，橋長(m)，幅員(m)，管理者，行政区域:都道府県名，の条件とした．この設計においては，対象構造物や業務
行政区域:市町村名，点検記録:判定区分）が含まれる．
については，仮説的なものとなっている．
ファイルは，管理区分毎に，国交省管理，地公体管理，高速道路の３種類に分かれている．また，点検年次に応じて，2014 年度～2019 年度まで 6 カ年のデータに分かれている．点検 1 巡目のデータとして，2014 年度～2018 年
度の 5カ年があり，点検 2巡目のデータとして 2019年度
がある．これらを総合し，18 ファイル（約 60.4Mbyte）

表-1 データ分析試行の設計 12)
構成要素を分析対象とした．
データ分析において対象とする業務については，点検計画の立案業務や補修計画立案を想定する．これらの計画において，5 年後の次回点検時の判定区分を予測することができれば，よりリスクの低い補修計画立案が可能となるとし，仮説的課題設定を行った．今回のデータを用いて，1 巡目の状態から 2 巡目の状態への判定区分

対象構造物

橋梁

対象業務

橋梁健全度判定業務

目標• 機械学習の性能評価により有用性を確認• モデル解釈の有用性を確認

目的変数

1 巡目から 2 巡目への判定区分の進行有無

説明変数

9 変数（データ調製結果による）分析手法

決定木分析，Random Forest，XGBoost,LightGBM, Catboost

評価

438

設計内容

ROC 曲線, P-R曲線，利用変数の影響度調査

(4) 分析と評価の流れ
本研究における分析試行は，事前学習と評価により構成する（図-1）．事前学習用のデータと評価用のデータを分割した交差検定（CV: Cross Validation）を行い，評価

Regression Trees）を用いた． CARTは，各分岐点でデータを実施する．交差検定においては，n-fold（n=5）を用いた．対象データ（33,140 件）を分割することで，22,203
件を学習に用い，10,937 件を評価に用いた．

アンサンブル型学習手法の一種である．元の訓練デー
タからランダムにいくつかのデータを重複を許して抽出し，新しい訓練データを構築する．その後，構築された
新しい訓練データを元に決定木分析をおこなう．上記の操作を並列に行うことで複数のモデル（弱学習器）を得る．目的変数の推定の際には，複数の弱学習器から得られる出力値に基づいた多数決を行う．より多くの弱学習器が出力した推定結果を最終的な出力とする．このようにすることで，単一のモデルよりも，過学習の危険性を軽減することを目的とした手法である．
c) XGBoost

事前学習

推定

学習⽤データ

評価⽤データ

学習処理

推定処理

を二分割する二分木により分析を行う手法である．各分岐の最適化は gini 係数により行った．
b) Random Forest

以降の手法もランダムフォレストと同様にアンサンブ
ル型学習手法である．ただし，弱学習器の構成（決定）法・集約法は大きく異なる．ランダムフォレストにおい評価
1. モデル性能 (交差検定）ては，過学習の抑制が目的であったが，以降の手法の主
2. モデルの解釈性な目的は予測精度の向上である．予測精度の向上を目指
図-1 本研究における分析と評価の流れ
した結果，決定木分析やランダムフォレストよりも，過学習が生じやすい．
本手法では，目的変数が 1 である確率を勾配ブーステ
3. 手法
ィング法により算出する．XGBoost では弱学習器に
CART に基づく回帰木を用いる．しかし，回帰木の構造(1) 分析手法
において，葉の数や深さ，分岐構造の自由度の高さによ本研究で扱うデータ分析手法について述べる．
り，最適な回帰木を決定することは，実装上，実現不可
本研究では，機械学習手法として，コンペティション
等で多く用いられるアンサンブル型学習手法に着目する． 能である． 回帰木の決定における葉の分割については，
具体的には，「XGBoost」，「LightGBM」，「CatBoost」 情報利得の最大化を基準とする．葉の分割を検討する順を挙げる．また，これらの手法に対する対比のため，
番は level-wise tree growth に則り，同じ深さの枝について「決定木分析」および「ランダムフォレスト」も対象には，例えば左側から順に枝を成長させ，同じ深さの枝が含める．これらの手法の数理的理解に基づいた特徴付け
成長しきった後に 1 つ深い枝の分割に移るといった手順を行う．本研究における目的変数は常に 2 値のカテゴリとなる．
d) LightGBM
変数（{0, 1}と書く）である．このため，以下の特徴づLightGBM は，学習アルゴリズムにおいて， XGBoost
けにおいても，目的変数が 2 値のカテゴリ変数である場合についてのみ述べる．
と類似する手法である．目的変数が 1 である確率を，回
推定モデル

推定結果

a) 決定木分析（分類）
帰木（CART）を用いた勾配ブースティング法で推定す単一の木構造を用いた教師あり機械学習による分析のる点では，XGBoost と変わらない．XGBoost との主な違総称である．本研究で用いた他の手法（「ランダムフォ
いは各回帰木の構成方法にある．
レスト」，「XGBoost」，「LightGBM」，「CatBoost」）
一点目の違いは各特徴量をヒストグラム化している点と比較して，得られるモデルの精度では劣る傾向がある． である．ヒストグラム化により厳密な枝分かれを探さず
しかしながら，モデルの木構造の可視化の点において他に済み，計算コストを抑えることが可能である．
手法に勝る．
二点目の違いは「level-wise tree growth」ではなく「leafwise tree growth」により，回帰木を構成している点である．
本研究では，scikit-learn に標準的に実装されている
Decision Tree の 一 種 で あ る CART （ Classification and両者の違いは枝を伸ばす順番にある．なお，木を完全に439

たに連続変数化（数量化）している．
成長させた場合には同じ木が構成される．この leaf-wisetree growth は，情報利得の最も大きくなる枝から順に伸f) 手法毎の特徴についてのまとめ
XGBoost,，LightGBM，CatBoost はどれも回帰木と勾配
ばす構成方法である．leaf-wise tree growth を用いる場合は，ブースティング法を組み合わせた手法であるという点で「pre-pruning」と呼ばれる剪定アルゴリズムを適用する
類似の手法である．しかしながら，一つ一つの回帰木のことができる．pre-pruning とはさらなる分岐を行うこと
構成方法や勾配ブースティング法の進め方に違いがある．
で予測誤差が下がるなら分岐を行い，そうではないのな
この違いによって，LightGBM の計算コストは XGBoost
らそこで木の成長を止めるアルゴリズムである．prepruningは post-pruningに比較して精度が落ちる可能性があよりも軽くなる傾向がある．また，勾配ブースティング法の進め方の違いが CatBoost における汎化性能の向上をるものの，計算コストが小さい．なお，post-pruning とは促す．ランダムフォレストは，勾配ブーストを用いた 3
決定木を完全に成長させてから，最も予測誤差の小さい状態を選択する剪定方法である．
ヒストグラム化，leaf-wise tree growth 及び pre-pruning により，lightGBM の計算コストは XGBoost よりも「軽く」なる傾向がある．ただし，leaf-wise tree growth による決定木は複雑になりやすく，過学習には注意が必要である．
e) CatBoost
CatBoost も回帰木と勾配ブースティング法を組み合わせた手法である．「各回帰木が obvious decision tree である」という制約が課されている点がXGBoost，LightGBMとの違いのひとつである．ここで，深さ𝑑の分岐点あるいは葉が2 個であり，同じ深さの分岐点の分岐条件が等しい決定木は obvious decision tree と呼ばれ，XGBoost やLightGBM において構成される決定木に比べ，単純な構造を持つため過学習に陥りにくい．また，各葉の重みはロジスティック関数により算出されている（CatBoost の弱学習器は各説明変数に対する回帰係数を推定する）．
また，CatBoost は，特徴量にカテゴリ変数が含まれる
場合に有効とされる手法である． その理由は次のように，特徴量を差し替える点にある．訓練データ
𝑥 , 𝑦 ∈ ,…,𝑥 ∈ 𝑅 , 𝑦 ∈ 0, 1 に 対 し ， 𝑥
𝑥 , , ⋯ 𝑥 , と書くことにする．ここで，特徴量にはカ

表-2 今回試行した分析手法の数理的特徴付け
分析手法

∑
,

𝑥
∑

𝑥

,

𝑥

,

,

𝑥

𝑦
,

特長

弱学習器の構成

決定木分 可視化による解釈性
単体の回帰木析に期待
Random
最適化が容易
バギング型
Forest
XGBoost
性能に期待できる
LightGBM 学習が比較的軽量
ブースティング
特に，カテゴリデータ型
CatBoost を用いる分析において期待できる

過学習※
生じにくい
生じにくい
生じやすい
生じやすい
生じやすい

※ハイパーパラメータを適切に設定することが必要(2) モデルの解釈手法
本研究で扱うデータ分析手法について述べる．
機械学習により得られるモデルの解釈手法について，
特に，Feature Importance と Shapley 値に着目し，ここでは，その仕組みについて確認する．
a) Feature ImportanceFeature importance（以降，FI と表記）は特徴量ごとに選出される 0 以上の値である．値が大きいほど重要な特徴

テゴリ変数と連続変数が混在していても構わない．各弱
学習器の学習時に，その都度ランダムに選ぶ𝑚次の置換
𝑥 , ,⋯,𝑥 , ををσとし，新たな特徴量， 𝑥𝑥

手法に比べ，過学習の抑制に重きを置いた手法である．
アンサンブル型学習手法という点では 3 手法と同様だが，弱学習器の構成法・集約法が大きく異なる．決定木分析
は，単一のモデルを用いているため，過学習や予測精度の観点において，他の手法に比べ劣ることが多い．しかしながら，他の手法にはない解釈性能を有している．
表-2 に，分析手法毎の特徴をまとめて記載する．

𝑎𝑃𝑎により定める．ここで， ⋅ は 内が Trueのときに 1を返し，False のときに 0 を返す関数である．また，𝑃は訓練量であることが示唆される．FI は手法毎に算出方法が異データの目的変数の平均値（本研究においては目的変数なる場合がある．そのため，異なる手法において算出さが 1 であるデータの割合）であり，𝑎は𝑃に重みをつけれた FI の値を比較する際には注意が必要である．一方るパラメータである．𝑥 , のかわりに𝑥 , を用いてで，FI を値が大きいものから順に並べた場合に，その順
弱学習器の学習を行う．このような特徴量の差し替えは， 番は考察の対象たりえる．従って，本研究では，モデルσのランダム性によって過学習に陥るリスクを低減しつの解釈として，変数毎の FI を確認する手法について取つ，カテゴリ変数と連続変数両方を区別することなく新り扱うこととした．以下では特徴量𝑖に対して，𝑖を分岐

440きくなるほど，出力が 0 になる確率が高まると考えられ条件に使った分岐点全体の集合を𝐸 𝑖 とする．
XGBoost，Random Forest，決定木分析の FI： デフォる．また，Shapley 値の絶対値が大きい特徴量は重要なルトに設定されている gain を用いた．これは，𝐸 𝑖 に属
特徴量だと考えられる．すなわち，Shapley 値の絶対値する各分岐点ごとに情報利得を計算し，それらを足し合の総和を変数の重要度として FI と同様の指標としてとわせた値である．XGBoost，Random Forest では各弱学習
らえることもできる．
器における gain の平均が算出されている．総和が 1 になるようにリスケールされている点には注意が必要である． 4. 分析結果
LightGBM の FI： デフォルトに設定されている，split(1) 分析結果の確認手法を用いた．𝐸 𝑖 に属する分岐点の数を「split」と呼ぶ．
CatBoost の FI： デフォルトに設定されている
本研究では，分析結果の確認について、性能と解釈性
Prediction Values Change を用いた．𝐸 𝑖 に属する各分岐点の２つの視点により進める．また，これらの視点を議論ごとに，分岐を行った場合と分岐を行わなかった場合のするにあたっては，AI を実務で活用することを想定し回帰係数の変化（CatBoost の各葉の重みはロジスティッ
た視座により，性能と解釈性についての考察を行った．
ク関数により推定されている）の二乗を計算し，各葉に(2) 性能に関する分析結果
属するサンプル数を考慮しつつそれらを足し合わせたものを𝑃𝑉𝐺 𝑖 と書く．𝑃𝑉𝐺 𝑖 の総和が 100 になるように分析結果の性能評価については，ROC 曲線（Receiver
リスケールしたものを「Prediction Values Change」と呼ぶ． Operatorating Characteristic curve）の描画と AUROC（Area
Under the ROC curve）により実施した．結果について，図このリスケールのため，CatBoost によって構成されたモデル同士であってもfeature importanceの比較に意味はない． -2 に示す．ROC曲線は，真陽性（TP : True Positives）の率
TPR と偽陽性（FP : False Negatives）の率 FPR の 2 指標にb) SHAP（SHapley Additive exPlanations）17)
SHAP とはゲーム理論の Shapley 値を機械学習に応用しより描画される曲線である．関心のある事象（正例）の推定結果の正誤に関し，構築したモデルの性能を評価可能である．
また，P-R 曲線（Precision-Recall curve）を描画した結果たライブラリである．Shapley値によって，FIとは別のモデルの解釈が行える．Shapley 値は次のように算出される．
訓練データ𝑥における特徴量𝑖の Shapley 値ϕ 𝑥 を算出
する．𝐹を特徴量全体の集合とし，𝑆を𝑖を含まない𝐹の部分集合とする．𝑆 ∪ 𝑖}に含まれる特徴量のみから構について，図-3に示す．P-R曲線は，Precision（精度）とRecall（検出率）により描画される曲線である．応用時に，精度や検出率を重視してモデル性能を選択する場合には，P-R 曲線の利用が有効である．

成したモデルを𝑓 , とし，𝑆に含まれる特徴量のみから構成したモデルを𝑓 とする．
|𝑆|! |𝐹|

ϕ 𝑥
⊂ \

|𝑆|
|𝐹|!

𝑖 !

𝑓, 𝑥

(3) モデルの解釈に関する算出結果
モデルの解釈については，FI と Shapley 値により行った．
FI については，表-3 に手法毎の比較を示す．表では， 5種類の手法毎に，分析に用いた変数の FI 値を示した．
また，Shapley 値については，図-4 に手法毎の比較を示す． 図では，5 種類の手法毎に個別のグラフに分けて結果を示している．個別のグラフでは，縦軸に分析に用いた変数，横軸に Shapley 値をとり，データレコード毎のShapley 値を一つの点としてプロットしている． また，
点の色は，変数の値の高低を示している．

𝑓 𝑥により，ϕ 𝑥 を定める．|𝐹|が大きい場合は，𝑖を含まない𝐹の部分集合の数が非常に大きくなるため，近似計
算でϕ 𝑥 を求める（近似方法は手法毎に異なる）．訓練データ𝑥における特徴量𝑖の Shapley 値は，𝑥におけるモデルの1次近似の𝑖に対する回帰係数に一致する 17)．このことから Shapley 値を求めることで，線形回帰モデル以外のモデルであっても近似的に回帰係数を求めることが5. 分析結果の考察
でき，モデルの解釈が可能になる．本研究においてShapley 値が正であるとき，対応する特徴量（変数の値）(1) 分析性能の視点による考察
a) AUROC による評価が増えるほど，出力が 1 になる確率が高まると考えられる．逆に Shapley 値が負の場合は，対応する特徴量が大分析性能については，AUROC 値で比較すると，

441

図-2 ROC 曲線を用いた手法毎の性能比較

図-3 P-R 曲線を用いた手法毎の性能比較

性能について評価が可能な指標であり，手法毎の性能比
較には有用であると考察した．
Feature Importance Value
変数
決定木 RandomLight
一方で，今回構築したモデルについては，判別の閾値
XGBoostCatBoost
分析
ForestGBMを調整することによって，業務課題に対して柔軟な対応
橋⻑(m)
0.244
0.280
0.079
932
18.348
幅員(m)
0.000
0.113
0.073
883
14.283が可能である．従って，具体的な業務課題として，例え
管理区分:国⼟交通省
0.000
0.037
0.111
28
1.739
ば正答率（Precision）や検出率（Recall）の指定による要管理区分:⾼速道路
0.000
0.012
0.110
11
2.429
件が存在する場合において，これらに応じた評価を行う
管理区分:地⽅公共団体
0.000
0.017
0.072
42
2.053
ためには，AUROC のみでは，議論が不足することも認
1巡⽬点検時点の判定区分値
0.577
0.273
0.402
118
33.424
1巡⽬点検時点の架設経過年
0.179
0.236
0.081
841
22.547
識しておく必要があると言える．
1巡⽬から2巡⽬点検への経過年 0.000
0.033
0.071
145
5.176
b) P-R 曲線による評価
前述のとおり，AUROC では，精度についての直接の
CatBoost（AUROC=0.79）が最良の結果となった．また，評価ができない．従って，本研究では，Precisionと Recall
アンサンブル型手法の中では，LightGBM（AUROC=0.76） の関係により評価が可能な P-R 曲線を描画し，評価を試表-3 Feature Importance (FI)算出結果表が最も低い値を示した．このことは，LightGBM が，学習時間の短縮を主眼とした手法であることからも納得のいく結果である．また，今回試行した手法の中では，決定木分析（AUROC=0.71）が最も低い結果となった．
アンサンブル型手法のうち，ブースティングを用いた
XGBoost や LightGBM の性能が良好であるが，他方で，バギングによる Random Forest（AUROC=0.78）も好成績を上げている点が注目に値する．Random Forest は，過学行した．
P-R 曲線の AUC である AUPRC（Area Under the P-R Curve）
で比較すると，Random Forest，Light GBM，CatBoost（いずれも AUPRC=0.16）が最良の結果となった．これは，
AUROC とは異なる結果となった．また，決定木分析が，今回試行した結果の中では，最も低い値（AUPRC=0.10）となった．
以上で述べたとおり，P-R 曲線の確認によって，Precision に着目したモデル性能評価が可能であることが習に対して抑制的な動作をする手法であることに加え，ハイパーパラメータが少なく利用が簡単である点を考慮確認できる．なお，P-R 曲線の Recall 値（本稿における
すると，Random Forest のメリットが目立つ結果となった． 図-3 の横軸）は，ROC 曲線の TPR 値（本稿における図以上の議論を通じて，AUROC は，モデルの全体的な
2 の縦軸）と，定義上同一である．しかし，Precision に442

図-4 手法毎の Shapley 値可視化結果の比較

ついては，ROC では直接に評価できない．従って，P-R
曲線で確認することも重要となる．今回の試行結果においては，例えば，Random Forest を用いた結果については，
図-2 を参照した場合では，グラフは綺麗な弧を描いている．一般に，ROC 曲線では，曲線の膨らみが最大（即ち，対角線を示す破線への垂線の足の長さが最大）となる点を良好なモデルとして抽出する場合も多い．この考え方に基づけば，今回の例では TPR（Recall）=0.68，
FPR=0.27 の点を選定することとなる．
他方で，図-3 の P-R曲線を参照し，最良の条件を探す
ことを考える．P-R 曲線では，Precition と Recall 値の調和
平均により求められる F 値（F-measure）を用いて最良条件を議論する場合も多い．この方式に基づけば，
Precition＝0.16，Recall＝0.39 の点を選定することとなる．
この結果を図で示すと，図-5 のとおりとなる．
さらに，図-3 の P-R 曲線では，Recall＝0.3 付近において，特に，Precision 方向の若干の凹凸が見られるが，図-2 の TPR（Recall）=0.3 付近を目視する限りでは，性能の凹凸は確認できない．今回の事例では，やや凹凸は少ないものの，一般に，P-R 曲線の Precision 方向の性能
は，不安定な曲線を描く場合も多い．従って，ROC 曲
線のみを確認していると，Precision の性能変化を見逃す可能性がある．
以上より，ROC曲線と P-R曲線は，利用の目的に応じ

図-5 ROC 曲線と P-R 曲線による評価の対比(2) 分析結果の解釈性の視点による考察
a) Feature Importance による解釈
手法毎に FI値が上位の変数を確認すると，第 1位の変数については，決定木分析とXGBoostとCatBoostでは「1巡目点検時点の判定区分値」であり， Random Forest とLightGBM では「橋長(m)」となっている．
また，XGBoost については， 「1 巡目点検時点の判定
区分値」が特に高い値として目立つものであり，その他の変数の FI 値と大きな差があると考察できる．
LightGBM では，「橋長(m)」，「幅員(m)」，「1 巡目点
検時点の架設経過年」が特に高い値として目立つ変数であり，その他の変数の FI 値と大きな差が見られる．
以上のように， FI 値による変数の順序は，手法毎に大きく異なる結果を示している．この要因は，本稿で扱った 5つの手法毎に FIの算出アルゴリズムが異なることて，適切に選択することが重要である．ROC 曲線は，
AUC を参照することで，分析の全般的な性能を評価することが可能である．その一方で，とりわけ，インフラ維持管理分野においては，関心のある事象の正答率を示
す「Precision」や，検出すべき事象の検出率を示す「Recall」が重要である場合も多いため，P-R 曲線を確認することが重要な場合も多いと考察する．

が挙げられる．
従って，手法を跨いだ FI 値の差異についての議論は行わず，ここでは，Random Forest を例にとり考察を行う．

443

本稿で用いた FI の算出手法においては，gini 係数に基づいて，決定木を構成する際に，対象変数が不確実性や分散を低減させるためにどの程度貢献するかを評価することで計算している．この手法は，計算が高速である一方
で，判別に対する重要性を正確に把握する結果になるとは限らない．特に，値が連続的で Cardinality が高い（即ち，値のユニーク数が多い）変数について FI が高くなる傾向があることが知られている 18)．今回の試行でも，
Random Forest の FI については，「橋長」や「1 巡目点検時点の判定区分値」に次いで，「1 巡目点検時点の架設経過年」や「幅員」が高順位となっている．また，2 値で構成される管理区分に関する変数については，いずれも低順位となった．この結果は，前述の数理的背景を考慮した FI 値の算出傾向に当てはまるものであると考察できる．FI の利用においては，このような特性を考慮した上で土木や現場知見との照合が必要と考えられる．
b) SHAP による解釈
SHAP による結果について，影響変数の順序について確認すると，第1位の変数は，5手法とも共通して「1巡目点検時点の判定区分値」である．1 巡目点検時の構造物の状態に基づき，2 巡目点検時の状態が定まるということは，納得のいく結果であり，Shapley 値による解釈の有効性が示唆される．第 2 位の変数は，決定木分析を除き，「1 巡目点検時点の架設経過年」であった．第 1
位～第 3 位までの変数は，全ての手法で共有の変数につ「連続値を持つ量的変数の方が，2 値変数よりも高い値が算出される」といった大まかな共通点が見られた．しかし，変数の順序を議論する用途としては， FI による
結果では手法毎に順序が大きく異なっており， Shapley
値の方が手法間のバラツキが少ない結果となっていた．
特に，ブースティング系の 3手法（図-4 下段）においては，Shapley値では上位5変数まで一致していた． 以上のことより，判別への貢献変数に関し，複数の手法において比較し，考察する用途としては，値の算出アルゴリズ
ムの統一が容易な Shapley 値を用いた比較が望ましいと考えられる．
(3) その他の考察
a) 対象データの分割

今回実施した性能評価では，手法毎の大きな差異は見られず，類似した傾向となった．一方で，性能評価について，手法毎の違いを考慮した上での性能順序について
は，納得感のある結果であり， ROC 曲線や P-R 曲線の
AUC を用いた評価は，有効であることが確認できた．
この手法について，今後は，例えば，管理者毎にデータを分割し，比較するなどの踏み込んだ分析も有効である
可能性がある．
b) 説明変数の拡充
説明変数による判定への影響が可能であることが確認できたことより，今後，利用する説明変数については，判定区分に対する影響が考えられる変数を追加すること
いて，順序が入れ替わっただけの結果であり，共通点のも検討の余地があると考察した．例えば，地域性への影見いだせる結果となっている．
響が考えられる緯度・経度や，橋梁の疲労に影響が考え
続いて，第 4 位の変数については，決定木分析は「1られる重交通，塩害や凍害との相関が考えられる気温デ巡目から 2 巡目点検への経過年」であり，Random Forestータ等が挙げられる．
は，「管理区分:国土交通省」であった．その他の手法
また，橋種を特定可能とする情報が追加で得られると，は，全て「幅員(m)」であった．また，第 5 位の変数に
分析結果に基づく対策の検討に応用できると考えられる．
ついては，ブースティング型手法は全て「1 巡目から 2
さらに，交通量や，あるいはそれを特定可能な道路の級
巡目点検への経過年」であるが，第 6 位から第 8 位まで
種区分情報など をあわせて利用できると分析や考察にの変数については，全て異なる結果を示した．
Shapley 値によって，今回の試行のように少ない変数活用できると考えられる．そのほか，管理区分について，
地方公共団体は，県や市町村への区分により，管理可能を用いた場合においても，構築されたモデルにおいて，な予算規模や体制による差異についても明確化できる可判別に貢献している変数の順序が異なることが確認でき能性があるほか，海岸線からの距離や気候等の地理的特た．特に，弱学習器の構成が異なる決定木分析やRandom Forest について，変数の貢献順序が，他の手法に性も加味し得る．
これらのデータを追加することで，性能向上が期待さ比べて特異的な結果となっている点について，納得のいれるとともに，結果の解釈についての議論を深められる
く結果と言えよう．このように，Shapley 値を確認し，可能性があると考えられる．
モデルに対する解釈を行い，外部知見と照らした考察を
c) データの結合における課題
進めることが可能であると考察する．
c) Feature Importance と Shapley 値の対比
一方で，変数の追加については，レコードのマッチン
今回の結果より， FI と Shapley 値の結果を対比すれば， グを行う必要があるが，データソース毎にバラバラと考444

Displacement prediction model for concrete dam based on
PSO-GBDT, IOP Conference Series: Earth andEnvironmental Science, Vol. 358, No. 5, pp. 052043,
2019.
6) Wang, B., Yang, K., Wang, D., Chen, S. Z. and Shen, H.
J.: The applications of XGBoost in Fault Diagnosis ofPower Networks, 2019 IEEE Innovative Smart Grid
Technologies-Asia (ISGT Asia), pp. 3496-3500, 2019.
7) 安野貴人：予測メンテナンスとインフラ劣化学習モ
デル，人工知能学会全国大会論文集 第 32 回全国大会 (2018)，pp. 3Z104-103Z104，2018．
8) 龍田斉，横山広，永見武司，桝谷浩，近田康夫，山田宗明：勾配ブースティング決定木を用いた橋梁損
傷原因および補修工法の推定と分析，AI・データサ
イエンス論文集，第 1 巻，第 J1 号，pp. 63-70，
2020．
9) Chen, T. and Guestrin, C.: Xgboost: A scalable tree
boosting system，Proceedings of the 22nd acm sigkdd
international conference on knowledge discovery anddata mining, pp. 785-794, 2016．
10) Ke, G., Meng, Q., Finley, T., Wang, T., Chen, W., Ma,
W., Ye, Q. and Liu T. Y.: Lightgbm: A highly efficient
gradient boosting decision tree, Advances in neural
information processing systems, Vol. 30, pp. 3146-3154,
2017.
11) Prokhorenkova, L., Gusev, G., Vorobev, A., Dorogush,
A. V. and Gulin, A.: CatBoost: unbiased boosting withcategorical features，arXiv preprint arXiv:1706.09516，
2017．
12) 東京大学大学院情報学環「情報技術によるインフラ高度化」社会連携講座（第 2 期）：社会連携講座の活動成果の概要 2014-2018, <http://advancedinfra.org/archives/1650>, (accessed 2020.7.7).
13) 湧田雄基, 阿部真育：インフラ維持管理におけるデータサイエンス活用による生産性向上, 建設機械施
工, Vol. 71, pp. 10-16, 2019.
14) Wakuda,Y., Isobe, M. and Ishikawa, Y.: Data science
support system for infrastructure maintenance on cloud,17th International Conference on Computing in Civil andBuilding Engineering (ICCCBE 2018), 2018.
15) Shearer, C.: The CRISP-DM model: the new blueprint fordata mining, Journal of data warehousing, Vol. 5, No. 4,
pp. 13-22, 2000.
16) 国土交通省 道路メンテナンス年報,<https://www.mlit.go.jp/road/sisaku/yobohozen/yobohoze
n_maint_index.html>, (accessed 2021.7.12).
17) Lundberg, S. M. and Lee, S. I.: A unified approach tointerpreting model Predictions, NIPS'17: Proceedings ofthe 31st International Conference on Neural Information
Processing Systems, pp. 4768-4777, 2017 .
18) Strobl, C., Boulesteix, A. L., Zeileis, A. and Hothorn, T.:
Bias in random forest variable importance measures:
Illustrations, sources and a solution, BMC bioinformatics,
Vol. 8, No. 1, pp. 1-21, 2007.
(Received June 30, 2021)(Accepted August 31, 2021)

えられる諸元情報等を元にしたマッチング作業は，労力が大きいことが課題である．このマッチング作業は，多くのデータサイエンスにおいて，データ調製・データク
レンジングに関する共通した課題であるとも言える．この課題解決のためには，データセット間で共用可能な構
造物 ID 等の整備，ID だけでなく位置情報や諸元等から類似性を評価可能となるデータの流通が期待される．令
和元年には，国土交通省より，定期点検における対象施設の ID 付与に関するルールが示されているが，こうした動きが加速され，共通化された形式により取得可能な
データプラットフォーム等の早期実現が期待される．

6. おわりに本研究では，アンサンブル学習による機械学習手法を中心として，インフラ維持管理データを対象とした分析を試行した．この結果について，性能評価とモデル解釈
性評価を行った．性能評価については，手法毎の数理的特性を考慮した上で，納得のできる結果であった．このことより，評価指標の有効性が示唆された．
また，モデルの解釈性評価については，FI と Shapley
値いずれについても，利用における特性の把握は必要なものの，モデル解釈は可能であることが示唆された．
謝辞：本研究開発の一部は，総務省 SCOPE #162103120，#181503004 の委託および，JSPS 科研費 JP00377847 の助成を受けたものである．
参考文献
1)

2)

3)

4)

5)

内閣府 戦略的イノベーション創造プログラム(SIP)「インフラ維持管理・更新・マネジメント技術」,
SIP インフラ連携委員会：インフラ維持管理への AI
技術適用のための調査研究報告書, 公益社団法人土木学会技術推進機構, 2019.3.
Barua, L., Zou, B., Noruzoliaee, M. and Derrible, S.: A
gradient boosting approach to understanding airport
runway and taxiway pavement deterioration，International Journal of Pavement Engineering，pp. 115，2020．
Li, F. and Wang, D.: Reliability analysis of lashing bridgeof ultra-large container ship based on improved gradientboosting decision tree-Monte Carlo method, Chinese
Journal of Ship Research, Vol. 15, No. 2, pp. 63-69,
2020.
Chun, P. j., Izumi, S. and Yamane, T.: Automatic
detection method of cracks from concrete surface imagery
using two-step light gradient boosting machine,Computer-Aided Civil and Infrastructure Engineering,Vol. 36, No. 1, pp. 61-72, 2021.
Jun, Z., Jian, M., Jiemin, X. and Zuohong, M.:

445

MODELING TRIAL AND INTERPRETATION OF RESULTS FOR MACHINELEARNING APPLICATIONS IN INFRASTRUCTURE MAINTENANCE AND
MANAGEMENT
Yuki WAKUDA, Akemi YAMASHITA, Keisuke YOSHIDA, Hitoshi TATSUTA,
Kazuhiko SEKI, Kenji ARII, Kentaro KUMAGAI, Kazuyuki NAKAHATA, andSatoshi NAGANUMAIn this paper, we discuss the possibility of using Artificial Intelligence (AI) in infrastructure management,
focusing on the analytical performance and interpretability of models. In particular, the paper outlines themathematical background of ensemble learning methods, such as XGBoost, LightGBM, CatBoost,RandomForest, and decision tree analysis, which have recently achieved good results in machine learning
applications. We report on the results of trial estimations of bridge deterioration determined using thesemethods. In addition, this paper discusses the analysis results from the viewpoint of AI application in
infrastructure management, considering the characteristics of each method.

446