連載

第２回

AI と安全工学－AI の中核技術－

横浜国立大学杉本

1．はじめに准教授

千佳 Chika Sugimoto

データが不十分でも未知の確率データを導出することが可能である。また、データ数が増人工知能（AI）技術は身近なサービスやシえるにつれ精度が向上する。応用例として、

ステムに導入され、例えば AI 家電や AI 型検

迷惑メールフィルターや Google やマイクロ索エンジンのように、実際に私たちの生活のソフトの検索エンジンがあり、ベイズ統計学中で使用されている。では、AI はどのようが使われている。

な技術で、具体的にどのような AI 技術が用一方、機械学習は客観確率※3を重視するネいられているのだろうか。第1回目の「AI のイマン・ピアソン統計学と呼ばれる正統派統歴史と軌跡」の中で、第3次 AI ブームの到計学をもとに誕生したが、ベイズ統計学と融来には、機械学習の実用化と深層学習の登場合することで数々の AI 技術を生んでいる。という2つの大きな技術発展があったことを機械学習において、データを統計的に処理し述べた。深層学習は第3次 AI ブームの中核パターン認識する際の数学的根拠を与えたのとなる技術であり近年特に注目を集めているがベイズ統計学である。

が、実用的にはそれ以外の機械学習やベイズ深層学習を含む機械学習は、多くのデータ統計学も中核技術として重要な役割を果たしを学習することにより知識を獲得し、識別やている。そしてこれらの技術により、人間の予測を可能にする技術である。機械学習手法

頭脳が行うような複雑な学習をコンピューに は サ ポ ー ト ベ ク タ ─ マ シ ン（SVM）※4やターで実現することが可能になり、大量のニューラルネットワークなどがあるが、主にデータを学習して新たな知識を得ることがで「教師あり学習」「教師なし学習」「強化学習」きるようになった。本稿では、これらの技術に分けられる（図1）。教師あり学習は正解について、数式を使うことなくそれぞれの学を与えて学習させる方法で、回帰問題や分類習方法の概要がつかめるように解説する。

問題に主に用いられる。教師なし学習は正解

まず、ベイズ統計はベイズの定理※1をもと※2を与えずに学習させる方法で、データの分類を扱う統計学である。最初やパターン抽出に用いられる。代表的なタスに「ある事象が発生する確率」を事前確率とクに、クラスタリングや次元削減がある。強して設定し、新たな情報を得るとその確率を化学習は試行錯誤を通じて価値を最大化する変更して事後確率とし、この更新を繰り返す行動を学習する方法であり、最適な行動の学ことで本来起こるであろう事象の確率を導き習に用いられる。にした主観確率出す。このように、最終判断は下さず可能性

例えば犬を判別する画像認識の場合、教師を数値で評価する。これにより、母集団の前あり学習では、あらゆる犬種、色、大きさの提を必要とせず不完全情報環境下において、様々な角度から撮られた画像データに「いぬ」※1
ベイズの定理ある事象に関連する可能性のある条件についての事前知識に基づいて、その事象の確率を記述するもの。
事象 A、B に対し、事前確率（事象が起きる前の事象 A が起きる確率）をP（A）、事後 確率（事象B が 起きた後で事象 Aが起きる確率）をP（A｜B）とするとき次 式 で 表される。
P（B｜A）・P（A）
P（A｜B）
＝P（B）
※2
主観確率
事象生起の不確実性の程度を、主観的な信念や信頼度合いから評価した確率。
※3
客観確率
確率を頻度論で解釈し、ある事象が起きる比率が無限回試行を繰り返した際の極限値として定義されるもの。
※4
サポートベクタ─マシン（SVM）
マージン最大化に基づき分類や回帰に用いられる教師あり学習によるパターン認識モデルの一つ。

SE 205 December 2021 27

図1

2．機械学習の方法と応用

人工知能の概略図

人工知能（1）教師あり学習

機械学習
ルールベース
探索システム・・

教師あり ニューラル
学習 ネットワーク

教師なし学習

深層学習

強化学習

教師あり学習では、入力データと正解データが紐づいた学習データをコンピューターに与えて、その関係性を表すモデルを学習する。
得られたモデルをもとに、分類問題や回帰問題の予測タスクを行うことができる。
ここで、安全工学において大切な保守を考

※5
勾配降下法
データから計算した誤差関数の勾配を降下していくようパラメータを更新する最適化アルゴリズム。

28のラベルを付けて AI に与え、犬の特徴を学ばえてみよう。機械やシステムを安全安心に運せる。一方、教師なし学習では、犬や猫などの用するためには、その故障率を算出して故障画像をラベルなしで AI に与えて学習させる。

する前にメンテナンスすることが必要となる。

AI は各画像の特徴から類似点などを見つけてそのため、出来るだけ正確に故障するタイミ画像をグループに分類していく。このグルーングを予測したい。そこで、設置環境や利用プ化された画像に対し後付けでラベルを付与

状況、稼働時間などの多数のデータを説明変する。必ずしも「犬」「猫」のように期待した数、稼働状況データを目的変数として、稼働形で分類されるとは限らず、大きさの大小や状況が正常から異常に変化するタイミングを色の違いで分類されることもある。このため、見つけようと考える。その手段がデータの学

画像認識では教師あり学習が用いられること習であり、故障時を含む長期間の大量の稼働が多いが、高い認識精度の達成には大量のデータを収集し、機械学習を用いて説明変数データが必要であり、ラベル付与に多大な時と目的変数の関係を学習させることで、その間と労力を要するため、教師なし学習でグ関係を表すモデル関数を導き出す。この学習

ループ化の精度を向上させる工夫をしたり半では、多くの機械学習のアルゴリズムで「勾教師あり学習が用いられたりする。

配降下法」※5が用いられている。学習はトレー

深層学習は、ニューラルネットワークの中ニングにより最適なパラメータ値を自動で獲間層（隠れ層）を深く多層にし、表現・学習能得することであり、その評価に損失関数を用力を高めた機械学習の一手法である。ニューいる。損失関数は実際の正値と予測値との差ラルネットワークや深層学習は教師あり学習異を表す関数で、モデル関数に対して損失関を発展させたものであるが、教師なし学習や数で表わされた損失の大きさが最小になるよ強化学習にも応用されている。教師なし深層うにパラメータを少しずつ変化させ、トレー学習の学習メカニズムは教師あり深層学習のニングによりこの値を最小にするパラメータそれとは全く異なるため、本稿では教師ありの組合せを求めるのが学習の目的である。勾深層学習について述べる。また、強化学習と配降下法では、現在の場所から勾配する方向深層学習を組み合わせた深層強化学習が近年に任意の距離だけ進むことを繰り返し、損失飛躍的な技術発展を遂げ注目されているた関数の値を減らすことで効率よく対象パラめ、強化学習の項で触れたい。

メータの最適値を求めることができる。このようにして説明変数と目的変数の関係を表すモデル関数を求めることで、故障タイミングの予測が可能になる。もちろん、正確なモデルの作成と故障タイミングの算出には、十分えデータ間の距離に基づき異常検知を行うアな量の良質なデータが必要であることは言う

プローチ、正常データの確率分布を推定してまでもない。故障時のデータがある場合には、生起確率が低い事象を異常とみなす確率論的こうした教師あり学習が可能になる。

アプローチ、正常データを再構成するように訓練されたモデルによりうまく再構成できな（2）教師なし学習い場合に異常とみなす再構成アプローチであ

教師なし学習では、正解ラベルがついている（図2）。それぞれの代表的な手法に、1-classない学習データをコンピューターに与えて、SVM、K 近傍法、混合ガウスモデル（GMM）、データそのものが持つパターンや構造を見つオートエンコーダーがある。各手法はいずれけ出す。主なタスクに「クラスタリング」とも良く知られた手法でありここでは割愛する。

「次元削減」があり、データ間の類似度に基づいてデータをいくつかのクラスタに分けて（3）強化学習

データ構造を明らかにしたり、多次元からな強化学習では、与えられた環境における価る情報をその意味を保持したままより少ない値を最大化するように「エージェント」を学次元の情報に落とし込むことでデータを圧縮習させる。エージェントとは、ある条件下にし、データに内在する重要な情報を明確にすおいて行動する主体を指す。エージェントは、ることができる。

自身の行動に対する環境からの「状態」と「報安全工学では、機械やシステムの異常検知酬」のフィードバックをもとに、将来得られは重要なタスクである。機械などの故障やる「価値」を最大化する「方策」を導き出す。

データ中に表れる外れ値を早期に検知・推測状態はエージェントが存在する仮想空間、環するために、しばしば異常検知手法が活用さ境の情報であり、エージェントが行動する度れる。
異常検知は、データセット内の正常デーに更新される。報酬はある行動の結果としてタ群が持つ特徴とは異なった特徴をもつ観測

エージェントに与えられるフィードバックを結果や推定される異常パターンなどを識別す

指し、価値は一連の行動全体を経て生まれるることを言う。また、外れ値検知では機械学効用である。この価値を Q 値、あるいは状習を使って正常時には現れない外れた値を見態行動価値と呼び、これをアルゴリズムによつけ出す。正常時のデータを学習し、このモり学習して最適な方策を導出する。

デルに当てはまらないデータを「異常」と判定する。この検出すべき「異常」は一定とは

図2

4 つの異常検知アプローチ

限らず、多種多様な形で出現する可能性があ正常率が限られる。よって、「異常」を網羅的にx距離（異常度）小識別アプローチ

距離アプローチ

常検知を行うことになる。異常検知のためのアルゴリズムは、概ね次の4つに大別される。

は正常データから距離が離れているものと考正常
異常

ガウス分布1ガウス分布2

混合ガウス分布

正常データと異常データを区分する境界を直接推定して識別するアプローチ、異常データ距離（異常度）大異常

異常モデリングすることは難しい。
そこで、基本的に教師なし学習を用いて異正常yData Countる。また、「正常」に対して一般的に出現確（K近傍法でK=1の場合）

zLoss

確率論的アプローチ

再構成アプローチ

SE 205 December 2021 29このように、強化学習は外部からの入力に造により何階層もの処理を経ることで特徴抽対応して自律的に制御することを可能にする

出と抽象化を行い、入力データの特徴を抽出学習手法である。強化学習には、環境を把握して識別を可能にする。しかし、多階層の処して取るべき行動を決定する「特徴量抽出」

理を行うために学習計算量が階層数により指と、時系列での各行動の影響を考慮して行動数関数的に増加し、層が深くなると計算コスパターンを決定する「時系列データ生成」とトが膨大になるという問題が生じた。この問いう2つの過程がある。深層学習はこの2つの題を解決したのが、従来とは異なる学習メカ処理過程に対応した強みを持つアルゴリズム

ニズムの「誤差逆伝播法」※6により学習するを持つ。3章で示すように、深層学習は入力方法である。誤差逆伝播法では勾配降下法とされたデータから自律的に特徴抽出することは逆に、入力パターンをネットワークに順伝が可能で、時系列データの扱いも可能である。

播して出力値を得、その出力値と教師データ

このため、強化学習に深層学習手法を組み合の値との差異を計算し、逆算して重み更新量わせた深層強化学習は高い性能を見せている。

を出力層側から計算して全体を見直すこと

近年では、強化学習は自動運転や自律制御で、ネットワーク全体を学習する。この際、ロボットなどの基盤技術として注目を集めて誤差逆伝播法では最小化したい損失関数の勾いる。様々な環境で動作させる中で、強化学配（微分）を効率的に計算することができる。

習により自律的に環境に応じた最適な車の運

これにより、膨大な変数の処理が可能になり、転やロボットの操作が可能になる。また、囲実用可能な手法になった。

碁や将棋などのゲームは、将来の価値を最大

深層学習は急速な発展を遂げ、その手法や化すること、つまり勝利することが目的であネットワーク構造は進化しているが、最初にり、今の手が最終的な勝ち負けにつながるよ登場した基本形は畳み込みニューラルネット

うに打つ。このため、これらのゲームには強ワーク（CNN）2）である。CNN は深層学習の化学習が有効であり、プロ棋士を破ったコン代表的手法であり画像認識にしばしば適用さピューター囲碁プログラムの AlphaGo1）にはれるが、その名の通り、画像処理でよく利用深層強化学習が組み込まれている。場合の数される「畳み込み（convolution）」という手が10360に及ぶといわれる囲碁の巨大な環境に法が使われている。隠れ層を構成する畳み込おいて深層学習技術を応用して学習に成功させ、み層は画像の局所的な特徴を抽出して際立た

深層学習と強化学習の融合の可能性を示した。

せ、「プーリング層」は局所的な特徴をまと3．深層学習めてフィルタリングし抽象化する。畳み込み層とプーリング層を組み合わせた隠れ層の処理を何層も重ねることで、画像の特徴を抽象※6
誤差逆伝播法
勾配法によるニューラルネットワークの学習において、重み付けの勾配を連鎖律で求める方法。

30

ニューラルネットワークは入力層、出力層、化してパターン学習を進め、全結合層を経て隠れ層から構成され、層と層の間の各ニュー最終的な識別結果を出力する。誤差逆伝播法

ロン同士のつながりの強さが重みで表わされにより、CNN の隠れ層の随所に埋め込まれる。深層学習はニューラルネットワークからた重み付けパラメータ全体を一度に調整して発展し、複数の説明変数と目的変数が入出力学習することが可能になった。このように、される入力層と出力層との間に中間変数が媒深層学習では高次元データを識別するアルゴ介する多数の隠れ層が存在する構造を持つ。

リズム自体が、アルゴリズムのどこをどう調多数の説明変数を持つデータに対し、多層構整するかを特定して学習を行う自律的な学習

手法が大きな特徴である。また、人間が判断層学習の技術は大きく進展している。いまや基準を教えなくてもコンピューター自身が自機械学習の応用技術は、オープンソースのら特徴を抽出するため、人が試行錯誤して有Python ※8などの AI 開発言語でパッケージ化用な特徴量を設計し入力データとして与えるされている。パッケージには機械学習のアル必要がなくなったことも大きな進歩である。

ゴリズムがはじめから組み込まれているた

深層学習は画像認識や音声認識の領域で従め、機械学習のメカニズムを深く理解してい来手法と比較し大幅な精度向上を達成するとなくとも AI 開発が可能であり、実用化が進いう成果をあげ、CNN の登場以後盛んに研究められている。発展の背景には、コンピュー開発が進められている。学習データとしては、ター性能の飛躍的な向上と、IoT 並びにクラ時間の経過とともに値が変化していく可変長ウドの普及によるビッグデータ取得・蓄積・の時系列データを扱うことも増えている。そ利用の容易化がある。AI が進展する土壌がこで、時系列データの学習に適したモデルと整ってきたことにより、AI の様々な技術開して、ある時点の入力がそれ以降の出力に影発と理論的な解析が進められている。

響を及ぼすことが可能となるよう、ある隠れ一方で、こうした研究開発では深層学習技

層の出力を再び隠れ層に入力として利用する術が万能ではないことを念頭に置く必要があ

再帰的構造を持つ再帰型ニューラルネットワー

る。新たなモデル開発が、既存技術の延長でク（RNN）が導入された。しかし、RNN に長コンピューターパワーに頼る力まかせの成長い時系列データを学習させる場合、遠い過去では限界がくると考えられる。今後技術的なの隠れ層出力を反映させるのが難しいというブレークスルーが起こらない限り、これまで問題がある。このため、中間層の状態を保持の AI ブームと同様に冬の時代が来ることはするパラメータ要素として時刻変化とともに避けられないだろう。また、AI 技術は倫理保持すべき情報と忘れるべき情報をもち、忘的な問題をはらんでいるため、慎重な適用が却ゲートと呼ばれる関数が時間経過による各求められる。有用なアプリケーションにおい要素の変化を制御することで、長期の時系列て AI 技術を適切に活用していくとともに、データにも対応できるように改良された LSTM

多方面からの AI 技術の検証が必要である。

（Long Short Term Memory）3）が利用されるようになった。さらに近年、時系列データを順次処理する必要がないという特徴を持つTransformer ※7 4）が、並列化に容易に対応でき、大きなデータセットで効率的なトレーニングが可能なモデルとして登場する。発表当
初は主に自然言語処理分野で使用されていたが、画像認識分野でも Transformer のアーキ

参考文献 1） Silver, D., Huang, A., Maddison, C. et al., Mastering thegame of Go with deep neural networks and tree search,
Nature 529, 484–489, 2016.
2） LeCun Y., Haffner P., Bottou L., Bengio Y., Object
Recognition with Gradient-Based Learning. In：Shape,Contour and Grouping in Computer Vision. Lecture Notes
in Computer Science, 1681, 319-345, Springer, Berlin,Heidelberg., 1999.
3） Hochreiter, S., Schmidhuber, J., Long Short-Term Memory, Neural Computation, 9（8）, 1735–1780, 1997.
4） Ashish Vaswani, et. al., Attention Is All You Need, arXiv：
1706.03762v5, 2017.
※7
Transformer
高性能で汎用性が高い深層学習手法の一つ。

テクチャが用いられ CNN を凌駕する成果をあげたことから、その応用分野は広がっている。

4．まとめ
第3次 AI ブームの中で機械学習および深すぎもとちか

生体計測工学、知覚情報処理、アフェクティブ・コンピューティ
ングなどの研究分野において、生体・行動・環境情報の認識とその応用に関する研究に従事。東京大学大学院新領域創成科学研究科助教を経て、2010年から横浜国立大学大学院工学研究院准教授。

※8Python（パイソン）
優れた科学技術計算ツールとして機械学習分野で使われる、インタープリタ型の汎用プログラミング言語。

SE 205 December 2021 31