製造業におけるAI＋ビッグデー
タ利活⽤の考え⽅および課題
青山学院大学 理工学部 経営システム工学科
小野田 崇
onoda@ise.aoyama.ac.jp

2

講演内容
• ⼈⼯知能ブームの歴史• 機械学習研究の歴史• 統計学と機械学習• その類似性と相違• 事例に⾒るAI＋データの利活⽤• 設備診断における事例• AI＋データの利活⽤• 利活⽤には何が重要か

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

3

講演内容
• ⼈⼯知能ブームの歴史• 機械学習研究の歴史• 統計学と機械学習• その類似性と相違• 事例に⾒るAI＋データの利活⽤• 設備診断における事例• AI＋データの利活⽤• 利活⽤には何が重要か

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

4

⼈⼯知能ブーム• 第1次⼈⼯知能ブーム• 1950年代：「Artificial Intelligence(⼈⼯知能)」という呼び名が産声を上げる• 第2次⼈⼯知能ブーム• 1980年代：第5世代コンピュータプロジェ
クト，エキスパートシステム• 第3次⼈⼯知能ブーム• 2010年代：ビッグデータ＋深層学習

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

5

第1次⼈⼯知能ブーム• 1950年代• アラン・チューリングとクロード・シャノンが「コンピュータにもチェスを指すことが可能で，原理的には世界チャンピオンにも勝てる」と発⾔• 1956年• 若⼿の研究者が集結したダートマス会議において，ジョン・マッカーシーという研究者によって⼈⼯知能(Artificial Intelligence: AI)という名前が産声• 1950年代の⼈⼯知能• チェスを指すコンピュータ，数学の定理証明をする
コンピュータ パーセプトロンの提案

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

6

第2次⼈⼯知能ブーム(1980年代)• エキスパートシステム• スタンフォード⼤の感染症診断治療⽀援エキスパートシステム（MYCIN）の登場• ⼤⼿企業を中⼼に⼈⼯知能関連部署を新設• 第五世代コンピュータプロジェクト• 通産省が550億円をかけて⾏ったプロジェクト• 世界が追随• ⼀階述語論理に基づいてデータ間の関係を⽰す命題として記述：Prolog• ⼀階述語論理:個体の量化のみを許す述語論理• 量化：論理式が適⽤される議論領域の個体の「量」の指定• 述語論理：数理論理学における記号的形式体系群を指す⽤語

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

7

学習させたい特徴量を⼊⼒する

第2次⼈⼯知能ブーム(続き)
出⼒層と正解とのズレを評価して重みを調整

⼊⼒層中間層

第27回 JUSEパッケージ活⽤事例シンポジウム

出⼒層

正解

04/12/2017

8

第2次⼈⼯知能ブーム(続き)• パーセプトロン限界説への反発• ニューラルネットワーク• ⼈間の脳神経回路を真似することによってデータを⼈間と同じように分類しようというアイデア• 誤差逆伝播学習法• ある程度複雑な関係を学習：様々な産業分野に適⽤• 3層程度のシミュレーションしかできなかったため，より⼈間に近い，⼈間を超える性能を発揮するという視点からは限界• 知識獲得 機械学習

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

9

裏⼈⼯知能 機械学習
• 1990年代〜2000年代初頭• 1990年代：機械学習の成⻑期• サポートベクトルマシン，カーネル法，アンサンブル学習(Bagging, AdaBoost)，汎化理論(機械学習の性能評価)• 2000年代：機械学習の発展期• ベイズモデル(変分ベイズ，Gibbsアルゴリズム)，転移学習，半教師有り学習，深層学習(最初に提案された時代)

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

10

第3次⼈⼯知能ブーム• 2010年代（現在）
クラスタリング

モデリング

予測・推定・制御

パターン識別

雑⾳除去

データ分割

データの情報化

関数近似

データ分類

データ洗浄

＋データ

〜2010年代：機械学習
クラスタリング

モデリング

予測・推定・制御

パターン識別

雑⾳除去

データ分割

データの情報化

関数近似

データ分類

データ洗浄

＋ビッグデータ

2010年代〜：⼈⼯知能(AI)※図中うすい緑四⾓部分は機械学習が主に扱っている適⽤領域
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

11

ALPHAGOに関するニュース• AlphaGo以前• ⽇本の囲碁プログラムZen等はプロ棋⼠に4⼦局で勝利• ⼈間のチャンピオンレベルになるのは10年後くらいと思われていた• 2015年10⽉• AlphaGoがヨーロッパチャンピオンに5勝0敗• 2016年1⽉• Google Deep Mind がNature 誌にAlphaGoに関する論⽂を発表• 市販ソフト(Zen, Crazy, Stone,…)に対し494勝1敗

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

12

ALPHAGOに関するニュース• 2016年3⽉9ｰ15⽇ Google DeepMind
Challenge Matchにて世界チャンピオンに4勝1敗• ⽇程：3⽉9⽇(⽔)ｰ15⽇(⽕)• 会場：韓国・ソウル市 フォーシーズンズホテル
ソウル• 賞⾦：100万ドル(約1億1千万円)• 持ち時間：持ち時間2時間/60秒の秒読み3回

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

13

深層学習とは？
• ニューラルネットワークによる機械学習⼿法• 事例：2012年⼀般画像認識コンペで圧勝
機械学習(深層学習)

⼈間の知覚cat

第27回 JUSEパッケージ活⽤事例シンポジウム

確率cat
dog
pighorse

04/12/2017

14

深層学習のためのNN多層となっている

⼊⼒層

中間層1

第27回 JUSEパッケージ活⽤事例シンポジウム

中間層n

出⼒層

04/12/2017

15

囲碁における深層学習• どんな盤⾯を⼊⼒しても，プロみたいな⼿が打てる何か？
⼿A

70%

12層もある深⼿B

40%

いネットワーク

⼿C

30%

⼿D

10%

• このようなネットワークでプロの棋譜を学習して作る！
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

16

ICML 2017• 44 Google, 33 Microsoft, 32 CMU• 25 DeepMind, 23 MIT, 22 Berkeley• 22 Stanford, 16 Cambridge, 16Princeton• 15 None, 14 Georgia Tech, 13 Oxford• 11 UT Austin, 10 Duke, 10 Facebook• 9 ETH Zurich, 9 EPFL, 8 Columbia• 8 Harvard, 8 Michigan, 7 UCSD
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

17

講演内容
• ⼈⼯知能ブームの歴史• 機械学習研究の歴史• 統計学と機械学習• その類似性と相違• 事例に⾒るAI＋データの利活⽤• 設備診断における事例• AI＋データの利活⽤• 利活⽤には何が重要か

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

18

• 統計学

統計学と機械学習(1)• 確率・統計• 多変量解析• 主に，回帰分析，判別分析，クラスター分析• 最適化⼿法• モデル化⼿法• 機械学習• 統計的機械学習 ←確率・統計，最適化⼿法，モデル化⼿法• パターン識別 ←判別分析，最適化⼿法• ⾮線形関数近似 ←回帰分析，モデル化⼿法，最適化⼿法• クラスタリング ←クラスター分析，最適化⼿法

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

19

統計学と機械学習(2)
統計学

機械学習

推論

予測
推論

予測
推論(分析)中⼼
第27回 JUSEパッケージ活⽤事例シンポジウム

予測中⼼04/12/2017

20

機械学習とは ?
Output(Target value)

Input
汎化誤差 (期待損失)

損失関数

損失関数の例,,log,⾃乗誤差最⼩⾃乗法

対数損失

最尤推定法

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

21

統計学と機械学習

統計学は⼊⼒ と出⼒ とがどのようなモデルで説明できるかを探る！
統計学ではモデル; が重要！
統計学では特にパラメータ が重要！

Output(Target value)

Input
機械学習では;が重要！

機械学習ではモデル; は重要ではない！
機械学習ではパラメータ は重要ではない！
機械学習は⼊⼒ から出⼒ を正確に予測するモデル探る！
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

22

講演内容
• ⼈⼯知能ブームの歴史• 機械学習研究の歴史• 統計学と機械学習• その類似性と相違• 事例に⾒るAI＋データの利活⽤• 設備診断における事例• AI＋データの利活⽤• 利活⽤には何が重要か

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

23

製造業(WIKIPEDIA)• 原材料などを加⼯することによって製品を⽣産・提供する産業• 家電，⾃動⾞といった⼯業製品から，コンビニエンスストアで売られる弁当や飲料を作る産業までを製造業
様々な部署でビッグデータを収集可能
部署あるいは現場単位でビッグデータの利⽤⽬的が異なる
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

24

製造業(国税庁)• ⾷料品製造業(1)，飲料・たばこ・飼料製造業(2)，繊維⼯業(3)，⽊材・⽊製品製造業(家具を除く)(4)，家具・装備品製造業(5)，パルプ・紙・紙加⼯品製造業(6)，印刷・同関連業(7)，化学⼯業(8)，⽯油製品・⽯炭製品製造業(9)，プラスチック製品製造業（別掲を除く）(10)，ゴム製品製造業(11)，なめし⾰・同製品・⽑⽪製造業(12)，窯業・⼟⽯製品製造業(13)，鉄鋼業(14)，⾮鉄⾦属製造業(15)，⾦属製品製造業(16)，はん⽤機械器具製造業(17)，⽣産⽤機械器具製造業(18)，業務⽤機械器具製造業(19)，電⼦部品・デバイス・電⼦回路製造業(20)，電気機械器具製造業(21)，情報通信機械器具製造業(22)，輸送⽤機械器具製造業(23)，その他の製造業(25)
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

25

輸送⽤機械器具製造業• ⾃動⾞・同附属品製造業• 鉄道⾞両・同部分品製造業• 船舶製造・修理業、舶⽤機関製造業• 航空機・同附属品製造業• 産業⽤運搬⾞両・同部分品・附属品製造業• その他の輸送⽤機械器具製造業
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

26

油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器
内部不具合診断4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

27

油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器内部不具合診断
4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

28

機器診断技術の必要性の変化
使⽤年数をチェック
時間計画保全

取替え
修理
まだ使⽤

状態監視保全状態監視保全実現の柱状態を検査，診断(判断)第27回 JUSEパッケージ活⽤事例シンポジウム

取替え
修理
まだ使⽤
04/12/2017

29

電⼒⽤変圧器

対象変圧器は油⼊変圧器

油内のガスの成分により内部不具合わかる？

東芝産業機器製造株式会社カタログより抜粋
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

30

油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器内部不具合診断
4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

31

電⼒⽤変圧器良否判定の現状
電気協同研究会が平成11年2⽉に⽰した判定基準を採⽤
 当時より精密な油中ガス分析を実施
 精密な油中ガス分析データを蓄積


蓄積された実際の油中ガス分析
データに基づく基準の作成
データを⽤いた基準の精密化
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

32

油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器内部不具合診断
4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

33

データに基づく判別(1)

正常

内部不具合

判定ラベル付きデータ
経験的知識・感覚の蓄積
実績保守データの蓄積

第27回 JUSEパッケージ活⽤事例シンポジウム

⾃動判別器の⽣成

油中ガス分析データ

未知の油中ガス分析データ
正常 or 内部不具合
経験的知識・感覚の活⽤
実績保守データの活⽤
04/12/2017

34

油中ガス分析データ(ある電⼒会社)• 115件の変圧器の油中ガス分析データ• 内部不具合変圧器15件，正常状態変圧器
100件• 油中ガス分析データは7種類のガス構成• ⽔素(H2)，メタン(CH4)，エタン(C2H6)，エチレン(C2H4)，アセチレン(C2H2)，⼀酸化炭素(CO)，⼆酸化炭素(CO2)の発⽣量(単位:ppm)• 正常・内部不具合は変圧器を分解点検し⽬視により判定
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

35

油中ガス分析データ

正常内部不具合

判定ラベル付きデータ
実績保守データの蓄積

⾃動判別器の⽣成

データに基づく判別(2)
未知の油中ガス分析データ
正常 or 内部不具合
実績保守データの活⽤

多変量解析，機械学習による判別器の⽣成
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

36油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器
内部不具合診断4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

37

代表的な多変量解析

マハラノビス距離：正規分布を仮定
 多変量線形判別：正規分布，同⼀分散共分散を仮定
 線形SVM：必ず識別できることを仮定

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

38

マハラノビス距離の適⽤結果• データは正規分布していると仮定• 与えられたデータに対し，内部不具合変圧器を正常変圧器と誤判別する場合はなかった．
• 100件の正常変圧器の内，50件を内部不具合変圧器と誤判別した．
• 与えられたデータでさえ正確な判別を実現できなかった．
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

39

線形判別分析適⽤結果• 与えられたデータに対し，正常変圧器を内部不具合変圧器と誤判別する場合はなかった．
• 内部不具合変圧器を正常変圧器と誤判別する場合が6件(15件中)存在した．
• 誤判別した6件はいずれもC2H4 (エチレン) またはC2H2(アセチレン) の発⽣量が⼩さいものだった．
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

40

SVM適⽤結果• 与えられたデータに対し，正常変圧器を内部不具合変圧器と誤判別する場合はな
く，内部不具合変圧器を正常変圧器と誤判別する場合もなかった．
• LOO(Leave-One-Out)検定を⾏った結果，平均誤判別率は0%であった．

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

41

LEAVE-ONE-OUT「内部異常変圧器」「正常変圧器」

計115データ

115回試⾏
第27回 JUSEパッケージ活⽤事例シンポジウム

114データ
判別式決定⽤データ

1データ
テストデータ04/12/2017

42

SVMによる説明変数の削減

正規化H2（⽔素）CH4（メタン）C2H6（エタン）
C2H4（エチレン）
C2H2（アセチレン）
CO（⼀酸化炭素）
CO2（⼆酸化炭素）
切⽚

第27回 JUSEパッケージ活⽤事例シンポジウム

あり-0.6079-5.0958
0.9201-5.9970-23.4126-0.01510.6453
1.1744なし- 0.0201- 0.3332

1.1342
04/12/2017

43

2種のガスデータによる判別
－

24－22

各ガスの部分にはppmを単位としたガス量が⼊るが正なら正常変圧器，さもなければ内部不具合変圧器与えられたデータを全て正しく判別(識別)．
 LOOによる平均誤識別率の評価も %．


第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

44

油中ガス分析データに基づく変圧器の内部不具合診断
1. 研究の背景
2. 油中ガス分析データに基づく変圧器の内部不具合診断の現状
3. 多変量解析，機械学習を⽤いた変圧器
内部不具合診断4. 実験結果
5. まとめ
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

45

まとめ
• マハラノビスの距離，多変量線形判別，SVMを油中ガス分析データに適⽤した．

• 現状の油中ガス分析データの収集状況から，多変量線形判別分析，マハラノビスの距離を⽤いた変圧器の状態判別の実現は，困難であることを確認• SVM を⽤いた場合，現在収集されたデータから変圧器の状態を正しく判別できる線形判別式を⽣成できる可能性を確認• 様相診断へのSVMの適⽤可能性の検討
第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

46

講演内容
• ⼈⼯知能ブームの歴史• 機械学習研究の歴史• 統計学と機械学習• その類似性と相違• 事例に⾒るAI＋データの利活⽤• 設備診断における事例• AI＋データの利活⽤• 利活⽤には何が重要か

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

47

ビッグデータの利活⽤に何が重要か•明確な利⽤⽬的•直感に合う• クリティカルな課題(理由が必要な課題)への本格的な適⽤は？
• SE4ML: Software Engineering for
Machine Learning (NIPS 2014Workshop)• Machine Learning: The High Interest Credit
Card of Technical Debt

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

48

ご清聴ありがとうございました
onoda@ise.aoyama.ac.jp

第27回 JUSEパッケージ活⽤事例シンポジウム

04/12/2017

本著作物は原著作者の許可を得て，株式会社⽇本科学技術研修所（以下弊社）が掲載し弊社）が掲載しています．本著作物の著作権については，制作した原著ます 本著作物 著作権は 制作した 著作者に帰属します．
原著作者および弊社の許可なく営利・⾮営利・イントラネットを問わず，本著作物の複製・転⽤・販売等を禁⽌します．
所属および役職等は，公開当時のものです．
■公開資料ページ
弊社
弊社ウェブページで各種資料をご覧いただけますブジ 各 資料 ご覧だh
http://www.i-juse.co.jp/statistics/jirei//////■お問い合わせ先(株)⽇科技研 数理事業部 パッケージサポート係

http:/www.i-juse.co.jp/statistics/support/contact.html