1

ディープラーニングの機械工学分野への適用
鈴木良郎 （東京工業大学）
発表内容• 研究概要• ディープラーニング（DL）とは• 当研究室のDL関連の研究一覧• 研究紹介1: DLによるトポロジー最適化• 研究紹介2: 曲線状繊維を持つCFRPの最適化• AI開発の参入障壁は低下している

研究の主軸（ 2017年～現在）

2

ディープラーニング（DL）と機械工学（および医療）を掛け合わせた研究を主軸としています．
方針 DLや脳科学の知見を使って機械工学（および医療）の問題をうまく解く
 機械工学の知識をもつAIエンジニア（現在はとても希少）を輩出する
DL

機械工学

DL

医療画像診断

脳科学

機械工学

DLを機械工学に応用したい

3

近年のDL技術の性能向上は驚異的
特に 画像認識， 音声認識 の性能は突出している

物体形状から情報を抽出

波形から情報を抽出

物体形状から物理的性質（強度，空力）を抽出する技
術に応用できないか？

超音波波形から情報を抽出する技術に応用できないか？

DLによるトポロジー最適化
や，車体形状から空力性能を予測するDL（後述）を提案

DLによる超音波非破壊検査の高性能化（後述）を提案

4

ディープラーニング（DL）とはディープラーニング（DL）とは5
DLの包含関係

機械学習の一技術
DLとは機械学習 人工知能

脳を模した複雑な関数を用いる

DL

画像識別、音声認識、翻訳、医療、将棋、囲碁、自動運転に適用され成功

DLによる画像認識の例
画像

入力に近い層脳の神経回路を模倣

神経細胞
馬
猫
犬鳥

Input

中央の層

出力に近い層DLは本格的な実用期を迎えた

2012年のDLによるブレークスルー以降すべてDLが優勝

2011年以前はDLでない技術が優勝

人の誤答率を下回る誤答率■画像認識
画像認識の国際大会
ILSVRCの優勝スコア

6

http://image-net.org/challenges/talks_2017/ILSVRC2017_overview.pdf■DLは重要な科学技術と国際的に認められた•

これまでに何度もブームと停滞を繰り返し「科学と呼べない眉唾技術」とみられることも多かった• 一方，近年のDLの多分野での成功から「国力を左右する重要な科学技術」という不動の評価を確立した• 現在は，各国の産業界/学術界が競って研究開発しており本格的な実用期を迎えた

研究背景： 近年猛威を振るうDLの躍進

7

2013年 Google
画像内の猫や人を認識するDLを発表→「Googleの猫」として注目を集めた
Quoc V. Le, Building High-level Features Using Large
Scale Unsupervised Learning, Proceedings of the 29 thInternational Conference on Machine Learning, 2012.

猫と人の特徴を持つ画像

2016年 Google
翻訳にDLの一種であるリカレントニューラルネットワークを使用→ フレーズごとでなく、文全体を扱うことで、自然な翻訳を可能に
Yonghui Wu, Google's Neural Machine Translation System: Bridging the Gap between Human andMachine Translation, arXiv:1609.08144, 2016.

2017年 スタンフォード大学
皮膚画像から皮膚がんを検出するDL
皮膚科医と同精度→ DLの医療への適用が急加速
A. Esteva, Dermatologist-level classification of skin cancer withdeep neural networks, Nature Letter, Vol. 0, 2017.

皮膚がん？ ほくろ？

ディープラーニング（DL）の何がすごいのか？
顔写真音声波
形

推定
振幅8

性別
年齢
心情など

時間

人間やDLは これら を概ね正しく推定できるが，他手法ではうまくいかない．例えば「男性らしさ」は言葉や数式で表現できるものではないことが，推定を困難にする原因．
この「理屈で表現できない特徴」をDLは抽出して推定できる．特徴抽出のコツをデータから自動で学ぶ点が強み．

ディープラーニング（DL）の何がすごいのか？
超音波
センサ
損傷からの超音波

損傷

超音波検査の際受信波が縦波か横波か判別する必要がある
超音 振波 幅波
形

判別

9縦波？
横波？

時間

超音波波動方程式（物理法則＝理屈）に基づいて分析して従来判別
要知識，開発長期化，低精度，ノイズに弱いDL

波形用DLを用いて判別（ただし多数のデータ収集が必要）
知識不要，開発短期化，高精度，ノイズに強い物理学的アプローチ（理屈）で太刀打ちできない
複雑な問題を，DLは人のように直観的に解くことができる

10

当研究室のDL関連の研究一覧

当研究室のDL関連の研究一覧

11① 超音波波形を分析して損傷情報を抽出するDL② 網膜画像を自動診断するDL

簡単に
紹介③ DLによる数値解析④ DLによる自動車ボディの空力設計⑤ DLによる構造のトポロジー最適設計⑥ DLによる曲線状繊維を持つCFRPの最適設計

詳細に紹介

当研究室のDL関連の研究一覧

12① 超音波波形を分析して損傷情報を抽出するDL
超音 振波 幅波
形DL

Input

超音波センサ
時間

波形用CNN+RNN② 網膜画像を自動診断するDL
網膜画像

超音波の縦波/横波分類
Output 波源（損傷）の方向推定

損傷

http://www.ginza.mes.titech.ac.jp/research/deep_learning_2.html

DL
OutputInput

眼疾患の有無視力の推定

複数のCNNを結合※名古屋大学病院 眼科学 との共同研究

当研究室のDL関連の研究一覧

13

http://www.ginza.mes.titech.ac.j③ DLによる数値解析 p/research/deep_learning_1.html
熱伝導率を反映
ランダムな熱伝導率分布
した温度分布DL
高高温
OutputInput
低CNN+知識の蒸留④ DLによる自動車ボディの空力設計
空気抵抗係数Cd

低温※下図は他研究機関の成果です
https://youtu.be/U38cKk-sxyY?t=55

3Dの車体形状を入力すると瞬時に流体解析結果を表示
インタラクティブな空力設計が可能に！

機械学習で流速や圧力をリアルタイム推定

14⑤ DLによる構造のトポロジー最適設計

15

構造最適化とは与えられた境界条件下で，最適な構造物を設計する手法

軽くしたい，変形を小さくしたい

寸法最適化

形状最適化トポロジー最適化
トポロジー最適化(形態最適化)

寸法最適化

形状最適化

設計変数
(変えられるもの)

寸法

形状(外周の形のみ)

形態(外周だけでなく，内部構造も変えられる)

自由度

低中

高構造の持つ性能

低中

高15

研究背景

16

 ディープラーニング (DL) の躍進
DLを用いた畳み込みニューラルネットワーク(Convolutional Neural Network: CNN)
2017年 スタンフォード大学
皮膚画像から皮膚癌を検出するCNNを開発※1
皮膚科医と同精度高い画像認識能力※1 A. Esteva, Dermatologist-level classification of skin cancer with deep neural networks, Nature Letter, Vol. 542, 2017.

16

17

研究背景
剛体 設計領域

本研究における構造→材料分布で表現

CNN（=畳込み層を持つDL）
入力に
近い層

中央の層

剛性
推定層

剛性

集中荷重

材料密度分布を画像として入力

 研究目的1. CNNが持つ高い画像認識能力を利用し，材料密度分布を画像のように認識して剛性を推定できるようにする
2. 構築したCNNを用いて剛性を最大化する材料密度分布を逆算する（最適な材料密度分布を探索する）
17

18CNNの訓練手法
1.設計領域を要素分割しランダムな密度布を作成
A
2.荷重を与えFEMで剛性を算出
3.剛性を推定する
CNNを教師あり
学習

集中荷重

B

C

剛性推定時

剛体 設計領域

中間層

剛性
推定層

剛性

A B C

18

19

CNNを用いたトポロジー最適化手法
初期材料密度

1.剛性を推定する
CNNを構築2.最適性基準法
による剛性最大化
更新回数 1 回剛性最大化時

更新回数 0 回
中間層

材料密度の更新

剛性
推
定層

剛性最大化

更新回数 21 回繰り返し

19

トポロジー最適化を行うCNNの全体像
Down-convolution(Stride=2)

20Up-convolution (Stride=2)

Flat convolution (Stride=1)

材料密度目的関数の勾配(感度) Down-convolution, Flat-convolution, Up-convolutionを持つCNN
・材料密度分布を入力，剛性の勾配（感度）を出力とする
・FEM解析により作成したデータを用いて教師あり学習 出力される感度を用いて最適性基準法により構造最適化を実施
 獲得した最適化密度分布の連続性を高めるフィルタリング実施
20

21

トポロジー最適化の各設定
 最適化対象
平均コンプライアンスの最小化＝ 剛性の最大化 制約条件
面積上限

荷重𝑓

変位𝑢

設計領域の50%
剛体設計領域

 境界条件

16×32ピクセル
荷重f

21

22

トポロジー最適化結果
平均コンプライアンス
従来手法
1294
提案手法

1287

従来手法：SIMP法

従来手法と比較すると提案手法の方がコンプライアンスが低くシンプルな材料分布を獲得できた提案手法：CNN22材料密度の更新回数の比較

23

従来手法と比較し提案手法は少ない更新回数で収束した

更新回数

従来手法
(SIMP法)
提案手法
23

24
「⑤ DLによるトポロジー最適設計」のまとめ

結言

 DLの一技術であるCNNを用いたトポロジー最適化手法を提案した
 提案法を剛性最大化問題に適用した結果，従来手法と比べ・優れた（コンプライアンスの小さい）構造を・少ない更新回数で獲得できることを示した

24

25

⑥ 曲線状繊維を持つ
CFRPの最適設計

26

直線繊維から成る従来のCFRP
プリプレグシート・直線状に繊維を配置・積層構成のみ最適化する

直線状炭素繊維円孔

StringerSkin

直線状繊維では「円孔周り」や「ストリンガーの終端部」に大きな応力集中が生じて破壊の起点になりやすい

AFPや3Dプリンタによる曲線CFRPの登場

曲線繊維導入により応力集中を緩和して強度を向上させたい

27

研究目的
・曲線状繊維を導入してCFRPを高強度化する

・遺伝的アルゴリズム（GA）により破壊強度が最大となる曲線繊維配置を探索する

・曲線繊維は設計自由度が高く，最適化に時間がかかる→ GAとディープラーニングを組み合わせて高速化する

28

最適化対象29
100 mm① 有孔単層板50 mm

𝜙= 20 mm

解析モデル全体に曲線状繊維を配置・最適化② ストリンガー付き積層板
Skin材(8層，1.6 mm厚)

60 mm

ストリンガー(逆T字型)

上面図

120 mmSkin材の最上層： 曲線状に繊維配置
その他：
長手方向の直線繊維を配置

曲線状繊維の生成法

30• 完全流体の流線により曲線状繊維を表現する
滑らかな
交差しない 曲線を少ないパラメータで表現可
複雑な円柱直径 𝜙y 湧き出しの強さ = 1

𝑥Parameter #3

𝑦②ストリンガー付き積層板
Parameter #2①有孔単層板湧出点のy座標• 流体場パラメータ（曲線繊維パラメータ） → GAの設計変数とする

Parameter #1

Parameter #4

湧出点のx座標

湧き出しの強さ #5

湧き出し点

吸い込み点

円柱x

FEM解析モデルの作成法

31

繊維角度が連続的に変化するCFRPのFEMモデル化は困難→ 繊維角度を離散化する必要有
吸い込み点

要素

湧き出し点

流線方向 = 繊維方向

節点

12

流線

1. FEMの各要素中心での流線方向を取得
2. 異方性を考慮したCFRPの物性値を各要素に設定

32

解析手法と破壊強度の評価法

150 MPa

150 MPa

FEM解析モデルの境界条件① 有孔単層板② ストリンガー付き積層板
𝑧𝑥, 𝑦, 𝑧方向𝑦
変位固定𝑥

強制変位0.45 mm
最適化
：
目的

有孔単層板
ストリンガー付き積層板の引張強度最大化

破壊基準：Hashin則 (応力と一方向材の破壊強度から導出)
Hashin値 ≥ 1 : 破壊状態
Hashin値を目的関数としてGAで最小化する

提案手法

33

遺伝的アルゴリズム(GA)＋ディープラーニング(DL)
提案手法
従来のGA

従来のGA 早期終了

次世代個体作成
曲線状繊維配置の作成

次世代個体作成

曲線状繊維配置の作成

FEM解析によるHashin値算出

FEM解析 ：長時間
最大世代数：膨大→計算時間：膨大

CFRP個体のHashin値を得るた
めの計算時間FEM解析 ≫ DLであるため，DLにより計算時間を大幅に削減可能

FEM解析による
Hashin値算出

DLの学習

100回
繰り
返し繊維配置パラメータ

Hashin値
DL

DLを用いたGA
次世代個体作成
曲線状繊維配置の作成

DLによる
Hashin値算出

100組の最適繊維配置の候補を獲得
最適解候補をFEM解析してHashin値算出
候補の中でHashin値が最小⇒最適繊維配置

曲線状繊維配置からHashin値を推定するDL
シンプルなFCNを採用(中 中 中 中 中間 間 間 間 間層 層 層 層 層

出力層

(Hashin入力層繊維配置
パラメータ全結合層)値)
バッチノーマライゼーション
・前の層の値(繊維配置パラメータ)を正規化・算出される出力値(Hashin値)の精度向上

34

35

有孔単層板の最適化結果
従来のGA

FEMによる強度評価

DLの学習，DLを用いたGA

最適化後最大Hashin値

20世代

合計17800秒

提案手法

0.526
同程度

合計52500秒

100世代

従来のGA

010000

20000

30000

40000

解析時間 [秒]

50000

0.528

60000

提案手法
・従来のGAに対して計算時間を67%削減
・従来のGAと同程度の強度(Hashin値)を持つ曲線CFRPを取得

36

有孔単層板の最適化結果
提案手法 (17800秒)

従来のGA (52500秒)

最大Hashin値：0.526

最大Hashin値：0.528

最適繊
維配置
流線

Hashin値分布00.1 0.2 0.3

0.4 0.5 0.6

00.1 0.2 0.3

0.4 0.5 0.6

37

ストリンガー付き積層板の最適化結果
従来のGA

提案手法

FEMによる強度評価

DLの学習，DLを用いたGA

最適化後
最大Hashin値0.625

合計143000秒

40世代

10％減
(10％強化)

合計238000秒

90世代

従来のGA

0500001000001500002000000.694250000

解析時間 [秒]提案手法
・従来のGAに対して計算時間を40%削減
・従来のGAより高強度な曲線CFRPを取得

ストリンガー付き積層板の最適化結果
提案手法 (143000秒)

従来のGA (238000秒)

最大Hashin値：0.625

最大Hashin値：0.694

38

最適繊
維配置流線

Hashin値分布

上面図00.1 0.2 0.3 0.4 0.5 0.6 0.7

00.1 0.2 0.3 0.4 0.5 0.6 0.7

39

まとめ

• 遺伝的アルゴリズム(GA)とディープラーニング(DL)を組み合わせ，最適解の獲得時間を削減する手法を提案した• 提案法を有孔単層板，ストリンガー付き積層板に適用した
従来のGA
有孔CFRP板

ストリンガーを設置したCFRP板

提案手法

最適化時間

52500秒 66%減 17800秒

CFRP内最大
Hashin値
最適化時間

同等

CFRP内最大
Hashin値

0.528

0.526237500秒 40%減 143000秒
0.694

10%減0.625• 提案法は，従来のGAと同等，又はより優れた曲線繊維配置を，従来のGAより短時間で獲得できることを確認した．

40

AI参入障壁の低下（参入サポートの充実）

Google Colaboratory（••••••

https://colab.research.google.com/notebo
oks/welcome.ipynb?hl=ja#recent=true）

41

Googleが無償提供
DL参入の金銭
GPUを使って機械学習のコードを実行できる的コストが0に
ブラウザ上で動作するJupyterノートブック環境
GPU等の設定不要
必要ライブラリ（Python, TensorFlowなど）インストール済み
DLのチュートリアルも豊富

5分で手書き数字認識のチュートリアルを実行可能と話題に東大松尾研究室のDL4US（

https://weblab.t.utokyo.ac.jp/cfp-dl4us/）42• 東大松尾研• 2018年のDL技術者向け教育プログラム「DL4US」の演習コンテ
ンツがオンライン上で無償公開された• DLの学習を実行しながら演習を進めていくにはGPU環境を用意する必要がある43

発表全体のまとめ

発表全体のまとめ

44• 機械工学の分野に，DLが誇る高い画像認識能力や音声認識能力を活かす研究を紹介した．

DLによるトポロジー最適化，車体形状から空力性能を予測するDL

DLを用いた超音波による非破壊検査• 一見，DLは機械工学とは無関係の分野（画像，音声など）で成長しているようにみえるが，両者は接点を持つこともある．今後も，意外性のある接点を探して，DLの新しい応用方法を考案していきたい．