マテリアル計測・プロセスのためのデータ設計およびデータ構造化
2021年6月16日

JOSS2021 D1 研究データインフラ技術者＆研究者座談会

国立研究開発法人物質・材料研究機構
統合型材料開発・情報基盤部門
松波 成行

1

1. データ収集にかかる背景と課題

2

データ駆動型研究の進展と課題◼ データ駆動型研究のトータルの作業工程の中で川上側のデータ収集が最も律速となっている◼ データ収集を効率的に行えるようにするためには，・・・．
Step1

Step 2

Step3

Step4

データ収集

データ統合

モデル構築

モデル検証
40

接着技術

計測1 x 1
計測2 x 2

1…

3

計測4 x n

wn

30

20

触媒技術

1002…

計測3 x 3www

機械学習

結晶技術

F(x)

機械特性技術

加工生産技術

光学技術

2013

2014

2011

2012

2009

2010

2007

2008

2005

アンサンブルモデル
Random Forest
Gradient Boosting

2006

耐熱技術

決定木モデル

線形モデル (Lasso)

Deep learningSVM

3課題分析： データ収集ができない主な理由◼ 現状は依然としてデータの収集段階が最も障壁となっており，その理由の多くは，以下の事由の組み合わせによっている．

1. データそのものが測定装置本体や個人のローカルPCに保管されており，データの所在が分散している．そのため，データの所在を人に聞いて回らないと集められないこと．
2. 測定装置の多くはウイルスによる誤動作やOSのアップデートによる測定の中断などのトラブルを回避するため，ネットワーク環境から切り離したスタンドアロンで運用されている．
そのため，データの取り出しや受け渡しはUSBなどの外部記録媒体を人手が介在していること．
3. 測定データの素性が不明であること．例えば，新規材料の開発においては試料情報が略語表記やコードネーム化されている．また，計測や分析における前提条件に関する付帯情報がないために，測定当事者以外の第三者による再利用・再解析が難しいこと．
4. 計測データが出力状態のまま（rawデータ）となっていること．特に出力がメーカー固有のバイナリー形式の場合には可読化のためのデータ変換に難航することのほか，記載内容もメーカー固有の計測パラメータの語彙の意味が解読できず，データ駆動にかけるためのデータ構造化が難しいこと．
4

取り組み： 測定データのデータセット化とハイスループット化◼ データ取得から前処理・解析を経て蓄積までを一気通貫 → 「ハイスループット化」 ＝省時間化◼ データ蓄積は利活用しやすいようにデータ構造化 → 「データセット化」＝知財化
材料計測のハイスループットな収集とインフォマティクス

IoTデータ転送
実験装置

データ蓄積
データ蓄積サーバメーカー・検出器依存の装置出力

主要パラメータの抽へのメタ情報付与

収集
Wi-Fi

XML形式

TXT形式

構造化

装置PC

Wi-Fi
SDカード

省力化

居室PC等

蓄積

データ解析（例：スパースモデル解析）

処理・解析

XML or json
REST API

データセット化

自動でピーク分離される解析データ

省時間化

5

2. IoTによるデータ収集システムの概要

6

IoTシステムの特徴◼ 対象機器： スタンドアロンで運用される計測・分析装置やプロセス装置の制御パソコン向け◼ 方
法： 通信セキュリティを施したWiFi付きSDカードを活用
これまでの方法
オフライン

本システム
ネットワーク実験装置
データ蓄積サーバ

データ制御

Wi-Fi

・ OSの自動アップデート等で長時間測定が中断される！
オフライン
ネットワーク・ ＯＳが新しくなると、装置の制御プログラムが更新できない！
認証情報発⾏サーバ

特徴：

居室PC等

解析サーバ

照合

データ制御

データ蓄積サーバー

装置PC

Wi-Fi
SDカード

ダウンロードクレデンシャル

Wi-Fi

データ
アップロード

鍵付き
メール
ボックス

データ転送

① 情報セキュリティを高めるアップロードのみの通信制御によるデータ転送
SD

Wi-Fi SDカード② データの秘匿性を確保する私書箱方式のデータの振り分け機能③ 小型なので大きな工事が不要。誰でもが簡単に増設や設置が可能

IoTカード側

サーバ側

一般の産業用ＩｏＴサービスにはない、ＮＩＭＳならではのシス
テム設計

7

IoTシステムの構成概略図◼ セキュリティを確保した有線型と無線型のIoTセキュリティデバイスによる統合的なデータ収集シス
テムを開発済
データ蓄積サーバ

データ収集サーバ（DCS）

有線型セキュリティデバイス
(大容量・高速通信向け)

・データバックアップ
・データセット化

無線型セキュリティデバイス

Max. 10GB/回

Max. 100MB/回

VPN西播磨地区

並木地区

千現地区

桜地区

8

データ転送における構成図
無線型

データ蓄積サーバ

データ収集サーバ（データは非構造）（データ構造化）

データ転送プログラム(Lua)
保存されたファイルを転送

保存
測定データ

測定データ受信・登録

データベースファイル保存<無線型IoT>
外付けドライブとして機能
ネットワーク接続を代替

Sambaによるファイル共有

有線型

ファイル
共有領域

保存
ICカード

測定データ

ファイル
共有領域
<有線型IoT>
共有ドライブとして利用

IoT管理システム9

3. データ設計の考え方

10

機器利用とデータ利用のワークフローの高度化◼ 作業効率化： 測定rawデータを即時にワンストップでデータ処理＆解析をフィードバック．
◼ データセット利用： データセットを使って最新研究に．オリジナルの機械学習モデルも実装可能．
研究者の機器

データ転送

IoTセキュリティデバイスを装着が前提

ドラッグ＆ドロップのみ
お手持ちのPCからDropboxの感覚でドロップ！ 非ネットワークもOK （IoT設置が条件です）

NIMS/DPFC

ユーザーの自作したAIモデルも実装できるよ♪

前処理 or データ解析

定型のデータ構造化（前処理）や自動解析のコード実装
Pythonのコードを実装し，転送データをすばやく前処理，もしくはデータ解析を実行

機器利用者向け

データ利用者向け
データ処理・解析速報

ダウンロードOK
知りたい結果を即時にお届け

データセット

データ構造化
データセット化し教師学習などのデータに！

11

データセットとは◼ 特定の目的やテーマに沿って収集されたデータ群．
１） 統計処理や機械学習等にも利用しやすいようにデータが構造化された状態となっている．
２） データの属性や意味がわかるデータカタログを備える．

（有名なデータセットの例）

NIMS (Research Data Express)

データセット単位

目的とするデータ群（データセット）がすぐに閲覧/ダウンロードが可能です12データ構造化の意味
１．統計学的・データ科学的な見地✓

説明変数と目的変数を明示的に定めること✓

説明変数（探索空間）は実験のログ，グラフ，もしくはスペクトルから特徴量を数値化すること

２．データベース工学的な見地✓

数値データ部はソフトウェア互換的の高いcsv形式に変換をかけること（多次元の場合には，hdf5形式，Net-cdf形式などの可読性のあるバイナリー化にすること）✓

実験（プロセス・計測）パラメータをXMLスキーマを定め，DBへ登録できること✓データの意味が直感的にわかる参照図（サムネイル）を付すこと

これらをできるだけ人の手を介さずに自動的にデータセット化すること
13データセットの活用形態◼ データ構造化された「データセット」は，データ駆動型研究へもたされ，新たな解析手法の礎となる．
→ 開発された手法が現場の判断を高度にアシスト．省時間化で精度の高い結果をFB．

予測/回帰
プロセスデータ

定常的（自動的）

特性データ

特性データ

故障予測/不良予測

化合物探索/材料開発

信頼性試験（半導体）クリープ試験（金属）
機械の故障確率（工場・プラント）

創薬/製薬におけるケモインフォマティクス
材料開発におけるマテリアルインフォマティックス【類型】品質管理（QC）/IoT/ 標準化【類型】従来の多変量解析による判定など

条件最適化

画像解析（深層学習）

プロセス最適操作条件
素性最適測定条件
スペクトル解析（閾値、ピーク判定）

X線写真からの欠陥判定
結晶構造、組織の高速判定
金属組織からの機能判定【類型】オペレーションリサーチ（OR）
実験計画法（分散分析）
ベイズ最適化【類型】従来のマニュアル画像処理

プロセスデータ

非定常的（手動的）

計測データ

計測データ分類/判定
14

データ蓄積： 計測データの可読化と高付加価値化のフロー◼ 非構造化データから構造化データへ変換することで付加価値をつける

装置メーカーの協力

データ非構造化＝価値少

データ構造化＝付加価値

Valueの源泉
15

データ設計： インフォマティクスのためのデータ構造化
悩み： 本丸のデータ処理までの前処理/定形処理に膨大な作業工数がかかっている→ 一般に機械学習（AI）にかかる検討の８割は前処理に割かれている

前処理（クレンジング）・ データ変換 （バイナリー変換、次元変換）
・ データ成形 （並び替え、統合、抽出、分離）・ データ変形 （単位変換、規格化、標準化）
・ 欠損値・外れ値・重複データ処理

材料の機械可読化
・材料（組成）の機械可読化ex)有機材料ではSMILES化

最適化

分類判定・集計

・ Fitting・ 信号処理・ 画像処理・ 補間

Fittingパラメータの最適化
ピーク分離、ピーク位置、ピーク面積
二値化、粒界検出、物体検出
線形補間・ 欠陥判定、エラー判定
・ 類似度判定、パターン分類、クラスタリング
・ ラベル化 （正例化、負例化）・ 異物カウント、分級化集計

・組成からのFingerPrint化

データ収集サーバ（DCS）

16

４. 半導体薄膜評価でのデータ設計事例

17

IoTシステムによるラボ装置のデータ構造化

Sputter
薄膜製造装置

XRF:
元素組成

XRD:
結晶構造

表面抵抗:

XPS:
電子状態

データ構造化
2

データ収集サーバー

3

解析サーバー

1
前受サーバー（Data Lake）

最適化

他のDB

簡易解析

逆推定・データ同化

IoTセキュリティデバイスを装着することで，各種プロセスや計測機器のデータをセキュアに，そして効率的にデータセット化して蓄積することができます．
18

【事例１】 二次元XRDのシーケンスファイルの一次元自動積分
要 望： 二次元XRDデータから一次元積分を自動化したいが，メーカーのソフトでは対応できない．
適 用： pythonのスクリプト作成によりIoTで投入後に自動化完了．複数のシーケンスデータの連続処理も可能．
これまでメーカのソフトで処理．自動化処理に難複数処理にも対応が不可

適用後IoT投入後10秒程度で処理完了．
複数処理も対応可

rawデータの種類 （gfrmファイル）

Bruker固有のバイナリー形式
通常の解析ソフトでは扱えない
ファイル容量： 10MBと比較的に巨大・binary⇒ txt化
・一次元積分・シーケンスファイルの連続処理

二次元 ⇒ 一次元積分を自動化

機器利用者においては・定型的な作業について大幅な作業時間の低減が見込めます
・制御PCにバンドルされた解析ソフトによるオンサイトの作業から解放されます19

1次元積分のマッピング （ライン測定のヒートマップ）

Substrate

要 望： 傾斜勾配のあるスパッタ膜の位置依存性を可視化．基板の組織状態の情報すぐに確認したい．
適 用： バイナリーデータから一気通貫化し，ヒートマップとして可視化．これまで1日がかりの作業を1分で速報．

・1D積分値をマージ
・ヒートマップ化（補間図）

位置依存性の測定結果（10ファイルで1分程度）

10点の計測からヒートマップ化
IoTのデータ投入から1分程度で描画完了

繰り返して行うようなデータ処理は，自動化で大幅な業務効率（時間短縮）が図れます．
20

【事例２】 XRFの組成二次元マッピング （20mm角基板編）
要 望： 機器が古く（Win 7），メーカ固有のソフトは非ネットﾜｰｸ化の孤立PCの作業で自動化できない．
適 用： 瞬時に解析結果がフィードバックされ，試料の出来を確認できる．

これまでメーカの処理ソフトに依存自動化ができていなかった

適用後IoT投入後に10秒程度で処理完了

rawデータの種類 （xmlファイル）

測定条件つきのxml形式

・xmlからの必要数値部の抽出・ヒートマップ化（補間図）

Ga Kα

In Lα

20mm角の組成傾斜スパッタ膜の特性X線

古いOSでもバージョンを問わず，データを活用・再利用ができるようになります．
21

データセットの登録状態（Gallery形式）■ IoTで投入された単位ごとでファイル（データ）が構造化され，登録/表示される■ 同一のフォーマットで系統的に蓄積されるため，長期的な傾向把握も可能となる

自動的に構造化されてデータベースに蓄積されてゆきます22データセットの登録状態 （詳細画面）◼ メタデータ（メタ情報）の9割は計測ファイルから自動的に読み取り，取得される．
（読み取りのためのXMLスキーマは事前に準備し，そのスキーマに沿ってpythonで読み取る）

共通メタ（Basic Term）

主要メタ（Primary Term）
組成分率 強度

共通メタ： ファイル名や装置名，資料IDなど．運用側での管理情報も含む
主要メタ： 主には計測ファイルに含まれる計測パラメータとデータ送付状の固有情報
23

データセットのダウンロード （詳細画面での場合）◼ 入力データのほか，構造化された成形データや実験記録（メタデータ）をダウンロード可能◼ ダウンロードできる対象は指定したグループ内/組織内で選択が可能

Raw Dataボタン

・ IoTで投入されたrawデータ

OutPut Dataボタン

・ 座標×濃度分率のcsv
・ 座標×強度のcsv
・ 可視化画像（png ファイル）
MetaDataボタン

・ 共通メタ・主要メタのcsv・ （後述）データ送り状の記載項目付き

データ利用者には使いやすい形で構造化されたデータを提供することができます．
24

データカタログについて◼ 記述項目は『データセットの概要』， 『データセットの諸元』， 『計測メタデータリスト』からなる◼ どのような公開方式にしたいかなどのライセンスもここで決めておく．

公開方式

データ利用者には，どのような利用ができるかがすぐにわかります．
25

DX化のValueは何か？
◼ 機器利用者へ： データ変換・データ成形などの時間のかかる「前処理」から解放する◼ データ利用者へ： クリーニングでデータ構造化された「データセット」を提供する

現状

機器利用の現状可視化まで１日がかり
有償の科学解析ソフトで再解析

実験装置Ａ社

メーカーの解析ソフト（兼バイナリー変換）

DX 化

機器利用のValue⚫ 特定のメーカのデータしか扱えない⚫ バイナリデータの解析がメーカー提供のコンバーターや解析ソフトに制限される⚫ 複数の解析ソフトを使って再解析する必要がある⚫ 最新のインフォマティックスのツールが提供されない、提供できない、コードが組めない可視化まで１分以内
OSS： 例としてPythonのエコシステム

実験装置Ａ社

実験装置Ｚ社

データ利用者の現状

XMLJsoncsv
Matthew Rocklin (NVIDIA) “Dask: Scaling Python”
https://goo.gl/LXUESM

データ利用者のValue⚫
⚫
⚫
⚫

データセットで一括したデータ集が得られる
複数のメーカのデータが統合できる
解析はOSSのエコスステムが利用できる
最新のインフォマティックスのツールで手軽に実行できる例）
機械学習： scikit-learn
画像解析： Keras, TensorFlow

26

ご清聴ありがとうございました。

より詳しいことは
IoTデータ収集システムのデータアーキテクチャ
松波成行，松田朝彦，知京豊裕，原田善之，吉川英樹
情報処理学会トランザクションデジタルプラクティス Vol.2 No.2
https://www.ipsj.or.jp/dp/contents/publication/46/TR0202-08.html

27