NII RDCのデータガバナンス機能について
2022年12⽉7⽇
国⽴情報学研究所
オープンサイエンス基盤研究センター
横⼭重俊© 2022 National Institute of Informatics

11. データガバナンス機能とは2

データガバナンス機能の位置付け (1/2)
研究データ管理品質を向上させるためにワークフロー、モニタリング、研究記録機能を提供

データガバナンス機能

3

データガバナンス機能の位置付け (1/2)

DMP: Data Management Plan

4

データガバナンス機能の位置付け (2/2)
2022年度 NII オープンフォーラムにおける九州⼤学 附属図書館副館⻑・理系図書館⻑, データ駆動イノベーション推進本部 研究データ管理⽀援部⾨⻑,⼤学院システム情報科学研究院 冨浦 洋⼀教授
ご講演資料「九州⼤学における研究データガバナンス構築に向けて―九⼤のRDMとNIIデータガバナンス機能への期待」より
https://www.nii.ac.jp/openforum/upload/f2c67eb99b1013be0fc9a007440442edcd5bf06c.pdf (p.5)

チェックデータガバナンス機能

チェック
機械的に⽀援5

研究データ
研究データの例

研究データの構成
datasetReadme etc.
datasetdatasetcode
metadata
data・・・

code
metadata

data

6

研究データ管理
研究
計画

研究
公開
研究データ
取得

実験

研究データ
加⼯

研究データ
分析

研究データ
保存
Destination_dataset(tmp1)

研究記録

験

実の次

Destination_dataset(tmp2)

Source_dataset

Destination_dataset(tmp3)

保存7

研究データ管理 と データガバナンスの関係
データガバナンス

︓ 研究データ管理品質を守る規律に従う⾏為
研究データ
管理品質

研究データ管理︓

研究データの取得・加⼯・分析・保存・公開などの⾏為

仮説︓研究者や研究グループ⾃⾝が，データガバナンスを，⽇頃から⾏うことが，研究データ管理品質の向上に⼤きく寄与する．
（ガバナンスは監視ではない）

8

研究データ管理品質のばらつき
⾼いProject研究データ管理品質
Project
Project
Project低い
9

研究データ管理の品質が悪いと• そもそも必要な時に，どこにあるのか分からない．
• 本当にあるのかすら，分からない．
• ある場所が分かっても ， 実際には⼿に⼊らない．
• ⼿に⼊っても，それをどうやって扱うのか分からない．
• データの由来が不明なので信⽤できない．
• 保護しなければならないデータを ，漏洩させてしまう ．
• 整理が悪くて，とても公開までに⼿間がかかる．

10

施策の展開による研究データ管理品質向上
データガバナンス施策
研究データ管理ポリシー制定

⾼い研究データ管理プラン（DMP）提出の義務化 など

PULL

Project

研究データ管理品質
Project
Project
Project

低い

11

データマネジメントプラン (DMP)
データマネージメントプラン(DMP)は，研究のために収集・作成する研究データの取扱いや整備・保存・公開についての計画を定めた⽂書である．
DMPの記述内容は提出先の助成機関によって異なるけれど，データ管理者，データの説明，データの種類，データ量，公開レベルなどが記述される．
研究データガバナンス

︓

研究データ管理品質を守る規律に従う⾏為

研究データ管理ポリシーなどを考慮して，各研究プロジェクト毎に作成

DMP
研究プロジェクトの研究データ管理で順守

研究データ管理 ︓（必要に応じて改版）

研究データの取得・加⼯・分析・保存・公開などの⾏為
12データガバナンス機能の役割
研究データガバナンス施策
研究データ管理ポリシー制定

⾼い研究データ管理プラン（DMP）提出の義務化 など

Project

データガバナンス機能

Project

データガバナンス機能

nudge

nudge

データガバナンス機能

研究データ管理品質

データガバナンス機能

PULL

Project

nudge

nudge

Project低い

13

「データガバナンスする。」とはステート（＝メタデータ・データセット）の変化を検証し、検証プロセスを保存し、提供する、こと
機械的に
⽀援

datasetReadme etc.

datasetdatasetContact
Contributer
Project
Security
Privacy
Resource
Cost…

metadata

code
metadata

検証・・・

DMP

出⼒

code

検証

data

研究記録出⼒

検証

data

検証

検証

検証検証

検証

公開

⾮公開
Planning

Experiment

Collaboration

検証

Analysis

データ管理基盤

Writing

Curation

Publication

Preservation

データ公開基盤
14

ポリ
シ!
→
プ
ラン

DMPとデータガバナンス機能の関係
研究者

DMP

DMPで管理側とコミュニケーション（ データガバナンス機能を使ってDMPに沿ったデータ管理を実施）

FA

DMPで研究者とコミュニケーション（研究データ管理の実態との整合性はデータガバナンス機能が保証していると期待）→

データガバナンス機能
⽣成
プランの実⾏に必要な制約

デ!
タ

検証

管理

メタデータのコレクション(状態)

実施

研究管理者

研究者

共通スキーマで表現システムからメタデータを収集
datasets
Readme etc.
dataset-a

data

code
metadata data

dataset-b
code
metadata

15

データガバナンス機能の利⽤例
実際のDMPの例

DMP

プランの実⾏に必要な制約

定義ファイル

制約・条件化

検証

メタデータのコレクション(状態)

個別データセットの状態を集約・管理

dataset-b:
repeat: yesreplicate: yesreproduce: noreuse: nosensitive: nodataset-bについて- プロビナンス情報が存在- input_dataが存在- output_dataが存在- codeが存在- プロビナンス情報と実態が整合
検証

dataset-b (状態)

datasets
Readme etc.
dataset-b
code
code metadata
metadatadata
data

dataset-a

dataset-b

データセット内容
metadata

code

data

DMPに基づく確実なデータ管理の実⾏
プロビナンス機能からも情報を取得してメタデータの⼀つとして保持

16

2. データガバナンス機能
プロトタイプシステム

17

プロトタイプシステムのアーキテクチャ (1/2)
ステート（＝メタデータ・データセット）の保存をgit, git-annexを使ったgin/dataladというオープンソースプロダクトで実装、検証プロセスをJupyter Notebookで実現
datasetReadme etc.

datasetdatasetdataladContact
Contributer
Project
Security
Privacy
Resource
Cost…

metadata

code
metadata

検証

・・・

出⼒

code

git-annex

dataDMP

検証

研究記録出⼒検証

data検証

検証

検証

検証

検検証
Jupyter
証 Notebook

公開

⾮公開
Planning

Experiment

Collaboration

Analysis

データ管理基盤

Writing

Curation

Publication

Preservation

データ公開基盤18

プロトタイプシステムのアーキテクチャ (2/2)
maDMPは「研究プロセスの設計書」
実⾏スクリプトと⼿順と説明⽂が⼊ったNotebook

breakdown
研究実施⼿順、研究実施状況確認⼿順、研究保存⼿順

breakdown （workflow, monitoring,研究記録）
実験群実施⼿順

UI generator

実⾏

datasetDistributed Storage

Readme etc.

datasetdataset実⾏結果が反映されるDataset

metadata

code
metadata

code
datadata19

プロトタイプシステムの機能
データガバナンスを実施する実⾏可能な⼿順書(Notebook)をDMPから⽣成
DMP

実⾏スクリプトと⼿順と説明⽂が⼊ったNotebook

Workflow(Phase)

ResearchPlanning

Initialize
Start
Research Env. Research

1st Stage 2nd Stage finalize

write
paper

publishcuration

*

⼿順の整備
で品質向上
Workflow(Section)

Workflow(実験 level)
実⾏

実⾏

実⾏

実⾏

・・・
実⾏結果が反映される
Datasetdatasetdatasetdataset

継続監視で品質向上

dmp.json etc.

dataset
・・・

定期実⾏
監視⽤
Notebook

・・・

・・・

datasetdataset・・・

code
metadata
code
metadata
data

Monitoring

data

公開

⾮公開
Planning

Experiment

Collaboration

Analysis

データ管理基盤

Writing

Curation

Publication

Preservation

データ公開基盤

20

研究活動⽀援範囲
研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

実験環境準備

実験実施

実験記録の保存

実験のパッケージング

ワークフローのセルを順に実⾏
・実験環境の情報⼊⼒
・実験環境接続・実験環境の⽣成

ワークフローのセルを順に実⾏
・実験リポジトリーを作成
・実験記録管理の準備

ワークフローのセルを順に実⾏
・実験記録の保存

ワークフローのセルを順に実⾏・論⽂等研究⽂書を保存

ワークフロー機能の実⾏準備
初期セットアップ

!
"
#$%
&'(機能

データガバナンスログイン
・研究リポジトリー作成
・DMP作成⽇付/タイトル/研究情報
データサイズ/構造
スキーマ 等
・ワークフロー⽣成（maDMP⽣成）

ワークフロー⽣成時に最適化に必要な情報が埋め込まれています
順番に実⾏することで、システムがDMP情報を活⽤した最適化処理を⾏います

実験環境
最適化情報
テンプレート

ワークフローのセルを順に実⾏
・実験実施

ワークフローのセルを順に実⾏
・研究データ容量モニタリング
ワークフローのセルを順に実⾏
・データセット構成モニタリング
ワークフローのセルを順に実⾏・再現性モニタリング

21実験適⽤例
底⽣⽣物の検知／追跡

データ提供：海洋研究開発機構(JAMSTEC)

22

実験適⽤例の概要
海中を映した動画中に含まれる、底⽣⽣物を検知／追跡する。
・実験1 物体検出
動画の各フレームで⽣物を検知する検知器を作成・評価する。
・実験2 物体検出＋追跡動画のあるフレームで検出した⽣物が、次フレームでどこに移動したかを追跡するAIを作成し、追跡性能を評価する。
FC

GB
実
験
１

A

D
A

E

B

実
験
２
データ提供︓海洋研究開発機構(JAMSTEC)

23

実験１「detr(物体検出の学習と評価)」の説明
実験概要、⽬的

概要︓機械学習による物体検出の学習とその評価の出⼒。
⽬的︓良い物体検出モデルを作成する。

実験構成

以下を構築

input_data
configs 設定ファイル（実験のパラメータ）
data
機械学習の教師データと評価⽤データ（実験の⼊⼒データ）
weight 機械学習の初期重み（実験の⼊⼒データ）
sourcetrain.py 学習⽤プログラム
eval.py 評価⽤プログラム

実験の実⾏
main.ipynbを実⾏（環境構築、学習⽤プログラム実⾏）
約10分後、以下のフォルダに結果が格納される。
output_data
hogehoge_20220309183628 モデルと学習曲線

評価値を取得して、以下を確認する・モデルと学習曲線（モデルの性能が良くなってるか（数値））

モデルと学習曲線のフォルダパスをconfigに適⽤して、eval.pyを実⾏し、推論結果の評価値と推論動画を得る。
そして、モデルの性能が良くなっているかを⽬視確認する。

実験リポジトリ│├─input_data│ ├─configs│ │hogehoge.yaml│ ││ ├─data│ │└─11175505│ │├─annotations│ ││instances_train.json│ ││instances_val.json
│ │
│
│ │
├─images│ ││frame_000000.png│ ││frame_000010.png
│ │
│
・・・
│ │
│
frame_001440.png│ │││ │└─video_and_score_text│ ││ 11195506.mov│ │└─11195506│ │frame_000000.txt│ │frame_000001.txt│ │・・・│ │frame_001754.txt│ ││ └─weight│detr-r50-e632da11.pth│├─output_data│ ││ ├─hogehoge_20220309183628│ ││ hogehoge_valloss_min.pth
│ │
│
│ │
└─2022_0309_1836│ │[train.pyによる評価データ（学習曲線）]│ ││ └─inference│└─hogehoge_20220309183628│[eval.pyによる評価データ（推論の評価値と推論動画）]│└─source│ eval.py│ train.py│ main.ipynb├─detr└─Object-Detection-Metrics

実験２「DeepSORT」＋「ByteTrack」の説明
実験概要、⽬的

概要︓物体の検出＋追跡と、その評価の出⼒。
実験１の出⼒（検出量の重み）を使って⾏う。
⽬的︓良い追跡パラメータを⾒つけ、追跡する。

実験構成

以下を構築

input_data
config
設定ファイル（実験のパラメータ）
video
処理対象の動画と評価データ（実験の⼊⼒データ）
weight 検出⽤の重み（実験の⼊⼒データ）
sourceinference_detr+tracker.py 追跡⽤プログラム
main.ipynb
実⾏⽤プログラム実験の実⾏
main.ipynbを実⾏（環境構築、検出＋追跡⽤プログラム実⾏）
約１時間後、以下のフォルダに結果が格納される。
output_data
result.txt
計算ログ
result_metric.txt 評価値
video.mp4
検出枠＋追跡枠を動画に書き込んだもの

評価値を取得して、以下を確認する
・推論結果の評価値と推論動画（追跡の性能がよくなってるか）

実験リポジトリ│├─input_data│ ├─config│ │colors.txt│ │hogehoge.yaml│ │labels.txt│ ││ ├─video│ │ │ 11195506.mov│ │ └─11195506│ │frame_000000.txt│ │・・・│ ││ └─weight│ckpt.t7│hogehoge_valloss_min.pth（実験1の出⼒）│├─output_data│││

result.txt
result_metric.txt
video.mp4│└─source│ inference_detr+tracker.py│ main.ipynb├─detection└─tracking

①DMPの作成および、maDMPの⽣成

ワークフロー機能の実⾏準備

研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

初期セットアップ
データガバナンスログイン
・研究リポジトリー作成
・DMP作成⽇付/タイトル/研究情報
データサイズ/構造
スキーマ 等
・ワークフロー⽣成（maDMP⽣成）

DMP⼊⼒画⾯

・各FA(AMED,JST,METI・・・)に対応したDMPの作成を、Jsonエディタにて作成可能
・各項⽬ごとに、 Jsonエディタから⼊⼒する

maDMP(Notebook 形式)

maDMP⽣成・研究者によって作成されたDMPの内容をもとに、ワークフローの最適化を⾏う
maDMPに変換

26

②⾼性能実験環境準備⽤のワークフロー

ワークフロー機能の実⾏準備

研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

実験環境準備

ワークフローのセルを順に
実⾏・実験環境の情報⼊⼒
・実験環境接続・実験環境の⽣成

・maDMPに記載された内容をもとに、⾼性能実験環境を準備する⽤のワークフロー（⼿順書）を提供。

・研究者は、NoteBookのセルを実⾏するのみで、⾼性能実験環境を準備できる。

27

③実験の実施 研究サンプル(底⽣⽣物の検知／追跡)

ワークフロー機能の実⾏準備

研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

実験実施
ワークフローのセルを順に実⾏
・実験実施

・実験の開始⽅法について、⾃由な実⾏をサポート（再現性担保のため、⼀部制限あり）

28

③実験の実施 研究サンプル(底⽣⽣物の検知／追跡)

ワークフロー機能の実⾏準備

研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

実験実施
ワークフローのセルを順に実⾏・実験実施

イカ

アナゴ

※動画は開発中のものです

データ提供：海洋研究開発機構(JAMSTEC)
29

④実験の記録
ワークフロー機能の実⾏準備

研究準備フェーズ

実験フェーズ

実験終了フェーズ

研究終了後

実験記録の保存
ワークフローのセルを順に実⾏・実験記録の保存

・実験の記録について、NoteBookのセルによる⼿順書を提供
セルの実⾏のみで、実験の記録をGitによるバージョン管理で⾏うことができるようにする

30

3. 今後の進め方

31検証機能の拡充
DMP

実⾏スクリプトと⼿順と説明⽂が⼊ったNotebook

Workflow(Phase)

Research
Planning

Initialize
Start
Research Env. Research

1st Stage 2nd Stage finalize

write
paper

curationpublish

*

⼿順の整備
で品質向上
Workflow(Section)

Workflow(実験 level)
実⾏

実⾏

実⾏

実⾏・・・
実⾏結果が反映される
Datasetdatasetdatasetdatasetdmp.json etc.

dataset・・・・・・

dataset検証機能
常時検証するDG-Core

継続監視
で品質向上

・・・

Validation
rule set

Metadata
Collection

dataset・・・

code
metadata
code
metadata
datadata

公開

⾮公開
Planning

Experiment

CollaborationAnalysis

データ管理基盤

Writing

Curation

Publication

Preservation

データ公開基盤今後の進め⽅
1. 検証機能の拡充• 共通スキーマ策定• DMPと共通スキーマの関係定義• 共通スキーマに基づく研究データ管理・検証機能実現⽅式決定• 検証機能の実装

2. ⼿順書のブラッシュアップ• プロトタイプ利⽤ユーザからのフィードバックへの対応など

3. データガバナンス機能 次期プロトタイプ の実現• 検証機能拡充及び⼿順書のブラッシュアップを統合

4. 他基盤との連携実施

33

4. まとめ34

データガバナンス機能の⽬的「研究プロジェクトのデータ管理を機械的に⽀援すること」
具体的には以下を実施• 研究データ管理のための共通スキーマの策定• 共通スキーマに基づく研究データ管理・検証機能の提供• 共通スキーマに基づくインタフェースの提供• 研究者にとって管理しやすいインタフェース• 他基盤との相互運⽤のためのインタフェース

35

データガバナンス機能導⼊による効果• 機械的に検証されたデータ管理状態が保証される→ 研究効率・品質が向上→ 研究管理部⾨とのコミュニケーション品質向上• 研究データ管理の他基盤との連携が促進される→ オープンサイエンス推進36

37