D1-1

⹛涸ٌ٦‫ⴓس‬鍑‫ך׭׋ך‬,PPQNBO♶㢌瑞꟦㷕统婣焪 潲□匯㝕岉⸮ ⻊⛞ꮄ㝕槏煝焌⪜ ⣌╽匯㝕

Koopman✑氠筶‫׾׻מ‬㴻聋

긊納䓺ⲇ㳔笠摾ꮹ姌⩧納䓺ⲇ㳔笠‫عؠًتס‬ٜ‫ⲇ׾׻מ‬㳔笠‫⮔ס‬闋  ⳛ溷ٓ‫⮔غ٭‬闋Æ ⸂㷕禸鍑匿٥ⵖ䖴儗禸⴨‫ر‬٦‫ⴓة‬匿‫⯈מלם‬氠‫׊דג‬긊納䓺ⲇ㳔笠‫סذ٭ظעך‬긊納䓺㜟䳕ֿ䖩锡Æ 勓煝疴‫עך‬䗳銲‫ז‬ꬊ简䕎㢌䳔‫ر׾‬٦‫׵ַة‬㷕统‫׷ׅ‬

D1-1⹛涸ٌ٦‫ⴓس‬鍑‫ך׭׋ך‬,PPQNBO♶㢌瑞꟦㷕统婣焪 潲□匯㝕岉⸮ ⻊⛞ꮄ㝕槏煝焌⪜ ⣌╽匯㝕

Koopman✑氠筶‫׾׻מ‬㴻聋

긊納䓺ⲇ㳔笠摾ꮹ姌⩧納䓺ⲇ㳔笠‫عؠًتס‬ٜ‫ⲇ׾׻מ‬㳔笠‫⮔ס‬闋  ⳛ溷ٓ‫⮔غ٭‬闋Æ ⸂㷕禸鍑匿٥ⵖ䖴儗禸⴨‫ر‬٦‫ⴓة‬匿‫⯈מלם‬氠‫׊דג‬긊納䓺ⲇ㳔笠‫סذ٭ظעך‬긊納䓺㜟䳕ֿ䖩锡Æ 勓煝疴‫עך‬䗳銲‫ז‬ꬊ简䕎㢌䳔‫ر׾‬٦‫׵ַة‬㷕统‫׷ׅ‬

D1-2: 分布に対する位相的データ解析
草野元紀(東北大・理)【学生優秀プレゼンテーション賞対象】

位相的データ解析：データの“形”をパーシステントホモロジーという特徴量に変換する。
Q. 液体の原子配置とガラスの原子配置を区別できる？(ランダムに見える点群データの分類)
A. パーシステントホモロジーのカーネル法により区別した。 [IBIS2016]

Q. 原子配置は同じなんだけど、異なる分布で揺れている。(熱揺らぎを想定している)
原子配置の形の情報は保持しつつ、分布の違いを評価できる？
A. 分布に対するパーシステントホモロジーを計算することで、違いを評価できる[IBIS2017]

正方格子を中心とした一様分布

分布に対するパーシステントホモロジー

正方格子を中心とした
正規分布

D1-2: 分布に対する位相的データ解析
草野元紀(東北大・理)【学生優秀プレゼンテーション賞対象】

位相的データ解析：データの“形”をパーシステントホモロジーという特徴量に変換する。
Q. 液体の原子配置とガラスの原子配置を区別できる？(ランダムに見える点群データの分類)
A. パーシステントホモロジーのカーネル法により区別した。 [IBIS2016]

Q. 原子配置は同じなんだけど、異なる分布で揺れている。(熱揺らぎを想定している)
原子配置の形の情報は保持しつつ、分布の違いを評価できる？
A. 分布に対するパーシステントホモロジーを計算することで、違いを評価できる[IBIS2017]

正方格子を中心とした一様分布

分布に対するパーシステントホモロジー

正方格子を中心とした
正規分布

D1-4 Gamma Process Edge Partition Model To appear in
NIPS2017のモデル縮退効果の改良

大濵 郁 (パナソニック/北大), 佐藤 一誠 (東大/理研), 喜田 拓也 (北大), 有村 博紀 (北大)

背景: 二値行列の重複構造分析

主結果: モデル縮退効果の解析と改良• 𝚪P Edge Partition Model (EPM) [Zhou, 15]• EPMのIntensity Function (IF)の解析– 二値行列に潜在する重複構造を抽出– 有効な基底数を自動的に推定することが可能
𝐽

EPMの生成モデル(二値化)(𝑇-Truncated ΓP)(gamma prior)(gamma prior)

3つの非負
値項の積

Intensity Function (IF)𝐼

𝐼 × 𝐽 Relational Data 𝒙

Overlapping Structure• EPMの問題点– モデル縮退が働かず有効基底数を過大評価– 結果として過学習を起こしやすい
98個もの
基底が有
効と判断

Synthetic Data

EPM Solution

超パラメタの選択次第で縮退が妨害されることが判明• 効果的にモデル縮退が働くEPMの構成を複数提案– CEPM: ガンマ事前分布に制約を与えるモデル (Gibbs)– DEPM: 解が一意に決まるように問題を変換したモデル (Gibbs)– IDEPM: DEPMの無限極限を取った
モデル (Collapsed Gibbs)

IDEPM Solution

IDEPMが汎化性能，リンク予測性能，計算速度の全てにおいて最高性能を示すことを確認 ArXiv Paper: https://arxiv.org/abs/1709.08770

p. 1/2

D1-4 Gamma Process Edge Partition Model To appear in
NIPS2017のモデル縮退効果の改良

大濵 郁 (パナソニック/北大), 佐藤 一誠 (東大/理研), 喜田 拓也 (北大), 有村 博紀 (北大)

実験結果 (Enronデータの結果のみ抜粋)■テスト尤度 vs # of Epoch -0.055 0
IDEPMはDEPMよりも効率的 -0.060に収束することを確認-0.065

IDEPM
DEPM-T
CEPM-T
EPM-T

64
32

100

200

300

400

16
8

IDEPM

-0.075

DEPM-128
2

4

8

16

32

64

Gibbs sampling iteration■テスト尤度 vs 経過時間
0-0.055IDEPMはDEPMよりも高速に計-0.060算できることを確認-0.050-0.040-0.050 2

4

8

16

32

64

128

-0.060TDLL-0.070TDLL-0.080128

Truncation level T-0.080-0.090-0.070-0.075-0.110-0.080
Truncation level T

0.350
0.300
TDAUC-PR

0.250
0.200
0.150
0.100
0.050
0.000
2

4

8
16
32
Truncation level T

64

128

10

20

30

40

50

-0.065-0.100-0.120■リンク予測性能
提案モデルはリンク予測
性能が改善．特にIDEPMは最も高いリンク
予測能力を示すことを確認-

600-0.07042■汎化性能
提案モデルは汎化性能が改善．特にIDEPMは最も高い汎化能力を示すことを確認-500

TDLL

Estimated # of K

■モデル縮退効果
提案モデルであるCEPM,
DEPM, IDEPMは正しく
モデル縮退効果が働くことを確認--0.050128

IDEPM
DEPM-64
DEPM-16
DEPM-4
Elapsed time (sec)

DEPM-128
DEPM-32
DEPM-8
DEPM-2

結論:
・EPMのモデル縮退が働かない理由を解析・解析で得た知見に基づきCEPM, DEPMを提案
・近似無しの無限モデルであるIDEPMを提案
・IDEPMが汎化性能，リンク予測性能，計算速度の全てにおいて最高性能を示すことを確認
ArXiv Paper: https://arxiv.org/abs/1709.08770

p. 2/2

産業技術総合研究所 人工知能研究センター 機械学習チーム

D1-5

機械学習を用いた量子化学計算の高速かつ高精度な近似法

OH
NH2

グラフニューラルネット

HO

予測

化合物のベクトル表現

OH

密度汎関数理論に基づく電子物性値●化合物の何らかの性質を反映する低次元かつ連続値のベクトル表現を獲得●化学・物理学に関する知識・特徴量を一切用いない
データ駆動型グラフニューラルネットワークの一貫学習を提案●密度汎関数理論に基づく電子物性値を、高速かつ高精度に予測可能
椿 真史

第20回情報論的学習理論ワークショップ

産業技術総合研究所 人工知能研究センター 機械学習チーム

D1-5

機械学習を用いた量子化学計算の高速かつ高精度な近似法

OH
NH2

グラフニューラルネット

HO

予測

化合物のベクトル表現

OH

密度汎関数理論に基づく電子物性値●化合物の何らかの性質を反映する低次元かつ連続値のベクトル表現を獲得●化学・物理学に関する知識・特徴量を一切用いない
データ駆動型グラフニューラルネットワークの一貫学習を提案●密度汎関数理論に基づく電子物性値を、高速かつ高精度に予測可能
椿 真史

第20回情報論的学習理論ワークショップ

D1-6: Bayesian Lasso のための実験計画に関する一考察
堀井 俊佑（早大）※ 発表申込後、やろうと思っていたことと、ほぼ同内容の論文を見つけたので、内容がタイトルと一部合っていません

l スパース線形回帰に対するベイズ的アプローチの分類

1. 経験ベイズ（Relevance Vector Machine）
2. スパース性を誘導する事前分布（ラプラス分布など）+ 局所変分近似
3. 事前分布に階層的な分布を仮定
5.
p( j |⌧j ) = N ( j |0, ⌧j 1 )p(⌧j |aj ) = Exp(⌧j |aj )周辺分布 %('" ) がラプラス分布• !" に事前分布を仮定できる• 事前知識が無ければ無情報に近い
事前分布を

l 逐次実験計画（能動学習）• ラベルなしデータが沢山ある状況で、どのデータからラベルを付与するか？
• ベイズ的アプローチの利点：情報利得が最大になるようなデータを選択（ベイズ的逐次実験計画 or ベイズ的能動学習）#∗ の情報利得：

H(p( |X, y))

得られているデータの元での事後分布のエントロピー

4-Ep(y⇤ |X,y,x⇤ ) [H(p( |X, y, x⇤ , y⇤ )]「#∗ に対するラベルを得たもとでの事後分布のエントロピー」の予測分布による期待値

どうやって計算する？

D1-6: Bayesian Lasso のための実験計画に関する一考察
l ベイズ的スパース線形回帰・分類に関する研究
モデル

手法

回帰

分類

  
(*10

%'
 

Tipping,
2001

Tipping,
2001


10

21
 

Seeger,2011

Serra,
2016

EM
"+

平均場近似+局所変分近似によるアルゴリズム

Figueiredo, Figueiredo,
2003
2003

MCMC

Park, 2008



21
 

Babacan,
2014

3&$L1),!#

/

l ベイズ的スパース線形回帰・分類と実験計画に関する研究
モデル

回帰

分類

  
(*10

Ji, 2008

Silva, 2007*1

1
0

Seeger, 2011



"+

*2

3&$

*1: 情報利得は使っていない*2: 申込み前にやろうと思っていたこと（[Ji, 2008][Seeger, 2011]とほぼ同じ）

情報利得の近似計算アルゴリズム

従来手法より良い実験計画が得られそう（ただし計算量：大）※ 学生プレゼンテーション賞対象

D1-7

高次元特徴量に対するスケーリング法と教師付きスペクトラルクラスタリング

松田 萌望（筑波大学），保國 惠一（筑波大学），櫻井 鉄也（筑波大学，JST/CREST）

提案手法
一部のラベル情報を活用し，矩形固有値問題を定式化"+∑(%&' )% *%#,∑(%&' )%

2
!
= 1 
−1
4

例：遺伝子発現データ

4th eigenvector

高次元データに対するスペクトラルクラスタリングの適用
所望のクラスタが必ずしも得られるとは限らない
原因１：特徴量のスケールが不揃い
原因２：冗長な特徴量が存在

3

!
0 −1

3rd eigenvector

2nd eigenvector

固有ベクトル !：スケールを調整するための因子

6 7 8 = 9 7 : 7 88 ∈ ℝ( ∖ 4 
7 = diag ! 8 : 7 B = 09 7 ∈ ℝ
データ全体の特徴量のスケールを整える
精度の良い分類が可能に

4th eigenvector

背景

3rd eigenvector
2nd eigenvector

※ 学生プレゼンテーション賞対象

D1-7

高次元特徴量に対するスケーリング法と教師付きスペクトラルクラスタリング

松田 萌望（筑波大学），保國 惠一（筑波大学），櫻井 鉄也（筑波大学，JST/CREST）

提案手法
一部のラベル情報を活用し，矩形固有値問題を定式化"+∑(%&' )% *%#,∑(%&' )%

2
!
= 1 
−1
4

例：遺伝子発現データ

4th eigenvector

高次元データに対するスペクトラルクラスタリングの適用
所望のクラスタが必ずしも得られるとは限らない
原因１：特徴量のスケールが不揃い
原因２：冗長な特徴量が存在

3

!
0 −1

3rd eigenvector

2nd eigenvector

固有ベクトル !：スケールを調整するための因子

6 7 8 = 9 7 : 7 88 ∈ ℝ( ∖ 4 
7 = diag ! 8 : 7 B = 09 7 ∈ ℝ
データ全体の特徴量のスケールを整える
精度の良い分類が可能に

4th eigenvector

背景

3rd eigenvector
2nd eigenvector

D1-8: ^7;IBXEP<LDA)!-:c

QNYVTb20=S2CaTb20=>DWCBBD-OILMotivation
LDA"$@:c5Z1
Previous Research
R3&8=`[1]

/-3H[2]etc...

Method\[;6@e9,%,Jd
G^7;IBXEPFIC[3]Shrinkage MechanismA<[1] : Corduneanu, et al. Variational Bayesian Bayesian Model Selection for Mixture Distributions (2001)[2] : Dehua Cheng, et al. Model Selection for Topic Models via Spectral Decomposition (2015)[3] : Fujimaki Ryohei, et al. Factorized Asymptotic Bayesian Inference for Mixture Modeling (2012)

1/2

D1-8: ^7;IBXEP<LDA)!-:c

QNYVTb20=S2CaTb20=>DWCBBD-OIL

'*.+/

#(R_!M<FICOL@ : 500
1OL]U@ : 1000
Uf@ : 96
?H"$@ : 10





KF48

7228[s]

VB-LDA

198062[s]
2/2

動的行列式点過程

D1-9

恐神貴行・ルディーレイモンド (IBM東京基礎研究所)，Akshay Goel (Graduate School ofMathematics, Kyushu University)，白井朋之 (九州大学IMI)，前原貴憲 (理研AIP)

Determinantal point process (DPP)

We propose Dynamic DPPℙ 𝑋 ∼ det(𝐋𝑋 )ℙ 𝑋 ∼ det 𝐋 𝑡 𝑋

Assign high probability to subsets
of relevant and diverse items

where kernel changes over time𝐋 𝑡 =𝐕 𝑡 𝐕 𝑡 ⊤𝐱 𝑡−𝑑 𝐰 𝑑 ⊤𝐕 𝑡 =𝐁+𝐋

𝐋X
det 𝐋𝑋𝑑

Potential applications:
Sequential recommendation where
relevant and diverse items changeThis work was supported by JST CREST
Grant Number JPMJCR1304, Japan.

動的行列式点過程

D1-9

恐神貴行・ルディーレイモンド (IBM東京基礎研究所)，Akshay Goel (Graduate School ofMathematics, Kyushu University)，白井朋之 (九州大学IMI)，前原貴憲 (理研AIP)

Determinantal point process (DPP)

We propose Dynamic DPPℙ 𝑋 ∼ det(𝐋𝑋 )ℙ 𝑋 ∼ det 𝐋 𝑡 𝑋

Assign high probability to subsets
of relevant and diverse items

where kernel changes over time𝐋 𝑡 =𝐕 𝑡 𝐕 𝑡 ⊤𝐱 𝑡−𝑑 𝐰 𝑑 ⊤𝐕 𝑡 =𝐁+𝐋

𝐋X
det 𝐋𝑋𝑑

Potential applications:
Sequential recommendation where
relevant and diverse items changeThis work was supported by JST CREST
Grant Number JPMJCR1304, Japan.

(𝑠, 𝑥, 𝑦) 𝑥

𝑦

𝑠

𝑦ො
𝑥

𝑦

Pr 𝑦ො 𝑠 = Pr 𝑦ො
➢
➢ 𝑥

𝑦

𝑥

𝑥
𝑥ො

➢

𝑠

𝑠
𝑥ො

𝑦

(𝑠, 𝑥, 𝑦) 𝑥

𝑦

𝑠

𝑦ො
𝑥

𝑦

Pr 𝑦ො 𝑠 = Pr 𝑦ො
➢
➢ 𝑥

𝑦

𝑥

𝑥
𝑥ො

➢

𝑠

𝑠
𝑥ො

𝑦

D1-11母固有値の推定を必要としない
標本マハラノビス距離補正法の改良
小林 靖之（帝京大学 理工学部）• 標本マハラノビス距離 𝑇𝑇 2 = 𝑦𝑦 − 𝑥𝑥̅ ′ S −1 𝑦𝑦 − 𝑥𝑥̅ は学習サンプル数𝑛𝑛の不足により識別性能が劣化するため、有限𝑛𝑛の𝑇𝑇 2 から𝑛𝑛 → ∞に当たる母マハラノビス距離 𝐷𝐷 2の推定が望ましい。
• そこで、真の共分散行列 Σ の固有値（母固有値 𝜆𝜆）の正確な推定を前提として、𝑇𝑇 2 を𝐷𝐷 2へ補正する
方法（図の𝐶𝐶𝑇𝑇 2）を考案し、良好な結果を得た。
• しかし、𝐶𝐶𝑇𝑇 2に必要な母固有値𝜆𝜆の正確な推定は実用上難しい。そこで、 母固有値𝜆𝜆の推定なしで𝑇𝑇 2
を𝐷𝐷 2へ補正する方法（図の𝑆𝑆𝑇𝑇 2 ）を考案したが、𝐶𝐶𝑇𝑇 2よりも𝑆𝑆𝑇𝑇 2 は劣っていた。
• 今回、ほぼ同様な補正式でありながら、母固有値𝜆𝜆の推定なしで𝑆𝑆𝑇𝑇 2 よりも𝐷𝐷 2への補正性能が優れる
改良方法（図の𝐿𝐿𝑇𝑇 2 ）を考案した。その概要と検討経過を報告するので、議論したい。
1.5

正常群

→
→

確率密度

1.2
0.9

↓

→

0.6

↓

非心度

の異常群

→

0.3

↓

→

↓

↓

0.0
0

1

2

3

4

次元数（p=20）で規格化した標本マハラノビス距離5

謝辞：
この研究の一部はJSPS科研費15H02798の助成を受けた。

D1-11母固有値の推定を必要としない
標本マハラノビス距離補正法の改良
小林 靖之（帝京大学 理工学部）• 標本マハラノビス距離 𝑇𝑇 2 = 𝑦𝑦 − 𝑥𝑥̅ ′ S −1 𝑦𝑦 − 𝑥𝑥̅ は学習サンプル数𝑛𝑛の不足により識別性能が劣化するため、有限𝑛𝑛の𝑇𝑇 2 から𝑛𝑛 → ∞に当たる母マハラノビス距離 𝐷𝐷 2の推定が望ましい。
• そこで、真の共分散行列 Σ の固有値（母固有値 𝜆𝜆）の正確な推定を前提として、𝑇𝑇 2 を𝐷𝐷 2へ補正する
方法（図の𝐶𝐶𝑇𝑇 2）を考案し、良好な結果を得た。
• しかし、𝐶𝐶𝑇𝑇 2に必要な母固有値𝜆𝜆の正確な推定は実用上難しい。そこで、 母固有値𝜆𝜆の推定なしで𝑇𝑇 2
を𝐷𝐷 2へ補正する方法（図の𝑆𝑆𝑇𝑇 2 ）を考案したが、𝐶𝐶𝑇𝑇 2よりも𝑆𝑆𝑇𝑇 2 は劣っていた。
• 今回、ほぼ同様な補正式でありながら、母固有値𝜆𝜆の推定なしで𝑆𝑆𝑇𝑇 2 よりも𝐷𝐷 2への補正性能が優れる
改良方法（図の𝐿𝐿𝑇𝑇 2 ）を考案した。その概要と検討経過を報告するので、議論したい。
1.5

正常群

→
→

確率密度

1.2
0.9

↓

→

0.6

↓

非心度

の異常群

→

0.3

↓

→

↓

↓

0.0
0

1

2

3

4

次元数（p=20）で規格化した標本マハラノビス距離5

謝辞：
この研究の一部はJSPS科研費15H02798の助成を受けた。

D1-12

Robust and Sparse Online GLM
川島 孝行 (総研大)藤澤洋徳 (統数研)

gamma-cross entropy

Regularized expected risk minimization

Regularized empirical risk minimization

ただし，Pは正則化項．

例）f(y|x;θ)が正規分布 → 線形回帰
二項分布 → ロジスティック回帰
ポアソン分布 → ポアソン回帰
学生優秀プレゼンテーション賞対象

D1-12

Robust and Sparse Online GLM
川島 孝行 (総研大)藤澤洋徳 (統数研)

Regularized empirical risk minimization問題：

ポアソン回帰の場合に，が一般化超幾何級数．

→パラメータに関して陽に解けない．
解決法：

本来の目的である，Regularized expected risk minimizationの方を解く．

→確率的最適化の導入．
結果：

大域的収束性を保証したオンライン推定アルゴリズム．
大規模なデータにも対応可．
ポアソン回帰だけでなく，線形回帰，ロジスティック回帰も同時にオンライン化．
学生優秀プレゼンテーション賞対象

D1-13構造化データにおけるベイズクラスタリング精度について

山崎啓介, 川本達郎（産総研AI研究センター）

D1-13構造化データにおけるベイズクラスタリング精度について

山崎啓介, 川本達郎（産総研AI研究センター）

hc\n.^<X

ilIDD1-14

wM?* 0>7O** Ga8E**9_W1 **WDW1

6Vn.^<XBt &$Ke!#'rhc\n.^<XYH.jq\yS[*
hc\n.^<Xs| &$AP
n.^

hc\
n.^<X
"#%(

} z{|:o  N)n.^<X

z 2U&$5fv
pX4Q ){ &$2U

pX4Q,qxCu/1 mImRZ@kgb
ncT]+-`J=\dY
pX4QJ=;fv-`LvmR!#'F3

Whc\n.^<X

ilIDD1-14

wM?* 0>7O** Ga8E**9_W1 **WDW1

6Vn.^<XBt &$Ke!#'rhc\n.^<XYH.jq\yS[*
hc\n.^<Xs| &$AP
n.^

hc\
n.^<X
"#%(

} z{|:o  N)n.^<X

z 2U&$5fv
pX4Q ){ &$2U

pX4Q,qxCu/1 mImRZ@kgb
ncT]+-`J=\dY
pX4QJ=;fv-`LvmR!#'F3

WD1-15

ソフトラベルの非確率的解釈と分類学習への応用〇高瀬 朝海1，小山 聡1,2，栗原 正仁1
1: 北海道大学，2: 理研AIP

データとクラスの関係を[0, 1]の実数値で表すソフトラベル（⇔{0, 1}のハードラベル）
は、分類の難しいデータを上手く表現することができる。
ソフトラベルの2通りの解釈
1. 確率として・・・

統計的機械学習におけるクラスの事後確率

2. 帰属度として・・・

クラスにどの程度属しているかの度合い

クラウドソーシングでソフトラベルを付ける場合、ワーカにとって、帰属度、すなわち各クラスの模範的なサンプルとの類似度を答える方が、直感的なタスクといえる。
・4である確率・・・？
MNISTデータセット（ラベル4のサンプル）・どれくらい4らしいか？

フィッシャーの線形判別をソフトラベル用に拡張し、クラウドソーシングを利用して作られた、各解釈に基づいたソフトラベルを用いて実験を行う。

D1-15

ソフトラベルの非確率的解釈と分類学習への応用〇高瀬 朝海1，小山 聡1,2，栗原 正仁1
1: 北海道大学，2: 理研AIP

データとクラスの関係を[0, 1]の実数値で表すソフトラベル（⇔{0, 1}のハードラベル）
は、分類の難しいデータを上手く表現することができる。
ソフトラベルの2通りの解釈
1. 確率として・・・

統計的機械学習におけるクラスの事後確率

2. 帰属度として・・・

クラスにどの程度属しているかの度合い

クラウドソーシングでソフトラベルを付ける場合、ワーカにとって、帰属度、すなわち各クラスの模範的なサンプルとの類似度を答える方が、直感的なタスクといえる。
・4である確率・・・？
MNISTデータセット（ラベル4のサンプル）・どれくらい4らしいか？

フィッシャーの線形判別をソフトラベル用に拡張し、クラウドソーシングを利用して作られた、各解釈に基づいたソフトラベルを用いて実験を行う。

一般の雑音分布による
Denoising Autoencoder の輸送解析

D1-16

早稲田大学

園田翔

村田昇

3

DAE学習則学習済DAEは輸送写像とみなせる

●

2

●
●
●

●

1

●
●
●

●

●

●

●
●

●

●

x
0

●

●

●

●

−1

●

●
●

●
●

−2

●

雑音分布が誘導する輸送の性質を調べたい

●

●

●

−3

●

●

0.0

0.5

1.0
t

1.5

キーワード:
平均の推定量，Wasserstein勾配流，連続方程式
q-Gaussian，Tsallisエントロピー

一般の雑音分布による
Denoising Autoencoder の輸送解析

D1-16

早稲田大学

園田翔

村田昇

3

DAE学習則学習済DAEは輸送写像とみなせる

●

2

●
●
●

●

1

●
●
●

●

●

●

●
●

●

●

x
0

●

●

●

●

−1

●

●
●

●
●

−2

●

雑音分布が誘導する輸送の性質を調べたい

●

●

●

−3

●

●

0.0

0.5

1.0
t

1.5

キーワード:
平均の推定量，Wasserstein勾配流，連続方程式
q-Gaussian，Tsallisエントロピー

[D1-17] 深層学習のための線形制約付きウェイト沓名 拓郎 （豊田中央研究所）

𝑊𝑊 ∈ 𝑅𝑅100×100

𝐴𝐴 ∈ 𝑅𝑅100×100

×＝ランダム行列• ディープネット内部でも同様の偏り（縞模様）が発生→ 勾配消失などの要因• 偏り（縞模様）を防ぐ方法を提案
各ウェイトベクトルに対し「総和がゼロ」と制約→ 100層のMLPが学習可能に• バッチ正規化もこの「偏り」を防いでいると見なせる→ 提案手法の方が収束速い＆計算オーバーヘッド小縞模様！？
実験結果（Cifar10）
Training accuracy

ランダム行列𝑊𝑊𝐴𝐴

MLP100 + Proposed

MLP100 + Batchnorm
Vanilla MLP100

Training time (s)[D1-17] 深層学習のための線形制約付きウェイト沓名 拓郎 （豊田中央研究所）

𝑊𝑊 ∈ 𝑅𝑅100×100

𝐴𝐴 ∈ 𝑅𝑅100×100

×＝ランダム行列• ディープネット内部でも同様の偏り（縞模様）が発生→ 勾配消失などの要因• 偏り（縞模様）を防ぐ方法を提案
各ウェイトベクトルに対し「総和がゼロ」と制約→ 100層のMLPが学習可能に• バッチ正規化もこの「偏り」を防いでいると見なせる→ 提案手法の方が収束速い＆計算オーバーヘッド小縞模様！？
実験結果（Cifar10）
Training accuracy

ランダム行列𝑊𝑊𝐴𝐴

MLP100 + Proposed

MLP100 + Batchnorm
Vanilla MLP100

Training time (s)D1-18

学生優秀プレゼンテーション賞対象

テンソルt分布とその応用 大阪大学 宇野光平
F
標準正規分布t分布(ν=3)

成り立たない場合もあるのでは？!

[同じ個体の別臓器での遺伝子発現テンソル(多相)構造に対応するために各分布の確率密度関数t分布を用いたデータ解析手法
PL
(
DM
L
P C
Z
)
.

]

同じクラスでの時期別テスト得点 など

&
.

など

確率ベクトルから確率テンソルへ！

D1-18

学生優秀プレゼンテーション賞対象

テンソルt分布とその応用 大阪大学 宇野光平
F
標準正規分布t分布(ν=3)

成り立たない場合もあるのでは？!

[同じ個体の別臓器での遺伝子発現テンソル(多相)構造に対応するために各分布の確率密度関数t分布を用いたデータ解析手法
PL
(
DM
L
P C
Z
)
.

]

同じクラスでの時期別テスト得点 など

&
.

など

確率ベクトルから確率テンソルへ！

!X[S\V]PZ\' &D1-19
""!
  

 ,(12.  11*"%-#
+

n

0


外れ値

:6
外れ値に弱いØn

外れ値の影響推定のロバスト化に有効

Y]TUNW]QO\R/9<FH ?G.<C3.58872.
:@H=AB.<D>.;<DE.64450





)
 

外れ値が含まれる二値分類








D1-19 ""!
 ,(2.

n!X[S\V]PZ\'





提案手法

+

0

2
AROW SCW 0• AROW(青線) SCW(水色線)• 提案手法(緑線)  /*"%-#

4

&

0

4

4

0

4

),(

(

KLM

),(2

$J-I

D1-20/RoF%'#'LVK

ベータダイバージェンスを用いた
ロバスト部分最小二乗法_n uN*, f+ E)**]2\sA41H<^Tm/;n 部分最小二乗法• SkiPXB860 C*` U@iPl[iPOY• -W=b OY *3!'(Eguchi & Kano 2001, Basu et al. 1998)?I, &,p:!'q&eg?IaMjZ(D1-20/RoF%'#'LVK

ベータダイバージェンスを用いたロバスト部分最小二乗法_n uN*, f+ E)**]2\sA41H<^Tm/;n 従来手法との比較• PWt

c.Z(Djp:Q7J• GrDjØ Partial Robust M-Regression(Serneels et al. 2005)
手法

d1. l[iP"$

MSE

Z(Dj

部分
最小二乗法
10.5

OYW

h5aM9>(MSE)

Partial Robust
M-Regression

提案手法

0.214

0.129

GrDjh5aM9>I

D1-21

気象シミュレーションにおける衛星画像データ同化への機械学習の応用
粟津妙華，大塚成徳，三好建正（理化学研究所 計算科学研究機構）• データ同化• シミュレーション(数理モデル)と現実世界とのずれを、観測によって修正する。
• 主に気象分野で発展• 気象シミュレーションに気象衛星や気球観測による観測データを同化することにより、予報を改善。
➢ 気象衛星：赤外などの画像データ➢ 気球観測：気温、気圧、湿度、風
予測

ずれを修正
予測

予測

予測
観測

観測
観測

データ同化

データ同化

データ同化

真の大気の状態

降水領域の形状特徴量を用いたデータ同化
低解像度全球大気モデル

確率密度関数
降水領域

傾き

形状

一般的な幾何形状特徴量[mm/6h]例

トレーニングデータ：80,000枚
テストデータ：10,000枚

傾き特徴量の同化

同化前

オートエンコーダによる特徴量の抽出同化後
コントロール実験

目的
降水領域の形状特徴量を用いたデータ同化実験を行い、降水領域の形状を改善することで、気象場全体の改善をもたらし、トータルな予測を改善する。

結果と考察
観測

傾き＋コントロール実験

コントロール実験: 東西風，南北風，気温，水蒸気量を同化

一般的な幾何形状特徴量の同化実験を1時刻分行った。結果、降水領域の形状は変化し、観測に近づいた。このことから、形状特徴量の同化
は、降水領域の改善に一定の効果を持つことが推測される。オートエ
ンコーダによって抽出した特徴量の1時刻分の同化実験では、コント
ロール実験と比較して、ほとんど変化がなかった。しかし、カルマンフィルタ (Kalman Filter, Kalman 1960) は誤差の確率分布がガウス分布であることを前提としており、この特徴量はガウス分布に類似していることから、長期間分の実験行うことで、降水領域の改善が期待できると考えられる。

D1-22)(;w# <GLJ52 *.FLJ C!16PQU\umw)(;Z

Hrczha %w Z`agdu]rha
n ?paom/v9
rczha
nnfufsx\~zja %b`ag][fw

v9 rcu][
fw

w vhxiwD%
w %b nl[[[>bI]s3,vu~|h]xiuwvZv>b qfu]

)(;w#D1-22

 <GLJ52 *.FLJ C!16PQUn

Hrc oq• /bmyTR M SXK knerx
• 9nrcyTR M VWYKJ9rcu]{wx_u]

Hrc xt^gm}?pa
&67w@
Hrc x =] wv\•• =] OJ;8b+E4I]&67wB0• =] w#"-$'• A NJ:Z

m

D1-23

eb

l

•
•

e
ka

M

i

m

E

e
-

-

e

w0
w0T xiw1T xi < 00

Input: xi

0

1

2

w1

3

4

Output: ŷ4

m

D1-23

eb

l

•
•

e
ka

M

i

m

E

e
-

-

e

w0
w0T xiw1T xi < 00

Input: xi

0

1

2

w1

3

4

Output: ŷ4

Deepreinforcement
learning
Deep reinforcement
learning
withwith
relative
entropystochasticsearchsearchrelative
entropystochastic(D1-24)

Voot Tangkaratt1, Abbas Abdolmaleki2, Masashi Sugiyama1,3• Actor-critic (AC) methods are prominent deep RL methods.
Critic:Actor:orUpdate actor:• Existing methods use up to the 1st-order information of critic(Sutton et al., 1999)• 0th-order (values):• 1st-order (gradients):(Silver et al., 2014)• We propose guide AC (GAC) that uses 2nd-order information (Hessians)
1RIKEN AIP（理化学研究所革新知能統合研究センター）
2The University of Aveiro, Portugal
3The University of Tokyo（東京大学）

Guide actor-critic (GAC)• GAC learning steps:
1. Learn a guide actor
2. Update the actor
to fit3. Repeat until convergence
1. Learn guide actor:

Actor:

Critic:2. Update actor:

D1-25:HTTP通信を用いた半教師あり学習によるマルウェア感染端末の分類器について
西山 泰史, 熊谷 充敏, 神谷 和憲, 谷川 真樹（NTT）・背景：マルウェア感染の有無を判定する分類器が必要⇒機械学習で作成することで運用負担を軽減
・提案：半教師あり学習を用いた分類器作成法-結果の解釈性があり、検知理由が分析可能な手法
・結果：検知できるマルウェアが増加/分類性能向上【MSS】【お客様網】

Firewall

ログ収集

lDS

Proxy

選別
分類器

オペレータ/アナリスト

分析
Copyright©2017 NTT corp. All Rights Reserved.

1

D1-25:HTTP通信を用いた半教師あり学習によるマルウェア感染端末の分類器について
西山 泰史, 熊谷 充敏, 神谷 和憲, 谷川 真樹（NTT）・背景：マルウェア感染の有無を判定する分類器が必要⇒機械学習で作成することで運用負担を軽減
・提案：半教師あり学習を用いた分類器作成法-結果の解釈性があり、検知理由が分析可能な手法
・結果：検知できるマルウェアが増加/分類性能向上【MSS】【お客様網】

Firewall

ログ収集

lDS

Proxy

選別
分類器

オペレータ/アナリスト

分析
Copyright©2017 NTT corp. All Rights Reserved.

1

  

)

EEEE

onl

C

i

l
a

c

n
i
EEEEE

k

t

v

P

G

G

v

v

k

t
N

11
>
U
kcd

11

>

NL
1 2

j
G

, >C

A >

A o

bI

G

u
.

  

1 2

N

UE

kcd

rD

a

Id

• iw

mP

i

y

y
.-‐‑‒/

r

R

6

  ON

n

G

G

R

-‐‑‒

•

E

  

R

Idm

•

E

1 A

Ie

e

R

1

i

/2

M

-‐‑‒

: >

G

R

6 bI
&

ac
(&

>

>

G

G

E

k

D

  

)

EEEE

onl

C

i

l
a

c

n
i
EEEEE

k

t

v

P

G

G

v

v

k

t
N

11
>
U
kcd

11

>

NL
1 2

j
G

, >C

A >

A o

bI

G

u
.

  

1 2

N

UE

kcd

rD

a

Id

• iw

mP

i

y

y
.-‐‑‒/

r

R

6

  ON

n

G

G

R

-‐‑‒

•

E

  

R

Idm

•

E

1 A

Ie

e

R

1

i

/2

M

-‐‑‒

: >

G

R

6 bI
&

ac
(&

>

>

G

G

E

k

D

D1-27: 教育ログデータからの解釈性を重視した潜在スキル推定
玉野浩嗣、丸山晃一（NECソリューションイノベータ株式会社）
背景：学習者が問題に取り組んだ正誤ログから、学習者が保持する潜在スキルの変化と、問題を解くのに必要な潜在スキルを推定する問題
目的：推定結果を人間が解釈しやすいバイナリ値で推定する方法を提案
問題を解くのに必要なスキル

問題

𝑅=
問題集

②回答

Z1=

①問題

③解説

E-Learning
System

学習者1

X1=

１ ０ ０ ００ １ １ １０ ０ ０ １

１ １
０ ０
０ ０

１ １
１ １
０ ０

スキル
学習者が保持するスキルの変化
時間
スキル

時間

学習者2

© NEC Solution Innovators, Ltd. 2017

正誤ログ

０ ０
０ ０
０ ０

０ ０
１ １
０ ０

Z3, Z4,…

推定

１ ０ １ ０

学習者1

正誤ログを収集

学習者2

Z2=

時間

X2=

０ ０ １ ０

時間

X3, X4,…

D1-27: 教育ログデータからの解釈性を重視した潜在スキル推定
玉野浩嗣、丸山晃一（NECソリューションイノベータ株式会社）
背景：学習者が問題に取り組んだ正誤ログから、学習者が保持する潜在スキルの変化と、問題を解くのに必要な潜在スキルを推定する問題
目的：推定結果を人間が解釈しやすいバイナリ値で推定する方法を提案
問題を解くのに必要なスキル

問題

𝑅=
問題集

②回答

Z1=

①問題

③解説

E-Learning
System

学習者1

X1=

１ ０ ０ ００ １ １ １０ ０ ０ １

１ １
０ ０
０ ０

１ １
１ １
０ ０

スキル
学習者が保持するスキルの変化
時間
スキル

時間

学習者2

© NEC Solution Innovators, Ltd. 2017

正誤ログ

０ ０
０ ０
０ ０

０ ０
１ １
０ ０

Z3, Z4,…

推定

１ ０ １ ０

学習者1

正誤ログを収集

学習者2

Z2=

時間

X2=

０ ０ １ ０

時間

X3, X4,…

D1-28

Bayesian NetworkとDeep Learningによる品質予測方式の開発
株式会社 日立製作所
研究開発グループ 生産システム研究部
堀脇一樹, 今沢 慶

研究対象

大規模製造工程におけるBayesian Networkによる品質予測・制御

問題点

大規模製造工程における品質予測時の誤差累積問題に対するアプローチと提案方式
品質予測時に誤差累積を生み出す
ボトルネック部分を特定し、Deep Learningへ変換
上流

下流

品質予測

品質

ボトルネック部分の特定
既存のBayesian Network

Bayesian Network + Deep Learning

原因

原因

結果
原因

Deep Learning
へ変換

結果
原因
© Hitachi, Ltd. 2017. All rights reserved.

D1-28

Bayesian NetworkとDeep Learningによる品質予測方式の開発
株式会社 日立製作所
研究開発グループ 生産システム研究部
堀脇一樹, 今沢 慶

研究対象

大規模製造工程におけるBayesian Networkによる品質予測・制御

問題点

大規模製造工程における品質予測時の誤差累積問題に対するアプローチと提案方式
品質予測時に誤差累積を生み出す
ボトルネック部分を特定し、Deep Learningへ変換
上流

下流

品質予測

品質

ボトルネック部分の特定
既存のBayesian Network

Bayesian Network + Deep Learning

原因

原因

結果
原因

Deep Learning
へ変換

結果
原因
© Hitachi, Ltd. 2017. All rights reserved.

D1
29

@

*CHE;,<B+

X: R&D expenditure
Y: total sales $&D24

8



*CH) E;,<0 ""!#=1

D1
29

Frequency(a)120
100
80
60

LIE;,< F>J!#>J?03:6
40

20

0
0

100

100

Frequency(b)120

Frequency(a)120
80
60
40

10

15

20

25

5

10

15

20

25

80
60
40
20

20
0
0

5

7

5

10

15

20

25

0
0

(b)120
Frequency

5;%9/KA'-(G.
100

80

60

Key Words
1. Granger Causality
2. Kernel Embeddings
3. Time Series Analysis

40
20

0
0

5

10

15

20

25

D1-30: ロバスト制御方策と探索木を用いた
近似ベイジアン強化学習アプローチ
菱沼徹，泉田啓 （京都大学）

目的・ ロボットの自律制御に強化学習を応用したい．
・ 実ロボットの動作コストを抑えつつ，現実的な計算量で実装したい．

アプローチ
・ モデルベース・ベイジアン強化学習（MB-BRL）問題．
- 事前知識として運動方程式モデルを仮定，そのパラメータを未知とする．
・ より計算量的に取り扱いやすい，近似MB-BRL問題．
- 前半：有限深さ探索木問題，後半：ロバスト制御問題．
・ この近似MB-BRL問題を解くための，シミュレーション解法- モンテカルロ木探索，ロバスト強化学習，近似ベイズ推定，の組合せ．

近似問題とアルゴリズムの概要
Finite horizon 探索木問題

ロバスト制御問題

履歴依存方策で，オンライン情報をフル活用

定常方策で，現在の状態のみを考慮

ロバスト強化学習各(s,b)に対してある程度の性能を持つ定常方策をシミュレーション学習

近似ベイズ推定履歴に対する信念更新を，
MCTSシミュレーションのサンプルを用いて近似

(s,b)

u

（状態，信念）行動(s,b)

モンテカルロ木探索（MCTS）
finite horizon問題のシミュレーション解法(s,b)

timestep
この近似問題における価値関数を，運動方程式シミュレーション上で学習し，その結果を実環境上で用いる．

D1-31Sparse Regression for Network Graphs
and Its Application to Gene Networks of The Brain
Hideko Kawakubo1, Yusuke Matsui1, Teppei Shimamura1, 1Nagoya University

D1-31Sparse Regression for Network Graphs
and Its Application to Gene Networks of The Brain
Hideko Kawakubo1, Yusuke Matsui1, Teppei Shimamura1, 1Nagoya University

D1-32: Maximum mean discrepancyに基づく分布マッチングを用いた教師なしドメイン適応
熊谷充敏, 岩田具治（NTT）• 新たな教師なしドメイン適応法を提案• Maximum mean discrepancyに基づき，元ドメインと目標
ドメインの特徴分布が同じになるよう，元ドメインから目標ドメインへの変換則を学習• 実データを用いた実験で有効性を確認

D1-32: Maximum mean discrepancyに基づく分布マッチングを用いた教師なしドメイン適応
熊谷充敏, 岩田具治（NTT）• 新たな教師なしドメイン適応法を提案• Maximum mean discrepancyに基づき，元ドメインと目標
ドメインの特徴分布が同じになるよう，元ドメインから目標ドメインへの変換則を学習• 実データを用いた実験で有効性を確認

D1-33 LogDet正則化を用いた二値行列補完
森富 賢一郎・畑埜 晃平・瀧本 英二（九州大学）

二値行列補完For 𝑡 = 1, … , 𝑇

1
入力：
ユーザーとアイテム

𝑚 × 𝑛 二値行列 𝑈

𝑈

1

2

3

5

?

+

+

?

+

−

?

−

?

−

?

+

−

−

?

4

𝑖𝑡 , 𝑗𝑡 =(,アルゴリズム

出力：予測 2𝑦𝑡 = +1 or −1

3
損失：
1 if 𝑈𝑖𝑡,𝑗𝑡 ≠ 𝑦𝑡

提案手法 半正定値対称行列のオンライン予測問題に帰着
1

For 𝑡 = 1, … , 𝑇

環境

行列 𝑊𝑡 ≽ 0

2 行列 𝐿𝑡)

アルゴリズム3

損失
Tr 𝑊𝑡 𝐿𝑡

アルゴリズム

Follow the Regularized Leader

𝒦 は半正定値対称行列の有界凸集合
正則化項 𝑅 と学習率 𝜂 でアルゴリズムが決まる

𝑊𝑡+1 = argmin𝑊∈𝒦 𝑅 𝑊 + 𝜂𝑡
𝑠=1 Tr 𝑊𝐿𝑠

正則化項
Herbstar et al., 2016
本研究

負のエントロピー
𝑅 𝑊 = Tr 𝑊log𝑊 − 𝑊
Log-Determinant
𝑅 𝑊 = −log det 𝑊 + 𝜖E

主結果
• 誤り回数の上界を導く• 既存手法より log 𝑚 + 𝑛 倍改善，下界と一致し最適• 統計学習へ応用，汎化誤差を導出• 最適なカーネルを知らずとも，それと同等の効果

-



4

 



• $ ! 3# 6(.*7-•  ""58 %60
'/• ""&1,%60
 45 &1,%6045 2(  6
(.*

)&1


6(+

1

3

 

-



4

 



• $ ! 3# 6(.*7-•  ""58 %60
'/• ""&1,%60
 45 &1,%6045 2(  6
(.*

)&1


6(+

1

3

 

D1-35:

人ロボット協調作業ラインにおけるロボット異常検知技術の開発• 製造業では，品質と生産性の両立のため，高難度作業を得意とする人と，繰り返し作業を得意とするロボットによる協調作業が求められている．
• ロボットは，人の作業状況に応じて，動作を変更するため，正常な動作パターンが，毎回異なる．
• そのため，過去の動作パターンとの比較によるロボット異常を検出することが困難である．
• 本発表では，人と協調作業を行うロボットの手の軌跡データに対する異常検知方式を発表する．
異常度
シグナル

人手ロボット（右）【問題設定】
正常な動作パターンが毎回異なるロボットの手の軌跡データに対する
異常検知方式の開発
ロボット（左）異常度グラフ
（算出対象）

2017年11月9日（木）（株）日立製作所 CTI 生産イノベーションセンタ
■ロボットの動作
生産システム研究部生産S2ユニット研究員
左手：人に部品を渡す
兼 インダストリソリューションデザイン室員
右手：人を避けながら作業を遂行する
今沢 慶→ 正常な動作パターンが毎回異なる© Hitachi, Ltd. 2017. All rights reserved.

D1-35:

人ロボット協調作業ラインにおけるロボット異常検知技術の開発• 製造業では，品質と生産性の両立のため，高難度作業を得意とする人と，繰り返し作業を得意とするロボットによる協調作業が求められている．
• ロボットは，人の作業状況に応じて，動作を変更するため，正常な動作パターンが，毎回異なる．
• そのため，過去の動作パターンとの比較によるロボット異常を検出することが困難である．
• 本発表では，人と協調作業を行うロボットの手の軌跡データに対する異常検知方式を発表する．
異常度
シグナル

人手ロボット（右）【問題設定】
正常な動作パターンが毎回異なるロボットの手の軌跡データに対する
異常検知方式の開発
ロボット（左）異常度グラフ
（算出対象）

2017年11月9日（木）（株）日立製作所 CTI 生産イノベーションセンタ
■ロボットの動作
生産システム研究部生産S2ユニット研究員
左手：人に部品を渡す
兼 インダストリソリューションデザイン室員
右手：人を避けながら作業を遂行する
今沢 慶→ 正常な動作パターンが毎回異なる© Hitachi, Ltd. 2017. All rights reserved.

D1-36 南直人，延原肇（筑波大学）

単体複体の増大列を利用したマルチスケールk近傍法と多クラス点群データの幾何学的構造分析への応用
提案法

従来法（k近傍法）

3NN() ... [CLASS()=,（k近傍法の教師データに単体を追加）

,

]

3NN(

) ... [CLASS(

)=

,

,

]

D1-36 南直人，延原肇（筑波大学）

単体複体の増大列を利用したマルチスケールk近傍法と多クラス点群データの幾何学的構造分析への応用
弱識別器の集合

さまざまなスケールでデータを捉えることができる

・・・
スケール小
それぞれが
単体複体を用いたk近傍法による識別器となっている

Votingスケール大識別
ポスターブース D1-36へ！

Robust and Efficient Off-Policy Policy Evaluation
via Enhanced Action-Gap
Tadashi Kozuno (OIST), Eiji Uchibe (ATR & OIST), Kenji Doya (OIST)

ID: D1-37

Problem
We rephrase policy evaluation problem as:Given a policy 𝜋, order actions according to 𝑄𝜋 𝑠, 𝑎 ≔ 𝔼𝜋 σ𝑡≥0 𝛾 𝑡 𝑅𝑡 𝑠, 𝑎 .

Contributions
A novel policy evaluation dynamic programming algorithm which is

Efficient (Off-Policy & Multistage Lookahead) and Robust to approximation error.
ResultIdea
Off-Policy & Multistage Lookahead

Bellman Operator

Retrace Operator
Greater Robustness by Act. Gap

Act. Gap

Advantage Learning

Our Algorithm
Faster Learning by Multistage Lookahead【学生優秀プレゼンテーション賞対象】

Robust and Efficient Off-Policy Policy Evaluation
via Enhanced Action-Gap
Tadashi Kozuno (OIST), Eiji Uchibe (ATR & OIST), Kenji Doya (OIST)

ID: D1-37

Problem
We rephrase policy evaluation problem as:Given a policy 𝜋, order actions according to 𝑄𝜋 𝑠, 𝑎 ≔ 𝔼𝜋 σ𝑡≥0 𝛾 𝑡 𝑅𝑡 𝑠, 𝑎 .

Contributions
A novel policy evaluation dynamic programming algorithm which is

Efficient (Off-Policy & Multistage Lookahead) and Robust to approximation error.
ResultIdea
Off-Policy & Multistage Lookahead

Bellman Operator

Retrace Operator
Greater Robustness by Act. Gap

Act. Gap

Advantage Learning

Our Algorithm
Faster Learning by Multistage Lookahead【学生優秀プレゼンテーション賞対象】

D1-38) 自己回帰テンソル分解による時空間予測竹内 孝(NTT, 京都大学)，鹿島 久嗣(京都大学, 理研AIP)，上田 修功(NTT, 理研AIP)nn

U0lize spa0al and temporal graph structures for forecas0ng
future observa0ons on unknown loca0ons.
Simultaneously decompose a tensor and learn
autoregressive models.

Sensortypes

Sensor
types

U (3)

Existing
locations

Existing
locations

X

XX
2

X2 ≃

New
locationsNew1locations

XX3 1

X3

X

Existing
Existing
New
New
Timestamps Timestamps
Timestamps Timestamps

1(2)(2)UU
U (2)new
U (1) ≃ U (1)
(1)
Unew

Temporal
Autoregression

U (3)
(2)
Unew

(1)
Unew

Spa0alAutoregression

KYOTO UNIVERSITYOur proposed method successfully extracted
dynamics in Taxi demand forecas0ng problemn2

Green: predic0ons on known loca0on
Blue: interpola0ons on unknown loca0on
Red: predic0ons on unknown loca0on (most diﬃcult!)

KYOTO UNIVERSITY

On Estimation of Conditional Mode Using Multiple
Quantile Regressions෼Ґ఺ճ‫ؼ‬Λ༻͍ͨߴ࣍‫ݩ‬ͷ৚݅෇͖ີ౓ɾ࠷ස஋ͷਪఆ

Hirofumi Ohta 1

Satoshi Hara 2

1 The University of Tokyo, Graduate School of Economics, Department of Statistics, M2.
2 Osaka University, The Institute of Scientific and Industrial Research.

2017/11/09, IBISML, ID:D1-39.
Keywords: conditional mode estimation, quantile regression,
dimensionality reduction.

1/2

Problem
Output Y is a scalar and input X is a p-dimensional vector.
Estimation of conditional density and conditional mode of Y given X.
For dimensionality reduction in the conditional mode estimation,
how to model the distribution of Y |X ?

MethodFirst, we estimate the conditional density by solving linear quantile regressions
multiple times.
We then estimate the conditional mode by finding the maximum of the estimatedconditional density.
Contribution
The proposed method has two advantages:
It is computationally stable because it has no initial parameter dependencies.
It is statistically eﬃcient with a fast convergence rate.
Synthetic and real-world data experiments demonstrate the better performance ofthe proposed method compared to other existing methods.
2/2

B IM

DH

1 IL AH

0 H A N -4,-,( ( , AA

D K H IM!

) M H D 1 IL AH(,( (4,- (-4

B IM

)

DH

1 IL AH

/

0

1

(

)

D I D B
D

C
B H

B IM

/
( B

B

B

0

) BC

C

B IM
?

,

A

=

? =

A

(- !

B H

1
BC

C

DH H
,

HI

C

B IM

DH

1 IL AH

0 H A N -4,-,( ( , AA

D K H IM!

) M H D 1 IL AH(,( (4,- (-4

B IM

)

DH

1 IL AH

/

0

1

(

)

D I D B
D

C
B H

B IM

/
( B

B

B

0

) BC

C

B IM
?

,

A

=

? =

A

(- !

B H

1
BC

C

DH H
,

HI

C

(

))

441

e

n

D

L

d

L

1

) -

p

-

/ )

,/

sl

n

y

b

441
:D

n

r
o

I

0
I

¡
¡

I
0

1
1

a
t

:I

1

441

(

))

441

e

n

D

L

d

L

1

) -

p

-

/ )

,/

sl

n

y

b

441
:D

n

r
o

I

0
I

¡
¡

I
0

1
1

a
t

:I

1

441

D1-42: 深層モデルを用いたDisentangleな表現学習
ポスターの内容・β-VAEとInfoGANの理論的関係を示す
・相互情報量の可視化の結果

NTT 山田真徳, 岩田具治zzz
ほぼ同じ制約項(青)Disentangle表現とは1つのzのノードで1つの意味を表現

β-VAEとInfoGANは以下の違い→ DKL (q (z|x) ||p (z)) () DKL (p (z) ||q (z|x))
Copyright©2017 NTT corp. All Rights Reserved.

D1-42: 深層モデルを用いたDisentangleな表現学習
ポスターの内容・β-VAEとInfoGANの理論的関係を示す
・相互情報量の可視化の結果

NTT 山田真徳, 岩田具治zzz
ほぼ同じ制約項(青)Disentangle表現とは1つのzのノードで1つの意味を表現

β-VAEとInfoGANは以下の違い→ DKL (q (z|x) ||p (z)) () DKL (p (z) ||q (z|x))
Copyright©2017 NTT corp. All Rights Reserved.

D1-43 : 部分観測マルコフ決定過程の環境推定
奥戸道子 (東京大学・情報理工)，森村哲郎 (IBM東京基礎研究所)

POMDP推定に無限隠れマルコフモデル(iHMM)に対するMCMC法を適用する

iHMM

iPOMDP

部分観測マルコフ決定過程(POMDP)

a1
s1

y1

s2

s2

s1

-

表現力の高い時系列モデル-

強化学習など多くの意思決定過程のモデリングに用いられる-

POMDPの推定は困難

y2

y1

y2

r1

本研究の内容• POMDPベンチマーク問題で性能を確認．
• 内部状態を作る必要のある問題に対してMCMCの収束が悪いことを実験で確認し，Parallel Temperingの適用を提案．

D1-43 : 部分観測マルコフ決定過程の環境推定
奥戸道子 (東京大学・情報理工)，森村哲郎 (IBM東京基礎研究所)

POMDP推定に無限隠れマルコフモデル(iHMM)に対するMCMC法を適用する

iHMM

iPOMDP

部分観測マルコフ決定過程(POMDP)

a1
s1

y1

s2

s2

s1

-

表現力の高い時系列モデル-

強化学習など多くの意思決定過程のモデリングに用いられる-

POMDPの推定は困難

y2

y1

y2

r1

本研究の内容• POMDPベンチマーク問題で性能を確認．
• 内部状態を作る必要のある問題に対してMCMCの収束が悪いことを実験で確認し，Parallel Temperingの適用を提案．

D1-44: Latent Dirichlet Allocationを用いた腸内細菌叢のコミュニティ解析
細田至温[1,2]、西嶋傑[2,3,5]、福永津嵩[1,4]、服部正平[5,3]、浜田道昭[1,2,6][1]早稲田大学大学院 先進理工学研究科 電気・情報生命専攻[2]産総研・早大 生体システムビッグデータ解析オープンイノベーションラボラトリ（CBBD-OIL）[3]東京大学大学院 新領域創成科学研究科[4]東京大学大学院情報理工学系研究科コンピュータ科学専攻[5]早稲田大学 理工学術院 先進理工学研究科[6]日本医科大学 医学研究科• 腸内細菌はコミュニティ単位で共起している[Boon E et.
al., 2014]• コミュニティとは細菌のグループ• 今までは腸内細菌の解析としてクラスタリングが行われてきたが下図のようにコミュニティの推定には不適
切
3

2

1

A

B
C

B

B
C

A

クラスタA
クラスタB
クラスタB
三人の被験者の腸内を表した図。円はコミュニティを指す。

LDAにおける文書-トピック-単語の関係を腸内細菌における腸内-コミュニティ-細菌の関係に当てはめて推定

文書

政
経 文 治
済 化

C
腸内

A B

トピック:

経済

コミュ
ニティ:

A

株 税
価 金 金
利

細 細
菌 菌 細
α β 菌γ

「株価」

「細菌α」

第20回情報論的学習理論ワークショップ

D1-45

SPOTLIGHT
 Propose a supervised nonparametric topic
model to classify multi-class videos.
 Incorporate a time-dependency mechanism
into the supervised nonparametric topic
model for modeling neighboring video
frames.
 Incorporate a more flexible symmetriccorrespondence method to handle video
multimodal data enriched with image dataand speech data within the supervised
nonparametric topic model.

第20回情報論的学習理論ワークショップ

D1-45

SPOTLIGHT
 Propose a supervised nonparametric topic
model to classify multi-class videos.
 Incorporate a time-dependency mechanism
into the supervised nonparametric topic
model for modeling neighboring video
frames.
 Incorporate a more flexible symmetriccorrespondence method to handle video
multimodal data enriched with image dataand speech data within the supervised
nonparametric topic model.

D1-46 カーネル密度関数の局所変形に基づく
線状構造物に対する非剛体イメージアライメント
U";¯#°o!I¯°oJ

¯°oldg¯7°oE¯R1K°o)<3¯#°n¦¨®©¨­¤-[
x H6]>pMkG  `%:P0 -[nx ZOTX{LQN^{VC9aA©¨­¤h4$~m|jn/8,=
x ®¥«$.z±zru«ª §¬¦¤i
@G

\;D

y ®¥«$0¯bSf10°¡®¢¤G()⎧ @G ²j=1⎨
p (x ) = ∑ w k (x −ϕ )¡®¢¤G
²
⎩

£¡«G

n

£¡«G

ps (x ) = ∑ wsj δ x −x jnfy 5c²stq5!
ϕ̂

µf

(

µf
i

µf

= arg min KLD ps || p f (x | ϕ̂ )
ϕ̂

bSf1

i=1

f
i

µf

YF(5c+f

)

.

bSf1

D1-46 カーネル密度関数の局所変形に基づく
線状構造物に対する非剛体イメージアライメント
U";¯#°o!I¯°oJ

@G¡®¢¤G¯°oldg¯7°oE¯R1K°o)<3

¯#°

実験
v¡®¢¤G \;{e2(@G _~}³

先行研究\;G.(提案手法\;G.(n/8,={+ B*?~¡®¢¤G @
G w'&w_~|¯(\;W°

D1-47

学生優秀プレゼンテーション賞対象

交換Monte Carlo法を用いたMR画像事前分布の正則化パラメータ推定の検証
松尾篤樹，原田賢，井上真郷（早稲田大学）➢ 背景
MR画像再構成におけるグリッドサーチやベイズ最適化による正則化
パラメータ𝜆の推定は最適化計算が繰り返し必要なため計算量が多い

1
2
argmin
෍
𝒚
−
𝑭
𝑺
𝒙
𝑐
𝑢 𝑐
2 + 𝜆 proj 𝒙
2
2𝜎
𝒙

TV

𝑐

➢ 提案
መ
データセットに対する事前分布𝑃 𝒙; 𝜆 の最尤解𝜆を正則化パラメータとして用いる• 観測モデルによらない事前分布単独でのパラメータ推定が可能• 画像データセットから算出でき，観測データは不要

グリッドサーチによるパラメータ推定の結果と比較検証

D1-47

学生優秀プレゼンテーション賞対象

交換Monte Carlo法を用いたMR画像事前分布の正則化パラメータ推定の検証
松尾篤樹，原田賢，井上真郷（早稲田大学）➢ 背景
MR画像再構成におけるグリッドサーチやベイズ最適化による正則化
パラメータ𝜆の推定は最適化計算が繰り返し必要なため計算量が多い

1
2
argmin
෍
𝒚
−
𝑭
𝑺
𝒙
𝑐
𝑢 𝑐
2 + 𝜆 proj 𝒙
2
2𝜎
𝒙

TV

𝑐

➢ 提案
መ
データセットに対する事前分布𝑃 𝒙; 𝜆 の最尤解𝜆を正則化パラメータとして用いる• 観測モデルによらない事前分布単独でのパラメータ推定が可能• 画像データセットから算出でき，観測データは不要

グリッドサーチによるパラメータ推定の結果と比較検証

D1-48: 関係データに向けた混合エキスパートモデル

小山田 昌史 (NEC), 中台 慎二 (NEC) タスク: 関係データにおけるマスタ表の属性予測
z (入力)

9 [マスタ表] 顧客の基本的な属性値 (例: 年齢, 性別)– 基本的な属性値は、全顧客について与えられていると仮定

9 [ファクト表] 顧客の行動データ (例: 購買履歴、GPSログ)– 「ユーザ x 商品」のような行列/テンソルz (出力)

9 [マスタ表] 顧客の詳細な属性値 (例: 職業) 課題: いかに「ファクト表（グラフ）」を活用するか
1

従来のアプローチと、その課題
1. 専門家の知識を使い特徴量エンジニアリング(例: 職業をを当てるには「平均購買金額」が有効)
Æ 専門知識が必要で、時間も人手もかかる
2. ファクト表を特異値分解/テンソル分解で埋め込むÆ 自動生成された特徴は解釈/説明が難しい

本研究のゴール: 特徴量を生成することなく
高速・高精度にマスタ表の属性予測を実現（そのために、関係データ向け混合エキスパートモデルを提案）2

D1-49分解型NML符号長を用いた連続値潜在変数モデルの選択
岡田誠(東大, CREST), 山西健司(東大, CREST)

研究背景（学生優秀プレゼンテーション賞対象）

記述長最小原理に基づく潜在変数モデルのモデル選択
２つのアプローチ
・完全変数化NML符号長
様々なモデルへの適用事例あり
・分解型NML符号長 (DNML符号長)離散モデルへの適用事例あり

本研究

アイデア
(𝑋, 𝑍)の生成を𝑋の生成と𝑍からの𝑋の生成の二段階に分けてNML符号化
利点
・効率計算可能・良いミニマックス最適性

DNML符号長を連続値潜在変数モデルへ拡張
混合ガウスモデル，確率的主成分分析モデル
実験結果
・完全変数化NML符号長と同等か，それ以上のモデル推定精度
・従来手法に比べ，ノイズに対してロバストなモデル選択

D1-49分解型NML符号長を用いた連続値潜在変数モデルの選択
岡田誠(東大, CREST), 山西健司(東大, CREST)

研究背景（学生優秀プレゼンテーション賞対象）

記述長最小原理に基づく潜在変数モデルのモデル選択
２つのアプローチ
・完全変数化NML符号長
様々なモデルへの適用事例あり
・分解型NML符号長 (DNML符号長)離散モデルへの適用事例あり

本研究

アイデア
(𝑋, 𝑍)の生成を𝑋の生成と𝑍からの𝑋の生成の二段階に分けてNML符号化
利点
・効率計算可能・良いミニマックス最適性

DNML符号長を連続値潜在変数モデルへ拡張
混合ガウスモデル，確率的主成分分析モデル
実験結果
・完全変数化NML符号長と同等か，それ以上のモデル推定精度
・従来手法に比べ，ノイズに対してロバストなモデル選択

D1- 学習可能なマスクを用いた
50 柔軟な類似度計算手法
上月正貴 (VASILY, Inc./東京大学), 中村拓磨(VASILY, Inc.) , 後藤亮介(VASILY, Inc.)

一度に複数の基準を考慮した類似度を計算© 2017 VASILY,Inc.

D1- 学習可能なマスクを用いた
50 柔軟な類似度計算手法
上月正貴 (VASILY, Inc./東京大学), 中村拓磨(VASILY, Inc.) , 後藤亮介(VASILY, Inc.)

靴の種類と性別を考慮して埋込

スニーカー&女の子向け

スポーツシューズ&女性向け© 2017 VASILY,Inc.

D1-51

.
"

LD
"

G

#

#

Aim: To estimate a probability by using a valid distance.
Approach: use Maximum Mean Discrepancy (MMD)

Expectation can be replaced with sampling.

But suffers from high varianceD1-51

.
"

LD
"

G

#

#

Remedy: 1. Partially solve the integral analytically

2. Learning a class-conditional generative model(on going)D1-52: Direct Log-Density Gradient Estimation with
Gaussian Mixture Models
Qi Zhang, Hiroaki Sasaki, Kazushi Ikeda (NAIST)

Goal: A novel estimator for the gradients of log-densities.
Approach:
Directly estimate the gradients of logdensities without resorting to density
estimation.
Learn log-density gradient correlation
structure by Gaussian mixture models.

Advantage:
Auto determines # of clusters.
Works well when the sample
has a high correlation.

Application:
Mode-seeking clustering.
1, Using the proposed method forgradient estimation.
2, A fixed point algorithm for modeseeking.
  

Sasaki, Hiroaki, et al. "Mode-Seeking Clustering and Density Ridge Estimation via Direct Estimation of Density-Derivative-Ratios." arXiv preprint arXiv:1707.01711 (2017).APA
Fukunaga, Keinosuke, and Larry Hostetler. "The estimation of the gradient of a density function, with applications in pattern recognition." IEEE Transactions on information theory 21.1 (1975): 32-40.

D1-52: Direct Log-Density Gradient Estimation with
Gaussian Mixture Models
Qi Zhang, Hiroaki Sasaki, Kazushi Ikeda (NAIST)

Goal: A novel estimator for the gradients of log-densities.
Approach:
Directly estimate the gradients of logdensities without resorting to density
estimation.
Learn log-density gradient correlation
structure by Gaussian mixture models.

Advantage:
Auto determines # of clusters.
Works well when the sample
has a high correlation.

Application:
Mode-seeking clustering.
1, Using the proposed method forgradient estimation.
2, A fixed point algorithm for modeseeking.
  

Sasaki, Hiroaki, et al. "Mode-Seeking Clustering and Density Ridge Estimation via Direct Estimation of Density-Derivative-Ratios." arXiv preprint arXiv:1707.01711 (2017).APA
Fukunaga, Keinosuke, and Larry Hostetler. "The estimation of the gradient of a density function, with applications in pattern recognition." IEEE Transactions on information theory 21.1 (1975): 32-40.

D1-53 K 5G8>B3HA;:H6)2+-

.4C?7DH/(

C (context)
..
.



1'0

*
! / AIP
&J"V(vocabulary)..
.

wt ’s context..
.

Xvis (visual data)

wt
..
.

)
5G8>B3HA;:H6)

Caption ID
AD




?F9H<I7DH%$Avis
300 ~ 1000-dim

2,-4C?7DH/@5=E#

D1-53 K 5G8>B3HA;:H6)2+-

.4C?7DH/(

C (context)
..
.



1'0

*
! / AIP
&J"V(vocabulary)..
.

wt ’s context..
.

Xvis (visual data)

wt
..
.

)
5G8>B3HA;:H6)

Caption ID
AD




?F9H<I7DH%$Avis
300 ~ 1000-dim

2,-4C?7DH/@5=E#

















D1-55密度比推定を用いた
条件付き相互情報量の近似
高品佑也（早大）・中谷秀洋（サイボウズ・ラボ）・井上真郷（早大）

Markov確率場の構造推定
・辺の有無が条件付き独立性に対応
・条件付き独立性は条件付き相互情報量に対応
𝐼 𝑋𝑖 , 𝑋𝑗 𝑿\ 𝑖,𝑗⊥ 𝑋𝑗 ∣ 𝑿\ 𝑖,𝑗= 0 ⇔ 𝑋𝑖 ⊥⇒条件付き相互情報量が分かればグラフ構造が分かる
本研究
・すべての変数が連続な場合に密度比推定により条件付き相互情報量を近似・密度比推定の基底が無相関Gauss分布の場合に正規化定数の計算を高速化 𝑂 𝑁 3 → 𝑂(𝑁)D1-55密度比推定を用いた
条件付き相互情報量の近似
高品佑也（早大）・中谷秀洋（サイボウズ・ラボ）・井上真郷（早大）

実験 1: 多変量Gauss分布

実験 2: 混合Gauss分布(条件付きでない)
相互情報量だと偽相関を含む。

Graphical lasso
だと非線形な
関係が取れない。

鎸鶢ꞿ剑㼭⾱椚‫ח‬㛇‫ֻב‬‫ـ‬٦‫؍ذأ‬ٝ‫ؚ‬加㷕统‫ך‬傍劍⨡姺㛇彊

D1-56

蔃歊䝏➜ 匌❨㣐㷕 $3&45 㿊銮⨳぀ 匌❨㣐㷕 $3&45

㷕欰⮚猕‫ئٖف‬ٝ‫ذ‬٦‫ّء‬ٝ颣㼎韋#PPTUFE5SFFT‫ך‬㷕统‫ך‬傍劍⨡姺㷕统‫ر‬٦‫ة‬
䲿周䩛岀

˘

̔

加ָ㢳‫˘ה׷ֺׅ‬麓㷕统ծ鎘皾‫زأ؝‬㣐加ָ㼰‫˘ה׷ֺׅז‬
劢㷕统

˘

黝ⴖ‫ז‬傍劍⨡姺㛇彊ָ䗳銲㔐䌓加‫ر‬٦‫ٕرٌהة‬‫ؒ׾‬ٝ‫؝‬٦‫س‬

̔


˘

‫ر‬٦‫ךٕرٌהة‬鎸鶢ꞿָ剑㼭‫זֲ״׷זה‬加‫ך‬侧‫ד‬㷕统‫⨡׾‬姺

••$7‫׶״‬鎘皾‫زأ؝‬⡚⮚‫׋׸‬害⻉䚍腉鎸鶢ꞿ剑㼭⾱椚‫ח‬㛇‫ֻב‬‫ـ‬٦‫؍ذأ‬ٝ‫ؚ‬加㷕统‫ך‬傍劍⨡姺㛇彊

D1-56

蔃歊䝏➜ 匌❨㣐㷕 $3&45 㿊銮⨳぀ 匌❨㣐㷕 $3&45

㷕欰⮚猕‫ئٖف‬ٝ‫ذ‬٦‫ّء‬ٝ颣㼎韋#PPTUFE5SFFT‫ך‬㷕统‫ך‬傍劍⨡姺㷕统‫ر‬٦‫ة‬
䲿周䩛岀

˘

̔

加ָ㢳‫˘ה׷ֺׅ‬麓㷕统ծ鎘皾‫زأ؝‬㣐加ָ㼰‫˘ה׷ֺׅז‬
劢㷕统

˘

黝ⴖ‫ז‬傍劍⨡姺㛇彊ָ䗳銲㔐䌓加‫ر‬٦‫ٕرٌהة‬‫ؒ׾‬ٝ‫؝‬٦‫س‬

̔


˘

‫ر‬٦‫ךٕرٌהة‬鎸鶢ꞿָ剑㼭‫זֲ״׷זה‬加‫ך‬侧‫ד‬㷕统‫⨡׾‬姺

••$7‫׶״‬鎘皾‫زأ؝‬⡚⮚‫׋׸‬害⻉䚍腉D1757
P.C.!Nagesh!()!(
NAIST/NICT

	

!
!
:!!
1.

,!

2.
!

!

1.
2.

→

Aizu!Online!Judge

hCps://aistairc.github.io/plu/,!

D1-58

学生優秀プレゼンテーション対象

条件付き変分オートエンコーダを用いた俳句生成
川島寛乃

研究方法

河野慎

俳句

アプローチ

中澤仁（慶應義塾大学）

俳句の言語モデルの推定

生成過程
季語

米澤拓郎

推論過程

感情や思いなど表現に表…ガウス分布れていない部分の要素…マルチヌーイ分布

条件付き変分オートエンコーダの適用
出力をEncoderとDecoderの先頭に入力•

俳句には文脈の流れがある•

季語のベクトル表現を獲得

•

音数の考慮

EncoderにLSTMを採用

CNNを採用

俳句と季語をひらがなで扱う
実験

データセット：Webから収集した俳句(168819句)

D1-58

学生優秀プレゼンテーション対象

条件付き変分オートエンコーダを用いた俳句生成
川島寛乃

研究方法

河野慎

俳句

アプローチ

中澤仁（慶應義塾大学）

俳句の言語モデルの推定

生成過程
季語

米澤拓郎

推論過程

感情や思いなど表現に表…ガウス分布れていない部分の要素…マルチヌーイ分布

条件付き変分オートエンコーダの適用
出力をEncoderとDecoderの先頭に入力•

俳句には文脈の流れがある•

季語のベクトル表現を獲得

•

音数の考慮

EncoderにLSTMを採用

CNNを採用

俳句と季語をひらがなで扱う
実験

データセット：Webから収集した俳句(168819句)

IBIS 2017 ディスカッショントラック

D1-59: 交差検証による正常データ選別の自動化
鈴木英明，藤原淳輔，石田響子，河野敏明（(株)日立製作所 研究開発グループ）■課題：学習させるデータの適切なラベリング
・様々な機器や設備の状態は，正常・故障の二元論で定義できるものではなく，正常から少し外れた状態や故障の前兆段階まで様々な状態が存在する・機械学習を用いて時系列データに基づき異常検知を行う場合，「正常データ」を学習し再構成誤差を指標とする方法では，「正常データ」の与え方そのものが重要であり，機器の「正常」を規定する
ことは実際には難しい■アプローチ：交差検証によるスコアリング
・交差検証としては，K-分割やleave-one-outが用いられるが，分割の仕方や学習と検証データの比率について調べた例はあまり見当たらない・本研究では，分割単位などについて実データを用いて比較検討を行い，最適な「学習データ」の選択について考察する© Hitachi, Ltd. 2017. All rights reserved.

IBIS 2017 ディスカッショントラック

D1-59: 交差検証による正常データ選別の自動化■分割単位・分割数あるいは分割長による違いはあるのか？
■学習・検証データの比率
・学習用と検証用のデータの比率はどのくらいが適正か？
・比率の最適値があるとしたら，何に依存しているのか？

最適な分割数・分割長？

学習用

検証用

■スコアリングに基づく「正常データ」の選択
・交差検証を援用し，再構成誤差をスコアに使う場合，自動的にその閾値を決定するには基準をどのように定めるべきか？

© Hitachi, Ltd. 2017. All rights reserved.

Session D1-60

IBIS2017, Tokyo

D1-60: フルプロクルステス距離の拡張とその距離計量学習:mRC`9EnVXx (NaSt[A)• 37.2#D
ce IWBFrqIWLPqKmÔÑìæêÐ

Yg<IWw(_37.2#)• /516#5&+&FrdZTy IW82
11
 o\
FrJuAU
5|p 1 1 2 &24qdbl^&%47$AU
2
4
qKmÔÑìæêÐñ2[ºqKmÔÑìæêÐñ2[º3/516#5&+&Fr?] o\=K of line drawings
in three shape classes: Figure
X,
1. Example of line drawings in three3 shape classes: X,
1

2 2

Figure 2. Example4of line drawings
in three shape classes: Blue- Figure 2. E
3
4
3
非等方的
square root,
andJapaneseT.
tooth,
postal mark, and fish.
1 2 tooth, Japa

1 1. Example 1of 1line drawings
1 1 1 2X,2Figurein three shape1classes:
5|p
5|p
square root, and T.
4
22
2
4 4

4

2

22 drawings
11 of line&&
スケーリングFigure 2. Example
in three shape classes:1Blue1

1 postal mark,22 and fish.
tooth, Japaneseas counted by looking through line draw44 by looking
33
33
top
20
matcheswascountedthrough line draw4
3
3
matcheswascountedbylooking
throughline
drawund in 4top
the420first20
most
similarmatches
3
3
4 first 20
4 4that1 were
33 found in 4the33 most similar matches
4ings that
were
found
the first
20 mostingsL%
22
use everyclass
had
20 inline
drawings
insimilar11matchesby distance. Because every class had 20by
linedistance.
drawings
in22Because every class had 20 line drawings in
1
e total thenumberofcorrect
matcheswasat• L2 dºÕèò
test dataset, the total number of correct matches was at

2

3
3
1

Session D1-60

IBIS2017, Tokyo

形状データセットに対しての検索率(%)
データセット

距離X,jlO,TYg<bluetooth,pkH,
GYg<

ETHZ(Ferrari,2009)

hi16#5&+&Fr

81.0

99.4

97.6

427Fr

81.0

99.4

97.6

/516#5&+&Fr

81.0

99.4

97.6

拡張フルプロクルステス距離 95.1

100

98.3

• LPs05'!"f;(Bulls-eye test)JQ • >,)(*-Yg<v@IW4,6,6_
37.2#eM 
従来の形状距離よりも検索率が高い
V. Ferrari, “ETHZ shape classes,” http://www.vision.ee.ethz.ch/datasets/index.en.html, Sep. 2009.

2

Session D1 -61

IBIS2017

D1-61近傍標本点の対応を考慮した形状間の対応づけとその計算コストの削減AlW0-\'0mMPu:]CsW*• 9 L K%US)3O,1q#B
3O4@be!

• 1q3O,V( Q>%U! V(  ,&N>"#F_ZR!2kdl[hU#;tHj#Y$!

• Y$Hj#g/6Xj!2D#B=TG<
1
!ij4^!

Session D1 -61

IBIS2017

手法

近傍標本点数
1

2

3

IpHj

67.075(2g31f)67.075(2g31f)67.075(2g31f)?2k[.J(g/6Xj!
2D )67.625(4g57f)

67.55(4g56f)

67.55(4g58f)?2k[.J(2D)

67.625
n11a

67.55
n11a

67.55
n11a

+7`G5G<E,
2kdl[hU#;t"#;ti 4@r+7`c?2k[.J=

g/6Xj!2D



o8
2

(

-/

1

2

:
)

▌
0/

Z

/

1
E

2

E
CZ
o

n

P

o

o

E

Zur
Z

E
Z

el

▌

t

ü
E
üp
ü

elN
+7 /

GP

il

E
a

Z

P

)

CZ

c

Z

Pt

▌

6

g

s E
cE

(

-/

1

2

:
)

▌
0/

Z

/

1
E

2

E
CZ
o

n

P

o

o

E

Zur
Z

E
Z

el

▌

t

ü
E
üp
ü

elN
+7 /

GP

il

E
a

Z

P

)

CZ

c

Z

Pt

▌

6

g

s E
cE