T2-1 幾何学的双対表現を用いた部分観測マルコフ過程の近似的価値反復アルゴリズム
塚原裕史、安倍満、大林真人（（株）デンソーアイティーラボラトリ）
アルゴリズム① 幾何学的双対変換により、価値関数を双対空間における点群の凸包上辺へ写像② 双対空間における点群をクラスタリングし、近似凸包を高速計算③ 双対空間における方向余弦を離散化し、近似凸包の上辺を抽出
価値関数

実験結果

①②③幾何学的双対変換

クラスタリング方向
離散化

状態数：８、観測数：６、アクション数：５

価値反復実行時間

価値ベクトル数

価値ベクトル数（拡大図）

期待割引報酬

T2-2

交換MonteCarlo法を用いた規格化定数近似による
自然画像事前分布の性能比較

松尾篤樹, 大田垣徹
井上真郷
(早稲田大学)画像に対する事前分布を比較し自然画像全般に最も当てはまりの良い分布を見つける
自然画像データセット

平均Shannon情報量を算出し圧縮率として比較
10.90.8

𝑁0.7

圧縮率

11
෍ log
𝑁
𝑃𝑇𝑉 𝒙 𝑖𝑖=10.60.50.40.30.20.1

事前分布

0SLGD

SARTVHuber

規格化定数𝑍 𝜽 は計算困難

𝑍 𝜽 = ෍ exp −𝛽𝐻(𝒙)𝒙

熱力学的積分法
1ln 𝑍 𝛽 = 1, 𝜽 = ln 𝑍 𝛽 = 0, 𝜽 − න 𝐻 𝒙; 𝜽0𝑃 𝒙;𝜽,𝛽 𝑑𝛽

積分項をMonte Carlo積分で近似比較に用いた4つの事前分布の中ではTotal Variationが最も性能が良く、一様分布に対して約66％に圧縮できることが分かった※学生優秀プレゼンテーション賞対象

T2-3 ガウス過程と動的計画法を用いたプロトン伝導度推定
金森 研太(名工大), 豊浦 和明(京大), 中島 伸一(ベルリン工科大), 世古 敦人(京大),烏山 昌幸(名工大), 桑原 彰秀(JFCC), 本多 淳也(東大), 設楽 和希(JFCC), 志賀 元紀(岐阜大), 竹内 一郎(名工大)問題設定

プロトン伝導度はエネルギー曲面(PES)上のプロトン伝導経路から求めることができるが, PESの評価は高コスト提案法• ガウス過程と動的計画法を組み合わせることで, 一部のPESの情報からプロトン伝導度を推定• 選択的サンプリングによって推定精度を効率よく向上

学生優秀プレゼンテーション賞対象

適応的劣最大化型能動学習藤井海斗（京大M2）、鹿島久嗣

型能動学習

最適化問題型能動学習型能動学習
集合

既知

更新

予測
選択

適応的劣

T2-4

更新

付与

最大化
学生優秀決化新（本研究）
賞対象、NIPS2016発表予定

T2-5

K-Means法による攻撃検知－教師あり学習手法との比較－

新潟県⽴⼤学高原尚志

攻撃検知に機械学習が利⽤される場合が多い。
本研究では、より効率的な攻撃検知を目指して、それぞれの特色を分析し比較する
教師あり学習学習データにない攻撃の検知率は低い

教師なし学習（K-Means) 学習データにない攻撃を検知できる可能性（⻑所）学習データにあるなしに関係なく攻撃を検知できる（短所）攻撃通信と正常通信の割合が影響する

教師なし学習（K-Means法）に着目して、攻撃検知に関しての特徴を分析
データセット KDD Cup 99 Dataset

攻撃・正常の割合別分析
クラスタ数別分析➡
➡

正常が多くなると検知率が向上
クラスタ数５以上で高い検知率

その他、X-Means、K-Means++との比較

非負値行列分解の実対数閾値とBayes学習への応用
T2-6 林 直輝・渡辺 澄夫(東京工業大学)

主定理
𝐾 = [0, 𝑐](𝑐 > 0) とする．一変数複素函数

再構成行列

観測行列

非負値行列分解における観測行列と再構成行列の内部次元𝐻0 , 𝐻を与えたとき,このモデルの実対数閾値の上界を導出したは複素数平面全体に有理型函数として解析接続できる．その極はすべて負の有理数であり最大極の絶対値𝝀を非負値行列分解の実対数閾値という．このとき𝜆は次の不等式を満たす：

観測行列と再構成行列間のBayes汎化誤差の平均値を理論的に評価した

学生優秀プレゼンテーション賞対象

T2-7 渡邊千紘 中野允裕有限の直径を持つ無限グラフ
武小萌 川西隆仁 平松薫 柏野邦夫（NTTコミュニケーション科学基礎研究所）
概要

提案モデルの構成

無限グラフ（頂点数𝑁 →∞）を表す確率モデルに有限の直径を埋め込むことに成功！

①頂点集合の分割から木※を生成

確率モデル

無限サイズ

⟺⋯

②𝑁個の木※の足し合わせ⋮
直径：グラフ
上で最も離れた人同士の最短パス長※正確には，完全二部グラフを内部に含む，木と類似したグラフ

変分ベイズ法を用いたクラスタ構造の変化抽出

T2-8【発表者】梶 大介（デンソー） 渡辺一帆（豊橋技科大）背景

IoTによるビッグデータの解析へのニーズに伴い、オンラインのクラスタ構造解析へのニーズが高まっている.
目的
混合指数分布を例として変分ベイズ法のオンライン化を⾏い、相対エントロピーを用いた確率構造変化の抽出方法を提案する.
方法
変分自由エネルギーを構成する以下の相対エントロピー項に注目し、オンライン化することでクラスタ構造の変化を抽出する．

:Bays事後分布

結果:変分Bays事後分布

パラメータに関する相対エントロピーを観察することでクラスタ数の変化、配分率、指数分布のパラメータ変化の影響を検出可能オンラインアルゴリズムの性能（真の分布とのKL距離）

指数分布パラメータが変化した場合

OnlineVB

VB※解析に利用したデータ数は約10倍OnlineVBの方が多い

結論

分布構造変化点

分布構造変化点

オンラインアルゴリズムは予測アルゴリズムとしても優れ、パラメータの相対エントロピーを⾒ることで⼩さな構造変化も検出可能

This information is the exclusive property of DENSO CORPORATION. Without their consent, it may not be reproduced or given to third parties.

T2-9 Stochastic Particle Gradient Descent for
the Infinite Majority Vote Classifier
Atsushi Nitanda 1,2

Taiji Suzuki 1,3,4

1. Tokyo Institute of Technology, 2. NTT DATA MSI., 3. Presto, JST, 4. AIPC, RIKEN

1. The infinite majority vote for binary classification: 2. Stochastic Particle Gradient Descentℎ𝜃 𝑥 : 𝒳 → −1,1 : 𝑏𝑖𝑛𝑎𝑟𝑦 𝑐𝑙𝑎𝑠𝑠𝑖𝑓𝑖𝑒𝑟,𝑞: 𝑑𝑒𝑛𝑠𝑖𝑡𝑦 𝑓𝑢𝑛𝑐𝑡𝑖𝑜𝑛 𝑜𝑛 Θ (𝑠𝑒𝑡 𝑜𝑓 𝜃).
ℎ𝑞 𝑥 = ∫ ℎ𝜃 𝑥 𝑞 𝜃 𝑑𝜃: 𝑖𝑛𝑓𝑖𝑛𝑖𝑡𝑒 𝑚𝑎𝑗𝑜𝑟𝑖𝑡𝑦 𝑣𝑜𝑡𝑒.
1min ℒ𝜇 𝑞 =𝑞∈𝑄𝑁𝑁

𝑗=1

𝑦𝑗 ℎ𝑞 𝑥𝑗
exp −𝜇𝑞𝜙# 𝑞

𝑞 → 𝜙# 𝑞: 𝑢𝑝𝑑𝑎𝑡𝑒, 𝜙: 𝑑𝑖𝑓𝑓𝑒𝑜.

Contributions: - Analyses of the infinite majority vote classifier.
学生優秀プレゼンテーション賞大賞- Convergence analysis of Stochastic Particle Gradient Descent.

T2-10正例とラベルなしデータからの分類に基づく†
半教師付き分類東京大学
坂井智哉† Marthinus C. du Plessis† Gang Niu† 杉山将†† †††理化学研究所

目的： 正例，負例，ラベルなしデータから分類器を求める
ラベル付けのお金がない
そんなときに！

本研究のアプローチ：I have
PN分類
Positive Negative
正例と負例

I have PU分類
PositiveUnlabeled

正例とラベルなしデータ

Uh! PNPU分類!
正例と負例とラベルなしデータ

決定境界

教師付き分類正例とラベルなしデータからの分類
このあとPNNU分類をつくります

学生優秀プレゼンテーション賞対象

半教師付き分類

Importance Weight Aware Update %&'$#!""
  -Incremental Natural Actor Critic with Importance Weight Aware Update0 1 0 10 1• Reinforcement Learning :: Policy Search :: Natural Policy Gradient@ hE@w ✓⇡>w r✓ ln ⇡✓2i

w=G=01@J(✓)(✓)@✓w00ww⇡✓⇡✓ 00⇡✓00+-).*/(,.

CVT2-12&6 4Teapv%BUFK]
*.lrft
njmgbe!?@-uA (w0'xDC! = ($% , … , $( ):Dhvdot=;@*ctlq/ = (/% , … , /( )s.t. ∑- /- = 1

eapv%B* ! = + , $-: `tiskv,VUZ\!?T@V9V ">H+T]• 5@_87 4G?
•4T[Xynjmgbe!?T@SOV "rviW?

<)••

5@_87RITE,VEJQGV #_ [GUMPL^YRV,/R#Rnjmgbe!?T@_$=> OV@V5@HN],V231_ [GUMPT2-14,,,,vua, b.

0.95
RMSE

0.9
0.85
0.8aa0.75
0.7bbT2-15

Wavelet木構造を用いた複数コイルMR画像のMAP推定
笠原勇布・井上真郷（早大）・富樫かおり（京大）• MR画像再構成にはスパースモデリングを利用• 既存：wavelet木構造正則化を近似的に適応• 提案：近似を用いずにＭＡＰ推定変数のグループ• 近似を用いたwavelet木構造の疎性よりも画質の改善
学生優秀プレゼンテーション賞対象

T2-16 リカレント型神経回路モデルに埋め込まれた低次元アトラククターの動的モード分解による抽出˓ଜా৳ɼԬాਅਓʢ౦େɾ৽ྖҬʣֶੜ༏लϓϨθϯςʔγϣϯ৆ର৅

連想記憶モデル

動的モード分解[C.W. Rowley+ 2009, P.J. Schmid 2010]
データ空間基底Ψ0Φ

動的性質の変化→固有値の変化

安定状態

準安定状態

リミットサイクル

係数

Dα

固有値1, λ2, …, λΤ1

位相情報の抽出ランダムウォークによる擬似文書を用いたトピックモデルの学習

T2-17

野沢健人，若林啓（筑波大）※学生優秀プレゼンテーション賞対象

課題: 短文書に対するLDAのトピック推定は困難

手法

1. 短文書から単語の共起グラフを構築
2. 各ノードを開始ノードにしたランダムウォークを行う
3. ウォークを擬似的な文書としてLDAを学習
IT company applecompany, apple,
IT

juice

good, apple, …



good apple juice

apple

good apple pie
recipe

短文書集合 (ex. Twitter)company…

goodpie

ランダムウォーク

 recipe

IT, company,apple, pie, …

擬似文書集合バンディットアルゴリズムを用いた
T2-18
メンテナンスタイミング適正化○桐淵大貴・西川武一郎（東芝）
z 何日おきにメンテナンスするとコスト最小となるか？
スロット台に対応

通常のバンディット問題

スロット台

選択スロット台の報酬のみ得られる
報酬台3(選択スロット台)

台2台1
1回目 2回目 3回目 4回目 5回目

試行回数

報酬：スロット台に挑戦して得られる報酬

報酬最大化に対応
メンテナンスタイミング適正化

選択タイミングより短いタイミングのコストも得られる
タイミング

問題設定

3日

コスト

2日

コスト

(選択タイミング)(選択タイミング以外)

1日
1回目 2回目 3回目 4回目 5回目

試行回数

コスト：装置稼働中にトラブルが発生することによるコスト

成果

150

第19回情報論的学習理論ワークショップ（IBIS2016）

fixedregretz コスト情報を全て活用できるようにバンディットアルゴリズムを応用
数値実験により装置の保守コストを削減できることを示した

policy100

epsilon_greedy
UCB1
Thompson_sampling

50

0
10

100time© 2016 Toshiba Corporation

1000

T2-19

学生優秀プレゼンテーション賞対象

無限層デノイジング・オートエンコーダーの輸送理論解釈
DAEの輸送写像を陽に計算した

無限に合成すると逆拡散になる

脱，ディープラーニングなるか？

早稲田大学

園田翔，村田昇

Shallow

Deep

Entropy Gradient Flow[T2-20]区間データに対する経験損失最小化とそのプライバシー保護への応用
花田 博幸* 高田 敏行* 柴垣 篤志* 佐久間 淳** 竹内 一郎*（*：名古屋工業大学、**：筑波大学）

プライバシー保護などを理由に、機械学習において、訓練データの各値が区間で与えられるとする。

データが区間内を動いたとき、学習結果が取りうる範囲を求めたい。

• 区間解析を用いる方法もあるものの低速。
• 高速に求めるため、強凸関数の性質を用いる。

T2-21:()()(Cover & Van Campenhout, 1977)

Lasso(Tibshirani 1996)
ARD(MacKay & Neal 1994)

MCMC(Shao et al. 1993, George et al.
1993)(Kim et al.
2006) SA(Obuchi & Kabashima 2016)

KT2-27

T2-22

クラスタリングを活用した教師なし学習による不完全なデータセットにおける転移学習の検討
株式会社日立製作所 石川昌義

既存機種の稼働データと新機種の稼働データをマッチングする手法を開発
異常発生時などの収集困難な稼働データを新機種のデータ空間に射影することでクラス情報に欠損のある少量の稼働データで新機種の異常検知，異常診断を行う
目標ドメイン（学習）：【目的】
1クラスのみ目標ドメインの分類【データ】
元ドメイン（全クラス）
目標ドメイン（1クラス）【提案手法】
教師なし学習（クラスタリング）と設計した指標により両ドメインで共通する特徴点を抽出する．共通する特徴点の座標が一致するような変換を導出し元ドメインから目標ドメインにデータを転移させる【実験結果】
提案手法が比較手法より精度よく目標ドメインのデータを分類できることを数
元ドメイン：
目標ドメイン（診断）：値実験で確認した3クラス（全クラス）
3クラス© Hitachi, Ltd. 2016. All rights reserved.

T2-23

音楽音響信号に対する多重音高推定と和音構造学習のための階層ベイズ音響・言語統合モデル
尾島優太・中村栄太・糸山克寿・吉井和佳（京都大学 大学院情報学研究科）

学生優秀プレゼンテーション賞対象

教師無しで学習可能

演奏の背後に存在する音符と和音構造からスペクトログラムから生成される階層ベイズモデル

学生優秀プレゼンテーション賞対象

滑らかなテンソル分解

T2-25

今泉允聡（東大） 林浩平（産総研）

提案法

ValueumnRCol

行列（2次テンソル）

主張

高次元化

ow

値をZ軸へ隣接した要素は近い値（例：時系列データ）

滑らかな関数として分解上の隣接性が満たされるとき

通常の分解の誤差

滑らかな分解の誤差学生優秀プレゼンテーション
賞対象

T2-26: マルチチャネル音源分離のための低ランク音源モデルとスパース重畳過程に基づくネスト型ベイズ混合・因子モデル

板倉 光佑, 坂東 宜昭, 中村 栄太, 糸山 克寿, 吉井 和佳, 河原 達也 (京都大学)

目的:マイクロホンアレイで録音したマルチチャネル混合音の音源分離
音源と混合音の生成過程をネスト型ベイズモデルで表現
各音源のパワースペクトログラム

音源1

音源2

観測マルチチャネルスペクトログラム

音源1

混合音のパワースペクトログラム

位相情報付与

音源2

T2-27 SVM

1(ES-SVM)
1

1(A) Lasso

(B)
T2-21

5→.VerT2-28Multimodal DNN'&(#!$#$DNN'&!"
(%

T2;29A"Generalized"Model"for"Multidimensional"Intransitivity    

Jiuding Duan*,"Jiyi Li,"Yukino Baba,"Hisashi Kashima"(Kyoto"Univ.)?

How+to+learn+intransitivity;compatible+representations?
Weighted
Directed+Graph

Multidimensional
EmbeddingT2-30:πΝϦεΤϯτϩϐʔͱՃ๏తΤϯτϩϐʔ
福岡大学

田中勝

事象 X と Y が独立のとき Tsallis エントロピーʢඇՃ๏తΤϯτϩϐʔʣST sallis (p̌X p̌Y ) = ST sallis (p̌X ) + ST sallis (p̌Y ) + (1-৘ใ‫ز‬Կֶs) ST sallis (p̌X ) ST sallis (p̌Y )Sc(p̌X p̌Y ) = Sc(p̌X ) + Sc(p̌Y )0XYεέʔϧม‫׵‬Λಋೖ

加法的エントロピー

ホログラフィー原理=

1(1s) Sc(p̌X ) Sc(p̌Y )1( Xs1) ( Y 1)
1
X + Y

000
Sc XY(p̌X p̌Y ) = Sc XY(p̌X ) + Sc XY(p̌Y )౳Ձʁエンタングルメント・エントロピー

઀৮ߏ଄
劣モジュラー性