情報系 WINTER FESTA Episode3

２０１７年１２月２６日

理化学研究所
革新知能統合研究センターセンター長 杉山 将

2

文科省AIPプロジェクト（2016~）：
人工知能/ビッグデータ/IoT/
サイバーセキュリティ統合プロジェクト
理化学研究所
AIPセンター
AIPセンター（理化学研究所）
事業
1.
2.
3.
4.
5.

次世代基盤技術開発
一体的サイエンスを発達に実施
社会実装に貢献
倫理・社会的課題への対応
人材育成

科学技術振興機構
AIPネットワークラボ
ファンディングAIPセンターの研究体制

3

2017年12月1日現在

世界を取り巻く広範な人工知能の応用分野（企業・大学・研究所・理研内他センターなど）
目的指向基盤技術研究グループ：
実世界の複雑な問題を解決可能な形に抽象化（PI:22名，研究員等：82名，研修生等：62名）

総勢
410名
以上

汎用基盤技術研究グループ：
抽象化された問題を解決する汎用技術の開発（PI:20名，研究員等：78名，研修生等：47名）
社会における人工知能研究グループ：
人工知能の普及に伴う社会的影響を分析（PI:8名，研究員等：19名,研修生等：8名）

NEC
富士通
東芝連携センター（PI:5名，研究員等：45名,研修生等：2名）

目的指向グループ4 方針：Google等とは予算規模が2~3桁違うため，直接競合を回避：
 日本が強いサイエンス分野をAIで更に強化
 国内で取り組む必要のある社会的課題の解決に貢献
 自然災害の防災・減災（AICS，内閣府SIP，東大地震研）：
 スパコンによる超大規模物理シミュレーションを用いて学習したAIに基づく超高効率地震動強度マップ推定法を考案．SC2017ベストポスター賞．
 医療診断補助システムの開発：
 世界トップレベルの精度を持つ大腸がんの実時間内視鏡画像解析システム（国がん）．その他，複数の成果（秘） インフラ管理・保守（内閣府SIP）：
 ドローンの自律移動，インフラ損傷の自動検出・分類
 機能材料開発の効率化：
 新規タンパク質，新規熱輻射材料の効率的開発

社会グループ 方針：
 AIの社会的影響を分析し，国際的に情報発信AIの倫理： 総務省AIネットワーク社会推進会議の報告書のとりまとめに貢献 世界的に影響力のあるIEEE Global AI Ethics
Initiativeの報告書第2版のとりまとめに貢献 社会的影響を考慮した機械学習技術の開発：
 プライバシー保護を念頭に置いた

機械学習技術を開発
 個人履歴データの匿名化と再識別コンテスト２年連続優勝

5汎用グループ 方針：インクリメンタルでない次世代AI基盤理論の構築と実用的アルゴリズムの開発

機械学習のアルゴリズム開発

推論・探索・検定のアルゴリズム開発

高次元，不完全，不確実，ノイズのある，局所的な情報からの学習 マルチモーダル，順序，テンソル，圧縮などの構造データからの学習 オンライン，非定常，逐次意思決定などの系列データからの学習

因果推論
 近似ベイズ推論
 並列探索 仮説発見 仮説検定 マルチエージェント

問題解決手法の開発
学習理論の構築

最適化理論の構築

深層学習の汎化解析
 深層学習の解釈性の理論
 非凸最適化の有効性解析
 機械学習のロバスト性解析
 メカニズムの定量的評価

組合せ最適化
 凸最適化 確率的最適化 並列化
 大規模化



基礎数理

6

汎用グループ 成果：

 今日の発表メンバー：

限られた情報からの学習法
敵対的生成ネットワーク学習法
ネットワーク成長データの学習法
時空間データの学習法
圧縮データの学習法
予測メカニズムの因果推論
マルチモーダル多変量解析
構造正則化非負値テンソル分解
高次元離散確率分布の学習法
密度稜線の推定法
ロバスト密度比推定法
大規模確率的最適化手法
大規模近似ベイズ学習手法
大規模凸差最適化手法
オンライン凸最適化手法
安定マッチング手法
深層学習の汎化の理論
行列分解の理論
ICML2017（全433件）：
選択推論の漸近理論
AIP関連9件／日本11件
ロバスト推定の理論
NIPS2017（全678件）：
勾配流の理論
AIP関連13件／日本19件
・・・ Emtiyaz Khan
 三内 顕義 森富 賢一郎
 二見 太 木了 龍一 Liyuan Xu
 長 隆之 坂井 智哉
 （石田 隆）

7

Vprop: Variational Inference using RMSprop
Mohammad Emtiyaz Khan, Zuozhu Liu, Voot Tangkaratt (AIP RIKEN), Yarin Gal (Oxford University)• Scalable estimate uncertainty in deep learning?
• Variational Inference using implementation ofRMSprop with just two minor changes• Scales to extremely large problems with very little
implementation effort

1

Main Features of Vprop• Based on Information geometry– Natural-gradient (difficult) == Mirror descent (easy)– Conjugate-Computation Variational Inference Methodof Khan and Lin, 2017

• Vprop is similar to perturbed version of– Newton’s method, Natural-Gradient Descent,
Extended Kalman Filters• Check out another paper on Variational Newton
Method (VAN) for black-box optimization.
– https://emtiyaz.github.io2

Structure of loss surfaces
Theorem(S): Fix samples. Let X be the loss surfacesof a ReLU-NN (squared error) . Then, X is a semi
algebraic set, whose shortest division is given bySing(X) (the set of non-inﬁnitely diﬀerentiable points).
Futhermore, in each religion, path (xi , !) (ReLUactivity) does not depend on ! , where xi is a sample.
Deep path notion;(H+1)

hk(x) = ⌃path xpath path (x, !)! path,kmeaning of theorem
Weight space(can be identiﬁed with loss surf.)

w 2 Rnui = 0On each Xi , path (xi , !)does not depend on !

Xj

XiCurves correspond to Sing(X)ui is a virtual polynomial appeared ina node and a sample.

uj = 0Conjecture
Under some generic condition,
Sing(X) determines the structure of DNN(number of Layers and nodes).
Sing(X) might also determines samples.

Optimal mistake bounds for binary matrix completion via
the log-determinant regularization
Ken-ichiro Moridomi (Kyushu Univ./RIKEN AIP),Kohei Hatano (Kyushu Univ./RIKEN AIP), Eiji Takimoto (Kyushu Univ.)
For 𝑡 = 1, … , 𝑇

Online binary matrix completion𝑚 × 𝑛 binary matrix

𝑈

123?

++?

+−?

−?

−?

+−

54−

1

Receive𝑖𝑡 , 𝑗𝑡 =(?

2Predict
𝑦𝑡 = +1 or −1,)

Algorithm3Loss
1 if 𝑈𝑖𝑡,𝑗𝑡 ≠ 𝑦𝑡

• We reduce it to an online prediction of positive semidefinite matrices.
1 Predict matrix 𝑊𝑡 ≽ 0For 𝑡 = 1, … , 𝑇
3Loss
Tr 𝑊𝑡 𝐿𝑡
Environment

Receive matrix 𝐿𝑡

2 Algorithm

Algorithm

Follow the Regularized Leader

𝒦 is a bounded subset of positive semidefinite matrices.
Regularizer 𝑅 defines the algorithm.

𝑊𝑡+1 = argmin𝑊∈𝒦 𝑅 𝑊 + 𝜂𝑡
𝑠=1 Tr 𝑊𝐿𝑠

Regularizer
Herbstar et al., 2016

𝑅 𝑊 = Tr 𝑊log𝑊 − 𝑊

Our algorithm

𝑅 𝑊 = −log det 𝑊 + 𝜖EResults• Derive the mistake bound Improve [Herbster+.2016] in log 𝑚 + 𝑛 factor.
 It matches the lower bound.
• Apply to the batch learning and give a generalization bound Compete with the kernel perceptron without designing kernel.
 Our scheme does not need the low-rank assumption.

Expectation Propagation for t-Exponential
Family Using q-Algebra
二見太 (1, 2)

佐藤一誠 (1, 2)

杉山将 (2, 1)(1) 東京大学(2) 理化学研究所

Motivation•

外れ値への頑強性を得るためにガウス分布の変わりにStudent-t分布を使いたい。

•

Student-t分布はガウス分布と違いexponential familyでないため、ガウス分布で有用だった計算トリックが使えない。

•先行研究でStudent-tを含むようにexponential familyが一般化された。

一般化•

しかし、定義よりNatural parameterを通した計算ができないため、EP法などの効率的なアルゴリズムを構成できない。

Expectation Propagation for t-Exponential
Family Using q-Algebra
二見太 (1, 2)

佐藤一誠 (1, 2)

杉山将 (2, 1)(1) 東京大学(2) 理化学研究所

Main contributions•

q-代数を使うことでnatural parameterを通した計算をt-exponential family でも可能にした。

•EP法をt-exponential familyに対しても適用できるように拡張した。

•

拡張したEP法をStudent-t 過程分類に適用し、外れ値に対する頑強性を確認した。

1

Positive-Unlabeled Learning with
Non-Negative Risk Estimator

2

Ryuichi Kiryo1,2 Gang Niu1,2 Marthinus Christoffel du Plessis Masashi Sugiyama2,1

Topic: Learn classifier from positive and unlabeled data
Previous method (unbiased PU learning) [du Plessis+, ‘14]
with linear models
Class:+1

Class:-1

with deep models
Class:+1

Class:-1

Overfitting

Our method (non-negative PU learning)
New risk estimator• Large-scale algorithm• Theoretical analysis• Experimentswith deep models
Class:+1

Class:-1

Success!

Fully adaptive algorithm forpure exploration in linear bandits
徐立元1,2 ，本多

問題設定
各アームに特徴ベクトルのついたバンディット

淳也1,2 ，杉山将2,1

1 東京大学2 理化学研究所

理論的評価
既存研究 (Soare et al.)
達成可能なサンプル数下界の近似としてを導出→提案手法のサンプル数上界 =アームの期待報酬が特徴量の線形関数

実験的評価
既存手法

最適腕識別：期待報酬最大のアームを最小のサンプル数で求める
既存研究 (Soare et al.)
引くアームを事前に固定する手法→アームを適応的に選択する手法を提案

提案手法→1/5のサンプル数で最適腕識別に成功報酬重み付き密度推定に基づく階層強化学習†† ††長 隆之杉山将†† †††

東京大学
理化学研究所

背景：現実世界では正しい方策が複数存在する
中間をとるような方策はうまくいかない

障害物

目標

複数の方策を学習し，状況に応じて適切な方策を使い分ける

階層強化学習提案手法：強化学習を報酬重み付き密度推定として捉え，最適な方策の構造を学習する

正例とラベルなしデータからの学習に基づく
半教師付きAUC最適化 (Machine Learning採録)
坂井智哉 ††† Gang Niu†††

杉山将†† ††

東京大学††理化学研究所

課題1 正例10%，負例90%の不均衡なデータでは，全てのデータを負例と判別しても識別率90%
識別率ではなくAUCを最大化するように学習！

課題2 ラベル付きデータの収集にお金がかけられない
半教師付き学習！ しかし…

従来法は，分布に実データでは成り立たないような強い仮定を置くという問題点がある（例: データにクラスタ構造がある）

正例とラベルなしデータからの学習に基づく半教師付き学習(Sakai et al., ICML, 2017)をAUC最適化へ拡張
教師付き学習PU学習

半教師付き学習

正例とラベルなしデータ

正例，負例，ラベルなしデータ

決定境界

正例と負例

 分布に対する強い仮定が不要
 汎化誤差上界が最適なパラメトリック収束率で減少
 経験リスクの分散が低減