CREST 「数理モデリング」領域

大規模複雑システムの最適モデリング手法の構築

岩田 覚（東京大学情報理工学系研究科）

数理工学の基本的な枠組
数値計算
最適化

モデル化

現象・問題

モデル

数値解
最適解

最適モデリングモデル

モデル
現象・問題最適モデル
モデル

モデル

数値解
最適解

最適モデリング
モデルの良さを測る尺度

多種多様• 解析の容易さ• 再現性の高さ• 表現の簡潔さ
生命現象・社会システムの特徴• 動的システム• 大規模システム• ネットワーク構造

最適モデリング手法の開発① 微分代数方程式モデルの最適化② 離散ＤＣ計画による統計的モデルの最適化③ 大規模ネットワークの圧縮モデリング

回路解析における最適モデリング
混合解析 Kron (1939)

マトロイド Whitney (1935)

最小基本方程式
甘利 (1962)

伊理 (1968)

マトロイド理論の工学的応用

修正節点解析 SPICE (1973)
微分代数方程式モデルによる過渡解析
最小指数混合方程式

岩田・高松 (2010)

修正節点解析に対する混合解析の優位性
高松・岩田 (2010)

岩田・高松・Tischendorf (2012)微分代数方程式の最適モデリング
指数： 常微分方程式からの離れ具合→ 指数が高い程，数値計算が困難
電気回路網： 指数２以下
機械力学系： 指数３
化学反応系： より高い指数高い指数（≧２）の微分代数方程式の解法
隠れた制約式の導出

Pantelies (1988), Pryce (2001)

指数減少法の適用

Matsson, Sonderlind (1997)

統計的モデリング
統計的モデルの良さを測る尺度
情報量規準 AIC

赤池 (1973)

AIC = −2(最大対数尤度) + 2(自由パラメタ数)

AIC最小化によるモデル選択

組合せ爆発

多重線形回帰，グラフィカル・モデリング

離散ＤＣ計画

前原・室田 (2014)

離散凸関数（劣モジュラ集合関数）の差を最小化する近似アルゴリズム

大規模ネットワーク
ソーシャル・ネットワーク
感染症伝搬ネットワーク

評判の伝搬
流行の予測・予防時空間ネットワーク

物流・避難計画

巨大なネットワーク構造が入手可能
解析には莫大な計算資源本質の抽出・粗視化が必要
劣モジュラ関数の近似手法・学習理論

Goemans, Harvey, 岩田, Mirrokni (2009)Balcan, Harvey (2011)

高階テンソルの分解手法
Tucker (1966), Kolda, Bader (2009)

研究計画
H26.10

H29.3

H32.3

最適化モデリング手法の開発① 微分代数方程式

社会システムへの応用
・電力システム・交通システム② 統計的モデリング③ 大規模ネットワーク
生命現象の最適モデリング④ 生命現象の数理モデリング

遺伝子・タンパク質ネットワーク，代謝ネットワーク，神経回路網，感染症伝搬ネットワーク

統一的2値判別モデルに対する効率的な加速近接勾配法
伊藤直紀(東大) ・ 武田朗子 (東大) ・ TOH Kim-Chuan (NUS)l 従来: 2値判別モデルの実用的な解法 … 各モデルの構造に特化
2値判別モデル定式化

解法

サポートベクターマシン

ヒンジロス最小化

SMO, 座標降下法 etc.

ミニマックス確率マシン

誤判別確率最小化

内点法

フィッシャーの判別分析

分散比最大化

固有値分解

l 実はノルム最小化問題として統一的に定式化できる (先行研究)
統一的2値判別モデル

min kAqbk2 | q 2 Ql 本研究: 共通の問題構造を利用した汎用的解法を提案•射影アルゴリズムを設計•

加速近接勾配法 + 高速化の工夫•

例えばSMO, 座標降下法より高速

モデル選択が柔軟にできるようになると期待される

動的シナプスを導入したリカレントニューラルネットワークの学習アルゴリズムと時系列処理性能

森 竜太（東京大学情報理工学系研究科）・香取 勇一（公立はこだて未来大学,東京大学生産技術研究所）
合原 一幸（東京大学生産技術研究所）
短期記憶課題

動的シナプス

動的シナプスなし

動的シナプスあり− zi (t ) xi (t )ui (t ),ui (t + 1) = ui (t ) + U se τ−uf i (t ) + U se (1 − ui (t )) si (t ),シーケンス長

τr

成功率

1 − xi (t )成功率xi (t + 1) = xi (t ) +シーケンス長

神経活動頻度に応じて神経伝達効率が一過的に変化するシナプス

シナプス伝達効率： x(t )u (t ) / U se
中間層ニューロン数
Short-term depression (STD)

Short-term potentiation (STP)

中間層ニューロン数

動的シナプスがリカレントニューラルネットワークの性能を大きく向上させることが分かった！

学習後のニューラルネットワーク構造(HENRY MARKRAM et al. 1998)

モデル
動的シナプスを導入した全結合型リカレントニューラルネットワークの学習アルゴリズムを新たに考案し、短期記憶性能を評価した

動的シナプスの短期抑圧によるゆっくりとした神経活動伝搬が観測された！

The low-rank basis problem for a matrix subspace(低ランク基底問題に対する数値解法)
中務 佑治, 相馬 輔, André Uschmajew
低ランク基底問題

部分空間 M = span{M1, . . . , Md } ⊆ Rm×nminimizerank (X1 ) + · · · + rank (Xd )subject tospan{X1, . . . , Xd } = M.

成果:
• 低ランク基底問題に対する実用的なアルゴリズム• SVD，QR 分解，行列積などの基本関数のみで実行可能• 応用: 行列のメモリ圧縮, 画像分離, ...

1/2応用例: 画像分離
original

mixed

computed2/2

Encoding with Sequence?

Aihara Lab
Xu Muyuan• Encoding:
fixed point or transient ?
O. Mazor, G. Laurent, 2005

• Connection between ensembles:
symmetric or asymmetric ?

• Sequence of sparse associative memories• Stability analysis• Extend information capacity• Flexible encoding mechanism

Stable Matching Models withPolymatroidal Structure
Satoru Iwata Yu Yokoi (University of Tokyo)
𝑠4 ≻ 𝑠2 ≻ 𝑠1 ≻ 𝑠5𝑐2 ≻ 𝑐1 ≻ 𝑐3
Quota: 2𝑠1
𝑠2

Students

𝑠3𝑠4𝑠5

Quota: 3𝑐1𝑐2

𝑐3Classes𝑐4

Given: Preferences & quotas
Find: Stable matching1Generalizations of Stable Matching
Stable Allocation with Discrete Concave Functions
Eguchi, Fujishige, & Tamura (2003)

Only pseudo-poly. algo. is known
This Work

Stable Allocation in Polymatroid Intersection
Strongly polytime

Matroid Kernel

Stable Allocation

Fleiner (2001)Baïou & Balinski (2002)

Stable Matching
Gale & Shapley (1962)2