新マーケット創出・提案型事業
物理探査結果へのスパースモデリングの適用に関する研究会報

告書

平成 30 年 3 月

株式会社アサノ大成基礎エンジニアリング
応用地質株式会社
川崎地質株式会社
基礎地盤コンサルタンツ株式会社
興亜開発株式会社
サンコーコンサルタント株式会社
株式会社ダイヤコンサルタント
大和探査技術株式会社
中央開発株式会社
日本物理探鑛株式会社

巻 頭 言物理探査はボーリング調査のように直接その地盤を調査するのではなく，対象としている地盤の内部構造を非破壊で間接的に調査する手法である．すなわち，表面あるいはボーリング孔から地盤に外的な刺激を与えて，その反応から地盤内の地層構造の不均質性を探査する技術である．
外的な刺激は人為的に与えるものと，自然界から常に加えられている常微動や宇宙線などがある．
このように物理探査法は，地盤内の構造や特性を今日では 3 次元的に評価できる段階にまで成長している．したがって，この探査は，社会インフラ整備の工事のための事前調査や構築されたインフラの維持管理にとって，最も重要な調査法になってきている．
しかし，事前に物理探査によって調査した結果と，実際に掘削した結果とが異なっているような場合に，しばしば遭遇することがある．これは，物理探査が数学的な基礎理論を駆使して，インパクトに対しての反応から逆解析によって地盤内の状態を推定しているため，インパクトが伝搬しにくい所の状況は分かりにくいという課題がある．これらは，現在の技術ではまだ欲求される精度まで，その技術が到達していない等の物理的限界と数学的限界と数値解析上の限界，そして逆解析に用いている計算機の記憶容量や演算速度の限界によるものである．
このような課題に対して，地盤を対象とした物理探査法の根本からの改善が必要である．また，その技術的な調査手法のマニュアルの整備や，調査で得たデータの数学的逆解析技術の公開等による共有が必要であると考えられる．そして，量子コンピュータの開発のように，日進月歩のコンピュータの進歩に対応できる状況まで，物理探査が開発できればと考え，本研究会が発足した．
医学の分野では，診断に CT スキャナーが普及して，その診断結果をいかに正確に判断できるかが医者の診断能力になっている．地盤調査における物理探査も同じような状況になってほしいと考え，共有の技術開発の可能性を模索してきた．
集中豪雨によって斜面崩壊や河川堤防の決壊が生じている．理想を言えば，日本中の堤防の内部の構造や斜面構造がデジタル化していってほしい．また，どのような洪水がくるとどんな危険になるかの予測が可能になるまでになってほしい．それができると防災対策が可能になる．
斜面に対しても，地表面の凸凹の情報が分かる時代になってきている．しかし，その内部の風化層がどれくらいの厚さで分布しているかについては，まだ何もわからないのが現状である．もし，物理探査によって風化層厚の分布や物理特性が推定されると，土砂災害の崩壊の規模が推定され，崩壊に対する事前の効果的な対策の検討も可能となってくる．
物理探査に対するこのような多くのテーマの全てを短時間で探究することは困難である．本研究会では最近各種の分野で注目され始め，その有効性が評価されている逆解析技術の一種である「スパースモデリング」法を探査結果の解析に適用することを今回の課題として，研究会を実施した．この手法の導入により，逆解析の品質が向上され，解析時間が短縮できる等の解析の効率化が図れると考えた．
本研究会は，2 年間という短時間で上記の課題を達成することによって，物理探査の適用が拡大できたと考えている．
全国地質調査業協会連合会の研究会の中で，各社の精鋭の技術者が集まっていただき，全地連の共通の物理探査結果を処理できるシステムを構築できたこの成果は，きわめて意義ある活動であった．この技術を組織の壁を越えて Made in JAPAN の技術として世界に展開してほしい．また，

高度化された技術の普及のためのシステムを全地連を中心として実施してほしい．
最後に，全地連の技術委員会の岩崎公俊委員長および当委員会の幹事であられました三木茂様には，難解な手法を解読していただき，何回となく説明資料を準備し説明していただきました事に謝意を示します．
2018 年 3 月
物理探査結果へのスパースモデリングに関する研究会
顧問

3

西垣誠

目

次

１．まえがき・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 1
２. スパースモデリングとは（川崎地質）・・・・・・・・・・・・・・・・・・・・・・・ 4
３. スパースモデリングの歴史と現状・・・・・・・・・・・・・・・・・・・5
3.1. スパースモデリングの歴史と現状（サンコーコンサルタント）
・・・・・・・・・・・ 5
3.1.1. スパースモデリングの歴史・・・・・・・・・・・・・・・・・・・・・・・・ 5
3.1.2. 現状 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 12
3.1.3. 利用 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 12
3.2. 物理探査分野における歴史（日本物理探鑛） ・・・・・・・・・・・・・・・・・・ 13
3.2.1. L1 ノルム最小化問題に関連した研究 ・・・・・・・・・・・・・・・・・・・・ 13
3.2.2. 圧縮センシングに関連した研究 ・・・・・・・・・・・・・・・・・・・・・・ 18
４. スパースモデリングの方法 ・・・・・・・・・・・・・・・・・・・・・・・・・・ 31
4.1. 最小二乗法とスパースモデリング（ダイヤコンサルタント）・・・・・・・・・・・ 31
4.1.1. 制約付き最小二乗法によるランク落ちした連立一次方程式の解法 ・・・・・・ 31
4.1.2. MM アルゴリズムによる L1 ノルム最小解の計算・・・・・・・・・・・・・・ 32
4.1.3. MM アルゴリズムと LASSO の比較・・・・・・・・・・・・・・・・・・・・ 34
4.1.4. まとめ ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 37
4.2. 再構成について（応用地質）・・・・・・・・・・・・・・・・・・・・・・・・ 38
4.2.1. LASSO ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 38
4.2.2. ISTA/FISTA ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 40
4.2.3. ADMM ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 42
５. スパースモデリングのプログラミング （基礎地盤コンサルタンツ） ・・・・・・・ 45
5.1. 最小二乗法 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 45
5.1.1. ダンプ付き最小二乗法 ・・・・・・・・・・・・・・・・・・・・・・・・ 46
5.1.2. 重み付き最小二乗法 ・・・・・・・・・・・・・・・・・・・・・・・・・ 46
5.2. FISTA ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 47
5.2.1. FISTA のアルゴリズム ・・・・・・・・・・・・・・・・・・・・・・・・ 47
5.2.2. FISTA のプログラミング ・・・・・・・・・・・・・・・・・・・・・・・ 47
5.3. ADMM ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 48
5.3.1. ADMM の基本アルゴリズム・・・・・・・・・・・・・・・・・・・・・・ 48
5.3.2. 時間スパースの定式化 ・・・・・・・・・・・・・・・・・・・・・・・・ 49
5.3.3. 空間スパースの定式化 ・・・・・・・・・・・・・・・・・・・・・・・・ 50
5.3.4. 非線形問題の定式化 ・・・・・・・・・・・・・・・・・・・・・・・・・ 50
5.3.5. ADMM のプログラミング ・・・・・・・・・・・・・・・・・・・・・・・ 51
5.4. 評価プログラム ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 51
5.4.1. 評価プログラム ・・・・・・・・・・・・・・・・・・・・・・・・・・・ 51
5.4.2. 評価プログラムの使用例 ・・・・・・・・・・・・・・・・・・・・・・・ 52
5.4.3. 時系列データスペクトル解析プログラム ・・・・・・・・・・・・・・・・ 54
5.4.4. 時系列データスペクトル解析プログラムの使用例 ・・・・・・・・・・・・ 54i

６. スパースモデリングの物理探査への適用 ・・・・・・・・・・・・・・・・・・・ 56
6.1. 弾性波探査屈折法（地盤改良範囲）のモデル解析（基礎地盤コンサルタンツ）・・・ 56
6.1.1. 地盤の速度分布におけるスパース性・・・・・・・・・・・・・・・・・・ 56
6.1.2. 定式化・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 56
6.1.3. 例題の概要・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 58
6.1.4. 解析結果・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 60
6.2. タイムラプス探査への適用（ダイヤコンサルタント） ・・・・・・・・・・・・ 66
6.2.1. 微動アレー探査のシミュレーション検討・・・・・・・・・・・・・・・・ 66
７. スパースモデリングの可能性・・・・・・・・・・・・・・・・・・・・・・・・・ 71
7.1. 物理探査分野における可能性・・・・・・・・・・・・・・・・・・・・・・・ 71
7.1.1. ジオトモグラフィ（中央開発）・・・・・・・・・・・・・・・・・・・・・ 71
7.1.2. 電磁探査（大和探査技術）・・・・・・・・・・・・・・・・・・・・・・・ 71
7.1.3. 常時微動・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 72
7.1.4. 表面波探査・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 72
7.2. その他の分野における可能性・・・・・・・・・・・・・・・・・・・・・・ 73
7.2.1. 地下水における逆解析の必要性（アサノ大成基礎エンジニアリング）・・・・・ 73
7.2.2. 地盤変位への調査・解析分野での適用（興亜開発）・・・・・・・・・・・・ 74
7.3. スパースモデリング，その可能性と将来（サンコーコンサルタント）・・・・・・・ 75
7.3.1. スパースモデリング・・・・・・・・・・・・・・・・・・・・・・・・・・・ 75
7.3.2. スパースモデリングの利用（サンコーコンサルタント・応用地質）・・・・・・ 76
7.4. スパースモデリングの可能性（サンコーコンサルタント）・・・・・・・・・・ 86
7.4.1. これまで の研究・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・ 86
7.4.2. 追求と限 界・・ ・・・・・ ・・・・・ ・・・・・ ・・・・・ ・・・ 86
８. まとめ （サンコーコンサルタント）・・・・・・・・・・・・・・・・・・・・・ 93
8.1. まとめ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 93
8.2. 補足説明・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 93
8.2.1. ディープラーニング・・・・・・・・・・・・・・・・・・・・・・・・・ 93
8.2.2. 人工知能（AI）・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 96
8.2.3. i-Construction・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 97
付録
スパースモデリングと高次元データ駆動科学創成
巻末資料
１．研究会メンバー
２．研究会記録
３．研究会資料
４．サンプルプログラム

ii

研究業績（サンコーコンサルタント） 103

1. まえがき
物理探査は，社会インフラの整備のみならず維持管理・防災において幅広く適用されており，今後も地質調査，ボーリング調査の補間，工学的特性の推定などに活用が期待されている．一方，
その解析結果は，精度が十分満たされていたとは言えず，物理探査の調査法としての信頼が得られないケースも見受けられる．
このような現状を打破するため，逆解析技術の一種であるスパースモデリングを探査結果の解
析に適用性を検討するとともに，参加企業の物理探査結果の品質向上・活性化を目的として，全国地質調査業協会連合会における「新マーケット創出・提案型事業」において「物理探査結果へのスパースモデリングの適用に関する研究会」（以下，スパース研究会）を発足させた．
スパースモデリングは，近年，各種の分野で注目され始めている最適化手法，データ処理技術の一種であり，少ないデータから意味を見出すための方法論である．スパースモデリングを探査
結果の解析に適用することにより，結果の品質向上や解析の効率化を図ることが可能であると考えられる．
スパース研究会では，平成 28 年度から 29 年度において，スパースモデリングの解析方法を習得し，物理探査をはじめ，地質調査周辺の課題への適用について検討するため，外部講師による講演，評価プログラムの作成と配布，参加企業による適用事例の報告などを行った．
本報告書は，スパース研究会における活動成果をまとめ，物理探査およびその周辺におけるス
パースモデリングの状況と可能性について整理したものである．本報告書が，全国地質調査業協会連合会会員企業および地質調査業界の技術向上に繋がれば幸いである．
本報告書をまとめるにあたり，研究会メンバーをはじめ多くの方々にご意見やご指摘，ご協力をいただいた．学識経験者として研究会に参加していただいた岡山大学大学院環境生命科学研究科教授の西垣誠先生，株式会社 TANSA Geophysical の佐々木裕氏，岡山大学環境理工学部環境デザイン工学科教授の西山哲先生，岡山大学大学院環境生命科学研究科教授の西村伸一先生，岡山大学大学院環境生命科学研究科准教授の珠玖隆行先生には貴重なご意見をいただいた．またオブザーバーとして研究会に参加していただいた国立研究開発法人土木研究所主任研究員の石原雅規
氏，原子力発電環境整備機構の吉村公孝氏にはご後援ご教授いただいた．ここに感謝の意を申し上げる．
平成 30 年 3 月「物理探査結果へのスパースモデリングの適用に関する研究会」
会長

―

1 ―

岩﨑

公俊

研究会メンバー：
会

長：岩﨑

公俊

基礎地盤コンサルタンツ株式会社

今井博

サンコーコンサルタント株式会社

伊東

俊一郎

サンコーコンサルタント株式会社

大西徹夫

中央開発株式会社

河村茂樹

日本物理探鑛株式会社

河野秀紀

日本物理探鑛株式会社

杉本信吾

川崎地質株式会社

杉本芳博

株式会社ダイヤコンサルタント

孫

躍

橘

久生

興亜開発株式会社

栃本泰浩

川崎地質株式会社

野口

ゆい

基礎地盤コンサルタンツ株式会社

羽佐田
事務局：三木洋子

株式会社アサノ大成基礎エンジニアリング

大和探査技術株式会社

茂

基礎地盤コンサルタンツ株式会社

山内泰知

株式会社ダイヤコンサルタント

山下善弘

応用地質株式会社

事務局：吉川猛

世森祐一

基礎地盤コンサルタンツ株式会社
大和探査技術株式会社

学識経験者・顧問・アドバイザー：
西垣誠

岡山大学大学院環境生命科学研究科

佐々木裕

株式会社 TANSA Geophysical西山哲

岡山大学環境理工学部環境デザイン工学科

西村伸一

岡山大学大学院環境生命科学研究科

珠玖隆行

岡山大学大学院環境生命科学研究科

オブザーバーメンバー：
石原雅規

国立研究開発法人

吉村公孝

原子力発電環境整備機構

―

土木研究所

2 ―

数式の表記方法：
本報告書では，表 1-1 の表記方法にしたがい数式を記述した．また，特別な意味を有する記号
等は，表 1-2 のとおりである．
表 1-1 数式の表記方法
表記例
表記方法
アルファベット，ギリシャ文字の大文字，小a，A，θ など
文字．普通太さで斜文字
アルファベット小文字．太文字で斜文字
a，d などアルファベット小文字，太文字で斜文字に，m T，b T など
上付き文字の「T」

A，Wd など

アルファベット大文字．太文字で斜文字

A T，G T など

アルファベット上付き文字の「T」

A -1，G -1 など

数字上付き文字の「-1」アルファベット小文字で普通太さ斜文字の下付き文字

ai，Ai,j など
m n，β t など

アルファベット小文字で普通太さ斜文字の上付き文字

表 1-2 特定の意味を有する記号
記 号
型
正方行列
I
行列，列ベクトル
０
スカラー
L
スカラー
λ
スカラー
μ
スカラー
Sa( )

意

スカラー値，定数値
列ベクトル
行ベクトル
行列．太文字斜文字の下付き文字と組み合わせて使うこともある
転置行列．「A T」は，「A」の転置行列
逆行列．「A-1」は，「A」の逆行列
行列，ベクトルの成分．「Ai,j」は行
列 A の i 行 j 列成分
繰り返し計算回数や，時間系列などを表す．「β t」は，繰り返し計算回
数(時間)t における定数 β の値意
単位行列
0 行列，0 ベクトル
リプシッツ定数
ラグランジュ乗数
ペナルティ定数
軟判定閾値関数．a は閾値

―

3 ―

味

味

2. スパースモデリングとは
スパースモデリングとは，劣決定問題において，その解のスパース性を利用して逆問題を解く（モデルパラメータを推定する）手法である．劣決定問題とは，簡単な例で述べると，いわゆる連立方程式を解くときに，方程式の数より未知数（解）の数が多い状況を意味する．劣決定問題
では，原理的に，解が一意に決まることはなく，存在しない，若しくは，複数存在してしまうことになる．通常では，解けない問題である．それでは，通常では解けない逆問題を解くために利用するスパース性とは何か．それは，逆問題の解（モデルパラメータベクトル）において，ほとんどの成分でゼロを持つ，若しくは，ゼロが期待され，またそのような解の中で，逆問題（言い換えると，「観測データ」）を説明するにあたって意味のある成分（解）がスパース（疎，まばら）に存在する性質をスパース性と言う．解がゼロとなる成分で構成される方程式は，逆問題において意味をなさないために，実質的に未知数の数を減らすことが可能である．結果的に，スパース性を利用することで劣決定問題を解くことが可能になる．
しかしながら，実際の逆問題の解の中で，非ゼロ値の個数と成分について必ずしも把握しているわけではない．むしろ，それらについては基本的に未知である．そこで，L1 ノルム（解の各成分の絶対値の和）を最小にするという条件を逆問題に与えることで，積極的にスパースな解がうまく選択される．スパースモデリングによって得られる解で解こうとする逆問題を数値的に説明するに当たって，どこの成分が重要か自動的に抽出される．また，L1 ノルム最小化を条件としているところで，不連続な観測データにもロバストであると考える．
物理探査や地盤調査で得られるデータは，時間的にも空間的にも離散的で，必ずしも，連続的ではない（不連続さがある）．そのような限られたデータに対して，スパースモデリングは，重要な情報を抽出するのに強力な手法の一つと言える．

―

4 ―3. スパースモデリングの歴史と現状
3.1. スパースモデリングの歴史と現状
近年の ICT(Information and Communication Technology)の進歩は急速で，金融，工業，農業，医療などのあらゆる分野での技術革新をサポートしている．土木事業においても，図面から CAD，構造計算や調査や点検にも拡張し，UAV(Unmanned aerial vehicle)の高度利用，維持管理にタブレット仕様の評価技術，調査・設計段階から三次元モデルを導入し，施工，維持管理の各段階での三次元モデルに連携・発展させることにより，設計段階での様々な検討を可能とするとともに，一連の建設生産システムの効率化を図るための CIM 技術など，技術革新が爆発的に進化を遂げている．そのような今日，膨大な数と種類のデータの扱いが重要となっている．その技術として，
AI 技術（特定作業の超人化特化型，想定外までもこなす AI による創造的汎用型）が挙げられる．
昨今は，ディープラーニング（Deep Learning 深層学習）とその強化学習を支えるビッグデータ関連技術（計測技術，通信技術，コンピュータ技術）が組み合わさった形式をとっている．このビッグデータ関連技術の１つとして，スパースモデリングがある．
ここでは，スパースモデリングの歴史と現状について述べる．
3.1.1. スパースモデリングの歴史
スパースモデリングの研究は比較的若く，1900 年代後半になってからのことである．日本では1980 年代の後半に石川真澄（九工大）の人工神経回路網モデルの「忘却付き構造学習」の提案 1）に始まり，その後 1996 年 Tibshirani （Stanford 大）が論文「Regression Shrinkage and Selection via thelasso」2）の中で， 提案した LASSO 推定法（Lasso：Least Absolute Shrinkage and Selection Operator)
や Tipping と Bishop（Microsoft 研究所）の ARD (Automatic Relevance Determination)法 3）など生命情報科学，データマイニングの分野でその有用性が広く認知されるようになった．
スパースモデリングの先駆的かつアイデアは，Stѐphane G. Mallat and Zhifeng Zhang(1993) 4）による論文「Matching Pursuit With Time-Frequency Dictionary」に見ることができる．果たして，その内容をその論文の abstract で示すと，「①We introduce an algorithm，called matching pursuit，that decomposes any signal into a linear
expansion of waveforms that are selected from a redundant dictionary of functions. ②These
waveforms are chosen in order to best match the signal structures. ③Matching pursuits are
general procedures to compute adaptive signal representations. ④With a dictionary of Gaborfunctions a matching pursuit defines an adaptive time-frequency transform. ⑤We derive a signal
energy distribution in the time-frequency plane，which does not include interference terms，unlike
Wigner and Cohen class distributions. ⑥A matching pursuit isolates the signal structures that are
coherent with respect to a given dictionary. ⑦An application to pattern extraction from noisy
signals is described. ⑧We compare a matching pursuit decomposition with a signal expansion
over an optimized wave packet orthonormal basis，selected with the algorithm of Coifman andWickerhauser.」「我々は，任意の信号を，関数の冗長辞書から選択された波形の線形展開に分解するマッチング追跡と呼ばれるアルゴリズムを導入する．②これらの波形は，信号構造に最もよく―5 ―一致するように選択される．③マッチング追跡は，適応信号表現を計算する一般的な手順である．④Gabor 関数の辞書では，一致する追跡が適応時間-周波数変換を定義する．⑤
Wigner および Cohen クラスの分布とは異なり，干渉項を含まない時間－周波数平面での信号エネルギー分布を導出する．⑥マッチング追跡は，与えられた辞書に関して一貫性のある信号構造を分離する．⑦ノイズの多い信号からパターンを抽出するアプリケーションが説明されている．⑧我々は，Coifman and Wickerhauser のアルゴリズムで選択された，
最適化された波数正規直交基底上の信号展開と一致する追跡分解を比較する．」と書かれ，その内容を覗き見ると，スパースモデリングの核となるアイデアそのものと推察できる．
その次にカギとなる論文は，Scott Shaobing Chen, David L. Donoho, and Michael A. Saunders 5）が1995 年に発表した「Atomic Decomposition by Basis Pursuit. - Department of Statistics」（SIAM
REVIEW, Vol. 43,No.1, pp.129–159. ©2001 Society for Industrial and Applied Mathematics）であろう．
果たして，その内容をその論文の abstract から見れば，「①The time-frequency and time-scale communities have recently developed a large number ofovercomplete waveform dictionaries—stationary wavelets, wavelet packets, cosine packets,
chirplets, and warplets, to name a few. ②Decomposition into overcomplete systems is not unique,and several methods for decomposition have been proposed, including the method of frames(MOF), matching pursuit (MP), and, for special dictionaries, the best orthogonal basis (BOB).
③Basis pursuit (BP) is a principle for decomposing a signal into an “optimal” superposition of
dictionary elements, where optimal means having the smallest l1 norm of coefficients among all
such decompositions. ④We give examples exhibiting several advantages over MOF, MP, andBOB, including better sparsity and superresolution. ⑤BP has interesting relations to ideas inareas as diverse as ill-posed problems, abstract harmonic analysis, total variation denoising, andmultiscale edge denoising.
⑥BP in highly overcomplete dictionaries leads to large-scale optimization problems. ⑦With
signals of length 8192 and a wavelet packet dictionary, one gets an equivalent linear program ofsize 8192 by 212,992. ⑧Such problems can be attacked successfully only because of recent
advances in linear and quadratic programming by interior-point methods. ⑨We obtain reasonablesuccess with a primal-dual logarithmic barrier method and conjugategradient solver.」「①時間－周波数および時間スケールのコミュニティは，最近，定常ウェーブレット，ウェーブレットパケット，コサインパケット，チラプレットおよびウォップレットのような，多数の過完備波形辞書を開発した．② オーバーコンプリート・システムへの分解はユニークではなく，フレーム（MOF），マッチング追跡（MP），特殊辞書のための最適直交基底（BOB）を含むいくつかの分解方法が提案されている．
③ベーシス追跡（BP）は，信号を辞書要素の「最適な」重ね合わせに分解するための原則であり，ここで最適とは，そのような分解の中で係数の最小の l1 ノルムを有することを意味する．④MOF，MP，BOB より優れた，スパース性と超解像度を含むいくつかの利点を示す例を示す．⑤BP は，不都合な問題，抽象調和解析，トータル・バリエーション・
ノイズ除去，マルチスケールエッジ・ノイズ除去など，さまざまな分野のアイデアとの関係が興味深い．
⑥高度に完結した辞書のベーシス追跡（BP）は，大規模な最適化問題を引き起こす．⑦
長さ 8192 の信号とウェーブレットパケット辞書とを用いて，大きさ 8192×212,992 の同等の線形プログラムを得る．⑧このような問題は，内点法（点列を生成する方法によって，―

6 ―アフィン変換法，ポテンシャル減少法，パス追跡法などに分類）による線形および二次計画法（いくつかの変数からなる二次関数を線形制約の下で最適化，すなわち，最小化ない
しは最大化する非線形計画法）の最近の進歩のためにのみ，うまく攻撃される可能性がある．⑨我々は，プライマル－デュアル対数バリア法および共役勾配ソルバで合理的な成功を得る．」
Robert Tibshirani 6) による論文（Regression Shrinkage and Selection via the Lasso Journal of theRoyal Statistical Society. Series B( Methodological)，vol. 58, no. 1, pp. 267-288, 1996．）5)で，“LASSO（Least Absolute Shrinkage and Selection

Operator）”の考えが導入された．その要約（SUMMARY）

を見ると，「We propose a new method for estimation in linear models. The ‘lasso' minimizes the residualsum of squares subject to the sum of the absolute value of the coefficients being less than aconstant. Because of the nature of this constraint it tends to produce some coefficients that areexactly 0 and hence gives interpretable models. Our simulation studies suggest that the lasso
enjoys some of the favorable properties of both subset selection and ridge regression. It produces
interpretable models like subset selection and exhibits the stability of ridge regression. There isalso an interesting relationship with recent work in adaptive function estimation by Donoho andJohnstone. The lasso idea is quite general and can be applied in a variety of statistical models:
extensions to generalized regression models and tree-based models are briefly described.」「我々は，線形モデルにおける新しい推定方法を提案する． 'lasso' は，係数の絶対値の和に従う残余平方和定数よりも小さくしている．この制約の性質上，正確に 0 であるいく
つかの係数を生成する傾向があり，解釈可能なモデルが得られる．私たちのシミュレーシ
ョン研究は，lasso がサブセット選択とリッジ回帰の両方の有利な性質のいくつかを楽しんでいることを示唆している．これは，サブセット選択のような解釈可能なモデルを生成
し，リッジ回帰の安定性を示す．また，Donoho と Johnstone による適応関数推定の，最近の研究と興味深い関係がある．ラッソのアイデアは非常に一般的であり，さまざまな統計モデルに適用できる．一般化された回帰モデルとツリーベースのモデルへの拡張が簡単に説明されている．」と書かれており，その有効性を示唆している．
さらに，2000 年代半ばからは Donoho7)（Stanford 大）らが提唱している圧縮センシング(CS)が，計測工学，通信工学，医用工学，生化学など幅広い分野で革新的情報抽出技術として大きな注目を集めている．
岡田真人 8) は，「人工知能研究の歴史から現状－脳科学と AI の関係」（東京大学・大学院新領域創成科学研究科，http://www.soumu.go.jp/main_content/000425152.pdf）によれば，この説明用
PPT の中で， 新学術領域研究（平成 25～29 年度）「スパースモデリングの深化と高次元データ駆動科学の創生」と題して，以下のコメントと図を示している：「大量の高次元計測データに隠された規則性を抽出するデータ解析の系統的技術の開発

は，「データ科学時代」におけるすべての科学分野に共通する喫緊の課題である．本領域
では，多くの自然科学の高次元計測データに普遍的にスパース性が存在することを基本原理としたスパースモデリングに注目し，生命分子からブラックホールに至る，幅広い自然科学分野の実績・計測研究者と情報科学の連携により，この課題を解決する．これにより，スパースモデルの数理的基盤を深化させ，高次元データ駆動科学ともいうべき新学術領域を創生する．

―

7 ―入試問題と科学におけるデータ解析（AI）には図 3.1.1-1 のような構造的な類似性がある．」

観測データの空間(超)高次元特徴空間

図 3.1.1-1 スパースモデリングの深化と高次元データの駆動科学の創生
出典：http://www.soumu.go.jp/main_content/000425152.pdf

さらに，科学のための AI と題して，入試問題と科学におけるデータ解析の，構造的な類似性を指摘している．

図 3.1.1-2 入試問題と科学データの解析における構造的類似性
出典： http://www.soumu.go.jp/main_content/000425152.pdf

最新の論文のとして，福島孝治（2017）9)（東京大学大学院総合文化研究科）著「スパースモ
デリングによる高次元データ駆動科学の展開」がある．この中で，福島は，「「ビッグデータ」時代にデータ処理の視点から望まれることは，高次元データの中から本質的な因子を抽出することに要約できるであろう．とくに，自然科学のさまざまな分野においては，近年の実験・計測技術の発展に伴い，高次元データが比較的容易に取得されるようになると，それに伴う解析方法の発展がますます望まれるようになる．
このような背景の中で，高次元データに普遍的に内在するスパース性を活用することによる本質的な因子抽出の方法として「スパースモデリング」が注目されてきている．本稿―

8 ―ではスパースモデリングを主軸としたデータ駆動科学の最近の発展を概観しながら，自然科学としてのデータ駆動科学の展開を議論してみたい．」
統計科学・機械学習の分野で発展を遂げてきたスパースモデリングのアイデアを自然科学の分野に応用することはある意味では自然な考えであると思われる．
しかしながら，多岐にわたる自然科学の分野において，個別の問題への適用例を作ることはできても，うまく解析できる問題とそうでない問題の背後にある統一的な理解や系統的な解析手法
としての方法論の発展に繋げることは難しい．その意味で，文部科学省科研費新学術領域「スパースモデリングの深化と高次元データ駆動科学の創成（略称：疎性モデリング）」（代表：岡田真人教授

東京大学；上述）において，重点的な研究がプロジェクトとして行われた意義は大きいと考える．図 3.1.1-3 には計画研究の概要がまとめられている．このほかにも多くの公募研究からプロジェクトは構成されている．一つの特徴は対象とする実験・計測グループに医学から天文学にわたる広い領域を含んでいることと，要素技術を提供しうる情報科学グループとデータ解析の中心となる実験・計測グループの間にモデリンググループが介在して配置していることにある．個別の応用例を俯瞰するモデリングの存在の重要性がデータ駆動科学の創成のためには必須と考えられている．

図 3.1.1-3

システム/制御/情報，Vol. 61, No. 4, pp. 126–131, 2017

出典：http://www.soumu.go.jp/main_content/000425152.pdf

最近の論文では，統計科学・機械学習の分野で発展を遂げてきたスパースモデリングのアイデ
アを自然科学の分野に応用するのはもっともなことである．そして，スパースモデリングの歴史を語るに重要と考えられる論文がある．
庄野逸（2016）10)が書いたその論文の題名は，「37699 号

Vol.5，スパースモデリングの歴史と基本技術(特集 スパースモデリングの発展 : 原理から応用まで)-- (全体概要と基本理論)

Basic Technology for Sparse Modeling with Some Historical View 」である．まさに本章の目的とする題目である．その概要は，「スパースモデリングは，データの背後に潜む構造を少数の因子を用いて表現する手法である．本稿では，問題の定式化を行った後，この問題を解くための幾つかの手法の概略を―9 ―述べるとともに，その手法の立ち位置の説明を行う．その上で Olshausen & Field が視覚の学習モデルとして提案した手法と，その発展形である K-SVD 法の説明を行う．」
である．
2014 年には，植村誠（2014）11)（広島大学）が，国立天文台談話会（2014.05.23）で発表した「スパースモデリングの宇宙物理学への応用」などがあり，連立一次方程式で変数の数が式の数より多い場合を題材にして，スパースな元信号は 1 次ノルム最小化で再構成できること，圧縮センシング：圧縮された情報から元信号の完全再構成など（y の測定誤差は考えないことが多い）（Candes & Tao，2006 12), 13)， Donoho， 2006 14)）， LASSO：y に測定誤差があり，A が既知の行列の場合の回帰（Tibshirani 1996 15）），x そのものがスパースでなくても，x’=Bx で x’ がス
パースなら（スパースな表現 x’ が存在すれば）使える，などと指摘している．また，既に述べた「スパースモデリングの高次元データ駆動科学の創成」• 領域代表：岡田真人（東京大学・大学院新領域創成科学研究科・教授）を引合いにだし，平成 25～29 年度には，変光星の周期解析，
電波干渉計，ドップラー・トモグラフィーなどのスパースな元情報を少ないデータから高精度に再構成することの話をしている（図 3.1.1-4 参照）．

図 3.1.1-4

天文学への応用 11)

スパースモデリングの宇宙物理学への応用について，まとめとして，
１）元情報の疎性を利用して，観測データからより良い情報を引き出す
２）スパースな元情報を少ないデータから高精度に再構成する– 変光星の周期解析：エイリアス，ノイズ除去– 電波干渉計：超解像– ドップラー・トモグラフィー：少ないデータでも明確な edge
３）データから客観的にモデル（パラメータ）を決定する– Ia 型超新星の極大光度：データから客観的に変数選択（図 3.1.1-5）に言及している．
2016 年には，「スパースモデリングの地球物理学への応用」と題し，桑谷 立，中田 令子，岡田 真人，堀 高峰が提出した論文 16)（電子情報通信学会誌，Vol.99，No.5，pp.406-410，2016），

―

10 ―

「地球物理学, 逆問題, 反射法地震探査, L1 正則化, スパースモデリング」をキーワードとする論文があり，果たして，その要訳は，「地球物理学では，地震波や GPS などにより得られた観測データから，地球の構造や地学現象を逆問題として抽出することが中心的な課題となる．そのため，地球物理学は，スパース性を利用して逆問題をうまく解決するスパースモデリングの格好の応用対象と言えるだろう．実際に，反射法地震波探査には，現在隆盛を極めている圧縮センシングにも通じる L1
正則化法が 1970 年代から活用されてきた．本稿では，これらの歴史を振り返り応用例を紹介するとともに，今後の地球物理学において，スパースモデリングが発展するべき方向性について議論する．」となっている．

図 3.1.1-5

Ia 型超新星―

11 ―形成過程 16）

3.1.2. 現状
圧縮センシングの一技法で膨大なビッグデータを解析して大量のデータに埋もれて見えにくくなってしまう有為な情報を抽出したり，法則性を導き出したり，断片的なデータを補完して実状を忠実に再現することはすでに行われている分野もある．
地球科学（Passive 探査，Active 探査など），医学（CT，PET や MRI など）や天文学を含む多くの分野で高分解能化に使用される 1)-4)．
（１）圧縮センシング
圧縮センシング 25)（英語: Compressed Sensing）とは，観測対象データがある表現空間では「スパース(疎)」であると仮定して，必要とする未知数の数よりも少ない観測データから，ある条件の下で対象を復元する手法である．
（ https://ja.wikipedia.org/wiki/%E5%9C%A7%E7%B8%AE%E3%82%BB%E3%83%B3%E3%82%B7%E3%83%B3%E3%82%B0#cite_note-EL8-2-12）（２）ビッグデータ
ビッグデータ（英: big data）とは，市販されているデータベース管理ツールや従来のデータ処理アプリケーションで処理することが困難なほど巨大で複雑なデータ集合の集積物を表す用語である．その技術的な課題には収集，取捨選択，保管，検索，共有，転送，解析，可視化が含まれる．大規模データ集合の傾向をつかむことは，関連データの 1 集合の分析から得られる付加的情報を，別の同じデータ量を持つ小規模データ集合と比較することにより行われ，「ビジネスの傾向の発見，研究の品質決定，疾病予防，法的引用のリンク，犯罪防止，リアルタイムの道路交通状況判断」との相関の発見が可能になる．「ビッグデータ」という用語は，データマイニングなどでふつうに使われてきた単語だが，2010 年代に入ってある種のトレンドを示すキーワードとして，一般の新聞・雑誌などでも広く取り上げられるようになってきた．
（ https://ja.wikipedia.org/wiki/%E3%83%93%E3%83%83%E3%82%B0%E3%83%87%E3%83%BC%
E3%82%BF）（３）科学的モデリング
科学的モデリング（英: Scientific modeling）とは，ある事象の抽象化された概念モデル・図式モ
デル・あるいは数理モデルを作るプロセスである．科学の様々な分野において，各々特化した科学的モデリングのための科学的方法，技術，理論が蓄積されている．科学的モデリングによって事象を構成する様々な要素が単純化され，容易に読み取れるようになる．
モデリングは全ての科学的活動で不可欠かつ不可分の手法である．
科学の様々な分野において，それぞれ独自のモデリング手法や設計思想が存在している．科学哲学，一般システム理論，あるいは知識の可視化など多く分野において，科学的モデリングへの注目が高まっている．
（ https://ja.wikipedia.org/wiki/%E3%83%A2%E3%83%87%E3%83%AA%E3%83%B3%E3%82%B0_(%E7%A7%91%E5%AD%A6%E7%9A%84)）
3.1.3. 利用
第１章の繰り返しになるが，スパースモデリングは，単なるデータの解析手法ではない．多様な視点の導入による発展的展開を引き起こす方法論として各方面で着目されている．スパースモ
デリングは，天文学あるいは生命科学といった，対象とスケールの全く異なる分野で，少ないデータから重要な知見を自動的に引き出す，逆に，無駄の多いビッグデータから必要最低限の本質的で十分な部分を自動的に抽出する，implementation モデリングとして利用されている．ここでは最近の成果について述べる．

―

12 ―

（１）スパースモデリングの特長
スパースモデリングの特長をまとめる：


少ない情報から全体像を的確にあぶり出す科学的モデリング

大量のデータに埋もれている有為な情報を抽出

大量のデータに埋もれている法則性を導出



断片的なデータを補間して実状に忠実に再現（あるいは，内挿）

断片的なデータから埋もれている法則性を導出といった画期的な補完方法．
（２）利用例
医療関係で，この方法論を生かして，以下に述べるような計測技術革命が今まさに起こりつつある．すなわち，身体の具合を調べるために，最近では脳や体内の様子を調べることが可能となってきた．例えば，CT や MRI などの医用画像技術において，体内の情報を，超音波や放射線や電磁場により探り，得られたデータをスパースモデリングにより分析することで体内の様子を鮮明に画像化できることは周知のことである．
しかし，取得した情報に，実は多くの無駄があるとしたら，無駄を省くことで情報の品質を下げずに処理できるはずである．
現在，画像を保存する際に，例えば，膨大な RAW データから JPEG 形式で圧縮をかけて保存をしているのであるが，見た目には何ら変化がない．すなわち，それは多くの情報は無駄であり，その無駄を省くことでデータのサイズを小さく（圧縮）できることを意味する．すなわち，本質的に，取得データの中の必要なデータの量は実は少ないのということに他ならない．医用画像技術においては，すでに，この画像情報の無駄なデータを予め省き，必要最低限の情報を取得する
ことで，診断に十分な品質の画像を取得することが可能になっている．医用画像に関しての応用
は，2002 年頃に筑波大学の工藤博幸らのグループによる先駆的研究があり，2007 年のカリフォル
ニア大学バークレー校准教授の Michael Lustig らのグループによる研究を契機として急速に広がった．
通常の画像処理でも，最近，大いに利用されている．すなわち，スパースモデリングの技術は，写真のボケの修復に欠かせない技術となっている．

3.2. 物理探査分野における歴史
物理探査分野におけるスパースモデリングの歴史を，L1 ノルム最小化問題と圧縮センシングに関連した研究に分けて概観する．ただし，圧縮センシングも L1 ノルム最小化問題を内在しており，両者を純然と区別することは困難であることをお断りしておく．また，物理探査分野におけるス
パースモデリング研究のほとんどは反射法地震探査に関するものであり，「物理探査分野における歴史」は「反射法地震探査における歴史」であると言っても過言ではない．したがって，本節では特に断らない限り，物理探査手法のうちの反射法地震探査を対象としていることを前提とす
る．
3.2.1. L1 ノルム最小化問題に関連した研究
スパース性を利用した推定方法であるスパースモデリングの代表格が LASSO（Least Absolute
Shrinkage and Selection Operator）である 26)．LASSO は統計学の分野で Tibshirani (1996) 27)が提唱したものであり，これがスパースモデリングの始まりとされている 28)．しかし，L1 ノルムを正則化

―

13 ―

項として，それを含む目的関数の最適化問題，あるいは L1 ノルム最小化問題として LASSO を捉えた場合，物理探査の分野では 1970 年代からこの問題を扱った研究が行われてきた 28)-32)．ここでは，物理探査分野において L1 ノルム最小化問題に関連した研究について概観する．
Claerbout and Muir (1973) 33)は，L1 ノルム最小化（絶対誤差最小化）を使うことによるロバスト
性（すなわち，データに絶対値の大きい異常値が含まれていても，その影響を受けにくいこと）
について述べており，物理探査における多くの実用的な例について適用することができるとしている．しかし，この論文において解ベクトルのスパース性に関する言及はない．
Taylor et al. (1979) 34)は，反射法地震探査において，反射地震記録 t は震源ウェーブレット w とスパースなスパイク列 s のコンボリューションにノイズ n が加算されたものとして

∗

(3.1)

と表されるとし，w が既知のとき L1 ノルムを用いて

min ‖

‖

‖ ‖

(3.2)

により s を推定している．これは時間領域におけるデコンボリューションであり，L1 デコンボリューションと呼んでいる．また，スパイク列 が既知の場合，L1 ノルムを用いて反射地震記録 から震源ウェーブレット w を抽出している．Taylor et al. (1979) 34)は Claerbout and Muir (1973) 33)と同様に，L1 ノルムの重要な性質としてロバスト性を挙げている．また，重み係数 を変えることによって，スパイク列 s の非ゼロ・スパイクの数が変わり，最も重要な変数を識別することができることに言及している．
図 3.2.1-1 に合成反射地震記録に対するスパイク列抽出の例を示す．横軸は時間(ms)である．
仮定したスパイク列 s（第 4 トレース）と震源ウェーブレット w（第 3 トレース）のコンボリューションにランダム・ノイズ n（SN 比 4）を加算して合成反射地震記録 t（第 2 トレース）を計算し，w と t を用いて L1 ノルム最小化によりスパイク列推定値 （第 1 トレース）を求めている．
はいくつかの小さなノイズ・スパイク，および 420ms の小さなスパイクの欠落を除いて，s とよ
く一致している．
Chapman and Barrodale (1983) 35)も Taylor et al. (1979) 34)と同様の問題を扱っているが，最小化問
題として(3.2)式の第 1 項のみを用い，重み係数 λ を不要としている．この論文では，L1 ノルムの値によって非ゼロの値をもつスパイクの数が制御できると指摘している．
Santosa and Symes (1986) 36)は，帯域制限された反射地震記録のデコンボリューションを線形イ
ンバージョン問題として数学的に解析している．
Levy and Fullagar (1981) 37)は，スパースなスパイク列をフーリエ・スペクトルの一部の周波数帯
域から，L1 ノルム最小化を用いて再構成するアルゴリズムを提案した．周波数領域の一部の帯域を用いることにより，劣決定系線形逆問題になることに言及している．また，L1 ノルム最小化は，少数の非ゼロ値をもつ（孤立したスパースな）解を求めるのに適していると述べている．

―

14 ―

図 3.2.1-1

合成反射地震記録に対するスパイク列抽出の例
出典：Taylor et al. (1979) 34)

図 3.2.1-2 に複雑な震源ウェーブレットに対する計算例を示す．(a)は震源ウェーブレット w，(b)は正規化後のスパイク列（応答関数）s で，w と s のコンボリューションによって計算されたのが(c)のトレース t である．(d)は t の正規化後振幅スペクトルであり，矢印で示した周波数帯域のスペクトル・データから再構成したスパイク列 が(e)である．

図 3.2.1-2

複雑な震源ウェーブレットに対するスパイク列再構成の例
出典：Levy and Fullagar (1981) 37)

Oldenburg et al. (1983) 38)は，帯域制限された（垂直入射）反射地震記録 から，深度の関数として音響インピーダンスを復元する問題を扱っており，反射地震記録のコンボリューション・モデ
ル

∗

―

15 ―

(3.3)

に対して，デコンボリューションにより帯域制限された反射率関数 r(t)を求め，失われた低周波数域の情報を L1 ノルム最小化により復元している．このとき，L1 ノルムは音響インピーダンスの変動が最小となる，すなわち非ゼロの反射係数の数（層数）が最も少なくなる解を得るために用いている．
図 3.2.1-3 に音響インピーダンス復元の計算例を示す．(a)は正確な（仮定した）反射地震記録の高分解能デコンボリューション結果，(b)はインバージョンによって求められた反射率関数，(c)は(b)の振幅スペクトル，(d)は音響インピーダンスの復元結果である．(e)～(p)は不正確なデータ（ノイズを含む反射地震記録のデコンボリューション結果）に対する計算結果であり，(e,f,g,h)，(i,j,k,l)，(m,n,o,p)は(a,b,c,d)に対応し，それぞれ適合度を決定するパラメータ が 0.25，1.0，4.0 のときの結果を示している．
上記の Taylor et al. (1979) 34)から Oldenburg et al. (1983) 38)に至る研究では，L1 ノルム最小化問題の解法として，主に線形計画法が利用されている．

図 3.2.1-3

音響インピーダンス復元の計算例

出典：Oldenburg et al. (1983) 38)

Li et al. (2012) 39)は，イメージ推定に双曲型ペナルティ関数（ハイブリッド・ノルムと呼ばれている．）を用いている．この関数は，残差が小さいときには L2 ノルムのように，残差が大きいときには L1 ノルムのように働く．解法として Newton 法と共役勾配法を組み合わせた HYCD
（hyperbolic conjugate direction）法を用いている．適用例として，①強いノイズを伴うデータの速度解析，②不等間隔サンプリングのエイリアシングが生じている双曲線パターンの復元，およびエイリアシングが生じているデータのマイグレーション，③ブロック的な区間速度推定の結果を示している．

―

16 ―Pérez et al. (2013a) 40)は，マルチチャネル反射地震記録から高分解能 AVA（amplitude versus angle
of incidence）属性を得る問題を扱っている．入射角に対する反射波の振幅は連立非線形方程式で表されるが，これを線形化するために Shuey の近似式を用いて，i 番目の反射地震記録の入射角を θi とし，時刻 における反射係数 rt(θi)を

sin

(3.4)

によって表されるものとしている．ここで，At，Bt が求めるべき未知パラメータで，それぞれイ
ンターセプト，勾配という．この問題を解くためのインバージョン法として FISTA（fast iterative
shrinkage-thresholding algorithm）と LS（最小二乗）インバージョンの 2 ステップ・ハイブリッド法を用いている．ここで，FISTA は未知パラメータ（インターセプト，勾配）の非ゼロ成分から
スパイク数と走時を選択するために用いられ，その後 LS インバージョンは主に勾配の値を改善するために用いられている．Pérez et al. (2013b) 41)は同様の問題を扱っているが，地下の波動伝播に伴う吸収と分散効果を考慮し，震源ウェーブレットが時間変化するものとしていることから，
FISTA と VFSA（very fast simulated annealing）による 2 ステップ・ハイブリッド法を採用している．VFSA は，FISTA による解を改善するために用いられ，震源ウェーブレットをチューニング
し，必要であれば同時に反射面の位置を調整する．
図 3.2.1-4 に AVA インバージョンにおける入力データ，図 3.2.1-5 にインターセプトと勾配のインバージョン結果の計算例を示す．図 3.2.1-4 の(a)と(b)は仮定したインターセプトと勾配，(c)と(d)はそれぞれ SN 比 20，10 で作成した NMO 補正後のマルチチャネル反射地震記録，(e)は伝播時間の関数としての震源ウェーブレットである．また，図 3.2.1-5 の(a)と(e)は仮定したインターセプトと勾配（図 3.2.1-4 の(a)と(b)と同じ），(b)と(f)は FISTA の結果（SN 比 10），(c)と(g)は FISTA+VFSA の結果（SN 比 20），(d)と(h)は FISTA+VFSA の結果（SN 比 10）である．

図 3.2.1-4

AVA インバージョンにおける入力データ
出典：Pérez et al. (2013b) 41)

―

17 ―

図 3.2.1-5

インターセプトと勾配のインバージョン結果
出典：Pérez et al. (2013b) 41)

3.2.2. 圧縮センシングに関連した研究
圧縮センシングは，スパース性を用いる手法で LASSO と並ぶもう 1 つの重要な方法であり，
主に情報理論の分野で議論されてきた 27)．圧縮センシングは，多くのタイプの信号や画像が適当な基底の下でスパースに表現できるものとして，少数の観測データからスパースな信号や画像を再構成する技術である 27),29)．圧縮センシングという用語は Donoho (2006) 42)によって作られたようであり，その頃から物理探査分野においても関連した研究が行われてきた．Donoho の論文が出てから 10 年余りであるが，物理探査分野だけでも圧縮センシングに関連した論文の数は非常に多く，とてもすべてを網羅することはできない．ここでは，そのなかのいくつかの研究について概観する．
（１）データ正則化・波動場復元および地震探査データ取得
データ正則化とは，時間・空間的に不規則にサンプリングした取得データを規則的サンプリン
グ・データに変換することであり，データ補間あるいは波動場復元（あるいは再構成）問題と考えることもできる．フーリエ変換に基づく地震探査データの正則化や復元は Sacchi et al. (1998) 43)に始まり，その後 Xu et al. (2005) 44)などによって拡張された 45)．Xu et al. (2005) 44)は，不規則サン
プリングによって生じる「スペクトルの漏れ」（1 つのフーリエ係数からのエネルギーが他のフーリエ係数に漏れること）の問題を解決するために ALFT（antileakage Fourier transform）と呼ばれる手法を提案した．
ALFT を用いたデータ正則化の例を図 3.2.2-1 に示す．(a)は入力データとして与えた共通オフ
セット断面，(b)は ALFT によるデータ正則化の結果である．データ正則化により，岩塩トップにおける回折現象が明らかに改善され，反射イベントの分解能が向上している．

―

18 ―

(a)

(b)
図 3.2.2-1

データ正則化の例

出典：Xu et al. (2005) 34)
Hennenfent and Herrmann (2008) 46)は，波動場復元問題において，スパース性促進インバージョ
ン（sparsity-promoting inversion）によって有利になるように設計された離散アンダーサンプリン
グ方式を提案している．ここで，アンダーサンプリングとは時間・空間的にナイキスト周波数以下でサンプリングすることをいい，サブ（ナイキスト）・サンプリングともいう．規則的なアン
ダーサンプリングよりもランダム・アンダーサンプリングの方が有利であり，有害なコヒーレン
ト・エイリアスを相対的に無害なインコヒーレント・ランダム・ノイズに変換し，補間問題をはるかに単純なノイズ除去問題に変えることができることを示している．また，ランダム・アンダ
ーサンプリングは最大ギャップ・サイズの制御が不十分であることから，最大ギャップ・サイズを制御できるジッタ・アンダーサンプリングと呼ばれるサンプリング方式を導入している．
なお，Hennenfent and Herrmann (2008) 46)のように，アンダーサンプリング・データからの信号復元を対象としている場合，圧縮センシングではなく圧縮サンプリングという用語を用いている論文もある．圧縮センシング，圧縮サンプリングともに，英語表記での短縮形は”CS”である．
図 3.2.2-2 に，3 つの余弦関数を重ね合わせた信号に対して，異なるサンプリングを適用した
例を示す．(a)はナイキスト周波数以上で規則的にサンプリングした信号，(c)は離散的な一様分布に従ってランダムにアンダーサンプリングした信号，(e)は規則的にアンダーサンプリングした信号であり，(b)，(d)，(f)はそれぞれ(a)，(c)，(e)から計算した振幅スペクトルである．
(e)，(f)ではアンダーサンプリングによる偽像はコヒーレントに干渉し，元の信号成分とエイリ
アスを生じている．一方，(c)，(d)ではアンダーサンプリングによる偽像が加算性の非干渉性ランダム・ノイズとして現れ，
標準的なノイズ除去技術を使用して容易に除去することが可能である．
地震探査データ取得において，データ正則化と同時／連続的データ取得が同一であることが示され 47)，地震探査データ取得に圧縮センシングを活用する突破口となった 48)．
Herrmann (2010) 49)は，探査領域サイズの増大と高分解能イメージの要求に対して，ナイキストのサンプリング規準に基づく現在のデータ取得・処理システムには根本的な欠点があることを指摘している．そして，この問題を解決するために，従来アンダーサンプリングと考えられていたデータに対して圧縮センシング（あるいは圧縮サンプリング）の方法論に基づくデータ取得・処理手法を提案している．この手法の核心は，ランダム化されたサブサンプリング（またはランダ
ム化された同時震源）にあり，その後変換領域のスパース性促進プログラムによってサブサンプ
リング干渉によるノイズを除去し，制御可能な誤差で地震波動場を復元する．この方法により，データ取得・処理コストは探査領域のサイズと分解能ではなく，波動場の復元誤差および変換領域のスパース性に依存するようになる．

―

19 ―

図 3.2.2-2

異なるサンプリングを適用した例

出典：Hennenfent and Herrmann (2008) 46)

圧縮センシングでは，データ取得に必要なサンプリング・レートを低減するために，信号をスパース化できる適切な変換を用いて圧縮可能な表現に変換する．この地震探査データの圧縮には，
カーブレット変換 45),50),51),52)が波動原子（wave atoms）やウェーブレット変換よりも適していることが示されている 48),49)．一方，Wang et al. (2011) 53)は，地震波動場復元（イメージング）を圧縮
センシング問題とみなし，ウェーブレット変換に基づく区分的ランダム・サンプリング法およびL1 ノルム制約付き信頼領域法（trust region method）を用いることにより，悪条件の圧縮センシン
グ問題を解く上でロバスト性を有しつつ，波動場復元品質を大幅に改善できると述べている．
現場での地震探査データ取得に対する圧縮センシングの適用として，データ正則化（あるいは波動場復元）の例としての欠測のある順次起震データおよび同時起震データからの復元が扱われている 48),49)．数学的には，順次起震データ取得と同時起震データ取得は，測定基底の定義が異なるだけであることが Herrmann et al. (2012) 48)に述べられている．
図 3.2.2-3 および図 3.2.2-4 に波動場復元の計算例を示す．図 3.2.3-3 は，スエズ湾データセットからの共通受震点ギャザーであり，波動場復元の計算に使用したオリジナル・データである．
図 3.2.2-4 は 50%の起震記録をランダムに欠測とした入力データからの波動場復元の計算例を示している．(a)は順次起震（図 3.2.2-3 の共通受震点ギャザー）の場合の入力データ，(b)はランダ

―

20 ―

ムな同時起震の場合の入力データであり，(c)，(d)はそれぞれ(a)，(b)の不完全なデータからの復元結果である．(c)に比べて(d)の同時起震データからの復元結果の方が品質改善されていることがわかる．

図 3.2.2-3

共通受震点ギャザー

出典：Herrmann et al.
(2012) 48)

図 3.2.2-4

波動場復元の計算例

出典：Herrmann et al. (2012) 48)

Berkhout(2008) 54)は，「圧縮センシング」といった用語を使用していないが，現在の反射法地震探査手法（不連続記録取得，測定記録間の時間的重複ゼロ）に対する，ブレンド取得の有効性と経済性について述べている．ここで，ブレンド取得とは，時間的に重なる多重震源応答の連続記
録取得を表し，多重震源の特性はオフセット，方位角および遅延時間の組み合わせによって特徴付けられる．その有効性の根拠として，データ正則化（エイリアシング除去）は重複起震記録のデータ分離（干渉除去）よりもはるかに難しいことを挙げている．また，ブレンド 3D 地震探査の設計を可能にする理論的枠組みを提示し，ブレンド・データを処理する方法についても説明している．
Cao et al. (2011) 55)は，地震探査データの補間とフル波動場復元の悪条件逆問題を解くために圧縮センシング理論を使用し，カーブレット変換によるスパース変換，区分的ランダム・サブサン
プリング，L0 ノルムと L1 ノルムの最小化モデルを解くための高速投影勾配法を開発している．また，カーブレット変換がノイズ除去，重複反射除去およびマイグレーションに使用できること，

―

21 ―

高分解能デコンボリューションに圧縮センシングが使用できることに言及している．
なお，Herrmann and Hennenfent (2008) 45)は，圧縮サンプリングはスパース性促進インバージョ
ンに理論的な厳密性を与えたと見ることができるが，スパース性促進インバージョンの経験的な適用は既に物理探査分野にもあり，その例としてスパイク・デコンボリューション（spiky
deconvolution）34),36)などを挙げている．
（２）波動場シミュレーション
従来の波動場シミュレーションのコストは，計算領域（離散化モデル）のメッシュ・サイズ，
震源・受震取得グリッドのサイズおよび震源関数の希望最大周波数によって大きく左右される．
ますます高精度・大規模化するフル波形シミュレーションの効率的な計算を行うために，波動方
程式のイメージングとインバージョンに必要な改善は，離散化のサイズではなく，その解の変換
領域圧縮率によって決定される計算の複雑さを含む問題の定式化に依存する．これらの問題を解決するために，Herrmann et al. (2009) 47)は圧縮センシングのアイデアを地震波形シミュレーションの問題に適用し，スパース性促進プログラムを解くことにより，圧縮性のある信号をサブサンプ
リングから復元している．この手法では，サブサンプリングによる干渉は，変換領域のスパース性，特定のサブサンプリング・スキームの特性，スパース性促進ソルバの存在を利用して除去している．フル波動場シミュレーションの計算量は，必要な周波数と震源の数で決まる．震源に対する波動方程式の線形性を利用し，順次震源をより少ない数の「スーパーショット」として組み
合わせ，それぞれがすべての順次起震のランダムな重ね合わせからなるとすることで，震源数を減らしてシミュレーションを高速化している．この圧縮サンプリング・シミュレーション（あるいは圧縮シミュレーション）は，スパース性促進プログラムを解くことによって復元できる 47),48)．
図 3.2.2-5 に波動場シミュレーションの計算例を示す．単純および複雑な速度モデルに対する従来のシミュレーションと圧縮シミュレーションの比較である．(a)，(b)はそれぞれ単純モデル，
複雑モデルに対する従来のシミュレーション結果であり，(c)，(d)はそれぞれ単純モデル，複雑モ
デルに対して 25%のサンプルから復元した圧縮シミュレーション結果である．
（３）イメージング
圧縮シミュレーションは波動場シミュレーションには有用であるが，波動方程式に基づく地震探査データ・イメージングの効率化には適していない．その理由は，各々の偏微分方程式を解く
ためにスパース性促進プログラムを解く必要があるからである 48)．
Herrmann and Li (2012) 56)は，地震探査データ・イメージングを線形化インバージョン問題として，効率的に解くアルゴリズムを開発している．ランダム化された次元縮約（dimensionality
reduction）28),47)と分割統治法（divide-and-conquer technique）を組み合わせ，優決定地震イメージ
ング問題を（小さなランダム化されたデータのサブセットを含む）一連の劣決定次元縮約サブ問
題に変え，これらをスパース性促進ソルバによって復元している．これらのサブセットは，順次
震源実験のランダム重合からなる人工的同時震源実験に対応し，最終的なイメージは，カーブレ
ット領域のスパース性促進マイグレーションの結果と考えることができる．この方法では，計算コストは離散化によってではなく，モデルの変換領域スパース性によって支配される．

―

22 ―

図 3.2.2-5

波動場シミュレーションの計算例

出典：Herrmann et al. (2009) 47)

図 3.2.2-6 は Marmousi モデルに対するイメージングの例であり，各サブ問題を解いた後のスーパーショットの更新の有無による比較を行っている．(a)はすべてのデータ（192 起震点，10 周波数）から計算した基準イメージ，(b)は更新ありで最小二乗法により得られたイメージ，(c)は更新なしで最小二乗法により得られたイメージ，(d)は更新ありで LASSO により得られたイメージ，(e)は更新なしで LASSO により得られたイメージである．各サブ問題を解いた後にスーパーショ
ットを更新すると両インバージョン法ともに性能が向上すること，またスパース性促進によって得られたイメージは最小二乗法によって得られたイメージと比較して品質が優れていることがわ
かる 48),56)．

―

23 ―

図 3.2.2-6

イメージングの例

出典：Herrmann et al. (2012) 48)（４）フル波形インバージョン
フル波形インバージョン（full waveform inversion，略して FWI）は多重（震源）実験の非制約最適化問題の解を含み，これを解く上での計算負荷が主な障害となっていた 48)．Li et al. (2012) 57)
は，FWI 問題を非線形最小二乗問題として，凸最適化，確率的最適化および圧縮センシングからのアイデアを使用することにより，効率的に解くアルゴリズムを開発している．データのランダ
ム・サブセットに対して，カーブレット領域のスパース性促進を伴う次元縮約 Gauss-Newton 法，
ランダム化次元縮約と組み合わせたスパース復元により高速化・高品質化が可能であるとしている．
図 3.2.2-7 は合成速度モデルに対する FWI の例であり，弾性波伝播速度（単位 m/s）によって色分けされている．(a)は真のモデル，(b)は初期モデル，(c)はインバージョン結果である．
（５）その他
Herrmann et al. (2012) 48)では，圧縮センシングにおける次元縮約手法で現れる凸最適化問題の解法について解説するとともに，トレードオフ・パラメータ を適切に選択する際に有用なパレート
曲線 58)について説明している．
カーブレット変換を利用したデータ処理として，Herrmann et al. (2007) 51)は一次反射と重複反射の分離，Lin and Herrmann (2007) 59)は波動場外挿に適用している 52)．
図 3.2.2-8 はプレスタック・データに対する一次反射と重複反射の分離の例を示したものであり，波動方程式に基づく予測法とカーブレットに基づく方法との比較を行っている．これらの図ではプレスタック・データを起震番号－オフセット－時間の三次元ボリュームとして表現している． 図の(a)は重複反射を含む入力データ，(b)は予測法により得られた重複反射，(c)は(a)から(b)を除去して求めた一次反射の推定結果，(d)はカーブレットに基づく方法によって得られた一次反射の推定結果である．カーブレットに基づく方法による結果の方が，一次反射を保持しつつ，残

―

24 ―

存ノイズが少なくなっている．
本節の冒頭に述べたように，物理探査分野におけるスパースモデリングの歴史とは，ほとんど
反射法地震探査における歴史とみなすことができる．ただし，反射法地震探査以外にも電磁探査
MT 法 60)，表面波探査 61)，地中レーダ探査 62)-67)への適用例がある．前出の Berkhout (2008) 54)は，（震源の位置と遅延時間を制御できない）受動的地震探査における測定データをブレンド・デー
タとみなすことができることから，受動的および能動的地震探査法の両方で統一された理論的枠組みを導出することにより，自然と人工のブレンディングによる科学的モデルを得ることの可能性について言及している．その候補としては，微動アレイ探査と表面波探査が考えられるであろう．
また，物理探査分野ではないが，Yao et al. (2011) 68)は，圧縮センシングを使用して，2011 年東北地方太平洋沖地震（Mw9.0）の際に米国のアレイ観測によって記録した遠地 P 波データを用い，凸最適化問題として観測波形にモデル波形を適合させることによって，いくつかの周波数帯域における震源位置および震源振幅およびパワーの時間・空間分布を求めている．それにより，不均質摩擦特性によるスラブ境界面での破壊挙動の差に起因すると考えられる周波数依存性破壊モードを明らかにしている．

図 3.2.2-7

フル波形インバージョンの例

出典：Herrmann et al. (2012) 48)

―

25 ―

図 3.2.2-8

一次反射と重複反射の分離の例

出典：Herrmann et al. (2007) 51)

―

26 ―

【３章

文献】

（3.1.スパースモデリングの歴史と現状）
1) 石川真澄；人工神経回路網モデルの「忘却付き構造学習」，1980 年代後半
誤差逆伝播法の改良であり，LASSO(1996)とも呼ばれている．
in http://sparse-modeling.jp/program/B01-2.html
関連論文：
石川真澄，忘却を用いたコネクショニストモデルの構造学習アルゴリズム，
人工知能学会誌 5(5), 595-603, 1990 年
石川真澄・山本洋嗣，ニューラルネットワークの構造学習による規則性の発見と汎化，
日本神経回路学会誌，1(2), 57-63, 994．
石川真澄，ニューラルネットワークの忘却付き構造学習，日本ファジィ学会誌 9(1), 2−9,
1997．
2) Tibshirani, R.; Regression Shrinkage and Selection via the lasso, J. R. Statist. Soc., B, 58(1), 267-28,
1996.
3) Tipping and Bishop; Variational Principal Components, Sparse Bayesian Learning and the Relevance
Vector Machine, Journal of Machine Learning Research, 1, 211-244, 2001.
4) Stѐphane G. Mallat and Zhifeng Zhang; Matching Pursuit With Time-Frequency Dictionary, IEEE
TRANSACTIONS ON SIGNAL PROCESSING, 41(12), 1993.
5) Scott Shaobing Chen, David L. Donoho, and Michael A. Saunders; Atomic Decomposition by Basis
Pursuit. - Department of Statistics, SIAM REVIEW, 43(1), 129–159,1995．(©2001 Society for Industrial
and Applied Mathematics)
6) Robert Tibshirani; Regression Shrinkage and Selection via the Lasso, Journal of the Royal StatisticalSociety, Series B( Methodological), 58(1), 267-288, 1996．
7) Donoho（Stanford 大）らが提唱している圧縮センシング(CS) 2000 年8) 岡田真人；人工知能研究の歴史から現状－脳科学と AI の関係，東京大学・大学院新領域創成科学研究科，http://www.soumu.go.jp/main_content/000425152.pdf．
9) 福島孝治；スパースモデリングによる高次元データ駆動科学の展開，特集号展望「スパースモ
デリングの深化と高次元データ駆動科学の展開」，システム/制御/情報，61(4), 126–131, 2017．
10) 庄野逸；スパースモデリングの歴史と基本技術 (特集 スパースモデリングの発展 : 原理から応用まで) -- (全体概要と基本理論)，The journal of the Institute of Electronics, Information andCommunication Engineers 99(5), 376-380, 2016-05.
11) 植村誠；スパースモデリングの宇宙物理学への応用，国立天文台談話会，2014．
12) Candes and Tao; Near-optimal signal recovery from random projections: Universal encoding strategies，IEEE transactions on information theory, 52(12), 5406-5425, 2006．
13) Candes and Tao; Stable signal recovery from incomplete and inaccurate measurements ，Communications on pure and applied mathematics, 59(8), 1207-1223, 2006.
14) Donoho; Compressed sensing, IEEE Transactions on Information Theory, 52(4), 2006.
15) Tibshirani，R.; Regression Shrinkage and Selection via the Lasso，J.R.Statist. Soc. B, 58(1), 267-288,
1996．
16) https://ja.wikipedia.org/wiki/Ia%E5%9E%8B%E8%B6%85%E6%96%B0%E6%98%9F.
17) 桑谷 立，中田 令子，岡田 真人，堀 高峰；スパースモデリングの地球物理学への応用, 電子情報通信学会誌，99(5), 406-410, 2016.
18) 大関真之；スカスカのデータから知見を見出す救世主？--「スパースモデリング」とは何か -

―

27 ―

(page 4)”. ASAHI INTERACTIVE, Inc. 2016 年 9 月 19 日閲覧．
19) 駒井武，岡本敦，桑谷立，土屋範芳；スパースモデリングに基づくデータ駆動解析による地球プロセスモデルの構築，2016 年 9 月 19 日閲覧．
20) 田中利幸，池田思朗，大関真之；圧縮センシングにもとづくスパースモデリングへのアプロ
ーチ，2016 年 9 月 19 日閲覧．
21) http://sparse-modeling.jp/program/B01-1.html.
22) 本間希樹，植村誠，加藤太一，野上大作；スパースモデリングを用いた超巨大ブラックホールの直接撮像，2016 年 9 月 19 日閲覧．
23) 工藤博幸ら；医用画像に関しての応用，2002 ころ
24) Michael Lustig, https://vcresearch.berkeley.edu/faculty/michael-miki-lustig, 2016．
25) 森川茂廣；圧縮センシングによる MR 高速撮像，第 42 回日本磁気共鳴医学会大会，2014．
（3.2.物理探査分野における歴史）
26) 池田思朗；スパース性を用いた推定，岩波データサイエンス，5，岩波書店，19-38，2017.
27) Tibshirani，R. ; Regression Shrinkage and Selection via the lasso，J. R. Statist. Soc. B, 58(1), 267-28,
1996.
28) 永原正章；スパースモデリング―基礎から動的システムへの応用―，コロナ社，208p，2017．
29) Fornasier, M., and Rauhut, H. ; 6. Compressive sensing, Handbook of mathematical methods inimaging, Springer, 187-228, 2011.
30) Davenport, M.A., Duarte, M.F., Eldar, Y.C., and Kutyniok, G. ; Introduction to Compressed Sensing,
DFG-Schwerpunktprogramm 1324, 80p, 2011.
32) Foucart, S., and Rauhut, H. ; A mathematical introduction to compressive sensing,

Applied andNumerical Harmonic Analysis, Birkhäuser/Springer, New York, 625p, 2013.
32) 冨岡亮太；スパース性に基づく機械学習，機械学習プロフェッショナルシリーズ，講談社，
179p，2015．
33) Claerbout, J. F., and Muir, F. ; Robust modeling with erratic data, Geophysics, 38(5), 826-844, 1973.
34) Taylor, H. L., Banks, S. C., and McCoy, J. F. ; Deconvolution with the l1 norm, Geophysics, 44(1),39-52, 1979.
35) Chapman, N. R., and Barrodale, I. ; Deconvolution of marine seismic data using the l1 norm, Geophys.
J. R. astr. Soc., 72, 93-100, 1983.
36) Santosa, F., and Symes, W. W. ; Linear inversion of band-limited reflection seismograms, SIAM J. Sci.
Stat. Comput., 7(4), 1307-1330, 1986.
37) Levy, S., and Fullagar, P. ; Reconstruction of a sparse spike train from a portion of its spectrum andapplication to high-resolution deconvolution, Geophysics, 46(9), 1235-1243, 1981.
38) Oldenburg, D. W., Scheuer, T., and Levy, S. ; Recovery of the acoustic impedance from reflection
seismograms, Geophysics, 48(10), 1318-1337, 1983.
39) Li, Y., Zhang, Y., and Claerbout, J. ; Hyperbolic estimation of sparse models from erratic data,
Geophysics, 77(1), .V1-V9, 2012.
40) Pérez, D. O., Velis, D. R., and Sacchi, M. D. ; High-resolution prestack seismic inversion using a
hybrid FISTA least-squares strategy, Geophysics, 78(5), R185-R195, 2013a.
41) Pérez, D. O., Velis, D. R., and Sacchi, M. D. ; A hybrid strategy based on fast iterative
shrinkage-thresholding algorithm and very fast simulated annealing: Application to the prestackseismic inverse problem, Mecánica Computacional, 32, 1701-1713, 2013b.

―

28 ―

42) Donoho, D.L. ; Compressed sensing, IEEE Trans. Inform. Theory, 52(4), 1289-1306, 2006.
43) Sacchi, M.D., Ulrych, T.J., and Walker, C. ; Interpolation and extrapolation using a high-resolution
discrete Fourier transform, IEEE Trans. Signal Process., 46(1), 31-38, 1998.
44) Xu, S., Zhang, Y., Pham, D., and Lambare, G. ; Antileakage Fourier transform for seismic data
regularization, Geophysics, 70(4), V87-V95, 2005.
45) Herrmann, F.J., and Hennenfent, G. ; Non-parametric seismic data recovery with curvelet frames,
Geophys. J. Int., 173(1), 233-248, 2008.
46) Hennenfent, G., and Herrmann, F.J. ; Simply denoise: Wavefield reconstruction via jitteredundersampling, Geophysics, 73(3), V19-V28, 2008.
47) Herrmann, F.J., Erlangga, Y.A., and Lin, T.T. ; Compressive simultaneous full-waveform simulation,
Geophysics, 74(4), A35-A40, 2009.
48) Herrmann, F.J., Friedlander, M.P., and Yilmaz, O. ; Fighting the curse of dimensionality: Compressive
sensing in exploration seismology, IEEE Signal Process. Mag., 29(3), 88-100, 2012.
49) Herrmann, F.J. ; Randomized sampling and sparsity: Getting more information from fewer samples,
Geophysics, 75(6), WB173-WB187, 2010.
50) Candès, E.J., Demanet, L., Donoho, D.L., and Ying, L. ; Fast discrete curvelet transforms, SIAM
Multiscale Model. Simul., 5(3), 861-899, 2006.
51) Herrmann, F.J., Boeniger, U., and Verschuur, D.J. ; Nonlinear primary-multiple separation withdirectional curvelet frames, Geophys. J. Int., 170(2), 781-799, 2007.
52) Herrmann, F.J., Wang, D., Hennenfent, G., and Moghaddam, P.P. ; Curvelet-based seismic dataprocessing: A multiscale and nonlinear approach, Geophysics, 73(1), A1-A5, 2008.
53) Wang, Y., Cao, J., and Yang, C. ; Recovery of seismic wavefields based on compressive sensing by an
l1-norm constrained trust region method and the piecewise random subsampling, Geophys. J. Int., 187,
199-213, 2011.
54) Berkhout, A.J. ; Changing the mindset in seismic data acquisition, The Leading Edge, 27(7), 924-938,
2008.
55) Cao, J., Wang, Y., Zhao, J., and Yang, C. ; A review on restoration of seismic wavefields based on
regularization and compressive sensing, Inverse Problems in Science and Engineering, 19(5), 679-704,
2011.
56) Herrmann, F.J., and Li, X. ; Efficient least-squares imaging with sparsity promotion and compressive
sensing, Geophys. Prosp., 60(4), 696-712, 2012.
57) Li, X., Aravkin, A.Y., van Leeuwen, T., and Herrmann, F.J. ; Fast randomized full-waveform
inversion with compressive sensing, Geophysics, 77(3), A13-A17, 2012.
58) Hennenfent, G., van den Berg, E., Friedlander, M.P., and Herrmann, F.J. ; New insights into one-norm
solvers from the Pareto curve, Geophysics, 73(4), A23-A26, 2008.
59) Lin, T.T., and Herrmann, F.J. ; Compressed wavefield extrapolation, Geophysics, 72(5), SM77-SM93,
2007.
60) Levy, S., Oldenburg, D., and Wang, J. ; Subsurface imaging using magnetotelluric data, Geophysics,
53(1), 104-117, 1988.
61) Mun, S., Bao, Y., and Li, H. ; Generation of Rayleigh-wave dispersion images from multichannel
seismic data using sparse signal reconstruction, Geophys. J. Int., 203(2), 818-827, 2015.
62) Gurbuz, A.C., McClellan, J.H., and Scott, W.R. ; A compressive sensing data acquisition and imaging
method for stepped frequency GPRs, IEEE Trans. Signal Process., 57(7), 2640-2650, 2009.

―

29 ―

63) Suksmono, A.B., Bharata, E., Lestari, A.A., Yarovoy, A.G., and Ligthart, L.P. ; Compressive
stepped-frequency continuous-wave ground-penetrating radar, IEEE Geosci. Remote Sensing Lett., 7(4),665-669, 2010.
64) Yu, H. ; Research on Compressive Sensing Based GPR Data Acquisition, in Lee, J. ed., Advanced
Electrical and Electronics Engineering, Lecture Notes in Electrical Engineering, 87, Springer, 171-177,
2011.
65) Gurbuz, A.C., McClellan, J.H., and Scott, W.R. ; Compressive sensing of underground structures using
GPR, Digital Signal Processing, 22(1), 66-73, 2012.
66) Tuncer, M.A.C., and Gurbuz, A.C. ; Ground Reflection Removal in Compressive Sensing Ground
Penetrating Radars, IEEE Geosci. Remote Sensing Lett., 9(1), 23-27, 2012.
67) Ambrosanio, M., and Pascazio, V. ; A Compressive-Sensing-Based Approach for the Detection andCharacterization of Buried Objects, IEEE J. Selected Topics in Applied Earth Observations and Remote
Sensing, 8(7), 3386-3395, 2015.
68) Yao, H., Gerstoft, P., Shearer, P.M., and Mecklenbrauker, C. ; Compressive sensing of the Tohoku‐
Oki Mw 9.0 earthquake: Frequency‐dependent rupture modes, Geophys. Res. Lett., 38, L20310, 2011.

―

30 ―

4. スパースモデリングの方法
4.1. 最小二乗法とスパースモデリング
4.1.1. 制約付き最小二乗法によるランク落ちした連立一次方程式の解法
一般に物理探査の解析では，求めたい未知数の数に比べてデータに含まれる情報量が少なく，そのままでは解けないことが多い．無理に解こうとすると発散して答えが得られな
いため，別の既知情報でデータを補完し解の安定化を図っている．本研究会で検討しているスパースモデリングもまた同様であり，先験的な情報を使ってデータに含まれていない
足りない情報を補うことにより解の精度を上げようというものである．これらの方法が効果的かどうかは与えた先験情報が個々の問題に適合しているかどうかにかかっており，どんな問題にでも適用できる万能な方法ではない．本節では，制約付き最小二乗法およびス
パースモデリングの方法について簡単な線形問題について数式を使って解説する．
データ数 N，パラメータ数 M の連立一次方程式を考える．
(4.1)
ここで A は N 行 M 列の行列，y(y1～yN)はデータ，x(x1～xM)は未知パラメータを示す．(4.1)
式を使ってデータ y から未知パラメータ x の値を求めることを考える．データ数 N がパラ
メータ数 M よりも小さい場合や，一次従属なデータが多く行列 A のランクが M よりも小さい場合には，この連立一次方程式は解けない．このような場合でも，当たらずとも遠からずの意味のある解を得ることは可能であり，ジオトモグラフィでは次のような制約条件を与えて解く方法が一般的である．
① ダンプト最小二乗法：解の L2 ノルム最小②

平坦化制約付き最小二乗法：解の空間的な分布は平坦ある（勾配最小）③

平滑化制約付き最小二乗法：解の空間的な分布はスムーズである（曲率最小あるいはラプラシアン最小）
弾性波速度や比抵抗といった物性値の分布は空間的に滑らかに変化していることが多く，

このようなケースでは②や③の制約条件を課すことは，直感的にも理にかなっていると考えられる．また，弾性波速度や比抵抗値が数万 m/s，あるいは数万 ohm-m といった極端に大きな値を示すことは考えられない．①の制約条件を使って解のノルムが大きくならない
ように制限をかけることもまた十分に理にかなっているものと考えられる．
ここでは，スパースモデリングと類似点の多い①のダンプト最小二乗法について解説する．ダンプト最小二乗法は，(4.1)式をそのまま解く代わりに(4.2)式に示す制約条件を付け加えた(4.3)式を解くことに他ならない．
(4.2)

―

31 ―

(4.3)

ここで μ は制約条件式(4.2)式の重み，I は単位行列である． (4.3)式右辺の係数行列の転置行列を，両辺に左からかけて正規方程式を作成する．次にこれを解くと(4.3)式の解は次のように与えられる．
(4.4)(4.4)式で与えられた解 x が(4.3)式の最小二乗解であることはよく知られている．従って，次の条件が成立する．

‖

‖

‖ ‖ ⟶

.

(4.5)

ここで左辺第 1 項は元々の(4.1)式の二乗残差である．通常の最小二乗法は二乗残差が最小になるように解を求めるが，ダンプト最小二乗法では，解の安定のために付加した第 2 項を含めた二乗残差が最小になるように解を求める．第 2 項はペナルティー項と呼ばれる．
4.1.2. MM アルゴリズムによる L1 ノルム最小解の計算
さて本研究会で検討しているスパースモデリングは，「未知数のほとんどはゼロで非ゼロ成分の個数が最小になる解（L0 ノルムが最小解）を求める」ことを目標としている．しかし，この条件を厳密に当てはめると解を求めるための計算量が膨大になるため現実的ではない．そこで次善の策として，解の L0 ノルムの代わりに L1 ノルムに注目し，L1 ノルムが最小であるという条件を与えて解くのが，一般に行われているスパースモデリングによる解析である．この場合，(4.1)式の連立一次方程式は，次の(4.6)式の条件で解かれる．

‖

‖

‖ ‖ ⟶

.

(4.6)

容易にわかるように，ダンプト最小二乗法とスパースモデリングの違いは第 2 項のペナル
ティー項である．ペナルティー功を L2 ノルムで評価するか L1 ノルムで評価するかの違いにすぎないが，それによって解の精度が大きく変わる．(4.6)式の条件を使って解を求める
ためには，一般に LASSO（Least Absolute Shrinkage and Selection Operator）と呼ばれる方法が使われる．しかし，文献によると，L1 ノルム最小化のためのアルゴリズムは LASSO 以
外にもある．MM アルゴリズム（Majoring-Minimization algorithm）と呼ばれる方法である．
この方法は，重みを変えながらダンプト最小二乗法を繰り返し計算することによって L1
ノルム最小解を求めるものである．
以下に，MM アルゴリズムによる方法を簡単に示す．この方法を理解すため，線形変換
により未知パラメータ x の代わりに新たなパラメータ z を導入する．

―

32 ―

0
⋮
0

⋮

0

⋯

⋯

⋱
0

0
⋮
0

(4.7)

⋮

(4.7)式を使うと(4.1)式は次のように書かれる．
(4.8)(4.3)式と同様に制約条件を付加した(4.9)式を作成しこれを解くと，(4.10)式のようにパラメ
ータ z が得られる．

(4.9)(4.10)
なお，変数変換に伴って制約条件の重みも変わるため(4.3)式の μ から η に変更した．z を使って x は次のように求められる．
(4.11)(4.10)および(4.11)の解は，次の条件で求めた解である．

‖

‖

‖ ‖

‖

‖

⋯

⟶

.

(4.12)と与えることができれば，(4.12)式の第 2 項はもしも変換のための重み係数を‖ ‖ となる．すなわち，これによってスパースモデリングと等価な解析結果が得られる．
実際には，事前に解が分からないと適切な重み係数 W を与えることができないが，以下のフローに従って漸近的に重み W を変えることによって(4.12)式を満たす解を求めることができる．
①

初期モデル x0 を与える．

②

重み係数を

と与えて変数変換し，(4.10)式でダンプト最小二乗法解を得る③ で求められた新しい解 x1 から重み W1 を計算し直し，ダンプト最小二乗法を得る④

を収束するまで繰り返す．
このフローによって L1 ノルム最小解が求められるという証明はここでは割愛する．数学的には” Majorization”という概念を使うが，詳しくは Selesnick(2012)1)や Selesnick(2017)2)

―

33 ―

を参照されたい．
4.1.3. MM アルゴリズムと LASSO の比較
ここでは，スパース研究会で配布されたエクセルシート（５章）を使って連立一次方程式を作成し，LASSO で解いた結果と MM アルゴリズムで解いた結果を比較する．連立一次方程式の係数行列は 10 行 20 列の行列で，行列の各要素は配賦されたプログラムによって生成された正規乱数からなる．図 4.1.3-１に行列の各要素を小数点以下 5 桁まで示す．

図 4.1.3-1

シミュレーションに使用した連立一次方程式の係数行列

図 4.1.3-2 にケース A およびケース B のモデルパラメータの分布を示す．横軸にパラメ
ータ番号をとり縦軸にモデルパラメータの値を示した．全モデルパラメータ数は 20 であり，
このうちケース A では 3 箇所に非ゼロ要素が存在する．また，ケース B はケース A のゼ
ロ要素の 1 箇所を非ゼロ要素に変えたものである．

図 4.1.3-2

モデルパラメータ（１）ケース A の MM アルゴリズムによる解析結果
初回のイタレーションでは重みを 1 とし（ダンプト最小二乗法解），MM アルゴリズムを適用した．イタレーション 1，5，10，20，50 の解を図 4.1.3-3 に示す．なお，解析にあたって(4.11)式のダンピング係数 η2 を 0.01 と設定した．イタレーションが進むにつれてMM アルゴリズム解は正解に近づいていることが分かる．図中に”L1=”と書かれた数字は

―

34 ―

解の L1 ノルムを示している．ダンプト最小二乗法解の L1 ノルムは 3.26 と，元のモデルのL1 ノルム 2.5 よりも大きな値を示しているがイタレーションの進行とともに減少し少しず
つ真の値に近づいている．
図 4.1.3-4 に研究会から配布されたエクセルシートを使って計算した LASSO 解を示す．
なお，図中の RMS 残差は次式で計算しており，エクセルシートの計算式とは異なる．

RMS 残差(4.13)

適用した解法は ISTA,FISTA,ADMM の 3 種類である．三つの解法の中で ADMM の再現性が一番良好である．しかし，解の再現性は やイタレーション回数にも依存するため，解析法の優劣についてはこれらのパラメータの最適化行ってから，さらに検討する必要があるであろう．解の L1 ノルムは 3 手法とも 2.5 以下であり，正解よりも小さな値を示している．LASSO では解が小さめに評価されていることが分かる．

図 4.1.3-3

MM アルゴリズムによる解析結果(ケース A)

―

35 ―

図 4.1.3-4 ケース A の LASSO 解（２）ケース B の MM アルゴリズムによる解析結果
図 4.1.3-5 にケース B の解析結果を示す．ケース B はケース A のゼロ要素の一つを非ゼロ要素に置き換えたものである．両者の違いはわずかであるが解析結果は大きく異なり，
ケース B ではイタレーションを繰り返しても元のモデルに収束しない．RMS 残差は小数点以下 4 桁の小さな値を示しており，元の連立方程式の解の一つであると考えられる．しかし，この解は元のモデルを再現していない．MM アルゴリズムによる解の L1 ノルムが元のモデルの L1 ノルムよりも小さな値を示していることから，L1 ノルム最小解ではあるがス
パース解（非ゼロ要素の少ない解）ではないことが分かる．このように，L1 ノルム最小条
件が必ずしもスパース解を与えるわけではない．スパース解が得られる条件は未知数の数
および非ゼロ成分の数，データ数に依存する．
図 4.1.3-6 に LASSO の解析結果を示す．LASSO 解は MM アルゴリズムによる解と同様に元のモデルを再現していないが，その結果は MM アルゴリズムの結果と概ね一致する．
ただし，LASSO 解の L1 ノルムは MM アルゴリズムによる解の L1 ノルムよりやや小さな値を示している．ケース A でも同様の傾向が認められており，LASSO 解は MM アルゴリズ
ム解よりも L1 ノルムを過小評価する傾向にある．

―

36 ―

図 4.1.3-5

ケース B の MM アルゴリズムによる解析結果

図 4.1.3-6 ケース B の LASSO 解4.1.4. まとめ
国内におけるスパースモデリングの文献では，MM アルゴリズムに関する事例は見当たらないが，海外の文献にあたると，デコンボリューション等に適用した事例が見つかる．
上記の簡単な数値実験でも MM アルゴリズムは LASSO とほほ同じ結果を与えており，L1
ノルム最小解を得る方法としては有効である．既往のダンプト最小二乗法による逆解析プ
ログラムに MM アルゴリズムを適用する場合，ソースプログラムを大幅に書き変える必要はなく，①解のノルムに応じて重みを計算し配列に記憶するルーチンと，②重みをかけて変数変換するルーチンを加えるだけであり，高々数十行程度の修正でスパースモデリングのプログラムを作成することができる．このため，過去のソフトウェア資産をそのまま活用しながらスパースモデリングを導入することができるというメリットがある．しかも，このように簡単な方法であるにもかかわらず，上記のケース A の数値実験では LASSO よ

―

37 ―

りも精度のよい結果が得られている．大きな可能性を秘めた解析方法であり今後の研究が期待される．

4.2. 再構成について
4.2.1. LASSO
本節では，モデル空間のスパース性を利用した推定方法の代表的な手法のひとつである
LASSO(Least Absolute Shrinkage and Selection Operator, Tibshirani 1996)について理論的背景について触れる．4.1 にもあるように，LASSO は線形最小二乗法において問題が劣決定(ill-posed)である場合に，解の安定性を向上させるための制約条件を施すための正則化手法の一つである．
,⋯,推定を行うモデルパラメータを
,⋯,

,⋯

,⋯

とし，β の最適推定値をとする．このモデルパラメータへの入力を

,⋯,

,⋯,

，そ

れぞれの入力に対応する観測値 yi の N 個の対を (xi, yi), i = 1,2,…,N とする．通常の最小二乗法では，推定モデルパラメータとモデルパラメータへの入力から求める予測値∑と観測値 yi の残差二乗和が最小となるモデルパラメータを最適値とする．すな
わち，

min

と表すことができる．(4.14)式において ∑(4.14)∑

で表される項を損失関数またはコスト関数などと呼ぶ．損失関数として残差の二乗を用いるので L2 損失と呼ばれることがある．通常の最小二乗法ではモデルパラメータはパラメータ空間上で制約なく変動できることから任意性が大きく，N<M のような劣決定問題の場合や，モデルパラメータやデー
タの数が膨大になったときに機能しなくなる場合が生じる．このような場合に行われるのがたとえばパラメータ空間上での変動を制約するための制約条件を損失関数に加えることで解の安定化を図る制約付き最小二乗法と呼ばれる手法である．制約付き最小二乗法のひとつであるダンプト最小二乗法では，(4.14)式にモデルパラメータの二乗和が最小になるよ
うな制約条件を付け加える．すなわち(4.15)式のように表すことができる．

min(4.15)―38 ―t はチューニングパラメータなどと呼ばれる制約の強さを調整するためのパラメータである．(4.15)式はラグランジュの未定乗数 λ を用いることで双対な最小化問題として(4.16)式のように表すことができる．

min(4.16)(4.16)式の 2 項目を正則化項あるいはペナルティー項と呼ぶ．モデルパラメータの L2 ノル
ムを最小にする条件なので，L2 正則化または Ridge 回帰とも呼ばれる．L2 正則化により観測値に含まれるノイズやノイズに起因する局所的な変化の影響を抑えることができ，連続性に優れた結果を得ることができる．一方で，L2 正則化ではモデルパラメータ β に含まれるすべての成分について非ゼロの最適値を推定するため，モデルパラメータ成分の多くがゼロである，つまりスパースなモデルパラメータを推定する場合にモデルとかけ離れた最適値を推定してしまうことが生じる．このような問題を解決するために提案されたのがLASSO である．LASSO では，(4.15)式における制約条件として，モデルパラメータの絶対値和，つまり L1 ノルムを最小化する制約条件を課す．すなわち(4.17)式のように表すこと
ができる．

min

(4.17)

この場合も同様に，(4.17)式と双対な最小化問題として次式のように表すことができる．

min(4.18)

このようにペナルティー項を L1 ノルムとした正則化は，L1 正則化または LASSO 回帰とも呼ばれる．L1 正則化を用いることでスパースな解を得やすくなる．このことを直感的に理解するために M=2 の場合を例に取ると，損失関数 ∑∑はパラメータ空間(β1, β2)上では中心が通常の最小二乗解である楕円状の等高線となる．L1 正則化による制約条件は，図 4.2.1-1 のように原点を中心として 45 度傾けた正方形の領域内，L2 正則
化による制約条件は原点を中心とした円の領域内になる．
それぞれの制約条件における最適解は，楕円状の等高線とそれぞれの制約領域が最初に

―

39 ―

接する点で表される．図 4.2.1-1(a)で示される L1 正則化の制約領域は突出した角を持った領域であり，いずれかの角，つまり軸上の点で楕円状の等高線と接しやすい．軸上の点はいくつかのモデルパラメータがゼロであるような解，すなわちスパースな解となりやす
い性質になる．一方で図 4.2.1-1(b)で示す L2 正則化の場合，制約領域は円内の領域であり，軸上の点で接することのほうが稀であると考えられる 3)．

2

2

β̂OLS

β̂OLS

1

1

(b) L2 正則化(a)L1 正則化
図 4.2.1 -1

L1 正則化(LASSO 回帰)と L2 正則化(Ridge 回帰)

実際に正則化項を含めた損失関数の最小化問題を解く際には，L2 正則化の場合は(4.3)式に含まれる正則化項を含めて β で微分可能であり一般的な勾配法が適用できる．一方でLASSO のような L1 正則化の場合，原点で微分できない絶対値関数を含んでいるため単純な勾配法では解を求めることができない．ここでは研究会で配布されたサンプルプログラ
ムのアルゴリズムのうち，ISTA/FISTA と ADMM による方法について大関(2015)4)の解説に沿って触れる．
4.2.2. ISTA/FISTA(4.18)式で示したような最小化問題で，特にモデルパラメータの次元数が 1(p=1)の場合を考える．ここではモデルパラメータを x と表すことにすると，(4.19)式で表される最小化問
題を考える．

1
2

min | |

4.19

ここで λ，y は適当な実数とする．これを場合分けして解くと，(4.19)式を最小化する x として次のように表すことができる．

0―(4.20)40 ―(4.20)式で表される関数は，軟判定しきい値関数と呼ばれる．モデルパラメータが多次元の場合でも各パラメータが分離可能であれば，分離した各成分で軟判定しきい値関数を用いることで絶対値関数のある最小化問題を解くことが可能である．しかしここで対象とする
LASSO 型最小問題は，

min

1
‖
2

‖

‖ ‖

(4.21)という形式をしているため，L2 ノルム項 y  Ax 2 を分離可能な形式に変換する必要があ2

る．仮に(4.21)式を，

min

1
‖
2

‖

‖ ‖

(4.22)と変形できたとすると，L1 ノルム項，L2 ノルム項は各成分に分離することができ，最適解

x*は軟判定しきい値関数を用いて，∗(4.23)と表記できる．このような(4.21)式から(4.22)式への変数変換を行うことを目的としたもの
が ISTA(Iterative Shrinkage Thresholding Algorithm)5) であり，ISTA を高速化したものがFISTA(Fast Iterative Shrinkage Thresholding Algorithm) 6)である．ISTA では，メジャライザー
最小化と呼ばれる手法を用いることで逐次的に最小解を求める．
n 回目の逐次解を xn，

1(4.24)と書くことができる．n+1 回めの解は，軟判定しきい値関数を適用することで，(4.25)⁄と求めることができる．L はリプシッツ定数と呼ばれる定数であり‖‖ で表される．

(4.25)式の計算を終了基準が満たされるまで繰り返すことで最適解を得る．
ISTA において，逐次解を更新する際に過去の情報を用いることで反復回数を減らして高速化を図った手法が FISTA である．x の初期値を x0 とし，高速化へ寄与する項として w1=x0，
β1=0 を定める．FISTA では

1

―

41 ―

(4.26)

として(4.25)式を終了基準が満たされるまで繰り返す．wn の更新は，

1
1
2

1

4

(4.27)

1(4.28)のように行う．
4.2.3. ADMM
ADMM(Alternating Direction Method of Multiplier)7)は，拡張ラグランジュ法を改良し，
LASSO 型最小化問題へ適用した方法である．拡張ラグランジュ法はラグランジュの未定乗
数法と罰金法を併用する手法である．LASSO 型の最小化問題として

min(4.29)

,

‖ ‖
1
‖
2

(4.30)‖のような 2 つの損失関数 f(x)と g(x)の組み合わせによる最適化問題を，次式のような制約付き最適化問題と考え直す．

min(4.31)

この制約化付き最適化問題に対して拡張ラグランジュ法を適用すると，最小化を行う新しい損失関数は，

, ;

,

2

‖

‖

(4.32)と与えられる．ここで hn，μn はそれぞれ反復回数 n 回目におけるラグランジュ未定定数，
は罰金項を表す．ADMM では，罰金項は各反復回で一定値とし新しく導入した変数 z と元の変数 x を次式のように交互に更新する．

arg min
min

―

42 ―

,

;

,
,

;

(4.33),(4.34)

(4.35)(4.33)式と(4.34)式へ(4.30)式を代入すると，次式のように ADMM を用いた LASSO 型最小化問題を決めることができる．

arg min

1
‖
2

‖

2

arg min ‖ ‖

2

‖

‖

‖
‖

(4.36)(4.37)

たとえば初期値として z0=x0，h0=0 とし，次式に従って終了基準を満たすまで順次反復を行う．

1(4.38)(4.39)⁄(4.40)

―

43 ―

【４章

文献】

（4.1.最小二乗法とスパースモデリング）
1) Selesnick, I.; Sparse deconvolution (an MM algorithm),
http://eeweb.poly.edu/iselesni/lecture_notes/sparse_deconv/SparseDeconv.pdf, 2912.
2)

Selesnick,

I.;

Total

Variation

Denoising(anMMalgorithm),

Connexions,

http://cnx.org/content/m44934/1.2/, 2012.
（4.2.再構成について）
3) 池田思朗；スパース性を用いた推定, 岩波データサイエンス, 5, 19-38. 2017.
4) 大関真之；「今日からできるスパースモデリング」, 2015 年度大阪市立大学・電子・物理工学特別講義（改訂版:2015.09.09）, 3-52.
5) Tibshirani, R.; Regression Shrinkage and Selection via Lasso, Journal of Royal StatisticalSociety. Series B (Methodological), 58(1), 267-288, 1996.
6) Beck, A., and Teboulle, M.; A fast iterative shrinkage thresholding algorithm for linear inverse
problems, SIAM J. Imaging Sciences, 2, 183-202, 2009.
7) Boyd, S., Parikh, Chu E., Peleato B., and Eckstein, J.; Distributed Optimization and Statistical
Learning via the Alternating Direction Method of Multipliers, Foundations and Trends in
Machine Learning, 3(1), 1–122, 2011.
(Original draft posted November 2010.)

―

44 ―

5. スパースモデリングのプログラミング
ここでは，スパースモデリング，特に，LASSO 型の最小化問題を解くためのアルゴリズム，プログラミングのための要領を示す．なお，実際のプログラムリストについては，巻末資料－４に掲載する．
本章で使用する記号を表 1-1 に示したとおりであるが，特に本章で使用する記号を表 5-1 に示す．また，本来，μI（I は単位行列）と表記すべき所は，μ と略記するもとする．

記号
E
N
M
L
λ
μ
α
β
n, j, t
x
z
w,v
h
y
g(x)
A
B
Wy
Wx
G
I
Sa()

型
スカラー
スカラー
スカラー
スカラー
スカラー
スカラー
スカラー
スカラー
スカラー
列ベクトル
列ベクトル
列ベクトル
列ベクトル
列ベクトル
列ベクトル
マトリック
マトリック
マトリック
マトリック
マトリック
マトリック
スカラー

表 5-1 使用記号一覧
サイズ
意味・内容
－
評価関数
－
観測データ数－推定するモデル値の数－
リプシッツ定数－
ラグランジュ乗数－
ペナルティ定数，重み－定数（ad-hoc：0～1 の実数）－
定数－
サフィックス．繰り返し計算の回数（整数）M
モデル値．特に，x0 は初期値
M
スパースとなるモデル値
M
作業用
M
ラグランジュ未定乗数
N
観測データ
N
理論観測値
N×M
線形オペレータ，y=Ax
M×M
線形オペレータ
N×N
観測値（誤差）に対する重み行列
M×M
モデル値に対する重み行列
N×M
ヤコビ（感度）行列．∂g(x)/∂x
単位行列－
軟判定閾値関数．a は閾値

5.1. 最小二乗法
LASSO 型の最小化問題を解くに際して，最小二乗法が基本となるので，最小二乗法の解析アル
ゴリズムについて示す．
線形最小二乗法によりモデル値を求める式は，(5.1)となる．ここで，行列 ATA は正方行列となるが，逆行列を持つためには，N≧M でなければなら

―

45 ―

ない．また，行列 ATA は対称行列であるが，対角項に成分が集まっておらず，また，対角項の値（正の値となる）が大きくばらついている場合，非対角項に対して対角項の値が小さい場合，逆行列を求める際，桁落ちしやすい行列である．このため，プログラミングにおいては，倍精度の変数を用いる．実際には，ダンプ付き最小二乗法や重みつき最小二乗法が用いられる．
一方，行列 A は，観測値 y とモデル値 x の関係を示す行列であり，弾性波トモグラフィでは，観測値に対して各セルの波線が通過した長さとなる．また，モデル値 x には，弾性波速度の逆数であるスローネスを用いる．行列 A は，順解析により求める．
5.1.1. ダンプ付き最小二乗法
ダンプ付き最小二乗法によりモデル値 x を求める式は，4.1 で示したとおり，(5.2)
である．ここで，μ は定数である．μ は行列 ATA の対角項を大きくする効果があるため，逆行列を求める際の桁落ちを改善する作用がある．また，N<M であっても解は求まる．
プログラミングに際しては，μ は入力パラメータとして扱うことになる．また，行列 ATA の最大の固有値を用いることもある．
5.1.2. 重みつき最小二乗法
初期値を用いて最小二乗法で解を求める場合，重みつき最小二乗法を用いる．重みつき最小二乗法によりモデル値 x を求める式は，(5.3)となり，重み行列 Wy，Wx の与え方は様々である．観測値（誤差）に重みを与えない場合は，Wyを単位行列にすればよい．初期値に定数で重みを与える場合は，Wx =μI とすればよい．
比抵抗トモグラフィなど，非線形問題の場合，(5.4)となる．ここで，α は 0.0～1.0 の定数で，収束の安定化をはかるための定数である．
数値計算においては，重み行列 Wy，Wx により逆行列計算における桁落ちが改善されている．
また，重み行列 Wy，Wx を対称行列にすれば，(5.4) 式において，( )-1 の計算は対称行列の逆行列となるので，効率的な計算方法を選べば解析時間の短縮になる．さらに，( )-1( )の計算は，連立方
程式 y=Ax を解くのと等価であり，逆行列を直接求める必要はなく，連立方程式を解くライブラ
リーを用いることが計算時間および計算精度上，得策である．(5.3)，(5.4)式は複雑な式となっているが，行列とベクトルの足し算，引き算，掛け算であるので，順番に計算していけばよい．

―

46 ―

5.2. FISTA
5.2.1. FISTA のアルゴリズム
FISTA(Fast Iterative Shrinkage Soft-thresholding Algorithm)は，LASSO 型の評価関数 E，

1
2

‖ ‖

(5.5)

を，メジャライザー最小化に基づきモデル値 x を推定する解析手法である．メジャライザー最小化により，モデル値を求める式は，

arg min

1

‖ ‖

2

(5.6)

⁄

また，リプシッツ定数 L は，

‖

‖

(5.7)

となる．
FISTA は(5.5)式で示した方法を，過去の情報を用いることで高速化した手法である．FISTA のアルゴリズムを図 5.2.1-1 に示す．
5.2.2. FISTA のプログラミング
プログラミングにおいては，予めリプシッツ定数 L を計算しておく．行列の L2 ノルムについては幾つかの定義があるが，行列 ATA の対角成分の L2 ノルムを使えばよい．リプシッツ定数 L が大きいと収束は遅くなり，リプシッツ定数 L が小さいと収束しない．実際のプログラムにおいては，行列 ATA の L2 ノルムに定数を掛けて調節することを行う．モデル値の収束判定は，評価関数 E が最小となること，モデル値 x の更新が一定基準以下となることなどを用いる．
FISTA のプログラムの実装は容易であるが，収束にはかなりの繰り返し計算が必要となる．多くの繰り返し計算が必要であること，リプシッツ定数 L の値により収束しない場合があることを想定してプログラムの作成を行う．

―

47 ―

図 5.2.1-1

FISTA のアルゴリズム

5.3. ADMM
ADMM(Alternating Direction Method of Multipliers)は，LASSO 型の最小化問題のようなふたつの評価関数を含む最適化問題を制約付きの最適化問題として解く方法である．ADMM は，FISTA に比較して収束が早いこと，LASSO 型の最小化問題の多くのバリエーションに対して適用できることから有力な計算方法である．ここでは，時間（初期値）と空間に対してスパース性が期待される問題への ADMM の適用方法を示す．また，時間（初期値）に対してスパース性が期待される問題について，非線形問題への対応方法を示す．
5.3.1. ADMM の基本アルゴリズム
ADMM は，LASSO 型の評価関数を，L2 ノルム項：とL1 ノルム項： ‖ ‖

―

48 ―

にわけ，それぞれ評価関数を作成し最小化を行う．解くべき最小化問題は，以下となる．

arg min1‖
2‖

arg min ‖ ‖

2
2

‖

‖
‖

‖

(5.8)
(5.9)

モデル値 x については，(6.8)式のモデル値での微分が 0 となる条件で計算できる．また，z については，平方完成を行うことで軟判定閾値関数を適用でき，直ちに解が求まる．ADMM を解くア
ルゴリズムを図 5.3.1-1 に示す．

図 5.3.1-1

ADMM の基本フロー

5.3.2. 時間スパースの定式化
モデル値の初期値 x0 が，時間により x に変化し，x0 と x でスパース性が期待できる場合につて，ADMM の定式化を示す．すなわち，Δx = x - x0 について解を求める計算となる．解くべき最小化問題は，

―

49 ―

∆

arg min

1
‖
2

∆ ‖

arg min ‖ ‖

∆

∆
2

‖∆

2

‖∆

‖

‖

(5.10)(5.11)となり，Δx，z，h は，下式で計算する．解析アルゴリズムは，図 5.3.1-1 と同じである．

1

∆

1
1

∆

⁄

(5.12)∆
5.3.3. 空間スパースの定式化
モデル値の空間分布に対してスパース性が期待できる場合の制約条件は，z – Bx = 0 で表すことができる．ここで，係数行列（線形オペレータ）B は，モデル値 x 相互の関係を表す．モデル
値 x のスパース性が期待できる場合，B は単位行列となる．隣接メッシュに対する 1 次差分や 2
次差分に対するスパース性などの特性を持たせることができる．Δx，z，h は，下式で計算する．
解析アルゴリズムは，図 5.3.1-1 と同じである．

1

1
1(5.13)⁄

5.3.4. 非線形問題の定式化
非線形問題では，繰り返し計算によりモデル値を求めることになる．収束が進んだ段階では，
繰り返し計算回数 n 回と n-1 回でモデル値のスパース性が期待できる．繰り返し計算過程におけるスパース性は，繰り返し計算回数 n 回と n-1 回の差が 0 となる制約条件として，すなわち，z =xn - xn-1 として定式化を行う．ADMM を適用すると，解くべき最小化問題化は以下となる．

,

arg min1
2

arg min ‖ ‖2,2(5.14)

ここで，次式≅(5.15)―

50 ―で線形化を行い，最小化を実行すると，Δx，z，h は，下式で計算できる．

,

1

⁄

1
,

1

,

(5.16)
また，繰り返し計算回数 n における解は，解にスパース性を期待する場合，(5.17)となる．α は 0.0～1.0 の定数（ad-hoc）であり，解の収束を確保するために用いる．
5.3.5. ADMM のプログラミング
ADMM のプログラミングでは，モデル値 x に対して，xt と xt+1 を保存する配列変数を準備しておく．また，スパースな解となる z についても，zt と zt+1 を保存する配列変数を準備しておく．一方，h は一つの配列変数でプログラムが可能である．
図 5.3.1-1 に示した解析フローで示されるように，ADMM の繰り返し計算において，ATA の逆行列は，t に関する繰り返し計算ごとに計算する必要はない．プログラムにおいては，一度計算して，配列変数に保存しておけばよい．ADMM における繰り返し計算は数回程度で収束することが多く，逆行列の計算時間を含めても FISTA より高速な計算が可能である．
空間スパースについてプログラムを作成する場合，B 配列行列は，モデル値に対してスパース性を期待するパターン，モデルの空間分布の 1 次差分にスパース性を期待するパターンなど予めパターンを定めておき，そのパターン番号をプログラムパラメータとすればよい．また，B の設定パターンを記録したデータファイルを予め作成しておき，そのパターンを読み込むようにしておけばよい．

5.4. 評価プログラム
5.4.1. 評価プログラム
エクセル版評価プログラム「スパース.xlsm」は，
簡易にスパースモデリングを使うことができ，最小二乗法と比較できるプログラムである．プログラムは，VBA(Visual Basic for Application)で作成してあり，ソースリストは巻末資料－４に掲載してある．また，エクセルに標準装備されている VBE(Visual Basic Editor)を用いて，プログラムの修正，機能の追加が可能である．解析手法ごとにワークシートが割り当ててあり，利用できる解析手法は，表 5.4.1-1 に示すとおりである．

―

51 ―

ワークシート名
SetData
LSM

ISTA

FISTA

BregmanADMM

表 5.4.1-1 利用できる解析手法
再構成手法
概
要
乱数により，模擬モデル値，係数行列を発生させ，対応－する模擬測定値を計算．
SetData シートで発生させた，係数行列と模擬測定値を最小二乗法用いて，最小二乗法でモデル値を推定．ダンプ付き最小
二乗法と重み付き最小二乗法の二手法について計算．
Iterative Shrinkage Soft- SetData シートで発生させた，係数行列と模擬測定値に
thresholding Algorithm ついて，ISTA を用いてモデル値を推定．解析パラメー(ISTA)
タを変えて繰り返し解析を行うことが可能．
Fast Iterative Shrinkage SetData シートで発生させた，係数行列と模擬測定値にSoft-thresholding
ついて，FISTA を用いてモデル値を推定．解析パラメー
Algorithm (FISTA)
タを変えて繰り返し解析を行うことが可能．
SetData シートで発生させた，係数行列と模擬測定値に線形化された Bregman
ついて，Bregman 反復法を用いてモデル値を推定．解析
反復法
パラメータを変えて繰り返し解析を行うことが可能．
SetData
シートで発生させた，係数行列と模擬測定値にAlternating
Direction
Method of Multipliers ついて，ADMM を用いてモデル値を推定．解析パラメ(ADMM)
ータを変えて繰り返し解析を行うことが可能．

5.4.2. 評価プログラムの使用例
モデル値数 20，観測値数 10 として，表 5.4.2-1 に示す係数行列の場合について，評価プログ
ラムを使用した計算結果例を示す．設定したモデル値と観測値は，表 5.4.2-2 に示すとおりであり，非 0 となるモデル値の個数は 8 個である．表 5.4.2-2 において，計算値は，モデル値に係数行列を掛けた値である．モデルの初期値は全て 0.0，解析条件は表 5.4.2-3 に示す値とした．
図 5.4.2-1 に解析結果を示す．いずれの手法についても，モデル推定結果に大きな差は無いが，正解を推定できていないものがある（例えば，モデル値 No4，5，6 など）．

図 5.4.2-1

―

解析結果例

52 ―

表 5.4.2-1 係数行列の値
観測値
1
2
3
4
5
6
7
8
9
10
観測値
1
2
3
4
5
6
7
8
9
10

表 5.4.2-2
No
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

1
4.420
6.492
-2.388
9.579
6.553
0.373
-9.136-8.849-2.025
7.000

2
3.867
4.376
-0.308-4.3281.080
1.657-0.826-4.4961.679-8.049

3
4.617
7.919
0.940
2.362
2.137
-0.7004.780
9.212-4.247-2.1114-6.154-5.5493.479-3.867-6.196-9.3595.105-3.460
6.727
6.456

11
-6.316-7.2115.432-0.1333.742-8.088-0.750-1.5372.903-5.62412-5.262-8.780-2.838-0.9435.210
2.308-3.023
2.350
9.623
4.623

13
8.509
2.684
-1.7601.956-4.8394.048-5.015-5.170-3.7627.982

14-4.850
6.771
4.951-9.3950.995-1.208
6.141
3.722-5.186-5.647モデル値と観測値

モデル値-0.687
0.000
0.000
0.708
0.000
-0.8940.000-0.891
0.000
0.000
0.000
0.937
-0.974
0.000
0.000
0.000
-0.941
0.000
0.000
0.963

観測値

計算値

-26.578-3.733-4.5438.846
14.598
7.783
3.677
18.53530.081-20.973
－
－
－
－
－
－
－
－
－
－

-27.737-3.837-4.711
9.112
15.4137.641
3.534
19.43729.634-20.656
－
－
－
－
－
－
－
－
－
－

モデル値
5
6
5.473
-8.603-2.8791.066-9.2362.956
7.046-3.6218.040-3.628-2.445-7.2466.452-5.8072.954-2.731
7.962
0.532-4.637
3.569
モデル値
15
16
-4.8824.290
2.818-1.501-1.2684.397-3.635-7.2870.182
1.304-1.582-3.279
0.886
0.765
1.799
2.056
7.572
-7.4079.643
9.315

表 5.4.2-3

ダンプ
値
観 測 値
の重み
モ デ ル
の重み
繰 り 返
し回数
λ
ペナル
ティ μ

―

7
-5.039-2.888
7.990
5.908
2.010
3.084
-0.625-2.602-2.249-2.0768
9.008-5.914-3.192-6.512
1.945-6.9357.360-3.463-9.946
6.688

9
6.398
1.579
-7.655-3.9995.341-6.0406.567-5.705-4.983-1.34310-5.6112.600-1.489-8.546
4.299-2.492-1.792-5.753-6.743
6.719

17
3.297
-6.2580.135-3.461-4.3684.017
2.534-8.425
1.396
7.427

18
5.458
-0.090-6.5295.200-1.683-5.738-8.237-9.107
2.139
0.456

19
5.177
9.463
-4.4392.546-2.990-9.121
4.221-6.936
2.204
3.019

20
-3.831
5.387-8.255
9.272
9.439
7.721
-4.840-5.0753.877-0.866

解析パラメータ

ダンプ
付き最
小二乗
法

重み付
き最小
二乗法

ISTA

FISTA

Bregman
反復法

ADMM

0.01

－

－

－

－

－

－

0.2

－

－

－

－

－

0.1

－

－

－

－

－

－

1001

1001

1001

1001

－

－

1.0

1.0

1.0

1.0

－

－

－

－

－

10.0

53 ―

5.4.3. 時系列データスペクトル解析プログラム
エクセル版評価プログラム「SpaceSample.xlsm」は，任意長の時系列データについて，スパー
スモデリングを使ってスペクトル解析するプログラムである．また，最小二乗法を使った解析を行うことも可能である．プログラムは，VBA で作成してあり，ソースリストは巻末資料－４に掲載してある．また，プログラムの修正，機能の追加が可能である．
プログラムには，以下の機能がある．
‧

連続サンプリング，ランダムサンプリングの設定‧

最小二乗法，スパースモデリング解析の実行‧

1 次差分，2 次差分スパースモデルング解析機能
5.4.4. 時系列データスペクトル解析プログラムの使用例
周波数 0.7Hz と 10Hz のサイン波の合成波（振幅は両周波数とも 10000.0）について，通常のスペクトル解析（最小二乗法）とスパースモデリングによるスペクトル解析を行った例を示す．
データのサンプリング間隔は 0.01 秒，観測データ数 N は 2000 とし，求めたスペクトルは，0.1～1.0Hz では 0.1Hz 間隔，1.0～10Hz では 1Hz 間隔，10～100Hz では 10Hz 間隔とした．図 5.4.41 にスペクトルを求めた波形図を示す．

図 5.4.4-1 波形図

図 5.4.4-2 に解析結果を示す．左が通常のスペクトル解析結果で，右がスパースモデリングによる解析結果（λ=1.0，μ=1.0）である．通常のスペクトル解析では，10～100Hz の帯域において，
入力波で設定した波の周波数以外の成分が解析されている．スパースモデリングでは，不要な周波数成分は除去され，設定した周波数成分が分離して解析されている．なお，この例では，ナイ
キスト周波数は 50Hz であり，90Hz のピークが見られるのは，信号成分 10Hz に対するサンプリ
ング周波数 100Hz の折り返し雑音となる．

―

54 ―

(a) 最小二乗法(b) スパースモデリング（λ=1.0，μ=1.0）
図 5.4.4-2

―

解析結果

55 ―

6. スパースモデリングの物理探査への適用
6.1. 弾性波探査屈折法（地盤改良範囲）のモデル解析
6.1.1. 地盤の速度分布におけるスパース性
地盤の弾性波速度分布そのもにスパース性はない．しかし，弾性波速度の空間分布における変化あるいは時間による変化については，スパース性が期待できる．図 6.1.1-1 は，が期待できる
例を模式的に示したものである．一様な速度層においては，隣接する 2 点間における速度差は 0であり，スパース性が期待できる．また，地盤改良などにより地盤の速度が変化する場合，未改良部においては速度変化がなくスパース性が期待できる．
施工前
一様な速度層A点

B 点（Vp=V0）
隣接する点の速度差は 0

速度層 Vp=V0(a) 速度の空間分布の変化におけるス
パース性
図 6.1.1-1

Vp=V1
B点

B点

A 点（Vp=V0）

Vp=V0

施工後

A点
速度層 Vp=V0(b) 速度の時間変化におけるスパース性

地盤の速度分布におけるスパース性

6.1.2. 定式化
空間分布におけるスパース性は，隣り合ったメッシュの速度差が 0 となる拘束条件として定式化すればよい．また，時間変化におけるスパース性については，メッシュの初期速度と解析速度の差が 0 となる拘束条件として定式化すればよい．スパースモデリングにおける L1 ノルムを含む評価関数の最小化については，ADMM を適用した．以下，それぞれの場合について定式化を示す．
（１）時間変化における定式化（ADMM-1）
未改良部では速度の変化は無い．したがって，速度変化はスパースであることが期待できる．
速度構造の解析は，初期値からの速度変化を求める形で行なう．初期値に対する測定走時とスローネス（速度の逆数）の関係は，(6.1)

で示される．ここで，d0 は初期値に対する測定走時，s0 は初期値（スローネス分布），L0 は初期値の速度構造に対する波線に関するマトリックスであり，既知量となる．時間変化後の地盤における測定走時と速度構造の関係は，

∆

(6.2)

となる．ここで，d，s，L は，それぞれ時間変化後の測定走時，スローネス，波線に関するマト

―

56 ―

リックスである．また，Δs は時間変化によるスローネスの変化量となる．ここで，L は Δs に依存した値となるので，

∆

(6.3)

を，初期値に対する波線に関するマトリックス L0 を出発値として，繰り返し計算により Δs を求める．評価関数を E として，

1
2

‖ ‖

∆

∆

2

‖∆

‖

(6.4)

これを ADMM により最小化することで，Δs を求める．評価関数 E を最小化するには，

1

,

∆
,

⁄

1
1

,

∆
,

∆

,

(6.5)

,

を j に関して繰り返し計算を行なう．ここで，S1/μ( )は，軟判定しきい値関数である．時間変化後のスローネス si+1 は，
(6.6)
で求まる．
（２）空間変化における定式化（ADMM-2）
空間変化におけるスパース性に対する拘束条件は，(6.7)と表すことができる．ここで，係数行列 B は，スローネス s の隣接メッシュに対する関係を表す行列であり，Bs=0 となるように係数を定める．評価関数 E を，

‖ ‖

1
2

(6.8)

2

と定義し，ADMM を用いて最小化すると，

1

,
,

1
1

,

⁄
,

(6.9)

,

―

,

57 ―

となる．ここで，si+1 が求めるスローネスとなる．
ここでは，係数行列[B]は，図 6.1.1-2 に示すように，中心となるメッシュのスローネス s0 から
上下左右の隣接するメッシュのスローネスを引く演算となるように設定した．

s3
s1

s0

s2

s0 - 0.25s1 - 0.25s2 - 0.25s3 - 0.25s4

s4
図 6.1.1-2係数行列の設定

6.1.3. 例題の概要
図 6.1.3-1(a)に示す速度構造の地盤で，断面中央部を地盤改良により図 6.1.3-1 (b)に示すよ
うな速度構造に変化させた場合について，弾性波探査屈折法トモグラフィ解析を用いて改良範囲を把握することを目的としてモデル解析を実施した．ここでは，以下の 3 ケースについて解析を行った（表 6.1.3-1）．
ケース 1 は，改良前の速度構造は既知として，改良後の地盤において弾性波探査（測点は地表のみ）を実施した結果から，図 6.1.3-1(b)に示す速度構造の再現性について検討する解析である．
ケース 2 は，改良前の速度構造も未知であり，改良後の弾性波探査（測点は地表のみ）結果のみ
から速度構造の再現性について検討する解析である．図 6.1.3-2 に解析に用いた測定結果（走時図）を示す．この測定結果には，誤差は含まれていない．ケース 3 は，図 6.1.3-2 に示した測定
走時に，平均 0.0ms，標準偏差 1.0ms，の雑音を加えた場合の解析である．図 6.1.3-3 に雑音を加えた走時図を示す．このケースは，解析方法の違いによる雑音の解析結果への影響について検討するために行なった．また，それぞれのケースについて，重み付き最小二乗法と時間変化および空間変化スパースモデルによる解析を行った．
解析におけるモデル数（メッシュ数）は 1125，走時データ数 1292 である．この走時データうち，地盤改良部に関係するデータ数は 910 であった．いずれの解析方法についても，繰り返し計
算回数は 20 回とした．

ケース
ケース 1
ケース 2
ケース 3

表 6.1.3-1 解析ケース
初期値
走時データ
解析方法
改良前速度構造雑音なし
重み付き最小二乗法（LSM）
時間変化スパース（ADMM-1）
一様速度構造雑音なし
v=1.0km/s, 2.0km/s
空間変化スパース（ADMM-2）
改良前速度構造
雑音あり

―

58 ―

Vp = 0.5km/s
Vp = 1.0km/s
Vp = 2.0km/s(a) 改良前の速度構造
Vp = 0.5km/s
Vp = 1.5km/s

Vp = 1.0km/s（改良範囲）

Vp = 2.0km/s(b) 改良後の速度構造

図 6.1.3-1

図 6.1.3-2

図 6.1.3-3

例題の速度構造

例題の走時図（改良後の速度構造）

雑音を加えた走時図（改良後の速度構造）

―

59 ―

6.1.4. 解析結果
（１）ケース 1 解析結果
モデルの初期値は，図 6.1.3-1(a)に示す速度構造とした．最終状態における RMS 残差は，LSMの場合 0.27%，ADMM-1 の場合 1.74%であった．また，ADMM-2 の場合 1.07%であった．図 6.1.41 に解析結果を，表 6.1.4-1 に解析結果の諸元を示す．ここで，RMS 残差は，測定走時と解析結果に対する走時（計算走時）の RMS 残差であり，標準偏差は設定した速度構造（正解）に対する解析結果の標準偏差である．

表 6.1.4-1
解析方法

RMS
残差%

ケース 1 解析結果の諸元

標準偏差

評価関数

0 解個数

パラメータ
λ

μ

LSM

0.27

0.158

－

－

－

－

ADMM-1

1.74

0.159

4.5E2

805

5

1000

ADMM-2

1.07

0.243

4.2E2

544

5

1000

LSM では，改良部黄色で表示されている部分の速度は 1.45km/s 前後であり，RMS 残差は 0.27%と収束は良い．ADMM-1 では，改良部黄色で表示されている部分の速度は 1.45km/s 前後であるが，RMS 残差は 1.74%と LSM と比較して収束は悪い．ADMM-2 では，改良部黄色で表示されている部分の速度は 1.40km/s 前後であるが，RMS 残差は 1.07%と ADMM-1 と比較して若干良い．
一方，設定値に対する解析結果の標準偏差は，LSM で 0.158km/s，ADMM-1 で 0.159km/s，ADMM2 で 0.243km/s と，ADMM-2 がやや悪い結果となっている．
ADMM-1 では，速度変化が無い部分での解析結果は，LSM に比較して良好であり，改良部と未改良部のめりはりがある解析結果となっている．しかし，改良部の速度値については，LSM に比較して悪い結果となっている．ADMM-2 では，改良部の速度のばらつきは，他の解析方法より少ないが，改良部の下端が他の解析方法より不明瞭な結果となっている．

―

60 ―

Vp = 0.5km/s
Vp = 1.5km/s

Vp = 1.0km/s
Vp = 2.0km/s(a) 設定モデル（正解）(b) 重み付き最小二乗法（LSM）(c) スパースモデル（ADMM-1，時間変化）（λ=5，μ=1000）(d) スパースモデル（ADMM-2，空間変化）（λ=5，μ=1000）

図 6.1.4-1

ケース 1 解析結果

（２）ケース 2 解析結果
ケース 2 は，改良前の速度構造が未知である場合の解析ケースである．そこで，初期値を 1.0km/s
一様地盤とした場合（ケース 2-1）と，2.0km/s 一様地盤とした場合（ケース 2-2）について解析を行った．ケース 2-1 は初期値を改良部の速度より低く設定したケースであり，ケース 2-2 は改良
部の速度より高く設定したケースである．なお，解析パラメータ，繰り返し計算回数は，ケース
1 解析と同じ値とした．
表 6.1.4-2 にケース 2 解析結果の諸元を示す．図 6.1.4-2 と図 6.1.4-3 に，ケース 2-1 とケー
ス 2-2 解析結果を示す．

―

61 ―

表 6.1.4-2
初期速度
1.0km/s
ケース 2-1
2.0km/s
ケース 2-2

解析方法

ケース 2 解析結果の諸元

RMS 残
差%

標準偏差

評価関数

0 解個数

パラメータ
λ

μ

LSM

4.23

0.666

－

－

－

－

ADMM-1

10.99

0.663

1.3E3

836

5

1000

ADMM-2

1.08

0.241

3.8E2

535

5

1000

LSM

0.226

0.285

－

－

－

－

ADMM-1

2.54

0.241

1.5E3

58

5

1000

ADMM-2

1.08

0.241

3.8E2

535

5

1000

Vp = 0.5km/s
Vp = 1.5km/s

Vp = 1.0km/s
Vp = 2.0km/s(a) 設定モデル（正解）(b) 重み付き最小二乗法（LSM）(c) スパースモデル（ADMM-1，時間変化）（λ=5，μ=1000）(d) スパースモデル（ADMM-2，空間変化）（λ=5，μ=1000）

図 6.1.4-2

ケース 2-1 解析結果

―

62 ―

ケース 2-1 では，LSM と ADMM-1 で RMS 残差が 4.23%と 10.99%，真値との標準偏差が 0.663km/sと 0.666km/s と悪い結果となっている．また，図 6.1.4-2 で示されるように地盤の速度構造および改良範囲は再現できていない．LSM と ADMM-1 は，浅部のみ速度構造が解析されている結果となっている．一方，ADMM-2 は，RMS 残差が 1.08%，真値との標準偏差が 0.241km/s と小さい結果となっている．図 6.1.4-2 から，地盤の速度構造および改良部を概ね再現できていることがわかる．

Vp = 0.5km/s
Vp = 1.5km/s

Vp = 1.0km/s
Vp = 2.0km/s(a) 設定モデル（正解）(b) 重み付き最小二乗法（LSM）(c) スパースモデル（ADMM-1，時間変化）（λ=5，μ=1000）(d) スパースモデル（ADMM-2，空間変化）（λ=5，μ=1000）

図 6.1.4-3

ケース 2-2 解析結果

ケース 2-2 では，RMS 残差が最も小さいのは LSM の 0.226%であり，次いで ADMM-2 の 1.98%
である．また，真値との標準偏差は，ADMM-1 が 0.241km/s，ADMM-2 が 0.241km/s となっている．図 6.1.4-3 から，いずれの解析方法も，概ね地盤の速度構造および改良部を再現できているが，ADMM-2 の再現性が良い結果である．
ADMM-2 では，ケース 2-1 とケース 2-2 で解析結果は全く同じであり，一様な初期値を用いた

―

63 ―

場合，初期値の値に依存しない解析となっている．一方，LSM と ADMM-1 では，初期値に依存している．
ADMM-2 において，ケース 2-1 とケース 2-2 が同じ結果となったのは，式(9)から明らかであり，
初回の波線経路の計算において，どちらのケースにおいても[L]の値が同じとなるためである．
（３）ケース 3 解析結果
測定走時に雑音を加えた場合の解析結果を表 6.1.4-3 と図 6.1.4-4 に示す．解析に用いた初期速度分布は，ケース 1 と同じとした．
RMS 残差は LSM で 8.63%，ADMM-1 で 22.9%，ADMM-2 で 19.6%と最小二乗法とスパースモ
デリングで大きく異なる結果となり，スパースモデリングで大きな値を示している．一方，解析結果と設定モデル値との標準偏差は，LSM で 0.333km/s，ADMM-1 で 0.226km/s，ADMM-2 で0.247km/s とスパースモデリングで小さい値を示している．スパースモデリングでは，測定走時と解析走時のフィッテングは悪いが，解析結果の再現性は，最小二乗法より良い結果となっている．
図 6.1.4-4 より，設定モデルを比較的再現できているのは，ADMM-1 と ADMM-2 であると考えられる．特に改良部の再現性が良いのは ADMM-2 であり，LSM あるいは ADMM-1 より改良部と未改良部の区別がつきやすい．しかし，改良部の下面については明瞭ではない．
表 6.1.4-3
解析方法

RMS
残差%

ケース 3 解析結果の諸元

標準偏差

評価関数

0 解個数

パラメータ
λ

μ

LSM

8.63

0.333

－

－

－

－

ADMM-1

22.9

0.226

7.0E2

806

5

1000

ADMM-2

19.6

0.247

5.3E2

272

5

1000

ADMM-1 と ADMM-2 で RMS 残差が大きくなったのは，ここでの RMS 残差が相対誤差に対するものであり，走時の値が小さい場合，大きな誤差となることに起因している．LSM では，走時のフィッテングに際して速度値の修正量は連続的であるが，スパースモデリングでは，軟判定しきい値関数により速度値の修正量に不連続が生じる．走時の値が小さい場合，この不連続により大きな誤差を生じる原因になっていると推定される．
測定走時と解析走時の最大相対誤差は，LSM の場合 164%，ADMM-1 の場合 597%，ADMM-2の場合 480%であった．図 6.1.4-5 は測定走時と解析走時の相関を示すグラフである．いずれの結果においても良い対応を示しており，スパースモデリングで RMS 残差が大きな値となった原因は，走時の小さい部分での相対誤差の大きさに起因しているためであると考えられる．

―

64 ―

Vp = 0.5km/s
Vp = 1.5km/s

Vp = 1.0km/s
Vp = 2.0km/s(a) 設定モデル（正解）(b) 重み付き最小二乗法（LSM）(c) スパースモデル（ADMM-1，時間変化）（λ=5，μ=1000）(d) スパースモデル（ADMM-2，空間変化）（λ=5，μ=1000）

図 6.1.4-4

ADMM-1(RMS 残差 22.9%)

ADMM-2(RMS 残差 19.6%)

解析走時

解析走時

解析走時

LSM(RMS 残差 8.63%)

ケース 3 解析結果

測定走時

測定走時

図 6.1.4-5

測定走時と解析走時の関係

―

65 ―

測定走時

6.2. タイムラプス探査への適用
6.2.1. 微動アレー探査のシミュレーション検討
極表層の S 波速度構造を探査する方法として表面波探査法がよく知られているが，表面波探査の可鍛深度は 5m~10m 程度とされ，これより深い対象には適用が難しい．ここでは，微動アレー
探査を水平方向に連続して実施して繰り返し探査（タイムラプス探査）を行った場合のスパースモデリングの適用性をシミュレーションで検討した．
（１）解析モデル
解析モデルは図 6.2.1-1 に示す二次元構造である．モデルは 6 層構造で基盤層上面が傾斜している．ベースラインモデルでは同一層内の速度が場所によらず一定で，変化後には第 4 層中の一部区間（距離程約 40m~60m）で速度が増加するモデルについて検討した．

図 6.2.1-1

解析モデル（２）微動アレーデータの作成
辺長 20m の三角形アレーを 9 つ測線に沿って展開したケースについて検討した．図 6.2.1-2 に微動アレーの配置を示す．なお図中のカラー表示は第 4 層内の速度分布（変化後）を示している．
隣接する２つのアレーは 2 地点で地震計を共有している．このようなアレー配置はチェーンアレ
ーとも呼ばれる．
微動アレー探査によって観測される分散曲線は，アレー内の”平均的”な速度情報を含んでいる．これを表現するため，アレー内の 36 地点の一次元 S 波速度構造から求めた位相速度をスロ
ーネス領域で平均した値で近似してアレーの位相速度とした（図 6.2.1-3 の(b)）．

―

66 ―

図 6.2.1-2 微動アレー探査のアレー配置

図 6.2.1-3 微動アレー配置と位相速度の計算方法（３）インバージョン解析
対象としたモデルは二次元構造であるが，シミュレーション検討は手元にあった既往の三次元
インバージョンプログラムを使用して行った．図 6.2.1-4 に示すように平面的にグリッド点を配置し，それぞれのグリッド点における速度層（6 層）の S 波速度と層厚を未知数とした．任意地
点の速度構造はグリッド点における層厚と速度から内挿して決めた．なお，基盤層の速度は場所によらず一定とした．二次元構造であることが分かっているため，図中で測線に直交する方向に並んだ 5 つのグリッドにおける速度構造は同じであるという制約条件を与えて解析を行った．また分散曲線の計算にあたっては図 6.2.1-3 に示したようにアレー内の 36 地点の速度構造からそれぞれ分散曲線を計算し，これをスローネル領域で平均した．
変化前の速度構造は既知であり速度境界の深度も変化しないものと仮定した．速度変化前の構造を初期モデルとし変化後のデータを与えてインバージョンを行った．インバージョンにあたっては平坦化制約条件（隣接するグリッド点の速度と層厚は等しい）を与えるとともに，解のノルムに関して３種類の条件を加えて解析を行い，それらの結果を比較した．各解析ともイタレーシ
ョンは 10 回とした．
①イタレーション毎の修正量の L2 ノルムを最小とする（ダンプト最小二乗法）

‖

‖

∆

∆

②初期モデルからの全修正量の L2 ノルムを最小とする

―

67 ―

∆

→

.

‖

‖

∆

∆

∆

→

.

③初期モデルからの全修正量の L1 ノルムを最小とする（スパースモデリング）

‖

‖

∆

∆

∆

→

.

スパースモデリングの解析にあたっては，2.1.1 で解説した MM アルゴリズムを使用した．重
みの解のノルムに基づく重みの修正は 1 回のイタレーション当たり 10 回行った．

図 6.2.1-4

解析グリッド点（４）解析結果
図 6.2.1-5 に 3 種類の方法で解析した二次元速度構造を，図 6.2.1-6 に初期モデルからの差分を示した．各イタレーションにおける修正量の L2 ノルムを最小とする通常のダンプト最小二乗法
では速度が変化した領域の境界が不明瞭であり，直下の地層の速度も影響されて変化している．
通常のダンプト最小二乗法の代わりに，初期モデルからの全修正量の L2 ノルムを最小とする条件を与えた場合には再現性がやや向上しているものの，真の速度変化領域の直下には偽の速度変化が認められる．スパースモデリングでは，偽像がほぼ消えており L1 ノルムを最小としたことによる効果が認められる．

表 6.2.1-1

各解析の LSQ 残差，LSQ 誤差，L1 ノルム

イタレーション毎の修正量のL2ノルムの① 最小化条件（ダンプト最小二乗法）

初期モデルからの全修正量のL2ノルムの② 最小化条件

初期モデルからの全修正量のL1ノルムの③ 最小化条件（スパースモデリング）

―

LSQ残差
(%)

解のLSQ誤差(m/s)

初期モデルと最終解の差のL１ノルム(m/s)

0.011

14.71

7642.2

0.006

7.50

7051.6

0.003

3.47

6234.268 ―図 6.2.1-5―

解析結果の比較69 ―図 6.2.1-6

解析結果の比較（速度変化量の分布）

―

70 ―

7. スパースモデリングの可能性
物理探査分野における可能性
トモグラフィ，電磁探査，微動，表面波探査などへの適用可能性を述べる．
7.1.1. ジオトモグラフィ
ジオトモグラフィ探査には，探査に用いる媒体の違いにより，弾性波トモグラフィ，比抵抗ト
モグラフィなどさまざまな種類の探査がある．これらの探査技術に共通しているのは，地表面とボーリング孔などに，探査範囲を取り囲むように多数の発信点と受信点を配置し，取得したデータをインバージョン解析することにより，探査範囲の断面を映像化している．
この技術は，医療の分野で使用される X 線を媒体とした CT スキャンを応用したものである．近年，CT スキャンでは，検査対象のスパース性を利用することにより，少ないデータから情報の品質を高めることが可能となり，従来よりも少ない撮影枚数により検査時間の短縮や被曝量の削減
や投影角度範囲を狭めることによる装置の小型化など研究や開発が進められている．
ジオトモグラフィ探査においても，地盤の物性の変化量のスパース性に着目して，CT スキャンと同様に，解析結果の品質向上や発信点・受信点間隔を広げても従来どおりの成果を得ることができるようになると考えられる．
7.1.2. 電磁探査
電磁探査（電磁誘導法）において，送信源から周期信号を送信し，地盤の応答を含む信号を受信する場合を考える．受信データの中には送信源からの信号の他に，ランダムノイズやバースト
ノイズ，周期的ノイズ，ドリフトノイズ等の様々な環境ノイズが含まれる（図 7.1.2-1）．これらのノイズ除去にスパースモデリングが活用できる可能性がある．
時間領域法では送信信号は時間領域でスパースとなり，周波数領域法では周波数領域でスパースと見なせる．送信信号の時間領域または周波数領域でのスパース性を利用して，信号とノイズのモデルを作成することで，信号とノイズを分離することができると考えられる．受振記録のノイズが低減できればスタッキングにかかる時間の短縮につながる．

受信信号

受信信号
ランダムノイズ

受信
記録

環境ノイズ

車、風等

周期的ノイズ

ドリフトノイズ
システムノイズ

ランダムノイズ図 7.1.2-1 時間領域電磁法の受信信号に含まれるノイズの例

―

71 ―

7.1.3. 常時微動
常時微動は，地盤の振動特性の推定や地盤種別の判定のために行われる．単点での常時微動測
定では，地盤の卓越周期を求めることが主な目的となる．静かな時間帯に地震計によって連続的に測定された地盤振動の記録を周波数解析し，フーリエスペクトルを得る．図 7.1.3-1 に測定記
録とフーリエスペクトルのイメージを示す．卓越周期はフーリエスペクトルのピークから読み取る．フーリエスペクトルに含まれるピークは離散的な周期に複数見られ，これらが周期（または周波数）軸上でスパースであるというモデルを作成することで，ピークの適切な自動抽出に効果があると考えられる．
また，H/V スペクトル比（水平成分と鉛直成分の比）や孔内と地表で測定を行った場合のスペクトル比についてもスパースモデリングによる卓越周期の抽出に効果が期待される．
スペクトル解析においてスパースモデリングを適用する試みは多く行われており，これらの成果を取り入れることで，より効率的で高精度の常時微動解析が可能になると考えられる．

図 7.1.3-1 常時微動測定記録とフーリエスペクトルのイメージ
7.1.4. 表面波探査
表面波探査では，地盤表面付近を伝わる波を観測し，その伝播速度の周波数による違いから，
地下の S 波速度構造を推定する．ここでは多数の受振器で同時に測定を行うマルチチャンネル表
面波探査を考える．弾性波受振器を等間隔に配置しハンマー等で起振して記録を取得し，それらを解析して周波数‐位相速度イメージを得る．図 7.1.4-1 に周波数‐位相速度イメージの例を示
す．各周波数において振幅の大きい位相速度を求めることで，表面波の分散曲線を得る．表面波の分散曲線は複数のモードを持ち，より精度の高い解析のためには複数のモードの分散曲線を利用することが理想的である．
ここで，周波数－位相速度の 2 次元空間における振幅は表面波のモードが存在するところのみ大きくなるため，スパースモデルで構成することが可能である．Mun et al. (2015) 1)は，マルチチ
ャンネル表面波探査のデータにスパース信号表現を適用することにより，高分解能で複数のモードのレイリー波分散イメージが得られることを示した．このような手法を解析に取り入れることで複数のモードの分散曲線が高品質で得られれば，これを複数モードの逆解析に使用することにより，表面波探査の解析精度を向上することが期待できる．

―

72 ―

図 7.1.4-1 表面波探査における周波数‐位相速度イメージの例 1)

その他の分野における可能性
7.2.1. 地下水における逆解析とスパースモデリングの適用性（１）地下水における逆解析の必要性
地下水の挙動を定量的に評価するために，数値解析が有力な手段として用いられている．数値解析では現地調査によって得られた水理物性値等の情報をもとに水頭値を予測する順解析が主流であるが，コスト面や技術面の問題から現地調査によって得られる情報量には限界もある．観測された水頭値から水理物性値を推定する逆解析手法は，不足した情報量を補うのに効果である．
現在まで，地下水分野においては多くの逆解析手法が提案されている 2),3)．建設工事の地下水低下
法は，高レベル放射性廃棄物の地層処分事業など多くの地下水と関連する工事に応用されてきた．
（２）地下水浸透流の逆解析手法の概要
地下水浸透流解析に有限要素法を適用した場合，順解析においては最終的に境界条件を考慮した次の連立方程式を解く問題に帰着する．
(7.1)
ここで，G(k)は未知の透水量係数 k で表される全体剛性マトリクス，h は水頭ポテンシャルベ
クトル，q は全体フラックスベクトルと呼ばれるものである．なお，上式は等水頭境界における境界条も考慮し縮退させたものであり，全体フラックスベクトルは k の関数であることに注意する．ある透水量係数 k を用いたモデルによる地下水位の計算値は，(7.1)式の逆関係より，(7.2)と表すことができる．
観測された地下水位を h∗とし，透水量係数を未知としたとき，これを観測結果から最小二乗法により推定することは，次の評価関数 J を最小化する問題となる．

min

∗

min

―

73 ―

(7.3)

ここで，W は重み係数マトリクスである．
このような評価関数 J (k)を最小とするような透水量係数 k を求める．これが逆解析の概要である．
（３）スパースモデリングの適用性
以上の逆解析には，スパースモデリング性があるかどうかが不明である．しかし，三木（2017）
4)の提案を参考して，次のような式を考える．
未知数（例えば，透水係数 k）の時間系列マトリクスには，多数な係数が 0 であることを仮定することができる．繰り返し計算回数 n 回と n-1 回の差が 0 となる拘束条件でモデル値を求めるには，下式を最小化するモデル k を求めれば良い．

‖

min ‖

1
2

(7.4)

kn は繰り返し計算回数 n 回におけるモデル値，p は水圧測定値，g(kn)はモデル値 kn に対する理論測定値，λ はラグランジュ乗数である．ここで，(7.5)
として ADMM を適用すると，評価関数 E は，

‖ ‖

1
2

2

(7.3)

となる．ここで，μ はペナルティである．
以上の提案については,続けて検討することが必要である．
7.2.2. 地盤変位への調査・解析分野での適用
地盤に関わる逆解析への適用事例としては，吉田ら 4)が土留め工の問題に対しスパースモデリ
ングを用いた逆解析の基礎的な検討を行っている．
山留めに作用する土圧の空間分布を考える場合，そのままの空間ではスパース性は期待できるとは限らない．このため，未知パラメータの空間分布の微分値の空間を考え，例えば層境界だけが値を持つスパースな空間となることを利用して空間分布推定法を試みている．
この例では，地盤に全長 22m 程度の土留め壁が設置され，2～3m ごとに設置した傾斜計から間接的に変位量 z が計測されていると仮定し，側圧 x と変位 z の関係を求めている．その結果，変位では事前情報を用いた場合と比較して事後情報を用いた場合，大幅に一致度が向上したとしている．ただし，λ（ラグランジュ定数）をより小さくすると変位の一致度はさらに向上するものの，不自然な側圧の分布となるため，適切な λ の決め方は今後の課題としている．
そのほかの適用事例としては，レーザープロファイラなどの点群データを扱う場合，スパース
モデリングにより補間することでデータの量を減らしたり，取得時間を短縮したりするなどが考えられる．
さらに，ボーリングなどのまばらな調査データ補完して三次元サーフェスモデルを作成するた
めに，GOCAD5)というソフトウェアではスパースモデリングを用いたモジュールが提供されている例が挙げられる．

―

74 ―スパースモデリング，その可能性と将来
ここでは，スパースモデリングの各方面での利用の可能性とその将来性について述べる．
7.3.1. スパースモデリング
スパースモデリングは，石川真澄の人工神経回路網モデルの「忘却付き構造学習」6)の論文で，
AI における構造学習について概観し，汎化能力・構造の単純性・計算時間・自乗出力誤差などの観点から，忘却付き構造学習が優れていることを述べたが，その理論的な根拠を検討するという課題を残した．
その後，スパースモデリングへと発展し，圧縮センシング(CS)が，計測工学，通信工学，医用工学，生化学など幅広い分野で革新的情報抽出技術として大きな注目を集めていることは，第 3章で述べた．
そもそも，スパースモデリングとは何かと問えば，スパース性と呼ばれる本質部分に関わるものが疎であるという性質を駆使して，大量の高次元データから説明変数のうち本質的な寄与をするもの（エッセンス）だけを自動的に抽出することができるように工夫された枠組である．
一方で，スパースモデリングは十分な情報を得ることができない場面で，そのときに不足した情報から，知りたいものを満足の行く形で再現できる圧縮センシング技術でもあり，不足した情報から知りたいものを再構成する技術を組み合わせることで，期待に応える新技術である．
しかし，上記の事柄は相反る機能ではなく，実は，スパース性の抽出という基本概念のもとに同じことなのである．スパースモデリングはすでに各方面で利用されつつある．
例えば，気象観測，地震観測，火山観測などによる自然環境に関するデータ取得は，各大学の研究部門，気象庁，防災科研，産総研，海洋研究開発機構(JAMSTEC)などが行っており，大量の高次元観測データを日々生み続けているという現状がある．科学技術の水準を革新的な進歩・強化させ，広く普及させるためには，情報科学と自然科学が緊密に融合した自然探究の方法論が必要不可欠であることは間違いない．

図 7.3.1-1 情報科学と自然科学の緊密な融合
図 7.3.1-1 に示すように，スパースモデリング 7)や Deep Learning などで顕著な実績をあげている情報科学者と，生命の起源から宇宙の起源やブラックホールに至る，幅広い自然科学の実験・計測研究者がスパースモデリングというキーテクノロジーを軸として緊密に連携することで，大

―

75 ―

量の高次元データを効率的に科学的な知へと繋げる高次元データ駆動科学ともいうべき新たな学術領域を構築している段階にある．これまで，個々の分野ごとに研究されてきた課題に対して，
新たな共通原理に基づく革新的な科学的方法論を確立することによって，あらゆる科学分野の研究に大きな波及効果をもたらし，来たるデータ科学の時代に向けて，我が国の学術水準の優位性を確立することになるだろう．我々研究会は，Passive 科学に止まらず，Active 科学に関して，その方法論の構築のための主たるテクノロジーが，近年，情報科学分野で大きな注目を集めている
スパースモデリングであると考え，さらなる発展を目指して研究している．
7.3.2. スパースモデリングの利用
ここでは，これまで述べられてきたスパースモデリングの利用例とは異なる他の分野での例を捕捉する．
（１）機械学習分野での利用
機械学習は一般に，データに含まれる規則性などを見つけ出し，類似したものの分類や検知などを計算機により実現するための技術群であり，いわゆる人工知能（AI）と総称される概念の核をなしている．機械学習で行われる「データからの学習」とは，訓練データがなんらかの規則に沿って生成されているときにその規則をなるべくよく模倣・再現する学習モデルを構築することを指し，その多くは最適化問題を基礎とする．
訓練データから構築された識別器の，新たなデータに対する識別能を汎化性能と呼び，識別結
果のサンプル母集団に対する誤差は汎化誤差，期待誤差などと呼ばれる．これに対して，識別器の構築に用いられた訓練データから計算される誤差は訓練誤差，経験誤差などと呼び，この２つは区別される．識別器を最適化する過程で，訓練誤差を最小化するあまりに汎化誤差が大きくなることがあり，これは過剰適合，過学習（Overfitting）などと呼ばれる．過剰適合している識別器
は，訓練データは説明できても未知のデータの分類や予測には不適当なものといえる．このような過剰適合を防ぐ手段として最適化過程において正則化が行われることが多く，スパースモデリ
ングで用いられている L1 正則化がよく用いられる 8)．2000 年代にはベイズ理論やサポートベクタ
ーマシン（SVM）9)などへの適用研究が行われ 10)，機械学習分野での適用や応用が広がった．またニューラルネットワークでは，自己符号化器（オートエンコーダー）と呼ばれる，入力訓練データをよく表す特徴を獲得することのみを目的としたネットワークモデルが利用されており，深層学習のための事前学習（よい初期値設定）にも用いられる．この自己符号化器の最適化過程にL1 正則化（スパース正則化）を利用したものはスパース自己符号化器と呼ばれ，余分な特徴成分を取り除いて汎化性能の向上を図る手法として利用されている 11)．
（２）画像編集

ボケ除去

1) 画像のボケ除去
スパースモデルが画像のボケ除去（deblurring）に適用されている例 12)である．この場合，平均値が 0 で既知である加法ガウスノイズを含んでいるとする．図 7.3.2-1(a)は，σ2=2 で，PCD ア
ルゴリズムの 30 回反復で得られたボケ除去結果で，ISNR=7.05dB である．図 7.3.2-1（b）は，で，PCD アルゴリズムの 30 回反復で得られたボケ除去結果で，ISNR=5.17dB である．PCD は並列座標降下（parallel-coordinate-descent）で，ここではこの反服縮小アルゴリズムを利用している．
ISNR（Improvement signal-to-noise ratio）とは，L2 ノルムを用いた画像修復を定量的に評価するパラメータで，数字が大きいほうがよい画質が得られたことを示す．

―

76 ―

（a）

（a）

ISNR=7.05dB（b）

ISNR=5.17dB

原図

図 7.3.2-1

ノイズを含む画像の修復 13)2) 圧縮センシング
大関ら 14)は言う．圧縮センシングは，解のスパース性に注目して劣決定系の連立方程式を解く
ことで，少ない観測数から重要な情報部分となる非零成分を推定する．その解のスパース性は，
そもそもどれだけ期待できるものなのだろうか．その回答の典型的なものが，実際の画像圧縮に用いられるフーリエ変換やウェーブレット変換による疎性の獲得であろう．ここでウェーブレッ
ト変換をしたのちに，ウェーブレット係数の 95% を絶対値が小さい順から 0 にして，ウェーブ
レット逆変換を施して得られた画像を図 7.3.2-2 で見てみると，見た目にはそれほど影響しない
ことが見て取れるであろう．
このように，何らかの変換を経て，本当には零となっていないものの，本質的な部分だけに注目すれば，その部分だけを残すことで，スパース性を獲得することが期待される場合がある．そのようなスパース性を促す変換を求めることも，圧縮センシングの幅広い応用を可能とさせるた
め重要な発展に資することは言を待たない．

―

77 ―

図 7.3.2-2 原画像と絶対値の小さいものから 95% のウェーブレット係数を 0 にしたものからの再構成結果の比較
出展：http://www-adsys.sys.i.kyoto-u.ac.jp/mohzeki/Presentation/lecturenote20150909.pdf

因みに，写真の女性はレナ（Lenna または Lena）と言い，PLAYBOY 誌 1972 年 11 月号に掲載
された裸の女性の写真の一部で，画像圧縮アルゴリズム等のサンプルとして，広く使用されている画像データである．このテスト・イメージはとてもよく知られているため，モデルとなったレナ・ソーダバーグは 1997 年の Society for Imaging Science in Technology 学会 50 周年記念講演会に招かれた．
この画像が今もなおテスト画像として生き残っている理由は，・カラー画像である（ただしグレイスケール化した画像もよく使われる）・フォーカスのあっている人物領域と，フォーカスから外れた背景領域の両方を含む
・背景領域も単なる壁一面などの単調なものではなく，鏡や斜めに走った柱のような「構造」を含む．
・高周波数(帽子の飾りや髪)の領域と，低周波数の領域(腕や背景)の両方を含むとされている．
1997 年の Lena は，https://gigazine.net/news/20090618_lenna/に掲載されている．
また，http://www.lenna.org/full/len_full.html

lena の PLAYBOY 誌に掲載された写真が見られる．

http://www.aianet.ne.jp/~asada/prog_doc/opencv/opencv_img_enh.htm でも，画像処理のアルゴリズ
ムのデータとして利用されている．また，何か，地震工学におけるサンプル地震としてエルセン
トロ（El Centro）地震を用いるのに似ている．
林沼勝利，廣安知之，山本詩子ら 15)による「周波数領域における画像処理」で Lenna の画像を利用した研究が http://www.is.doshisha.ac.jp/isreport2/wp-content/uploads/2014/06/2014060401.pdf で掲載されている．

―

78 ―図 7.3.2-2

Lena 画像と 1997 の Lena

出展： https://gigazine.net/news/20090618_lenna3) ボルツマン機械学習によるスパースな相関推定
大関 14)は，リプシッツ定数が非自明な場合の対処法を利用すれば，LASSO 型の最適化問題以
外にも FISTA は柔軟に利用することができる，と示唆している．試しに N = 25 個のノード間のN(N − 1)=2 = 300 個の相互作用のうち 9 割程度が零成分をもち，残りは平均 0，分散 1 のガウス分布に従う非零成分を持つ Jij，同様に平均 0，分散 1 ガウス分布に従う磁場（バイアス）hi を持つイジング模型のボルツマン分布から人工データとして，5000 個のデータを用意して，疑似最尤法及び最小確率流法を L1 ノルム項つきで実行することで得た結果を図 7.3.2-3 に示す．どちらの方法を採用するにせよ，うまく，スパースな相関を推定することに成功している．最小確率流法のほうが，収束までにかかる反復計算の回数が少なかったことを大関がコメントしている．

図 7.3.2-3

スパース相関推定．人工データを生成した相互作用係数（左）．疑似最尤法と L1
ノルムによる推定結果（中）．最小確率流法と L1 ノルムによる推定結果（右）出展：大関真之，今日からできるスパースモデリング，2015 年度大阪市立大学，電子・物理工学，特別講義（改訂版:2015.09.09）14)（３）医学・生命科学分野
１）スパースモデリングによる NMR 計測・解析の高速高精度化 16)
研究者：
研究代表者：木川隆則（理化学研究所

生命システム研究センター

研究分担者：池谷鉄兵（首都大学東京大学院理工学研究科
連携研究者：葛西卓磨（理化学研究所―

助教）

生命システム研究センター

研究概要：

79 ―

チームリーダー）研究員）

木川ら 16)は言う．核磁気共鳴法 (NMR：Nuclear Magnetic Resonance) は，非侵襲的に分子構造動態を探る最も強力で汎用性の高い計測手法の一つである． 近年の NMR 装置の技術が著しく進展し，タンパク質等の複雑な生命分子の計測が可能となった．しかしながら，計測データ量が多く計測時間が長く，得られるスペクトルは複雑であり，データ解析は煩雑であるという課題があった．さらに，解析データ数の増大により，立体構造を得るための計算も煩雑で時間を要する．そこで，図 7.3.2-4 に示すように，NMR データや生命分子の構造情報が有するスパース性に着目して，スパースモデリングの利用を考えた．NMR
解析の複雑さ・煩雑さに起因する問題を解決することで，生命分子の NMR 計測やデータ解析の高速・高精度化の実現を目指している．計算結果の可視化技術に MRI (Magnetic
Resonance Imaging)がある．医療分野では，MRI のほうが浸透しているようである．

図 7.3.2-4

NMR 計測やデータ解析を高速・高精度化

タンパク質や核酸等の複雑な生命分子の NMR 計測では，データ量が増加して計測が長時間化し，不安定な生命分子試料は計測中に壊れる傾向が強く解析が困難な試料も多い．
そのため短時間で高精度の NMR データを計測する手法の開発が求められている．NMR
信号は通常計測時に線形標本化により記録されるが，近年，非線形標本化により計測デー
タ数を減らし最大エントロピー(MEM)法や圧縮センシングでデータ補間することで，計測時間を短縮する手法が提案された．またスペクトルは複雑でピークの分離識別が困難で精度の高いデータ解析が困難であり，解析データに基づき立体構造を求める計算においては，
広域な構造空間の探索が困難で局所解へトラップされ最適解の導出が困難なことが問題となっていた．NMR 法を用いた大規模な生命分子立体構造解析（構造ゲノム科学研究）や生体系 NMR 領域における業界標準構造計算ソフトウエア開発への参画により得られた成果や経験を踏まえて，スパースモデリングの導入により生命分子の NMR 計測やデータ解析を高速・高精度化して，複雑な生命分子系を対象にした NMR 計測の発展を促進することを着想した．
そこで，研究の目的として，NMR データや生命分子の構造情報が有するスパース性に着目し，スパースモデリングの導入により生命分子の NMR 計測やデータ解析を高速・高精度化することにより，複雑な生命分子系を対象にした NMR 計測の発展を目指し，

―

80 ―

第 1 段階

NMR 計測の高速・高精度化

NMR 信号をスパースに計測し，スパースモデリングによる信号処理によりデータ補間をおこない，計測時間の大幅短縮とスペクトル品質の改善を達成する．
第 2 段階データ解析の高速・高精度化

複雑な多次元スペクトルのピーク分離識別能を向上させ，さらに解析の自動化を進めることにより， NMR データ解析の高速・高精度化を実現する．
第 3 段階立体構造計算の高速・高精度化

ベイズモデルに基づくデータ解析から客観・定量的にパラメータ設定するアルゴ
リズムを構築し，レプリカ交換モンテカルロ法により最適解導出を可能にして，立体構造計算の高速・高精度化を実現する．
を研究テーマとしている（図 7.3.2-5 参照）．

図 7.3.2-5

NMR 計測やデータ解析を高速・高精度化

2）スパースモデリングを用いた新しい医用 MRI 画像の創生 17)
研究者：
研究代表者：富樫かおり（京都大学大学院医学研究科
研究分担者：岡田知久（京都大学大学院医学研究科
研究分担者：山本憲（京都大学大学院医学研究科

教授）
講師）

助教）

研究分担者：伏見育崇（京都大学大学院医学研究科

助教）

研究分担者：藤本晃司（京都大学大学院医学研究科

助教）

研究概要：
三大成人病（脳卒中，心筋梗塞，癌）に代表される多くの疾患の最終診断は病変部を顕微鏡レベルの空間分解能で評価することで決定されるが，標本採取が侵襲生（invasive，体を傷つけること全てを指す）を伴うため不可能な場合も多く，非侵襲的にミクロレベルに迫る画
像診断法が求められている．磁気共鳴画像(MRI)は多彩な生命現象を非侵襲的に可視化する

―

81 ―

技術であり，現代の医療で欠かせないが，時間分解能・空間分解能ともに細胞レベルでの生命現象の在り方，病態を観測するために十分とはいえない．本研究は近年発達著しい圧縮センシングにより，MRI の空間的・時間的分解能を向上させ，非侵襲的な構造の可視化と機能の可視化を通じて，画像による疾病の診断能を向上させ，早期治療と予防への貢献を目指す（図 7.3.2-6 参照）．

図 7.3.2-5

生命分子の NMR 計測やデータ解析を高速・高精度化

MRI では生体内に多数存在する水素原子核を外部磁場と高周波(RF 波)で操り，水素原子核がうみだす磁場の変化を信号として取り出したのち，フーリエ変換で画像化している．圧縮センシン
グは MRI の画像再構成にウェーブレット変換などによるスパース化を利用することで，アーティ
ファクトを増やすことなくデータの間引き収集を可能にするというものであり，MRI の高速化に新たな革新をもたらす技術として注目を集めている（図 7.3.2-7）(Lustig ほか，MRM 2007)．

―

82 ―

図 7.3.2-7

圧縮センシングで 80％欠損の血管造影図の再構成

その過程で，先行研究で報告されている手法で残差を最小化するだけでは目的とする病変の描出につながらないことが判ってきた．しかしながら，工学的視点とこの技術をどのような病態へ応用するかという医学的視点を融合することで，病理組織の微細構造(例：微小血管)や組織ごとに異なる特徴(例：組織灌流)を失わない画像再構成手法が開発できるのではないかと考えている．
本研究では，医学領域でこれら異なる視点の融合を図り，NMR や他の自然科学領域との協働も見据え，新たな学術領域の開拓を目指す（図 7.3.2-8 参照）．

図 7.3.2-8

生命分子の NMR 計測やデータ解析を高速・高精度化

次の報告は，研究は高血圧の患者において大脳基底核血管の描出が低下している事をテーマにしているが，このさらに詳細な描出を目指し，計測モデリング班(B01-1)田中と基礎的な実験を開始，予備的な結果も得られている．
3）圧縮センシングにもとづくスパースモデリングへのアプローチ 18)
研究者：
研究代表者：田中利幸（京都大学大学院情報学研究科
研究分担者：池田思朗（統計数理研究所―

教授）

数理・推論研究系

83 ―

准教授）

連携研究者：大関真之（京都大学大学院情報学研究科

助教）

研究概要：
データに基づいて現象に本質的な少数の変数を抽出するスパースモデリングの顕著な例である圧縮センシングが様々な分野において注目されている．圧縮センシングは，少ない取得データから背後にある本質的な構造の抽出を可能にする枠組みであり，具体的な応用や性能の向上に向けて世界的な競争が激化している．
本研究計画では，特に医学班(A01-1)・生命科学班(A01-2)・天文学班(A02-3)との連携の下で，様々な計測データを駆使した分野横断的な考察により，多様な応用を念頭に置いた独自の着想に基づく新たな圧縮センシングの枠組みの形成を目指す（図 7.3.2-8 参照）．

図 7.3.2-8

圧縮センシングのイメージ

これまでの研究成果を踏まえ，着想に至った経緯として，研究代表者の田中らは，世界に先駆けて，いち早く圧縮センシングの可能性に注目して，圧縮センシングの理論的限界を情
報統計力学的な観点で解析する事に成功している．また，田中と研究分担者の池田は，圧縮センシングとスパース表現に関する MRI 再構成アルゴリズムや X 線回折像の位相回復の手法を始めとする数理的な研究で世界をリードして来た．
さらに田中と池田はそれぞれの観点で MRI の高速撮像や VLBI (超長基線電波干渉計)の分解能限界を超えた超解像を始めとする具体的な事例群に対して圧縮センシングの適用を試みてきた．その過程で，実際の計測過程等を適切にモデル化し，適切なアルゴリズムで解く
こと，及び複数の適用事例を横断的に考察することが極めて重要であると認識するに至った．
本計画研究は，実験グループ(A01, A02)の計画研究(医学班(A01-1)，生命科学班(A01-2)及び天文学班(A02-3))や公募研究の研究課題の中から圧縮センシングによるスパースモデリン
グが有効と考えられる個別事例に対する各論的研究を行う．また，これらの複数事例を横断的に眺めることによる一般性のある数理的考察との間を往復する．この横断的研究により，各問題領域における有用性と，個別事例に閉じない一般性を高い次元で両立できる新たな方
法論的な枠組みの確立が期待できる．その手順を以下に示す．

―

84 ―

第 1 段階

圧縮センシングのオーダーメイド型研究

MRI, NMR スペクトロスコピーなどの医学班(A01-1)，生命科学班(A01-2)が担当する
事例や，VLBI をはじめとする天文学班(A02-3)が担当する事例を具体的に取り上げて，
圧縮センシングの有用性や適用範囲の検討を行う．
第 2 段階圧縮センシングへのベイズ推定の導入

個々の適用事例に即した観測過程のモデリングにより，それらに適用可能なベイズ推定の枠組みを構成して性能向上を図る．
第 3 段階圧縮センシングの数理的諸性質の横断的研究

各問題領域に応じた個別の定式化を踏まえつつ各論にこだわらない横断的な立場か
ら，圧縮センシングの数理的諸性質の検討を行う．
4）MRI 画像の研究 Michael Lustig
Michael Lustig（2016）19)で，「My research focuses on medical imaging, in particular Magnetic Resonance Imaging (MRI). Morespecifically, the application of compressed sensing to rapid and high-resolution MRI, MRI pulse sequence
design, medical image reconstruction, inverse problems in medical imaging and sparse signal representation.」（私の研究は，医療イメージング，特に磁気共鳴イメージング（MRI）に焦点を当てています．
より具体的には，圧縮されたセンシングを迅速かつ高分解能の MRI，MRI パルスシーケンス設計，
医用画像再構成，医用画像の逆問題および疎信号表現に適用することです．）と述べているし，
また，The Bakar Fellows Program supports Michael Lustig’s collaborations with clinicians and industry to
speed adoption of the new MRI imaging strategies.（Bakar フェローズ・プログラムは，新しい MRI イ
メージング戦略の採用をスピードアップするために，臨床家や業界との Michael Lustig の協力をサポートしている．）（図 7.3.2-6 参照）と述べている 19)．（February 1, 2016）

図 7.3.2-6

MRI 磁気共鳴イメージング（画像データ解析を高速・高精度化）

―

85 ―

スパースモデリングの可能性
7.4.1. これまでの研究
各章で述べてきたように，スパースモデリング技術は，各種複合した高次元データに，普遍的に内在するスパース性 （疎性）を抽出することで，計算量が指数的に爆発するような状況でも，短い時間でデータから最小限の必須な情報を効率よく抽出できる技術である 20)（図 7.4.1-1）．
これまでも，
スパースモデリングは様々な個別分野において萌芽的成果を生み出しており，様々な個別分野の背後にある共通原理を明確化し，より強力なかつ正確なものにすることで，科学全体に発展的展開をもたらすことを期待している．
計測技術の革新が大量の高次元観測データを日々，着々と増加の一途をたどっている昨今，膨大なデータが蓄積されている．例えば，生命情報科学では，各論的なデータ科学が推進されている．また，天文学における高次元データの収集手法・解析手法が高度化されている．その他，気象学における大量の高次元データからの気象予想がされている．全く対象とスケールの異なる科学であるが，膨大な量のデータを有効に処理できる解析環境が必須となってきた．こうした多様な分野での現状は様々な場面で革新的展開を生み出す原動力となっている．

図 7.4.1-1

高次元データからの新学術領域を創成する研究

7.4.2. 追求と限界
これまで述べてきたように，岡田真人教授（東京大学大学院新領域創成科学研究科）が代表を務める「スパースモデリングによる高次元データ駆動科学の創成」20)という研究を行っている．
複数の研究グループのコンセプトは，
より深く自然を知りたい．未知への飽くなき探究心が, とどまることを知らない計測技術の向上をうみ，我々は大量の高次元データを手に入れることができるようになった．さらに，生命情報科学の誕生のように，データからの効率的な情報抽出を目指して情報科学技術の知見を集学的に活用することが新たな研究領域を次々に生み出し，「データ科学へのパラダイムシフト」論を生んでいる．
普遍的な視点でデータ科学を議論することには，以下のような利点が存在すると考えて

―

86 ―

います．天文学における高次元データ解析手法が，全く対象とスケールの異なる生命科学でも有効に働くような状況に遭遇する．こうした多様な視点の導入は様々な場面で革新的展開を生み出す原動力となっています．さらに普遍的な視点は，天文学と生命科学のような分野を越えたアナロジー／普遍性への探究心を深め，結果，そうした原理にもとづく新
しい解析法の発展に繋がる．
というものである．さらに，実行面では，これらの利点を活かすためは，実験・計測・情報科学の分野融合が必須であり，その方法論構築のためのキーテクノロジーが，近年，情報科学分野で大きな注目を集めているスパ
ースモデリングである．本スパースモデリング研究グループでは，スパースモデリングや
高次元データ解析で顕著な実績をあげている情報科学者と，生命分子からブラックホールに至る，幅広い自然科学の実験・計測研究者がスパースモデリングというキーテクノロジーを軸として緊密に連携することで，大量の高次元データを効率的に科学的な知へと繋げる高次元データ駆動科学ともいうべき新学術領域の創成をめざす．
と述べている．が，そのインフラ的実現はまだのようだ．
「スパースモデリングによる高次元データ駆動科学の創成」という研究を総観してみよう．彼
らの研究は，以下のようにグループ化されている．
（１）実験・計測グループ (A01, A02)
1．医学班(A01-1)
研究課題名：スパースモデリングを用いた新しい医用 MRI 画像の創生
2．生命科学班(A01-2)
研究課題名：スパースモデリングによる NMR 計測・解析の高速高精度化
3．脳科学班(A01-3)
研究課題名：スパースモデリングから脳における視覚物体像の時空間表現に挑む
4．地球科学班(A02-1)
研究課題名：スパースモデリングに基づくデータ駆動解析による地球プロセスモデルの構築
5．惑星科学班(A02-2)
研究課題名：スパースモデリングが拓く太陽系博物学：ハヤブサ後の小惑星探査
戦略の創出
6．天文学班(A02-3)
研究課題名：スパースモデリングを用いた超巨大ブラックホールの直接撮像（２）実験 G(A01, A02)
第一原理からのモデル化が難しい生物学，地学などの理科第２分野を中心に，大量の高次元データの有効活用による新規な規則発見や実験プロトコルの飛躍的高速化を実現する科
学的方法を確立することで，ブレークスルーを起こす．その一例は，A02-3 班が，電波干渉計データから SM を用いて，回折限界の 3-4 倍の超解像を達成し，想像されているブラック
ホールの直接撮像という天文学・天体物理学史上最大級のマイルストーンを刻みこむことである(Science, Online September 27 2012)．
その他にも，医学分野では MRI の計測手法自体を革新し計測時間を半分以下へ短縮，患者の負担の大幅減を目指す．生命科学分野では，NMR の測定時間を数日から数時間に短縮し，
タンパク質の立体構造推定の研究の質的変化を目指す．脳科学分野では側頭葉でのパターン認識機構を解明し，脳科学と情報科学の変革を目指す．地球科学分野では，高次元の地球化学データから，津波堆積物を特徴づける少数の元素を抽出し，緊急性の高い東北地域の津波

―

87 ―

到達範囲の予測を目指す．
（３）モデルグループ(B01)
1. 計測モデリング班(B01-1)
研究課題名：圧縮センシングにもとづくスパースモデリングへのアプローチ
2．スパースモデリング班(B01-2)
研究課題名：スパースモデリングによる潜在構造の抽出
3．物理モデリング班(B01-3)
研究課題名：物理モデリングとスパースモデリングの融合による自然法則の抽出（４）情報グループ(C01)
1. 非線形班(C01-1)
研究課題名：カーネル法による高次元データの非線形スパースモデリング
セミパラメトリックベイズ班(C01-2)
2．研究課題名：セミパラメトリックベイズ推論アプローチによるスパースモデリングの深化と応用
3．大自由度班(C01-3)
研究課題名：大規模なスパースモデリングへの統計力学的アプローチ
4．可視化班(C01-4)
研究課題名：スパースモデリングを促進する可視化基盤の強化
実際的な状況の特徴を取り入れられる典型モデルを開発し，ガウス性に強く依存していた従来の多変量解析の方法を刷新し，スパースモデリングの数理的基盤を確立する．そのために自然科学データの解析に必要な技術である，非線形性や階層性の取り扱い(非線形, C01-1)，従来の枠組みではモデル化しにくい状況のモデル化(セミパラメトリックベイズ, C01-2)，高次元化による計算困難の打破(大自由度, C01-3)を担当する三つの計画研究を目標においた．また，仮説／検証ループを効率的に稼働させるために，解析結果をわかりやすく実験者にフィードバッ
クする手法を開発する(可視化, C01-4)．また，モデルグループ(B01)と実験グループ(A01,A02)の密接な連携は，対象とする系それぞれに対し，科学の本質である仮説／検証ループに基づく
最適なモデリングを可能にし，ポストプロセス中心のデータ解析から脱却することにより，自然科学データから最大限に科学的知見を抽出する．
スパースモデリングによって高次元データから地学現象を真に理解するために，データに潜在する比較的少数の物理化学支配プロセスや構造を抽出する図式を図 7.4.2-1 に示す．
分野横断的な数理構造の類似性に基づき，自然科学の個別データと情報科学の汎用的解析を結ぶシステム科学的方法論を探究することで，仮説／検証ループに基づくモデル化を系統的に行う
普遍的枠組みを提案する．これにより，分野の垣根を越えたアナロジーや普遍性を個別問題の解決に活用するデータ駆動型普遍的現象論ともいうべき接近法を確立する．
特に，本報告書（スパース・モデリング）に直接関係のある，地球科学班(A02-1) 21)の研究を概
観すると，
研究者：
研究代表者：駒井武（東北大学大学院環境科学研究科

教授）

研究分担者：岡本敦（東北大学大学院環境科学研究科

准教授）

研究分担者：桑谷立（海洋研究開発機構

研究員）

連携研究者：土屋範芳（東北大学大学院環境科学研究科

―

88 ―

教授）

研究概要：

図 7.4.2-1

高次元データからの新学術領域を創成する研究

地球科学分野で得られる高次元・大量の計測データの振る舞いは非常に複雑であり不確定性も大きい．したがって，高次元データから地学現象を真に理解するためには，現象を記述する本質的な説明変数を選択しデータに潜む比較的少数の物理化学支配プロセスや構造を抽出する必要がある．
当該研究では，スパースモデリングを地球科学分野に導入することで，高次元・大量の地球科学データに潜む本質的な物理化学プロセスや構造を抽出する普遍的な枠組みを構築する（図 7.4.2-1），としている．また，当該研究の背景と着想に至る経緯：
地球科学は，こつこつとデータを取得し，その結果をもとにある種の"ひらめき"や天才の出現により新たなパラダイムが構築されてきた．当該研究の目的として，これらの地球科学の歩みに一石を投じ，データ駆動のモデルを提案し，隠れた地球プロセスモデルを見いだす情報処理技術の開発を目指している．すなわち，当然ではあるが，恣意性の無い客観的データ処理であり，それを通じて未知の地球プロセスを系統的に導ける情報処理技術の構築を目指す．
2011 年 3 月 11 日の東北地方太平洋沖地震に伴う大津波は東北地方沿岸各地に甚大な被害をもたらした．今回及び過去に起きた津波の実態やメカニズム，環境に及ぼす影響などを明らかにすることは，地球科学の面した喫緊の最重要課題である．当該研究者は震災前・直後から津波被災地全体をカバーする綿密な地質学的調査を実施し，採取した津波堆積物について詳細な化学分析を行っている．現在までに，スパースモデリング班(B01-2)との共同研究により，判別に最も効果的な元素を自動選択し高精度な津波堆積物の判別を可能にする手法を開発した．これは，計算機の活用により高次元データから適切な少数の説明変数を自動抽出することで，地球科学者の推理だけでは導き出せなかった本質的な現象を発見できることを示唆する．
当該研究での課題は以下の 3 つで，スパースモデリングにより高次元・大量の地球科学
データに潜む本質的な物理化学プロセスや構造を抽出する普遍的枠組みの構築を行う．具
体的課題を以下に示す（図 7.4.2-2 参照）
課題 1

津波堆積物の地球化学判別の高精度化と歴史大津波堆積物への適用

堆積学データや各元素の比などの様々なデータセットを新たに導入し判別法を高

―

89 ―

精度化する．また，震災以降に各地で取得されているボーリングデータなどに適用
し，歴史大津波到達範囲の特定に貢献する．
課題 2

津波堆積物の物理化学的挙動の解明と環境リスク評価

津波堆積物の化学的特徴や重金属元素の挙動メカニズムを明らかにすることで，環境汚染リスクの定量的な評価までシームレスに接続させる．
課題 3

地球化学データ解析法の固体地球科学への応用

上の二つの課題で開発した手法を固体地球科学分野にも適用することで，データ駆動解析により固体地球のプロセスモデルを構築する．

図 7.4.2-2

高次元・大量の地球科学データに潜む本質的な物理化学プ
ロセスや構造を抽出

―

90 ―

【７章

文献】

（7.1.物理探査分野における可能性）
1) Mun, S., Bao, Y., and Li, H.; Generation of Rayleigh-wave dispersion images from multichannel seismic
data using sparse signal reconstruction, Geophys. J. Int., 203(2), 818-827, 2015.
（7.2. その他の分野における可能性）
2) 本城勇介ら；地盤工学における逆解析 13.地下水，地盤工学学会誌, Vol.44-5, pp.51-56, 1996.
3) 小橋昭夫ら；逆解析を用いた地下水流動のモデル化・解析に関する研究（共同研究）,日本原
子力研究開発機構バックエンド研究開発部門 東濃地科学センター 地層科学研究部 JAEAResearch, 2015-022．
3) 三木

茂；スパースモデリング例題解析（比抵抗二次元探査），第4回スパース研究会資料，

2017.
4) 吉田郁政ほか；スパースモデリングを用いた土止め工における逆解析の基礎的検討，第 52 回
地盤工学研究発表会，講演番号 0414，pp.825-826，2017.
5)Sparse Model-Structural Geology Tools,

http//www.MiraGeoscience.com.

（7.3.スパースモデリング，その可能性と将来）
6) 石川真澄；ニューラルネットワークの忘却付き構造学習，日本ファジイ学会誌，9 巻 1 号，pp.
2-9，1997．
7) 岡田真人（代表）；スパースモデリングによる高次元データ駆動科学の創成，http://sparsemodeling.jp/greeting/8) 冨岡亮太；スパース性に基づく機械学習，機械学習プロフェッショナルシリーズ，講談社，2015．
9) Cortes, C.,Vapnik, V. ; Support-vector networks, Machine Learning, 20, pp.273-297, 1995.
10) 例えば，Zhu, J., Rosset, S., Hastie, T. and Tibshirani, R.; 1-norm support vector machines, Adv. Neural.
Inf. Process. 16, pp.49-56, 2004.
11) 岡谷貴之；深層学習，機械学習プロフェッショナルシリーズ，講談社，2015.
12) Elad, M.; Sparse and redundant representaions from theory to applications in signal and image
processing(Introduces theoretical and numerical foundations before tackling applications), ISBN 978-14419-7011-4, Springer International Publishing AG., Part of Springer Nature Privacy PolicyGeneral
Terms & Conditions, 2010.
この文献は，玉木徹による訳本があって，スパースモデリング―最小化の基礎理論と画像処理への応用，共立出版，2016．
13) https://github.com/kibo35/sparse-modeling/blob/master/ch10.ipynb
14) 大関真之；今日からできるスパースモデリング，大阪市立大学・電子・物理工学特別講，2015．
http://www-adsys.sys.i.kyoto-u.ac.jp/mohzeki/Presentation/lecturenote20150909.pdf．
15) 林沼勝利，廣安知之，山本詩子ら；周波数領域における画像処理，IS Report No. 2014060401，
Medical Information System Laboratry，2014．
16) 木川隆則，池谷鉄兵，葛西卓磨；http://sparse-modeling.jp/program/A01-2.html．
17) 富樫かおり，岡田知久，山本憲，伏見育崇，藤本晃司；http://sparse-modeling.jp/program/A011.html．
18) 田中利幸，池田思朗，大関真之；http://sparse-modeling.jp/program/B01-1.html．
19) Michael Lustig; https://vcresearch.berkeley.edu/faculty/michael-miki-lustig, 2016．
（7.4. スパースモデリングの可能性）

―

91 ―

20) 岡田真人（代表）；スパースモデリングと高次元データ駆動科学創成への支援と広報，
http://sparse-modeling.jp/program/X00.html．
21) 駒井武，岡本敦，桑谷立，土屋範芳；http://sparse-modeling.jp/program/A02-1.html．

―

92 ―

8. まとめまとめ
本研究会は，スパースモデリング利用研究として，高次元データを扱う多様な分野への導入に
より革新的展開を引き起こす方法論として，スパースモデリングに着目した．すなわち，主として，地学・地球物理の幅広い分野の実験・計測研究の科学研究者の有機的連携により，高次元データから隠れた規則性を発見する高次元データの新学術領域を創成する研究を行ってきた．
日本学術会議大型研究計画「e-サイエンス実現のための革新的アルゴリズム基盤」の発足からもわかるように，我国はデータ科学の時代の真っただ中におり，さらなる大量のデータを先端情報科学技術により処理する基盤研究・応用研究は国内外含めて問われている．その中で，データベースの構築や処理ソフト開発など，ユーザーに対する情報データの革新的処理能力を主目的とした研究に取り組んできた．
本研究会は，高次元データから科学的知識の抽出を目指すプロジェクトについて，具体的なアルゴリズムや研究アプローチを今まさに模索している段階である．あるいは，逆に，疎なデータに内在するエッセンスから，本来の実態を復元することもスパースモデリングの重要な成果であると認識している．
そして，そこに流れている基本概念は，データが膨大であろうと，疎であろうと，データに内在するエッセンスの抽出である．
このように，本研究会は，Passive 科学にとどまらず，Active 科学に関しても，高次元データやスパースなデータから科学的知識の抽出を行う普遍的枠組みがスパースモデリングであると考える．その方法論の構築のための主たるテクノロジーが，近年，情報科学分野で大きな注目を集めている，スパースモデリング，すなわち，圧縮センシング(CS)や LASSO であり，計測工学，地学・地球科学だけではなく，むしろ，その先駆的な利用分野として，医学分野，画像科学，天文学など，幅広い分野で革新的情報の内在するデータからのエッセンスの抽出技術として大きな期待をされている．本スパースモデリング研究会は，スパースモデリングの発展の可能性を確信し，さらなる発展を目指すことを期待して止まない．

補足説明
スパースモデリングと関連する分野の紹介をここで行う．
8.2.1. ディープラーニング 1)（１）Deep Learning とはDeep Learning とは，十分なデータ量があれば，人間の力なしに機械が自動的にデータから特徴を抽出してくれるディープニューラルネットワーク（DNN）を用いた学習のことです．MIT が発刊している『Deep Learning Book』で「Deep learning is a particular kind of machine learning that achieves great power and flexibility bylearning to represent the world as a nested hierarchy of concepts, with each concept defined in relation
to simpler concepts, and more abstract representations computed in terms of less abstract ones.」

―

93 ―

（Deep Learning は，より単純な概念に関連して定義された各概念と，より少ない概念から計算されたより多くの概念の表現を用いて，概念のネスト階層として世界を表現することを学ぶことによって，大きな力と柔軟性を実現する機械学習の特別な種類です．）と述べられ，記憶に新しいのは，2016 年に人工知能の囲碁プログラム「AlphaGo)」が，世界トッ
プレベルの実力を持つ韓国のプロ棋士に勝利したことでしょうか．それまでも，「人工知能」というのは，過去２回ブームがあり，2013 年以降は第３次 AI ブームと言われていますが，この３度目のブームを引き起こしたのは間違いなく Deep Learning といっても過言ではありません．Deep
Learning が，今までの人工知能や機械学習とどういう関係で，何が違うのか．Deep Learning の何がそんなに画期的で凄い技術なのかを次に見ていきましょう．DNN とは，ニューラルネットワー
ク（NN）というパターン認識をするように設計された，人間や動物の脳神経回路をモデルとした
アルゴリズムを多層構造化したもので，昨今注目を浴びています．今までの話で，人工知能と機械学習，Deep Learning と３つのキーワードが出てきて，すでに混同している方も多いとは思いますが，そこまで難しく考えることはありません．３つのキーワードの関係は，大まかにいうと「人工知能＞機械学習＞Deep Learning」という構造になっています．どれも違う技術ということではなく，図解すると以下のようなベン図になります．

良くある誤解ですが，Deep Learning 自体が AI というわけではなく，人工知能の要素技術の１つという位置付けです．大まかな構造がわかったところで，１つ１つのワードについて深掘りしていきましょう．
（２）Deep Learning のアルゴリズム
Deep Learning といってもアルゴリズムに種類があり，それぞれ得意分野が違うのでビジネスにDeep Learning を導入する際，どのアルゴリズムを使うのが適切なのか検討する必要があります．
今回は，大まかに３つ紹介しますが，もっと知りたい方は Deep Learning Tutorial – NYU Computer
Science にマッピングされているものが記載されているのでご覧になってみてください．
1) DNN（Deep Neural Network，ディープニューラルネットワーク）

―

94 ―

ニューラルネットワーク（NN）というパターン認識をするように設計された，人間や動物の脳神経回路をモデルとしたアルゴリズムを多層構造化したもの．
2) CNN（Convolutional Neural Network，畳み込みニューラルネットワーク）
局所的な情報の抽象化及び位置普遍性をもたせた順伝播型ニューラルネットワークを利用したアルゴリズム．DNN を 2 次元データに対応させたもので，画像に対して高いパターン認識能力を示します．
主な用途：画像認識
3) RNN（Recurrent Neural Network，再帰型ニューラルネットワーク）
音声，動画データのような可変長のデータを扱えるようにするために中間層に再帰的な構造をもたせた双方向に信号が伝播するニューラルネットワークを利用したアルゴリズム．
DNN を横に繋いで時間変化する，連続的なデータに対応させたものですが，あまり長時間のデータには向きません．
4) その他
また，最近では，Google Translate など自然言語処理にも使われています．
主な用途：音声認識，動画認識，自然言語処理
そもそもビジネスに導入したい際には，Deep Learning のアルゴリズム等を検討する前に，それが機械学習の方が適切なのか，DeepLearning の方が適切なのかでも変わってきます．
（３）Deep Learning で可能なこと
では，具体的に Deep Learning で今何ができるのかを見ていきたいと思います．
まず入力するデータの種類別に，以下のように分類できます．
1）画像認識画像や動画を入力とし文字や顔などの特徴を認識・検出する技術です． 背景から特徴を分離抽出しマッチングや変換をおこない，目的となる特徴を特定し認識します．
（例： Facebook のタグ付け（顔認証），自動運転，感情分析など
2）音声認識音声を認識させる技術です．人間の声を認識してテキストに出力したり，音声の特徴をとら
えて声を出している人を識別したりできます．
（例：iPhone の「Siri」のような音声入力など
3）自然言語処理
人間が日常的に使う自然言語（書き言葉・話し言葉）をコンピューターに処理・理解させる技術です．
（例：銀行のコールセンターでの問い合わせ対応，文書要約，機械翻訳など
4）異常検知産業機器などに取り付けられたセンサーなどの時系列データから異常の兆候を感知する技
術です．（例：工場内の監視（故障や異常動作の検知）など．
（４）具体的な事例
1）製造
2）流通
3）マーケティング
4）医療
5）セキュリティ
6）金融

―

95 ―

（５）Deep Learning の未来
Deep Learning の期待されているところは，今まで機械学習などでは処理ができなかった複雑なデータを扱うことが可能になり，人間が行っていた業務の一部を機械に置き換えたり，業
務を効率化したりすることができるようになることです．
それだけではなく，技術自体がコモディティ化し，皆が Deep Learning を使えるようになり，
データの活用の仕方次第であらゆる領域で新しい体験などが生み出され社会の仕組み自体をも変える技術になるだろうという部分にあると思われます．
実際，富士キメラ総研の調査結果によると，人工知能（AI）ビジネスの国内市場は，2030 年
度に 2 兆円規模になり，2015 年度の 14 倍になると言われています．
今後もより幅広いあらゆる領域で，Deep Learning が活用されていくでしょう．
現在，クラウドコンピューティングの世の中ですが，Deep Learning が普及していくことで，クラウドに上げずともデバイス自体がそれぞれ群知能的に処理していくことでエッジだけで完結し，エッジコンピューティング注）の世界に変遷していくと考えられます．
注）エッジコンピューティング 2）
エッジコンピューティングとは，ユーザーの近くにエッジサーバーを分散させ，距離を短縮することで通信遅延を短縮知る技術である．スマートフォンなどの端末側で行っていた処理をエッジサーバ
ーに分散させることで，高速なアプリケーション処理が可能になり，さらに，リアルタイムなサービ
スやサーバーとの通信頻度・量が多いビッグデータ処理などに，これまで以上の効果が期待できるコ
ンピューティングシステムを言う．
大規模なデータセンターを用いたクラウドコンピューティング環境では，ユーザーからデータセン
ターまでの距離が遠く，光の速度に起因して発生する通信の遅延を縮められないため，高いリアルタ
イム性が求められるアプリケーション，M2M2)のようなビッグデータを扱うアプリケーションでは，情報をデータセンターに集約処理するためのネットワーク帯域の増大が課題となります．エッジコン
ピューティングは，集約的にサーバーを配置するクラウドに比べて通信遅延が最大 100 分の 1 と短くなり，端末負荷を軽減できるほか，センサー情報など膨大なビッグデータ処理に向くといいます．
エッジコンピューティングの特長は，
1) ユーザーと物理的に近い場所にあるエッジサーバー上でアプリケーションを実行することにより，遅延要求の厳しいリアルタイム・アプリケーションを実現します．
2) 地域性の高いＭ２Ｍ，ビッグデータの一次処理をエッジサーバーで行うことで計算を効率化
し，情報をデータセンターに集約するためのネットワーク帯域を削減します．
3) 端末における負荷の高い処理をエッジサーバーで分散処理することで，端末の性能によらな
い，高速なアプリケーション処理が可能になります．
なお，エッジコンピューティングとよく似たものに「フォグコンピューティング」がある（参考）．

8.2.2. 人工知能（AI）1)“AI“，最近よく聞くワードになりつつあると思いますが，巷では何にでも AI と使われがちで，学者の中でも定義は人それぞれで統一的見解はありません．今回は，「大量の知識データに対して，高度な推論を的確に行うことを目指したもの 」（一般社団法人 人工知能学会設立趣意書からの抜粋）という立場を取りたいと思います．AI は，大まかに２つに分類することができます．

―

96 ―

■

弱い AI：人間の知能の一部を代替する，一見知的な限られた問題解決を行えるものであり，
1) 特化型 AI：特定の決まった作業を遂行するためのもの（囲碁 AI など）
2) 汎用型 AI：特定の作業やタスクに限定せず人間と同様の，あるいは人間以上の汎化能力を持ち合わせているもの■

強い AI：脳科学などを取り入れながら人間の知能や心の原理を解明し，人間の脳機能と同等の汎用的な知的処理が実現可能なものであり，人間のように自意識や感情を持ち合わせているものである．ニュースなどでよく見かけるのは，弱い AI で中でも特化型 AI です．現実的には，まだ汎用型 AI は難しいと言われています．
（強い AI は，汎用人工知能(AGI)とも呼ばれます．弱い AI の汎用型 AI とどう違うのかというところですが，その差は人工知能自体に意識があるか，ないかというところにあると考えられており，強い AI≒ドラえもん のようなイメージを持つと考えれば，分かりやすい）
冒頭に記載したように「十分なデータ量があれば，人間の力なしに機械が自動的にデータから特徴を抽出してくれるディープニューラルネットワーク（DNN）を用いた学習」ということで，人工知能の中の１つの要素技術です．
機械学習（ML）機械学習とは，機械学習のパイオニアの１人であるアーサー・サミュエルによると，”The field of study that gives computers the ability to learn without being explicitly programmed.”「人が明示的に挙動を指示することなしにコンピューターに学習能力を与えること」 と定義されており，機械学習にも下図のような学習の仕方に種類があります．

8.2.3. i-Construction（１）i-Construction（アイコンストラクション）注)とはi-Construction（アイコンストラクション）とは，国土交通省が進めている 3)，「ICT の全面的な活用（ICT 土工）」等の施策を建設現場に導入することにより，建設分野の生産性全体の向上を図り，それにより，魅力ある建設現場を目指す取組をいう．様々な分野の産学官が連携して，IoT・

―

97 ―

人工知能（AI）などの格段に高度化した技術の現場への導入や，3 次元データの活用なを進める
ことで，生産性が高く魅力的な新しい建設現場を創出することを目的とし，コンソーシアムの設置を進められている．
注：「i-Construction」は国土技術政策総合研究所の登録商標です．
i-Construction の三本柱とは，以下の，①

ICT 技術の全面的な活用（土木工事）（重要）②規格の標準化（コンクリート工事）③

施工時期の平準化であるとされている．

（２）国土交通省の取り組み 4)
1) 平成２８年度から導入する主な新基準の例

―

98 ―

2) H28 年度から i-Construction で建設現場の変貌
公共測量マニュアルや監督・検査基準などの 15 の新基準，及び ICT 建機のリース料を含
む 新積算基準を平成 28 年度より導入．

3) 出来形管理
三次元計測により計測された三次元点群データによる効率的な出来形管理を導入

―

99 ―

4) ICT 検査
ICT 機器を活用し，三次元モデルを用いた検査に対応するように要領・基準を改定．
⇒受発注者双方にとって，検査の大幅な省力化を図る．

5) 国土交通省 HP

新たに導入する 15 の基準及び積算基準

ICT 建機を活用し，三次元モデルを用いた検査に対応するように要領・基準を改定．⇒受発注
者双方にとって，検査の大幅な省力化を図る．
国土交通省は，測量・設計から施工・検査，さらには維持管理・更新までの全てのプロセスにおいて ICT 技術を導入することで，現在の 3K（キツイ，汚い，危険）から新 3K（高給，休暇，希望）への土木工事環境の整備を目指す，としている．
しかし，「キツイ，汚い，危険」を改善する文言を「高給，休暇，希望」にすり替えただけで，本質的な土木工事環境の整備（現在の 3K の改善）には触れていない．ICT 技術の導入による人員削減がもたらす影響を含めて「魅力ある建設現場」とはどうあるべきかをさらに議論する必要がありそうだ．
国土交通省 HP の新たに導入する 15 の基準及び積算基準によれば，①

国土交通省では，ICT 土工を新年度平成 28 年度 4 月から全面的に実施する②

このため，土工における調査・測量，設計，施工，検査のプロセスにおいて，現在の紙図面を前提とした基準類を変更し，３次元データによる 15 の新基準を平成 28 年 4 月
より導入する③

また，ICT 土工の活用に必要な経費を計上するための新たな積算基準を導入する

―

100 ―

ICT 土工用の新たな積算基準

新たに導入する 15 の基準及び積算基準

―

101 ―

【８章

文献】

（8.2.補足説明）
1) 坂口真里奈；ディープラーニング（Deep Learning）とは？【入門編】，LEAPMIND blog - presents
by LEAPMIND Inc.，2017.

http://leapmind.io/blog/2017/2) IoT(Internet of Things/まとめ)；http://iotjp.com/iotsummary/iotcategory/%E3%82%A8%E3%83%83%E3%82%B8%E3%82%B3%E3%83%B3%E3%83%94%E3%83%A5%E3%83%BC%E3%83%86%E3%82%A3%E3%83%B3%E3%82%B02/.html
3) 福井コンピュータ（株），i-Construction，http://icon.fukuicompu.co.jp/about/index.html
4) 国土交通省；【国土交通省 HP

新たに導入する 15 の基準及び積算基準より】

http://www.mlit.go.jp/common/001125408.pdf

―

102 ―

付録

スパースモデリングと高次元データ駆動科学創成

研究業績○医学班(A01-1)
学術論文
・ Sachi Okuchi, Tomohisa Okada, Koji Fujimoto, Yasutaka Fushimi, Aki Kido, Toshiki Dodo, Mitsue
Miyazaki, Xiangzhi Zhou, Kaori Togashi，Visualization of Lenticulostriate Arteries at 3T: optimizationof slice selective off-resonance sinc pulse prepared TOF-MRA and its comparison with Flow-Sensitive
Black-Blood MRA，Academic Radiology, in press.
招待講演・藤本晃司，L1 最小化による MRI 画像再構成，医用画像処理における統計科学的手法の確立に向けて, 2014 年 3 月 20 日, 東京.
・岡田知久，医用画像における圧縮センシング：現状と課題，RIMS 共同研究「ウェーブレット解
析とサンプリング理論」講演会, 2013 年 10 月 25 日, 京都.
○生命科学班(A01-2)
学術論文
・T. Kigawa，Isotope labeling of proteins using cell-free synthesis and its application to structural dynamics
analysis
Journal of Pharmacological Sciences, 124, 62, 2014.
国際学会発表・T. Kigawa，Novel Stable Isotope Labeling Strategy Using the Coding Theory，55th Experimental Nuclear
Magnetic Resonance Conference (ENC), 2014 年 3 月 23 日-28 日, アメリカ，ボストン.
・T. Tanaka, J. Hamatsu, E. Seiwa, T. Ikeya, M. Masaki, Y. Ito，Structural analysis of proteins inside living
sf9 cells by in-cell NMR spectroscopy，5th Asia-Pacific NMR Symposium, 2013 年 10 月 27 日-31 日,
オーストラリア, ブリスベン.
国内学会発表・T. Ikeya，A NMR protein structure determination algorithm based on Bayesian inference，The Global
Human Resource Program Bridging Across Physics and Chemistry, 2014 年 1 月 31 日, 東京.
・葛西卓磨, 小柴生造, 横山順, 木川隆則，符号理論を応用した新規の安定同位体標識戦略，第 52
回 NMR 討論会, 2013 年 11 月 12 日-14 日, 金沢.
・岡村英保, 栃尾尚哉, 杉山修世, 渡部暁, フェイグ マイケル, 杉田有治, 木川隆則，分子混雑環境における蛋白質の NMR 緩和解析，第 52 回 NMR 討論会, 2013 年 11 月 12 日-14 日, 金沢.
・鴨志田一, 晴柀貴洋, 濱津順平, 井上仁, 池谷鉄兵, 三島正規, 白川昌 宏, 伊藤隆，In-cell NMR を用いた，HeLa 細胞内のストレス応答による Ca2＋濃度変化のモニタリング，第 52 回 NMR 討
論会, 2013 年 11 月 12 日-14 日, 金沢.
・田中孝, 浜津順平, 清和恵美子, 池谷鉄兵, 三島正規, 伊藤隆，Sf9 細胞 の in-cell NMR におけるアミノ酸選択的安定同位体標識，第 52 回 NMR 討論会, 2013 年 11 月 12 日-14 日, 金沢.
・嶋崎真那人, 池谷鉄兵, 三島正規, 伊藤隆, Peter Guentert，NMR 蛋白質立体構造決定のための新規
構造最適化法の開発，第 52 回 NMR 討論会, 2013 年 11 月 12 日-14 日, 金沢.
・角越和也, 池谷鉄兵, 伊藤隆, 清水謙多郎，圧縮センシングを用いた NMR スペクトルの復元法，
第 51 回 日本生物物理学会年会, 2013 年 10 月 28 日-30 日, 京都.
・嶋崎真奈人, 池谷鉄兵, 三島正規, 伊藤隆, Peter Guentert，NMR タンパク質立体構造決定のための新規構造最適化法の開発，第 51 回 日本生物物理学会年会, 2013 年 10 月 28 日-30 日, 京都.

―

103 ―

招待講演
・木川隆則，無細胞合成系を用いたタンパク質の標識技術と動態研究，第 87 回日本薬理学会年会
公開シンポジウム, 2014 年 3 月 19 日-21 日, 仙台.
・池谷鉄兵，In-cell NMR 法を用いた生きた細胞内での天然変性蛋白質の立体構造とダイナミクス，
天然変性タンパク質の分子認識機構と機能発現

第３回公開シンポジウム, 2014 年 2 月 27 日-

28 日, 福岡.
・池谷鉄兵，生きた細胞中での蛋白質立体構造決定とダイナミクス解析，第 346 回 CBI 学会研究講演会, 2014 年 2 月 13 日, 東京.
・木川隆則，先端研究基盤としての理研 NMR 施設，よこはまＮＭＲ構造生物学研究会, 2014 年 9月 9 日, 横浜.
・木川隆則，符号化理論に基づく新規の安定同位体標識，大阪大学蛋白質研究所セミナー, 2013 年
8 月 5 日-6 日, 豊中.
○脳科学班(A01-3)
学術論文
・Tsutomu Murata, Takashi Hamada, Tetsuya Shimokawa, Manabu Tanifuji, Toshio Yanagida，Stochastic
Process Underlying Emergent Recognition of Visual Objects Hidden in Degraded Images，PLoS ONE, 9,
12, 2014.
・Go Uchida, Manabu Tanifuji，Independent Noise Enhances Synchronization in Heterogeneous Systems
Journal of the Physical Society of Japan, 83, 093801, 2014.
・Takayuki Sato, Go Uchida, Mark D. Lescroart, Jun Kitazono, Masato Okada, Manabu Tanifuji，Object
representation in inferior temporal cortex is organized hierarchically in a mosaic-like structure，Journalof Neuroscience, 33, 42, 16642-16656, 2013.
招待講演
・谷藤学，サル高次視覚野における「顔」の分散表現，立命館大学視覚科学統合研究センターシン
ポジウム「視覚情報処理の新展開−局所回路から認知へ」, 2014 年 3 月 13 日-14 日, 草津.
著書
・Takayuki Sato, Manabu Tanifuji，Optical Intrinsic Signal Imaging for Elucidating Functional Structures inHigher Visual Area，Neurovascular Coupling Methods, Neuromethods, 88, 161-175, 2014.
○地球科学班(A02-1)
学術論文
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Takahiro Watanabe, Yasumasa Ogawa, Takeshi Komai,
Noriyoshi Tsuchiya ， Machine-learning techniques for geochemical discrimination of 2011 Tohoku
tsunami deposits，Scientific Reports, 4, 7077, 2014.
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Mitsuhiro Toriumi，Markov random field modeling for linear
seismic tomography，Physical Review E, 90, 042137, 2014.
・ Kensuke Wakasugi, Tatsu Kuwatani, Kenji Nagata, Hideki Asoh, Masato Okada ， Verification of
Effectiveness of a Probabilistic Algorithm for Latent Structure Extraction Using an Associative Memory
Model.，Journal of the Physical Society of Japan, 83, 104801, 1-8, 2014.
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Mitsuhiro Toriumi，Markov random field modeling for
mapping geofluid distribution from seismic velocity structures，Earth, Planets and Space, 66, 5, 1-9, 2014.

―

104 ―

国際学会発表
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Takahiro Watanabe, Yasumasa Ogawa, Noriyoshi Tsuchiya，Exhaustive Search of Elemental Combinations for Geochemical Discrimination of Tsunami deposits，American Geophysical Union, Fall Meeting, 2013 年 12 月 9 日-13 日, アメリカ，サンフランシスコ.
・Takeshi Komai, Tatsu Kuwatani, Yoshishige Kawabe, Junko Hara, Masato Okada，Geochemical andstatistical analysis of toxic elements in tsunami deposits occurred at March 11, 2011 ， American
Geophysical Union, Fall Meeting, 2013 年 12 月 9-13 日, アメリカ，サンフランシスコ.
国内学会発表・桑谷立, 永田賢二, 岡田真人, 渡邊隆弘, 小川泰正, 土屋範芳，地球化学データを用いた津波堆積物の高精度判別 - スパースモデリングを用いた高次元データプロセッシング，資源素材
2013(札幌), 2013 年 9 月 3-5 日, 札幌.
・桑谷立, 永田賢二, 岡田真人, 駒井武，地球科学プロセス抽出のためのデータプロセッシング技術
資源・素材学会平成 26 年度春季大会, 2013 年 3 月 26-28 日, 東京.
・桑谷立, 永田賢二, 岡田真人, 鳥海光弘，岩石学へのデータ駆動型アプローチ，日本地質学会第120 年学術大会, 2013 年 9 月 14-16 日, 仙台.
・若杉健介, 桑谷立, 永田賢二, 麻生英樹, 岡田真人，連想記憶モデルによる確率的潜在構造抽出ア
ルゴリズムの有効性検証，日本物理学会第 69 回年次大会, 2013 年 3 月 27-30 日, 神奈川.
○惑星科学班(A02-2)
学術論文
・N. Hirata, H. Miyamoto, A.P. Showman，Particle deposition on the saturnian satellites from ephemeral
cryovolcanism on Enceladus，Geophysical Research Letters, accepted.
・T. Kuritani, T. Yoshida, J. Kimura, T. Takahashi, Y. Hirahara, T. Miyazaki, R. Senda, Q. Chang, Y. Ito，
Primary melt from Sannome-gata volcano, NE Japan arc: constraints on generation conditions of rear-arc
magmas，Contributions to Mineralogy and Petrology, 167, 969, 1-18, 2014.
・S. Ohno, T. Kadono, K. Kurosawa, T. Hamura, T. Sakaiya, K. Shigemori, Y. Hironaka, T. Sano, T. Watari,
K. Otani, T. Matsui, S. Sugita，Production of sulphate-rich vapour during the Chicxulub impact andimplications for ocean acidification
Nature Geoscience, 7, 279-282, 2014.
国際学会発表・S. Koga, S. Sugita, S. Kamata, M. Ishiguro, T. Hiroi, S. Sasaki，Spectral Evolution Tracks of S-Type
Asteroids Suggested by Principal Component Analysis of Multi-Band Images of Itokawa，Lunar Planet.
Sci. Conf., XXXXV, 2014 年 3 月 17 日-21 日, アメリカ，テキサス.
・N. Okamura, S. Sugita, S. Kamata, F. Usui, T. Hiroi, T. Ootsubo, T. G. Müller, I. Sakon, S. Hasegawa，Principal-Component Analysis of the Continuous 3-μm Spectra of Low-Albedo Asteroids Observed with
the Akari Satellite
Lunar Planet. Sci. Conf., XXXXV, 2014 年 3 月 17 日-21 日, アメリカ，テキサス.
・ N. Okamura, S. Hasegawa, F. Usui, T. Hiroi, T. Ootsubo, T. G. Müller, S. Sugita ， Spectroscopic
Observations of Dark Main-Belt Asteroids in The 2.6-3.1μm Range with the Akari Satellite，Lunar Planet.
Sci. Conf., XXXXV, 2014 年 3 月 17 日-21 日, アメリカ，テキサス.
・ T. Matsumoto, H. Miyamoto, T. Nishibori, T. Manabe, T. Ito, R. Katayama, J. Haruyama， On theheterogeneities of electo-magnetic properties of rocks，Lunar Planet. Sci. Conf., XXXXV, 2014 年 3 月
17 日-21 日, アメリカ，テキサス.

―

105 ―

・ Takeshi Kuritani, Takeyoshi Yoshida, Jun-Ichi Kimura, Toshiro Takahashi, Yuka Hirahara, Takashi
Miyazaki, Ryoko Senda, Qing Chang, Yoshinori Ito，Primary melt from Sannome-gata volcano, NE Japanarc: constraints on generation conditions of rear-arc magmas，American Geophysical Union, Fall Meeting,2013 年 12 月 9 日-13 日, アメリカ，カリフォルニア.
国内学会発表・栗谷豪, 吉田武義, 木村純一, 高橋俊郎, 平原由香, 宮崎隆, 仙田量子, 常青, 伊藤嘉紀，三ノ目潟
火山のマグマ生成条件，日本火山学会 2013 年秋季大会, 2013 年 9 月 29 日-10 月 1 日, 猪苗代.
・栗谷豪, 奥村聡, 横山哲也, 伊藤嘉紀, 中村美千彦，中国北東部・長白山火山におけるマントル含水量：予察的検討，日本地球惑星科学連合大会, 2014 年 4 月 28 日-5 月 2 日, 横浜.
・宮本英昭, 杉田精司, 栗谷豪，小惑星と隕石の分類とデータプロセッシング，資源素材学会春季大会, 2014 年 3 月 28 日, 横浜.
○天文学班(A02-3)
学術論文
・Hirota T., Kim MK., Kurono Y., Honma M.，A Hot Molecular Circumstellar Disk around the Massive
Protostar Orion Source I，The Astrophysical Journal Letters, 782, 28, 1-5, 2014.
・Hada K., Doi A., Nagai H., Inoue M., Honma M., Giroletti M., Giovannini G.，Evidence for a Nuclear
Radio Jet and its Structure down to Isim100 Schwarzchild Radii in the Center of the Sombrero Galaxy(M104, NGC 4594)，The Astrophysical Journal, 779, 6, 1-13, 2013.
・Hada K., Kino M., Doi A., Nagai H., Honma M., Hagiwara Y., Giroletti M., Giovannini G., Kawaguchi N.，
The Innermost Collimation Structure of the M87 Jet Down to ~10 Schwarzchild Radii，The AstrophysicalJournal, 775, 70, 1-7, 2013.
・Lu RS., Fish VL., Akiyama K., Doeleman SS., Algaba JC., Bower GC., Brinkerink C., Chamberlin R., Crew
G., Cappallo R J., et al.，Fine-scale Structure of the Quasar 3C 279 Measured with 1.3 mm Very Long
Baseline Interferometry，The Astrophysical Journal, 772, 13, 1-10, 2013.
○計測モデリング班(B01-1)
学術論文
・Toshiyuki Tanaka，Statistical-mechanics analysis of Gaussian labeled-unlabeled classification problems，Journal of Physics: Conference Series, 473, 12001, 1-8, 2013.
・池田思朗，X 線自由電子レーザーによる分子の電子密度推定，統計数理, 61, 135-146, 2013.
・Masayuki Ohzeki，Belief Propagation with multipoint correlation and its application to inverse problem，
Journal of Physics: Conference Series, 473, 12005, 1-14, 2013.
国際学会発表・Ryosuke Matsushita, Toshiyuki Tanaka，Low-rank matrix reconstruction and clustering via approximate
message passing
Neural Information Processing Systems, 2013 年 12 月 5-10 日, アメリカ，ネバダ.
・Kei Sano, Toshiyuki Tanaka，To average or not to average: Trade-off in compressed sensing with noisy
measurements，IEEE International Symposium on Information Theory, 2014 年 6 月 29 日-7 月 4 日,
アメリカ，ハワイ.
・Shiro Ikeda, Makoto Uemura, Tadayuki Takahashi, Shin Watanabe, Shin-ichiro Watanabe，Compton camera
imaging，The 7th International Conference on Sensing Technology, 2013 年 12 月 5 日, ニュージーラ
ンド，ウェリントン.

―

106 ―

・Masayuki Ohzeki，Belief Propagation with multipoint correlations and its application to inverse problem，International Meeting on "Inference, Computation, and Spin Glasses", 2013 年 7 月 28-30 日, 札幌.．
国内学会発表・小高裕和，コンプトンカメラ画像最構成への統計的アプローチ，日本天文学会, 2013 年 9 月 12 日,
仙台.．
・池田思朗，スパースモデリングによる情報処理の新しい流れ，2013 年映像情報メディア学会年次大会, 2013 年 8 月 30 日, 新宿.
・大関真之, 田中利幸，半教師あり学習の情報統計力学，日本物理学会第 69 回年次大会, 2014 年 3
月 27-30 日, 神奈川.
招待講演
・池田思朗，スパースモデリングによる情報処理，電子情報通信学会医用画像研究会, 2013 年 9 月
13 日, 習志野.
○スパースモデリング班(B01-2)
学術論文
・ Yoshinori Nakanishi-Ohno, Tomoyuki Obuchi, Masato Okada, Yoshiyuki Kabashima ， Sparse
approximation based on a random overcomplete basis，Journal of Statistical Mechanics: Theory andExperiment, in press.
・ Kenji Nagata, Jun Kitazono, Shin-ichi Nakajima, Satoshi Eifuku, Ryoi Tamura, Masato Okada， An
exhaustive search and stability of sparse estimation for feature selection problem，IPSJ Transactions onMathematical Modeling and Its Applications, 8, 2, 23-30, 2015.
・ Hikaru Takenaka, Kenji Nagata, Takashi Mizokawa, Masato Okada ， Model Selection of NiGa2S4
Triangular Lattice by Bayesian Inference，Journal of the Physical Society of Japan, 83, 124706, 2014.
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Takahiro Watanabe, Yasumasa Ogawa, Takeshi Komai,
Noriyoshi Tsuchiya
Machine-learning techniques for geochemical discrimination of 2011 Tohoku tsunami deposits
Scientific Reports, 4, 7077, 2014.
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Mitsuhiro Toriumi，Markov random field modeling for linear
seismic tomography，Physical Review E, 90, 042137, 2014.
・ Kensuke Wakasugi, Tatsu Kuwatani, Kenji Nagata, Hideki Asoh, Masato Okada ， Verification of
Effectiveness of a Probabilistic Algorithm for Latent Structure Extraction Using an Associative Memory
Model.，Journal of the Physical Society of Japan, 83, 104801, 1-8, 2014.
・Kazushi Mimura, Masato Okada，Generating functional analysis for iterative CDMA multiuser detectors，IEEE Transactions on Information Theory, 60, 3645-3670, 2014.
・Hiroko Ichikawa, Jun Kitazono, Kenji Nagata, Akira Manda, Keiichi Shimamura, Ryouichi Sakuta, Masato
Okada, Masami K Yamaguchi, So Kanazawa, Ryusuke Kakigi，Novel method to classify hemodynamic
response obtained using multi-channel fNIRS measurements into two groups: Exploring the combinationsof channels，Frontiers in Human Neuroscience, 8, 480, 2014.
・Yosuke Otsubo, Jun-ichi Inoue, Kenji Nagata, Masato Okada，Code-division multiple-access multiuser
demodulator by using quantum fluctuations，Physical Review E, 90, 012126, 2014.
・H. Noda, H. Hino, M. Tatsuno, S. Akaho, N. Murata，Intrinsic Graph Structure Estimation Using Graph
Laplacian，Neural computation, 26, 1455-1483, 2014.
・Yoshinori Nakanishi-Ohno, Kenji Nagata, Hayaru Shouno, Masato Okada，Distribution estimation of

―

107 ―

hyperparameters in Markov random field models，Journal of Physics A: Mathematical and Theoretical,
47(4), 045001, 1-14, 2014.
・Shimpei Yotsukura, Toshiaki Omori, Kenji Nagata, Masato Okada，Sparse Estimation of Spike-Triggered
Average，IPSJ Transactions on Mathematical Modeling and Its Applications, 7, 15-21, 2014.
・Tatsu Kuwatani, Kenji Nagata, Masato Okada, Mitsuhiro Toriumi，Markov random field modeling for
mapping geofluid distributions from seismic velocity structures，Earth, Planets and Space, 66, 5, 1-9, 2014.
・Takayuki Sato, Go Uchida, Mark D. Lescroart, Kenji Nagata, Jun Kitazono, Masato Okada, Manabu Tanifuji，Object representation in inferior temporal cortex is organized hierarchically in a mosaic-like structure，
The Journal of Neuroscience, 33, 16642-16656, 2013.
国際学会発表・Hiroko Ichikawa, Emi Nakato, Yasuhiko Igarashi, Masato Okada, So Kanazawa, Masami K. Yamaguchi，Longitudinal NIRS study: Development of infants’ view-invariant face processing，Pre-conference in2013 SRCD Biennial Meeting, 2015 年 3 月 18-21 日, アメリカ, フィラデルフィア.
・Hiroko Ichikawa, Jun Kitazono, Kenji Nagata, Akira Manda, Keiichi Shimamura, Ryoichi Sakuta, Masato
Okada, Masami K. Yamaguchi, So Kanazawa, Ryusuke Kakigi，Novel application of Support Vector
Machines to classify hemodynamic response obtained by multi-channel NIRS measurement，fNIRS 2014,2014 年 10 月 10-12 日, カナダ, モントリオール.
・Hideitsu Hino, Atsushi Noda, Masami Tatsuno, Shotaro Akaho, Noboru Murata，An Algorithm for Directed
Graph Estimation，International Conference on Artificial Neural Networks 2014 (ICANN2014), 2014 年
9 月 15 日-19 日, Hamburg, Germany.
・Kenji Nagata，Sparse modeling and variable selection with the exchange Monte Carlo method，Workshop
on Mathematical Approaches to Large-Dimensional Data Analysis, 2014 年 3 月 14 日, Tokyo.
・ Yosuke Otsubo, Jun-ichi Inoue, Kenji Nagata, Masato Okada ， Statistical mechanical studies on theinformation processing with quantum fluctuation，American Physical Society March Meeting 2014, 2014
年 3 月 5 日, Denver, Colorado, USA..
・Kenji Nagata，An Efficient Exhaustive Search for Variable Selection Using MCMC method，Inference,
Computation, and Spin Glasses (ICSG2013), 2013 年 7 月 28 日, Sapporo.
・Yasuhiko Igarashi, Masato Okada，The effect of inhomogeneous connectivity on higher-order correlations，
StatPhysHK Conference, 2013 年 7 月 17 日, Hong Kong, China.
国内学会発表・若杉健介, 桑谷立, 永田賢二, 麻生英樹, 岡田真人，連想記憶モデルによる確率的潜在構造抽出ア
ルゴリズム，有効性検証，日本物理学会第 69 回年次大会, 2014 年 3 月 28 日, 神奈川.
・中西（大野）義典, 永田賢二, 庄野逸, 岡田真人，2 次元マルコフ確率場のハイパーパラメータ分
布推定，日本物理学会第 69 回年次大会, 2014 年 3 月 28 日, 神奈川.
・竹中光, 永田賢二, 溝川貴司, 岡田真人，ベイズ統計による三角格子スピン系 NiGa_2S_4 のモデ
ル選択，日本物理学会第 69 回年次大会, 2014 年 3 月 28 日, 神奈川.
・四倉晋平, 大森敏明, 五十嵐康彦, 岡田真人，スパース性に基づく受容野構造の推定，日本物理学会第 69 回年次大会, 2014 年 3 月 27 日, 神奈川.
・五十嵐康彦, 岡田真人，3 次発火相関が外部刺激の情報を保持する，日本物理学会第 69 回年次大会, 2014 年 3 月 27 日, 神奈川.
・竹中光, 永田賢二, 溝川貴司, 岡田真人，ベイズ推論による三角格子スピン系 NiGa_2S_4 のモデ
ル選択，ニューロコンピューティング研究会(NC), 2014 年 3 月 18 日, 東京.

―

108 ―

・永田賢二, 村岡怜, 佐々木岳彦, 岡田真人，ベイズ推定に基づくスペクトル分解と必要最小計測時間の推定について，ニューロコンピューティング研究会(NC), 2014 年 3 月 18 日, 東京.
・徳田悟, 永田賢二, 渡辺澄夫, 岡田真人，交換モンテカルロ法を用いた情報量規準 WBIC の計算機実験による検証，ニューロコンピューティング研究会(NC), 2014 年 3 月 18 日, 東京.
・若杉健介, 桑谷立, 永田賢二, 麻生英樹, 岡田真人，連想記憶モデルを用いた確率的潜在構造抽出
アルゴリズムの有効性の検証，ニューロコンピューティング研究会(NC), 2013 年 11 月 22 日, 宮城.
・若杉健介, 桑谷立, 永田賢二, 麻生英樹, 岡田真人，階層構造を持つ連想記憶モデルの構造発見へのデータ駆動型アプローチ，第 12 回情報科学技術フォーラム(FIT2013), 2013 年 9 月 6 日, 鳥取.
・永田賢二, 北園淳, 中島伸一, 永福智志, 田村了以, 岡田真人，交換モンテカルロ法を用いた変数選択問題における解の効率的全数探索，第 16 回情報論的学習理論ワークショップ, 2013 年 11
月 10 日-13 日, 東京.
招待講演
・永田賢二，交換モンテカルロ法を用いたベイズ推定とデータ駆動科学，第 58 回システム制御情報学会研究発表講演会(SCI14), 2014 年 5 月 23 日, 京都.
・岡田真人，スパースモデリングとデータ駆動科学，人工知能学会全国大会 2014(JSAI2014), 2014
年 5 月 12 日, 愛媛.
・岡田真人，マテリアルズ・インフォマティクスとスパースモデリング ，第３回 理事長主催勉強会シリーズ：マテリアルズ・インフォマティクス/物質・材料研究における新展開, 2014 年 4 月
17 日, 茨城.
・岡田真人，スパースモデリングとデータ駆動科学，第 6 回 EFD/CFD 融合ワークショップ, 2014 年
1 月 30 日, 東京.
・岡田真人，スパースモデリングとデータ駆動科学，CREST「ビッグデータ統合利活用のための次世代基盤技術の創出・体系化」特定課題調査「ビッグデータ時代に向け た革新的アルゴリズム
基盤」シンポジウム, 2014 年 1 月 11 日, 京都.
・Masato Okada，Bayesian spectral deconvolution and sparse modeling，Cooperation of Computational
Materials Science and Mathematics toward Smart Materials Design II ― What Materials Informatics
brings in? ―, 2014 年 1 月 8 日, 東京.
・岡田真人，ハイパフォマンスコンピューティングとスパースモデリング，2014 年ハイパフォーマ
ンスコンピューティングと計算科学シンポジウム HPCS2014, 2014 年 1 月 7 日, 東京.
・岡田真人，スパースモデリングとデータ駆動型科学，2013 RIMS 共同研究「ウェーブレット解析とサンプリング理論」, 2013 年 10 月 24 日, 京都.
・岡田真人 ，スパースモデリングとデータ駆動科学，第 29 回ファジィ システム シンポジウム,
2013 年 09 月 11 日, 大阪.
・岡田真人，スパースモデリングとデータ駆動科学，2013 年映像情報メディア学会年次大会, 2013年 8 月 30 日, 東京.
・Masato Okada, Yasuhiko Igarashi，Higher-order correlation in a feed-forward network with inhomogeneousconnectivity
StatPhysHK: Statistical Physics and Computational Neuroscience, 2013 年 7 月 17 日, 香港.
・Kenji Nagata，Learning Coefficient for Bayesian Learning and Markov Chain Monte Carlo Method，5thYSM-SPIP Frontier of Statistical Physics and Information Processing, 2013 年 7 月 12 日, 京都.
○物理モデリング班(B01-3)

―

109 ―

学術論文
・Satoshi Takabe, Koji Hukushima，Typical Behavior of the Linear Programming Method for Combinatorial
Optimization Problems: A Statistical–Mechanical Perspective，Journal of the Physical Society of Japan,
83, 0438011, 1-4, 2014.
・Koji Hukushima, Yuji Sakai，An irreversible Markov-chain Monte Carlo method with skew detailed balance
conditions
Journal of the Physics: Conference Series, 473, 012012, 1-9, 2013.
・Toshiaki Omori, Toru Aonishi, Masato Okada，Statistical estimation of non-uniform distribution of dendritic
membrane properties，Advances in cognitive neurodynamics, 3, 649-655, 2013.
・大森敏明，ビックデータの利活用と機械学習，電気学会誌, 133, 633-633, 2013.
・Shimpei Yotsukura, Toshiaki Omori , Kenji Nagata, Masato Okada，Sparse estimation of spike-triggered
average
IPSJ Transactions of Mathematical Modeling and Its Applications, 7, 15-21, 2014.
国内学会発表・高邉賢史, 福島孝治，最適化問題に対する線形計画法の典型的性能評価，日本物理学会

2013 年

秋季大会, 2013 年 9 月 27-27 日, 徳島県三島市.
・高邉賢史, 福島孝治，線形緩和した組み合わせ最適化問題のレプリカ解析，日本物理学会

第 69

回年次大会, 2014 年 3 月 28-28 日, 神奈川県平塚市.
・四倉晋平, 大森敏明, 五十嵐康彦, 岡田真人，スパース性に基づく受容野構造の推定，日本物理学会

第 69 回年次大会, 2014 年 3 月 27-27 日, 神奈川県平塚市.

招待講演
・Koji Hukushima，An irreversible MCMC method，Deep computation in statistical physics, 2013 年 08 月
08-10 日, 米国ニューメキシコ州

Santa Fe 研究所.

○非線形班(C01-1)
学術論文
・ Kensuke Wakasugi, Tatsu Kuwatani, Kenji Nagata, Hideki Asoh, Masato Okada ， Verification of
Effectiveness of a Probabilistic Algorithm for Latent Structure Extraction Using an Associative Memory
Model.，Journal of the Physical Society of Japan, 83, 104801, 1-8, 2014.
・H. Noda, H. Hino, M. Tatsuno, S. Akaho, N. Murata，Intrinsic Graph Structure Estimation Using Graph
Laplacian，Neural computation, 26, 1455-1483, 2014.
国際学会発表・Hideitsu Hino, Atsushi Noda, Masami Tatsuno, Shotaro Akaho, Noboru Murata，An Algorithm for Directed
Graph Estimation，International Conference on Artificial Neural Networks 2014 (ICANN2014), 2014 年
9 月 15 日-19 日, Hamburg, Germany.
・S. Akaho，On the robust nonlinear curve fitting，Workshop on Mathematical Approaches to LargeDimensional Data Analysis, 2014 年 3 月 14 日, 東京.
国内学会発表・若杉健介，桑谷立，永田賢二，麻生英樹，岡田真人，連想記憶モデルによる確率的潜在構造抽出
アルゴリズムの有効性検証，日本物理学会第 69 回年次大会, 2014 年 3 月 28 日, 神奈川.
・若杉健介，桑谷立，永田賢二，麻生英樹，岡田真人，連想記憶モデルを用いた確率的潜在構造抽
出アルゴリズムの有効性の検証，
電子情報通信学会ニューロコンピューティング研究会, 2013 年
11 月 22 日, 仙台.

―

110 ―

招待講演
・赤穂昭太郎，機械学習におけるコストをめぐる話題，電子情報通信学会 IBISML-PRMU 情報処理学会 CVIM 合同研究会, 2013 年 9 月 2 日, 鳥取.
○セミパラメトリックベイズ班(C01-2)
学術論文
・Kenji Fukumizu, Le Song, Arthur Gretton，Kernel Bayes’ Rule: Bayesian Inference with Positive Definite
Kernels
Journal of Machine Learning Research, 14, 3753-3783, 2013.
・Kenji Fukumizu, Chenlei Leng，Gradient-Based Kernel Dimension Reduction for Regression，Journal of
the American Statistical Association, 109, 505, 359-370, 2014.
・Dino Sejdinovic, Bharath Sriperumbudur, Arthur Gretton, Kenji Fukumizu，Equivalence of distance-based
and RKHS-based statistics in hypothesis testing，The Annals of Statistics, 41, 5, 2263-2291, 2014.
・Md. Ashad Alam, Kenji Fukumizu，Hyperparameter Selection in Kernel Principal Component Analysis，Journal of Computer Science, 10, 7, 1139-1150, 2014.
国際学会発表・Motonobu Kanagawa, Kenji Fukumizu，Recovering Distributions from Gaussian RKHS Embeddings，The
Seventeenth International Conference on Artificial Intelligence and Statistics, 2014 年 4 月 22 日-25 日,
Reykjavik, Iceland.
・ Kenji Fukumizu ， Nonparametric Bayesian Inference with Positive Definite Kernels ， Workshop on
Mathematical Approaches to Large-Dimensional Data Analysis, 2014 年 3 月 13-15 日, 東京.
・Md. Ashad Alam, Kenji Fukumizu，Higher-order Reqularized Kernel CCA，The 12th International
Conference on Machine Learning and Applications, 2013 年 12 月 4-7 日, アメリカ，フロリダ.
・Taiji Suzuki，Stochastic Dual Coordinate Ascent with Alternating Direction Method of Multipliers，
OPT2013, NIPS workshop Optimization for Machine Learning, 2013 年 12 月 9-10 日, アメリカ，ネバダ.
・Ryota Tomioka, Taiji Suzuki，Convex Tensor Decomposition via Structured Schatten Norm Regularization，
Neural Information Processing Systems, 2013 年 12 月 5-10 日, アメリカ，ネバダ.
国内学会発表・金川元信, 福水健次，カーネル平均埋め込みによる分布統計量の計算 〜密度関数，信頼区間，モーメント推定への応用〜，第 16 回情報論的学習理論ワークショップ, 2013 年 11 月 10-13 日, 東京.
・西山悠, 福水健次，無限分解可能分布におけるカーネル平均の検討，第 16 回情報論的学習理論ワークショップ, 2013 年 11 月 10-13 日, 東京.
招待講演
・福水健次，カーネル法によるノンパラメトリックなベイズ推論，研究会：神経科学と統計科学の対話 4, 2014 年 3 月 17-19 日, 東京.
・鈴木大慈，マルチプルカーネル学習とスパース推定の統計的性質，日本数学年会, 2014 年 3 月 1518 日, 東京.
・Taiji Suzuki，Dual Averaging and Proximal Gradiend Descent for Online Alternating Direction Multiplier
MethodThe Sixth Workshop on Information Theoretic Methods in Science and Engineering, 2013 年 8 月 26-29

―

111 ―

日, 東京.
著書・嶋田茂, 伊藤大雄, 坂本比呂志, 當仲寛哲, 鷲尾隆, 上田修功, 杉山将, 鹿島久嗣, 鈴木大慈, 河原大輔, 黒橋禎夫, 関根聡, 西尾信彦, 稲越宏弥, ほか計 36 名，ビッグデータ・マネジメント―データサイ
エンティストのためのデータ利活用技術と事例，株式会社エヌ・ティー・エス, 2013, 329.
○大自由度班(C01-3)
学術論文
・ Yoshinori Nakanishi-Ohno, Tomoyuki Obuchi, Masato Okada, Yoshiyuki Kabashima ， Sparse
approximation based on a random overcomplete basis，Journal of Statistical Mechanics: Theory andExperiment, in press.

・Ayaka Sakata, Yoshiyuki Kabashima，Statistical mechanics of dictionary learning，EPL, 103, 28008, 1-6,
2013.
・Haiping Huang, K Y Michael Wong, Yoshiyuki Kabashima，Entropy landscape of solutions in the binary
perceptron problemJournal of Physics A: Mathematical and Theoretical, 46, 375002, 1-18, 2013.
・Shunsuke Watanabe, Yoshiyuki Kabashima，Cavity-based roubustness analysis of interdependent networks:
Influences of intranetwork and internetwork degree-degree correlations，Physical Review E, 89, 012808,
1-11, 2014.
・Koujin Takeda, Yoshiyuki Kabashima，Reconstruction algorithm in compressed sensing based on maximum
a posteriori estimation，Journal of Physics: Conference Series, 473, 012003, 1-11, 2013.
・Shigehiro Ohara, Keisuke Yamazaki, Sumio Watanabe，A Geometric Evaluation of Self-Organizing Map
and Application to City Data Analysis，Lecture Notes in Artificial Intelligence, 8271, 165-174, 2013.
・Takehiro Ibuki, Shunsuke Higano, Sei Suzuki, Jun-ichi Inoue, Anirban Chakraborti，Statistical inferenceof co-movements of stocks during a financial crisis，Journal of Physics: Conference Series, 473, 012008,
1-16, 2013.
・He Chen, Jun-ichi Inoue，Learning curve for collective behavior of zero-intelligence agents in successive
job-hunting processes with a diversity of Jaynes-Shannon's MaxEnt principle ， Evolutionary andInstitutional Economics Review, 10, 55-80, 2013.
招待講演
・Jun-ichi Inoue ，Statistical mechanics of human resource allocation: Inverse Potts problem that reveals thecorrelations between labors，Statistical modeling, financial data analysis and applications, 2013 年 9 月
9-14 日, イタリア，ベニス.
・Jun-ichi Inoue，Power-law behavior and condensation phenomenain disordered urn models，International
Conference of Emerging Trends in Applied Mathematics, 2014 年 2 月 12-14 日, インド，カルカッタ.
・Jun-ichi Inoue ，Probabilistic flows of inhabitants in urban areas and self-organization in housing markets
Econopysics- Kolkata VIII, 2014 年 3 月 14-17 日, インド，カルカッタ.
○可視化班(C01-4)
国際学会発表・Yi Gao, Hsiang-Yun Wu, Kazuo Misue, Kazuyo Mizuno, Shigeo Takahashi，Visualizing bag-of-features
image categorization using anchored maps，the 7th International Symposium on Visual Information

―

112 ―

Communication and Interaction (VINCI 2014), 2014 年 8 月 5 日-8 日, Sydney, Australia.
・Koto Nohno, Hsiang-Yun Wu, Kazuho Watanabe, Shigeo Takahashi, Issei Fujishiro，Spectral- based
contractible parallel coordinates，18th International Conference on Information Visualisation (iV2014),
2014 年 7 月 15 日-18 日, Paris, France.
・Andrew Barron, Teemu Roos, Kazuho Watanabe，Bayesian properties of normalized maximum likelihoodand its fast computation，IEEE International Symposium on Information Theory (ISIT2014), 2014 年 6月 29 日-7 月 4 日, Honolulu, USA.
・Mizuno Kazuyo, Hsiang-Yun Wu, Shigeo Takahashi，Manipulating bilevel feature space for category-aware
image exploration，the 7th IEEE Pacific Visualization Symposium (PacificVis 2014), 2014 年 3 月 4 日-7 日, Yokohama, Japan.
・Kazuho Watanabe, Teemu Roos, Petri Myllymäki，Achievability of asymptotic minimax regret in online
and batch prediction，Asian Conference on Machine Learning (ACML2013), 2013 年 11 月 13 日-15 日,
Canberra, Australia.
国内学会発表・能野琴, 吳湘筠, 渡辺一帆, 高橋成雄, 藤代一成，相関に基づくクラスタリングを用いた軸縮約可能な平行座標系，情報処理学会第 76 回全国大会, 2014 年 3 月 11-13 日, 東京.
・新部 祐輔, 吳湘筠, 渡辺一帆, 高橋成雄, 藤代一成，スパースモデリングを目的とした平行座標
系表示の拡張情報処理学会第 76 回全国大会, 2014 年 3 月 11-13 日, 東京.
招待講演
・Issei Fujishiro, Shigeo Takahashi, Kazuho Watanabe, Hsiang-Yun Wu，Contractible parallel coordinates
for sparse modeling，Dagstuhl Seminar 14231 Scientific Visualization, 2014 年 6 月 1-6 日, Dagstuhl,
Germany.
吉田公募班(A02)
学術論文
・Keiji Doi, Emi Minamitani, Shunji Yamamoto, Ryuichi Arafune, Yasuo Yoshida, Satoshi Watanabe, Yukio
Hasegawa，Electronic and magnetic effects of a stacking fault in cobalt nanoscale islands on the Ag(111)
surface，Physical Review B, 92, 064421, 2015.

―

113 ―