AI,IoT時代の問題解決法と人材教育
ー有効なデータ解析の背後にある基本原理ー
独立行政法人統計センター
椿 広計
第28回JUSEパッケージ活用事例シンポジウム

お品書き
• 前菜

• 自己紹介と自組織のデータ駆動型社会における活動• データ解析の曙から機械学習時代までー国内外の活動• 主菜• データ解析に何を期待するのか？
• 科学的データ解析に潜む基本原理• 目的変数・説明変数の選択原理• 説明変数の２つの階層化：分解的階層と因果的階層• 非線形効果と交互作用効果• デザート• 統計的機械学習への途とこれからの人材教育自己紹介と自組織（統計センター）のデータ駆動型社会における活動
職業としての統計家
データ駆動型時代を支える政府統計機関
教育用標準統計データ（SSDSE)の公開

自己紹介：自称古典統計家• 品質マネジメント：1980• 国際標準化：統計的方法の適用• ISO TC 69 ->207-> 176-> 69• Uncertainty of Measurement• Design for Environment• Guide 64• 8 Quality Management Principles• ISO 9000
• Random Variate Generation• ISO 28640:2010• Process based Quality Function Deployment• ISO 16355シリーズ• TQC企業指導: 1987-1997• (公財）日本適合性認定協会監理パネル:•

マネジメントシステム第3者認証制度• (一社）日本品質管理学会• 統計・データの質マネジメント• 品質管理検定の立ち上げ
2018/11/16• 生物統計・環境統計: 1981• 医薬品許認可：中央薬事審議会• 臨床試験統計解析ガイドライン• 新薬第2調査会：循環器領域• 市販後調査ガイドライン：メバロチン• 環境計測: 1982• 国立環境研究所衛星観測チーム•

オゾン層・温暖化ガス• 中央環境審議会大気汚染部会PM2.5環境基準• 公的統計:1990• 統計審議会・統計委員会• 調査技術開発部会・農林水産部会• 匿名データ部会• (独）統計センター• ビジネス科学への統計応用：1997• マーケティング・ファイナンスなどの実証研究支援• 初中等数学・統計教育: 2005• 教育課程部会：小中校算数・数学指導要領

4Hal Varian : Google Chief Analyst
2008/10, McKinsey Quarterly
データを取る能力、データを次の10年間、統計家が最も理解する能力、処理する能力、それらは、次の10年間

セクシーな仕事だとデータから価値を抽出する

とても言い続けたい。

能力、可視化し、大切な技術になる。

人に伝える能力、

これは、専門家レベルのこと

小学生や、中高生、大学生のだけを言っているのではない。

教育についても言える。

2018/11/16

なぜなら、現在私たちが、本質的に無料なユビキタス
データを獲得したからだ。

5

統計家とは？：米国労働統計2017/05
米国では統計家を政府がカウント：2018年から統計家＋数学家として• 求人状況：2017年現在全米で36,540名雇用中，今後10年で33％増加（数学家と込み）と予測，統計家を専門職として定義• 統計的方法を用いてデータを収集・分析し，ビジネス，エンジニアリング，科学分野など
実世界の問題のソリューション提供を支援する

統計家となるための大学・大学院教育課程が成立• 統計か，数学の修士学位が通常必要，
最近のジョブ増加に伴い，学部レベルの職も増加．修士博士修了生は，手法開発やコンサルタントとして自立• 統計学科修了生でも，統計家ではなく，アナリスト（金融アナリスト）やデータサイエンティストと呼ばれる職種につく人もいる．
2018/11/16

6

所属組織：(独)統計センター
旧総理府統計局製表部：租庸調・報• 1871年• 1881年

太政官正院政表課設置（総務省統計局・（独）統計センター前身）
太政官統計院設置の建議と設置：初代院長 大隈重信

• 1885年• 1920年• 1946年• 1947年• 1949年• 1984年• 2003年• 2007年• 2008年• 2009年• 2017年• 2018年

内閣統計局設置
第1回国勢調査実施
標本調査開始（家計調査・労働力調査）：Deming博士らが指導
統計法施行：真実性の追求・総務庁統計局・事業所統計調査開始
総理府統計局製表部
総務庁統計センター，2001年総務省統計センター
独立行政法人統計センター
新統計法施行：統計データは国民の資産：正しい意思決定のため
政府統計共同利用システム運用開始
第1回経済センサス実施
統計改革の開始：エビデンスに基づく政策立案：オンサイト拠点ミクロデータ分析
統計法・統計センター法改正,・2019年施行• 現在ノ国勢ヲ詳明セザレバ政府則チ施政ノ便ヲ失フ• 過去施政ノ結果ヲ鑑照セザレバ政府其政策ノ利弊ヲ知ルニ由ナシ

2018/11/16

7

現状の把握：データの価格破壊• 2018年6月15日閣議決定：未来投資戦略2018• ―「Society 5.0」，「データ駆動型社会への変革」―• AI,ビッグデータ，IoTの社会実装がもたらしたもの• Industry 4.0と呼ばれる産業構造の変革が世界的に進行• ビッグデータ時代？⇒チープデータ時代• 「限界費用ゼロ社会」• Rifkin, J. (2014) The Zero Marginal Cost Society – The Internet of Things andthe Rise of the Sharing Economy, St Martins Pr.
• 柴田裕之訳 (2015) 限界費用ゼロ社会<モノのインターネット>と共有型経済の台頭，NHK出版．

2018/11/16

8

統計改革推進会議最終取りまとめの以下3スライド：内閣
全体構成（イメージ）[内閣官房2017年5月25日] 官房最終とりまとめ
参考資料より抜粋
政
策
・
統
計
の
改
善

EBPMプロセ ス を通じた経済統計の改善

２．GDP統計を軸にした経済統計の改善

１．EBPM（証拠に基づく政策立案）
推進体制の構築（１）基本的な考え方（２）推進の要の整備（３）政策、施策、事務事業の各段階における取組

http://www.kantei.go.jp/jp/singi/toukeik
aikaku/pdf/saishu_s
ankou.pdf（１）GDP統計の体系的整備の全体像（２）より正確な景気判断に資する基礎統計改善、GDP
統計の加工・推計手法改善に向けた取組（３）生産面を中心に見直したGDP統計への整備

経済構造の正確な把握によるEBPMの促進

利活用促進

環
境
・
３．ユーザーの視点に立った統計シス
基盤
テムの再構築と利活用促進（１）各種データを用いた統計的分析の推進の（２）社会全体における統計等データの利活用の促進
整備 2018/11/16

リソース確保４．報告者負担の軽減と統計業務・
統計行政体制の見直し・業務効率化、基盤強化（１）報告者負担の軽減（２）統計業務の見直し・業務効率化及び各種統計の改善（３）統計行政体制の見直し（４）統計改革の推進の基盤強化

9独立行政法人統計センターの取組み• 国勢の基本に関する統計調査の製表• 国又は地方公共団体の委託による統計調査の実施又は製表• 公的統計基盤サービス• 統計利用者向けサービス
・政府統計の総合窓口（統計ポータルサイトの運営）
・公的統計の二次的利用に係るサービス（匿名データ提供、オーダーメード集計）☆統計リテラシー向上に係る取組み → 教育用標準データセット（SSDSE）• 統計作成・提供者向けサービス（オンライン調査システム、事業所母集団データベース）• 統計技術の研究

独立行政法人
統計センター
統計を
つくる・
活かす・
支える
政府中央統計機関の一翼を担うビッグデータ時代の支援活動「統計を活かす」
ミクロデータの研究利活用
オンサイト拠点
試行事業開始2017/01
統計データ利活用
センター2018/04
和歌山市に設置2018/11/16

統計におけるオープンデータの高度化
統計データの提供方法を高度化し、新たな付加価値を創造するサービスや革新的な事業の創出などを支援する取り組みを、総務省統計局と連携し行っており、政府が取り組んでいる
オープンデータの推進を先導。
2014.10.31から運用開始

ＡＰＩ機能による統計データの提供
統計データを機械判読可
能な形式で提供するＡＰ
Ｉ機能（Application
Programming Interface）
を提供中

開発支援情報も提供中
活用例１：利用者の情報シス
テムにe-Statのデータを自動的に反映

利用登録者数 ３１６２人
利用登録者数約1万３千名
統計データへのリクエスト件数
約２２７２万件（平成27年3月26日現在）
APIリクエスト件数：約１億６百万件

活用例２：ユーザー保有やイ
ンターネット上のデータ等と連動させた高度な統計データ
分析

2018年3月31日現在

2015.1.20から運用開始

地図で見る統計（jSTAT MAP）
地図による小地域分析(jSTAT
MAP)
任意に指定したエリアによる集計や利用者が保有するデータの取り込み集計する機能などを提供
利用登録者数 ２３３４人
約４万５千
利用登録者数名
ログイン件数
約２３０００件
ログイン件数：約７６万件（平成27年3月26日現在）
2018年3月31日現在

ユーザー保有のデータ

活用例１：任意に指定したエリアによる集計や、利用者が保有するデータと統計データを組み合
わせ、集計結果を地図上で視覚的に把握可能

タブレット用アプリも提供中

活用例２：選択したエリアの年齢構成等の基本的な分
析結果のレポート作成

116

公的統計の入手と利活用
公的統計を網羅、カスタマイズ• 政府統計の総合窓口（e-Stat）• 政府統計のポータルサイト• 約６００件の統計データ、約１３５万４千件のデータファイルを収録• 各統計別に、地域、項目、時点等を詳細に指定してダウンロード• 統計でみる都道府県・市区町村のすがた（社会・人口統計体系）• 約５０００項目（基礎データ＋指標）× 都道府県
• 約８００項目（基礎データ＋指標）× 市区町村
• 地域、項目、時点等を指定してダウンロード• 教育用標準データセット（SSDSE）
標準化、完備化、
ユニバーサルデザイン（誰でも使いやすい）• １１１項目 × １７４１市区町村• 表形式データを一括ダウンロードし、データを取捨選択して利用教育用標準データセット（SSDSE）

Standardized Statistical Data Set for
Education• 都道府県・市区町村のすがた（社会・人口統計体系）から抽出• 統計センターが2018/06/27 に公開 https://www.nstac.go.jp/SSDSE/• 1741市区町村 × 111項目の表形式データ• 全市区町村（東京23区を含む）：791市, 744町，183村，23区→

単純合計すると全国計に• 生徒誰もがどこかに所属．有名な市町村も多い．

• 111変量抽出：完備データセットに加工（欠測値のないデータセット）• 複数の分野を１つのデータセットでカバー• 人口・世帯，自然環境，経済基盤，行政基盤，教育，文化・スポーツ，居住，健康・医療，福祉・社会保障• 大学データサイエンス教育，Good Practice 共有化への活用• 教育用標準データの量的階層性• 都道府県データ・教室内データ取得（50件規模）：小中学校• 市町村データ，上場企業データ（1500～2500件規模）：高校・大学• 定型的ビッグデータ（数万件規模）：匿名ミクロデータ：大学院• 画像・音声などのビッグデータ

2018/06/27 統計局・統計センターSSDSE
Standardized Statistical Data Set for Education
https://www.nstac.go.jp/SSDSE/• 都道府県・市町村のすがた（社会・人口統計体系）• 全市区町村（東京23区を含む）：1741自治体• 791市, 744町，183村，23区• 生徒誰もがどこかに所属．有名な市町村も多い．

• 111変量抽出：完備データセットに加工• 人口・世帯，自然環境，経済基盤，行政基盤，教育• 文化・スポーツ，居住，健康・医療，福祉・社会保障• 大学データサイエンス教育，Good Practice 共有化への活用• 教育用標準データの量的階層性• 都道府県データ・教室内データ取得（50件規模）：小中学校• 市町村データ，上場企業データ（1500～2500件規模）：高校・大学• 定型的ビッグデータ（数万件規模）：匿名ミクロデータ：大学院• 画像・音声などのビッグデータ

変数一覧：人口・世帯・事業所[0]人口総数 [1] "人口総数男""人口総数女""日本人人口""日本人人口男"[5] "日本人人口女""１５歳未満人口""１５歳未満人口男""１５歳未満人口女"[9] "１５から６４歳人口""１５から６４歳人口男""１５から６４歳人口女""６５歳以上人口"[13] "６５歳以上人口男""６５歳以上人口女""７５歳以上人口""７５歳以上人口男"[17] "７５歳以上人口女""外国人人口""出生数""死亡数"[21] "転入者数""転出者数""世帯数""一般世帯数"[25] "一般世帯人員数""核家族世帯数""単独世帯数""６５歳以上の世帯員のいる核家族世帯数"[29] "高齢夫婦のみの世帯数""高齢単身世帯数６５歳以上の者１人""婚姻件数""離婚件数"[33] "総面積北方地域及び竹島を除く""可住地面積""事業所総数""事業所数農業林業"[37] "事業所数建設業""事業所数製造業""事業所数電気ガス熱供給水道業""事業所数情報通信業"[41] "事業所数運輸業郵便業""事業所数卸売業小売業""事業所数金融業保険業""事業所数不動産業物品賃貸業"[45] "事業所数学術研究専門技術サービス業" "事業所数宿泊業飲食サービス業""事業所数生活関連サービス業娯楽業""事業所数教育学習支援業"[49] "事業所数医療福祉""事業所数複合サービス事業""事業所数サービス業他に分類されないもの""事業所数公務他に分類されるものを除く"

変数一覧続き：事業所，従業員，財政，施設[53] "第１次産業事業所数""第２次産業事業所数""第３次産業事業所数""従業者総数"[57] "従業者数農業林業""従業者数建設業""従業者数製造業""従業者数電気ガス熱供給水道業"[61] "従業者数情報通信業""従業者数運輸業郵便業""従業者数卸売業小売業""従業者数金融業保険業"[65] "従業者数不動産業物品賃貸業""従業者数学術研究専門技術サービス業""従業者数宿泊業飲食サービス業""従業者数生活関連サービス業娯楽業"[69] "従業者数教育学習支援業""従業者数医療福祉""従業者数複合サービス事業""従業者数サービス業他に分類されないもの"[73] "従業者数公務他に分類されるものを除く" "第１次産業従業者数""第２次産業従業者数""第３次産業従業者数"[77] "経常収支比率市町村財政" "実質公債費比率市町村財政""歳入決算総額市町村財政""地方税市町村財政"[81] "歳出決算総額市町村財政""民生費市町村財政""土木費市町村財政""教育費市町村財政"[85] "災害復旧費市町村財政""幼稚園数""幼稚園在園者数""小学校数"[89] "小学校教員数""小学校児童数""中学校数""中学校教員数"[93] "中学校生徒数""高等学校数""高等学校生徒数""公民館数"[97] "図書館数""総人口非水洗化人口.水洗化人口""非水洗化人口""小売店数"[101] "飲食店数""大型小売店数""一般病院数""一般診療所数"[105] "歯科診療所数""医師数""歯科医師数""薬剤師数"[109] "保育所等数""保育所等在所児数"

例えば人口関係の統計について，散布図を描くと次のようになります

2018/11/16

17

SSDSEによるGood Modelling Practicesの知の全国共有• 第1回統計データ分析コンペティション• 次代を担う高校生・大学生等の統計リテラシーを向上• 主催：総務省，(独)統計センター，(一社)日本統計協会• 後援：国立研究開発法人科学技術振興機構，
一般社団法人日本統計学会，全国統計教育研究協議会• 受賞論文の決定・発表：2018年10月18日（統計の日）• 高校生の部総務大臣賞• 大段利々子(広島大学附属高等学校)• 本当に日本の医療は危機的状況にあるのか？

• 大学生・一般の部総務大臣賞：私の分析例よりずっと力作ぞろいです！
• 平原幸輝（早稲田大学人間学部人間環境学科）• 地方創生における三つの「鍵」

2018/11/16

18

2018/11/16

19

2018/11/16

20

データ解析の曙から
機械学習時代まで
データ解析の登場
日科技連多変量解析研究会
統計的機械学習の時代へ

Tukeyとデータ解析
Future of Data Analysis & EDA• データ解析誕生• Tukey, 1962

• 裁判官の立場の推測統計• 仮説検証型統計推測• 刑事の立場のデータ解析• Tukey, 1977

• Bell 研究所の指導• C言語からS言語へ• データ解析環境

http://stat-graphics.org/movies/prim9.html

日本の産業界でのデータ解析の曙
奥野・久米・芳賀・吉沢(1971)「多変量解析法」• MA研• 日本科学技術連盟• 奥野忠一・芳賀敏郎・吉澤正• 産学若手が集うデータ解析道場• 多変量解析事例集• データ解析の知の共有• データの共有• 芳賀の対話的データ解析• 多変量解析ソフトウェア• 日科技研：JUSE-MA

芳賀敏郎記録集より
http://haga.sakura.ne.jp/

モデリングから統計的機械学習（AI）
回帰予測問題を中心に
統計モデル接近
2段階接近：現象解釈⇒予測

統計的機械学習とブラックボックス接近
一段階接近：予測損失関数最適化• モデリング戦略• 探索的データ解析• Shewhart:統計的管理戦略：系統変動＋偶然変動•

外れ値要因探索：系統変動の発見• 田口：系統変動の分類（制御因子と標示因子）• 系統変動の偶然変動化：確率分布課程の正当化••

Fisher/・Neyman:無作為観測（割付・抽出）
田口：偶然変動をSimulate（ノイズ因子）• 正規・線形モデルの拡張• 系統変動モデルの拡張••••

非線形性モデル：メカニズム情報の考慮、変数変換•

ノンパラメトリックモデル：探索的変換

連立方程式モデル：因果情報の考慮
潜在変数モデル：観測されていない原因系の考慮
平均値以外のモデル：バラつきのモデル、順位のモ
デル• 偶然変動モデルの拡張••

分散関数導入：確率変数の平均と分散との関係
誤差の階層性• ロバスト統計• データマイニング：データからの知識発見• 非ブラックボックス：第2世代人工知能•

CART,推論エンジン⇔樹形モデル• 第3世代人工知能• 統計的機械学習の数理統計的戦略
•
•
•
•
•

強化学習・敵対的学習⇔逐次実験計画
ブースティング：推定量の統合•

Random Forest

正則化⇔ベイズモデルと縮小推定
カーネルトリック⇔計量的多次元尺度構成•

サポートベクターマシン

深層学習⇔非線形多層潜在因子モデル•

多層ニューラルネットワーク

データ解析に何を期待するのか？
目的の分類：発見・分析・最適化
モデリング（分析機能）のプロセス

デミング・石川モデルのSHINKAの方向性
データサイエンスによる問題解決
モニタリング機能

利用プロセスリアルタイム可視化Do

問題発見機能Check ビッグデータによる問題発見加速
平均値予測よりも外れ値発見

あるべき姿と実際とのずれ問題提起

仮説提示

What, Who,

PDCAサイクル

When, Where,

顧客接点もプロセス管理対象➡顧客対応工程が価値の源泉
サービス科学

How

Plan
最適実装
2018/11/16

Data Consolidation
技術の活用
計るべきものをどう自動結合するか

Action ＝

QCストーリー自動改善（調整）システム
システム改善は人間の役割
自律改革は人の役割
目的の追加，制約の強化

数値実験計画（直接関係ないがデータの原価低減）

情報収集➡
情報創成

対策立案

最適数理計画機能
多目的制約付き最適化＋実装効果確認の予測

量的調査計画
最適実験計画分析

モデリング機能因果モデルの機械学習
26
シミュレーションによる予測

データサイエンス（実は技術）対 統計科学
Breimanの認識• 技術：予測パフォーマンスに対する最適化ならば外注可能性が高い• 統計的方法の技術利用＝統計的機械学習（AI）の優位性は顕著• 予測・制御・決定の一段階最適化• 意図的にブラックボックス化された機械学習方式？？

• 科学＝解釈：データ取得計画に基づくモデリングと現象理解の意義• 2段階接近：モデル化（メカニズム理解）の後の最適化（メカニズム利用）• 技術モデルのデータ同化• 法則（構造）と誤差（測定方法＋測定環境）の記述• いざとなったら最適実験計画（日本のお家芸としてMITからかつて注目）• 少数データでビッグデータと同等の情報量確保➡ビッグ情報量• 集まるデータ（価格破壊進行中）だけでは本質的に因果分析は不可能• 集めるデータ＋実験的介入でこそ因果関係を読み切らなければならない場合• 確実に社内エキスパートの役割

設計科学の文法に組み込まれる
Cox & DonnelyのIdeal Process• Shewhartの問題発見• 外れ値の発見と要因分析• 本質的な外れ値とデータ分析の未熟さによる外れ値• 分析のプロセス• 研究すべき問題，仮説の定式化• 関連するデータの探索と適切なデータを採取する研究の計画と実施• データ解析• 適切な意思決定に繋がる結果の解釈• 最適化• 前工程の分析結果が最適化に寄与しやすい出力か？
• 応答曲面法（2次形式の最大化）

Explanatory Analysis：モデルビルディング（椿,筑波大多変量解析第１講義資料2001）• 現象のメカニズム推論の意義• 統計科学へ：Fisherの科学的推論への回帰• 統計により、与えられる付加価値とは、現象に対するより定量的な理解• データの変動を「説明」するモデルを当てはめ、作業仮説を成長させよ！
• モデルの要素として以下が有ることを認識せよ• 構造： 普遍的構造部分• 測定： 技術的限界が突破されれば変動しうる構造• 標示： 採取したデータに特有の構造• 標示･測定部分に含まれる母数は、モデル利用の場に応じて再チューニングせよ• 一般化（外挿）可能性への挑戦こそ、モデル思考の意義

科学的データ解析に潜む基本原理
目的変数・説明変数の選択原理
説明変数の２つの階層化：分解的階層と因果的階層
非線形効果と交互作用効果

統計的問題（解析目的）とその分解
目的変数（結果変数）の選択• 統計的問題• 入力が不適切で狙いからずれる• 入出力関係を使って出力を調整• そもそも出力データがばらつき，• 許容範囲に入らない• バラつきの原因を探る• 統計的問題解決• 原因に対して対処

2018/11/16• 目的（問題）の分解• 利益が少ない• 利益＝売上ーコスト• 売上＝コスト×（売上/コスト）• コスト削減問題• コストの割に売り上げが出ない• 出生数が少ない• 高齢化，未婚化，少子化• 出生数＝人口×（出生可能年齢者数/人口）×
婚姻件数/出生可能年齢者数×出生数/婚姻件数

31

SSDSEから20変数抽出
分析戦略立案：仮説的因果階層化• 第0階層：人口総数• 第1階層：自治体の現状変数（率）• 人口特性：１５から６４歳人口(労働力人口) , 世帯数• 経済特性: 第１次産業事業所数, 第２次産業事業所数, 第３次産業事業所数• 第2階層：自治体の資金特性（率）• 収入：歳入決算総額市町村財政• 支出：民生費市町村財政 ,土木費市町村財政,

教育費市町村財政• 第3階層：自治体内の施設オペレーション•

高等学校数, 図書館数, 非水洗化人口 , 公民館数, 一般病院数• 第4階層：自治体の第1次パフォーマンス：転入者数,転出者数 , 死亡数• 第5階層：自治体の第2次パフォーマンス（率） ：婚姻件数• 第6階層：第3次パフォーマンス（率） ： 出生数

主要な説明変数の選択：Efficiencyの分析
人口総数, 婚姻件数
• 第0階層：人口総数• 第一階層から第5階層変数を人口総数で割り、人口当たり変数化• 人口0あるいは労働力人口0の自治体は除外• 福島第一原発周辺自治体• 人口0: 富岡町、大熊町、双葉町、浪江町• 労働力人口0:飯館村• 歳入0:福島県葛尾村• 近似的に比例関係にあることを前提• 御用とお急ぎ向き：統計的機械学習利用の際には有力• 出生数は、婚姻件数当たり変数加工• 直近婚姻件数が0の東京都御蔵島村は• 第5階層：自治体の第2次パフォーマンス：婚姻件数• 第6階層：第3次パフォーマンス： 出生数• 人口総数で基準化せず、比例関係を微修正する戦略も有力

20変数の平方根変換
多変量連関図回帰分析と残差分散の均一性仮定
主要な説明変数(信号因子)を知っているからこそ

100

出生数

sqrt(出生数)

15000

10

50

10000
0

5000

10000

婚姻件数

15000

1

0

5000
0

出生数

100

1000

20000

25000

150

10000

30000

婚姻件数と出生数の散布図：原変数・両平方根・両対数

0

20

40

60

80

100

120

140

1

10

sqrt( 婚姻件数)

両平方根変換⇒等分散性⇒出生件数が擬似ポアソン変数
分散が平均に比例する
品質工学のSN比の2段階設計が上手くゆくための要件でもある
以後kan簡単のため、効率性指標も全て平方根変換

100

婚姻件数

1000

10000

仮説的因果構造に対する飽和モデルからの変数減少戦略：古典的Simon Blaylock戦略

自身より因果下流の観測変数に全て影響□：観測変数〇：回帰誤差残差

同一階層変数の残差には共分散許容修正飽和モデル戦略：変数直交化
第0層と各層偏残差の主成分回帰

自身より因果下流の観測変数に全て影響□：観測変数〇：回帰誤差(残差)△：各階層残差の主成分得点△の変数は全て直交：直交実験計画と同様の性質

同一階層変数の残差には共分散許容第0層（人口）⇒第1層（労働人口率、事業所率）• 人口総数と目的変数との標準偏回帰係数
目的変数

標準偏回帰係数

労働人口率• 残差の主成分負荷量
第1
第2
第3
第4
第5
主成分 主成分 主成分 主成分 主成分
0.656

0.304

-0.367

0.583

0.056

0.491

労働
人口率

世帯率

0.177

世帯率 -0.571

0.714-0.179 -0.137

0.336

第1次産業事業所率-0.481

0.622

0.481

0.074

第2次産業事業所率-0.364

第1次 -0.612 -0.032
事業所

第3次産業事業所率-0.186

第2次 -0.453 -0.706 -0.458
事業所

0.123

0.268

第3次 -0.800
事業所

0.137

-0.4030.164-0.390因果上層からの回帰残差主成分負荷量
第2層：自治体の歳出入

第3層：自治体内の施設

第1
主成分

第2
主成分

第3
主成分

第4
主成分

-0.9560.039-0.1430.253

民生費率 -0.626-0.691

0.355-0.059土木比率 -0.830

0.055-0.522-0.187

教育費率 -0.659

0.531

0.527

-0.076

歳入率

第1
第2
第3
第4
第5
主成分 主成分 主成分 主成分 主成分
高校
率-0.6990.024-0.291-0.2020.620

図書館 -0.196
率-0.880-0.021

0.431

0.031

非水洗 -0.580
人口率

0.482

-0.1090.613-0.209

公民館
率

0.253

-0.052-0.946-0.039-0.192

一般-0.698
病院率-0.1970.044-0.442-0.527

主成分回帰

出生率の回帰分析結果
標準偏回帰係数（相関係数）

第4層：転出・転入・死亡率

婚姻率

出生率

人口総数

0.287***-0.066***

PCA11-0.0180.187***

PCA12

0.304***-0.052**

PCA13-0.279***0.148***

PCA14

0.183***

0.022

PCA15

0.050**-0.124***

PCA21-0.117***-0.047*PCA22-0.044*

0.030

PCA23

-0.045*0.042*

第１
主成分

第2
主成分

第3
主成分

転入率

-0.903

0.035

0.365

PCA24

-0.0280.030

転出率-0.9150.184-0.359PCA31-0.008

0.006

死亡率

0.206

0.977

0.055

PCA32

-0.056**-0.018PCA33-0.032

0.032

PCA34

0.028

0.011

PCA35

-0.037-0.032

PCA41-0.213***-0.096***PCA42

0.054**-0.081***PCA43

0.077***

0.054**

婚姻率残差

---

-0.494***

寄与率

0.368

0.351

チャンス発見は残差から

-1.5

-1.0

-0.5

0.0

0.5

1.0

1.5

出生率
出生件数/婚姻件数の平方根
残差ボックスプロット

残差ベスト10
都道府県

市町村

人口

婚姻率

出生件数/
婚姻件数

北海道

島牧村

1499

0.0013

10.0

福島県

楢葉町

975

0.0391

1.9

宮崎県

諸塚村

1739

0.0024

6.5

宮崎県

五ヶ瀬町

3887

0.0016

7.7

島根県

海士町

2353

0.0034

5.0

北海道

黒松内町

3082

0.0025

5.3

山梨県

鳴沢村

2921

0.0030

5.0

北海道

北竜町

1981

0.0032

4.7

奈良県

野迫川村

449

0.0047

3 .0

和歌山県

北山村

446

0.01521.7

階層化原理：群間変動と群内変動
奥野・芳賀分割型回帰orマルチレベルモデ～階層ベイズモデル• 機械学習のための入力変数？
• 都道府県と市区町村• 労働力人口率の予測
係数

標準
誤差

Ｔ値

P値

• 都道府県層別• 都市部・山間部層別等• 説明変数の分解：

切片

0.710

0.002

351.5

0.00

• 都道府県平均値＋（原説明変数-都道府県平均値）

県平均
人口

1.841
E-04

0.092
E-04

20.0

0.00

• 2変数を説明変数に投入！

県平均
からの
残差

7.663
E-05

0.447
E-05

17.2

0.00

• 2変数とも有意となることが殆ど• 労働力人口率• 人口規模の効果• 第1次、第2次、第3次事業所率• どちらの変数も負で有意• 人口規模により効果低減

非線形性と交互作用への20世紀末の対処原理
一般化加法モデル（GAM, MARS)：平滑化原理-1ses(RH11,r婚姻率,14.14)

+1se

-0.6
-0.8

0.04

-0.4

-0.4

-0.6

-0.6

-0.4

0.02

-0.2

-0.2

-0.2

4

-0.2

0

-0.2
0

0.2

-0.02

0

0.2
0.2

0

0.2

-0.04

0.4

0.
4

r婚姻率

0.00

.
-0

-10

-8

-6

-4

0.4

-2
RH11

0

2

非線形項導入は統計的に有意回帰曲面をスプライン関数で近似
RH11の効果か？
交互作用は有意でない

Projection Pursuit Regression：射影(尺度）追跡
第1尺度

第2尺度

第3尺度

第4尺度

人口総数

0. 000

0.000

0.000

0.000

PCA11

0.003

-0.0050.232-0.027PCA12-0.0040.014-0.016-0.076

PCA13

0.000

0.000

-0.230-0.001

PCA14-0.0020.012-0.250-0.026

PCA15

0.000

-0.0090.389-0.021

PCA21

0.002

-0.009-0.022-0.018

PCA22

0.001

-0.023-0.016-0.082

PCA23

0.001

0.008

0.011

0.077

PCA24

0.002

-0.005-0.118-0.073

PCA31

0.000

0.005

-0.094

0.058

PCA32

0.000

-0.007

0.177

0.090

PCA33

0.001

-0.002-0.049

0.027

PCA34

0.002

-0.020

0.244

0.013

PCA35

0.000

0.003

-0.278-0.002

PCA41

0.000

-0.010

0.054

0/003

PCA42

-0.003-0.0040.371-0.128PCA43-0.0020.034-0.498-0.003

婚姻率残差-1.000-0.999

0.347

0.972

係数

0.127

0.062

0.047

0.049

変化点と非線形性の同時抽出
3層ニューラルネットを含むモデル

統計的機械学習への途とこれからの人材教育ビッグデータと統計的機械学習の誤解• AI＝Machine Learningは画期的な予測理論？：No• 予測に用いる統計的機械学習➡回帰分析・層別分析の自動化(自動的学習)••••

回帰予測とは何か？➡予測に用いる情報を与えたときの被予測情報の条件付平均値予測
良い層別とは何か？➡群内のばらつきを最小化
最適意思決定とは何か➡損失関数を平均的に最小化
機械学習が採用している幾つかの原理とは何か？➡単純だが利用者が意識すべき• ビッグデータからNowcastや行動の可視化は完璧に近づく：Yes• 既存ビッグデータからの将来予測や行動選択は完璧に近づく：No• どんなモデルを用いても将来の不確かさを超えた予測は不可能• 行動とその結果の評価モデル（損失関数・価値関数）が存在する場合• 既存ビッグデータではなく自律的実験データを創造的に大量生成・分析することで• 行動選択は既存の最適行動を上回るパフォーマンスとなる；Yes• 強化学習：人工知能が自律的にPDCAサイクルを回すことができれば• 革新的技術が生まれる可能性⇒数値シミュレーション＋品質工学（制御因子vs敵対的因子）• 敵対的学習

機械学習の幾つかの主要原理
なぜ機械はデータで賢くなるのかを認識すべき〇任意関数自動近似技法• 多項式型回帰（応答局面法）➡ニューラルネットワーク系統計的機械学習• Huberの射影追跡＋不連続分布と連続分布同時近似可能な非線形関数• ボルツマンマシン：温度パラメータが高ければステップ関数（異質性自動分類）も近似可能• 変数間交互作用の消去と非線形主効果（層別）の合わせ技で任意関数近似：4XY = (X+Y)2 - (X-Y)2• 古典的データ分析戦略の進化をニューラルネット系AIは概ね反映：ただしブラックボックス化• 特性値を上手に選択せよ：因子モデル，PLS➡合成指標の最適探索• 層別を上手く行え：潜在クラスモデル➡層別境界の自動探索〇近似関数の単純化（パラメータ節約）• 高次因子モデル➡深層学習：階層化による単純構造での近似• 合成指標による予測方式自体の階層的クラスター表現：実はパラメータ数節約している（そうは思われていない）

• 第4ユニット• 温度最大• 時代変化表現

人工知能のある中間層は、
1980年代後半に水道利用量計測で起きていたことを予測損失最小化するために自動的に学習浅野・椿(2002)：応用統計学会誌
3層ニューラルネット回帰可視化（シグモイド分解）

正則化あるいはベイズモデル戦略〇モデル選択➡
正則化＝ベイズモデル事前分布の• 許容性のあるベイズ決定の中でパフォーマンス最適化

最適化〇逆問題（制御問題）の正則化への注意• 非予測トレーニングデータの平均・分散を予測に用いるのか？
• 田口T法，ナイーブベイズを見直すべき

予測値を束ねる戦略〇複数単純予測値の情報量按分最適結合• 個人の知より集団の知• Bartlettの因子得点推定，田口玄一(品質工学)のT法が基本原理• ➡Bugging, Random Forest〇予測誤差を改善する予測ロジックの追加戦術• 回帰分析改善のPDCAサイクルを回している• 回帰診断や田口玄一の実験的回帰分析➡Buggting

Table 1 Industry classes for the dataset classification（独）統計センター時計技術研究課
家計調査消費項目600分類への活用想定
機械学習研究Industry Class

Securities Classification
Code

Number of Companies

Construction

2050

177

Foods

3050

119

Textiles and Apparels

3100

98

例：単純な 産業21分類教師付き学習

Pulp and Paper

3150

31

Chemicals

3200

157

2値特徴量：(財務変数＋層別基準)をそろえて1996年上場企業産業分類

Pharmaceutical

3250

43

Glass and Ceramic

3400

57

Iron and Steel

3450

58

仮説：産業分類が財務情報に影響
逆問題：T法を離散データに拡張
ミニマックス的・ナイーブベイズ

Non-ferrous Metals

3500

40

Metal Products

3550

70

Machinery

3600

192

Electric Appliances

3650

203

単純な順問題型予測
多項ロジットモデル
3層ニューラルネット

Transportation Equipment

3700

103

Precision Instruments

3750

29

Other Products

3800

67

Land Transportation

5050

51

Warehousing and Harbor Transportation

5200

37

Whole Sale Trade

6050

181

Retail Sale Trade

6100

149

Services

8050

37

計算機環境☆パフォーマンス
最適予測探索に

その他のアイデア

資する計算機パワー
モデル選択➡価値関数

超高次元内での分類・クロスバリデーション

回帰の効率化

評価などの• カーネルトリック

自動最適化（Support Vector Machine）

階層性を意識したデータサイエンス教育
ベンチマーク用
ブラックボックス

初級者用

中級者用

上級者用

• 入力制約が少ない，• 入力に加工を行い，• メカニズム解釈を• 出力システム理解可• 出力システム理解可• 中程度の予測精度• 中程度の予測精度含むモデルで高精度予測

システムは分からないが，ベストパフォーマ• 技術者が統計家との協働で作る非線形

ンス• Classification and• 交互作用やRegression Tree：

非線形性を考慮• 自動層別技法• セミパラメトリック
回帰モデル• 品質管理の基本• 散布図に線を引く• 通常の回帰モデル• 散布図に式を適合• 射影追跡回帰

パラメトリック
予測モデル• 一般化可能• 技術知識の獲得• 入力制約が少ない，• Random Forest• 深層学習• ブラックボックス• チューニング大変

ご清聴ありがとうございました
データ・サイエンス時代でも人間はより賢くなるものと信じます
そのためにも良いデータ分析事例を社会共有することが大切です
日科技研のその種の活動が発展することを期待します。
別件ですが政府統計へもご協力よろしくお願い申し上げます本著作物は原著作者の許可を得て，株式会社⽇本科学技術研修所（以下弊社）が掲載し弊社）が掲載しています．本著作物の著作権については，制作した原著
ます 本著作物 著作権
は 制作した 著
作者に帰属します．
原著作者および弊社の許可なく営利・⾮営利・イントラネットを問わず，本著作物の複製・転⽤・販売等を禁⽌します．
所属および役職等は，公開当時のものです．
■公開資料ページ
弊社
弊社ウェブページで各種資料をご覧いただけますブ
ジ 各 資料 ご覧だhhttp://www.i-juse.co.jp/statistics/jirei/
//
/
/
/

■お問い合わせ先(株)⽇科技研 数理事業部 パッケージサポート係

http:/www.i-juse.co.jp/statistics/support/contact.html