数理統計学の性質と AI の限界—オープンソースカンファレンス 2024 Kyoto—
たいらようじ

2024-07-27

目次
自己紹介
現代の AI
数理統計学
数理統計学の性質
余談
AI の限界日本の仕組みAI の問題点
AI の活用
個人情報の問題
著作権の問題AI と人判断方法
問題点
総括
AI との関わり方
法律
今後の展望

自己紹介

発表者
たいらようじ

経歴

大学院修了 ( 修士 (理学) )。専門は代数幾何。
企業にてコンピュータの管理業務に従事。
高校で数学教員。
起業。

現代の AIAI の構成AI = アルゴリズム + データ
アルゴリズム 数理統計学などを利用しデータを処理
データ AI の学習に利用

AI の違いアルゴリズムとデータの 2 つにより AI が決まる

数理統計学
数理統計学とは記述統計 集めたデータの集団の性質などを調べる
推測統計 調べたい集団 (母集団) から標本として一部を取り出し、標本を調べることで元の集団を推測する

数理統計学
数理統計学とは記述統計 集めたデータの集団の性質などを調べる
推測統計 調べたい集団 (母集団) から標本として一部を取り出し、標本を調べることで元の集団を推測する

I 推測統計は記述統計を基礎とし、確率論を用いて推測を行う
I 推測統計が数理統計学の主たる部分である
I 記述統計については 2012 年度高校入学生より必履修となっている

数理統計学
数理統計学とは記述統計 集めたデータの集団の性質などを調べる
推測統計 調べたい集団 (母集団) から標本として一部を取り出し、標本を調べることで元の集団を推測する

I 推測統計は記述統計を基礎とし、確率論を用いて推測を行う
I 推測統計が数理統計学の主たる部分である
I 記述統計については 2012 年度高校入学生より必履修となっている

数理統計学
数理統計学とは記述統計 集めたデータの集団の性質などを調べる
推測統計 調べたい集団 (母集団) から標本として一部を取り出し、標本を調べることで元の集団を推測する

I 推測統計は記述統計を基礎とし、確率論を用いて推測を行う
I 推測統計が数理統計学の主たる部分である
I 記述統計については 2012 年度高校入学生より必履修となっている

標本と母集団母集団から n 個 (Xi ) 抽出する
平均母集団 (青) に対し、
n1Xその一部分である標本 (オレンジ)X̄ =Xin i=1

標本と母集団母集団から n 個 (Xi ) 抽出する平均
母集団 (青) に対し、
n
1Xその一部分である標本 (オレンジ)
X̄ =
Xi
n i=1
分散

n

1X
X̄ =
(Xi − X̄ )2n i=1
不偏分散

X̄ =

n
1 X
(Xi − X̄ )2
n − 1 i=1

回帰分析
気温とコーヒー売上

気温 (x)
杯数 (y)

5 748 63

8 15 1980 96 73

23 27 28 2598 130 114 83

2081

回帰分析
気温とコーヒー売上

5 748 63

8 15 1980 96 73

2081

100

ある喫茶店のアイスコーヒーの売上と気温の回帰直線

23 27 28 2598 130 114 83

120

気温 (x)
杯数 (y)

6080

y = 2.2349x + 47.0419

510152025

数理統計学の性質

重要な事実
数理統計学は因果関係を示さない

数理統計学の性質

重要な事実
数理統計学は因果関係を示さない

I 標本から得られる統計量から母集団の推測を行う
I 標本から得られる推測は標本が最もよく当てはまる性質から得ている
I 多数決のような方法で推測をしている為、イレギュラーを除いた中庸な結果が得られる

数理統計学の性質

重要な事実
数理統計学は因果関係を示さない

I 標本から得られる統計量から母集団の推測を行う
I 標本から得られる推測は標本が最もよく当てはまる性質から得ている
I 多数決のような方法で推測をしている為、イレギュラーを除いた中庸な結果が得られる

数理統計学の性質

重要な事実
数理統計学は因果関係を示さない

I 標本から得られる統計量から母集団の推測を行う
I 標本から得られる推測は標本が最もよく当てはまる性質から得ている
I 多数決のような方法で推測をしている為、イレギュラーを除いた中庸な結果が得られる

余談
帰納と演繹

統計と数学
「数理統計学は帰納」、「数学は演繹」である
帰納 個々の具体的な事例から一般に通用するような原理・法則などを導き出すこと
演繹 与えられた命題から、論理的形式に頼って推論を重ね、結論を導き出すこと
数学的帰納法とは帰納に似ている方法で行う演繹法のこと。

余談
帰納と演繹

統計と数学
「数理統計学は帰納」、「数学は演繹」である
帰納 個々の具体的な事例から一般に通用するような原理・法則などを導き出すこと
演繹 与えられた命題から、論理的形式に頼って推論を重ね、結論を導き出すこと
数学的帰納法とは帰納に似ている方法で行う演繹法のこと。

AI の限界AI の構成AI = アルゴリズム + データ
I アルゴリズム は、数理統計学 等を利用したデータ処理方法
I データ は、標本AI の性質
I 出力は確率的に起こりにくいものが除かれる
I データから得られる多数決のような結果 (近い値) を返す
I 学習データをどれほどうまく集めても必ず正しい答えを返す AI になるわ
けではないAI の限界AI の構成AI = アルゴリズム + データ
I アルゴリズム は、数理統計学 等を利用したデータ処理方法
I データ は、標本AI の性質
I 出力は確率的に起こりにくいものが除かれる
I データから得られる多数決のような結果 (近い値) を返す
I 学習データをどれほどうまく集めても必ず正しい答えを返す AI になるわ
けではないAI の限界AI の構成AI = アルゴリズム + データ
I アルゴリズム は、数理統計学 等を利用したデータ処理方法
I データ は、標本

AI の性質I 出力は確率的に起こりにくいものが除かれる
I データから得られる多数決のような結果 (近い値) を返す
I 学習データをどれほどうまく集めても必ず正しい答えを返す AI になるわ
けではないAI の限界
天動説と地動説

AI の出力は標本に多数ある似通ったデータに引きずられた結果となる

AI の限界
天動説と地動説

AI の出力は標本に多数ある似通ったデータに引きずられた結果となる

天動説と地動説
コペルニクス以前にデータを収集すればAI は天動説が正しいという結果を示し、以後であれば地動説が正しいという結果を示す

AI の限界
天動説と地動説

AI の出力は標本に多数ある似通ったデータに引きずられた結果となる

天動説と地動説
コペルニクス以前にデータを収集すればAI は天動説が正しいという結果を示し、以後であれば地動説が正しいという結果を示す

AI は多数決に似たような処理であるので多数決で決定してよい状況で利用するのに適しているAI の限界
2 つの分布

学習データが異なる分布のデータが混じっている場合、意図しない結果が得られる可能性がある

AI の限界
2 つの分布

学習データが異なる分布のデータが混じっている場合、意図しない結果が得られる可能性がある

雌雄の差ある魚の平均体長を求めるとき、雌雄で大きく体長の異なるなら求めた平均体長の個体は存在しない可能性がある。

=⇒

AI の限界近い値

AI により求めた値が欲しかったものと少々異なっても良い場合は AI を用いても影響は少ない

AI の限界近い値

AI により求めた値が欲しかったものと少々異なっても良い場合は AI を用いても影響は少ない

誤差の許容「2 + 3」の結果を AI に答えさせた時、2 + 3 = 4 より 2 + 3 = 4.99 とする答えが良い結果であるとする場合は AI を使うメリットが有る
2 + 3 = 5 以外の答えには意味がない場合は AI を使うメリットは無い

日本の仕組み日本
民主主義 一人ひとりが権利 (社会権、自由権) をもつ政治の形態
社会権のほうが自由権より強い資本主義 資本 (お金) を自由に稼ぐことが出来る経済の形態

日本の仕組み日本
民主主義 一人ひとりが権利 (社会権、自由権) をもつ政治の形態
社会権のほうが自由権より強い資本主義 資本 (お金) を自由に稼ぐことが出来る経済の形態

多数決について多数決は資本主義の決定方法であり民主主義の決定方法ではない
民主主義の理想的な決定方法は全会一致であり、少数の意見が切り捨てられるのは民主主義に反する

AI の問題点
AI の活用AI の利用場面
I 資本主義の決定方法が利用可能なとき AI は大きな力を発揮する
I 人の権利にかかわるような場合や民主主義の決定方法が必要な場面ではAI に判断を委ねてはいけない

AI の問題点
AI の活用AI の利用場面
I 資本主義の決定方法が利用可能なとき AI は大きな力を発揮する
I 人の権利にかかわるような場合や民主主義の決定方法が必要な場面ではAI に判断を委ねてはいけない

AI の問題点
AI の活用AI の利用場面
I 資本主義の決定方法が利用可能なとき AI は大きな力を発揮する
I 人の権利にかかわるような場合や民主主義の決定方法が必要な場面ではAI に判断を委ねてはいけない

リクナビ事件 (2019 年)

学生の情報を収集し内定辞退率を AI にて算出し企業へ販売
個人情報保護委員会、厚労省等により指導勧告

AI の問題点
AI の活用AI の利用場面
I 資本主義の決定方法が利用可能なとき AI は大きな力を発揮する
I 人の権利にかかわるような場合や民主主義の決定方法が必要な場面ではAI に判断を委ねてはいけない

リクナビ事件 (2019 年)

学生の情報を収集し内定辞退率を AI にて算出し企業へ販売
個人情報保護委員会、厚労省等により指導勧告

三重県女児虐待死事件 (2023 年)

児童相談所に AI を活用したシステム導入
システムの判定が 39%であった為、一時保護を見送り

AI の問題点
個人情報の問題

学習データに集める標本

I 個人情報の収集方法
同意の有無や利用方法の説明
I 個人データの管理
漏洩や外部への提供への制限等
I 個人情報保護法
第一条(略) 個人の権利利益を保護することを目的とする

AI の問題点
著作権の問題AI は学習データから出力結果を得ている
学習データが著作権を持つものを含んでいる場合、出力結果も元の著作権が含まれる可能性がある

著作権法

第二条 第 1 項 第一号
著作物 思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものをいう。
..........................................................................................
第三十条の四著作物は、次に掲げる場合 (略) 利用することができる。
一 著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
二 情報解析（略）の用に供する場合
三 (略) 当該著作物を電子計算機による情報処理の過程における利用その他の利用（略）に供する場合

AI と人判断方法

人間が判断を行うときの材料
1. 感情的 (感情や本能、欲求など)
2. 統計的 (過去の体験や他人の意見など)
3. 論理的上記の 3 つを複合的に利用している

AI と人判断方法

人間が判断を行うときの材料
1. 感情的 (感情や本能、欲求など)
2. 統計的 (過去の体験や他人の意見など)
3. 論理的上記の 3 つを複合的に利用している

AI の判断方法

AI は 2 統計的な判断を行う
3 論理的な判断 は数理統計学を利用した AI では実現不可能

AI と人判断方法

人間が判断を行うときの材料
1. 感情的 (感情や本能、欲求など)
2. 統計的 (過去の体験や他人の意見など)
3. 論理的上記の 3 つを複合的に利用している

AI の判断方法

AI は 2 統計的な判断を行う
3 論理的な判断 は数理統計学を利用した AI では実現不可能
学術では 2 統計 と 3 論理 を併用することが多い

AI と人
問題点

学習の違い
I 人：統計的な情報から理論を理解し他への応用を行う
I AI：統計的な情報から推測を行う

AI と人
問題点

学習の違い
I 人：統計的な情報から理論を理解し他への応用を行う
I AI：統計的な情報から推測を行う

問題点
I 人も 統計的 な判断を行う為、AI を人のように錯覚する
I 統計的な判断は正しい答えに辿り着く道筋を示せない
I 論理的な判断は道筋を示すことが出来る為、法的な判断などで必要AI と人
問題点

学習の違い
I 人：統計的な情報から理論を理解し他への応用を行う
I AI：統計的な情報から推測を行う

問題点
I 人も 統計的 な判断を行う為、AI を人のように錯覚する
I 統計的な判断は正しい答えに辿り着く道筋を示せない
I 論理的な判断は道筋を示すことが出来る為、法的な判断などで必要AI と人
問題点

学習の違い
I 人：統計的な情報から理論を理解し他への応用を行う
I AI：統計的な情報から推測を行う

問題点
I 人も 統計的 な判断を行う為、AI を人のように錯覚する
I 統計的な判断は正しい答えに辿り着く道筋を示せない
I 論理的な判断は道筋を示すことが出来る為、法的な判断などで必要総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

人が身につけておくべきこと
I 論理的思考能力
I 数理統計学の知識

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

人が身につけておくべきこと
I 論理的思考能力
I 数理統計学の知識
I 現在の中等教育では論理的な思考能力はほとんど身につかないI 人は論理的思考を身につけておくべきである
ユリウス

カ エ サ ル

I Iulius Caesar「人は見たいものしか見ない」

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

人が身につけておくべきこと
I 論理的思考能力
I 数理統計学の知識
I 現在の中等教育では論理的な思考能力はほとんど身につかないI 人は論理的思考を身につけておくべきである
ユリウス

カ エ サ ル

I Iulius Caesar「人は見たいものしか見ない」

総括
AI との関わり方

AI の性質I AI は中庸な結果を返すだけで正しい答え返していない
I AI の出力は求めたい値に近い値を返している
I AI の出力の妥当性は人が判断しないといけない

人が身につけておくべきこと
I 論理的思考能力
I 数理統計学の知識
I 現在の中等教育では論理的な思考能力はほとんど身につかないI 人は論理的思考を身につけておくべきである
ユリウス

カ エ サ ル

I Iulius Caesar「人は見たいものしか見ない」

総括
法律

I 民主主義に関わる判断を AI に委ねるのには問題がある
I 学習データに個人情報を含める場合、個人情報保護法による制約がある
I 学習データに著作権があれば AI の出力は著作権上の問題を含む可能性がある
I 数理統計学の理解が無ければ AI をうまく利用することが難しい

総括
法律

I 民主主義に関わる判断を AI に委ねるのには問題がある
I 学習データに個人情報を含める場合、個人情報保護法による制約がある
I 学習データに著作権があれば AI の出力は著作権上の問題を含む可能性がある
I 数理統計学の理解が無ければ AI をうまく利用することが難しい

総括
法律

I 民主主義に関わる判断を AI に委ねるのには問題がある
I 学習データに個人情報を含める場合、個人情報保護法による制約がある
I 学習データに著作権があれば AI の出力は著作権上の問題を含む可能性がある
I 数理統計学の理解が無ければ AI をうまく利用することが難しい

総括
法律

I 民主主義に関わる判断を AI に委ねるのには問題がある
I 学習データに個人情報を含める場合、個人情報保護法による制約がある
I 学習データに著作権があれば AI の出力は著作権上の問題を含む可能性がある
I 数理統計学の理解が無ければ AI をうまく利用することが難しい

今後の展望AI をうまく利用できるのか?
I 教育分野への利用
I 人材教育 (数理統計学の理解、論理的思考能力の強化)
I 人材確保 (開発者、利用者)
I 新技術への発展

今後の展望AI をうまく利用できるのか?
I 教育分野への利用
I 人材教育 (数理統計学の理解、論理的思考能力の強化)
I 人材確保 (開発者、利用者)
I 新技術への発展

今後の展望AI をうまく利用できるのか?
I 教育分野への利用
I 人材教育 (数理統計学の理解、論理的思考能力の強化)
I 人材確保 (開発者、利用者)
I 新技術への発展

今後の展望AI をうまく利用できるのか?
I 教育分野への利用
I 人材教育 (数理統計学の理解、論理的思考能力の強化)
I 人材確保 (開発者、利用者)
I 新技術への発展