1

データサイエンス概論I＆II
線形代数に基づくデータ解析の基礎

九州大学 数理・データサイエンス教育研究センター

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

2

このセクションで言いたいこと
 各データ（ベクトル）を「いくつかのベクトル」の成分に分解することで，そのデータの性質がよくわかるかも カレーを「肉・ジャガイモ…」成分に分解すれば，どんなカレーかわかる 分解は「内積」一発
 内積＝「掛け算」と「足し算」するだけ（小学生でもできる！）
 「いくつかのベクトル」として何を用いるかは，あなた次第！
 それによって分解結果は異なる
 要するに，この「いくつかのベクトル」が「データの見方」を決める
 例えばカレーを，「肉・ジャガイモ…」に分解するか，「ビタミンA，たんぱく質…」に分解するか，「窒素，炭素，酸素…」に分解するか…
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

3「分析」の基本的な考え方

あなたのカレーにジャガイモは何グラム入ってる？
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

4「分析」とは？ (デジタル大辞泉より)
1.

複雑な事柄を一つ一つの要素や成分に分け、その構成などを明らかにすること。「情勢の―があまい」「事故の原因を―する」

2.

哲学で、複雑な現象・概念などを、それを構成している要素に分けて解明すること。⇔総合。

3.

物質の組成を調べ、その成分の種類や量の割合を明らかにすること。

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

5

分析の例：
カレーにジャガイモは何グラム入ってる？
ニンジン 0g

玉ねぎ 80g

ジャガイモ
50g

肉150g

分析
カレー粉 10g
色々なものが混ざっているのでパッと見ただけではどんなカレーかわからない

何がどれぐらい混ざっているかわかったら，どんなカレーかクリアになる！
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

6

これからの話の「予告編」
カレーからベクトルへ
8

10

分析

色々なものが混ざっているのでパッと見ただけではどんな高次元ベクトルかわからない

6

何がどれぐらい混ざっているかわかったら，どんな高次元ベクトルかクリアになる！
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

7ベクトルの分解と合成

高校時代に習った「内積」と「カレー」の意外な関係
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

8ベクトルの分解
𝒙=266

𝒆2 =01𝒆1 =

単位ベクトル102

どうやって？
(次スライド)𝒙の𝒆1 成分量= 2𝒙の𝒆2 成分量= 6

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

9

驚きの事実？
「内積」を使えば成分量が計れる！

2
1
𝒙=の中に𝒆1 =はどれぐらい入っている？
60

2 ×+ 1𝒙 ∙ 𝒆1 ==26 × 0
掛け算と足し算

内積で𝒙に含まれる𝒆1 成分量が測れる！

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

思い出そう：内積

内積の書き方4種(教科書で違ったりする)

 前にやりましたよね？

𝒙=

10𝒙∙𝒚𝒙, 𝒚𝒙, 𝒚𝒙𝑇 𝒚

36,𝒚 =の内積 → 𝒙 ∙ 𝒚 = 3 × 6 + 5 × 1 = 2351

 要するに，「要素どうしの積をとって，全部足す」
 その原理で，何次元ベクトルでも計算可能
36との内積513 × 65 × 1= 18=518 + 5 = 23

365 と 1 の内積
223 × 65 × 1
2 × 2= 18=5=418 + 5 + 4 = 27

※この調子で，4次元でも，100万次元でも可能

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

11

さきほどの6=𝒙 ∙ 𝒆2ベクトルの合成
01𝒙の𝒆2 成分量 × 𝒆2 =さきほどの2=𝒙 ∙ 𝒆1𝒆2202+==𝒙06606②混ぜ合わせると…

10𝒙の𝒆1 成分量 × 𝒆1 =𝒆1①単位ベクトルを成分量どおりにして20③元に戻る！
なんと美しい！
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

12

カレーとの関係：
単位ベクトルとはジャガイモである
1単位ベクトル𝒙には𝒆1が𝒙 ∙ 𝒆1 だけ入っているにはジャガイモが50個だけ入っている(1g)

要するに50g

カレー𝒙
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

13

カレーとの関係：
単位ベクトルとはジャガイモやニンジンであるベクトル𝒙

𝒆1
𝒆2

カレー𝒙

成分量𝒙 ∙ 𝒆1

元と同じベクトル𝒙
加算𝒙 ∙ 𝒆2ジャガイモ ○ｇ
にんじん □ｇ
肉 △ｇ:

元と同じカレー𝒙

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

14

さて，単位ベクトルを回転してみる！

−1Τ2
𝒆2 =
3Τ 20
𝒆2 =
1回転

𝒆1 =

𝒆1 =

3Τ2
1Τ210

皆さんの良く知っている
単位ベクトル

左を30°回転させてできた単位ベクトル
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

15

回転してできた単位ベクトルでも先ほどのベクトルを分解できる
2𝒙=6−1Τ2𝒆2 =3Τ 2𝒆1 =new
単位ベクトル3Τ21Τ2

どうやって？
(次スライド)𝒙の𝒆1 成分量= 3 + 3𝒙の𝒆2 成分量= 3 3 − 1
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

16

めんどくさそうな単位ベクトルでも「内積」を使えば成分量が計れる！
2𝒙=の中に𝒆1 =63Τ2はどれぐらい入っている？
1Τ2×2 + 3Τ2𝒙 ∙ 𝒆1 ==6 × 1Τ23+3

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

17ベクトルの合成
3Τ2 + 3 3Τ21Τ2 − 3 3Τ2+3Τ2 + 3Τ2
9Τ2 − 3Τ22==𝒙6

先ほどの3 3 − 1𝒙の𝒆2 成分量 × 𝒆2
1Τ2 − 3 3Τ2=9Τ2 − 3Τ2

先ほどの 3 + 3𝒙の𝒆1 成分量 × 𝒆1
3Τ2 + 3 3Τ2=
3Τ2 + 3Τ2

やはり元に戻る
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

18

参考：内積で成分量を計っている様子を幾何的にも見てみる

𝒙𝒙∙𝒚= 𝒙𝒚 cos 𝜃xのe1成分量 = x cos 𝜃 𝒆1x  e1= xx e1x  e1=e1

単位ベクトルは長さ１= x  e1
このように単位ベクトルとの内積によりその成分量が求まる
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

19

以上は2次元の場合の例でしたが，3次元でも（もちろんそれ以上でも）同じ話
 2
 x = 16 0 e3 =  0 1
 0
 e2 =  1 0
 内積便利!

1 e1 =  0 0  2 1   x  e1 =  1    0  = 2
 6 0   九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

20

分解と合成，一連の話をまめとると...(1/2)
 𝒙を𝑑次元ベクトルとする
 内積により第𝑖番目の単位ベクトル𝒆𝑖 の成分量𝛼𝑖 を出す

𝛼𝑖 = 𝒙 ∙ 𝒆𝑖
 ちなみに各𝒆𝑖 も𝑑次元ベクトル その成分量に応じて単位ベクトルを混ぜれば，元の𝒙に!

𝒙 = 𝛼1 𝒆1 + ⋯ + 𝛼𝑖 𝒆𝑖 + ⋯ + 𝛼𝑑 𝒆𝑑 = ෍ 𝛼𝑖 𝒆𝑖
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

21

分解と合成，一連の話をまめとると...(2/2)(ふざけているように見えるかもしれませんが，これが本質！)
 言い換えると，成分量𝛼1 , … , 𝛼𝑖 , … , 𝛼𝑑 は，材料セット𝒆1 , … , 𝒆𝑖 , … , 𝒆𝑑 から𝒙 を作るための「レシピ」

材料セット
𝒆1 , … , 𝒆𝑖 , … , 𝒆𝑑

𝛼𝑖 = 𝒙 ∙ 𝒆𝑖

レシピ(分析結果)⋮→ 𝛼1 グラム→ 𝛼𝑖 グラムカレー𝒙

෍ 𝛼𝑖 𝒆𝑖⋮→ 𝛼𝑑 グラム

あの味を完璧に再現できた！
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

22

ベクトルの分解のありがたさをカレー以外の例で…
ベクトル＝「性格診断5問の回答」場合

yesno

夢 人 遠 時 およ よ 慮 々 笑
り り し 激 い
現 犬 が 怒 大実 が ち す 好派 好る きき2 -2 1 0 2
Aさんの回答※もちろんイイカゲンな例です

2×-2 ×

ビッグボス型

子供型

3×

バランス型

0×

まじめ型

3×

控えめ型

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

23

ここまでのおさらい 分析とは，いろいろな成分に分解することである
 分解することで，よくわかることがある 「ベクトルの分析」も同じ𝒙 ベクトル を「単位ベクトル群」に分解することで，理解する ベクトルの分析には「単位ベクトル」との内積が使える
 さらに合成すれば元通りに
 ※ただし完全に元通りになるためには条件がある
 分析の方法は一意ではない 回転させた単位ベクトル群でも可能
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

24

初日はここまで

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

25

基底

あまり面白みもない「単位ベクトルのセット」，でも実は「モノの見方」決めるのがこの基底
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

26(数学的には厳密ではないが)単位ベクトルのセットのことを「基底」と呼ぶ−1Τ2𝒆2 =3Τ 20𝒆2 =
1𝒆1 =

𝒆1 =

3Τ21Τ210

これはわかりやすい「基底」

こちらも「基底」
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

前述の通り，任意のベクトル𝒙を「分解して・合成して・元に戻す」能力がある基底(単位ベクトルのセット)がある

27

共通する性質は？
1. 𝑑次元ベクトル用には𝑑本のベクトル
2. 直交している(90度で交わる)
3. それぞれ長さが1単位ベクトルのセットがこれら3つの性質を満たせば，「元に戻せる」基底になっている！
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

28

この便利な基底を「完備正規直交基底」と呼ぶ
早口言葉みたいですが…

完備直交
正規

1. 𝑑次元ベクトル用には𝑑本のベクトル
2. 直交している(90度で交わる)
3. それぞれ長さが1𝒆𝟐𝒆𝟐𝒆𝟐𝒆1
完備正規直交基底

詳細は付録!

𝒆1
完備でない

𝒆1
直交でない

𝒆1
正規でない

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

29

基底が変われば成分量が変わる：＝ ものの見方が変わる！
 2
x =  
6 2
x =  
6

同じもの

𝒆𝟐𝒆𝟐𝒆1𝒆1

 xのe1成分 = 2
 xのe2 成分 = 6違う見方

 xのe1成分 = 3 + 3 xのe2 成分 = 3 3 − 1
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

30

基底が変わればモノの見方が変わることをカレーで表現すると...
ジャガイモ ○ｇ
にんじん □ｇ
肉 △ｇ:
たんぱく質 ●ｇ
ビタミンC ■ｇ脂質 ▲ｇ::同じカレー！

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

ある基底での分析結果を回転するだけで，他の基底での分析結果が求まる

31

ビタミンB
にんじんカレー肉𝜃
ビタミンC

ビタミンB

肉カレーカレー𝜃だけ回転ビタミンC

にんじん（２つの分析結果は１対１対応！）
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

32

回転により「完備正規直交基底」が無限にできる．ということは，モノの見方(=分析の方法)も無限通り！
 例：２次元の場合同じベクトルでも基底が変われば見方も変わる！

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

33

日常でもあること！：
人によって，同じものが違って見える𝒙九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

34

逆に困った！ 各分析課題にとって「よい」基底とは何かを考えないと...
 「どれがよい？」と言われても，どの正規直交基底も任意のベクトルを(分解・合成して)元に戻せる点では同じ...

 でも，いま分析したいベクトル集合(=データ集合)にとって「よい基底」なら決められるかも…

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

35

コンパクトな分析結果を与える「基底」

分解して合成しても，完全には元に戻らない．
でも，そのおかげで，よりシンプルな分析結果が求まる
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

36「完備正規直交基底」をもう一度完備
直交正規1. 𝑑次元ベクトル用には𝑑本のベクトル
2. 直交している(90度で交わる)
3. それぞれ長さが1𝒆𝟐𝒆𝟐𝒆𝟐𝒆1
完備正規直交基底

𝒆1
完備でない

𝒆1
直交でない

𝒆1
正規でないダメな基底なのか？
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

37

完備でない基底を使うとどうなるのか？
→ もとに戻らない ex. 2次元で基底が1つしかないと，もとに戻らない！

26

オリジナル

全然違う

元に戻らないということは，分解した段階で，元々あった情報の一部が失われていることを意味(左の例では縦方向の情報が消失)．
なので，完備でない基底は，ダメだな…

分解・合成後
𝒆1

𝒆1 =

20

10
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

38

しかし！ データによっては全部の単位ベクトルを使わなくても「ほぼ」OKなケースもある もしデータが第1軸付近にしかないのなら，1個の単位ベクトルだけで「ほぼ」OK?

オリジナル

5.3
0.1

いつもゼロ近くほとんど同じ！

データ分布

1
e1 =  0

分解・合成後5.3 確かにオリジナルとは0 違うが，「大体」同じ
注：コロンブスの卵

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

39

カレーの例で説明すると(1/2)：
プロの味でなくても，ご家庭の味でOKなケース！
レシピ(分析結果)材料セット
𝒆1 , … , 𝒆𝑖 , … , 𝒆𝑗 , … , 𝒆𝑑⋮
プロのカレー𝒙→ 𝛼1 グラム→ 𝛼𝑖 グラム𝛼𝑖 = 𝒙 ∙ 𝒆𝑖

⋮෍ 𝛼𝑖 𝒆𝑖

ご家庭のカレー𝒙′
同じじゃないけど，そこそこ旨い⋮は除く→ 𝛼𝑗 グラム→ 𝛼𝑑 グラム
常にほとんどゼロ(プロの隠し味)九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

40

カレーの例で説明すると(2/2)：「どこで手を抜くか？」もセンスの一つ
絶対に必要なやつ
レシピ(分析結果)(いつも量が多い)

材料セット
𝒆1 , … , 𝒆𝑖 , … , 𝒆𝑗 , … , 𝒆𝑑⋮
プロのカレー𝒙→ 𝛼𝑖 グラム𝛼𝑖 = 𝒙 ∙ 𝒆𝑖⋮
෍ 𝛼𝑖 𝒆𝑖

水無カレー𝒙′→ 𝛼1 グラム⋮

大事な を除いてしまうと→ 𝛼𝑗 グラム→ 𝛼𝑑 グラム

全然違う～！こりゃだめだ...
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

41

全部の単位ベクトルを使わなくてももソコソコ戻る，より一般的なケース
 こういうケースも単位ベクトルは1つで(ほぼ)OKほとんど同じ！

オリジナル
分解・合成後データの分布に応じて決めた単位ベクトル

先ほどの例

e1
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

42「そこそこでOK」とするメリット
 𝑑次元ベクトルを， 𝑑個未満の成分でコンパクトに表現
レシピ(分析結果) したがって：
 主要な成分だけを概観できる！
• ＝主成分分析のアイディア⋮→ 𝛼𝑖 グラム 主要でない成分を捨てることで，データ圧縮にもなる• 𝑑次元ベクトルの情報を送る場合，𝑑個の数字をそのまま送らずに，より少ない数で送ることができる→ 𝛼1 グラム⋮⋮→ 𝛼𝑗 グラム→ 𝛼𝑑 グラム九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

43

画像が圧縮できるのは，実はこの性質を使ってます 地デジやデジカメ写真はこの原理で情報圧縮(=コンパクト化)
 画像は実は偏って分布している！

第3次元

第400万次元

第2次元

第1次元
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

44

【付録１】
どのような基底を用いるべきか？

「分解して合成すれば元に戻る」ための条件

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

分析の際にケアすべきポイント(1/4)
基本的に見落としはNG
ニンジン 0g

玉ねぎ 80g

ジャガイモ50g

混ぜ合わせ45

水無しカレー！

肉150g

カレー粉 10g

後述の「完備性」と関係見落とし
水 2000g

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

分析の際にケアすべきポイント(2/4)
分析項目に重複がないほうが良いだろう
ニンジン 0g 玉ねぎ 80g

46

ジャガイモ50g

混ぜ合わせ肉150g

やたらスパイシーなカレー！

水 2000g
実はカレー粉の中に入っている成分

唐辛子 2g

カレー粉 10g

後述の「直交性」と関係

クミン 1g九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

分析の際にケアすべきポイント(3/4)
分析する単位は統一したほうがよいだろう
ニンジン 0本

47

玉ねぎ 80g

ジャガイモ30 ㎤

元のカレーには完全に戻るのだが...

肉0.15 kg

水 3カップ比べにくい！

カレー粉 10000 mg

混ぜ合わせ

後述の「正規性」と関係
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

分析の際にケアすべきポイント(4/4)
解釈容易な成分に分解したほうがよい48

ホゲホゲ 50g
モゴモゴ 100g

元のカレーには完全に戻るのだが...

マニョマニョ400g

ちりとてちん 35g

混ぜ合わせ

後述の「基底の任意性」と関係
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

49
49「分解して合成すれば元に戻る」ための条件①基底の完備性(1/2)

 2次元で基底が1つしかないと，もとに戻らない！

オリジナル

水無しカレー！

𝒆1 =

10分解・合成後九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

5050「分解して合成すれば元に戻る」ための条件①基底の完備性(2/2)

 任意の2次元ベクトル𝒙は，2個の2次元単位ベクトルによる分解→合成の結果，元の𝒙に戻れる

 任意の3次元ベクトル𝒙は，3個の3次元単位ベクトルによる分解→合成の結果，元の𝒙に戻れる

 任意の𝑑次元ベクトル𝒙は， 𝑑 個の𝑑次元単位ベクトルによる分解→合成の結果，元の𝒙に戻れる

 この状況を「完備」と言います(ほんの少し数学的にはイイカゲンなことを言ってますが，気にしない，気にしない)

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

5151「分解して合成すれば元に戻る」ための条件②基底の直交性 単位ベクトルが互いに90度で交わっていること
 高校の時に習ったかもしれませんが，𝒆𝑖 ∙ 𝒆𝑗 =0 (ただし𝑖 ≠ 𝑗)
 非直交だと，分解合成で元に戻らない！
 頑張れば戻せないこともないが，かなり面倒くさい

分解e2合成e2x'  xx
e1e1
九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

5252「分解して合成すれば元に戻る」ための条件③基底の正規性 単位ベクトルの長さは，常に１で！

 2
x =  
6

長さ20𝒆2 =2𝒆1 =10

 xのe1成分 = x  e1 = 2 xのe2 成分 = x  e2 = 12???
0  0 
e2 が12も入ってたら第2軸は12    =   2   24 

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版

以上３つの条件を満たす単位ベクトルの組を「完備正規直交基底」と呼ぶ

5353

 以下はいずれも2次元の完備正規直交基底
 ＝どちらでもカレーは元通り！

長さ1 もちろん3次元以上でも同様

九州大学 数理・データサイエンス教育研究センター／ 2022年9月版