PRML　演習問題　解答集　第2章

## はじめに
様々な分野で多様なビッグデータが得られるようになり、こうしたデータを解析し、そこから「知」を得るための手段として、**機械学習 (Machine Learning)**、いわゆる**AI**が注目されています。そういった動きは、**農学**の分野でも広がってきており、我々**[生物測定学研究室](https://www.ut-biomet.org/)**でも、圃場のモニタリングに画像解析技術を用いたり、育種（品種改良）に機械学習のアイディアを応用した研究を行ったりしています。

こうした状況を鑑みて、本研究室では2020年前期（4月〜8月）に、機械学習の教科書の決定版ともいえる、**Christopher Bishop**による**『Pattern Recognition and Machine Learning （パターン認識と機械学習）』**、通称**PRML**に関する輪読会を開講しました。本輪読会では、PRMLの各章の末尾に付いている**演習問題**を、輪読会参加者の有志が解く、ということも行いました。ここでは、各人による演習問題の解答例を`Qiita`の記事として紹介していこうと思います。
（追記：**2021年度後期**も輪読会を開催し、第1章から勉強しています。昨年度できなかった演習問題は随時更新予定です。）

本記事では、**第2章の演習問題の解答例**に関する記事のリンクを紹介していきます。
まだ解いた全ての問題を公開しているわけではなく、随時更新していきます。**更新内容などについては、[`Twitter`](https://twitter.com/BiometUt)にてご報告**する予定です。

（注：解答例は、数学の決して得意ではない学生によるものもあります。中には間違いや不十分な解答もあるかもしれませんが、温かい目で見ていただき、コメントで誤りなどを指摘していただければ幸いです。また、**全ての問題に対して解答例が用意されているわけではない**ので、その点についてもご了承ください。）


## 関連記事など
#### 別の章に関するリンク集　
- [PRML　演習問題　解答集　まとめ](https://qiita.com/Lab_of_Biomet/items/15e38ca34fafa8176d89)
- [PRML　演習問題　解答集　第1章](https://qiita.com/Lab_of_Biomet/items/a93f378b8e6868932d02)
- [PRML　演習問題　解答集　第3章](https://qiita.com/Lab_of_Biomet/items/5b2b23675c3484a39b5c)


#### PRML 公式資料
- [PRML 一式 ダウンロードページ （公式）](https://www.microsoft.com/en-us/research/people/cmbishop/prml-book/)
- [PRML 英語版 フルPDF （公式・無料）](https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf)
- [PRML 日本語訳 上巻 （Amazon）](https://www.amazon.co.jp/%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E4%B8%8A-C-M-%E3%83%93%E3%82%B7%E3%83%A7%E3%83%83%E3%83%97/dp/4621061224)
- [PRML 日本語訳 下巻 （Amazon）](https://www.amazon.co.jp/%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E4%B8%8B-%E3%83%99%E3%82%A4%E3%82%BA%E7%90%86%E8%AB%96%E3%81%AB%E3%82%88%E3%82%8B%E7%B5%B1%E8%A8%88%E7%9A%84%E4%BA%88%E6%B8%AC-C-M-%E3%83%93%E3%82%B7%E3%83%A7%E3%83%83%E3%83%97/dp/4621061240)
- [PRML 英語版 公式解答例 （wwwの付いた一部の問題）](https://www.microsoft.com/en-us/research/wp-content/uploads/2016/05/prml-web-sol-2009-09-08.pdf)

#### PRML 非公式資料
- [PRML演習問題 全問解答](http://prml.yutorihiro.com/): PRMLの第1章 ~ 第3章の途中 （演習問題3.24） までのほぼ全ての問題の解答を手書きで載せています。
- [PRML復活の呪文 part3 (2.1 - 2.2)](https://qiita.com/yosshun/items/1715124894de83b0589a): この方は`PRML`の日本語版の上巻の最後まで、各章を何パートかに分けて解説した記事を載せてます。また説明の中で、一部の演習問題の解説を行なっています。
- [PRML演習問題解答を全力で分かりやすく解説！](https://tips-memo.com/prml): この方は`PRML`の演習問題の数多く（ほとんど）の問題を、第1章から第10章まで手書きで公開しています。
- [PRML 問題2.61 解答](https://qiita.com/r-takahama/items/cc03cffd49ad4732ebd3)
- [その他PRMLのタグがついたQiitaの記事一覧](https://qiita.com/tags/prml)

他にも、一部の記事でPRMLの演習問題の解答例に関する記事があるものの、どれも1問単位で解かれており、このようなLaTeXで数式を書いた解答例のリンク集は存在しないように見受けられます。


## 担当者
[東京大学 生物測定学研究室](https://www.ut-biomet.org/)の @YusukeToda1984 さん, @ZaKama さん, @patten さん, @Kazutoshi08 さん, @mashiro135 さん, @yoyoyo11131113 さん, @yu10_I さん, @murata_biomet さん,  @RiceCake さん にご協力いただきました。また、他にも（生物測定学研究室以外の学生を含む）2名の有志が匿名で公開に協力してくださいました。こちらの2名の方の記事はこのアカウントの記事として投稿させていただいもののリンクを紹介したいと思います（当人の許可をとっています）。

## 解答　リンク集

##### 演習問題 2.2 （標準）
- [PRML　演習問題 2.2（標準）　解答](https://qiita.com/RiceCake/items/a9b4397f0d445573f1be) （@RiceCake さん）

ベルヌーイ分布が正規化されており、平均がパラメータ$\mu$と等しくなることを示す、という問題です。

##### 演習問題 2.3 （標準）
- [PRML 演習問題2.3 解答](https://qiita.com/mashiro135/items/a109077e5336c5475b8a) （@mashiro135 さん）

二項分布が正規化されていることを、二項定理から証明する問題です。二項定理自体は数学的帰納法を用いて証明することができます。

##### 演習問題 2.4 （標準）
- [PRML 演習問題 2.4 （標準）](https://qiita.com/Kazutoshi08/items/6b06f99d856a726f10c0) （@Kazutoshi08 さん）

二項分布の平均・分散を、正規化の式を微分することにより求める問題ですね。

##### 演習問題 2.5 （標準）
- [PRML 演習問題2.5 解答](https://qiita.com/mashiro135/items/ccf4fdf5092c225a577a) （@mashiro135 さん）

ベータ分布が正しく正規化されていることを証明する問題です。

##### 演習問題 2.7 （標準）
- [PRML　演習問題 2.7 （標準）](https://qiita.com/yu10_I/items/41079f8a09b6a405c9a7) （@yu10_I さん）

$\mu$の事後平均が, 事前平均と$\mu$ の最尤推定量の間の値になることを示す問題です。

##### 演習問題 2.6 （基本）
- [PRML 演習問題 2.6 （基本）](https://qiita.com/Lab_of_Biomet/items/77b8a6fa7f273611883c) （匿名Aさん）

ベータ分布の平均・分散・最頻値を、ガンマ関数の特性を上手く使いながら解いていく問題ですね。

##### 演習問題 2.9 （難問）
- [PRML　演習問題 2.9（難問）　解答](https://qiita.com/YusukeToda1984/items/94c925e0c4ebd5f42b98) （@YusukeToda1984 さん）

ディリクレ分布の正規化を、数学的帰納法により証明していく問題ですね。難問です。

##### 演習問題 2.10 （標準）
- [PRML　演習問題 2.10（標準）　解答](https://qiita.com/YusukeToda1984/items/06041c233689948cc673) （@YusukeToda1984 さん）

ディリクレ分布の平均・分散・最頻値を、ガンマ関数の特性を上手く使いながら解いていく問題ですね。

##### 演習問題 2.15 （標準）
- [PRML　演習問題 2.15（標準）　解答](https://qiita.com/RiceCake/items/7b266d58cd2aa2e7d3a1) （@RiceCake さん）

多変量ガウス分布のエントロピーの式を、証明する問題です。

##### 演習問題 2.17 （基本）
- [PRML　演習問題 2.17 （基本）](https://qiita.com/patten/items/0bd63a901852b63ddaab) （@patten さん）

多変量ガウス分布の精度行列を、対称行列として扱っていいことを証明する問題です。対称行列と反対称行列の性質をうまく使います。


##### 演習問題 2.18 （難問）
- [PRML　演習問題 2.18（難問）　解答](https://qiita.com/ZaKama/items/c6c3f9259421c3b6e2ad) （@ZaKama さん）

対称行列の固有値は実数であること、異なる固有値に対応する固有ベクトル同士は直交すること、いくつかの固有値が0であっても正規直交となるように固有ベクトル集合を選ぶことができること、の3つを証明する問題です。難しいです。

##### 演習問題 2.19 （標準）
- [PRML　演習問題 2.19（標準）　解答](https://qiita.com/ZaKama/items/7e403a30a47d27a54469) （@ZaKama さん）

実対称行列およびその逆行列が、実対称行列の固有値と固有ベクトルを使って展開できることを証明する問題です。最後の方に`R`のコードを載せてあります。

##### 演習問題 2.24 （標準）
- [PRML 演習問題2.24 解答](https://qiita.com/mashiro135/items/61f1c4607c269aa35b82) （@mashiro135 さん）

ブロック行列の逆行列に関する公式を証明する問題ですね。[シューア補行列](https://ja.wikipedia.org/wiki/%E3%82%B7%E3%83%A5%E3%83%BC%E3%82%A2%E8%A3%9C%E8%A1%8C%E5%88%97)に関する公式です。

##### 演習問題 2.26 （標準）
- [PRML　演習問題 2.26（標準）　解答](https://qiita.com/YusukeToda1984/items/53e69929c46d2158d05d) （@YusukeToda1984 さん）

Woodbury 行列反転公式の証明です。証明自体は簡単ですが、この結果は特に計算時間の短縮などに用いることができるので、頭の片隅に置いておきましょう。

##### 演習問題 2.40 （標準）
- [PRML　演習問題 2.40（標準）　解答](https://qiita.com/ZaKama/items/82071814f44fcef442a7) （@ZaKama さん）

多変量正規分布の共分散が既知である時に、平均の事後分布をデータ集合から推定する問題ですね。単純ですが、いろいろな場面に応用できる考え方であるため、非常に重要です。

##### 演習問題 2.41 （基本）
- [PRML　演習問題2.41　解答](https://qiita.com/patten/items/1fa114152a3aa6cc02a4) （@patten さん）

ガンマ分布が正規化されていることを証明する問題です。うまく変数変換を行いましょう。

##### 演習問題 2.42 （標準）
- [PRML 演習問題 2.42 （標準）](https://qiita.com/Lab_of_Biomet/items/1d421c4d0fe1c445c70a) （匿名Aさん）

ガンマ分布の平均・分散・最頻値を、ガンマ関数の特性を上手く使いながら解いていく問題ですね。

##### 演習問題 2.44 （標準）
- [PRML　演習問題 2.44（標準）　解答](https://qiita.com/Kazutoshi08/items/3819e8d3ad54f958c3d8) （@Kazutoshi08 さん）

ガウス分布に従うデータ集合に対して、ガンマ-ガウス分布が共役事前分布になっていることを証明する問題です。

##### 演習問題 2.57 （基本）
- [PRML 演習問題 2.57 （基本）](https://qiita.com/Lab_of_Biomet/items/a694a6e629abcca4efee) （匿名Aさん）

多変量正規分布が指数型分布族の一般形に変形できることを証明する問題です。

##### 演習問題 2.58 （基本）
- [PRML 演習問題2.58 解答](https://qiita.com/mashiro135/items/825bc3ae621570d0963a) （@mashiro135 さん）

指数型分布族の正規化条件を二階微分することで、規格化定数の対数 $\ln { g \left ( \boldsymbol { \eta } \right ) }$ の負の勾配の勾配が $\mathbf { u } (\mathbf { x } )$の共分散と等しくなることを証明する問題です。問題は素直に解くだけですが、興味深い結果ですね。

##### その他 （演習問題以外の輪読会関連記事）

- [PRML (2.70)の展開](https://qiita.com/Kazutoshi08/items/94e8e5b06badf20f1d34) （@Kazutoshi08 さん）

教科書の(2.70)の展開方法が簡単にまとめられていたので、もう少し丁寧に書き下してみる。

- [PRML　式(2.113)–(2.117)についての考察](https://qiita.com/YusukeToda1984/items/edfc2292b9b578ae490b) （@YusukeToda1984 さん）

教科書の式(2.113)・(2.114)と式(2.115)・(2.116)の対象性を確認する。

## おわりに （宣伝）
いかがだったでしょうか。
こうした記事が、少しでも皆さんがPRMLの演習問題を解く上での理解の助けとなれば幸いです。
誤りなどありましたら、各演習問題に対する解答記事にてコメントなど残していただければと思います。

さて、生物測定学研究室では、農学という分野にいながら、このような機械学習の基礎から勉強しているほか、**プログラミング言語**（`Python`, `R`, `C++`, `Julia`など）を駆使して、**効率的なデータ取得や、品種改良の高速化**に取り組んでいます。興味がある方は、ぜひホームページから研究紹介動画を見ていただければと思います。`Twitter`もはじめました。

研究室ホームページ: [東京大学 生物測定学研究室](https://www.ut-biomet.org/)
研究紹介動画など （YouTube）: [東京大学 生物測定学研究室 YouTubeチャンネル](https://www.youtube.com/channel/UCa8nlyLG5sYSzOJinHgRgqw)
Twitterアカウント: [UT-Biomet (@BiometUt)](https://twitter.com/BiometUt)
Twitterサブアカウント: [東大・生測の日常。 (@BiometUtDiary)](https://twitter.com/BiometUtDiary) ←New!! (2021.10-)

## 更新歴
- **2022.3.30**  : 解答のリンク（１問 + １記事）を追加しました。 
- **2021.12.14** : 担当者に @murata_biomet さん,  @RiceCake さんが加わりました。解答のリンク（３問+１記事）を追加しました。
- **2021.11.16** : 2021年度輪読会について、記述しました。
- **2021.10.29** : [Twitterサブアカウント](https://twitter.com/BiometUtDiary)を掲載しました。