アルゴリズム・AtCoder のための数学【中編：数学的知識編②】

# 0. はじめに
こんにちは、大学 1 年生になったばかりの E869120 です。本記事は、

* [アルゴリズム・AtCoder のための数学【前編：数学的知識編①】](https://qiita.com/e869120/items/b4a0493aac567c6a7240)

からの続きです！！！

## 中編から読む方へ
21 世紀も中盤に入り、情報化社会が急激に進行していく中、[プログラミング的思考](https://benesse.jp/programming/beneprog/2018/07/13/computationalthinking/)や[アルゴリズム](http://research.nii.ac.jp/~uno/algo_3.htm)の知識、そしてアルゴリズムを用いた[問題解決力](https://it-mint.com/2019/08/26/recommended-books-of-programming-for-programmers-1711.html)が日々重要になっています。

しかし、アルゴリズム構築能力・[競プロ](https://qiita.com/sifue/items/d582f3af426f524e5394)の実力は、単純にプログラミングの知識を学ぶだけではあまり身につきません。問題解決にはもちろん、場合によっては問題文読解にすら**数学的な面が重要になりつつある**のではないかと考えています。実際、私はこれまでの経験で「数学の壁でつまづいた競プロ参加者」をたくさん見てきました。

そこで本記事では、**[AtCoder](https://atcoder.jp/) のコンテストで戦ったり、様々なアルゴリズムを習得していくために必要な数学的知識や数学的考察テクニックを習得し、アルゴリズムと数学の密接さに気づいてもらうこと**を最大の目標とします。前編では、

* [2 章](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-%E3%81%93%E3%82%8C%E3%81%8C%E5%88%86%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A8%E5%95%8F%E9%A1%8C%E3%81%8C%E7%90%86%E8%A7%A3%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84-%E6%9C%80%E9%87%8D%E8%A6%81%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-12-%E9%81%B8)で、競プロの問題文を読むために必要な数学的知識
* [3 章](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0%E3%81%A8%E5%AF%86%E6%8E%A5%E3%81%AB%E9%96%A2%E3%82%8F%E3%82%8B%E6%95%B0%E5%AD%A6%E5%88%9D%E7%B4%9A%E7%B7%A8)で、基本的なアルゴリズムに関係する数学的知識

を紹介しましたが、中編ではやや発展的なトピックについて、必要な数学知識をまとめます。

また、記事の後半では、前編・中編で扱った数学的知識に慣れるための**<font color="red">演習問題を用意しました</font>**ので、[5 章](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#5-これだけ解けば理解が深まる演習問題-32-問)から先に見ても構いません。皆さん是非お読みください！

<br />

## 目次
#### [前編](https://qiita.com/e869120/items/b4a0493aac567c6a7240)
| 章 | タイトル | 備考 |
|:---|:---|:---|
| 1. | [はじめに](https://qiita.com/e869120/items/b4a0493aac567c6a7240#1-はじめに) | |
| 2. | [これが分からないと問題が理解できない！ ～最重要ポイント 12 選～](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-これが分からないと問題が理解できない-最重要ポイント-12-選) | ここからサポートします |
| 3. | [アルゴリズムと密接に関わる数学＜初級編＞](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-アルゴリズムと密接に関わる数学初級編) | 本記事のメインです（1 ～ 11 個目のトピックを扱います） |


#### 中編
| 章 | タイトル | 備考 |
|:---|:---|:---|
| 4. | [アルゴリズムと密接に関わる数学＜中級編＞](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-アルゴリズムと密接に関わる数学中級編) | 本記事のメインです（12 ～ 19 個目のトピックを扱います） |
| 5. | [これだけ解けば理解が深まる！　～演習問題 32 問～](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#5-これだけ解けば理解が深まる演習問題-32-問) | 2 章から 4 章の内容をサポートします |


#### [後編](https://qiita.com/e869120/items/1ccb2bdf16890637e767)
| 章 | タイトル | 備考 |
|:---|:---|:---|
| 6. | [なぜ数学的考察が重要か？](https://qiita.com/e869120/items/1ccb2bdf16890637e767#6-なぜ数学的考察が重要か) | 後編では数学的考察を扱います |
| 7. | [競プロで頻出！ ～汎用的な数学的考察 7 選～](https://qiita.com/e869120/items/1ccb2bdf16890637e767#7-競プロで頻出-汎用的な数学的考察-7-選) |  |
| 8. | [問題特有の数学的考察テクニック 14 選](https://qiita.com/e869120/items/1ccb2bdf16890637e767#8-問題特有の数学的考察テクニック-14-選) | 後編のメインです |
| 9. | [おわりに](https://qiita.com/e869120/items/1ccb2bdf16890637e767#9-おわりに) |  |
| 10. | [参考文献](https://qiita.com/e869120/items/1ccb2bdf16890637e767#10-参考文献参考資料) |  |

<br />
<br />

# 4. アルゴリズムと密接に関わる数学＜中級編＞
[2 章](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-%E3%81%93%E3%82%8C%E3%81%8C%E5%88%86%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A8%E5%95%8F%E9%A1%8C%E3%81%8C%E7%90%86%E8%A7%A3%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84-%E6%9C%80%E9%87%8D%E8%A6%81%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-12-%E9%81%B8)では問題文を読むために必要なテクニックを 12 個のポイントに絞ってまとめました。しかし、競プロに出題されるようなアルゴリズムだけを考えても、数学と結びつく場面はまだまだたくさんあります。例えば、

* [3-2. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-2-%E4%BA%8C%E5%88%86%E6%8E%A2%E7%B4%A2%E3%81%AB%E5%AD%A6%E3%81%B6%E5%AF%BE%E6%95%B0%E9%96%A2%E6%95%B0%E3%83%AC%E3%83%99%E3%83%ABstar2)では、二分探索の計算量 $O(\log N)$ と対数関数の関係
* [3-6. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-6-%E5%B9%BE%E4%BD%95%E8%A8%88%E7%AE%97%E3%81%AB%E5%AD%A6%E3%81%B6%E4%B8%89%E8%A7%92%E9%96%A2%E6%95%B0%E3%83%AC%E3%83%99%E3%83%ABstar2)・[3-7. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-7-%E8%A7%92%E5%BA%A6%E8%A8%88%E7%AE%97%E3%81%AB%E5%AD%A6%E3%81%B6%E3%83%99%E3%82%AF%E3%83%88%E3%83%AB%E3%81%AE%E5%86%85%E7%A9%8D%E3%81%A8%E9%80%86%E4%B8%89%E8%A7%92%E9%96%A2%E6%95%B0%E3%83%AC%E3%83%99%E3%83%ABstar3)では、幾何計算と三角関数・ベクトルの関係
* [3-11. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-10-%E9%80%86%E5%85%83%E3%81%AB%E5%AD%A6%E3%81%B6%E3%83%95%E3%82%A7%E3%83%AB%E3%83%9E%E3%83%BC%E3%81%AE%E5%B0%8F%E5%AE%9A%E7%90%86%E3%83%AC%E3%83%99%E3%83%ABstar3)では、経路の数の計算とフェルマーの小定理の関係

について紹介してきました。4 章ではさらに**追加で 8 個のトピック**を紹介し、アルゴリズムを数学的側面から捉えていきたいと思います。皆さんにアルゴリズムと数学が如何に密接に関わっているかを体感してもらうことが最大の目標です。

なお、3 章・4 章の構成は次のようになっています。
![18.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/e77946d0-ceb5-2435-614f-c73df9fe8853.jpeg)

<br />

## 4-12. 最大値検索に学ぶ、微分法（レベル：:star:3）
まず、次の問題を考えてみましょう。

> 連続な関数 $f(x)$ がある。この関数には次のような性質がある。
> 
> * 以下の条件を満たす場所 $M$ $(0 \leq M \leq 3)$ が存在する。
>    * $x < M$ では $y = f(x)$ が単調増加である。
>    * $x > M$ では $y = f(x)$ が単調減少である。
> 
> あなたは $30$ 回まで、「実数 $x$ を選び、それに対する $f(x)$ の値をコンピューターに聞く」という形式の質問ができる。$f(x)$ の最大値を、できるだけ小さい誤差で求めよ。

例えば、以下のような関数が例として挙げられます。
![25.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/8e2a1f2a-aa47-367a-b6ab-5202a49c0f94.jpeg)
では、どうやってこの問題を解けば良いのでしょうか。一つのアプローチとして、[微分法](https://www.shufu-ichiyazuke.com/entry/2018/06/28/185352)が挙げられます。まず、「微分とは何か」から確認していきましょう。

#### 微分とは何か？
おおまかなイメージとしては、

* 関数のグラフ $y = f(x)$ を考える
* グラフ上の点 $(a, f(a))$ に付近における関数の傾き（=[接線](https://31investment.com/tangent-line-and-contact-point/)の傾き）を求める操作が微分

だと思って良いです。例えば、下のような関数 $y = x^2$ を考えます。そこで、$a = 1$ とするとき、グラフ上の点 $(1, 1)$ を拡大していくと、傾きが $2$ に近づいていることが分かります。この傾きの値（**微分係数**）を求めるのが**微分**なのです。
![26.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/7ae75f77-d14d-b962-b5de-b4e2a89a7054.jpeg)
厳密な式で表すと、微分係数を $f'(a)$ とするとき次のようになります。

$$
f'(a) = \lim_{h \to 0} \frac{f(a + h) - f(a)}{h}
$$

例えば、$h = 1$ では $f'(a) = \frac{4-1}{1} = 3$ と計算できてしまいますが、

* $h = 0.5$ では $\frac{2.25-1}{0.5} = 2.5$
* $h = 0.1$ では $\frac{1.21-1}{0.1} = 2.1$

といった感じで、段々と $2$ に近づいていくのが分かると思います。なお、極限については [3-3. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-3-%E8%A8%88%E7%AE%97%E9%87%8F%E3%82%AA%E3%83%BC%E3%83%80%E3%83%BC%E3%81%AB%E5%AD%A6%E3%81%B6%E6%A5%B5%E9%99%90%E3%83%AC%E3%83%99%E3%83%ABstar3)で解説しています。

---

#### どうやって微分係数を求めるか？（数学編）
(i) まず、関数 <font color="blue">$f(x) = x^n$</font> の形で表されるとき、$f'(a)$ の値は次のように求められます。

> $f'(a) = n \cdot a^{n-1}$
> 例えば $y = x^2$ のとき、$f'(1) = 2, f'(5) = 10$

(ii) 次に、関数 <font color="blue">$g'(x) = px^n$</font> の形で表されるとき、$g(x)$ は $y = x^n$ を $y$ 軸方向に $p$ 倍に伸ばしたグラフであることから、$g'(a) = p \cdot f'(a)$ であることが分かります。したがって、$g'(a)$ の値は次のように求められます。

> $g'(a) = p \cdot n \cdot a^{n-1}$

(iii) 最後に、関数 $h(x)$ が<font color="blue">一般の多項式</font>の場合、$h'(a)$ の値は次のように求められます。例えば $x^2 + 2x + 1$ の場合、$h(x)$ を $x^2$ と $2x$ と $1$ に分解して (ii) の場合に帰着し、その後全部足し合わせるイメージだと、理解しやすいと思います。

> $f(x) = p_nx^n + p_{n-1}x^{n-1} + ... + p_1x_1 + p_0$ とする
> そのとき、$f'(a) = np_na^{n-1} + (n-1)p_{n-1}a^{n-2} + ... + 2p_2a + p_1$
> 例えば $f(x) = x^6$ のとき、$f'(1) = 6, f'(10) = 600000$

しかし、より複雑な関数や、連続ではない関数を扱う場合、**このような方法が通用しません**。コンピュータでは、どのように計算すれば良いのでしょうか。

---

#### どうやって微分係数を求めるか？（コンピュータ編）
そこで、微分係数の近似値を求めるにあたって、微分の定義を振り返ってみましょう。

$$
f'(a) = \lim_{h \to 0} \frac{f'(a + h) - f'(a)}{h}
$$

このとき、$h = 0$ で求めるのは無理があるとしても、$h = 10^{-5}$ などにして計算をすることで、十分近似された値が計算できるのです。例えば $y = x^3$ の場合でも、

$$
f'(1) = \frac{1.00001^3 - 1^3}{0.00001} = 3.00003000011...
$$

となり、ほとんど正しい値が計算できました。したがって、**たった 2 回の質問**で $f'(a)$ の近似値が分かるのです。

---

#### 最初の問題の答え
あとは、$x < M$ では $f'(x) > 0$、$x > M$ では $f'(x) < 0$ となるため、次表のように[二分探索](https://codezine.jp/article/detail/9900?p=2)をしていけば良いです。（$y = -0.1x^4 + 0.5x^2 + x$ の場合の例です。最初から最大値を取る $x$ の位置が $0$ 以上 $3$ 以下であることが分かっているものとします）

| $x$ の範囲 | 真ん中の値 $p$ | $f'(p)$ の値 | 対応 |
|:---:|:---:|:---:|:---:|
| [0.0000, 3.0000] | 1.5000 | 1.1500 | 正なので右半分に絞れる |
| [1.5000, 3.0000] | 2.2500 | -1.3063 | 負なので左半分に絞れる |
| [1.5000, 2.2500] | 1.8750 | 0.2383 | 正なので右半分に絞れる |
| [1.8750, 2.2500] | 2.0625 | -0.4470 | 負なので左半分に絞れる |
| [1.8750, 2.0625] | 1.9688 | -0.0836 | 負なので左半分に絞れる |
| : | : | : |
![27.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/79bb0d2d-c643-7d9e-5ed8-f564b0217bf5.gif)


#### 補足（関連する解法）
微分と直接関係はしませんが、似た解法として**三分探索**が挙げられます。詳しくは

* [たのしい探索アルゴリズムの世界【前編：全探索、bit全探索から半分全列挙まで】4-3. 節](https://qiita.com/e869120/items/25cb52ba47be0fd418d6#4-3-%E4%B8%89%E5%88%86%E6%8E%A2%E7%B4%A2)

をご覧ください。ただし、質問回数が $30$ 回の場合の精度については、

* 三分探索による解法が、絶対誤差 $3 \div \left( 1.5^{30 \div 2} \right) = 0.00685...$
* 微分法 + 二分探索による解法が、絶対誤差 $3 \div \left( 2^{30 \div 2} \right) = 0.00009...$

となり、後者の方がアルゴリズムの効率が良いです。なお、今回紹介した問題は $f(x)$ が一般の多項式の場合にも解くことができます。これについては [5 章](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#5-これだけ解けば理解が深まる演習問題-32-問)の演習問題に載っていますので、是非ご覧ください。

<br />

## 4-13. 勾配降下法に学ぶ、偏微分（レベル：:star:4）
まず、以下の問題を考えてみましょう。

> パラメータ $x_1, x_2, ..., x_n$ に対して、評価関数 $f(x_1, x_2, ..., x_n)$ が決まっています。
> 評価関数ができるだけ小さくなるようなパラメータ $x_1, x_2, ..., x_n$ を求めて下さい。

さて、どのように解けるのでしょうか。
1 つのアイデアとしては、「球をある場所に置くと物理現象的に高さの低いところに移動するので、それをシミュレーションして最終的に止まった場所を求める」といった方法が挙げられます。これを数式に表した上で実装したのが**勾配降下法**なのです。
![28.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/35734659-8e38-643b-1177-627f44c7c268.gif)

#### 偏微分とは何か
では、次に移動する方向はどのようにして求めるのか。これは**偏微分**によって計算できます。偏微分は「微分を 2 変数関数以上に拡張させたもの」であり、次の通りのイメージです。

> $x_1, x_2, ..., x_n$ のうち、ある $1$ つの変数 $x_i$ を $h$（$0$ に近い正の実数）増やし、他の変数 $x_1, ..., x_{i-1}, x_{i+1}, ..., x_n$ を固定したとき、評価関数 $f(x_1, x_2, ..., x_n)$ の値が $h$ の何倍くらいずれるかを求める。これを「関数 $f$ を $x_i$ について偏微分する」という。

図で表すと、こんな感じのイメージです。
なお、関数 $f$ の $x_i$ についての偏微分を $\frac{df}{dx_i}$ のように表します。
![29.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/adeb3a87-23e0-b8a8-6e5c-4f0c16c6b570.jpeg)

#### 偏微分の例
上の説明だけでは分かりにくいと思うので例を挙げます。関数 $f(x, y) = x^2 + xy + y^2$ を考えてみましょう。そこで $x$ の値を $h=0.01$ だけ増やした場合、

$$
f(x + 0.01, y) - f(x, y) = (0.02x + 0.0001) + 0.01y
$$

となり、評価値が $(2x + y + 0.01) \times h$ だけ変わっていることが分かります。また $h$ をさらに小さくすると、変化量が $(2x + y) \times h$ に近づきます。このように、求める偏微分の値は、

$$
\frac{df}{dx} = 2x + y
$$

と書き表すことができるのです。この式に従って計算すると、$f(3, 2)$ の $x$ についての偏微分係数が $2 \times 3 + 2 = 8$ であることが分かります。同様に、$y$ 方向の偏微分は次の通りです。

$$
\frac{df}{dy} = x + 2y
$$


#### 偏微分を使って、どのように次に動く方向を計算できるか
基本的に、物体は傾きが大きい方向に動くので、各変数に対する偏微分の値が $d_1, d_2, ..., d_n$ の場合、各変数をそれぞれ $(-ad_1, -ad_2, ..., -ad_n)$ だけ動かせば良いです（$a$ は定数）。そこで、関数 $f(x) = x^2 + xy + y^2$ に対して $a = 0.2$ の場合、次のようにプログラムが動きます。評価値が段々と減っていくのが分かると思います。

| (x, y) の値 | 関数 f（評価値） |x の偏微分 | y の偏微分 | 次に動く方向 |
|:---:|:---:|:---:|:---:|:---:|
| (2.0000, 1.0000) | 7.0000 | 5.0000 | 4.0000 | (-1.0000, -0.8000) |
| (1.0000, 0.2000) | 1.2400 | 2.2000 | 1.4000 | (-0.4400, -0.2800) |
| (0.5600, -0.0800) | 0.2752 | 1.0400 | 0.4000 | (-0.2080, -0.0800) |
| (0.3520, -0.1600) | 0.0932 | 0.5440 | 0.0320 | (-0.1088, -0.0064) |
| (0.2432, -0.1664) | 0.0464 | 0.3200 | -0.0896 | (-0.0640, 0.0179) |

なお、$a$ の値が大きい方が早く収束しますが、$a$ の値があまりにも大きいと $x, y$ の値が無限に大きくなる（発散する）リスクがあります。したがって、勾配降下法では適切に $a$ の値を調整するのは重要です。また、すべての評価関数でこの手法が上手くいくとは限らず、例えば評価値が周りより小さい地点が 2 箇所以上あった場合、**局所的最適解**に陥る可能性があります。
![30.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/79b6a7a7-0143-2931-8b57-99286f2721c1.gif)

<br />

## 4-14. 累積和に学ぶ、積分法
まず、以下の問題を考えてみてください。

> 長さ $N$ の整数列 $A = (A_1, A_2, ..., A_N)$ がある。
> 以下の $Q$ 個の質問に全部答えてください。
> $i$ 個目の質問：$A_{L_i} + A_{L_i + 1} + ... + A_{R_i}$ の値を出力する。

この問題は、二重ループを用いて単純に足し算をすると、$O(NQ)$ かかってしまい、例えば $N, Q = 10^6$ のデータでは、実行が終わるまでに **1 分以上**かかってしまいます。

~~~cpp
for (int i = 1; i <= Q; i++) {
    int sum = 0;
    for (int j = L[i]; j <= R[i]; j++) {
        sum += A[j];
    }
}
~~~

#### アルゴリズムの改善
そこで、次のような方法によって、計算量を改善することができます。

* $B_i = A_1 + A_2 + ... + A_i$ とする。
* そこで、$B_0, B_1, B_2, ..., B_N$ の値を前もって記録しておく。
    * これは、$B_i = B_{i-1} + A_i$ とすると、累積的に計算できる。

そのとき、$(A_L + A_{L+1} + ... + A_R) = B_R - B_{L-1}$ と計算できるため、計算量が $O(N+Q)$ となり、$N, Q = 10^6$ 程度でも **1 秒以内**で実行を終わらせることができます。例えば $A = (3, 1, 4, 1, 5, 9, 2, 6)$ の場合次図のようになります。
![31.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/44ef30df-fa96-f08e-62e1-fa05ecef075f.jpeg)
このような手法を**累積和**といいます。詳しくは、

* [Qiita｜累積和を何も考えずに書けるようにする！](https://qiita.com/drken/items/56a6b68edef8fc605821)

をご覧ください。

さて、ここまでアルゴリズムの説明ばかり書きましたが、どのような点で**積分法**と関係があるのでしょうか。まず、「積分とはどういうものか」について紹介します。

---

### 積分とは何か
分かりやすく説明すると、積分は基本的に**面積**のイメージです。
車の速度を例にとると、「時刻 $x$ には車が $f(x)$ メートル毎秒で前に向かって走っているとき、時刻 $a$ から時刻 $b$ までに何メートル進みましたか」といったものを計算するのが定積分です。一般に、関数 $f(x)$ に対する区間 $[a, b]$ における[定積分](https://kou.benesse.co.jp/nigate/math/a14m1402.html)の値は、

$$
\int_{a}^{b} f(x) \ dx
$$

と表され、下図の黄色部分の面積から青色部分の面積を差し引いた値となっています。
![32.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/22099d92-273f-4407-4cff-e7f4c4ef9a02.jpeg)

#### 累積和との関係
図を見た感じ、累積和と似ているように感じませんでしたか？
実は非常によく似ています。$A_i$ の値が「車の速度」、$B_i$ の値が「車の位置」といった関係になっているのです。もう少し厳密に関数を用いて表すと、

```math
f(x) = 0 \ (x < 0, N \leq x) \\
f(x) = A_i \ (i-1 \leq x < i, 1 \leq i \leq N)
```

とするとき、

```math
B_i = \int_{0}^{i} f(x) \ dx \\
A_L + A_{L+1} + ... + A_R = \int_{L-1}^{R} f(x) dx = \int_{0}^{R} f(x) dx - \int_{0}^{L-1} f(x) dx = \left(B_R - B_{L-1}\right)
```

となるのです。これは、微分と積分が一対一関係となっているように、数列 $A_i$ と累積和 $B_i$ が一対一関係になっているということを意味します。積分法と累積和は非常によく似ていたのです。

<br />

## 4-15. フィボナッチ数の計算に学ぶ、行列累乗（レベル：:star:3）
まず、以下の問題を考えてみましょう。[3-4. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-4-%E5%86%8D%E5%B8%B0%E9%96%A2%E6%95%B0%E3%81%AB%E5%AD%A6%E3%81%B6%E6%95%B0%E5%88%97%E3%81%AE%E6%BC%B8%E5%8C%96%E5%BC%8F%E3%83%AC%E3%83%99%E3%83%ABstar3)でも取り上げた問題です。

> * $a_1 = 1, a_2 = 1$
> * $a_N = a_{N-1} + a_{N-2} \ (N \geq 3)$
> 
> とします。そのとき、$T$ が与えられるので $a_T$ を $10^9+7$ で割った余りを求めてください。
> つまり、フィボナッチ数の第 $T$ 項を求めてください。

この問題は、再帰関数を使って解くこともできますが、漸化式を $a_3, a_4, a_5, ...$ と順番に、問題文に書かれた通りに計算していく手法でも解けます。計算量は $O(N)$ です。

~~~cpp
int a[1009], N;
cin >> N;
for (int i = 3; i <= N; i++) {
    if (i == 1) a[i] = 1;
    if (i == 2) a[i] = 1;
    if (i >= 3) a[i] = a[i - 1] + a[i - 2];
}
cout << a[N] << endl;
~~~

しかし、この形のままだと高速化しにくいので、次のように漸化式を変えてみましょう。

> $a_{2, 1} = 1, a_{2, 2} = 1$
> $a_{N, 1} = a_{N - 1, 1} + a_{N - 1, 2} \ (N \geq 3)$
> $a_{N, 2} = a_{N - 1, 1} \ (N \geq 3)$

**1 項前の値しか見ずに計算できるので便利です。**実際、これを経路図のような形に表してみると、次のような感じになります。矢印が入っているところを足し算すると計算できます。
![33.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/d3a50f81-b1ee-0840-e87f-526848a7a4a8.jpeg)
しかし、それでも計算量は $O(N)$ と変わりません。どうやって計算を効率化することができるのでしょうか。そこで、[2-12. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-12-%E3%81%9D%E3%81%AE%E4%BB%96%E3%81%AE%E7%AB%B6%E3%83%97%E3%83%AD%E3%81%A7%E9%A0%BB%E5%87%BA%E3%81%AE%E8%A1%A8%E8%A8%98%E3%81%9F%E3%81%A1)で紹介した**行列**を導入します。

#### 知識：行列の掛け算
一般に、行列 $P$（$A \times B$ 行列[^4]）、行列 $Q$（$B \times C$ 行列）の積 $R=PQ$ は $A \times C$ 行列となり、その各成分 $(i, j)$ の値は以下のように表せます。

$$
R_{i, j} = \sum_{k=1}^{B} \left( P_{i, k} \times Q_{k, j} \right)
$$

例えば、次の式が成り立ちます。

```math
\begin{pmatrix}
8 & 6 & 9 \\
1 & 2 & 0
\end{pmatrix}
\begin{pmatrix}
10 \\
0 \\
1
\end{pmatrix}
=
\begin{pmatrix}
8 \times 10 + 6 \times 0 + 9 \times 1 \\
1 \times 10 + 2 \times 0 + 0 \times 1
\end{pmatrix}
=
\begin{pmatrix}
89 \\
10
\end{pmatrix}
```

---

#### 行列の計算に落とし込む
まず、第 $4$ 項と第 $5$ 項の関係を観察してみましょう。行列を使って次のように表せます。

```math
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
3 \\
2
\end{pmatrix}
=
\begin{pmatrix}
5 \\
3
\end{pmatrix}
```

次に、第 $3$ 項と第 $4$ 項の関係を観察してみましょう。

```math
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
2 \\
1
\end{pmatrix}
=
\begin{pmatrix}
3 \\
2
\end{pmatrix}
```

次に、第 $2$ 項と第 $3$ 項の関係を観察してみましょう。

```math
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
1 \\
1
\end{pmatrix}
=
\begin{pmatrix}
2 \\
1
\end{pmatrix}
```

それら $3$ つの情報から何が分かるのでしょうか。次のようになります。なお、行列の積は**結合的**であるため、どのような計算順序で計算を行っても答えは変わりません。（行列 $A, B, C$ について、$A \times (B \times C) = (A \times B) \times C$ が成り立ちます）

```math
\begin{pmatrix}
5 \\
3
\end{pmatrix}
=
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
3 \\
2
\end{pmatrix}
=
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
2 \\
1
\end{pmatrix}
=
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
1 \\
1
\end{pmatrix}
=
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}^{3}
\begin{pmatrix}
1 \\
1
\end{pmatrix}
```

このように考えていくと、一般にフィボナッチ数の第 $N$ 項は、次の計算によって求められる行列の $(1, 1)$ 成分であることが分かります。

```math
\begin{pmatrix}
1 & 1 \\
1 & 0
\end{pmatrix}^{N-2}
\begin{pmatrix}
1 \\
1
\end{pmatrix}
```

---

#### あとは行列累乗を求められればよい
では行列 $A$ の $N-2$ 乗はどうやって計算できるのでしょうか。これは繰り返し二乗法（[3-10. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-10-%E9%80%86%E5%85%83%E3%81%AB%E5%AD%A6%E3%81%B6%E3%83%95%E3%82%A7%E3%83%AB%E3%83%9E%E3%83%BC%E3%81%AE%E5%B0%8F%E5%AE%9A%E7%90%86%E3%83%AC%E3%83%99%E3%83%ABstar3)で紹介済）を応用できます。$A^1, A^2, A^4, A^8, A^{16}, ...$ を前もって計算しておくことで、$A^N$ の値も高速に求められるのです。例えば、

$$
A^{47} = A^{32} \times A^{8} \times A^{4} \times A^{2} \times A^{1}
$$

という式になります。つまり、$2 \times 2$ 行列同士の掛け算にかかる計算量を $O(1)$ とすると、僅か $O(\log N)$ でフィボナッチ数の第 $N$ 項を $10^{9} + 7$ で割った余りが分かるのです。このように、行列の演算を使うと、$N = 10^{18}$ 程度の場合でも一瞬でこの問題を解けます。

<br />

## 4-16. XOR 部分和問題と行列の掃き出し法（レベル：:star:4）
まず、以下の問題を考えてみましょう。（XOR については [2-5. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-5-%E8%AB%96%E7%90%86%E6%BC%94%E7%AE%97%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B-andorxor)参照）

> $N$ 枚のカードが一列に並べられており、左から $i$ 番目のカード（以降カード $i$ とする）には整数 $A_i$ が書かれている。$N$ 枚のうちいくつかを選ぶ方法の中で、選んだカードに書かれた整数を全部 XOR した値がちょうど $T$ となるようなものは存在するか、判定せよ。

カードの選び方を $2^N$ 通り全探索する方法が考えられますが、これは $N = 100$ の時点で $10^{30}$ 通り以上の探索が必要となり、効率が悪いです。これ以上高速化することはできないのでしょうか。
![34.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/b2afdeb8-5b76-53d3-6c32-e341cefd9851.jpeg)

#### ステップ 1. 重要な性質を使う
そこで、以下のような性質が成り立ちます。これは[行基本変形](http://racco.mikeneko.jp/Kougi/98s/Kisoenshuu1/6-25.html)と似た性質です。

> 整数 $i, j$ を選び、$A_i$ の値を $A_i \ xor \ A_j$ に変更する操作を行っても、作れる数の集合は変わらない。どのような $i, j$ を選んでも、この性質が成り立つ。

例えば $A = (3, 5, 6)$ の場合を考えましょう。このとき、作れる数の集合は $S = \\{0, 3, 5, 6\\}$ であり、どのように整数を選んでも $1$ などを作ることはできません。その後、$i = 1, j = 2$ を選んで操作すると $A' = (3 \ xor \ 5, 5, 6) = (6, 5, 6)$ となりますが、作れる数の集合は $\\{0, 3, 5, 6\\}$ のままです。

操作前と操作後で、できる数が同じになるようなカードの選び方が、次表のように一対一対応することから証明できます。例えば、$i = 1, j = 2$ の操作を行った場合、

* 操作前に番号 $\\{1, 3\\}$ のカードを選んだときにできる数
    * 上の例だと $3 \ xor \ 6 = 5$
* 操作後に番号 $\\{1, 2, 3\\}$ のカードを選んだときにできる数
    * 上の例だと $6 \ xor \ 5 \ xor \ 6 = 5$

が同じです。

| 元々の選び方 | 操作後の選び方 | XOR した値（操作前の値） |
|:---:|:---:|:---:|
| カード $i, j$ 両方選ばない場合 | カード $i, j$ 両方選ばない | $0$ |
| カード $i$ のみ選ぶ場合 | カード $i, j$ 両方選ぶ | $A_i$ |
| カード $j$ のみ選ぶ場合 | カード $j$ のみ選ぶ | $A_j$ |
| カード $i, j$ 両方選ぶ場合 | カード $i$ のみ選ぶ | $A_i \ xor \ A_j$ |

#### ステップ 2. 行列に変形すると上手くいくのでは？
次に、行う操作が**行列の行基本変形**（大学の[線形代数](https://oguemon.com/study/linear-algebra/hello-world/)という分野で習います）と似ているため、行列の形にしてみましょう。

XOR などの論理演算を扱う際は、ビットごとに分ければ便利なので、$N \times B$ 行列 $F$ を用意し、$(i, j)$ 成分を「$A_i$ を 2 進数で表したときの $j$ 桁目」とします、例えば、$A = (27, 21, 12, 9, 2), B = 7$ の場合、行列 $F$ は次のようになります。

```math
F = 
\begin{pmatrix}
0 & 0 & 1 & 1 & 0 & 1 & 1 \\
0 & 0 & 1 & 0 & 1 & 0 & 1 \\
0 & 0 & 0 & 1 & 1 & 0 & 0 \\
0 & 0 & 0 & 1 & 0 & 0 & 1 \\
0 & 0 & 0 & 0 & 0 & 1 & 0
\end{pmatrix}
```

#### ステップ 3. 行基本変形を繰り返して「階段行列」にする
そこで、以下の性質が成り立つのです。これは、任意の行列が「行基本変形」を繰り返すことで階段行列（[こちらのリンクで調べてください](https://oguemon.com/study/linear-algebra/elimination/)）になる性質と非常に良く似ています。

> 操作（整数 $i, j$ を選び、$i$ 行目の値に $j$ 行目の値を $xor$ するもの）を適切に行うことで、$F$ を階段行列にすることができる。

これは、次のようなアルゴリズムを使うことで実現できます。全体計算量は $O(NB)$ です。
ただし本節での「$u$ 桁となっている行」は、$1, 2, ..., B-u$ 列目が全部 $0$ であり、$B-u+1$ 列目が $1$ であるような行のことを指します。

* $r = 1, 2, 3, ..., B$ の順に、次の操作を行う。
    * $B-r+1$ 桁の行が存在しなければ、何も行わない。
    * $B-r+1$ 桁の行が存在するとき、その中で行番号が最小のものを $t$ 行目とする。
    * そこで、$(p, r)$ 成分が $1$ であるような $p \ (p \neq t)$ について、$i = p, j = r$ として操作を行う。
    * それによって、$B-r+1$ 桁の行はただ $1$ つしか存在しなくなる。

なお、このアルゴリズムは「行列の掃き出し法」の 1 つです。詳しくは

* [Gauss-Jordan の掃き出し法と、連立一次方程式の解き方](https://drken1215.hatenablog.com/entry/2019/03/20/202800)

をご覧ください。
![35.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/37105148-2929-b825-d138-cad1f693cd93.jpeg)

#### ステップ 4. 最後に判定問題を解く
では、$A_1, A_2, ..., A_N$ に「2 進数で同じ桁数のもの」が存在しない場合、どのようにして解くのでしょうか。これは一番上の行（$A_i$ が最も大きいもの）から貪欲に取っていけばよいです。例えば、$T = 8$ を作れるかどうか判定する問題は、次のような感じで解けます。
![36.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/ec3d945d-61f8-772e-3587-3d9c25198cd9.jpeg)

<br />

## 4-17. 離散数学に学ぶ、グラフ理論（レベル：:star:2）
いよいよ 3・4 章で紹介する「アルゴリズムと密接に関わる数学」も、残り少なくなってきました。本節では、[最短経路問題](https://qiita.com/ageprocpp/items/cdf67e828e1b09316f6e)・[最小全域木問題](https://dai1741.github.io/maximum-algo-2012/docs/minimum-spanning-tree/)などを解くにあたって必要な**グラフ理論**についてまとめます。

グラフを使ったアルゴリズム（[深さ優先探索（DFS）](https://qiita.com/drken/items/4a7869c5e304883f539b)・[幅優先探索（BFS）](https://qiita.com/drken/items/996d80bcae64649a6580)・[ダイクストラ法](https://ja.wikipedia.org/wiki/%E3%83%80%E3%82%A4%E3%82%AF%E3%82%B9%E3%83%88%E3%83%A9%E6%B3%95)・[ワーシャルフロイド法](https://ja.wikipedia.org/wiki/%E3%83%AF%E3%83%BC%E3%82%B7%E3%83%A3%E3%83%AB%E2%80%93%E3%83%95%E3%83%AD%E3%82%A4%E3%83%89%E6%B3%95)・[クラスカル法](https://dai1741.github.io/maximum-algo-2012/docs/minimum-spanning-tree/)など）まで説明したらキリがなく、数学と少し離れてしまうので、本節では重要な用語の説明にとどめておきます。

#### グラフとは何か？
アルゴリズムにおける文脈でのグラフ（Graph）とは、頂点と辺で構成されるデータ型のことを指します。Excel で書くような、関数 $y = f(x)$ のグラフとは少し違うのでご注意ください。

下図において、円のようなものが**頂点**、直線のようなものが**辺**だと思ってよいです。電車の路線図や道路網を想像してみれば分かりやすいと思います。
![37.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/d3527131-654f-d045-b807-dfd2ac9f313d.jpeg)
グラフは辺の向きが存在するかどうかに応じて「**有向グラフ**」「**無向グラフ**」に大別されます。例 1・例 3 は無向グラフで、例 2 は有向グラフです。用途に応じて使い分けることが重要で、例えば、

* 一方通行の道路が存在する

といった場合、有向グラフの方が管理しやすいですね。

また、辺の重みが存在するかどうかに応じて「**重みなしグラフ**」「**重み付きグラフ**」に大別されます。例 1・例 2 は重みなしグラフで、例 3 は重み付きグラフです。これも使い分けが重要で、例えば、

* 通る駅の数の最小値を求めたい場合、重みなしグラフ
* 移動距離の最小値を求めたい場合、重み付きグラフ（道路によって長さが異なるため）

の方が都合よいですね。

---

#### どのような問題でグラフ理論が使えるか？
さて、グラフ理論というデータ型を使うことには、どのようなメリットがあるのでしょうか。実は、グラフは万能と言って良いほど、様々なものがグラフで表すことができます。例えば、

* 航空路線図を重み付き有向グラフで表す
* 道路網を重み付き無向グラフで表す
* SNS のフォロー関係を重みなし有向グラフで表す[^2]
* パイプラインを重みなし無向グラフで表す

といった例が挙げられます。
したがって、グラフ理論を学ぶと、解ける問題の範囲が相当広がります。
![38.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/10edcdc1-984c-ea89-8929-b879282bbd5f.jpeg)

#### グラフの表記方法について
次に、グラフの表記方法について解説します。

* 頂点の集合を $V$、頂点の数を $|V|$ と表記することが多いです。
* 辺の集合を $E$、辺の数を $|E|$ と表記することが多いです。
* グラフ全体を $G$ と表し、頂点の集合が $V$、辺の集合が $E$ であるようなグラフを $G(V, E)$ と表記することが多いです。

例えば、本節最初の図における例 1 の場合、

* $V = \\{1, 2, 3, 4, 5\\}$
* $E = \\{(1, 2), (1, 3), (2, 3), (2, 4), (2, 5), (3, 4), (4, 5)\\}$
* $|V| = 5, |E| = 7$

といった感じになります。

---

#### 頂点の次数
頂点の**次数**は、この頂点から何本の辺が出ているかという値です。例えば、本節最初の図における例 1 の場合、次数は次表のようになります。

| 頂点 1 | 頂点 2 | 頂点 3 | 頂点 4 | 頂点 5 |
|:---:|:---:|:---:|:---:|:---:|
| 次数 2 | 次数 4 | 次数 3 | 次数 3 | 次数 2 |

また、有向グラフの場合**入次数**と**出次数**を分けて考えることも多いです。

* 頂点 $i$ の入次数：頂点 $i$ に向けて何本の辺が入っているか
* 頂点 $i$ の出次数：頂点 $i$ から何本の辺が出ているか

となっています。Twitter のフォロー関係の例であれば、フォローする人からフォローされる人に向かった辺を追加するとき、フォロー数が出次数、フォロワー数が入次数となります。

---

#### グラフの連結成分数（無向グラフ）
グラフの**連結成分数**は、特に無向グラフの場合、次のように定義されます。

> いくつかの辺をたどって行くことができる頂点同士を同じグループとし、そうでない頂点同士を違うグループとするとき、いくつのグループに分かれるか

例えば、下図の場合 $\\{1, 4, 5\\}, \\{2, 3, 7, 8, 9\\}, \\{6, 10\\}$ の 3 つのグループに分かれるため、連結成分数は 3 です。特に連結成分数が 1 であるとき、**グラフは連結である**といいます。
![39.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/4667b690-0879-1b08-51eb-f233f0b6bdc4.jpeg)

#### グラフの強連結性（有向グラフ）
有向グラフについても連結性を定義することができます。

* 頂点 $u$ から $v$ まで、いくつかの有向辺を規定された向きの通りにたどることで行ける
* 頂点 $v$ から $u$ まで、いくつかの有向辺を規定された向きの通りにたどることで行ける
* そのとき、頂点 $u, v$ は強連結である

本節の最後に名前だけ紹介する[強連結成分分解](https://manabitimes.jp/math/1250)などと深く結びつきます。

---

#### 多重辺・自己ループ
多重辺は、グラフの辺のうち同じ 2 頂点間を結ぶ辺が複数存在するものを指します。例えば、

* $V = \\{1, 2, 3, 4\\}$
* $E = \\{(1, 2), (1, 3), (2, 3), (2, 3), (2, 4), (4, 4)\\}$

のとき、グラフ $G(V, E)$ には多重辺 $(2, 3)$ が存在します。

また、自己ループは辺の $2$ つの端点が同じような辺のことを指します。直前の例の場合、辺 $(4, 4)$ が自己ループです。

---

#### ウォーク・パス・サイクル
これもグラフ理論で頻出の用語です。

* **ウォーク：**頂点 $s$ から頂点 $t$ まで行くようなルートのこと。下図の例だと <code>1 -> 2 -> 3 -> 1 -> 2 -> 4 -> 5</code> はウォークである。$s-t$ 路ともいわれる。
* **サイクル：**始点と終点が等しいルートのこと。下図の例だと <code>1 -> 2 -> 3 -> 1</code> はサイクル閉路ともいわれる。
* **パス：**頂点 $s$ から頂点 $t$ まで行くようなルートのうち、同じ頂点を二度通らないもの。下図の例だと <code>1 -> 2 -> 4 -> 5</code> はパスであるが、<code>1 -> 2 -> 3 -> 1 -> 2 -> 4 -> 5</code> はパスではない。

![40.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/6e196773-7fc6-1e60-44af-3b26076841c4.jpeg)

#### 彩色数
隣接する頂点（直接辺で結ばれている頂点）同士が同じ色にならない塗り方の中で、最も使う色の数が少ない塗り方における、使った色の種類数です。特に彩色数が 2 であるグラフは[二部グラフ](https://ja.wikipedia.org/wiki/2%E9%83%A8%E3%82%B0%E3%83%A9%E3%83%95)と呼ばれ、特殊な性質を持ちます。[^5]

#### 平面的グラフ
平面的グラフとは、頂点を上手く動かしたとき、どの辺も端点以外で交差しないようにできるグラフのことを指します。例えば、

* 彩色数が 4 以下である（[四色定理](https://manabitimes.jp/math/1187)）

など、極めて特殊な性質が見られます。
![41.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/bbbc36f7-abd6-b647-1854-bb56c458c9bd.jpeg)

#### 最大安定集合
$|V|$ 頂点からいくつかを選ぶ方法は $2^{|V|}$ 通りありますが、その中で「隣接する頂点が両方選ばれる」ことがないもののうち、選んだ頂点数が最大となるような選び方を指します。

なお、最大安定集合を求める問題は、多項式時間アルゴリズムで解くことが絶望的とされている [NP 完全問題](https://ja.wikipedia.org/wiki/NP%E5%AE%8C%E5%85%A8%E5%95%8F%E9%A1%8C)という部類に属し、とても難しい問題として知られています。

#### 木構造について
$N$ 頂点 $N-1$ 辺の連結なグラフを木構造といいます。

* 閉路が存在しない
* パスが 1 通りに定まる

といった特殊な性質を持ちます。詳しく知りたい方は、

* [【競プロ】木構造について初心者向けにまとめる](https://itliberta.tech/structure-tree/)

をご覧ください。

---

では、ここまでグラフ理論について色々説明してきましたが、本節のタイトルにあった「離散数学」とは一体どういうものなのでしょうか。これは微積分や極限のように連続的な概念を扱わず、整数やグラフといった「とびとびの対象」を扱う学問領域のことを指します。組合せ論・グラフ理論の分野があり、アルゴリズムと非常に密接に関わる部分です。

<br />

## 4-18. モンテカルロ法に学ぶ、確率分布と統計的な推測（レベル：:star:3）
まず、次の問題を考えてみましょう。

> あなたは表裏が等確率で出るコインを 10000 枚投げます。
> 表が出た回数を $x$ とするとき、$x$ の確率分布はどのようになっているのでしょうか。

人によっては、「6000/10000 枚くらい表が出ることがあるかもしれない」と思うかもしれませんが、シミュレーションをした結果は下図の通りであり、**ほとんどが 49% ～ 51%** に収まっていることが分かります。
![42.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/9d222a90-2736-41d2-0f9d-47a8f157d436.jpeg)

#### 本節で扱う問題
何回も試行をすると「想定された確率」に非常に近い値が得られることが分かったところで、別の問題を考えてみましょう。

> 座標 (0, 0)、(0, 1)、(1, 1)、(1, 0) を頂点とする正方形の紙がある。
> 紙の中には $N$ $(\leq 100)$ 個の円が描かれており、$i$ 個目の円は中心座標 $(x_i, y_i)$、半径 $r_i$ である。1 つ以上の円の内部に入っている領域は赤い。
> 赤い領域の面積を、絶対誤差 0.01 以内で求めよ。

これは一見難しい幾何計算をする必要があると思うかもしれませんが、そんなことはありません。<font color="blue">絶対誤差が 0.01 以内</font> という制約に注目してみましょう。

#### ランダムサンプリングできないか？
そこで、次のような方法を考えます。

* 点を正方形内のランダムな位置に $B$ 個打つ
* 各点について、1 つ以上の円の内部に入っているか、距離計算を用いて $O(N)$ で判定する
* 1 つ以上の円の内部に入っている点の割合が、求める面積である

下図を見ると、どんな感じか分かると思います。では実際には、どの程度のサンプル数 $B$ が必要なのでしょうか。そこで「母平均の推定」を使います。
![43.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/add0c927-3fc5-e4cf-9148-16def313c5cf.jpeg)

#### 理論面 1. どうやって母平均を推定するか？
一般に、$N$ 回の試行を行い、そのうち確率 $p$ で成功した場合、実際の成功確率 $p'$ として考えられる確率分布は以下の公式によって表されます。

* $p'$ の期待値（平均してどのくらいの確率になるか）： $p$
* $p'$ の標準偏差（どの程度ばらけるか）： $\sqrt{p \times (1-p) \div n}$

例えば、偏りのあるコインを $10000$ 回振って $8000$ 回表が出た場合について考えましょう。そのとき、

* $p'$ の期待値： $8000 \div 10000 = 0.8$
* $p'$ の標準偏差： $\sigma = \sqrt{0.8 \times (1 - 0.8) \div 10000} = 0.004$

と計算することができます。ちなみに、このような問題においては、$p'$ の確率分布は正規分布（下図参照）に近似することができます。ただし、実際の確率 $x = p'$ の正規化スコアは $Z = \frac{x-m}{\sigma}$ として表されます。[^3]

例えばコインを $10000$ 回振って $8000$ 回表が出た場合、**約 95.4%** の確率で $-2 \leq Z \leq 2$ となる、つまり $0.792 \leq p' \leq 0.808$ になることを意味します。
![44.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/1df2e9bb-d0b1-c364-8141-4c5156381f36.jpeg)

#### 理論面 2. ほぼ確実に誤差が 0.01 以下となる B の値
そこで正規分布において、$-5 \leq Z \leq 5$ となる確率は **99.9999% 以上**なので、そうでない可能性はほぼ無視することができます。そこで絶対誤差を $0.01$ 以下にするためには、

$$
5 \times \sigma \leq 0.01 \ (\Leftrightarrow) \ \sigma \leq 0.002 \ (\Leftrightarrow) \ \sqrt{\frac{p(1-p)}{B}} \leq 0.002 \ (\Leftrightarrow) \ \frac{p(1-p)}{B} \leq 4 \times 10^{-6}
$$

が成り立つ必要があります。そこで、$p(1-p)$ の値は $p=0.5$ で最大値 $0.25$ を取るので、

$$
\frac{0.25}{B} \leq 4 \times 10^{-6} \ (\Leftrightarrow) \ B \geq 6.25 \times 10^{4}
$$

であれば良い、ということが分かります。

#### 本節のまとめ
このように、乱数を用いて何回か試行を行うことで近似解を求めるアルゴリズムを[モンテカルロ法](https://unit.aist.go.jp/diversity/ja/jst/teens/montecarlo.htm)といいます。今回扱った問題では、僅か 62500 回の試行でほぼ 100% 正解を出せることが分かりましたが、他にも

* [AtCoder Regular Contest 003 D - シャッフル席替え](https://atcoder.jp/contests/arc003/tasks/arc003_4)

などの問題で使われることがあります。モンテカルロ法や乱択アルゴリズムのように、場合によっては競プロ・アルゴリズムと統計が絡んでくる場合もあるのです。

~~~cpp
#include <iostream>
using namespace std;

int N;
double X[109], Y[109], R[109];

bool solve(double px, double py) {
    for (int i = 1; i <= N; i++) {
        if ((px - X[i]) * (px - X[i]) + (py - Y[i]) * (py - Y[i]) <= R[i] * R[i]) {
            return true;
        }
    }
    return false;
}

int main() {
    // Step #1. Input
    cin >> N;
    for (int i = 1; i <= N; i++) cin >> X[i] >> Y[i] >> R[i];

    // Step #2. Randomize [Rand(l, r) は l 以上 r 以下の一様な実数の乱数を返すものとする]
    int Loops = 62500;
    int Cnts = 0;
    for (int i = 1; i <= Loops; i++) {
        double px = Rand(0, 1);
        double py = Rand(0, 1);
        bool ret = solve(px, py);
        if (ret == true) Cnts += 1;
    }
    printf("%.12lf\n", 1.0 * Cnts / Loops);
    return 0;
}
~~~

<br />

## 4-19. その他のトピックと、さらなる発展（レベル：:star:4）
3・4 章では、アルゴリズムと数学が密接に関わる点について、全部で 18 個のトピックを取り上げてきました。例えば、

* [4-13. 節](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-13-勾配降下法に学ぶ偏微分レベルstar4)では、勾配降下法と偏微分の関係
* [4-15. 節](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-15-フィボナッチ数の計算に学ぶ行列累乗レベルstar3)では、フィボナッチ数の第 $10^{18}$ 項と行列演算の関係
* [4-18. 節](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-18-モンテカルロ法に学ぶ確率分布と統計的な推測レベルstar3)では、モンテカルロ法と統計的推測の関係

について紹介しました。しかし、紙面の都合上、入れようと思ったアルゴリズムも載せることができず、削らざるを得なかったものも存在します。このような理由で、<font color="#C0C000">**黄色コーダー**</font>になるための数学的知識はまだ全部カバーできていないと考えます。そこで 4 章の最後に、

* ここまでで紹介できなかった、アルゴリズムや競プロで問われる数学的知識
* 今後、アルゴリズムや競プロ関連の書籍・記事等を読む際に必要となり得る数学的知識

について、少しだけ解説したいと思います。<font color="red">なお、この章は難易度が高く、大学数学の範囲が中心となっておりますので、読み飛ばして 5 章の演習問題に行ってもかまいません。</font>

---

#### 調和級数
まず、以下の式が成り立ちます。

$$
N + \frac{N}{2} + \frac{N}{3} + ... + \frac{N}{N} = O(N \log N)
$$

この性質を使うことで、例えば $1$ から $N$ までの約数列挙が $O(N \log N)$ でできたりします。また、[クイックソート](https://ja.wikipedia.org/wiki/%E3%82%AF%E3%82%A4%E3%83%83%E3%82%AF%E3%82%BD%E3%83%BC%E3%83%88)の平均計算量が $O(N \log N)$ であることも、調和級数の性質を使うと証明できます。

~~~cpp
// 1 から N までの約数を列挙（vec[i]: i の約数が全部入っているリスト）
vector<int> vec[1000009];
for (int i = 1; i <= N; i++) {
    for (int j = i; j <= N; j += i) vec[j].push_back(i);
}
~~~

#### 形式的べき級数
多項式を無限に続けていった式

$$
f(x) = a_0x^0 + a_1x^1 + a_2x^2 + a_3x^3 + \cdots
$$

を形式的べき級数（Formal Power Series）といいます。かなり汎用性がありますが、競プロでは数え上げ問題を解く際によく使われます。詳しくは

* [[多項式・形式的べき級数]（１）数え上げとの対応付け](https://maspypy.com/%e5%a4%9a%e9%a0%85%e5%bc%8f%e3%83%bb%e5%bd%a2%e5%bc%8f%e7%9a%84%e3%81%b9%e3%81%8d%e7%b4%9a%e6%95%b0%e6%95%b0%e3%81%88%e4%b8%8a%e3%81%92%e3%81%a8%e3%81%ae%e5%af%be%e5%bf%9c%e4%bb%98%e3%81%91)

をご覧ください。

---

#### モノイドとセグメント木
競プロの問題に出題される典型的なデータ構造として、[セグメント木（Segment Tree）](https://qiita.com/ageprocpp/items/f22040a57ad25d04d199)が挙げられます。このうち、

* [Range Minimum Query (RMQ)](https://judge.u-aizu.ac.jp/onlinejudge/description.jsp?id=DSL_2_A&lang=ja)
* [Range Sum Query (RSQ)](https://judge.u-aizu.ac.jp/onlinejudge/description.jsp?id=DSL_2_B&lang=ja)

など比較的単純な問題は、セグメント木の中身に整数を格納するだけで解けます。

しかし、場合によっては行列などのデータをセグメント木に格納することもあります。そこで重要になってくるのは**モノイド**です。モノイドとは、次の条件を満たす型のことを指します。

* 結合法則を満たす。つまり、どんな $a, b, c$ でも、$(a \cdot b) \cdot c = a \cdot (b \cdot c)$ を満たす。
* 単位元が存在する。つまり、どんな $a$ でも $(a \cdot e) = (e \cdot a) = a$ となる $e$ がある。
    * 例えば、実数の掛け算では単位元が $1$
    * 例えば、行列の掛け算では単位元が[単位行列](https://ja.wikipedia.org/wiki/%E5%8D%98%E4%BD%8D%E8%A1%8C%E5%88%97)

基本的に、モノイドであれば、セグメント木にデータを入れることができます。

---

#### 高速フーリエ変換（FFT）
次の問題を考えてみましょう。（なお、このような形式の問題を**畳み込み**といいます）

> $N$ 次多項式 $A, B$ がある。$A = a_Nx^N + a_{N-1}x^{N-1} + ... + a_1x^1 + a_0x^0$、$B = b_Nx^N + b_{N-1}x^{N-1} + ... + b_1x_1 + b_0x^0$ である。
> $A \times B$ は $2N$ 次の多項式になるが、各項の係数をそれぞれ求めよ。

この種の問題は、単純に式を展開して計算すると $O(N^2)$ かかってしまいますが、高速フーリエ変換（FFT）を使うと $O(N \log N)$ で解くことができます。難しい数学的知識を使うアルゴリズムなので本記事では説明を省略しますが、詳しく知りたい方は

* [FFT（高速フーリエ変換）を完全に理解する話](https://qiita.com/ageprocpp/items/0d63d4ed80de4a35fe79)

をご覧ください。なお、競プロでも畳み込みの問題は頻出ですが、このうち多くは FFT の原理を完全に理解しなくても [AtCoder Contest Library (ACL)](https://atcoder.jp/posts/517) を使うだけで解けるので、まずは「FFT を使うとこういう問題が $O(N \log N)$ で解ける」という事実に慣れることが重要です。

---

#### 直積の定義と用語
$2$ つの集合 $X, Y$ について、直積集合 $Z = X \times Y$ は次のように定義されます。

$$
Z = \\{(x, y) | x \in X, y \in Y\\}
$$

例えば、$X = \\{1, 3, 6\\}, Y = \\{25, 50\\}$ の場合、

$$
X \times Y = \\{(1, 25), (1, 50), (3, 25), (3, 50), (6, 25), (6, 50)\\}
$$

となります。$3$ つ以上の集合についても直積を定義することができ、例えば集合 $A, B, C$ について、直積 $Z = A \times B \times C$ は次のようになります。サイズは $|A| \times |B| \times |C|$ です。

$$
Z = \\{(a, b, c) | a \in A, b \in B, c \in C\\}
$$

また、集合 $X$ に対して、直積 $X \times X$ を $X^2$、$X \times X \times X$ を $X^3$ と書き表すことがあります。特に $X$ が実数全体の集合（$X = \mathbb{R}$）の場合、

* 直積 $X \times X$ を $\mathbb{R}^2$
* 直積 $X \times X \times X$ を $\mathbb{R}^3$
* 直積 $X \times X \times ... \times X$（$N$ 回掛け算する）を $\mathbb{R}^N$

と表記します。座標平面が $\mathbb{R}^2$、$N$ 次元ベクトルが $\mathbb{R}^N$ と書かれることが多いのは、そういった理由があるためです。

---

#### 写像
写像は関数を拡張させたものですが、相違点があります。

| 名前 | 特徴 |
|:---:|:---:|
| 関数 | 実数から実数に対応する |
| 写像 | 集合 $X$ の要素から集合 $Y$ の要素に対応する |

一体どのようなことなのでしょうか。例えば、次のようなコードを考えましょう。

~~~cpp
int func(int N) {
    if (N == 1001) return 2553;
    if (N == 869120) return 2935;
}
~~~

この「関数」は、高校数学までに扱った $f(x) = x^2$ などの連続的なものとはイメージが全然違うかもしれません。しかし、これは集合 $X = \\{1001, 869120\\}$、$Y = \\{2553, 2935\\}$ とすると、<code>func(int N)</code> は集合 $X$ の各要素（元）が集合 $Y$ の要素の 1 つに対応しています。

このような性質を満たす「関数」を「$X$ から $Y$ への写像」といい、$func: X \to Y$ といった形で表します。（なお、これは大学数学の範囲なので [2-2. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-2-%E9%96%A2%E6%95%B0%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B-%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%A0%E5%AE%9F%E8%A3%85%E3%81%A7%E9%87%8D%E8%A6%81) では写像という言葉を用いずに関数として説明していましたが、多くのプログラミング言語では、写像のようなものも関数といわれています。）

#### 特殊な写像、全射・単射など
写像の中で、以下の性質を満たすものをそれぞれ全射・単射・全単射といいます。

* **全射：**すべての $Y$ の要素 $y$ について、$f(x) = y$ となる $X$ の要素 $x$ が<font color="blue">最小でも 1 つ</font>ある
* **単射：**すべての $Y$ の要素 $y$ について、$f(x) = y$ となる $X$ の要素 $x$ が<font color="blue">高々 1 つ</font>しかない
* **全単射：**すべての $Y$ の要素 $y$ について、$f(x) = y$ となる $X$ の要素 $x$ が<font color="blue">丁度 1 つ</font>ある

イメージとしては、下図のような感じです！
なお、これを知っておくと、$\bmod 1000000007$ 系数え上げ問題の頻出パターンである[写像 12 相](https://qiita.com/drken/items/f2ea4b58b0d21621bd51)などが理解しやすくなると思います！
![45.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/507979/103cded5-518a-22cf-2107-1d22b1b2b6ba.jpeg)

#### 特殊なシグマ記号
[2-9. 節](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-9-%E3%82%B7%E3%82%B0%E3%83%9E%E8%A8%98%E5%8F%B7%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B)で紹介したように、シグマ記号は基本的に次のような形で使われます。

$$
\sum_{i=1}^{4} i^3 = 1 + 8 + 27 + 64 = 100
$$

しかし、特に [4-17. 節](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-17-離散数学に学ぶグラフ理論レベルstar2)で紹介したグラフ理論では、シグマ記号は $i = L, L+1, ..., R$ における総和以外の文脈でも使われることがあります。例えば無向グラフ $G(V, E)$ に対し、

$$
\sum_{v \in V} \deg(v) = 2 \times |E|
$$

が成り立つのですが、「これは $V$ の要素すべて（つまり全部の頂点）に関する次数 $\deg(v)$ の総和」という意味です。このように、集合内の要素すべてに対する総和の意味で、シグマ記号が使われることもあります。

#### 述語論理の基本
皆さん、次のような表記を見たことがありますでしょうか。

> ∀$x \in \mathbb{R}$ $(x \leq 2 \Rightarrow x^2 \leq 4)$
> ∃$x \in \mathbb{R}$ $(2^{-x}=8 \Rightarrow x^2 = 9)$

このような書き方のことを[述語論理](https://ja.wikipedia.org/wiki/%E4%B8%80%E9%9A%8E%E8%BF%B0%E8%AA%9E%E8%AB%96%E7%90%86)というのですが、特に以下の $3$ つの書き方は、競プロの解説記事などでよく目にするので、確認しておきましょう。

* ∃$x \in \mathbb{R}$ (条件A)：条件 A を満たすような実数 $x$ が存在する。
* ∀$x \in \mathbb{R}$ (条件A)：どのような実数 $x$ でも条件 A を満たす。
* ∀$x \in \mathbb{R}$ (条件A ⇒ 条件 B)：どのような実数 $x$ でも条件 A を満たすものは条件 B も満たす。

---

ここまでの章では、アルゴリズムを学ぶ、そしてプログラミングコンテストでで戦うにあたって必要な数学的知識を、合計 12+19=31 個のポイントに分けてまとめました。記事が長く、読むのに時間がかかったかと思いますが、とりあえずお疲れ様でした。

「数学的知識編」の最後に、5 章では 2・3・4 章の内容に関する理解を深めるため、演習問題を 30 問用意します。皆さん是非お読みください。

<br />
<br />

# 5. これだけ解けば理解が深まる！　～演習問題 32 問～
いよいよ数学的知識編のラスト、演習問題です！！！

ここまで非常に多くのポイントについて記してきたので、理解が追いつかなかった方も多いと思います。そこで、アルゴリズムで使う数学的知識の理解をさらに深めてもらうため、章別に問題を用意しました！！！

構成は次表のようになっています。

| 節 | 内容 | 問題数 | 問題番号 |
|:---:|:---:|:---:|:---:|
| 5-1. 節 | 2 章で紹介した、問題文理解に必要な知識 | 14 問 | 1 ～ 14 |
| 5-2. 節 | 3 章で紹介した、基本的なアルゴリズムに必要な知識 | 9 問 | 15 ～ 23 |
| 5-3. 節 | 4 章で紹介した、発展的なアルゴリズムに必要な知識 | 9 問 | 24 ～ 32 |

## 5-1. 問題文の理解に必要な、2 章の演習問題 14 問
本節では、[2 章](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-%E3%81%93%E3%82%8C%E3%81%8C%E5%88%86%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A8%E5%95%8F%E9%A1%8C%E3%81%8C%E7%90%86%E8%A7%A3%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84-%E6%9C%80%E9%87%8D%E8%A6%81%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-12-%E9%81%B8)の内容から 14 題出題されます。
また、各問題の解説は[こちらのページ](https://github.com/E869120/qiita_math_algorithm_solution)で閲覧できます。現在 10 問目までしか載っていませんが、順次更新される予定です。

#### 問題 1（:star:）
$\\{-5, -4.5, -2, 0, 4, 6\\}$ の中から**整数**をすべて選んでください。
また、**非負整数**のもの、**自然数**のものを、それぞれすべて選んでください。

#### 問題 2（:star:）
$N! \mod 1000000007$ の値を求めるプログラムを書いてください。
ただし、時間計算量 $O(N)$ で実行できればよいものとします。

#### 問題 3（:star:）
整数 $N$ を引数として、$N$ が素数なら <code>true</code>、$N$ が素数ではない（合成数である）なら <code>false</code> を返す関数 <code>func</code> を含むプログラムを書いてください。

#### 問題 4（:star::star:）
ある有名人がツイートすると、すぐ 1 人のユーザーがそのツイートを **Retweet** します。
また、あるユーザーが **Retweet** すると、1 分後に 2 人のユーザーが **Retweet** します。
例えば、ツイート直後（0 分後）には 1 人が、1 分後には 2 人が、2 分後には 4 人が、3 分後には 8 人がリツイートするため、3 分後の時点での合計 **Retweet 数**は 15 となります。
$N$ 分後における Retweet 数を $N$ の式で表してください。また、Retweet 数が $10^{8}$ を超えるのは何分後でしょうか。

#### 問題 5（:star::star:）
$21$ を $2$ 進数で表してください。
また、$2$ 進数で $11010100001100000000$ となるような整数は、$10$ 進数表記で何でしょうか。ただし、プログラムを書いて解答してもよいです。

#### 問題 6（:star::star:）
$1 \ xor \ 2 \ xor \ 3 \ xor \ ... \ xor \ N$ を求めるプログラムを書いてください。
ただし、時間計算量 $O(N)$ かけても良いですが、$O(1)$ で解けるアルゴリズムも存在します。


#### 問題 7（:star::star:）
以下の値を計算するプログラムを書いてください。
$$
\sum_{a=1}^{N} \sum_{b=1}^{N} \sum_{c=1}^{N} abc
$$
ただし、時間計算量 $O(N^3)$ かけても良いですが、$O(N)$ や $O(1)$ で解けるアルゴリズムも存在します。

#### 問題 8（:star:）
$\\{8, 10, 12, 15, 20\\}$ の中から $2$ つを選ぶ方法は $10$ 通りありますが、その中で選んだ $2$ つの整数が互いに素になる方法が $1$ 通りだけ存在します。これはどのような方法でしょうか。

#### 問題 9（:star::star::star:）
文字列 $S$ が与えられます。
<code>qiita</code> は文字列 $S$ の部分文字列でしょうか。<code>Yes</code> か <code>No</code> で出力してください。

#### 問題 10（:star::star:）
$A = \\{1, 2, 9, 14\\}$、$B = \\{1, 3, 8, 9, 12\\}$ のとき、$A \cup B$、$A \cap B$、$A \setminus B$ をそれぞれ求めてください。ただし $A \setminus B$ については 2 章で触れていないですが、[差集合](https://ja.wikipedia.org/wiki/%E5%B7%AE%E9%9B%86%E5%90%88)といわれるものです。

#### 問題 11（:star::star:）
集合 $S = \\{1, 2, 3, ..., N\\}$ の空でない部分集合はいくつ存在しますか。
$N$ を使った式で表してください。

#### 問題 12（:star::star::star:）
整数 $N$ $(\leq 10^{18})$ が与えられます。
$\lfloor \sqrt{N} \rfloor$ の値と $\lceil \sqrt{N} \rceil$ の値を出力するプログラムを書いてください。

#### 問題 13（:star::star:）
数列 $A = (A_1, A_2, ..., A_N)$ が与えられます。
以下の形式の質問が $Q$ 個与えられるとき、各質問に答えるプログラムを書いてください。

* $i$ 個目の質問について：
    * 整数 $L_i, R_i$ $(1 \leq L_i < R_i \leq N + 1)$ が与えられる。
    * そのとき、数列 $A$ の区間 $[L_i, R_i)$ の和を計算し、出力する。

ただし、時間計算量 $O(NQ)$ かけても良いですが、$O(N + Q)$ で解くアルゴリズムも存在します。

#### 問題 14（:star::star:）
$3 \times 3$ 行列

```math
A = 
\begin{bmatrix}
A_{1, 1} & A_{1, 2} & A_{1, 3} \\
A_{2, 1} & A_{2, 2} & A_{2, 3} \\
A_{3, 1} & A_{3, 2} & A_{3, 3} \\
\end{bmatrix}
```

が与えられるとき、**行列式**を求めるプログラムを書いてください。
※競プロの問題ではよく知られていない用語の定義が出てきた場合、説明文が付いたり、リンクが付いたりする場合もありますが、そうでない場合もあります。例えば AtCoder では検索が使えるので、知らないキーワードが出た場合は **Google 検索**などを使うのも重要です。

---

どれくらい解けましたでしょうか。もし分からないことがあった場合、

* [アルゴリズム・AtCoder のための数学【前編：数学的知識編①】｜2. これが分からないと問題が理解できない！ ～最重要ポイント 12 選～](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-%E3%81%93%E3%82%8C%E3%81%8C%E5%88%86%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A8%E5%95%8F%E9%A1%8C%E3%81%8C%E7%90%86%E8%A7%A3%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84-%E6%9C%80%E9%87%8D%E8%A6%81%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-12-%E9%81%B8)

に戻って、再確認してみましょう。

<br />

## 5-2. 基本的なトピック、3 章の演習問題 9 問
本節では、[3 章](https://qiita.com/e869120/items/b4a0493aac567c6a7240#3-%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0%E3%81%A8%E5%AF%86%E6%8E%A5%E3%81%AB%E9%96%A2%E3%82%8F%E3%82%8B%E6%95%B0%E5%AD%A6%E5%88%9D%E7%B4%9A%E7%B7%A8)の内容から 9 題出題されます。
また、各問題の解説は[こちらのページ](https://github.com/E869120/qiita_math_algorithm_solution)で閲覧できます。現在 10 問目までしか載っていませんが、順次更新される予定です。

#### 問題 15（:star::star:）
$N$ 個の 6 面体サイコロがあり、$i$ 個目のサイコロは、各面に整数 $A_{i, 1}, A_{i, 2}, A_{i, 3}, A_{i, 4}, A_{i, 5}, A_{i, 6}$ が書かれています。
そのとき、サイコロの出目の和が $T$ となる可能性があるかどうか判定する問題を、全探索によって解くこと考えます。何通りのパターンを考える必要があるか $N$ の式で表した上で、$N$ がどの程度までなら現実的な時間（数秒以内）で実行が終わるか、考えてみてください。

#### 問題 16（:star::star::star:）
以下の 2 つのアルゴリズムを考えます。

* 計算回数（質問回数）が $\log_{2} N$ 回の二分探索
* 計算回数（質問回数）が $\log_{1.5} N$ 回の[三分探索](https://qiita.com/e869120/items/25cb52ba47be0fd418d6#4-3-%E4%B8%89%E5%88%86%E6%8E%A2%E7%B4%A2)

このアルゴリズムのオーダーが両方 $\Theta (\log N)$ であることを示してください。また、質問回数の差が何倍になっているか、考えてみてください。


#### 問題 17（:star::star::star:）
次のアルゴリズムの計算量を見積もってください。

~~~cpp
// func(N) を呼び出す
int func(int N) {
    if (N == 0) return 1;
    if (N == 1) return 2;
    return func(N - 1) + func(N - 2) + func(N - 2);
}
~~~

#### 問題 18（:star::star:）
$N$ 個の点が与えられます。番号 $i$ の点は整数座標 $(x_i, y_i)$ にあります。
$2$ つの点の間の距離がちょうど整数 $K$ となるような組は、いくつ存在するでしょうか。
ただし、計算量が $O(N^2)$ であればよいものとします。

#### 問題 19（:star::star::star:）
$2$ 点 $A(x_1, y_1), B(x_2, y_2)$ が与えられます。三角形 $ABC$ が正三角形となるような、点 $C$ の座標として考えられるものを 1 つ出力するプログラムを書いてください。

#### 問題 20（:star::star:）
整数 $A_1, A_2, ..., A_N$ の中に素数がいくつ存在するか出力するプログラムを書いてください。
ただし、$A_i \leq 10^9, N \leq 1000$ の制約下で、数秒以内で実行が終われば良いものとします。

#### 問題 21（:star::star::star:）
以下のような道路網を考えます。

* $N$ 個の都市がある。
* $i = 2, 3, ..., N$ それぞれについて、都市 $i$ と都市 $\lfloor i \div 2 \rfloor$ を双方向に結ぶ道路がある。
* 各道路は、2 つの都市間を 1 分で移動できる。

そこで、「どの都市 $u$ $(1 \leq u \leq N)$ を選んでも、都市 $1$ から $T$ 分以内で移動できる」ような $T$ として考えられる最小の値を $N$ の式で表してください。
※なお、このような構造を持つグラフのことを[二分木]()といいます。調べてみましょう。

#### 問題 22（:star::star::star:）
集合 $S = \\{1, 2, 3, ..., N\\}$ があります。$N$ が与えられるとき、集合 $S$ の空でない部分集合の個数を $10^9 + 7$ で割った余りを求めるプログラムを書いてください。ただし、計算量 $O(\log N)$ のアルゴリズムが要求されます。

#### 問題 23（:star::star::star:）
次の形式の質問が $Q$ 個与えられたとき、各質問に答えるプログラムを書いてください。

* $i$ 個目の質問について：
    * 整数 $a_i, b_i$ が与えられる。
    * そのとき、$\left( a_i \times (a_i+1) \times ... \times b_i \right)$ の値を $10^9 + 7$ で割った余りを出力する。

ただし、$1 \leq a_i, b_i, Q \leq 200000$ の制約下で、数秒以内で実行が終わる必要があります。

---

どれくらい解けましたでしょうか。もし分からないことがあった場合、

* [アルゴリズム・AtCoder のための数学【前編：数学的知識編①】｜アルゴリズムと密接に関わる数学＜初級編＞](https://qiita.com/e869120/items/b4a0493aac567c6a7240#2-%E3%81%93%E3%82%8C%E3%81%8C%E5%88%86%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A8%E5%95%8F%E9%A1%8C%E3%81%8C%E7%90%86%E8%A7%A3%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84-%E6%9C%80%E9%87%8D%E8%A6%81%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-12-%E9%81%B8)

に戻って、再確認してみましょう。

<br />

## 5-3. 発展的なトピック、4 章の演習問題 9 問
本節では、[4 章](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-アルゴリズムと密接に関わる数学中級編)の内容から 9 題出題されます。
また、各問題の解説は[こちらのページ](https://github.com/E869120/qiita_math_algorithm_solution)で閲覧できます。現在 10 問目までしか載っていませんが、順次更新される予定です。

#### 問題 24（:star::star:）
$f(x) = x^3$ とするとき、$f'(2), f'(5)$ の値を求めてください。

#### 問題 25（:star::star::star:）
2 変数関数 $f(x, y) = x^3 + xy + y^3$ を考えます。

* $x$ についての偏微分
* $y$ についての偏微分

をそれぞれ計算してください。

#### 問題 26（:star::star::star::star:）
トリボナッチ数列

* $A_1 = A_2 = A_3 = 1$
* $A_N = A_{N-1} + A_{N-2} + A_{N-3} \ (N \geq 4)$

の第 $N$ 項を $O(\log N)$ で計算するアルゴリズムを考えてみてください。

#### 問題 27（:star::star:）
次のようなグラフ $G(V, E)$ を図に表してみてください。また、彩色数を求めてください。

* $V = \\{1, 2, 3, 4, 5\\}$
* $E = \\{(1, 4), (2, 4), (3, 4), (1, 5), (2, 5), (3, 5)\\}$

#### 問題 28（:star::star::star:）
$N$ 頂点 $M$ 辺のグラフの連結成分数として考えられる最小値を、$N, M$ を使った式で表してください。

#### 問題 29（:star::star::star:）
次の問題を解くプログラムを書いてみてください。

> $N$ $(\leq 30)$ 個の椅子がある。最初、椅子 $i$ には番号 $i$ の生徒が座っている。
> あなたは以下の操作を $Q$ $(\leq 30)$ 回行う。
> 
> * 整数 $x, y$ $(1 \leq x, y \leq N)$ を一様な確率で選ぶ。
> * そして、椅子 $x, y$ に座っている生徒を交換する。ただし $x=y$ の場合は何もしない。
>
> 「生徒の番号と座っている椅子の番号が同じ位置」が存在しない確率を求めなさい。ただし、絶対誤差が $0.02$ 以内であれば正解となる。

#### 問題 30（:star::star::star::star:）
まず、$N + \frac{N}{2} + \frac{N}{3} + ... + \frac{N}{N} = O(N \log N)$ であることを証明してください。

次に、[エラトステネスの篩](https://ja.wikipedia.org/wiki/%E3%82%A8%E3%83%A9%E3%83%88%E3%82%B9%E3%83%86%E3%83%8D%E3%82%B9%E3%81%AE%E7%AF%A9)の計算量が $O(N \log N)$ であることを証明してください。（実際の計算量は $O(N \log \log N)$ ですが、そこまでタイトに証明する必要はありません）

#### 問題 31（:star::star::star::star::star:）
[クイックソート](https://ja.wikipedia.org/wiki/%E3%82%AF%E3%82%A4%E3%83%83%E3%82%AF%E3%82%BD%E3%83%BC%E3%83%88)の平均計算量が $O(N \log N)$ であることを証明してください。

#### 問題 32（:star::star::star::star::star:）
実数 $L, R, a_0, a_1, a_2, ..., a_n$ が与えられます。
$N$ $(\leq 50)$ 次関数 $f(x) = a_nx^n + a_{n-1}x^{n-1} + ... + a_1x^1 + a_0x^0$ があります。
定義域が $L \leq x \leq R$ のとき、関数 $f(x)$ の最大値を、できるだけ小さい誤差で求めるプログラムを書いてください。ただし、概ね 0.01 秒以内で実行が終わる必要があります。

---

どれくらい解けましたでしょうか。もし分からないことがあった場合、

* [アルゴリズム・AtCoder のための数学【中編：数学的知識編②】｜アルゴリズムと密接に関わる数学＜中級編＞](https://qiita.com/e869120/items/bd7cfd2dbd2706cb8657#4-アルゴリズムと密接に関わる数学中級編)

に戻って、再確認してみましょう。

<br />

## 5-XX. 本記事を終えた次は？
本記事の内容をマスターすれば、<font color="#C0C000">**黄色コーダー**</font>になるために必要な数学的知識はほとんどカバーできたと言って良いと思います。しかし、

* 数学的知識だけでは、プログラミングコンテストでは戦えない
* 数学的考察も重要である

という現状があるので、後編では**初心者レベルから水色コーダーレベルまでに要求される数学的考察**について解説したいと思います。独立したトピックですので、初心者から競プロ経験者まで楽しめる構成となっております。興味があれば是非お読みください。

#### 後編

* [アルゴリズム・AtCoder のための数学【後編：数学的考察編】](https://qiita.com/e869120/items/1ccb2bdf16890637e767)

# -1. つづく
[後編](https://qiita.com/e869120/items/1ccb2bdf16890637e767)に続きます。



[^1]: [前編](https://qiita.com/e869120/items/b4a0493aac567c6a7240)では既に 470 LGTM（2021.4.11 時点）と、筆者本人予想の 10 倍を超える大好評となったため、クオリティを重視する目的で少し公開が遅れます。大変申し訳ございません。
[^2]: フォロー関係を表したグラフでは、[スモールワールド性](https://ja.wikipedia.org/wiki/%E8%A4%87%E9%9B%91%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF#%E3%82%B9%E3%83%A2%E3%83%BC%E3%83%AB%E3%83%AF%E3%83%BC%E3%83%AB%E3%83%89%E6%80%A7)という面白い性質があって、$2$ 人のユーザーをランダムに取ってきたときに、おおよそ $5～6$ 回程度フォロワーに遷移することで、一方からもう一方まで行くことができるようです。（例えば $1$ 回の遷移だとフォロワー、$2$ 回の遷移だとフォロワーのフォロワー、といった感じになります。
[^3]: 偏差値に換算すると分かりやすいかもしれません。$Z = 0$ だと偏差値 50、$Z = 1$ だと偏差値 60、$Z = 2$ だと偏差値 70、… といったイメージです。
[^4]: $A \times B$ 行列は、縦 $A$ 行、横 $B$ 列の行列の事を指します。
[^5]: 例えば最大安定集合問題が多項式時間で解けたりします。詳しくは[こちらの記事](https://qiita.com/drken/items/7f98315b56c95a6181a4)に書かれています。