『イラストで読む AI 入門』読書メモ 01 : AI ブームの歴史 (パーセプトロン, バックプロパゲーション, ディープラーニング)

初 Qiita 記事です！
森川 幸人 さんの著書『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』を読んでいこうと思います。
そのさい、読んで学んだことを皆様にもシェアできたら嬉しいと思い、読書メモをこちらにまとめます。この記事は、その読書メモ記事群の第一回目です。（第二回目は[こちら](https://qiita.com/chomado/items/59b077849d23a2832a75)）

![](https://images-na.ssl-images-amazon.com/images/I/31uz3qQcXkL._SX304_BO1,204,203,200_.jpg)

（注意：この記事は「私の研究記事」ではなく、あくまで『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』の読書メモです。学んだことをまとめました。私の読書勉強ノートが誰かの役に立ちますように）

(また、AI 系は文献によって微妙に定義が異なったりするので、この記事では、あくまでこの本に書いてあることだけを書きます)

## 参考文献・参考記事

* 『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』| 森川 幸人 さんの著書。良書だと思ったので今ここで読書メモを書き始めた。
* 『<a href="https://docs.microsoft.com/ja-jp/azure/machine-learning/service/overview-what-is-azure-ml?WT.mc_id=docs-blog-machiy" target="_blank">Microsoft Azure Machine Learning とは</a>』 | Azure Machine Learning とは、機械学習モデルのトレーニング、デプロイ、自動化、管理を行うためのクラウド サービスであり、これらの操作のすべてをクラウドによって提供される幅広い規模で行うことができます。
* 『<a href="https://docs.microsoft.com/ja-jp/azure/machine-learning/studio/algorithm-choice?WT.mc_id=docs-blog-machiy" target="_blank">Azure Machine Learning Studio のアルゴリズムの選択方法</a>』｜これすごい。いっかい読んで欲しい。分かりやすい
* 『<a href="https://docs.microsoft.com/ja-jp/dotnet/machine-learning/resources/glossary?WT.mc_id=docs-blog-machiy" target="_blank">機械学習の重要な用語の用語集</a>』 | 精度, 曲線下面積 (AUC), 二項分類, F 値, ハイパーパラメーター, 教師あり機械学習,再現率, 正則化, 回帰, 相対絶対誤差, など
* 『<a href="https://newtechnologylifestyle.net/%E4%BB%8A%E3%81%95%E3%82%89%E8%81%9E%E3%81%91%E3%81%AA%E3%81%84%E3%83%90%E3%83%83%E3%82%AF%E3%83%97%E3%83%AD%E3%83%91%E3%82%B2%E3%83%BC%E3%82%B7%E3%83%A7%E3%83%B3%E3%81%A8%E3%81%AF/" target="_blank">今さら聞けないバックプロパゲーションとは</a>』
* 『<a href="https://qiita.com/yudsuzuk/items/a8e1eee92403f0921d92" target="_blank">人工知能やディープラーニングの理解に欠かせないパーセプトロンとは何か？</a>』
* 『<a href="https://qiita.com/ruka38/items/2f2f958c1d45728ea577" target="_blank">パーセプトロンからはじめる分類問題</a>』
* 『<a href="https://newtechnologylifestyle.net/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BDai%E3%83%96%E3%83%BC%E3%83%A0%E3%81%AE%E6%AD%B4%E5%8F%B2/" target="_blank">人工知能AIブームの歴史</a>』


## AI ブームの歴史

ことがら|期間|背景|キーワード
----|----|----|----
"AI" 誕生|1956年|アメリカの認知科学者のミンスキーが命名。学会でこの単語が使われた|人工知能
第 1 次 AI ブーム|1956 ～ 60年代|コンピュータの出始め|パーセプトロン
第 2 次 AI ブーム|1980年代 ～ 90年|家庭にコンピュータが普及|バックプロパゲーション
第 3 次 AI ブーム|2011年以降|クラウドやつよつよコンピュータが使えるように。また、インターネットで学習データが集めやすい|ディープラーニング


### AI というネーミング

`AI` は `Artificial Intelligence (人工知能)` の略で、
1956 年のダートマス会議で生まれた言葉。

アメリカの認知科学者の **ミンスキー** がダートマス大学で
『The Dartmouth Summer Research Project on Artificial Intelligence』（人工知能に関するダートマスの夏期研究会）という名前の学会を開催した。
ここで世界で初めて「人工知能」という言葉が使われた。


↓「人工知能の父」と呼ばれる **ミンスキー** 氏
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24609/79752fe4-9eac-13f7-4911-465247ce65c5.png)

(写真は <a href="https://ja.wikipedia.org/wiki/マービン・ミンスキー" target="_blank">ウィキペディア『マービン・ミンスキー』</a> より)

『人工の知能』って、すごい名前を付けましたね！　人工の知能。強そう。

本に戻ります。

> この命名からは、機械に言語を扱えるようにさせる自分たちの研究により、機械がいずれ人間の知能に追い付くのだという意気込みが感じられると思います。

> いきなり話が横道に逸れますが、このとき「インテリジェンス（知能、知性）」という言葉を使わず、「マシンラーニング（機械学習）」くらいにしておいてくれれば、そのあとの苦労は少し減ったのではないかといわれています。いきなり「知能、知性」などといってしまったおかげで、背負っているものがとても大きくなってしまいました。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 27 ページより）

（私の AI 詳しい知り合いが「俺は何でも AI って言うのは好きじゃないんだよね。機械学習ならいいけど」って言ってたのを思い出しました。この認識って彼個人だけのものではなかったんだなあと思いました。）

当時、人間の知性についての理解がまだ今よりは進んでおらず、コンピュータで代換可能だと思われていた。でもどんどん人間の知性についての理解が進んできて「人間の知性は思ってたよりすごかった」状態に。

> そのため「最初にもう少し軽めに目標設定しておけばよかったのに」という声が上がっているわけです。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 28 ページより）

## あっという間に終わった第一次 AI ブーム

現在、AI は 3 回目のブームと言われている。

最初のブームは、ちょうどコンピュータが出始めた頃で、前述のダートマス会議から始まった。

> 最初の AI は「 **パーセプトロン** 」というモデルで、簡単な記録と判断ができました。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 28 ページより）

> パーセプトロンとは、1957年、ローゼンブラットというアメリカの研究者によって考案されたアルゴリズムのことですが、人工知能や機械学習、ディープラーニングなどのアルゴリズムの礎になっており、それらを理解する上では必須知識です。

（@yudsuzuk さんの記事『<a href="https://qiita.com/yudsuzuk/items/a8e1eee92403f0921d92" target="_blank">人工知能やディープラーニングの理解に欠かせないパーセプトロンとは何か？</a>』より）

Perceptron。

ちなみに Microsoft の機械学習クラウドサービス Azure Machine Learning で使えるアルゴリズム一覧を見てみたら『averaged perceptron』とかもあった。

『<a href="https://docs.microsoft.com/ja-jp/azure/machine-learning/studio/algorithm-choice?WT.mc_id=docs-blog-machiy" target="_blank">Azure Machine Learning Studio のアルゴリズムの選択方法</a>』

パーセプトロンについて色々調べたくなったけど、止まらなくなりそうなので、いったん置いといて、取り敢えず本を読み進める。

当時「パーセプトロンすげー！コンピュータとこれがあれば人間の知能を置き換えられるのでは」って盛り上がったけど、そのパーセプトロンに致命的な欠陥が見つかった。

> しかし、パーセプトロンに致命的な欠陥が見つかり、あっという間にブームは収束してしまいました。ブームを収束させたのも、ダートマス会議の主催者の一人であるミンスキー本人でした。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 30 ページより）

AI の能力のひとつに「問題を正しく分別できる」がある。「それは正しいか間違いか」「それは赤いか白いか」などを対象ごとにきちんと学習、判断できることが求められた。

単純パーセプトロンで、非常にシンプルな対象についてはちゃんと分別できることが分かったけど、〇と×の線引きが直線的にしかできないという問題が発覚した。直線では分けられても、曲線では分けられない。これを「 **非線形問題** 」とか「 **線形分離不能問題** 」とかいう。

![パーセプトロン](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24609/6e0f78a1-0d70-cc09-a290-6105010ffbce.png)



> 人間の脳細胞ニューロンをまね, コンピューター上で最初に表したものがパーセプトロン(perceptron)である. データを２つのクラスに線形で分離するために考案された. それゆえ非線形問題は解決できず

（@ruka38 さんの記事『<a href="https://qiita.com/ruka38/items/2f2f958c1d45728ea577" target="_blank">パーセプトロンからはじめる分類問題</a>）

この問題があって、単純パーセプトロンは実用的ではない、と、ミンスキー（ダートマス会議開いた人）が気づいて、数学的に証明し、第一回目の AI ブームはあっという間に過ぎた。

## 第二次 AI ブーム

第二回目のブームは二十世紀終わり頃。

> パーセプトロンの欠点をうまく克服した「 **バックプロパゲーション** 」というモデルが発明されて、「これはいけるかも！」となったわけです。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 33 ページより）

**バックプロパゲーション** (Backpropagation) とは『 **誤差逆伝播法** (ごさ ぎゃく でんぱ ほう)』とも呼ばれているようですね。

> 今さら聞けないバックプロパゲーションとは

> 機械学習では神経細胞のネットワークを模倣したニューラルネットワークを用いて推論を行っていきますが、学習の過程で推論と正解値が異なる場合があります。そのまま続けた場合、学習の精度があまり良くない状態となってしまうので、出力結果を元にニューラルネットワーク全体の修正をその都度を行っていく仕組みがあります。その仕組みがバックプロパゲーションと呼ばれる方法です。

> バックプロパゲーションは別名、誤差逆伝播法（ごさぎゃくでんぱほう）と呼ばれ、1986年にデビッド・ラメルハートらによって命名されました。バックプロパゲーションの役割はコンピュータの回答が間違っていたり、期待とは離れている場合、誤差を出力側から逆方向に返し、各ニューロンの誤りを正す役割となります。

（記事『<a href="https://newtechnologylifestyle.net/%E4%BB%8A%E3%81%95%E3%82%89%E8%81%9E%E3%81%91%E3%81%AA%E3%81%84%E3%83%90%E3%83%83%E3%82%AF%E3%83%97%E3%83%AD%E3%83%91%E3%82%B2%E3%83%BC%E3%82%B7%E3%83%A7%E3%83%B3%E3%81%A8%E3%81%AF/" target="_blank">今さら聞けないバックプロパゲーションとは</a>』より）

しかし、なかなか実用に使えるような精度にまでは到達しなかった。
人の生活を変えられるような精度を出せず、世の中の役に立つかどうかというところで、ブレイクスルーが起こらず、

> 二回目のブームは二十世紀を超えられないまま、何となく消えて行ってしまいました。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 34 ページより）

## 第三次 AI ブーム ← 今ここ

2012 年に **ディープラーニング** ( **深層学習** ) が登場したことにより、現在また AI ブームが始まった。

毎年開かれていた画像認識コンテスト『ILSVRC (ImageNet Large Scale Visual Recognition Challenge)』で、
2012 年に突然いきなり登場して驚異的な成績をあげた AI があり、
「なんだこれは」と大騒ぎになった。

> トロント大学のヒントン教授が引っさげて来たこの **ディープラーニング** という AI モデルは、実は全くの新型モデルだったわけではなく、2回目のブームの主役だった **バックプロパゲーションの改良型** でした。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 36 ページより）

 **ディープラーニング** とは、ざっくり言うと

1. 『 **畳み込みニューラルネットワーク** 』
2. 『 **多層ニューラルネットワーク** 』

というふたつの AI を合体させたもので、
これらはいずれも 2回目のブームの時にすでに個別に開発されていた。

> しかし、両者を組み合わせただけでこんなに精度が上がって強力なものが出来るとは誰も思っていませんでした。まさに灯台下暗しです。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 36 ページより）

### 第三次 AI ブームは、従来のものとは違う

この第三次 AI ブームは、今までの「学者の間だけでのブーム」とは違って、一般の人たちも巻き込んでいる。

Google や Microsoft, IBM などの大企業が巨大な投資をしているから。


参考1：<a href="https://www.nikkei.com/article/DGXMZO47656540T20C19A7000000/" target="_blank">マイクロソフト、AI研究企業に 1100億円 投資</a> | すごい額だ
参考2：<a href="https://jp.techcrunch.com/2019/05/19/2019-05-17-microsoft-aims-to-train-and-certify-15000-workers-on-a-i-skills-by-2022/" target="_blank">マイクロソフトは2022年までに1万5000名の労働者にAIのスキルと資格証明を賦与</a>

Google の例。

> グーグルはウェブ検索サービスを始めたときから、検索のデータなどを集めているといわれていますし、グーグルマップなどでの検索、カーナビなどの利用データなども集めているようです。そのような **ビッグデータ** はデータ量が多過ぎて、もはや人や簡単な計算では解析しきれなくなってきています。

> そこで、**ビッグデータから有用な情報を取り出す作業** （これを「 **データマイニング** 」といいます）を AI にやらせる必要性が出てきました。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』 38 ページより）

また、インターネットにより、ディープラーニングに教えるべき大量のデータ（これを「 **教師信号** 」という）が集めやすくなったことも AI が発展した大きな要因。

## まとめ

ここまでが、『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』の 40 ページ目までの、AI の歴史についての内容です。
私が 1日で読める内容はここまででした。
今に至るまでの変遷が物語のように「簡単な感じで」書いてあって、とても面白く読むことが出来ました。私のこの読書経験のメモが皆様の役に立てたら嬉しいです。

次は **ニューラルネットワーク** などの話題について書きます。

（『<a href="https://www.amazon.co.jp/dp/4480683496/" target="_blank">イラストで読むAI入門</a>』著者の森川先生、こんな素晴らしい本をこの世に出してくださってありがとうございます！勉強します！）

次回、続く！

2019/11/12
追記：続きの記事を公開しました！
→ [『イラストで読む AI 入門』読書メモ 02：ヒトの神経細胞とニューラルネットワーク入門の入門](https://qiita.com/chomado/items/59b077849d23a2832a75)