ものづくりのための AI 入門講座

No.1
基礎監
執修 / 中島筆 / 高柳編
秀之
浩

目

第 1 分冊次

学習のねらい ............................................................................ 1

第 1 週 AI（人工知能）とは ...................................................................... 3
1.1 AI（Artificial Intelligence, 人工知能）研究の始まり................................... 4
1.1.1 AI の歴史................................................................................................ 4
1.1.2 AI の定義................................................................................................ 8
1.2 AI をものづくりに利用する上での考え方................................................... 10
1.3 AI が利用される分野................................................................................... 11
1.3.1 モノ作りから見た AI............................................................................ 111.3.2
AI を用いて行えること........................................................................ 12
1.4 機械学習とは............................................................................................... 171.4.1
機械学習を実現するための手法.......................................................... 18
1.4.2
データセットから見た学習手法の分類.. .............................................. 19
1.4.3
モデルから見た手法の分類................................................................. 21『まとめと練習問題』................................................................................. 23
第 2 週 機械学習 ................................................................................... 25
2.1 教師あり学習（Supervised Learning）とは............................................. 26
2.1.1 クラス分類........................................................................................... 26
2.1.2 回帰分析............................................................................................... 31
2.2 教師なし学習（Unsupervised Learning）とは........................................ 34
2.2.1 クラスタリング.................................................................................... 34
2.2.2 主成分分析 (Principal Component Analysis , PCA)......................... 40
2.3 半教師あり学習........................................................................................... 43
2.3.1 半教師あり学習とは............................................................................. 43
2.3.2 半教師あり学習の手順.. ........................................................................ 44
2.4 強化学習...................................................................................................... 48
2.4.1 強化学習とは........................................................................................ 48
2.4.2 強化学習の手順.................................................................................... 49『まとめと練習問題』................................................................................. 52
第 3 週 ニューラルネットワーク............................................................... 55
3.1 ニューラルネットワークの基礎.................................................................. 56
3.1.1 神経細胞（ニューロン）........................................................................ 56
3.1.2 形式ニューロン.................................................................................... 58〜i〜3.1.3 ニューラルネットワークの種類............................................................ 61
3.1.4 単純パーセプトロン............................................................................. 64
3.1.5 多層ニューラルネットワーク............................................................... 65
3.2 単純パーセプトロンの学習方法.................................................................. 67
3.3 多層ニューラルネットワークの学習方法.................................................... 69
3.3.1 勾配法.................................................................................................. 69
3.3.2 誤差逆伝播法（バックプロパゲーション：Backpropagation）.......... 71『まとめと練習問題』................................................................................. 74
第 4 週 深層学習（ディープラーニング）.................................................... 77
4.1 深層学習（ディープラーニング）とは........................................................ 78
4.1.1 従来の手法の問題点............................................................................. 78
4.1.2 ディープラーニングの様々な手法........................................................ 80『まとめと練習問題』................................................................................. 88SETP UP .............................................................................................. 90
参考文献................................................................................................ 91
練習問題の解答 ....................................................................................... 93
索 引................................................................................................... 94〜 ii 〜第1週

AI（人工知能）とは【学習のポイント】

人工知能（以降，AI）の研究がはじまってから今日までの歴史を学び，これまでの技術的な背景や AI の定義について学びます。
また，AI の様々な利用方法や，ものづくりの視点からの活用方法について解説します。

〜3〜

AI（人工知能）とは第1週

翌年，1947 年には，アラン・チューリングがロンドン数学学会の講義で現在の人工知能概念を提唱し，さらに 1950 年にチューリングテスト（ある機械に人間並みの知能が備わっているかを判定するテスト）を提言しました。
このような背景の中で，1956 年に前記のダートマス会議が開かれました。このダートマス会議では，アレン・ニューウェル，ハーバード・サイモン，J・C・ショーが，最初の AI プログラム（The First Artificial Intelligence Program）と言われている，「Logic Theorist」のデモが行われました。
Logic Theorist は，数学の基礎的な定理を記号論理により記述した書籍プリンキピア・マテマティカ（Principia Mathematica: 数学原理）の，最初の 52 の定理のうち，38 個を証明することに成功しました。さらに，その証明の一部は，これまでの証明法よりも，より明確なものを導き出しました。
1949 年に，ドナルド・ヘッブによって，シナプス（神経細胞同士の接合部位）に発火が起こる（活動電位が発生し情報を伝達する）とそのシナプスの伝達効率が増強され，発火が長期間起こらないとそのシナプスの伝達効率は減退するという神経の可逆性理論の 1 つである法則（ヘッブの法則）を提案しました。
1951 年マービン・ミンスキーとデヴィン・エドモンズのチームにより，ヘッブの学習法則を用いて 40 台（1 台を 1 シナプスとして構成）のニューロコンピュータを設計し，ラットが迷路を通って道を見つけるシミュレーションを試みました。これは，最初の人 工 知 能 ニ ュ ー ラ ル ネ ッ ト ワ ー ク シ ス テ ム（SNARC，Stochastic Neural AnalogReinforcement Computer）と呼ばれています。ニューラルネットワークとは神経回路網のことです。しかしながら実際には故障のためうまく学習はできませんでした。
1957 年にはフランク・ローゼンブラットが形式ニューロンからパーセプトロン（単純パーセプトロン：Simple Perceptron）というアルゴリズム（問題を解く手順）を発明しました。
翌年 1958 年には，The Mark I Perceptron という画像認識が出来るニューラルネッ
トワークシステムを開発しました。このシステムは 400 ピクセル（20 × 20）の画像をカメラから入力し，パターン認識をすることが出来ました。
この単純パーセプトロンは若干の改良が加えられながら現在も広く使われているニューラルネットワークモデルの原型です。

〜5〜

第 1 分冊

基礎編（2）1960 ～ 1970 年代
万能と考えられていたパーセプトロンにいくつかの欠点があることが分かり，この時代にはニューラルネットワークに関する期待が薄れ AI に対する注目度も下がりました。
きっかけは，1969 年にマービン・ミンスキーとシーモア・パパートにより，単純パーセプトロンは，線形分離可能（2 次元の場合，2 つのデータ集合を 1 本の直線で分離することができる）であるが，線形分離不可能（2 次元の場合，2 つのデータ集合を 1本の直線で分離することができず，曲線でなければ分離できない）な場合には対応できないと指摘されたことでした。

線形分離可能（直線で分離できる）
図 1.1

線形分離不可能（曲線でなければ分離できない）
線形分離可能と不可能

そのため AI 研究者は，単純パーセプトロンに依らない統計手法などのニューラルネットワーク以外の手法を模索しました。
（3）1980 年代
単純パーセプトロンでは不可能であった，線形分離不可能な場合のパターン認識に対して多層パーセプトロンとその学習方法が提案されたことによって，再び AI およびニューラルネットワークが着目された時代です。
1982 年，ジョン・ホップフィールドにより，ホップフィールド・ネットワーク（再起型ニューラルネットワーク）が提案されました。
1985 年，ジェフリー・ヒントンらによりボルツマンマシン（統計的変動を用いたホップフィールドネットワーク）が提案されました。
1986 年，デビッド・ラメルハートらにより誤差逆伝播法（バックプロパゲーション）が提案されました。なお，この手法は 1967 年に甘利俊一が既に発表していたものです。
（4）1990 ～ 2000 年代前半
多層パーセプトロンに，過学習 (Over-fitting)，勾配の消欠（Vanishing Gradient）といった問題が顕著化して，ニューラルネットワークの研究が下火になり，再び確率・〜6〜AI（人工知能）とは第1週

統計的な研究が中心となりました。

（5）2000 年代後半から現在
過 学 習， 勾 配 の 消 欠 と い っ た 問 題 を 解 決 す る ア プ ロ ー チ が 提 案 さ れ る と と も に，GPU（Graphics Processing Unit：グラフィック処理用チップ）による計算速度の飛躍的な向上やインターネットの普及などに伴う大量データの獲得が出来るようになり，新たに AI が実用として着目され始めてきました。
2006 年，ジェフリー・ヒントンらによりオートエンコーダおよびディープ・ビリーフ・ネットワークなどのアルゴリズムが提案され，これらの手法がディープラーニング（深層学習）へと発展しました。
同じく 2006 年に NVIDIA（エヌビディア：半導体メーカー）が GPU 向け汎用並列コンピューティングプラットフォーム CUDA（Compute Unified Device Architecture：クーダ）を発表し，翌年公開されました。GPU は CPU（Central Processing Unit：中央処理装置）よりも単純な演算をするプロセッサの数が多い（NVIDIA GTX1080 で 2,560基持つ）ため並列演算性能に優れており，シンプルな演算を大量に行うニューラルネットワークの学習が従来よりも素早く出来るようになりました。
2012 年 に 画 像 認 識 コ ン テ ス ト「ILSVRC（ImageNet Large Scale VisualRecognition Challenge）」で，ヒントンらのグループによりディープラーニング技術が適用された結果，認識率の向上で大きな成果を上げ，一躍脚光を浴びました。
2015 年に囲碁プログラムである AlphaGO が人間のプロ囲碁棋士を破り，AI 研究の世界だけでなく世間一般の話題となりました。
AI の歴史は，そのままコンピュータの発達と密接に関わっています。それは AI を具現化するためのシステム（機械）としてコンピュータが現時点で最も適しているからです。また，人がコンピュータに求める機能が，往々にして AI に対して描く期待と同じであったことも大きな要因と考えられます。
そのため，AI の発達は，コンピュータ（または IT）の発達とともにあります。
現在，AI が様々な成果を上げている背景には，AI 研究者の地道な努力の他にハードウェアの技術革新（大量のメモリ，高速化，分散化処理）や，インターネット上のサービスの普及により蓄積された大量のデータ（ビックデータ）が取り扱える環境が整ったことが挙げられます。
〜7〜