Azure Machine Learningをわかった気になるために細かいことは気にせずに機械学習のことをまとめてみる - ディープラーニングの手前まで

## 機械学習とは

[wikipedia](https://ja.wikipedia.org/wiki/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92)によると

> 機械学習（きかいがくしゅう、英: machine learning）とは、人工知能における研究課題の一つで、人間が自然に行っている学習能力と同様の機能をコンピュータで実現しようとする技術・手法のことである。

コンピュータに大量のデータを放り込んで自動的に特徴を発見させ、未知のデータに対してもその特徴から何に該当するかを推測させる手法……だと思う。
[大量のデータがなくても学習させる方法](http://nge.jp/2015/12/19/post-126703)も研究されているみたいだけど、タイトルにもある通り細かいことは気にしない。

## 独断と偏見による他のバズワードとの関係

あくまで機械学習との関係でという話で、個々の文脈において機械学習が大きな割合を占めているとは限らないので悪しからず。

### ドローン

姿勢制御とか自動操縦に活用。

### ビッグデータ

機械学習のために放り込むデータで、これがないと始められない。

### IoT

ビッグデータを集めるための端末。
機械学習による予測データに基づく自動制御。

### ブロックチェーン

リアルタイムに送られ続けるビッグデータをうまく処理できそうな仕組み。
あるいは機械学習で生成した予測モデルを利用した自動化に使えそうな仕組み。

### 人工知能(AI)

[強いAIと弱いAI](https://ja.wikipedia.org/wiki/%E5%BC%B7%E3%81%84AI%E3%81%A8%E5%BC%B1%E3%81%84AI)があり、機械学習は弱いAIを実現するための手法。
機械学習を用いないチェスプログラムなども弱いAIに含まれる（ような含まれないような）ので、弱いAI=機械学習というわけでもない。
何も修飾語をつけずに人工知能とかAIという場合は、ディープラーニングに触発されて強いAIを妄想しているのだと思う。

### ディープラーニング

機械学習の精度にブレークスルーをもたらした手法。
（実運用にはGPU必須で学習時間も結構かかるなど）大量のリソースが必要な~~札束で殴れる人~~余裕のある人向けのものだが、クラウドとかプロセッサのスペック向上とかで遅くとも数年内にはお手頃に（なってほしい）。

### チャットボット

人間の入力を適切なシナリオに振り分けるのに機械学習が使われる。（シナリオ対話型）
あらかじめ決められたシナリオに従うのではなく、入力に対して適切なアクションを実行したり提案したりするのにも機械学習が使われるが、その場合のリアクションはチャットに限らないのでチャットボットより広いボットの文脈だと思う。

### VR・AR

直接の関係はなさそうだが、[自動運転の訓練](http://gigazine.net/news/20160203-google-self-driving-simulation/)とか[強化学習を利用した人工生命の開発](http://ascii.jp/elem/000/001/149/1149849/)だとか、ちょっと斜め上な使い方をすることがある。

### その他

fMRIの読み取り画像から[思い浮かべたものを推定](http://japan.digitaldj-network.com/articles/27989.html)したり、[見ている映像を復元](http://eetimes.jp/ee/articles/1604/20/news042.html)したりできてきているし、ヘッドバンド型の脳波計（いわゆる[ブレイン・マシン・インタフェース](https://ja.wikipedia.org/wiki/%E3%83%96%E3%83%AC%E3%82%A4%E3%83%B3%E3%83%BB%E3%83%9E%E3%82%B7%E3%83%B3%E3%83%BB%E3%82%A4%E3%83%B3%E3%82%BF%E3%83%95%E3%82%A7%E3%83%BC%E3%82%B9)）なんかが入力デバイスになると面白いことになるのかもしれない。（fMRIでは脳波は読み取れてないだろうとか細かいことは気にしない）
fMRIの解像度の問題もあるのか、映像の復元なんかは微妙な結果に見えるかもしれないけど、[元画像と縮小画像の差を学習させて解像度を上げる手法](https://github.com/nagadomi/waifu2x)もあるし、正解データと読み取りデータの組み合わせが増えてくると多少はマシになるんじゃないかと思う。

## 機械学習への入門方法

正直、まだ入門してないので色々な情報を集めて、良さげなものを選定。

### とりあえず何ができるのか試してみる

自分で機械学習をやったとは言えないが、[事例](http://qiita.com/naoyashiga/items/8f20716810521cf257d8)や[他人が機械学習を使って作ったサービス](http://qiita.com/shngt/items/966799cc3f7c77a6fa17)を利用してみると、何ができそうかイメージが湧く。

### 最初はやるべきでないことを認識する

全体像からすると、最初に押さえるべきことよりも、最初に手を出すべきではないことの方が多いはず。
そこは最初はスルーしていいよってところを確認しておくと、どこまでも手を伸ばして挫折する確率が下がりそう。

[機械学習をこれから始める人に押さえておいてほしいこと](http://qiita.com/IshitaTakeshi/items/4607d9f729babd273960)
[機械学習クソ素人の俺がプロダクトをリリースするまでの2ヶ月で覚えたこと](http://qiita.com/puriketu99/items/c519a95c0b16ea63c1ac)

あと、機械学習におけるプログラミングの位置づけって、デザイナーにおけるそれと同じような気がする。
新しい言語やフレームワークを習得するのとは全く違う領域に足を踏み入れようとしているんだという認識が必要かも。

### 教材を利用する

機械学習の前提知識として必要な数学・統計[^1]

[^1]: 動画学習のところで紹介しているスタンフォード大学の講座も、最低限必要な数学に関する知識は解説があり、高校文系数学までの知識でも乗り越えられたので、最初は数学やらなくてもいいかもしれない

- [プログラミングのための線形代数](http://www.amazon.co.jp/%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E7%B7%9A%E5%BD%A2%E4%BB%A3%E6%95%B0-%E5%B9%B3%E5%B2%A1-%E5%92%8C%E5%B9%B8/dp/4274065782)
- [知識ゼロからの微分積分入門](http://www.amazon.co.jp/%E7%9F%A5%E8%AD%98%E3%82%BC%E3%83%AD%E3%81%8B%E3%82%89%E3%81%AE%E5%BE%AE%E5%88%86%E7%A9%8D%E5%88%86%E5%85%A5%E9%96%80-%E5%B0%8F%E6%9E%97-%E9%81%93%E6%AD%A3/dp/4344902270)
- [高専の数学](http://www.amazon.co.jp/%E6%96%B0%E7%B7%A8-%E9%AB%98%E5%B0%82%E3%81%AE%E6%95%B0%E5%AD%A61-%E7%AC%AC2%E7%89%88%E3%83%BB%E6%96%B0%E8%A3%85%E7%89%88-%E7%94%B0%E4%BB%A3-%E5%98%89%E5%AE%8F/dp/4627048130/)
- [基礎からの微分積分](http://www.amazon.co.jp/%E5%9F%BA%E7%A4%8E%E3%81%8B%E3%82%89%E3%81%AE%E5%BE%AE%E5%88%86%E7%A9%8D%E5%88%86-%E6%A1%91%E9%87%8E-%E6%B3%B0%E5%AE%8F/dp/4339061050/)
- [キーポイント微分積分](https://www.amazon.co.jp/%E3%82%AD%E3%83%BC%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88%E5%BE%AE%E5%88%86%E7%A9%8D%E5%88%86-%E7%90%86%E5%B7%A5%E7%B3%BB%E6%95%B0%E5%AD%A6%E3%81%AE%E3%82%AD%E3%83%BC%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-1-%E5%B7%9D%E6%9D%91-%E6%B8%85/dp/4000078615)
- [キーポイント線形代数](https://www.amazon.co.jp/%E3%82%AD%E3%83%BC%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88%E7%B7%9A%E5%BD%A2%E4%BB%A3%E6%95%B0-%E7%90%86%E5%B7%A5%E7%B3%BB%E6%95%B0%E5%AD%A6%E3%81%AE%E3%82%AD%E3%83%BC%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88-2-%E8%96%A9%E6%91%A9-%E9%A0%86%E5%90%89/dp/4000078623)

全体的なイメージをつかむ

- [機械学習チュートリアル@Jubatus Casual Talks](http://www.slideshare.net/unnonouno/jubatus-casual-talks)
- [scikit-learnを用いた機械学習チュートリアル](http://www.slideshare.net/AtsushiKanaya/scikitlearn)
- [データサイエンティスト養成読本 機械学習入門編](https://www.amazon.co.jp/Software-Design-plus/dp/4774176311/) - ある程度の前提知識があったほうがわかりやすいので、スタンフォード大学のオンライン講座とかを終えた後で読むといいかもしれない

動画学習

- [Machine Learning](https://www.coursera.org/learn/machine-learning)（スタンフォード大学のオンライン講座で内容は英語だけど日本語字幕あり）（[アーカイブ](https://class.coursera.org/ml-005/lecture/preview)・[補足資料](http://www.slideshare.net/minoruchikamune/by-20150911172207)）
- [Intro to Machine Learning](https://www.udacity.com/course/intro-to-machine-learning--ud120)（ディープラーニングではない機械学習のオンライン講座でアルゴリズムの中身よりは実際に機械学習を適用するのに必要な知識・技術が中心。日本語字幕は用意されていないが、Youtubeの自動翻訳は使える）
- [Deep Learning - Take machine learning to the next level](https://www.udacity.com/course/deep-learning--ud730)（Googleの寄付講座でDeep Learningの概要紹介。初学者で内容を理解するのは難しいので勉強すべき分野の用語を知ったり、ある程度ディープラーニングの勉強が進んでから見ると良さそう）（[日本語字幕動画](http://www.nicovideo.jp/search/小学生でも分かる深層学習?sort=f&order=a)（最初のほうだけ））

その他参考になりそうな書籍（初心者向けではないものもあり）

- [ITエンジニアのための機械学習理論入門](https://www.amazon.co.jp/IT/dp/4774176982/)
- [イラストで学ぶ 機械学習 最小二乗法による識別モデル学習を中心に](https://www.amazon.co.jp/%E3%82%A4%E3%83%A9%E3%82%B9%E3%83%88%E3%81%A7%E5%AD%A6%E3%81%B6-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E6%9C%80%E5%B0%8F%E4%BA%8C%E4%B9%97%E6%B3%95%E3%81%AB%E3%82%88%E3%82%8B%E8%AD%98%E5%88%A5%E3%83%A2%E3%83%87%E3%83%AB%E5%AD%A6%E7%BF%92%E3%82%92%E4%B8%AD%E5%BF%83%E3%81%AB-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E6%9D%89%E5%B1%B1/dp/4061538217)
- [入門 機械学習](https://www.amazon.co.jp/%E5%85%A5%E9%96%80-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-Drew-Conway/dp/4873115949)
- [はじめてのパターン認識](https://www.amazon.co.jp/%E3%81%AF%E3%81%98%E3%82%81%E3%81%A6%E3%81%AE%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98-%E5%B9%B3%E4%BA%95-%E6%9C%89%E4%B8%89/dp/4627849710)
- [言語処理のための機械学習入門](https://www.amazon.co.jp/%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E5%85%A5%E9%96%80-%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E9%AB%98%E6%9D%91-%E5%A4%A7%E4%B9%9F/dp/4339027510)
- [フリーソフトでつくる音声認識システム－パターン認識・機械学習の初歩から対話システムまで－](https://www.amazon.co.jp/%E3%83%95%E3%83%AA%E3%83%BC%E3%82%BD%E3%83%95%E3%83%88%E3%81%A7%E3%81%A4%E3%81%8F%E3%82%8B%E9%9F%B3%E5%A3%B0%E8%AA%8D%E8%AD%98%E3%82%B7%E3%82%B9%E3%83%86%E3%83%A0%EF%BC%8D%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%83%BB%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E5%88%9D%E6%AD%A9%E3%81%8B%E3%82%89%E5%AF%BE%E8%A9%B1%E3%82%B7%E3%82%B9%E3%83%86%E3%83%A0%E3%81%BE%E3%81%A7%EF%BC%8D-%E8%8D%92%E6%9C%A8-%E9%9B%85%E5%BC%98/dp/4627847114)
- [集合知プログラミング](https://www.amazon.co.jp/%E9%9B%86%E5%90%88%E7%9F%A5%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0-Toby-Segaran/dp/4873113644/)
- [入門 ソーシャルデータ](https://www.amazon.co.jp/2-Matthew-Russell/dp/4873116791/)
- [イラストで学ぶ ディープラーニング](https://www.amazon.co.jp/%E3%82%A4%E3%83%A9%E3%82%B9%E3%83%88%E3%81%A7%E5%AD%A6%E3%81%B6-%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E5%B1%B1%E4%B8%8B-%E9%9A%86%E7%BE%A9/dp/406153825X)
- [初めてのディープラーニング](https://www.amazon.co.jp/%E5%88%9D%E3%82%81%E3%81%A6%E3%81%AE%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0-%E3%82%AA%E3%83%BC%E3%83%97%E3%83%B3%E3%82%BD%E3%83%BC%E3%82%B9-Caffe-%E3%81%AB%E3%82%88%E3%82%8B%E6%BC%94%E7%BF%92%E4%BB%98%E3%81%8D-%E6%AD%A6%E4%BA%95/dp/4865940227)
- [深層学習 (機械学習プロフェッショナルシリーズ)](https://www.amazon.co.jp/%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF%92-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%83%97%E3%83%AD%E3%83%95%E3%82%A7%E3%83%83%E3%82%B7%E3%83%A7%E3%83%8A%E3%83%AB%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E5%B2%A1%E8%B0%B7-%E8%B2%B4%E4%B9%8B/dp/4061529021)
- [深層学習 Deep Learning](https://www.amazon.co.jp/%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF%92-Deep-Learning-%E7%9B%A3%E4%BF%AE-%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A/dp/476490487X)
- [パターン認識と機械学習](https://www.amazon.co.jp/%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E4%B8%8A-C-M-%E3%83%93%E3%82%B7%E3%83%A7%E3%83%83%E3%83%97/dp/4621061224)（[数学的背景に関する資料](https://github.com/herumi/prml/blob/master/main.pdf)）
- [統計的学習の基礎 ―データマイニング・推論・予測―](https://www.amazon.co.jp/%E7%B5%B1%E8%A8%88%E7%9A%84%E5%AD%A6%E7%BF%92%E3%81%AE%E5%9F%BA%E7%A4%8E-%E2%80%95%E3%83%87%E3%83%BC%E3%82%BF%E3%83%9E%E3%82%A4%E3%83%8B%E3%83%B3%E3%82%B0%E3%83%BB%E6%8E%A8%E8%AB%96%E3%83%BB%E4%BA%88%E6%B8%AC%E2%80%95-Trevor-Hastie/dp/432012362X)
- [Caffeをはじめよう――深層学習による画像解析の実践](http://www.oreilly.co.jp/books/9784873117454/)
- [word2vecによる自然言語処理](http://www.oreilly.co.jp/books/9784873116839/)

参考にしたのは以下の記事

- [数学を避けてきた社会人プログラマが機械学習の勉強を始める際の最短経路](http://qiita.com/daxanya1/items/218f2e3b922142550ef9)
- [機械学習の基礎知識としての数学](http://learning.ikeay.net/entry/2016/05/10/224608)
- [機械学習はじめの一歩に役立つ記事のまとめ](http://qiita.com/shu223/items/9cbde46c0690f1952750)
- [文系でも機械学習がわかるようになる教科書](http://d.hatena.ne.jp/echizen_tm/20151113/1447430520)
- [Tensorflow勉強会（3） が開催されました!](http://dev.classmethod.jp/machine-learning/tensorflow-conf-3/)

### 他人の遊びを真似てみる

- [TensorFlowでのDeep Learningによるアイドルの顔識別 のためのデータ作成](http://d.hatena.ne.jp/sugyan/20160328/1459094743)
- [TensorFlowによるDCGANでアイドルの顔画像生成](http://d.hatena.ne.jp/sugyan/20160516/1463359395)
- [ディープラーニングで本田翼を見分けたい。初歩編](https://hogehuga.com/post-409/)
- [ディープラーニングで「顔が似ているAV女優を教えてくれるbot」を構築](http://qiita.com/tmnck/items/af82deb04d432f1f4f6e)
- [男のための機械学習〜RBMでA◯女優さんの共通特徴量を得よう〜](http://kensuke-mi.xyz/kensuke-mi_diary/2014/11/rbma.html)
- [ディープラーニングで顔写真から巨乳かどうかを判別してみる (うまくいったか微妙)](http://qiita.com/summer4an/items/db0124eee8103c1d3b85)
- [ねこと画像処理 part 3 – Deep Learningで猫の品種識別](http://rest-term.com/archives/3172/)
- [TensorFlowで趣味の画像収集サーバーをつくる](https://drive.google.com/file/d/0BwoRjQoZfQUldC1jRDJ4MU1waEU/view)
- [Chainerを使ってコンピュータにイラストを描かせる](http://qiita.com/rezoolab/items/5cc96b6d31153e0c86bc)
- [Chainerで顔イラストの自動生成](http://qiita.com/mattya/items/e5bfe5e04b9d2f0bbd47)
- [最新の画像生成技術に衝撃を受けたので、その基礎技術をTensorFlowで実装してみる](http://qiita.com/sergeant-wizard/items/0a57485bc90a35efcf26)
- [ナイーブベイズでツンデレ判定してみた](http://qiita.com/IshitaTakeshi/items/dcc8d9271fb14c0a6f58)
- [ライトノベルの感想をDoc2Vecで解析してみた](http://pgsaku.hatenablog.com/entry/2016/05/01/212919)
- [今季見るべきアニメを機械学習で推薦する](http://hakobe932.hatenablog.com/entry/2016/04/15/142756), [アニメ推薦くんの精度について](http://hakobe932.hatenablog.com/entry/2016/04/16/221900)
- [TensorFlowで会話AIを作ってみた。](http://www.slideshare.net/tak9029/tensorflowai)
- [大量のニュースから興味関心のある話題をベイジアン分類で抽出する](http://qiita.com/ynakayama/items/de19da95cb56763d757d)
- [twitter streamingAPIで突発的な流行語を抽出](http://qiita.com/shima_x/items/d1bdad274fb07a3e356d)
- [ディープラーニング（TensorFlow）を使用した株価予想 ～その2～](http://qiita.com/yai/items/8c0ad280cc2f53e40256)
- [機械学習を使った株価予想（回帰編）](http://qiita.com/yai/items/c251ed3300209e65c123)
- [東京都議会議員選挙の党派マニフェストを自動分類したよ](http://d.hatena.ne.jp/stick23rd/20090710/1247210810)
- [金貨が本物かどうか見極める](http://qiita.com/ynakayama/items/33231bf23d40d1c1f344)
- [食べられるキノコを見分ける](http://qiita.com/ynakayama/items/d67ffc172afaf0895de4)（山菜やキノコを見分けるアプリは必要だと思う）
- [自然言語処理の最新手法"word2vec"で艦これ加賀さんから乳を引いてみる](http://antibayesian.hateblo.jp/entry/2014/03/10/001532)
- [青空文庫のデータを使って、遅ればせながらword2vecと戯れてみた](http://tjo.hatenablog.com/entry/2014/06/19/233949)
- [自然言語処理をなにも知らない私がword2vecを走らせるまで](http://saiyu.cocolog-nifty.com/zug/2014/02/word2vec-1867.html)
- [【SEO×自然言語処理】 SEOに使えるテキストマイニングの最新手法](http://marketing.leverages.jp/post/97637743349/seo-textmining)
- [光の早さでsentence2vec使ってみた。](http://d.hatena.ne.jp/MikuHatsune/20140909/1410268630)
- [sentence2vec 動かした](http://laughing.hatenablog.com/entry/2014/09/08/sentence2vec_%E5%8B%95%E3%81%8B%E3%81%97%E3%81%9F)
- [ディープラーニングを活用したマイクロサービスを構築し、画像から商品カテゴリの分類をしてみる](http://tech.vasily.jp/entry/deepleaning_microservice)
- [ディープラーニングで洋服を整理してみました](http://tech.vasily.jp/entry/fashion-deep-learning)
- [ディープラーニングであり得そうな間取り画像を生成させてみる](http://nextdeveloper.hatenablog.com/entry/2016/02/26/211332)
- [ディープラーニングの有名ライブラリ5種を最短距離で試す半日コース（TensorFlow, Chainer, Caffe, DeepDream, 画風変換）](http://d.hatena.ne.jp/shu223/20160105/1451952796)
- [DeepDreamを動かすまで](http://qiita.com/halhorn/items/ff05c2735c0b60356da1)
- [画風を変換するアルゴリズム](https://research.preferred.jp/2015/09/chainer-gogh/)

再現するのは難しいけど、専門家になるとこういう~~遊び~~研究もできるという例

- [ラフスケッチの自動線画化](http://hi.cs.waseda.ac.jp/~esimo/ja/research/sketch/)
- [ディープネットワークを用いた大域特徴と局所特徴の学習による
白黒写真の自動色付け](http://hi.cs.waseda.ac.jp/~iizuka/projects/colorization/ja/)（関係ないがPython用の[colornet](https://github.com/pavelgonchar/colornet)というディープラーニングで白黒画像をカラー化するライブラリがある）
- [自分の声を他人そっくりに変換する](http://www.nikkei.com/article/DGXLZO02350920V10C16A5TJM000/)
- [AIが訓練結果に基づいてベートーヴェン（EUのテーマ曲）をビートルズふうに演奏](http://jp.techcrunch.com/2016/04/30/20160429paul-mccartificial-intelligence/)
- [RNN-RBMによる旋律の予測と生成と音楽情報処理に関する紹介](http://xiangze.hatenablog.com/entry/2014/09/28/143934)
- [DeNAの機械学習・深層学習活用した体験提供の挑戦](http://www.slideshare.net/hamadakoichi/dena-deep-learning)

## 機械学習の実践方法

### ライブラリを利用する

機械学習一般ならscikit-learn、ディープラーニングならTensorFlowかChainerなのかな。

- [scikit-learn](http://scikit-learn.org/stable/)（Python向け機械学習用オープンソースライブラリ）
- [Torch](http://torch.ch/)（機械学習用フレームワーク）
- [TensorFlow](https://www.tensorflow.org/)（Google製のディープラーニング用オープンソースフレームワーク）
- [SkFlow](https://github.com/tensorflow/skflow)（TensorFlowをscikit-learnのように使えるインターフェース）
- [SyntaxNet](https://github.com/tensorflow/models/tree/master/syntaxnet)（TensorFlow用のオープンソース自然言語解析モデル）
- Parsey McParseface（SyntaxNetに含まれる英語用の構文解析ツール）
- [Chainer](http://chainer.org/)（ディープラーニング用フレームワーク）
- [Keras](http://keras.io/)（Python向けディープラーニング用ライブラリで裏側にTheanoやTensorFlowを利用）
- [Caffe](http://caffe.berkeleyvision.org/)（ディープラーニング用フレームワーク）
- [theano](http://deeplearning.net/software/theano/)（Python向けディープラーニング用ライブラリ）
- [DSSTNE](https://github.com/amznlabs/amazon-dsstne)（Amazon製のディープラーニング用オープンソースライブラリ）
- [CNTK](https://github.com/Microsoft/CNTK)（Microsoft製のディープラーニング用ツールキットで、Network Description Language (NDL)というものを使用）

チュートリアル

- [特にプログラマーでもデータサイエンティストでもないけど、Tensorflowを1ヶ月触ったので超分かりやすく解説](http://qiita.com/tawago/items/c977c79b76c5979874e8)
- [Tensorflowを２ヶ月触ったので"手書きひらがな"の識別95.04%で畳み込みニューラルネットワークをわかりやすく解説](http://qiita.com/tawago/items/931bea2ff6d56e32d693)
- [TensorFlowチュートリアル - TensorFlowメカニクス101（翻訳）](http://qiita.com/KojiOhki/items/0640d01029371d6ae092)
- [TensorFlow 畳み込みニューラルネットワークで手書き認識率99.2%の分類器を構築](http://qiita.com/haminiku/items/36982ae65a770565458d)
- [「TensorFlow Tutorialの数学的背景」シリーズ](http://enakai00.hatenablog.com/entry/2016/02/29/121321)
- [言語処理100本ノック 2015](http://www.cl.ecei.tohoku.ac.jp/nlp100/)


どうしても慣れ親しんだ言語を離れたくない人のために

- [DL4J](http://deeplearning4j.org/ja-index.html) - Java
- [Swift-Brain](https://github.com/vlall/Swift-Brain) - Swift
- [Swift-AI](https://github.com/collinhundley/Swift-AI) - Swift
- [LearnKit](https://github.com/mattrajca/LearnKit) - iOS
- [ConvNetJS](http://cs.stanford.edu/people/karpathy/convnetjs/) - JavaScript
- [sukiyaki](https://github.com/mil-tokyo/sukiyaki) - JavaScript
- [その他](https://github.com/showcases/machine-learning)

### クラウドサービスを利用する

- [Azure Machine Learning](https://azure.microsoft.com/ja-jp/services/machine-learning/)
- [Google Cloud Machine Learning](https://cloud.google.com/ml/) - TensorFlowを提供しているGoogleなのにクラウドはまだLimited Preview（2016年5月現在）
- [Amazon Machine Learning](https://aws.amazon.com/jp/machine-learning/)

### 補足

オープンデータ（ライセンスは確認してください）

- [UCI Machine Learning Repository](http://archive.ics.uci.edu/ml/index.html)
- [Kaggle Datasets](https://www.kaggle.com/datasets)
- [List of Public Data Sources Fit for Machine Learning](https://blog.bigml.com/list-of-public-data-sources-fit-for-machine-learning/)
- [Internet Archive Book Images](https://www.flickr.com/photos/internetarchivebookimages/)

画像加工

- [OpenCV](http://opencv.jp/)
- [OpenFace](http://cmusatyalab.github.io/openface/)（画像からの顔切り出し）

自然言語

- [MeCab](http://taku910.github.io/mecab/)
- [たぶん1分くらいでできる形態素解析とtfidf(テストコードつき)](http://qiita.com/puriketu99/items/a6d8100165d576443938)
- [kuromoji](http://www.atilika.org/)

## で、結局どこから入門するの？

今回は、Azure Machine Learningを使って入門。
理由は、学習コストが一番低そうだから。~~一番やりたいディープラーニングを試してみるまでに数学だの統計だの他の機械学習手法だの色々やるとかひたすら面倒くさい~~他の入り口だと挫折しそうな予感がするので。
あと、GUIで機械学習の流れが直感的に把握できそうなのも理由の一つ。
[DataRobot](http://xd-lab.net/archives/762)が実運用レベルになったらもっと楽できるかもしれないが、一切機械学習の勉強にはならなさそうな気もする。

## 機械学習入門

機械学習における"Hello World"的な位置づけのMNISTまでは既にまとめているので、そちらを参照。

[Azure Machine LearningでMNIST入門](http://qiita.com/shngt/items/abc339d7572b2b239fa3)

その後は、Sample1から自分に必要ないところは飛ばしながら順に進めていき、Neural Networkの手前まで進めば、基本的な機械学習の手法は押さえられるはず。

## アルゴリズムチートシート[^2]

[^2]: 参考までに、[scikit-learn algorithm cheat-sheet](http://peekaboo-vision.blogspot.jp/2013/01/machine-learning-cheat-sheet-for-scikit.html)

![image](https://qiita-image-store.s3.amazonaws.com/0/103085/967ddffa-4fb4-e8ea-7ee9-ed27f1c185ba.png)
[Microsoft Azure Machine Learning のアルゴリズムの選択方法](https://azure.microsoft.com/ja-jp/documentation/articles/machine-learning-algorithm-choice/)

とりあえず、一番大きい分類のどこに該当するかわかれば、少ないサンプルで試して精度と学習時間から適したアルゴリズムを選んで、実際の学習データでパラメータを調整すればいいと思う。

### 2クラス分類（TWO-CLASS CLASSIFICATION）

教師データから学習し、与えられたデータを2つの項目に振り分けるモデルを作成

|特徴量|線形性|学習時間|精度|メモリ使用量|アルゴリズム|
|:-:|:-:|:-:|:-:|:-:|:-:|
|100より多い|線形モデル||||Two-class SVM|
||線形モデル||||Two-class averaged perceptron|
||線形モデル|短い|||Two-class logistic regression|
||線形モデル|短い|||Two-class Bayes point machine|
|||短い|高い||Two-class decision forest|
|||短い|高い|多い|Two-class boosted decision tree|
||||高い|少ない|Two-class decision jungle|
|100より多い|||||Two-class locally deep SVM|
|||長い|高い||Two-class neural network|

### 多クラス分類（MULTI-CLASS CLASSIFICATION）

教師データから学習し、与えられたデータを任意の3つ以上の項目に振り分けるモデルを作成

|線形性|学習時間|精度|メモリ使用量|アルゴリズム|
|:-:|:-:|:-:|:-:|:-:|
|線形モデル|短い|||Multiclass logistic regression|
||長い|高い||Multiclass neural network|
||短い|高い||Multiclass decision forest|
|||高い|少ない|Multiclass decision jungle|
|*|*|*|*|One-v-all multiclass|
*\* One-v-all multiclassの特徴は、選択された2クラス分類のアルゴリズムに依存*

### 回帰（REGRESSION）

教師データから学習し、与えられたデータから数値を推測するモデルを作成

|線形性|学習時間|精度|メモリ使用量|その他|アルゴリズム|
|:-:|:-:|:-:|:-:|:-:|:-:|
|||||ランク順序予測|Ordinal regression|
|||||カウント予測|Poisson regression|
|||||分布予測|Fast forest quantile regression|
|線形モデル|短い||||Linear regression|
|線形モデル||||データ量少|Bayesian linear regression|
||長い|高い|||Neural network regression|
||短い|高い|||Decision forest regression|
||短い|高い|多い||Boosted decision tree regression|

### クラスタリング（CLUSTERING）

データの類似度を元に、与えられたデータを任意の複数個の項目に振り分けるモデルを作成

|アルゴリズム|
|:-:|
|K-means|

### 異常検出（ANOMALY DETECTION）

多数の正常データと少数の異常データから正常な行為がどのようなものか学習し、そこから異常に外れたものを検出するモデルを作成

|特徴量|学習時間|アルゴリズム|
|:-:|:-:|:-:|
|100より多い||One-class SVM|
||短い|PCA-based anomaly detection|