【完全版】JDLA G検定チートシート

# 0. 記事の見方
| 用語 | 説明 |
|:---|:---|
|?検索したい用語（詳細説明の為の記事リンク）|用語の説明。一部リンクと検索用?あり。一部動画解説リンクあり。|
なるべく、説明が分かりやすそうなサイトを集めました。お陰様でG検定2020#3合格できました。

# 1. 人工知能とは
| 用語 | 説明 |
|:---|:---|
|[?人工知能](https://ledge.ai/artificial-intelligence/)|人工的につくられた人間のような知能、ないしはそれをつくる技術。（東京大学 松尾 豊）|
|[?汎用型人工知能](https://ledge.ai/agi/#:~:text=%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD\(Artificial%20General,%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%82%92%E6%8C%87%E3%81%97%E3%81%BE%E3%81%99%E3%80%82&text=%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%81%AF%E3%80%81%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%A0,%E3%81%A7%E3%81%8D%E3%82%8B%E3%81%A8%E3%81%95%E3%82%8C%E3%81%A6%E3%81%84%E3%81%BE%E3%81%99%E3%80%82)|人間の知的処理を総合的に行えるAIで、SF等の作品に登場するAIの多くはこの汎用型AIであることが多い。|
|[?特化型人工知能](https://ledge.ai/agi/#:~:text=%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD\(Artificial%20General,%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%82%92%E6%8C%87%E3%81%97%E3%81%BE%E3%81%99%E3%80%82&text=%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%81%AF%E3%80%81%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%A0,%E3%81%A7%E3%81%8D%E3%82%8B%E3%81%A8%E3%81%95%E3%82%8C%E3%81%A6%E3%81%84%E3%81%BE%E3%81%99%E3%80%82)|1つのタスクに特化したAIで、現在「AI」と呼ばれ、社会適応されている技術。|
|[?ダートマス会議](https://ja.wikipedia.org/wiki/%E3%83%80%E3%83%BC%E3%83%88%E3%83%9E%E3%82%B9%E4%BC%9A%E8%AD%B0#:~:text=%E3%83%80%E3%83%BC%E3%83%88%E3%83%9E%E3%82%B9%E4%BC%9A%E8%AD%B0%EF%BC%88%E3%83%80%E3%83%BC%E3%83%88%E3%83%9E%E3%82%B9%E3%81%8B%E3%81%84%E3%81%8E,%E6%9C%88%E3%81%AB%E3%81%8B%E3%81%91%E3%81%A6%E9%96%8B%E5%82%AC%E3%81%95%E3%82%8C%E3%81%9F%E3%80%82)|初めて人工知能という言葉が登場した会議。|
|[?ジョン・マッカーシー](https://ja.wikipedia.org/wiki/%E3%82%B8%E3%83%A7%E3%83%B3%E3%83%BB%E3%83%9E%E3%83%83%E3%82%AB%E3%83%BC%E3%82%B7%E3%83%BC)|アメリカの計算機科学者。ダートマス会議を主催し、人工知能という言葉を初めて公に用いた。|
|[?特徴量](https://ainow.ai/2020/07/14/225092/#i-5)|データの特徴を表す量で、説明変数とも呼ばれる。|
|[?AI効果](https://www.sbbit.jp/article/cont1/38019)|人工知能プログラムの中身がわかってしまうと、単なる自動化だと思ってしまう心理現象。|
|[?エニアック(?ENIAC)](https://ja.wikipedia.org/wiki/ENIAC)|Electronic Numerical Integrator and Computer の略で、アメリカで開発された黎明期の電子計算機。|


# 2. 人工知能の変遷と問題
| 用語 | 説明 |
|:---|:---|
|[?幅優先探索](https://algoful.com/Archive/Algorithm/BFS#:~:text=%E5%B9%85%E5%84%AA%E5%85%88%E6%8E%A2%E7%B4%A2%E3%81%A8%E3%81%AF%E3%80%81%E6%9C%A8,%E3%83%8E%E3%83%BC%E3%83%89%E3%82%92%E8%A6%8B%E3%81%A4%E3%81%BE%E3%81%99%E3%80%82)|すべての場合分けを記憶しながら探索する方法。最短経路を必ず見つけられるが計算容量を使用する数が多い。|
|[?深さ優先探索](https://algoful.com/Archive/Algorithm/DFS)|一方向に掘り下げて解でなかった場合、前のステップに戻り、異なる方向を探索することを繰り返しながら買いを探す方法。計算容量を使用する数が少ない。|
|[?Mini-Max法(?ミニマックス法)](https://www.webcyou.com/?p=6997)|最善手を選ぶための手法の1つ。自分も相手も最善手を打つという仮定のもとスコアを逆算する。|
|[?αβ法(?アルファ・ベータ法)](https://www.webcyou.com/?p=6997)|Mini-Max法において、無駄な探索をカットする手法の1つ。枝刈りの方法にはαカットとβカットが存在する。|
|[?モンテカルロ法](https://xtrend.nikkei.com/atcl/contents/18/00131/00007/)|ボードゲームにおいて最善手を評価する方法の1つ。次の一手を決める際に、打てる手それぞれで何回もプレイアウトし、勝率が高かった手を選ぶという手法。|
|[?STRIPS](https://ja.wikipedia.org/wiki/STRIPS)|「前提条件」「行動」「結果」の3つの組み合わせで1つの動作を定義する自動計画を記述する手法。|
|[?SHRDLU](https://ja.wikipedia.org/wiki/SHRDLU#:~:text=SHRDLU%E3%81%A8%E3%81%AF%E3%80%81%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E,%E3%82%B0%E3%83%A9%E3%83%BC%E3%83%89%E3%81%AB%E3%82%88%E3%81%A3%E3%81%A6%E5%AE%9F%E6%96%BD%E3%81%95%E3%82%8C%E3%81%9F%E3%80%82)|[自然言語処理](https://ledge.ai/nlp/)を行う人工知能初期の研究開発プロジェクト。テリー・ウィノグラードにより実施された。自然言語を使って積み木を動かす等の操作をすることができる。|
|[?テキストマイニング](https://ledge.ai/text-mining/)|構造化されてないテキストデータから、新しい情報を抽出する分析手法。大量のデータから情報を抽出することで、文章中の単語の使用頻度や傾向、相関関係など、様々な特徴を分析する際に用いられる。|
|[?Cycプロジェクト(?サイクプロジェクト)](https://ja.wikipedia.org/wiki/Cyc%E3%83%97%E3%83%AD%E3%82%B8%E3%82%A7%E3%82%AF%E3%83%88#:~:text=Cyc%EF%BC%88%E3%82%B5%E3%82%A4%E3%82%AF%EF%BC%89%E3%81%AF%E3%80%81%E4%BA%BA%E5%B7%A5,%E3%81%A8%E3%81%99%E3%82%8B%E3%83%97%E3%83%AD%E3%82%B8%E3%82%A7%E3%82%AF%E3%83%88%E3%81%A7%E3%81%82%E3%82%8B%E3%80%82")|1984年からスタートした「すべての一般常識をコンピューターに取り込もう」というプロジェクト。|
|[?ELIZA(?イライザ)](https://ja.wikipedia.org/wiki/ELIZA)|1964年から1966年にかけてジョセフ・ワイゼンバウムによって開発された対話型ロボット。|
|[?チューリングテスト](https://ledge.ai/turing-test/#:~:text=%E3%83%81%E3%83%A5%E3%83%BC%E3%83%AA%E3%83%B3%E3%82%B0%E3%83%86%E3%82%B9%E3%83%88%E3%81%A8%E3%81%AF%E3%80%811950,%E5%BF%9C%E7%AD%94%E5%BC%8F%E3%81%AE%E3%83%86%E3%82%B9%E3%83%88%E3%81%A7%E3%81%99%E3%80%82)|ある対話式の機械に対し、「人間的」かどうかを判定する為のテスト。イギリスの数学者、アラン・チューリングが提案した。合格基準の一つに判定者の30%以上が対話相手を人間かコンピューターか判別つかないと判定することであり、2014年にロシアのチャットボット「ユージーン・グーツマン」が、13歳の少年という設定で初めて合格したとされる。|
|[?エキスパートシステム](https://ledge.ai/expert-system/)|専門家の知識を入れ込み、その意思決定能力を誰もが使える形にするもの。知識ベースと推論エンジンにより構成される。|
|[?Mycin(?マイシン)](https://ja.wikipedia.org/wiki/Mycin#:~:text=Mycin%EF%BC%88%E3%83%9E%E3%82%A4%E3%82%B7%E3%83%B3%EF%BC%89%E3%81%AF%E3%80%81%E3%82%B9%E3%82%BF%E3%83%B3%E3%83%95%E3%82%A9%E3%83%BC%E3%83%89,%E3%81%8B%E3%81%AA%E3%82%8A%E4%BF%AE%E6%AD%A3%E3%81%95%E3%82%8C%E3%81%A6%E3%81%84%E3%82%8B%E3%80%82)|エキスパートシステムの1つで、伝染性の血液疾患を診断し、適した薬を処方するプログラム。|
|[?意味ネットワーク](https://ja.wikipedia.org/wiki/%E6%84%8F%E5%91%B3%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF)|知識を線で結びその関連性を表したもの。現在でもAIプロダクトの解釈性を高める為に使われることがある。セマンティックネットワークともいう。|
|[?オントロジー](https://qiita.com/mininobu/items/bce0e0ad97ed17e0aff2)|意味ネットワーク等で用いられる知識の結び付け方の規則。|
|[?フレーム問題](https://www.ai-gakkai.or.jp/whatsai/AItopics1.html)|「今しようとしていることに関係ある事柄だけを選び出すことが、実は非常に難しい。」という問題。|
|[?シンボルグラウンディング問題](https://ledge.ai/symbol_grounding_problem/#:~:text=%E8%AA%8D%E7%9F%A5%E7%A7%91%E5%AD%A6%E8%80%85%E3%81%AE%E3%82%B9%E3%83%86%E3%82%A3%E3%83%BC%E3%83%96%E3%83%B3,%E7%B5%90%E3%81%B3%E3%81%A4%E3%81%91%E3%82%89%E3%82%8C%E3%82%8B%E3%81%8B%E3%81%A8%E3%81%84%E3%81%86%E5%95%8F%E9%A1%8C%E3%80%82)|認知科学者のスティーブン・ハルナッドにより議論されたもので、「記号とその対象がいかにして結び付くか」という問題|
|[?中国語の部屋](https://www.ai-gakkai.or.jp/whatsai/AItopics3.html)|哲学者ジョン・サールによって発表された論文内で、チューリングテストの結果は何の指標にもならないという批判がされた。その論文内で発表された思考実験の名前。|
|[?シンギュラリティ](https://ledge.ai/singularity/)|[レイ・カーツワイル](https://ledge.ai/ray-kurzweil/)が提唱した、2045年には人間が自分自身よりも賢い人工知能を作り出すことにより起きる技術的特異点のこと。|
|[?特徴表現学習](https://www.atmarkit.co.jp/ait/articles/1901/06/news036.html)|特徴量の加工・抽出までは学習器が行うこと。[?ディープラーニング](https://leapmind.io/blog/2017/06/16/%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0%EF%BC%88deep-learning%EF%BC%89%E3%81%A8%E3%81%AF%EF%BC%9F%E3%80%90%E5%85%A5%E9%96%80%E7%B7%A8%E3%80%91/)は特長表現学習を行う手法である。|


# 3. 機械学習の具体的手法
| 用語 | 説明 |
|:---|:---|
|[?教師あり学習](https://ledge.ai/unsupervised/#:~:text=%E6%95%99%E5%B8%AB%E3%81%82%E3%82%8A%E5%AD%A6%E7%BF%92%E3%81%A8%E3%81%AF,%E3%80%8D%E3%81%A8%E3%80%8C%E5%88%86%E9%A1%9E%E3%80%8D%E3%81%A7%E3%81%99%E3%80%82)|正解データを適切に予測できるように、正解データとその他の変数のセットを学習する枠組み。この時、正解データは目的変数、その他の変数は説明変数もしくは特徴量と呼ばれる。また、予測値が連続な場合を回帰、不連続な場合を分類という。|
|[?教師なし学習](https://ledge.ai/unsupervised/#:~:text=%E6%95%99%E5%B8%AB%E3%81%82%E3%82%8A%E5%AD%A6%E7%BF%92%E3%81%A8%E3%81%AF,%E3%80%8D%E3%81%A8%E3%80%8C%E5%88%86%E9%A1%9E%E3%80%8D%E3%81%A7%E3%81%99%E3%80%82)|正解を参照せずに変数同士の構造やパターンを抽出する枠組み。[クラスタリング](https://ledge.ai/clustering/)や次元削減等は教師なし学習に該当する。|
|[?半教師あり学習](https://aizine.ai/semi-supervised-learning0619/)|少量のラベルありデータを用いることで大量のラベルなしデータをより学習に活かせることができる学習方法。|
|[?強化学習](https://ledge.ai/reinforcement-learning/)|正解を与える代わりに、将来の報酬や利益を最大化するように、特定の状況下における行動を学習する枠組み。|
|[?線形回帰](https://www.ibm.com/jp-ja/analytics/learn/linear-regression)|線や平面、超平面で関数をデータにフィッティングさせることで回帰を行う手法。[動画解説](https://www.youtube.com/watch?v=zo8BmIGSO2Y)。|
|[?アノテーション](https://ledge.ai/annotation/)|あるデータに対して関連する情報（メタデータ）を注釈として付与すること。転じて、AI業界では、機械学習のモデルに学習させるための教師データ（正解データ、ラベル）を作成することを指す。|
|[?正則化](https://toeming.hatenablog.com/entry/2020/04/03/000925)|主に過学習等を防ぎ、汎化性能を上げるために、モデルに制約を設ける手法。|
|[?Lasso回帰（?ラッソ回帰）](https://aizine.ai/ridge-lasso-elasticnet/#:~:text=Lasso%E5%9B%9E%E5%B8%B0%EF%BC%9A%E3%80%8C%E6%AD%A3%E5%89%87%E5%8C%96%E3%81%95%E3%82%8C,%E3%82%92%E5%8A%A0%E3%81%88%E3%81%9F%E3%82%82%E3%81%AE%E3%80%8D%E3%81%A7%E3%81%99%E3%80%82)|L1正則化を施した線形回帰手法で、解がスパースになりやすい。|
|[?Ridge回帰（?リッジ回帰）](https://aizine.ai/ridge-lasso-elasticnet/#:~:text=Lasso%E5%9B%9E%E5%B8%B0%EF%BC%9A%E3%80%8C%E6%AD%A3%E5%89%87%E5%8C%96%E3%81%95%E3%82%8C,%E3%82%92%E5%8A%A0%E3%81%88%E3%81%9F%E3%82%82%E3%81%AE%E3%80%8D%E3%81%A7%E3%81%99%E3%80%82)|L2正則化を施した線形回帰手法で、Ridge回帰の解は解析的に書ける。|
|[?Elastic Net](https://aizine.ai/ridge-lasso-elasticnet/#:~:text=Lasso%E5%9B%9E%E5%B8%B0%EF%BC%9A%E3%80%8C%E6%AD%A3%E5%89%87%E5%8C%96%E3%81%95%E3%82%8C,%E3%82%92%E5%8A%A0%E3%81%88%E3%81%9F%E3%82%82%E3%81%AE%E3%80%8D%E3%81%A7%E3%81%99%E3%80%82)|Lasso回帰とRidge回帰の折衷案で「Lasso回帰のモデルに取り込める説明変数の数に制限がある」という問題点をカバーできる手法。|
|[?ロジスティック回帰](https://www.nli-research.co.jp/report/detail/id=62065?site=nli)|線形回帰の考え方を拡張し、目的変数が2クラスを取る場合等に使われる分類手法。[動画解説](https://www.youtube.com/watch?v=mMMzDFttZ8A)。|
|[?サポートベクターマシン(?SVM)](https://logics-of-blue.com/svm-concept/)|サポートベクター(?サポートベクトル)を利用して予測を行う教師あり学習のモデルで、カーネル法により非線形分離を可能としている。[動画解説](https://www.youtube.com/watch?v=cNEhKEb9-JU)。|
|[?カーネルトリック（カーネル法）](https://punhundon-lifeshift.com/kernel_method)|カーネル関数を使うことで、高次元の特徴空間における内積を行わず、入力空間でのカーネルの計算に落とし込むアプローチ。行っていることに対して、計算量が大幅に少なくて済む。|
|[?k近傍法](https://dev.classmethod.jp/articles/2017ad_20171218_knn/)|回帰と分類が行える手法。分類においては、特徴量空間において距離が近い順に任意のk個を取得し、多数決でデータが属するクラスを推定する。[動画解説](https://www.youtube.com/watch?v=4Vk1UhRDB34&t=1403s)。|
|[?ニアレストネイバー法（?最近傍法）](https://ledge.ai/machine-learning/)|求めたい要素からもっとも近い既存データが属する集団に分類する、機械学習のアルゴリズムの1つ。すべての要素までの距離を計算しなければならない為、データ量が大きくなるにつれ、膨大な数の計算が必要となる。その為、計算機の性能により、データ量が制限されてしまう欠点がある。|
|[?決定木](https://cacoo.com/ja/blog/what-is-decision-tree/#:~:text=%E6%B1%BA%E5%AE%9A%E6%9C%A8%EF%BC%88%E3%81%91%E3%81%A3%E3%81%A6%E3%81%84%E3%81%8E%E3%83%BB%E3%83%87%E3%82%A3%E3%82%B7%E3%82%B8%E3%83%A7%E3%83%B3,%E3%82%92%E5%88%86%E6%9E%90%E3%81%99%E3%82%8B%E6%89%8B%E6%B3%95%E3%81%A7%E3%81%99%E3%80%82)|木構造を用いて回帰や分類を行う手法で解釈性の高さが特徴。[動画解説](https://www.youtube.com/watch?v=irTbuevXauk)。|
|[?アンサンブル学習](https://agency-star.co.jp/column/ensemble-learning/)|複数のモデルを合わせて、1つのモデルとして扱う手法で、「バギング」「ブースティング」「スタッキング」の3種類が存在する。[動画解説](https://www.youtube.com/watch?v=0WcrBe017-w)。|
|[?ランダムフォレスト](https://avinton.com/academy/random-forest/)|弱学習器に決定木を用いたアンサンブル手法（バギング）で回帰と分類に用いられる。決定木同様、解釈性の高さが特徴。また特徴量のランダムサンプリングも行っている。|
|[?ナイーブベイズ](https://avinton.com/academy/naive-bayes/)|ベイズの定理を使って、それぞれのクラスに分類される確率を計算し最も確率の高いクラスを結果として出力する、分類問題を解くためのモデル。|
|[?勾配ブースティング](https://qiita.com/kuroitu/items/57425380546f7b9ed91c#%E5%8B%BE%E9%85%8D%E3%83%96%E3%83%BC%E3%82%B9%E3%83%86%E3%82%A3%E3%83%B3%E3%82%B0%E6%B1%BA%E5%AE%9A%E6%9C%A8%E3%81%AE%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0)|アンサンブル学習であるブースティングの一種。前の弱学習器の損失の勾配を用いて、次の弱学習器を作成する。|
|[?k-means法（?k平均法）](https://qiita.com/g-k/items/0d5d22a12a4507ecbf11)|教師なし学習で非階層型クラスタリングを行う手法。[動画解説](https://www.youtube.com/watch?v=8yptHd0JDlw)。|
|[?階層型クラスタリング](https://datachemeng.com/hierarchicalclustering/)|階層的クラスタリング、階層クラスタリング。分類型と凝縮型に分かれ、凝縮型では距離の近いものを1つのクラスタとして順にデータをまとめていく手法。最終結果を樹形図（デンドログラム）で表すことができる。[動画解説](https://www.youtube.com/watch?v=mmGj9qcFKAM)。|
|[?主成分分析](https://www.slideshare.net/takanoriogata1121/10pca-49324044)|教師なし学習の[?次元削減](https://qiita.com/aya_taka/items/4d3996b3f15aa712a54f#:~:text=%E3%80%8C%E6%AC%A1%E5%85%83%E5%89%8A%E6%B8%9B%E3%80%8D%E3%81%A8%E3%81%AF%E3%80%81,%E6%95%B0%E3%82%92%E6%B8%9B%E3%82%89%E3%81%99%E3%81%93%E3%81%A8%E3%81%A7%E3%81%99%E3%80%82)の手法で、データのばらつきを最も顕著に表現できるように、すなわち分散を最大化するように第一主成分を選択する。[動画解説](https://www.youtube.com/watch?v=4FUIH4cRLHI)。|
|[?交差検証法](https://aiacademy.jp/media/?p=263)|手元のデータを複数のブロック（fold）に分割し、その内の1つを評価用として使い、残りを学習データとすることを、評価用データを入れ替えてすべてに対し行う手法。[動画解説](https://www.youtube.com/watch?v=0_ZtMUJ2Mg8)。|
|[?RMSE/?MSE/?MAE/?RMSLE](https://aizine.ai/rmse-rmsle1114/)|それぞれ回帰で使用される評価手法で、「root」「絶対値」「log」がついてることによって様々な特徴がある。|
|[?正解率](https://aidemy.net/courses/2010/exercises/S1RYhIj8xf)|正例・負例の数に関わらず、正しく当てられた割合。|
|[?適合率](https://aidemy.net/courses/2010/exercises/HJWxt3UiUxz)|正と予測したデータの内、実際に正であるものの割合。TP / (TP + FP)|
|[?再現率](https://aidemy.net/courses/2010/exercises/HJWxt3UiUxz)|実際に正であるデータの内、正であると予測されたものの割合。TP / (TP + FN)|
|[?F値](https://aidemy.net/courses/2010/exercises/r1ygYhUiUgG)|適合率と再現率の中庸を取るような指標であり、両者の調和平均を取ることで算出。|


# 4. ディープラーニングの概要
| 用語 | 説明 |
|:---|:---|
|[?ニューラルネットワーク](https://ledge.ai/neural-network/)|脳神経系のニューロンを模したアルゴリズム。今ではニューラルネットワークの層を深くしたディープニューラルネットワークを始めとして、様々なディープラーニングのモデルが登場し、使われている。|
|[?単純パーセプトロン](https://newtechnologylifestyle.net/%E4%B8%80%E7%95%AA%E7%B0%A1%E5%8D%98%E3%81%AA%E5%8D%98%E7%B4%94%E3%83%91%E3%83%BC%E3%82%BB%E3%83%97%E3%83%88%E3%83%AD%E3%83%B3%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6/)|ニューラルネットワークにおいて、最も基本的なモデルの1つで隠れ層（中間層）を持たない。|
|[?活性化関数](https://qiita.com/kuroitu/items/73cd401afd463a78115a)|ノードの出力がどのように伝播するかを調整する関数でsigmoid関数やtanh関数、ReLU関数等様々な種類がある。[動画解説](https://www.youtube.com/watch?v=mFU63UkmrMc)。|
|[?勾配消失問題](https://ai-kenkyujo.com/term/gradient-loss-problem/#:~:text=%E5%8B%BE%E9%85%8D%E6%B6%88%E5%A4%B1%E5%95%8F%E9%A1%8C%E3%81%A8%E3%81%AF%E3%80%81%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E6%89%8B%E6%B3%95%E3%81%AE%E3%81%B2%E3%81%A8%E3%81%A4,%E3%81%AA%E5%95%8F%E9%A1%8C%E3%81%AE%E3%81%93%E3%81%A8%E3%81%A7%E3%81%99%E3%80%82)|ニューラルネットワークを多層化すると、誤差逆伝播法においてそれぞれの層で活性化関数の微分がかかることから、勾配が消失しやすくなり、学習が進まなくなる問題。|
|[?誤差逆伝播法](https://www.yukisako.xyz/entry/backpropagation)|バック・プロパゲーション。出力に近い層から順に連鎖的に勾配を求めていく学習法。[動画解説](https://www.youtube.com/watch?v=X8hK4ovQoLg)。|
|[?オートエンコーダ](https://it-trend.jp/development_tools/article/32-0024#:~:text=%E3%82%AA%E3%83%BC%E3%83%88%E3%82%A8%E3%83%B3%E3%82%B3%E3%83%BC%E3%83%80%E3%81%A8%E3%81%AF%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB,%E7%89%B9%E5%BE%B4%E6%8A%BD%E5%87%BA%E3%81%99%E3%82%8B%E3%82%82%E3%81%AE%E3%81%A7%E3%81%99%E3%80%82)|入力と出力の形が同じになるようにした隠れ層（中間層）を1つ持つニューラルネットワークで、隠れ層（中間層）の次元は一般的に入力層よりも小さい。|
|[?積層オートエンコーダ](https://lionbridge.ai/ja/articles/autoencoder/)|オートエンコーダを多層にしたもの。|
|[?GPU](https://www.kagoya.jp/howto/rentalserver/gpu1/)|画像処理に特化したプロセッサ。|
|[?TPU](https://www.atmarkit.co.jp/ait/articles/1807/06/news108.html)|Google社が開発プロセッサで、ディープラーニングの学習・推論に最適化されている。|

# 5. ディープラーニングの手法
| 用語 | 説明 |
|:---|:---|
|[?ステップ関数](https://www.atmarkit.co.jp/ait/articles/2002/26/news010.html)|関数への入力値が0未満の場合には常に出力値が0、入力値が0以上の場合には常に出力値が1となるような関数。|
|[?sigmoid関数（?シグモイド関数）](https://www.atmarkit.co.jp/ait/articles/2003/04/news021.html)|活性化関数に用いられる関数の1つ。入力xの値を0~1の範囲の値に変換する。主に隠れ層（中間層）や二項分類問題を解くモデルの出力層で用いられる。|
|[?tanh関数（ハイパボリックタンジェント関数）](https://www.atmarkit.co.jp/ait/articles/2003/04/news021.html)|活性化関数に用いられる関数の1つ。入力xの値を-1~1の範囲の値に変換する。主に隠れ層（中間層）で用いられる。|
|[?ReLU関数（ランプ関数）](https://www.atmarkit.co.jp/ait/articles/2003/11/news016.html#:~:text=AI%EF%BC%8F%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB,%E3%81%A8%E3%81%AA%E3%82%8B%E9%96%A2%E6%95%B0%E3%81%A7%E3%81%82%E3%82%8B%E3%80%82)|活性化関数に用いられる関数の1つ。sigmoid関数やtanh関数よりも勾配消失が起きにくい。ただし、すべての問題に対して最適というわけではない。|
|[?softmax関数（?ソフトマックス関数）](https://www.atmarkit.co.jp/ait/articles/2004/08/news016.html)|シグモイド関数を一般化したものであり、複数個の入力を受け取り、受け取った数と同じ個数の出力を総和が1となるように変換して出力する。主に出力層で使われる。|
|[?誤差関数](https://ai-kenkyujo.com/term/loss-function-error-function/)|モデルの予測値と実際の値（正解データ）との誤差を表した関数。|
|[?勾配降下法](https://aizine.ai/glossary-gradient-descent/)|関数の勾配に当たる微分係数に沿って降りていくことで、最小値を求める手法。大域最適解に必ず収束するわけではないので注意が必要。|
|[?学習率](https://aidemy.net/courses/5090/exercises/HkMP93IoLlM#:~:text=%E5%AD%A6%E7%BF%92%E7%8E%87%E3%81%A8%E3%81%AF%E3%80%81%20%E5%90%84%E5%B1%A4,%E3%82%92%E6%B1%BA%E3%82%81%E3%82%8B%E3%83%8F%E3%82%A4%E3%83%91%E3%83%BC%E3%83%91%E3%83%A9%E3%83%A1%E3%83%BC%E3%82%BF%20%E3%81%A7%E3%81%99%E3%80%82)|勾配降下法において、勾配に沿って一度にどれだけ降りていくかを設定するハイパーパラメータ。|
|[?イテレーション（?iteration）](https://research.miidas.jp/2019/04/%E3%82%A8%E3%83%9D%E3%83%83%E3%82%AF%E3%81%A8%E3%81%8B%E3%83%9F%E3%83%8B%E3%83%90%E3%83%83%E3%83%81%E3%81%A8%E3%81%8Bsgd%E3%81%A8%E3%81%8B/)|勾配降下法におけるパラメータの更新回数。2000個の学習データについて、バッチサイズ500個でミニバッチ学習する場合、(勾配降下法等による)重み更新を4イテレーション繰り返すと1[エポック（epoch）](https://www.st-hakky-blog.com/entry/2017/01/17/165137)。|
|[?鞍点（あんてん）](https://note.com/lydiacorp/n/n20bfca246c4b)|ある次元から見ると極大点であるが、他の次元から見ると極小点となる点で勾配降下法での学習がうまくいかない原因となることがある。|
|[?プラトー](https://ainow.ai/2019/03/13/164123/#AI-2)|鞍点等の[停留点](https://note.com/lydiacorp/n/n20bfca246c4b)に到達して学習が停滞している状態。|
|[?確率的勾配降下法（?SGD）](https://lionbridge.ai/ja/articles/gradient-descent/)|Stochastic Gradient Descent。パラメータxを更新する為の勾配を求める際、全データの中からランダムに抜き出したデータを利用する（ミニバッチ学習）。|
|[?モーメンタム](https://qiita.com/omiita/items/1735c1d048fe5f611f80#5-%E3%83%A2%E3%83%BC%E3%83%A1%E3%83%B3%E3%82%BF%E3%83%A0)|SGDに慣性的な性質を持たせた手法。最小値まで辿り着く経路がSGDと比べて無駄の少ない動きとなっていると共に、停滞しやすい領域においても学習がうまくいきやすくなるといったメリットがある。|
|[?AdaGrad](https://www.renom.jp/ja/notebooks/tutorial/basic_algorithm/adagrad/notebook.html)|SGDの改良手法で、勾配降下法におけるパラメータ毎の学習率を、勾配を用いて自動で更新する。|
|[?RMSProp](https://qiita.com/omiita/items/1735c1d048fe5f611f80#6-rmsprop)|AdaGradを改良した手法。|
|[?Adam](https://qiita.com/omiita/items/1735c1d048fe5f611f80#7-adam)|RMSPropを改良したもので、2014年に発表された。|
|[?過学習](https://lionbridge.ai/ja/articles/overfitting/)|機械学習においてモデルが訓練データに過剰適合すること。|
|[?ドロップアウト](https://qiita.com/shu_marubo/items/70b20c3a6c172aaeb8de)|ニューラルネットワークの学習の際、一定の確率でランダムにノードを無視して学習を行う手法で過学習を防ぐ効果がある。|
|[?early stopping](https://note.com/okonomiyaki011/n/n371ef12f40e0#uCoBZ)|早期終了、早期打ち切り。学習の際、主に過学習が起きる前に学習を早めに切り上げて終了すること。|
|[?ノーフリーランチ定理](https://www.atmarkit.co.jp/ait/articles/2007/17/news020.html)|あらゆる問題に対して性能の良い汎用最適化戦略は理論上不可能であるという定理。|
|[?ハイパーパラメータ](https://aizine.ai/glossary-highper-parameter/)|機械学習のモデルが持つパラメータの中で人が調整をしないといけないパラメータ、設定のこと。|
|[?グリッドサーチ](https://www.case-k.jp/entry/2018/09/03/211016#:~:text=%E3%82%B0%E3%83%AA%E3%83%83%E3%83%89%E3%82%B5%E3%83%BC%E3%83%81%E3%81%A8%E3%81%AF%E3%80%81%E3%83%A2%E3%83%87%E3%83%AB,%E3%82%92%E6%8E%A2%E7%B4%A2%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95%E3%81%A7%E3%81%99%E3%80%82)|モデルの精度を向上させる為に全てのパラメータの組み合わせを試す手法。|
|[?正規化](https://qiita.com/yShig/items/dbeb98598abcc98e1a57)|スケーリング。データのスケールを揃える等して調整する事。|
|[?標準化](https://kotodori.jp/analytics/what-is-standardization/)|特徴量を平均0、分散1となるように変換する処理。|
|[?白色化](https://mathwords.net/musoukanka)|データを無相関化してから標準化を行うこと。|
|[?バッチ正規化](https://qiita.com/jun40vn/items/2105467cea35f179ea45)|各層で伝わってきたデータに対し、正規化を行う手法。|
|[?畳み込みニューラルネットワーク(?CNN)](https://www.imagazine.co.jp/%E7%95%B3%E3%81%BF%E8%BE%BC%E3%81%BF%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%81%AE%E3%80%8C%E5%9F%BA%E7%A4%8E%E3%81%AE%E5%9F%BA%E7%A4%8E%E3%80%8D%E3%82%92%E7%90%86%E8%A7%A3%E3%81%99/)|主に画像処理の分野で高い効果を上げているニューラルネットワーク。畳み込みやプーリングといった処理が行われる。|
|[?カーネル（フィルタ）](https://qastack.jp/stats/154798/difference-between-kernel-and-filter-in-cnn)|畳み込み処理を行う際に用いられるフィルタ。畳み込み層ではカーネル内部の値をパラメータとして学習を行う。|
|[?ストライド](https://qiita.com/nvtomo1029/items/601af18f82d8ffab551e#522%E3%83%91%E3%83%87%E3%82%A3%E3%83%B3%E3%82%B0%E3%82%B9%E3%83%88%E3%83%A9%E3%82%A4%E3%83%89%E3%81%A7%E5%87%BA%E5%8A%9B%E3%82%B5%E3%82%A4%E3%82%BA%E3%82%92%E8%AA%BF%E6%95%B4%E3%81%99%E3%82%8B)|畳み込み処理においてカーネルを移動させる幅のこと。|
|[?パディング](https://sagantaf.hatenablog.com/entry/2019/05/26/160401)|畳み込み処理前に画像に余白となるような部分を追加し、畳み込み処理後の特徴マップのサイズを調整するもの。|
|[?プーリング](https://qiita.com/FukuharaYohei/items/73cce8f5707a353e3c3a)|画像や特徴マップ等の入力を小さく圧縮する処理で、maxプーリングやAverageプーリング等が存在する。|
|[?Global Average Pooling(?GAP)](https://qiita.com/mine820/items/1e49bca6d215ce88594a)|分類したいクラスと特徴マップを1対1対応させ、各特徴マップに含まれる値の平均を取ることで誤差を計算できるようにする手法。|
|[?データ拡張（Data Augmentation）](https://note.com/masayamori/n/n63caf39a4cdf)|画像に人工的な加工を行うことでデータの種類を増やすこと。|
|[?転移学習](https://udemy.benesse.co.jp/ai/transfer-learning.html#:~:text=%E8%BB%A2%E7%A7%BB%E5%AD%A6%E7%BF%92(Transfer%20Learning)%E3%81%A8,%E9%81%95%E3%81%84%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6%E3%81%8A%E4%BC%9D%E3%81%88%E3%81%97%E3%81%BE%E3%81%99%E3%80%82)|学習済みのネットワークを利用して、新しい問題に対するネットワークの作成に利用する際に、付け足した（または置き換えた）層のみを学習する方法。|
|[?ファインチューニング](https://www.simpletraveler.jp/2019/12/31/machinelearning-transferlearning-finetuning/#i-5)|学習済みのネットワークを利用して。新しい問題に対するネットワークの作成に利用する際に、利用した学習済みモデルに含まれるパラメータも同時に調整する方法。|
|[?再帰型ニューラルネットワーク（?RNN）](https://qiita.com/kiminaka/items/87afd4a433dc655d8cfd)|リカレントニューラルネットワーク。過去の入力による隠れ層（中間層）の状態を現在の入力に対する出力を求める為に使う構造を持ったニューラルネットワーク。|
|[?通時的誤差逆伝播（?BPTT）](https://jrmerwin.github.io/deeplearning4j-docs/ja/lstm#backpropagation)|過去の時系列を遡りながら、誤差を計算していく手法。|
|[?入力重み衝突](https://itisit.hateblo.jp/entry/2019/02/24/%E3%83%AA%E3%82%AB%E3%83%AC%E3%83%B3%E3%83%88%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%81%AE%E5%8B%BE%E9%85%8D%E6%B6%88%E5%A4%B1%E5%95%8F)|現在の入力に対し過去の情報の重みは小さくなくてはならないが、将来の為に大きな重みを残しておかなければならないという矛盾が、新しいデータの特徴を取り込む時に発生すること。|
|[?出力重み衝突](https://itisit.hateblo.jp/entry/2019/02/24/%E3%83%AA%E3%82%AB%E3%83%AC%E3%83%B3%E3%83%88%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%81%AE%E5%8B%BE%E9%85%8D%E6%B6%88%E5%A4%B1%E5%95%8F)|現在の入力に対し過去の情報の重みは小さくなくてはならないが、将来の為に大きな重みを残しておかなければならないという矛盾が、現在の状態を次時刻の隠れ層（中間層）へ出力する時に発生すること。|
|[?LSTM](https://qiita.com/t_Signull/items/21b82be280b46f467d1b)|Long short-term memoryの略。「CEC(Constant Error Carousel)という情報を記憶する構造」と「データの伝搬量を調整する3つのゲートを持つ構造」を持つRNNを改良したモデル。|
|[?GRU（ゲート付き回帰型ユニット）](https://agirobots.com/lstmgruentrance-noformula/)|Gated Recurrent Unitの略。リセットゲートと交信ゲートという2つのゲートを用いた構造のブロックから構成されるモデル。|
|[?双方向RNN（?BiRNN）](https://axa.biopapyrus.jp/deep-learning/rnn/brnn.html)|2つのRNNが組み合わさった構造をしており、一方はデータを時系列通りに学習し、もう一方は時系列を逆順に並び替えて学習を行うモデル。|
|[?sequence-to-sequence（?seq2seq）](https://blog.octopt.com/sequence-to-sequence/?utm_source=rss&utm_medium=rss&utm_campaign=sequence-to-sequence)|入力となる時系列データから、時系列データを生成するタスク。代表的な構造にはRNN Encorder-Decorderモデルがある。|
|[?Attention](https://webbigdata.jp/ai/post-1521)|入力データの一部分に注意するような重みづけを行うことで重要な情報を取り出せるようにした手法。様々な種類がある。|
|[?価値ベース](https://qiita.com/shionhonda/items/ec05aade07b5bea78081#%E4%BE%A1%E5%80%A4%E3%83%99%E3%83%BC%E3%82%B9%E6%96%B9%E7%AD%96%E3%83%99%E3%83%BC%E3%82%B9%E3%83%A2%E3%83%87%E3%83%AB%E3%83%99%E3%83%BC%E3%82%B9)|報酬の期待値を状態や行動の価値計算に反映する方法。|
|[?方策ベース](https://qiita.com/shionhonda/items/ec05aade07b5bea78081#%E4%BE%A1%E5%80%A4%E3%83%99%E3%83%BC%E3%82%B9%E6%96%B9%E7%AD%96%E3%83%99%E3%83%BC%E3%82%B9%E3%83%A2%E3%83%87%E3%83%AB%E3%83%99%E3%83%BC%E3%82%B9)|現時点の方策で計算した報酬の期待値と方策を見比べて、どのように方策を変化させれば報酬の期待値が大きくなるかを直接計算する方法。|
|[?Q学習](https://products.sint.co.jp/aisia/blog/vol1-12)|価値ベースの強化学習手法。状態sと行動aの組み合わせの価値を、状態sと行動aを選んだ後に得られる報酬和の期待値で表現する。|
|[?モンテカルロ木探索](https://blog.brainpad.co.jp/entry/2018/04/05/163000)|ある状態から行動選択を繰り返して報酬和を計算するということを複数回行った後、報酬和の平均値をある状態の価値とする価値推定方法。|
|[?Deep Q Network（?DQN）](https://qiita.com/ishizakiiii/items/5eff79b59bce74fdca0d)|Q学習において、状態と行動の価値をこれまで得た報酬で近似するQ関数を、ニューラルネットワークで表現する手法。|
|[?AlphaGo](https://data.wingarc.com/alpha-go-26586)|DeepMind社が開発した深層強化学習を用いた囲碁プログラム。|
|[?変分オートエンコーダ（?VAE）](https://qiita.com/kenmatsu4/items/b029d697e9995d93aa24)|Variational AutoEncoderの略。オートエンコーダに完了を加えたモデルであり、新しいデータを生成することができるモデル。画像を生成する潜在変数の分布を学習し、入力画像を平均と分散に変換する。|
|[?敵対的生成ネットワーク（?GAN）](https://ledge.ai/gan/)|Generative Adversarial Networkの略。ニューラルネットワークで深層生成モデルを構成する際の代表的なアーキテクチャの1つ。ジェネレータとディスクリミネータという敵対する目的を持つモデルを交互に学習していく。|


# 6. AI技術の応用
| 用語 | 説明 |
|:---|:---|
|[?ILSVRC](https://qiita.com/taki_tflare/items/40bd1313d85513b4b861)|ImageNetと呼ばれるデータを使った[画像認識](https://ledge.ai/image-recognition/)の分類精度を競う競技会。|
|[?AlexNet](https://axa.biopapyrus.jp/deep-learning/cnn/image-classification/alexnet.html)|ILSVRCで2012年1位。ILSVRCにて初めて深層学習の概念を取り入れたモデル。ジェフリー・ヒントン教授らのチームによって発表された。|
|[?GoogLeNet](https://aizine.ai/googlenet-0802/)|ILSVRCで2014年1位。Inceptionモジュールと呼ばれる小さなネットワークを積み上げた構造をしている。|
|[?VGG16](https://newtechnologylifestyle.net/vgg16originalpicture/)|ILSVRCで2014年2位。13層の畳み込み層と3層の全結合層の合計16層から構成されているモデル。3×3の小さな畳み込みフィルタのみを用いたうえで、層を深くしたという特徴がある。|
|[?ResNet](https://deepage.net/deep_learning/2016/11/30/resnet.html)|ILSVRCで2015年1位。最大152層から構成されているネットワーク。層を飛び越えた結合（Skip connection）があることが特徴。|
|[?DenseNet](https://deepsquare.jp/2020/04/resnet-densenet/)|2016年に発表されたモデルで、前方の各層からの出力すべてが後方の層への入力として用いられるのが特徴で、Dense Blockと呼ばれる構造を持つ。|
|[?EfficietnNet](https://qiita.com/omiita/items/83643f78baabfa210ab1)|2019年にGoogle社から発表されたモデルで、これまで登場していたモデルよりも大幅に少ないパラメータ数でありながら、SoTA(State of The Art)を達成。モデルの深さ、広さ、入力画像の大きさをバランス良く調整しているのが特徴。|
|[?物体検出](https://qiita.com/mshinoda88/items/9770ee671ea27f2c81a9#:~:text=%E7%89%A9%E4%BD%93%E6%A4%9C%E5%87%BA%E3%81%AF%E7%94%BB%E5%83%8F%E3%82%92,%E3%82%AF%E3%83%A9%E3%82%B9%E3%82%92%E4%BA%88%E6%B8%AC%E3%81%97%E3%81%BE%E3%81%97%E3%81%9F%E3%80%82)|画像に写っている物体をバウンディングボックスと呼ばれる矩形（くけい）の領域で位置やクラスを認識するタスク。|
|[?R-CNN](https://qiita.com/arutema47/items/8ff629a1516f7fd485f9)|Region CNN(領域ベースCNN)。2014年に発表されたCNNを用いた物体検出モデル。|
|[?YOLO](https://qiita.com/mdo4nt6n/items/68dcda71e90321574a2b)|物体検出手法の1つ。検出と識別を同時に行うのが特徴。|
|[?SSD](https://qiita.com/YutoHagiwara/items/4b66442ff1e09936f1d0)|Single Shot MultiBox Detector。物体検出の手法で、特徴の1つに小さなフィルタサイズのCNNを特徴マップに適応することで、物体のカテゴリと位置を推定することが挙げられる。|
|[?Faster R-CNN](https://medium.com/lsc-psd/faster-r-cnn%E3%81%AB%E3%81%8A%E3%81%91%E3%82%8Brpn%E3%81%AE%E4%B8%96%E7%95%8C%E4%B8%80%E5%88%86%E3%81%8B%E3%82%8A%E3%82%84%E3%81%99%E3%81%84%E8%A7%A3%E8%AA%AC-dfc0c293cb69)|2015年にMicrosoft社が開発した物体検出アルゴリズム。|
|[?セマンティックセグメンテーション](https://jp.mathworks.com/solutions/image-video-processing/semantic-segmentation.html#:~:text=%E3%82%BB%E3%83%9E%E3%83%B3%E3%83%86%E3%82%A3%E3%83%83%E3%82%AF%20%E3%82%BB%E3%82%B0%E3%83%A1%E3%83%B3%E3%83%86%E3%83%BC%E3%82%B7%E3%83%A7%E3%83%B3%20(Semantic%20Segmentation)%20%E3%81%AF,%E3%81%9F%E3%82%81%E3%81%AB%E4%BD%BF%E7%94%A8%E3%81%95%E3%82%8C%E3%81%BE%E3%81%99%E3%80%82)|画像に写っているものをピクセル単位で領域やクラスを認識するタスク。物体領域を種類ごとに抽出する。|
|[?インスタンスセグメンテーション](https://cvml-expertguide.net/2020/08/22/instance-segmentation/)|画像に写っているピクセル単位で領域やクラスを認識するタスク。個別の物体領域を抽出する。|
|[?SegNet](https://qiita.com/cyberailab/items/d11862852eccc17585e8)|2017年に提案されたセマンティックセグメンテーションを行う手法の1つ。入力画像から特徴マップの抽出を行うEncoderと、抽出した特徴マップと元の画像のピクセル位置の対応関係をマッピングするDecoderで構成される。|
|[?U-Net](https://www.acceluniverse.com/blog/developers/2019/11/u-net.html)|セマンティックセグメンテーションを行う手法の1つ。全層畳み込みニューラルネットワークの一種で、畳み込まれた画像をdecodeする際にencodeで使った情報を用いるのが特徴。|
|[?形態素解析](https://ledge.ai/morpho_analysis_japan/)|形態素と呼ばれる言語で意味を持つ最小単位まで分割し、解析する手法。また、単純に単語を分割するだけでなくそれぞれの形態素の品詞等の判別も行う。|
|[?Bag of Words](https://medium.com/chakki/%E3%82%B7%E3%83%B3%E3%83%97%E3%83%AB%E3%81%A0%E3%81%91%E3%81%A9%E5%A5%A5%E3%81%8C%E6%B7%B1%E3%81%84-%E5%8D%98%E8%AA%9E%E3%81%A7%E8%A1%A8%E3%81%99%E6%96%87%E7%AB%A0%E3%81%AE%E7%89%B9%E5%BE%B4-5e12123e8a60)|Bag-of-Words（Bow）。どの単語が含まれるかに注目して単語をベクトル化する方法。|
|[?TF-IDF](https://dev.classmethod.jp/articles/yoshim_2017ad_tfidf_1-2/)|Term Frequency(TF)と、Inverse Document Frequency(IDF)の2つの情報から単語の重要度を算出する方法。大雑把言うと、レアな単語が何回も出てくるようなら、文書を分類する際にその単語の重要度を上げるというもの。|
|[?トピックモデル](https://spjai.com/topic-model/)|文書や単語に潜む潜在的なカテゴリを説明するモデル。|
|[?LDA（潜在的ディリクレ配分法）](https://qiita.com/nyancook/items/2a6c65ea3d9cb725168f)|Latent Dirichlet Allocationの略。文書集合から各文書におけるトピックの混合比率を推定する手法の1つ。各トピックから単語が生成される確率もトピックと同時に推定する。|
|[?word2vec](https://qiita.com/g-k/items/69afa87c73654af49d36)|単語の分散表現を獲得する、ニューラルネットワークを用いた推論ベースの手法。|
|[?doc2vec](https://qiita.com/g-k/items/5ea94c13281f675302ca)|文章の分散表現を獲得する、ニューラルネットワークを用いた推論ベースの手法。|
|[?Transformer](https://qiita.com/omiita/items/07e69aef6c156d23c538)|Google社が2017年に発表した「Attention Is All You Need」という論文で登場した言語モデル。|
|[?BERT](https://qiita.com/omiita/items/72998858efc19a368e50)|Bidirectional Encoder Representations from Transformers の略。Google社が2018年に発表した双方向Transformerを使ったモデルで、事前学習に特徴がある。|
|[?Masked Language Model（?MLM）](https://ainow.ai/2019/05/21/167211/#Masked_Language_ModelMLM)|BERTにも用いられている事前学習のタスクで、文中の複数個所の単語をマスクし、本来の単語を予測する。|
|[?Next Sentence Prediction（?NSP）](https://ainow.ai/2019/05/08/166723/)|BERTにも用いられている事前学習のタスクで、2文が渡され、連続した文かどうか判定する。|
|[?Gap Sentences Generation（?GSG）](https://ai-scholar.tech/articles/treatise/pegasus-ai-369)|PEGASUSというモデルにも用いられている事前学習のタスクで、複数個所の文をマスクし、本来の分を予測する。またマスク部分の決定はランダム以外の方法で決定する。|
|[?GPT-2](https://www.chiropotes.com/latesttech/article201911241/)|OpenAIが2019年に発表したTransformerベースのテキスト生成モデル。800万のWEBページを学習している。高精度な為に開発陣が「あまりにも危険過ぎる」と危惧するあまり論文公開が延期される事態にまで発展したことで話題に。|
|[?音素](https://acoustics.jp/qanda/answer/45.html)|語の意味を区別する音声の最小単位。音声認識では、音素から単語への予測が行われることがある。|
|[?ケプストラム](https://www.g200kg.com/jp/docs/dic/cepstrum.html)|音声認識で使われる特徴量の1つ。音声信号に対し、フーリエ変換を行った後、対数を取り、もう一度フーリエ変換を行い、作成する。|
|[?メル尺度](https://qiita.com/tmtakashi_dist/items/eecb705ea48260db0b62)|人間の音声知覚の特徴を考慮した尺度で、メル尺度の差が同じ時、人が感じる音高の差が同じになる。|
|[?メル周波数ケプストラム係数（?MFCC）](https://qiita.com/tmtakashi_dist/items/eecb705ea48260db0b62)|音声認識の領域で使われることの多い特徴量の1つ。ケプストラムにメルメル周波数を考慮したもの。|
|[?マルコフ過程](https://ticc-econometrics.hatenablog.com/entry/2018/09/01/100000)|確率モデルの1つ。マルコフ性（ある時刻の状態がその直前の状態によってのみ決まる特性で無記憶性ともいう）を持つ確率過程（時間とともに変化する確率変数）。|
|[?隠れマルコフモデル（?HMM）](https://www.kabuku.co.jp/developers/hmm)|観測されない隠れた状態を持つマルコフ過程。|
|[?損失関数](https://ai-trend.jp/basic-study/neural-network/nn_loss_function/)|予測と実際の値のズレの大きさを表す関数。損失関数の値が小さければより予測精度の高い正確なモデルと言える。[動画解説](https://www.youtube.com/watch?v=eZMpRzECFUM)。|
|[?CTC損失関数](http://www.thothchildren.com/chapter/5c0b599041f88f26724a6d63)|Connectionist Temporal Classificationの略。音声認識等で用いられる損失関数。LSTMやRNN等でEnd-to-Endに音声認識を行う際に用いられることがある。|
|[?WaveNet](https://ai-scholar.tech/articles/treatise/waven-ai)|2016年にDeepMind社によって開発された音声合成・音声認識に使われるモデル。PixelCNNというモデルをベースにしている。|
|[?RAINBOW](https://qiita.com/shionhonda/items/ec05aade07b5bea78081)|Deep Q NetworkをベースにDueling Network、Double DQN、Noisy Net、Categorical DQN等のアルゴリズムを全部載せしたアルゴリズム。|
|[?Actor-Critic](https://qiita.com/shionhonda/items/ec05aade07b5bea78081)|行動を選択するActorと、Q関数を計算することで行動を評価するCriticを、交互に学習するアルゴリズム。|
|[?REINFORCE](https://qiita.com/shionhonda/items/ec05aade07b5bea78081)|一連の行動による報酬和で方策を評価して、チョコ右折方策を改善する方策勾配法系のアルゴリズム。|
|[?AlphaGo Zero](https://ja.wikipedia.org/wiki/AlphaGo_Zero)|AlphaGoを改良したプログラム。人間の棋譜を一切使わずに、Alpha Zero自身の自己対戦によって棋譜を生成して、ゼロからニューラルネットワークを学習。|
|[?deepfake（?ディープフェイク）](https://lionbridge.ai/ja/articles/deepfake/)|GAN等を用いて人物の画像や映像を合成する技術。既存の画像と映像を、元となる画像または映像に重ね合わせて、非常に自然に合成をすることが可能。|


# 7. 法律・倫理・現行の議論
| 用語 | 説明 |
|:---|:---|
|[?Kaggle](https://www.codexa.net/what-is-kaggle/)|データサイエンティストのコンペティションプラットフォームであり、様々な企業や研究者データを投稿し、世界中のデータサイエンティストが自身のモデルの精度等を競っている。様々なデータに対する解法や考察等も存在し、閲覧することができる。|
|[?Coursera](https://ja.coursera.org/)|機械学習等の分野をオンラインで学ぶことができる教育プラットフォーム。|
|[?MOOCs](https://education-career.jp/magazine/data-report/2016/moocs/)|Courseraのような大規模なオンライン講座群のことで、Massive Open Online Coursesの略。|
|[?arXiv（アーカイヴ）](https://ja.wikipedia.org/wiki/ArXiv)|機械学習等の論文をアップロード・ダウンロードすることができるプラットフォームで、最新の研究等の情報を閲覧することができる。|
|[?Tay](https://ja.wikipedia.org/wiki/Tay_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD))|Microsoft社が2016年に、19歳の女性の話し方を模倣するように設計された[チャットボット](https://ledge.ai/chatbot/)。様々なソーシャルネットワークサービス（SNS）に向けてリリースしたが、リリースから数時間後、不適切な発言が多かった為公開停止。|
|[?フィルターバブル現象](https://ja.wikipedia.org/wiki/%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF%E3%83%BC%E3%83%90%E3%83%96%E3%83%AB)|商品のレコメンドシステムや検索エンジンにおいて、自分が見たいものや欲しい情報のみに包まれてしまう現象で、インターネット活動家であるイーライ・パリサーが2011年に出版した著書名から名前が付けられた。|
|[?ブラックボックス](https://ja.wikipedia.org/wiki/%E3%83%96%E3%83%A9%E3%83%83%E3%82%AF%E3%83%9C%E3%83%83%E3%82%AF%E3%82%B9#:~:text=%E3%83%96%E3%83%A9%E3%83%83%E3%82%AF%E3%83%9C%E3%83%83%E3%82%AF%E3%82%B9%20(Black%20box)%20%E3%81%A8,%E3%82%92%E6%8C%87%E3%81%97%E3%81%A6%E3%81%93%E3%81%86%E5%91%BC%E3%81%B6%E3%80%82)|中身が分からない黒い箱。転じて、機械学習領域では予測根拠が分からない場合に使われる。ディープラーニング等のモデルが複雑になるほど、ブラックボックスである傾向が強い。|
|[?XAI](https://www.atmarkit.co.jp/ait/articles/1908/19/news022.html)|解釈性の高いもしくは説明可能なAIのこと。米国DARPA（Defence Advanced Research Projects Agency: 国防高等研究計画局）が主導する研究プロジェクトが発端となり、XAI（Explainable AI）と呼ばれる。|
|[?透明性レポート](https://transparencyreport.google.com/?hl=ja)|顧客・社会に向けて、収集したデータやその扱い等について開示したもの。|
|[?EU一般データ保護規則（?GDPR）](https://tokiocyberport.tokiomarine-nichido.co.jp/cybersecurity/s/column-detail39)|EUを含む欧州経済領域内にいる個人の個人データを保護する為のEUにおける統一的ルールである、域内で取得した「氏名」や「クレジットカード番号」等の個人データを域外に移転することを原則禁止している。EU域内でビジネスを行い、EU域内にいる個人の個人データを取得する日本企業に対しても、幅広く適用される。|
|[?匿名加工情報](https://www.jcb.co.jp/service/pop/tokumeikakou.html#:~:text=%E5%8C%BF%E5%90%8D%E5%8A%A0%E5%B7%A5%E6%83%85%E5%A0%B1%E3%81%A8%E3%81%AF%E3%80%81%E7%89%B9%E5%AE%9A%E3%81%AE%E5%80%8B%E4%BA%BA%E3%82%92%E8%AD%98%E5%88%A5,%E3%81%AB%E5%B0%8E%E5%85%A5%E3%81%95%E3%82%8C%E3%81%BE%E3%81%97%E3%81%9F%E3%80%82)|個人方法を加工することで特定の個人を識別することができないようにし、当該個人情報を復元不可にした情報。|

# 8. 組織・メディア・学習サイト
| 用語 | 説明 |
|:---|:---|
|[日本ディープラーニング協会](https://www.jdla.org/)|一般社団法人。Japan Deep Learning Association（JDLA）。G検定及びE検定の開催団体。|
|[人工知能学会](https://www.ai-gakkai.or.jp/)|一般社団法人。人工知能に関する研究の進展と知識の普及を図り，もって学術・技術ならびに産業・社会の発展に寄与することを目的として設立された学会。|
|[Ledge.ai](https://ledge.ai/)|株式会社レッジが運営する「発想と実装の間をつなぐ」がコンセプトのAI/人工知能特化型Webメディア。|
|[AINOW](https://ainow.ai/)|ディップ株式会社が運営するAI（人工知能）について知り・学び・役立てることができる国内最大級のメディア。|
|[AI 機械学習 Wiki](https://www.datarobot.com/jp/wiki/)|機械学習自動化ソフトウェアのDataRobotが運営する用語集サイト。あらゆるスキルレベルのビジネスおよび分析の専門家向けの機械学習、データサイエンス、人工知能（AI）に関する用語の検索が可能。|
|[Aidemy](https://aidemy.net/courses/search?category=%E5%85%A8%E3%81%A6&subcategory=%E5%85%A8%E3%81%A6&target=&mainExerciseType=&searchWord=&courseGroup=)|株式会社アイデミーが運営するテックカレッジ。お薦めは「[機械学習概論](https://aidemy.net/courses/2010)」と「[ディープラーニング基礎](https://aidemy.net/courses/5090)」。|
|[Chainer チュートリアル](https://tutorials.chainer.org/ja/tutorial.html)|Chainerはニューラルネットワークの計算および学習を行うためのオープンソースのソフトウェアライブラリ。|
|[Able Programming](https://www.youtube.com/channel/UCh5M2YUAPW7HnpfTUv7XHmA/videos)|機械学習やディープラーニングに関する動画を投稿しているYouTubeチャンネル。|