Google （3. 2017年ごろ：AlphaGo Master/Zero, AlphaZero, AutoML, Transformer）

本記事は下記の続きです。

https://qiita.com/akagi_hayato/items/d97a0c14b4997baa1cf5

## 経営、方針など
2017年のGoogle I/Oで、CEOのSundar Pichai氏はKeynoteで戦略をMobile FirstからAI Firstへ転換すること、さらにAIの開発を行うGoogle.aiの設立を発表した[^30][^31]。Google.aiはAutoMLなど最新のAI研究、TPUやTensorflowなどのツール、AI応用にフォーカスするとされた。

> ![スクリーンショット 2025-05-30 16.44.34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3982238/216be47f-63a5-4b0e-92b9-c827b9edd2ce.png)
[Google I/O Keynote (Google I/O '17)](https://www.youtube.com/watch?v=Y2VF8tmLFHw)

:::note info
2017年時点でGoogle Brainは、Google.ai全体の取り組みの一環として、研究とシステムエンジニアリングを通じて人工知能の最先端技術の発展に取り組むという立ち位置。[^12]
:::

[^30]:[Google I/O 2017: Integrating Everything with AI](https://syncedreview.com/2017/05/22/google-io-2017-integrating-everything-with-ai/)
[^31]:[Google I/O Keynote (Google I/O '17)](https://www.youtube.com/watch?v=Y2VF8tmLFHw)

## AlphaGo Master,Zero / AlphaZero
DeepMindは2017年もAlphaGoの改良を続け[^1]、AlphaGo Masterと呼ばれるバージョンで実力を示した[^2]。
2017年10月には、AlphaGo Zeroを発表した[^3]。AlphaGo Zeroは、従来のバージョンのように人間の対局データを用いるのではなく、完全にランダムなプレイから始めて、自分自身と対戦（Self-play）するだけでプレイ方法を強化学習することでAlphaGoを破った。
AlphaGoのSelf-playは下記のように行われる（探索のハイパーパラメータ調整はベイズ最適化によりおこな）[^4]。
- 碁盤の状態によりMonte-Carlo Tree Search（MCTS）で次の手を算出
    - Tree Searchのために下記の入出力のニューラルネットワークを用いる
        - 入力：碁盤状態
        - 出力：次の手の確率分布、その時点でのプレイヤーの勝利確率
- 終局まで進め、碁盤状態により勝者を判定
    - ニューラルネットワークが算出するプレイヤーの勝利確率との誤差によりネットワークを学習させる

> ![](https://vitalab.github.io/article/images/alpha/fig4.jpg)
[AlphaGo Zero self-play training pipeline]()

そして2017年12月には、AlphaGo Zeroをチェスと将棋にも拡張したAlphaZeroというモデルが発表された[^5]。

[^1]:[X post by Demis Hassabis at 12:00 AM · Jan 5, 2017](https://x.com/demishassabis/status/816660463282954240)
[^2]:[Google’s AlphaGo Defeats Chinese Go Master in Win for A.I.](https://www.nytimes.com/2017/05/23/business/google-deepmind-alphago-go-champion-defeat.html)
[^3]:[AlphaGo Zero: Starting from scratch](https://deepmind.google/discover/blog/alphago-zero-starting-from-scratch/)
[^4]:[Mastering the Game of Go without Human Knowledge](https://discovery.ucl.ac.uk/id/eprint/10045895/1/agz_unformatted_nature.pdf)
[^5]:[Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm](https://arxiv.org/abs/1712.01815)

## AutoML

2017年5月のGoogle I/Oで、Googleの人工知能研究グループであるGoogle Brainが、ニューラルネットを用いてニューラルネットを設計することで、AIシステムのセットアップにかかる時間のかかるプロセスを短縮し、専門家ではない人が特定のニーズに合わせたAIを構築できるように支援するAutoMLというプロジェクトを発表した[^10]。
AutoMLの最終目標は、人間の機械学習の専門家が新しい問題に介入することなく、コンピュータが新しい機械学習の問題を自動的に解決できる技術を開発することであり[^12]、GoogleのCEOであるSundar Pichai氏は、AutoMLプロジェクトによって専門知識の必要性が軽減され、機械学習を活用できる開発者の数が増えることを期待していると述べている。これは、クラウドコンピューティングサービスを機械学習を活用した開発・ホスティングに最適な場所と位置付けるというGoogleの戦略にも合致している[^11]。
Google Brainの実験では、AutoMLにより下記のアプローチが取られた。
1. コントローラーニューラルネットが「子」モデルアーキテクチャを提案
1. それを特定のタスクで学習・品質評価
1. コントローラーニューラルネットに次のラウンドに向けて提案を改善する方法を通知
このプロセスを何千回も繰り返し、コントローラーは高精度を達成したアーキテクチャ空間の領域に高い確率を割り当て、スコアが低いアーキテクチャ空間の領域に低い確率を割り当てることを学習する。

>![](https://1.bp.blogspot.com/-0nzARW3QtkA/WRtuVsUJ02I/AAAAAAAAB0s/t6ncpAH6VfIzkr2tWW8CnE6U2Es2Bs1BgCLcB/s640/image3.png)
[AutoML process](https://research.google/blog/using-machine-learning-to-explore-neural-network-architecture/)

これによりGoogle Brainは、画像認識と言語モデルのAIについて機械学習の専門家が設計した最先端のモデルと同等の精度を達成するモデルが設計されることを確認した。

>![](https://3.bp.blogspot.com/-i_T7k1EMd9w/WRtucgbRx1I/AAAAAAAAB0w/ZKxPOsmZCt4hnqCT0nhhWyHRFdD-xssUgCLcB/s1600/image1.png)
[](https://research.google/blog/using-machine-learning-to-explore-neural-network-architecture/)

[^10]:[All 101 announcements from Google I/O ‘17](https://blog.google/technology/developers/all-io17-announcements/)
[^11]:[Why Google’s CEO Is Excited About Automating Artificial Intelligence](https://www.technologyreview.com/2017/05/17/151652/why-googles-ceo-is-excited-about-automating-artificial-intelligence/)
[^12]:[The Google Brain Team — Looking Back on 2017 (Part 1 of 2)](https://blog.research.google/2018/01/the-google-brain-team-looking-back-on.html)
[^13]:[Using Machine Learning to Explore Neural Network Architecture](https://research.google/blog/using-machine-learning-to-explore-neural-network-architecture/)


## Transformer
2012年に、Google内でユーザーの質問に対してWebサイトを誘導せずに検索ページ上で直接回答するシステムを開発するチームが立ち上がった。当初RNNが主に使われていたが、2014年ごろからRNNよりも高速で効果的である可能性があるとしてSelf-Attentionと呼ばれるGPU計算にも適合するアーキテクチャの開発が進められ[^21]、2017年に既存のニューラルネットワークを用いずにSelf-AttentionのみでEncoder-Decoderモデルを構築する初めてのモデルであるTransformerを[Attention Is All You Need](https://arxiv.org/abs/1706.03762)という論文で発表した[^22]。
Transforemerは、学習時間を大幅に短縮した（GPU 8基で3.5日）上で、機械翻訳のタスクで最先端の結果を記録した。

>![](https://towardsdatascience.com/wp-content/uploads/2024/04/1SDpBMRQYC_R5qfkShE4_dQ.png)
[Roadmap for the Self-Attention mechanism](https://towardsdatascience.com/deep-dive-into-self-attention-by-hand-%EF%B8%8E-f02876e49857/)

[^21]:[8 Google Employees Invented Modern AI. Here’s the Inside Story](https://www.wired.com/story/eight-google-employees-invented-modern-ai-transformers-paper/)
[^22]:[Attention Is All You Need](https://arxiv.org/abs/1706.03762)

続きはこちら

https://qiita.com/akagi_hayato/items/fde34a27c059fef520fe