AlphaGo Zero

AlphaGo Zero（アルファ・ゴ・ゼロ）は、DeepMindのAlphaGoのバージョンである。AlphaGoのチームは2017年10月19日に学術誌Natureの論文でAlphaGo Zeroを発表した。このバージョンは人間の対局からのデータを使わずに作られており、それ以前の全てのバージョンよりも強い。自分自身との対局を行うことで、AlphaGo Zeroは3日でAlphaGo Leeの強さを超え（100勝0敗）、21日でAlphaGo Masterのレベルに達し、40日で全ての旧バージョンを超えた。

人間の熟練者から得られたデータは「しばしば高価で、信頼性が低く、あるいは単に利用ができない」ため、こういったデータセットなしでの人工知能（AI）の訓練は超人的な能力を持つAIの開発にとって重要な影響をもたらす。DeepMindの共同創立者でCEOのデミス・ハサビスは、AlphaGo Zeroはもはや「人間の知識の限界によって制約されなかった」ため非常に強力だ、と述べた。AlphaGoに関してNatureで発表されたDeepMindの論文の筆頭著者の一人であるは、人間からの学習の必要性を取り除くことによって、汎用AIアルゴリズムを得ることが可能である、と述べた。

2017年12月、AlphaZeroと名付けられたAlphaGo Zeroの汎用バージョンが、AlphaGo Zero、トップチェスプログラム（Stockfish）、トップ将棋プログラム（elmo）を破った。

 訓練 
AlphaGo Zeroのニューラルネットワークは、64個のGPUワーカーと19個のCPUパラメータサーバーを使ったTensorFlowを用いて訓練された。推論にはわずか4個のTPUが使われた。ニューラルネットワークは初めにルール以外は囲碁に関して何も教えられていなかった。ZeroはAlphaGoのそれ以前のバージョンと異なり、異常な盤上の石の位置を認識するために人間がプログラムした希なエッジケースを持たずに、盤上の石のみを知覚する。このAIは「教師なし学習」に取り組み、自分自身の手とそれらの手が試合の結果にどのように影響するかを予測できるまで自身との対戦を行なった。最初の3日で、AlphaGo Zeroは自分自身と間断なく490万回対局した。以前のAlphaGoが人間のトッププロを破るのに必要なスキルを身に付けるためには数カ月の訓練を要したが、AlphaGo Zeroはわずか数日で同じレベルに達した。

比較のため、著者らは人間の棋譜を用いたAlphaGo Zeroの訓練も行い、学習はより迅速であるが、実際には長期的にはより劣った成績となることを明らかにした。DeepMindは2017年4月にNatureに論文を投稿し、2017年10月に発表された。

 応用 
ハサビスによれば、AlphaGoのアルゴリズムは、タンパク質の折り畳みや化学反応の正確なシミュレーションといった膨大な可能性空間全体にわたる知的探索を必要とする分野に対して最も有効そうである。AlphaGoの技術は、自動車の運転の仕方の学習といったシミュレーションが困難な分野ではおそらく有用性が低い。

 受容 
AlphaGo Zeroは、画期的な進歩を成し遂げた前バージョンのAlphaGoと比較した時でさえも、重大な進歩であると広く考えられた。のはAlphaGo Zeroを「獲得した能力と、4個のTPU上で40日でシステムを訓練する能力の両方」における「非常に見事な技術的成果」と評した。ガーディアン誌は、シェフィールド大学のEleni Vasilakiとカーネギーメロン大学のTom Mitchellを引用して、AlphaGoを「人工知能に関する大躍進」と評した。AlphaGo Zeroについて、Vasilaskiは見事な離れ業、Mitchellは「傑出した工学的偉業」とそれぞれ評した。シドニー大学のはAlphaGo Zeroについて、我々を「未知の領域」へと連れていく「大きな技術的進歩」と評した。

ニューヨーク大学の心理学者ゲイリー・マーカスは、恐らくAlphaGoは「囲碁のような問題をプレーする機械をどのように構築するかに関してプログラマーが持っている暗黙の知識」を含み、その基礎アーキテクチャが囲碁を打つ以上のことに対して有効であると考える前に、他の分野において検証される必要がある、と戒めた。対照的に、DeepMindは「このアプローチが数多くの分野に汎化が可能であることを確信」している。

DeepMindの論文に応えて、韓国の囲碁棋士李世乭は「AlphaGoの以前のバージョンは完璧ではなかった、それがAlphaGo Zeroが作られた理由だと考えます」と述べた。AlphaGoの発展の潜在性に関して李は、静観しなければならないだろうと述べたが、若い囲碁棋士にはインパクトがあるだろうとも述べた。囲碁の韓国代表チームを指揮する睦鎮碩は、囲碁の世界は既に以前のバージョンのAlphaGoの戦い方を模倣し、それらから新しいアイデアを生み出しており、新たなアイデアがAlphaGoZeroから出てくることに期待を寄せている、と述べた。睦は、囲碁界における一般的傾向は現在AlphaGoの戦い方に現在進行形で影響されているとも付け加えた。「最初は、理解するのが大変で、ほとんど異星人と対局してるように感じました。しかし、多くの経験を積むにつれ、慣れました」と睦は述べた。「私達は現在AlphaGoと人間の能力間の実力差について討論するところは過ぎてしまっています。今はコンピュータ間の差が問題になっています」。報道によれば睦は既に代表チームの選手らと共にAlphaGo Zeroの戦い方の分析を始めている。「わずか数局しか見ていませんが、AlphaGo Zeroは以前のバージョンよりも人間のように打つという印象を私達は受けています」と睦は述べた。中国のプロ棋士柯潔は微博のアカウントで、「純粋な自己学習型AlphaGoは最強だ、人間はAlphaGoの自己改善の前では不必要なようだ」とコメントした。

 以前のバージョンとの比較 
+機器構成と強さバージョンハードウェアイロレーティング試合176 GPUs, 分散3,1445:0 対 樊麾AlphaGo Lee48 TPUs, 分散3,7394:1 対 李世乭AlphaGo Master4 TPUs v2, シングルマシン4,85860:0 対プロ棋士
3:0 対 柯潔AlphaGo Zero4 TPUs v2, シングルマシン5,185100:0 対 AlphaGo Lee
89:11 対 AlphaGo Master

 AlphaZero 

2017年12月、DeepMindチームは汎化されたAlphaGo Zeroのアプローチを用いたプログラムであるAlphaZeroの論文をarXiv上で発表した。AlphaZeroは24時間以内にチェス、将棋、囲碁の世界チャンピオンプログラムであるStockfish、elmo、3日間学習させたAlphaGo Zeroを破る超人的レベルに達した。

 脚注 

 外部リンク 
 AlphaGo blog
 Nature news on AlphaGo Zero
 Full nature article on AlphaGo Zero
 AlphaGo Zero Games
 AMA on Reddit

Category:AlphaGo
Category:囲碁ソフトウエア
Category:2017年のソフトウェア
Category:2017年の囲碁
Category:応用機械学習
Category:Google