目次
座談会 （２０１７年６月 日開催）

終わりに ……………………………………………………………………………………………………………………………………

ＡＩで社会はどう変わるのか？ ………………………………………………………………………………

ＡＩと人はどう付き合っていくのか？ ………………………………………………………………

棋士から見たＡＩと人の違いとは？ ……………………………………………………………………

なぜ囲碁将棋なのか …………………………………………………………………………………………………………

86

59

37

12

8

14

2

【登壇者】

世紀政策研究所研究委員／
東京大学大学院情報理工学系研究科特任教授

世紀政策研究所研究主幹／
東京大学大学院情報理工学系研究科教授

公益財団法人日本棋院

公益財団法人日本棋院

棋士（六段）

棋士（九段）

瀬名

松尾

中島

國吉

大橋

王

羽生

有沙

秀明

豊

秀之

康夫

拓文

銘琬

善治

公益社団法人日本将棋連盟
棋士（王位・王座・棋聖）

世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授

江間世紀政策研究所研究委員／作家
東京大学教養学部附属教養教育高度化機構
科学技術インタープリター養成部門特任講師

3

21

21

21

21

ごあいさつＩ）研究の急速な進展、産業への活用に対するＡ

ジェクトを立ち上げました。足掛け年にわたり、Ｉの活用が期

Ｉが社会にイノベーションをもたらす基礎技術であることの理解を深めると共に、実用化に向けた課題、

Ａ

立場から、「Ｉと人の違い」「Ｉが競い合うという経験をされている

Ｉで社会はどう変わＡＡ

Ｉと人はどう付き合うべきか」「ＡＡます。
本日の座談会が、皆様のＩへの理解を深める一助となり、今後のビジネスの展開にるのか」といったテーマについて、当プロジェクトのメンバーと共に議論していただきＡの王銘琬九段、大橋拓文六段をお招きし、人と本日は、当プロジェクトの一環として、プロ将棋棋士の羽生善治九段、プロ囲碁棋士待される産業分野、経済・社会に与える影響などについて研究しています。

Ａ

2

世界的な期待の高まりの中、東京大学教授の國吉康夫先生を研究主幹に迎え、研究プロ

世紀政策研究所では、人工知能（

214

二〇一七年六月十四日

世紀政策研究所

ごあいさつ

5

お役立てくださることを願っています。



21

座

談 会
【登壇者】

【司 会】

世紀政策研究所研究委員／
東京大学大学院情報理工学系研究科特任教授

世紀政策研究所研究主幹／
東京大学大学院情報理工学系研究科教授

公益財団法人日本棋院

公益財団法人日本棋院

棋士（六段）

棋士（九段）

瀬名

松尾

中島

國吉

大橋

王

羽生

有沙

秀明

豊

秀之

康夫

拓文

銘琬

善治

公益社団法人日本将棋連盟棋士（王位・王座・棋聖）

世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授

江間

21

21

東京大学教養学部附属教養教育高度化機構
科学技術インタープリター養成部門特任講師

世紀政策研究所研究委員／作家

21

21

本日、司会を務めさせていただきます、東京大学の江間です。よろしくお願いしなぜ囲碁将棋なのか江間
現在

世紀政策研究所では、いくつかのプロジェクトが進行していますが、私たます。それでは、最初に、國吉さんから、この座談会の趣旨のご説明をお願いします。
國吉

月から本格的に議論を開始しました。

2

私たちのプロジェクトの趣旨です。

れに対して、さまざまな知恵を結集して、できるだけ具体的に答えていこうというのが、れから産業・社会はどうなっていくのか、全体像を掴み切れていないのが現状です。こ合もあります。そうした中で、政府あるいは企業は対応を迫られているわけですが、こ受け止め方はさまざまで、過剰に期待されている場合もあれば、過小評価されている場

ご案内の通り、昨今、ＡＩが社会や産業に大きなインパクトを与えていますが、その準備を始め、２０１６年

ちのプロジェクトは、ＡＩの本格的な普及に向けた研究です。２０１５年末より検討・

218

國吉研究主幹

昨年

月には、経団連会員企業の皆様をおご参照）。そこでもさま迎えして、シンポジウムを開催しました（

世紀政策研究所新書

術論に始まり、「産業への応用」「ビジネスへてどのような方向に発展するのか」という技

この研究会では、「これからＡＩが技術としししたいと思います。

して選んだか、ということについて少しお話

その中で、今日、なぜ囲碁将棋をテーマといと考えています。

年度中にも、その結果をまとめてご報告したする形でプロジェクトを進めてきました。今

ざまなご質問・ご意見を頂戴し、それを反映

62の影響」、さらには、経済、社会、労働、ある

座談会

9

21

10

10

いは法制度など「社会がどのように変化していくのか」といったことに議論が移ってきています。

この議論の流れを俯瞰したとき、囲碁将棋が、実は、ＡＩ研究の黎明期からの代表

年以上前、ＡＩ研究の初期段階的な課題であるということが、今回テーマとして取り上げた理由の一つです。チェス、チェッカー、バックギャモンなどのボードゲームは、

ルの人を打ち負かすということが起こっています。そうすると、「ＡＩは、いったいどこ」が、昨年、今年と、世界最高レベルの棋士を破ったことは、皆プログラムの「 AlphaGo
さんの記憶に新しいと思います。つまり、ＡＩが人間の専門家、しかも世界トップレベ

もう一つの理由は、非常にホットな話題であるということです。コンピューター囲碁な技術があります。

中心的課題とされてきたわけです。そこには推論や探索といった、ＡＩの柱となるようです。つまり、人間の心や思考について考える上での格好な題材である、という意味でクリアに定義された世界の中で、人間の心や思考というものを考えることができるからから課題とされて以降、連綿と研究されてきました。なぜかというと、ある種、非常に50までいくのか」「人間との関係はどうなっていくのか」という問題を内包してきます。技術論から社会論までが、ここに凝縮されているという意味でも、非常に重要なテーマだといえます。

さらに付け加えると、囲碁将棋における思考方法、戦略、あるいは精神の持ち方といった部分は、ビジネスや経営への示唆があると考えられます。これをもう一段上げて、これからＡＩと人の関係を上手に展開しながら未来をデザインするという意味で、それをどう企業経営に活かしていくか、といった観点もあるでしょう。

そうした期待を込めて、今日、棋界を代表する棋士の皆さんにおいでいただいたわけ

ありがとうございました。では、座談会に入りたいと思うのですが、その前に、ごでして、ぜひ盛り上がる議論をしたいと思います。
江間

来場の皆さんが、どのようなご関心を持っていらっしゃるのか、お伺いします。

まず、実際にＡＩの開発や運用に関わっている方は、どのぐらいいらっしゃいますか（数人が挙手）。そんなにはいらっしゃいませんね。

次に、ご自分で将棋を指したり、囲碁を打ったりされる方は、どのぐらいいらっしゃ

座談会

11

は、囲碁将棋の話が多めになると思いますので、ぜひ楽しんでいただければと思います。

最初のテーマは「ＡＩと人との違い」ということで、まず棋士の皆さんから、お棋士から見たＡＩと人の違いとは？
江間

一人ずつ、お考えになっていることをお話しいただければと思います。では、私の隣に座っておられる大橋さんからお願いします。

私が、ＡＩと囲碁を打っていて感じるのは「ストーリーが感じられない」というＡＩに「ストーリー」はない大橋

12

いますか（会場の半数が挙手）。やはり多いですね。
人ぐらいでしょうか。わかりました。

最後に、ＡＩにも関わっていて、囲碁将棋もやる、という方は……そうですよね。
〜

2

やはりＡＩ関係者よりも囲碁将棋ファンの方々が多いということですね。おそらく今日

3

大橋六段

ことです。これが一番大きい違いだと思います。人間の場合、囲碁を打っていて、例えば、途中でＡという戦略を立てると、それを継続して打つわけです。囲碁には「手談」という別名があります。お互いが手を通じて、会話するという意味で、お互いに相手の手を見て、その意図を推測しながら進めていきます。

それが囲碁の面白いところでもあったと思うのですが、コンピューター囲碁の場合は、
ある手を打って違う手を返すと、必ずしも戦略に拘らないんですね。その場その場で最適と思われる手を打つのだけれど、前後の脈絡が感じられないんです。そこが、人が違和感を持つところだと思います。

座談会

13

しかし、そこには「発想が自由になる」というメリットもあります。この違和感を人間がどう解釈していったらいいのか、ほんとうにそれは良い手なのか、最適な戦略なの

かの見極めが、今の囲碁棋士にとって一つの課題であると思っています。

そうですね、人間には、たぶん「幸せになりたい」という目的があると思うのです

お隣の王さん、いかがでしょうか。

ＡＩはボトムアップ型で無矛盾のシステム
江間王が、ＡＩには、今のところ、ないかもしれないですね。これは私にとって、けっこう重要なことなんです。

人間もＡＩも、今のところ碁を打つときは勝利を目的として打っています。さらに人間の場合、その上に「楽しみを得たい」という目的があって、そのまた上に「幸せになりたい」という目的があるんだと思います。同じ勝利を目的にしているようでも、本質的に違うところがあると思いますね。

それから、着手を決定していく際に大橋さんがおっしゃったストーリー性というのが、

14

王九段

一 つ の キ ー ワ ー ド に な っ て く る の で し ょ う。

これは、やはり人間ならではのものなんですよね。人間が碁を打つとき、部分から全体のストーリーを認識して、自分で勝手に意味づけをして、その積み重ねで考えていきます。Ａ

Ｉは、今や全体をそのまま判断して、次の手を決定することができるまでになりました。

私たちは、考えるときに言葉を使いますけ

れど、言葉というものは、どうしても前後が出てきますから、それもストーリー性を生む要素になるかと思います。ＡＩには、そうい

う仕組みはないので、その辺は大きく違いますね。ストーリー性は主観そのものですから、人間の場合、どうしても主観に引っ張られて

座談会

15

判断に狂いが生じるのですが、ＡＩは、あくまで客観的です。

そういう意味では、意志決定をする過程としては、人間には一番上に幸せになりたいという目的があるので、最終的にはそれがキーになって、トップダウン型の意志決定をします。それに対して、ＡＩは、全局的に判断するといっても、それは実際には小さな

数字の積み重ねの結果ですから、典型的なボトムアップ型そのものではないかと思います。

ＡＩは、システム的な矛盾のない「無矛盾のシステム」だと思っています。それに対して、人間は、やっぱり、いろいろな面を持った存在でして、行動をよく観察すると矛盾だらけだと思います。そこが根本的に違いますよね。

棋士の間でＡＩの打つ手が分からない、と話題になることがあるのですが、本当は、体系的に無矛盾の過程から出てくる手なので、むしろ分かりやすいんです。私は、人間の打つ手のほうが、矛盾があって分かりにくいのではないかと思っています。そういう意

味では、ＡＩは、正直で、能力が非常に高く、仕事もよくできる。一方、人間は、ずる

賢いアイデアは出てくるけれど、間違いもよくするし、能力はそんなに高くない。そん16

なイメージです。
私は、そんな人間の人であるわけですが、そういうところを理解して、寄り添って番目だと、だんだん話すことがなくなってきますね。

それでは羽生さん、お願いいたします。

ります。

われていますけれど、ＡＩに、過去の棋譜とか実践とかを大量に覚えさせれば、強くな的に三つあるんです。一つは、データを増やすこと。最近、よく「ビッグデータ」とい将棋のソフト、ＡＩも、最近、すごく強くなっています。強くしていく方法は、基本

羽生

江間

ＡＩには恐怖心がないとは、まだできない。それが、私にとって大事な違いですね。

解できませんから。そう考えると、人間を愛することはできるけれど、ＡＩを愛するこくれるのは、やっぱり人間しかできないと思います。ＡＩは無矛盾ですので、矛盾を理

1

二つ目は、
ハードの性能を上げることです。コンピューターの世界でよくいわれる
「ム

座談会

17

3

羽生九段

ーアの法則」のように、秒間に１００万手

億手になれば、自然に強くなる。

読むことができたのが、１０００万手になり、さらにる」ということなんです。将棋ソフトの開発の歴史は、けっこう長いのですが、何が一番難しかったかというと、その「局面を正しく評価する」ということです。

これはおそらく囲碁も同じだと思うのです

が、将棋というのは、一つの局面を見たときに、単一の価値基準で判断ができない競技なんです。例えば、あるときには駒をたくさん持っていたほうがいい、それが最も優先される局面がありますし、あるときには、とにか

181

そして、三つ目が、「局面そのものを評価す1

くスピード勝負で、早く攻めたほうがいい、という局面もあります。あるいは、厚みを築いて、陣形的なスペースをたくさんとっておいたほうがいい、という局面もあります。

それは、序盤、中盤、終盤で変わっていくのかというと、そういうことではなくて、それぞれの局面、局面で、何が最も優先されるのか、判断しないといけません。

これは、将棋ソフトの場合には「評価関数」と言いますが、例えば、一つの局面に対して、プラス１００点とか、マイナス２００点とか、評価をしていきます。ＡＩは、何

百万手、何千万手も先を読めるのですが、読めていたからといって、方向性を間違えていたら、すべて無駄な思考になってしまうんです。

逆に、人間が強くなっていくプロセスを考えてみると、たくさん手を読めるようになることよりも、「いかに思考を省略できるか」が大切になってきます。つまり、パッと見て、この手はダメだと判断できるようになること、はじめから考えない手を増やすことが、上達するということと、ほぼイコールなんですね。

この「評価する」ということが非常に難しかったのですけれど、プログラムを開発している人たちが、長い歳月を経て、さまざまな工夫を凝らしてきたので、評価関数の精度

座談会

19

個ぐらい、個も考えていな

10

評価関数の精度を上げ、強くなってきているというわけです。

では、人間の思考とコンピューターの思考は何が違うのか。先ほどのお話にもありましたが、まさに「ストーリーがない」、ということだと思います。人間は時系列で考えま

すが、ＡＩは、そうではないところがあります。戦略というのも、たぶん同じですね。

あと、もう一つの違いは「恐怖心」だと思っているんです。どんなに長く将棋を指していても、やはり王手をかけられるのは嫌ですし、駒が近くに迫ってきて、詰まされる可能性があるような局面は、自然と回避する傾向があります。けれども、将棋ソフトには恐怖心のようなものが全くないので、信じられないくらい大胆なことを平気でやってくる。やはり、ここがＡＩの大きな強さであり、人間との一番の違いなのではないかと思っています。

20が上がって来ています。これは絶対的に正しいわけではないのですが、昔聞いた話では、万ぐらい評価する基準があり、人間だったらせいぜい5

いと思うのですが、ちょっと無駄と思えるような膨大な評価項目を入れることによって、

1

ありがとうございます。それぞれのお立場から、ＡＩと人との違いをお話いただ

ＡＩは「生存」を考えないプログラム
江間

いたのですけれども、これを聞いて、実際に人工知能を研究されている方々はどのよう

私は、囲碁は初段程度ですが、将棋は大変下手です。ただ、羽生さんとは割と昔に思われたのか、伺ってみたいと思います。中島さん、いかがでしょうか。
中島からおつき合いいただいています。

年前に函館

２０１０年に、情報処理学会で、女流棋士の清水市代さんとコンピューター将棋の対戦を行いましたが、そのプロジェクトのリーダーをしていました。また、

ちいちそうだよなと思いながら聞いていました。決定的に違うのは、やはり「生存」し

21

座談会

の國吉さんは、ロボットの研究もなさっていて、「生存本能を入れないと、ちゃんとしたている人間と、それを一切考えていないプログラム、という違いだと思うんです。お隣

さて、今、プロ棋士の皆さんから、ＡＩと人間の違いについていろいろと出てきて、いが行われましたが、会場校（公立はこだて未来大学）の学長をしていました。

で人工知能学会があった時に、地元出身の下坂美織さんとコンピューター囲碁との対戦

2

中島委員

ロボットはできない」というような話をしていますが、今のところ、それを本質的な形で入れ込む手段はありません。まあ、上辺だけ生き残りなさいっていうプログラムを入れることはできるのですが、本当の人間のような形で入れ込むことはできない。そこが根本的な違いだと思うんですね。

そこから派生して、ストーリーを持っている、持っていないという話が出てきましたが、基本的にストーリーというものは、人間が生きるために必要なものとして持っているのだと思います。ＡＩは、場面、場面で、場当たり的な対応をしているわけですが、人間は、過去のことを記憶していて、「あのときは、こう

22

なった」というストーリーで覚えているほうが対処しやすい、ということが原点にあると思います。我々は、自意識、自分が何を考えているか、という意識を持っていますが、これも起こったことをストーリーとしてまとめ上げ、記憶に落とし込むという働きが重要だと指摘している研究者もいます。

そうしたことから考えると、先ほど羽生さんが言われた「恐怖心」などいろいろなことが、生存ということを原点に考えると出てくるし、生存の手段としてストーリーを考えるということを人間はやっています。また、王さんが「ＡＩの思考はボトムアップ型だ」と指摘されましたが、これもストーリーがなく、今の評価から次の一手を考えることになっており、今のところ人間とは全然違うシステムだといえます。

最近、注目されている「ディープラーニング」ですが、これを万能だと思っている人もなる何かを入れていかなければ、完璧なものにはならないだろうな、と思いながら、おいるけれど、基本的にはボトムアップ型のものです。ですから、やはりトップダウンに話しを聞いていました。

座談会

そうすると、羽生さんが言われていた「捨てる」ということが大事になってくるような

23

では、羽生さんからお願いできますか。

24

気がします。ＡＩの研究者から見ると、人間は、自分の無意識の部分を、あまり自覚していない。一方、プログラムは、実は、その無意識の部分しかないわけですけれど、人間だってプログラムと同じボトムアップの部分を持っているはずです。例えば、羽生さんは、三つの道しか読まないとおっしゃいましたが、その他の選択肢は無意識に捨てている、つまり無意識に考えているのではないか、ということが気になります。

そこで、棋士の皆さんにお伺いしたいのですが、自分の打っている手について、どこまで意識しているのでしょうか。その辺り、どんな感覚でいらっしゃるのかな、というのを伺ってみたいと思いました。

江間

そうですね、直感でだいたい二つか三つの手を選んでいます。もしかすると将棋

直感でマイナスの手を省略
羽生と囲碁の思考の違うところなのかもしれないですけれど、例えば、将棋は、お互いに枚ずつの駒で対局をします。それで、初期の状態から、飛車だったら飛車が一番良い場

20

所、玉だったら一番安全な場所、金だったら一番守りに強い場所というように、一つ一つの駒が、どの場所に来たら一番良いかということを考えて指していくわけです。

ある程度煮詰まってくると、だんだん自分の思い描いていた一番良いポジションを自分の駒が取ることができるようになります。そこで自分の手番になって一手動かす時、先ほどの評価の話でいうと、ルール上、指せる手はあるのだけれど、ほとんどの駒がベストの場所に来ているので、プラスになる手が非常に少ない、という局面が多い気がするんですね。ルール上は指せる手が何十、何百とあるけれど、指すとマイナスにしかならない手が非常に多くなってしまうので、そうした場面では、マイナスの手を省略する、あるいは最初から考えない、ということをしているんじゃないかと思います。

囲碁の場合は、私もよく分かりませんが、次の一手を考えるときに、常にプラスの手、価値の高い手が、かなりたくさんあるので、その辺りの取捨選択は、実は将棋の棋士とは違っているのではないでしょうか。

座談会

25

悪い手の 割は恐怖心から
江間王さん、大橋さん、いかがでしょうか。

王 囲碁棋士でも、人によって考え方が違いますね。私としては、なるべく言葉で説明できるような手を選びたい、と考えてきました。囲碁棋士の中では珍しいと思います。

でも、最終的には説明できない部分があって、囲碁ではそれを「感覚」と呼んでいます。

ただ、今までは感覚で終わってしまっていた手であっても、私は説明できる部分が大い

割方、恐怖心からにあると考えていて、実際、「感覚的な手」と言われているものでも、私の中ではほとん
ど説明できます。そういう囲碁の打ち方もありますね。

先ほどの恐怖心の話をしますと、私たちが悪い手を打つときは、プがあるような気がします。

一つは、「見えないゆえの恐怖」というのがある。例えば、私たちが5ですね。視界 メートル
AlphaGoしかないゴーグルを着けたとします。そうすると、ほとんど動けない。今度は、トルの視界があるゴーグルを着けたとします。これがメー

メートルの視界来ていると思います。本当に実力以下の手を打ってしまう。この恐怖心にも二つのタイ

9

1

1

26

9

の人からすると、すごく自由に動けているように見えるわけです。ところが、視界が大橋

恐怖心については、私もすごく興味があるところです。王さんのゴーグルの話とボトムアップ型からトップダウン型へいとか、石が死んでしまうのが怖いとか、そういう恐怖です。

もう一つが、先ほど中島さんが言われたような「人間ゆえの恐怖」です。痛いのが怖には AlphaGo
なりの恐怖というものがある。これは「技量ゆえの意味では、 AlphaGo
恐怖」といってもいいかもしれません。

メートルあっても、やはり見えない所には、なかなか踏み込んでいけません。そういう

5

手、

手、

手よりもっと深く先を読むと、手先は悪そ手と読んだとき、見た目が悪いとなると、人間はそ関連していると思いますが、ＡＩ同士の対戦を観ていて、恐怖心に関して感じたことがあります。例えば、

3

手先まで行くと良くなる手があるんです。

3

2

こで切り捨ててしまいます。ところが、
うなのに、

座談会

27

3

1

これも恐怖心や生存本能などに関係していると思うのですけれど、例えば、人間は20

「

年先に１００億円もらえるよ」と言われても、「明日、１００万円もらえるよ」と言われると、どうしてもそちらに引っ張られてしまうところがあるかもしれない。それってやっぱり、命が無限ではないからだと思うんですね。明日なら生きていそうですけど、年先まで生きているかどうかは分からない。ところがＡＩは、ずっと打ち続けられるという前提でシミュレーションを繰り返しますので、恐怖心と命が有限か無限かは関係があると思います。

だから、ＡＩの棋譜を見ていて、「じゃあ、恐怖心を捨てればいいんだ」と短絡的に考えるのは、「人間としては考えものではないか？」と思ったりもしています。また、王さんが言われたように、探索の深さと恐怖心も関係があるのではないかと思います。

は、ディープラーニングによってものすごく強くなったわ
最近の囲碁ＡＩ、 AlphaGo
けですが、ディープラーニングをして何を手に入れたかといえば、やはり「感覚」に当は、読む手をすごく減らしてたる部分ではないかと思います。例えば、現在の AlphaGo
秒間に 〜 億ぐらいの局面を評価できいます。チェスの「ディープ・ブルー」は、

1

1

2

は、 万手ぐらいしか読んでいないそうです。評価す
ると聞きましたけれど、 AlphaGo
1

28

10
10

る必要のない変化を切り捨てることで、非常に精度の高い読みができるようになったとのことです。それは、人間でいうと感覚だと思うんですが、だんだんボトムアップ型からトップダウン型に変わって来ているんじゃないか、と感じています。

恐怖心の話で、これは瀬名さんの分野ですけれど、アイザック・アシモフのＳＦ

もはや人間はＡＩに勝てない
國吉

小説に「ブレーン」という未来のＡＩが出てきます。非常に大型のコンピューターが、全世界をコントロールしているのですが、実はそのコンピューターには子ども人格が与えられています。それはなぜかというと、人間は、物事を突き詰め過ぎると、往々にして、危機に陥ります。ロボットも、あんまり真面目に考えすぎると、パニックを起こしてしまうんですね。そこで、遊び心で、まあいいやと少し引いて考えることで、ソリューションに辿り着く、という話がありました。

今の皆さんのお話に通じると思ったのですが、今のところＡＩには、そういう意味での恐怖心というものはありません。研究者が「これを恐怖心と名付けます」と言って、

座談会

29

ちょっとしたモデルを作ることはありますけれど、本当の意味での恐怖心ではありません。あくまで素人としての意見ですが、棋士の方たちが恐怖心を感じるのは、盤面にある種のリアルワールド、リアリティを投影しているからではないでしょうか。そこが自分の生きている世界、戦いの場であるという、世の中を写し込んだアナロジーの世界になっている。そういう意識がどこかにあるから、恐怖心を覚えるのだと思うんです。Ａ
Ｉには当然そういう感覚はありません。

そうすると、大橋さんと同じで、私も「これは良いことなのか？」と疑問に思うわけです。囲碁将棋というゲームにおいて、勝つことだけをターゲットにして、しゃかりきになってやれば、それは強いものができる。けれども、それが本当に私たちが求めているものだったのか、と。

この知能を、例えば、企業の経営に役立てようとか、車の自動運転に使おうといったときに、「ちょっとまずいんじゃないか？」となる。つまり、そこに、私たちが日々感じている、現実世界での危険とか、安心とか、うれしいという感情とか、そういうものを反映する余地がないと思うんです。

30

ですから、
この「ＡＩが囲碁将棋ですごく強くなりました」ということの意味を、どうとらえるべきなのか、私自身、今の議論で分からなくなってきたところがあります。私たち研究者は、もはや人間はＡＩに勝てないと見ています。そうではないというご意見もあるかと思いますが、プロ棋士である皆さんは、この現実を、感情的に、どのように受け止めておられますか。

つまり、自分の存在とか、尊厳とかが脅かされているとお感じになるのか。あるいは、棋士という職業はどうなるのか。ちょっと聞きにくい質問なのですが、何かコメントをいただけるとうれしいです。

そうですね。まず、最近の将棋ソフトを見ていて思っていることは、もちろん非ＡＩを活用して人間の能力や実力を伸ばしていく

常に強いのですけれど、プログラムの中に乱数というか、ランダム性が、けっこう入っ羽生ているということもあって、「遊び心がある」とは言いませんが、かなり自由に指してい座談会る面があるんですね。

31

32

むしろ人間のほうが、先入観であるとか、これが王道だ、これが本筋だ、とかいったことに縛られてしまっている。ですから、ちょっと変な手、ちょっとふざけた手でも、けっこういい勝負をするＡＩの指し手から、新しい可能性が見えてきている。そういうことが、今の将棋の世界では起こっています。

ＡＩが強くなったといっても、やはりミスはしていると思います。これもプログラムの世界でよく使われるのですけれど、「水平線効果」という言葉があります。水平線のよ

手先に突然、局面が悪くなる、ということがあるんですね。

うに、そこまでずっと互角、ちょっと良いとかがあっても、あるところから突然評価が落ちるような局面がある。

尊厳のことですが、私自身は、中島先生をはじめ情報学の専門家の方とは昔から交流はあるだろうと思っています。

とするんです。ですから、どんなにＡＩが強くなっても、この水平線効果の罠というのるため、先延ばしをします。悪くなるのは分かっているのだけれども、先延ばししよう

そういう局面では、これは人間もＡＩも同じなのですが、突然評価が落ちるのを避け10があって、 年ぐらい前に言われて非常にインパクトを受けた言葉が、「もうソフトの開15

発をしなくても、ハードの開発だけで、プロ棋士のレベルになりますよ」というものでした。その時は、そんなものかなって思ったのですが、確かに、ハードの性能が上がっていけば、より強いＡＩが登場することは、自然の流れだと思っています。

もちろん、これからも棋士という職業が在りつづけられるかということは、結構深刻」というＷｅｂサイな話だと思っています。例えば、将棋の世界でいうと、「 floodgate
時間、３６５日、棋譜を生産しつづけているんでトがあって、そこではソフト同士ですね。人間も指せるのですが、人間の場合は人間であるという登録をしなければ指せない、という少し変わったサイトです。

プロ棋士も毎日やれと言われれば、毎日公式戦をできなくもないですけれど、生産するスピードに関しては、もう、どうやっても敵わないわけです。棋士として存在価値がを 見 て、 人 間 同 士 の 棋 譜 は 見あるかどうかは、将棋好きの人たちが、みんな floodgate
なくなってしまえば、職業として棋士はなくなってしまうのではないかという危機感はあります。

ただ、もちろんそれ以外のところでの、価値とか、意義とか、そういうものをつくっ

座談会

33

24

ていく必要があるのではないか、ということも考えています。逆に言うと、これだけ強いＡＩができたということは、それを一つのツールとして活用し、人間の能力や実力を伸ばしていく、そういう使い方をしていくのが建設的なのではないか、というふうにも思っています。
囲碁では、いかがでしょうか。

私たちは、プロ棋士ということで、囲碁を代表してここに来ているわけですが、囲囲碁の面白さを伝えることがプロ棋士の価値江間王

碁の本体というのは、私たちではなく、今、世界の隅々で、碁を打って、楽しんでいる

人たちにあります。皆さん、ああでもない、こうでもないと言って、笑ったりしながら碁を打っている現場のトータルが囲碁の本体だと思っています。

では、どうして楽しめるのかというと、「間違い」があるからこそなんですよね。まあ、

私自身、『我間違える、ゆえに我あり』というタイトルの本を出したことがあるぐらいなので、よく間違った手を打ちます。私は、間違えることに碁の本質、面白さがあると考34

えています。

私たちプロ棋士は、囲碁を長くやっている分、いろいろな間違いをしてきているし、

なぜ間違いなのか内容もよく分かっています。だから、碁を打つ皆さんに、その面白さを紹介できる。それがプロの価値ではないでしょうか。そういう意味では、たとえＡＩに負けても、私個人の尊厳には関係ないかな、と思います。もし「囲碁は間違えたら価値がない」と言われたら、それこそ尊厳も存在価値もなくなってしまう。そんなふうに思っています。

私も、棋士としては、非常に深刻に受け止めているところはあります。でも、も囲碁ＡＩは宇宙探査機のようなもの
大橋

たのですが、コンピューター囲碁によって、新しい手が見られるようになったことがあう一人の私は、ものすごくワクワクしています。この矛盾はどこからくるのか考えているんですね。
「それは困るんじゃないですか？」という質問も受けるのですが、それは座談会

囲碁界の価値観が揺さぶられるから困るのであって、囲碁を楽しむ一個人として見れば、

35これは非常に面白い手だと素直に思います。

ですから、これまでの囲碁を取り巻く価値観は問題にさらされているのだけれど、もっと広く囲碁をとらえるならば、とても楽しいことが起こっている。そんなふうに考えています。

囲碁ＡＩと人間の勝負は、よく「自動車とウサイン・ボルトが競走するようなものだ」などと喩えられるのですけれど、私は、その通りと思う反面、そうではないと思うところがあります。では、何に喩えればいいのか考えてみたとき、囲碁ＡＩは宇宙探索機のようなものではないか、と思ったことがあります。

囲碁は、よく宇宙に喩えられて、囲碁の変化の数は、宇宙の原子の数よりも多いといわれているのですが、人間は火星や木星に行って調べることはできないけれど、宇宙探査機を飛ばして、そこの環境を見ることはできます。ですから、囲碁ＡＩによって、人間が認識できなかった囲碁を探索して、それを人間の手で検証するというような楽しみ方もあるのではないかと思うんです。

プロ棋士として、囲碁を楽しむ人間として、矛盾を抱えてはいるのですけれど、私は36

希望があるのではないかと思っています。

話の流れは、番目のテーマである「ＡＩと人はどう付き合っていくのか」といＡＩと人はどう付き合っていくのか？
江間

僕は、囲碁も将棋も下手なのですけれど、２０１２年から２０１３年にかけて、

ＡＩに小説を書かせるプロジェクトの立ち上げに関わりました。ＡＩが、星新一さんの

37

座談会

ジェクト 作家ですのよ」です。

小説を学習して、面白いショートショートを創作する、という「きまぐれ人工知能プロ

瀬名

ＡＩと向き合うことの恐怖、違和感はどのように変わってきたか

論をお聞きになって、どのようにお考えですか。

説を書くという行為は、まさにストーリーを紡いでいくことだと思います。今までの議うことに移りつつあるようです。ここで瀬名さんにお話しをお伺いしたいのですが、小

2

瀬名委員

棋士の方が囲碁将棋ＡＩの開発に携わるということは、将来、自分の専門性が脅かされる可能性を知りながら、あえてなさっているのだと思うのですが、僕も、その点では、まったく同じです。おそらく作家ＡＩが発達してきたら、僕よりも面白い小説を書けちゃうかもしれないし、直木賞を取っちゃうかもしれないわけですよね。それでも関わるのはなぜかというと、自分が何かを創造すること、その本質は何かということを知りたいから、ＡＩの開発に協力しているのです。

皆さんから、ＡＩにはストーリーがない、
恐

怖心がない、人間は幸せになりたい、といった話がありました。実際、今でも、ＡＩにス

38トーリーはつくれないと思います。まあ、起承転結くらいはつくれるのかもしれません。

これはなぜかというと、私の持論ですが、「人間は死ぬけれども、ＡＩは死なない」と私たちが考えているからです。いまのところＡＩには生命がない。

中島さんのおっしゃる「ストーリーとは人間が生きるために必要なもの」というのは、まさにこのことだと思います。私たちは〝生きている〟からストーリーがあるのです。

将棋や囲碁は、勝負の世界で、つまりは戦争のメタファーです。特に将棋は、実際の合戦のように王様の首を取られたらおしまい、というゲームです。だから、生き残るために、あるいは死に様を美しくするために、必死で考えるわけです。囲碁も、陣取りのゲームで、やはり石の生き死にというものがあります。

だから、皆さんが言われる恐怖心というのは、自分が死ぬんじゃないか、殺されるん

意義を脅かされているという恐怖もあるのではないかと思っています。そういう意味で、じゃないかということが本質的にあって、もっと言うと、専門家としての自分が、存在

棋士の皆さんは、専門家としてＡＩに向き合った最初の人類ということになるのではな

座談会

いでしょうか。

39

ここにはＡＩの専門の方、ビジネスや経営の専門家の方がいらっしゃっていると思いますが、今後、さまざまな分野の専門家が、自分の生死を賭けてＡＩと対峙しなければい

けない時代がやってくるのではないかと思います。そう考えると、生死の概念がないＡ

Ｉと向き合うことの恐怖、異質な物と対峙した時の違和感のようなものが、皆さんが関わってきた数年の間で、どのように変わってきたのか、伺ってみたいですね。今後、私たちが必ず経験するものになりますから、そこから何か学べることがあれば、次の世代

では、おそらく一番長く関わっておられると思うのですが、羽生さん、いかがでへの答えになるではないかと思うんです。
江間
しょうか。

もちろん、いろいろと思うことはありますね。一つ、非常に不思議に思うのは、強ＡＩの指し手がプロ棋士のトレンドになる中で個性をどう出すのか
羽生いプログラムをつくる人はたくさんいるのですが、その中には、将棋がとても強い人もれば、将棋のルールぐらいしか知らないという人もいます。他の分野だと、ある程度の40

専門性を持っていないとＡＩやソフトは作れない気がするのですが、少なくとも将棋の世界では、初心者の方がプロを負かすようなプログラムを作っています。ですから、こ〜

年ぐら

れは今までの将棋の世界であって、将棋の世界ではないところで非常に大きな変化が起こっているな、と感じています。

その中で、私自身の心境がどういうふうに変わってきたかといえば、ここ2年ぐらいで、将棋の定跡、セ

そこでちょっと思ったのですが、さまざまな技術革新によって変化にさらされるとい座談会もそうでしたが、ＡＩの進歩というものも、そうした変化の一つとして受け入れられつうことは、これまで将棋の世界にもあったわけです。例えばインターネットができた時オリーといったものが大きく変化しました。

ていこう、という流れになっています。ですから、ここた。ところが最近は、ＡＩが考えたものであっても、良い手であれば積極的に取り入れ

けれど、人間が指している将棋とは別のものだから、あんまり関係ないという感じだっ

れた手やセオリーがトレンドとなっているんですね。今までは、確かに強いことは強い

いのことなのですが、プロ棋士同士の対局において、明らかに将棋ソフトから見つけら

1

41

1

つあるのかな、という感じはしています。

ただ、一方で、現在進行形で、ものすごいスピードで進歩していくので、どのように心境が変化していくのか、正直、ちょっと分かりません。ただ、個人的に、危惧というか、考えていかなければいけないと思っているのは、確かに便利なツールではあるのだけれ

ど、すべての棋士が同じようなソフトを使って研究して、みんなが同じような将棋を指すようになったら、人間が指しているのか、ＡＩが指しているのか、分からなくなってしまいますよね。そのなかで、個性とか、自分だけのスタイル、独自性みたいなものを、どういうふうに出していくのか。それが今、突きつけられている問題ではないかと思っています。

Ａ Ｉ と 将 棋 の お 話 し で し た が、 他 の 企 業・ 業 界 で も 同 様 で す ね。 例 え ば、 車 を「楽しむ」ことは人間の独壇場
江間が自動運転の開発に乗り出したこともそうです。
「とにか作ったこともなかった Google
くビッグデータを持っている所が強い」といった面があります。今、羽生さんが出され42

た論点、例えば「どうやって個性を出すのか」といったことは、他の業種にも影響してうーん、話に聞き入ってしまって、自分が何を話したらいいのか、分からなくなっくると思います。王さんは、どのようにお考えですか。
王てきました。私たちプロ棋士は、強さをセールスポイントにしてきたわけですが、最初に申し上げたように、人間は勝利という目的の上に、楽しみたいという目的があると思うんですね。では、楽しみとは何かといえば、典型的なものが笑いです。

「笑いは、矛盾が形になったときに生じる」という話を聞いたことがありますが、そういう意味では、ＡＩには、何が矛盾なのか、何が面白いのかが分からないわけで、もちろん囲碁の楽しさは分からない。それを最もよく分かっているのが棋士なんじゃないでなるけれど、「楽しみたい」というところに置くならば、逆に人間の独壇場です。私は、ですから、目的を「勝負」に置くと、私たちにとってＡＩは大変な危機ということにしょうか。

そういうふうに考えるようにしていますね。

なるほど。先ほど大橋さんが言われたように、「新しい手が増える楽しみ」という

座談会

江間

43

そうですね。個人的には、ずっと前から、「人間がＡＩに勝てなくなる」ということ

44のもあるのでしょうか。
王は意識していて、そういう意味では、この手を説明したら面白くなる、喜んでもらえる、

ありがとうございます。では、大橋さん、何か心境の変化はありますでしょうか。

というところに視点を置いてやってきました。
江間

私は、もともとＡＩに興味があったので、将棋ＡＩが強くなり始めたころから急激に強くなるＡＩに、心の準備をする時間がなかった囲碁
大橋

チェックはしていたのですが、ＡＩが強くなる速度が、将棋と囲碁でかなり違ったという印象があります。将棋ＡＩは、段階的に強くなっていったと思っているのですが、囲碁ＡＩのほうは、「プロ棋士と対戦するのはずっと先だろう」と思っていたのに、この年であっという間に越えられてしまった。

なっていくのであれば、ある程度、心の準備ができるのでしょうが、ＡＩの場合は、い

〜

1

それで、
人間として心の準備ができるかどうか、という問題があります。階段状に強く

2

きなり指数関数的に強くなるので、心の準備ができないんですね。

先ほど、羽生さんがおっしゃっていたように、将棋棋士の方たちは、きちんと距離感を持って考えてこられたように見受けられるのですが、囲碁の方は、いきなり強くなってしまったので、みんな心の準備ができておらず、その結果、棋士たちがこぞっての打ち方を真似しはじめる、という現象が起こりました。私は「これは科学がAlphaGo
宗教になった瞬間じゃないか」と思っているところです。

ＡＩからすると、ただ最適化を繰り返しているわけですが、人間は、その理由も分かのらないまま、ただ真似をする、という状態になってしまいました。そして、 AlphaGo
が登場から 年が過ぎて、さらに困ったことになっています。実は、最初の AlphaGo
年間、人間のほうは、まったく打たないんですね。このAlphaGoが打った手を一生懸命研究してきたのに。
は、最初の AlphaGo
これは囲碁や将棋だから笑えるのですが、例えば、ＡＩが企業の何らかの判断をした

打った手を、現在のとします。それを人間が議論している間に、進化したＡＩが、まったく別のことを言い座談会

だすこともありえるわけです。

45

1

1

は、昨年、プロ棋士（韓国の李世乭九段）との対戦において、 勝 敗といAlphaGoうスコアで勝利しました。 勝 敗という結果に、私たちも「やはりスキがあるじゃな
1

4

1

連勝というのは、ちょっと希望が持てない

回勝てるなら、まだ希望はある」と。ところが、その後、イン4連勝を記録しました。

いか」と思いました。
「
ターネット対戦で60

1

自分の実力を見ながら学習する

人間同士でやっている時は、人間のトップの真似をすれば、自分もそこに近づけました。でも、ＡＩは、人間とは少し違う理屈で成り立っているわけですから、単純に真王

れからの人とＡＩの付き合い方を考える上で、一つのヒントになる気がします。

目で見ることが大切なのではと思います。ですから、この囲碁界に起こった現象は、こうという問題が起こります。このような時に、これからどうすれば良いか、常に冷静な通り「人間離れ」した成長速度を見せつけられると、心の準備ができず、盲信してしま

実際は、神でも何でもなくて、ただ最適化の性能が上がっているだけなのですが、文字

数字で、一瞬、神と錯覚してしまうわけです。

60

46

似をしても、あまり意味はないと思います。自分自身をしっかり見つめて、自分との兼ね合いで考える必要があります。

ゴルフでも、男性のアマチュアゴルファーは、男子プロよりも女子プロのスイングを見本にしたほうがいい、といわれます。体力的に女子プロのほうが近いから、無理して男子プロの真似をするより役に立つ。逆に、力が及ばないことを学ぼうとすると、下手になることもあるのではないでしょうか。

棋譜」、大橋さんが言われたように、昨年の李九段との対局、 連勝したときの「 Masterの打ち方は、どんどん変わってきています。私から見ると、最近の自己対局と、 AlphaGo

は、ちょっと力李九段との碁が、一番見本になるんです。今年に入ってからの AlphaGoが強すぎて、参考にならない。とにかく、自分の実力を見ながら学習することです。そ逆にいうと、自分の実力を客観的に見ることができる、そういう力をつける必要

れは、とても当たり前のことなのですけれどね。
江間

そうですね。今までは同じ人間だから「強い人から学べば自分も強くなる」と単純があるのかもしれませんね。
王

座談会

47

60

に考えてしまいがちですけれど、これからは常に自分の実力を把握しておかないと、強くなれないと思います。

今のお話しを伺っていて、最初に王さんが言われた「人間は幸せを求める」とい

ＡＩに何をさせたいのか
中島

うことが、
すごく大事だと思っています。
『鉄腕アトム』で有名な手塚治虫が何度も使っている言葉に「心を忘れた科学には幸せ求める夢がない」という一節があって、科学も、心を持って、夢を追いかけましょうという話があります。

「ＡＩが強くなってきたら、人間はどう対処するのか？」というのは、何か受け身的な問いになっているのですが、よくよく考えてみると、ＡＩを作っているのは人間なんですよね。だから、自分たちが「どう作るのか」ということを、まず考えるべきだと思うんです。つまり、「私たちは、ＡＩに何をさせたいのか」というのが、本当は正しい問い

そうですね。その場合、やはり相互作用といいますか、例えば、棋士の方から「こなのではないか。そういうことを考えました。
江間48

ういうものを作ってほしい」という要望もあれば、作る側から「こんなことができるのではないか」という提案もあると思います。

棋士の皆さんにお聞きしてみたいのですが、「こんなものが作れたらいいなあ」といった要望はありますでしょうか。

私は、やっぱり「対局ロボット」ですね。対局サイトでも、適当な相手が見つからな「対局ロボット」
王

いときがあります。そんなときに、実力の調整ができて、打っていて楽しい対局ロボッ

トがあることが、すごく大事なことだと思っていて、実際に、アクションを起こそうとそうですね。強さよりも、
いかに囲碁を楽しんでもらえるか。ＡＩは、むしろそっちなるほど、「接戦になるけれど、最後は負けてくれる」みたいな。

それには、やはり適当に強くないとダメですね。

囲碁や将棋で接待するということもありますよね。

模索しているところです。
江間
王
江間
王

座談会

49

松尾委員

のほうで本領を発揮するんじゃないかと思っ

この先、いろいろな仕事をＡＩに奪わ

ています。
羽生

れる、という話が出ていますが、私は、接待

ゴルフなんかは絶対になくならない気がしているんです。強くすることはできるけれど、ほどほどのところで上手に負けるというのは、ある種の職人技みたいなものですよね。まあ、

それをＡＩに学ばせる必要があるかという問

題もありますけれど、相当ハードルが高いはそうですね。それが人間らしさというずだと思っています。
江間

部分なのかと思いますが、松尾さん、いかがでしょうか。

50

松尾

私の学生たちは、いろいろなＡＩを作っているのですが、「接待オセロ」を作ったなどは、通常、勝つと報酬がもらえるような設定にして、学学生がいました。 AlphaGo
習させますが、その学生は、引き分けにすると報酬がもらえるような設定にしたんです。

そうすると、ちゃんと引き分けになる。おそらく、引き分けでなくても、ちょっと負けるといったぐらいなら、技術的には可能だと思います。

ところが、実は一つ問題があるんです。どうやって引き分けに持ち込むかというと、最初に、こてんぱんに叩きのめして、ほとんど打てる場所をなくしてしまう。それから、おもむろに負けはじめて、最終的に引き分けに持ち込む。まったく接待になっていない
確かに、それはかなり嫌味な感じですね。

んです。
江間

さて、人とＡＩの関係を考える上で、受け身的ではなく、主体的に、どう作ってい人材育成にＡＩは活用できるのか
江間

きたいのか、どうデザインしていきたいのか、ということは、とても大事な視点だと思

座談会

51

江間氏

います。そうした中で、囲碁将棋などで先進的に走っている技術を、今日、会場におられる皆様が関係する分野で活用できるのか、ということも考えていきたいと思います。

そこで、皆様の関心事に引きつけて一つ質問してみたいのですけれど、例えば、人材育

成にＡＩは活用できるのでしょうか。先ほどのお話にもあったように、囲碁将棋の世界では、ＡＩと対戦して、恐怖心や違和感を覚えたりしながらも、何とか解釈をして、取り入れている世代が育ってきている、と。

ただ、例えば、インターネットが出てきた頃から「デジタルネイティブ」という言葉が生まれたように、世代が違うと、まったく会

52

話が通じない、といったことも起きると思います。下手すると〜歳違うと、使って将棋の世界では、インターネットができた時に、地域の格差がなくなったんです。

ところが、インターネットのおかげで、どこに住んでいても良い練習相手が見つかる。

住んでいることが、すごく大きな利点だったんですね。

いれば、ライバルもたくさんいる。大会などを見にいく機会も、全然違います。都会にそれまでは、やはり東京や大阪に住んでいる子どもたちが圧倒的に有利で、良い先生も羽生

学ぶ人達にとって非常に恵まれた環境んの参考になるような点があれば、お聞かせください。

ていくのか。また、後進の指導をするときに、どう対応していくのか。何か会場の皆さ

そういう中で、ＡＩという新しい技術を受け入れていくのか、あるいは逆に距離を取っです。

いるアプリが全然違って、会話が成り立たない。そうした経験が、皆さんあると思うん3

一生懸命にやる情熱さえあれば、強くなれる。ですから、幅広い地域から棋士を目指す

座談会

53

2

たいなものがあるのですが、これも無料で使えます。

回バ

例えば、私はチェスも少しやるのですが、その感覚からすると、将棋は信じられないぐらいのサービスが無料で提供されています。これは、これから将棋を学んでいく子どもたちにとっては、非常に恵まれた環境であると思っています。

ただ、将棋以外の分野においては、同じようにはならないと思っています。慣習や法律や権利などの問題があるでしょうから、すべてフリーで、誰でも利用できるという環境にはならない。そうすると、技術的に進歩したとしても、それを活用できるどうか、浸オープンソースのような形で、さまざまなプログラムを公開して、誰でも使える透していくかどうかといった違いが、これから出てくるのではないかと思います。
江間54

人材が出てくるようになりました。

個人的には、将棋ソフトや将棋ＡＩがあることで、現在は非常に恵まれた環境にある年にと思っています。理由はいくつかあって、一つは、それが絶対に正しいとは言えません

が、非常に強い将棋ソフトを、無料で入手できるということです。半年〜

1ージョンアップしてくれます。いくつかのソフトを共通で動かせるプラットフォームみ1

ようにしている事例は、他にも出てきていますが、一方で、開発にかかる資金は膨大で、それをどうやって回収するかという課題があることは、ＩＴ系の方々は身に染みておらを開発するのに、 Googleが、どれほどの資金れることと思います。例えば、 AlphaGoを投入したのか、ということですよね。そういう格差は、業種や分野によって出てくる
でしょう。

」が、ナ
王 囲碁の世界では、日本棋院は進んでいて、国産の囲碁ＡＩ「 DeepZenGo
ショナルチームのトレーニングに使われることが決まっています。ナショナルチームがを起動して、次の一手の形勢判断に役立てるこ
集まり、研究している横で DeepZenGoとができます。囲碁の場合は、囲碁自体が一つの言葉みたいなものなので、ジェネレー

ションギャップはまったくないですね。また、ディープラーニングがオープンソース化

碁ファンは、パソコンで私たちより強いソフトを見ながら、私たちの手をチェックするされたことで、プロ棋士より強いソフトを誰でも作れるようになりました。数年後、囲ようになるでしょう。そういう時代が来ることを覚悟しています。

55

座談会

今後、強いソフトが次々に生まれるということは、多様性が出てくるわけですね。

ＡＩの種類によって多様性がある
江間

そうすると、先ほど言われていた、みんなが一つのソフトの打ち方に標準化されてしまそうですね。注意深くやっていく必要はあると思いますが、とりあえず便利なのはうといった危険性は、回避できるのではないでしょうか。
王

すごくレベルを落としてしまうようですけれど、なんとなく電卓みたいなイメー

間違いない。あれば使いたくなりますね。
國吉

そうあってほしくはないのですけれども、そうなりつつあるとは思います。ただ、ジ、そんな使い方だと思っていいのでしょうか。
大橋

は、もちろんすごく強いんですけれど、王ソフトによって個性がありますね。 AlphaGo
さんのお話しに出てきた国産のＡＩも強い。ところが、打つ手は、けっこう違います。学習の仕方によって差が出てくるようです。機械だから、すべて正確無比というわけでは決してなく、ＡＩの種類によって多様性があります。その辺りを見極めながら付き合っていかなければいけないと思っています。

56

使い方なのですが、電卓みたいと申し上げたのは、誰でも同じ結果が得られるのな

ＡＩの使い方が問われてくる
國吉

ら、そこはより正確な機械がやればいいという意味でしょうか。あるいは、先ほどの議論で、囲碁将棋で大事なのは「強さ」よりも、ストーリー性とか、個性であるとか、棋譜の説明が面白いとか、そういった話があったので、その部分に関しては、ＡＩを使っツールという意味では、やはり電卓みたいなものなのですが、「答えを見る」とての教育は可能になっていくのでしょうか。
大橋

いうのとは、ちょっと違うと思います。ＡＩの手を勉強したとしても、人間と人間の勝負の場は、囲碁に限らず絶対にあると思います。その時に、ＡＩが示したことを咀嚼する能力などによって、人間にも差が出てくるのではないでしょうか。ですから、何度も言っているように、使い方ですね。ＡＩの手のどこを参考にして、それをどうのように意味づけをしたり解釈をしたりする能力が、もっと求められるのかもしれない。見

取り入れていくのか。そういうことが必要な時代になってくるのかな、と思っています。
國吉

たことのない手についても説明できるようになるとか。

座談会

57

それは理想ですけれども、でも一方では、囲碁ＡＩだけで強くなる子どもは、たく58

王さん出てきます。これも現実ですね。

いくつか要素があると思うんですね。電卓として使うということでは、例えば将ＡＩは発想の幅を広げるツール
羽生

棋でいうと、最後の詰む詰まないのところは、まさに計算です。そこで非常に便利なの分ぐらいかけてが、「詰むケース」ではなく「詰まないケース」です。つまり、これは答えがないケース

で、人間だと証明しようがないのですが、ソフトであれば、おそらくら、ＡＩというツールを通じて、発想の幅を広げる、豊かさを増やしていく、というこで経験したことの中ではたどり着けないような概念を得ることだと思うんです。ですか

局、人間が学習していくことというのは、直感的なこととか、感覚的なこととか、今ま

もう一つは、人間が通常考えないような発想やアイディアを学ぶことだと思います。結

いう電卓としての機能が一つあると思います。

「詰まない」と言えば、何億手も読んでいるので詰まないという確証が得られます。そう10先ほど大橋さんが「宇宙探査機」という表現されましたが、すごくいい表現だととが可能性としてはあるのではないかと思っています。
國吉

思います。今の羽生さんのお話も、これとつながっていますね。

江間 「人間の持っている創造性をＡＩが再現できるのか」というと、将棋や囲碁のストーリー性の部分はＡＩにはできない。ビジネスにおいても、新しい企画を出す、さまざ

まな顧客に対応するといったことは、ＡＩにすべてを任せてしまうことはできないだろうと思います。しかし、セカンドオピニオン的に使うとか、シミュレーションに使うとか、ＡＩの使い方は、いろいろあるという話だと思います。むしろ「いかに創造的に使うか」を考えることが、人間に求められていることなのかなと、お話しを伺っていて思いました。

それでは三つ目のテーマ「ＡＩで社会はどう変わるか」について、皆さんと議論

ＡＩで社会はどう変わるのか？
江間

座談会

59

60

していきたいと思います。

私としては、ＡＩが社会を変えていく、技術があるから社会が変わるのだ、という話ではなく、これまでの議論を踏まえると、私たち人間がＡＩを使ってどのような社会をつくっていくのか、デザインしていくのかを創造的に考えていかなくてはいけないと思っています。創造的につくっていくものの中には、技術設計はもちろんですけれど、社会

デザイン、インフラ、制度、倫理など、人間が人間で在りつづけるために考えていかな
ければならないものもあるでしょう。

ここからは、囲碁将棋を事例として参考にしつつ、そこだけにこだわらず、幅広く社会のことについてお話しいただければと思います。最初に、中島さんから、問題提起をはあと 年でなくなる
Google
これまでの議論の中で、すごく良い概念がたくさん出てきたのですが、羽生さんしていただけますか。

中島が「水平線効果」という言葉を出されて、それを世の中のことに当てはめて考えるとい5

いかもしれない、と思いながら聴いていました。

ご存じない方のために解説しておきますと、囲碁では「シチョウ」と呼ばれる石の形が典型的です。一手ずつは逃げ切れるので、どんどん逃げようとするのだけれど、そのう

ちに壁にぶち当たって、そこで大破綻が起こる、という状態です。見えている範囲では調子がよくとも、その先で谷が待っているかもしれないということです。ＡＩでは、探索の分野でよく使われています。

実は、現実の世界にもそういうことがたくさんあります。例えば、ある自治体は、今年は平気」だと思っている。そういう例は、日本中に見られます。ですから、年後に大変な状態になってしまうのだけれど、その自治体は「徐々に悪くなるけはいいから問題解決を先延ばしにしている。本当は、今、ドラスティックに変えなけれ
ば、ど、あとは、あと 年でなくなる」という予測を立てまし
具体的な話をすると、私は「
Googleという企業はなくなります。
た。今年が２０１７年ですから、２０２２年頃には、 Googleてはめて考えてみてほしいと思います。

会場の皆さんも「あなたの会社は大丈夫ですか？」ということも含めて、現実世界に当

10

10

61

座談会

5

ただし、これは倒産するという意味ではなく、 Googleを越える企業に取って代わられるということです。

今、ＡＩ，ＩｏＴが流行してきて、先ほどもインターネット上でソフトウェアが無償で提供されているという話がありましたが、これはいろいろなところで起こっています。

ですから、資本がなくてもサービスを提供できるようになりました。つまり、大企業だけが大きなビジネスをできるという時代ではなくなりつつあるわけです。そうすると、広

告モデルは成り立たなくなるのではと思っています。大企業が、大金を払って、自社の割は広告なので、そういうビジネスモデルは、製品を宣伝する必要がなくなり、インターネットに出しておけば、それ自体が広告になの収入の約る世界になった時、 Google
もはや立ちゆかなくなるでしょう。

（ Alphabet Inc.
）は、世界のトップ に入っています。ち
時価総額で見ると、 Google

8

5

年後には悲惨なことが待っていると私は思っています。

ですらあと 年
なみに、 位までに入っている日本企業は、トヨタだけです。 Google
だということは、それより小さな企業は、そこまで持たない可能性が大きい。ですから、
今、変えなければ、

5

30

5

62

江間 「
います。

が
Google

年でなくなる」という予測に驚いているのは、私だけではないと思

しかし、そのように社会構造や産業構造が大きく変化するなかで、「じゃあ、どうしたらいいのか？」を考えることが必要になってきています。いわば、ゲームのプレイヤー

やルールが変わる、あるいはゲームそのものが変わってしまうかもしれない中で、新しいビジネスモデルをつくる、あるいは新しいルールを自分たちでつくっていく必要があります。この点に関して、瀬名さんは、どのようにお考えですか。

うまくつなげられるどうか分かりませんが、例えば、将棋の世界でも、最近、カ

将棋や囲碁のルールを変える？
瀬名

ンニング疑惑のような事件がありましたよね。休憩で席を外している間に将棋ソフトの回答を見ているのではないか、ということでした。

そもそもカンニングはしていなかったわけですが、「たとえカンニングしていても、最終的な指し手の判断は人間がするわけだから、いいじゃないか」という考え方もあり得

座談会

63

5

回対戦するとか、

人チーム

5

64

ます。一方、大学入試のような場でも、「たとえスマートフォンでカンニングされても、ちゃんと受験者の学力が測れる質の高い試験問題をつくるべきだ」という議論だってあるだろうと思います。

今後、ＡＩの性能がどんどん良くなって、人間が絶対に勝てないようなところまでいってしまう可能性が高くなってきました。そうした時に先ほど、囲碁将棋のＡＩはトレーナーとして活用できる、という話がありましたが、じゃあ「ＡＩは高性能のピッチング
マシーンに過ぎないのか？」という疑問が出てきます。

つまり、野球において、バッターの練習相手としてピッチングマシーンを使うわけですが、これが球場に入ってきて、ピッチャーとして出てきたら、ライバルもしくはチー

ムメイトになる。僕たちは、そういうことを想定していなかったのだけれども、ロボットが発達してくれば、十分あり得る話です。
人がそうすると、ＡＩが強くなっていったときに、将棋や囲碁のルールを変えてもいいん
じゃないかと思うんですね。
「電王戦」の場合、2で戦うとか、ルールは変えずにシステムを変えていったわけですが、そうではなく、対1

局をより面白くするために、ゲームのルールそのものを変えるということです。「ロボカップ」というロボットのサッカー大会でも、各国のロボットがすぐ進歩してしまうか

ら、ゲームを面白くするために運営側の研究者たちが頭を絞ってよくルールを変えます
よね。

それは、
私たちの倫理観を変えるということに、遠くのほうでつながっていると思うんですよね。その辺りのことについて、棋士の方々がどのようにお考えなのか、ぜひ伺ってみたいと思うのですが。
将棋の棋士とＡＩがＦ のドライバーとエンジン
羽生

年も学

将棋に関しては、ＡＩがどんなに強くなっても、今のところは完全に解明することはできないだろうと言われています。ただ、仮にルールを変えたとしても、人間が性能の上がったＡＩをどう使っていくのかでいうと、先ほど大橋さんが「自動習すれば、ＡＩに追いつかれてしまうので、あまり意味がないような気がします。

1

車とボルトが競走しているようなものだ」という比喩を挙げられましたが、もしかする

座談会

65

1

と競技が「Ｆレース」のような形になってくる可能性はあるかもしれないと思っています。つまり、ドライバーがいてエンジンがある状態です。ドライバーの腕が良くても、におけるドライバ

エンジンの性能がイマイチだと勝てない。ドライバーとエンジンの相性なんかもあって、チーム力の差で勝ったり負けたりする。つまり、棋士とＡＩが、Ｆ

江間

逆に、今度は私のほうから専門家の皆さんに質問してよろしいですか。例えばディ

では、松尾さん、お願いします。

うに説明したり、説得したりしていくのか、お考えを伺ってみたいと思っています。

分からない。では、社会に浸透させていく、普及させていくときに、その部分をどのよも確実に上がっていると思うんですけれど、そのプロセスがブラックボックスというか、

ープラーニングなんかが典型的ですが、出来上がったものは素晴らしいものだし、性能

羽生

ＡＩの推論や意志決定のプロセスをどのように説明するのかています。

ーとエンジンのような関係になっていくことは、これから出てくるんじゃないかと思っ

1

66

1

そうですね。人間の脳も非常に非線形な関数を学習しているのですが、それがな

説明はあくまでも近似
松尾ぜ説明できるかというと、説明というのは、あくまでも近似であって、重要な部分を言葉で伝えているだけなんですね。ですから、それをコンピューター上でやることは可能です。つまり、コンピューターが学習したことを、近似でもいいから大雑把に表現する、ということはできるのではないかと思います。また、それを説明する上で重要な概念、「人間にはまだ知られていないけれど、この概念を理解しておいたほうが説明しやすい」というような概念を定義しながら説明していくこともできるんじゃないかと思っています。

特に医療への応用などでは、「なぜこういう判断をしたのか」ということを、患者さんにきちんと説明することは非常に重要ですから、そうした領域では、かなりクリティカ
ルになるのではないでしょうか。

座談会

67

補足すると、羽生さんのご指摘は、まさに重要な問題で、あちこちで議論されてその説明が信頼できるかどうか
國吉いることですけれど、やはりＡＩシステムが、自分自身の推論や意志決定の過程や理由を、分かりやすく相手に伝える能力というのは、作っていく必要があります。まだできていませんが、試みは始まっているので、徐々にできてくるでしょう。

ただ、どれくらいできるようになるか、
まだ少し分からないところがあります。つまり、

私たちが今こうして話していることは、ある種のクリエーション、創造ですよね。先ほどからストーリーの話が出ていますが、説明するという行為は、単純に内部の状態を記号化しているわけではなく、まず自分が自分の内部との対話があって、それを相手にどう伝えればいいのか考えて、ストーリーをつくっている。そうしたことも含めてやらな

ければいけません。人間の認知や脳に関する研究も進んでいるので、そういうものを参考にしながらＡＩ技術も進歩することもあるとは思いますが、どこまで行けるかは、正直、分かりません。

もう一つ、説明できたとしても、果たしてそれを信用できるか、ということが大きな68

問題です。いくら口が上手くても「こいつは信用できない」みたいなことが、ＡＩシス

テムで深刻に起こってくるような気がしています。信頼できる感じをどうやって出すのか、あるいはどうやったら信頼を保証できるのか。技術屋としては、そういうところが重要課題で、やらなければいけないと思っています。

確か、コンピューター囲碁だったと思うのですけれど、「感想戦ができないのが困

相談しながら決めていけるか
中島る」という話がありました。人間の棋士同士であれば、勝負が終わった後に「なぜこの手を打ったのか」「こっちのほうが良かったのではないか」といった話を必ずするわけでならないと、いろいろな意味でまずいと思っています。接待碁、接待将棋も同じことで、今の「説明」の話もそうなのですが、人間とＡＩが双方向の意思疎通ができるようにすが、コンピューターが相手だと、それができない。

相手の技量を推し量って、それに合わせる。だから、対戦することによって相手が学ぶ座談会

ことができる。そういうことができないといけないのだろうと思います。これは大変難

69

しい。

にせよ、今の囲碁将棋ソフトはすべて、事前に学習したことを本番でリプレ
AlphaGoイしているだけなんですね。ですから、そうではないシステムができると、社会的に使おそらく、技量を推し量るだけじゃなくて、相手のストーリーに乗っかってやる

うという意味で、すごく重要になってくるだろうと思いました。
國吉

みたいな、そういうところがあると思います。だから、その場で学ばないといけないわ

そのようなＡＩを、もはやＡＩと呼べるのかどうか、という問題も出てきますね。

けですね。
江間

要するに、身体性を持っている必要があるかもしれないし、時間とか空間とか、人間の感覚を学んでいく必要もある。人間って、重要な判断をいきなり出されても、納得できない場合がありますよね。どんなタイミングで、どんな立場の人が、どんな声や表情で伝えるのかが重要だったりします。例えば、社長に言われるのと、新入社員に言われるのとでは重みが違う、ということもある。そういうインターフェースの研究も重要になってくるだろうと思います。

70

中島

やはり「相談しながら決める」ということができないとダメですね。

江間 「インタラクションをできるような仕組みにする」ということですよね。囲碁の別名は手談だというお話しがありましたが、ＡＩと対戦していて、対話をしているような感覚というのは、まだないのでしょうか。

まだそういう感覚はありませんね。先日、中国で開催された「フューチャー ・オ

人間とＡＩの協調でＡＩ単体に勝てる
大橋のAlphaGo番勝負のほかに、「ペア碁」と「相ブ・ゴ・サミット」に行ってきました。王さんも一緒だったのですが、そこでは、今、世界で一番強いとされている柯潔さんと談碁」というのが行われていました。

のペア同士が対局するというもので、どちらも人間の棋士がペア碁は人間とAlphaGo対 AlphaGoと人間のペア」の対局を見入っているわけですが、個人的には「 AlphaGoが強くなりすぎてしまって、人間と組んてみたかったなと思っています。今はAlphaGoの研究チームの人に聞いたところ
でもいいことはなさそうな気がしますが、 DeepMind

座談会

71

3

単体より強いだろう」ということでしAlphaGo級ぐらいの棋力の学生人に相談させて、碁を打たせたんです3

すが、人でディスカッションすることによって、級レベルの手を連続して打つこと
3

72

によると、
「人間とＡＩのペアのほうがと打っても、人間が勝てるた。それは非常に凄いことだと思っています。今、 AlphaGo
可能性はかなり低いのですが、「ＡＩと協調することによって、ＡＩ単体よりも良いパ
フォーマンスが出だせる」と研究チームは言っていました。

人の相談に対して、 人の世界チャンピオンがずらりと並んで、相談し相談碁では、 AlphaGoながら挑んだわけですが、もともと囲碁というのは個人競技なので、意見が分かれたりして、あまりいいことはないかなと思っていました。そして予想通り、そのは失敗して、人間のパフォーマンスは向上させられませんでした。
囲碁を始めて数カ月、一方で、私は大学で「囲碁授業」というのをやったことがありまして、最後の授業で、55ね。そうすると、プロの目から見ると「ちょっと違うな」ということを言っているので

10

その時、もしかすると「話し合い」もスキルとして考えられるのではないかな、といができたんです。

3

うことを思いました。ですから、人間のトッププレイヤーが、相談するスキルを磨いていくと、より良い手が打てるようになるかもしれません。また、その場合、ＡＩというのは気分でパフォーマンスが変わるようなことはないので、ＡＩを基準として使うこと

囲碁ＡＩと人間のコラボについて、先ほど中島先生が「対局の検討ができない」と

囲碁ＡＩとの対局でも対局の検討は可能ができるのではないかなと、そんなことを考えました。

王

いう話をされましたが、実は、今のままでも感想戦に近いことはできるんです。というのも、先ほど私が申し上げた通り、正直なんですよね、ＡＩというのは。

手ぐ

ＡＩは、実にいろいろなことを教えてくれます。例えば、ある手を打った場合の勝率を教えてくれますし、ある場面で相手の次の一手を予想してくれます。一瞬で、らい予想を出してくれる。それだけでも検討するには十分な情報です。

人間対人間の検討で、それだけ正直な情報が得られるかというと、非常に疑問です。囲碁の検討の場合、負けたほうが「こう打ったら、どうなっていたでしょうか」と聞いて、

座談会

73

20

勝ったほうが「それをやられたらダメでしたね」みたいなことを言うわけです。知っていても言わないということもあります。

ですから、単純に対局後のチェックということでしたら今もＡＩができますし、ＡＩ

内にすべてのデータがありますから、勝率・候補手・変化を見せることができます。見せる気になれば、もっと多くの情報を見せることもできると思いますし、囲碁においては十分に検討できているというのが現状です。

そのことについて、ちょっとお聞きしてもいいですか。将棋の場合、例えば一つＡＩは同じ局面で常に同じ答えを出すわけではない
羽生の局面があって、調べるとしますね。その時に出てくるものは、毎回同じではないんですよ。つまり、ある程度のランダムが入っていて、どれくらい時間をかけるかによっても変わってくる。

もちろん「明らかにＡという手が良い」という場合は、常にＡを提示し続けます。そうではなくて、これは将棋でも囲碁でもよく使われる言葉ですが、「こうやるのも一局」、

74

つまりどちらも指せる、打てるような場合がありますよね。そういう場合、今の囲碁Ａ
Ｉは、毎回同じ答えを出してくれるのでしょうか。

つまり何が聞きたいかというと、ＡＩが社会に浸透して、活用していくときに、「気分で」ではないでしょうけれど、その時、その時で出てくる答えが違っているようだと、いざそれを選択する時に人間を迷わせたり、惑わせたりすることになるじゃないかな、と今の囲碁ＡＩでは、毎回必ず同じ答えが出てくるわけではないと思います。だけれ思ったものですから。
王

ども、やはり、それなりに負けない手を出してくる。では、答えが違っていたときにど

級が

人集まれば

級になる」

台が同じ手を示してきたら、その手にするとか。

うすればいいのかというと、結局、「多数決」で決めるしかないと思うんですよ。例えば、台用意して、

やはり多数決の力というのはあって、大橋さんの「

同じＡＩを

3

という話も、ディスカッションのスキルもあるかもしれませんが、単純に多数決の効果

3

3

ちょっとだけ王さんに突っかかってみたいんですけれども、ＡＩが出してくる手もあったのではないでしょうか。
國吉

座談会

75

10

5

について、盤面の評価値とか勝率とか、あらゆるデータが出る、と。確かにそうだと思いますが、問題は「なぜその値になっているか」は説明してくれない、というところだと思います。そこがいわゆるブラックボックス問題ですよね。そこは、どう感じておらそこはまさに分からないけれども、人間も同じくらい分からない、というふうに考れるのですか。
王

えているんですよね。例えば、ある棋士に「どうしてこの手がいいと思ったの？」と聞

くと、「いや、それはいい感じだから」とか、そういうふうにしか説明できないことも少なくない。説明という点において、人とＡＩに、それほど差はあるとは思っていません。

ＡＩが出してきた手について、意味が分かるときはいいのですが、数値はあるに

まあ、棋士によって違いますけれど。
國吉

しても、意味がわからないということも、往々にしてあるのでしょうか。そういう場合

意味は分からないですけれども、その手が数値によって判断されたということは分は、どう受け止められますか。
王

かる。それに対して相手がどう応じてくるかも示して、その後、自分はどうするべきか、

76

ということも示してくれます。そうすると、これはやはり人間との比較になるのですが、個人的な感覚として、そこまで正確に示してくれる人間はいないと思います。そういう意味では、ＡＩとなら、それなりに検討が成り立っていると感じています。

囲碁であれば「これも一局、あれも一局」でいいと思うんですけれども、確かに自分の能力に合った判断を持つ
大橋

実社会においては、「これも一局、あれも一局って、結局どっちにするんだ」と問題になりますよね。

手先の図を見ても、やっぱ％の勝率で、想定図はこうなっています、

手先まで出してくれるときもあるわけですが、実際に囲碁ＡＩにおいても、読み筋が示されて、とることが組み合わされているんですね。つまり、探索するものと判断するものが組み合

今、ディープラーニングできる囲碁ソフトは、単純に打つ手を考えることと、判断す座談会

わされています。車輪の両輪のように絡み合っていますので、先を想定するものと判断

77

50

60

り人間には分からない、ということがあり得ます。

50

するものが噛み合っていないと、良い判断はできないと思うんです。

「読み」というのは自分の能力で、「判断」はそれをジャッジするものだと思うのですが、自分の能力に合った判断を持つことが大事なのではないでしょうか。それがずれてしまうと、良いものを取り入れてもマッチしない、というふうに私は考えています。

例えば、ＡＩは、ある場面では驚異的なソリューション、人間では１００年考え

最終判断は人間がしなければいけない羽生ても思いつかないような答えを出すこともある。しかし、別の場面では、この提案は良いのかもしれないけれど、それはその後のＡＩの力技があってこそ何とかまとめることができるのであって、この一手を選んだ後、人間が同じように正解の手を指し続けることができるのかどうかは、非常に難しい選択を提示されることもある。

そのときに、例えば「ＡＩから学ぶ」ということもできると思いますが、「この手は良い手かもしれないけれど、良い子は真似しないでね」っていう感じの手を指してくることもけっこうあって、その選別をやはり人間がしなければいけないのかなと思ったりし78

の示す手が、まさにそんな手なんですよ。先日、 AlphaGo
対
AlphaGo

ています。
大橋

の
AlphaGoの後半の探索能力があってこその、す棋譜が 局公開されたのですけれども、 AlphaGo
ごい序盤の一手というのが数多く見られます。「こういう手もあるのだろうけれど、真似

人とＡＩがどういう関係を結んだら生産的になり得るのか、という話があると思ある。もちろん、そこから学ぶところはあるのだけれど、それをどう選ぶか、評価する

79

座談会

そうすると、ＡＩがもう少し人間の協力相手として役に立つためには、人間に合わせかは人間の力量にかかっているところがある。

うんですね。今までの話をまとめると、ただ強いだけでは、ちょっとなというところが

國吉

人間に寄り添った解が求められているですが、私たちもそれに対する答えはないような状態です。

いるから、どんどん複雑になっていって、「人外の戦い」のようなものが見られているのをしても簡単には成功しないな」という手ばかりです。今、それをお互いに打ち合って50

た解を出す必要があるんだと思います。純粋に最適解でなくても良くて、もっと人間の側に寄り添った解を出すことが求められているようなことを思いました。
今後ＡＩとどう付き合っていくべきか

江間 「正解」という言葉が出てきていましたけれど、実社会に果たして正解があるのか、という問題もあります。社会にとっての良い悪いは、歴史が証人となるように時間を要するものもあれば、人によって正解が異なるものもある。あるいは、国の習慣や制度によって正解が違ってくるかもしれません。そう考えると、ＡＩを社会に浸透させる場合、ある場所で導入に成功したからといって、それをそのまま他の場所でも導入できるというものでもありません。

また、アルゴリズムだけの問題ではなくて、どういうデータを学習させるかによって、出てくる解が変わってくる、という問題もあります。ブラックボックスというお話しも」の事件は非常に示唆的です。人ありましたけれど、例えば、マイクロソフトの「 Tay
間の持つ偏見やステレオタイプをＡＩに学習させてしまうこともできてしまう。そのと80

き、技術を開発する側、使う側が何に気をつけるべきなのかといったことは、まだ議論の真っ最中です。

松尾さんが人工知能学会で倫理委員会を立ち上げたのは、技術を開発する側として、そうしたことも考えていく必要があると思われたからではないでしょうか。ＡＩとの付き合い方について、特に技術者として、どこまで考えなくてはいけないのか、松尾さんのお考えを伺いたいと思います。

世の中には、囲碁や将棋のように勝ち負けが明確に定義できない領域がたくさん

勝ち負けがはっきりしている領域で日本は後れを取ってはいけない
松尾

あると思います。そうした領域においてＡＩをどのように活用するのか。人間と機械と一方で、勝ち負けがはっきりしている領域では、今後、急激な変化が起こると見ていの協調とはどういうことなのか。これは、重要なテーマであると考えています。

ます。例えば、農業、建築、食といった分野です。つまり、トマトを収穫すればいいな

座談会

ど、目的がはっきりしている時、人間よりも上手にやる、早くやることができるように

81

なるはずです。技術的には AlphaGoと近い技術でできるようになっていきます。その時に、日本がそこの部分のイノベーションを取れないと、大きな影響があります。そこで後れを取ってはいけない、というのが私の問題意識です。

その先に、人間ならではの価値観や倫理観、初めのほうで話題となった「幸せとは何か」といった問いがあって、そこは人間の活動領域として、とても重要な部分だと思っ技術だけでは解決できない問題が起きたとき、また、例えば、新しいルールをつています。そこは、もっと長い時間をかけて、議論を重ねていく必要があるでしょう。
江間くるという課題に取り組むというときに、技術者だけで、あるいは企業の中だけで考えるのではなく、もっとオープンな形で、いろいろな人たちを巻き込んで、一緒に考えていく必要があると思います。

そこで、瀬名さんにお伺いしたいのですが、これからの人間とＡＩの関係を考えるときに、一歩先の想像力が必要になってくると思います。瀬名さんが思い描くＡＩと人間の協調というのは、どのような姿なのでしょうか。瀬名さんの理想、あるいは「面白い」と思うＡＩと人間の関係はありますか。

82

判断の つのフェーズ

では、今、パッと思いついたことをお話ししますと、僕は、昔、インフルエンザ

先生に、取材したことがあります。
3

配すべきだとか、警察官のような公共職の人だとか、働き盛りの人に分配すべきだとか、

83

座談会

その上の段階として、どうやっても解決できないような哲学的な問題があります。
「そそれぞれ専門家の意見があるわけです。それでも合議でなんとか解決できるでしょう。

えば、「社会の中で誰からワクチンを分配すべきか」という話になったとき、子どもに分

その次に、専門家同士で意見が違うのだけれど、合議で解決できる領域があります。例といったことは、科学的な根拠があって、パンデミックを抑えるには効果があります。

は、科学で解決できる領域です。つまり、マスクをしましょうとか、手を洗いましょう

吉川先生からは「私たちの判断には種類ある」ということを教わりました。一つ目をどうやってマネージメントするか」という研究をされている慶応義塾大学の吉川肇子防ぐために、公衆衛生に関わる人たちが頑張っておられるわけですけれど、「クライシスウイルスの本を書いたことがあるんですね。インフルエンザウイルスのパンデミックを

瀬名3

％と示しました、と。ＡＩはプランＡを勧めてという議論になります。そしてさらに上のフェーズとして、「人間の知能とは何か？知性とは何か？」といった、永遠に考えつづけなければならない議論もあると思います。

こういう付き合い方があるのではないかというものがあれば、棋士の皆さんや研究者の皆さんに、ぜひお伺いしたいですね。

84

もそもパンデミックとは何なのか」「パンデミックとは人と鳥が共存していることで生じる、仕方のない自然界の現象ではないのか」といったものです。

その議論のフェーズを間違えると混乱が生じてしまう、というお話しを伺いました。
現

実的に、ウイルスパンデミックのケースでなくても、時折社会ではそうした混乱が起きていますよね。僕は、人間とＡＩの関係においても、そうしたフェーズがあるのではな
いかと思うんです。

例えば、農業だったら「たくさん収穫するためには人間とＡＩがこういう形で協調す％、プランＢの成功率ればいい」という議論になるでしょう。あるいは、会社の経営であれば、ＡＩが、プランＡの成功率45

いるけれど、トップの人間はプランＢを選択するかもしれず、本当はどちらがいいのか、

55

そうですね。現段階のＡＩは「確率的にどちらのほうが優れているか」という解

勝率の高い手とちょっと変わったことの組み合わせ羽生

割だとを出す部分では、すごく進んできていると思います。ただ、将棋の世界では実際によく割、Ｂという手の勝率が4人、Ｂが 人に分かれるかというと、そうではあることなのですが、例えば、Ａという手の勝率が対に分かれてしまうかもしれません。

割の手を選ぶほうが正しいのかもしれないのですが、果たとか、下手すると１００対します。では、棋士が指す手も、Ａがない。実際には、

6

40

0

60

江間

ＡＩとの付き合い方としては、個人レベルでどう付き合っていくのか、あるいは、あるＡＩの進歩を、うまく組み合わせていくことができるといいな、と思っています。

と、イノベーションを起こしたり、新たなものを生み出したりするので、その辺りと今ある種そこでちょっと変わったこと、今までになかったこと、少し突飛なことをやる

かにつながるのだろうかという思いはあります。

してそれを繰り返し選択していくことが、全体としての進歩であるとか、発展であると

それは、その瞬間は勝率1

業界レベルでどう付き合っていくのか、そういうフェーズもあるような気がします。ま

座談会

85

6

99

86

た、瀬名さんに挙げていただいたように、「そもそも知性とは何か」といった哲学的な問

いも出てくるでしょうし、一方、今日会場にお越しいただいた皆さんは、実用的な面か

ら「うちの会社でＡＩをどうやって導入していくか」といったことを考えていらっしゃるかもしれません。

さて、そろそろ終了の時間が近づいてまいりました。最後にお一人ずつ、今日の

終わりに
江間

座談会に参加されて考えたこと、発見したこと、あるいは個人的にＡＩに期待していることなど、一言コメントをいただけますでしょうか。

年前には全然違う手を打つようになっ
AlphaGo

今 日 は、 と て も 刺 激 的 な 議 論 が で き て、 す ご く 楽 し か っ た。 先 ほ ど、想像力を駆使して次のことを考える
大橋が打った手を今研究していて、今のAlphaGo1

た、という話をしました。やはり、ＡＩの後を追いかけていても、指数関数的な進歩にはついていけないんですね。

ＡＩの１００年先のことを考えるぐらいで、やっと来年のＡＩと同じくらいのことができるのだと思っていたほうがいいのではないでしょうか。そこには人間の想像力を働かせる意味があると思います。

とはいえ、私自身、どうしていけばいいのか、考えがまとまっていません。けれども、私は自己中心的な人間なので、どうしても自分からスタートしての話になりますが、ＡＩに任せるフェーズと任せてはいけないフェーズ

できるだけ想像力を駆使して、次のことを考えていけるようにしたいと思っています。

王

ししたように、人間というのは、いろいろな面を持った矛盾した存在であり、ＡＩは逆

やっぱり自分は人間なので、どうしても人間中心的な発想になるわけです。冒頭でお話に、矛盾のないすっきりしたシステムです。

座談会

瀬名さんのフェーズの問題に関連して考えていることは、仕事にせよ何にせよ、ＡＩ

87

88

のように、すっきりとした、無矛盾の方で進めたほうがいいフェーズと、人間的な矛盾が入り込んでいるからこそ仕事になるフェーズがあるように思います。仕事を上手くやればいいものは、ＡＩに任せて、私たち人間のいろいろな面を持った、矛盾だからこそ重みがあるものには、間違ってもＡＩに関わらせない方がいいんじゃないかなと、今は思っています。

には相当
今日はショックを受けていない振りをしているけれど、やっぱり AlphaGo
年ぐらいは囲碁ＡＩのことばかり考えていショックを受けておりまして、実は、この一つは、ＡＩが進歩していくことは間違いないので、それをどういうふうに取り持っています。

入れていくか、あるいは人間の能力をどういうふうに伸ばしていくのか、非常に興味を羽生

脳の研究も重要いただくほうが、ずっといいなあ、と思いました。ありがとうございました。

ました。でも、やはり一人で考えていたのではダメですね。こうやって皆さんに教えて1

もう一つは、もちろん人工知能として進歩はしていくのだけれど、それは人間の脳の研究などとも近いところにあるはずなので、そちらの分野も進んでいって、「人間は、こういうことを考えて、こういう行動をしていた」といったことがより解明されていくことが、バランスよく進んでいくために大事なのではないかと思いました。

今の羽生さんのお話は非常に大切だと思います。私たちの仲間でも、人の脳や認人間と違うＡＩ、人間に寄り添うＡＩ
國吉

知の研究と、実際にそのシステムを作る研究を、両面から進めていくことが必要だと考えています。

ると、新しい発見がたくさんありました。こんな見方をされているのか、こういう考えのことをどう思っているんだろう？」
この座談会は、「トップ棋士の皆さんは AlphaGoという、とても卑近な興味からスタートしたのですが、実際に皆さんのお話を伺ってみ方があるのか、ということを教えていただいて、大変ありがたく思っています。今後も座談会

対話を深めていきたいと思った次第です。

89まとめとして言いたいことはたくさんあるのですが、二つだけ申し上げます。一つは、「ＡＩは人間と違うからこそ役に立つ側面がある。一方で、もっと人間に寄り添わなければ、あまり役に立たない」という、どちらに進んだらいいのか研究者として迷うということを、答えはないですが投げかけておきたいと思います。

もう一つは、今日、あまり議論ができませんでしたが、人材育成についてです。棋士の皆さんがおっしゃっていたことは、例えば、ここでＡＩを使うべきかどうかのフェーズの判断や、自分の成長のためにあえて最適ではない手を打つと考えることは、すごく人間らしい判断だと思います。そうしたことができなければ、ＡＩを使いこなして、さらに良い世界をつくっていくことはできないという気がします。

そういう教育が、今できているのだろうか。もちろん知識を詰め込むだけではダメで、ＡＩについてよく理解した上で、それをどう使いこなすかという「本当の人間力」みた
いなものを、問うていかなくてはいけないと思いました。
「自分はどうしたいか」が重要

90

中島

今日、お話しを伺っていて、一番の感想は、羨ましいということです。今まで、そういう意識を持ったことはなかったのですが、「囲碁や将棋の世界は、ＡＩが出てきたことによって、ものすごく可能性が広がった」というふうに受け取りました。

繰り返しますが、ＡＩというのは道具なので、それをどう使うかというのは人間の側にあります。そこでは大橋さんがおっしゃった「想像力」というのが非常に大事だと思

年以内に一般社会で同じことがうのですが、良い道具が手に入ったので、今後ますますいろいろなことができるのだろうと思っています。
ＡＩの登場は、囲碁将棋が先駆けていますけれど、起こると思っています。よく「ＡＩに職を奪われて、どうなりますか？」という質問がよくありますが、そうではなくて、「自分がどうしたいか」ということのほうが重要で、それが分かれば、きっとＡＩは良い道具になると思うので、ぜひ今からデザインを始めていただきたいなと思っています。

座談会

91

5

囲碁ＡＩと将棋ＡＩで、囲碁ＡＩのほうが急に強くなってしまった、という話が日本はぬるま湯松尾

ありました。いくつか理由があると思うのですが、将棋は日本国内の話なので、できるだけ摩擦が起きないように上手にやってきたのではないかと思います。一方、囲碁は日の 技 術 力 は 相 当 ヤ バ い で す。 そ れ を 追 い か け て い る
DeepMind

や
Googleというすごい企業が一生懸命に
中韓アジア圏なので、摩擦などお構いなしに DeepMind
やって、あっという間に強いのを作ってしまったと思います。
この、それからオックスフォード大学、カナダの大学、フランスの大学なども、もFacebookのすごくレベルが高いです。一方で、囲碁に関しては、中国のＡＩが日本のＡＩに完全に勝ってしまっています。ＡＩに関しては、中国は日本よりかなり先進国になっています。

日本はぬるま湯です。そういうことが世界で起こっており、これが日本に直結するビ

ジネスでも直面すると思っているので、何とかしなければいけないと思っています。
本当に自分のこととして考える

92

瀬名

今日はエッジの立った議論が多かったんじゃないかと思います。僕もエキサイ

ティングな感じを受けました。
「ＡＩが自分のところに入ってきたら……」というテーマ

は、雑誌なんかでもよく特集を組まれていますが、本当に自分のこととして考えられる
機会は、なかなかないと思います。

作家というのは想像力が勝負の世界なのですけれども、やはりあの星新一さんの「きまぐれ人工知能プロジェクト」が立ち上がった時の作家たち、その周辺の人たちの動揺

ぶりは、すごかった。
「え、こんなことやられたら、俺たちやられるかも……」と、その時になって、小説家ですら初めてわかりました。

今後、それがいろいろな分野に広がっていくなかで、僕らに先駆けてそれを体験され、しかも素晴らしいお話しをしてくださった棋士の皆さんを、心からリスペクトしていま

時間半の長い座談会でしたが、司会としては本当にあっという間の楽しい時間

す。今日は本当に楽しい時間でした。ありがとうございました。
江間でした。本日は皆様どうもありがとうございました。

座談会

93

2

登壇者等略歴紹介（敬称略）

羽生

善治（はぶ・よしはる）

公益社団法人日本将棋連盟

棋士（王位・王座・棋聖）

1970 年、埼玉県所沢市出身。6 歳から将棋を始める。1982 年 6級で二上達也九段に入門。1985 年 15 歳でプロ入り。1989 年初
タイトル竜王を獲得。1996 年には 7 つのタイトルをすべて獲得した。名人、棋聖、王座、王位、棋王、王将の 6 つの永世資格を持つ（襲名は引退後）。著書には『決断力』（角川書店）、『直感力』（PHP 新書）等がある。

王

銘琬（おう・めいえん）

公益財団法人日本棋院

棋士（九段）

1961 年台湾台南市生まれ。1975 年来日、77 年入段。タイトル
歴 1989、91 年俊英トーナメント、2000-01 年本因坊、2002 年
王座、2007 年大和証券杯、2012 年マスターズカップ。確率の要素を取り入れる珍しい打ち方。著書には『ゾーンプレスパーク』、『我
間違えるゆえに我あり』、『囲碁 AI 新時代』等がある。コンピュータ囲碁には 2007 年より興味を持ち、2014 年囲碁ソフト「GoTrend」のチームに参加、2015 年 UEC カップ 6 位。

大橋

拓文（おおはし・ひろふみ）

公益財団法人日本棋院 棋士（六段）
1984 年、 東 京 都 出 身。 菊 池 康 郎 氏（ 緑 星 囲 碁 学 園 ） に 師 事。
2002 年入段。第 1 回おかげ杯準優勝。2013 年六段。2012 年和製囲碁 AI「Zen」と 9 路盤で対戦。以来コンピュータ囲碁を活用した研究等を、日本棋院月刊誌碁ワールド「IGO サイエンス」として連載中。人工知能学会誌、情報処理学会誌にコンピュータ囲碁関連の寄稿多数。

國吉

康夫（くによし・やすお）

21 世紀政策研究所研究主幹／東京大学大学院情報理工学系研究科
教授
1991 年東京大学大学院工学系研究科修了（工学博士）。同年電子
技術総合研究所に入所、1995 年同主任研究官、1996 年より米国マサチューセッツ工科大学人工知能研究所客員研究員を経て、2001 年から東京大学助教授、2005 年同教授。日本ロボット学会
フェロー、日本学術会議連携会員。理化学研究所 BSI- トヨタ連携センター長、新学術領域研究「構成論的発達科学」領域代表、東京大学次世代知能科学研究センター長等歴任。研究分野は、身体性に基づく認知の双発と発達、模倣の科学、ヒューマノイドロボットなど。

中島秀之（なかしま・ひでゆき）

21 世紀政策研究所研究委員／東京大学大学院情報理工学系研究科特任教授
1983 年東京大学情報工学専門課程修了（工学博士）。同年電子技術総合研究所に入所、2001 年産業技術総合研究所サイバーアシス
ト研究センター長を経て、2004 年から公立はこだて未来大学学長。
2016 年から東京大学情報理工学系研究科特任教授。人工知能学会
フェロー。産業技術総合研究所情報技術研究部門研究顧問、内閣官
房 IT 戦略本部地方創生 IT 利活用推進会議政策企画 WG 主査等歴任。

松尾豊（まつお・ゆたか）

21 世紀政策研究所研究委員／東京大学大学院工学系研究科特任准教授
2002 年東京大学大学院工学系研究科修了。博士（工学）。同年産
業技術総合研究所に入所、2005 年よりスタンフォード大学 CSLI
客員研究員を経て、2007 年から東京大学工学系研究科准教授、2014 年同特任准教授。産業技術総合研究所人工知能研究センター
企画チーム長、人工知能学会倫理委員会委員長等兼任。研究分野は、人工知能、ウェブ、ビッグデータ分析など。

瀬名秀明（せな・ひであき）

21 世紀政策研究所研究委員／作家
1996 年東北大学大学院薬学研究科修了（薬学博士）。2006 年～
2009 年東北大学機械系特任教授。日本 SF 作家クラブ第 16 代会長。
1995 年日本ホラー小説大賞、1998 年日本 SF 大賞等を受賞。主な著書に『パラサイト・イヴ』（新潮文庫）、『BRAIN VALLEY』（新潮文庫）、『知能の謎』（共著・講談社）等がある。

江間有沙（えま・ありさ）

東京大学教養学部附属教養教育高度化機構科学技術インタープリ
ター養成部門特任講師
2012 年東京大学大学院総合文化研究科博士課程修了。博士（学術）。
京都大学白眉センター特定助教を経て、2015 年 4 月より東京大学
教養学部附属教養教育高度化機構科学技術インタープリター養成部
門特任講師。2017 年 1 月より国立研究開発法人理化学研究所革新
知能統合研究センター客員研究員。専門は科学技術社会論（STS）。
人工知能学会倫理委員会委員。人工知能と社会の関係について考える AIR（Acceptable Intelligence with Responsibility）研究会を有志とともに 2014 年より開始。

座談会

プロ棋士から見た
AIと人―これからの経営・社会への示唆―

2017 年 10 月 31 日発行
編集

21世紀政策研究所〒100-0004 東京都千代田区大手町1-3-2
経団連会館19階TEL

03-6741-0901

FAX 03-6741-0902
ホームページ http://www.21ppi.org

世紀政策研究所新書【産業・技術】

月

日開催）

日開催）

10

日開催）
日開催）

サイバー攻撃の実態と防衛（２０１３年４月
月

日本型オープンイノベーションの展開（２０１５年

月

日開催）

日開催）

日開催）

日開催）

日開催）

日開催）

日開催）

日開催）

日本農業再生のグランドデザイン─ＴＰＰへの参加と農業改革（２０１２年４月

29

ビッグデータ、ＡＩ、ＩｏＴ時代のデータ活用と、イノベーション（２０１６年９月

10

研究開発体制の革新に向けて─大学改革を中心に（２０１５年６月

新しい農業ビジネスを求めて（２０１５年６月３日開催）

日本型オープンイノベーションを求めて（２０１５年４月

森林大国日本の活路（２０１４年

1110

世紀政策研究所新書は、 世紀政策研究所のホームページ（ http://www.21ppi.org/pocket/index.html）でご覧いただけます。

プロ棋士から見たＡＩと人―これからの経営・社会への示唆（２０１７年６月

21

14

19

30

人工知能の現在と将来、それは産業 社･ 会の何を変えるか（２０１６年 月 日開催）
オープンイノベーションの収益化─エコシステムにおける戦略を考える（２０１７年４月

28

27

15

15

10

10

企業の成長と外部連携─中堅企業から見た生きた事例（２０１２年２月

戸別所得補償制度─農業強化と貿易自由化の「両立」を目指して（２０１１年２月３日開催）

11

農業ビッグバンの実現─真の食料安全保障の確立を目指して（２００９年５月

64 63 62 61 53 52 51 50 49 38 27 25 13 08 01

日本の経済産業成長を実現するＩＴ利活用向上のあり方（２０１０年

25

21
21

21