Booklet for New Enlightenment 2

Booklet for New Enlightenment 2

座談会「AIと法」

座談会 AIと法

2023年10月18日

キム・ハン
宍戸常寿
鳥海不二夫
東京大学東洋文化研究所 2023

中島隆博

主催

東京大学東洋文化研究所

Booklet for New Enlightenment 2「AI と法」

座談会

2023年10月18日

キム・ハン

東京大学東洋文化研究所

宍戸 常寿

鳥海 不二夫

司会 中島 隆博

主催

東京大学東洋文化研究所

大会議室

Contents

情報的健康……………3
AI の法規制と民主主義……………12
AI 社会における人間とコミュニティーの在り方……………26
質疑応答……………40
座談会話者プロフィール……………51

2

中島：本日の座談会は、「AI と法」というタイトルで、工学系研究科の鳥海不二夫先生と、法学政治研究科の宍戸常寿先生、それから韓国の延世大学の教授で、今、東京カレッジに来ていらっしゃるキム・ハン先生のお三方と一緒に話を進めていきたいと思っております。

Ⱚ情報的健康中島：では、最初に鳥海先生からお話しいただければと思います。「情報的健康」という言葉をお使いになって、新聞でも取り上げられていますね。現状の AI に関して様々なご提言もされていますが、今どうお考えになっているのかお話を伺いたいと思います。先生は、この研究を慶應大学の先生とやっているのですか。
鳥海：そうですね。山本龍彦先生と一緒に提言書を出しています。これは情報空間の話です。ネットが広がることによって、デジタル情報空間をみんなで便利に使えるようになり喜んでいたのですが、意外といろんな問題が発生していますよね、というあたりから話が始まっています。昔は情報が少なくて困っていましたが、今は多過ぎて困っています。世の中に存在する全ての情報は見られないので、取捨選択しないといけなくなりましたが、どのようにそれを実現するのか、というところで AI が出てきました。AI がわれわ
れに情報の取捨選択をして、「これはどうですか？」と推薦してくれるようになりました。推薦してもらった情報をわれわれは見て楽しんでいますが、■情報的健康3

そのアルゴリズムがわれわれのことを考えて推薦してくれているわけではありません。例えば新聞社なら新聞の記事をいっぱい読んでもらいたい。記事を多く読んでもらえばそれだけ広告収入が上がるからです。実はこれがデジタル空間の一つのポイントとなっています。
読んでもらうために、われわれに「興味がある記事」を推薦してきてくれることになるのですけれど、興味があるものと必要なものとは違います。しかし AI が「これ興味あるでしょ」と推薦してくると、それをポチッとクリックしてしまうことが多い、つまりわれわれはすでに AI に操作されているともいえるのです。それがいいことかどうかと問われると、難しいところです。AI の推薦によって得られる情報は、非常に限られています。AI がフィルタリングした情報しか見られないからです。このような状況を「フィルターバブル」と呼びます。われわれは、情報空間的には AI が作った泡の中にいるわけです。
これは良い状態と言ってよいのでしょうか。個人レベルでいくと、見たい情報が見られるので満足度はかなり高いといえます。推薦してくる側も広告収入が上がるので満足度が高い。win-win の関係が成り立っているので双方が満足しています。一方で、われわれは本当に必要な情報が見られなかった
り、特定の情報が隠されてしまったり、ということが起きてしまいます。さらに言うと、「見たい」情報のみが提供される状況に漬かっていると、人によっては政治のニュースなどは一切出てこなくなり、芸能とスポーツしか見られないとか、もっとひどい状況になると真偽の怪しい情報が推薦さ れ て、 陰 謀 論 に はまってしまうということが起き得るのです。
このように長期的に見るとあまり良くない可能性があるが、短期的に見ると誰も困っていない。
こういう状況をどう4

中島隆博（東京大学東洋文化研究所所長・教授）

やったら解消できるのだろうか、ということを議論していた時に、人間は短期的な欲望に勝てる場合が、少しですがあることに気づきました。その一つが食生活です。われわれは目の前においしそうなものがあっても、ちょっと太るから今日は少なめにしとこうという理性を働かせることができる。それは健康という大きな目標があるからで、それに向けて、短期的な欲求を何とか我慢できるのです。ですから、健康というアナロジーを使って説明できれば、今までの生活を改められるのではないかということで、情報に関して「健康」に相当するものを考えることにしました。そこで「情報的健康」という言葉を使って、アテンションが重視されるアテンション・エコノミーにおいて「AI による推薦」等によって生じる問題にどうやって立ち向かっていくのか、そして情報空間をどう生きていくのかというあたりを議論しているところです。
中島：共同提言を 2023 年 5 月に出されましたね。
鳥海：「健全な言論プラットフォームに向けて ver2.0 ─情報的健康を、実装へ」ですね。
中島：その前に出されたのがデジタル・ダイエット宣言でした。

キム・ハン（延世大学・教授） 宍戸常寿（法学政治学研究 鳥海不二夫（工学系研究科・
科・教授）

教授）

■情報的健康5

鳥海：そうです。「デジタル・ダイエット宣言」は何となく名づけてしまったのですが、イメージがあまり良くなかったと正直思っています。デジタ
ル・ダイエットというと何か情報を制限するみたいなイメージが出てきてしまうので、ver.2.0 では使うのをやめました。しかし、健康のためにダイエッ
トをするということは、広い意味では食事制限だけではなく健康のために運動することも入るので、情報も制限するだけではなくて適切に摂取しましょうという意味合いでは間違っているわけではないですが。
中島：その ver.2.0 で、ユーザーの情報的健康の程度を測定するシステムを構築したり、それに関連するリテラシー教材を開発したりしなくてはならな
いとおっしゃっていますね。具体的に何かそういうシステムができているのですか。
鳥海：実は、結構前から旧 Twitter でそういうアプリを作っていました。自分が今どのぐらい特定の人に囲まれているのかとか、バランスの取れた情報が得られているのかとか、どこかで盛り上がっている話はほんとうに盛り上がっているのか、一部の人たちが意図的に盛り上げているのではないか、などが可視化できるようなツールを作っていました。ただ残念ながら、今、
Twitter が X になって、それらのサービスの利用が全部止まってしまっています。年間 1000 万円ぐらいあると再開できるのですが。現状は、こういった研究を進めるための寄付を常に求めている状態です。ここで聞いている方々の中にそんなお金持ちはいないような気がしますが。
中島：それは、例えば大学のようなところで実装してみることはできないでしょうか。
鳥海：まさに大学で実装していたのですが、研究機関からもお金を取ることになってしまったのですよね。マスクさんは今、研究機関からこそお金を取りたいみたいですね。彼は AI を作りたいので、研究機関が好きにデータを取ると研究機関が AI を作ってしまうと思っているという噂もあります。
中島：そういうことなのですね。工学系の先生方でも、AI に対する評価が6

分かれているように思います。いろいろ問題があるということを強調する方もいれば、いやいや、それは乗り越えていけるから、もっともっと AI を進めていくべきだという方もいて、スペクトラムの違いが結構見えるように思います。
鳥海：基本的に基礎寄りの研究をしている先生は、どんどん進めていかない
とおいていかれるので、がんがん行きましょうという話をはされますよね。
応用寄りになって、社会と密接に関係してくればくるほど、そのまま使うと、こことここは後々問題になるよねと、気にされている先生もいます。
中島：世界ニュース発行者協会（WAN-IFRA）などの報道・メディア 26 団
体が「世界 AI 原則」を連名で発表しましたよね。アメリカ、ヨーロッパ、
韓国、ブラジル、それから日本新聞協会も名前を連ねています。原則とは何かというと、知財、透明性、説明責任、品質と誠実性、公平性、安全性、設計、および持続可能な開発という、よくわからない 8 項目が並んでいますが、先生はどのようにお考えですか。
鳥海：AI 開発では一般的なものなのかなという気はします。つい先日も、AI に学習させないというところまで踏み込んだものも出ましたが、あれはなかなかすごいこと言い出したなという気はしました。
中島：あそこまで行くとかなり敵対的な感じになりますよね。
鳥海：そうですね。あそこまで言い切ると、いったい何をイメージしているのだろうかと思います。学習して、それをほぼコピペして即座に出されるのが嫌なのはわかりますが、本来は、生成 AI の基盤モデルを作るための学習であって、学習したものをそのまま出すという意味合いではないです。それを基に賢くなっていくというレベルのものなので、一律禁止というのは何か
ちょっと視点が違うように思います。
中島：もう一つ教えてください。生成 AI は、いろいろな情報を学んで、それらの情報を作り直して質問に対して答えを出すわけですが、その中にはど■情報的健康7

う考えてもフェイクな情報が入ります。そうすると、出された答え自体もまた学ぶ対象になるので、情報がだんだん劣化していくのではないかという疑いを持ちます。そうだとすると、インターネット上にフェイクな情報がさらにたくさんたまっていくわけです。情報が劣化していくと、いくら学んでも生成 AI が出す答えはどんどん駄目になるのではないかと素人は思うのですが、いかがですか。
鳥海：そこは実は考え方が大きく 2 つに分かれていると思っています。そもそも基盤モデルとは何かというところです。情報も知識も含めたものを基盤モデルとする考え方もありますが、現状の ChatGPT で考えると、まずは言語モデルですね。今は知識のモデルとしても結構使われていますけれど、本来は言語モデルであって知識モデルではないはずです。言語モデルなのでハルシネーションを起こして、質問に対する解答としては間違った答えが結構出るため、知識としては間違っているのですが、言語として間違っているわ
けではありません。なので、本来の意味での基盤モデルとしては別に間違っているわけではなく、使い方が間違っていると思うのです。
中島：そういうことか。
鳥海：そうなのですが、予想外に知識としても大体正しい答えが出てしまう
のでついつい信じてしまいますが、本当は盲目的に信じてはいけないものなのだと思います。
その次の段階で、二つ目として知識がベースとなる知識モデルという考え方があって、そこでどうするかというのはまた別の問題として現れてくると思います。
中島：今、言語ということをおっしゃったのでもう一つ。ver.2.0 の提言では、
総合文化研究科の酒井邦嘉先生も入ってらっしゃいましたね。酒井先生は、言語脳科学がご専門で、生成 AI などを教育現場で使うことを大変憂えておられて、反対されています。生成 AI が与えてしまう悪い影響を結構主張されていますが、それをどう思われますか。

8

鳥海：これも難しい問題です。どこまで長期的な視点で考えるかによると思います。短期的には、確かに今までのわれわれの生活や教育の中にまで入ってくるとなると、当然従来のシステムでは想定していなかった影響が出てくるので、いろいろな不具合も起きるだろうことは想定できます。しかし 10
年、20 年、あるいは 100 年、200 年というスパンで考えて、生成 AI があって当たり前の世界観になった時、こういった技術を無視した教育をしていることで、今度はいろんな問題を発生させるわけです。
簡単に言えば、インターネットが出てきた当初、インターネットを教育に使うか使わないかが問題になりましたよね。学生のレポートが Wikipedia の
コピペになったらどうするという話は結構あったと思いますが、それと同じ議論ではないでしょうか。
中島：なるほど。私と酒井先生と、本日ご登壇いただいている宍戸先生ともご一緒した、東大 EMP の「構造という概念をめぐる座談会」でも、酒井先生はそのようなことを結構主張されていました。その後、酒井先生がお書きになった記事でも、AI と対話をしていて自死するに至るケースが結構あって、しかも、子どもまで亡くなっていることを取り上げて、これはどうなのだろうとおっしゃるわけです。この前も確か、大人の人が AI とずっと対話して結局自死の道を選んだという記事があって、びっくりいたしました。鳥海先生はどう思われますか。
鳥海：いろいろな考え方があると思います。言い方は悪いですが、死ぬきっかけがたくさんあるうちの一つになってしまったこと自体は不幸なことだと思いますが、一方で、だから大規模言語モデルや AI が悪い、という方向に持ってくのはちょっと違うと思います。交通事故が起きるたびに車を禁止す
るのかという話とも共通する考え方でしょう。もし生成 AI を使ったチャッ
トで年間数万人が亡くなるとなると、それは気になってきますが。要は、便利さとリスクとの兼ね合いですし、まだ正しい使い方がよく分かっていないということもあります。これからどんどん使い方が分かっていって、例えば、子どもには使わせないでおきましょう、大人は自己責任で使ってください、
ただしこういう問題がありますから気を付けてくださいね、ということになるかもしれません。基本的には、みんなが使う方向に行くものだと思います。
■情報的健康9リスクがないとは言いませんが、あるからといってそれを過度に意識しないほうがいいのかなとも思います。これから先、生成 AI は全面禁止です、もう使っちゃいけませんとはならないでしょう。
中島：イタリアが一瞬そういうことを主張しましたね。
鳥海：一瞬でしたよね。まだ出たばかりのときに。イタリアがずっとそのま
まだったら、だいぶ格差が生まれてしまったと思います。AI を適切に使える人と使えない人でかなり差が出てくるでしょう。私は、論文をたくさん読まなければならない時や、学会誌の査読が一度に来たりすると、取りあえず一回全部 ChatGPT にかけて要約してもらってからスタートします。そういう便利な使い方もできるので、それを使っちゃいけませんとなるのは、今後は難しいのかなと思います。
中島：AI が非常にポジティブに使われている領域として、例えば医療の現場がありますよね。私が見ている限りですから、たかが知れていますが、やはり医療の現場に AI を導入することは、実は医療のクオリティーを上げる
のにかなり役立つのだと多くの方がおっしゃっています。それに反対する意
見があまりないので、そんなものなのかと思って見ているのですが、先生は、医療と AI についてどのようにお考えですか。
鳥海：ドラマなどに出てくる医療 AI は絶対失敗して、人間の医者が正しい答えを言うというストーリーばかりなのですが、実際はそんなことはないですよね。
中島：そうなのです。医療 AI のほうが疾患を見つけてくれるのです。
鳥海：今、医療 AI という呼び方で、画像から疾患を発見していますけれど、
恐らくこのような診断は、AI と呼ばれる以前から画像処理でやってきていました。そういう意味では、昔からの流れがそのまま AI と呼ばれているだ
けのところもあって、親和性が高いというか、受け入れやすい土壌があったのだと思います。
10中島：中村祐輔先生という、以前東大からシカゴ大に移って、また日本に戻ってきた先生がディレクターを務める AI ホスピタルシステムというプログラムがあります。いつでもどこでも誰もが、質の高い、温かい医療を受けられるように、というもので、厚生労働省も指針として出しているものです。
医療の現場では、AI がうんぬんの前からもうある程度導入していて、それが AI という言葉に置き換わって加速していっている感じがします。
鳥海：医療 AI といっても多岐にわたっていて、その中でも使える技術、使えない技術も当然あるとは思います。ドラマに出てくるような全部自動的に診断して、何の薬を打つとか全部決めて、手術までやるみたいな医療は、さすがに反対されると思いますが、そうではなく、これまでもやってきていて、成果が出ているところでは、受け入れやすい感じだと思います。
たぶん、全く新しいことを始めようとすると、またいろいろ問題になってきます。医療データを使って分析ができればもっといろいろ分かるだろうけ
れども、プライバシーなどとの兼ね合いで、まだ完全に解決してないところもあります。そういう分野ですと AI を使うことに対してまだ意見があると思いますし、リスクの話も出てくると思います。医療は大きくくくり過ぎている感じもあって、その中のここはいいですよね、ここは駄目ですよね、といった感じになるのかなと思います。
中島：最後に伺いたいのは、GAFA（Google、Apple、Facebook、Amazon）の議論の時にもよく出てきますが、例えば検索エンジンの設計に関して、みんなが使うものだけれどもデモクラティックな原理がほぼきかない。われわ
れみんなに関わるけれど、われわれの意思決定が反映されることがないわけですよね。当然そこには専門家集団というか専門家の領域というのがあって、その専門家の責任が結構大きいのではないか。それがちゃんとある種の民意をすくい上げていかなければならないのではないか。こういった議論があったと思いますが、AI に関してもそれが同じように当てはまると思います。
しかし、AI の開発にデモクラティックな意見が反映されるというわけではたぶんないですね。
鳥海：そうですね。ないですね。
■情報的健康11

中島：専門家の責任が際立って大きくなってくる気がしますが、そのあたりはどのようにお考えですか。
鳥海：そこはどうでしょう。法的に縛りを入れるべきところは入れるべきだと思いますし、GAFA もそうですが、例えば EU は結構締め付けてきていますね。
中島：やっていますよね。
鳥海：だから、そういう形は当然取れるので、民意が全く反映されないということは恐らくないと思います。なので、AI に関しても、いろいろなとこ
ろで原則が出たり、ガイドライン化するとか、法的に縛るとか。今アメリカ
ではそういう議論をやっていたと思いますが、それを決めていくのは専門家だけではなく、当然政治家も入りますし、そういう意味では民意も入ってくると思います。必ずしもマッド・サイエンティストがどうのという話ではな
いと思っています。

ⰪAI の法規制と民主主義
中島：たぶんもう、話が宍戸先生の領域に入ってきていると思います。例えば、法的な規制をかけるという議論がまた他方でありますよね。特にヨーロッパは、GDPR（General Data Protection Regulation：一般データ規制）というものを出して、個人の情報に関して相当規制をかけています。でも、例えば日本はそれらに関しては非常に緩いというか、あまり考えていないわ
けです。ところがこの前、岸田総理が、AI に関しては日本が主導権を握って、いろいろやってくのだ、と高らかにおっしゃった。あれ？

今までやってきていないのに、何で急にそんなことを言い出したのだろうと、ちょっと不思議な感じがしたのです。先ほど最後のところで、民意がどういう形で反映されるか、当然法的な問題がかかわってくると思いますが、宍戸先生は今、どのように AI をご覧になっていますか。
12

宍戸：今の中島先生からのご質問には、幾つかの要素が含まれています。まず前提として、EU はこれまで、AI が学習するためのデータ、あるいは生成 AI のアウトプットが個人データに該当すれば、それに対して GDPR による規制を作ってきました。GDPR 自体が、EU のデジタル空間の民法とか刑法に当たる、いわば構成的なルールです。それについては EU なりのストラ
テジーがあって、それで作ってきたわけです。
そして、この GDPR の延長線上に、今議論されている AI 規則が成立していきます。それはもうデータ利用の規制ではなく、AI そのものの規制です。
AI を開発する際に、こういうリスクがある AI は禁止とか、これはハイリ
スク AI だから透明性や説明責任、登録手続きを入れろといった、AI のリ
スク分けを考えていくのが、EU 型のアプローチですね。
これに対してアメリカには、AI を開発するプラットフォーマーがたくさんいるのでルールがないと説明されることもありますが、他方で近時は、ホワイトハウスに AI を開発する企業をみんな集めて、透明性やセキュリ
ティーについてはコミットメントしました、という会議を、バイデン＝ハリス・アドミニストレーションで開催したということを、一生懸命発信しているわけです。
日本の立ち位置の話から先にいきますと、恐らく非常に難しいのだと思います。
中島：私は本当に不思議でしょうがありません。
宍戸：何といってもわが国には東京大学があって、鳥海先生のように優れた
AI 研究者もいて、しっかり AI 開発をリードし、その教え子たちがいろい
ろな企業にいるわけですから、AI 開発でいわゆる「勝ち組」の側に回りたいという思いがあります。
中島：ありますよね。
宍戸：アメリカの次につきたい、何かあればアメリカを抜きたい、「日はまた昇る」みたいな世界ですよね。他方で、EU が完全にそうかといわれると違う部分があると思いますが、基本的には、インターネットもデータも消費■ AI の法規制と民主主義

13

者の国としてやってきました。アメリカの企業が EU 域内でビジネスをして勝手に個人データを使って悪いことをしている、偽情報を拡散したりしているので、GDPR やデジタルサービス法で規制しよう、という形で、どちらかといえば消費者保護的な国として振る舞ってきたわけです。
このように、研究開発を促進する側、それから研究開発を一定程度規制する側がある中で、日本の立ち位置が非常に難しいのです。AI の研究開発を促進していきたいビジネスサイドの声と、AI から人々を守らなければいけない、あるいは私たちを守ってほしい、不安だという人々の声との両方の間
でずっと日本はやってきました。インターネットもそうです。正直に言うと、
どっちつかずな部分があります。
中島：そうですよね。
宍戸：日本が G7 で広島 AI サミットプロセスを打ち上げた時も、日本は何か明確なコミットメント、スタンスがあってやっているのか、と見られてしまう。けれども、ここで何かを言わないと、日本はどっちつかずで終わってしまう。ですから自分たちは、両方の真ん中にいて、研究開発も大事だし、
デモクラティックな価値に配慮した、リスクに対する一定程度の規制も大事だということで何とか独自性を発揮できないか。真ん中のポジションを取る
ことで、ルール形成に少なくとも発言権を確保していこうというのが、今、日本政府がとっている戦略だと思います。
中島：なるほど。それは見通しとしてうまくいきそうですか。
宍戸：そこは分からないです。日本では、AI についてこういう研究やサービスがあります、という裏付けなしで言っても、たぶん相手にされないですね。しかもスタンスが決まってない。うちでは、こう AI を使ってみた結果、
こういうリスクがあるので、この点は規制をかけましょう、という具体的な提案がなければ、アメリカや AI を進めたい人に対しては、何の説得力もないように思います。逆に、AI を使えばこれだけのメリットがあるので、EUのようにあまり厳しいことを言わなくてもいいのではないか、と言おうにも、何の説得力もないのです。国内での AI の研究開発と、実装してみた時のリ
14

スクへの対応といった経験が、同時に積み重ねられていくこともなく、国際舞台で空中戦をやっても仕方ないと思うのです。そういう意味では、鳥海先生に非常に期待しています。
鳥海：痛いところを突きますね。でも、やっていることは後追いですよね。
私の研究室から生まれた企業でも、2 社ぐらいは LLM を作っていますが、それだけでは駄目だな、という気がどうしてもしてしまいます。それは日本独自の大規模言語モデルを作るということが重要なミッションだと思うのですが、今、宍戸先生のおっしゃった、世界に対して何か言うにはとても及ばないです。そこからさらにもう一歩進んだ何か新しい、「日本がこれを作った」といえるものが出てこないといけないので。
中島：なかなか苦しい立ち位置ですね。
宍戸：これは東洋文化研究所のテーマかもしれませんけれども、日本は近代化以降、まさに課題先進国ですよね。かつてでいえば欧米とアジアあるいは植民地の間にあって、リベラル・デモクラシーの国々の中でいえばヨーロッ
パとアメリカの間にある。また、他のアジアの中でいうと、中国も韓国も非
常に AI の研究開発も進んでいる。
日本もそれなりに研究者もいるけれども、国内では満足しきれないし、それだけでは評価できない。今までの日本の経済的、社会的な地位という観点からも、それだけでは足りないということでやらなくてはいけない。しかし、世界に打って出るレベルの製品はなかなか作れない。いろいろな意味で、日本社会がこれまで近代化以降抱えてきた、さまざまな局面の繰り返しのようなところがあると思うのですよ。
中島：中国の現状はどうなのですか。法的な議論は何かあるのでしょうか。
中国は、独自で AI をすすめていますよね。
宍戸：かなり使っていますよね。ただ、よく分からないことが多いです。先ほどの、基礎になるデータについていえば、国家情報法のような非常にきっちりとした厳しいルールがあり、また、インターネットについては、グレー■ AI の法規制と民主主義

15

ト・ファイアウオール・オブ・チャイナとよくいわれるように、統制がしっ
かりと利いている国ですよね。
なので、基本的に AI の開発が進んでいるだろうけれども、そこには常に党や中国人民という観点からのコントロールが及ぶようにした上で、やはり非常に多くの課題を抱えている国でもありますので、それで開発を促進する。
いずれにしても、使えるデータが非常に多くて、研究機関にお金もたくさん投下している。東京大学が大学ファンドに落ちた程度は笑い話になるレベルの額が、普通にポンと投入されて研究開発が行われるので、それは全然違うのではないですかね。
鳥海：違いますよね。世の中お金なのだな、と思ってしまいます。AI 研究は、本当に、お金があればできることがたくさんあるけれど、できないという。今だと、お金があっても半導体がなくて買えないという問題も若干ありますが。
中島：例えば、GDPR というのはしばしば 21 世紀の人権宣言だという言い方もされます。法的にも新しい局面を開いたわけです。日本はその後追いもできなかったわけです。どこかで何か、法的な概念というか、枠組みのブ
レークスルーのような議論があってもいいのではないかと私は思っています。
AI に対して、単に規制するのではなく、促進するためにも条件を整えないといけないのではないでしょうか。GDPR をそのまま持ってくる必要はもちろんありませんが、日本流の議論があってしかるべきです。おっしゃったよ
うに中国は独自のやり方ですが、やはりある仕方で法的な何か枠組みを作っているわけではないですか。それをリベラル・デモクラシーの国々が追いかけられるかというと、それはちょっと難しい可能性はありますが、日本こそ、
そういうことをやってもいいのではないかと私は思うのです。そういった議論はなされているのですか。
宍戸：これは本当に、法学部の人間が反省しなくてはならないと思いますが、はっきり言うと十分ではないと思います。先ほどおっしゃった EU の GDPR
は、要するに個人データの流通に関するブレーキのルールなのですが、同時に EU は、完全な消費者の国ではありません。例えばドイツは、当然研究開
16発も進めたいわけです。それは、ブレーキの部分と同時にアクセルになる部
分としてデータスペースをつくって、そこにしっかりした手続きで信頼できる人を入れて、データに大量にアクセスして研究ができる空間をつくることも、同時に考えているわけです。
日本の場合には、まず AI が学習すべき、集めるべきデータの部分についてもブレーキは入れる。ただ、ブレーキが強過ぎるとなんとなく困るといわれるので、弱いブレーキを入れる。しかし弱いブレーキなので、いざ強く踏もうとすれば踏めるので、非常に不安定なブレーキになります。他方でアクセルのほうは法的な制度として十分整備しきれていなわけです。そこにまず、一つ問題があります。
AI 本体については、先ほども先生がおっしゃったとおりで、根本的にどちらに寄せるかです。最後は、鳥海先生がどうお考えになるかですので、この場で先生からもご意見伺えればと思っています。一つは、法的に考えた時、
AI とは道具ですと位置付ける。つまり、AI を使ったことによる責任は、最終的に人間に発生する。その時の人間とは、開発した人であるかもしれないし、使った企業かもしれない、利用者であり、従業員であるかもしれない。
そこをはっきりさせる。
もともと、法の世界でいえば、非常に古典的ですが、「代理」という制度
で人を人のエージェントとして使っています。AI においても、人が AI や
アルゴリズムをエージェントとして使う。代理法の延長で AI をしっかり位
置付けてみる、といったように、これまでのわれわれの社会の延長線上でブレークスルーをつくるための議論が幾つかはあるはずです。
ただ、この議論をするためには、やはり哲学的な議論が本来必要なのです。
AI は人ではないので、最後は人が責任を負いますし、メリットも人が享受します。しかし、人に責任が帰属する、人がメリットを享受するということは、どういうことなのでしょうか。
中島：そこですよね。
宍戸：そこを議論しなくてはならないのですが、そこはわれわれ法学だけでは決して議論できないわけです。国民の規範意識であったり、まさに中島先生の哲学であったり、議論が空回りしては駄目なので科学技術であったり、■ AI の法規制と民主主義

17そういう総合的な議論が必要なのです。その総合的な議論をする場がないので、われわれがうまく参画したり、逆に自分たちが考え直したりする機会がない。それが日本の現状ではないかと思います。
中島：まさに、この「新しい啓蒙」では、そういった議論をやりたいと思っているわけです。これだけ科学技術が日進月歩で多様に進展している中で、何が本当に問われているのかというと、人間だと思うのです。人間という概念自体は 17、18 世紀の啓蒙の時代の人間観がベースになっていて、それこ
そ、いろいろなものを所有できる主体、その中には自分の身体とかまで含まれるのかもしれませんが、非常に強力な主体概念というものがあるわけです。
だから、責任が帰属しますよね。
でも、そこからもう何百年もたっているわけですよ。20 世紀のような非
常に悲惨な世界戦争を 2 回も経験をした後に、それ以前の 17 世紀、18 世紀、
19 世紀的な人間概念で済みますかということはもう繰り返し問い直されてきたわけです。やはり「新しい人間」に定義し直すということが絶対に必要だということはほぼ共通の認識で、人間を再定義した上で、ではそこに帰属する責任とは一体何なのか。あるいは、責任が帰属するということ自体は、一体何なのかといった議論が起こってしかるべきですよね。
例えば、総合文化研究科に國分功一郎先生という哲学者がいて、彼は「中動態」という、サンスクリット語やギリシャ語といった古い言語にあるような概念、言葉をうまく使い、人間というものを記述し直そうと試みています。
この中で國分さんは「中動態」と「責任」の関係は何なのかという問いかけをしているわけです。当然、古い人間概念と「責任」とはちょっと違うものにならざるを得ない限定的なものだと私は理解しているのですが、そういう議論をしているわけです。
私は、そういった議論が、例えば法学の領域とつながらないとしょうがないという気がしています。そうしないと、近代的な主体だとか、人間概念のままでいけるかというと、もう無理だと思うからです。だから、相当大がかりなエピステモロジックな転回が必要になってくる気がしています。そうす
ると、21 世紀という、AI に直面した時代にふさわしい新たな法概念とか人間概念といったものを提案する責任は、特に大学にはあるだろうと思いますね。
18

あと、宍戸先生は特に憲法をご専門にされていますが、憲法概念に照らし合わせて読み直すことで、AI の議論につながり得るような、そういう論点はあるのでしょうか。憲法では、根本的ないろいろなことを規定しているわけですから。
宍戸：いくつも憲法上の論点があることが、私の逃げ足が遅いせいもあって、あちこち巻き込まれている原因でもあります。G7 広島サミットの首脳コミュニケでも、AI、量子を含む新しいテクノロジーのエコシステムは、基本的人権、民主主義、法の支配といった、とりわけ G7 諸国がコミットする
民主的諸価値に沿って更新し続けられるべきだということを一方で言うわけです。
それは当然、今の中国やロシアの問題に直面して、リベラル・デモクラシーの国々が大義を掲げて自分たちは違うのだと言わざるを得ないという、
それはリアルポリティクスでもあるけれども、しかし逆に言うと、よって立
つものがそれぐらいしかないわけです。
いってみれば、リベラル・デモクラシーの国々は、各国の憲法典が表明してきた、いろいろまずいこともあったけれども、差し当たり近代社会を運営してきた歴史の知恵に合わせなくてはならない。一方で、新しいテクノロ
ジー、あるいは新しい社会状況が生まれるに応じて、先ほどの民主的諸価値自体が更新されてきたわけです。社会国家もそうですし、先ほど先生がおっしゃった GDPR、データのプライバシーの議論が分厚くなってきたというのと同じですね。「AI の民主化」と「AI による民主化」ということがよくいわれますが、その両方があると思うのです。
憲法に則ってと言う時に、意外と重要なのは、人間の問題に直ちに答えが出せない際に、政府や企業が人間社会をどうやって運営してきたのかということです。そして、その政府や企業を含む大きな社会のガバナンスを憲法で規律したわけですけれども、行政や政治、司法に AI を入れることで、例えば行政サービスは本当に良くなるのか、民主主義の意思決定をより良いものにするために AI がどう使えるのか。
逆に言うと、AI を使った民主主義の姿から逆算して、われわれの今の民主主義、議会制民主主義は何かが欠けていたのではないか、もっとバージョンアップできるのではないかという話が論点としてたくさん出てきていて、■ AI の法規制と民主主義

19それは、われわれにとっては比較的ハンドルしやすい論点ではあります。
中島：確かに、憲法とは制度的なものを基礎付けるという面もありますね。
よくいわれるのは、アメリカの場合は憲法で保障している制度がそれなりに機能するので、トランプ氏のような人が出てきても何とかやっていけるということです。それは面白い議論だなと思っています。日本国憲法も別に孤立した憲法典ではなく、歴史的、同時代的にも幾つかある憲法典の中での憲法なわけですよね。それが表現しているさまざまな制度的なものをもう一回再解釈してみる。これは非常に重要だと思います。
今おっしゃった中で、私が言われてはっと思ったのは、例えば地方公務員
は近年人材不足で非常に苦しい状況です。国家公務員もどんどん辞めてしまうぐらいですから。財政の問題もあって、業務を AI で置き換えたらいいのでは、という議論が結構真面目になされているわけです。地方のほうが苦境にあるので、もうそこまで先に進んでいる、ということを聞いて、目を開かされる思いがしました。そう考えると、案外すでに喫緊の課題になってしまっている気がしますね。もう現場では始まっているので、それに合わせて考えを更新しないと追い付かない、もう悠長に考えていられない状況です。
宍戸：地方行政の資源が足りなくなってくるという地方の実態はそのとおりだと思います。全体としても人口が減少し、また公務員のなり手も少なくなってきています。世の中は非常に複雑になってきて、行政課題も増えてくる中で、地方公共団体が AI を使いたい、あるいは、もう少し広くデータを使って行政を効率化していきたい、そして、公共サービスの質を維持したい、
より向上させていきたいというニーズはかなりあります。
中島：ありますよね。
宍戸：他方で、今の段階から先を見据えて取り組める自治体は、もう既に限られています。
中島：体力がないと。

20

宍戸：体力がない。そこで、何も分からないまま、鳥海先生から開発してもらった AI を使います、みたいなことでみんな使い方を間違えてしまう。
中島：そうそう、あぶないのです。
宍戸：公務員の方、あるいは地方公共団体、組織にリテラシーが足りない、
われわれユーザーの方にも足りないと、下手をすると、この人に給付しまし
た、この人に給付しませんでした、なぜかというと AI 様がそう言ったからです、となってしまう。神様のお告げのような感じで AI を使い始めると、非常に危険です。
ですから、鳥海先生や鳥海先生の関係者の皆さんには AI の開発を一生懸
命頑張っていただきたいのですけれども、われわれの側も、とにかく AI を使うところから始めるのではなく、現場のニーズを明確化して AI に解決を求める、ということが協調の本来あるべき姿ではないかなと思います。地方
行政でこういうことができたら楽なのに、給付の対象者をよりよく理解して、この人が 3 カ月後、3 年後には、何が起きる、だからそこに向かってこの給付を出す、こう伴走支援をする、でも自分たちには今、人手や情報が足りないので、できないことは AI に解決してもらえませんか、という形が必要だと思います。
中島：そこは本当に日本から発信できそうな、まさに一番困っている現場ですよね。
宍戸：特に、もう既に高齢化、人口減少している離島などで、これだけ道路や水道といったインフラが一度普及しきって、みんながユニバーサルに便利だと思った後で閉じていかなくてはならなくなるという経験は、たぶん日本が最前列にいて、この後ヨーロッパや韓国でも経験することだと思います。
中島：中国もすぐ後追いしますよね。
宍戸：しかも中国は大規模に後追いしますね。

■ AI の法規制と民主主義

21

中島：ですから、そういう日本の経験を普遍化していくことは、世界にも喜ばれることですよね。社会科学研究所の宇野先生は、民主主義というのは「参加と責任のシステム」で、今の日本の仕組みではなかなかそれが実感できないようになっているので、手直しが必要なのではないかとおっしゃいま
す。当然日本の経験を普遍化していく場合には、制度的な手直しも含めてやらざるを得ないと思っています。
明治からいろんな大合併を繰り返してきて、小さな基礎自治体が少なくなっています。自治体が巨大化すると、「参加と責任」といわれてもぴんと来ないわけです。例えば、東京でそれを実感できるかというと、どうなのかなと思います。地方でも平成の大合併がありましたから、もともと関係ない
隣町と一緒になって、なかなか実感できないと思います。
私は、基礎自治体のサイズを小さくしてやり直したほうがいいと最近思うようになってきています。今おっしゃったような行政権も、地方であれ、国であれ、やはり拡大しているわけで、行政のやる業務が、今日、加速度的に増えている。そのことを私たちはまだあまり課題としていないのですが、現場のニーズはそこにあるわけです。ですから、行政権の再定義も併せてやっておかないと、追い付いていかないとういう感触はあります。
宍戸：全くおっしゃるとおりだと思います。
中島：この 2 つぐらいを、地方を例にしてやり直すことができれば、かなり世界に聞いてもらえるようなメッセージに仕上がるのではないかと思います
し、そこに AI の議論がまた重なってくるわけです。そういうところに今立っているような印象はあります。
宍戸：1 点だけ地方自治絡みのことを。私、地方制度調査会のメンバーでもございまして、調査会に行くと「あいつはデジタルの人間だろう」といった感じにみられています。法律屋の中では、デジタルテクノロジー、AI をどんどん使えという最右翼だと思われているので、地方自治を AI で壊すのか、という感じで怒られます。逆に官邸のデジタル行財政改革会議なんかに行くと、あいつは地方自治とかやっている人間だから、デジタルテクノロジーに対して「いや、地方はそんなのについていけませんよ」と言ってブレーキを22

かけるだろう、と両側からいつも怒られている感じなのです。
中島：なかなかつらい立場ですね。
宍戸：さきほどの、アメリカとヨーロッパと日本のような感じで、日本の立
ち位置を何となく自分で体現している意識があるのです。
中島：引き裂かれる感じですね。
宍戸：そうなのです。最後に、先生がおっしゃったことに関わるのですが、AI を使ったとしても、最後は人間に関わる。AI で、給付をするか否かといった予備的な判断をしたとしても、あるいは、AI が判断した結果をデジ
タルで給付をするにしても、マイナンバーカードの問題にも関わりますけれ
ども、このデジタル口座の持ち主とされる人が実在しているのか、本当にわ
れわれが思っているこの人なのか、最後のどこかで、われわれの目の前のフィジカル空間で確認をしたいし、できなければいけないわけです。
中島：そうですよね。
宍戸：そういう意味で、最後のデジタル空間とフィジカル空間の接点になる部分で、やはり人と人が何らかの形で、それは電話でもいいかもしれません
が、会ってみる必要があるのです。それは地域のコミュニティーであったり、あるいは地方公共団体だったりするわけです。
例えば、福祉の協議会でも、あるいは PTA でもいいのですが、そういった人と人のコネクティビティーをフィジカルに支える部分が切れてしまうと、
本当に、何が何だか分からない世界になってしまいます。AI やデジタルテ
クノロジーが進めば進むほど、それとうまく調整、連動する人間と人間のつながりも、きっちり確保しなければいけないのだと私は思います。
中島：それは本当に、今の日本だけでなく、もう世界的な課題です。コミュ
ニティーといわれているものがどんどん機能しなくなっているわけです。イ
ギリスが先行しましたけど、孤独担当大臣というのをつくるわけです。そし■ AI の法規制と民主主義

23

て、日本もつくりましたけれど、それは何を理解してつくったかということですね。これは経済史の小野塚知二先生がよくおっしゃるのですが、貧困とは何かというと、別にお金がないということではなく、人と人とのつながり、
社会関係資本がとにかく乏しいことだと。社会関係資本の充実は、やはりコミュニティーというものがないと実はできないのです。ですから、コミュニ
ティーをどういう仕方で復活させていくのか。人と人との接触を可能にするためのプラットフォームをどう維持するのか。孤独担当省の設置を通じて、
こうしたことが本当に問われているのだということが分かります。
宍戸：鳥海先生が研究の対象とする X（旧 Twitter）のようなソーシャルメ
ディアは、本来は人と人のつながりをデジタルテクノロジーで強化したり、新しい人とのつながりをつくったりすることが本義だったはずですが、それが今、全然違う形になってしまっているわけです。そういう意味で、今までのプラットフォーマーが提供したソーシャルメディアの失敗があるので、それとは違う、本来われわれが期待するソーシャルメディアをうまくつくる必要があります。
中島：そこですよね。単なるエコーチェンバーにならないような。
鳥海：いや、そこはちょっと反論したいです。
宍戸：どうぞ。
鳥海：悪い面を見ると確かにそういう側面はあるかなと思いますけれども、
実際、ソーシャルメディアがソーシャルキャピタルを保持しておく上で有効かどうかといえば、とても有効なのですよね。
宍戸：そうなのです。いい面はいっぱいあるのです。だから、いい面をうまく残しながら、今、悪いとされている面をカットしていくには、どうしたらいいのでしょう。
鳥海：例えば地域との接点を失うといった話が悪い側面としてあったとして
24

も、それはソーシャルメディアのせいではなく、社会構造の変化の影響がすごく大きいと思うのです。
要は、今の東京でご近所さん付き合いなどはあまり考えづらいものになってしまいますし、今やご近所さんと仲良くすることを「良し」とする価値観にそもそもなってなかったりする。しかも、自分が好きな人と一緒にいたほうが楽であるということは、エコーチェンバーなので SNS の悪い側面かもしれないですが、ただ、それは短期的にはとても幸せなことなのです。同じ
趣味を持った人が近くにはいないけれど、日本中探したらいっぱいいるのですから。
「幸せ」というある種のソーシャルキャピタルをつくっている意味
でも、SNS にはむしろ孤立から守るという役割もあるのです。
そう考えると、古き良きソーシャルキャピタルを復活させることを目指すのではなく、新しい時代のソーシャルキャピタルをつくることが必要なのだと思います。それがどういう形がいいのかはまだ想像できないのですが。お手本として何十年か前のやり方があってもいいですが、そこにもう一度回帰
しようというのはちょっと無理がある気はしますね。
中島：先日、『Greed is Dead

強欲資本主義は死んだ』という翻訳本の書評を書いたのですが、その中で 2 人の経済学者が主張しているのも、今、鳥海先生がおっしゃったようなことでした。やはり新しい仕方でコミュニティー
を再興することにかかっていると繰り返し述べて、それをサポートするために資本主義を上手に使わないといけないという議論をしています。
あと、思い出したのは、カズオ・イシグロさんが「縦の旅」という言葉を使っていますね。イシグロさんはいろいろ海外へ行きますが、それは「横の旅」なんです。自分と似たような教養を持っていて、似たような生活をしている人に招待されて、そこで講演しているだけだとしょうがない。そうではなくて、自分が住んでいる場所で、今後は縦の、ある種イギリスの階級社会的なものが背景にあるのかもしれませんが、「縦の旅」をしないことには、もうにっちもさっちもいかなくなっているということを主張していたわけです。
日本もいよいよそういう状況に入ってきたなと思っていて、特に地方の現場では、それはもう深刻になっていると思うのです。「縦の旅」がうまくやれるような新しい仕組みとか言葉というものを発明していくことが必要なの■ AI の法規制と民主主義

25

だと思います。

ⰪAI 社会における人間とコミュニティーの在り方
ではここで、キム・ハン先生に韓国のことも少し教えていただきたいと思います。
キム：最初に韓国の話をします。今、EU の情報規制の話がありましたし、
ユネスコも Guidance for generative AI in education and research を出しました。韓国では、この 2 つの法律、提言を参照しながら、AI 関連の法案が国会に提議中なのです。今はまだ立法には至ってないですが。
その中で一番問題になっているのは、先ほどおっしゃった開発と消費をどううまく擦り合わせるかということです。この法案にはいろいろな論点がありますが、その一番の論点は高危険 AI です。高危険とは医療や司法、それから例えば自動走行する車といった、ある種の物質的なもののことです。人間の生命や社会的地位に致命的な影響を及ぼすことができる分野では、AIは、厳しい規制の対象にならないといけない。その他の分野においては、先開発、後規制。開発をどんどんやりなさい、その後何か問題が起これば規制します、というような法の枠組みになっているのです。
そうなると、人間の生命と社会的地位に致命的な影響を与えるどの範囲までを高危険としてわれわれは考えるのか、という高危険 AI というカテゴ
リー自体に焦点が当てられるようになってきます。
例えば最近、韓国のネットを見ていると、チャットボットが本当によく出てきます。邪魔でしょうがないのですが、銀行のことや保険のことでも、まずはチャットボットに聞いてください、となっています。それは、ぱっと見ると高危険ではないのですが、現実はそれがハッキングされて、実際にお金を取られた事件がありました。ですから、高危険ではないという領域が、非常にデスパレートな状況をつくり出せるのです。これでは消費側はどうしたらいいのか、どこまで規制したらいいのか。
でも逆に、開発側から言うと、高危険に指定されると資料データの収集な26

どいろいろなところに規制がかかってしまい、開発をやめろということなのか、という話になります。例えば医療であれば、中国だと本当にどこかの地
方でもやっていますが、ブレスレットを着けてリアルタイムで体温とかを計測しています。
中島：生体情報ですね。
キム：生体情報が全部収集できるわけですよね。そこで、今、心拍数が高いですよ、というメッセージが GPS を使って実際に来ます。それは、人間がモニターして送っているわけではく AI なのですが、韓国の医療の産業は、
そういうことをやりたいわけです。しかし、高危険と指定されてしまうと、個人情報になっていろいろな規制がかかってしまいます。これで、われわれにどうしろというのだ、というスタートアップの企業もたくさんあって、今この法案がどのようになるのか、非常に議論が盛り上がっています。
現在の韓国の状況は、このように立法の問題において法制をどうするのかという議論になっているのですが、なぜそれだけ議論になっているかというと、韓国の特徴として技術が浸透しやすいということがあります。何の疑問もなしにす─っと入っていきます。例えば、私は今年、日本にサバティカルで来ているのですが、何にびっくりしたかというと、区役所にわざわざ足を運んで、転入届と転出届を出さなければならないことでした。ええ？
れ？

何こという感じでした。転入届はまあ必要だろうと思いますが、転出届を出すことは全然理解できませんでした。例えば韓国では、A 区から B 区に転居する場合、B 区に行って転入届を出せば自動に A 区の転出の処理ができる。
中島：それはそうですね。
キム：日本の場合は、新宿区に転出届を出した後、杉並区に行って転入届を出さないといけない。なぜそうなのかと誰かに聞いたら、データが統合されていないらしいのです。
鳥海：そうですね。
■ AI 社会における人間とコミュニティーの在り方27キム：韓国の場合、転入届もネットでできるので、わざわざ行く必要がありません。でも、これは日本が遅れている、韓国が進んでいるという話ではな
く、行政を含めた人間が、権力と、それから他者と、どうやって生きているのかという態度の違いだと思います。それは先ほど言われた人間に対する理
解、コミュニティーに対する理解、そういうところが全然違うからです。この態度の違いはどこから出てくるのかが、テクノロジーを受け入れる態度からよく分かるのです。
韓国の場合は、新しいテクノロジーが出たら、便利だからバッと広がっていきます。以前やっていた手続きは、もう全然使えなくなります。ですから、
例えば今スマートフォンが普及していますよね。日本だとガラケーを使っていてもまだ生活できると思うのですが、たぶん韓国では無理です。私が 20
年ぐらい前に日本に留学に来たとき、手書きで授業の申請をするという手続き方法がまだ残っていました。
中島：東京大学ということですね。
キム：東京大学ですね。
鳥海：今でも残っていますね。
中島：今でも手書きですよ。
鳥海：何か最後に、手書きが求められますね。
キム：そうですよね。
中島：指導教員が何か手書きのものをね。
キム：びっくりしました。私は 1991 年に韓国の大学に入ったのですが、93
年にはもう紙はなくなっていましたよ。
鳥海：93 年に。
28

キム：日本にももちろん、93 年には紙をなくすことができるテクノロジーがあったのですが、日本の場合は残しておいて 2 本立てでいきます。でも、韓国の場合は新しいテクノロジーが出ると、その前のテクノロジーによる手
続きは使えなくなるのです。ですから、実はお年寄りは本当に大変です。何かをやりたくて区役所に行くのですが、区役所の人が何をするかというと、ネットをどう操作すればいいのかということを教えています。こういう状況なので、日本に来たときちょっと違った世界にいるような感じがしました。
でも、これは私の実感覚なのですが、たぶん日本では、AI は地方公務員の業務を代替することはできないと思います。
鳥海：それはどうして。
キム：それが受け入れられないと思うからです。
中島：受け入れられない。
キム：たぶん。町の人が区役所に行くと、ちゃんと人がいて、いろんなものを要求しますよね。本人なのかとか、印鑑だとか、何かいろんなことを要求
して確認を取っていますから、AI がチャットボットで何かやるとなると心細い。そういうマトリクスのある社会で、AI がそれを代替するというのはちょっと想像できません。ですから、私は日本が発信すべきモデルというのは、やはり「なぜ AI は機能しないのか」、これだと思うのですよ。
鳥海：なるほど。
キム：逆にね。
中島：なるほど。
キム：何か発信できる可能性は、ここにあると思います。日本の近代化は本当に不思議で、カール・レーヴィットも「二階建ての家」と表現していますが、本当はテクノロジーも全部進んでいるけれども、それをかたくなに使い■ AI 社会における人間とコミュニティーの在り方

29

こなしたくないという意志が至る所で見えます。私は、これこそが日本が発信すべきことなのではないかなと思います。そこを考えると、さきほどおっしゃっていた人間とコミュニティーをどう考えるのか、ということが、ようやく絵として見えてくるのではないかと思います。
ですから、AI が出てきたので人間とコミュニティーの在り方を新しく発想するということはもちろん大前提なのですけれども、実は、AI の登場によって、日本であれ、韓国であれ、われわれが意識してこなかった、既存の社会のある種のマトリクスというものが前面に浮かび上がってきた。それをどうやって見つめ直すのかということが、新しい構想になるのだと思います。
ヴァルター・ベンヤミンという文芸批評家で哲学者がいますが、映画や写真といった複製技術が出てきた時、当時の芸術家たちの「これは芸術ではない」という意見に対し、彼は、既存の芸術に対する定義があって、それを基にしてこれは芸術ではないという判断を下している、と批判したのです。何を言っているのだ、写真と映画によって芸術そのものの概念が変わってしまったのだから、新しく歴史を書かないといけない、と。
AI という新しい技術にたいしても、ベンヤミンのような理想を持てるのかどうかということから考えを始めて、AI という技術が人間とコミュニティーのそれまでの定義、概念に対して書き換えを迫っているのか、書き換えを迫っているのであれば、その書き換えとは果たしてどのようなものであるべきなのか。その場合、先ほども申し上げましたが、やはり全く新しいことはできないと思うのですよ。今まであったけれども意識されなかった、実際に遂行的にやってきたけれども全然意識に浮かばなかったことを、どうやって探していくのかということが重要なのだと思います。私は、不便でちょっと驚きましたけど、日本の区役所のパフォーマンスは本当に素晴らしい面ももっていると思います。
中島：やはり、地方の市役所なんかもう人手が足りないですから。
宍戸：維持できなくなる結果が AI の利用ですね。
キム：でも、私の感覚では無理だと思います。

30

宍戸：むしろ、地方公務員を増やして対応するかどうかもありますね。
鳥海：いやいや。地方公務員に実際対面で話すということが、本当は何を求めているのかというところだと思うのですよね。
キム：そうですよね。
鳥海：人間がいることを求めているのか、わからなければ事細かに教えてくれる安心感を求めているのか。チャットだと不安なのはわかりますが、例えば、画面上に人間の顔がちゃんと出てきて、尋ねると、その人が全部丁寧に教えてくれるという状況になれば、別にそれでいいのではないのかなという気もするのですよね。人に何を求めているのかという、その要素だけちゃんと取り出せれば十分 AI で代替できるのではないかと思います。
宍戸：それは、お医者さんに行くのはなぜなのかという話も同じですよね。
鳥海：そうですね。
キム：そうですよね。大枠の議論の中でフィデュシアリー（受託者責任）という概念がありますね。例えば、法曹の領域では AI が弁護士を、医療の領域では AI が医師を代替する。そうすると、フィデュシアリーというのが失われていくような感じがします。弁護士であれ、医師であれ、自分の社会的な、ある種公的な問題、もしくは身体の問題をこの人の専門性に委ねて信頼を得る。それが敗訴するにせよ、何か病気を治せなかったにせよ、その専門性に対する真摯さというものをこの人たちが保証してくれるという、ある種の、機能的な問題を超えたパーソナルな感覚というのがあると思います。
さきほどおっしゃった人間がなぜ窓口に必要なのか、なぜそれを求めるのかというと、やはりフィデュシアリーの側面だと私は思います。私の経験した範囲内では、韓国社会はそこをあまりにもないがしろにし過ぎているという。日本はその価値がすごく高い社会だという感覚を今回改めて日本で暮らしてみて感じます。

■ AI 社会における人間とコミュニティーの在り方31

宍戸：フィデュシアリーは、データの関係でも今、非常に重要な論点になっています。本来ならば、医者とか弁護士というある種の専門家で、コンフィ
デンシャルな、いわば、信託してくれる人との関係を築く人、あるいは、金融機関が履行すべき義務です。それが、日本の場合では、公務員や、携帯電
話のショップの従業員の方にまで、あちこちに勝手にフィデュシアリーがあります。
キム：わかります。
宍戸：あるいは、JR や空港の従業員にもそうです。日本人って温厚だ、といわれますけれども、逆に鉄道が止まったりするとすごく反発しますよね。
窓口が止まってもすぐにぶち切れる。それは、逆にフィデュシアリーを過剰に乱用しているということですね。
キム：そうですね。
鳥海：なるほど。
中島：宇沢弘文先生が『社会的共通資本』で、「社会的共通資本」という新しい概念をお出しになった時に、フィデュシアリーの問題を結構深く論じられたわけです。市場に乗るべきではない、乗らないような領域というのが人間の社会にはある。教育とか、医療とかが、典型的なものです。では、その領域は何によって担保されるのかというと、専門家集団に対するフィデュシ
アリーだとおっしゃるわけです。「社会的共通資本」の一つの重要な柱なのですよね。その問題を私たちは相変わらず考えなくてはいけないと思うのですが、お 2 人がご指摘のように、やはり日本社会の中にはある種の過剰さというものがあって、フィデュシアリーに対しても乱用してしまう。そうすると、例えば医療などは特に典型的ですが、どんどん巨大化してしまって、それこそ国家財政も危ないぐらい大きくなるわけですよね。もうちょっとうま
くバランスが取れないかと皆さん考えますが、なかなかうまくいかない。ある意味、戦後日本社会の一つの柱なのだという思いが強いのです。でも、実際にはお金の面でも人の面でもなかなか回らないという現実もありますよね。
32

そこを AI が代替していくということを考えざるを得なくなってきているのですが、AI にフィデュシアリーを持てるかというと、やはり持てないわけです。
鳥海：持てないですかね、やはり。
キム：医療とか、法曹とか、さきほどの韓国の感覚で言うと、高危険 AI の領域では持てないと思います。やはり医療だと、自分の体を医者に見せるという、本当に例外的な状況ではないですか。体を見せる、任せるというのはやはり医者に対する信頼がないといけない。法曹では弁護士も同じですよね。
ですからそれは、非常に高い信頼性に基づいた信託行為ですから、結局は個人情報の問題ですよね。非常に内密な情報を AI に託すといった場合に、やはり人格性がないと、この問題は解決されないと思います。
宍戸：そこは一つの論点だと思います。人間に見られるよりは、AI に見られた方が良いという人もいる。
キム：逆に。
宍戸：特に、スタンドアローンだったら、AI に見られたほうがいいのかもしれません。あるいは、お医者さんにはそう簡単に行きたくない、診られた
くないけれども、AI にだったら気軽に相談できる。「ちょっと今、頭痛いのですが」とか、「ちょっとここ、切っちゃったのだけど」とぱっとカメラで見せて、「これ塗ったらいいよ」と教えてくれるというのはあるような気がするのですが。
鳥海：今までずっと AI という話で来ているのですが、実際、これは何％がAI の話で、何％がただの IT 技術の話なのか。さきほどの転出、転入の話も、それは AI ではなく IT の話だったと思います。
キム：テクニカルな IT 技術の話です。

■ AI 社会における人間とコミュニティーの在り方33鳥海：例えば、今、入国とか出国のチェックは全部機械がやるわけです。パ
スポートを置いて、顔写真撮って、顔写真照合する。顔写真照合するのはAI がやっているわけですが、あれも人間にやってもらいたいと思う人は、誰もいないわけです。素早く AI がやってくれたほうがいい。それは慣れているからとか、いろいろ理由はあると思いますが、そこで犯罪者と間違えられて連れていかれたらどうしよう、という心配はしないわけですよね。結局
そういうところのような気がします。
要は、信頼ですよね。AI だからどうのこうのではなく、信頼できるからやる、できないからやらない、結局そこに全部集約している気がするのですよ。
宍戸：今、鳥海先生がおっしゃったことは、非常に重大な論点を明らかにしてくれていると思います。AI について、みんなトラストワージーであることを求めています。最近トラストということをよく使いますが、トラストと、フィデュシアリーな関係は同じなのか、違うのか。そこは一つ論点のような気がしますね。
キム：ですよね。
鳥海：そうですね。
宍戸：確かに、システムはトラストでいいような気がします。ただ、最後の最後、どうしても人間でないと困るというところで、何かの領域があるかもしれない。次にもう一つは、人間ではないと困るという領域と中島先生がおっしゃるような、専門家、あるいは非常に倫理性が縛られている人たちの集団が、人間的なものでなければいけない部分に本当に対応するのか。その2 つあるような気がするのです。
中島：さきほど金杭さんがおっしゃった中でパーソナルという言葉が出てきましたよね。パーソナルとはすごく難しい概念なのですよ。昔、東大の哲学の第 1 世代なのですけど、井上哲次郎という人がいて、パーソナリティーというのを「人格」と訳しました。その訳がほんとうに適切かどうか怪しいわ
34

けです。神のペルソナの問題を背景に持って「人格」と訳すのですが、さすがに今、神をモディファイしてパーソナルなものを考えるというのはあまりないわけです。
私は、実はパブリックとかプライベートといった次元と違ったところで、
パーソナルな次元というものを考えたほうがいいのではないかということに何となく感づいてきました。ただ、それをどう適切に論じたらいいのかというアイデアがないわけです。しかし、たぶん AI の議論を深めていけばいく
ほど、人格とは違う意味でのパーソナルなものというのが問われていくのではないかと思います。AI を持つ、持たないではなく、パーソナルな領域にAI をどう入れるのか。あるいは、入れないのか。これが問われている気がするのです。
入れ方によって、パーソナルかどうかというのは変わってきてしまうと私は思っています。パーソナリティーは何かを所有することではないと思っています。関係性概念ですから、その関係性がある程度うまく機能するということが大事なわけです。AI に関しても、AI 自体がパーソナリティーを持っているか、持っていないかという議論は、いくらやってもしょうがない、意味がないと思っています。
そうではなく、AI と人間の関係性、これをどう設定するかに全てが懸かっているという気がするのですね。それによって AI の姿は全く変わって見えると思うのです。そのあたりがどういうふうに概念化されていくのか。
これが案外問われているのではないかと思います。
宍戸：法の世界で言うと、先生方もよくご承知のとおり、個人、法人それぞれに人格を持っている。
中島：人格ですよね。
宍戸：その人格と人格の間に成り立つ法的な関係として権利義務があります。
この権利義務が法の一番の基礎概念です。基礎概念のそれぞれの終端には必ず人格を持った個人、あるいは財団、あるいは法人がいる。この人格という言葉は、法の世界でも非常に多義的で、一方では先生がおっしゃったように、
まさに関係性を体現しているのです。人格というのは、逆に言いますと関係■ AI 社会における人間とコミュニティーの在り方

35

性の終端である資格なわけです。ですから当然に、人格という概念の中には関係性が内包されているわけです。
中島：ですよね。
宍戸：このような意味での人格の話の反面、われわれは今、プライバシーの問題も LGBT の問題も名誉も含めて「人格権」という言葉を使います。最後、生身の人間が今、体を傷つけられたら血が流れて痛くて動けなくなるとか、
本当の生命体としての尊厳を傷つけられた場合にどうしてくれるのだという意味でも、人格、パーソナリティーという言葉を使います。
もう中島先生の十八番の部分に入るわけですけれども、それこそ啓蒙を前提にした 19 世紀の西洋で確立した近代的な法の世界は、最初の地位の関係
性で成り立つ世界と、切ったら痛いよねという尊厳的な、あるいは自然の生物としての生身の人間とが一致することを、人格という言葉 1 個で統合して、後はそれぞれ合理的な人間として成り立つことを前提としたわけです。それが、先生がおっしゃったように 20 世紀の 2 度の世界戦争や混乱や、今で言うとフェイクニュースを経験することで、それが分離しきっているわけです。
中島：そういうことなのですよね。
宍戸：そこに AI が入った時に、AI 込みで統合する方向にもう一回向かうのか、さらに分化する方向に、あるいは見直しに向かうのか、そういう問題なのだろうと思います。
中島：おっしゃるとおりだと思います。
キム：さきほど、中島先生が駒場の國分先生の「中動態」のお話をされまし
たが、私は授業では「中動態」について、まさに今おっしゃった関係性と個別性が「ペルゾーン」という言葉の中に含まれていると説明しています。自由主義のパラダイムをキャッチボールタイプの人間関係で想像しますと、投げる人がいて、受ける人がいる。だから、投げた人が責任を持ったり、受け取った人が他の形で責任を持ったりする。何かを受け取る、投げるという個36

別性の人間理解で、言語的に言うと他動詞的なのですよね。これが、われわ
れ近代の自由主義的なモデルの人間関係です。キャッチボール的なのです。
しかし、「中動態」のモデルというのは綱引きだと思います。力関係といったいろいろな関係によって、こっちが動けばこっちが連動して動くしかない。例えば、責任の問題でいうとこっちが弱いから引かれるのか、こっちが強いから引くのかという。この問題で、責任の問題というのは全部の問題になる。関係性の綱の動きになる。これが「中動態」の発想だと私は思うのです。ですから「中動態」という言葉は、最近人類学ではやっているある種の Actor-network Theory（ANT）です。人とものを他動詞的な関係に捉えるのではなくて、今言った綱引き的な関係性において捉えるという。
この 2 つを対比した時に、さきほどおっしゃった AI というのをやはり道具として考える。便利さ、助ける、というふうに考えると、やはりもう一度キャッチボール型に戻るしかないと思うのですよね。
宍戸：そうなのです。
キム：AI を綱引き型としての人間の関係性を浮かびあがらせるようなもの
として、われわれがどうやって認識し、意味付けていくのかというのが問われるべきだと思います。そうならないと、AI は、個別的な個人をモデルとしたこの社会の構造をどんどん変えてしまいます。それは一方では格差を広げていき、情報リテラシーとか、さきほどおっしゃっていた情報的健康をどんどん悪化させるほうに行く可能性が非常に高いです。しかし、実際にある
けれどもあまり意識されていない綱引き的な人間関係、関係性を浮かびあがらせるように意味付けして、解釈していく。そして、どんどん使用していくと、やはり何か違った形が出るのではないかと思うのですね。
私は、その可能性が、例えばネットの中古品売買にあると思っています。
あれは AI が働いていて、「ある人がこんなものを出していますよ」と教えてくれる。でも、中古品販売って、実は非常に前近代的な取引の仕方です。
なぜかというと、われわれ資本主義社会では使用価値はあまり関係なくて、交換価値だけが重要なわけです。しかし、中古品のメンションを見ると、これは私がいつ買って、どのような思い入れがあって、これ大事にしてくださ
い、といったことが書かれています。ですから、物と人の関係が、普通の市■ AI 社会における人間とコミュニティーの在り方37

場とはちょっと違う関係性が入ってくる。
それをつなぐ AI というのが、アルゴリズムで計算、モデルを作って、物と人の関係のある種の在り方を提供してくれるのかどうかは、分からないです。一昔前の質屋では、資本主義の金融が発達する以前の人間と物の関係というのがまだあったのですが、資本主義的な市場では埋もれてしまいます。
そういう関係性が中古品市場に出てくるように思えます。そこら辺が面白いなと思っていつも観察しています。
宍戸：ある意味、非常にコミュナールな世界ですね。
キム：そうなのです。コミュナールな世界。網野善彦的に言うとアジール的なそういう空間になっているのです。
宍戸：近代以前の法は、日本でも、ヨーロッパでもあったわけです。ここでは、人がいるところから始まるのではなく、例えば、山があって、山には領主がいます。しかし、村落もあって、その村落の人たちは必要な時には薪を取りに山に入れます。今の法の仕組みで言うと、持分が重層していて、どちらかというと組合に近い。法人対法人ではなく、組合の中にみんなが入っていて、それぞれの一人の完成された閉じた個人、人格というよりは、それぞれが各局面に応じて関係性と持分、あるいは地位を持っているという世界です。
近代の社会は結局、情報技術、情報処理技術、情報通信技術が進んでいな
いので、単純化するためにノードとノードの関係で局面局面を規律してきた
けれども、AI でいろいろな情報処理ができるようになったので、先生がおっしゃったコミュナールなもの、あるいは人間の金銭化できない思いのよ
うなものも含めて全部可視化して、1 対 1 の局面では全て分解しきらない複
雑なところまで、全部うまく社会として構成して、ガバナンスできるのかもしれないですね。
キム：普通の IT だと全部を数字に還元した後に何か情報処理というのになるけれども、AI は、韓国語の自然語基盤では、私が知る限りは自然語の処
理能力というのはあまり発達してないわけですね。日本語はどうなのでしょ38

うか。
鳥海：日本はだいぶ。
宍戸：進んできた？
キム：進んでいるのですか。
鳥海：まあまあ。
キム：言語基盤であれ、他の基盤であれ、それは普通のデジタル化された情報処理ではないと思います。今おっしゃった、脈絡に応じた言語の使用の方
法とかは、ディープラーニングによってテクノロジーが発達可能だという前提から言えば、やはりコミュナールな次元の綱引き的な関係、非常に重層的で多層的な関係というのが AI によって人間に送り返される。そういう可能性はやはり重要だと思いますよね。
中島：『強欲資本主義は死んだ』という本で経済学者たちが面白いことを書いています。われわれはいろんな取引をしていますが、今の時代は匿名の取引が増えているようにみんな思っているかもしれないが、実際は必ずしもそうではないと言う。案外コミュナールな、顔が見えてしまっている取引というのが半分ぐらいあるかもしれないっていうことを言うのですよね。匿名性がどんどん高まっているだけなのではないかと思っていたので、本当にびっくりしました。
ところが、経済活動にはいろんなフェーズがありますよね。マーケットでやるのとマーケットの外でやるのとに分かれます。そして、マーケットの外は、実は案外大きいわけですよ。あるいはマーケットの中でさえ、そういう顔の見えるコミュナールなものが相当根深く残っていて、それは排除すべきではないし、逆にその価値をもう一回高めていったほうがいいのではないか、ということを言っているわけですね。
AI がもしそういうことに力を貸すようになってくれれば、だいぶまた風景が変わってくると思います。さきほど宍戸先生がおっしゃったようなパー■ AI 社会における人間とコミュニティーの在り方39

ソナルなものも、関係性のほうなのか、あるいはノッドのほうなのか、それが分裂しそうになっているのだけれど、それを上手につなぎ合わせるようなほうに AI が機能したら、それはそれで面白いわけですよね。その可能性というのも実は秘めているわけですね。というか、人間がそう望めば AI はそ
うなるわけですよ。それを望むかどうかというとこではないでしょうかね。

Ⱚ質疑応答
では、いろいろ皆さん聞いていただきましたのでご質問があれば出していただければと思います。では、東洋文化研究所の田中有紀先生どうぞ。
田中：大変面白いお話、ありがとうございました。私は中国の音楽史・科学史を研究しております。前期に初年次ゼミナールという授業で音楽をテーマにしたのですが、このゼミナールには音楽が好きでこだわりを持っている学生が多く集まっていて、AI と音楽をテーマに小論文を書きたいという学生も結構おりました。その中で面白いなと思ったのは、今楽曲推薦システムは
いろいろありますが、自分が満足できるような曲をあまり推薦してくれないので、そのシステム自体を研究して、もっと自分の好みに合った曲を推薦してくれるシステムを提案したい、という小論文です。
中島：面白い。
田中：自分の好みと似通った曲ばかり推薦されるから趣味があまり広がらな
いとか、他の音楽も知りたいのにとか、そういう類の悩みではなく、むしろ、
もっと自分に合った曲を推薦してほしいと。
キム：もっともっと、みたいな。
田中：もっともっと、なのですよね。その学生の小論文によると、今の楽曲
推薦システムは、CD に付いている書誌情報や YouTube に書き込まれた感40

想といったテキストに基づき、その人の趣味を予想することもあるらしい、と。あるいは、その人が買っている曲と、おなじような曲を買っている人
が、他に買っている曲を薦める、というような方
田中有紀（東洋文化研究所・准教授）

法もあり、楽曲分析そのものに踏み込んで推薦しているというわけではな

いらしいのです。そこが音楽オタクな学生たちにとっては不満で、自分の趣味に合ったものを推薦してくれていない、というわけです。しかし一方で、楽曲をあまりに細かく分析し過ぎると、例えば、こういう音符を使う、こういう音の移り変わりをする、といった点から曲の分類をして、その人に合ったものを推薦するようになった場合、逆に、音楽にそこまでこだわりがない
人たちにとっては、思いもよらないような曲が推薦されてしまうので、むしろ単純な方がよいという考え方もあります。YouTube などで聞いて「すごく悲しい時に癒やされました」というような情報で、推薦してもらったほうがよいのかもしれません。私自身、学生の時にはよく、友達が突然「この曲良いから聴いて」みたいな感じで CD を持ってきて。
宍戸：推しですね。
田中：聴いてみると、全
然自分の趣味とは違う。
でも、その人がなぜそれを好きなのか想像力を働かせてみると、とても面白い。このようなことを、AI がやがてできるのではないかと思っています。 坂井修一（附属図書館・館長、情報理工学系研究科・教授）
■質疑応答

41

YouTube の感想に基づいて泣ける曲を提案する AI もあってもいいし、細かく楽曲分析する AI もいいですし。あるいは、AI 自身が何かしら好みを持っていて、全然好みの違う私に、友達みたいに CD を貸すというようなやり方もあるのではないかと思いました。
ですから今、AI がもたらす問題を考えるときに、欲望をどう刺激するかにもいろいろなレベルがあり、単純な欲望を刺激する側面についつい目が行きがちですが、たぶん、人の欲望も複雑で、その刺激の仕方にもきっとさま
ざまな方法があるのだろうと思って聞いておりました。
あともう一点、私は明代、清代の天文学を研究していて、西洋の天文学が入ってくる時に中国の人たちがどう受け入れるかというテーマに取り組んでいます。一年を二十四節気に分ける方法について、西洋天文学の新しい方法である、太陽の実際の動きを基にする方法をとるべきか、それとも一年の長さを単純に分割していく従来通りの方法をとるべきなのか、ということをめ
ぐり、議論しているような文献を読んでいます。
先行研究では、新しい技術が入ってきた時に、ある学者は保守的な態度を取っていたが、ある学者はすごく先進的、進歩的だったから西洋の学問を受け入れた、という描かれ方をしています。ただ実際にいろいろ文献を読んでみると、キム先生がおっしゃっていたような、同じ社会にもさまざまな人々がいて、理想とする社会観、人間観がそもそも異なり、その上で技術を選んでいるので、単に伝統的なものに縛られたとか、新しいものが好きだったか
らとか、そういう話ではないという気がしています。
西洋の天文学の場合は、それが入ってきた当時は、中国に適用するのに、実際のところちょっと不便だったわけです。しかし一方で、その不便さを乗り越えてでも、真理に近づきたい、技術と真理がきちんと表裏一体になっているようなものを選ぶことこそが人間なのだ、という考え方をする思想家もいました。これとは逆に、今まで私たちが使っていた便利なもの、私たちに合ったものをずっと守り続けるということを一つの人間の在り方だとみなす
考え方もありました。つまり、進んでいる、遅れているだけの話ではないという感じがしています。
今のテクノロジーは、前近代の話とやはりちょっと質が違うという気もしますし、連続性も感じるところはありますが、いかがでしょうか。

42

宍戸：1 点目の楽曲分析は、私の知っている世界で言うとカラオケです。あの会社はすごいデータを持っています。それぞれの人にそれぞれのニーズがあって、今ちょっと気分が落ち込んでいるから他に落ち込んでいる人はどういう曲を聴いて元気になったかしら、でいい人もいれば、自分が歌う側で、こういう曲で盛り上がりたい、という人のように、いろんな人のいろんな思考がある。それに個別に対応する AI もあるのでしょうし、あるいはそれを全部包含して、この人はこういうニーズを持っているから、こういう分析結果をお返ししましょう、というサービスの作り方もあり得るのだろうと思いました。あとは鳥海先生にお任せします。
2 点目の天文学のお話ですが、非常に示唆的で、たぶん社会科学の分野でも AI との向き合い方はまさにそうなのだろうと思います。例えば法律の分
野でも、先ほどから出てきているような、近代的な社会のモデルがやはりいい、むしろこのモデルの実現が遅れているのが問題だ、本学で社会科学研究所が創立された時の理念のように、日本は西洋近代を一回やりきらなければ駄目だ、まだやりきれてないと思う人からすると、AI が出てきてごちゃごちゃになってくると、近代の夢を一回完結することを妨げるので、分かっていて反対する方もおられるのだろうと思います。
私はどちらかというと、民主主義や法の支配をバージョンアップするきっかけとして、AI の議論でも何でも、一回引っかき回すのに使えるのではな
いかと思っています。宇野重規先生からもそのような言われ方をされたこともあります。当然、いろいろな人が考えていることに応じて変わってくるので、新しいテクノロジーが入ってくる時の、それまでの学問とか知識人の向き合い方は、常に簡単ではないと、お話を伺っていて思いました。
鳥海：音楽の楽曲の推薦の話でいくと、今だとサブスク形式のものが多いので、推薦は重要ですよね。今は、こんな曲を聴いている人はこの曲を結構聴いていますというシステムがベースになっています。言語的なベースを使っているサービスは相当レアだと思います。
田中：そうなのですね。
鳥海：いろいろな曲を聴いてもらうことがお金になるからです。企業として
■質疑応答

43

は、利用してもらえないなら推薦システムを導入する理由がないというシン
プルな話なのです。ただ、それにもかかわらずあまり自分に合った曲が来な
いというのは、その人がちょっと珍しい趣味を持っているからだと思います。
また、好きな曲だけ聴いている人は、サービスの離脱が早いということが最近分かってきています。ですから、いろいろな曲に興味を持ってもらえると、それがその会社の経営的なインセンティブになります。あえて違う楽曲を出して、それを気に入ってもらえればその関連で趣味が広がる。だから、その人があまり好きではない曲が推薦されるというのは、推薦がたまたま外れたのか、その人が自分の好きな楽曲にこだわっているのかなと思います。音楽
好きな学生ということなので、たぶんそういうタイプなのかなと思います。
あとは中身ですが、音楽そのものに対して向き合ってないという話がありましたけれど、技術的には相当向き合っているものもあります。こういうタイプの曲、こういうタイトルの曲を作ってくださいと入力すれば AI によって作れるようになってきています。そういう曲の質がいいかどうかはさてお
き、今、AI が作った曲が大量に世の中に広まっています。自分で作曲した音楽を登録するサイトあるのですが、AI が作ったしょうもない音楽が大量に登録されて困るということも、すでに発生しているという話もあります。
こだわって楽曲を求めている方と、そうではない方でも望む楽曲は違うと思いますが、企業としては儲からないからやらないことも多いという視点も、
ぜひ学生さんにお伝えいただけると、またいろいろと広がるのではないかと思いました。
キム：最近の統計ですが、TikTok が SNS ではもう断トツにヒット数の率が上がって、今はたぶん 1 位だと思います。ほんとうに簡単なアルゴリズムの変換をしただけだったのですが。他の SNS がそれまで全部 AND、AND、AND、AND で推薦していたのですが、TikTok は OR に変えたのです。A、A'、A" といった、自分の好みをずっと絞っていく形のアルゴリズムではな
く、TikTok はこの人は A、B、C、D、E という感じでヒットしたものを全部 OR で広げていったのですね。そうするとすごいヒット数が多くなって、それが急成長の起爆剤になったのです。本当に発想の転換で、他の SNS の会社がこの人に合わせようとしたのを、もっとバラエティーに提供しましょう、というアルゴリズムに変えたらそうなったというのですね。
44

ですから、さきほど一番最初におっしゃった「情報的健康」というのも発想の仕方で、提供するサービス側も消費側もそうですが、やはりアルゴリズ
ムをシステマチックにどうやって設計するのかによって、健康になれるのか、病気になるのかという。そこの関係になると思うのですよね、本当に。
鳥海：TikTok の場合、多様性が広がっても TikTok なので何か不健康な感
じがしますけどね。
キム：不健康な感じなのですけどね、もちろん。あともう一つは、ある楽曲のサンプルを取ってきて、AI が曲を作るという話ですが、われわれがネッ
トやアプリで使えるようなアプリではなく、もっと進んだ非常に手の込んだアプリを開発したスタートアップが韓国にあったのですよ。でも、それが行政によって駄目だと言われた。許可してくれ、と行政訴訟まで起こしたのですが負けたのです。法令に違反しているということで。
なぜかというと、これを事業化すると剽窃に当たるということなのです。
誰の曲を取ってきたのかは分からないけれども、とにかく著作権の侵害になると。これにたいしてそのスタートアップの人たちが「もう話にならない」と言っている、という記事が出ていたのですね。
鳥海：それは分かります。それでは話にならないですね。
キム：でも、さきほど私が冒頭で言った AI 関連法案で、この問題が解決されないと、今の法令だとそうするしかないらしいのですね。
鳥海：そうなのですか。
キム：ええ。ただ単に AI で音楽のデータ集めて作曲をするということ自体が駄目なのではなく、それをビジネスのモデルにするということ自体がたぶん法令に引っかかったのだと思うのです。
鳥海：そのスタートアップは日本でやるべきですね。

■質疑応答

45

キム：大丈夫ですか。
鳥海：日本だったら、学習用のデータを持ってきてやるのはまだ大丈夫です。
宍戸：大丈夫です。ですから、冒頭で出てきた日本新聞協会などが、学習用
データのための利用に対して著作権を制限する規定を問題視している状況です。学習用データからそのままの文章が、アウトプットとして出てくることはまずないと聞いていますが。
鳥海：部分、部分は出てきますけど、完全一致でというのはまずほぼないですね。
キム：でも、この AI と剽窃という問題は音楽だけではなく、われわれのア
カデミーの話でもあります。
中島：ほんとですよ。
キム：今は、もちろんそういう生成 AI はまだないと思うのですが、ちゃんとしたレファレンスを付けた論文形式のものを AI が作り出した時に、どうするのかという問題がありますよね。それを一つの研究成果として認めた時に、この論文を学会の中でどのように位置付けるのかという問題が出てきますよね。
鳥海：でも、新しい発見があって、新しい知見として成り立つのであれば、誰が書いたかではないというのはもともと論文が本来持っている良いところです。人間が、学生が、教授が書いたかで差別するべきではないというところからいくと、AI が書いたものも同じ文字列が並んだものなので。
キム：ただ、法的な問題としても、アカデミーの慣習の問題としても、オーサーシップがないということですよね。
鳥海：はい。
46

宍戸：AI が勝手に、自主的に作っているわけではなくて、やはり人間が作っているのだとする。
キム：オーサーシップが AI を作った人間に、操作した人間に返されるべきなのかどうなのかということですね。
宍戸：よくいわれるのは、AI が作っても全部いいものができるわけではな
いので、その中からいいものを選ぶのは、今のところ人間がやっている。つ
まり選ぶということ自体が人間のオリジナリティーの発揮であるという考え方で、今は、人間に権利が帰属するということです。
中島：理系の論文を見ると、何百人も共著者がいて、3 ページぐらいに渡って共著者名が書かれていて、本文が 2 ページぐらいで終わるという恐ろしい論文があるわけです。その共著者に「何とか AI」が入るというのはありなのではないですか。
鳥海：でも、AI には人格がないから。共著者ではなく「何とか AI」を使った、と書くくらいじゃないでしょうか。
宍戸：しかし、ソニーのパソコンを使いました、とか、Apple のパソコンを使いました、とは論文には書かない。
鳥海：そういうすごく長い論文はたぶん物理系なので、SPring-8（大型放射光施設）で回しました、というレベルかと。
中島：附属図書館の坂井先生どうぞ。
坂井：ご指名ありがとうございます。私が置かれている立場を皆さんに申し上げますと、まず、私は IT の専門家であることが一番のベースです。そして今、附属図書館の館長をしていますが、日本文藝家協会の著作権担当理事
もしています。以上 3 つを合わせますと、利益相反が発生しそうな感じで、ちょっと困っています。
■質疑応答

47

文化庁の立場ですと、今の生成 AI には人格権はなくて、著作権者にはなり得ません。宍戸先生はよくご存じだと思いますが、2023 年 8 月に文化庁の資料が出ています。著作権に関して、新聞協会と文藝家協会の間にはちょっと立場の違いがありまして、新聞協会はどちらかというと財産権としての著作権を一生懸命考える立場で、文藝家協会はどっちかというと財産権
プラス著作者人格権の両方で考える立場で、前者は声明を出しましたが、後者はまだ出していない状態です。
あと、AI の立場で言うと、今の生成 AI は弱い AI ですので、著作権を犯すまでには至らないけれど、それを使って第三者が何か発表した場合、類似性と依拠性がどこかで証明できれば、利用した人が著作権法違反になる、という見解かと思っています。ただ、実際に類似性と依拠性がちゃんと証明できるかというのが問題になってきているということも確かです。
あと、鶴見俊輔さんが昔言った「純粋芸術」と「限界芸術」ですかね。生成 AI ができたことによって、あるいは、これから高度化することによって、「限界芸術」は滅びるという気が私はしています。「純粋芸術」とか「大衆芸術」とかはそれほど大きな影響は受けないかなと思っていて。実際、イラス
トレーターの方ですごくいい作品を作ろうという時はしっかりと自分のオリ
ジナリティーを出しますが、ちょっとしたものをアルバイト程度で作る時には、生成 AI に描かせて、それを少し変えるみたいなことは当たり前に行われるようになるのではないかと思います。それを罰することはすごく難しくなるのではないでしょうか。
あと、いわゆる生成 AI にはプラトンや釈迦から現代思想まで全部付き合
わせて深く理解するような力はないので、そういう意味でも人間の尊厳のよ
うなことは見る人が見ればわかります。ただ、それが一般向けにちゃんと啓蒙できるかどうかというのは非常に難しい問題だと思います。
中島：ありがとうございました。どうでしょう、宍戸先生。
宍戸：今、坂井先生がおっしゃってくださったとおりで、特に著作権で難しいのは依拠性ですよね。データで学習している以上、それでアウトプットしたら必ず依拠しているのだという言い方はあり得ます。そういったものも全部、著作権侵害になってしまうとすれば、結局 AI が依拠するというのはど
48

ういうことなのか。人間もずっと学習してきていますから、先人に依拠しているわけですよね。ただ、人間の場合の依拠という、著作権侵害になるような意味での依拠と、AI という、アルゴリズムで人間よりも多くのデータを学習して、そこからいろいろなことをやる場合の依拠では、言葉の意味が変わってくるのではないかと思います。この辺りは、ずっと議論が続いていて、今後も文化庁でも世界でも議論するところなのだろうと思っています。
坂井：例えば、日本の伝統文化である短歌の世界で、本歌取りというのがあるのですが、本歌取りが創作と認められるかどうかというのは、中世にはきちっとしたルールがあって、まず主題を変えることなのです。恋愛の歌だったら春の歌に直しなさいとか。取る句は五七五七七の五七か七七のどちらか
2 句までとか、上の句を取ったら下の句に変えなきゃいけないとか。あと、有名な作品から取らなければいけないとかです。
全部満足して、その上で本歌取りは依拠性が認められても作品として成立するという、それがルールだったのですが、最近は、あまり守られていないという現実があります。何かちょっとでも違うとこがあればいいのではない
かとか、そんなことになって怪しいのですけれど、結構重要ですよね。グレーゾーンが広いと思います。
中島：昔、大瀧詠一というミュージシャンに対して、誰かが、あなたの作品
はアメリカのこう、こう、こういう音楽に依拠しているのではないかと指摘したのです。そしたら、大瀧さんは、それは甘いと言ったのですよ。もっと依拠していると。ほとんど依拠していると。違うものを組み合わせて私は作っているだけだというふうに答えたというのをすごく覚えています。あれだけ独自の音楽を作ったように思っていた人が、それこそ本歌取りではない
けど、巧みにやっていたのだなというのを知った時はいろいろ考えさせられましたね。AI にしたら、それがもっと強調して出てくるわけですよね。
鳥海：昔決めたルールがあったとしても、時代とともにそれが変化してしまう。だから、昔はこれだけ変えなくてはいけない、というふうに決めていた
けれども、今はちょっとでも変わっていればいいでしょう、というふうになって。みんなそれで納得して、文化として成立しているのであれば、それ
■質疑応答

49

を昔に戻す必要は必ずしもないと思うのですよ。
それと同じで、今のわれわれの感覚と、どんどん AI に描かせるのが当たり前という世界観になってきた時の感覚とは、恐らく全然違うはずなのです。
そういう意味ではあまり慌ててルールを作ると、いろいろ齟齬が起きる気がします。当時は何でこんなルール作ったのだろう、といわれるのも、目に見えるのです。ですから、そこは今の技術レベル、あるいは今のわれわれの感覚というか、今後変わっていった社会でどうなるのかということを常に意識しないと、おそらく 5 年 10 年もかからずに下手すると破綻する可能性があると思います。
キム：大衆音楽の中で今、サンプリングがよくありますよね。それが剽窃なのかという論点があります。昔、AI とかインターネットがなかった時もサンプリングはやっていたのですが、その時のサンプリングは、人間が学習のためにたくさん聴いていた。人間の学習のサンプリング。だから剽窃という問題は出なかった。同じような曲ができても、そこには人間の努力が入っているから。でも、今、努力なしにできてしまうので、それはどうなの、という議論になってしまうのですよね。
ですから、おっしゃったように、今は変わったから、昔そのように学習したサンプルは大丈夫ですよ、という感覚をなぜ今持たないといけないのかという問いですよね。
宍戸：そうですよね。
鳥海：でも、昔は本を書き写すのはとても大変だったのですが、今はコピー
でウィーンとできて。
キム：あと、最近はパシャッですもんね。
鳥海：機械でやるのは努力してないから駄目だよと。
宍戸：その努力は本当に必要な努力なのかという話になるわけですよね。

50

鳥海：時代が変わっても努力は認めてあげたいという、何かよく分からない
思いがあるのですかね。
キム：一生懸命やるという内実が全く変わっていくという。
鳥海：面白いですね。
中島：面白い時代になってまいりました。
今日は、いろいろ面白い論点を出していただいてどうもありがとうございました。

座談会話者プロフィール【登壇者】
キム・ハン（KIM, Hang）
延世大学・教授。研究分野は政治思想史。
1998 年ソウル大学修士（コミュニケーション）、2008 年東京大学博士（表象文化論）
2011 年から現在、延世大学教授。
著書に『帝国日本の閾』（岩波書店、2010 年）、『An Intellectual History of
The Japanese Empire』（韓国 Changbi、2015 年）、『Eschatological Bureau』（韓国 Munhak kwa jisung、2016 年）
宍戸 常寿（SHISHIDO, George）
法学政治学研究科・教授。研究分野は憲法、国法学、情報法。
著書に、『憲法裁判権の動態（増補版）』（弘文堂、2021 年）、『憲法 解釈論の応用と展開（第 2 版）』（日本評論社、2014 年）、『憲法学読本（第 3 版）』（共著、有斐閣、2018 年）、『総点検日本国憲法の 70 年』（共編著、岩波書店、2018 年）、『ロボット・AI と法』（共編著、有斐閣、2018 年）、『デジタ51ル・デモクラシーがやってくる！』（中央公論新社、2020 年）、『AI と社会と法』（共編著、有斐閣、2020 年）、『法学入門』（共編著、有斐閣、2021 年）、『日本国憲法のアイデンティティ』（共編著、有斐閣、2023 年）など。
国立情報学研究所客員教授、衆議院議員選挙区画定審議会委員、宗教法人審議会委員、総務省プラットフォームサービスに関する研究会座長、総務省デジタル空間における情報流通の健全性確保に関する検討会座長など。
鳥海 不二夫（TORIUMI, Fujio）
工学系研究科・教授
2004 年、東京工業大学大学院理工学研究科機械制御システム工学専攻博士課程修了（博士（工学）、同年名古屋大学情報科学研究科助手、2007 年同助教、2012 年東京大学大学院工学系研究科准教授、2021 年同教授。
計算社会科学、人工知能技術の社会応用などの研究に従事。
計算社会科学会副会長。情報法制研究所理事。人工知能学会編集委員会編集長。電子情報通信学会、情報処理学会、日本社会情報学会、AAAI 各会員。
「科学技術への顕著な貢献 2018（ナイスステップな研究者）」
主な著書に『強い AI・弱い AI 研究者に聞く人工知能の実像』（丸善出版、
2017 年）、『計算社会科学入門』（丸善出版、2021 年）、『デジタル空間とどう向き合うか 情報的健康の実現をめざして』（日経 BP、2022 年）。
【司会】
中島 隆博（NAKAJIMA, Takahiro）
東京大学東洋文化研究所所長・教授。研究分野は中国哲学、世界哲学。
著書に、『残響の中国哲学──言語と政治』（東京大学出版会、2007 年。増補新装版、2022 年）、『荘子──鶏となって時を告げよ』（岩波書店、2009 年）、『共生のプラクシスー─国家と宗教』（東京大学出版会、2011 年。増補新装版、2022 年）、『悪の哲学──中国哲学の想像力』（筑摩選書、2012 年）、『思想としての言語』（岩波現代全書、2017 年）、『危機の時代の哲学──想像力のディスクール』（東京大学出版会、2021 年）、『荘子の哲学』（講談社学芸文庫、
2022 年）、『中国哲学史──諸子百家から朱子学、現代の新儒家まで』（中公新書、2022 年）、『日本の近代思想を読みなおす
52

1 哲学』（東京大学出版会、

2023 年）など。共著に『日本を解き放つ』（東京大学出版会、2019 年）、『世界哲学史』（全 8 巻＋別巻、ちくま新書、2020 年）、『全体主義の克服』（集英社、2020 年）など。
【コメンテータ】
坂井 修一（SAKAI, Shuichi）
附属図書館・館長

情報理工学系研究科教授。専門分野は情報システムとその応用。電子情報通信学会業績賞、IEEE Outstanding Paper Award など受賞。著書『論理回路入門』（培風館、2003 年）、『コンピュータアーキテク
チャ』（コロナ社、2004 年）、『実践コンピュータアーキテクチャ』（コロナ社、
2020 年）、『知っておきたい情報社会の安全知識』（岩波ジュニア新書、2010年）、『IT が守る、IT を守る─天災・人災と情報技術─』（NHK ブックス、
2012 年）、『サイバー社会の「悪」を考える』（東京大学出版会、2022 年）など。情報処理学会フェロー。電子情報通信学会フェロー。IEEE、ACM、人工知能学会各会員。歌人。歌集『塗中騒騒』（本阿弥書店、2023 年）など 12冊。迢空賞、小野市詩歌文学賞など受賞。歌書『世界を読み、歌を詠む』（ながらみ書房、2021 年）、『うたごころは科学する』（Kindle 版、2022 年）など。
「かりん」編集人。現代歌人協会副理事長。日本文藝家協会理事、日本歌人クラブ会員。
田中 有紀（TANAKA, Yuki）
東洋文化研究所・准教授。研究分野は中国思想史、中国の音楽と科学に関する思想。
著書に『中国の音楽論と平均律──儒教における楽の思想』（風響社、2014年）、『中国の音楽思想：朱載堉と十二平均律』（東京大学出版会、2018 年）、共著に『音楽を研究する愉しみ：出会う、はまる、見えてくる』（風響社、
2019 年）、『宋代とは何か：最前線の研究が描き出す新たな歴史像』（勉誠出版、2022 年）、『現代社会を考えるための経済史』（創成社、2023 年）など。
【会場写真撮影】
野久保 雅嗣

東洋文化研究所・技術専門職員
53

Booklet for New Enlightenment 2
座談会「AI と法」

著

者

編

者

キム・ハン

宍戸 常寿

鳥海 不二夫

中島 隆博

中島 隆博

編 集 協 力菊池 百里子発

行日2024 年 3 月 29 日

発

行

者

東京大学東洋文化研究所

製 作 協 力すいれん舎

表紙デザイン篠塚 明夫

印 刷 製 本モリモト印刷伊野 恭子Ⓒ ‌2024 Institute of Advanced Studies on Asia, The Universityof Tokyo
ISSN 2759-3398＊＊＊＊＊

Booklet for New Enlightenment 2

ISSN 2759-3398

座談会「AIと法」

東京大学東洋文化研究所 2023