講演録

Date: 2021.10.4
https://jilis.org/report/2021/jilisreport-vol3no15.pdf「人工知能と法律」
研究タスクフォース 2020年座談会

AIが創る著作物の現状と課題「人工知能と法律」研究タスクフォース

鳥海 不二夫 JILIS 理事 東京大学大学院 教授
実積 寿也 JILIS 理事 中央大学 教授
宍戸 常寿 JILIS 参与 東京大学大学院 教授
加藤 尚徳 JILIS 上席研究員 株式会社 KDDI 総合研究所

ゲスト

松原仁

東京大学教授「人工知能と法律」研究タスクフォースでは、毎年
AI 研究者を招き、AI と法制度に関する座談会を行っている。２０２０年座談会は東京大学大学院の松原仁教授を招き、AI と著作物をテーマに議論を行った。

鳥海 「人工知能と法律」研究タスクフォース主査で東京大学の鳥海です。

実積 「人工知能と法律」研究タスクフォースメン
バーで中央大学の実積です。

宍戸 東京大学の宍戸です。私は大学院の法学政治松原 仁氏

学研究科に所属しておりまして、憲法と、それから、情報法を専攻しております。

加藤 JILIS の上席研究員をしております加藤です。

れ人工知能プロジェクト作家ですのよ」というのをそれから、ＫＤＤＩ総合研究所でふだんは法制度の始めました。コンピューターに小説を書かせたいと研究をしております。

いうのが、最初に思いついたことなんです。そうは

松原 今日お招きいただきました東京大学の松原でいっても、いきなり何か全ての小説を対象にするとす。３月まではこだて未来大学におり、今も特任教いうのは大変です。人間にとって短い小説が長い小授をしているという縁で、会場がはこだて未来大学

説より書きやすいとはとても思えないんですけど、コになっております。

ンピューターにとっては短いほうが絶対長いのより

鳥海 本日の議題は、AI が最近作っている著作物では少なくとも取っかかりとしては作りやすいんです。

す。松原先生といえば、星新一賞をはじめとして AI

そこで、星新一さんのショートショートを学習材料に著作物に詳しいということなので、AI が作る著作物

使おうということに決めました。

の現状を松原先生からお話しいただいて、これから

星新一さんは 1,000 作以上ショートショートを書い

どんどんそういった著作物が増えていった時に一体ており、ショートショートの神様と呼ばれています。

どうしていけばいいんだろうか、ということについて

私自身が星新一さんのファンでもあり、また星新一議論していきたいと思います。

さんの小説というのは、あまり人間関係のどろどろしたところとかがなくて、基本的に最後は結構論理的

AI が小説を書く、漫画を描くに落ちるみたいなのがあって、恋愛物なんかに比べると AI が比較的扱いやすいというのがあり選びました。

松原 自分のやっている研究と、それと著作権の絡

ところが、AI を作る場合、誰かの作品を学習材料

みでの認識について説明します。2011 年に「気まぐとして使う時に、個人で買ったのを使うというのはそ1【講演録】「人工知能と法律」研究タスクフォース 2020 年座談会 AI が創る著作物の現状と課題

れは多分権利的にはオーケーだと思うんですが、そ大きく取り上げられたのはいまだにあれは何なんだの一部を引用したりとかそういうことがあった時に、ろうね。小説書いたのが人間か AI かで、やっぱり小嫌がられては困るわけです。ところが、星さんの作説書いたのが AI というのが多分刺さったのかな。

品の著作権は今娘さんが管理されているんですけど、

鳥海 こちらは、最後結局人間かよ！みたいな感じ

その方にたきつけられました。
「松原さん、AI 研究しになっちゃいましたからね。

ているんなら、父みたいな小説書かせてみない ?」と。

松原 そうですね。その後も実はプロジェクトを進「そんな無理難題」とか最初言ったんですけど、それめていて、何回か応募しているんですけど、少なくがきっかけだったこともあって便宜を図っていただ

とも入賞までは至っていません。

いています。星家御公認みたいになっています。そまた去年から今年に手塚治虫の新作を、というプロのおかげで星さんのファンからも、出来が悪いといジェクトを行いました。これは東芝メモリが東芝かう意味では「何だこいつ」と今でも言われているん

ら離れてキオクシアという名前になる時の宣伝のひだけど、少なくとも星さんの小説を使ってけしから

とつとしてやったプロジェクトです。手塚治虫のキャんということは言われないというのがありますね。

ラクターをたくさん手塚プロからもらって、機械学

鳥海 公認が取れるのは強いですね。

習でキャラクターを作り、ストーリーは慶應大学の松原 で、研究を始めたころ星新一賞という賞がで栗原研がやって、手塚治虫の漫画のストーリーをベーきました。今でも毎年やっていますが、毎年 9 月頃

スにして手塚っぽいキャラクターをたくさん生成しに応募を締め切って 3 月頃に表彰している、ショートました。でも、最後は人間なんですよね。手塚治虫

ショートの賞、文学賞です。その募集要項に「人間さんの息子の手塚眞さんが中心になってその中で使以外の応募も可」と書いてあるんですよ。新しい文えるキャラクターやストーリーを選んだ。
だから、さっ学賞であるとともに、我々のプロジェクトみたいのがきの星新一の合作に近いですね。最初のアイデアは出すということを念頭に置いている賞なんですよね。

AI がちょっと与えて、その後全部引き取ったのは人

そこに何回か出しているんですけど、最初に出した

間です。

第 3 回星新一賞という、2015 年 9 月締切りで 16 年 3 月

ちなみに、星新一のほうの記者会見で、AI の果たに発表されるというのに、気まぐれ人工知能プロジェ

した割合は全体におけるどれぐらいですかと聞かれクトから 2 作。あと、ちなみに、鳥海さんがやっていて、ついつい AI2 割、人間 8 割と言ってしまって、仲る人狼知能プロジェクトからも２作出されました。

間に後で「松原さん、無責任なことを」とかいってここで始めたの AI が書いた小説でした。ここに結随分怒られました。でも、それが独り歩きして、あ構面白い対比があって、我々のプロジェクトは、あのプロジェクトは、AI2 割、人間 8 割、少なくともあらすじは人間が与えて、それを数千字の小説にする。

の時点では。一方手塚プロジェクトでは、慶応の栗読める日本語にするというところを AI がやりました。

原先生が AI1 割、人間 9 割と言いました。だから、もっちなみに、メインのプログラムは名古屋大の佐藤さと AI の関与の度合いは低いと。

んという自然言語の専門家が書きました。

鳥海 劣化しているじゃないですか。
松原 劣化しているんですよ。だって漫画のほうが一方鳥海さんのほうは、人狼知能って AI に人狼させるというのをやっていたので、その人狼の試合と難しいでしょう。その時も、手塚プロがバックについうか戦いに AI だけでどんどんたくさんの試合があいていたので、手塚作品を使うということについてるんだけど、その中に面白い試合とつまらない試合

は 100% お墨つきだったので、出来た漫画の印税がもがあって、面白いと思う人狼の戦いを選んで、それらえるとしたら手塚プロにかなりの部分行くのが自を鳥海さんが小説にしました。つまり AI があらすじ

然だろうなと思いました。

を作って人間が文章にする。だから、逆なんですよね。

鳥海 このプロジェクトの成果物はコミック出てい結論からいうと、最終の 4 次審査までは両方とも行

るんですね、ちゃんと。

かないんだけど、4 作品のうちの 2 作が 1 次審査を通っ

実積 『ぱいどん』ですね。

たというので大きな話題になりました。電通がスポン

松原 そうです。漫画雑誌のモーニングに掲載されサーについていたこともあって、3 月に記者発表、鳥ましたし、その後単行本も出たんですよ。だから、海さんにも来てもらって、どういうふうにやっている

今でも買えますよ。

かをマスコミの前で発表したら、新聞社やＮＨＫが著作権の話をすると、ショートショートの方は、星来て、大ニュースになったですね。

マリナさんと新潮社と函館みらい大の間で契約を結

鳥海 結構騒ぎになりましたね。

びました。彼らに断りなく星さんの作品を使った AI

松原 なぜか鳥海さんの小説よりもこっちの小説が作品を発表しない、利益を得る可能性がある時には2

相談する。幸い（?）
まだその条項は効いてないですが。

データベースを作っておけば、これから俳句を作る

鳥海 『ぱいどん』の方はどうですか。

人は全てその中に網羅される。

松原 『ぱいどん』の印税はなしで、モーニングに掲

鳥海 実はそれ、やろうとしたことがあります。さ載してもらえるだけでありがたいということで手弁

すがに、その量はちょっと厳しいので、日本語の単当です。手弁当というか、キオクシアが手塚プロに語は使うだろうという前提にして。

払っているくらいですね。あと、栗原研とか松原研

松原 絞り込むわけね。

に払っている。モーニングには好意で載せてもらっ鳥海 そう。それで、絞り込んで、実際ちょっと作ったので。ムックの印税は手塚プロに入っているんじゃてみたことがあるんですよ。そうすると、過去「おーないかな。

いお茶」の俳句コンテストに出された句の何十％か

鳥海 金銭的な部分では権利が全然ない状態なんでは網羅的に作った俳句の中に含まれるというのが分すか。

かりました。これは、結構危ういですよね。

松原 少なくともそういう契約はしてないですね。

松原 俳句は力勝負でやる人が、もう一段突き抜け

ムックが１冊売れると栗原さんに何円か行くというようと思って早くでかいコンピューターを使って、突契約にはなっていない。

き抜けられないことはないでしょう。

鳥海 そうなんですね。でも、絶対『モーニング』

鳥海 本当はそこまでやろうと思っていたんですが、の売上げは上がりましたよね。

川村さんが真面目に俳句を始めちゃったので、やめ

松原 結構話題になったので上がったと思います。

てしまいました。さすがに申し訳なくて。

『ぱいどん』は上・下 2 話があって、最初上しか載せ

松原 もし本気でやる人がいたら俳句という文化をないという話だったけど、多分上がそれなりに売れ……。

たので、下を遅れて載せていただけたんじゃないか

鳥海 壊すことにもなりますね。

な。

松原 著作権という問題以上に、俳句文化がどうな

ちなみにストーリーは全部、手塚プロです。
「記憶るかという問題ですね。数十％押さえたんでしょう ?

喪失の日比谷公園の浮浪者」という設定は栗原研の

100 は無理でも、7 ～ 80％はすぐ行きそうな気がする。

AI が出した。それを手塚眞さんが気に入って、この鳥海 そうですね。何も考えなくても理論上は 3 ～設定面白いからこれ使いましょうと。漫画のストー

40％行けたわけですから。

リーはその後全部、手塚プロで考えてくれた。やっ

松原 やっぱり小説に比べて俳句って探索空間が狭

ぱり 9 割、1 割というのは、直感的には 1 割もあるのい分だけヒットする可能性が高くて、いい作品が出かという感じですけどね。

てくる可能性とある。過去の作品というか人間の作

鳥海 キャラクターも AI だったと思いますが、採用品と。人間も過去と同じ俳句を作ってしまうことがあするキャラクターを選んだのは人間ですもんね。

るらしいですね。要するに、今まで出てきた俳句をみんなが全部知っているわけじゃないので、新しく、

AI が大量に作る創作物

悪意なく作ったと思って。そうすると、偉い人というのが大体知っているので、「これは何十年前の何とかというところに出ていたよ」みたいなことを言って、鳥海 昨年、俳句 AI を作っている川村さんに話を聞

悪意がなければ、残念、で済むらしい。さすがにパクっいて印象に残ったのが、とにかく何十万個も作れるが選ぶのがやっぱり難しくて人間しかできないという話です。確かにそこはまだブレークスルーがないなと思っていたんですけど、今の話を聞いていると、別に選ばなくても、とにかく作っときゃ、著作権の主張によって得ができてしまいそうですね。結構 AI 著
作物の穴じゃないですけど、そういう危うさというのも実は AI 著作物には結構あるかもしれないですね。

松原 川村先生と話したけど、俳句の空間が 50 の 17乗ですね。濁音とか半濁音とか入れると 60 かもしれないけど、それが 17 文字なので。それって今のコンピューターにとってもかなり大きい数ではあるけど、扱えない数でないので、それを全部俳句だと称して鳥海 不二夫氏3【講演録】「人工知能と法律」研究タスクフォース 2020 年座談会 AI が創る著作物の現状と課題たと言われるとペナルティー受けるらしいけど、そ

実積 発見しただけだからね。五十音つなげたとこ

れは人間同士でもそれなりにあるのようです。

ろで、それはつながり方を発見しただけだから、表宍戸 だから、仮に AI の創作物が著作権として保護

現じゃないので、著作権はそもそも発生しない。とされるとして、人々がそれと同じものを作っちゃった

いうことを考えれば、『ぱいどん』だって同じだよね。

としても、作られていたことを知らなければ、依拠加藤 可能性としてはそうなります。数式そのものしてないので著作権侵害が成立しないというのが１と数式を説明したものの著作物性が否定された判例つのやり方なんだろうと思います。

があります。それを引用して、著作権法では、自然AI の創作物を著作物とする前提で議論しています

法則及びそれを説明したものは著作権の対象になりけども、今の例でいうと、五七五で 50 の 17 乗でどこません。

かに作ってあって、俳句を作った人に対して「おま実積 『ぱいどん』の場合も、AI が漫画描いてやるぞ

え依拠したんじゃないか」といってスラップ的に訴と思って描いているわけじゃない。過去のデータをえて負けるみたいなことが起きると、表現活動が萎

見て、こういう構成だとフォロワビリティが高いと計縮するということはありますね。

算しているだけだとすると、そもそも著作権の対象ではない。

著作権が保護するもの

鳥海 多分今の定義からいくと、AI がやっていることというのは、ある入力を与えられて、あるアルゴ
リズムに従って計算をするとこういうものができて

松原 素朴に言って、さっきのオーダーの問題があっきますよということを示しているだけであるという解て、人間は生涯に作れる数がこれぐらいだから尊重釈になるわけですね。

しましょうというのが前提だと思うので、無造作に宍戸 だから、既存の法制でいうと、AI の創作物を何十億も作るようなものに１個ずつ同じだけの権利著作物と認めないことになる。

を認めようというのは何か違うと思う。

実積 そこで質問があるんですけど……、写真って実積 同じような議論でいくと、AI が日本語のつな

著作物になりますか？

がり方を作っていくんだけど、実は作ってない、発加藤 結構微妙なんですよ。昔から争われていて。

見しているだけと考えると、円周率と同じで、単純

実積 富士山を撮った写真は著作権が発生するよね。

にバーッと書いていって 100 万桁か 200 万ぐらい書い加藤 一旦は発生すると考えられるんですけど、そても著作権は発生しないのでは？

れが著作物性を争うと負けている判例というのもい

宍戸 そうなります。著作物というのは、思想またくつかあって。

は感情を創作的に表現したものであって、文芸、学術、

実積 松原先生の試みでは網羅性があるので、作っ

美術、または音楽の範囲に属するものというふうにた時に、これがいいやつだといって切り取る。写真

定義されている。

と同じロジックだとすれば、選んだ人に著作権が発実積 単純に順列組合せを作っても表現じゃないと生するはず。逆に写真に著作権が発生しないのなら、いうことね。

今回も発生しない。

加藤 自然科学上の法則そのものは保護の対象では

加藤 まさにそれはおっしゃるとおりで、最後の選ない。

択の寄与度にもよると思うんですけど、基本的には選択することに著作権が発生するというのは争いがないんですよ。

宍戸 選んだ人の著作物になる。
実積 そうすると、AI と人間の貢献比率が 80：20 だとしても、著作権的には 0：100 にしかならない。

松原 そういう意味で言うと、現時点では俳句が数百出てきたうち、人に見せるのを選んでいるのは人間なんですよ。ということは、厳密に言うと、それが何か金銭価値とか持ったりした場合は、それを選んだ人間に権利が発生する。それで思ったのは、そもそも AI 研究者から見ると、AI って自発的に何かを動き始めるわけはないので、ここを押すのは人間なわ
けですよね。今のタイミングで俳句を作れ、小説を宍戸 常寿氏4

著作者人格権作れというので、創作意欲というのは多分人間のほうにあるわけですよ。どんないい作品を AI が作っていても、エンターキーを押した人間に何らかの権利がある。

鳥海 AI が何か作った時に、そこに著作者人格権が宍戸 そこがポイントで、人間か AI かだと、人間の発生しているんですか。

権利だという話になる。ただ、どの人間なんだとい

宍戸 AI の創作物は著作物ではないし、当然 AI の著

うのはあります。入力をした人なのか、あるいは入作者人格権というものはないと思うんですけれども、力データについて何らかの権利を持っている人なの

ボタンを押したとか、選んだ人の著作者人格権の問

か、ボタンを押した人なのか、選んでいる人なのか、題は当然出てきます。

パブリッシュした人なのか。

加藤 著作権法上の著作者人格権って、類型で 3 つし

鳥海 AI で何か作る時に一番重要なのは、エンター

かないんです。公表権と氏名表示権と同一性保持権。

キーを押すことじゃなくて、どのデータを入力するか

公表権は、未公表の著作物を公表する権利。なので、なんですよね。入力するデータを選んだ人に与える非公表だったら、
これは問題にならない。氏名表示は、べきなのか。でも実際には 10 万個出てきた中の 1 個

少し関係するかなと思いつつ、最後の同一性保持権を選ぶアルゴリズムを作った人が本当は一番偉いわが本丸で問題になりそうです。依拠性を持って、もけですよね。

ともとのデータをインプットで入れさせていて、それ宍戸 だから、著作権という切り方で切ろうとするに基づいて計算したら、これは元々のデータから作ことの問題があると思うんですよ。先ほどから出てられた作品ということになるのか。ただ、同一性保きているような、思想などを表現した人に、全部の持権は、要件が意に反する改変なので、学習して作っ権利利益が行くようになっています。例えば俳句 AI

たものそれが当たるかなと今疑問に思いながら聴いの例で行くと、ある俳人の俳句が 5、000 個を学習していました。

た AI があったとして、そこで作られた 30、40 の俳句

宍戸 著作権というもの自体が非常に複雑で、我々から俳人が 1 個選ぶという作業をしたとします。そうが何となくいろんなイメージを込めて議論しやすい

すると、その俳人はデータを提供して最後に選でいのと同時に、条約があって日本の法律になっている世るので寄与度はすごく高いじゃないですか。しかし、界なので、なかなか根幹をいじれない。それに加えて、全部その俳人ができるかというとそうじゃなくて、そさらに AI が出てきてかなりややこしくなり、ちょっ

れはやっぱり AI 開発者が俳句を学習させているからと間違えると、人々の創作活動とか表現活動とかにその俳句ができるわけです。そういう時に、誰かにとんでもない影響を及ぼしかねません。だからといっゼロイチで属して、誰かに属しないと考えるのはおて、AI の創作物というのはおよそ著作権とかないよ

かしいような気がする。

という整理で、本当にいいのか。きちんとした権利

実積 創作行為というか、労力に対して対価を払う

利益の配分や著作者人格権の議論が出てきたように、ものとして認められたというのがそもそもの話。デー

他にもありそうな気がする。それを著作権という言タ入れた人と、アルゴリズムを書いた人と、エンター

葉で議論するのがいいのかどうかも疑問です。

キー押した人、それこそ部屋の掃除をした人も含めてみんな手伝っているわけじゃないですか。誰にどういう権利を与えられるかというところが本質じゃ
なくて、誰の努力にどれだけ報いるかということではないかな。

加藤 著作権の前提として、やったことへの対価という理論は古典的にある理論です。ただ、著作権の大前提の１つに、著作権は額の汗を保護しないという言葉があるんですね。額に汗をしていろいろなものを集めてくることそのものを著作権法は評価しないと。

宍戸 だから、人格の発露だというふうに思いたがるわけです。実際に日本の著作権法だと、著作権以外に著作者人格権って別個あるわけですよ。
加藤 尚徳氏5

【講演録】「人工知能と法律」研究タスクフォース 2020 年座談会 AI が創る著作物の現状と課題

表現と工夫

表現者が「これがいいものだ」と思って出しても、思想の表現として、あるいは芸術としてそれを受け入れるのは実は外側ですよ。そこは実はコミュニケー

松原 今後しばらく数十年間は AI が 100% 何か新しションがあって、受け手がいて実は成立している世い小説を作る、漫画を作るというよりも、支援をす

界のところで、受け手の問題を無視して発信者側のるというのが続くと思います。その時の著作権って、都合で権利とかを確定することのほうがおかしいのどちらかというとビジネス的な権利ですよね。売れではないかと、表現の自由や情報流通の自由を考えた時に、どこに関与した人がどれぐらい持っているる人間としては思うところがある。

かというのが、先立つルールがないので、妥当な指松原 さっきの 0.3 を 0.31 に人間がやっていれば、何針があるといいですよね。

となくその人に何となく貢献があるように言うけど、突然変異と自然淘汰みたいなののシミュレーション

0.1 ずつ変えるというプログラムを書いて、0.2 から 0.01

で、成績がいいものを残していく遺伝的アルゴリズ

ずつ上げていくと 0.31 が偶然パーンと何かみんなかムという有力な方法があります。これは、
うまくちょっらなったとなると、ちょっとまた間接的になるわけでとパラメータを工夫していろんなことをやると、何すね。そうすると、この 0.01 ずつ増やすと決めた人にかすごいものが出てくることがあって、それが何かあるのか。あるってこと、結果的には何か今のだと価値を持つとなった時に、偉いのは誰になるんでしょ

連続的にはあるように見えるけど、それってあんまう？

り総意工夫に感じないわけですよね。しらみ潰しの実積 工夫した人でしょう。

方法を教えているようなものなので、あんまり何か、

松原 その工夫が、パラメータが 0.3 じゃなくて 0.31

研究者、技術者として見て、そんな人にたくさん持っにしたらうまく動いたというレ ベルだったりするわていくのはおかしいだろうという。0.31 を人間が決めけです。例えば、あるパラメータの交差率とかあるたんなら、それは運がよかったからおまえに収入がじゃない？そこに創意工夫がある……といっても、言あっていいと思うんだけど。

わば偶然なんですけど。人類というのが進化したと

実積 従来は人間にしかできなかったことが機械にいうのは、地球の環境が非常にうまくできていたと。

もできるようになった。ゆえに、そこに齟齬が出てきその時に誰が一番人類にするのに貢献したかみたい

たということだと思います。でもそういう手法をとるな話と近いんだと思うけど、決められないと言えばと損する社会システムを作ってしまうと、それは望決められない。

ましくない。ブルートフォース的な開発でもなんでも宍戸 科学的に正しいこと、事実あるいはファクト

使 って、新しいアイデアや商品が出てくる可能性をにより近い出力が出るという意味でのパラメータで高くして、最終的には市場が選んだほうが 長期的に0.3 が 0.31 でよかったというのは何となく科学的に決はいい結果になるかもしれない。多すぎて選べない

まりそうな気はするんですけれども、例えば市場でなら、ワインソムリエみたいな、良い作品を勧める

商品が、それがそのパラメータをいじったことによっ

新しいプレイヤーがきっと生まれる。つきつめると、てより売れる商品が出てきたということであれば、実表現というのは実は 何だったんだろうかと。字を書積先生がおっしゃるようにそこは市場なんだと。結くことじゃなくて、字のつながり方を選択するのが表構厄介なのは、著作権が想定している表現、普通の現とい うんだというふうに定義が変わっていくんで表現物、小説とかの世界で、パラメータを何かいじっしょうね。

たということによって、すごいみんなにポピュラー

宍戸 だから、著作物あるいは表現ということでもに受け入れられるような表現物になったというのは、いいんですけれども、実はいろいろな複数の機能と市場が決めているのか……。

か作用をバンドルして 1 個にまとめて著作物とか著作

実積 ポピュラーかどうかは市場が決めている。具権という管理をしてきています。それが特定の部分

体的には発行部数。みんながその作品に対して金をについては AI がすごいよくできるようになってきて払いたいかどうかが決め手です。

いるのであれば、もう一度アンバンドルにして、ここ宍戸 金とは違う文化みたいなところが著作権法には機械にもう任せて、ここは人間がやるところでと決は入っているわけですよね。

めていって、人間の能力とエネルギーを注入する場

実積 文化とか言い出すと、それはもう、基本的に所を評価していきましょうとするのかもしれません。

は誰かがこれはいい文化だ、これは悪い文化だと決実積 そんな風に社会が変わっていくんでしょうね。

めることでしか判断できない。

宍戸 だから、AI が出てきて社会が変わるという話

宍戸 それでまた話が戻ってくるわけです。つまり、の言わば一局面だと思うんですね。

6

実積 AI 小説の場合は、機械がいっぱい作品を作って、その中から人間がいいのを選んでいる。表現者の行為が従来とやり方が違っている。これまで絵を描いて表現していた人が写真で表現するのと同じです。

加藤 もともと表現の歴史自体も、総当たりで全部できないから、いかに効率よくマイニングをしていく
かという金脈を見つけるかみたいなそういう歴史で、今までやってきた表現に対してブレークスルーが出てきて、そこは金の鉱脈だみたいな歴史なので、それが AI で探索できるようになると、金の鉱脈を見つ

実積 寿也氏ける効率がどれだけよくなるのかみたいなそういう話ですよね。

加藤 それは認められないのが通説的です。そもそ

感得と化体もタイプフェース自体に著作権を認めない。

実積 書道の達人の自筆であったら？
加藤 それは認めます。

鳥海 AI の著作物って今後どういう扱いになってい鳥海 書道の場合は書き方そのものに芸術性がある

くのでしょうか。

わけで、小説の場合は多分フォントそのものには何

実積 法律が依拠してきた、そもそも人間の行動はの芸術性もないということですよね。

こういうふうにやっているはずだ、脳はこういうふう宍戸 やっぱり、表現に関わっているかどうかで、に動くんだ、表現はこうなんだという暗黙の前提条

特定のフォントであることが中身との関係で物すご件を AI が揺るがしていることは間違いがない。だかい意味を持つ瞬間ってありますよね。そういう場合

ら、本当はここで法律は変えなきゃいけない。

は、フォントが保護されるとかはあり得る。

宍戸 AI の創作物を著作物と認めるという法制はあ加藤 表現に対して「感得」という言葉がありましり得ると思いますが、何らかの形で、それによってて、表現は人間が感得できるものじゃないと駄目だ

むしろ人々の様々な活動、これは AI の活動もそうだと。頭の中で考えただけで、自分は表現したっていし、人々の活動にとって邪魔にならないようにしっか

かに言い張っても、他人がそれを感得できる状態じゃ

りつくるということが大事ですね。

ないと駄目だと。

松原 AI は、否定するというか、自分の権利が侵害

実積 アイデアを保護しないというやつね。

されていると言うことができないので AI が作ったも加藤 そうです。感得できるというのは、具体例とのに対して僕が「これは実は僕が関与しているんでしては、例えばディスプレイに映ったものを見るといすよ」って主張したら、その主張を否定するためには、うことも感得ということなので、最終的なアウトプッ

僕以外の関与者が「松原なんか、おまえ、口出した

トで１回は表現されなければいけないということで、だけよ」と言って、それを証明するくらいしかない

誰かが感得できるような状態じゃなきゃいけないとですよね。

いうのがある。

鳥海 AI の場合って、同じアルゴリズム使ったら同鳥海 それは何かディスプレイに表示ができればい

じものが出てくる可能性が高いですよね。これ、たいということ？

またま同じものが出てきた時に類似性については争

加藤 そういうことですね。例えばそうすると、タうことにならない？

イプフェースというのがどこまで感得の違いになる

宍戸

依拠して侵害しているわけじゃない。だから、

かということなんですけど、文字情報を読んだ時とそれぞれのものについてそれぞれ著作権は成立していうところで、それだけでいった時には感得の違いいるんだけれども、侵害がないという整理だと。

にならないという評価になるのかと。

鳥海 同じ AI が書いた中身の骨格は全く一緒で言語

実積 書体によって頭に入り方が違うというのは理だけが違う、例えば英語と日本語の小説が出版され

由にならない？

た時はどうなるんでしょう。

加藤 一般的に感得する受容される側として、それ

宍戸 それは表現、翻訳の仕方も違いますから。

がどのぐらいの違いとして見られるかということな

実積 タイプフェースが違ったら？

んだと思うんですね。そうすると、書道の場合には、

7

【講演録】「人工知能と法律」研究タスクフォース 2020 年座談会 AI が創る著作物の現状と課題

宍戸 星新一賞に AI の作品が出た時がそうで、審査

それは違うものとして見られているじゃないですか。
そういうことです。

員からはわからないわけですよ。だから、ここは考宍戸 思想の表現であれば、どれに当たるか、文字

えて書いているんだと思っているんですよね、読む

か絵かというカテゴリーは別に関係ない。

側は。

実積 アイデアだったら駄目なんだけど、何かを出

松原 ちなみにあれ、審査員はブラインドで、人間

せば著作物。AI の場合は、アイデアと記録媒体が一が書いたか、AI が書いたか知りません。事務局には、緒だから、どこで出たのかは判断できないんじゃな

関与したかというのをチェックする欄があるんだけ

いかな？

ど「先生こういう作品が来たんですけど、これって加藤 感得と、もう一つの表現があって、物の上にAI ですか」って聞かれて困っていました。関与って乗っかれる可能性という意味の「化体」という表現言われてもね。

があります。

実積 AI が関与しているって、どういうのを指して宍戸 CD に焼くみたいな話もそうですね。

AI が関与しているというんですか。

加藤 古い表現なので、使う人と使わない人がいる鳥海んですけど。

ことにして出したいんだという強い意思を持ってい

鳥海 その化体が何なんですか。

るか、ないかというだけですよね。

出してきた人が、これは AI が関与したという

加藤 化体する可能性というんですか、化体できる

松原

ような状態を著作物と言います。だから、例えば音プロ使っているから、それにマルしてみましたみた

声としてしゃべっている時というのは、実際に化体

いな投稿はある。

しないんですが、録音しようとしたら、化体できる

鳥海 だから、賞を取った後でヒアリングして確かような状態になります。

に AI だなとなったら、話題性が出るなぐらいの意味

鳥海 ああ、なるほどね。だから、なるほど、概念

ですよね、あれは。

的な事柄を具体的な形のあるもので表すことが必要

実積 AI がユビキタスになってくると、AI が関与となんですね。でも化体するだけだと、やっぱり著作いうこと自体がナンセンスになってくるだろうな。

物にはならなくて、化体して、かつそこに何らかの鳥海 多分そういう状態になった時には、我々が使っ思想が含まれていることが著作物である。というこているもののことを AI と呼ばなくなりますね。

とは、AI の作ったものには思想は決して含まれない

実積 AI が著作物を作る云々の話をしているけど、極端に言うとそう。だから、
時々、
ちょっとワー

ものだから、AI は決して著作物は作れないというと

AI をみんなが使って人間の側の能力が向上してきたころは揺るがないわけですね。

時に著作権はどういうふうに与えるべきかという議論だよね。AI に著作権を与えるべきかどうかという

AI は思想を持てるのか

議論ではなくて。

AIが人を超えた世界で何が起きるか

松原 そもそも思想とは何か。思想って言葉を作った時には、当たり前だけど、人間固有の概念としてつくったわけです。だけど、最近 AI が何かを考えて鳥海 最終的には、AI がすごい小説を書いて、人間いるような雰囲気がしてきた。少なくとも将棋や囲がその中で、「これ、よさげだね」というのを選んで碁では人間が思いつかないようないい手を見つける出すという世界は多分来る。

ぐらいだから、何か持っているんじゃないか、コン

実積 そもそも著作物は社会に有益だけど放っておピューターもと。だから、思想という概念をもしかしくと個人にお金が返らないから、作った人に還元さたらもう少し言い換えるか、コンピューターに延長れるように作られているわけだけど、それは著作物するかしないといけないわけですよね。

を作るのは大変だか ら。それが簡単になるというこ

宍戸とは、そもそも著作権いらないという世界に行くかも

以前哲学的ゾンビの話もありましたが、相手が考えているのかどうかを人間が見たらわかるかとしれないよね。

いうと……

加藤 まさにそれは可能性としてあって、AI ができ

松原 わからない。自分以外はわからないですもん

ないような表現に著作権はシフトしていって、AI がね。人間同士、相手が考えていると仮定しているわ

できる表現については著作権が抑制的になるという

けですけど、AI も受け答えさえよければ、考えていか、特に権利が与えられないような世界というのはると仮定してしまいます。

あり得るなと思いました。

8

鳥海 人間が書いたことそのものにだけ価値が生ま

実積 人間の場合に置き換えて考えると、例えば地れると。
「AI じゃなくて、これ、人間が書いたんです

球の裏側で日本語のうまい人が俳句を作って、こっよ」ということに驚かれる世界になる可能性もある

ち側でもたまたま同じ俳句を作ったら、お互いに著わけですね。

作権が同時に発生して、侵害はないという状況？

実積 自然農家で作った米と同じように。

加藤 実際には、依拠性を見るんですね、議論とし宍戸 人間コンテンツ保護法みたいな感じ。

ては。大体そういう創作した時って、例えば俳句の鳥海 AI が著作物を作っていったらどうなるかとい会で詠んだとか記録が残ったりするじゃないですか。

う話をもう少し突っ込んでいくと、将来的に著作物っだから、ほとんどの場合、優劣はつく。ただ、プロて AI が大量に作っていくものになる世界が来る可能

グラムの場合は、プログラムが例えば同時にできて性は高いですよね。音楽には AI 作曲ってあって公開なくてもよくて、出力がたまたま同時だった場合といされているんですよね。権利関係についてはサイト

う可能性もあるわけですよね。プログラムは明らか

によって権利関係は違っていて、全部自由に売り出に違うわけですよ、A と B は。ただ、出力結果がたましてもいいですよというところもあれば、名前だけ書

たま同じになっちゃったと。

いてくれというところもあるといった感じらしいんで

鳥海 依拠性に基づけばいいのでは？

すけど。音楽がそこまで行ったんだとすると、作曲

加藤 依拠性で判断する場合は、B に A′が入力され家が要らない時代も来るかもしれない。

ていない限りは、A′を参考にしたとは絶対に言えな

加藤 AI の場合には、人格権はないみたいな、そうい。つまり A′が B の入力に使われていないというこいう世界になるかもしれないですね。AI が作ったもとさえ証明できれば、B` は絶対この A` とは独立。だのだと同一性保持権を認めなくてもいいみたいな。

から、人より整理しやすいと思います。

実積 その時、「いや、これは AI じゃなくて、俺が一方で、著作物の場合は、誰かに被害を与えるこ書いたんだ」と言う人が後から出てきたらどうなるとはあんまりないから責任問題にならないけど、AIんだろう。

の場合って、付加的に何か権利が得られるんだった

宍戸 それ、僭称問題なんですよ。AI が作ったもの

ら、責任も生じちゃうわけですよね。問題が発生しには法的な保護は与えないということであるとするた時に、何か責任というのはどうなるのかというのと、自分が何か欲しい人は、AI が作ったものでも、がちょっと気になって。芸術的作品だけじゃないか

俺が作ったと言えばいい。

もしれない。でも、その場合にも同じロジックが成り

鳥海 著作権の侵害といっても、侵害された側は別立たないとおかしいかなと思うんですね。

に AI だから、それによって誰かが不利益を被るもの

宍戸 芸術作品でも神様を罵倒する物が出てきたとでもないわけですね。

いったらどうなるんだとか。

加藤 ちなみに、AI を研究される立場からすると、

鳥海 プログラムを作った人に、おまえにも責任がAI そのものを保護するというのと、AI の出力結果をあるだろうとなると嫌ですね。

保護するというのは、どちらのほうが魅力的なんで実積 今の整理だとプログラムを作った人じゃなくすか。何でそんな質問したかといいますと、AI が出て、それを使って出力させた人に責任が発生する。

力した結果を保護するのであれば著作権法、AI その加藤 つまり、道具なわけですよね、A とか B って、ものを保護するのであれば特許のような形になるの究極な言い方をすると。それを使う人がいて、そのではないかと思ったからです。

道具を使った結果として A′というものが出てきたと。

松原 プログラムということですか。

そうすると、道具を使った人が悪いのか、道具を作っ鳥海 だとすると、出力を保護するというよりは、た人が悪いのかという議論は常にあるので。

やっぱりプログラムだと思いますね。

宍戸 常にぴったり一致するとは限らないです。そ松原 プログラムなんじゃないかと思います、技術

れは状況に依拠しているので。

者の感覚は。

鳥海 誰かが AI を使って新たに著作物を作って不利加藤

例えばプログラムのほうに著作権を認めて、益が生じた場合に、プログラムを作ったほうに責任

そこの派生的な権利として出力に対して権利を与えがフィードバックされてくるみたいなことが起きる？

るみたいなそういう構成にしちゃったほうがいいん

小説を書く AI が差別用語を書き出しましたといったでしょうか。そうするとなんですけど、例えばＡとい時に、その責任は選択した人よりも差別用語を吐きうプログラムとＢというプログラムがあって、同じ出出した AI に生じるんですかね。

力があったとしても、A` と B` で別な権利の対象だか

加藤 いわゆる二次著作物みたいな考え方を取ってら競合しないという考え方もあり得るわけです。

もいいと思います。つまり、
もともとプログラムがあっ9

【講演録】「人工知能と法律」研究タスクフォース 2020 年座談会 AI が創る著作物の現状と課題て、軽微に依拠したのか、それとも、思い切り依拠

宍戸 AI に法人格を認めるかどうかがまず問題です

してそのまま使っているのかで、派生的に著作してよね。金融取引がリアルタイムで行われて、AI が勝いるのかどうなのかという考え方があるので。

手にお金儲けをしているわけですよね。ただ、実積

鳥海 そうか。単なる道具以上の何かということに先生がおっしゃるのは、もっと自律的に、いろんななるかですね。例えば小説書くのに使いたいから、選択肢を勝手に自分の中で、ここに投資するとか。

そのプログラムそのものに対価を払うのはありだと

実積思いますが、その後の著作物に対してまで対価を求目的達成するために自分で資金を集め出す。そうなっめるという流れではなさそうな気がする。プログラムてくると、本当に後ろの人が存在しない可能性があの作成者が対価をもらうとした時に、俺はこれで小る。でも、そういう段階になる前は、人間が関与す説書きたいから対価払って小説生成機を買うわといるビジネスモデルが回っているはず。

う考え方をするというのが、これは自然かなと思うん

鳥海 結局、やっぱり道具でしかない。

ですよAI は、何か目的を与えられているわけですよ。

制作者の意思と権利の現状

宍戸 パソコン売った人が、パソコンによって物凄くいい小説書いた人がいた時に、そのパソコンのメー
カーさんが、俺の権利よこせと言わないようなものですね。

鳥海 ちなみに、『ぱいどん』の場合は、誰が描こう

実積 ただし、高性能パソコンを AI 研究者に渡してという意思は誰が持っていたんですか。

「これ、ただで使っていいですよ。その代わり、儲け松原た場合に１割下さいよ」という形で契約するのはあ

提案を募集した時に、外国の広告代理店が提案して、僕の認識は、キオクシアがお金を出して何かり得る。

手塚プロに話が行って、僕たちに話が来て、このプ

加藤 今だったらゲームを遊んだ様子を YouTube でロジェクトがスタートしている。
トータルでは、仕切っ

流す時には、そこで流した YouTube で得られた対価ているのはその広告代理店だけど、具体的に『ぱいの何％をゲーム制作者にくださいねというようなもどん』にしたのは手塚プロなんですよね。お金はキのですね。

オクシアが出して、広告代理店が広告費として一度

鳥海 そうなると著作物とかではなくて、ただの契一気に全部もらって、それで、手塚プロに幾ら、栗約の話ですよね。

原研に幾ら、松原研に幾らというお金が来ました。

加藤 著作権の話でもあるんですよ。もともとの著

加藤 Kindle を見ると、TEZUKA2020 プロジェクト

作物を使って、ゲームの画面に出てくるものというとなっているので、ここに多分権利を集約している。

のはゲームのプログラムがもともと予定していたも松原 そういう意味ではそうです。それに僕も入っのだという考え方を取るので、だから、全てそれにているし、栗原も入っているし、手塚プロも入っては著作権があるという考え方を取るんですね。

いるし、仕切っているのはその広告代理店。キオク鳥海 その解釈でいくと、AI が出したものというの

シアも入っている。

は、一応もともと予定されているものだから、やっぱ

鳥海 現在の状態では、多分 AI が著作物を作ろうとりそこには著作権があるけれども、AI が出したものなった場合は、基本的には何らかの事前の交渉といだから、著作人格権とかはどうなるのか。

うのがあって、プロジェクトがちゃんとつくられて、

加藤 そこがちょっと難しいところなんですよ。通

そこが著作権を持つよというのをちゃんと定義して常のプログラムでどこまで求めるのか。ゲームの場

からスタートすることになりますね。

合はそうなんですけど、それが Word とか Excel とか

松原 そう。法律的にはともかく、今回のプロジェ

PowerPoint みたいなプログラムの場合には、普通はクトについては、TEZUKA2020 委員会が全体として言わないですよね。

そういうのを持っていて、何かあると、「こういう話

鳥海 逆に AI の場合は、もっと強く言えそうですね。

が来ております。問題ありませんでしょうか」と今実積 AI のサービスを提供する会社が著作権を主張でも来る。それで、「いいです」ってみんな返事して、するんでしょうね。ただ、AI が自分で会社を作って、法律的に厳密にはどうかわからないけどそこで了解

ビジネスモデル回すようになったら、著作権は誰のもを得ている。

のになるんだろう。鳥海 そういうプログラムを作っ

鳥海 著作権はプロジェクトが法人格でもっているた人じゃないですか。その AI を作った人じゃないでんですかね。

すか。そもそも株の取引をやって、こういう行動を

加藤 権利を集約するんですよね。映像の著作物とする AI を設計した人がいたわけですよね。

か、映画の場合は条文上明示されているんですけど、

10

例えばテレビ放送とかの場合に権利の集約が難しい
場合があって。というのも、制作に関わると、みんな著作権が生じるんですよ。音声とかメイクさんとか。全員に生じます。それを集約するのに制作委員
会方式というのを取ることがある。あともう一つは、
職務著作の可能性も検討する必要があります。実はそれの亜種みたいな形で AI を考えられるのではないでしょうか。

鳥海 なるほど、そういう形であれば、今の法律上も全く問題なく AI が著作物作っていくということができるわけですね。

鳥海 というわけで、AI 著作物について、その著作権の在り方を中心に現代から未来まで議論してきました。現状では AI に著作物を作らせる場合の権利関係については『ぱいどん』はひとつのモデルケースになるかもしれませんね。そして、AI がさらに発展していった未来には、そもそも著作権という概念自体を再構築する必要があるというまとめになったかと思います。
では、最後に皆さまから一言ずつお願いします。

松原 著作権の法律ができた時は創意工夫を人間以外のものがまさかできるようになるかもしれないとは思わなかったということですね。AI の進歩によって創意工夫とは何かを考え直すようになったのは AI研究者としてうれしいことだと思います。

宍戸 AI が既存の社会を前提にした法制度を見直す
きっかけになることは多いと思いますが、今回は AI
著作物という切り口で議論して勉強になりました。ありがとうございました。

加藤 AI について議論にする際に、どのような AI
を前提とすれば良いのかがずっと疑問でした。特に、既存の法制度の解釈の範囲に落ちるのかどうかは非常に重要な課題だと感じていましたが、今回の議論
で少しその範囲が見えてきたような気がしました。

実積 今回の議論で分かってきたのは「人間の活動ってこういうものだ」とざっくり捉えてきた我々の認識の再検討が必要ということ。創作と作業の違いについて改めて考えて切る良い機会になりました。

11