Column 知財の国際舞台からVol.37 「信頼できる AI とは ?」WIPO 事務局長補

1．ChatGPT 登場
2022 年 11 月に ChatGPT が公開されて、世界中で様々な利用例が紹介されるなど毎日のように関連の話題が報道され、文字どおりバズっているといったところか。その一方で、世界各国で規制が検討されるなどして
おり 1、日本でも大学などでレポート作成に使うことを禁止や制限する動きも出ている 2。G7 デジタル・技術大臣会合で採択された閣僚宣言でも最近の動向を念頭に置いて信頼できる AI に関する項目が盛り込まれた 3。
この原稿が掲載される頃には状況はさらに進展していることは間違いないであろうが、この機会にいわゆる生成 AI に つ い て 取 り 上 げ て み た い。 な お、 本 原 稿 はChatGPT を含めた AI によって書かれたものでないことを念のため書き添える。

2．生成 AI
テキスト、画像、動画、プログラムコードなどを出力（生成）する AI アルゴリズムもしくは AI のことを生成AI（generative AI）と呼ぶが、ChatGPT もその一つで あ る。 使 っ て み た 方 は お 分 か り か と 思 う が、ChatGPT などは驚くほど滑らかな（もっともらしい）文章で応答を返してくる。
2023 年 4 月には、AI によって生成された画像が国際写真コンテストで 1 位を受賞したものの、作品の応募者であるアーティストが AI を用いたことを明らかにして受賞を辞退したケースもあった 4。また、当地スイスでは、4 月 27 日にラジオ局が朝から夜まで 13 時間にわたって AI 音声、音楽を使って AI が進行して番組を放送するという実験的試みをした 5。

3．知的財産の観点は今やお茶の間の話題にもなっているであろう
ChatGPT などの生成 AI であるが、知的財産関連の論点も見逃せない。
（1）発明者、創作者
AI を発明者として記載した特許出願が各国でなされたニュースをご記憶の方もおられよう。この出願は各国

36 ｜ IP ジャーナル 25 号（2023.6）

夏目 健一郎で手続きが進んでいるが、今のところ発明者としては自然人であるべきで AI は想定されていないとして、出願が拒絶されるというケースが多い 6。
同様の問題は音楽、画像、小説等の著作物においても考えられる。現在の制度は発明者、創作者として人間を想定し、AI のようなコンピュータは想定していないということかもしれないが、（近いかもしれない）将来、人間の関与が限りなく少なくなって AI がより自律的に発明、創作を行うようになった場合にどのような対応が望ましいのかを考える必要はある。
仮に AI を発明者、創作者としない場合、では誰が発明者、創作者なのかという問題がある。AI アルゴリズ
ムを開発した技術者なのか、AI を操作した者なのか。
これらの論点について関係者の見解が収束しているという段階ではないが、WIPO としては、どのようなオプションが考えられ、それぞれのオプションについてどのような検討が必要となるのかという文書を今年の 9 月完成を目指して鋭意作成している。各国の政策立案者が本件を検討する際の一助になることを期待している。
（2）AI からのアウトプット
AI からのアウトプットについても、これを発明や創作ととらえるのか。例えば米国では AI が生成した画像そのものには著作権は認めない立場を著作権局は示している 7。もっとも AI が生成した画像に人間が手を加えるなどした場合は、扱いは異なることが考えられる。また発明については、仮に発明として認めるとしても、それが特許として認められ得るかどうかはさらに検討が必要である。

まえれば、全てについて許諾を得なければならないとなると、現実的には極めて困難であろう。一方、創作者にしてみれば自分の著作物を勝手に学習データとして使われたくない、という意向を持っている場合もある 8。実際に米国ではアーティストたちが画像生成 AI が彼らの作品の著作権を侵害しているとして訴訟を起こしたケースも出てきている 9。
日本の場合、著作物に関しては、著作権者の利益を不当に害することがない範囲で、AI が学習用データを学習する行為（情報解析）のためであれば、許諾を得ずに使えるとされているが 10、例えば欧州では著作権保護の対象になる素材の使用を開示する方向で検討がされているとの報道もあり 11、各国で状況が異なるので注意が必要である。
（4）権利侵害
画像を生成する AI は、まれにではあるが学習データとまるで同じ画像を出力してしまうことがあることが報告されている 12。学習データが著作権で保護されている場合には著作権侵害の問題が発生してしまう。著作権侵害とする場合、侵害をしたのは誰になるのか。AI なのか、AI の開発者なのか、AI を操作した人間なのか。
このように知的財産に関しても様々な検討事項がある。

4．どこまで信頼できるか
滑らかでもっともらしい回答を返してくれる生成 AI
であるが、内容が必ずしも正しいとは限らないことは随所で指摘されている。生成 AI は様々な場面での活用が期待されるが、少なくとも現時点では出力のすべてが正しいとは限らないことを理解した上で、人間の側で生成AI をどこまで信頼できるかを見極めつつ、賢く使いこなすことが求められる。
そう言っている間にも、生成 AI の出力が正しいかどうかをチェックする AI が開発されるかもしれない。

1（3）AI の学習データ
現在の生成 AI は大量の学習データをインプットすることにより、コンピュータに深層学習（ディープラーニング）をさせて、性能を向上させている。学習データは映像、画像、音声、音楽、小説、デザイン、技術文献など様々なものが考えられるが、これら学習データの知的財産権の扱いもまた検討が必要である。
例えば著作物等を学習データとして用いる場合に権利者の許諾を得なければならないのか、それとも許諾を得ずに使えるのか。学習データの量が膨大であることを踏

https://www3.nhk.or.jp/news/html/20230415/
k10014039621000.html
https://news.yahoo.co.jp/articles/0ab2c296a448b5f363
394d464f644f2fd236cb2e
3
閣 僚 宣 言 G7 デ ジ タル・技 術 大 臣 会 合 2023 年 4 月30 日、39-48 段落及び附属書 5。閣僚宣言を含めた開催結果について2は https://g7digital-tech-2023.go.jp/topics/
topics̲20230430.html からアクセス可能。
https://www.forbes.com/sites/mattnovak/2023/
04/17/artist-reveals-his-award-winning-photo-wascreated-using-ai/（日本語記事はhttps://forbesjapan.com/articles/detail/62552）。
5
https://www.rts.ch/info/sciences-tech/medias/
13976194-les-intelligences-artificielles-semparent-delantenne-de-couleur-3.html, https://apnews.com/article/
switzerland-radio-gpt-artiﬁcial-intelligence-9270ef1359130ceec8a0c1ﬀaa340206
6https://www.ipstars.com/NewsAndAnalysis/The-latestnews-on-the-DABUS-patent-case/Index/73667
https://www.copyright.gov/docs/zarya-of-the-dawn.pdf
8
日本の例では、https://support-creators.com/archives/87。
9
例 え ば、https://artnewsjapan.com/news̲criticism/article/698。
10
日本国著作権法第 30 条の 4では次のように規定している。
第三十条の四 著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合
は、この限りでない。
一 （省略）
二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。
）の用に供する場合その上で、文化庁著作権課は「デジタル化・ネットワーク化の進展に対応した柔軟な権利制限規定に関する基本的な考え方」（https://www.bunka.go.jp/seisaku/chosakuken/
hokaisei/h30̲hokaisei/pdf/r1406693̲17.pdf）の問11において、通常は、人工知能が学習用データを学習する行為は、「情報解析」に当たると考えられるとしている。
また、著作権法の一部を改正する法律（平成 30 年法律第30 号）に関するQ＆Aにおいて、人工知能の開発を行うために著作物を学習用データとして収集して利用する行為を例示
し て い る。
（ht tp s:/ / w w w .bunk a.g o. jp / s eisaku/
chosakuken/hokaisei/h30̲hokaisei/）11
https://www.reuters.com/technology/eu-lawmakersc ommit t e e -r e ache s - de al - ar tificial -int ellig enc e act-2023-04-27/
12https://arxiv.org/pdf/2301.13188.pdf, https://www.
gizmodo.jp/2023/02/ai-art-generators-ai-copyrightstable-diﬀusion.html
4

NATSUME, Ken-Ichiro（WIPO 事務局長補）
日本国特許庁にて審査官、審判官としてエレクトロニクス、コンピュータ関連の審査、審判業務に携わる。その間、カリフォルニア工科大学客員研究員、特許庁国際課、総務課、調整課審査基準室、外務省経済局、在ジュネーブ国際機関日本政府代表部などにおいて、特許行政、国際交渉にも従事。2012 年に WIPO 日本事務所所長に就任し、PCT 国際協力部長、PCT 法務・国際局上級部長を経て、2021 年 1 月から現職。

IP ジャーナル 25 号（2023.6）｜ 37