知財法務の勘所Ｑ＆Ａ（第80回）
生成AIの法的リスクと実務上の留意点

アンダーソン・毛利・友常法律事務所外国法共同事業
弁護士・カリフォルニア州弁護士

井上乾介

弁護士

福井佑理

2022年の11月のOpen AI社によるChat GPTのリリースを皮切りに、生成AIに大きな注目が集まっています。チャット方式で文章を生成するAIのほか、画像を自動生成するAIなども登場しました。AIの開発競争が過熱するなか、その便利さだけではなく、社会に与える負の影響についても各国で議論が進んでおり、グローバルに規制の動きもあります。今後ますます重要性が高まると思われる生成AIにかかわるリスクについて、法的観点から概説します。

Q1
A1

生成AIに関する問題が話題となっていますが、事業における法的リスクとしてどのような点に注意が必要でしょうか。
事業における法的リスクの観点からは、まず著作権法に関するリスクが挙げられます。このリスクは、生成AIを開発・提供する事業者だけではなく、事業において既存の生成AIを利用する場合にも注意が必要です。これらの行為により著作権侵害が成立する場合、損害賠償請求や差止請求等を受ける可能性があります。
それ以外にも、肖像権やパブリシティ権の侵害となる場合がありうるほか、商標権など他の権利にかかわる問題が生じることもあります。それぞれの問題の詳細はQ２以下に解説します。
具体的な問題点について検討する前に、生成AIの仕組みについて簡単に説明します。ここではGPT（Generative Pre-trained Transformer）という大規模言語モデルを取り上げます。（法的問題の所在を明らかにすることが目的のため、単純化して説明します。）（a） 開発・学習段階
このモデルでは、ある文章を入力した場合に、その続きの文章を生成させます。生成するために、大量の文章をモデルに学習させ、ある文章の後に続く確率の最も高いテキストを生成するように調整します。この学習を繰り返し、調整を重ねます。例えば、「生成AIに関する法的問題として」の次に、「著作権に関する問題があります。」と生成させるために、学習データとして、正解となるテキストだけではなくほかのテキストも多数学習させた上で、意図するテキストが表示されるようにします。実際には単語ごとに調整されるのでより複雑ですが、この学習の際に、既No. 257― 53 ―知財ぷりずむ2024年２月

存の著作物が用いられる場合に問題が生じ得ます。

ָस༽υʖν೘ྙʀࢨָࣖस༽υʖνָस༽Ϗϧϟʖνιρφָस༽ϕϫήϧϞָसࡃΊϠυϩָसࡃΊϠυϩ$,ਫ਼੔෼ਬ࿨༽ϕϫήϧϞཤ༽（b） 生成・利用段階
さらに、この学習済モデルを利用して、テキストを生成します。生成する場合は、学習済モデ
ルに利用者が指示を与え（プロンプト）、それに従い、テキストが自動生成されます。このAI生成物をユーザが利用します。この生成をさせる際や利用の際に、問題が生じる場合があります。
なお、今回取り扱う法的問題以外にも、誤情報やバイアスを含んだモデルの作成や利用等により企業のイメージが低下するなど、ビジネス上のリスクや倫理上の問題も懸念されています。

Q2
A2

キャンペーン用にキャラクターを自動生成するAIモデルを開発したいと思います。
生成AIの開発・学習段階における著作権法のリスクはどのようなものがありますか。
上記Q１で見たとおり、生成AIの開発過程では、多数の学習用データが必要となります。キャラクターという抽象的な概念自体は著作権の保護の対象ではありませんが、キャラクターを描いた各イラスト等の表現は、創作性があれば著作物として保護されえます。したがって、例えば、人気キャラクターのイラストを学習させたAIモデルの開発は、開発及び学習のために当該イラストを複製しており、これが適法であるか問題となりえます。
１．生成AI開発・学習と著作物の利用における享受目的と非享受目的（著作権法30条の４）
著作物を複製する場合は原則として著作権者の許諾が必要であり、許諾ない利用は違法となります。しかし、著作権法30条の４は、非享受目的の利用行為について権利制限を認めているため（以下の下線部参照）、これに該当すれば許諾なく利用することができます。

著作権法30条の４
著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
（以下略）

No. 257― 54 ―

知財ぷりずむ2024年２月

知財法務の勘所Ｑ＆Ａ（第 80 回）

非享受目的の場合享受目的の場合（当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的とする場合）
非享受目的と享受目的が併存する場合
どのような場合が非享受目的となるかについて、AI学習に用いるなど、情報解析の用に供する場合１はこれに該当すると考えられています。
しかし、非享受目的があってもそれが享受目的と併存する場合には、30条の４が適用されず、権利制限はされないとの解釈があります。例えば、学習データである著作物の一部を出力させる目的でAIモデルに学習させる場合は、享受目的が併存すると判断される可能性があります２。特定の著作者の作品のみを学習させ、その著作者の作風を表現するモデルを制作するような場合も問題になる場合があります。
２．著作者の利益を不当に害することとなる場合（著作権法30条の４ただし書）
上記の非享受目的とされる場合でも、著作者の利益を不当に害することとなる場合には、著作権法30条の４ただし書によって権利制限が認められません。
例として、データベースの著作物が販売されている場合に、そのデータベースを情報解析目的
で 複 製 す る こ と が 挙 げ ら れ て い ま す。 さ ら に、 有 償 で API（Application ProgrammingInterface）が提供されている場合にも、そのデータベースに含まれる情報の一部分を複製する行為は、情報解析目的であってもこれに該当し、権利制限はされないと考えられています３。
３．軽微利用として許される場合（著作権法47条の５）
なお、法30条の４が適用されない場合でも、著作物の「利用に供される部分の占める割合、その利用に供される部分の量、その利用に供される際の表示の精度その他の要素に照らし軽微なもの」については著作権者の許諾を得ることなく利用が可能な場合があります。
これらの点は、文化審議会で議論されている点ですので、今後の議論の動向を注視する必要があります。

Q3
A3

業務において生成AIが自動生成したキャラクターを使うことを考えています。生成
AIの生成・利用段階における著作権法上のリスクはどのようなものがありますか。
学習済の生成AIモデルを使って、新たなキャラクター（AI生成物）を自動生成しそれを利用する場合には、その生成行為（複製等）と利用行為（利用の方法により複製や公衆送信等）について著作権侵害となる場合があります。
これまでの裁判例では、問題となるコンテンツが、既存の著作物との類似性及び依拠性を有する場合に、著作権侵害が成立すると判断されてきました。

１
２30条の４第２号参照。
文化審議会著作権分科会法制度小委員会（第５回）資料「AI と著作権に関する考え方について（素案）」４頁
３ 同上７頁

No. 257― 55 ―

知財ぷりずむ2024年２月１．類似性について
類似性については、これまで、問題となるコンテンツと既存著作物の創作的表現が共通しているかが判断のポイントとされてきました。AI生成物の既存著作物との類似性についても、AIを用いないコンテンツの場合と同様に判断されると考えられています。
２．依拠性について
依拠性については、これまで、問題となるコンテンツと既存の著作物が類似している場合に、問題となるコンテンツの制作者が既存の著作物を知っていたか、既存の著作物との同一性の程度、制作の経緯などを考慮要素として判断されてきました。AI生成物の場合も、例えば既存のキャラクターを認識しており、これに似せるように指示して作られたものなどは、これまでどおりの基準により依拠性があると判断される可能性が高いと考えられます。
一方で、AI生成物の場合に起こりうる問題として、AI利用者が既存の著作物の存在を知らなくても、AIの開発及び学習の際に既存の著作物を学習していた結果、類似の生成物が生成される場合があり、依拠性が認められる可能性があるとされています４。
（この場合、侵害行為の責任主体がAI利用者となるかAI事業者となるか、別途検討が必要になります。）今後どのような場合に依拠性が認められるか、その立証または反証をどのように行うのか、今後の議論の深化が期待されます。
３．AI生成物の著作物性についてさらにAI生成物は著作物として保護されるのか、という点が問題となります。著作物として保護されるのであれば、AI生成物の利用について許諾を得る必要があります。著作物とは「思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものをいう」と定義されますが（著作権法２条１号）、AIで自動生成された場合に人間による表現活動ではなく、これに該当するのかが問題となります。
著作物性の判断は、個別の事情を考慮して創作的寄与の程度を総合的に判断することにより行われます。これまでの議論では、AI利用者の指示・入力（プロンプト）の内容の詳細さや、生成の過程においてどのように生成物を選択していったかなど、関与の程度が判断要素となり得るとされています。今後、どのような点を満たせば著作物とされる可能性があるのか検討が進むものと考えられます。
この点について、外国の例をみると、アメリカでは、2023年に、生成AIが自動生成した生成物 に つ い て、 機 械 に よ る 創 作 で あ っ て 人 間 に よ る 関 与 が な い こ と を 理 由 と し て 著 作 権 局（Copyright Oﬃce）が登録を拒絶し、裁判所がその判断を肯定した例があります５。一方で、中国では、人間の創作的寄与を認めてAI生成物にも保護を与える判断をした例６があります。いずれもAI生成物の著作物性を確定的に判断したものではなく、今後の判断が待たれます。
４ 同上14頁
５ A Recent Entrance to Paradise事件。Thaler v. Perlmutter, Case No. １:22-cv-01564, (D.D.C. 2022)
６ Seagull Song, China s First Case on Copyrightability of AI-Generated Picture, King&WoodMallesons (https://www.kwm.com/cn/en/insights/latest-thinking/china-s-first-case-oncopyrightability-of-ai-generated-picture.html)

No. 257― 56 ―知財ぷりずむ2024年２月

知財法務の勘所Ｑ＆Ａ（第 80 回）

Q4
A4

自動生成するのがキャラクターではなく、タレントの場合はどうでしょうか。

タレントの容ぼうをデータとして学習したモデルを開発したり、それにより自動生成された生成物を利用したりする場合には、肖像権やパブリシティ権の侵害となる場合があります。
１．生成・開発段階
肖像権は一般的に、みだりに容ぼうを撮影・公開されない権利と説明されます。生成AI開発
及び学習の段階においては、学習データとなる人物の容ぼうの撮影も公開も行っておらず、侵害とならない可能性があります。
パブリシティ権は、もっぱら肖像等の有する顧客吸引力の利用を目的とする場合に侵害となるとされます。具体的には、①肖像等それ自体を独立して鑑賞の対象となる商品等として使用する場合、②商品等の差別化を図る目的で肖像等を商品等に付す場合、③肖像等を商品等の広告として使用する場合、等が挙げられます。肖像を用いた生成AIの開発及び学習行為のみではこれらに該当せず、侵害とならない可能性があります。
２．生成・利用段階
一方で、タレントの容ぼうを学習済みのモデルによる生成物をビジネスに利用する場合には、その行為が容ぼうの「公開」に該当するとして肖像権侵害が成立する可能性があります。また、生成物を広告等への使用した場合には、タレントの肖像のもつ顧客吸引力を利用するものとしてパブリシティ権の侵害が成立する可能性があります。

Q5
A5

著作権法に関する点以外に、留意すべき法的リスクを教えてください。

著作権法以外にも、上記Q４の肖像権・パブリシティ権に関する点のほか、商標権に関する法的リスクが考えられるます。また、生成AIの開発等にあたっては、情報の取扱いについても法的リスクが生じる可能性があります。
１．商標の利用について商標権侵害は、製品やサービスの出所を表示する態様で使用する場合に成立します。企業のロゴなどを学習させたモデルを開発すること自体は、これに該当せず、侵害が成立する可能性は低いでしょう。しかし、学習済データを利用して既存ロゴに類似のロゴを生成し製品に付すなどして利用する場合には、商標権侵害となる場合があります。
２．情報の取扱いについて
生成AIの学習データとして、著作物以外にも様々なデータが用いられる場合があります。例
えば、個人情報保護法の定める「個人情報」等はその取得や利用について法律上の要求を満たす必要があります。したがって、個人情報等を使用する場合には、情報取得時の利用目的の範囲内であるか、利用する情報の種類、取得時の同意の内容などについてAI開発や学習に対応していNo. 257― 57 ―

知財ぷりずむ2024年２月

るか確認が必要です。また、生成AI開発のために外部業者に学習データを提供する場合には、個人情報保護法上の第三者提供にあたるか、その要件を満たしているかについて注意が必要です。個人情報以外にも、機密性の高い情報については慎重な取り扱いが必要です（Q６参照）。

Q6
A6

営業活動に必要な情報を生成AIを使って処理したいと考えていますが、どのような点に留意が必要でしょうか。
生成AIが取り扱う情報の内容によっては、企業が不利益を被る場合がありえます。

生成AIの学習段階で、顧客情報や未発表の製品情報などを学習用データとして使用する場合があります。これらの情報について、不正競争防止法上の「営業秘密」として保護を受けることを意図する場合、①秘密管理性、②有用性、③非公知性、の要件を満たす必要があります。
AI開発や学習の際に、これらの情報を用いる場合、情報提供の態様や範囲によっては、①の秘密管理性を喪失し、営業秘密としての保護を受けられなくなるおそれがあるとの指摘もあり、慎重な検討が必要となります。

Q7
A7

今後、AIに関してどのような規制があるのでしょうか。また、海外の動向はどうでしょうか。
日本をはじめ各国でAIに対する規制の検討が進んでいます。その内容は、法的規制から、法的拘束力を持たないものまで様々であり、今後も変化していくものと考えられます。さらに国を超えた取り組みも模索されています。
日本では現在、新AI事業者ガイドラインの検討が進んでいます７。これまで、AIに関連するガイドラインは各省庁から公表されており、ガイドラインを参照する事業者にとってわかりづらい状況となっていました。これを解決し、AI事業者及び業務におけるAI利用者に対して、統一的な指針が示されることが期待されています。
アメリカでは、2023年10月に安全・安心・信頼できるAIの開発と利用に関する大統領令８を公表されているほか、AIの安全で責任ある使用を促進するための新たなイニシアティブを公表するなど、AIに対する規制強化を進めています。
EUでは、AI Actの成立に向け議論が進められています。同法案はリスクに応じたAI規制を定めており、罰則も定められる予定です。世界初となると思われる法規制の内容は、今後その他の国における規制内容にも影響を与えることが予想されます。
以上のとおり、生成AIをめぐる法的リスクは多方面に及ぶ可能性があり、事業においてどのように生成AIとかかわるのかによって問題となりうる点や対応方法も異なります。実務におい

７８

内閣府AI戦略会議での議論を参照。
Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial
Intelligence

No. 257― 58 ―

知財ぷりずむ2024年２月

知財法務の勘所Ｑ＆Ａ（第 80 回）ては事案の慎重な分析が必要となるほか、今後の国内及び国外の議論の発展に即して対応していくことも求められます。

No. 257― 59 ―

知財ぷりずむ2024年２月