生成AIに関するルール形成等の動向（「令和5年度 Beyond 5G時代に向けた新ビジネス戦略セミナー（第17回）」 ）（2023年9月1日）
弁護士法人S&K Brussels法律事務所
代表弁護士（日本・ニューヨーク州・ブリュッセル（B-List）） 杉本 武重
カウンセル弁護士（日本） 乾 香織
D +81(0)3 6410 8315 / +32 494 67 33 51
takeshige.sugimoto@sandkbrussels.com
kaori.inui@sandkbrussels.com
www.sandkbrussels.com© S&K Brussels LPC 2023. All Rights Reserved.

目次
I. ビジネス化に当たって考慮すべき生成AIの課題（知的財産権やプライバシー保護）
1. 生成AIのユーザーとしての知的財産権の使い方、注意点など
2. 生成AIを使う際のルール面での落とし穴（主にプライバシー保護）
II. 生成AIに関する日本を含む各国の規制の動向
III. まとめ2© S&K Brussels LPC 2023. All Rights Reserved.

3
4

36
46
79

I. ビジネス化に当たって考慮すべき生
成AIの課題（知的財産権やプライバシ
ー保護）3© S&K Brussels LPC 2023. All Rights Reserved.

1. 生成AIのユーザーとしての知的財
産権の使い方、注意点 など

4© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について著作権とは◼ 著作権とは、著作物を創作した者（著作者）に与えられる、他人が「無断で○○すること」を止めることができる権利（○○することについての排他的権利）（支分権）• ○○には、複製、上演、演奏、公衆送信などの利用形態が法律で規定される✓ 日本の著作権法では「著作者は、その著作物を複製する権利を占有する」（著作権法21条「複製権」）などと規定（同法21条から28条）• 著作権は、申請や登録などの手続きを一切必要とせず、著作物が作られた時
点で自動的に付与するのが国際的なルールとされる（無方式主義）◼ 著作権により保護される対象たる「著作物」の定義は、各国の法律による• 日本の著作権法では、以下のように規定（同法2条1項1号）① 思想又は感情を② 創作的に③ 表現したものであって、④ 文芸、学術、美術又は音楽の範囲に属するもの◼ 著作権は、各国の法律によって保護されるものである一方、著作物は、国境を越えて利用されるため、世界各国は、次のような多数国間条約により、著作物等を相互に保護している（条約の概要につき次スライド参照）• 文学的及び美術的著作物の保護に関するベルヌ条約（ベルヌ条約）• 万国著作権条約• 知的所有権の貿易関連の側面に関する協定（TRIPS協定）• 著作権に関する世界知的所有権機関条約（WIPO著作権条約）
5© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について著作権とは◼ 著作権に関する主要な条約の概要
条約名

6

概要

ベルヌ条約

1896年に署名された文学的・美術的著作物の保護に関する条約
無方式主義、外国人の著作物を保護する場合に自国の国民に与えている保護と同様の保護を与える内国民待遇などを定める
2023年2月28日現在（以下同）締約国数179（大多数の国が1971年のパリ改正条約を締結）

万国著作権条約1952年に署名された条約で、当時、著作物の登録を義務付ける方式主義を採用していた米国等が参加できる条約として、著作権マーク（©）の表示より無方式主義国の著作物を方式主義国でも保護することなどを定める締約国数100（ただし、現在では米国等も国内法を改正し、ベルヌ条約を締結していることから、この条約の存在意義は大きくないとされる）

TRIPS協定

1994年に合意が成立した世界貿易機関（WTO）設立協定の附属書として1995年1月に発効した協定であり、知的財産の保護水準を規定する枠組み
著作権との関係では、ベルヌ条約の規定する保護内容の遵守、コンピュータ・プログラムやデー
タベースがベルヌ条約上の言語著作物として保護されること、コンピュータ・プログラム等の貸与に関する権利などを規定する締約国・地域数164

WIPO著作権条約

デジタル化、ネットワーク化など情報関連技術の発達に対応し、国際的な著作権の保護の改善を目的として1996年12月に世界知的所有権機関（WIPO）において採択された条約
コンピュータ・プログラムやデータベースの保護を確認するとともに、著作物の譲渡権・貸与権・公衆への伝達権、（電子媒体を保護する）技術的手段の回避を防止すべきことなどを規定する締約国・地域数113© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について問題の所在：全体像◼ 生成AIと著作権の関係では、主要法域のいずれにおいても、①AI開発・学習段階、②生成段階、③生成物の利用段階について、それぞれ次の点が主要な論点となっている◼ 著作権者の権利・利益の保護と著作物の円滑な利用のバランスが重要な考慮要
素となる

7

段階

論点

①AI開発・学習段
階AI（学習済みモデル）を作成するために著作物を学習用データとして利用（複製）することは認められるか（著作権の侵害に当たらないか）• 各法域において著作権の制限・例外を定める規定の解釈・適用が問題となる②生成段階

学習済みモデルを利用して生成されたAI生成物について著作権が認められるか認められるとすれば誰が著作者となるか• 「著作物」、「著作者」の定義、解釈の問題• 英国の場合は立法あり• 学習済みモデルの利用規約において権利関係が定められていることもある
理論的には、プロンプト等のインプットとして著作物を入力することが著作権の侵害に当たるかも問題となり得る③生成物の利用段
階

AI生成物の公開、販売などが既存の著作物との関係で著作権の侵害に当たる場合があるかその場合、侵害の責任を負うことになるのは誰か（特に米国において論点となっている）• 従前の判例による著作権侵害の基準に従い判断されることとなるものと考えられるが、生成AIは、①人間とは異なり作風の類似した作品を大量生産することができる点、②AI利
用者はいかなる著作物がAIの学習に使用されたかを知らない可能性が高い点において特有の問題があるとの指摘もある© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について問題の所在：全体像（日本の場合）◼ 日本の著作権法との関係では、前スライドの論点は以下のように位置付けられる

出典：「知的財産推進計画2023」について-AIと知財関連概要- 2023年6月26日 内閣府知的財産戦略推進事務局（https://www8.cao.go.jp/cstp/ai/ai_senryaku/3kai/chizai2023.pdf）

8© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について問題の所在：全体像（略図）【学習段階】

著作物

収集複製

学習用
データセット

入力

学習用
プログラム

学習済み
モデル

著作権の侵害に当たらないか？
• 著作権法30条の4（日本：スライド（以下同）11～13）• CDSM指令4条（EU：14・15）
著作権が認められるか？誰が著作者か？
• フェア・ユース（米国：16・17）• 著作物性（日本：20・21）• 明示規定なし（中国：18）• 著作者の自由で創造的な選択・創作性・識別可能（EU：22・23）【生成段階】• 著作者が作成した創作的な著作物（米国：24・25）• Dearmwriter事件（中国：26）

非著作物
著作物

入力

学習済み
モデル

著作権の侵害に当たらないか？
（実務上問題となることは少ない）

出力

AI生成物
【生成物の利用段階】
販売・アップロード等

学習に使用された著作物に係る著作権を侵害しないか？
• 著作権の侵害に当たり得る
日本（28～31）、EU（32）、米国（33）、中国（34）9© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：問題の所在◼ AI開発・学習段階においては、 AI（学習済みモデル）を作成するために著作物を学
習用データとして利用（複製）することが認められるか（著作権の侵害に当たらないか）が問題となる。
◼ 日本、EU、米国、中国におけるこれまでの議論の整理は次スライド以下のとおり◼ なお、法律論とは別に、①Adobeが提供するFireflyはオープンライセンスの作品や著作権の切れた一般コンテンツを学習データに使用、②クリエイターのイラストに特
殊なノイズを付加してAI学習から保護するツールMist、③AI学習用の大規模データ
セットLAION-5Bに含まれる画像を検索しオプトアウトを可能とするHave I Been
Trained?など、技術面での対応も進んでいる

10© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：日本◼ 著作権法30条の4（平成30年の改正により導入）は、「情報解析…の用に供する場合」など「著作物に表現された思想又は感情の享受を目的としない利用」について著作権を制限• AI開発のための情報解析のように、著作物に表現された思想又は感情の享受を目的としない利用行為は、原則として著作権者の許諾なく行うことが可能• 「必要と認められる限度」において、「いずれの方法によるかを問わず」著作物を利用することができる✓ 従前の「電子計算機による情報解析」のための著作権制限規定（著作権法旧47条の7）は、「記録媒体への記録又は翻案」を権利制限の対象としていたが、本条では複製に限らず、支分権の対象となる行為は全て権利制限の対象となる✓ 自らAIの開発を行うために著作物を学習用データとして収集して利用する場合のみならず、自ら収集した学習用データを第三者に提供（譲渡や公衆送信等）する行
為についても、当該学習用データの利用がAIの開発という目的に限定されていれば、30条の4に該当する（https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/h30_hokaisei/pdf/r1406693_11.pdf）•

11「享受」を目的とする行為に該当するか否かは、著作物の視聴等を通じて、視聴者等の知的又は精神的欲求を満たすという効用を得ることに向けられた行為であるか否かという観点から判断されることとなるものとされる✓ 例えば、3DCG映像作成のため風景写真から必要な情報を抽出する場合であって、元の風景写真の「表現上の本質的な特徴」を感じ取れるような映像の作成を目的として行う場合は、元の風景写真を享受することも目的に含まれていると考えられることから、このような情報抽出のために著作物を利用する行為は、30条の4の対象とならないとされる© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：日本◼ 著作権法30条の4（平成30年の改正により導入）は、「情報解析…の用に供する場合」など「著作物に表現された思想又は感情の享受を目的としない利用」について著作権を制限（前スライドからの続き）• ただし、著作物の種類・用途や利用の態様に照らし「著作権者の利益を不当に害することとなる場合」は30条の4の対象外✓ 例えば、情報解析用に販売されているデータベースの著作物をAI学習目的で複製する場合など✓ 但書に該当するか否かは、著作権者の著作物の利用市場と衝突するか、あるいは将来における著作物の潜在的販路を阻害するかという観点から、最終的には司法の場で個別具体的に判断されることとなる✓ 8月17日著作権関連4団体がこの但書の解釈の明確化等を求める共同声明を発表（https://www.pressnet.or.jp/statement/copyright/230817_15114.html）

12© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：日本◼ 政府が年内にまとめるAIの事業者向け指針の骨子案において、生成AIの開発者にどのような学習データを読み込ませたのかなどのデータ収集方法を説明できるよう促す方針であると報じられている
出典：2023年8月11日付日本経済新聞（https://www.nikkei.com/article/DGXZQOUA060NY0W3A800C2000000/）◼ 著作権法30条の4による著作権の制限（原則として著作権者の許諾なく複製等の利用行為をすることができる）については、インターネット上で提供されている著作物を
AI学習等に利用する行為を利用規約で制限することができるのかという問題も議論されている（著作権法の規定を契約で覆す（override）ことができるかという意味でオーバーライド問題とも呼ばれる）• サイト等の利用規約において「本サイト上の一切のコンテンツをあらゆる態様で利用（ないし使用、複製）することを禁ずる」といった条項を定めた場合、このような条項は有効かという問題• 「新たな知財制度上の課題に関する研究会報告書」は、「個別の事情における諸般の事情を考慮する必要があるものの、AI学習のための著作物の利用行為を制限するオーバーライド条項は、その範囲において、公序良俗に反し、無効とされる可能性が相当程度あると考えられる」と結論付けている
出典：「新たな知財制度上の課題に関する研究会報告書」（https://www.meti.go.jp/policy/economy/chizai/chiteki/pdf/reiwa3_itaku_designbrand.pdf）

13© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：EU◼ デジタル単一における著作権指令（CDSM指令）（2019年採択）（次スライド注1、2）は、加盟国に対し、情報解析の目的で行う著作物等の複製・抽出に関して、著作権制限規定を導入することを義務付ける• 「情報（パターン、傾向および相関関係を含むがこれらに限定されない）を導き出すため、デジタル形式のテキストおよびデータを分析することを目的とするあらゆる自動分析技術」と定義される「テキストおよびデータマイニング（TDM）」
つき、研究組織および文化遺産機関が学術研究目的で行う場合（3条）、それ以外の場合（4条）に分けて著作権制限規定の導入が義務付けられている（注2）ところ、一般に上市されるAIの学習については（3条の要件を完全に満たすことは難しく）、4条の問題となるとされる• 商業的TDMとも呼ばれる4条による著作権の制限については、著作権者によるオプトアウトが認められる✓ 商業的TDMの場合の例外は、「権利者が、オンラインで公衆に利用可能とされるコンテンツのため機械により読み取り可能となる手段のような適切な方法で、同項にいう著作物や他の保護対象物の使用を明示的に留保していないこと」が条件とされる（4条3項）

14© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：EU◼ TDMに係る著作権の制限については、要件が厳しすぎAI技術の開発に十分でないとの批判もある◼ 一方で、著作権者のオプトアウトを実効あらしめるためには、AIの学習データとしていかなる著作物が利用されているかにつき透明性が必要であるとも指摘され、欧州議会が採択したAI法案修正案（欧州委員会が提出したAI法案への修正案）においては規定が設けられている• 生成AIシステムに使用される基盤モデルの提供者等に対し、著作権法により保護されている学習データの利用について十分に詳細な概要を記録し公開することを義務付ける（28b条4項c）（注1）外国著作権法の和訳は、原則として、公益社団法人著作権情報センターが公表しているものによる（https://www.cric.or.jp/db/world/index.html）（注2）EUの法体系において、「指令」は加盟国に一定内容の国内法の制定を義務付けるものであり、例えば、ドイツの著作権法は、CDSM指令4条を受けて次のように規定している（以下は参考訳である。）
第44b条 テキスト・マイニングおよびデータ・マイニング(1) テキスト・マイニングおよびデータ・マイニングとは、単一または複数のデジタル著作物またはデジタル化された著作物から、特にパターン、傾向、相関に関する情報を抽出するために、自動化された分析を行うことである。
(2) テキスト・マイニングおよびデータ・マイニングのために、合法的にアクセス可能な著作物を複製することは許可される。複製物は、テキストマイニング及びデータマイニングのために必要でなくなったときは、削除しなければならない。
(3) 第2項第1文による利用は、権利者が留保していない場合にのみ許される。オンラインでアクセス可能な著作物の場合の利用の留保は、機械可読形式で作成された場合にのみ有効とする。
15© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：米国◼ 米国の著作権法には情報解析の目的を明示した著作権の制限規定はない◼ 「批評、解説、ニュース報道、教授…研究または調査等を目的とする…著作物のフェア・ユース（fair use）は、著作権の侵害とならない。」とする107条のフェア・ユースが認定されるかどうかが問題となる• 同条は、フェア・ユースの認定に際する考慮要素として、以下の4点を挙げる① 使用の目的および性質（私用が商業性を有するかまたは非営利的教育目的かを含む）② 著作物の性質③ 著作物全体との関連における使用された部分の量および実質性④ 著作物の潜在的市場または価値に対する使用の影響の4点を挙げる• 第2巡回区連邦控訴裁判所は、2015年10月、The Authors Guild, Inc. v.
Google, Inc.判決において、Googleが書籍の一部が表示される検索可能なデータベースを構築するために書籍全体を複写したことにつきフェア・ユース
であると認定している

16© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：米国◼ AIの学習に際する著作権侵害を理由として以下のような訴訟が相次いで提起されている① 2023年1月13日、3名のアーティストが画像生成AIを提供する企業（Stable
Diffusionを提供するStability AIやMidjourney等）を被告として集団訴訟を提起✓ この訴訟に関しては、7月19日、担当判事が、原告は被告各社に対する主張を区別して明確にすべきであり、更なる事実を示すことができるはずであるとして、請求の大部分を棄却する意向を示している② 2月3日、Getty ImagesがStability AIを提訴③ 6月28日、カリフォルニア州、フロリダ州、ニューヨーク州のインターネットユー
ザーが著作権およびプライバシーの侵害を理由としてOpenAIに対する集団訴
訟を提起④ 同日、2名の作家がOpenAIを提訴⑤ 7月7日、コメディアンのSarah Silverman氏らがOpenAIおよびMetaを提訴◼ 一方で、Stability AIの創設者であるEmad Mostaque氏は、2022年12月に、次期モデルであるStable Diffusion 3.0からは「HaveIBeenTrained?」ウェブサイトを通じてアーティストが学習データからオプトアウトできるようにすると発表している（https://www.technologyreview.com/2022/12/16/1065247/artists-can-now-opt-out-of-the-next-version-of-stable-diffusion/）

17© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－AI開発・学習段階：中国◼ 中国の著作権法は、24条1項各号において著作権者の許諾を得ることなく著作物を使用することができる場合を定めているが、AIの学習について適用が考えられ得る規定は「法律、または行政規則が定めるその他の場合」（13号）のみであり、明確化を求める主張も見られる• もっとも、2011年12月16日公布の最高人民法院の通達（司法解釈）では、「技術イノベーション及び商業の発展促進に確かに必要な特別な事情の下で」一定の場合は著作物の「合理的な使用と認定してもよい」とされている（https://www.jetro.go.jp/ext_images/world/asia/cn/ip/law/pdf/interpret/20111216.pdf）• なお、8月15日から施行された「生成AIサービス管理暫定弁法」は、生成AIサービスの提供者は、法令に基づき、事前訓練、最適化訓練、その他訓練データを取り扱う活動を実施するものとし、…知的財産権が関係する場合、他者が合法的に享受している知的財産権を侵害してはならない（7条（2））としている

18© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：問題の所在◼ 生成段階においては、①学習済みモデルを利用して生成されたAI生成物について著作権が認められるか、②認められるとすれば誰が著作者となるかが問題となる。
◼ 日本、EU、米国、中国におけるこれまでの議論の整理は次スライド以下のとおり

19© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：日本◼ AI生成物を含む「コンピュータ創作物」が「著作物」に当たるか否かについて、以前から検討が行われてきた• 「著作物」とは、①思想又は感情を②創作的に③表現したものであつて、④文
芸、学術、美術又は音楽の範囲に属するものと定義されている（著作権法2条1項1号）• AIが自律的に生成したものは、「思想又は感情を創作的に表現したもの」ではなく、著作物に該当しないと考えられる✓ 例えば、人が何ら指示（プロンプト等）を与えず（又は簡単な指示を与えるにとどまり）「生成」のボタンを押すだけでAIが生成したもの• これに対して、人が思想感情を創作的に表現するための「道具」としてAIを使用したものと認められれば、著作物に該当し、AI利用者が著作者となると考えられる

20© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：日本◼ 人がAIを「道具」として使用したといえるか否かは、①人の「創作意図」があるか、及び、②人が「創作的寄与」と認められる行為を行ったか、によって判断される• 「創作意図」とは、思想又は感情を、ある結果物として表現しようとする意図を指す• 創作意図は、生成のためにAIを使用する事実行為から通常推認しうるものであり、また、具体的な結果物の態様についてあらかじめ確定的な意図を有することまでは要求されず、当初の段階では、「AIを使用して自らの個性の表れとみられる何らかの表現を有する結果物を作る」という程度の意図があれば足りると考えられる• どのような行為が「創作的寄与」と認められるかについては、個々の事例に応じて判断することが必要であるが、生成のためにAIを使用する一連の過程を総合的に評価する必要があると考えられる✓ 今後、文化庁として考え方を整理し、周知を進める方針◼ この論点と関連して、そもそもAI生成物と人間による著作物の区別を明確にすべきではないかとの論点があるところ、政府が検討するガイドラインの骨子案では、製品・サービスやコンテンツに「AIを使っていること」を明記させる手法を議論する方向であると報じられている（前掲日本経済新聞記事）

21© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：EU◼ 現在のところ著作権による保護の対象となる「著作物」をEUレベルで一般的に定義した規則、指令は存在しておらず、コンピュータプログラム等個別の保護対象に関する指令においては「著作者自身の知的創作物（the author’s own intellectual
creation）であるという意味において創作的（original）」であることを保護の要件とす
る◼ 欧州連合司法裁判所（CJEU: Court of Justice, European Union）は、これまでの判例において、著作物の要件として①「著作者の自由で創造的な選択（free andcreative choices）」の表現としての「創作性」と②十分な精度と客観性をもって識別可能であることを求めている◼ AI生成物については、WIPOにおける議論にならい、欧州委員会や欧州議会における議論でも、人間の関与なくAIが自律的に生成したアウトプットと人間による実質的な関与ないし指示により生成されたAIの支援を受けたアウトプットが区別され、後者について著作権が認められる要件が問題とされる• 立法論の問題としてAIの自律的な生成物につき特殊な保護を設けるべきかについては別途議論があり得る✓ 余談ながら、欧州委員会は、その開発に関与（資金援助）した生成AIである
AIVAがフランスの音楽関連著作権管理団体SACEMに「作曲家」として認定されたことを欧州委員会のホームページで紹介している（https://cordis.europa.eu/article/id/421438-ai-composers-create-music-for-video-games）
22© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：EU◼ CJEUの判例も踏まえ、欧州委員会は、2020年9月に公表した報告書において、AIの支援を受けた生成物に著作権が認められるための要件につき、現行法の枠組みの下、4段階で検討することを提示している① 文芸、科学又は芸術の分野における創作物であること② 人間の知的な努力の成果物であること③ 構想、実行（ドラフト版の作成）及び編集という創作過程における創作性ないし創造性（創造的な選択）の結果であること④ これらが「表現」されたものであること✓ 要件が満たされた場合、アウトプットの政策に創作的に貢献した者（ほとんどの場合はAI利用者）が著作者となる◼ なお、英国の著作権法（Copyright, Designs and Patents Act）は、「著作物の人間の著作者が存在しない状況において著作物がコンピュータにより生成されること」を「コンピュータ生成」と定義し（178条）、「コンピュータにより生成される文芸、演劇、音楽又は美術の著作物の場合には、著作者は、著作物の創作に必要な手筈を引き受ける者であるとみなされる」（9条3項）とし、「著作物が作成された暦年の終わりから50年の期間」著作権の保護を認めている（12条7項）（ただし、これらの規定の解釈は固まっていない）

23© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：米国◼ 米国の著作権法は、「著作者が作成した創作的な著作物（original works ofauthorship）に著作権による保護を及ぼす（102条）が、誰（何）が著作者となり得る
かは明示的に定義されていない• 米国において著作権登録（任意であるが登録をすれば著作権侵害訴訟等において著作権を有することの法律上の推定が働くことになる）等を管轄する著作権局は、従前来、人間の創造性の成果物にのみ著作権による保護が認められるとの見解を明らかにしている• 連邦控訴裁判所は、猿による自撮り写真など人間でないものによる作品について著作権による保護を否定している• 2022年6月、AIプログラムが自律的に作成したビジュアル作品につき著作権登録を拒否されたStephen Thaler氏が著作権法において人間の著作者は要件とされていないとして、著作権局を提訴したが、2023年8月18日、ワシントンDC
地区連邦地方裁判所は、同氏の主張を否定する判断（略式判決）を示した✓ 判決文自体は、原告による略式判決の申立てを否定し、被告による略式判決の申立てを認めるとするもの（https://storage.courtlistener.com/recap/gov.uscourts.dcd.243956/gov.uscourts.dcd.243956.23.0.pdf）

24© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：米国◼ 著作権局は、文章に対応してMidjourneyが生成した絵を用いた絵本についてすでに登録済みであった著作権に関し、登録時に著作者がMidjourneyの使用を明らかにしていなかったとして見直しを行い、2023年2月、絵の部分について著作権の登録を取り消した◼ 2023年3月、著作権局は、AI生成物を含む著作物に係る著作権登録についてのガ
イダンスを公表した• AI生成物を含む著作物については、これが「機械的な複製」であるのかあるい
は著作者「自身の創作的な精神的構想を目に見える形にしたもの」であるかを個々の状況に応じて判断することになる• 登録申請者は、AI生成物が含まれることを開示し、人間の寄与に関する簡単な説明を付す義務（duty）がある（https://www.govinfo.gov/content/pkg/FR-2023-03-16/pdf/2023-05321.pdf）

25© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成段階：中国◼ 中国の著作権法（注）は、著作権による保護の対象となる「著作物」を「文学、美術
及び科学分野において、独創性を有し、かつ、一定の形式で表現可能な知的成果」と定義し（3条）、「一定の形式で表現可能」であるとは「ある種の有形的な形式で複製できる」こととされる（著作権法実施条例2条）• 広東省深圳市南山区人民法院は、2019年に、テンセント社が開発した文章生
成AIであるDreamwriterが作成した記事に係る著作権侵害訴訟において、問題となった記事は一定の独創性を有し、原告の多数のスタッフによる全体的な知的創造により完成した「著作物」であるとして著作権を認め、中国において初めてAI生成物に著作権保護が認められた裁判例として話題になった• なお、著作権者については、法人等の意思を代表して創作された著作物につき法人等を著作者とみなす旨の規定（11条）に基づきテンセント社が著作者であるとされた• この裁判例につき、最高人民法院知識産権審判庭の裁判官は、WIPOにおける講演で、本件において著作物性が認められた記事は、人間の知的活動から完全に切り離された形で純粋にAIによって生成されたものではなく、AIに支援された人間の知的活動の成果物である（自律的なAI生成物に著作権法の保護が及ぶかどうかは今後の展開を俟つ）と解説している
出典：（https://www.wipo.int/export/sites/www/about-ip/en/artificial_intelligence/conversation_ip_ai/pdf/ms_china_1_en.pdf）（注）著作権法および著作権法実施条例ともに独立行政法人日本貿易振興機構北京事務所の和訳による（https://www.jetro.go.jp/ext_images/biz/seminar/2021/61ca6c4dedfdde2c/copyright2020.pdf）（https://www.jetro.go.jp/ext_images/world/asia/cn/ip/law/pdf/admin/20130301.pdf）
26© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：問題の所在◼ 生成物の利用段階においては、①AI生成物の公開、販売などが既存の著作物との関係で著作権の侵害に当たる場合があるか、②その場合、侵害の責任を負うことになるのは誰かが問題となる。
◼ 日本、EU、米国、中国におけるこれまでの議論の整理は次スライド以下のとおり

27© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：日本◼ 著作権の侵害を議論する前提として、著作権法は「著作物」を保護するものである• 著作物でないもの（単なるデータ（事実）やありふれた表現、表現でないアイディア（作風・画風など））は、著作権法による保護の対象に含まれない◼ 著作権の対象となる利用行為をしようとする際は、著作権者から許諾を得ることが原則（著作権法63条1項）• 他人の著作物を、①権利者から許諾を得ておらず、②権利制限規定にも該当しないにもかかわらず利用した場合は、著作権侵害となる

28© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：日本◼ 著作権侵害の要件として、裁判例では、次の両方を満たすことが必要とされる① 「後発の作品が既存の著作物と同一、又は類似していること」（類似性）✓ 類似性があるというためには、他人の著作物の「表現上の本質的な特徴を直接感得できること」が必要とされている✓ 「創作的表現」が共通していることが必要であり、アイディアなど表現でない部分、又は創作性がない部分が共通するにとどまる場合は、類似性は否定される② 「既存の著作物に依拠して複製等がされたこと（依拠性）✓ 「依拠」とは、「既存の著作物に接して、それを自己の作品の中に用いること」をいうとされる➢ 例として、①過去に目にした既存のイラストを参考に、これと類似するイラストを作成した場合、②既存の楽曲が広く知られた著名なものであり、これと類似する楽曲を制作した場合などに依拠性があると考えられ
る✓ これに対して、既存の著作物を知らず、偶然に一致したに過ぎない、「独自創作」などの場合は、依拠性はないと考えられる◼ 著作権侵害に対し、著作権者は、侵害行為の停止・予防措置の請求や、侵害により被った損害の賠償請求等が可能であり、著作権侵害行為は、刑事罰の対象ともなる
29© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：日本◼ AIを利用して画像等を生成した場合でも、著作権侵害となるか否かは、人がAIを利用せず絵を描いた場合などの、通常の場合と同様に判断される• AI生成物に、既存の著作物との「類似性」又は「依拠性」が認められない場合、既存の著作物の著作権侵害とはならず、著作権法上は著作権者の許諾なく利用することが可能• これに対して、既存の著作物との「類似性」及び「依拠性」が認められる場合、そのようなAI生成物を利用する行為は、①権利者から利用許諾を得ている、②
許諾が不要な権利制限規定が適用される、のいずれかに該当しない限り、著作権侵害となる✓ 私的に鑑賞するため画像等を生成するといった行為は、権利制限規定（私的使用のための複製）に該当し、著作権者の許諾なく行うことが可能✓ 生成した画像等をアップロードして公表したり、生成した画像等の複製物（
イラスト集など）を販売する行為については、権利制限規定に該当しない場
合が多いと考えられる➢ 既存の著作物との「類似性」及び「依拠性」が認められるAI生成物について、こうしたアップロードや販売を行うには、既存の著作物の著作権者の利用許諾が必要であり、許諾なく行った場合は著作権侵害となる

30© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：日本◼ 「依拠性」の有無は、最終的には裁判所により、個別の作品ごとに判断されるものであるが、文化庁としても、AI生成物の場合の考え方を整理し、周知を進めていくとしている。
◼ 依拠性に関する今後の検討事項の例として、以下の点が挙げられている① AI利用者が既存の著作物を認識しており、AIを利用してこれに類似したものを生成させた場合は、依拠性が認められると考えてよいのではないか② AI利用者が、Image to Image (i2i)で既存著作物を入力した場合は、依拠性が認められると考えてよいのではないか③ AIが既存の著作物に類似したものを生成したが、AI利用者は当該既存の著作物（その表現内容を知らなかった場合、AI利用者が当該既存の著作物を知らないことのみをもって、依拠性が否定されるか、AI利用者が当該既存の著作物を知らなくとも依拠性が認められる場合があるのではないか）④ 特定のクリエイターの作品を集中的に学習させたAIを用いた場合と、そのような集中的な学習を行っていないAIを用いた場合とで、依拠性の考え方に違いは生
じるか
以上、日本の現状の整理についての部分につき
出典：文化庁「AIと著作権」、「AIと著作権の関係等について」、「AIと著作権に関する論点整理について」（https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.pdf）（https://www8.cao.go.jp/cstp/ai/ai_team/3kai/shiryo.pdf）（https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_01/pdf/93918801_03.pdf）

31© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：EU◼ AI法案議会修正案は、AI生成物の利用が学習に使用された著作物につき著作権を侵害することがあり得ることを前提として、基盤モデルの提供者に対し、EU法違反のコンテンツを生成しないような保護策（safeguards）を確保できるような方法で、基盤モデルを学習させること（場合に応じて、デザイン、開発すること）を義務付けている（28b条4項c）

32© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：米国◼ 米国の判例法に照らし、AIモデルが①著作物を現に複製し（著作物にアクセスを有していたことの証明によって認定され得る）、②「実質的に類似した」生成物を作成した場合、その利用は著作権を侵害することになるとされる• 「実質的に類似」していることの定義は困難であり、過去の裁判例は「実質的に類似した全体的なコンセプトと感じ」、「通常の合理的な人にとって二つの作品の区別が困難」など種々の基準を使用◼ AI利用者は、自らのプロンプトに対応して複製された既存の著作物の存在を知らな
いこともあり得、その場合にこのAI利用者に著作権侵害の責任を問えるかは、現行法の下では難しい論点とされる◼ 代位侵害（vicarious infringement）の法理によりAI提供者が責任を問われることもあり得る• 代位侵害の法理は、代理法（agency）の法理である「監督者責任（respondeat
superior）の法理から発展したものとされ、①直接侵害が成立する場合に、②侵害行為を監督する権限と能力を有し、③侵害行為に対して直接の経済的利益を有する者に認められる◼ 著作権局は、前掲の著作権登録に関するガイドラインにおいて、著作権により保護された著作物をAIの学習に利用すること、その結果としてのアウトプットの扱いに関する著作権法の適用について、今後パブリックコメントを求める意向を示している
33© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
現状の整理－生成物の利用段階：中国◼ 2023年8月15日から施行された「生成AIサービス管理暫定弁法 」は、「生成AIサー
ビスの提供及び利用は、法令及び行政法規の要求事項を遵守し…知的財産権…を尊重」しなければならないとする（4条（2））

34© S&K Brussels LPC 2023. All Rights Reserved.

AIと著作権の関係等について
その他の知的財産権との関係◼ 生成AIとの関係では、人間の精神的作品を、無方式主義の下、複製権も含めて幅広く保護する著作権が問題となることが多い
知的財産権
特許権
（特許法）

制度概要等
•
•
•
•

実用新案権
（実用新案
法）

•

意匠権
（意匠法）

•

•
•

•
商標権
（商標法）

•
•

35

「自然法則を利用した技術的思想の創作のうち高度のもの」である「発明」を保護（2条1項）
産業として利用することができる発明であって、新規性、進歩性を有することなどが特許を受けるための要件となる（29条1項・2項、39条及び29条の2、32条、36条）
特許権者は、業として特許発明の実施をする権利を占有する（68条）
知的財産推進計画2023では、今後検討を要する事項として、①発明の創作過程においてどの程度自然人が関与していれば自然人の発明と認められるか、②特許審査における「進歩性」の判断をはじめ、発明の特許性の判断にどのような影響が生じるかを挙げている「自然法則を利用した技術的思想の創作」である「考案」のうち、産業上利用できる「物品の形状、構造又は組み合わせに係る」考案を保護の対象とする（2条1項、3条1項）
実用新案権者は、業として登録実用新案の実施をする権利を占有する（16条）
実用新案権は無審査で権利が付与されることから、侵害者等に対し権利を行使する場合には、実用新案技術評価書を提示して警告した後でなければならない（29条の2）①物品の形状、模様・色彩、これらの結合、②建築物の形状等、又は、③画像（機器の操作の用に供されるもの又は機器がその機能を発揮した結果として表示されるものに限る）であって、視覚を通じて美感を起こさせるものと定義される「意匠」を保護（2条1項）
工業上利用できること等の要件を満たした意匠が登録され、意匠権者は、業として登録意匠及びこれに類似する意匠の実施をする権利を占有する（3条、5条、23条）
商標とは、「人の知覚によつて認識することができるもののうち、文字、図形、記号、立体的形状若し
くは色彩又はこれらの結合、音その他政令で定めるもの」であって、業として行う商品の生産等や役務の提供等について使用するもの（2条1項）
商標権者は、指定商品・指定役務について登録商標の使用をする権利を占有する（25条）© S&K Brussels LPC 2023. All Rights Reserved.

2. 生成AIを使う際のルール面での落とし穴（主にプライバシー保護）

36© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成AIの利用に際しルール面で留意すべき主要な点は、広い意味でのデータ管理の問題と捉えられる① 個人情報、人格権（名誉権、肖像権、パブリシティー権、プライバシー権等）に係る情報、営業秘密を含む知的財産、守秘義務を負う情報などを含む重要なデータを、② 適法かつ適切に利用、管理し、③ これを確保するために社内では利用ガイドラインを整備するとともに、④ 外部との関係では契約等により権利義務関係を明確化する、ことが必要✓ AIの利用に関する契約については、経済産業省が手引きとして「AI・データの利用に関する契約ガイドライン」、同省と特許庁がこれに基づくモデル契約書を公表している（https://www.meti.go.jp/policy/mono_info_service/connected_industries/sharing_and_utilization/201806150011.pdf）（https://www.jpo.go.jp/support/general/open-innovation-portal/index.html）◼ AI利用者が、①生成段階、生成物の利用段階において留意すべき点（日本の法令を前提とする）、及び、②これを踏まえて社内ガイドラインや契約等において検討すべき事項は、次のとおり• インプット（プロンプト等）に個人情報・個人データが含まれる場合の個人情報保護法との関係：利用目的による制限（スライド（以下同）38）、第三者提供（39）、外国にある第三者への提供（40）、要配慮個人情報（41）• インプットに知的財産に係る情報等が含まれる場合：著作権、営業秘密、守秘義務（42）• 生成物の出力：著作権の帰属、生成物の信頼性、個人情報の出力（43）• 生成物の利用段階における他者の権利の侵害等：著作権（44）、人格権（45）、独占業
務に関する法律との関係（45）37© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等
生成段階①インプット（プロンプト等）の入力（個人情報・個人データが含まれる場合の個人情報保護法との関係）
論点
利用目的に
よる制限

38

検討・対応策
•個人情報を入力する目的は、特定された利用目的の範囲内であるか✓ あらかじめ本人の同意を得ないで、特定された利用目的の達成に必要な範囲を超えて、個人情報を取り扱ってはならない（17条、18条）✓ 個人情報保護委員会は、「生成AIサービスの利用に関する注意喚起等」（2023年6月2日）において、個人情報取扱事業者における注意点として、次の2点を指摘している① 個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する
場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに
個人データを含むプロンプト…の入力を行う場合には、当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等
生成段階①インプット（プロンプト等）の入力（個人情報・個人データが含まれる場合の個人情報保護法との関係）
論点
第三者提供

検討・対応策•インプットに個人データを入力することは、AIサービス提供者への個人データの「提供」に該当する場合が多く、第三者提供の制限が問題となる✓ 第三者に個人データを提供する場合、原則として、本人の同意を取得し、記録を作成する必要がある（27条、29条）➢ 「提供」とは、個人データ等を自己以外の者が利用可能な状態に置くことをいう（https://www.ppc.go.jp/files/pdf/230401_guidelines01.pdf）（29頁）➢ この点に関連し、クラウドサービスの利用の場合、クラウドサービス提供事業者が個
人データを取り扱わないこととなっている場合には、「提供」したことにはならないとされ、「取り扱わないこととなっている場合」とは、契約条項によって当該外部事業者がサーバに保存された個人データを取り扱わない旨が定められており、適切にアクセス制御を行っている場合が考えられるとされる（https://www.ppc.go.jp/files/pdf/2305_APPI_QA.pdf）（60頁）✓ ただし、利用目的の達成に必要な範囲内において個人データの取扱いを委託する場合には、「第三者」提供に該当しない（27条5項1号）➢ 「個人データの取扱いの委託」とは、契約の形態・種類を問わず、個人情報取扱事業者が他の者に個人データの取扱いを行わせることをいい、具体的には、個人データの入力、編集、分析、出力等の処理を行うことを委託すること等が想定される（https://www.ppc.go.jp/files/pdf/230401_guidelines01.pdf）（55頁）➢ 本人の同意は不要となる一方、委託先を監督する義務が生じる（25条）
39© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等（前スライドからの続き）
生成段階①インプット（プロンプト等）の入力（個人情報・個人データが含まれる場合の個人情報保護法との関係）
論点
外国にある
第三者への
提供

40

検討・対応策
•AIサービス提供者が外国企業であり外国にあるサーバにインプットが保存される場合、外国にある第三者への提供の制限が問題となる✓ 原則として、当該外国の個人情報保護制度などに関する情報を提供した上で、本人の同意を得る必要がある（28条1項、2項）✓ ただし、①提供先が欧州経済領域（EEA）加盟国又は英国に所在している場合、②提供先が個人情報保護委員会規則で定める基準に適合する体制を整備している場合、③法令に基づく場合等は、本人の同意は不要（28条1項）➢ ②の場合に該当するのは、次の場合
a. 提供元と提供先の間で、契約、確認書、覚書等により、日本の個人情報保護法上、本人の権利保護の目的で事業者に課せられている義務を規定し、その目的に沿う相当な措置を実施するように確保する場合
b. 提供先がアジア太平洋経済協力（APEC）越境プライバシールール（CBPR）
システムに参加している米国、シンガポール、韓国、メキシコ、カナダ、オース
トラリア、台湾及びフィリピンにおいてCBPR認証を受けている企業である場
合➢ 上記a.及びb.のいずれの場合も、(i)提供先事業者による相当措置の継続的な実施を確保するために必要な措置を講ずること、(ii)本人の求めに応じて当該必要な措置に関する情報を本人に提供することが必要（28条3項）➢ ①又は②の要件を満たせば、「委託」の位置付けでの提供が可能となる© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等（前スライドからの続き）
生成段階①インプット（プロンプト等）の入力（個人情報・個人データが含まれる場合の個人情報保護法との関係）
論点
要配慮個人
情報

41

検討・対応策
•個人情報取扱事業者は、法令に基づく場合等一定の場合を除いて、あらかじめ本人の同意を得ないで要配慮個人情報を取得してはならない（20条2項）✓ 要配慮個人情報とは、本人の人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実その他本人に対する不当な差別、偏見その他の不利益が生じないようにその取扱いに特に配慮を要するものとして政令で定める記述等が含まれる個人情報✓ 個人情報保護委員会は、「OpenAIに対する注意喚起の概要」（2023年6月2日）において、要配慮個人情報が機械学習に使用されることを避けるための措置を実施するよう注意喚起を行った旨明らかにしている✓ あらかじめ本人の同意を得ることなく、病歴、前科等の要配慮個人情報の取得を目的とするプロンプトを入力することは認められないと考えられる© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等（前スライドからの続き）
生成段階②インプット（プロンプト等）の入力（知的財産に係る情報等が含まれる場合）
論点検討・対応策

著作権侵害•

インプットに著作物が含まれる（複製に該当）場合、著作権侵害が問題となり得る✓ 人が鑑賞する目的でAI生成物を出力させる場合には、著作権法30条の4が適用されず、著作権者の許諾を得ない利用の場合、著作権侵害に当たることもあり得ると解される✓ もっとも、著作権侵害が実際に問題になる場面は、AI生成物の公開、販売といった生成物の利用段階であると考えられる

営業秘密

•

韓国のサムスン電子では、一部部門でChatGPTの利用を解禁してからわずか3週間で3件の機密漏えい事案（設備情報の流出2件、会議内容の流出1件）が発生し話題となった
日本の場合、不正競争防止法は、「秘密として管理されている生産方法、販売方法その他の事
業活動に有用な技術又は営業上の情報であって、公然と知られていないもの」を「営業秘密」として保護する（2条6項）✓ 営業秘密を不正の手段によって取得する行為や、不正に取得された営業秘密を使用する行為等を「不正競争」とし、民事上、刑事上の措置を定める（同法2条1項4号から10号、第2章、第5章）✓ 営業秘密として保護されるためには、「秘密管理性」、「非公知性」、「有用性」が必要✓ 入力したインプットがAIの学習に利用されないこと、入力したインプットがAIサービスプロバ
イダー側で保存される場合には守秘義務を課すことが必要✓ これが確保できない場合は、営業秘密を入力しないよう社内で徹底することが必要

•

守秘義務
42

•

自社が契約等により守秘義務を負う情報についても、上記と同様© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成段階での留意点等（前スライドからの続き）
生成段階③生成物の出力
論点

43

検討・対応策

著作権の帰属•AI生成物の著作権の帰属✓ AI生成物に著作権が認められる場合があることを前提として、AIサービス提供者との間の契約において、自社に著作権が帰属することを明確にしておくべき生成物の信頼性•

生成AIが出力する回答には誤り（hallucination）やバイアスが含まれる可能性があることが知られている✓ 生成物の利用の仕方に応じ、人間によるチェック等を経るよう社内ガイドラインに規定

個人情報の出力•

意図せずしてAI生成物の中に個人情報、特に、要配慮個人情報と思われる記述や画像が出力されてしまった場合✓ かかる情報はデータベース化しないことを社内ガイドラインに規定© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成物の利用段階での留意点等
生成物の利用段階

他者の権利の侵害
論点
著作権侵害

44

検討・対応策
•前掲のとおり、既存の著作物との「類似性」及び「依拠性」が認められる場合、そのようなAI生成物を利用（公開、販売等）する行為は、①権利者から利用許諾を得ている、②許諾が不要な権利制限規定が適用される、のいずれかに該当しない限り、著作権侵害となる✓ AIサービス提供者との間で、利用契約の交渉が可能である場合には、①AIの学習デー
タが著作権者の許諾を受けたもの又は著作権の保護を受けないものであることの保証、②学習データに起因する著作権侵害が発生した場合の補償を求めることが考えられる✓ 学習データに係る透明性を求める方向性が強いことに照らせば、少なくとも、学習デー
タについての説明は求めるべきと解される✓ 著作権を侵害するおそれのある生成物が出力された場合には、そのような生成物を利用しないこととするか、又は、著作権者の許諾を得ることが考えられる✓ AI生成物の公開、販売等を予定する場合、あえて既存の著作物を特定し得るプロンプ
ト等を入力することは回避するべきと思われる© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの利用に際しての留意点
プライバシー保護、著作権等との関係◼ 生成物の利用段階での留意点等（前スライドからの続き）
生成物の利用段階

他者の権利の侵害
論点検討・対応策

人格権
侵害•

AI生成物の中に実在する個人に関する記述や画像が含まれる場合、利用の態様（生成物が公開される場合等）によっては、判例により認められる人格権（名誉権、肖像権、パブリシティ権、プライバシー権等）の侵害が問題となり得る① 名誉権：人がみだりに社会的評価を低下されない権利② 肖像権：人がみだりにその顔や容姿を撮影されたり公表されたりしない権利③ パブリシティ権：有名人や著名人の氏名や肖像などが有する顧客吸引力に係る経済的権
利で、自己の氏名や肖像などについて、対価を得て第三者に専属的に使用させ得る権利④ プライバシー権：人が私生活上の情報をみだりに公開されない権利✓ これらの権利の侵害は不法行為に該当し、損害賠償請求、差止請求の対象となり得る（「公然と事実を適示し、人の名誉を棄損した者」は刑法上の名誉棄損罪にも問われる）✓ 不適切なAI生成物が一般に公開されたり、社内に流布されたりしないよう、AI生成物の表
示の設定、社内ガイドラインの規定を検討する必要

その他•

AI利用者にとっての問題というよりもAIを組み込んだサービス提供者にとっての問題として、独占業務に関する法律との関係も論点となり得る✓ 税理士法（52条、2条1項）、弁護士法（72条）、司法書士法（73条1項、3条1項2号）、行政書士法19条1項、1条の2）等
この点に関し、法務省は、AIによる契約書レビューサービスが法律事務に該当し得るとの見解を明らかにしている•（https://www.moj.go.jp/content/001400675.pdf）
45© S&K Brussels LPC 2023. All Rights Reserved.

II. 生成AIに関する日本を含む各国のルール形成の動向

46© S&K Brussels LPC 2023. All Rights Reserved.

日本：AI戦略会議における議論◼ AI戦略会議• 生成AIの登場も踏まえ、AIの活用に関する課題やリスクに対する取り組みを検討• 有識者の構成員と閣僚レベルの政府側参加者が出席• 2023年5月11日、第1回の会合を首相官邸で開催◼ 「AIに関する暫定的な論点整理」を公表（2023年5月26日）• ①国際的なルール構築に向けた主導的役割の発揮、②生成AIに関する懸念やリスクに適切に対処し、いわば「ガードレール」を設置した上での生成AI開発・提供・利用の促進、③多様な関係者（AI開発者、AIを活用したサービス提供者、企業や個人などのAIサービス利用者など）を巻き込んだ迅速かつ柔軟な対応を基本的な考え方とする• リスク対応の基本方針として、まずはAI開発者・サービス提供者・利用者等が自らリスクを評価し、ガバナンス機能を発揮することが重要であるとともに、必要に応じ、政府を含む多様な関係者によるリスク対応の枠組みを検討・実施するとする• リスク対応においては、AIの透明性と信頼性を確保することが重要であるとし、AI開発者・サービス提供者には、現行法令やガイドラインに則り、積極的な情報開示を求めたいとする• 懸念されるリスクの具体例として、①機密情報の漏えいや個人情報の不適正な利用のリスク、②犯罪の巧妙化・容易化につながるリスク、③偽情報などが社会を不安定化・混乱させるリスク、④サイバー攻撃が巧妙化するリスク、⑤教育現場における生成AIの扱い、⑥著作権侵害のリスク、⑦AIによって失業者が増えるリスクを指摘し、政府の対応の方向性を示す• これらに加え、生成AIの利用の促進、AI開発力の強化に向けた考え方を示す
47© S&K Brussels LPC 2023. All Rights Reserved.

出典：（https://www8.cao.go.jp/cstp/ai/ai_senryaku/2kai/ronten.pdf）

日本：AI戦略会議における議論◼ AI事業者向け指針の作成• AI利活用ガイドライン（総務省）、AI原則実践のためのガバナンス・ガイドライン（経済産業省）など既存のガイドラインを見直し、統合• 骨子案に関する前掲報道（※）によれば、AIの開発から活用の5段階で企業が守るべきルールを示すもので、主な内容は次のとおり① すべての事業者に求められるルール
a. 誤情報を生むといった生成AIのリスクを把握
b. 人権に配慮したサービスが原則② 事業者を㋐生成AI「基盤モデル」の開発者、㋑AIにデータを学習させる事業者、㋒シ
ステム開発者、㋓サービス提供者、㋔AIサービスを使う企業に分類して遵守を求めるルール
a. 生成AIの開発や学習を担う事業者については、透明性の確保（AIの機能・目的・リスク、どのような学習データを読み込ませたのかなどのデータ収集方法の説明）を求め、第三者による外部監査も検討
b. 生成AIを使ったサービスの開発者や利用者には安全性の確保を要求※出典：2023年8月11日付日本経済新聞（前掲P13）（https://www.nikkei.com/article/DGXZQOUA060NY0W3A800C2000000/）

48© S&K Brussels LPC 2023. All Rights Reserved.

日本：AI戦略会議における議論◼ 広島AIプロセス• G7広島サミットにおいて、G7首脳は、「AIの機会と課題について直ちに評価する必要性を認識し…関係閣僚に対し、生成AIに関する議論のために、包括的な方法でOECD（経済協力開発機構）及びGPAI（人工知能グローバルパートナーシップ）と協力しつつG7の作業部会を通じた、広島AIプロセスを年内に創設するよう指示する」とした• これを踏まえ、2023年5月に、G7関係者が参加して広島AIプロセスを立ち上げ• 今後の進め方は次のように予定されている① 9月頃に閣僚級会合（オンライン）を開催し、広島AIプロセスの中間報告をとりまとめて、今秋に予定されるG7首脳会議（テレビ会議）に報告② 10月9日にインターネット・ガバナンス・フォーラム（IGF）京都2023（国連主催）において多様なステークホルダーからの意見を取り入れるための機会を設定③ これらの議論を踏まえた上で年末までに閣僚級会合（オンライン）を開催し、広島
AIプロセスの成果をとりまとめ、G7首脳に報告
出典：AI戦略会議第4回資料1-1（https://www8.cao.go.jp/cstp/ai/ai_senryaku/4kai/susumekata.pdf）• 日本政府は、各国・地域で異なるルールを「相互運用」可能にすることを目指し、次のような措置を企業に求める方針と報じられる✓ AIを開発・提供、利用する企業に対し、人権侵害や犯罪を目的とする提供・利用の禁止✓ 一定以上の開発企業に対し、アルゴリズム、学習データ、機能などの開示✓ サービス提供企業に、AIが不完全であることや発生するリスクを利用者に伝えること
出典：2023年8月25日付日本経済新聞(https://www.nikkei.com/article/DGXZQOCD166NK0W3A810C2000000/?n_cid=NMAIL006_20230825_A）
49© S&K Brussels LPC 2023. All Rights Reserved.

米国、EU及び中国の動向（概観）
法域
米国

主な動き
•
•

•
•
•

EU

• 2021年4月21日、欧州委員会（注）は、AI法案（以下「委員会案」）を発表（法案概要：55～62）• 2022年11月25日、EU理事会がAI法案の修正案（以下「理事会案」）を採択• 2023年6月14日、欧州議会がAI法案の修正案（以下「議会案」）を採択（生成AI関連：63～65）• 7月、法案を一本化するための欧州委員会、EU理事会、欧州議会の間での協議が開始された（注）欧州委員会は、EUの行政府に相当し、EUの通常の立法手続きにおいては、欧州委員会が提出した法案について、EU加盟国政府の代表機関の位置付けであるEU理事会（総務理事会、外務理事会、
経済・財務理事会等の分野ごとに各国の担当閣僚からなる）とEU加盟国市民の代表機関の位置付けである欧州議会がそれぞれ審議を行い、必要に応じて修正を行う権限を有する。このため、最終的に法案が成立するためには、欧州議会とEU理事会との間での合意が必要となる

中国

•
•

50

2022年10月、ホワイトハウス科学技術政策局（OSTP）は、AI開発等に当たり考慮すべき5原則をまとめた「AI権利章典のための青写真」を発表（スライド（以下同）51）
2023年1月、米国標準技術研究所（NIST）は、AI技術のリスク管理のためのガイダンス「AIリスク管
理フレームワーク（AI RMF 1.0）」を発表（52）
4月13日、チャック・シューマー上院院内総務（民主党）は、AIの推進・管理に関する法案を検討していることを表明し、6月21日には、講演で、AIに関する法案を用意するための行動枠組み「安全なイノベーション枠組み（SAFE Innovation Framework）」を提唱（53）
7月21日、ホワイトハウスは、大手AI企業7社の代表を招集し、安全、安心、信頼の3つの包括的原則に基づき、新たなAI開発と利用のリスクを管理するための新たな自発的コミットメントを得たと発表
同時に、AIに関する大統領令を検討中であることも発表（自発的コミットメントにつき54）

2023年4月11日、中国政府は、「生成AIサービス管理弁法案」を公表し、5月10日まで専門家などから意見を聴取するとした
7月13日、中国政府（国家インターネット情報弁公室など7部局）は上記弁法案に修正を施した「生成AIサービス管理暫定弁法」を公布し、8月15日に施行すると発表した（66～71）© S&K Brussels LPC 2023. All Rights Reserved.

AI権利章典のための青写真：米国◼ 2022年10月にOSTPが発表◼ AIを含む自動化されたシステムの開発・ガバナンスに当たって、米国国民の人権を保護し民主主
義的価値を推進するための施策や実践方法の立案を支援することを目的とする• AI技術がイノベーションを促進する一方で、職場・医療機関・司法システムなどにおいて、人々が自動化されたシステムによって監視・順位付けを受けることが増えており、多くのアルゴリズムに偏見に基づく差別的なデータ処理が見られるとの問題意識を背景とする◼ 法的拘束力を有するものではない◼ 次の5つの原則と、それぞれの原則に関連する問題点や実践例をまとめた「原則から実践へ」と題する技術的付属文書からなる① 安全で効果的なシステム✓ 多様なコミュニティー、利害関係者、専門家と協議の上でシステムを開発✓ システムの配備に先立ち試験によりリスクを特定・軽減し、システムの監視を行う② アルゴリズムに由来する差別からの保護✓ 人種、性別、年齢などに基づきアルゴリズムに由来する差別が生じないよう、システ
ムは公平に機会を提供する方法で利用・設計されるべき③ データ・プライバシー✓ データの収集、使用、アクセス、移転、削除に関する個人の決定の尊重④ 通知と説明✓ 自動化されたシステムの機能、使用の事実、システムに責任を有する者などの説明⑤ 人間による代替、考慮、予備的措置✓ 自動化されたシステムにより影響を受ける個人が人間による代替手段を選択できるようにするとともに、システムにエラーが生じた場合などに備えた措置を用意
51© S&K Brussels LPC 2023. All Rights Reserved.

出典：（https://www.whitehouse.gov/ostp/ai-bill-of-rights/）

AIリスク管理フレームワーク（AI RFM 1.0）：米国◼ 2023年1月26日に、NISTが発表◼ 2020年国家AIイニシアチブ法に基づき、①AIシステムを設計・開発・配備・利用する組織にAIリ
スクを管理する上でのリソースを提供し、②信頼できる責任あるAIシステムの開発・利用を促進することを目標とする• 2020年国家AIイニチアチブ法（2021年1月成立）は、米国の経済的繁栄と国家安全保障のためにAIの研究開発を加速化させることを目的として、連邦政府全体による協調プログラ
ム等を定めたもの◼ 次のとおり二部構成① 第一部：基礎情報としてAIのリスクと信頼性について分析し、信頼できるAIシステムの特徴（有効性と信頼性、安全性、セキュリティと強靭性、説明責任と透明性、説明可能性及び解釈可能性、プライバシーの強化、有害なバイアスに対応した公正性）を説明② 第二部：枠組みの中核の解説として、組織がAIシステムのリスクに対処する上で必要とされる次の4つの機能を説明
a. 統治（Govern）：リスク管理のカルチャーが醸成され、存在すること（組織全体の方針やプロセスの整備等）
b. マップ（Map）：状況を認識し、状況に関連するリスクを特定すること（配備しようとする
AIシステムの性能・リスク・便益・潜在的影響などの明確化等）
c. 測定（Measure）：特定されたリスクを評価、分析、追跡すること
d. 管理（Manage）：予測される影響に基づいてリスクに優先順位がつけられ対策が講じられること
出典：（https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf）
52© S&K Brussels LPC 2023. All Rights Reserved.

安全なイノベーション枠組み：米国◼ シューマー上院院内総務は、6月21日の講演で、連邦議会がAIの急速な進歩に対応できるようにするため、①AIに関する法案を準備するための行動枠組みとして「安全なイノベーション枠組
み（SAFE Innovation Framework）」を提唱するとともに、②法案検討の手続きとして（伝統的な公聴会ではなく）AI分野の専門家によるフォーラムを秋に開催する方針を表明した◼ 安全なイノベーション枠組みは、次の5つの中核的な政策目標を追求するもの① 安全（Security)：AIが独裁国家や犯罪グループなど国内外の敵対者によって悪用されることを防ぐとともに、雇用の喪失を緩和し対策を講ずることで労働者の経済的安全を確保する② 説明責任（Accountability）：偽情報や偏見についての懸念に対応するため責任あるシステムの配備を支援し、著作権に係る懸念に対応することでクリエイターを支援する③ 基盤（Foundation）：AIシステムが民主主義の価値に合致することを求め、選挙を（干渉から）守り、中国政府がAIの交通規則を設定することを阻止する④ 説明（Explain）：公共財としてのAIをより良く管理できるために連邦政府がAI開発者・配備者から得るべき情報やAIシステム・データ・コンテンツについて公衆が知っておく必要のある情報を判別する⑤ イノベーション：AIの大きな可能性を解き放ち、AI技術における米国のリーダーシップを維持することに焦点を当てて、安全・透明性・説明責任の分野におけるイノベーションも含め、AI技術における米国主導のイノベーションを支援する◼ 法案策定には超党派で当たるとし、すでに、共和党のトッド・ヤング上院議員らと本件を主導するための超党派グループを結成したほか、上院の関係委員会の委員長（民主党）には共和党の筆頭理事との間で協力分野を特定するよう依頼したと明らかにした
出典：（https://www.democrats.senate.gov/imo/media/doc/schumer_ai_framework.pdf）（https://www.democrats.senate.gov/news/press-releases/majority-leader-schumer-delivers-remarks-to-launch-safe-innovation-framework-for-artificialintelligence-at-csis）

53© S&K Brussels LPC 2023. All Rights Reserved.

AI大手企業の自発的コミットメント：米国◼ 7月21日、ホワイトハウスは、安全、安心、信頼の3つの包括的原則に基づき、新たなAI開発と利用のリスクを管理するため、アマゾン、Anthropic、グーグル、Inflection、Meta、マイクロソフト、
OpenAIの大手AI企業7社から、以下を主な内容とする自発的コミットメントを得たと発表した① 悪用、社会的リスク、国家安全保障上の懸念がある分野（バイオ、サイバーその他の安全分野）に関するモデル・システムに関し、内部及び外部によるセキュリティテスト（red-teaming）を行う② 信頼及び安全リスク、危険な又は創発的な能力、セーフガードの回避行動に関し、企業間や政府、場合に応じて、市民社会、学会と情報を共有する③ 財産的価値を有する未公開のモデルの重みを保護するためのサイバーセキュリティ及びイン
サイダー脅威対策への投資④ AIシステムの問題や脆弱性を第三者が発見し報告することを奨励するシステムを構築する⑤ データの来歴情報（provenance）や電子透かし（watermarking）など、視聴覚コンテンツがAIの生成によるものであることをユーザーが理解できるようにするメカニズムを開発・配備する⑥ モデルやシステムの能力・限界、適切・不適切な利用について公に報告する⑦ 有害なバイアスや差別の回避、プライバシーの保護を含め、AIシステムによる社会的リスクに関する研究を優先する⑧ 最先端のAIシステムを社会の最大の課題への対処に役立てるために開発・配備する◼ ホワイトハウスの発表を受けて、Anthropic、グーグル、マイクロソフト、OpenAI社の4社は、特にAIの安全性研究の促進、フロンティアモデルの開発と展開のためのベストプラクティスの策定、法律家、産業界、学界、市民社会との情報共有の促進を目的とする「フロンティアモデル・フォーラム」の設立を発表した出典：（https://www.whitehouse.gov/wp-content/uploads/2023/07/Ensuring-Safe-Secure-and-Trustworthy-AI.pdf）（https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitmentsfrom-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/）

54© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU◼ 欧州委員会は、2021年4月21日に、AI法案を提案• EU加盟国内において直接法的効力を有する「規則」• 以下の4点を目的とする① EU市場で上市・利用されるAIシステムが安全で基本的権利やEU法を尊重したものであることを確保すること② AIへの投資及びイノベーションを促進するための法的安定性を確保すること③ AIシステムに適用される既存の法律の効果的な執行とガバナンスを強化すること④ 適法、安全で信頼できるAIの利用のための単一市場の発展を促進し、市場の細分化を防止すること、を目的とする• リスクベースのアプローチを採用し、以下の4段階のリスクレベルに応じた規制を設定する① 容認できないリスク ⇒ 原則禁止
② 高リスク ⇒ 厳格な規制③ 限定的なリスク ⇒ 透明性義務④ 極小リスク ⇒ 制限なし
• EU域内にAIシステムを提供する域外企業にも適用される。違反の場合、最大で3000万ユーロまたは年間世界売上高の6％のいずれか高額な方の罰金が科され得る• 2022年11月にEU理事会が、2023年6月に欧州議会が、それぞれ修正案を採択し、現在、トリローグと呼ばれる三者の非公式協議で修正案の一本化作業が進められている• 早ければ、本年中に法案が採択され、2025年末から施行• なお、欧州委員会とグーグルを中心とする企業は、AI規制の制定に先立ち、AI技術のガバ
ナンスに係るAI協定（AI pact）を策定すべく協議中であるとされる
欧州委員会提案（https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206）
EU理事会修正案（https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/en/pdf）
欧州議会修正案（https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html）
55© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU◼ AI法案全体の概要は以下のとおり（基盤モデル、生成AIに焦点を当てた議会案につき後述）
1. 適用対象（2条）① AIシステムをEU域内で上市し又はサービスに供する提供者（provider）✓ 提供者の設立場所がEU域内であるか第三国であるかを問わない✓ 提供者とは、有償・無償を問わず、AIシステムを開発し、又は、自己の名称・商標の下に上市・サービス提供することを目的として開発されたAIシステムを有する自然人・
法人・公的機関・代理店・その他の団体（3条（2））✓ AIシステムの定義は、委員会案、理事会案、議会案で異なり、現在交渉中② EU域内に所在するAIシステムの利用者（user）✓ 利用者とは、自らの権限の下でAIシステムを使用する自然人・法人・公的機関・代理店・その他の団体（ただし、AIシステムが個人的な非職業的活動の過程で使用される場合を除く）✓ 議会案では、用語として利用者に代えて配備者（deployer）を使用③ AIシステムのアウトプットがEU域内で利用される場合、第三国に所在するAIシステム提供
者・利用者

56

© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
2. リスクベース・アプローチ（2章、3章、4章）：以下の4段階のリスクレベルに応じた規制① 容認できないリスク（Unacceptable Risk）：原則禁止② 高リスク（High Risk）：リスク管理、データガバナンス、透明性の確保、人間による監視等、
厳格な規制の対象とする③ 限定的なリスク（Limited Risk）：AI使用の事実の告知等の透明性義務を課す④ 極小リスク（Minimal Risk）：制限なし（ただし、高リスクAIに対する要求事項を自主的に適用すること等を内容とする行動規範の策定が奨励される）
3. 禁止されるAI実践（practice）（2章（5条））① サブリミナル技術を利用するAIシステムの上市・サービス提供・利用② 子供や障がい者を搾取するAIシステムの上市・サービス提供・利用③ （公的機関による）ソーシャルスコアリング✓ 理事会案、議会案では「公的機関による」を削除④ 公衆がアクセス可能な空間における法執行目的でのリアルタイム遠隔生体認証システムの利用✓ 議会案はリアルタイム遠隔生体認証システムの全面禁止、機微な特徴（性別、人種等）を利用した生体分類システムなど禁止の範囲の拡大などを求める

57© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
4. 高リスクAIシステム（3章）① 高リスクAIシステムの分類基準（6条）
a. 産業機械、医療機器等、附属書IIに掲げる個別法の適用を受ける製品又はその安全部品であって、第三者認証の対象とされるものに該当する場合（1項）
b. 附属書IIIに掲げる以下の分野のAIシステム（2項）
i. 自然人の生体認証・分類
ii. 重要インフラの管理・運営
iii. 教育・職業訓練
iv. 雇用、労働者管理、自営業の機会
v. 必須の民間サービス、公共サービス・利益へのアクセス
vi. （法執行機関による）法執行
vii. （所管の公的機関による）移民、亡命及び国境管理viii. （司法当局による）司法及び民主的プロセスの運営② 高リスクAIシステムが満たす必要のある要件（2節）
a. リスク管理システムの確立・実施・文書化・維持等（9条）
b. 高品質な学習、検証、テスト用データセットに基づくAIシステムの開発（10条）
c. 附属書IV記載の情報（AIシステムの概要等）を含む技術文書の作成等（11条）
d. システム動作中の自動ログ記録機能（12条）
e. 利用者によるアウトプットの解釈、適切な利用を可能とする透明性の確保、使用説明書の添付（13条）
f. 人間による監視を可能とする（適切なインターフェース・ツール等）（14条）
g. 適切なレベルの正確性、頑健性、サイバーセキュリティの達成等（15条）
58© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
4. 高リスクAIシステム（3章）（前スライドからの続き）③ 高リスクAIシステムの提供者の義務（16条等）
a. 2節に定める要件（前スライド②）の充足の確保（16条（a））
b. 品質管理システムの設置、文書化、実施（16条(b)、17条）
c. 技術文書の作成（16条（c）、18条）
d. （自己の管理下にある場合）自動生成されたログ記録の保存（16条(d)、20条）
e. 上市前に関連する適合性評価手続きを受けること（16条（e）、19条）✓ 2節の要件をカバーする欧州標準（harmonized standards）に適合する高リス
クAIシステムは、本規則の要件に適合していると推定（40条）✓ かかる欧州標準が存在しない場合、欧州委員会は共通仕様（common
specification）を策定することができ、2節の要件をカバーする共通仕様に適合する高リスクAIシステムは、適合性推定（41条）✓ 適合性評価手続きとしてAI法案は、附属書VIに基づく自己評価と附属書VIIに基づく第三者認証を想定している（現時点の法案では、大多数の高リスクAIシ
ステムにつき自己評価で足りる）（43条）
f. AIシステムのEUデータベースへの登録（16条（ｆ）、51条）
g. 2節の要件の不充足の場合に必要な是正措置等を講じること（16条（g）、21条）
h. 違反があった場合、その事実と是正措置を当局等に通知すること（16条（h）、22条）
i. 適合性宣言の作成、CEマークの添付（16条（i）、49条、48条）
j. 当局への協力（16条（ｊ）、23条）
k. ＥＵ域外で設立された提供者については、ＥＵ域内代理人を置くこと（25条）
l. 市販後モニタリング計画（技術文書を構成）に基づくモニタリングの実施（61条）
m. 重大事故・誤作動があった場合の当局への通知（62条）
59© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
4. 高リスクAIシステム（3章）（前スライドからの続き）④ 高リスクAIシステムの輸入者の主な義務（26条）
a. 高リスクAIシステムの上市前に、次の事項を確認すること
i. 提供者による適合性評価手続きの実施
ii. 提供者による技術文書の作成
iii. 提供者による適合性表示の貼付、必要文書・使用説明書の添付
b. 高リスクAIシステムが本規則の要件を満たさないと考える場合は、上市しないこと
c. 輸入者の名称/登録商号/登録商標と連絡先を表示すること⑤ 高リスクAIシステムの販売業者（distributor）の主な義務（27条）
a. 高リスクAIシステムを市販する前に、次の事項を確認すること
i. CEマークが付されていること
ii. 必要文書・使用説明書が添付されていること
iii. 提供者ないし輸入者が本規則に定める義務を遵守していること
b. 高リスクAIシステムが2節の要件を満たさないと考える場合は、市販しないこと
c. 市販した高リスクAIシステムが2節の要件を満たしていないと考える場合に必要な是正措置等を講じ、又は、提供者・輸入者・関係事業者が是正措置を講じることを確保
すること⑥ 高リスクAIシステムの販売者、輸入者、利用者、その他第三者は、次の場合において、AIシステムの提供者の義務を負う（28条）
a. 高リスクAIシステムを自己の名称・商標の下で上市する場合
b. すでに上市された高リスクAIシステムの使用目的を変更する場合
c. 高リスクAIシステムに大幅な変更を加える場合
60© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
4. 高リスクAIシステム（3章）（前スライドからの続き）⑦ 高リスクAIシステムの利用者の義務（29条）
a. 使用説明書に従って利用すること
b. インプットデータと高リスクAIシステムの意図された用途との関連性を確保すること
c. 高リスクAIシステムの動作を監視すること✓ 理事会案、議会案では、必要な能力等を有する者による人的監視の義務を追加
d. 高リスクAIシステムの使用説明書に従った利用が健康・安全・基本的人権に関するリスクをもたらす可能性があると考える理由がある場合は、提供者・販売業者に通知
し、システムの利用を停止すること
e. 重大な事故・誤作動を発見した場合は、提供者・販売業者に通知し、AIシステムの利
用を中断すること
f. 自動的に生成されるログを保存すること
g. （議会案）職場で高リスクAIシステムを利用する前に、労働者代表と協議し、影響を受ける従業員に高リスクAIシステムの対象となることを通知すること
h. （議会案）附属書IIIに掲げる高リスクAIシステム（重要インフラ分野を除く）の利用者
は、利用開始前に、当該システムの利用により影響を受ける可能性のある自然人・
集団のカテゴリー、基本的権利に対する合理的に予見可能な影響などを含む基本的権利影響評価を実施すること（29a条）

61© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU
5. 透明性義務を伴うAIシステム（4章、52条）
限定的なリスクを伴う次のAIシステムについては、透明性義務が課される① 自然人とやり取りするAIシステム✓ 提供者は、自然人がAIシステムとやり取りしていることにつき（状況から明らかである
場合を除き）その旨自然人に通知する✓ 議会案は、いかなる機能がAIで実現されているか、人的監視があるか等の情報も提供することを求める✓ 理事会案、議会案は、遅くとも最初のやり取り・接触の時点で明確かつ識別可能な方法で情報を提供することを求める（以下のシステムについても同じ）② 感情認識システム・生体情報分類システム✓ かかるシステムの利用者は、対象となる自然人にシステムの適用を通知する③ ディープフェイク生成システム（実在する人物等に相当程度似た動画等を生成・操作するシステム）✓ かかるシステムの利用者は、コンテンツが人工的に生成・操作されたものであることを開示する✓ 議会案は、可能な場合、コンテンツを生成・操作した者の名称の開示を求める
6. その他：上記の規制措置に加え、AI法案は次のような規定を置く① イノベーション支援措置（AI規制サンドボックス、小規模企業支援等）② ガバナンス（欧州AI委員会ないしEU AIオフィスの設置等）③ 執行（市場監視、当局によるデータセット等へのアクセス権限等）④ 罰則（最大で3000万ユーロ又は全世界年間売上高の6％のいずれか高額である方を上限とする罰金）（議会案では最大で4000万ユーロ又は全世界売上高の7％）⑤ 行動規範の策定の奨励
62© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU◼ 基盤モデル及び生成AIに係る議会案• 2022年11月のChatGPTの公開に端を発し、生成AIに大きな注目が集まるとともに、そのリスクに対する懸念も高まったことを踏まえ、議会案は、基盤モデル及びその一形態としての生成AIに焦点を当てた規定が追加されている• 必ずしもすべての基盤モデルないし生成AIが高リスクAIに該当するものではないと思われるものの、基盤モデル提供者の義務に係る規定は高リスクAIに関する規制を規定する3章に置かれている◼ 基盤モデルの定義（3条1項（1c））• 大量かつ多様なデータで訓練され、アウトプットが汎用性を有するように設計され、幅広い
個別のタスクに適応可能なAIシステムモデルをいう◼ 基盤モデル提供者の義務（28b条）• 基盤モデルがスタンドアローンモデルとして提供されるか、AIシステム・製品に組み込まれるか、無料のオープンソースライセンスの下で提供されるか、サービスとして提供されるか、他の販売経路で提供されるかを問わず、その提供者は上市前に次の要件を満たすことを確保する① 健康、安全、基本的権利、環境、民主主義、法の支配に対する合理的に予見可能なリスクにつき、独立の専門家の関与を得る等の適切な方法により、開発前及び開発中に特定、軽減したことを、適切な設計、試験、分析を通じて示すとともに、開発後に残る軽減不可能なリスクを文書化すること② 特にデータソースの適切性、あり得るバイアス、適切な軽減策を検討する措置をはじめ、基盤モデル向けに適切なデータガバナンス措置を施されたデータセットのみを処理し、組み込むこと
63© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU◼ 基盤モデル提供者の義務（28b条）（前スライドからの続き）③ 基盤モデルがそのライフサイクル全体を通じて、性能、予測可能性、解釈可能性、矯正可能性、安全性及びサイバーセキュリティの適切なレベルを達成するようモデルを設計・開発すること✓ 独立専門家の参加を得たモデル評価、文書化された分析、概念化・設計・開発期間における精密なテスト等の適切な方法によって査定される④ エネルギー使用・資源使用・廃棄物を削減し、エネルギー効率・システム全体の効率を向上させるよう基盤モデルを設計・開発すること（40条に定める欧州標準が公表されるまでは義務の適用なし）⑤ エネルギー消費、資源消費、技術的に可能であればシステムのライフサイクル全体
を通じてそのシステムの配備・利用が環境に与えるその他の影響を測定し、記録することを可能とする機能を持つように基盤モデルを設計・開発すること⑥ 川下の提供者が義務を遵守できるよう、詳細な技術文書及び分かりやすい使用説明書を作成すること⑦ 品質管理システムを確立し本条の遵守を確保するとともに記録し、検証の可能性を持たせること⑧ EUデータベースに基盤モデルを登録すること⑨ 基盤モデルの上市後10年間、当局が技術文書を利用できるようにしておくこと

64© S&K Brussels LPC 2023. All Rights Reserved.

AI法案：EU◼ 生成AIの定義（28b条4項柱書き）• 複雑なテキスト、画像、音声、動画などのコンテンツを、様々なレベルの自律性をもって生成することを特に意図したAIシステムにおいて使われる基盤モデル◼ かかる生成AIの提供者及び基盤モデルを生成AIシステムに特化させる提供者には、追加的に次の義務が課せられる（28b条4項）① 自然人とやり取りすることを意図したAIシステムに係る透明性義務を遵守すること（すなわち、自然人がAIシステムとやり取りしていることにつき（状況から明らかである場合を除き）
その旨自然人に通知すること）② 表現の自由を含む基本的権利を損なうことなく、一般的に認知された技術水準に従い、EU法に違反するコンテンツの生成に対する適切なセーフガードを確保する方法で、基盤モデ
ルを学習させ、場合に応じ、設計・開発すること③ 著作権法に基づいて保護される学習データの使用につき十分に詳細な概要を記録し一般に公開すること

65© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国◼ 中国においては、8月15日から、生成AIサービス管理暫定弁法（以下「暫定弁法」）が施行• 主要法域で初めて生成AIに関する包括的な規制を施行• 「インターネット情報サービスにおけるアルゴリズム推奨管理規定」（2022年3月施行、以下「アルゴリズム管理規定」）及び「インターネット情報サービス深度合成管理規定」（2023年1月施行、以下「深度合成管理規定」）に続くAI関連規制• 「サイバーセキュリティ法」（2017年6月施行）、「データセキュリティ法」（2021年9月施行）及び「個人情報保護法」（2021年11月施行）の「データ3法」もAI規制の背景となる規制として関連する• 以下を目的とし、生成AIに関するイノベーションの推進と法に基づくガバナンスを両立させるカテ
ゴリー別の段階的管理を行うとする（リスクベースアプローチを念頭にしたものと思われるが、その詳細は今後の規則・ガイドラインの制定による（16条））① 生成AIの健全な発展と規律された利用の促進② 国家の安全と社会公益の維持③ 市民、法人その他の組織の合法的な権益を保護• 学習データに係る知的財産権・プライバシーの保護、アルゴリズムによる差別の禁止、透明性の確保等の規制内容は一般的なAIガバナンスに関する日米欧における議論と同様• 一方、「社会主義核心的価値観」の堅持、違法コンテンツを発見した場合に所管官庁への報告を求められる等、中国特有の規制も見られる• 中国政府は、生成AIに関する国際ルールの策定に参加すると明記（6条）

66

暫定弁法：（http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm）
参考英訳：（https://www.chinalawtranslate.com/en/generative-ai-interim/）
アルゴリズム管理規定：（https://www.gov.cn/zhengce/zhengceku/2022-01/04/content_5666429.htm
参考英訳：（https://digichina.stanford.edu/work/translation-internet-information-service-algorithmic-recommendationmanagement-provisions-effective-march-1-2022/
深度合成管理規定：（http://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm）
参考英訳：（https://www.chinalawtranslate.com/en/deep-synthesis/）© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国◼ 暫定弁法の主要内容は以下のとおり
1. 主要概念の定義
用語定義

生成AIサービス

生成AI技術を利用して中華人民共和国の公衆に向けて提供するテキスト、画像、音声、動画等のコンテンツを生成するサービス（2条）✓ このような生成AIサービス提供行為が暫定弁法の適用対象となる✓ 報道・出版、映画・テレビ制作、芸術創作などの活動に従事するための生成AIサービスの利用について、国が他の規定を設けている場合は、当該規定に従う✓ 中国の公衆に生成AIサービスを提供していない場合の生成AI技術の研究、開発、使用については適用除外

生成AI技術テキスト、画像、音声、動画等のコンテンツを生成する能力を持つモデルや関連技術（22条（1））

生成AIサービス
提供者

生成AI技術を用いて生成AIサービス（プログラマブル・インターフェースの提供等による生成AI
サービスを含む）を提供する組織又は個人

生成AIサービス
利用者

コンテンツを生成するために生成AIサービスを利用する組織又は個人

2. 適用範囲：生成AI技術を利用して中国国内の公衆に向けてテキスト、画像、音声、動画等のコンテンツを生成するサービスを提供する行為たる「生成AIサービス」• 中国国外の企業であっても、中国国内の公衆に「向けて」サービスを提供する場合は暫定弁法が適用される✓ 具体的な判断基準についての明確な規定は置かれておらず、サービス提供に用いられる言語、決済通貨、決済方法等の諸事情が考慮されることになると考えられる• 他者が開発した生成AIを「利用して」サービスを提供する行為も適用対象に含まれる
67© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国
3. 生成AIサービスの提供・利用に関する一般規定（4条）• 生成AIサービスの提供・利用は、法律・行政法規を遵守し、社会道徳・倫理を尊重し、以下の規定を遵守するものとする

68

社会主義の核心的価値観の堅持法律・行政法規で禁止されている次のようなコンテンツを生成してはならない：国家権力・社会主義体制の転覆の扇動、国家の安全・利益を危うくするもの、国家のイメージを損なうもの、
分離主義の扇動、国家の統一・社会の安定を損なうもの、テロ・過激主義の提唱、民族憎悪・
民族差別の助長、暴力・わいせつな内容、虚偽の有害情報等

差別の防止

アルゴリズムの設計、学習データの選択、モデルの生成・最適化、サービスの提供等において、民族、信仰、国籍、地域、性別、年齢、職業、健康等に基づく差別を防止するための効果的な措置を講じること

知的財産権の尊重
等

知的財産権と商業倫理を尊重し、企業秘密を守り、アルゴリズム・データ・プラットフォーム等における優位性を独占や不正競争に利用しないこと

他者の権利等の尊重他者の正当な権利・利益を尊重し、他者の心身の健康を害さず、他者の肖像・名誉・プライバ
シー・個人情報等の権利・利益を侵害しないこと

透明性・正確性・信頼性

サービス形態の特性を踏まえ、生成AIサービスの透明性を高め、生成されるコンテンツの正確性・信頼性を向上させるための効果的な措置を講じること© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国
4. 生成AIサービスの提供者の義務
学習データ
（7条）

学習データを取り扱う活動（事前訓練、最適化訓練等）を法令に基づいて実施し、以下を遵守• 合法的な出所を有するデータ・基盤モデルの使用• 他者が法律に従って享受する知的財産権を侵害してはならない• 個人情報を取り扱う場合には、本人の同意を得るか、その他法令に従うこと• 学習データの質を向上させ、その真実性・正確性・客観性・多様性を高めるために効果的な措置を講じること• サイバーセキュリティ法、データセキュリティ法、個人情報保護法などの法律その他の関連規制

データのラ
ベリング
（8条）

AI技術の研究開発過程において手動でデータのラベリングが実施される場合、以下のこと等• 明確・具体的・運用可能なラベリング規則を策定• ラベリングの品質評価の実施、ラベリング内容の正確性の検証• ラベリング担当者に必要な訓練を実施

責任等
（9条）

•

•

法令に基づきオンライン情報コンテンツの制作者としての責任を負い、オンライン情報セキュリ
ティ義務を果たす
個人情報が含まれる場合、法令に基づき個人情報取扱事業者としての責任を負い、個人情報保護義務を果たす
サービスに登録した利用者との間で双方の権利・義務を明確にしたサービス契約を締結

利用者保護
（10条）

•
•
•

サービスの対象者、場面、用途を明確にして開示
利用者が生成AI技術を科学的・合理的に理解し、適法に利用できるように指導
未成年者の生成AIへの過度の依存・依存症を防止するための効果的措置を講じる

個人情報
（11条）

•
•

利用者の入力情報・利用記録につき法令に従い守秘義務を履行
不必要な個人情報の収集、利用者を特定出来る入力情報・利用記録の不正保持、利用者の入力情報・利用記録の他者への不正提供の禁止
法令に従い、個人情報の本人からの照会、複写、訂正、追加、削除の要請に速やかに対応・処
理すること

•

•
69

© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国
4. 生成AIサービスの提供者の義務（前スライドからの続き）
AI製の表示（12条）•

深度合成管理規定に従い、画像や動画などの生成コンテンツを特定する✓ 深度合成管理規定16条（利用者の利用に影響を与えない識別情報を付加する技術的措置）、17条（人物の画像等を生成する場合等において公衆が混同・誤認するおそれがある場合の目立つ表示）

サービスの提供（13条）•

利用者の正常な利用を確保するため、サービス提供期間中、安全・安定・継続的なサービスを提供する

違法コンテンツ等
への対処
（14条）

•

違法コンテンツを発見した場合、速やかに生成停止・送信停止・消去等の措置を講じるとともに、モデル最適化訓練等の措置を講じて是正し、所轄官庁に報告する
利用者が生成AIサービスを利用して違法行為を行っていることを発見した場合、当該利用者に対する警告・機能制限・サービス提供の停止又は終了等の措置を講じるとともに、関連記録を保存し、所轄官庁に報告する

苦情対応
（15条）

•

•

•
アルゴリズムの
申請等
（17条）

•

世論特性・社会動員機能を有する生成AIサービスの提供者は、関連法規に従って安全性評価を実施し、アルゴリズム管理規定に従ってアルゴリズムに関する申請・変更・取消の手続きを行う

当局との協力（19条）•

所管官庁が生成AIサービスの監督・検査を行うに当たり、法律に従って協力し、必要に応じて学習データの出所、規模、種類、ラベリング規則、アルゴリズムの仕組みを説明し、必要な技術、データの支援・援助を提供する

許可の取得
（23条）

•

生成AIサービスの提供につき法律・行政法規において行政許可を取得することが定められている場合、許可の取得
生成AIサービスへの外資導入は、外資に関する法律・行政法規の規定を遵守する•
70

苦情・報告のためのメカニズムの確立・完備し、苦情・報告を簡単に行えるポータルを設置するとともに、その処理プロセスや回答期限を開示する
公衆からの苦情・報告を迅速に受け付け、処理し、処理結果をフィードバックする© S&K Brussels LPC 2023. All Rights Reserved.

生成AIサービス管理暫定弁法：中国
5. その他：暫定弁法には、その他以下のような規定が置かれている① 生成AI技術の革新的な応用の奨励、業界団体等による連携の支援（5条）② 国際ルールの策定への参加、関連インフラ・データ資源の拡充（6条）③ インターネット情報、教育、公安部門等によるAI生成サービスの管理の強化、革新と発展に適合する生成AI技術の種類と（リスク）段階に対応する規則・ガイドラインの策定（16条）④ 生成AIサービスが法律・行政法規・暫定弁法を遵守していないことを発見した場合、利用者が所管官庁に通報等する権利（18条）⑤ 外国から提供される生成AIサービスが法律・行政法規・暫定弁法の要求を満たさない場合に国家インターネット情報弁公室が関係機関に通知し、技術的措置を講じて対応する義務（20条）⑥ 罰則（提供者が暫定弁法に違反した場合、サイバーセキュリティ法、データセキュリティ法、
個人情報保護法、科学技術進歩法等の規定に基づき罰則を適用する等）（21条）◼ 8月15日の施行に先立ちアップルは、暫定弁法に違反しているとして中国のアップストアから100
種類以上の生成AIアプリを削除したと報じられている（https://gizmodo.com/apple-app-store-chatgpt-apps-purge-china-1850696025）

71© S&K Brussels LPC 2023. All Rights Reserved.

規制の域外適用◼ 一国の法律の管轄権は、その地理的な領域内の人、財産、行為にのみ及び、一国の国内法の効力は外国には及ばない（属地主義）のが国際法の一般原則（刑法1条参照）• その他、自国民による国外の行為に管轄権を及ぼす積極的属人主義（同3条）、自国民を重大な害悪から保護する目的による消極的属人主義（同3条の2）、自国の国益に重大な影響を及ぼす国内外における行為に自国民によるものであるか否かを問わず管轄権を及ぼす保護主義（同2条）等が伝統的に認められてきた◼ しかし、経済活動のグローバル化に伴い、外国で行われた行為が自国市場に重大な影響を及ぼす場合が増えてきたことを受けて、国家は、その領域内において実質的・直接的・意図された（予見可能な）効果を生じさせる領域外で行われた行為を規制する立法管轄権を有するとの「効果理論」の考え方が広まった◼ EU AI法案、中国の暫定弁法は効果理論に基づくと解される域外適用規定を置いている
法域

72

規定

EU
AI法案

AIシステムをEU域内で上市し又はサービスに供する提供者（設立場所がEU域内であるか第三国であるかを問わない）に適用（3条1項（a））
本規則は、AIシステムのアウトプットがEU域内において利用される場合に、第三国に所在するAIシ
ステムの提供者及び利用者に適用（3条1項（c））• 議会案では「利用されることが意図される場合に」

中国
暫定弁法

生成AI技術を利用して中国国内の公衆に向けてテキスト、画像、音声、動画等のコンテンツを生成するサービスを提供する場合に適用（2条）

米国（参考）

米国連邦個人情報保護法案は、対象事業体として連邦取引委員会法（FTC法）の適用を受ける者を挙げており（2条（9）（A）（i））、FTC法5条は、不公正・欺瞞的な影響を及ぼす行為・実践を違法と宣言し、そのような行為・実践に「米国内において予見可能な損害を生じ又は生じる可能性が高い
外国商取引」を含むとする（5条（a）（4）（A）（i））© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比◼ 生成AIに係る規制に関し、現時点において、具体的な条文が存在する中国の暫定弁法とEU法案を対比すれば、以下のとおり（右欄の○：類似、△：多少類似、×：対応なし）

73

論点

中国 暫定弁法

EU AI法案

特定の価値観へのコ
ミット（社会主義vs民主主義・法の支配）

社会主義の核心的価値観の堅持（4条（1））

健康、安全、基本的権利、環境、民主主
義、法の支配に対する合理的に予見可能なリスクを特定・軽減（議会案28b条2項
（a））

×

差別の防止

アルゴリズムの設計、学習データの選択、モデルの生成・最適化、サービスの提供などの過程における差別防止のための措置（4条（2））

全てのAIシステムに適用される一般原則
としての多様性、非差別、公平性（議会案
4a条1項（a））○

知的財産権の尊重等

知的財産・商業倫理の尊重、商業
秘密の保護、優位性を利用した独占・不正競争の禁止（4条（3））

EU法に違反するコンテンツの生成に対す
る適切なセーフガードを確保する方法で基盤モデルを学習させる（議会案28b条4
項（b））
著作権法に基づいて保護される学習デー
タの使用につき十分に詳細な概要を記録
し一般に公開する（議会案28b条4項（c））○～△

他者の権利等の尊重

他者の合法的な権利・利益の尊重、 全てのAIシステムに適用される一般原則
肖像・名誉・プライバシー・個人情としてのプライバシーとデータガバナンス
報に係る権利・利益の侵害の禁止 （議会案4a条1項（c））（4条（4））○© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比（前スライドからの続き）

74

論点

中国 暫定弁法

EU AI法案

透明性・正確性・信頼性

生成AIサービスの透明性を高め、生成されるコンテンツの正確性・信頼性を高めるための効果的な措置（4条（5））

全てのAIシステムに適用される一般原則としての透明性（議会案4a条1項（d））
高リスクAIシステムが満たすべき要件としての透明性及び利用者への情報提供（13条1項）

○

学習データ

合法的な出所を有するデータ・基盤
モデルの使用、知的財産を侵害しな
いこと、個人情報の適切な扱い、学
習データの質の向上等（7条）

基盤モデル向けに適切なデータガバナ
ンス措置を施されたデータセットのみを処理し、組み込む（議会案28b条2項（b））○

データのラベリング

AI技術の研究開発過程において手動でデータのラベリングが実施される場合、明確・具体的・運用可能なラベリング規則を策定し、ラベリングの品質評価の実施、ラベリング内容の正確性の検証し、ラベリング担当者に必要な訓練を実施する等（8条）

高リスクAIシステムが満たすべき要件である適切なデータガバナンス・管理措置の一環としてラベリングに言及（10条2項（c）、3項）
高リスクAIシステムの提供者の義務である品質管理システムの一環としてラベリングに言及（17条1項（f））△© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比（前スライドからの続き）

75

論点

中国 暫定弁法

EU AI法案

コンテンツについての責任等オンライン情報コンテンツの制作者としての責任、オンライン情報セキュリティ義務
個人情報が含まれる場合、個人情報取扱事業者としての責任・義務
利用者との間で権利・義務を明確にしたサービス契約を締結（9条）。

生成されたコンテンツそのものに対して製作者、個人情報取扱責任者としての責任を負う旨の規定、利用者との間で一定の内容のサービス契約の締結を義務付ける規定は置かれていない

×

利用者保護

サービスの対象者、場面、用途を明確にして開示し、利用者が生成AI技術を科学的・合理的に理解し、適法に利用できるように指導する。
未成年者の生成AIへの過度の依存・依存症を防止するための効果的措置を講じる（10条）

自然人がAIシステムとやり取りしている
ことにつき（状況から明らかである場合を除き）その旨自然人に通知（議会案
28b条4項（a））
高リスクAIシステムが満たすべき要件として、利用者によるアウトプットの解釈、適切な利用を可能とする透明性の確保、使用説明書の添付（13条）○～△

個人情報の扱い

利用者の入力情報・利用記録につき法令に従い守秘義務を履行、不必要な個人情報の収集、利用者を特定出来る入力情報・利用記録の不正保持、利用者の入力情報・利用記録の他者への不正提供の禁止、法令に従い、個人情報の本人からの照会、複写、訂正、追加、削除の要請に速やかに対応・処理すること（11条）

基盤モデルの提供者が一般データ保
護規則（GDPR）上の管理者・処理者に該当する場合は、GDPR上の義務に服するが、AI法案自体には対応する規定は置かれていない×© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比（前スライドからの続き）
論点76

中国 暫定弁法

EU AI法案

AI製の表示深度合成管理規定に従い、画像や動画などの生成コンテンツを特定する（12条）

ディープフェイク生成AIシステムの利用者は、コ
ンテンツが人工的に生成・操作されたものである
ことを開示する（52条3項）△

サービスの提供

利用者の正常な利用を確保する
ため、サービス提供期間中、安
全・安定・継続的なサービスを提供する（13条）

基盤モデルがそのライフサイクル全体を通じて、性能、予測可能性、解釈可能性、矯正可能性、安全性及びサイバーセキュリティの適切なレベルを達成するようモデルを設計・開発すること（議会案28b条2項（d））○

違法コンテンツ
等への対処

違法コンテンツを発見した場合、速やかに生成停止・送信停止・消去等の措置を講じるとともに、モデル最適化訓練等の措置を講じて是正し、所轄官庁に報告する。
また、利用者が生成AIサービスを利用して違法行為を行っていることを発見した場合、当該利用者に対する警告・機能制限・サービ
ス提供の停止又は終了等の措置を講じるとともに、関連記録を保存し、所轄官庁に報告する（14条）。

EU法に違反するコンテンツの生成に対する適切なセーフガードを確保する方法で、基盤モデルを学習させ、場合に応じ、設計・開発する（議会案
28b条4項（b））
高リスクAIシステムの提供者として、AIシステムに違反があった場合、その事実と是正措置を当局等に通知（16条（h）、22条）
高リスクAIシステムの提供者として、重大事故・
誤作動があった場合の当局への通知（62条）△～
×© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比（前スライドからの続き）
論点77

中国 暫定弁法

EU AI法案

苦情対応

苦情・報告のためのメカニズムの確立・完備し、苦情・報告を簡単に行えるポータルを設置するとともに、その処理プロセスや回答期限を開示する。
公衆からの苦情・報告を迅速に受け付け、処理し、処理結果をフィードバックする（15条）。

対応する規定は置かれていない

×

アルゴリズムの申請等

世論特性・社会動員機能を有する
生成AIサービスの提供者は、関連法規に従って安全性評価を実施し、アルゴリズム管理規定に従ってアルゴリズムに関する申請・変更・取消の手続きを行う（17条）

EUデータベースに基盤モデルを登録する（議会案28b条2項（g））△

当局との協力所管官庁が生成AIサービスの監基盤モデルの上市後10年間、当局が督・検査を行うに当たり、法律に従っ 技術文書を利用できるようにしておく（議会案28b条3項）て協力し、必要に応じて学習データの出所、規模、種類、ラベリング規則、アルゴリズムの仕組みを説明し、必要な技術、データの支援・援助を提供する（19条）○© S&K Brussels LPC 2023. All Rights Reserved.

生成AIの規制に係る中国法とEU法案の対比（前スライドからの続き）
論点78

中国 暫定弁法

EU AI法案

許可の取得

生成AIサービスの提供につき法律・行政法規において行政許可を取得することが定められている場合、許可の取得。
生成AIサービスへの外資導入は、外資に関する法律・行政法規の規定を遵守する（23条）

対応する規定は置かれていない

×

環境への配慮

対応する規定は置かれていない

エネルギー使用・資源使用・廃棄物を削減し、エネルギー効率・システム全体の効率を向上させるよう基盤モデルを設計・開発する（議会案28b条2項（d））

×

環境への影響の測定

対応する規定は置かれていない

基盤モデルの上市後10年間、当局が技術文書を利用できるようにしておく（議会案28b条3項）

×

技術文書・使用説明書の作成

明示的な対応規定は置かれていない川下の提供者が義務を遵守できるよう、
詳細な技術文書及び分かりやすい使用
説明書を作成する（議会案28b条（e））△～
×

品質管理システムの確立

明示的な対応規定は置かれていない

品質管理システムを確立し本条の遵守を確保するとともに記録し、検証の可能性を持たせること（議会案28b条2項
（f））

△
～
×

© S&K Brussels LPC 2023. All Rights Reserved.

III. まとめ79

© S&K Brussels LPC 2023. All Rights Reserved.

まとめ◼ 生成AIの利用に当たっては、改めてデータ管理の見直し・徹底が求められる◼ 主要法域におけるルール形成の動向は、未だ流動的な部分も多く、引き続き要注視• EUにおけるトリローグの行方（EU理事会は加盟国政府の代表機関として国内の事業者への配慮を見せる傾向が強いのに対し、欧州議会は市民の代表機関として原理原則に忠実になろうとする傾向が強い）• 米国における秋からの専門家によるフォーラムにおける議論の方向性• 中国においては、暫定弁法は制定されたものの、詳細については不明確な部分も多く、今後の執行の動向、規則・ガイドラインの策定をフォローする必要◼ 通常、グローバルなコンプライアンス対応においては、関連する主要法域における規制の最大公約数に対応する方針で対処することが望ましい• もっとも、データ・AI関連のルールないし規制に関しては、昨今のde-risking、経済安全保障の動きやデータ3法に基づき独自のデータ経済圏の構築を図っているように見受けられる中国の動きなどに照らせば、労働市場も含めた自社にとっての中国市場の重要性や自社内のデータの流れ等を検討した上で、中国も含めて最大公約数的にグローバル一律対応をとるか、中国については個別の対応とするか、判断を迫られる場合もあり得る

80© S&K Brussels LPC 2023. All Rights Reserved.

S&K Brussels法律事務所代表 / Future of Privacy Forum（ワシントンDC）シニアフェロー
弁護士（日本（第一東京弁護士会）・ニューヨーク州・ブリュッセル（B-List）） 杉本 武重
最近の主要著作
経歴◼ 「『英国一般データ保護規制（UK
2000年 駒場東邦高等学校卒業
2004年 慶應義塾大学法学部法律学科卒業
GDPR）』ハンドブック（2022年4月）
2006-2013年 長島・大野・常松法律事務所アソシエイト」（2022年4月、ジェトロ欧州ロシア
2012年 シカゴ大学ロースクール法学修士課程卒業(LL.M)
CIS課、ジェトロ・ロンドン事務所）
2013年 オックスフォード大学法学部法学修士課程卒業(MJur)
https://www.jetro.go.jp/world/repo
2013-2014年 WilmerHale法律事務所ブリュッセルオフィスアソシエイト
rts/2022/01/b0226c404f93f434.ht、2015-2017年同オフィスシニアアソシエイト
ml
2015-2021年 デュッセルドルフ日本商工会議所法務委員会専門委員 ◼ 「米国連邦データプライバシー法案
2016-2017年 公正取引委員会競争政策研究センター客員研究員の概要（2021年6月）」（2021年6月
2017-2018年 Gibson Dunn & Crutcher法律事務所ブリュッセルオフィ、ジェトロ・サンフランシスコ事務所）
ス・ オブカウンセル
https://www.jetro.go.jp/world/repo
2018-2019年 Bird & Bird法律事務所ブリュッセルオフィス・パートナー
rts/2021/01/7f744522a1ddc8eb.h
2018年-現在 一般財団法人情報法制研究所上席研究員
tml
2019年-現在 当事務所開設・事務所代表、ニューヨークオフィス・マネー
ジングパートナー、ブリュッセルオフィス・パートナー
杉本 武重
最近の主要講演2019年-現在 一般社団法人日本DPO協会設立発起人・理事
Takeshige Sugimoto 2022年-現在 Future of Privacy Forum（ワシントンDC）シニアフェロー ◼ Speaker, Personal Data
Protection Week 2022 takeshige.sugimoto@sandkbrussels. 2020年-現在 弁護士法人S&K Brussels法律事務所 代表弁護士
Singapore Privacy Week - Panelcom
1: Data Localization vshttps://en.sandkbrussels.com/
主要な取扱分野
International Data Transfers
直通 +81-3-6410-8315◼ EU：一般データ保護規則（GDPR）、電子プライバシー規制、デジタル(jointly held by Future of Privacy
S&K Brussels法律事務所
サービス法、デジタル市場法、データガバナンス法、データ法、サイバ
Forum and Singapore’s Personal〒143-0016 東京都大田区
ーレジリエンス法案、著作権法・AI法案その他AIが関連する法分野
Data Protection Commission
大森北1-17-13 ACN大森駅前ビル7階◼ 米国：カリフォルニア州消費者プライバシー法（CCPA）、カリフォルニ(PDPC)) (Singapore)
アプライバシー権利法（CPRA）および他の米国の州レベルの包括的◼ Panelist, "Panel IV: The＜弁護士会登録＞
Challenge of Compliance: The
データ保護法・プライバシー法、連邦データプライバシー法案、著作
2006年 弁護士登録（59期）
Perspective of Data Protection
第一東京弁護士会所属
権法その他のAIが関連する法分野
Officers.” at Global Privacy
2013年 ニューヨーク州弁護士会所属 ◼ 日本：個人情報保護法（APPI）、電気通信事業法、著作権法その他
Assembly (世界プライバシー会議)
ブリュッセル弁護士会（B-List）のAIが関連する法分野
2021 Mexico, a large-scale,所属◼ グローバル：英国、インド、シンガポール、中国、ブラジル、ベトナム、
major event attended by data
インドネシア、マレーシア等の上記以外の法域のデータ保護・プライ
protection supervisory authorities
バシー保護法・同法案等に関するグローバルデータ保護コンプライア
from around the world81

ンス© S&K Brussels LPC 2023. All Rights Reserved.

弁護士法人S&K Brussels法律事務所
カウンセル弁護士 乾 香織

乾 香織
Kaori Inuikaori.inui@sandkbrussels.com
https://en.sandkbrussels.com/
直通 +81-3-6410-8672
弁護士法人S&K Brussels法律事務所〒143-0016
東京都大田区大森北1-17-13
ACN大森駅前ビル6F＜弁護士会登録＞2007年～ 弁護士登録
2013年
第二東京弁護士会所属
2023年～ 第一東京弁護士会所属

82

経歴
主要な取扱分野
1994年 京都大学法学部卒業◼ EU：一般データ保護規則（GDPR）、1997年 米国マサチューセッツ工科大学大学院政
電子プライバシー規制、著作権法・
治学修士号取得AI法案その他AIが関連する法分野
1994-1995年 外務省職員
1995-1997年 在米日本国大使館外交官補(米国 ◼ 米国：カリフォルニア州消費者プライワシントンD.C.)
バシー法（CCPA）、カリフォルニアプ
1997-1998年 在米日本国大使館広報文化班三等
ライバシー権利法（CPRA）および他書記官（米国ワシントンD.C.）の米国の州レベルの包括的データ
1998-1999年 在米日本国大使館経済班二等書記
保護法・プライバシー法、連邦データ官(米国ワシントンD.C.)
プライバシー法案、著作権法その他
1999年 外務省九州・沖縄サミット準備室
1999-2001年 外務省条約局国際協定課のAIが関連する法分野
2001-2002年 外務省条約局国際協定課 課長補 ◼ 日本：個人情報保護法（APPI）、電佐
気通信事業法、著作権法その他の2005年 司法試験合格
AIが関連する法分野
2006-2007年 最高裁判所司法研修所司法修習生◼ グローバル：英国、中国、等の上記（旧60期）
2007-2013年 シドリーオースティン法律事務所・以外の法域のデータ保護・プライバ
外国法共同事業（旧西川シドリーオースティン法律
シー保護法・同法案等に関するグロ
事務所・外国法共同事業）・アソシエイト
ーバルデータ保護コンプライアンス
2013-2023年 フリーランス翻訳（法律会計関係）（
日本語、英語）（ドイツ）
2018-2023年 日本の大手シンクタンク（アナリスト/
リサーチャーとして欧州政治経済情勢の調査、分析、報告書執筆業務に従事（委託契約））（ドイツ）
2023年-現在 当事務所東京オフィス・シニアアソシ
エイト（2023年7月まで）、カウンセル（2023年8月より）© S&K Brussels LPC 2023. All Rights Reserved.

S&K Brussels法律事務所は2019年にベルギーのブリュッセルで開業したEU、米国および日本の3つの法域のデータ保護法制・著作権法等を含むAI規制を主な取扱分
野とする弁護士によって構成される日本の法律事務所です。

S&K Brussels Website: https://www.sandkbrussels.com/
本資料には、弁護士法人S&K Brussels法律事務所に権利の帰属する秘密情報が含まれています。本書の著作権は、当事務所に帰属し、日本の著作権法および国際条約により保護されており、著作権者の事前の書面による許諾がなければ、複製・翻案・公衆送信等できません。本書に掲載されているサービス名、会社名等は各会社の商号、商標、または登録商標です。サービスの仕様および本書に記載されている事柄は、将来予告なしに変更することがあります。また、本書に記載された情報は、当事務所の依頼者への情報提供の目的で提供されるものであり、当事務所による法的助言を構成するものではないことに御留意下さい。

© S&K Brussels LPC 2023. All Rights Reserved.