東京大学未来ビジョン研究センター・東京大学大学院法学政治学研究科共催シンポジウム「AIの知財とガバナンスの論点」

2024年02月29日（木） 10:00-13:00
主催
東京大学未来ビジョン研究センター 知的財産権とイノベーション研究ユニット
東京大学大学院法学政治学研究科 先端ビジネスロー国際卓越大学院プログラム

2024/2/29

Toshiya Watanabe

1東京大学未来ビジョン研究センターは、「東京大学の知性を結集した世界的なネットワークの拠点として、地球と人類社会の未来に関連する学際的かつ社会連携型の研究を推進し、持続可能な未来ビジョンの創造に広く寄与すること」を目的として2019年4月に設置された。

https://ifi.u-tokyo.ac.jp/
2024/2/29

Toshiya Watanabe2知的財産権とイノベーション研究ユニット• 統計データを用いた実証分析やケース研究に基づき、知的財産政策に関する研究を行う• 最近の取り組みとしては① 知的財産政策の研究（特許制度、データの保護と管理、AIと知的財産他）② 経済安全保障にかかわる知的財産・研究技術管理（営業秘密管理、特許非公開制度、セキュリティクリアランス他）【成果発表例】
 Wei Hu, Tohru Yoshioka-Kobayashi, Toshiya Watanabe” Determinants of Patent Infringement Awards in theUS, Japan, and China: A Comparative Analysis” World Patent information 60 101947 2020
 渡部俊也「技術マネジメントの観点から見た「特許出願非公開制度」の影響について」ＩＰジャーナル （知的財産研究教育財団） 27(12) 10-18 （2023）
 渡部俊也, アラ・タマシアン「米国における⼤学等の学術研究機関における研究の規則 機密研究(Classified Research)と基礎研究(Fundamental Research)、東京大学未来ビジョン研究センターワーキングペーパー（2023） 平井祐理、立本博文、生稲史彦、渡部俊也「デジタル時代における組織能力とその醸成～組織プロセスの中でのデータの価値転換～」経済分析209（2024）予定
https://researchmap.jp/toshiyaW
2024/2/29

Toshiya Watanabe

32024/2/29

Toshiya Watanabe

4

未来ビジョン研究センター
オンラインシンポジウム「Well-Beingとスマートシティ」
3月13日 13時から

https://ifi.u-tokyo.ac.jp/wp/wpcontent/uploads/2024/02/event_240313.pdf

2024/2/29

Toshiya Watanabe

5Section2 AI とガバナンス
 渡部 俊也 （東京大学未来ビジョン研究センター 教授）
 江間 有沙 （東京大学国際高等研究所東京カレッジ 准教授）
 福岡 真之介 （西村あさひ法律事務所・ 外国法共同事業パートナー弁護士）
2024/2/29

Toshiya Watanabe

6知財制度とガバナンス規範の境界-AIによる学習を例として-

東京大学 未来ビジョン研究センター
渡部俊也

４０分
2024/2/29

Toshiya Watanabe

7本発表の視座• 現在、著作権等知的財産制度とAIに関しては文化庁、内閣府などの審議会・委員会等で議論がなされているところ• 他方AIガバナンス・データガバナンスに関してもガイドライン等が数多く発出され、AIについては総務省・経産省による事業者ガイドラインも策定されているところ• 本発表はこれらのいずれかの内容についての直接の議論するものではなく、 AI・データと知的財産権の関係を事例として、今後、法令と法的拘束力のないガイドラインなどとの境界において生じる課題について議論したもの

2024/2/29

Toshiya Watanabe

8アジェンダ1. AI（人工知能）とデジタルデータ
2. AI・データガバナンスの考え方
3. 機械学習に関するAI・データガバナン
スと知的財産制度との関係において考慮すべき事項
4. 上記を踏まえたAI・データガバナンスへの反映方法
5. まとめ2024/2/29

Toshiya Watanabe

92024/2/29

Toshiya Watanabe

10学習用データは重要最近のAI（人工知能）の進歩• 機械学習：特定のタスクやトレーニングにより実行できるようになるAI（人が特徴を定義）• ディープラーニング：人間が自然に行うタスクをコンピュータに学習させる機械学習の手法• 生成AI（Generative AI）：コンピュータが学習したデータを元に、新しいデータや情報をアウトプットする• 大規模言語モデル（Large Language Model; LLM）：要素間のパターンを数学的に発見するTransformerというモデルが基礎となっており、言語データを対象に、自己教師あり学習によって訓練された大規模なモデル
2024/2/29

Toshiya Watanabe

12学習の方法【教師あり学習】正解を判断するための基準となるデータ（情報）を用いて、AIが正解値とその特徴の間の関係性やパターンを学習する。
 分類モデル: データを所属するカテゴリに振り分けるための学習済みモデル（例: 画像認識、異常検出）。
 回帰モデル: 連続する値を予測するための学習済みモデル（例: 売上予測、気象予測）。
【教師なし学習】 ラベルのついていないデータの特徴のみを利用して、共通パターンを学習する。
 クラスタリング: データを類似度に基づいてグループに振り分ける学習済みモデル（例: 顧客セグメンテーション）。
 次元削減: 重要な情報を際立たせるためにデータを低次元に圧縮する学習済みモデル（例: 主成分分析）。
【自己教師あり学習】 ラベルの付いた教師データを用意できない場合に、データの特徴や構造を解析し、間接的に教師データを生成してモデルを学習する。
 大規模言語モデルにおける利用（テキスト生成など）。最近ではOpenAIが発表した動画生成AI「Sora（ソラ）」も動画に対して同じ学習方法を用いていると思われる

2024/2/29

Toshiya Watanabe13データ（著作物）

自然人

自然人による創作・発明

著作権侵害の有無
データ（非著作物）

生成指示

類似性、依拠性AI

出力

非公開データ（営業秘密、限定提供データ、保護された個人情報等

2024/2/29

Toshiya Watanabe

14データ提供者が公開したデータを機械学習に利用する場合• 公開した著作物等を、自然人が学習するのは想定していても、機械学習は拒否したいとするデータ提供者も少なくない（公開しているデータであっても、機械学習の対象になる場合は、自然人による学習とは異なる取り扱いを希望している）• 自然人が学習する場合に期待できる著作物の存在の認識、評判・評価、名誉、ひいては経済的利益などは、機械学習では期待できないとする指摘もある（OSSコミュニティーなどから）• このときのデータには、苦労して収集したデータ、著作物、個人情報、企業や組織の情報など、法的保護をうけているものもあればそれ以外の多様なものが含まれる• そもそもAIのリスクや悪用される怖れから、みずからのデータをAI学習に供することは避けたいという意見もある
2024/2/29

Toshiya Watanabe

15

AIの便益とリスク【AIが社会にもたらす便益の例】• AIは、医療、教育、防災、環境、交通など、さまざまな分野で社会課題の解決に貢献する。
• AIは、人間の創造性やイノベーションを支援し、新たな価値の創出につながる。
• AIは、人間の知能や能力を拡張し、生活の質や幸福度を向上させる。
【AIが社会にもたらすリスクや悪用の例】• AIは、人間の倫理や価値観に反する行動や判断をする可能性がある。
• AIは、人間の責任やコントロールを失わせる可能性がある。
• AIは、人間の安全や信頼を損なう可能性がある。
• その他 機密情報の流出、知的財産権を脅かすなどが指摘されている（内閣府）→ AIによる公益的便益を前提としてデータ提供の受容性を高めようとする際には、AIガバナンスが良好に機能していることが前提
2024/2/29

Toshiya Watanabe

16アジェンダ1. AI（人工知能）とデジタルデータ
2. AI・データガバナンスの考え方
3. 機械学習に関するAI・データガバナン
スと知的財産制度との関係において考慮すべき事項
4. 上記を踏まえたAI・データガバナンスへの反映方法
5. まとめ2024/2/29

Toshiya Watanabe

17AI・データガバナンス• 近年、様々な分野でガイドライン、ガイドブック、ハンドブック、手引きなどの名称で政府や民間団体等によってまとめられているものが多数存在する（法令の解説などは除く）• そのうちAI・データガバナンスと分類されるのは、AIやデータによって発生するリスクをステークホルダーの受容可能な水準に維持し、AIやデータのもたらす価値を最大化することを目的とした規範（技術的、組織的手段を含む）の策定及び運用※※羽深宏樹「ＡＩガバナンス入門──リスクマネジメントから社会設計まで」掲載の定義をもとに修正

2024/2/29

Toshiya Watanabe

18AI・データガバナンスに関するガイドライン等の具体例• AI・データに関する契約ガイドライン（経産省：2018）• DX時代における企業のプライバシーガバナンスガイドブック（経産省：2022）• プラットフォームにおけるデータ取扱いルールの実装ガイダンス （内閣府：2022）• スマートシティのデータガバナンスガイドライン（未来ビジョン研究センター：2023）• AI事業者ガイドライン（総務省および経済産業省） →AI 利活用ガイドライン（総務省）およびAI 原則実践のためのガバナンス・ガイドライン（経産省） を統合したもの（策定中）※これらのうち、データ提供者を対象に含むものにおいては、データ提供者にとってのリスクとデータ利活用の便益の理解を促し、そのうえでデータ利用に同意するプロセスを取っているものが多い
2024/2/29

Toshiya Watanabe

19ガイドライン等の具体例①

プライバシー保護の観点で考慮すべき範囲は、消費者保護とプライバシー保護の重要性に基づき、個人情報保護法等の法令によって保護される範囲を超えて、取り扱う技術や情報、社会環境によって変化するため、特段の配慮が必要となる
出典：DX時代における企業のプライバシーガバナンスガイドブック（経産省）
2024/2/29

Toshiya Watanabe

20ガイドライン等の具体例②

出典：プラットフォームにおけるデータ取扱いルールの実装ガイダンス（内閣府）
通常のデータプラットフォームの範囲
2024/2/29

Toshiya Watanabe

21AI・データガバナンスのインセンティブ【ポジティブ】• ステイクホルダーの受容性向上• 報奨、推奨• 標準等への採用• 公共調達や政府データプラットフォームとの接続など、政府との関係によるインセンティブ付与【ネガティブ】• ステイクホルダーの受容性低下（炎上など）• 監査の義務付け• 行政制裁の可能性 → 行政制裁の枠組みを制度化するなど（特定デジタルプラットフォームの透明性及び公正性の向上に関する法律など）
2024/2/29

Toshiya Watanabe

22

アジェンダ1. AI（人工知能）とデジタルデータ
2. AI・データガバナンスの考え方
3. 機械学習に関するAI・データガバナン
スと知的財産制度との関係において考慮すべき事項
4. 上記を踏まえたAI・データガバナンスへの反映方法5. まとめ2024/2/29

Toshiya Watanabe

23知的財産制度との関係• ステイクホルダーの受容性を高めるための規範が①法令に沿ったものでありステイクホルダーの受容性を高めるもの②ステイクホルダーの受容性を高めたとしても、それだけでは法令に沿わないと評価される可能性がある場合（対立はしていないがグレーゾーンであるなど）③ステイクホルダーの受容性を高めると考えられる手段が、法令に沿わないとされる場合（対立？）※公益的便益を優先した規制を設ける
ときに起きえる問題（公益のための強制的な個人情報の共有など）④法令に沿ったものであるが、ステイクホルダーの受容性を顕著に高めるとまではいえないと評価されるもの
2024/2/29

Toshiya Watanabe24

AIと著作権に関する考え方について（素案）から• AIと著作権に関する考え方について（素案）から「このような権利制限規定の立法趣旨からすると、著作権者が反対の意思を示していることそれ自体をもって、権利制限規定の対象から除外されると解釈することは困難である。・・・・・機械的に判別できない方法による意思表示があることをもって権利制限規定の対象から除外してしまうと、学習データの収集を行う者にとって不測の著作権侵害を生じさせる懸念がある。・・・・・他方で、このようなAI学習を拒絶する著作権者の意思表示が、機械可読な方法で表示されている場合、上記の不測の著作権侵害を生じさせる懸念は低減される。また、このような場合、・・・・・・・当該ウェブサイト内のデータを含み、情報解析に活用できる形で整理したデータベースの著作物が将来販売される予定があることが推認される場合、この措置を回避して行うAI学習のための複製等は、当該データベースの著作物の将来における潜在的販路を阻害する行為として、・・・・・同条による権利制限の対象とはならないと考えられる」• AI・データガバナンスの立場からは、機械学習を行う事業者に対しては、重要なステイクホルダーであるデータ提供者が機械学習に反対の意思を表明していれば、それを配慮するガイドライン等を示すことが自然• この際、対象のデータが著作物であるかどうかが重要（著作物かどうかの境界にもグレーゾーンがある）

2024/2/29

Toshiya Watanabe

25

AI時代の知的財産権検討会における収益還元の在り方の取り扱い
本検討会では、民間による収益還元策について、以下の通り、その意義や期待感が述べられた。また、権利制限規定の有無に関わらず、収益還元のための当事者間の有効な契約の効力は妨げられないことを確認した。
〇収益還元の有用性• 収益還元策は、民間ですでに進んでいる。著作権者による追加学習のサービス展開等、様々な形のビジネスが出てくると思われ、新産業創出につながる。
• 収益還元は、ぜひ実現できると良い。現状のLLMはweb上のデータを収集して学習している。web上には様々なデータがある。ニュースのほかにも広告等がある。高品質なもののみを含むデータセットを有償で提供し、賢いAIを作り技術の促進を実現できれば素晴らしい。それが可能となれば、クリエイターが開発したAIモデルの利用も進むのではないか。
• 収益還元は、マーケットに委ねて発展するということであり、よい視点。他方、補償金制度をつくろうという方法は、導入コストや、実際の分配の面でも、コストベネフィットは無い。むしろ、クローラーの収集回避に対し法的に対処するのがよい。
• 新たなツールが生まれると軋轢も生じるが、いずれ受容され共存するものである。いかに軋轢を小さく、迅速にエコシステムを立ち上げられるかという視点が必要。
内閣府AI時代の知的財産権検討会資料から2024/2/29

Toshiya Watanabe

26

アジェンダ1. AI（人工知能）とデジタルデータ
2. AI・データガバナンスの考え方
3. 機械学習に関するAI・データガバナン
スと知的財産制度との関係において考慮すべき事項
4. 上記を踏まえたAI・データガバナンスへの反映方法
5. まとめ2024/2/29

Toshiya Watanabe

27

制度目的を踏まえた際のAI・データガバナンスの考え方• 30条の４の導入背景：AIの発展により、著作物を学習することが必要不可欠となったが、AIの学習によって新たな創造性やイノベーションが生まれる可能性があり、社会的に有益であると考えられたため→機械学習によるAI技術の発展を促すという観点であれば、AI・データガバナンスにおいても反映させることは可能（著作物であってもなくてもデータエコシステムの健全な発展が重要）• ただしそれをガイドライン等に反映させるためには、事業者のみに限定されたガイドラインに加えて対象をデータ提供者にも広げたガイドライン等を設けることになる→データ提供者を含むマルチステイクホルダープロセス（公益的な便益に対する理解が重要となるが、その場合リスクのあるAIに悪用されないことが担保されていることが重要となる）
2024/2/29

Toshiya Watanabe28 コロナ感染症に対する懸念やリスクに加え公益貢献の意識はCOCOAのダウンロードを促進する
 一方厚生労働省やCOCOAに対する不信感や、COCOAに対する誤った知識（個人情報を取得して政府に提供するなど）はダウンロードを阻害する要因となりえる
定数
性別
年齢
最終学歴
国籍
居住地_東京圏
居住地_名古屋圏
居住地_大阪圏
家族人数
家族_10代以下
家族_60代以上
既婚
個人税込年収_300万円未満
個人税込年収_1000万円以上
携帯電話_スマートフォン
携帯電話_ガラケー
地域で差別
第1因子_否定的認識
第2因子_肯定的認識
第3因子_COCOAを理解
12_自分がCOCOAを利用することは、自分の大切な人（家族等）を新型コロナウイルス感染症から守ることにつながる

モデル1B-2.3760.050
0.006-0.031
0.203
0.169
0.323
-0.2280.003-0.108-0.1030.162-0.616 **-0.3842.248 **
-0.311
0.248

モデル2
B
-1.4230.072-0.001-0.161-0.2980.228
0.598 *
-0.1760.003-0.047-0.0580.123-0.547 **-0.243
2.097 **
-0.471
0.412 *
-0.863 **モデル3B-2.001
0.184
0.003-0.164-0.361
0.242
0.244-0.2460.005-0.129-0.2050.099-0.644 **-0.617 +2.641 **
-0.0090.209

モデル4B-1.868-0.0210.0002-0.0100.222
0.136
0.483 +
-0.1720.003-0.090-0.1230.099-0.563 **-0.716 *2.055 **
-0.2400.178

モデル5B-5.795 **
0.158
0.005
-0.088-0.0580.185
0.275-0.2480.004-0.166-0.1460.142-0.618 **-0.4832.529 **
-0.0360.168

モデル6B-5.240 **
0.144
0.006
-0.129
0.409
0.232
0.216
-0.2740.003-0.146-0.161
0.126-0.583 **-0.500
2.445 **
-0.1240.203

1.256 **
0.989 **

0.731 **

14_自分がCOCOAを利用することで、社会全体における新型コロナウイルス感染症の拡大防止に貢献できる

調査期間：2020/12/15～2020/12/17⇒依頼数1623 有効回答数1088 回収率67.0%
2024/2/29

Toshiya Watanabe

モデル8B-4.193 **-0.016-0.001-0.0560.290
0.115
0.476 +
-0.1660.004-0.095-0.0960.168-0.585 **-0.5412.105 **
-0.2260.154

1.226 **

13_自分がCOCOAを利用することは、自分自身を新型コロナウイルス感染症から守ることにつながる

17_自分はCOCOAについてよく理解している
Cox-Snell R2 乗
Nagelkerke R2 乗
N+p<0.1, *p<0.05, **p<0.01

モデル7B-5.213 **
0.105
0.005
-0.070
0.380
0.214
0.281
-0.2130.006-0.094-0.1610.142-0.605 **-0.4292.437 **
-0.1450.239

0.746 **

0.876 **
0.089
0.119
1033

0.189
0.253
1033

0.254
0.338
1033

0.226
0.301
1033

0.192
0.256
1033

0.155
0.206
1033

0.157
0.209
1033

0.191
0.255
1033

29AIと著作権に関する考え方について（素案）に表れる
高度な技術に関する記載• 「生成AIに関して、享受目的が併存すると評価される場合について、具体的には以下のような場合が想定される。 ファインチューニングのうち、意図的に、学習データをそのまま出力させることを目的としたものを行うため、著作物の複製等を行う場合。（例）いわゆる「過学習」（overfitting）を意図的に行う場合」• その他、RAG等のために行うベクトルに変換したデータベースの作成、プロンプトに関する記載など多くの技術的手段が、著作権侵害との関係で記載されている→これらの技術は短期間で様々に変化していくことが予想される

2024/2/29

Toshiya Watanabe

30AI・データガバナンスの課題• 「ガイドライン等」の種類は適切か• 「ガイドライン等」の分量は適切か• ユーザーにとって必要な情報が分かりやすく書かれているか• 多くのステイクホルダーに対して書き方や対象者は適切か• 個人や消費者にとって負担にならないか• ステイクホルダーにとってインセンティブは十分か• 法令との関係がわかりやすいか→望ましいデータエコシステムの構築のため、知的財産制度等法令との良好な連携のためにも必要な確認事項
2024/2/29

Toshiya Watanabe

31

まとめ
• AIやデータ活用などの先端科学技術分野においては、法的拘束力のある規制と法的拘束力のないガバナンス規範の双方が連携することが重要• その際、マルチステイクホルダーを対象として公益的便益を組み込み、技術の進歩等に柔軟に対応できるガバナンスが求められる• 法令と連携して良好なデータエコシステムを実現するため、ガバナンス規範の側の課題は少なくない
2024/2/29

Toshiya Watanabe

32

参考資料

https://researchmap.jp/toshiyaW/misc2024/2/29• 平井祐理、立本博文、生稲史彦、渡部俊也「デジタル時代における組織能力とその醸成～組織プロセスの中でのデータの価値転換～」経済分析209号 2024 to be published• 渡部俊也他「政策提言：スマートシティデータガバナンス ガイ
ドライン ―スマートシティー実装におけるデータ利活⽤の考え⽅―」2023年3月https://ifi.u-tokyo.ac.jp/wp/wpcontent/uploads/2023/03/policy_recommendation_dg_2023
0324j.pdf• 渡部 俊也, 平井 祐理「データ提供における懸念点と公益貢献意識効果の影響: COCOA 利用に関する質問票調査から」
日本知財学会誌 18(3) 29-38 2022
• 渡部俊也、平井祐理「データの経済的価値と法的保護 実証
分析とケースによる考察」総務省 学術雑誌『情報通信政策研究』 第４巻第１号2020• 渡部俊也他「政策提言：新型コロナ感染症とデータガバナン
スに関する施策」2020 https://ifi.u-tokyo.ac.jp/news/8422/• 「AI・データの利用に関する契約ガイドラインと解説」別冊NBL
No.165 2018年
Toshiya Watanabe

33