日本の AI に関する法・倫理の状況

2022 年 11 月
AI 法研究会
国際交流部会

目次

1. はじめに ..................................................................................................... 1
2. 日本の AI 及び AI 開発の状況 ...................................................................... 2
2.1 IT 及び AI の市場規模 ......................................................................................... 2
2.2 IT 及び AI の人材と BtoB 構造 ........................................................................... 2
2.3 開発速度 ............................................................................................................ 2
2.4 AI の社会的受容度 .............................................................................................. 3
2.5 リスク回避的傾向................................................................................................. 3

3. AI の使用について倫理上の問題が指摘された事案 ......................................... 4
3.1 概要 ................................................................................................................... 4
3.2 内定辞退率を算出する AI の使用が問題となった事例 .............................................. 4
3.3 人事評価・賃金決定に AI を用いた事例 .................................................................. 4
3.4 家賃滞納の発生確率を予想する AI の事例 ............................................................. 5
3.5 与信判断に用いられる AI の事例 .......................................................................... 5
3.6 AI を用いた顔認識機能付き防犯カメラの事例 ........................................................ 6

4. 法制度 ........................................................................................................ 7
4.1 はじめに ............................................................................................................. 7
4.2 各種の法律 ......................................................................................................... 7

5. 政府における AI 関連ガイドライン等のソフトローの策定 ................................. 125.1 概要 ................................................................................................................. 12
5.2 原理・原則 ......................................................................................................... 12
5.3 政府におけるガイドライン等 ................................................................................ 14

6. アカデミア・諸企業における取組み ............................................................... 18
6.1 アカデミアにおける取組み .................................................................................. 18
6.2 諸企業における取組み ....................................................................................... 18

7. 日本における議論の特徴 ........................................................................... 24
7.1 日本で重視される価値 ....................................................................................... 24
7.2 同意の重視 ....................................................................................................... 24
7.3 インシデントの傾向 ............................................................................................. 24
7.4 BtoB 構造に関する議論 .................................................................................... 24
7.5 アカデミアでの議論と産業界での議論 .................................................................. 25ii

1. はじめに本レポートは、日本における AI に関する法律、倫理の状況を紹介、分析するものである。特に日本の状況が与えている影響やアメリカを中心に提唱されている AI 倫理への対処方法とのギャップを検討するものである。
まず、２．で日本における IT 及び AI に関する環境を概観する。３．では、日本で AI 倫理上問題とされた事案を紹介する。４．以降では、日本の AI に関係する法制度や政府や企業の取り組みを紹介する。
最後に７．で、これらを踏まえて日本における AI 倫理の議論の特徴を検討する。

1

2. 日本の AI 及び AI 開発の状況
2.1 IT 及び AI の市場規模
2022 年における日本の IT 市場の規模については、計測方法などに差があるが、約 20 兆円1や約13 兆円2という推計が存在している。対してアメリカにおける市場は 1.8 兆ドルという推測されている3。
ここでも計測方法に差があるため単純な比較はできないが、概ね 10 倍程度の規模の差が存在する。仮に人口差を考慮に入れたとしても大きな差が存在している。
また、AI 市場について見てみると、日本における AI サービス市場が訳 2700 億円なのに対して、US における AI 市場は約 130 億ドル4との予測も存在しており、ここでも大きな差が生じている。
以上のことから、日本は、アメリカと比較して AI 開発に対する投資が少なく、AI の普及も進んでいないことが推測できる。また、現に、日本においては IT 化の遅れが様々な場面で指摘されている。

2.2 IT 及び AI の人材と BtoB 構造
日本においては、AI 開発に必要な IT 人材が開発受託企業に偏在している。例えば、2017 年の調査によると IT 人材の約 70%が開発受託企業に所属しており、IT システムを利用する企業に所属するのは約 30%である5。対して、アメリカでは約 65%が IT システムを利用する企業に所属している。また、
カナダ、イギリス、ドイツ、フランスでも、IT システムを利用する企業の方が IT 人材が多い。つまり、日本
では、AI 利用企業は AI を開発したい場合、AI 開発企業に委託して開発することになる。このように日本の AI 産業は BtoB 構造が強い構造となっている。
このため、日本では、AI の開発において開発を内製せずに、委託することが多い。また、⑴で述べた
金額に、このような委託料が含まれている可能性も存在する。

2.3 開発速度
日本においては、システム開発手法として迅速な開発を行うアジャイルが採用されることが少ない。
2016 年段階でアジャイル型を採用してシステム開発を行った経験がある割合について、日本では37%であったのに対して、世界では 94%であったとの調査も存在する6。

1

三柳英樹「コロナの影響を考慮した国内 IT 市場予測アップデート、2021 年の市場規模は前年比 4.2％増の 19 兆 234 億
円～IDC Japan 調査」（2022 年 1 月）（https://cloud.watch.impress.co.jp/docs/news/1379164.html）
2
株式会社矢野経済研究所「国内企業の IT 投資に関する調査を実施（2021 年）」（2021 年 11 月）（https://www.yano.co.jp/press-release/show/press_id/2856）
3
CompTIA“IT INDUSTRY OUTLOOK 2022”（2022 年）（https://connect.comptia.org/content/research/it-industry-trends-analysis）
4
Maximize Market Research“US Artificial Intelligence (AI) Market ― Industry Analysis andForecast (2022-2029) ― By Geography (U.S. and Canada)”（2022 年 9 月）（https://www.maximizemarketresearch.com/market-report/us-artificial-intelligence-aimarket/11352/）
5
独立行政法人情報処理推進機構「IT 人材白書 2017」（2017 年 4 月）
（https://www.ipa.go.jp/files/000059086.pdf）75 頁
6
株式会社日本総合研究所「サービスイノベーション力の強化に向けて―システム開発から見える日本の課題―」（2018 年 1月）（https://www.jri.co.jp/MediaLibrary/file/report/researchfocus/pdf/10279.pdf）2このようなことから、日本のシステム開発は速度が遅く、その理由として、従来から用いられている開発手法（ウォーターフォール）を用いた安定的、リスク回避的な志向があると考えられる。
ただし、AI モデル開発においてはウォーターフォール手法を持ちないのが通常である。もっとも、AIシステムについては、通常 AI モデル部分と通常システム部分が存在するのであり、通常システム部分の開発ではウォーターフォールが用いられている。

2.4 AI の社会的受容度
日本における AI の社会的受容性や信頼については、日本とアメリカやドイツやフランスなどの先進国の間で大きな差はみられない7。ただし、2021 年段階で AI に関する理解や信頼が 3，4 年前より高くなっており、AI にポジティブな姿勢を示すようになっているとの調査も存在し8、AI に対する受け入れが広まってきていると推測される。なお、2020 年には政府が消費者の AI に対する意識を詳細に調査しており、日本においては国民の AI に対する意識に高い関心が払われている。

2.5 リスク回避的傾向
また、日本人はリスク回避的な傾向が強いことが広く指摘されている。このような傾向から、AI の運用もリスク回避的傾向がみられる。
例えば、日本で著名な IT 企業であるソフトバンクは、書類選考に AI を用いているが、AI が不合格とした候補者についてはすべて人間の担当者が再検討を行うこととしている。日本でも、書類選考に AIを用いるケースが増えているが、筆者らの知る限り、AI の判断のみに基づいて採用を決定するケースは存在しない。

7

The World Economic Forum“5 charts that show what people around the world think about AI”（2022
年 1 月）（https://www.weforum.org/agenda/2022/01/artificial-intelligence-ai-technology-trustsurvey/）
8
MS&AD インターリスク総研株式会社「AI（人工知能）を活用したサービス等の受容度調査 現在の AI に対する消費者のイ
メージは 3～4 年前に比べてポジティブに」（2021 年 2 月）（https://www.irric.co.jp/topics/press/2021/0205.php）33. AI の使用について倫理上の問題が指摘された事案
3.1 概要日本国内で AI の使用が倫理的に問題となった事例は、これまでに複数見られる。それらの事案では、
プライバシー保護、AI による評価・判断の透明性や公平性等の観点から、AI を使用することの適否について問題が指摘されている。以下では、それらの事例をいくつか紹介する。

3.2 内定辞退率を算出する AI の使用が問題となった事例
この事例では、企業の求職情報等を閲覧できるサービスである「リクナビ」を提供していたリクルート
社及びそのグループ会社であるリクルートキャリア社は、サービスに登録した学生について、AI を用いて、内定を辞退する確率（内定辞退率）のスコアを算出し、学生の同意を得ずに、企業に対して内定辞退率の情報を提供していた。
内定辞退率は、求人企業の採用活動に関わることから、学生にとって非常に重要な情報であったにもかかわらず、リクナビ社が内定辞退率の情報の企業側への提供について学生側の同意を取り付けていなかったこと、対象の学生が 2 万 5000 人超と多数にのぼったことから社会的に耳目を集めることとなった（なお、本件を同意の問題として取り上げることが妥当かについては、Ⅶ参照。）。
リクナビを運営するリクルートキャリアは、本人の同意を得ないで学生の個人情報を第三者に提供していたことが問題視され、2019 年 8 月9及び 12 月10の 2 度にわたって、個人情報保護委員会から個
人情報保護法違反に基づく是正勧告を受け、2019 年 9 月には、東京労働局から、職業安定法違反があったとして、行政指導を受けている11。さらに、リクナビ社側のみならず、内定辞退率のスコアを受領していた企業側に対しても、個人情報の利用目的を適切に通知又は公表していなかったとして、個人情報保護法上不適切な行為を理由とする行政指導が行われた。

3.3 人事評価・賃金決定に AI を用いた事例
日本 IBM は、2019 年 9 月から、自社の AI である Watson を用いた人事評価や賃金決定の支援システムを導入した。このシステムはスキルの多寡・業務専門性などのデータを使って、スキル・基本給の競争力・パフォーマンス・キャリアの可能性を評価し、賃金提案するとのことである12。
このシステムについて、労働組合は、従業員のプライバシー、評価の公平性や透明性、AI によるバイ
アスの可能性などの観点から問題があると指摘している13。日本 IBM は、労働組合から、AI を利用し

9

個人情報保護委員会「個人情報の保護に関する法律に基づく行政上の対応について」（2019 年 8 月）
（https://www.ppc.go.jp/news/press/2019/20190826/）10
個人情報保護委員会「個人情報の保護に関する法律に基づく行政上の対応について」（2019 年 12 月）（https://www.ppc.go.jp/news/press/2019/20191204/）11
株式会社リクルートキャリア「『リクナビ DMP フォロー』に係る当社に対する東京労働局による指導について」（2019 年 9 月）（https://www.recruit.co.jp/newsroom/recruitcareer/news/pressrelease/2019/190906-01/）
12
JMITU 日本アイビーエム支部「AI 不当労働行為事件」（2022 年 4 月）（http://www.jmituibm.org/2022/04/8461.html）
13
JMITU 日本アイビーエム支部「無責任な AI の運用実態 都労委証人尋問報告」（2022 年 7 月）（http://www.jmituibm.org/2022/07/8553.html）
4

た人事評価・賃金決定について、会社が団体交渉に誠実に応じないとして、東京都労働委員会に救済申立てを起こされている14。

3.4 家賃滞納の発生確率を予想する AI の事例
ベンチャー企業であるリース株式会社は、AI を用いて家賃滞納の発生確率を予測し、家賃債務保証
会社向けに、入居審査支援のサービスを提供している。同社の AI は、過去の 1 万件以上の入居時審査や滞納状況などのデータを用いて作成されている15。家賃債務保証会社は、審査対象者の属性等に関する情報（例、住所、性別、年齢、国籍、婚姻状態、雇用先、勤務形態）に基づいて AI が算出する家賃滞納発生確率を参照したうえで、入居審査を行うことが可能となる。
この AI に対しては、過去の家賃滞納状況の情報を扱うことについて、個人情報取扱いの観点からの問題が指摘されていることに加え、AI の算出する家賃滞納発生確率の根拠が明確とならないことから審査の透明性の観点から問題があるという指摘や、家賃滞納発生確率の算出にあたって性別や国籍といった情報を用いることから審査の公平性の観点から問題があるという指摘が存在する16。

3.5 与信判断に用いられる AI の事例
みずほ銀行とソフトバンクの合弁会社である株式会社 J Score は、2017 年 9 月から、AI を活用した与信判断に基づく融資サービスとして「AI スコア・レンディング」というサービスを開始した。利用者は、年収・勤続年数などの簡単な質問に答えることで、速やかに自身の信用についての AI スコア（クレジットスコア）を得られ、借入限度額や借入利率の提示を受けることができる17。同様に、AI を用いた与信機
能を利用する事業者は複数現れている18。
AI の活用は、与信判断に要する時間を短縮するというメリットを有する反面、与信判断の過程のブ
ラックボックス化や与信判断に関するプライバシー保護の観点からの問題意識が指摘されている 19。また、精度不十分による過剰与信を防止すべきであるという考え方から、令和 2 年に割賦販売法が改正され、AI を用いた与信審査手法について規定が設けられることとなったが、規定の詳細については「４．

14

JMITU 日本アイビーエム支部「日本 IBM・AI 不当労働行為申立 賃金決定の透明性を求む」（2020 年 4 月）
（http://www.jmitu-ibm.org/2020/04/7687.html）
15
ITmedia「「この人、家賃を滞納しそう？」AI が予測 入居審査を 45 分→16 分に」（2021 年 6 月）（https://www.itmedia.co.jp/news/articles/2106/22/news118.html）
16
長倉克枝「家賃滞納予測 AI がプチ炎上、「公平性」巡る問題は技術で解決できるのか」（2021 年 8 月）
（https://xtech.nikkei.com/atcl/nxt/column/18/01743/080600001/）
17
株式会社 J.Score「みずほ銀行とソフトバンクの合弁会社 J.Score が日本初の FinTech サービス「AI スコア・レンディン
グ」を本日より提供開始」（2017 年 9 月）（https://www.jscore.co.jp/company/news/2017/0925_01/）18
例えば、株式会社 NTT ドコモは、ドコモのサービスの利用状況等のビッグデータを解析して、金融機関向けに信用スコアを算出する「ドコモスコアリング」というサービスを提供している（株式会社 NTT ドコモ「（お知らせ）金融機関向けに「ドコモ レン
ディングプラットフォーム」の提供を開始-信用スコアリングやアプリでの返済アドバイスで、新たな融資サービスの提供をサポート-」（2019 年 8 月）（https://www.docomo.ne.jp/info/news_release/2019/08/29_00.html））。また、Line 株式
会社は、登録時の質問に加えて、Line プラットフォーム上での行動傾向データを用いてスコアを算出する「Line Score」というサービスを提供するとともに、独自の融資サービスを提供している（LINE 株式会社「LINE、「日常をちょっと豊かに」していく、独自のスコアリングサービス「LINE Score」を開始」（2019 年 6 月）（https://linecorp.com/ja/pr/news/ja/2019/2759））
19
山本龍彦「信用スコアの課題と今後」（2019 年 10 月）（https://www.keidanren.or.jp/journal/monthly/2019/10/p26.pdf）
5

法制度」で後述する20。

3.6 AI を用いた顔認識機能付き防犯カメラの事例
2021 年 7 月、JR 東日本は、東京オリンピック・パラリンピック開催時のテロ対策として、顔認識機能付き防犯カメラの駅構内などへの導入を公表した。この防犯カメラでは、①過去に JR 東日本の駅構内などで犯した重大犯罪で服役した人（出所者など）、②指名手配中の容疑者、③不審行動者などを検知の対象とすると報道されていた21。JR 東日本は、事件の被害者らに出所や仮出所を知らせる被害者等通知制度に基づき、上記①の出所者などの情報の提供を受けていたという。ところが、同年 9 月になり、JR 東日本は、「社会的コンセンサスが得られていない」として、①出所者などを防犯カメラの検知対象から外すことを発表した22。
この問題に関連して、日本弁護士連合会は、市民のプライバシー権の侵害防止の必要性から、顔認証データベースの作成や顔認証システムの利用等を規制する立法の必要性を提言する意見書を提出している23。日本弁護士連合会は、出所者などが検知の対象から除外された後も、同社に対して顔認証システムの利用中止することを求める会長声明を公表している24。

20

経済産業省「割賦販売法の一部を改正する法律について（令和 2 年法律第 64 号）」（2021 年 3 月）（https://www.meti.go.jp/policy/economy/consumer/credit/R2kaiseinogaiyou2.pdf）
21
読売新聞オンライン「【独自】駅の防犯対策、顔認識カメラで登録者を検知…出所者の一部も対象に」（2021 年 9 月）（https://www.yomiuri.co.jp/national/20210920-OYT1T50265/）
22
PRESIDENT Online「「監視カメラで全乗客の顔を判別」JR 東日本の出所者検知システムはどこに問題があったのか」（2021 年 10 月）（https://president.jp/articles/-/51210）
23日本弁護士連合会「行政及び民間等で利用される顔認証システムに対する法的規制に関する意見書」（2021 年 9 月）（https://www.nichibenren.or.jp/document/opinion/year/2021/210916.html）
24
日本弁護士連合会「鉄道事業者における顔認証システムの利用中止を求める会長声明」（2021 年 11 月）（https://www.nichibenren.or.jp/document/statement/year/2021/211125.html）
6

4. 法制度
4.1 はじめに
最近 EU の AI 規則案が話題となっているが、現状の日本において、AI や機械学習といった技術を包括的にカバーする「人工知能法」「AI 法」といった法律は存在しない。もちろん、AI が法律の影響を受けないわけではなく、多岐にわたる既存の法律が関連し得るのが実態と言える。
AI は、コンピューターによって実行するプログラムである。モデルを構築する際はデータを学習アルゴ
リズムによってフィットさせる作業が必要になるため、プログラムやデータについての法的な取扱いを検討することが前提となる。
プログラムを法的に保護する法律には、著作権法や特許法といった知的財産法がある。もっとも、データは無体物（情報）のため、所有権の対象にはなり得ない。ただし著作物（著作権法）、営業秘密や限定提供データ（不正競争防止法）、個人情報（個人情報保護法）など、各法律上の取扱いが問題になり得ることから、関連する法律を意識することが重要となる。
また、AI の開発にあたっては、ユーザー企業と IT ベンダー間で開発契約を締結することが多い。開発契約には、権利帰属や利用条件、責任といったさまざまな条項を設けることになるが、それらを理解す
るには契約法（民法）の知識が必要となる。
さらに、AI を利用するプロダクトに起因して何らかの事故が発生した場合の責任は、不法行為法（民法）や製造物責任法が問題になってくるし、仮に刑事責任が問題になるのであれば、刑法も関わってくる。
以上のように、ざっと挙げただけでも、AI にはこれだけの法律が関連し得る。現時点で包括的・網羅的な法律が存在しないことから、AI の性質や具体的なユースケースを念頭に置きつつ、関連しそうな法律について検討を実施するというアプローチが不可欠になってくると言える。

4.2 各種の法律
以下では、AI に関連する各種の法律のいくつかについて概観することとしたい。

4.2.1 著作権法
著作権法において、著作物とは思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものをいう（著作権法 2 条 1 項 1 号）。著作者は、著作権法に基づき、著作者人
格権及び著作権を享受することができる（著作権法 17 条 1 項）。
また、プログラムとは電子計算機を機能させて一の結果を得ることができるようにこれに対する指令を組み合わせたものとして表現したものと定義され（著作権法 2 条 1 項 10 号の 2）、著作物の 1 つとして例示列挙されている（著作権法 10 条 1 項 9 号）。
上記からすれば、AI のプログラムが著作物に該当すれば、著作権法上の保護が受けられることとなる。なお、著作権法上の著作者とは著作物を創作する者をいうが（著作権法 2 条 1 項 2 号）、一般に AIのプログラムの開発にあたっては多数の者が関与しているため、誰が当該 AI のプログラムの創作的表
現に関与したかによって、実質的に判断されると考えられている。もっとも、著作権自体は契約に基づいて譲渡可能なため（著作権法 61 条 1 項）、関係者間の契約において誰が著作権者であるかを明確に規7

定することが重要だと考えられる25。また、法人の発意に基づきその法人の業務に従事する者が職務上作成するプログラムの著作物の著作者は、その作成の時における契約、勤務規則その他に別段の定めがない限り、その法人となる（著作権法 15 条 2 項）。
一方で、単なるデータはコンピューターに対する指令ではないことから、著作権法上のプログラムとは言い難い。
学習用データセットについては、データベース（すなわち、論文、数値、図形その他の情報の集合物であって、それらの情報を電子計算機を用いて検索することができるように体系的に構成したもの。著作権法 2 条 1 項 10 号の 3）でその情報の選択又は体系的な構成によって創作性を有するものについて
は、データベースの著作物（著作権法 12 条の 2）に該当する可能性がある26。
学習済モデルにおける学習済パラメータについては、その著作物該当性に関し、とりわけ思想又は感情の表現と言えるか否か、創作性があるのか否かという点について問題があるとされている。例えば、
前者については、AI のプログラム自体には思想又は感情がないと一般的には解される反面、学習済パ
ラメータの生成自体には、モデルの設計や学習手法について人間が関与することを捉えて思想・感情を表現したものと言えないか、といった見解も存在する27。
ところで、AI の開発にあたってはデータ利用が必須となるが、当該データについて第三者が著作権を有している場合には、当該第三者に対する著作権侵害とならないようにする必要がある。この点、2018
年著作権法改正において、以下の著作権法 30 条の 4 が新設された。

（著作物に表現された思想又は感情の享受を目的としない利用）
第三十条の四 著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
一 著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場
合二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
三 前二号に掲げる場合のほか、著作物の表現についての人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理の過程における利用その他の利用（プログラムの著作物にあっては、当該著作物の電子計算機における実行を除く。）に供する場合

本条の要件を満たせば、AI の開発のための学習用データとして著作物をデータベースに記録する行
為、また、その利用が AI の開発という目的に限定されていることを前提として、収集した学習用データを第三者に提供（譲渡や公衆送信等）する行為について、著作権者の許諾なく行えるようになるという整
25

福岡真之介編著『AI の法律』（商事法務、2020 年）39 頁
経済産業省「AI・データの利用に関する契約ガイドライン－AI 編―」（2018 年 6 月）25 頁
27
前掲 25・福岡 48～51 頁
268

理がなされている28。

4.2.2 特許法
AI について特許を取得すれば、特許法による保護を受けることが可能となる。
特許法上、AI について取得できる発明としては、①AI のプログラムについて、プログラムの発明としてソフトウェア特許を取得すること（特許法 2 条 3 項 1 号）、②プログラムでなくても、コンピューターによる処理の用に供する情報であってプログラムに準ずるもの（具体的には、構造を有するデータやデー
タ構造の発明）として特許を取得すること（特許法 2 条 3 項 1 号、4 項）、③ビジネス方法が情報通信技術を利用して実現された発明（ビジネス関連発明）として特許を取得すること、が主なものとして指摘されている29。

4.2.3 個人情報保護法
データが個人情報に該当する場合には、個人情報保護法による保護を受けることとなる。個人情報とは以下の定義がなされている（個人情報保護法 2 条 1 項）。

この法律において「個人情報」とは、生存する個人に関する情報であって、次の各号のいずれかに該当するものをいう。
一 当該情報に含まれる氏名、生年月日その他の記述等（文書、図画若しくは電磁的記録（電磁的方式（電子的方式、磁気的方式その他人の知覚によっては認識することができない方式をいう。次項第二号において同じ。）で作られる記録をいう。以下同じ。）に記載され、若しくは記録され、又は音声、動作その他の方法を用いて表された一切の事項（個人識別符号を除く。）をいう。以下同じ。）により特定の個人を識別することができるもの（他の情報と容易に照合することができ、それにより特定の個人を識別することができることとなるものを含む。）
二 個人識別符号が含まれるもの

また、個人データとは、個人情報データベース等を構成する個人情報をいい（個人情報保護法 16 条
3 項）、保有個人データとは、個人情報取扱事業者が、開示、内容の訂正、追加又は削除、利用の停止、消去及び第三者への提供の停止を行うことのできる権限を有する個人データであって、その存否が明らかになることにより公益その他の利益が害されるものとして政令で定めるもの以外のものをいう（個人情報保護法 16 条 4 項）。
以下の図は、民間事業者（個人情報取扱事業者。個人情報保護法 16 条 2 項）が遵守すべき事項をまとめたものである30。

28

文化庁長官官房著作権課「平成 30 年著作権法改正の概要」NBL1130 号 6～7 頁
前掲 25・福岡 91 頁
30
個人情報保護委員会「個人情報保護法の基本」（2022 年 7 月）13 頁より作成
299

【個人情報】①取得・利用に関するルール

生 存 する 個 人 に関 する情 報•利用目的を特定して、その範囲内で利用する。

で、特定の個人を識別するこ•利用目的を通知または公表する。

とができるもの（例：1 枚の名刺）•違法又は不当な行為を助長し、又は誘発するおそれがある方法により利用しない。
•偽りその他不正の手段により個人情報を取得しない。

【個人データ】②保管・管理に関するルール

個人情報データベース等•データ内容を正確かつ最新の内容に保つとともに、利用する必要を構成する個人情報がなくなったときは消去するように努める。

→分類・整理され、検索可•漏えい等が生じないよう、安全に管理する。

能な個人情報•従業者・委託先にも安全管理を徹底する。

（例：名刺管理ソフト内の 1•委員会規則で定める漏えい等が生じたときには、委員会に対して枚の名刺）報告を行うとともに、本人への通知を行う。
③第三者提供に関するルール•第三者に提供する場合は、あらかじめ本人から同意を得る。
•外国にある第三者に提供する場合は、当該提供について、参考情報を提供した上で、あらかじめ本人から同意を得る。
•第三者に提供した場合・第三者から提供を受けた場合は、一定事項を記録する。

【保有個人データ】④公表事項・開示請求等への対応に関するルール

開示、訂正、利用停止、•事業者の名称や利用目的、開示等手続などについて事項を公表

消去等の権限を有する

する。

個人データ

•本人から開示等の請求があった場合はこれに対応する。
•苦情等に適切・迅速に対応する。

個人情報の取得・利用に関するルール、個人データの保管・管理及び第三者提供に関するルール、保有個人データの公表事項・開示請求等への対応に関するルールが個人情報保護法には定められている
ため、AI の学習で用いられるデータが上記記載の個人情報等である場合には、その取扱いについて個
人情報保護法上の検討が必要となる。

4.2.4 不正競争防止法
不正競争防止法は、不正競争の防止、不正競争に係る差止め・損害賠償に関する措置等を定めているが、不正競争には、営業秘密の侵害（不正競争防止法 2 条 1 項 4～10 号）や限定提供データの不正取得等（同 11～16 号）が含まれる。
10

営業秘密とは、秘密として管理されている生産方法、販売方法その他の事業活動に有用な技術上又は営業上の情報であって、公然と知られていないものをいい（不正競争防止法 2 条 6 項）、限定提供
データとは、業として特定の者に提供する情報として電磁的方法により相当量蓄積され、及び管理されている技術上又は営業上の情報（秘密として管理されているものを除く。）をいう（不正競争防止法 2 条
7 項）。
したがって、例えば、AI に係るデータが不正競争防止法上の営業秘密や限定提供データに該当する
場合には不正競争防止法上の保護を受けることができる。
この点、第三者と共有するデータについては営業秘密の要件を満たさない場合もあることから、2018 年不正競争防止法改正により、ID・パスワード等により管理しつつ、相手方を限定して提供する
データを不正取得等する行為を新たに不正競争と位置付け、民事上の救済措置を設けることとされた。
もっとも、限定提供データの使用により生じた物（AI のプログラム等）の譲渡は、データの寄与度等が判然としないため、営業秘密と異なり、不正競争とは位置づけられていない31。

4.2.5 割賦販売法
割賦販売法で規制されるクレジットカード会社（包括信用購入あっせん業者）においては、AI 等を利用したデータ分析手法の高度化・精緻化が可能となったことにより、過剰与信の防止にあたり法令で画一的に定められている審査基準によるのではなく、各社の創意工夫により柔軟に与信審査を行いたいというニーズが高まってきた。
そこで、2020 年に割賦販売法が改正され、経済産業省令で定める基準に適合する算定方法と体制を有する包括信用購入あっせん業者は、経済産業省から認定を受け、支払可能見込額の算定においてAI 等の高度な技術的手法を利用することができるようになった（割賦販売法 30 条の 5 の 4 以下）。
ここで注目されるのは、利用者支払可能見込額の算定において AI 等の高度な技術的手法を利用する場合には、「利用者の支払能力に関する情報を当該利用者に対する不当な差別、偏見その他の著しい不利益が生じるおそれがあると認められる方法により利用していないこと」（割賦販売法施行規則 62
条 1 項 2 号）が必要とされたことであろう。
日本の金融分野に関する与信規制の中で「不当な差別、偏見その他の著しい不利益」を禁止することを明示的に規律したものは他に例がなく、新たな与信規制のあり方として注目に値する。

4.2.6 小括以上のように、日本には AI を包括的に規律する法律があるわけではないが、各種の法律が AI のプ
ログラムやデータに関連し得ることとなる。したがって、想定されている AI の内容や利用方法も踏まえながら、各種の法律を検討していくことが必要となる。

31

経済産業省知的財産政策室「不正競争防止法平成 30 年改正の概要」NBL1126 号 16～17 頁
115. 政府における AI 関連ガイドライン等のソフトローの策定
5.1 概要日本では、総じて AI の設計や運用において、人間の尊厳の配慮、プライバシー、公平性、説明責任、透明性など、重要な原則に基づいて、ソフトローを通じてあるべき姿を達成することが望ましいとの姿勢に立ち、政府による AI 関連ガイドライン等のソフトローが策定されている。
中立的な最終ゴール／最終ルール
ゴールとなる
原理原則

AI原則

原則から実装に向けたガイダンス「人間中心のAI社会原則」、「AIに関するOCED原則」など

GPAIによる実践的ガイダンスなど

分野横断的な中間的ルール

中間的ルール（横断）

国際標準ガイドラインなど

横断的な規制（法的拘束力なし）（法的拘束力なし）（法的拘束力あり）

ISO/IE 法的拘束力なし
C JTC 1/SC ４２での品質評価・ガバナンス
関連規格など

総務省「AI利活用ガイドライン」など※ 欧州委員会において規制検討がなされるも、見解は分かれる

個別分野ごとの検討ルール

中間的ルール（個別）

特定の利用に関する
個別規制

特定の産業分野に関する個別規制

顔認証などの生体認証の利用に対する規制など

自動運転・自動運行装置に関する既存規制の改正
やガイドラインなど

政府のAI利用に対する規制など

各企業による自主的な取組み

企業ルール（AI活用／組織ガバナンス指針など）

図 1 国内外におけるルール策定の概念図
出所）PwC「AI 活用に向けたガバナンスルールの潮流―企業・政府・研究機関が取るべき姿勢とは（第 3 回 政府施策と AI ガバナンス）」（https://www.pwc.com/jp/ja/knowledge/column/technology-driven/technology-lab-insight07.html）
をもとに作成5.2 原理・原則
5.2.1 人間中心の AI 社会原則
2019 年 3 月、内閣府・統合イノベーション戦略推進会議では、「人間中心の AI 社会原則」を取りまとめた。これは、AI の発展に伴って、日本が目指すべき社会の姿、多国間の枠組み、国や地方の行政府が目指すべき方向を示すものである。

12

基本理念

ビジョン
（AI-Readyな社会）

人間中心のAI社会原則

AI開発利用原則（個別原則・指針・ガイドライン・ルール等）

図 2 人間中心の AI 社会原則に関する概念図
出所）内閣府・統合イノベーション戦略推進会議決定「人間中心の AI 社会原則」3 頁（https://www8.cao.go.jp/cstp/aigensoku.pdf）をもとに作成

統合イノベーション戦略推進会議の決定では、はじめに、基本理念として、以下の 3 つの価値を尊重し、その実現を追求する社会を構築していくべきと説明している。
(1) 人間の尊厳が尊重される社会（Dignity）(2) 多様な背景を持つ人々が多様な幸せを追求できる社会（Diversity & Inclusion）(3) 持続性ある社会（Sustainability）
その上で、「AI-Ready な社会」を実現し、AI の適切で積極的な社会実装を推進するためには、各ス
テークホルダーが留意すべき基本原則を定めることが重要と考え、「AI 社会原則」を定めている。AI 社
会原則は、「AI-Ready な社会」において、国や自治体をはじめとする日本社会全体、さらには多国間の枠組みで実現されるべき社会的枠組みに関する原則であり、以下の 7 つからなる。
(1) 人間中心の原則(2) 教育・リテラシーの原則(3) プライバシー確保の原則(4) セキュリティ確保の原則(5) 公正競争確保の原則(6) 公平性、説明責任及び透明性の原則(7) イノベーションの原則
なお、内閣府は、「人間中心の AI 社会原則会議」を 2020 年以降に再開しており、継続的に AI を取り巻く国内及び国際的な動向に関する報告や、今後の AI に関する規制の在り方等について意見交換が行われている。

13

5.3 政府におけるガイドライン等
人間中心の AI 社会原則（2019 年 3 月統合イノベーション戦略推進会議決定）の考え方を踏まえ、政府の関係府省庁にて、AI 関連の指針・原則・ガイドライン等の策定が進んでいる。その概要は以下の図のとおりである。

人間中心のAI社会原則
人間中心（H）、教育・リテラシー（ E）、プライバシー確保（ P）、セキュリティ確保（ S）、
公正競争確保（C）、公平性・説明責任・透明性（ FAT）、イノベーション（ I）

分野横断

分野個別
医療

関
係
府
省
の
指
針
・
原
則
・
ガ
イ
ド
ラ
イ
ン
等

知
財
・
契
約

a. 新たな情報財検討委員会報告書【H29.3 知財】

C,I

利
活
用

C,FAT,Id. AI利活用ハンドブック

H,E,P,S,FAT【R2.７ 消費者庁】
H,E,P,S,FAT

H,E,P,S,FAT

f. 国際的な議論のためのAI開発ガイドライン案

g. 機械学習品質マネジメ
ントガイドライン【H29.7 総】H,P,S,C,FAT,I【R2.３ 農】

h. 人工知能を用いた診断、治療等の支援を行うプログラムの利用と医師法第17条の規定との関係にH
ついて【H30.１２ 厚】
i. 人工知能技術を利用した医用画像診断支援システムに関する評価指標e. AI原則実践のためのガ
バナンス・ガイドライン【R4.1 経】

開発

【H30.6 経】【R2.6 経】

FAT,I

教育

ものづくり

l. 農業分野におけるAI・データに関する契約ガイドライン

b. AI・データの利用に関する契約ガイドライン

c. AI利活用ガイドライン【R1.８ 総】農業

【R1.5 厚】
S,FAT,I

j. 医療機器の特性に応じた承認制度の導入（改正薬機法）P,C,FAT,I

m. 大学・高専におけるAI教育に関する認定制度【R2年度内予定 リテラ
シーレベル 内・文・経】【R3年度内予定 応用基礎
レベル 内・文・経】
En. プラント保安分野
AI信頼性評価ガイド
ライン【R2.11 消防・厚・経】
FAT,I【R1.１２ 厚】
FAT,I

k. 医用画像診断支援システム開発
ガイドライン（改訂）【R1.１２ 経】

C,FAT,I※赤字：人間中心のAI社会原則の関連する項目

出所）内閣府「関係府省庁におけるＡＩ関連 指針・原則・ガイドライン等の策定状況」 2頁（人間中心のAI社会原則会議（令和２年度第１回）資料）（https://www.cas.go.jp/jp/seisaku/jinkouchinou/r02_dai01/siryo1.pdf ）をもとに作成

図 3 関係府省庁における AI 関連指針・原則・ガイドライン等の策定状況

出所）内閣府「関係府省庁における AI 関連指針・原則・ガイドライン等の策定状況」2 頁（人間中心の AI 社会原則会議（令和 2 年度第1 回）資料）（https://www.cas.go.jp/jp/seisaku/jinkouchinou/r02_dai01/siryo1.pdf）をもとに作成

5.3.1 政府における分野横断的なガイドライン等
日本政府により策定された、主な分野横断的なガイドラインの概要は以下のとおりである。

（1） 知的財産権・契約に関するガイドライン等
1） 新たな情報財検討委員会報告書（知的財産戦略本部）（2017 年 3 月）32
AI 創作物や 3D データ、創作性を認めにくいデータベース等の新しい情報財について、市場に提供されることで生じた価値などに注目しつつ、知財保護の必要性や在り方を検討し、データ利活用促進に向けた方向性を提示している。

32

知的財産戦略本部「新たな情報財検討委員会報告書」（2017 年 3 月）（https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/johozai/houkokush
o.pdf）
14

2） AI・データの利用に関する契約ガイドライン（経済産業省）（2018 年 6 月、2019 年 12 月）
33

データ契約や AI の開発・利用契約を締結するに当たって、契約者・関係者が共通で理解しておくべき基礎概念、一般的に検討すべき論点、契約を締結する際の考慮要素、モデル契約等を参考として提示している。

（2） 利活用に関するガイドライン等
1） AI 利活用ガイドライン（総務省）（2019 年 8 月）34
総務省では、2016 年 10 月から「AI ネットワーク社会推進会議」を開催し、AI ネットワーク化に関する社会的・経済的・倫理的・法的課題について、検討を行ってきた。当推進会議の検討の成果の 1 つとして、人間中心の AI 社会原則に基づき、AI の利用者（AI サービスプロバイダ等）が利活用段階において留意することが期待される事項をまとめ、その解説を記載している。

2） AI 利活用ハンドブック（消費者庁）（2020 年 7 月）35
消費者が AI 利用に当たって身に付けるべき基礎的リテラシーの向上を目的として作成されている。

3） AI 原則実践のためのガバナンス・ガイドライン（経済産業省）（2022 年 1 月）36
AI 原則を社内のガバナンスに落とし込む際、企業が参照できるマネジメントガイドとして作成中のガイドラインである。

（3） 開発に関するガイドライン等
1） 国際的な議論のための AI 開発ガイドライン案（総務省）（2017 年 7 月）37
総務省では、2016 年 10 月から「AI ネットワーク社会推進会議」を開催し、AI ネットワーク化に関する社会的・経済的・倫理的・法的課題について、検討を行ってきた。当推進会議の検討の成果の 1 つとして、AI の開発者が研究・開発段階において留意することが期待される事項をまとめ、その解説を記載し
ている。

33

経済産業省「AI・データの利用に関する契約ガイドライン 1.1 版」（2019 年 12 月）（https://www.meti.go.jp/press/2019/12/20191209001/20191209001.html）
34
総務省「AI 利活用ガイドライン」（2019 年 8 月）（https://www.soumu.go.jp/main_content/000809595.pdf）
35
消費者庁「AI 利活用ハンドブック～AI をかしこく使いこなすために～」（2020 年 7 月）（https://www.caa.go.jp/policies/policy/consumer_policy/meeting_materials/review_meeting_004/ai_ha
ndbook.html）
36
経済産業省「AI 原則実践のためのガバナンス・ガイドライン Ver. 1.1」（2022 年 1 月）
（https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20220128_1.pdf）
37
総務省「国際的な議論のための AI 開発ガイドライン案」（2017 年 7 月）（https://www.soumu.go.jp/main_content/000499625.pdf）
152） 機械学習品質マネジメントガイドライン（国立研究開発法人産業技術総合研究所・サイバー
フィジカルセキュリティ研究センター・人工知能研究センター）（2020 年 6 月）38
学習データに品質が依存するなど、従来の手法では十分な品質管理ができない機械学習に基づく
AI システムについて、利用状況・場面に応じて求められる品質に関するレベル設定の考え方や目標、品質管理手法等を提示している。

5.3.2 政府における個別分野ごとのガイドライン等
個別分野では、主に、医療・農業・教育・ものづくりの分野で政府によるガイドライン等の策定が進められてきた。

（1） 医療分野
1） 人工知能を用いた診断、治療等の支援を行うプログラムの利用と医師法第 17 条の規定との関係について（厚生労働省）（2018 年 12 月）39
AI を用いた診断・治療支援を行うプログラムを利用して診療を行う場合についても、診断、治療等を行う主体は医師であり、医師はその最終的な判断の責任を負うこととなり、当該 診療は医師法（昭和23 年法律第 201 号）第 17 条の医業として行われるものであることを通知している。

2） 人工知能技術を利用した医用画像診断支援システムに関する評価指標（厚生労働省）（2019 年 5 月）40
審査時に用いる技術評価指標等をあらかじめ作成し、公表することにより、製品開発の効率化及び承認審査の迅速化を図ることを目的としている。

3） 医療機器の特性に応じた承認制度の導入（改正薬機法）（厚生労働省）（2019 年 12 月）41
継続的な改善・改良が行われる医療機器の特性や AI 等による技術革新等に適切に対応する医療機器の承認制度が導入された（改正薬機法第 23 条の 2 の 10 の 2）。

4） 医用画像診断支援システム開発ガイドライン（改訂）（経済産業省・国立研究開発法人日本医38

国立研究開発法人産業技術総合研究所「機械学習品質マネジメントガイドラインを公開」（2020 年 6 月）（https://www.aist.go.jp/aist_j/press_release/pr2020/pr20200630_2/pr20200630_2.html）
国立研究開発法人産業技術総合研究所「「機械学習品質マネジメントガイドライン」の公開」（https://www.cpsec.aist.go.jp/achievements/aiqm/）
39
厚生労働省「人工知能（AI）を用いた診断、治療等の支援を行うプログラムの利用と医師法第 17 条の規定との関係について」（2018 年 12 月）（https://www.mhlw.go.jp/content/10601000/000468150.pdf）
40
厚生労働省「次世代医療機器評価指標の公表について」（2019 年 5 月）（https://www.mhlw.go.jp/content/10601000/000515843.pdf）
41
厚生労働省「全国厚生労働関係部局長会議説明資料」（2020 年 1 月）
（https://www.mhlw.go.jp/topics/2020/01/dl/7_iyakuseikatu-01.pdf）
16

療研究開発）（2019 年 12 月）42
医用画像診断支援システムの研究・開発者を対象に、その開発時のポイントをまとめたものである。
既存の 2 つの開発ガイドラインを 1 つにまとめ、AI 技術に関する記述を強化するとともに、人間中心のAI 社会原則とも整合性が取れたものになっている。

（2） 農業分野
1） 農業分野における AI・データに関する契約ガイドライン（農林水産省）（2020 年 3 月）43
人間中心の AI 社会原則の内容を踏まえ、農業 AI サービス等の研究・開発及び利用にあたり農業者
を含む関係者間の権利関係の考え方を整理するとともに、契約雛形を提示している。モデル開発に協力する農業者等の技術・ノウハウの流出防止を図りつつ、農業 AI サービス等の研究・開発及び利用を促進することを目的としている。

（3） 教育分野
1） 大学・高専における AI 教育に関する認定制度（総合科学技術・イノベーション会議・文部科
学省・経済産業省）（2020 年－2021 年）44
大学・高専の卒業単位として認められる数理・データサイエンス・AI 教育のうち、優れた教育プログラ
ムを政府が認定する制度を構築、普及促進している。

（4） ものづくり分野
1） プラント保安分野 AI 信頼性評価ガイドライン（経済産業省、総務省消防庁、厚生労働省）（2010 年 11 月、2021 年 3 月）45
プラント保安分野に特化して AI の信頼性を適切に管理する方法を提示し、安全性が重要視される同分野で、保安力・生産性を飛躍的に高める可能性を有す AI の導入を進めるために作られたものである。

42

経済産業省・国立研究開発法人日本医療研究開発「医用画像診断支援システム（人工知能技術を利用するものを含む）開発
ガイドライン 2019（手引き）」（2019 年 12 月）（https://www.meti.go.jp/policy/mono_info_service/healthcare/iryou/downloadfiles/pdf/47_guideline.p
df）
43
農林水産省「農業分野における AI・データに関する契約ガイドライン～農業分野のノウハウの保護とデータ利活用促進のために～」（2020 年 3 月）（https://www.maff.go.jp/j/kanbo/tizai/brand/keiyaku.html）
44
内閣府「数理・データサイエンス・AI 教育プログラム認定制度検討会議」（https://www8.cao.go.jp/cstp/ai/suuri/suuri.html）
45
経済産業省「プラント保安分野 AI 信頼性評価ガイドラインを改訂しました」（2021 年 3 月）（https://www.meti.go.jp/press/2020/03/20210330002/20210330002.html）
17

6. アカデミア・諸企業における取組み
6.1 アカデミアにおける取組み
6.1.1 人工知能学会の例−『人工知能学会 倫理指針』の策定（2017 年 2 月）
この章では、日本の学会・民間企業主導のガイドライン策定の動きについて概観する。
人工知能学会は 1986 年 7 月に発足した，会員数約 5,200 名(2020 年 3 月末現在)の学会であ46る 。同学会は、2014 年に倫理委員会を設置し、2016 年度人工知能学会全国大会における人工知能
研究者の倫理綱領(案) の公開と、これに基づいた議論を経て、2017 年 2 月に『人工知能学会 倫理指針47』を公開した。これは、人工知能研究員を含む人工知能学会会員の倫理的な価値判断の基礎となる 9 項目からなる倫理指針であり、研究者としての職業倫理の側面が強い。この倫理指針の中で特に特徴的な項目は、第 9 条「人工知能への倫理遵守の要請」48である。これは、AI が社会の構成員となることを想定した場合に、AI 自体にも第 8 項目までの倫理指針を守らせるという規定である。同規定は社会のなかで「構成員」として認められる人工知能のあるべき姿への議論を生み出すことを趣旨としている。

6.2 諸企業における取組み
6.2.1 ソニーの例−『ソニーグループ AI 倫理ガイドライン』の策定（2018 年 9 月、2021 年
4 月に更新）ソニーは、2017 年 5 月に AI 技術の啓発と倫理面を含む人間社会の課題解決に共同で取り組むことを目的として設立された非営利団体「パートナーシップ・オン・AI（Partnership on AI）49」に日本企業として初めて参画した企業である。
ソニーグループは 2018 年 9 月に「ソニーグループ AI 倫理ガイドライン50」を策定した。このガイドラ
インでは、⚫ 豊かな生活とより良い社会の実現⚫ ステークホルダーとの対話⚫ 安心して使える商品・サービスの提供⚫ プライバシーの保護
46

人工知能学会「入会案内」（https://www.ai-gakkai.or.jp/about/membership/）
人工知能学会「人工知能学会 倫理指針」（http://ai-elsi.org/wp-content/uploads/2017/02/人工知能学会倫理指針.pdf）
48
第 9 条「(人工知能への倫理遵守の要請)人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない。」
49
Partnership on AI“Partnership on AI is bringing together diverse voices from across the AI
community”（2022 年）（https://partnershiponai.org）
50
ソニー株式会社「ソニーグループの AI への取り組み」（2021 年 4 月）
（https://www.sony.com/ja/SonyInfo/csr_report/humanrights/AI_Engagement_within_Sony_Group_Ja.pd
f）
47

18

⚫ 公平性の尊重⚫ 透明性の追求⚫ AI の発展と人材の育成が項目として掲げられている。そこでは、「「AI」とは、データに基づく機械学習や何らかの手法で抽出したルールや知識により具現化される機能またはその機能を実現するための技術であり、知的と感じられる様々な目的のために情報処理を行うものを指します」という AI の定義がなされていることが特徴的である。
さらに、ソニーグループは、ソニーにおける AI 活用や研究開発がガイドラインに沿って社会的・倫理的な妥当性をもって行われているかを確認・審査するためのソニーグループ AI 倫理委員会やソニーグ
ループの事業に対し AI 倫理に関する専門知識を提供する AI 倫理室を設置するほか、AI 倫理観点でのアセスメント体制の構築をするなど、AI 倫理の推進体制と取組みをおこなっている。

6.2.2 富士通の例−「富士通グループ AI コミットメント」の策定（2019 年 3 月）
欧州富士通研究所（Fujitsu Laboratories of Europe Ltd.）は欧州最大の AI 倫理機関である「AI4People」51に加盟しており、富士通は 2019 年 3 月に「富士通グループ AI コミットメント52」を策定している。このコミットメントは、富士通が 2009 年に掲げた Human Centric という理念がもととなっている。
また、富士通グループの AI 倫理に関する第三者の客観的な評価を受ける仕組みとして、外部の有識者などで構成される富士通グループ AI 倫理外部委員会を 2019 年 9 月に設置した53ことに加えて、2022 年 1 月には最先端テクノロジーの社会浸透・信頼確保の実現を目的とした AI 倫理ガバナンス室が設置されている54。

6.2.3 NEC の例−『NEC グループ AI と人権に関するポリシー』の策定（2019 年 4 月）
NEC は AI の利活用によって生じうる人権課題を予防・解決するためのポリシーとして 2019 年 4
月に『NEC グループ AI と人権に関するポリシー55』を策定しており、「人権尊重を最優先にした AI 提供と利活用」は ESG 視点の経営優先テーマ「マテリアリティ」の 1 つにも特定されている56。
本ポリシーでは、

51

Fujitsu Ltd.“Fujitsu Focuses on Social and Ethical Impact of AI with AI4People Forum”（2018 年 5月）（https://www.fujitsu.com/fts/about/resources/news/press-releases/2018/emeai-20180528fujitsu-focuses-on-social-and-ethical-impact.html）
52
富士通株式会社「富士通グループ AI コミットメント」（2019 年 3 月）（https://pr.fujitsu.com/jp/news/2019/03/13-1a.pdf）
53
富士通株式会社「安心・安全な AI の社会実装に向け、「富士通グループ AI 倫理外部委員会」を設置」（2019 年 3 月）（https://pr.fujitsu.com/jp/news/2019/09/30.html）
54
富士通株式会社「AI など最先端テクノロジーの社会浸透・信頼確保の実現を目的とした、AI 倫理ガバナンス室の新設」（2022 年 1 月）（https://pr.fujitsu.com/jp/news/2022/01/28.html）
55
NEC グループ「NEC グループ AI と人権に関するポリシー」（2019 年 4 月）
（https://jpn.nec.com/press/201904/images/0201-01-01.pdf）
56
日本電気株式会社「ESG 視点の経営優先テーマ「マテリアリティ」」（https://jpn.nec.com/csr/ja/management/materiality.html）
19

⚫ 公平性⚫ プライバシー⚫ 透明性⚫ 説明する責任⚫ 適正利用⚫ AI の発展と人材育成⚫ マルチステークホルダーとの対話が掲げられている。また、N E C は、「デジタルトラスト推進部」や「デジタルトラスト諮問会議」を設置して推進体制を構築している。

6.2.4 日立製作所の例−「社会イノベーション事業における『AI 倫理原則』」の策定（2021
年 2 月）
2014 年 7 月にプライバシー保護対策を統括する「パーソナルデータ責任者」「プライバシー保護諮問委員会」を設置し、プライバシー保護に配慮したデータ利活用に取り組んできた日立は、2021 年 2 月に社会イノベーション事業において人間中心の AI を開発・社会実装することを目的として、AI 倫理原則を策定57した。
かかる AI 倫理原則は、「計画」「社会実装」「維持管理」の 3 つのフェーズにおける「行動規準」と、以下の 7 つの「実践項目」で構成されている。
(1) 安全重視(2) プライバシー保護(3) 公平性実現(4) 適正開発・利活用(5) 透明性・説明責任重視(6) セキュリティ重視(7) 法令遵守
なお、ここでは、AI (Artificial Intelligence、人工知能)は「データ、情報、知識の学習により、自らの出力や処理方法を変化させる機能を持つ処理モジュール、および、このようなモジュールを構成要素として含むシステム」と定義されている。

6.2.5 ABEJA の例−AI ポリシーの策定と「Ethical Approach to AI」の立ち上げ
AI ポリシーを策定しているベンチャー企業の数は少なく、 ABEJA はそのうちの一つである。
ABEJA は AI ポリシーの策定58に加えて、2019 年 7 月に、AI に関する課題について外部の有識者

57

日立グループ「Lumada Data Science Lab.」（https://www.hitachi.co.jp/products/it/lumada/about/ai/ldsl/index.html#p05）
58
株式会社 ABEJA「AI Policy」（https://www.abejainc.com/ai-policy）
20

が倫理、法務的観点から討議する委員会「Ethical Approach to AI」(EAA)を設立し、社内のコン
プライアンスにかかわるテーマのうち、「AI の法務・倫理」に関する事項に関してはこの委員会で議論するとしている59。

6.2.6 小括
各企業における AI ガイドラインの概要は以下の表のとおりである。
表１ 各企業における AI ガイドラインのまとめ

企業名
ソニー

富士通

ガイドライン要素

ソニーグループ AI 倫理ガイドライン⚫

豊かな生活とより良い社会の実現（ https://www.sony.com/ja/Son⚫

ステークホルダーとの対話

yInfo/csr_report/humanrights/⚫

安心して使える商品・サービスの提供

AI_Engagement_within_Sony_Gr⚫

プライバシーの保護

oup_Ja.pdf）⚫

公平性の尊重

⚫

透明性の追求⚫

AI の発展と人材の育成⚫

AI によってお客様と社会に価値を提供しま

富士通グループ AI コミットメント(https://pr.fujitsu.com/jp/new
s/2019/03/13-1a.pdf)

す⚫

人を中心に考えた AI を目指します⚫

AI で持続可能な社会を目指します⚫

人の意思決定を尊重し支援する AI を目指します⚫

企業の社会的責任として AI の透明性と説明責任を重視しますNEC

NEC グループ AI と人権に関するポ

⚫

公平性

リシー

⚫

プライバシー(https://jpn.nec.com/press/20⚫

透明性

1904/images/0201-01-01.pdf)⚫

説明する責任⚫

適正利用⚫

AI の発展と人材育成⚫

マルチステークホルダーとの対話

日立製作

社会イノベーション事業に AI を活用す

⚫

安全重視

所

るための AI 倫理原則⚫

プライバシー保護(https://www.hitachi.co.jp/pro

⚫

公平性実現

ducts/it/lumada/about/ai/ldsl/⚫

適正開発・利活用

document/ai_document_jp.pdf)⚫

透明性・説明責任重視

59

株式会社 ABEJA「AI の倫理・法・社会的課題を討議、有識者委員会「Ethical Approach to AI」が発足」（2019 年 7月）（https://www.abejainc.com/news/20190725/1）
21

企業名

ガイドライン要素⚫

セキュリティ重視⚫

法令遵守

NTT デーNTT データグループ AI 指針⚫

持続可能な幸福社会の実現タ(https://www.nttdata.com/jp/j⚫

共創による新しい AI 価値の創出

a/-⚫

公正で信頼できる説明可能な AI/media/nttdatajapan/files/new⚫

安心安全なデータの流通

s/release/2019/nttdata_ai_guid⚫

AI を健全に普及させる活動の推進

elines.pdf)
三菱総合

三菱総合研究所 AI 事業推進の指針⚫

社会課題解決と未来社会の実現

研究所(https://www.mri.co.jp/sustain⚫

人間中心の社会の実現

ability/governance/dia6ou000⚫

技術の継続的な改善

001oqqk-att/ai-⚫

透明性と説明責任の重視

OKI グループ AI 原則

⚫

人権の尊重

(https://www.oki.com/jp/press⚫

説明と透明性/2019/09/z19033.pdf)

⚫

対話と協調

⚫

安全およびデータの取扱い

⚫

人財育成

guideline20191023.pdf)
OKI

野村総合

NRI グループ AI 倫理ガイドライン⚫

ステークホルダーとの対話・共創の推進

研究所(https://www.nri.com/jp/sustai⚫

AI の発展と人材の育成

nability/social/policies)⚫

公平性の尊重⚫

安全性・セキュリティの担保⚫

データとプライバシーの保護⚫

透明性の確保⚫

「より良いくらしとより良い社会」を実現する

パナソニッ

パナソニックグループの AI 倫理原則

ク(https://news.panasonic.com/jこと

p/press/jn220829-1)

ギリア

AI 倫理規範 AI と倫理⚫

安全のための設計、開発、検証を行うこと⚫

人権と公平性を尊重すること⚫

透明性と説明責任を重視すること⚫

お客様のプライバシーを保護すること⚫

より良い社会と人々の豊かさと文明の発展(https://ghelia.com/company/code/#sec-ai-ethics)

への貢献⚫

安心して使える商品・サービスの提供⚫

プライバシーの保護⚫

AI の社会実装と人材の育成

富士フイル

富士フイルムグループ AI 基本方針⚫

新たな価値創出を加速ム(https://holdings.fujifilm.com/

⚫

人権の尊重

22

企業名

ガイドライン要素

ja/sustainability/vision/policy/

⚫

公正な利用

ai)

⚫

情報セキュリティの管理⚫

透明性の確保

⚫

人材の育成

コニカミノ

コニカミノルタグループ AI の利活用⚫

人々は生きがいを感じられる社会の実現

ルタに関する基本方針⚫

安全/安心の確保(https://www.konicaminolta.jp⚫

公平性の尊重/about/csr/pdf/use-of-ai-⚫

透明性の追求と説明責任

basic-policy.pdf)⚫

ステークホルダーとの共創

⚫

人財の育成

⚫

価値や原則の列挙ではなく、「全社的な取り

ABEJA

AI ポリシー(https://www.abejainc.com/ai-組み」として、トップマネジメント、最新の知見

policy)の獲得、ガイドライン等の準拠、従業員の教育、外部検討委員会の設立を掲げている出所）公開情報に基づき AI 法研究会作成

23

7. 日本における議論の特徴
日本における AI に関する法及び倫理の議論の特徴を説明する。

7.1 日本で重視される価値AI 倫理上の価値として挙げられる価値のうち、日本においては、プライバシーに関してはユーザや企業の興味が高いが、公平性に関してはさほど高くない。この理由は不明だが、日本では歴史的に肌の色による差別などが顕在化しなかったことが考えられる。

7.2 同意の重視
また、日本ではユーザや AI の分析対象者の同意を重視する傾向が強い。また、個人情報の利用をはじめ、利用規約で同意をとれば、特段の説明がなくても同意があったものとして扱うことが多い。例えば、上述のリクナビ事件も、内定辞退率の算定に関して同意を得ていなかったことが問題となった。しかし、
そもそも、内定辞退率のようなものを算定すること自体の可否が本来は問われなければならなかった。
このような同意を重視する傾向から、同意を得れば様々な行為が可能となるという考えが強い。また、
同時に、AI によるプロファイリングを行うに際して対象者の同意を得るべきであるとの考えを持つ法律家も多い。
また、様々な事項について同意を得る傾向が強いため、長い利用規約の一文に同意が記載されていることが多く、同意の取得が形式的なものになる傾向が強い。

7.3 インシデントの傾向
先ほど、日本における AI 倫理上のインシデントを紹介したがが、日本ではインシデント数が少ない。これは、日本において AI の導入が相対的に進んでいないことと、丁寧な運用がとられているためだと思われる。例えば、採用選考に AI を導入したソフトバンク社は、AI が不合格とした場合は人事担当者が内容を確認して最終判断を行うこととしている60。またⅡで紹介したみずほ銀行の与信 AI でも、男女でのバイアスの存在からバイアスを緩和するようにアルゴリズムの修正を行ったと伝えられている。

7.4 BtoB 構造に関する議論
また、日本の AI 産業の BtoB 構造に着目した議論の必要性も主張されている。BtoB 構造のため、技術的な知見を持つ AI 開発企業とドメインやユーザに関する知見を持つ AI 利用企業の間で知見が分断してしまう。AI 倫理に関して問題意識や知見を有しているのは AI 開発企業であることが多いため、
AI 開発企業から AI 倫理上の問題についての説明が必要になる。また、AI 倫理上の対応を行うかの最終判断を行うのは、AI 利用企業であるため、説明がうまくいかないと、必要な AI 倫理上の対応がなされないということもあり得る。
60

ソフトバンク株式会社「新卒採用選考における IBM Watson の活用について」（2017 年 5 月）（https://www.softbank.jp/corp/group/sbm/news/press/2017/20170529_01/）
24

また、Ⅳで紹介した AI 開発に関するガイドラインなど、BtoB 構造を意識したガイドラインが発表されている。

7.5 アカデミアでの議論と産業界での議論
日本では、大学を中心としたアカデミアの世界においては、AI 倫理に関する議論が盛んである一方、産業界では倫理的課題の存在を知らないことや倫理的課題を知っていても対応が未実施であることも多い61。産業界においては、AI 倫理への取り組みは、AI 利用が進んだ先端的な企業を中心としたものとなっている。
これは、先ほど述べたインシデント数の少なさと、AI 導入数の少なさが原因であると考えられる。

61

PwC Japan グループ「2022 年 AI 予測（日本）」（2022 年）（https://www.pwc.com/jp/ja/knowledge/thoughtleadership/2022-ai-predictions.html）
25

執筆者紹介⚫

古川直裕(弁護士、株式会社 ABEJA)
東京大学法学部卒業、東京大学法科大学院修了。2010 年に弁護士登録後、複数の法律事務所や企業で企業内弁護士として勤務。また、数学、統計学、Python を学びながら、2017 年から 2020 年までデータサイエンティストとして勤務。現在は AI スタートアップである株式会社 ABEJA で社内弁護士として勤務。
2020 年に AI 法研究会を設立し、国際交流部会の代表を務める。著書に『Q＆A AI の法務と倫理』、その他 AI 関連の論文・レポート多数。
連絡先： ai_and_international_relations@googlegroups.com;
nf0825ml@gmail.com⚫

鈴木康之（弁護士、隼あすか法律事務所）
慶応義塾大学法学部卒業、New York University LL.M.修了、National University ofSingapore LL.M.修了。2008 年に弁護士登録後、隼あすか法律事務所に入所し、クロスボーダー取引、知的財産権、銀行・金融、商業訴訟などの企業法務に関するリーガルサービスを提供。2014 年に香港の法律事務所に勤務し、日本国内でインバウンド、アウトバウンドビジネスを行う企業の支援に従事。
また、欧州系銀行の東京オフィスにて、法務・コンプライアンスの統括を担当。これらの経験を生かし、日本での銀行・金融ビジネスにおける海外直接投資案件の支援も行う。
2021 年に AI 法研究会に入会し、現在は国際交流部会に所属。

⚫

山本俊之（弁護士、西村あさひ法律事務所）
慶應義塾大学環境情報学部卒業、慶應義塾大学法科大学院修了。2009 年弁護士登録。西村あさひ法律事務所のファイナンス・金融を専門とするパートナー弁護士として、アセットマネージメントやデリ
バティブを中心に、各種の金融取引、金融業規制・コンプライアンスのアドバイスに従事。国内・海外のア
セットマネージメント会社・金融機関・事業会社に対し、アセットマネージメント分野やデリバティブ分野における金融規制はもちろんのこと、新規商品組成時の契約書作成や規制上の整理、社内態勢整備に関するアドバイスも提供。また、クロスボーダーのファイナンス案件やファンド運営会社による投資案件にも数多く関与。ファイナンス・金融以外の分野では、カルテル事案における海外当局・クラスアクション対応
において、海外法律事務所と協働しながら対応を行っている。さらに昨今は、デジタル証券といった
FinTech 分野における案件にも取り組み、金融分野の AI に関する論考の発表多数。
弁護士登録前は、格付け会社や証券会社において証券化アナリストの業務経験あり。日本証券アナリスト協会認定アナリスト、国際公認投資アナリスト。
2020 年に AI 法研究会に入会し、現在は国際交流部会、業法規制部会（部会長）に所属。
26

⚫

高橋尚子
（弁護士、三菱総合研究所/法律事務所 ZeLo・外国法共同事業）
東京大学法学部、東京大学法科大学院修了、Stanford Law School LL.M.修了。２００８年に弁護士登録後、森・濱田松本法律事務所で勤務し、人事労務分野を中心とする企業法務全般に従事。
2011 年 に 国 会 ・ 東 京 電 力 福 島 原 子 力 発 電 所 事 故 調 査 委 員 会 に 勤 務 （ 出 向 ） 、 2013 年 にInternational Labour Organization 駐日事務所にて勤務（非常勤）（インターン）、2015 年にWorld Resources Institute にて勤務。2016 年に株式会社三菱総合研究所入社（～現在）。以後、
AI などの先端科学技術やサステナビリティ・エネルギー分野を中心に、ガイドラインの策定や法的課題の分析に従事する。2021 年に法律事務所 ZeLo・外国法共同事業に参画。
2020 年に AI 法研究会に入会し事務局を務める。現在は国際交流部会に所属。

⚫

小松詩織（弁護士、西村あさひ法律事務所）
東京大学法学部卒業。2022 年に弁護士登録後、西村あさひ法律事務所にて、クロスボーダーM&A、事業提携、スタートアップ投資、AI 法務等の案件に従事している。近時の講演として「超 DX サミット」（2022 年、日本経済新聞社主催）。
2016 年に東京都知事賞を受賞。孫正義育英財団生に認定される他、世界経済フォーラムにより組織される Global Shapers Community のメンバー、ムーンショット型研究開発事業ミレニアプログラムのチームメンバーに選出される。2021 年に単著「小松詩織が教える 司法試験・予備試験 合格のベス
トプラクティス」（中央経済社）を出版。
2021 年に AI 法研究会に入会し事務局を務める。現在は国際交流部会に所属。

⚫

角田龍哉（弁護士、西村あさひ法律事務所）
慶応大学法学部卒業、東京大学法科大学院修了、東京大学法学政治学研究科博士課程在籍。
2014 年弁護士登録後、西村あさひ法律事務所にて、プライバシー・データ保護、消費者保護、競争法
規制など、さまざまな IT/オンラインサービス関連業務に従事し、国内外のスタートアップや企業へのアドバイスも頻繁に行う。
AI やデジタルサービスの規制に関する著作を多数有する。近時の講演としては、「米国・EU における
AI とサイバーセキュリティ規制」(2022 年、株式会社 ENNA サイバーセキュリティ研究会主催)、「日本の持続可能な開発目標（SDGs）に向けた挑戦を達成するために重要なデジタルインフラとしてのクラウドコンピューティング」（2022 年、Asian Law Institute 主催「アジアの持続可能な開発と法」）等。
2020 年に AI 法研究会に入会し、現在はプライバシー部会・国際交流部会に所属。

27

日本の AI に関する法・倫理の状況

2022 年 11 月
AI 法研究会
国際交流部会