公益社団法人日本工学会 技術倫理協議会 第19回公開シンポジウム＜新時代に生きる技術者としての科学技術に関する倫理・法・社会的課題(ELSI)を考える＞

講 演 資 料日 時： 令和5年12月4日（月） 13時00分～17時15分
形 式： オンライン（Zoom ウェビナー）主 催：公益社団法人日本工学会 技術倫理協議会【協議会会員】公正研究推進協会、電気学会、電子情報通信学会、土木学会、日本化学会、
日本機械学会、日本技術士会、日本原子力学会、日本建築学会、
日本工学教育協会、日本非破壊検査協会、日本マリンエンジニアリング学会

日本工学会 技術倫理協議会 第19回公開シンポジウム＜新時代に生きる技術者としての科学技術に関する倫理・法・社会的課題(ELSI)を考える＞
開催趣旨：
20 世紀後半に、米国で「ヒトゲノム計画」が開始された時に、科学技術文明への懐疑を背景に、新しい科
学技術がもたらす利益だけでなく、それによるリスクも同時に検討するプログラムが考えられた。その考え方は、倫理・法・社会的課題（ELSI: Ethical, Legal and Social Issues)と呼ばれて世界中に広まり、様々な新技術を研究開発し、社会に導入する場合には、ELSI を検討する事が必須とされるようになっている。
しかしながら、AI(人工知能)を例に考えれば分かるように、技術の社会的な影響を、それが成立する前に予測することは簡単なことではなく、しかも、一旦、普及したサービス・システム等をコントロールすることは非常に困難である。また、ELSI は、その性質上、技術開発プロセスに、条件によってはブレーキをかける
可能性を持つ。そのため、ELSI を実践するためには、技術開発を推進するコミュニティだけでなく、倫理・哲学などの人文社会系のコミュニティや、政策プロセスに責任を持つコミュニティの協働が上手く機能する
事が最も大切な条件となる。
本シンポジウムにおいては、上記の背景を元に、ELSI の理念と、それを実践するための課題、現場の技術者への技術倫理教育の方法等を議論し、新しい時代の技術者が身につける教養としての ELSI を考える。

＜プログラム＞
総合司会：石川 孝重（技術倫理協議会 副議長）
時間
13:00-13:05

演

題

開会挨拶

登

壇 者

吉開 範章

技術倫理協議会 議長

13:05-13:35【講演 1】ELSI の歴史と動向

小山田 和仁

国立研究開発法人
科学技術振興機構(JST)13:35-14:05【講演 2】
AI 倫理と ELSI

美馬 正司

日立コンサルティング／
慶應義塾大学特任教授【講演 3】
14:05-14:35
技術発展に対する法制度的課題の実際-AI 規制を例に-

松尾 剛行

弁護士

【講演４】
14:35-15:05 教育データ利活用 EdTech に関する ELSI

加納 圭

滋賀大学

15:05-15:15

休憩【報告】倫理事例集の作成 ＆活用について15:15-17:15
パネルディスカッション

森下壮一郎（技術倫理協議会 委員）

パネリスト：小山田 和仁、美馬 正司、松尾 剛行、
加納 圭、森下 壮一郎
コーディネーター：札野 順（早稲田大学）
閉会挨拶 三木 哲也（技術倫理協議会 元議長）

日本工学会 技術倫理協議会 第19回公開シンポジウム「新時代に生きる技術者としての科学技術に関する倫理・法・社会的課題(ELSI)を考える」

ELSIの歴史と動向～ELSI/RRIから新興技術のガバナンスへ～

2023年12月4日

小山田

和仁

国立研究開発法人科学技術振興機構（JST）
研究開発戦略センター（CRDS）
フェロー

目次
1．略歴・自己紹介
2．ELSIの歴史的展開：米国、欧州、日本
3．近年の動向：新興技術の責任あるガバナンス
4．まとめ©2023 CRDS

2

略歴・自己紹介 現職：

小山田 和仁（おやまだ かずひと）

国立研究開発法人科学技術振興機構（JST）研究開発戦略センター（CRDS）
フェロー（科学技術イノベーション政策ユニット）

 略歴：
2003
2003
2005
2006
2011
2012
2017

東京大学院総合文化研究広域科学専攻修士課程修了
独立行政法人産業技術総合研究所（技術と社会研究センター、技術情報部門）
政策研究大学院 助手（科学技術・学術政策プログラム）
独立行政法人日本学術振興会国際事業部戦略交流課 研究員
独立行政法人科学技術振興機構 研究開発戦略センター フェロー
政策研究大学院 専門職（SciREXセンター）
現職

 所属学会：研究・イノベーション学会、科学技術社会論学会
 活動概要：DARPA Robotics
Challenge Final にて（2015年6月）

科学技術・イノベーション（STI）政策のシステムや研究開発ファンディング等に関する調査分析・政策提言・人材育成等に従事（科学技術人材のキャリアパス、SciREX*、ハイリスク研究、大学トップマネジメント等） 。この他、公的研究機関・ファンディング機関における研究戦略立案、国際交流事業等に携わる。

 ELSI関連＊文部科学省「科学技術イノベーション政策における『政策のための科学』推進事業」

 ELSI/RRIに関わる調査・提言
 JSTムーンショット型研究開発事業におけるELSI分科会の活動支援

 その他：

国連STI for SDGsロードマップガイドブック、ミッション志向型科学技術・イノベーション政策など
3

参考

JST研究開発戦略センター（CRDS）のELSI/RRI 関連報告書等
入門編
2019年11月

科学技術イノベーション政策における社会との関係深化に向けて～我が国におけるELSI/RRIの構築と定着～• ELSI/RRIに関する歴史的背景を整理• 我が国が当面重視すべき取り組
みの方向性を提示

https://www.jst.go.jp/crds/report/CRDS-FY2019-RR-04.html

2021年6月

自然科学系研究者のためのELSI解説NEW
2022年3月

2022年10月

2023年5月

ELSIからRRIへの展開から考える科学技術・イノベー
ションの変革ニューロテクノロジーの健全な社会実装に向けたELSI/RRI実
践

科学技術・イノベーションの土壌づくりとしてのELSI/RRI
戦略的な科学技術ガバナンスの実現に向けて• ELSIの取組みを進め、より望
ましい社会に向けたRRIへと変革する上での課題を、国内外の動向を踏まえて整理• ニューロテクノロジーの健全な社会実装のために、基礎科学の研究
開発・事業化・ELSI/RRIやルー
ル形成の取り組みの3要素が密に協働するイノベーション・エコシ
ステムの構築が重要• ELSI/RRIの実践をルール・規範形成の議論も視野に入れたものに広げるために、政策ないしアカデ
ミアが主導的・中心的に5～8年程度のスコープで具体的に進める
べき取り組みを提言

https://www.jst.go.jp/crds/report/C
RDS-FY2022-WR-06.html

https://www.jst.go.jp/crds/report/
CRDS-FY2023-SP-01.html～政策・ファンディング・研究開発の横断的取り組みの強化に向けて～• ムーンショット研究開発事業等でELSIに取り組む研究者に向けて実践に役立つ基
本情報を整理https://www.jst.go.jp/crds/r
eport/CRDS-FY2021-XR02.html

https://www.jst.go.jp/crds/repo
rt/CRDS-FY2021-RR-07.html

4自己紹介（つづき）
経済協力開発機構（OECD）の複数の国際プロジェクトに専門家として参画
 社会的課題解決のためのトランスディシプリナリー（学際共創）研究（2018－2020） ハイリスク・ハイリワード研究（2018-2021)
 ミッション志向型イノベーション政策（2018－）
 危機時における科学動員～新型コロナウイルスパンデミックからの教訓（2020－2023）
 新興技術のガバナンス（2023－）©2023 CRDS

5

なぜ、今ELSI/RRI（あるいは技術ガバナンス）が注目されるか
新興技術（Emerging Technology)の影響の増大
 技術の発展スピードと制度的対応のミスマッチ
 技術の融合（Convergence of Technology）が既存の制度の枠を越える イノベーションが様々な領域を横断するのに対して既存制度が分断
 技術やイノベーションの方向性や影響（経済、環境、格差、人権・倫理等）、
多くのリスク・不確実性が存在 技術やイノベーション、それらに関わる政府や専門家に対する市民の不信
 技術ができてからでは遅い
 価値や規範が技術の受容・イノベーションに影響→早期（上流）からのより柔軟な対応が必要になる©2023 CRDS

6

科学技術・イノベーションとELSI/RRI
ELSI/RRI： イノベーションプロセスの初期段階から科学技術がもたらしうる倫理的・法的・社会的課題を探索的・予見的に把握・対応するための取り組みや、実現したい価値の創造に向けて、社会との応答を通してよりよい知識生産のあり方を追求していく試み
ELSI (Ethical, Legal and Social Issues)
倫理的・法的・社会的課題

RRI (Responsible Research and Innovation)
責任ある研究・イノベーション

基本的な
考え方

• 科学技術の存在を前提に、それが人々や社会に対してどのような倫理的・法的・社会的影響をもたらしうるのかを事前に把握・検討・対処する試み• 目指す社会像や価値から顧みて、直面する課題に挑戦する手段として科学技術を捉え、研究開発・イノベーションの基盤、実践、成果の普及に至る全プロセスを、より好ましいものへと転換・発展させる取り組み。
• 2000年代以降、主に欧州における科学技術ガバナンスと市民参加の流れを汲み、多様なステークホルダー関与を重視

想定される
取り組み

• 科学技術に関わる倫理的・法的・社会的課題の学術研究• 研究成果のアウトリーチ活動やサイエンスコミュニケーション• 倫理指針や法令の整備・遵守 等• 研究開発へのステークホルダー関与• 科学的知見へのアクセシビリティの確保• 研究現場におけるジェンダー平等やマイノリティ配慮の実現• STEM教育や倫理教育の充実 等• 研究予算の一部を科学技術の倫理的・法的・社会的影響に関する研究に割り当てることを決定（’90 米国ヒトゲノム計画）• 研究開発や社会実装に伴う課題そのものを指すだけではなく、課題の把握・検討・対処に関わる営みとして様々な分野へ波及• 欧州では、研究開発の影響のみならず、研究開発のプロセスの側面（Aspects）を含むELSAの呼称で普及• 欧州のフレームワークプログラム、Horizion 2020の基幹プロジェクト「社会と共に／社会のための科学」（SwafS）の中心概念として導入• Horizon Europeでは、プログラム全体を通して推進• その考え方は欧州各国、米国、アジアへ拡大

背景• 米国DARPAでは環境やデュアルユースを含めたLEEDR（Legal, Ethical, Environmental, Dual-Use, and Responsible Innovation）という概念を2017年に導入
出典：CRDS「科学技術・イノベーションの土壌づくりとしてのELSI/RRI：戦略的な科学技術ガバナンスに向けて」（2023/5）
https://www.jst.go.jp/crds/report/CRDS-FY2023-SP-01.html©2023 CRDS

7

ELSI/RRIの歴史的展開©2023 CRDS

8

米国（1）
1945～ 第二次世界大戦と冷戦時の軍拡競争→科学者の社会的責任論（1955 ラッセル＝アインシュタイン宣言、1957 パグウォッシュ会議）
1962 レイチェル・カーソンの『沈黙の春』
環境汚染、公害問題に対する意識の高まり
1972 テクノロジーアセスメント、議会技術評価局（OTA）設置
米国議会内に設置。TAを政策へ反映する仕組みの導入。同様の取組が欧州各国や欧州議会へ波及
1975 遺伝子組み換え技術とアシロマ会議
科学者による自主的な取組による遺伝子組み換え技術の規制の議論
1990 ヒトゲノム計画（ELSIの本格的な取組開始
ヒトゲノム研究に伴って発生するであろう倫理的、法的、社会的課題の研究に、研究開発予算（総額30億米ドル）の３％を充てる。
研究プロジェクトの中にブレーキをかける可能性のある研究をあらかじめ組み込んだ点で画期的
出典：CRDS『科学技術イノベーション政策における社会との関係深化に向けて～我が国におけるELSI/RRIの構築と定着～』（2019）https://www.jst.go.jp/crds/report/CRDS-FY2019-RR-04.html

99

米国（2）
ライフサイエンスから他分野への展開。大規模研究開発イニシアティブへの組み込み

2003 Nanotechnology Initiative
EHS（Environment, Health and Safety）への取組
2013 Brain Initiative
Neuroethicsに関するWGの設置、倫理的課題の検討
2019 AI Initiative”AI with American Values”
理解可能で信頼出来るAI, ロバストで安全なAI, 雇用への影響等

出典：CRDS『科学技術イノベーション政策における社会との関係深化に向けて～我が国におけるELSI/RRIの構築と定着～』（2019）https://www.jst.go.jp/crds/report/CRDS-FY2019-RR-04.html

1010

欧州（1）
1980～1990年代• 科学技術と社会の境界の問題への関心の高まり：遺伝子組み換え作物（GMO)、狂牛病、チョルノービリ（チェルノブイリ）原子力発電所事故など• テクノロジーアセスメント機関の設置：米国OTAを参考に議会付属のTA機関を設置
1999 ブダペスト会議「科学と科学的知識の利用に関する世界宣言」「社会の中の科学、社会のための科学」”science in society, science for society”
欧州連合（EU）の研究・イノベーション枠組み計画（フレームワークプログラム）
2002 第６期“Science and Society”

2007 第７期“Science in Society”

2014 Horizon 2020（第8期）”Science with and for Society（SwafS）“→RRI（Responsible Research and Innovation）への取組（7年間、4億4,500万ユーロ）
市民参加、オープン・アクセス、ジェンダー、倫理、科学教育、RRIの6つの柱“RRI is an inclusive approach to research and innovation (R&I), to ensure that societal actors work
together during the whole research and innovation process. It aims to better align both the process
and outcomes of R&I, with the values, needs and expectations of European society.”(Horizon 2020)
出典：CRDS『科学技術イノベーション政策における社会との関係深化に向けて～我が国におけるELSI/RRIの構築と定着～』（2019）https://www.jst.go.jp/crds/report/CRDS-FY2019-RR-04.html

11
11

参考

ＥＵにおける科学と社会の概念の展開

出典：Felt et al, Science in Society: caring for our futures in turbulent times, 20131212

欧州（2）：Horizon Europeにおける取組み
 独立した事業から全ての事業の要件へ
 Horizon Europe（2021–2027）では、オープンサイエンスの推進方策や研究成果の普及と活用に関する計画、ジェンダー公平計
画の策定などをプロジェクト申請時の必須事項としている（表参照）。
 このため、Horizon 2020では、RRIを「社会と共にある/社会のための科学技術（SwafS）」の一分野として扱っていたのに対し、Horizon Europeではプログラム全体を通じてRRIを推進しようとしている1,2。
 人文・社会科学との連携（SSH Integration）
 Horizon 2020に引き続き、Horizon Europeのおいても社会課題対応型のプログラムを主軸に推進。各国関係者への情報共有・能力開発を担うネットワーク組織（Net4Society 3 ）も存在
Horizon Europeの申請における基本原則
項目考慮すべき観点

オープンサイエンス•••

Horizon Europe（HE）の資金で得られた成果の論文は即座のオープンアクセス化が義務
データ共有は「できる限りオープン、必要な場合はクローズ」「欧州オープンサイエンスクラウド」（データ共有）や「オープンリサーチヨーロッパ」（論文データベース）の利用を推奨

研究・イノベーションにおけるジェンダー側面•

ジェンダー公平性とは別の観点（※HE参加機関はジェンダー公平に関する計画策定が求められている）
例：男性の体型だけを基準に自動車装備の安全性を決めることは適切か？

インパクトへの道筋• HEのワークプログラム（活動計画）で定められた期待される成果（アウトカム）・インパクトへの貢献を記載

インパクト最大化の方策• 成果の活用・普及・コミュニケーションに関する計画が必須

著しく害することのない原則（Do not significant harm
principle: DNSH)の遵守• 欧州グリーンディールの目的に沿って、次の６項目を害することのない研究計画を立てる必要（気候変動緩和、気候変動適応、水・海洋資源の持続可能な利用・保護、循環型経済への移行、汚染予防・管理、生物多様性・生態系の保護と回復）人工知能（AI）• プロジェクトで開発・利用されるＡＩベースのシステム・技術の信頼性（Trustworthiness）についてデューデリジェンスが必要

1 CRDS. 2021.『EUの研究・イノベーション枠組みプログラム

Horizon Europe』 https://www.jst.go.jp/crds/report/CRDS-FY2021-OR-02.html
the Evolution and Benefits of Responsible Research and Innovation (MoRRI): Report on the Researchers’ Survey on RRI benefits) によると、採択研究者の内でRRIについて聞いたことがあると答えた研究者は4分の１程度であり、聞いたことがあると答えた研究者の中でも、研究活動の中で十分に関連づけてはいないとされる。また上記のHorizon Europeにおける取組みに関してRRIの希薄化を懸念した研究者たちが共同声明を発表（’20. Journal of Responsible Innovation）
3 https://www.net4society.eu/index.html
2 Monitoring13

日本（1）
前史としての公害問題等
1990年代• 科学技術と社会の間の問題への関心の高まり：阪神・淡路大震災（1995）、オウム真理教地
下鉄サリン事件（1995）、もんじゅナトリウム漏洩事故（1995）、京都議定書（1997）、
東海村JCO臨界事故（1999）等• 参加型テクノロジーアセスメントの試行：遺伝子治療、高度情報化社会、ヒトゲノム（科技庁）、遺伝子組み換え作物（北海道）等の取組が行われたが、定着せず
2000

ブタペスト宣言（1999）→科学技術庁「社会技術の研究開発の進め方に関する研究会」

2001

社会技術研究システム（旧RISTEX、科学技術振興事業団と日本原子力研究所の連携協力）→2005 科学技術振興機構（JST ）社会技術研究会発センター（現RISTEX）への改組

2000年代半ば
産総研、物材機構等におけるナノテクノロジーの多面的な影響の調査検討→継続せず（時限的プログラム支援、研究者の自発的取組）
知見や人的ネットワークの蓄積・維持が困難14
14

日本（2）：科学技術基本計画における位置付けの変遷
1996

第1期：「科学技術と人間の生活・社会及び自然との調和」

2001

第2期：「科学技術と社会の新しい関係の構築」「科学技術に関する倫理と社会的責任」

2006

第3期

• 国民の理解増進や社会的受容の向上、研究者側からの社会への情報発信などの課題認識• 科学技術と社会のコミュニケーションの推進• （１）生命倫理等、（２）研究者・技術者の倫理、（３）説明責任とリスク管理
世界戦略、人材育成からELSI に至るまで、総合的かつ俯瞰的な戦略を構築する。」
•

2011
•

2016
•

「科学技術が及ぼす倫理的・法的・社会的課題への責任ある取組」としてELSI を推進を明記

第4期「社会とともに創り進める政策の展開」「国民の視点に基づく科学技術イノベーション政策の推進」の中に、「政策の企画立案及び推進への国民参画の促進」、「倫理的・法的・社会的課題への対応」、「社会と科学技術イノベーション政策をつなぐ人材の養成及び確保」

第5期：「共創的科学技術イノベーション」

様々なステークホルダーによる対話・協働1515

日本（3）：ELSIの制度化の動き
大型研究開発プログラムへの組み込み、「総合知」の推進
2019 統合イノベーション戦略2019「世界戦略、人材育成からELSI に至るまで、総合的かつ俯瞰的な戦略を構築する。」
2020•

ムーンショット型研究開発事業におけるELSIの取組み開始•

科学技術基本法改正→科学技術・イノベーション基本法「イノベーションの創出」（経済的・社会的価値）、人文・社会科学分野を法の対象に

2021•

第6期科学技術・イノベーション基本計画：「総合知」の推進「人文・社会科学の厚みのある知の蓄積を図るとともに、自然科学の知の融合による、人間や社会の総合的理解と課題解決に資する総合知の創出・活用によって、持続可能性と強靭性を備え、国民の安全と安心を確保するとともに、一人ひとりが多様な幸せ（Well-being）を実現できる社会」の実現

16
16

日本（4）：近年の動向
 研究開発プログラムにおけるELSI/RRIに関する取組みの要件化や取組み• ムーンショット型研究開発プログラム：ELSIの取組みを要件化• AMED：研究への患者・市民参画（PPI）等
 ELSI/RRIの手法やツールの開発、理論的基盤探求• JST社会技術研究開発センター（RISTEX）「科学技術のELSIへの包括的実践プログラム」(Responsible Innovation with Conscience and Agility: RInCA)

 社会実装を目指すプログラムでも制度やルールメイキングに関する戦略が求められるように• 内閣府戦略的イノベーション創造プログラム（SIP）第3期：
技術だけでなく、ガバナンス(制度・規制含む）、事業、社会的受容、人材の側面での戦略立案

 民間企業が主体的にルール形成やELSIに関わる動きも• メルカリR4Dと大阪大学ELSIセンターとの共同研究など• GXリーグもルール形成を主目的に
 実践的・方法論的ELSIだけでなく本質的議論や理論面の基盤強化も必要（チェックリストや手続き論にとどまらない）

例：レベル5の自動走行に関する倫理的配慮事項規則（ISO39003）におけるカント哲学の参照©2023 CRDS

17

参考

国内のELSIセンター等設置動向

大阪大学 社会技術共創研究センター (ELSIセンター)

北海道大学 人間知×脳×AI研究教育センター (CHAIN)• 2020年4月設立• 所長：岸本充生 データビリティフロンティア機構 教授 (リスク学)• 学内組織として単独設置。ELSI/RRIへの取り組みに特化した拠点として日本で最初に設立された組織であり、”ELSI Note” などの提言の作成・発信や、企業連携研究の実践も活発。

• 2019年7月設立• 所長：田口 茂 文学研究院 教授 (西洋近現代哲学)• 交差領域での新しい人間知の創出を目指す、学内共同施設として設置。脳科学・AI分野の社会実装に向けた文理融合・学際的研究および教育プログラムを提供。

神戸大学 ELSIプロジェクト/センター (KOBELSI)

新潟大学 ELSIセンター• 2023年5月設立 [新設]
• 所長：茶谷直人 人文学研究科 教授 (ギリシャ哲学・生命倫理学)• デジタルバイオ＆ライフサイエンスリサーチパーク: DBLR
(国立大学経改革促進事業) の体制下に、もともと組織されていた倫理創成プロジェクトを位置づけ。

• 2023年4月設立 [新設]
• 所長: 渡辺 豊 人文社会科学系 教授 (国際法)• 研究統括機構に設置 (研究企画URA室と経営戦略本部IR推進室を統合) 。“Vulnerability” をコンセプトに、ライフイノ
ベーション拠点と災害レジリエンス研究の融合、地域社会における課題解決を志向。

広島大学 共創科学基盤センター (ELSI Hiroshima)• 2023年4月設立 [新設]
• 所長：小林信一 高等教育研究開発センター
特任教授 (科学技術政策)• 全学の未来共創科学研究本部 (国立大学経営改革促進事業) の下、社会共創基盤ユニットとして設置。

中央大学 ELSIセンター• 2021年4月設立• 所長：須藤 修 国際情報学部 教授 (情報経済論)• 研究開発機構 研究支援室に設置。AI・セキュリティに特化した研究開発活動を柱に、次世代人材育成も掲げる。Rome
Call for AI Ethicsへの署名など、国際活動にも注力。

農業・食品産業技術総合研究機構 ELSIチーム• 2021年4月設立• 本部 企画戦略本部 新技術対策課に設置©2023 CRDS

出典：CRDSにて各大学・機関資料に基づき作成（2023年5月現在）

18

参考

JSTムーンショット型研究開発事業におけるELSI活動支援

横断的支援として、ELSI分科会メンバーが各目標のELSI活動を支援
ELSI分科会メンバー©2023 CRDS

*主査

小林 傳司＊

大阪大学 COデザインセンター
特任教授

小林 正啓

花水木法律事務所

宍戸 常寿

東京大学 大学院法学政治学研究科
教授

武田 安司

日本電気株式会社 政策渉外部
シニアマネージャー

出口 康

京都大学 大学院文学研究科教授

野崎 亜紀子獨協大学 法学部総合政策学科
教授

藤垣 裕子

東京大学 大学院総合文化研究科
教授

所長

出典：JSTムーンショット型研究開発事業：事業について
https://www.jst.go.jp/moonshot/jigyou.html

19

近年の動向：新興技術の責任あるガバナンス©2023 CRDS

20

国際社会の動向
 「新興技術のガバナンス」の重要性の増大••

新興技術（Emerging Technology)：AI、合成生物学、ニューロテクノロジー、量子技術等
上流（初期段階）からの予見的・先見的取組み、産業界・市民・ステークホルダーの参画・共創 技術・イノベーションを巡るランドスケープの変化•••

中国等の新興国の台頭、経済安全保障の高まり
米中対立やロシアによるウクライナ侵攻による国際環境の変化→持続可能性にも影響（エネルギー、稀少資源）
科学技術・イノベーション政策の「安全保障化（Security-turn）」

 グローバル化からオープンかつ戦略的な連携へ•

同志国間の戦略的連携＝自由経済や法の支配、基本的人権等の共有する価値を踏まえた連携 国際ルール・規範形成とイノベーションの相互作用• 二国間、多国間の枠組みだけでなく、国際機関（UNESCO等）、非政府組織や国際学術組織（IEEE等）などの多様な場（アリーナ）で、ルールや規範形成が行われている• 技術の発展により変化・更新される場合：遺伝子資源の公平かつ衡平な配分（ABS）©2023 CRDS

※同志国＝自由経済や法の支配、基本的人権等の価値を共有する国

21

参考

国際的なルール形成の動きの例
AI関連のガイドラインの国際動向

ニューロテクノロジー関連のELSI/RRIの国内の取組みと国際動向

ニューロテクノロジーに関する国際的なルール形成の例

出典：CRDS「科学技術・イノベーションの土壌づくりとしてのELSI/RRI：戦略的な科学技術ガバナンスに向けて」（2023/5）
https://www.jst.go.jp/crds/report/CRDS-FY2023-SP-01.html©2023 CRDS

22

OECDにおける次世代の科学技術・イノベーション政策の議論『OECD S&T Outlook 2023:混乱の時代における移行の実現』OECD STI Outlook 2023
新興技術の影響力の拡大、国際関係の変化などの混乱の中で、いかに持続可能かつ強靭な社会に向けたSTI
政策を実現するか
第1章：世界的な危機の時代における科学技術・イノベーション政策
新型コロナ危機、ロシアのウクライナ侵略、ＳＴＩ政策の「安全保障化」

第2章：戦略的競争の時代における科学技術・イノベーション政策
グローバル化から戦略的競争の時代に、戦略的自立性、同志国連携

第3章：持続可能な移行のための科学技術・イノベーション政策
加速と方向性、資金、研究基盤、パートナーシップとコーディネーション

第4章：危機の時代における科学の動員：Covid-19からの教訓★
オープンサイエンス、研究インフラ、産学連携、研究資金、科学的助言、コミュニケーションなどの総動員

第5章：ネットゼロへの到達。ミッション志向はその約束を果たせるか★
ネットゼロに向けたミッション志向型イノベーション政策（MOIP)

第6章：新興技術ガバナンス：予見的な枠組みに向けて★
新興技術の責任あるガバナンス、予見可能性★講演者（小山田）が参加した/しているプロジェクト

23

OECDにおける動向
持続可能社会への移行と並び、新興技術の責任あるガバナンスが主要テーマにOECDにおける技術ガバナンスの定義「社会における技術の開発、普及、運用において、政治的、経済的、行政的な権限を行使するプロセス」

 Global Forum on Technology（GFTech）の創設（2023年6月）•

価値を共有する多国間の対話の場（英米の主導）•

6月の発足イベントには各国閣僚・ハイレベルの関係者が参加•

多国間の専門家によるフォーカスグループの設置
量子技術、没入技術（Immersive Technology）、合成生物学

 新興技術の責任あるガバナンスの枠組みの検討•

OECDバイオ・ナノ・コンバージング技術作業部会（BNCT）中心としつつ部局横断の取組み•

2024年閣僚級会合にて公表

 ニューロテクノロジーの責任あるイノベーションに関する理事会勧告（2019）•

政策担当者、産業界の実務者向けのツールキット開発→2024年公開予定

 2024年4月に予定されている科学技術政策担当閣僚級会合の主要テーマ©2023 CRDS

GFTの様子（画像出典：OECD）

24

新興技術のガバナンス：OECD Going Digital IV
技術ガバナンスに関してOECD全体から関連するアプローチを集約
GDIV 技術ガバナンスの各テーマとOECD内の担当部署

 Going Digital IVの3つの柱（2023-2024）＜テーマ＞

1）デジタルデバイド
2）デジタルトランスフォーメーションとネットゼロという2つの移行
3）テクノロジーガバナンス

出典：OECD/BNCT提供資料等を踏まえてCRDSにて作成©2023 CRDS

価値と設計原則

GDIV テクノロジーガバナンスの目的
1.
イノベーションと規制政策をより密接に連携させ、より効果的で相互補完的なものにする
2.
「戦略的インテリジェンス」、特に予見研究とホライズンスキャニ
ングをより効果的に活用し、技術的な機会や課題をより体系的に予測できるようにする
3.
責任ある企業行動に関するフレームワークと、責任あるイノベー
ションと責任ある技術に関するフレームワークの連携を深め、イノ
ベーションのさまざまな段階におけるテクノロジーガバナンスの問
題に取り組むよう、企業を導くことを支援する。
4.
ステークホルダーが、ガバナンスの観点から特に課題となる技術を特定し議論する機会を探る
5.
人工知能とニューロテクノロジーという、OECDの規範的作業が展開されている2つの主要な技術変化の分野におけるガバナンスの必要性を探り、より一般的なガバナンスの示唆を得る

戦略的インテリジェ
ンスと技術フォーサ
イト
上流でのガバナンス（デザインや研究開発の実務指針）

規制手段（サンドボックス等）＜担当・連携体制＞

科学技術・イ
ノベーション局（STI）/
デジタル経済政策（DEP）、
科学技術政策
（STP）

戦略的フォーサイト
ユニット（SFU）

公共・ガバナンス
局（GOV)/
規制政策（RPC)

ステークホルダーや
社会の関与
評価ツール
ビジネスにおける実
務指針

金融企業局（DAF）/
責任あるビジネス活動（RBC)【参考】過去のGoing Digital (GD)の成果・テーマ等
 GD1(2017-18)：移行とデジタライゼーション
 GD22019-20)：AI等の技術のもたらす課題と機会→AI原則等
 GD3(2021-22)：成長と幸福のためのデータガバナンス（データの経済的インパクト）※従来はデジタル経済政策委員会（DEP、CDEP事務局）が主導してきたが、STI政策や公共政策、企業政策等と横断的に連携

25

OECD技術ガバナンスの枠組み
共有価値を具体的ガバナンス活動に埋め込むための要件、ステップを体系的に整理
I.

Layer 1: Values 共有価値
(2 types: foundational and tech-specific)

II.

Layer 2: Design considerations
I.

Alignment

II.

Anticipation

III.

AgilityIV.

Engagement of stakeholders and society

V.

International cooperation

設計要件

III. Layer 3: Action pathways and toolsets
行動経路とツールセット(annex)
I.

Deepening strategic intelligence

II.

Embedding values upstream
in the innovation process

III.

Engaging society and stakeholders

IV.

Developing guidelines and regulation©2023 CRDS

出典：OECD/BNCT提供資料

26

OECD技術ガバナンスの枠組み：価値体系（検討中）「基本的価値」と「状況（技術等）固有の価値」の2つを想定
基本的価値

状況固有の価値：具体的制度設計際の基盤

 個人の自由 信頼・信頼性

 民主主義的諸価値

 技術スチュワードシップ（管理責任） 人権

 安全とセキュリティ

 環境の持続可能性 公共の利益ためのイノベーション

 公平性と包摂性

 潜在的利益への公正なアクセス（公正な分配）

Individual Liberty
Democratic Values
Human Rights
Environmental Sustainability
Equity & Inclusion

Trust & TrustworthinessTechnology Stewardship
Safety & Security

Innovation for Public Good

Fair Access to Potential Benefits

 透明性Transparency

 応答性（社会の期待への）Responsiveness©2023 CRDS

27

OECD技術ガバナンスの枠組み：設計要件と活動経路
設計要件 Design Consideration
政策的・社会的観点からの技術の評価
上流からの価値の組み込み・研究開発と諸価値の一致 ・柔軟性
・包摂性
・予見的取組み・参画・反復的（学習・試行錯誤）

技術開発
ステークホルダー、社会の参画
責任あるイノベーション
ガイドライン・規制の検討・設計©2023 CRDS

出典：OECD/BNCT提供資料

28

OECD技術ガバナンスの枠組み：各活動経の例
経路2：責任あるイノベーションのための早期の取組み（RRI活動の事例）©2023 CRDS

29

ニューロテクノロジ－における責任あるイノベーションに関する理事会勧告（2019年12月）
Recommendation of the Council on Responsible Innovation in Neurotechnology
加盟国に対してニューロテクノロジーの責任あるイノベーションのための原則を提示※先行する類似例としてＡＩに関する理事会勧告がある。同勧告のAI原則はその後の国際的なAI原則の基準として参照＜本勧告における9つの原則＞＜各国・組織の動向例＞

1. 責任あるイノベーションの推進•【英国】新興技術のイノベーションの規制上の課題についてワンストップで検討し、提言する組織Regulatory
Horizon Council を設置•【カナダ】国全体の包括的枠組みを構築。大学における人材育成プログラムなども稼働•【UNESCO】人権と基本的自由の観点からのニューロテ
クノロジーの倫理面での基準作り•【IEEE】ニューロテクノロジーの責任ある設計や開発に関する標準の検討

2. 安全性評価の優先
3. 包摂性の推進
4. 科学協力の促進
5. 社会的熟議を可能にする
6. 監視・諮問機関の能力を高める

この他、米国、フランス、韓国等が積極的に参加

7. 個人の脳内データおよびその他の情報を保護する
8. 官民を問わず、スチュワードシップと信頼の文化を促進する
9. 意図しない利用や誤用の可能性を予見し、監視する•••

2022年12月に本提言内容を具体的に進めるためのガイダンスブックをとりまとめ
同ガイダンスブックの内容に、各国の参照事例や、注意事項（落とし穴 pitfalls)、自己評価ツールを追加したオンラインツールキットを作成予定（2024年4月公表予定）
勧告から5年後の2024年内に本勧告の内容の進捗に関するモニタリングを実施予定©2023 CRDS

30

参考

新興技術ガバナンスに関する日本の取組みの例

我が国の戦略との連携やELSI/RRIとして実施されているものもある
 ＡＩ
 OECDとも連携しＡＩに関するグローバル・パートナーシップ（GPAI）を立ち上げ。広島プロセスなどのルール形成も主体的に推進 国内でもＡＩ戦略会議を立ち上げ、各省連携体制の構築
 合成生物学/エンジニアリング・バイオロジー
 「バイオものづくり」「バイオエコノミー」の文脈でコミュニティ、府省間連携体制
 ニューロテクノロジー
 学協会組織、民間企業のコンソーシアムが存在。府省連携体制は現時点では不明瞭••

ムーンショット研究開発事業目標1：Internet of Brain プロジェクト「ブレインテック・ガイドブック」、「ブレインテック・エビデンスブック」を作成公開
脳情報通信融合研究センター（CiNet）・大阪大学ELSIセンター「脳情報通信融合分野をめぐるELSI」

 量子技術 萌芽的段階、ただし今後急速に進む可能性。
••

大阪大学ELSIセンターやムーンショット目標6における取組み
海外では世界経済フォーラムなどが報告書を公表
World Economic Forum, Quantum Computing Governance Principles, 19 Jan. 2022
©2023 CRDS

31

研究開発・イノベーションのエコシステムとELSI/RRI、技術ガバナンス
 国際、政府、ファンディング機関、大学・研究機関、民間の各レベルで取組みが必要
 研究開発成果の社会実装という段階での「対応」から、より初期・上流段階からの一体的取組みへ
 既存人材のリスキリングを含む人材育成も求められる
国際機関

人的交流

STI政策のスコープの拡大•

規範・ルール形成の国際的議論

政府（優先課題設定、推進体制）

技術開発だけではなく社会変革に関わる政策・施策の
必要性

•
•

「デファクトスタンダードをとる」ことへの認識の共有
国際的議論の場で戦うための人材の厚み

予測・影響分析を踏まえた政策形成
技術開発と社会発展の調和

•

資金・制度

人的交流

科学的知見
・エビデンス

研究成果

研究開発プログラム（国プロ／国研委託／民間助成）

ファンディング機関（研究開発プログラム、手法開発、評価等）

産業界

プログラム・プロジェクトでの実践•••

ELSI検討のための共同研究•プログラムでの戦略的な検討体制の構築
プロジェクトの多様性の確保
評価軸の開発（と弊害への対処）

研究者

生産的な異分野連携に向けた意識改革・地道な
取り組み
委託研究

大学・研究機関（研究・人材育成）

共同研究・受託研究・
人的交流

研究拠点

拠点形成と教育プログラムの連携•

副専攻プログラム（学位プログラム、学部教育）の充実

研究支援人材・橋渡し型人材

出典：CRDS『ELSIからRRIへの展開から考える科学技術・イノベーションの変革』（2022）
https://www.jst.go.jp/crds/report/CRDS-FY2021-RR-07.html

32

まとめ
ELSI/RRIから技術ガバナンスまでを含む取組みの必要性
 技術ガバナンス

 技術の研究・イノベーションのサイクルの初期段階（上流）から、
 実際の社会における活用状況やそれがもたらす未来社会のあり方自体を描きつつ,
 研究開発だけでなく、規範（目指すべき価値）、規制やルール作り、ステークホルダーの参画や議論など様々な政策手段を連携・活用し、
 研究・イノベーション活動を望ましい形に方向付けていく これらは現状、国内において「ELSI（またはELSI/RRI）」として一部進められているが、技術ガバナンスは戦略レベルや民間活動まで含む取組み
 日本の文脈においては特に以下が重要

 国際的な規範・ルール作り、標準化とも密接に関係。産業の国際競争力にも直結
 政府においては、研究開発担当省庁だけでなく、規制やルール作り、社会実装に関わる分野担当省
庁との一体的連携が必要（ミッション志向政策も同様） 規範・価値の重要性（予め厳密な制度設計は困難。多層的取組みが必要）
 問題が顕在化する前に予見的に取組む必要性 学術界、産業界、市民の連携・参画©2023 CRDS

33

AI倫理とELSI

2023年12月4日
日立コンサルティング
パブリックデザインディビジョン
美馬正司© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

自己紹介
所属 日立コンサルティング デジタル社会基盤ドメイン パブリックデザインディビジョン
公共分野のコンサルタント（経産、総務、厚労省等で30以上の国プロのPM）
プライバシー → AI倫理 → ELSI
その他
慶應義塾大学 政策・メディア研究科 特任教授
東京大学 未来ビジョン研究センター データガバナンス研究ユニット 研究員
ISO/IEC SC27 WG5 委員
総務省 情報信託機能の認定スキームの在り方に関する検討会 委員
総務省 スマートシティセキュリティガイドライン検討会 委員
単著「自治体ITガバナンス」（ぎょうせい）
共著「ライフログ活用のすすめ」（日経BP）「プレシジョンメディシン」（エヌ・ティー・エス）「Societty5.0のアーキテクチャ」（日経BP）（予定）© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

1

AIを取り巻く状況© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

2

AIによる革新とは

従来のIT

人の作業

データ化

自動化

学習

自動化

暗黙知の壁

学習型AI

人の作業

© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

3

生成AIによる革新とは

学習型AI
人の作業

自動化

学習
用途の壁

生成AI
あらゆる
データ

学習

汎用性のある
生成機能© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

4

AIに潜むリスク

学習型AI
人の作業
学習データのバイアス
プライバシー侵害

自動化

学習
透明性の問題モデルの陳腐化

安全性、信頼性
用途の壁

生成AI
あらゆる
データ

学習

適正利用
ハルシネーション
権利侵害

汎用性のある
生成機能© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

5リスクに対応するための政策•••

AIによる人権侵害リスク等、様々な問題と適切な活用を図るため、各国においてAIガバナンスに関する議論が進められており、法律等の整備を進めている国も存在する。
2023年のG7で議論。11月に「高度なAIシステムを開発する組織向けの広島プロセス国際指針/国際行動規範」発出。
生成AIに対する注目が集まり、個別に規制する国もでてきている。
区分
欧州

米国

中国

主体

政策動向

欧州委員会

• 2021年4月、「AI法案」を公表。
2023年夏から法案の最終調整が行われ、2024年には公布され、2年後に施行される見込み。

大統領府• 2020年12月、「連邦政府における信頼できるAIの使用を促進するための大統領令」に署名。連邦政府にAIを設計、開発、取得、使用する際の原則遵守を要求。

連邦取引委員• 2021年4月、「企業のAI活用における真実・公正・公平をめざして」を発表。バイアスのあるAI/不公平な結果を出すAIには、
既存法令を根拠に介入。

商務省• 2023年4月、AIの監査や評価、認証制度について一般から意見募集を開始。

連邦議会• 2023年4月、AI規制等について法案が提出。

科学技術部• 2021年9月、「新世代の人工知能倫理規範」を公表。

ー• 2023年7月、生成AIの規制法を施行。
• 2019年3月、「人間中心のAI社会原則」を決定。

日本

内閣府

• 2023年5月、AI戦略会議を発足。AIの規制や国産AIの研究開発の促進、人材育成等について議論。経済産業省、総務省のガイドラインの統一を予定。

OECD• 2019年5月、人工知能に関するOECD原則が42か国で採択。

G7• 2023年11月、「高度なAIシステムを開発する組織向けの広島プロセス国際指針/国際行動規範」発出。
© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

6

（参考）人間中心のAI社会原則

出典：https://www5.cao.go.jp/keizai-shimon/kaigi/special/reform/wg7/20191101/shiryou1.pdf© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

7AI倫理／AIガバナンス© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

8日立におけるAI倫理の取組• ライフサイクルを通じたAIの安定した利活用を推進

ゴール設定

環境・リスク分析

評価

システムデザイン

運用© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

9日立におけるAI倫理の取組• 専門組織の設置、人の育成、外部連携も含めたナレッジ集約(CoE化)

ゴール設定

環境・リスク分析

評価

システムデザイン

運用© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

10日立におけるAI倫理の取組• リスクアセスメントの実践とAI倫理・バイ・デザイン

ゴール設定

企画

環境・リスク分析

PoC
設計

評価

開発

運用

研究
システムデザイン

運用

AI倫理原則チェックリストによるチェック

AI倫理専門チーム
アドバイザリー
ボードによる確認

必要に応じた
助言、介入© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

11

AIガバナンスコンサル• AI倫理を含むリスク対応の根幹はガバナンスのデザイン

組織役員を含めた全社的なガバナンス体制
AI倫理委員会、事務局等の機能や役割
関連組織との連携、役割分担
AIを利活用する組織における責任者の位置づけ

制度
リスクへの対応プロセス
継続的に見直しが図られる仕組み
制度が回るためのドキュメント整備人(教育)全社員の基礎的知識啓発
責任者等に求められるリスク対応知識啓発
事務局(CoE機能等)の維持のための仕組み© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

12生成AIのガバナンス
通常のAI
学習データに基づいた開発

生成AI
共通点

個別用途
個別実装

学習データに基づいた開発
ある程度汎用相違点

サービス＋カスタマイズ

利用者が限定的

全従業員が利用リスクの観点共通(権利侵害等)リスクの観点共通(権利侵害等)

ライフサイクル全体

リスクの所在サービス選択＋利用段階が主案件毎にリスク評価

様々な用途によるリスク評価

AI倫理等の原則遵守

AI倫理等の原則遵守

ライフサイクルを通じた対応
導入・開発者のガバナンス中心

ガバナンスの考え方

多様な用途を踏まえた対応
利用者のガバナンス中心© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

13

ガバナンスの構造（想定）

通常AI

生成AI

利用者向け教育
用途想定リスク・対策の整理導入者向け教育
リスクアセスメントの仕組み
AI倫理原則等© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

14

ELSIに関するコンサル© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

15

ELSIの歴史✓ ELSIとは、Ethical, Legal and Social Issues/Implicationsの略であり、技術の研究開発/社会実装に伴って生じる、
法的・倫理的・社会的な課題/影響を指す。
✓ 米国で1990年にスタートしたゲノム解析プロジェクの中で出てきた概念で、その後バイオ分野以外にも議論が拡大し、新技術を社会実装する際の技術的課題以外のあらゆる課題を指すようになった。
✓ 欧州ではELSAと呼ばれ、後にRRIという科学技術政策の枠組みに発展した。
1990s～⚫ ELSI⚫ ELSI◼ 定義1• 新技術が与える倫理的・法的・社会的な影響◼ 定義1• 新規科学技術を研究開発し、社会実装する際に生じうる、技術的課題以外のあらゆる課題(Ethical, Legal, and Social Implications)：倫理的・法的・社会的な影響

米国◼ 背景・特徴• 米国のヒトゲノム計画において、倫理的・法的・社会的な影響の研究に特化した予算を確保することを提案したことがきっかけで誕生• 新技術や研究が社会に与える影響に注目⚫ ELSA(Ethical, Legal, and Social Aspects)：倫理的・法的・社会的な側面

欧州

◼ 定義1
• 新技術が与える倫理的・法的・社会的な側面◼ 背景・特徴• 欧州ではImplicationsではなく、Aspects(側面)と呼ばれている• 新技術や研究が社会に与える影響に注目

1.
2.

2000s～

大阪大学 社会技術共創研究センター
European Commission Horizon 20202010s～

2020s～(Ethical, Legal, and Social Issues)：倫理的・法的・社会的な課題◼ 背景・特徴• バイオ分野以外へ議論が拡大⚫ RRI (Responsible Research and Innovation)：責任ある研究・イノベーション◼ 定義2• 包括的で持続可能な研究とイノベーションのデザインを促進することを目的として、研究とイノベーションの潜在的な影響と社会的な期待を予測し評価する取り組み• 社会のアクター(研究者、市民、政策立案者、企業、第三セクター等)が、研究とイ
ノベーションのプロセス全体において協力し、プロセスとその成果の両方を社会の価値、ニーズ、期待とよりよく調和させる取り組み◼ 背景・特徴• 2014年から開始された欧州委員会の科学技術政策の枠組みである
Horizon2020において、基幹プログラムの一つの中心的な概念として位置づけられている© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

16

企業におけるELSI対応の必要性✓ DXの推進や新技術の台頭により事業そのもののリスクが多様化していることに加え、それらに対応するための新たな法制度の制定や企業の社会的な価値が見直されている等の状況もあり、企業には法、倫理、社会それぞれの観点からの対応が求められている。
ELSI対応が求められる背景

DXの推進に伴う事業リスクの多様化

新たな法制度の制定

企業の社会的な価値の見直し• Web3、生成AIによる社会の変化• デジタルとリアルの混在による複雑化• ディープフェイクの拡散
…

•
•
•
•

GDPR (EU)AI Act (EU)
Data Act (EU)
Data Governance Act (EU)…

• デジタル化で情報の流通量と流通速度が上がり、企業と消費者の距離が縮まったことによる、企業市民としての存在意義の高まり• ステークホルダー資本主義の登場による企業の社会的な価値の見直し…

企業に求められるELSI対応の例

Law
法• 新たな法制度への対応• 新たな技術やサービスに既存の法制度が対応していない場合は、企業から国に働きかけ

Ethic
倫理

• 既存の法制度で対応しきれていないリスクに対して、企業が独自の規範を設けて対応

Society • ステークホルダーとの対話を通した事業検討• 製品・サービスや自社のELSIの取り組み等につい社会ての消費者へのわかりやすい説明© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

17

SDGs、ESGとの関係
SDGs
•
•

ESG

2015年9月の国連サミットで採択された持続可能な開発目標(Sustainable
Development Goals)
17のゴール・169のターゲット

•
目標達成
に貢献

•

2006年、国連のアナン事務総長提唱のPRI（責任投資原則）が発端
環境(E)、社会(S)、ガバナンス(G)の観点から企業を評価する動き

企業目標を
規定

企業の評価
指標

企業
イノベーションの
適切な推進

ELSI
目標達成に貢献••法(L)、倫理(E)、社会(S)と企業のイノベー
ションのギャップを埋める取組
ガバナンスの仕組みとしての実装指標向上に貢献© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

18

ELSIコンサルティング✓ 日立コンサルティングは、企業のELSI対応を支援するコンサルティングメニューとして、大きく「法制度対応」、「新技術のリスク対応」、「ガバナンスの仕組み」、「ソーシャルエンゲージメントデザイン」の4種を提供。
Law
法

Ethic
倫理

Society
社会

法制度対応• GDPR対応 等

新技術のリスク対応• 新技術を活用したサービスのリスクアセスメント

ガバナンスの仕組み• 制度の構築• 組織・体制の構築• 組織メンバの啓発・研修

ソーシャルエンゲージメントデザイン• ステークホルダー分析• リビングラボ• ソーシャルサウンディング© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

19ソーシャルエンゲージメントデザイン目的✓ 社会(S)に対して、ステークホルダーの特定・分析、分かり易い情報発信、参加型の手法等を用いて、社会との関係性の強化、新しい技術やサービスに対する社会受容性の分析・向上を目指す。

サービス内容✓ 以下のようなサービスを提供予定。次ページ以降に一部の手法を紹介。
現状把握

分析に基づいた施策の実施
メディア広報個別のステークホルダーへのアナウンス情報収集

ソーシャルサウンディング
アンケート調査

>
分析・
施策の修正

双方向
への対応

ステークホルダーとの個別交渉
ステークホルダーとの連絡会議

協働/インボルブメント

リビングラボステークホルダーとのパートナーシップ提携

社会との関係性強化、新技術・サービスに対する社会受容性の向上を
実現する。

・・・
・・・

>

・・・

その他の施策

インプット

・・・

情報
発信
ステークホルダー分析
プロジェクトに関係するステーク
ホルダーを特定し、そのステークホルダーに関する情報を収集・分析し、プロジェクトを円滑に推進するための働きかけ、関係性の構築等に役立てる。

ゴール

・・・

© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

20

ステークホルター分析✓ ステークホルダー分析では、以下の進め方でステークホルダーの抽出・分析、対応方法を検討する。

(1)ステークホルダーの洗い出し(2)ステークホルダーの整理、選定(3)重要ステークホルダーの特性分析(4)重要ステークホルダーのエンゲージメント検討• プロジェクトのビジネスモデ
ルの検討、ブレインストーミ
ングなどの手法の活用、関連分野の専門家へインタビューを実施することで、プロジェクトに関わるステーク
ホルダーを抽出する。

• 洗い出したステークホルダーの属性を一般化し、プロジェクトとの関係性の整理を行ったうえで、重要なス
テークホルダーをプロジェクトの影響度、不確定要素(プロジェクトに対するネガ
ティブな反応など)の可能性という観点で選定する。

• ステークホルダーの属性、プロジェクトや推進組織との関係性などを改めて整理する。
• また、不確定要素の分析として、どのような反応(プロジェクトへの反対など)があるか、その要因や対策案などを検討する。

• (3)で分析した結果を踏まえてエンゲージメント(プロジェクトへの関わり方など)手法を検討する。
• 重要ステークホルダーの種類によってエンゲージメント
手法は異なるが、複数の重要ステークホルダーが存在し、リスクも複数考えられる場合は、プロジェクトにス
テークホルダーを巻き込むリ
ビングラボのような手法も想定される。

© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

21

ステークホルター分析

エンゲージメント手法
情報発信

ステークホルダー個別アナウンス、メディア広報 等

情報収集

アンケート調査、ソーシャルメディ
ア分析、有識者会議 等

双方向

個別交渉、連絡会議 等

インボルブ
メント/協
働

プロジェクト参加、リビングラボ、ス
テークホルダーとのパートナーシッ
プ、マルチステークホルダープロセ
ス 等© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

22

リビングラボ✓ リビングラボでは、「(1)ラボチーム」「(2)市民等とのワークショップ(WS)」「(3)実フィールド」の3つのフィールドを駆使しながら推進する。
(2)市民等とのワークショップ(WS)(1)ラボチーム②問題仮説の検証・深堀①LLの設計④市民等のステークホルダ(SH)によるフィードバック③問題を解決するサービスの発想• 市民等の生活シナリオの具体化• 生活シナリオにおける問題の洗い出し、
深掘り(3)実フィールド

• LLの実施目的、取扱テーマ、対象者*、
ステージゲート(SG)基準の整理• (パートナーの整理、リクルーティング)• 問題仮説、検証用生活シナリオの検討• WSの設計、準備• サービスアイデアの評価、フィードバック
SG1⑥市民等のステークホルダ(SH)によるフィードバック• 解決すべき問題の特定• 問題を解決するサービスの発想、絞り込み• 法・倫理的問題の検討• WSの設計、準備⑤サービスのプロトタイピング• サービスのプロトタイプの作成• WSの設計、準備• プロトタイプの試用、評価、フィードバック
SG2⑦サービス開発、実フィールド検証の計画• サービスの開発• 実フィールド検証計画の作成、準備*⑧実フィールド検証• 実フィールドでのサービス検証© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

23

リビングラボ© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

24ソーシャルサウンディング✓ 社会受容性を把握するための手法としては、「ステークホルダーの立場に立った検討」が一番容易ではあるものの、社会受容性の把握度合は低い。一方、リビングラボ等を入念に進めることで社会受容性の把握度は高まるが、すべての事業においてこれを実践することが難しい場合もある。
✓ 「SNSや統計調査等に基づく分析」を「ステークホルダーの立場に立った検討」に返すことで、社会受容性の把握の精度を上げることができる。

手間・時間
リビングラボWebアンケート
グループインタビュー
SNSや統計調査等に基づく分析
ステークホルダーの立場に立った検討

ソーシャルサウンディング
社会受容性
の把握度
© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

25

ソーシャルサウンディング✓ AI倫理等に対応する職員の感度を育成するためにEthical Thinking Workshopという研修メニューを開発、提供。
✓ これは事業毎に設計可能であり、研修目的ではなく、特定の案件を題材にステークホルダーの立場に立った検討にも活用が可能。

WSの題材の検討

WS実施
題材となる
ユースケースの説明

全体説明

ステークホルダーの洗い出し

ステークホルダーの立場になって不安を想像

発表、
ディスカッション…

チームごとのディスカッション
内容の共有…

仮想のユースケースまたは
構想中のAI利活用事業…
※ 人数が多い場合は、最大5～6人程度のチームに分かれてWSを実施します© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

26

ソーシャルサウンディング
発生イベント

ツイート数
ポジティブ

中立/不明

ネガティブ

7/XX 〇〇社が、セキュリティ向上施策を公表。

1

0

1

7/XX 〇〇社が、セキュリティ向上施策を運用開始。

0

0

0

8/XX ▲▲新聞が記事「生体認証 監視社会へリスク」を掲載→〇〇社のセキュリティ向上策について記載

0

0

0

8/XX インフルエンサーＡ氏が上記記事について「サラッととんでもない新事実が書かれてる。
1面スクープ並みの新事案発生じゃないの？」とツイート。

0

1

3

1

1

0

178

526

167

9/XX 雑誌□□ビジネスにおいて○○社の生体認証活用について批判。
9/XX ●●新聞の記事「【独自】の防犯対策、生体認証活用という記事を皮切りに、各社が一斉に報道。

© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

27

END
AI倫理とELSI

2023年12月4日
日立コンサルティング
パブリックデザインディビジョン
美馬正司© Hitachi Consulting Co., Ltd. 2023. All rights reserved.

28

日本工学会技術倫理協議会第19回公開
シンポジウム

技術発展に対する法制度的課
題の実際ーAI規制を例に2023年12月4日

桃尾・松尾・難波法律事務所パートナー弁護士、
慶應義塾大学特任准教授、AI・契約レビューテクノロジー協会代表理事
松尾剛行

自己紹介
桃尾・松尾・難波法律事務所パートナー弁護士(60期・一弁）。NY州弁護士、法学博士、
慶應義塾大学特任准教授、AI・契約レビューテクノロジー協会代表理事、リーガルテック
企業プロダクト・アドバイザー
 『ChatGPTの法律』（中央経済、2023年）
 『ChatGPTと法律実務』（弘文堂、2023年）
 『キャリアデザインのための企業法務入門』（有斐閣、2022年）
 『中国デジタル戦略と法』（弘文堂、2023年）
 「リーガルテックと弁護士法に関する考察」（https://www.jstage.jst.go.jp/article/inlaw/18/0/18_180001/_article/-char/ja/） 「 ChatGPTで変わる組織内弁護士・法務部門」（https://jila.jp/2023/05/3134/）登壇
 Note「ChatGPT等のAI技術の発展と弁護士実務への影響」（https://note.com/matsuo1984/n/n006e3e569eb0）
 ChatGPTに関するプロフィール(https://matsuo1984.hatenablog.com/entry/2023/04/06/083610)
2

『ChatGPTの法律』

2023年6月発売の共著。
大変ご好評を頂いている。

3

『ChatGPTと法律実務』
２０２３年８月発売の単著。
第１章 ＣｈａｔＧＰＴが法律実務にもたらす期待と不安
第２章 ＣｈａｔＧＰＴの技術的制約を理解する
第３章 ＣｈａｔＧＰＴにまつわる法律問題
第４章 ＣｈａｔＧＰＴを最大限に活用するために
第５章 ＣｈａｔＧＰＴ時代のリーガルテック(1)――総論
第６章 ＣｈａｔＧＰＴ時代のリーガルテック(2)――各論
第７章 ＣｈａｔＧＰＴ時代に「生き残る」弁護士・法務担
当者とは
第８章 ＣｈａｔＧＰＴ時代の「価値ある」弁護士・法務担
当者にむけて
第９章 ２０４０年の弁護士業務
第10章 ２０４０年の企業法務

4

目次
１ 技術発展の法制度にもたらす挑戦
２ AI規制に関する２つの考え方
３ グローバルなAI規制の方向性と生成AIへの影響

5

１ 技術発展の法制度にもたらす挑戦

6

岸田首相のDeepFakeが作成される等、生成AIをはじめとする技術発展により様々な法的問題が生じている。
法律には必然的に「後追い」という性格がある。すなわち、法律は（多くは各省庁が起草した上で）国会で審議し、可決されて成立する。技術発展により新たな事象が生じても、それに応じて即座に法律が作成されるものではなく、どうしてもタイムラグが発生する。
とは言え、実際に被害が出ている状況において必ずしも手をこまねく訳ではない。
すなわち、大きく分けて2つの方法で法は新技術に対応する。

7

１つ目は、迅速に立法を行うというものである。様々な法令が迅速に立法されてきた。例えば、安倍元首相の事件をきっかけに半年後に寄付規制法が立法された。
これは技術そのものに対する対応ではないものの、迅速対応が重要と判断されれば、ある程度迅速な立法は可能である。
２つ目は、抽象的な規定を生かすというものである。例えば、DeepFakeへの対応
として、昔ながらの「名誉毀損」があり得る。名誉毀損の規定が作られた時は、新聞や雑誌等が名誉を毀損する状況を想定していたのであって、AIは存在しなかった。しかし、他人のふりをしてその他人が悪いことをしたようなDeepFakeを作れば、そのDeepFakeによって他人の名誉が害される。そこで、名誉毀損で処罰することが可能である。
このような法制度による新技術への対応が完璧か、というと決してそうではない。

8

１つ目の方法で批判があるのはドローン規制である。2015 年 4 月に官邸ドローン墜落事件が起き、わずか半年ほどで航空法の改正が行われた。この改正について、モラルパニックが起こったので過剰規制が起こったとの指摘もある（German-Japanese Conference on Technology Governance(Saarland University,
Sep. 1st, 2018)における大屋雄裕発言。なお、寺田麻佑「 ドローンの利活用に関す
る法的規制の現状と課題 ̶米国、ドイツにおける規制との比較を中心に̶」情報ネットワークローレビュー18巻91頁も参照。）。確かに、重大な事故が起こることで、立法が迅速化される側面はある。しかし、単に速ければ速いほど良いというものではなく、規制内容の妥当性が問われる。そこで、拙速な立法の結果として問題のある立法になる可能性がある、というのが迅速立法という１つ目の方法のリスクと言える。

9２つ目の方法で批判があるのは、Winny事件である。昔から幇助罪というのがある。幇助というのは助けるということで、殺人をしたい人がいる際、拳銃を用意して渡せば、その人は殺してはいないけど、殺人を助けたとして幇助罪で罰せられる。
幇助罪ができる際、いわゆるP2Pの技術で情報を共有できるシステムができるとは誰も想像していなかった。Winnyはもちろん適法な目的でも利用できる有用な技
術ではあったが、著作権侵害にも利用されていた。このような状況で、幇助という規定を使って、Winnyを開発した技術者を処罰しようとし、京都地裁は幇助犯の有罪判決を下してしまった。その後最高裁で無罪となったが、このような曖昧な規定
によって技術者に処罰のリスクを与え、技術革新を阻害するというのが抽象的な規定を利用す流という２つ目の方法のリスクである。

10

２ AI規制に関する２つ
の考え方

11

EUはAI法(AI規則)を制定しようとしており、AIに対する法規制をかけるというアプ
ローチである。（EUが中心として制定を進めるAI条約も交渉が進んでおり、法的拘束力のある条約を目指している。）
これに対し、日本は法的拘束力のないガイドライン等を中心としたAI規制を模索している。10月30日G7首脳は、広島AIプロセスに関し、G7首脳声明を発出し（https://www.mofa.go.jp/mofaj/files/100573465.pdf）、国際指針（https://www.mofa.go.jp/mofaj/files/100573469.pdf）および行動規範（https://www.mofa.go.jp/mofaj/files/100573472.pdf）を公表した。日本政府はAI
事業者ガイドラインの策定を目指している（https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/2023_001.h
tml）。
2023年12月1日、広島 AI プロセス G7 デジタル・技術閣僚声明 の付属書として「全ての AI 関係者向けの広島プロセス国際指針」が公表された（ https://www.soumu.go.jp/main_content/000915262.pdf ）。

12

① AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、高度な AI シ ステムの開発全体を通じて、その導入前及び市場投入前も含め、適切な措置を講 じる ② 市場投入を含む導入後、脆弱性、及び必要に応じて悪用されたインシデントやパタ ーンを特定し、緩和する ③ 高度な AI システムの能力、限界、適切・不適切な使用領域を公表し、十分な透明 性の確保を支援することで、アカウンタ
ビリティの向上に貢献する ④ 産業界、政府、市民社会、学界を含む、高度な AI システムを開発する
組織間での 責任ある情報共有とインシデントの報告に向けて取り組む ⑤ 特に高度な AI システム開発者に向けた、個人情報保護方針及び緩和策を含む、 リスクベースのアプローチに基づく AI ガバナ
ンス及びリスク管理方針を策定し、実 施し、開示する ⑥ AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内 部脅威に対する安全対策を含む、強固なセキュリティ管理に投資し、実施する ⑦ 技術的に可能な場合は、電子透かしやその他の技術等、ユーザーが AI が生成したコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴 のメカニズムを開発し、導入する⑧ 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な 軽減策への投資を優先する ⑨ 世界の最大の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されな い）に対処するため、高度な AI システムの開発を優先する ⑩ 国際的な技術規格の開発を推進し、適切な場合にはその採用を推進する ⑪ 適切なデータインプット対策を実施し、個人データ及び知的財産を保護する、⑫ 高度な AI システムの信頼でき責任ある利用を促進し、貢献する。
「全ての AI 関係者向けの広島プロセス国際指針」 より

13

いずれの考え方が正しいとも間違っているとも言えないが、以下のことが言えるだ
ろう。
まず、重大なリスクをもたらすAIが現に存在することは否定できない。例えば、子供の脆弱性を利用する手法や対象者が意識できないサブリミナルな技法の利用
等はAI規則案では禁止類型とされているが、そのような技法が真に禁止すべきものかはともかく、重大なリスクをもたらすという限りでは否定できないだろう。そこでそのような重大なリスクにどのように対応するべきかが問題となる。その場合に、法的拘束力のないガイドラインを利用する手法では、十分にそのリスクに対応できないのではないか、という問題に直面することになる。
次に、法規制、特に厳しすぎる法的規制が技術発展を阻害するリスクにも留意すべきである。例えば規制が厳し過ぎるため一部の豊富な資金力のあるAIベンダのみがその規制を遵守することができるのであれば、その規制は過剰な規制であり、それ以外のアクターによる技術発展が阻害され、独占・寡占が進むるということになりかねない。

14このような観点から、1つの方向性は、これまでの抽象的な法令を定めた上で、明確に具体化したガイドラインを示す、というものである。例えば、弁護士法は法律の専門知識に基づく「鑑定」等の業務は弁護士しか行うことができないと定めている。リーガルテックと呼ばれる法律分野に適用されるテクノロジーは、一見弁護士のような回答を示す。ChatGPTに法律相談をすると「弁護士ではない」と断ることもあるが、まあまあの水準の回答をする。このような中、報告者が代表理事を務め
るAI・契約レビューテクノロジー協会は、2022年11月に規制改革推進会議において報告し、ガイドラインの必要性を強調した。そして2023年8月に法務省はリーガ
ルテックを適法とするガイドラインを公表した（https://www.moj.go.jp/content/001400675.pdf）。

15

３ グローバルなAI規制の方向性と生成AIへの影響

16

（１）EUAI法の方向性と生成AIへの影響
ア EUAI法の立法過程の整理
まず、EUAI法案（元々「AI規則案」と呼ばれていたが、最近では「AI法案」と呼ばれることが多い）を理解する上では、EUの独特の立法手続きを理解する必要がある。
即ち、欧州委員会（European Commission）、EU理事会（Council of theEuropean Union）及び欧州議会（European Parliament）の3種類の機関が立法手続きに関与する。
まず、欧州委員会がEU理事会と欧州議会に法案を提出する。2021年のいわゆるEUAI規則案がこれに該当する（https://eur-lex.europa.eu/legalcontent/EN/TXT/?uri=CELEX:52021PC0206。和訳：
https://www.soumu.go.jp/main_content/000826706.pdf）。

17

（１）EUAI法の方向性と生成AIへの影響

ア EUAI法の立法過程の整理
これに対し、EU理事会と欧州議会がその立場を明らかにする。EU理事会
は、2022年12月にGeneral
Approach(https://data.consilium.europa.eu/doc/document/ST-149542022-INIT/en/pdf)を採択した。つまり、欧州委員会の案文を修正するという立場を明らかにした。同様に、欧州議会も2023年6月に修正案（https://www.europarl.europa.eu/doceo/document/TA-9-20230236_EN.html）を採択した。

18

（１）EUAI法の方向性と生成AIへの影響

ア EUAI法の立法過程の整理
そこで、このような各機関の立場が明確になったことを踏まえ、今後は協議が行われるところ、報道によれば11月10日に行われた非公式協議において基盤モデルに関する立場について規制強化と規制緩和の双方の対立が激しく協議が決裂したとされる（https://www.asahi.com/articles/ASRCQ6J0NRCPUHBI04L.html)。ドイツ、フランスおよびイタリアは行動規範を通じた自主規制によって基盤モデルを規制するというモデルに合意したとも報じられている（https://www.reuters.com/technology/germany-france-italy-reachagreement-future-ai-regulation-2023-11-18/）。

19

（１）EUAI法の方向性と生成AIへの影響
イ AI法案の概要
AI法案がリスクベースアプロー
チを採用していることは有名である。
https://digitalstrategy.ec.europa.eu/en/polici
es/regulatory-framework-ai
即ち、リスクが非常に高く許容できないリスクをもたらすもの
は禁止、ハイリスクはそれに応じたシステムの要件や提供者の義務等が課される、限定リスクであれば透明性の義務が課される、最小リスクのAIは規制
されないものの行動規範の遵守が推奨される。
20

（１）EUAI法の方向性と生成AIへの影響

ウ EU法の日本への適用
域外適用に関する規定があり、元々欧州委員会案2条1項がEU向けのAIシステムを規制していたところ、欧州議会修正案はその内容を補充している。
そこで、例えば、日本企業がEUを含む全世界にAIサービスを提供した場
合にはAI法が適用される可能性がある。

21

（１）EUAI法の方向性と生成AIへの影響

エ 学術研究目的の場合
欧州委員会案は学術研究目的の例外が定められていなかった。そこで、学術研究目的であっても商業目的と同様の厳しい規制が適用されることになっていた。
欧州議会修正案2条5d項（This Regulation shall not apply to research, testing and development
activities regarding an AI system prior to this system being placed on the market or put into service
provided that these activities are conducted respecting fundamental rights and the applicable
Union law. The testing in real world conditions shall not be covered by this exemption. The
Commission is empowered to may adopt delegated acts in accordance with Article 73 that clarify
the application of this paragraph to specify this exemption to prevent its existing and potential
abuse. The AI Office shall provide guidance on the governance of research and development
pursuant to Article 56, also aiming to coordinate its application by the national supervisory
authorities）およびEU理事会修正案4.1（ Similarly, it has been clarified that the AI Act should not
apply to AI systems and their outputs used for the sole purpose of research and development andto obligations of people using AI for non-professional purposes, which would fall outside the scopeof the AI Act, except for the transparency obligations.)が学術研究について一定の除外を認めている。
22

（１）EUAI法の方向性と生成AIへの影響
オ 基盤モデルと生成AI
欧州議会修正案3条1項1cは「‘foundation model’ means an AI system modelthat is trained on broad data at scale, is designed for generality of output, andcan be adapted to a wide range of distinctive tasks」として基盤モデルを定義する。
欧州議会修正案28b条4項柱書きは「AI systems specifically intended togenerate, with varying levels of autonomy, content such as complex text, images,
audio, or video (“generative AI”)」として生成AIを定義する。
欧州議会修正案28b条2項により、基盤モデル提供者は、設計段階からのリスク
コントロール、技術文書の準備、データベース登録等の義務を負う。
また、欧州議会修正案28b条4項により生成AIに関する基盤モデル提供者ついては、透明性義務の遵守（欧州委員会案52条）、基本的権利を損なわず、EU法に違反するコンテンツの生成に対する十分な保護措置を保証するような仕方で基盤モデルを開発等する、著作権法で保護されている学習データの使用に関する概要の文書化・公開をする等の義務を負う。
23

（１）EUAI法の方向性と生成AIへの影響

カ 実務上の影響
AI法案は、EU法であるものの、EUに提供される等、一定のEUとの関連性があれば日本に適用され得る。
そして、欧州委員会案は学術研究の例外を設けていなかった。よって、特に生成AIに関する基盤モデルであれば、様々な義務を課されることになる。
しかし、学術研究の例外が設けられることで、特に学者にとっては規制を免れることができる可能性が高まった。とはいえ、例えばEU理事会修正案4.1は透明性の義務はなお負うとする等、不確実性がある。
要するに、AI法案については様々な不確実な状況があり、今後の進展に注視が必要である。

24

（２）その他の動向

欧州委員会は、2022年9月28日に、AI責任指令案（AI Liability Directive）を公表した（https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0496）。
中国は、2023年8月15日に生成AIサービス管理暫定弁法を施行した(https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm)。
アメリカは2022年10月にはAI権利章典の青写真(Blueprint for an AI Bill of Rights
https://www.whitehouse.gov/ostp/ai-bill-of-rights/）の後、2023年7月21日にAI企業にVoluntary
Commitments（https://www.whitehouse.gov/briefing-room/statementsreleases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitmentsfrom-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/）をさせた。その後2023年10月30日の大統領令（https://www.whitehouse.gov/briefing-room/presidentialactions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-anduse-of-artificial-intelligence/）が、国防生産法（Defense Production Act）に基づき、「デュアルユース基盤モデル」（dual use foundation models）の開発者に対し連邦政府への報告義務を課すことを求めたり、デジタルコンテンツ認証（digital content authentication）及び生成コンテンツのラベリング（watermarking）等に関するガイダンス策定を求める等、AI規制に踏み込んでいる。
25

ご清聴ありがとうございました！
桃尾・松尾・難波法律事務所
パートナー弁護士 松尾剛行

このスライドは早稲田大学博士課程杜雪雯様・同修士課程宋一涵様に協力をいただいた。
ここに感謝の意を表する。

26

新時代に生きる技術者の教養としての、教育データ利活用EdTechに関する倫理・法・社会的課題（ELSI）を考える。
滋賀大学教育学系
加納圭

加納 圭（かのう けい）•

和歌山県立向陽高等学校・環境科学科•

京都大学理学部理学科•

京都大学大学院生命科学研究科修士課程•

京都大学大学院生命科学研究科博士課程•

駿台予備学校化学科講師•

立命館高等学校生物科非常勤講師•

京都大学WPI-iCeMS科学コミュニケーションＧ特任准教授-------------------ここから現職-----------------------------•

滋賀大学教育学系 教授•

兵庫教育大学大学院連合学校教育学研究科 教授•

大阪大学ELSIセンター招へい教授•

Australian National University, Visiting Scholar•

広島大学大学院理学研究科 客員教授•

文部科学省科学技術・学術政策研究所 客員研究官•

一般社団法人日本科学教育学会 理事•

一般社団法人社会対話技術研究所 代表理事•

公益財団法人日産財団 理事•

公益財団法人中辻創智社 評議員•

一般財団法人西澤育英基金 理事•

公益財団法人国際高等研究所 客員研究員

2022年10月〜2023年3月（FS）及び2023年10月から
JST・RISTEX「科学技術のELSIへの包括的実践プログラム」下で「教育データ利活用EdTechのELSIとRRI実践」プロジェクト開始

グループ

氏名

所属

専門

ELSI伴走グループ○加納圭

滋賀大学教育学系

EdTech開発・パブリックエンゲージメント

塩瀬隆之

京都大学総合博物館

EdTech開発・インクルーシブデザイン

水町衣里

大阪大学ELSIセンター

科学コミュニケーション

村上正行

大阪大学全学教育推進機構

教育工学

若林 魁人

大阪大学ELSIセンター

EdTech開発・ELSI研究○岸本充生

大阪大学ELSIセンター

ELSI・リスクガバナンス

神崎宣次

南山大学国際教養学部

倫理学

後藤崇志

大阪大学人間科学研究科

社会心理学・教育心理学

堀口悟郎

岡山大学学術研究院社会文化科学
学域(法学系)

憲法学

○藤村祐子

滋賀大学教育学系

教育行政学

佐藤仁

福岡大学人文学部

教育国際比較

高橋哲

埼玉大学教育学部

教育法学(ELSI対応方策の提言やインク
ルーシブなアウト
リーチ／パブリックエンゲージメント活動の実施)ELSI調査研究
グループ(ELSI論点の整
理・分析や根源的問いを探究)

ELSI国際
比較
グループ(ケース集作成や日本社会適応要
素を整理・分析。)

1／19

EdTech開発・実施者として気付いたELSIの重要性
全国学力・学習状況調査の悉皆データ（約１００万件）を利活用したコンピュータ適応型テストを開発（加納・後藤・塩瀬）

ステアリングやナビゲーションシステムに相当する「EdTechのELSI対応方策」
が必要ではないか

実施にあたり・保護者同意・児童賛意
・学校誓約
・教育的活用法など諸々整備2／19

学習データ利活用EdTech先進国（米国）のELSIケース調査
1. 学力テストと結びつけられた教員評価で“less effective than average”とされた先生が自殺するという事件("Teacher’s death
exposes tensions in Los Angeles," the New York Times, 2010.11.9)

2. 学力テストと結びつけられた教員評価で”ineffective”とされたベテラン教員が、教員評価の妥当性をめぐり起こした裁判（原告教員勝訴）（"'Arbitrary and Capricious:' Sheri Lederman Wins Lawsuit in NY’s State Supreme Court," The Wshingtom Post, 2016.5.10）
3. 教えていない科目や担当していない生徒の学力テスト結果に基づく教員評価制度の妥当性をめぐる裁判（請求棄却や審理中）（"Teacher Evaluation Heads to the Courts," Education Week）

4. 学力テスト結果が同意なしにアメリカ軍のリクルーターに提供されていた事例（"High School Students’ Test Results Are Being Sent to
Military Recruiters Without Consent," Truth Out, 2016.8.10）

5. 警察署は、機密性の高い学校のデータを使用して、犯罪行為に関与するリスクがあると見なす生徒の秘密のリストを保持していることが問題となった事例("Using Student Data to Identify Future Criminals: A Privacy Debacle," Education Week, Dec 9, 2020)
6. 電子ポートフォリオを利用した教員志望学生のパフォーマンス評価（edTPA）に対して，評価方法の信頼性や受験者の金銭的負担等の観点から，論争を呼んでいる。("Researchers: Stop Using EdTPA Scores in Teacher-Certifi cationDecisions," Education Week, Dec 10, 2019)
7. 子どもの感情やマインドセットを，測定，監視，修正するために，オンライン調査やビッグデータ，ウェアラブル端末などのテクノロジーが利用されているという記事（"Ed-Tech Companies Tracking Students’Emotions, Mindsets," Education Week, 2018.6.20. ）8. 州統一学力テストのハイステークスな活用に反対する保護者・生徒によるオプトアウト運動（ボイコット運動）が全米で広がっている。
（"Bush, Obama focus on standardized testing leads to ‘opt-out’ parent movement," The Washington Post, 2013. 4.14）

9. 生徒の個人情報に関わるデータの情報提供から，オプトアウトする権利が規定されながらも，保護者や生徒に十分に通知されていないことが指摘されている。（"Without Consent: An analysis of student directory information practices in U.S. schools, and impacts on privacy,"
World Privacy Forum）

3／19

教育データEdTechのELSIを考えるための国内外ケース集

4／19

米国でのELSI対応例

5／19

「EdTechのELSI論点101」（日・英）（Web公開）「小中学校を念頭」「論点書き込みできる」「論点例付き」https://bit.ly/3p2fi9E

6／19

教育データ利活用EdTechの範囲整理「技術がすでにあるか／萌芽的か」、「活用が始まっているか／萌芽的か」の2軸で整理

7／19

教育データ利活用EdTechのELSI論点を捉えるフレームの提案

E+L+S
L+S
S
8／19

法規範：原理9／19

法規範：準則

10／19

文化的背景

11／19

各論点のカテゴリ
パンドラ
の箱をあ
けた︖

12／19

13／19

14／1915／19

ELSI論点ピックアップ：原理

16／19

ELSI論点ピックアップ：準則

17／19

ELSI論点ピックアップ：文化的背景

18／19

政策的に必要だと思われること
ステアリングやナビゲーションシステムに相当する「EdTechのELSI対応方策」
が必要ではないかl 日本版Pledgel ガイドラインl Q&A集l テクノロジーアセスメント／倫理審査の仕組み（大学だけでなく自治体・企業においても）19／19

日本工学会 技術倫理協議会第 19 回公開シンポジウム

倫理事例集の作成および活用について
委員 森下 壮一郎（電子情報通信学会）
概 要

本稿では，理工学分野の学協会を中心として取りまとめられた技術者倫理に関する知見の集積および普及のための技術倫理協議会における取り組みのあらましを述べる．さらに電子情報通信学会における事例集作成の経緯とその活用に向けた展望を述べる．

技術倫理協議会の取り組み
技術倫理協議会では，理工学系の各学協会で主に教育コンテンツとして用意されている技術者倫理に関する資料を集約している1．さらにそれらを互いに学び合うための勉強会を月例の委員会で不定期に開催している．2023 年度は 6 月 19 日に土木学会，11 月 20 日に電気学会の倫理教育の取り組みについて，それぞれ開催した．これらの教育コンテンツには，倫理綱領などを元にした原理原則を示した資料とその解説に加えて，実際に生じた，もしくは生じうる倫理的問題の事例集が含まれている．これは ELSI の
具体的な実践についての理解を深め，教育コンテンツを教育や実務の現場で活用しやすくするためのものである．事例集の作成にはいくつかの課題がある．

電子情報通信学会における事例集作成の一例
本節では電子情報通信学会における事例集作成の経緯を下に，その課題について考察する．電子情報通信学会では，2023 年 9 月に倫理綱領を改正した．そして，ほとんど時を同じくして関連規定を改訂した
情報処理学会と連携して事例集の作成に着手した．現在，動画コンテンツとして 2 件が公開されており，漸次追加される2．
電子情報通信学会では，プラットフォーム事業者によるコンテンツモデレーションに関して，主に機械学習技術者が配慮すべき倫理的課題について 1 事例として示した．コンテンツモデレーションとは，ソーシャルネットワークサービス等の事業者がサービスの適正化を図って，利用者の投稿等を監視して必要に応じて投稿削除やアカウント凍結などの対応をすることを指す．その実施にあたっては利用者の権利に配慮しながらも，法やガイドラインに沿った対応が求められ，ELSI の具体的な実践について考えるための題材としてふさわしかった．なお事例集で取り上げるべき事例は，教育コンテンツである点を考慮に入れて，かつ初学者の混乱を軽減するために，ある程度は社会的評価が定まっている事象である必要がある．しかしながら実例に即する以上，一概には説明できない場合がある．上記の例では，憲法が保護する表現の自由についての責任を私企業が負うのか否か，どのように説明するべきかについての議論があった．最終的にはプロバイダ責任制限法などの法による制限で間接的に適用されるとする間接適用説を採用する旨を 1 行で示したのみであったが．この 1 行に多くの時間を費やしている．
議論の余地は少ない方が教育コンテンツとして活用しやすい一方で，そのような事例では十分な教育的効果が見込めないというジレンマがある．事例集は，それを解決しながら作成する必要がある．

1

技術者倫理に関係する教育コンテンツ https://www.jfes.or.jp/_cee/link/education.pdf

2

倫理事例集 https://www.ieice.org/jpn_r/about/rinrikoryo/code6.html