日本工学会 技術倫理協議会
令和５年度 第 19 回公開シンポジウム＜新時代に生きる技術者としての科学技術に関する倫理・法・社会的課題(ＥＬＳI)を考える＞
開催報告
主催：公益社団法人日本工学会 技術倫理協議会【協議会会員】
公正研究推進協会、電気学会、電子情報通信学会、土木学会、日本化学会、日本機械学会、日本技術士会、日本原子力学会、日本建築学会、日本工学教育協会、日本非破壊検査協会、日本マリンエンジニアリング学会
開催日時：2023年 12月 4日（月）13:00～17：15
開催形式：オンライン（Zoomウェビナー）ただし、講演者及び司会・運営スタッフ等は、機械振興会館に集合し対面形式で実施。
開催趣旨：20世紀後半に、米国で「ヒトゲノム計画」が開始された時に、科学技術文明への懐疑を背景に、新しい科学技術がもたらす利益だけでなく、それによるリスクも同時に検討するプログラムが考えられた。その考え方は、倫理・法・社会的課題（Ethical, Legal and Social Issues : ELSI)と呼ばれて世界中に広まり、様々な新技術を研究開発し、社会に導入する場合には、ELSIを検討する事が必須とされるようになっている。しかしながら、AI(人工知能)を例に考えれば分かるように、技術の社会的な影響を、それが成立する前に予測することは簡単なことではなく、しかも、一旦、普及したサービス・システム等をコントロールすることは非常に困難である。また、ELSIは、その性質上、技術開発プロセスに、条件によってはブレーキをかける可能性を持つ。そのため、ELSIを実践するためには、技術開発を推進するコミュニティだけでなく、倫理・哲学などの人文社会系のコミュニティや、政策プロセスに責任を持つコミュニティの協働が上手く機能する事が最も大切な条件となる。
本シンポジウムにおいては、上記の背景を元に、ELSIの理念と、それを実践するための課題、現場の技術者への技術倫理教育の方法等を議論し、新しい時代の技術者が身につける教養としてのELSIを考える。
プログラム

概要
１．参加状況
185名（対面及びオンライン参加者数、講師及びスタッフを含む）
２．講演・パネルディスカッション概要【開会挨拶】
開会に先立ち、吉開範章氏（技術倫理協議会議長）より、開会の挨拶があり、今回の企画の背景などの説明があった。
【講演１】小山田 和仁氏（科学技術振興機構）「ELSIの歴史と動向」という題にて、自己紹介の後、下記の概要に沿って講演があった。
① JST研究開発戦略センター（CRDS）のELSI/RRI関連報告書の中で、特に「自然科学系研究卯者のためのELSI解説」が、日本工学会の会員にとって、ELSI入門書として使える。
② 何故、今、ELSI/RRIが注目されているのか？
・新興技術(Emerging Technology)の発展スピードが速く、制度的対応とのミスマッチが起きている。
・技術の融合が、既存の制度の枠を超えている。
・リスク、不確実性の発生があるにも関わらず、それらに関係する政府や専門家に対する市民の不信③ ELSI/RRIとは何か？
・ELSI( Ethical, Legal and Social Issues)の考え方：科学技術の存在を前提に、それが人々や社会に対して、どのような倫理的・ 法的・社会的影響をもたらしうるのかを事前に把握・検討・対処する試み
・RRI(Responsible Research and Innovation) の考え方：目指す社会像や価値から顧みて、直面する課題に挑戦する手段として科学技術を 捉え、研究開発・イノベーションの基盤、実践、成果の普及に至る全プロセスを、より好ましいものへと転換・発展させる取り組み。2000
年代以降、主に欧州における科学技術ガバナンスと市民参加の流れを汲み、多様なステークホルダー関与を重視 。
・日本のELSIの取り組みは、RRIに近い。
④ ELSI/RRIの歴史的展開
・米国・欧州・日本における取り組みの歴史を概説
・日本における近年の動向：研究プログラムにおける取り組みの要件化、ツールの開発・理論的基盤探究などと共に、ルール形成に民間企業が参画する動きも出てきた。
⑤ 新興技術の責任あるガバナンス
・国際的なルール形成、特にOECDにおける動向を紹介。
・日本の取り組み：AIに関しては、グローバル・パートナーシップ(GPAI)を立ち上げ、広島プロセスなどのルール形成を主体的に形成。合成生物学・ニューロテクノロジー・量子技術については、立ち上がりつつある。
・ELSI/RRIから技術ガバナンスまでの取り組みは、国内だけでなく、国際レベルでも必要であり、規範・ルール作りの際に、日本的な価値と国際的な価値の整合が重要となる。
【講演２】美馬 正司氏（日立コンサルティング）「AI倫理とELSI」という題にて、自己紹介の後、下記の概要に沿って講演があった。
① AIを取り巻く環境
・Deep learningを主とする、これまでのAIにより暗黙知の壁が取り払われたが、さらに生成AIにより「汎用性」のある使い方が与えられた。
・AIに潜むリスクには、学習のバイアス、プライバシ問題、透明性の問題、安全・信頼性の問題があるが、生成AIでは、適性利用、ハルシネーション、権利侵害を考慮する必要があり、AIガバナンスとして各国で対策が法律の整備も含めて検討されている。
・中国の欧州化に注意。
② AI倫理・ガバナンス
・日立におけるAI倫理の取り組みを紹介
・特徴は、ライフサイクルを通じたAIの安定した利活用
・アジャイル・ガバナンス：技術の変化を前提に、制度も試行錯誤しながら自由度を保って実施する。
・AIガバナンスコンサル：リスク対応の根幹は、組織／制度／人（教育）の調和したデザイン
・生成AIのガバナンス：従来のAIとの違いは、「汎用性」を意識して、一般利用者の不正利用に対するガバナンスを意識する事である。
③ ELSIに関するコンサル
・企業に対するコンサルは、始まったばかり。EUのAI規制が、企業の活動に影響を与える筈。
・企業は、ステークホルダーとの対話などを通じた事業化などにより、Society Issueで、貢献できる。
・ELSIは、指標を示しているSDGsやESGの目標達成や指標向上において貢献できる。
・ソーシャルエンゲージメントデザイン：社会との関係性強化、新技術・サービスに対する社会受容性強化のための手法であり、ステークホルダー分析、リビングラボ、ソーシャルサラウンディングといった手法から実現される。
【講演３】松尾 剛行氏（弁護士）「技術発展に対する法制度的課題の実際 – AI規制を例に -」という題にて、自己紹介の後、下記の概要に沿って講演があった。
① 技術発展の法制度にもたらす挑戦
・法律の制定は、技術の「後追い」となる宿命であり、立法にはタイムラグが生じる。その間に発生した被害に対処する方法は２つである。
（１） 迅速対応な立法 （例）安倍元首相の事件から、半年で寄付規制法が立法された。
（２） 抽象的な規定を活用する方法 （例）DeepFakeによる岸田首相のフェイク動画に対し「名誉毀損」で処罰する。
・上記の２方法による課題（１） 速く立法する反面、規制面の妥当性検証が不十分となる可能性がある。
（２） 技術開発の発展を阻害する可能性がある。 例：Winny事件における開発者への幇助罪の適用② AI規制の２つの考え方

・EUは、AI法（AI規制）を制定しようというアプローチ。一方、日本は法的拘束力のないガイ
ドライン等を中心としたAI規制を模索 。
・技術は中立的なものであり、その応用の仕方如何ではリスクが生まれる。
・AIによるリスク、例えば「子供の脆弱性を利用する手法や技法」等は、法的拘束力を持たせ、明確に「禁止」すべきものもあるが、その際には技術発展を阻害しない様に留意する必要がある。
・どこまでをガイドライン的な運用（ソフト・ロー）で対応し、どこから法律で規定（ハード・ロー）をするのかが重要である。
・法律と技術を組み合わせて、業務の効率化と質の向上を狙う「リーガルテック」は、新たな時代への対応として参考になる。
③ グローバルなAI規制の方向性と生成AIへの影響
・EUのAI法の立法化の過程が分かりにくのは、欧州委員会、EU理事会、欧州議会の３組織が、立法手続きに関与し、しかも、互いの主張が対立するケースが起きうるからである。
・AI法案は、リスクベース・アプローチを採用している。
・日本への影響：域外適用の規定があり、日本企業がEUを含む全世界にAIサービスを提供した
場 合にはAI法が適用される可能性がある。
・2023年12月8日深夜、欧州議会、閣僚理事会及び欧州委員会の３者協議（トリローグ）において、AI Act案が政治的合意に至った。数ヶ月以内に具体的な条文が公表される予定である。

【講演４】加納 圭氏（滋賀大学）「新時代に生きる技術者の教養としての、 教育データ利活用EdTechに関する 倫理・法・社会的課題(ELSI)を考える。」という題目にて、自己紹介の後、下記の概要に沿って講演があった。
・JST・RISTEX「科学技術のELSIへの包括的実践プログラム」下で 「教育データ利活用
EdTechのELSIとRRI実践」 プロジェクトを実施し、ELSI/RRIを検討するためのフレームワー
クを提案し、そこから出来てきた論点を整理したので、紹介する。
・全国学力・学習状況調査データ (約100万件)を利活用した コンピュータ適応型テストを、教育現場で実施しようとした際に、保護者の同意、児童賛意、学校誓約、教育的活用法など、様々な整備が必要であり、謂わゆる「EdTechのELSI対応方策」が必要である事に気がついた。
・先行事例として、米国のELSI対応ケースを調査した。その結果、13歳未満の子供対象のWEBサイトやオンラインサービスに一定の要件を課す法律（Children’s Online Privacy
Protection Act (COPPA)）がある事や、企業の責任として、法律が追いついていないLの観点や、EやSの観点も含めて、連邦や州に宣言する対応(Pledge)をとっている事がわかり、国内外のケース集として纏めた。
・EdTechのELSI論点を、日本語＆英語でWeb公開している。（https://bit.ly/3p2fi9E）
・EdTechの範囲整理：「技術は既に始まっているか／萌芽的か」「活用は始まっているか／萌芽的か」の２軸で整理。
・ELSI論点を捉えるフレームワークの提案：「日本型公教育」として取り上げられる教育制
度・仕組みを３種類（E+L+S/L+S/S）, EdTechの種類とその活用を３種類に分類し、３x3＝９つの領域で、ELSI論点を探求し101の論点を抽出し、カテゴリー分けした。
・今後、日本版Pledgeのような取り組みが必要。

【パネルディスカッション】
コーディネータである、札野順氏（早稲田大学）の司会の下、「倫理事例集の作成＆活用について」という題目で、森下壮一郎氏（技術倫理協議会・委員）から活動報告があり、その後、講演者４名及び森下氏も含めて、下記のテーマについて意見交換を行った。

（１） 教育におけるAIの活用時に、ELSIは有効か？
・生成AIにより、誰でも、膨大なデータや様々な教育教材の組み合わせにより、個人にとって、受験に適した教育ツールを構成できるようになるが、所詮「アルゴリズムの個別最適化」であり、個人にとって、教育効果を最大化する事にはならない。教育を受ける能力や権利なども考慮した教育ツールの開発には、ELSIを含めて検討する事が有効かもしれない。
（２） 世界の学協会は、ELSIの研究開発に、どれほどイニシアティブを取ろうとしているのか？
・IEEEが一番、知られている。特に、2019年に出版されたAIの原則・原理は有名。

・ISOでも、標準化活動が進んでいる。
・海外の大型研究プロジェクトでは、人文系の研究者も参加して、理系の研究者と一体となって研究を進めるケースが多数あり。
・日本の学協会で纏めている、倫理事例集は、原理・原則を実効的に実施するためのボトムアップ的な進め方において必須である。
・国内の活動を進める場合に、国際的な調和を意識する必要がある。日本人として理解できない「価値」があるし、その逆もある。それを互いに認識する事が重要であり、海外への情報発信を常に意識する必要がある。
（３） 企業におけるELSIの普及
・世界中で、ELSIに関する研究活動は進んでいるが、Diffusion(普及)については進んでいない。
・普及のためには、ボトムアップ的な活動が必要。一案は、業界団体が、Pledge(誓約書)を開示した企業が社会的な信用を勝ち得るような仕組みを作ることが有効である。違反に対する罰則規定より、価値を上げる事に繋がる。
・例えば、1980年代に米国の防衛産業で不祥事が起きたとき、米国政府の対策は「倫理プログラム」を作って、企業自らがPledge(誓約書)を示して、社会に自らの責任を開示・共有する制度を作った。政府は、Pledgeを示した企業とのみ契約を交わし、もし何らかの罰金を課される場合に、Pledgeがあれば、罰金が削減されるメリットも準備されている。
（４） Emerging Techの進展に伴い、技術者自身がELSIを学び、本来の技術開発においても、それを活かして活動すべき時期になっているが、実際はどうか？
・生成AIの開発においては、ELSIも考慮した開発が必須となっており、今後も、このような事例が増えていくので、技術者がELSIを学ぶ事は、当然となっていくと思う。
・技術的な課題する領域と、ガイドライン・法律で対応する部分のバランスをとる事が重要。

（５） ルール作りに技術者は、関わるべきか？
・技術者は、必ず関与すべきだ。個人情報保護法の制定時に、匿名性に関する部分には、ビッグデータに詳しい情報研究者が参加して、制度設計を行った。又、AIの制度設計においても、同様に、技術者が必須だ。
・一般的に言って、関係者全員に必要となるルールを見出し、ガイドラインを作成できる能力があり、しかも研究開発も実施する技術者が出てきて、該当する分野を牽引するようなやり方が必要。
・法律とEmerging Tech.の博士号を有するような、二刀流を使えるSuper Personが、OECDなどには存在する。
・Super Personを支援する環境と共に、Collaborationする場と、属人的なNetworkが大事。
・学協会で、各分野のkey personのリストを作成しておくと、ルール作りの時に、組織的に動く事ができる。
（６） 新規技術を開発するときに、エンドユーザーが、どのような使い方をするかまで検討して開発すべきではないか？
・ユーザーの不適正利用を見つける事は重要だが、予想できない使い方をされるのも事実。
・ユーザのリテラシーを向上させる事が対策になるが、関心の低い人ほど、問題を起こすし、さらに教育の場に出てこない傾向がある。
・Microsoftのように、AIの出力を使ってユーザーが損害を被った場合、Microsoftが保証するような企業も現れた。
（７） 技術者へのメッセージ（小山田）：技術者は、社会・人の利益（価値）を向上させる事が基本であり、ELSIは、そのために必須のものである。技術開発にブレーキをかけるものではない点を知っておいて欲しい。
（美馬）：自分の担当している技術やサービス開発だけでなく、ユーザの立場に立って考えて欲しい。
（松尾）：法律は、技術の足を引っ張る、マイナスのイメージを持つと思うが、応用面では、逆に技術も進めるケースがある事を知って欲しい。
（加納）：最先端の技術開発に携わっている人は、最先端のELSIの必要性に気が付く。気がついた人が実施できる環境が提供される事が重要。