＜研究紹介＞ 責任ある研究・イノベーション（RRI）の公衆の観点からの測定＜研究紹介＞
責任ある研究・イノベーション（RRI）の公衆の観点からの測定
Measuring responsible research and innovation (RRI) from a publicperspective
木下翔太郎*†, 一方井祐子‡, 横山広美§
Shotaro Kinoshita, Yuko Ikkatai, Hiromi Yokoyama
Ⅰ．RRI の興隆と課題
科学技術の発展が著しく進む中で、その正の側面だけでなく負の側面に焦点があてられることも増えた。科学技術と社会の関わりにおいては様々な切り口が存在するが、近年重視されるようになった枠組み・考え方に、ELSI(Ethical, Legal and Social Issues: 倫理的・法的・社会的課題)
や RRI(Responsible Research and Innovation: 責任ある研究・イノベーション)がある。ELSI は、
1990 年からはじまった米国・ヒトゲノム計画を端緒として広まり、科学技術が社会にもたらす負の側面にあらかじめ手当てをして「悪影響の軽減・排除」を目指すという考え方の普及に貢献してきた 1)。一方、RRI の方は、2011 年以降、欧州委員会における科学技術政策の中で強調されてきた考え方であり、研究開発の初期段階から、将来起こり得る正負の影響を予見し、社会のニーズ・問題意識・価値観を包摂しつつ、幅広いアクターが参画して相互に応答し合いながら、オープンなプロセスの中で省察により得られた課題や反省のフィードバックを踏まえる、という考え方を指す 2)。ELSI が主に人文・社会科学の研究活動や、倫理指針・法令整備などの活動として取り組まれたのに対し、RRI では一般市民を含む多様なステークホルダーのエンゲージメントなどがより重視されている 2)。また、RRI が提唱された当初の理念として、それまでの ELSI をめぐる議論の中で多かった「新技術の倫理的側面を制約や制限とみなす」ようなアプローチではなく、多様なステークホルダーを巻き込みイノベーションを推進することが重要だとされた 3)。
さらに、RRI はもともと科学技術予算を提供する行政側からの求めであり、実際、多くの国において、政府側の科学技術予算を決定する共同体（予算共同体：Budget-funding Community4））の議論に埋め込まれており、科学技術者にとって避けては通れない道となっている点も興味深い。
RRI は理論的フレームが最初からあったわけではなく、グローバル化する社会におけるイノベーション推進のために必要と思われることがつまったパッケージであったが、RRI が提唱されてから 10 年以上が経つ中で議論も蓄積されてきた。RRI について書かれた 240 の論文を精査したレビューによると、 anticipation（予見）、inclusion（包摂）、responsiveness （応答）and reflexivity（省察）に sustainability（持続可能性）と care（ケア）が重要であるとされている 5)。とはいえ、この論文でも指摘されているように、RRI はいまだに発達中であり、変化を続けている。こうし*慶應義塾大学医学部ヒルズ未来予防医療・ウェルネス共同研究講座
東京大学大学院学際情報学府‡
金沢大学人間社会研究域地域創造学系地域創造学類§
東京大学国際高等研究所カブリ数物連携宇宙研究機構 CD3 センター†57

地球・宇宙・未来 第１巻 第１号
Globe, Universe, Next future, Discussions And Mentions, 1 (1)た背景から、RRI については、その考え方が公衆に理解・周知されているとは言い難い状況にあるが、RRI は、科学技術の開発に至るプロセスに公衆の意見を練りこんでガバナンスを強化することを理想としているため、公衆が RRI のどのような点を重視すべきか把握する必要がある。
科学技術によって RRI の論点は異なるため、どのような科学技術に対して、どのような RRI の観点を重視すべきだと公衆は考えているのかを知り、交流することが理想である。例えば、サーベイという形で公衆の考える知ることはできるが、公衆の RRI に対する認識を測定している先行研究はほとんどない状況である。

Ⅱ．ELSI 分野における公衆の観点の測定
上述の課題を検討する上で、RRI よりも先に広まった ELSI 分野の研究が参考になる。ELSI も理論的なフレームに基づくものではないが、Genetic/genomic testing(GGT)について ELSI のガイ
ドラインをサーベイした研究によれば、倫理部分が、他の法的（Legal）・社会的(Social)課題の要素を牽引していることがわかっており、倫理的課題が問題の出発点になっていることが示唆されている 6)。
例えば筆者らの研究チームは AI の ELSI について公衆の観点を調査する研究を行った。世界の 36 の AI ガイドラインに共通する 8 項目（個人のプライバシー、説明責任、安全性とセキュリティ、透明性と説明可能性、公平性と無差別、人間による制御、専門家の責任、人間の価値の促進）があるという研究を元に 7)、人々がそれぞれの項目にどの程度の問題を感じるかを測定する研究を行った（図 1）。AI をはじめとする科学技術は、文脈によって問題となるポイントが異なる。そこで AI が使われる状況を示す 4 つの倫理的ジレンマ・シナリオを用意し、それぞれについてガイドライン共通の 8 項目が、どの程度、危険であると思われているか、日本のデータを取得した。用いた 4 つのシナリオは、(i)AI を用いた歌手の再現、(ii)AI を用いたショッピング、(iii)AI を用いた兵器、(iv)AI を用いた犯罪者監視である。もっとも抵抗が大きいものが AI を用いた兵器のシナリオであった。シナリオを用意すれば、それぞれの受け止められ方の差異、項目ごとの差異を測定することができ、「オクタゴンメジャメント」と呼称している**。
また、ELSI をめぐる議論は複雑で重層的であるが、公衆の観点を元に、重要度の数値化・セグメント分けを行う試みも行われている。筆者らのチームではまず、ELSI の質問項目を 12 項目開発し、これを用いて上記と同じ 4 つのシナリオについて、日米で公衆の懸念の程度を測定した。
さらにこのデータを、決定木解析を用いて Feature importance と呼ばれる分岐の際に重要となる係数が高い、3 つの項目（倫理的に重要か、伝統的な観点から許容されるか、政策的・法的に整っているか）を選んだ。これがたまたま、E、L、S の項目から１つずつ出たことで、この 3 つを重要項目として認知した。次の研究では、この３つの ELSI 項目を、やはり同様の 4 つのシナリオを用いて日米独で測定した。さらにこれを安定的なグループ化を行う解析を経て、図 2 の４つ**

筆者らは、AI 歌手について、ジャンケレヴィッチの「死の人称」を用いた研究も行っている。
https://eprints.lib.hokudai.ac.jp/dspace/handle/2115/90448?fbclid=IwAR2hHY_dn-NRWuP03OlcIauBHl7SZjvcmt1yBiT-ZUZuLbb6PHua_uWVuU
58

＜研究紹介＞ 責任ある研究・イノベーション（RRI）の公衆の観点からの測定のグループに分けることができた。これを「ELSI セグメント」と呼称している。
このような著者らの研究には 2 つの大きな特徴がある。１つは、これまで開発側のものとして公衆側の意識測定がされてこなかった ELSI 項目を測定すること、さらにそれらを従来の手法に限らず、データドリブンで解析することに特徴がある。

図 1．AI テクノロジーELSI に対するオクタゴン尺度（筆者作成）

59

地球・宇宙・未来 第１巻 第１号
Globe, Universe, Next future, Discussions And Mentions, 1 (1)図 2．AI についての ELSI セグメント（筆者作成）
ELSI の 12 項目から、人々の態度を分岐するのに重要な 3 つの項目が抽出された（道徳的、政策・法律、伝統的）。さらにこの 3 項目を使って、ELS の３次元の中で、人々を意見の傾向の異なる楽観的なグループ（水色）、否定的なグループ（オレンジ）に加えて、法律を問題視するグループ（紺）、法律を問題視しないグループ（えんじ色）に分けることが理想的であることがわかった。今後、議論の際などにこの４つのグループ分けが有用であると考えている。

Ⅲ．RRI の公衆の観点からの測定に向けて筆者らのチームでは上述のこれまでの取り組みをもとに、米国カブリ財団からの支援のもと10)、ELSI 測定の次のステップとして、RRI の公衆の観点からの測定を目指した研究に取り組んでいる。RRI はヨーロッパを中心に開発されたものであるが、今後世界的に影響を及ぼす気候工学（例えば太陽遮蔽工学）などの議論を行う際には、グローバルサウスやアジアにおいても協力が得られるガバナンスが必要となる。よって、日本、米国、フィリピン、インド、パキスタンを調査対象国とし、文化や経済レベルなどの違いを踏まえた意見の相違について分析を行う予定である。さらに今後、汎用的に RRI を測定する質問紙（以後、RRI シートと呼ぶ）を公衆からの観点を行えるように、その学問的フレームを強化するため、倫理学者による理論的サポートのも60

＜研究紹介＞ 責任ある研究・イノベーション（RRI）の公衆の観点からの測定と、公衆のサーベイに使いやすい質問紙を開発することを目指している。このような RRI の公衆からの観点の測定、倫理学的フレームを背景とした質問紙開発は世界で初めての試みとなる見込みであり、本研究を通して、RRI の理論的フレームの深化や、活用可能性の拡大を目指し、科学技術と社会のより良い関係の構築に寄与していきたいと考えている。

文献
1.

国立研究開発法人科学技術振興機構研究開発戦略センター. (2021 June). 自然科学系研究者のための ELSI 解説. 国立研究開発法人科学技術振興機構.
https://www.jst.go.jp/crds/pdf/2021/XR/CRDS-FY2021-XR-02.pdf
2.

国立研究開発法人科学技術振興機構研究開発戦略センター. (2022, March). ELSI から RRI への展開から考える科学技術・イノベーションの変革. 国立研究開発法人科学技術振興機構.
https://www.jst.go.jp/crds/pdf/2021/RR/CRDS-FY2021-RR-07.pdf
3.

Zwart, H., Landeweerd, L., & Van Rooij, A. (2014). Adapt or perish? Assessing the recent shift in theEuropean research funding arena from ‘ELSA’ to ‘RRI’. Life sciences, society and policy, 10, 1-19.

4.

Ikkatai, Y., McKay, E., & Yokoyama, H. M. (2018). Science created by crowds: a case study of science
crowdfunding in Japan. Journal of Science Communication, 17(3), A06.

5.

Burget, M., Bardone, E., & Pedaste, M. (2017). Definitions and conceptual dimensions of responsible
research and innovation: A literature review. Science and engineering ethics, 23, 1-19.

6.

Ascencio-Carbajal, T., Saruwatari-Zavala, G., Navarro-Garcia, F., & Frixione, E. (2021).
Genetic/genomic testing: defining the parameters for ethical, legal and social implications (ELSI).
BMC Medical Ethics, 22, 1-15.

7.

Fjeld, J., Achten, N., Hilligoss, H., Nagy, A., & Srikumar, M. (2020). Principled artificial intelligence:
Mapping consensus in ethical and rights-based approaches to principles for AI. Berkman Klein Center
Research Publication, (2020-1).

8.

Ikkatai, Y., Hartwig, T., Takanashi, N., & Yokoyama, H. M. (2022). Octagon measurement: Publicattitudes toward AI ethics. International Journal of Human–Computer Interaction, 38(17), 1589-1606.

9.

Ikkatai, Y., Hartwig, T., Takanashi, N., & Yokoyama, H. M. (2023). Segmentation of ethics, legal, andsocial issues (ELSI) related to AI in Japan, the United States, and Germany. AI and Ethics, 3(3), 827843.

10. 東京大学国際高等研究所カブリ数物連携宇宙研究機構 (Kavli IPMU). (2023, July 18). 横山広美教授の主導する Score ELSI プロジェクトへの米国カブリ財団の支援が決定.
https://www.ipmu.jp/ja/20230718-ELSI

61