戦略的創造研究推進事業（社会技術研究開発）
2020(令和 2 年)度採択 プロジェクト企画調査
終 了 報 告 書
科学技術の倫理的・法制度的・社会的課題（ELSI）への包括的実践研究開発プログラム
プロジェクト企画調査「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
Feasibility study toward establishing a platform for analyzing anddebating the ethical implications of the creation of artificial agents

企画調査期間２０２０(令和２)年９月 ～ ２０２１(令和３)年３月

調査代表者／Principal Investigator

田口茂

北海道大学大学院文学研究院 教授／
人間知・脳・AI 研究教育センター センター長
TAGUCHI Shigeru
Professor, Faculty of Humanities and Human Sciences / Director,
Center for Human Nature, Artificial Intelligence, and Neuroscience,
Hokkaido University社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

1．企画調査の概要■概要：ロボットや人工知能、脳オルガノイドなどは、人工的に作られたものでありながら、近い将来、技術発展によってある種の「主体」として扱われうるレベルに達する可能性がある。こうした「人工主体」が社会に入り込んでいくとき、そこには深刻な倫理的問題が生じうる。こうした問題を討議するためには、市民・政策決定者・科学者など多様な関係者にとって有用な〈議論のプラットフォーム〉（議論の土台となる原理的な概念的枠組み）を創出し、様々な形で社会に実装していく作業が必要である。本企画調査では、そのようなプロジェクトの計画・デザインを集中的に行う。まず技術的現状や国内外の関連する議論の調査を行い、それにもとづいて、哲学者・倫理学者・科学者・企業研究者による緊密なチームで徹底的な討議を行い、議論すべき問題や方向性の絞り込み、論点の整理、将来の技術発展のありうるフェイズに対応したプロジェクトの具体的なデザインを行う。
■参画・協力機関：北海道大学、神戸大学、京都大学、東京大学、崇城大学、広島工業大学、東京都立大学、量子科学技術研究開発機構、埼玉医科大学、立命館大学、沖縄科学技術大学
院大学、株式会社アラヤ■キーワード：人工主体、人工知能、ロボット倫理、意識、脳オルガノイド■Summary: Technological advancement in the near future might develop existing manmade products, such as robots, artificial intelligence, and cerebral organoids, into whatmight be called artificial agents equipped with a significant degree of intelligence andautonomy. The introduction of these technologies into the society will raise a range ofurgent ethical problems. To have meaningful debates over these problems, it is necessary(i) to develop a conceptual platform (i.e., a basic framework to think about and discuss therelevant issues), which proves useful for various stakeholders including scientists,engineers, and citizens; and (ii) to identify ways to implement it in the society. The goal of
our main project is to fulfill these tasks. Towards this end, the current Project Planning
Survey aims to identify the necessary steps to achieve this goal and design a concrete work
schedule accordingly. First, we will carry out an in-depth survey on the current state of
the technological advancement and the relevant debates unfolding both in the domestic
and the international scene. Based on the survey, next, we will work out the concrete
design of the project. A close-knit group of philosophers, ethicists, scientists, as well as
engineers and researchers from the private sector, will work together to analyze theconceptual landscape, identify the most urgent issues, determine more focused objectives,
outline possible scenarios of technological advancement, and develop a realistic work
schedule for the main project.
■Joint R&D Organizations: Hokkaido University, Kobe University, Kyoto University,
University of Tokyo, Sojo University, Hiroshima Institute of Technology, Tokyo
Metropolitan University, National Institutes for Quantum and Radiological Science andTechnology, Saitama Medical University, Ritsumeikan University, Okinawa Institute ofScience and Technology Graduate University, Araya Inc.
■ Key words: artificial agents, artificial intelligence, robot ethics, consciousness,
cerebral organoid1

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

2．企画調査の目標
人工的に作られたエージェント、たとえばロボットや人工知能、脳オルガノイドなどが、近い将来、何らかの高度な自律性や主体性を獲得する可能性があるが、このような「人工主体」に対して人間はいかなる態度をとりうるのか、またとるべきなのか？ そのような「人工主体」の登場は、人間社会をどのように変えうるのか？ 本企画調査では、このような問いに答えるための研究開発プロジェクトを構想し、その計画を実施可能な形にまで具体化する作業を行う。そのような研究開発プロジェクトにおいては、(1) 来たるべき「人工エージェントとの共生の時代」に巻き起こる倫理的・社会的諸問題に備える〈議論のプラットフォーム〉（議論の土台となる原理的な概念的枠組み）を創出・整備するとともに、(2) こうした議論を主導できる新たな人材を育成することが重要と考えられるが、これらがどのように可能であるのか、国内外の研究状況を精査しつつ、具体的な研究開発の道筋を描き出すことを目標とする。

3．企画調査の内容と結果
3-1．実施項目■項目 1：人工主体をめぐる科学技術的現状の調査■項目 2：人工主体の倫理をめぐる哲学的基礎の明確化■項目 3：プロジェクトの具体的計画の策定

3-2．実施内容と結果■項目 1：人工主体をめぐる科学技術的現状の調査
本企画調査では、第一に、「人工主体」に関連する科学技術的現状について、様々なフェイズに分けつつ調査し、情報収集および情報の整理を行った。各実施者による調査、グループ内での議論、6 回に及ぶ全体会議での密接な議論を通して、以下のような点が明らかになった。
（1）現状とそれを分析する視座何が「人工主体」（artificial agent）と呼ばれうるかについては、立場の違いがある。M.
Coeckelbergh は、AI・ロボットの道徳的地位を議論するにあたって、「プロパティ・アプローチ」と「関係論的(relational)アプローチ」を区別している。
「プロパティ・アプローチ」は、AI やロボットが本当に意識や心的状態のようなものをもつかどうかを問題にする立場を指す。これに対し、「関係論的アプローチ」では、AI・ロボットが本当に意識をもつかどうかはわからないので、むしろ人間との関係・インタラクションに焦点を移すことを提案する（Coeckelbergh 2009, 2010）。
「関係論的アプローチ」は、技術開発の現状においては、非常に有効であるように見える。
真に「内面」を感じさせるような AI・ロボットは、現状では開発されていないからである。
他方、介護施設などで使われるソーシャルロボット、セックスロボットなどは、すでに実用化が進んでいるロボットであるが、それらに「真の内面」があるとは見なされていない。それにもかかわらず、それらは人間との間にある種の「ソーシャルな」関係を結んでいる。ここでは関係論的アプローチが有効である。これは、関わる人間の側が「主体のように感じる」

2

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書という現象に焦点を当てているので、心理学的研究とも深く関わる（Gray et al. 2007 など）。
ただし、関係論的アプローチは、あまりに対象が広くなりすぎるという批判もある。
Coeckelbergh や Verbeek らは、人工主体に関わる倫理的問題を関係論だけですべて解決できるとは考えず、ある種の「人間中心主義」を残さないと、議論が拡散しすぎると考える。現状の AI は、後で述べるように、完全な自律性を備えた主体とは考えられず、それを「主体」と呼ぶ意味は限定的である。この意味で、ある種の人間中心的な考えを残しつつ、AI の発展段階に応じた考察を行う必要があるという見解は説得力がある。
脳オルガノイドに関連する知見が生きてくるのは、こうした論点に関してである。脳オルガノイド研究は、AI よりも開発が一歩進んでいると言える面があり、倫理的懸念もより切迫したものになっている。そのため、応用倫理的議論もより具体的なものとなっており、将来の AI 倫理を考える上で非常に有益な知見をもたらす可能性がある。
脳オルガノイドは既に様々な部位（大脳皮質、視床下部、腹側終脳、眼杯、脳下垂体、小脳、海馬、視床、脊髄、脈絡叢）が作製されている。現時点では、構造、大きさ、成熟度に限界があるが、今後はそうした課題を克服する方向で研究が進むと思われる。こうした研究の進展により、苦痛を含むさまざまな意識経験をもちうる脳オルガノイドを生み出すのではないかという懸念が指摘されてきた。もし脳オルガノイドが痛みをもつのであれば、そこには道徳的配慮が必要になる。ここでは、脳オルガノイド自身が意識をもつかどうかという「プロパティ・アプローチ」的な考察が不可欠である。しかし、関係論者が主張するように、ここには認識の限界があることも明らかなので、「意識があるかないかはわからない以上、仮に〈ある〉と見なして対処を考える必要がある」という予防原則が有効である（新川・坂口・澤井2021）。その上で、「あるとしたら、どの程度、どのような意識があるのか」という方向に考察を進めれば、開発現場の研究者に具体的な指針を与えることが可能になる。
なお、上記の意識をめぐる倫理的懸念を受けて、国際幹細胞学会（International Society for
Stem Cell Research; ISSCR）が脳オルガノイド研究の在り方を議論するタスクフォースを立ち上げ、現行ガイドラインの改定に向けた作業を行うなど、脳オルガノイド研究をめぐる法的・倫理的枠組みが具体的に追求されている。
（2）人工主体の発展段階の区分
上記の調査を踏まえ、人工主体としての AI の発展段階を三つに区分することを試みた（ただしこれらの区別は連続的であり、一種のスペクトラムとして考えた方がよい）。
1）広義の人工主体関係論的アプローチによれば、人間とインタラクションするすべての人工物（道具や機械など）は、ある種の道徳的存在者と見なすことができる。これをある種の人工主体と見なす立場も考えられるだろう。それらの人工主体と人間との間には、ある種の倫理的関係が発生する。ただし、ここでは、従来の応用倫理学の議論（動物、自然環境等、人間以外の「主体」との倫理的・法的関係をめぐる議論）がある程度適用できる可能性がある。
（もちろん、主体そのものが分散していると考えるラディカルな関係論（アクターネットワーク理論）までいけば、従来の倫理学的枠組みでは対処できない。Coeckelbergh や Verbeek によれば、それは行き過ぎである。人間中心主義を導入して従来の倫理的枠組みに近づけて考えるべきであると彼らは主張する。）
2）プログラムされた自律的人工主体
人工主体の自律性は、プログラムされたレベルなら、すでにある程度実現している。これは工学的な自律性概念であり、設計者側がデザインできる自律性であると言える。人間との倫理的関係は発生しうるが、製造物責任の議論など、ある程度既存の応用倫理的・法的枠組みで議論しうる。
工学的な自律性概念は、ゼロか 100 かではなく、程度がある。全面的な自律性でなくても、限定的に自律性を実現していることがある。設計したプログラムにもとづいて、ロボットだ3

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

けで行動を決定しているなら、それは自律性と呼ばれうる。
ここでは、学習の有無が重要になってくる。設計者によってプログラムされるのみで学習の余地がなければ、すべて設計者の責任となる。これに対し、人工主体に学習する余地を与えた場合、その学習した部分による行動決定の結果がどこに・誰に帰属するのかは、まだ十分に社会的合意が得られていない。これは、社会制度の問題に帰着できる部分もある。事故が起こったら社会全体で（自動車の自賠責保険のような制度で）対処する可能性が法制度的に議論されている（自動運転車など）。
ここで問題になるのは、責任の問題は弁償（金銭的補償）の問題に還元できるのか、それとも責任の問題はそれだけでは済まないと考えるのか、ということである（これは倫理の基礎をめぐる議論になる）。こうした難しい問題を孕みつつ、この第二レベルの AI については、現実には制度的改良によって対処していくことになるだろう（すでに日本でも自動運転に対応する保険商品［東京海上日動など］が開発されている）。
現代でも自律的と呼ばれるロボット・AI のなかには、学習を行うものと、学習を行わないものとがあるが、学習を行う場合でも、学習データをすべて設計者が与えて行う場合、やはり人工主体の行動を設計者がコントロールしているという側面は強くなる（図参照）。
3）高度な自律的人工主体
問題なのは、より高度な自律的な人工主体である。これはまだ開発されていないが、近い将来開発される可能性は十分にある。これは完全に自律的に自分で状況を判断し、自分の行為を自己決定しつつ環境に適応し続ける人工主体である。現在開発されつつある AI・ロボットに関していえば、判断を行う人工主体自身が、学習によって判断基準・行動規範そのものを獲得して行動する場合、そこには当然設計者の意図を超える部分が出てくる。AI・ロボッ
トが自分自身で何を学習するかを決めていくということになると、学習データさえ設計者がコントロールできなくなるからである。
そのような人工主体を生み出す際には、その「倫理性」が必然的に問題になる。そのような自律的主体は、原理的に言って、「何をするかわからない」からである（完全な自律性はそのことを含意する）。そのような自律的主体を生み出してよいかどうかを含め、原理的な議論が必要になる。もし生み出す場合には、その主体をどのようにして倫理的主体たらしめるのか、が問題になる。人工主体を倫理的にするには、「どのようにして倫理を実装しうるのか」という問題が立ちはだかる。それが難しいのは、「倫理とは何か」を、プログラムしうるレベルにまで噛み砕いて理解することが難しいからである。それをするためには、後で述べるように「構成論的アプローチ」が有効である。
（3）その他の調査結果
株式会社アラヤで研究開発に携わっている濱田太陽氏にインタビューを行い、AI ならびに神経科学分野における「好奇心」研究の現状と今後について調査した。また、浅田稔・大阪大学特任教授（ロボティクス）から文献と直接の対話により、痛みをもつロボット、「痛みが4

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

なければ意識の発達もない」という考え、patiency と agency のつながりについて情報を得た（浅田 2019 など）。これは、ケアの倫理とも通じ、新しい倫理のあり方とも関連している。
さらに、人工主体（AI）の創作物をめぐる知的財産権について、協力者の Enrico Bonadio 氏（ロンドン大学シティ校，法学）の研究・講演を通じて調査した。また、脳オルガノイドの研究者である坂口秀哉氏（理化学研究所）、渡邊桃子氏（UC Irvine）から、脳オルガノイド研究の最新動向および将来展望に関する聞き取り調査を行った。そうした科学的知見を基に、現在生じている倫理的課題にととまらず、将来的に生じうる倫理的課題について、AI 領域との関係も視野に、ディスカッションを行った。

■項目 2：人工主体の倫理をめぐる哲学的基礎の明確化
第二に、本企画調査は、来るべき「人工主体」（とりわけ上記の 3)高度な自律的人工主体）の社会実装をめぐってどのような倫理的諸問題が生じうるのかについて、原理的な議論から出発するという方針を立てていた。
「人工主体の倫理」は、様々な新しい問題を含むと考えられるため、既存の倫理学的枠組みによって対処できる部分とそうでない部分がある。したがって、来たるべき「人工主体の倫理」を準備するためには、アドホックな対処に終始することがないよう、事前にその哲学的基盤について入念に議論しておくことが必要である。それによってはじめて、集中的に研究すべきテーマも絞られてくる。フルスケールの研究開発プロジェクトを準備するために必要な概念的整理や方向性の整理のため、本企画調査では「人工主体」をめぐる倫理的問題そのものの捉え方について、踏み込んだ哲学的・倫理学的討議を行った。それによって、以下のような結果が得られた。
（1）人工主体をめぐる関係論的アプローチとその限界
AI・ロボットの道徳的身分に関する議論は、初期には AI・ロボットが道徳的行為者（moralagent）でありうるか／あるべきか（あるいはそもそも agent でありうるか／あるべきか）、という moral agency を焦点にした議論によって開拓されたが（Allen et.al. 2000; Anderson& Anderson 2007）、やがて AI・ロボットそのものから人間―ロボット間のインタラクションへと焦点を移した関係論的アプローチが出現し（Coeckelbergh 2009, 2010; Gunkel 2018）、さらに関係論的なアプローチの中でも様々なヴァリエーションが出てきている。関係論的アプローチは、本質主義を避け、人工主体の「内面」を問うことなく人間との倫理的関係を考察することができる点で非常に強力である。そこでは、agency（行為者性、主体性）に対する patiency（被行為者性）に着目する議論が重要になる。しかし、関係論的アプローチは、人間側の投影に引きずられる危険があり、今後より高度な自律的人工主体が開発されたときには、人工主体の意識状態を問題にするプロパティ・アプローチも避けて通れないものになるのではないか。そのことをすでに範例的に示しているのが脳オルガノイドをめぐる倫理的議論である。そもそも人間同士においてすら「内面」は見えないというのが関係論的アプローチの一つの論拠だったが、「見えない」「わからない」ことをむしろ積極的に予防原則に生かす議論が成り立ちうる（新川他 2021）。AI と脳オルガノイドをめぐる議論を交差させた地
点に、非人間的主体（non-human agent）の新しい概念が立ち上がり、それによって「倫理」の概念そのものが変容していく可能性がある。それは、「主体」「人格」の関わる社会制度全般に大きな影響を及ぼすことになる。そのような議論を先行的に開始し、議論の原理的な基礎、可能な方向性の選択肢などを明確化しておくことは現代社会の喫緊の課題である。
（2）倫理についての構成論的研究アプローチの可能性
本企画調査チームには、AI・ロボットの開発者も加わっているが（長井・飯塚など）、開発者側から AI 倫理を見ると、「倫理」という概念の粒度が粗いために、それを具体的に実装する手立てが見えないという難点がある。これに対しては、むしろ「作ることによって倫理とは何かを知る」という工学的・構成論的アプローチが有効である可能性がある。こうした議

5

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

論は、学会などで萌芽的に言及されてはいるが、まだ具体的な成果は出ていない。本チーム
は、後述のように、AI・ロボット研究者と哲学者・倫理学者が緊密に連携し実験をデザインすることにより、構成論的アプローチによる倫理研究が実際に可能であると考える。これは、AI をツールとして倫理に迫る試みであると同時に、倫理を取り込むことを通じてまったく新たな AI＝人工主体が開発される可能性をも秘めている。
（3）脳オルガノイドの倫理を先行的な範例として比較対象としうる可能性
先に述べたように、脳オルガノイドをめぐる倫理的議論は、将来の AI 倫理を考える際にも先行的な範例として参照対象となる可能性がある。脳オルガノイド技術の急速な進歩を踏まえて、ヒト脳オルガノイドが意識をもつ可能性と、その倫理的含意についての議論が盛り上がりをみせている(Lavazza and Massimini 2018; Shepherd 2018b; Sawai et al. 2019;
Koplin and Savulescu 2019; Bayne, Seth, and Massimini 2020; Hyun, Scharf-Deering, andLunshof 2020; Greely 2020)。そこでは、脳オルガノイドが意識をもつ可能性を前提として、どの程度成熟した脳オルガノイドを作製することが道徳的に許容されるのか、作製した脳オルガノイドをどのように扱うべきなのか、といった倫理的問題が論じられてきた。こうした状況の中、本研究期間に以下二つの研究を実施した。
① 脳オルガノイド研究の現状を基に、現時点で提起されている懸念に応答するとともに、今後の展開を見据え、1）脳オルガノイドそれ自体が引き起こしうる問題、2）脳オルガノイドを動物や人間に移植したり、生体／非生体システムと連結したりする際に生じうる問題、
3）研究倫理とガバナンスの問題を俯瞰的に検討した。
② 脳オルガノイドそれ自体の構造や性質に着目するプロパティ・アプローチを取りながらも、そのアプローチが抱える「客観的に観察可能な性質から意識の有無についての判断を導けない」という根本的な問題を回避するために、倫理的予防原則を応用した。そのうえで、脳オルガノイドにどの程度の道徳的配慮が必要なのか、脳オルガノイド研究に対してどのような倫理的制約を課すべきなのかを検討した。

■項目 3：プロジェクトの具体的計画の策定
以上の調査結果を踏まえ、本企画調査では、以下のようなプロジェクトの具体的計画を策定した。
（1）人工主体の倫理への媒介論的アプローチ
すでに述べたように、人工主体をめぐるプロパティ・アプローチも関係論的アプローチも、それぞれに困難を抱えており、決定的ではない。そこには、対象そのもの（人工主体の心・意識）の不可知性と、関係の可知性（馴染まれていること）との二項対立がある。この二項対立から脱するために、「切ることによってつなぐ」「切れていてかつつながっている」という田辺元（1885-1962）の「媒介」概念が有効かもしれない（Taguchi 2019）。媒介は切断と接続を二律背反的に見ない。人工主体の意識がさしあたり不可知であるとしても、その不可知性そのものを媒介の契機として考えることができる（たとえば先述の予防原則）。いわば、人工主体の意識は不可知であるがゆえに、そこに倫理的関係が成り立っているのである。そしてこれは、人間の間の倫理と原理的には同じはずである。人工主体の意識の不可知性を欠陥と見なすのではなく、不可知性それ自体の媒介的機能──それがいかにインタラクションのなかでうまく働いているか、またはうまく働いていないか──を分析していく点に媒介論的アプローチの特徴がある。こうした方向で、人工主体における倫理性を原理的な仕方で概念的に明らかにし、それに立脚して人工主体をめぐる倫理的諸問題を整理することが可能である。
（2）人工主体による構成論的・「実験倫理学的」研究(1)の研究を基礎としつつ、項目２(2)で述べたように、「倫理とは何か」をめぐって構成論的

6

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書なアプローチによる研究を行うことが可能である。これはいわば、実験によって倫理を探究する「実験倫理学」とも言いうるものである。規範を事実に還元しようとするわけではないが、規範もまた事実的連関の中で現われるとすれば、その条件を実験的に探究することは可能なはずである。この方向では、長井志江と Olaf Witkowski が主な実施者となり、シミュレーションを用いた構成的研究を行う。人がどのようにして倫理的判断を行っているのか、また，その判断基準をどのようにして学習・獲得しているのかについて、人のように倫理を学習・獲得する人工エージェントを設計することでメカニズムの理解を目指す（この方向である程度実験デザインについても議論を進めている）。
本プロジェクトのこれまでの議論をとおして、人間間の倫理には固定的で不変の基準を設定することが困難であり、文脈や立場によって倫理的判断が変わりうること、また、それが個人の経験にも依存することがわかってきた。作業仮説として、長井がこれまで取り組んできた予測符号化理論に基づく社会的認知発達仮説（Nagai 2019）に注目し、それを拡張することで倫理発達の計算モデルを提案する。本アプローチを通して人の倫理原則のメカニズムを理解することで、人工主体をめぐる倫理全般が何を「原理」にすべきなのか、という議論（以下の(3)）に重要な知見を提供する。
（3）人工知能と脳オルガノイドの比較研究──人工主体をめぐる倫理原則の提案
先行事例としての脳オルガノイドの倫理を比較対象とすることによって、高度な人工主体の登場と共に発生しうる様々な倫理的問題を先取りして議論する。この作業に加えて、上記(2)構成論的研究による成果を参照し、倫理的な人工主体（artificial moral agent＝AMA）開発のための条件を考察する。
これらの作業を通して、本プロジェクトでは最終的に、非人間的な人工主体一般をめぐる倫理原則の提案を行う。ヒトを対象とした研究のための倫理的原則とガイドラインとしては「ベルモント・レポート」（Belmont Report）などがあるが、これは当時の社会的議論や要請を背景として原理的な「考え方」を提示している。人工主体（非人間的主体）についても社会的議論と要請は高まっており、具体的な指針につながる原理的な「考え方」の彫琢が求められている。
AI については倫理原則を示す試みがある程度見られるが（アシロマ AI 原則、Google,Microsoft、最近では日立製作所の AI 原則等）、総務省が提示した AI ガイドライン比較表（総務省 HP）にも見られるように、現行の AI を社会制度に順応させるための差し迫った原則の提示にとどまっており、近未来に現われるより高度な人工主体に対応しうる倫理原則はまだ示されていない。本プロジェクトでは、こうした倫理原則の提案を最終目標とする。
（生命倫理分野におけるナフィールド生命倫理評議会の報告書に類したものを想定している。
）
また同時に、本プロジェクトでは、理工系の開発者・研究者と人文社会系の研究者が緊密に連携しつつ研究・開発を行う作業スタイルについても提案し、人材育成につなげていく。
こうした作業スタイルは、AI 倫理はじめ今後人類にとって喫緊の課題を解決する際には不可欠となるものであると考えられる。

7

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

4．企画調査実施体制〈実施体制図〉

5．主な活動実績
1) 欧文書籍：Kengo Miyazono, Lisa Bortolotti (2021). Philosophy of Psychology: An Introduction.
Cambridge: Polity.
2) 欧文論文：Sawai, T., Hayashi, Y., Niikawa, T., Shepherd J., Thomas E., Lee, T., Earler A., Watanabe,M., and Sakaguchi H. (2021). “Mapping the ethical issues of brain organoid research andapplication.” AJOB Neuroscience.［掲載決定］
3) 和文書籍：クーケルバーグ, M.（著）直江清隆、久木田水生、鈴木俊洋、他（訳）(2020).
『AI の倫理学』丸善出版
4) 和文書籍：杉村靖彦, 田口 茂, 竹花洋佑 編 (2021) 『渦動する象徴──田辺哲学のダイナ
ミズム』晃洋書房
5) 和文論文：新川拓哉・坂口秀哉・澤井努（2021）「ヒト脳オルガノイドの意識をめぐる哲学・倫理学的考察―」『21 世紀倫理創成研究』14 号, pp. 61-83.
6) 招待講演：田口 茂 (2020)「「境界のない外」をどう考えられるか？──現象学の観点から」『第 31 回 全脳アーキテクチャ勉強会：予測する脳と主体性の現象学』NPO 法人 全脳アーキテクチャ・イニシアティブ, オンライン開催

8

社会技術研究開発「科学技術の倫理的・法制度的・社会的課題(ELSI)への包括的実践研究開発プログラム」「人工主体の創出に伴う倫理的諸問題を分析・討議するプラットフォームの構築に向けた企画調査」
プロジェクト企画調査 終了報告書

7) 基調講演：Yukie Nagai (2020) “Cognitive Development in Humans and Robots: NewInsights into Intelligence,” 2020 IEEE/RSJ International Conference on Intelligent
Robots and Systems, Las Vegas, USA.
8) 基調講演：Yukie Nagai (2021) “Does Predictive Coding Provide a Unified Theory ofArtificial Intelligence?,” International Joint Conference on Artificial Intelligence –Pacific Rim International Conference on Artificial Intelligence, Japan.
9) 口頭発表：池上高志, Tom Froese, 市橋伯一, 飯塚博幸, 竹内啓貴, Olaf Witkowski (2020).
「共生的な生命観」，『Tokyo Alife』, オンライン開催
10) 報告記事：田口 茂 (2020)「人間知×脳×AI 研究教育センター(CHAIN)の設立と最近の活動」『現象学年報』36, pp. 151-156.

9