⼈⼯主体とのインタラクションと⽣命の「脆さ」
AIと共⽣する未来に向けて

北海道⼤学⼤学院⽂学研究院
北海道⼤学⼈間知・脳・AI研究教育センター
⽥⼝茂

【⽒名】⽥⼝ 茂 (タグチ シゲル)
【所属】北海道⼤学⼤学院⽂学研究院・教授
⼈間知・脳・AI研究教育センター（CHAIN）センター⻑

【研究分野等】
専⾨は哲学。特に現象学（フッサール）。意識、⾃⼰、間主観性などを扱ってきたが、最近は神経科学者・数学者・ロボット⼯学者・AI研究者・認知科学者などとの共同研究が活動の中⼼となっている。
⽬下「媒介」（mediation）という概念を軸に科学にも開かれた哲学のあり⽅を模索している。
主な著書：

Das Problem des ʻUr-Ichʼ bei Edmund Husserl. Springer:
Dordrecht, 2006.
『フッサールにおける〈原⾃我〉の問題』法政⼤学出版局, 2010.
『現象学という思考──〈⾃明なもの〉の知へ』筑摩書房, 2014.
『〈現実〉とは何か──数学・哲学から始まる世界像の転換』
筑摩書房, 2019.（⻄郷甲⽮⼈⽒との共著）

1．序論
⼈間とAIの共存をめぐる問い

⼈間とAIの共存
ChatGPTが⼀般社会に衝撃を与えたばかりだが、この流れは⽌まりそうもない。
今後AIはますます「⼈間のような」振る舞いを加速していくだろう。
ここで⼈類がAIを捨てる選択肢はありうるか？──ありえない。
捨てないとすれば、共存しなければならない。
起こりうる否定的なシナリオ
1）⼈間がAIにあらゆる⾯で凌駕されてしまい、AIに従属するような未来
2）AIの「⾃律性」を徹底的に制限し、AIの発展を意図的に阻害し、AIを奴隷的な「単なる道具」の位置に留め置くようなやり⽅

1）AIに⼈間が従属
2）AIを奴隷的役割に制限
1）は、⼈間にとって望ましい未来ではない。
2）では、⼈間は主⼈の位置に留まるが、AIの可能性を不⾃然に抑え込むようなことになる。しかし、これまでの⼈間の歴史を⾒ても、新しい便利な技術が出てきたときに、それを使わないで済ますことはできそうにない。遅かれ早かれ、⼈間はAIの能⼒をフルに使おうとし始めるだろう。
そうなると、残るのは、AIの能⼒をうまく⽣かしながら、それによって⼈間的価値を過度に毀損することなく、AIと共存する道である。

⼈間とAIの共存のあるべき姿とは？
ここには様々な⽂明的規模の問題が潜んでいて、ここでそのすべてを論じることはもちろんできない。
そこで、コミュニケーションにおける「⼈間らしさ」をどう考えるか、という点に焦点を絞る。
理由：① AIと共存するためには、AIが⼀定の「⼈間らしさ」を備えていた⽅が少なくともコミュニケーションは円滑になる。
② AIのいる世界・社会で「⼈間らしさ」を失わないようにするためには、「⼈間らしさ」として保持すべき価値は何か、という点について、⼈間の側でも⾃覚的になる必要がある。

今後の議論の流れ
1. そこでまず、⼈間を⼈間として捉える、あるいはもう少し⼀般化するなら、主体を主体として捉える際に、われわれは何をやっているのか、という点を少し考えてみたい。そこでは、われわれの他者経験の特性に関する現象学的な分析と、エナクティヴ・アプローチによる社会性の捉え⽅を引き合いに出す。
2. 次いで、AIとのコミュニケーションにおいては、⾼次の能動的レベルと低次の受動的レベルの経験が乖離するという指摘をする。
3. さらに、より⾼度な意味でAIが⼈間のパートナーになるには、⽣命的な「脆さ」「不安定性」を孕んだあり⽅が必要になるのではないか、という問題提起をする。
4. 最後に、そのような考え⽅から、AIとの共存にどのような未来が考えられるかを私なりに考察してみたい。

2. 他の主体を経験すること
現象学とエナクティヴィズム

主体を主体として捉えるとは？
• 「⼈間らしさ」を考えるために、「他⼈を主体として捉えるとはどういうことか」を少し考えてみたい。
• 「そこに⼀⼈の主体がいる」と思えることが、相⼿を⼈間らしく思うための最低限の条件だからである。
• まず現象学的な考察を引き合いに出してみよう。

現象学におけるDirect Social Perception (DSP)
通常他⼈の⼼は⾒えないと思われている。だから推論やシミュレーションが必要と考えられている。（⼼理学における「⼼の理論」、theory-theoryとsimulation-theoryの論争など。）
これに対し、他⼈の⼼は⾝体の振る舞いや他者との相互作⽤のなかに直接「⾒える」という主張がある。現象学などに⾒られる「直接社会知覚」（direct socialperception: DSP）と呼ばれる考え⽅である（Krueger2018, 2019など）。
これは、とりわけシェーラーやメルロ＝ポンティが主張し、近年再び取り上げられるようになった考え⽅である（Gallagher 2008, Gallagher & Zahavi 2008など）。

Krueger, J. (2018). Direct social perception.
In A. Newen, L. de Bruin, & S. Gallagher(Eds.), Oxford handbook of 4E cognition (pp.
301‒320). Oxford: Oxford University Press.
Krueger, J. (2019) Enactivism, other minds,and mental disorders. Synthese 198 (Suppl1): 365-389.
Gallagher, S. (2008). Direct perception in theintersubjective context. Consciousness andCognition, 17(2), 535‒43.
Gallagher, S. and Zahavi, D. (2008). The

phenomenological mind: an introduction tophilosophy of mind and cognitive science.
New York: Routledge.（第9章）

DSP: 感情は⾝体の振る舞いから「⾒てとれる」
たとえば感情は、⾝体の振る舞いから直接「⾒てとれる」という。肩を震わせて泣いている⼈にわれわれは悲しみの感情をダイレクトに感じとるし、笑顔で跳ね回っている⼦供の振る舞いから、その⼦供の喜びを感じとる。
感情が外⾯だけから成り⽴っているというのではないが、他⼈から⾒た感情は、決して「推論」されたり⾃分の内部で「シミュレート」されたりするものではなく、直接「経験」されるというのである。
他⼈の内部を⾒通すマジカルな視線があるということではなく、そのように⾝体的振る舞いが他⼈によって⾒られることも含んだ仕⽅で、つまり⾝体的外⾯も巻き込んだ仕⽅で成り⽴っている出来事を、そもそもわれわれは「感情」と名づけているのである。（「感情」とは内部に閉じ込められたものではない。）

AIの振る舞いとDSP
DSPは、「他⼈に⼼を⾒る」ということが、われわれの能動的な推論の働きによるものではなく、受動的な「反応」であると考えている。
DSPにもとづくなら、もしAIやロボットが⼈間と区別のつかない振る舞いを（ある⼀定程度以上に）実現できたら、そこに相互作⽤しうる⼀⼈の「主体」を⾒ざるをえないということになる。
現状のAIの発展からみれば、優れた俳優の泣きの演技を学習して画⾯上に再現するといったことは、おそらく不可能ではないだろう。そこでわれわれは、泣いているAIに同情してしまうといった反応を否応なく引き出されてしまうかもしれない。

エナクティヴな⾝体的相互作⽤
さらに、DSPを可能にしているのは、エナクティヴな⾝体的相互作⽤であると考えられる。
エナクティヴィズム（enactivism）の考え⽅によれば、「他⼈に⼼を⾒る」ということは、他⼈の⾝体的振る舞いと⾃分の⾝体的経験との間にある種の「ループ」のような相互作⽤が成り⽴つことによる。
私の⾝体的働きかけに他⼈が⾝体的に反応し、それにまた私が⾝体的に反応し……というループ。

⼼は⾝体と環境の相互作⽤のうちにあるエナクティヴィズムの場合も、他⼈の⾝体的な外的表現と⾃分の主観的な内的経験、⾃分の⾝体的な外的表現と他⼈の主観的な内的経験とが互いに噛み合って、はじめて間主観的なループ＝社会性が形成されている。

⾝体的表現

ループ
内的経験

「⼼」とはこのような⾝体と環境との相互作⽤のうちにある。（⼼は内⾯に閉じ込められてはいない。）

内的経験

⾝体的表現

⾝体的相互作⽤は受動的に⽣起するエナクティヴィズムの場合も、他者経験は⾼次の能動的推論によるのではなく、受動的な⾝体経験のレベルで起こると考えられている。

他⼈の⼼の推論（⾼次）

能動的
⾝体的表現

⾝体的な相互作⽤による間主観的ループの形成は、「意図的に」ではなく、「⾃然発⽣的に」「受動的に」⽣起する。

受動的内的経験

内的経験
⾝体的表現

3. AIとのインタラクション
受動性と能動性の乖離、「ごっこ遊び」と「⾒⽴て」の世界

⾝体的相互作⽤は受動的に⽣起する
⾼次：能動的と低次：受動的レベルを分けた。

「相⼿は機械」（⾼次の信念）

能動的

低次の受動的レベルのインタラクション、エナクティヴなループを発⽣させるような反応ができるAIが開発されたらどうなるか。

⾝体的表現

⾼次の信念のレベルで相⼿が機械だと思っていても、低次の受動的レベルでは相⼿との間に相互作⽤のループができてしまうことは避けられない。
勝⼿に⾃動的に起こってしまう。それが重要。

受動的⼈間

AI
⾝体的表現

⾝体的相互作⽤があっても、⼈間かどうかは⾃明でなくなった
われわれの他者関係の基礎は、知的な推論でもないし、⾼次の信念でもない。受動的な⾝体的相互作⽤。
これは、⼀定の条件を満たせば、⾃然と発動してしまう。そもそも⼈間を相⼿にしていてもそうなのである。
この場合、「相⼿は⼈間か？」とあえて聞かれれば、「そうだ」と答えられる。従来
は、それは問うまでもなく⾃明なことだった。AIの登場により、それは⾃明ではなくなった。

「相⼿は機械」（⾼次の信念）

能動的⾝体的表現

受動的⼈間

AI⾝体的表現受動的レベルと能動的レベルの乖離
他者経験に関して、①受動的⾝体的レベルでの反応と、②⾼次の能動的知的レベルでの認識を区別した。
①はAIとの間にも発⽣しうる。②は、様々な条件を⼿がかりに推論すべき事柄となった。直接知覚の対象ではない。
以前は両者が連動していた。①が成り⽴てば、⾃動的に②も成り⽴つと考えられていた。
AIの登場は、この両者を乖離させることになった。

「相⼿は機械」（⾼次の信念）

能動的⾝体的表現

受動的⼈間

AI⾝体的表現Eliza effect: チャットボットとの会話
AIチャットボットと⾃然⾔語で会話すると、⼈は⾮常に容易に相⼿を⼈間のように感じるという傾向がある（Eliza effect）。

Weizenbaum, J. (1966). ELIZA—a computer program
for the study of natural language communication
between man and machine. Communications of theACM, 9, 36–45

近年、Woebotというチャットボットにより認知⾏動療法の効果を確認した研究がある（Fitzpatrick et al., 2017）。被験者の学⽣は、チャットボットであることを知りながらも、「関⼼を⽰してくれる本当の⼈間のように感じた」といった感想を述べている。

Cristea, I. A., & Sucalǎ, M., David D (2013). Can you
tell the difference? Comparing face-to-face versus
computer-based interventions. The „Eliza” effect inpsychotherapy. Journal of Cognitive BehavioralPsychotherapy, 13(2), 291–298

Chat GPTとLINEを使った認知⾏動療法ボットもすでにある（mimo AI）。
https://mimo-ai-cbt.studio.site/

Fitzpatrick, K. K., Darcy, A., & Vierhile, M. (2017).
Delivering Cognitive Behavior Therapy to young
adults with symptoms of depression and anxiety using
a fully automated conversational agent (Woebot):
A randomized controlled trial. JMIR Ment Health, 4(2),e19.

機械とわかっていても⼈間のように感じる• これは⾯⽩い現象。

「相⼿は機械」（⾼次の信念）• 「相⼿は機械である」とわかっている。
• しかし、この⾼次の信念に妨げられることなく、実質上会話のループが成⽴し、そこでは感情的な絆・結びつきまでが⽣み出されている。
• （⾼次と低次の乖離）

発話

感情的絆
⼈間

チャットボット
発話振る舞いのレベルと知的理解のレベルの乖離
呉⽻真 (2021). ⽇本⼈とロボット──テクノアニミズ
呉⽻真も、「ロボットに対してあたかもそれム論への批判. Contemporary and Applied Philosophyが⼼をもっているかのように振る舞いながら、 2021, 13: 62-82.
明⽰的にロボットが⼼をもっているかを問わSharkey, N. and Sharkey, A. (2006). Artificialれると否定的に答える⼈が多い」と指摘してintelligence and natural magic. Artificial Intelligence
いる。
Review, 25(1-2): 9-19.

（呉⽻2021; Sharkey & Sharkey 2006;Wegner & Gray 2016, ch. 3）。

Wegner, D. M. and Gray, K. (2016). The Mind Club:Who Thinks, What Feels, and Why It Matters. New
York: Viking.

「ごっこ遊び」「宙吊り」「そこで、彼らの⾏動の解釈として、ロボットが⼼をもっているとは信じていないながらも、「不信の宙吊り」（Sharkey &Sharkey 2006; Duffy & Zawieska 2012）あるいは「ごっこ遊び」（久⽊⽥ 2017）に興じることで、⼈⼯物とのやりとりを楽しんでいる、というものが有⼒と考えられる」（呉⽻2021）「相⼿は機械」（⾼次の信念）

発話

感情的絆
Duffy & Zawieska (2012). Suspension of disbelief in social robotics. In
Proceedings of the 21st IEEE: 484-489.
久⽊⽥⽔⽣ (2017). 「AI と誠――ソーシャル・ロボットについて考える」.
久⽊⽥⽔⽣, 神崎宣次, 佐々⽊拓. 『ロボットからの倫理学⼊⾨』, 名古屋⼤学出版会: 105-118.

⼈間チャットボット
発話疑似⼈格的交流：「⾒⽴て」「あたかも」• 相⼿は機械で、意識も主体もないとわかってはいるが、それでも相⼿との「疑似⼈格的」会話を楽しむ、といったことが可能である。
• 相⼿が⼈間に近いパフォーマンスを⽰せば⽰すほど、われわれはほとんど⾃動的に、相⼿に対して⼈間に対するのと同じような反応をしてしまう。それは⽌められない（受動的・⾃動的反応）。そういうことはますます増えてくる。
• それは別に構わないのではないか。「AIを⼈間のように誤認するのは危険だ」という意⾒もあるが（Fuchs 2022）、利⽤者に「相⼿は機械なんだ」とはっきり認識させておけば⽐較的問題は起こりにくいのではないか。
• ごっこ遊びのような、「⾒⽴て」のような世界。「あたかも」の世界に遊ぶということが可能。当分の間、AIとのつきあいはそのようなものになるのではないか。
Thomas Fuchs (2022). Understanding Sophia? On human interaction with artificial agents. Phenom Cog Sci 2022.

4.
⽣命の不安定さとAI⼈間のパートナーになるうるAIとは？

「同じもの」の検索 vs. 臨機応変な対応• AIとの受動的⾝体的レベルでの相互作⽤は、おそらく近い将来かなりのレベルまで到達するのではないか。（ChatGPTなどを⾒ると、⾔語のみなら現状でも「会話」が成⽴している。）• さらに必要なものがあるとすれば、決まり切った応答を崩していくような「臨機応変さ」や「思いがけない返答の⾯⽩さ」などか。
• 本の内容はいつでも誰にとっても同じ。インターネットの検索もその延⻑線上。
• 企業のQ&Aサービスのボットなども同様。
• 他⽅、本当に「会話のできる」AIを求めるとすれば、それらとは違った性格が求められる。

揺らぎつつズレていくループ：脆さと不安定性• 変動し揺らぐ問いに対して変動し揺らぐ答えが返される。
• 互いに揺らぎつつ作⽤し合うループ、同じ軌道を回り続けるのではなく、絶えず揺れながらズレていくループが形づくられている。
• 「対話」とはそういうものではないか。絶えず脆さと不安定性を孕んでいる。（⼀⽅がつんのめっても他⽅が⽀える。そこで受け⽌めなかったら会話は崩壊。）

⽣命の不安定性• そうした不安定性は、⽣命の不安定性に帰着する。
• 近年のエナクティヴィズムは、それを⽣命の不安定さ・脆さ precariousnessと呼んで主題化している（Froese 2017; Weber & Varela, 2002; Di Paolo 2009）。
• ⽣命の核⼼に、崩壊していくプロセスがあり、それなしに⽣命はない。
•

Froese, T. (2017). Life is Precious Because it is Precarious: Individuality, Mortality and the Problem of Meaning. In G. DodigCrnkovic & R. Giovagnoli (Eds.), Representation and Reality in Humans, Other Living Organisms and Intelligent Machines.
Dordrecht: Springer, 33‒50.

•Weber, A., & Varela, F. J. (2002). Life after Kant: Natural purposes and the autopoietic foundations of biological individuality.
Phenom Cog Sci, 1(2), 97‒125.

•Di Paolo, E. (2009). Extended Life. Topoi 28, 9-21.

⽣命の核⼼にある「不安定性」• ⽣命を構成する各プロセスは⾃然に崩壊する傾向• どのプロセスが停⽌しても他のプロセスは消滅• 互いに消滅を⾷い⽌め合って循環的に⾃⼰⽣成• ⼀種の⼆重否定

Process 1（たとえば膜形成）

Process 2（たとえば代謝）インタラクションにおける「不安定さ」• ⽣命個体同⼠のインタラクションにも同じことが妥当• ⼈間同⼠のコミュニケーションも。
• やはり不安定性を孕んだ相互依存的・相互⽣成的プロセス

Selfʼs action

Otherʼs action

⼈⼯主体との共⽣と「不安定性」• もし⼈間と真にコミュニケーションをとれるパートナーを求めるのであれば、⼈⼯的な主体にもそのような「不安定性」を採り⼊れていく必要があるのではないか。
• 同じ規則性に100％従うものではないが、ランダムでもない。

humanaction⼈AI

artificial
agentʼs action

⽣死を賭けた⾏為• 「状況を第三者的に分析して最適な⾏動をとる」というのではない（少なくともそれだけではない）。
• 世界と他者に向けて⾃⼰を賭ける？ 真の「主体性」？
• ⾃⼰の消滅＝⽣死を賭けた⾏為？

Possible death

humanaction
Possible death⼈AI

artificial
agentʼs action

傷つきやすい⼈⼯主体？
• ロボット・AIの「傷つきやすさ」• 「ロボットがいかに壊れやすいか」という⼈もいるが、それはその存在者の本質にある脆さではない。それが存在することと、壊れることとは、相反する逆向きの⽅向性。
• これに対し、⽣命の脆さは、⽣命そのものの本質に含まれている。
• ⽣命が「ある」ということは、「不安定である」ということによってはじめて実現されている。それは「⽋点」ではなく本質的な条件である。

AIに⽋けているのは傷つきやすさ？
「死」が⼰れの存在に組み込まれていないのが現在のAIの弱み？
「⽣と死に根ざしたものでなければ、報酬は報われないし、損失が痛みを与えることもない。」(Paul 2021)「傷つきやすさ［脆弱性］こそ、AIに⽋けているものかもしれない。」(Paul 2021;
see also Damasio 2021)
Paul, A. M. (2021). Vulnerable machines could be smarter ones. The Boston Globe, Oct. 8.
https://www.bostonglobe.com/2021/10/08/opinion/vulnerable-machines-could-be-smarter-ones/
Damasio, A. (2021). Feeling & Knowing. New York: Pantheon.

傷つきやすいAI・ロボットは可能︖
傷つきやすさ・不安定性によって本質的に規定されたAIやロボットを、われわれはまだ⽣み出せていな
いし、⽣み出せる⾒通しも⽴っていない。
しかし、「⼈⼯⽣命」（ALife）の分野で探究されてきたように、何かしら⽣命的なもの、⽣命と近しいものは作ることができる。
⼈⼯的な主体にも、そのような契機を採り⼊れていく必要があるのではないか（もし本当に⼈間とコミュニケーションできるパートナーを⽣み出そうとするのであれば）。

⽣命の不安定性と「いのちある」AI• AIが⽣命の不安定性を取り込んだとき、AIはより本質的な意味で⼈間のパートナーになりうるのではないか。
• 「死にうる」AIが⾃らの⽣死を賭した決断をするとき、われわれはそうした決断を尊重せざるをえないし、そのような存在者を「いのちを持つ」存在者として尊重せざるをえない。
• ⼈⼯知能というより⼈⼯⽣命。

5. AIとの共⽣の未来
⼆種類の⼈間らしさ

⼆種類の「⼈間らしさ」• ここまでの議論では⼆種類の「⼈間らしさ」が出てきた。
• 1）⼈間が受動的に反応しうる⾝体的な振る舞いの⼈間らしさ。これはかなりの程度AIが模倣できる。受動的な「反応」のレベル。だから、⼈間もAIに対し⾃動的に⼈間に対するような反応をしてしまう。
• 2）⽣命的なレベルでの⼈間らしさ。「死にうる」存在者として、⽣死を賭した⾏為を⾏うことができる。何らかの「死の⾃覚」が伴うなら、そこには「⼀度限りの決断」が⾏われうる。どういうことか？→⼀度限りの決断• 「⼀度限りの決断をする」というのは⼈間らしい振る舞い。
• それは、ある意味で「偶然的」だが、にもかかわらずそこには特別な意味が付与される。そこに⾃らの⽣命が賭けられているからである。
• われわれの⼀つ⼀つの⼩さな決断も、究極的には、⾃分の⽣命を維持するか、失敗して⽣命を失うか、という選択につながっている。
• それは「⼀般的な」判断ではなく、「いまここで⽣きている⾃分⾃⾝はどうなのか、ほかならぬこの⾝体をもつ⾃分はどうなのか」という個体的決断。

責任をとることのできる主体• もしAIが⼈間的振る舞いを⾼度なレベルで模倣しうるようになったとしても、その判断が「⼀般的」判断にとどまるならば、AIは「責任をとる」ことはできないだろう。
• 「責任をとる」ことができるのは、「⼀度限り」の決断をしうる者だけではないか。誰にでも肩代わりされうるなら、それは「責任」とはいえない。肩代わりできない、「⾃分が担うしかない」のが責任である。
• AIが「責任を取りうる」存在者となったとき、AIは真に「信頼しうる」⼈間のパートナーになれるのかもしれない。

• ここから、AIと⼈間が共存する未来を⼆つのパターンに分けてみたい。
• 1）⼈⼯⽣命的なAIが⽣まれない場合• 2）⼈⼯⽣命的なAIが⽣まれた場合

①⼈⼯⽣命的なAIが⽣まれない場合• AIとの間にエナクティヴなループが形成され、⼈間と同様にコミュニケーションをとれるとしても、⼈間の側は「相⼿は機械である」という認識を保持する（「⾒⽴て」の世界）。
• AIの地位も、当然のことながら従属的なものになる。
• 「⽣死を賭して」決断し「責任」をもつのは⼈間のみ。AIの能⼒がいくら⾼まっても、⼈間には、統計的な推論ではなく、⼀度限りの「決断」を⾏うという役割が残る。
• （当分はこうした状況？）

②⼈⼯⽣命的なAIが⽣まれた場合• AIを⼈⼯的な主体として認め、尊重せざるをえない。
• 異なった種類の主体として認め、その権利を認める。
• そこでは、AIたちもまた「決断」し「責任」をもつ主体となる。
• 社会的な合意と法的な整備が早急に必要となるだろう。
• その場合、⼈間は、「⾮⼈間的な知性的存在者」という新しい種類の同胞／パートナー／コンパニオンと、まさしく「共⽣」する時代に⼊る。

⼈間とAIの共存のあるべき姿• どちらが望ましい未来かを単純に⾔うことはできない。
• ①道具的なAIは制御しやすいが、②⾃分で決断するAIは「何を考えているかわからない」。
よい意味でも悪い意味でも「他者」。
• ①道具的なAIは使う⼈間によって「悪⽤」もされうるが、②⼈格的なAIは（適切に⼈格を陶冶すれば？）「⾃ら悪⽤を拒否する」かもしれない。

• 個⼈的な予想としては、⼈間は「⾃律的な⼈⼯主体」を⽣み出すところまでAI開発を推し進めずにはいられないと思う。
• それがいつになるかはわからない。
• しかし、AIとの⼈格的関係、それが帰結する倫理的諸問題や法的・社会的諸制度のあり⽅について、今から考えても決して早すぎることはないと思われる。