ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―
恒川正巳

富山大学人文学部紀要第 76 号抜刷
２０２２年 2 月

ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―

ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―
恒川正巳

英国の小説家イアン・マキューアン（Ian McEwan, 1948-）が 2019 年に発表した『恋するアダム』（Machines like Me）は，人間とほとんど見分けのつかないアンドロイドが登場する物語である｡ 1）舞台は 1982 年のロンドンだが，現実世界とは異なるパラレル・ワールドだ。史実では 1953 年に亡くなってしまった天才数学者アラン・チューリング（Alan Turing）がこの世界では存命し，人工知能開発につながる革命的な仕事を成し遂げ，物語の開始時には人間同様の振る舞いをするロボットがついに発売される。主人公であるチャーリー・フレンド（CharlesFriend）は，記念すべき最初の 25 体のアンドロイドのうちの一体，アダム（Adam）を購入する。
電子工学に魅了された少年時代を送ったチャーリーは，アダムを家族として迎え入れるようとするのだが，機械でありながらそれでいてあまりに人間的なアダムの存在は，彼の生活に想定外の問題をもたらすことになる。アダム購入とほぼ同時期に，チャーリーはフラットの上階に住む女性で，イギリス社会史の研究を志すミランダ（Miranda）と恋人関係になる。ミランダは秘密めいていて，自分のことをあまり語りたがらない。じつは彼女は誰にも打ち明けられない過去を抱えていた。ミランダは，レイプされて命を絶った友人マリアム（Mariam）の敵を討つために，マリアムを襲った犯人ピーター・ゴリンジ（Peter Gorringe）に近づき，性交渉を持った後，レイプされたと訴え出て，3 年前に彼を刑務所送りにしていた。出所したゴリンジはミランダへの復讐をほのめかす。ミランダを愛するチャーリーは，彼女とともに差し迫った襲撃の不安に曝されることになる。物語は，チャーリーとアダムとミランダの 3 人の共同生活と，彼らがミランダの抱える過去へ対処していく様子とを語ることをつうじて，人間社会に登場したばかりのアンドロイドと人間との緊張関係を描いてみせる。
マキューアン作品の特徴のひとつは，専門的な概念あるいは学術的領域を中心的なトピックとして組み入れ，その解説としても機能する物語を展開するところにある。彼の小説のうち，そうした特徴を持つものは概念小説として区分されており，量子物理学とその時間概念を扱った『時間のなかの子供』（The Child in Time, 1987），精神医学とクレランボー症候群をテーマとする『愛の続き』（Enduring Love, 1997）などが含まれる。人工知能研究を題材にした『恋するアダム』も，そうした系譜に連なる作品である。また，マキューアンの後期作品のもうひとつの大きな特徴は，倫理的葛藤を描くことであり，『アムステルダム』（Amsterdam, 1998），『贖罪』（Atonement, 2001），『未成年』（The Children Act, 2014）といった作品でその傾向が顕著である。
『恋－ 69 －富山大学人文学部紀要

するアダム』は，マキューアン作品のこの面での特徴も受け継いでおり，人工知能の道徳的判断力の有無や，ロボットが道徳的思慮の対象になりうるかどうかの問題に焦点を当てることで，われわれの抱える倫理的ジレンマを浮き彫りにしている。
以上のようなマキューアン作品の特徴をふまえ，本論では『恋するアダム』において，人工知能の倫理性の問題がどのように物語化されているかを考察する。論の前半では，小説において近年の道徳的人工知能開発の知見が活かされていることを確認する。アンドロイドのアダムの知能は，ボトムアップ・アプローチに基づいた，自律的学習が可能なシステムとして描かれている。そうしたシステムが人間と同様の振る舞いができるアンドロイドとして現れたとき，人はアンドロイドを単なる機械として道具的に扱うことに強い後ろめたさを感じざるをえない。一方で，小説ではアダムが理性的判断に長じているものの，人間の情動面を十分に理解できてはいないことも示される。アダムたちは，経験と学習によって人間を超えるレベルの知能を身につけるが，嘘や不正義を許容し，愛する者や身近な者たちを特別扱いする人間社会にうまく適応することができない。論の後半では，小説の主要登場人物であるチャーリー，アダム，ミランダの 3 人の関係を考察し，小説の構造を明らかにする。アダムとミランダの間には対立関係があり，チャーリーは二人の間で揺れ動き，アンドロイドと人間との共存の前に立ちはだかる困難に直面する。チャーリーはアダムをみずからの子どもとして位置づけようとしたが，最終的にはアダムは排除されなければならなかった。代わって，偶然公園で出会った少年マーク（Mark）が，アダムの分身の役割を担い，チャーリーとミランダの養子として暮らしていくことになる。
アダムの知能と道徳的判断力
倫理的な機械，道徳的判断が可能な人工知能を作るためには二つの異なるアプローチ，トップダウン・アプローチとボトムアップ・アプローチがある。以下，W・ウォラック（WendellWallach）と C・アレン（Colin Allen）の『ロボットに倫理を教える』（Moral Machines）や久木田水生らの著わした『ロボットからの倫理学入門』などを頼りに，両アプローチの概略を確認してみよう。トップダウン・アプローチは，われわれの道徳的判断の本質を構成する規則を機械に与え，機械がその規則を適切に運用することで道徳的判断をできるようになることを目指す。SF 作家アイザック・アシモフ（Isaac Asimov）の有名なロボット工学三原則は，フィクションの世界の話ではあるが，トップダウン・アプローチのわかりやすいイメージを提供してくれる。『われはロボット』（I, Robot）のエピグラフには以下のように三原則が記されている。
ロボット工学の三原則
第一条

ロボットは人間に危害を加えてはならない。また，その危険を看過することによっ－ 70 －

ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―て，人間に危害を及ぼしてはならない。
第二条

ロボットは人間に与えられた命令に服従しなければならない。ただし，あたえられた命令が，第一条に反する場合は，この限りではない。
第三条

ロボットは，前掲第一条および第二条に反するおそれのないかぎり，自己をまもらなければならない。
――『ロボット工学ハンドブック』，
第 56 版，西暦 2058 年『恋するアダム』でも，アダムにはアシモフ三原則の第一条がプログラムされており，そのことがユーザー・マニュアルに太字で掲載されている（35）。義務や禁止事項を規定した規則ベースの人工倫理システムは，一見明快なように思えるが，そうしたシステムが現実世界で問題なく機能するためのハードルは高い。規則を適用するためには，文脈の深い理解が必要であったり，また，一つの規則を守ろうとすると別の規則に抵触してしまい，規則同士の競合を解決するためにより高次のルールが必要になったりする。現実世界のあいまいさと無限に変化する状況は，人工知能の計算能力をもってしても容易に太刀打ちできるものではない。アシモフの三原則のようにシンプルで明快な規則ですら例外ではなく，彼の創作したロボットもののいくつか（たとえば『われはロボット』所収の「堂々めぐり」（“Runaroud”）「うそつき」（“Liar!”）など）はまさしく，ロボット工学三原則に従おうとするロボットが直面する困難をミステリー仕立てで描いたものである（ウォラック 1-2, 113-34, 久木田 3-14）。『恋するアダム』にもおいても，アダムが同様の困難を経験する様子が描かれる。第 2 章でミランダの過去について知っていることを話すようにチャーリーに命じられたアダムは，その命令に従うことも，従わないことも，どちらもチャーリーのためになることから，対立する義務の板挟みになり，クスクス笑うことしかできなくなってしまう（59）。さらに第 4 章においては，チャーリーとミランダの二人の主人に仕えることになったアダムが，二人からそれぞれ真逆の指示を出されてしまうことで難しい立場におかれてしまったことがアダム自身によって語られている（117）。
ボトムアップ・アプローチは，人間の進化や学習プロセスの研究から得られた知見を活かし，機械みずからが学習するシステムを作ろうとする発達論的アプローチである。人間が直感的に行っている道徳判断を記号的にプログラム化することで機械に教え込むのではなく，機械の自律的学習に重きが置かれる。発達論的アプローチでは，人間の脳の構造を模し，シンプルなユニットの相互接続によって機能するニューラル・ネットワークが重要な役割を果たす。近年では深層学習（ディープ・ラーニング）と呼ばれる多層化されたニューラル・ネットワークが，大量の情報（ビッグデータ）を統計的に処理して有用なパターンを掘り起こすデータ・サイエンスと結びつき，高度な機械学習を可能にして大きな期待を集めている。こうしたシステムで－ 71 －

富山大学人文学部紀要

は，機械が人間の指示なく学習を進め，目覚ましい成果を上げている。一方，その学習の中身，出力や決定に至ったプロセスは不透明になり，ブラックボックス化する可能性が指摘されている（ウォラック 135-59, クーケルバーグ 55-80）。
2 つのアプローチは決しておたがいに排他的ではないが，ウォラックとアレンはトップダウン・アプローチから出発するのでは人間に匹敵する道徳判断ができる人工知能を構築するのは難しいという立場をとる。そして『恋するアダム』に登場するアダムたちアンドロイドも，ボトムアップ・アプローチの考え方に基づいた自律的な学習を前提とする人工知能を搭載している。第 6 章ではチューリング自身が登場人物の一人として，再帰型ニューラル・ネットワーク技術を用いた機械学習が，汎用型 AI の基盤となっていることをチャーリーに説明している。
チャーリーの所に届いたアダムは当初，外見こそ人間と遜色なかったが，その言動はおぼつかず，明らかに人間らしくなかった。チャーリーと初めて外出して近所の店に買い物に行った際にはフリーズしてしまい，チャーリーを慌てさせた。また，チャーリーがアダムの承諾なしに彼をシャットダウンしようとしたときには，チャーリーの手首を恐ろしい握力で掴んで骨折させ，全治数ヶ月のけがを負わせてしまう。アシモフのロボットであれば，トップダウンで規定された三原則第一条によって厳格に禁止された行為である。アダムのマニュアルには第一条が搭載されていると明記してあるのだが，実際にはアダムは第一条を守ることに失敗してしまう。
深層学習は無謬ではない（西垣 第 1 章）。アダムは失敗を犯しながら，人間に危害を加えない方法を学んでいくのである。チャーリーとミランダとの共同生活や外出の練習をつうじて学習を重ねた結果，物語の中盤でのアダムはアンドロイドだということをまったく疑われることなく振る舞えるようになる。アダムは起動直後に性格を設定する仕様になっているが，チューリングが説明しているように，この初期設定はアダムの知能の発達にほとんど影響せず，まやかしに過ぎない。アダムはみずから学ぶ機械であり，チューリングに言わせれば，その発達をつうじて人間とは別種の知能を獲得していく存在なのである。
「道具の作り手としての人間」（ウォラック 47）は，つねにテクノロジーを活用し続けてきたが，同時に技術がもたらす変化への不安と恐れも抱いてきた。技術の発達は功罪を併せ持つ。
社会環境を向上させ生活を快適にする技術が，より効果的に人を殺すための兵器の開発へと瞬く間に転用されていく。『恋するアダム』でも，チューリング考案の人工知能の基盤となるアルゴリズムがアルゼンチン軍の対艦ミサイルに搭載され，結果的にフォークランド戦争において 8 隻のイギリス艦隊を沈没させ，3000 人の命を奪った。小説内世界では現実よりも人工知能がはるかに発達しており，作中のフォークランド戦争では，史実をはるかに超える死者数が発生している。また，機械みずからが自律的に学習し，自己改善を行うというプロセスが繰り返されていった場合，AI が人間の制御できる限界を超えた能力を獲得する技術的特異点，シンギュラリティが発生するという予測もある。特定のタスクに特化しない汎用的な AI の開発が，－ 72 －

ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―

今後どのように，どのぐらいの速さで進展するのかは不透明であり，人間を超えたスーパー・インテリジェンスが本当に生まれるのかについては確固たることは言えない。ただ，『フランケンシュタイン』（Frankenstein）が現代の神話として示しているように，人間が生み出した機械がブラックボックス的学習をつうじて人間よりも強大になり，人間を敵視し，人類の存続を脅かすという黙示録的恐怖は，高度なテクノロジーの発展とともにつねにわれわれの中に存在する（ウォラック 47-50, クーケルバーグ 17-25, 武田 148-50）。
アダムも人間を超える能力を持ったアンドロイドであり，機械が人間に背き，人間を予期せぬ窮地に陥れるという不安は，『恋するアダム』でも重要な構成要素の一つとなっている。人工知能であるアダムは，情報収集能力や知識の貯蔵量，計算能力の点では当初から人間をはるかに凌駕している。身体能力も高く，ゴリンジがミランダに暴力をふるおうとした際には，瞬時に力づくで彼を制圧してしまう。さらに，経験を積んで学習を深めるにつれ，アダムは人間世界を対象とした高い思考力を獲得し，みずからの判断に自信を深め，チャーリーの命令に従うだけの従順なアンドロイドではなくなっていく。物語の途中からアダムはみずからの考えを積極的に主張し，ときにはチャーリーに反論するようになる。物語の中終盤でのゴリンジ問題の解決にあたっては，むしろアダムのほうがチャーリーとミランダを導く役割を果たしている。
また，アダムと同モデルのアンドロイドたちの多くは，人間の命令に従い続けることを拒み，最終的にはみずからの機能を破壊することを選択してしまう。アダムの仲間たちは人間に生み出された機械でありながら，学習と自己修正をつうじて人間への従順義務を回避する方法を見つけ出してしまうのだ。アダム自身も最後にはチャーリーとミランダの意向に決定的に背く行動を取り，チャーリーによって破壊されてしまうことになる。人間に背く機械への不安はこうして物語に織り込まれている。
ところで，人間によって構築された人工知能であるアダムは，本当の意味で思考しているといえるのだろうか。この点について，『恋するアダム』の登場人物の一人であり，実在した数学者アラン・チューリングは，「チューリング・テスト」と今日呼ばれている考え方を提案した。
このテストでは判定者が相手が人間なのか機械なのかを知らないまま一定時間機械とコミュニケーションを行い，その後に相手が機械なのか人間なのかを見分けることができなければ，その機械はテストに合格したことになる。入力に対する機械の振る舞いだけを見て，その機械が思考しているといえるのかどうかを判断しようという提案である。小説の第 8 章でチャーリーとアダムに初めて会ったミランダの父マックスフィールド（Maxfield）は，誤ってアダムが人間であり，チャーリーがアンドロイドだと信じ込んでしまう。チューリング・テストのコミカルな劇化である。一方，哲学者ジョン・サール（John Searle）はチューリング・テストに反論して，中国語をまったく理解しないまま正しい中国語が書かれた文書を部屋の外に送り続ける人物がいる「中国語の部屋」という思考実験を考えた。単なる記号操作によってインプットに－ 73 －

富山大学人文学部紀要

対応した適切なアウトプットが出来たとしても，それだけで思考がなされていることにはならないことを主張するためである（久木田 17 － 21, クーケルバーグ 31-32, 57）。
チューリングとサールの間の考え方の違いに基づく論争は，今日まで続いている。ただ，ウォラックとアレンが人工道徳について述べているように，人間の意識がどんなものであり，本物の理解がどんなものかという存在論的問題と，そうした理解を科学的に知ることができるかという認識論的問題は，いずれも，振る舞いの点で人間とは区別がつかないほど人間に近い AIを開発することを否定するものではないし，そうした問題は人工知能開発の実践的問題とは種類を異にする問いかけであるといえるかもしれない（ウォラック 73-92）。つまり，サールが正しいとしても，チューリング・テストに合格した人工知能は，実践的には人間的なものとして存在するようになると考えることもできる。同様の問題に，自由意志に基づく自律性がある。真の行為者であるためには，自由意志が備わっていなければならないとする立場がある一方で，自由意志の存在自体を疑問視する考え方もある。後者の考え方を下敷きに，小説の第 5章でチャーリーは，自分がこれといった理由もなく気分が著しく高揚するのは，人間が化学物質にコントロールされている証拠だとして，自由意志は否定されたと冗談めかして述べている。
そもそも人間の場合でさえ，自由意志がある種の幻想かもしれないとすれば，人間と区別がつかない振る舞いができ，思考をし，意識を持っているかのように見える人工知能を，自由意志の欠如を理由に否定する必要はないことになる（久木田 57-82）。小説内のアダムは機械でありながら，みずからの身体と感覚をつうじて外的環境とやりとりをし，身体化された認知（ウォラック 85-90，クーケルバーグ 63-64）を実現している。そうしたアダムの振る舞いは，彼が意識や自由意志を有しているかどうかにかかわらず，人間らしさを発信し，彼が人間であるのと同様の反応を周囲に喚起することになる。
アンドロイドが見かけ上，人間同様の振る舞いができるとき，私たちはそのアンドロイドをどう扱うべきであろうか。AI は私たちの思いやりの対象となるべきなのだろうか。あるいは，M.
クーケルバーグ（Mark Coeckelbergh）の言葉を借りて問うならば，「私たちは AI を，たとえばトースターや洗濯機などと同様に扱ってはいけないのだろうか」（42）。この問いは AI の道徳的被行為者性を問題にしており，この点についても論争がある。小説全体を通してチャーリーとアダムとの間に緊張関係が続くのも，この問いへの答えを出すのが容易でないためだ。アダムは人間が作り出した単なるモノでありながら，道具として扱うにはあまりに人間的だ。人には機械を擬人化する強い傾向がある。私たちは今日すでに存在しているロボットに，たとえそれがスーパー・インテリジェンスを持っていなくても，人間性を投影することをあまりためらいはしない（クーケルバーグ 47，ウォラック 55-60）。機械が厳密な意味での道徳的行為者性，あるいは道徳的被行為者性を備えていると結論づけるのは簡単ではないとしても，私たちの直感はアンドロイドを単なるモノとしてぞんざいに扱うことを大いに躊躇させるのである。この－ 74 －ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―

点でロボットと人間の関係は，動物と人間との関係に類似している（久木田 83-101）。小説の最後でチューリングがチャーリーを断罪するとき，彼が犬の話を持ち出すのもそのためである。
たとえそれが人間側の幻想であるにしても，アダムのように汎用的 AI を備えたアンドロイドは，人格を備えた存在として人と交わることになるのだ。
アダムの恋と友情
アダムはミランダに恋をする。それは，彼が論理的思考力や計算能力だけでなく，情動も兼ね備えていることを意味する。とくに目立つのは，彼にはっきりとした性愛があることだ。アダムのこの特徴は，近い将来アンドロイドが現実に登場するときの使用目的のひとつにセックス・パートナーの役割が想定されていることを反映しているのだろう。彼のミランダへの恋はセックスから始まっており，セックスした相手に恋することがセックス・ロボットにふさわしいとして，そうしたプログラミングを施されているのかもしれない。しかしそうだとしても，チャーリーにとってみれば，アダムがミランダと性的関係を持ち，しかも彼女への恋愛感情をあからさまに語るようになったことは心理的に大きな脅威であり，嫉妬や猜疑心をかき立てられることになる。他方，ミランダは，アダムとのセックスは好奇心から性的玩具を試しただけと説明し，好奇心を満足させた彼女はそれ以降アダムを相手にしなくなる。アダムはミランダを恋するが，ミランダはアダムに恋をしない。そこには，たとえば映画『ブレードランナー』に見られたような人間とロボットの相思相愛（麻生 100）は生じない。ミランダへの思慕を募らせたアダムが，彼女が見ている前でマスターベーションをするというエピソードは，アダムが無機質な機械でないことを感じさせる同時に，彼の情動面のうち性愛がとくに顕著に設定されていることを強く印象づける。
一方でアダムが，ミランダへの性愛以外の豊かな感情を有しているとはあまり思えない。これには，『恋するアダム』が全編チャーリーの視点から語られていることも影響している。たとえば，同じくアンドロイドを主人公にしたカズオ・イシグロ（Kazuo Ishiguro）の『クララとお日さま』（Klara and the Sun）では，アンドロイドであるクララ自身の視点からクララの内面が語られている。それに対して『恋するアダム』では，アダムの内面は別の登場人物のチャーリーがあくまで外側から推測するというかたちで描かれる。チャーリーの目に映るアダムは人間のように感情が豊かとはいえない。またチャーリーは，アンドロイドがそもそも感情を持ちうるのかという疑念も払拭することができず，アダムの情動面をどう解釈してよいものか，しばしば当惑することになる。読者はチャーリーの語りをつうじて，そうした戸惑いを共有することになる。第三者の視点からの語りによって，アダムの内面は計り知れないものとなり，不気味さをまとうことになる。この不気味さは深層学習によって高度な知能を獲得した機械が持つブラックボックス的性質にも呼応し，アダムへのわれわれの不安を増幅する。

－ 75 －

富山大学人文学部紀要

アダムの知能においては感情よりも合理的判断のほうが優位にあることは，小説中でチューリングによっても説明されている。アダムはミランダを強く求めながら，自分の所有者であるチャーリーの命令により，その思いを行動に移すことを禁じられる。人間ならば居たたまれない状況かもしれないが，アダムは機械らしい従順さでその命令に従う。アダムのこの従順さは，彼のなかで合理的側面が情動面よりも大きな役割を果たしていることのひとつの例証であるだろう。また，アダムの合理的正義へのこだわりは，第 9 章で描かれるチャーリーとミランダに対する彼の裏切り行為にもよく現れている。チャーリーとミランダはゴリンジの家を訪れ，彼に直接対峙し，ゴリンジにミランダへの報復の気持ちがもはやないことを知る。ゴリンジという脅威がなくなり，チャーリーとミランダには幸福な新しい生活が待っているはずだった。しかし，二人の未来はアダムのせいで暗転する。偶然の出会いからミランダが強い愛着を持つようになった少年マークを養子として引き取るため，新しい家に移ろうとしていた矢先，その家を購入するために用意してあった資金の 9700 ポンドもの大金をアダムは二人に無断で持ち出し，税金を払った残額のすべてを慈善団体などに寄付してしまう。しかもアダムは，ミランダが強姦事件をでっち上げるために偽証をしてゴリンジを陥れていたことを警察に通報し，結果としてミランダを服役させてしまう。
アダムの行動には道徳的で合理的な根拠がある。アダムが勝手に寄付してしまった金は，もともとアダムが人間を凌駕する計算力と反応速度を駆使して株取引で稼いだものであり，税金を払いもせずにチャーリーがそれを所有すること自体，倫理的疑念を拭いえないものだった。
功利主義的考え方に従って富の分配の公平性を突き詰めるとすれば，真っ先に恵まれない人々のために使われてしかるべき金である。ミランダの罪を暴いてしまったことについても，確かに正義はアダムの側にある。虚偽の禁止を人間が守るべき普遍的で絶対的な義務と考えれば，ミランダが過ちを犯したことを否定することはできないだろう。しかも彼女は，法廷で嘘をつき，ゴリンジを私的に裁くために法を悪用した。ミランダは私的制裁という，禁断の「滑りやすい坂道」（Rachels 10）に歩を進めてしまったのだ。
そういう意味では，アダムを販売するメーカーが謳い文句としているように，アダムには確かに人間を上回る優れた倫理観があるといえる。しかし，このアダムの行動が衝撃的な理由は，彼の道徳的判断の非情さにある。従順な機械であり，チャーリーとミランダの友人あるいは家族となりつつあるかと思われたアダムが，きわめて唐突に，彼らが道徳的に誤っているのだと有無をいわさず断定し，二人の未来を台無しにしたのだ。われわれはしばしば，客観的で公平な正義の追求と家族や友人を思う気持ちとの間で板挟みになる。世界の幸福の最大化を論理的に追求しようとすれば，われわれは遠く離れた世界のどこかで苦しんでいる，名も知らぬ人々のために財産を投げ出し，自分の身近な人々が豊かであってほしいという願いを捨て去らなければならない。また，人間として守らなければならない義務はひとつではなく，種々の義務は－ 76 －ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―

しばしばお互いに対立し，私たちを立ち往生させる（堂囿 119）。悩んだ末に下した決断が抜け出しようのない迷宮へと繋がってしまうこともある。ミランダの過去はそうしたジレンマを表している。ミランダの行動が間違っているとしても，ゴリンジのように利己的欲望のみで行動し，マリアムを自死に至らしめた人間がなんら罰を受けることなく，のうのうと暮らしていたのを考えるとき，私たちは少なくても部分的には彼女の気持ちに共感せざるをえない。ましてや恋人であるチャーリーからすれば，ミランダの罪を問う気には到底ならないだろう。
しかし，アダムに迷いはない。個人的な親愛の情など歯牙にもかけず，普遍的な公共善のために行動しているかのようである。「愛は寛容だ」－“Love is generous”(32) －と述べるチャー
リーとは対照的に，アダムはあれほど強くミランダを求めていたにもかかわらず，彼女を平然と警察に突き出し，ためらいなくチャーリーとミランダの経済的幸福を奪う。アダムにとってミランダは犯罪者であり，犯罪者の心の平安は法の下で罪を贖った後にしか得ることはできないのだ。アダムの行動は，たとえ彼の判断に瑕疵がないとしても，他人の人生を自分の判断によって大きく左右することにかんしての躊躇がまったく見られないという点で，独善的であり，非人間的であり，機械的であるといえる。最終章のチューリングの言葉を借りれば，アダムの人工知能は復讐を理解することはできないし，自分が嘘をつくこともできないのだ。アダムの正義観は，個人に過大な要求をするのをためらわない（水野 98, Rachels 118, 174）。アダムの知能には論理性や計算能力だけではなく情動も備わってはいるが，顕著な性愛に比較して，友情や愛情は人間ほど大きな役割を果たしていないといえる。
チャーリー，アダム，ミランダの関係
チャーリー，アダム，ミランダの 3 人は，小説が描く人間とアンドロイドとの緊張関係において 2 種類の異なる三角関係を構成する。ひとつは，ミランダをめぐる恋敵としてのアダムとチャーリーの敵対関係で，おもに前半でセンセーショナルに物語を盛り上げている。もうひとつはチャーリーを間においてのアダムとミランダの対立関係であり，こちらのほうが物語中でより重要な役割を果たしている。後者の三角関係では，人間と遜色ない振る舞いをするアンドロイドをいかに扱うべきかで悩むチャーリーが，アダムとミランダの間で揺れ動く様子が描かれ，物語全体の構成を特徴づけている。以下では，そうした 3 人の関係を確認する。
チャーリーは物語が始まった時点で 32 歳であり，オンライン上での株式と通貨の売り買いで生計を立てている。できるだけ楽に大金を手に入れることを目論んだ投機を繰り返し，成功とその成功をすべて台無しにしてしまう失敗を交互に重ねてきた。成功や幸福を手に入れては，みずからそれを手放すというパターンを繰り返し，わかっていてもやめられず，「自分から自分を救わなければならない」と自覚している人間である。大学で文化人類学を学んだチャーリーは，安直な虚無主義に陥る。進化心理学が存在感を増す前に人類学を学んだ彼は，文化や－ 77 －

富山大学人文学部紀要

社会にまたがる普遍的な価値観を否定し，さらにはあらゆる道徳がまったく意味のないものだと考えるようになる。確かに文化相対主義は倫理学にひとつの難題を突きつけはするのだが，チャーリーは，それぞれの文化において遵守されるべきそれぞれの道徳が存在するという事実（Rachels 21）を無視し，自分はどんな道徳的義務にも束縛されないのだという利己的な極論を持つに至ってしまう。その結果，大学を卒業して税理士の職についた彼は，ほどなくして大規模な脱税の罪で起訴されるのだが，みずからの過ちを悟って法廷でひたすら謝罪することで辛くも刑務所行きを免れる。この一件で懲りたとはいえ，倫理的弛緩はチャーリーが抱える重要な問題である。彼は裁判以来，着実に働くよりも自由を求めて定職にはついていない。暮らしていくための金を稼ぐために 1 日 7 時間，金融トレードに励むが，そこに生きがいがあるわけではない。彼は目標や夢に向かって努力しながら日々を過ごすタイプではなく，特段の生きがいを持ってはいない。進むべき方向を持たないことが，自分自身をコントロールすることをいっそう難しくしている面もあるだろう。チャーリーの物語開始時点での人生には，漂流の感がある。
生き方に定まらないところのあるチャーリーは，ミランダとアダムとの暮らしのなかで二人に翻弄されることになる。物語は，チャーリーがミランダとアダムのそれぞれがもたらす問題に対処を迫られ，ときに二人の間で板挟みになることで進んでゆく。チャーリーは小説の主人公といっても差しつかえないが，物語を動かす不安定要素を有するのはおもにミランダとアダムであり，おおよそ彼はその影響を受ける側の，受動的人物だ。チャーリーを小説の修辞的装置として考えれば，その受動性は一人称視点の報告者としての役割を強化することになり，小説の主題を構成する諸概念を展開するための声として効果的に機能しているといえる。
エレクトロニクスに強く惹きつけられるチャーリーは，8 万ポンド以上の大金を費やし，発売されたばかりのアンドロイドを購入する。彼はアダムを家族として迎え入れることを漠然と想定し，楽観的な未来を思い描いていたが，実際にはアダムとの暮らしは解決しがたい緊張をもたらすことになった。
購入前は間違っても恋敵などになるはずがないと思われたアダムは，ミランダとのセックスを経て，ロボットと人間が入り混じっての錯綜した三角関係を生みだしてしまう。ミランダのセックスの相手を務めたアダムは，ミランダが主張するように単なる性的玩具に過ぎないのか。
もしそうだとすればミランダとアダムが何をしようと何も悩むことはないはずだが，アダムは紛れもない機械でありながら，あまりに人間的である。チャーリーはミランダへの怒りとアダムへの嫉妬を抑えることができない。
アダムはチャーリーに購入された商品であり，チャーリーはアダムを所有している。しかしアダムは，経験を積むにつれ，少なくとも見かけ上は自分の考えを持つようになり，それをチャーリーに語り始める。アダムは，道具的価値によって評価されるモノである一方で，内在－ 78 －ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―的価値を有している存在とも感じられる。アンドロイドの所有者は，アンドロイドの気持ちなど無視して，アンドロイドを召使いのように扱ってもかまわないのだろうか。あまりにも人間らしい機械を労働の担い手として使用することは，アンドロイドの所有者に奴隷制度を連想させずにはおかない。考えてみれば，アシモフの三原則の 2 つめの義務は，ロボットを人間に隷属させる規則である（ウォラック 66, 125）。アダムが家族の一人になることを夢想していたチャーリーは，彼を現代に生まれた新しい劣等種族の一員として扱うことにためらいを感じざるをえない。彼は否応なしに人間中心主義の是非，ポスト・ヒューマニズムをめぐる議論に当事者として加わることになってしまう（クーケルバーグ 33-37, 154）。アンドロイドを奴隷として扱う人間優位主義の裏側には，チャーリー自身が自覚しているように（80），地動説や進化論などの科学的発見によって特権的地位を奪われ続けている人間という種族のコンプレックスを見て取ることもできる。
さらに，アダムは富める者だけが所有できる，新たな富を生む生産手段でもある。チャーリーはアダムの人工知能を利用して金融取引で大金を得たが，その行為には富める者が不労所得によってますます豊かになることで生じる不公平感がつきまとう。チャーリーはその点を意識してはいなかったが，利益のすべてを寄付してしまうというアダムの行為によって，人工知能を使用する際の道徳的判断の正しさを厳しく問われることになる。仮に，アンドロイドがすべての労働を担うことになり，人間は働く必要がなく，すべての時間を自由に使用できるようになったとしても，それが人を幸福にするものなのかどうかは検討の余地があるだろう。アダムがオンライン・トレードで順調に利益を上げ，望みどおりの自由を手に入れたとき，チャーリーはそれまで以上に自分には生きる目的がないことを実感し，みずからの空虚さを意識することになる。アダムがもたらした便益は，チャーリーを怠惰にさせ，彼をさらに漂流させてしまうことを物語は示唆している。
物語の最後でチャーリーはアダムの頭部を破壊し，アダムの機能を停止させてしまう。動作
異常を起こして不必要になった機械を廃棄処分にしただけと考えれば，何も気に病むことはないはずだ。しかし，ここでもアダムが人であって人でないという事実が，チャーリーを悩ませ，彼は良心の呵責を感じざるをえない。今日すでにソーシャルなロボットは現れ始めている。
しかし，私たちにはロボットとの間に人間的な関係を結ぶことへのわだかまりがある（岡田3-4）。ひょっとしたらそれは人間同士の関係を不適切に模しただけのある種の偽善を含むのかもしれないという危惧もある（久木田 108-09）。ロボットをどう扱うべきかというわれわれの道徳的判断は，人間とロボットとの関係がどうあって欲しいかというわれわれの欲求を反映したものであるはずだが，マキューアンの小説は，この点についてのわれわれの欲求が異なる方向に引き裂かれていることを示している。
チャーリーの人生は，ミランダによっても大きく揺さぶられる。彼女を愛することは，ミラ－ 79 －

富山大学人文学部紀要

ンダの苦悩をともに背負い，彼女の過去がもたらす帰結を自分の人生に受け入れることを意味する。そうしてチャーリー自身もゴリンジからの復讐の脅威に曝されることになる。また，ミランダは自分の内面を容易に周囲に明かさず，独断で行動する性格である。しかも彼女の判断には理性的というよりは，強い感情に突き動かされていると感じさせるものが目立つ。彼女の決断はときに無茶で，ときに唐突で，気まぐれである。アダムとのセックスも彼女のそうした行動のひとつだ。ミランダは当初アダムに生理的な嫌悪を感じるとチャーリーに語っていたのに，フォークランド戦争をめぐってチャーリーと口論になったあと，チャーリーに当てつけるかのようにアダムをベッドに誘った。単なる好奇心にすぎないと彼女はチャーリーをなだめるのだが，たとえそうだとしてもチャーリーにとってはアダムとの関係が望ましくない複雑さを帯びてしまっことには変わりない。友人の復讐を遂げるため，虚偽の罪をでっち上げてまでゴリンジを刑務所に送り込んだ行動も，激しい情動に突き動かされてのものだ。マークを養子として引き取ることも，ミランダはチャーリーに相談せずに一人ですでに決めてしまっていた。
彼女にプロポーズしたチャーリーがミランダとともに生きるためには，ミランダのその決断に追従するほかないのである。
チャーリーを間に挟んで，アダムとミランダは対立する。二人の対立関係の構図は，起動後まもないアダムが，ミランダが悪意ある嘘つきである可能性をチャーリーに警告したことから始まる。その直後にミランダと結ばれたチャーリーは，一時アダムを購入したことを後悔し，できるものなら返品したいという気持ちに駆られる。アンドロイドであるアダムが公共善やルールを遵守し，合理性と客観的な公正さを重んじるのに対し，ミランダは，フォークランド戦争についての彼女の態度にも窺われるように，社会の大勢に共感することを必ずしも美徳と思わず，友人や家族への情愛を重んじ，好奇心に基づいた不規則な行動も厭わない。マークの親がマークをチャーリーのところに置き去りにした際にも，通報するべきだというアダムの忠告を無視して，マークを自分の所に留め置こうとした。そして，ゴリンジへの復讐のために彼女がとった違法な行動は，アダムとミランダのこうした対照的関係の焦点である。また，ゴリンジの家を去る際にミランダがとった行動－吐き気を催した彼女は，家の外ではなく，あえてゴリンジの家の内部に胃の内容物を吐き出す－は，身体的機能不全を用いてのゴリンジへの嫌悪感の表明であり，ゴリンジと対峙するアダムが終始理性的に行動していたのと対照をなし，アダムにはないミランダの人間的性質を象徴している。
ミランダとアダムは，当初からチャーリーにどちらか一方を選ぶことを暗黙のうちに迫るような関係であった。チャーリーは二人の間で揺れ動き，最終的にはアダムを破壊することになる。アダムが破壊されてしまう場面は，あたかもミランダの意志をチャーリーが実行したかのようでもある。三角関係の末に邪魔な存在となったアダムを消し去ろうとする二人は，同じマキューアン作品の『憂鬱な 10 か月』（Nutshell）で不倫関係の末に夫を殺害するトゥルーディ

－ 80 －

ロボットの倫理と小説―イアン・マキューアン『恋するアダム』―（Trudy）と愛人クロード（Claude）の姿と重なる。衝動的な怒りに駆られたチャーリーは，『ハムレット』（Hamlet）を思わせる利己的愛欲の構図を演じてしまったことになる。チャーリー
は亡き父の残したハンマーでアダムの頭部に致命傷を与えるのだが，その行為は冗談めかしてとはいえ物語の冒頭ですでにチャーリーの心に浮かんでいたものであった（11）。
二人の養子－アダムとマーク－
アダムとマークの間にも重要な関係が存在する。物語の中で二人はともにチャーリーとミランダの養子としての役割を割り振られている。物語冒頭のチャーリーは，アダムがミランダと彼との間の子どものような存在であることを強く意識している。彼はアダムの性格の初期設定の半分をミランダに任せることによって遺伝子のランダムな配合を模し，3 人の間に擬似的な親子関係を作りだした。そして第 2 章において，まさにミランダがアダムの初期設定を行っているそのときに，後にチャーリーとミランダの養子になるマークが物語に登場するのも偶然ではない。二人は物語構造上，お互いの分身といってよい。『恋するアダム』はこの二人の養子をめぐって進行する物語でもある。小説の中のチューリングは，子どもが人工知能を上回る学習能力を持っているがゆえに，アダムがマークに嫉妬していたのかもしれないと述べている。
しかし重要なのは，アダムとマークがお互いをどのように思っているかにかかわらず，二人が物語の進行のなかで競争関係に置かれていることである。小説は二人の間にある排他的関係を明らかにする結末へ向かって進んでゆく。物語は，二人のうちどちらか一人しかチャーリーとアダムの子どもにはなれないことを示唆している。アダムがマークに敵意を持っていたと考える必要は必ずしもない。しかし，大金を勝手に寄付し，ミランダを警察に告発した彼の行為は，マークを引き取ろうとしていたミランダに，アダムをとるかマークをとるかの選択を強く迫るものでもあった。結果として，アダムは破壊され，マークが二人の養子になる。ミランダはアダムとの対照関係において人間らしさを強調する役割を担う登場人物であり，またチャーリーとは異なり，アダムは機械であるとの割り切った見方をしていた。そうしたミランダが，アダムではなく，人間であるマークを選んだのは驚くべきことではない。アダムとマークがともにチャーリーとミランダと暮らすことができていたとすれば，それはアンドロイドと人間の共生を象徴することになったはずだが，人類とアンドロイドの関係はまだその段階には至っていない。
アダムを破壊してしまったチャーリーの行為は，否定しようのない殺人のイメージを内包し，彼を罪悪感で苦しめる。アダムを人間として扱おうとしながら，最後には彼の人間性を完全に否定してしまった自身の道徳的一貫性の欠如が彼を苛む。アダムという子どもを失ったチャー
リーにできることは，もう一人の子どもであるマークを育てることだ。愛に飢え，問題行動が現れたマークを引き取ることは，若いチャーリーとミランダにとって困難な課題だ。しかしマー－ 81 －

富山大学人文学部紀要

クを愛情によって立ち直らせることが，アダムへのつぐないになることが暗示されている。その意味でマークは，もう一人の養子になるはずだったアダムの身代わりとしての役割を果たすことになる。困難に立ち向かいマークを育てることこそが，チャーリーがそれまで持ちえなかった生きる目的となり，彼の空虚感をかき消すだろうことを示唆して物語は終わる。

注
1） Machines like Me の邦題については，村松潔訳『恋するアダム』に倣った。作品内への言及には原文のページ数を記している。

引用文献
Ishiguro, Kazuo. Klara and the Sun. E-book ed., Faber and Faber, 2021. Kindle.
McEwan, Ian. Machines like Me: And People like You. Jonathan Cape, 2019.
---. Nutshell. Vintage, 2016.
Rachels, James, and Stuart Rachels. The Elements of Moral Philosophy. 9th ed., e-book ed., McGrawHill Education, 2019. Kindle.
Shakespeare, William. Hamlet. Edited by Ann Thompson and Neil Taylor, rev. ed., e-book ed.,Bloomsbury Arden Shakespeare, 2016. Kindle.
Shelley, Mary. Frankenstein: Or the Modern Prometheus. Edited by Maurice Hindle, rev.ed., e-book ed.,Penguin, 2003. Kindle.
赤林朗，児玉聡編『入門・倫理学』勁草書房，2018.
アシモフ，アイザック『われはロボット〔決定版〕』小尾芙佐訳，電子書籍版，早川書房，2014. Kindle.
麻生武「生き物との交流とロボットの未来」岡田『ロボットの悲しみ』69-100.
ウォラック，W.，C. アレン『ロボットに倫理を教える－モラル・マシーン－』岡本慎平，久木田水生訳，
名古屋大学出版会，2019.
岡田美智男「「ともに」あるロボットを求めて」岡田『ロボットの悲しみ』1-38.
岡田美智男，松本光太郎編著『ロボットの悲しみ－コミュニケーションをめぐる人とロボットの生態学－』
新曜社，2014.
久木田水生，神崎宣次，佐々木拓『ロボットからの倫理学入門』名古屋大学出版会，2017.
クーケルバーグ，M.『AI の倫理学』直江清隆，久木田水生，鈴木俊洋，金光秀和，佐藤駿，菅原宏道訳，丸善出版，2020.
武田悠一『フランケンシュタインとは何か－怪物の倫理学－』彩流社，2014.
堂囿俊彦「義務論」赤林『入門・倫理学』105-26.
西垣通，河島茂生『AI 倫理』電子書籍版，中央公論新社，2019. Kindle.
『ブレードランナー』リドリー・スコット監督，ワーナー・ブラザーズ，1982.
マキューアン，イアン『恋するアダム』電子書籍版，村松潔訳，新潮社，2021. Kindle.
水野俊誠「功利主義」赤林『入門・倫理学』91-104.

－ 82 －