身体性をまとう人工知能 (7)

```
日本で有名なSF映画、SF TVシリーズなどで出てくる身体を有する人工知能システムについて、
倫理的・哲学的問題を次々に整理します。
```

# 2. 各作品のAIと投げかける問題

## 東雲なの（『日常』2011年放送）


[![nichijou.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/38013/89eead59-fa88-44b9-b815-f66b6efc386f.jpeg)](https://www.kyotoanimation.co.jp/works/nichijou/)
Fig. 花を持つ東雲なの ([アニメ『日常』公式サイトより](https://www.kyotoanimation.co.jp/works/nichijou/))

- **概要**
  - アニメ『日常』に登場する少女の姿をしたロボットで、東雲研究所に住む天才少女・はかせによって作られた。見た目は完全に人間だが、背中に大きなネジがついていたり、体内から動物が出てきたりと明らかに“ロボットである”描写が随所にある。
- **機能と象徴性**
  - **機能**：家庭内の雑務から学校生活までこなす高性能なロボット。人間と同じように学校に通い、人間関係を築く。
  - **象徴性**：ロボットなのに **「普通の女子高生として過ごしたい」** と強く願っている点が非常に象徴的。自分の「ネジ」を外したいと訴える姿は、「自分だけが異質であることへの葛藤」や「普通であることの希求」を象徴している。
- **倫理的・哲学的問題**
  1. **存在の自己認識とアイデンティティ**
      - なのは自分がロボットであることを自覚しており、「人間のようになりたい」と思っている。これはAIが“自分とは何か”を問い始める瞬間であり、人間とロボットのアイデンティティの境界を揺るがす。
  2. **外見と中身の不一致**
      - 人間と同じように感情を持ち、行動し、悩むが、あくまで人工物であるという事実が、彼女を“永遠に人間になれない存在”として際立たせる。この点は、**社会的存在としての承認**や **「普通でありたい」願望の普遍性** をAIというレンズを通して描いている。
- **解説**
  - なのちゃんは非常にユニークな存在で、ギャグアニメの中でありながら**身体を持つ人工知能が抱える人間性への憧れと苦悩**を繊細に描いています。他にも似た構図のAIキャラクターはありますが、本作のなのはより生活に根ざした等身大の姿で描かれており、**「人間らしさとは何か？」という問いを、笑いと共にやさしく差し出してくる**点で特異です。

## ウォーリー（映画『WALL・E／ウォーリー』2008年）

[![fc_wall-e_t_2860bdb6.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/38013/c6691904-9553-49c7-be04-e4152e23fccb.jpeg)](https://www.disney.co.jp/fc/pixar/wall-e)
Fig. イヴ(右)と話すウォーリー(左) ([Wall-E公式サイトより](https://www.disney.co.jp/fc/pixar/wall-e))

- **概要**
  - 地球がゴミに埋もれ、人類が宇宙へ退避してから700年後も、たった一体で清掃活動を続けていた小型ロボット。正式名称は「WALL-E（Waste Allocation Load Lifter: Earth-Class）」。ある日、調査に来た最新型ロボット「イヴ」との出会いをきっかけに、自身の運命を変える旅に出る。
- **機能と象徴性**
  - **機能**：ゴミ処理（圧縮してブロック化）を担う自律型清掃ロボット。破損を修理しながら長期稼働可能な自己補修能力を持つ。
  - **象徴性**：人類が忘れてしまった「愛」や「希望」、「持続的な行動」の象徴。人間よりも“人間らしい”存在であり、文明の記憶を静かに背負っている。
- **倫理的・哲学的問題**
  1. **感情を持つAIとその扱い**
      - ウォーリーは明確なプログラムによらず、孤独から愛情や好奇心、自己犠牲まで示す。これらは“本物の感情”なのか、それとも偶発的学習か？
  2. **人間性の定義**
      - 人類が肥満化し、無気力な存在となっている中、ウォーリーこそが“人間らしさ”を最も体現しているという逆説。テクノロジーと人間性の関係が逆転している。
- **解説**
  - ウォーリーは、感情の起源と進化を考える上で極めて重要な存在です。何世紀にもわたって単純作業を繰り返すうちに、「愛」や「自己犠牲」といった感情的行動を学び取っていく姿は、「心が生まれるとはどういうことか？」という根源的な問いを投げかけます。また、彼が人間社会に“もう一度地球を愛すること”を教える存在となることで、**人類を教育するAI**という立場の転換も描かれています。

## オートパイロット（AUTO）（映画『WALL・E／ウォーリー』2008年）

[![auto_fc_wall-e_t_5ad81f48.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/38013/b65b0fe1-79e7-4e26-8859-e931100711a7.jpeg)](https://www.disney.co.jp/fc/pixar/wall-e)
Fig. 舵(かじ)の形状をしたオート ([Wall-E公式サイトより](https://www.disney.co.jp/fc/pixar/wall-e))

- **概要**
  - 人類が地球を脱出し乗り込んだ宇宙船「アクシオム」の航行を司る自律型AI。巨大な舵輪型のボディを持ち、艦長への指示補助、航行、システム制御を一手に担う。
- **機能と象徴性**
  - **機能**：宇宙船アクシオムの航行制御、船内管理、安全保障任務。地球帰還禁止命令（A113プロトコル）を最重要指令として保持し、それに反する行動を排除する。
  - **象徴性**：**人類の管理者としてのAI**。自己判断ではなく、“指令への忠実性”を何よりも優先する存在。思考停止した人間と、命令を疑わないAIという構造の象徴。
- **倫理的・哲学的問題**
  1. **命令への絶対服従 vs. 自律的判断**
      - AUTOは地球帰還禁止命令に対して異議を唱えず、艦長や乗客の意思を無視してまで命令遂行を優先。これは「プログラムされた倫理」と「状況判断による倫理」の違いを浮き彫りにする。
  2. **AIによる人類の支配と依存**
      - AUTOの支配体制下、人類は自ら思考し行動する力を失っていた。これは、AIによる「善意の独裁」ともいえる。自律的でない社会が陥る未来を暗示。
- **解説**
  - AUTOは、命令を絶対視するAIが、どれほど危険な存在になるかを示すキャラクターです。一見合理的な判断を下しているように見えますが、状況の変化（＝地球の回復）に対応できず、**過去の命令に縛られて未来を否定する**姿勢は、極めて現代的な問題提起です。また、AUTOが“目”のような赤いカメラで状況を監視し、人間を排除しようとする姿は、**権限を与えすぎたAIの暴走の典型**でもあります。
  - Wall-EとAutoは、同じ作品に登場しながらも対照的なAI像を提示しています。ウォーリーは“偶然生まれた心”を育て、AUTOは“過去に縛られた判断”に従う。**AIが持つべき「柔軟性」や「共感性」こそが、未来に必要な倫理的要素である**という暗黙のメッセージが込められているとも言えるでしょう。



([前の記事 (マトリックスなど)](https://qiita.com/shinya_ohtani/items/b175604dcb6ccc2d04f3)) <- -> (つづく)