人間にできて、AI にはできないこと
荒田鉄二 ( あらた てつじ／公立鳥取環境大学環境学部 教授）

今 年 に 入 っ た 頃 に 生 成 AI が 話 題 に な っ て

世 界 で 実 現 す る こ と は で き ま せ ん。 こ れ は、いたので、試しに使ってみました。その際の龍（ドラゴン）は「架空の存在」という形の目 的 は、AI に は 何 が で き て、 何 が で き な い「存 在」 を 持 ち、 そ れ に つ い て 考 え た り、 描のかを探ることでした。このため、AI に少々いたりすることができても、現実の世界に龍意地の悪い質問をしてみました。の概念に対応する動物が存在しないのと同じ最初に質問したのは、経済成長に関するこです。私たちは「持続可能な経済成長」につと で す。「有 限 の 世 界 で 無 限 の 経 済 成 長 は 可いて、あれこれ考えたり、議論したりするこ能 で す か 」 と 質 問 し た と こ ろ、AI は 物 理 学とはできますが、だからと言って、それが現の教えるところに従って、「不可能です。」と実になるわけではありません。

答えてきました。しかし、それに加えて、「今次に質問したのは、「因果法則」と「選択の後は環境容量の範囲内でのサステイナブルな自由」の関係です。「この世界が原因と結果の経 済 成 長 が 求 め ら れ ま す。」 と い う 回 答 が あ因果法則から成り立っていることと、人間がり ま し た。 そ こ で、「サ ス テ イ ナ ブ ル な 経 済

選択の自由を持つことは、どのようにして両成長であっても、成長が続けば、いずれは環立し得るのか」を質問してみました。これに境 容 量 の 限 界 に 達 し て し ま う の で は な い か」

ついては、哲学の世界においても決定的な答と指摘したところ、途中のやり取りを省略すえには辿り着いていないとした上で、「物質的る と、 自 身 の 回 答 の 論 理 矛 盾 を 認 め た う え

な存在は因果法則に支配されるが、非物質的で、最終的には「どんな形の経済成長であれ、な存在である人間の精神は因果法則には支配無限の経済成長は不可能である」という最初されない」という、物質と精神の二元論に基の答えに戻りました。

づく回答が返ってきました。そこで、「完全に続 い て、「無 限 の 経 済 成 長 が 原 理 的 に 不 可

物質的な存在であるコンピュータは因果法則能 で あ る の に も か か わ ら ず、 な ぜ 経 済 成 長の支配下にあるはずであり、このことは精神が 求 め ら れ る の か」 を 質 問 し た と こ ろ、「経を持った AI を作ることは不可能であるという済が成長しないと社会的混乱を招くからでことを意味しているのか」と質問したところ、す。」という回答が返ってきました。

「絶対に」というわけではないという留保を付

ここから分かることは、私たちの社会で議けた上で、「その通りです。」という答えが返っ論 が 混 乱 し て い る 問 題 に つ い て は、AI も 混てきました。それならばということで AI の限乱した回答しかできないということです。私界 を 確 認 す る た め に、「人 間 に で き て、AI にたちは、有限の世界では無限の経済成長は不はできないことは何ですか」と訊いてみまし

可能という物理的な現実と、資本主義経済はた。すると、次のような答えが返ってきました。

成長なしには存続できないという社会的要請「 人 間 に で き て 、AI に は で き な い こ と と しの 板 挟 み に あ っ て、「 持 続 可 能 な 経 済 成 長 」て以下のようなものが挙げられます。という矛盾した概念を捻り出したわけです・経 験や感情を持つこと： AI は人工的な存在

が、それは概念としては存在しても、現実のであり、経験や感情などの意味や意図を持
7

「革新」と言われる技術の光と影

つことはできません。

きとは言わないまでも、少なくても未来志向・自 己意識を持つこと： AI は人工的な存在での技術ではないと考えています。今日の経済あり、自己意識を持つことはできません。

では交換価値としての「お金」が重視され、・自 由な意思決定をすること： AI は人工的にそ の 物 差 し で あ るGDPを 増 や す こ と を 目 的設計されたアルゴリズムやモデルに基づいとした経済運営が行われています。しかし、て動作します。意思決定には自己の意図や人間が生きていく上で本当に必要なのはモ意思が含まれないため、自由な意思決定をノの使用価値です。私は、持続可能社会の経することはできません。

済は、使用価値中心の経済になっていくと考・人 間の様な柔軟な対応力： AI は人工的に設えています。銀行の信用創造機能を通じて生計されたアルゴリズムやモデルに基づいてみ出される負債としての「お金」は複利の法動作します。人間の様な柔軟な対応力や創則に従って無限に増えていくことができます

造力を持つことはできません。

が、現実世界における使用価値（こちらは負これらは人間にしかできないことの一部で債に対して「正の価値」ということができるあり、現在の技術や知識に限界があるものででしょう）を持ったモノが無限に増えていくす。」

こ と は あ り 得 ま せ ん 。AI技 術 は 、 バ ー チ ャ

こ の 回 答 は あ る 意 味、 予 想 の 範 囲 内 で しルの世界での交換価値としての「お金」を増た。 そ れ は 以 前 読 ん だ『人 類 の 歴 史 と AI のやしていくことには非常に親和性の高い技術

未 来 』（ バ イ ロ ン・ リ ー ス 著 ） と い う 本 に、かもしれませんが、現実世界での使用価値を人間の意識がどのようにして発生しているの持ったモノを生み出していくことにどれほどか、そのメカニズムが全く解明されていない役に立つのでしょうか。近頃は小学校からAIため、それをコンピュータ上で再現すること対応の教育をしようということが言われていもできないと書いてあったからです。

るようですが、それよりは、自分自身の筋肉

ここから分かることは、AI はどこまで行っと道具を使って使用価値を持ったリアルなモても路線検索ソフトのようなもので、行先（目ノを作るトレーニングをした方が、将来的に的） は人間が決めるしかないということではずっと役に立つのではないかと考えています。

す。私たちは、生物界の一員として、リアル

こ の よ う な AI の 限 界 に も か か わ ら ず、AI議 論 が 過 熱 し て い る の は 何 故 で し ょ う か。

な世界で生きていかなければならないことを忘れてはいけないと思います。

STAP 細胞騒動は、 どこかの投資グループが生 成 AI を 使 っ て み て、 影 の 部 分 と し て 感

バイオ関連企業の株価を STAP 関連株としてじたことは、AI を使う人間の側の変容です。

つり上げ、嘘がバレる前に高値で売り抜けた

私も相手が生身の人間だったら、相手の矛盾という投資詐欺のようなもので、担ぎ上げらをとことん問い詰める質問はしなかったと思れた研究者もそのことが分かっていなかった

い ま す（ う ち の 奥 さ ん に は、AI を い じ め ると い う 話 が あ り ま す。 今 回 も、IT 関 連 企 業

ような質問をして趣味が悪いとたしなめらの 株 価 を AI 関 連 株 と し て つ り 上 げ、 高 値 でれました）。AI が人間を脅かすことになるの売り抜けるというマネーゲームが世界規模でではという心配がされていますが、自分自身行われているのではないかと疑っているのでの経験として心配になったのは、感情のないすが、いかがでしょうか。

AI と の 対 話 に 慣 れ る に 従 っ て、 人 間 に 対 し「AIが 未 来 を 切 り 拓 く 」 と い う よ う な こ とても同じような議論の仕方をしてしまうかもが言われたりもしますが、私は、AIは後ろ向しれないということでした。

8 環境と文明 2023 年 9 月号