システム理論の続き - AI時代の人間の創造性とは

[Cisco Advent Calendar 2023](https://qiita.com/advent-calendar/2023/cisco) 第22日目！

## 1. はじめに - 人間の創造性はどこからくるのか

2000年頃から第3次AIブームと言われDeep Learningの活用が進んできましたが、2022年11月発表されたChatGPTを代表とする生成AIのブレークにより、瞬く間に、多くの人がAIを広く実用する状況に至りました。そのため、2023年を振り返ると、カンファレンスの場でも、お客様や同僚との会話でも、AI関連の話題が多かったです。このことは、[Cisco公式Blog記事](https://gblogs.cisco.com/jp/2023/11/network-architecture-37-ai-and-network-systems/) でも書いたので、そちらも参照いただけると嬉しいのですが、その記事の冒頭に、「人間の知性と計算可能性を結びつける取り組みは、人間そのものの特性や人間の創造性を解明する、という面からも非常に興味深い」と書いておきながら、そこを深掘りしていなかったので、今回この機会に、少しでも深掘りしてみたいと思います。

私は年に一度仲間と綴るAdvent Calendarの場で、「システム理論」について連載しています。システム理論は、システムの要素同士の有機的なつながり方や相互作用に注目するアプローチで、人工システム以外の生物や社会などのシステム探求にも応用できます。

もしもご興味をもって戴けましたら、過去6回のエントリーもご覧ください。

- [2017年 ネットワーク・エンジニアリングから学ぶこと − システム理論の見地から](https://qiita.com/mkohno/items/0c02ef8f76415208bd4e)
- [2018年 システム理論の続き - 生命モデルの限界と克服](https://qiita.com/mkohno/items/a936357bd634e1f472af)
- [2019年 システム理論の続き - 宣言的ネットワーキング](https://qiita.com/mkohno/items/ac83cf461632fbf4d862)
- [2020年 システム理論の続き - 音楽をネットワーク分析してみた](https://qiita.com/mkohno/items/ba8e207c225484814aff)
- [2021年 システム理論の続き - 量子コンピューティング・思考のフレームワークを拡張する](https://qiita.com/mkohno/items/0e4b0c85ab9b9b75a79c)
- [2022年 システム理論の続き - デザインパターンとサービスメッシュ](https://qiita.com/mkohno/items/f04e4037a8ae78750f54)



## 2. AIと人間の違い

とはいえ、「人間の創造性」といった壮大なテーマをすぐに探求できる筈もなく、今回は、入り口のさらにその端っこに立って、AIと人間の違いを観察するところから始めたいと思います。

AIと人間の違いは何でしょう。観測的事実として次の3つが挙げられます。

- <strong>人間はアホな間違いやミスを犯す</strong>
- <strong>人間はパラドックスを内包する</strong>
- <strong>人間はおもしろがる</strong>

こうして見ると、人間ならではの特性には、あまりロクなものがないようにも思えます。これらは人間性の創造性につながっているのでしょうか。



### 2.1 人間はアホな間違いやミスを犯す
　
「いやいやAIだって間違うでしょう」というツッコミはご尤も。AIも間違うし幻覚（hallucination）も見ます。でもこれは人間の間違いやミスに「喩えて」いるだけで、「アホな間違いやミス」ではありません。AIが事実と異なる内容や、コンテクストと異なる内容を出力してしまうことがあるのは、その分野の内容や文脈を十分にトレーニングしていなかった、ということに過ぎません。

ここでいう「アホな間違いやミス」は、わかっていてもやってしまうポカミスです。「右」という意味もわかっているし、実際どこに向かうべきかもわかっているのに、「次右に曲がって」って言われて、咄嗟に左に曲がってしまうようなやつ。「該当しないものを選びなさい」という試験問題で、わざわざ該当するものを選んでしまうようなやつ。AIは、こういうアホなポカミスはしません。

「ゲーデル・エッシャー・バッハ（GEB）」[1] で有名な、認知科学者で物理学者であるホフスタッターは、「人間は過ちを犯す - 間違いを研究することは認知科学である（"To Err is Human - To Study Error-making is Cognitive Science"）」という論文 [2] を書いています。この論文では、「人の犯す間違いを網羅的にカバーできている訳ではないが、間違いの性質を研究することにより人間の認知一般を説明できる可能性がある」、としています。

まぁ、それがどう創造性につながるんだ、というところまではわかりませんが、確かにアホな間違いやミスが全くない状態を求める厳格な環境では、新たな発想や突飛なアイディアは生まれにくいような気がします。

### 2.2 人間はパラドックスを内包する

人間はパラドックスを内包する存在です。

あんなに固く強くダイエットを誓ったのに、美味しそうなものを見ると、今のこの時間を大切にしなくてどうする、とかとか適当な理由をつけて、ダイエットは明日から、になってしまう日々。ー このパラドックスは論理矛盾的パラドックスであり、価値観や最適化の基準が異なることから生じます。集団であれば、囚人のジレンマ [3] とか、共有地の悲劇 [4] が良い例になると思いますが、複数の異なる価値観や異なる最適化の基準が、単独の個人の中にも生じるために、人間はアンビバレンス（Ambivalence:相反する感情を同時にもつこと）というパラドックスを内包します。

他にも、有名なパラドックスのひとつに「自己言及」によるパラドックスがあります。「私は嘘をついています」という文章は真なのか偽なのか。この文が真である場合：私は嘘をついている → 「嘘をついている」というのは嘘 →  嘘はついていない、というのが結論？　この文が偽である場合：私は嘘をついている、というのは偽、つまり私は嘘をついていない → いやでもそれなら「嘘をついている」と言ったのは何だったのか、やっぱり嘘ではないか、、という訳のわからないことになり、全く収束しません。自己言及は日常的にもよくあることですが、ゲーデル大先生はこの自己言及性を推し進めて、不完全性定理 [5] を打ち出しました。
>第一不完全性定理 ― "初等的な自然数論"を含む無矛盾な公理的理論 T は不完全である。
>つまり T 内で証明も反証もされない命題が存在する。
>
>第二不完全性定理 ― "初等的な自然数論"を含む理論 T が無矛盾ならば、T の無矛盾性を表す命題は、その体系で証明できない。

パラドックスを知ることは、本質を知ることであり、過去にもこんな [Blog記事](https://gblogs.cisco.com/jp/2014/09/network-architecture-10-nfv-paradox/) を書いたことがあります。パラドックスが思考の糧になることは間違いありません。

では、これが創造性にどうつながるのか。

今は実感的にそうだ、としか言えないのですが、例えばモーツァルトの音楽。彼の音楽は圧倒的に長調が多いのですが（そして数少ない短調の音楽は、名作中の珠玉の名作）、快活で明るい長調の音楽の中にも、ふとした瞬間、一瞬短調になり翳りを見せます。このアンビバレンス！

それから、これも何故なのかはまだ追求できていないのですが、音楽の父と言われるバッハは晩年、フーガの作曲にのめり込みました。モーツァルトも、ベートーヴェンも、後期の作品にフーガを多用します。その後の作曲家も、ショスタコーヴィッチ、ラヴェル、、などなど例を出せば際限がありません。

フーガとは、いくつかの独立した声部が同時に演奏される対位法のひとつですが、決まった主題を拡大したり、縮小したり、反転させたり、平行移動（移調）させたり、と、有機的に紡ぎながら、曲を展開します。これは、自己相似、再帰性、自己言及性の表現と言えると思います。尊敬してやまない偉大な作曲家たちが目指し完成させようとするのが自己言及性、というのは、一体どういうことなのでしょうか。

### 2.3 人間はおもしろがる

人間のやる気は、「おもしろい」と思うかどうかにかかっているのではないでしょうか。おもしろければどんどんやりたくなるし、おもしろくないことはやりたくない。おもしろいと思えるときにこそ、創造意欲が湧きます。

では、どういうときに人間はおもしろいと思うのか。

人間は、無意識的にも意識的にも多くのことを予測しながら生きています。特に無意識的な予測は、脳神経学者の大黒先生によると、「誰もが生まれつき持っている脳の統計学習の機能」によるものです。統計学習によって、脳はさまざまな事柄に対して「次にどんなことがどのくらいの確率で起こるか」を予測します [6]。ここで、あまりにも予測が当たりすぎると、全てのものが当たり前であることに飽きてしまい、あまりおもしろいとは感じられません。一方、予測と起こることが違い過ぎても混乱するばかりで、おもしろいとは言えないかもしれません。適度に予測が外れて意外なことが起こるときに「おもしろい」と感じられる、ということになります。

好奇心を大切にして、適度に不確実な環境に身を置いて、様々なことをたくさんおもしろがれば、人間は創造性を発揮できるのです。

## 3. おわりに

という訳で、AIにない人間の特徴は、アホな間違いやミス、パラドックス、おもしろがる、という、あまりロクなものがなさそうに見えたけれども、これが創造性の源泉になっているかもしれない、という話でした。

これらのことをモデル化すれば、AIにもより豊かな創造性を持たせることができるのかもしれません。でもそれができたとしてもあくまでも模倣に過ぎません。まずは人間が切り拓かなくては！



#### References
[1] 「ゲーデル、エッシャー、バッハ ― あるいは不思議の環」(20周年記念版) ー　ダグラス・R・ホフスタッター著、白揚社、2005年10月
[2] https://quod.lib.umich.edu/m/mqrarchive/act2080.0028.002/00000042
[3] [囚人のジレンマ Wikipedia](https://ja.wikipedia.org/wiki/%E5%9B%9A%E4%BA%BA%E3%81%AE%E3%82%B8%E3%83%AC%E3%83%B3%E3%83%9E)
[4] [コモンズの悲劇 Wikipedia](https://ja.wikipedia.org/wiki/%E3%82%B3%E3%83%A2%E3%83%B3%E3%82%BA%E3%81%AE%E6%82%B2%E5%8A%87)
[5] [ゲーデルの不完全性定理 Wikipedia](https://ja.wikipedia.org/wiki/%E3%82%B2%E3%83%BC%E3%83%87%E3%83%AB%E3%81%AE%E4%B8%8D%E5%AE%8C%E5%85%A8%E6%80%A7%E5%AE%9A%E7%90%86)
[6] 「芸術的創造は脳のどこから生まれるか？」 ー　大黒達也、光文社新書、2020年3月