2017年度 ISS Squareシンポジウム (2018/2/23)

No. 205

シンギュラリティに備えるＡＩ共生リテラシー
Preparing for Singularity by Mutualistic AI Literacy
門脇源太郎・法制倫理分科会・情報セキュリティ大学院大学
Abstract: How far the AI technology will be integrated into our society in the coming years, contributing to the improvement of our living, then causing new
problems and crisis? With the herald of SINGURALITY getting controversial, it is hard as of now to grasp and predict how deep the range and the extent of the AI
technology’s impact on human will be. As the vision of the future can also be intangible for us, it might fuel unnecessary fears or foster unreasonable
expectations. In addition, are we, as individuals, psychologically seek the swift change in society led by these AI technological developments, then biologically getused to it? On top of this, how the individuals’ value and decision-making change down the road, in the face of concerns for the impact with automatization bymechanization in working environment or the collection, control, and action prediction by personal information with big data. To meet these challenges, this paper
organizes the element that individuals should consider toward Singularity by focusing on human’s characteristics as animal with the help of findings mainly frominformatics and ecology. Because the advancement of the research of AI technology is also a chance to get to the bottom of “what being a human being is like.”
Then this paper intends to propose Mutualistic AI Literacy (MAIL) by which individuals can more proactively recognize oneself and decide which direction to change,as opposed to adaptation to the changing environment led by AI technology.

1. 背景

2. 目的

シンギュラリティ後の世界はどうなる？
急速なＡＩ技術開発で変容する未来には不安と期待が入り混じる「人間らしさ」は「ＡＩらしさ」として再認識される途上にある「人間の体系化」から「人間環境の体系化」へ向かう動きもＡＩネットワーク社会推進会議（２０１６～）
技術主導による影響予測では、心理面・生物面の議論が不十分
総務省ＡＩネットワーク化検討会議「報告書」 （２０１６）「脱労働社会」としての「高度創造社会」／非金銭的な豊かさ⇒人々を支える「新たな価値」は未だにオープンな問題

新たな価値観、意思決定のあり方、努力の方向の変容が迫られている⇒個人レベルで今から何か準備できることがあるのでは「変化に適応するために何ができるか」より「ＡＩとの理想的な関係性」が提示される方が先決⇒例えば、「ＡＩとの共生」を目指したらどうか
ただし、社会全体で対応するスピードでは間に合わない恐れがあるし、現状では指標となるものが無い⇒例えば、個人向けのリテラシーを作ってはどうか

3. 提案…ＡＩ共生リテラシー（Mutualistic AI Literacy ）第一要件／STOP

第二要件／SCRUTINIZE

第三要件／STRUCTURE

自身の機能化（メソッド置換）を止めよ

生命情報に基づく行動パターンを精査せよ

適応的ＡＩ環境で個人型アフォーダンスを構築せよ

自らを機能化させ付加価値を証明するために必要な、知識、記憶、技能、学習、経験などの獲得を求めない①自らの特性と限界を自覚する②ＡＩの認識技術を自らの認識プロセスにも組込む行動の可能性を示唆する役割を持ち、われわれの内的経験を意味づける「アフォーダンス理論」を応用し、自身とＡＩとの閉じた同一生態系を構築する★自動化に瀕する労働者
ＡＩは特定の外部環境に適応できる仕組みを備えていれば十分なので、目的達成プロセスの相違は問題なし ⇒ 仕事の体系化と構造的な失業へのリスク
オーグメンテーションによる協働は一般的に難しい★人間の「機械らしさ」⇒ＡＩとの競合を招くだけなので、脱却を★機械情報のリスク
意味や価値を精査することが難しくなっている行動が容易にコントロールされる恐れも★生命情報の制約「無意識⇒意識」の過程で大量に捨て去られる情報
最大１５０人用にデザインされた意識の限界⇒生命情報を認識するための橋渡し的存在が必要
ＡＩのヒューリスティックス研究への貢献に期待

4. アフォーダンスの検証
アフォーダンス…環境が動物に対して与えているとされる「行為の機会」のこと
人間を含む動物は、環境の中の情報から「相対的に不変な情報を持つ構造」を探索し、そこに内在する「意味」と「価値」を能動的にピックアップし具現化することで、自らの関心に基づいて対象を知覚することができる★具体例
椅子のカタチは「支える」という感覚を誘発しているために座れると思う★アフォーダンス実現の条件①そのアフォーダンスによる自己の行為調整を可能にする「情報」②その情報の利用へと調律された「知覚システム」

有用性

課題

★個人型アフォーダンス
生態学的情報を自力で探索・知覚することで得られる「直接経験」による内的世界の記述が、ヒト個体の生き方を形作る★集団型アフォーダンス
⇒「ヒトの機能」の維持に貢献
意味と価値を共有する努力の集団化・普遍化
事物がアフォードすることへの意識と能力の進化
課題の集合が構成する行為のサイクルによって、「物の使用法」と「なすべき課題」が制約される⇒情報処理にも役立つ「可能性の組合せ爆発」に直面せずに済むヒューリスティクスによる「探索空間の削減」★個人型アフォーダンス
自力で全て行うには時間・コスト面に課題がある
個体は生態的ニッチを完全に利用しつくすことができない ⇒ 再現システムが必要★集団型アフォーダンス
出会う者／再現者／享受者に分断されている
他人の選択した処理情報に基づく「間接経験」は精査の可能性が限定されている★シンギュラリティ後の課題
個人は環境代理機能を持つAI環境内に集団型アフォーダンスを実現し意味や価値を見出せるのか
間接経験に依存的な状態は変えられないのでは★ただし関係性に注意⇒「個人の意思や行動への適応を試みる自律的な環境AI」が理想「ＡＩの秩序形成への貢献だけに個人が限定的に存在できる」場合も
例えば、必ず増大するエントロピーを効率的に系内部で吸収する役割などが必要

5. 結論＆課題⇒ＡＩ環境との同一系を実現するプロセスを自らを機能化するよりも、周囲のAI環境を個人型アフォーダンスの実現に向けて機能化させる狙い
MAIL「The Three Ss」の全要件を備えている★時間的／方法論的な課題
具体的プロセスの提示と評価の手立てが必要★MAILが「新たな価値」として普遍化しても…
生態学的なヒトの機能との兼ね合いが未だ不明★MAILが「AIとの共生」を実現できたとしても…
「その次に何をすれば良いのか」の活動面に不安「現実感」や「モチベーション」の精神的担保を