FUTURE DESIGN
柿澤裕太・成誠・高﨑史彦・陳俊翰
藤原匠平・増田健・山﨑恵子・柳垠希目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

フューチャーデザインとはフューチャーデザイン
現在の利得を損失を失っても持続可能性のある将来を考える

我々G6ではAIをテーマにフューチャーデザインを論じる
現代世代
将来の利得を考えずに現在の利得を優先

将来世代
現在の行動が将来の利得を損失

AIとは人間の知能と人工知能はどこが違うのか？

目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

AI開発促進が将来の利得を収奪しているのかAI開発による現代世代と将来世代の関係
今回はAI導入による現在の利得と将来の損失を考える。
現代の世代

生活の利便性の向上
経済的豊かさの享受▼
将来世代のことを考慮し、開発を遅らせると損失

将来の世代

フューチャーデザイン

倫理的問題
社会的問題
法的問題

現代世代の利得を犠牲にしてでも将来世代の利得・社会の持続可能性を考えるAI開発促進が将来の利得を収奪している証明
定義
幸福感 = Happiness
AIの開発 = Artificial intelligence Development
環境整備 = Environmental arrangement
AI開発による効用
AI環境整備による効用
現代世代の幸福度
将来世代の幸福度
制約条件：α+β <- 10、A+E <- 10

文字式
HAE
αβH(X)
H(Y)

定式化：H(◯)=A^α + B^βMax(u)=H(X)*H(Y)上記の式が最大となるような値を算出する※現実には法規制や利害関係者が既に存在するため、数学的な最大化はできないものとする

環境整備を行わずにAI開発を続ける場合
現在のAI開発における課題から次の数字を仮定した。
説明変数

効用

AIの開発促進(A) 環境整備(E) AI開発促進効用(α) 環境整備促進効用(β)
現代世代
将来世代

634752

 現代世代：H(X) = 6^5 + 4^5 = 8,800
 将来世代：H(Y) = 3^2+ 7^8 = 5,764,810

 全体効用：u = H(X)*H(Y) = 50,730,328,000

58

環境整備を行いAI開発を続ける場合
AI開発を行った場合の数字を以下の通りに仮定した
説明変数

効用

AIの開発促進(A) 環境整備(E) AI開発促進効用(α) 環境整備促進効用(β)
現代世代
将来世代

436742

 現代世代：H(X) = 4^4 + 6^6 = 46,912
 将来世代：H(Y) = 3^2+ 7^8 = 5,764,810

 全体効用：u = H(X)*H(Y) = 270,438,766,720

68

現状型と環境整備促進型の比較
現状型

環境整備促進型

全体効用：u = H(X)*H(Y) =50,730,328,000

全体効用：u = H(X)*H(Y) =270,438,766,720

現代世代のAI開発による満足(α)を抑制しAI環境整備による満足(β)を高めることが両世代にとって利得が大きくなると言える

フューチャーデザインの図示
供給曲線（Y）

供給曲線（Y）

AA

供給曲線（X’）

供給曲線(X)
予算線（Y） 予算線(X)E

予算線（Y） 予算線（X’）

E

３つの側面からフューチャーデザインを考察目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

倫理的側面からの考察

AIに対する倫理的価値観
私たちは知識も大事だが問題の解き方・考え方はもっと大事だといわれてきた。

しかし人工知能の研究によって、問題解決をアルゴリズムのみで行うには限界があり人間の知識にあたる膨大なデータがそもそも大切であることが再認識された。
特に、「心と意識」の問題は、AIの大きな課題となっている。
〈太原 育夫〉東京理科大学

AIに対する倫理的価値観
将来、人間と全く変わらないAIを開発することが技術的には可能になるであろう。
その際、我々は何を考えていくべきか。

将来に起こりうるAIの倫理的課題
(事情により)人間を模造し、必要以上に感情移入する
人間と区別がつかなくなり人格の認識があやふやになる従来型の人間関係や家族の消滅ライフイベントの認識の希薄化
AIに対する許容(過信の防止)

AIの倫理的問題に関するフューチャーデザイン

AIの感情機能をソフトウェア的に止める人間へのAIに対する認識をつくる
AIを定期的にリセットし、人格の成長を抑止▶道具やシステムとしての域を越えないような仕組み

AIへの過信の防止

将来AIを過信することで心理的負担が増大〈AIの不確実性〉•AIが使用者にとって不適切な判断をする確率を仮定•

現在の確率を0.1とする•

リスクは10年ごとに10年前の0.1の確率となる
year

Risk

0 0.1
10 0.01
20 0.001
30 0.0001
40 0.00001
50 0.000001
60 0.0000001
70 0.00000001

一般的な確率日本人のAB型の割合
初恋の人と結婚する確率
誕生日が2月29日になる確率
自動車事故で死ぬ確率
四つ葉のクローバーができる確率
飛行機が墜落する確率
宝くじで1等が当たる確率
異星人に遭遇する確率

AIをどのように許すか
AIのリスクは決して0にはならない→仮に問題が起きた時の責任は？
AI同士の競争、負けたら誰のせい？
AIが起こした自動車事故は誰のせい？

AIをどのように許すか

AI側

人間側

AIとは喧嘩ができない
AIには責任が果たせない

誰に責任を追及したらいいのか
誰に対して怒ればいいのか
AIを過信したことによる後悔

いつか壊れるもの、ミスをするものとして認識依存せずに、常に主導権は人間が握る心理的負担軽減のフューチャーデザインAIに対する認識の枠組みを変える
AIのアルゴリズムを学ぶのではなく、AIとは何か・どうあるべきかという教育をすべき→AIに瑕疵（エラー）が生じた際の心理的負担を軽減したり、AIに対する心構えのようなものが準備できる感情的にならない為のフューチャーデザイン
家庭での教育
学校でのAIリテラシー教育
地域社会での相互干渉
AI査定士などの公的資格の制定
武力使用禁止等の国連での条約制定
多方面からのネットワーク・干渉機能目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

社会面からの考察

将来に起こりうるAIの社会的課題

10年後AIによって１０％〜２０％の雇用喪失＝1929年の大恐慌

30年後

４０％〜５０％の雇用喪失＝人類が経験したことの無い水準

AIの倫理的問題に関するフューチャーデザイン

10年後 地球レベルでのAIによって効率化された仕事に対する人員のリストラを法律的に禁じる（競合とのコスト劣後性を防ぐ為に） リストラ規制＋人材転用促進補助（税率、補助金、罰則）
 職能訓練所によって需要の見込める分野への転職誘導( 介護、保育、農業)

30年後

 雇用創出 or 社会保障制度の拡充
 生活保障（ベーシックインカム） 人間が携わる職業の高度化目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

法的側面からの考察

将来に起こりうるAIの法的課題

監視社会

AIの意思決定 プライバシー侵害
 検閲
 言論・精神の自由

 責任の所在

 ビッグデータによって個人の自由の侵害
属性化が行われ基本的人権の侵害へ

自己情報コントロール権
損失 強制的に情報収集や結びつけが行われる
Ex.マイナンバー

法的側面からフューチャーデザインを考察
情報リテラシーを義務教育化

監視社会にどういう危険があるのか問題を表面化することができる
透明化かつ拒否権

どこまでの情報収集を許容するかを国民が選択できる
責任の所在

AI開発企業への責任明記、責任保険等の導入
法規制

サービスを人質にとり同意以外の選択肢を事実上奪うことを禁止する目次

1

フューチャーデザインとはテーマの設定

4

社会的側面での検討

2

フューチャーデザインで考える効用

5

法的側面からの検討

3

倫理的側面からの検討

6

総論

総論

総論
AIを取り巻く環境整備を行ってから、開発を進めたほうが両世代にとって幸福度が高くなる

解決策は挙げられているものの施行されていない→だから個々人が実行できる開発者・使用者の倫理観の変化が必要となる

Appendix：アシモフの三原則
アイザック・アシモフのロボット工学三原則

第１条
ロボットは人間に危害を加えてはならない。
また、その危害を看過することによって、人間に危害を及ぼしてはならない。
第２条
ロボットは人間にあたえられた命令に服従しなければならない。
ただし、あたえられた命令が第１条に反する場合は、この限りではない。
第３条
ロボットは前掲第１条および第２条に反するおそれのないかぎり、自己をまもらなければならない。

Fin

参考資料
• 「AI時代の大問題、労働のない社会は成立するのか？」
https://jpn.nec.com/techrep/journal/g16/n01/160102.html（2018/06/25）• AI時代の大問題、労働のない社会は成立するのか？
http://jbpress.ismedia.jp/articles/-/49458 （2018/06/25）• あなたの仕事と給料が｢AI｣に奪い取られる日
https://toyokeizai.net/articles/-/225252 （2018/06/25）• AIはついに資本主義に終止符を打つか？
http://agora-web.jp/archives/2027278.html （2018/06/25）• AIの法規整をめぐる基本的な考え方
https://www.jstage.jst.go.jp/article/johokanri/58/7/58_515/_article/char/ja/ (2018/06/25)