AIネットワーク社会推進会議
2107/10/19

AIネットワークの利用環境の展望
中川裕志
東京大学／理研AIP（社会における人工知能研究グループ長）

資料３

主な参考書• R.カーツワイル：ポスト･ヒューマン誕生 ，NHK出版,2005• J.バラット：人工知能 人類最後にして最悪の発明, ダイヤモンド社, 2013
• J.マルコフ: 人工知能は敵か味方か, 日経BP社,2015• T.H.ダベンポート, J.カービー:AI時代の勝者と敗者,日経BP社,2016• Nick Bostrom: Superintelligence, Oxford University Press. 2014
• マーティン・フォード: ロボットの脅威,日本経済新聞出版社, 2015
• 井上智洋：「人工超知能」 -生命と機械の間にあるもの- 秀和システム,2017/7/26•• 資料中の画像はPowerPoint2016からアクセスしたCreative Commons
1

3

理研AIP:社会におけるAIグループの研究の目標
1. 人工知能と倫理 今までは人工知能開発者/研究者がもつべき倫理 人工知能が持つべき倫理これを重視
 シンギュラリティの観点からも検討

２. 人工知能を活かす法制度の提言

人工知能

 技術・理論系Gと法制度と倫理系Gのコミュニケーションによって相互にフィードバック

3. 人工知能の資源となるデータ、特に個人データの円滑な流通の促進
人工知能
2

4

社会における人工知能
AIの倫理

円滑なデータ流通
AI誘発問題のAIによる解決

AI時代の法制度
応用技術が倫理や法の未来形を駆動

倫理、法に叶う
応用技術

目的指向、応用可視化、動作説明
異常検出

汎用技術、理論3

目的特化型AI vs 汎用目的AI– 目的特化型AI  AlphaGO– 汎用目的AIを汎用AIと混同する人多し汎用目的AI＝与えられたタスクに対して、どの目的特化型AIがよいかを決めるAI
AI？？？

4

汎用目的AIの別目的への適用困難さ
解きたい問題失敗したら、結果を活用  適応学習

目的特化AIを選択するAIに一番近いのはだからこの特化型AIをちょっとモジって使ってみよう

AI

AI

AI

数が多いし、似たような特化AIも多い。
しかも構造も複雑。

5汎用目的AIの別目的への適用困難さ• 目的特化AIの構造が複雑かつ学習型になると、結果の評価、特化型AIにおいてその入力パラメタと動作原理との対応も分かりにくくなり、闇雲に試すようなことになってしまう• 環境とAI内部構造という2種類のパラメタ空間を動き回って最適解を探す•  やっと汎用目的AI
 でもまだ汎用AI（AGI)じゃない。
 特化型AIの有機的組み合わせ 自分自身を変更しない

6

特化型AIでも十分にありえる話
AIの創作活動：創作活動にコミットしたのは誰？
＊知財の場合は過去に類似したものがないことを確認となる

AIによって、くまなく創作物候補を生成

AIによって評価の高い創作物に類似＊し、ヒットしそうな創作物を選別

AIを利用して作った創作作品
このループで考える必要あり

鑑賞者たちの思想、感情：
著作権法2条過去の評価の高い創作物の選択 (by AI)

鑑賞者たちの反応＝鑑賞者たちの思想、感情（著作権法2条）

過去の評価の高い創作物

末端の鑑賞者
7AIに部分的人格権を与えるか？
• AIに（部分的）人格を与えるかどうかは、哲学の世界では議論されている• 法律の世界ではAIはあくまでツール• だが、以上の著作権の問題にもあるようにAIに人格権（人間とは違うAI権？）を与えたほうが法理がすっきりする時代が来ないとも限らない• 著作権に関する考察はその前哨戦？
8人工知能の観点: AI vs IA• 人工知能は人間の能力を拡張するのか• ＩＡ: Intelligent Assistance• 人工知能は人間に置き換わるのか• ＡＩ: Artificial Intelligence• IA vs AI はマルコフ本の基本的視点（第4章にＡＩの歴史も含めて素晴らしい記述がある）• IA vs AI は人工知能の創世記である60年前から対立してきた立場• AIとIAの夏冬は逆（相補的）。
• AIに行き詰まると研究者はIAに流れる傾向あり

この観点から自動運転の在り様を考えてみよう。
9長距離ドライバー不足への対策• 人間が運転する自動車• 歩行者• 自動運転の自動車• バイク、自転車AI ??

混在したらAIで対応しきれるか不安が先立っている
歩行者や自転車のいない高速道路での自動運転自動車
からスタート10

自動追尾型他動車の隊列走行
 危険、不便AI
AI
AI
AI
AI

11

単独走行のAI自動運転トラック
最寄りのサービスエリアでAIと人間が交代
AI 自動運転トラックAI
ここでAI運転は終わり、人間のドライバーに交代

ここで人間のドライバーは降りてAI運転に交代

12

単独走行のAI自動運転トラック
物流業者拠点はインターチェンジ近くにAI 自動運転トラックAI

13

技術的問題点• 外界との通信による情報収集• インターネットによる通信 セキュリティ、プライバシー、マルウェア、乗っ取り
 コネクテッド車の情報セキュリティの危険性はすでに指摘されているところ
 米国ではこのセキュリティ研究をどんどん進めている。

 EVとの関係
日本メーカはEV車が周回遅れ
フォーミュラEでは中国、インドはone-two-finish
14技術的問題点• 外界との通信による情報収集
 運転系のAIはインターネット接続しないほうが安全ではないか 信号などとの直接通信（即時性あり。閉鎖された隔離ネット）
 位置情報把握をGPSに依存することも危険  太陽フレアによる磁気嵐でGPS精度はがた落ち

インターネット15

人間はループの内か外か• IA vs AI と並行して議論されてきたのは、システムやタスク実行において人間がループの内側にいるか外側にいるかという設計上の起点• 内側 だと IA的• システムは人間の拡張。人間はシステムと共同作業• IAが複雑高機能化すると人間も変わらざるを得ない• 外側 だと AI的• システムは自律的に動き、人間はシステムに命令するだけ

16

既存の技術やシステムを自動化すると• 人工知能が人間に置き換わり、人間が仕事処理のループの外側に行ってしまうと• いざというとき、自動化されたシステムの代わりを人間が務めようとしても、普段からやっていなことはできませんいざというときは人間が介入するといううたい文句はよく耳にするが実際はできないということです。

17

自動運転の問題• 完全な自動運転はレベル４(制限地域），レベル5（全域）• いざというときだけ人間が介入するのがレベル３• ところが、ふだん運転していない人がいざというときだけハンドルを渡されても、人工知能以上の運転ができるのでしょうか？
• レベル３はレベル４、５（完全自動運転）に比べて人間との切り替え時が返って危険ではないでしょうか？
• 保険業界も疑問視
ドイツの自動運転車倫理基準では、十分なゆとりをもって交代することを義務付け
国交省の６５秒ルールがでましたが。。。。。
18

人間が実際の仕事を人工知能に任せきりにしてしまうと人間はどんどんスキルを忘れるし、後輩に引き継ぐこともできない
一度、あるタスクを自動化したら、もう後戻りはできない

AI
Goodby

この仕事のやり方を思い出せない。

専門スキルが人間から消滅
19

AIの悪用AIの判断に従わない権利を持つ社会が必要 実際はどう実装？
こんな無理な仕事、なんで私がしなきゃいけないの？

AI
AIがお前にやれと判断したんだよ。

20

AIの起こした問題はAIで解決
AI or IAAI

21

AI誘発問題のAIによる解決• AIトレーダーたちの競合による相場クラッシュ（フラッシュクラッシュ）• 相場監視＝異常検出、異常予兆検出のためのAI• AI著作物やAI特許申請の氾濫• フィルターリングのためのAI• セキュリティ危機：AI生成されたマルウェア• AIで検知、AIで排除、AIでトラフィック遮断、AIで現状復旧支援

AIを含む実用システムの開発、実応用の局面で考えなければいけないポイント
22