Mar. 28th 2017 @ エジソンの会

AIネットワークの社会的影響とリスク
イノベーションと倫理須藤 修＊東京大学大学院教授＊東京大学総合教育研究センター長Osamu Sudoh, Prof. and PhD.,The Univ. of Tokyo
Osamu Sudoh 2017

マシンラーニングを用いたセンサーネットワーク予防医療
2007年ー2011年
Evidence-based Medical Care
Patient-centric Medical Care

• 須藤 修（東京大学教授、研究代表）• 中島直樹（九州大学教授）• 井上創造（九州工業大学准教授）

「情報薬」について（APEC2009で発表）

Information can be medicine!
情報は人を健康にする（薬になる）！
もし適正な情報を適切なタイミングで与えることができれば旧来の薬（錠剤など）

情報薬

適正な量の投与適正な情報の投与

血中濃度を介して効果

意識変容と日々の生活習慣を介して効果効果を測定する方法がある

ITによって効果が測定できるようになった効果が安定している

効果にはまだばらつきが見られる

副作用がある

副作用がある（過剰なダイエットや運動）※「情報薬」コンセプトは、札幌医大・辰巳治之教授が提唱

Evidence-based Medical Careusing Sensor Network

センサーネットワークを用いて、• A:日常的な生活の中で生体データを取得し、• B：医学的データと関係付け、糖尿病患者の状態を正確に把握し、• One-to-One Medical Care（Patient-centric
Medical Care）を実現し、医療の質を高め、医療過誤を防ぐ。

センサーネット予防医療実験システム構成

福岡センサーネット予防医療実験システム構成（修正・実行）

センサー機器を用いた生活習慣病への保健指導
１００名の被験者による3軸加速度センサーデータ：
1日目（24時間）

被験者

２日目（24時間）

３日目（24時間）

４日目（24時間）

行動判別のアルゴリズムを開発
走る

歩く
立つ
座る
寝る

● これまでに，歩く，走る，たつ，座る，寝るといった基本動作の判別が可能となった．
→このレベルでも，現場に適用すればコスト削減と正確化が可能．
→運動強度を計算し1週間の目標運動活動量※1を達成するための基本ツールとなる．
●アルゴリズムの改良とセンサーの多様化による判別の詳細化に取り組んだ．
→リアルタイムコメントへ
・ エクササイズガイド2006の約50分類※1を目指す※1：厚生労働省エクササイズガイド2006

3軸加速度センサーで得られたデータからフーリエ変換と決定木を用いた行動推定アルゴリズムを開発した。
実験データから機械学習した結果、67.39％ー
93.72％の正答率を示した。＜2010年世界トップ＞
おおよその行動推定からおおよその消費カロリ
ーを推計することができる。
現時点では、健康管理データとしては活用できるが、医学的に信頼できるデータとはいえない。

情報大航海プロジェクトと連携
ウエアラブルセンサーとメッシュネットワークによって得る行動識別や身体情報によって、タイムリーに安全な保健指導を行う
電車の中で・・・

血糖測定時に・・・
運動不足だし、一駅手前で降りて歩こう！！

そうそう、インスリン打ち忘れていた。
すぐに打とう！

１次指導（携帯端末内で処理可能）

電車に乗りましたね。
一駅前に降りて歩
きませんか。

血糖が高めです。
インスリンは打ち忘れていませんか

食事中に・・・

歩いている時に・・・

食事が楽しくて薬のことを忘れてた。
忘れないうちに、飲んでおこう。
お食事ですね。
食前のお薬は飲みましたか。

心拍数が上がってます。もう少しゆっくり歩いてください。

２次指導（データセンター通信が必要）

ちょっと早すぎたか。
効果的なウォーキ
ングのため、少しペースダウンしよう。

マシンラーニングを用いた経済再生成長戦略の経済効果予測FIRST喜連川プロジェクト＜須藤修チーム＞
東京大学
独立行政法人産業技術総合研究所
鳥取県
国立情報学研究所

鳥取県の長期戦略効果予測
確実にデータを確保でき、社会への貢献ができるフィールド
＜2011-13年実施、2013年、14年成果発表＞• Ryoko Morioka, Yumiko Motomura, Reiko Gotoh, Osamu
Sudoh and Koji Tsuda, Information Geometry of Structural
Change in Input-Output Models (in) Osamu Sudoh ed., Data
Scientists and Innovators (to appear)

研究の背景・目的
研究目的
本研究は、内閣府最先端研究開発支援プログラム「超巨大デー
タベース時代に向けた最高速データベースエンジンの開発と当該エンジンを核とする戦略的社会サービスの実証・評価」(中心研究者：喜連川優、須藤修は研究分担者)の研究成果の活用を視野に、
鳥取県経済をモデルケースとして研究を行うものであり、鳥取県が推進する「鳥取県経済再生成長戦略」の効果を定量的に評価・予測することで同戦略の適切な推進に寄与することを目的に実施した。
（研究内容）☞鳥取県経済再生成長戦略の戦略的推進分野を新セクターとした2020年の新産業連関表（情報幾何を用いた予測）を作成☞2020年の新産業連関表により、鳥取県経済再生成長戦略の実
現における経済波及効果を評価（予測）
11

主要結果

各戦略的推進分野の経済波及効果
戦略的推進分野の推進は、既存の各産業へも波及することから、
鳥取県経済の成長を加速させることが予測される。
「環境・エネルギー」の波及効果「次世代デバイス」の波及効果「バイオ・食品産業」の波及効果「健康・福祉サービス」の波及効果「まちなかビジネス」の波及効果「コミュニティビジネス」の波及効果

12予測可能な産業連関表の作成

13

２０２０年の鳥取県産業連関表
既存の産業分類の中から、鳥取県経済再生成長戦略における戦略的推進分野を抽出し、新たな部門設定により産業連関表を再構築
2005年の産業連関表
需要部門（買い手）

中間需要

需要部門（買い手）

・・供給部門（売り手）

供給部門（売り手）

農林水産業

推進分野①

中
間
投
入

鉱業

～

製造業

推進分野⑥

・

農林水産業

・
・

中
間
投
入

推
進
分
～
野
⑥

農 鉱 製
林 業 造
水
業
産
業

最 輸 国
終 入 内
需
生
要
産
計
額

・

・

・

）

推
進
分
野
①

）

・

中間需要

（

最 輸 国
終 入 内
需
生
要
産
計
額
（

農 鉱 製
林 業 造
水
業
産
業

2020年の産業連関表

鉱業
製造業

（計）

・

粗付加価値

・

国内生産額

・
（計）
粗付加価値
国内生産額

14

新規分野を含むH32連関表の推定
H12,17の既存分野産業連関表
各分野潜在成長率

新分野に関する調査票(今回収集）
H22新規分野
連関表

Bregman射影

H22既存分野
連関表

H22全分野連関表Bregman射影

H32既存分野連関表
H32新分野規模予想値
H32全分野連関表

新規分野連関表と、既存分野連関表
から、全分野連関表を作る
H22新規分野
連関表
H22既存分野
連関表• 新規分野連関表
で決まっている
部分は残す

線形制約
の集合
相互作用行列（Zero padded)

Bregman射影

線形制約を満たす連関表• 残りの部分を、
既存分野連関表のBregman射影(e-射影）によって求める• ＫＬ距離最小解

コーパスとディープラーニングを使った多言語音声翻訳

VoiceTraグローバルコミュニケーション開発推進協議会
１ 目的
国立研究開発法人情報通信研究機構(NICT)を中心に産学官の力を結集して、多言語音声翻訳技術の精度を高めるとともに、その成果を様々なアプリケーションに適用して社会展開していくために必要な検討を行い、「グローバルコミュニケーション計画」の推進に資することを目的として設立（平成２６年１２月１７日）。

２ 概要

３ 役職・会員（１） 主な活動内容
多言語音声翻訳に関する次の事業を行う。
・研究開発及び標準化の推進
・社会実装及び実用化の促進
・情報の収集、交換及び提供
・関係機関との連携
・普及啓発
等

○ 会 長

（２） 協議会の構成
本推進協議会の目的に賛同し、NICTの多言語音声翻訳技術を中心に実現する「グローバルコミュニケーション計画」の推進に協力する意思を有することを要件とする。
（３） 事務局
情報通信研究機構（NICT）

須藤 修
東京大学大学院情報学環・教授○ 副会長
篠原 弘道 日本電信電話株式会社代表取締役副社長
宮部 義幸 パナソニック株式会社代表取締役専務○ 会員：１５９会員 （平成29年3月24日現在）
通信事業者、通信機器メーカ、医療機関、公共交通機関、流通業者、旅行代理店、自治体 ほか

多言語音声翻訳アプリ VoiceTra

新バージョン(5.4.3)を
H28.12.6にリリース
2017/02/22

19

VoiceTraの対応言語
音声翻訳対応状況

機能

言語

・31言語間の翻訳（＊） 、20言語（＊）の音声入力
16言語（＊）の音声出力が可能

日本語
中国語
台湾華語
韓国語

（＊）中国語、ポルトガル語の方言を含む

入力
音声

テキスト

音声

テキスト

✔
✔

✔
✔
✔
✔

✔
✔

✔
✔
✔
✔

✔

✔

✔

シンハラ語

✔

✔

トルコ語

✔

✔

ネパール語

✔

✔

ヒンディ語

✔

✔

✔

✔

✔

✔

✔

✔

✔

インドネシア語

✔

クメール語
タイ語

✔

✔
✔

✔

✔
✔

ベトナム語

✔

✔

✔

✔

マレー語

✔

✔

✔

✔

ミャンマー語

✔

✔

✔

✔

アラビア語
英語
オランダ語

✔
✔

✔
✔

スペイン語
デンマーク語
ドイツ語

✔

✔

✔
✔

✔
✔

イタリア語

2017/02/22

✔

✔
✔

✔

ラーオ語

欧米露言語

✔

✔

フィリピン語

中東言語

✔

ウルドゥ語

モンゴル語

アジア言語
赤字は
ASEAN諸国

出力

✔
✔

✔

✔

✔

✔

✔

✔

✔

✔

ハンガリー語

✔

✔

フランス語

✔

✔

✔

✔

ポーランド語
ポルトガル語
ポルトガル語（ブ
ラジル）
ロシア語

✔
✔

✔
✔

✔
✔

✔
✔

✔

✔

✔

✔

✔

✔

✔

✔

20

多言語音声翻訳の仕組み
音声認識

多言語翻訳

音声合成

音声を文字に変換

日本語を英語に翻訳

文字を音声に変換

ekiwadoko
desuka

駅はどこですか

The station
where isWhere isthe station• 声を聞き取って文字に変換• 日本語の辞書に合わせて文字を並び替え• コンピュータにある日本語と英語の対訳コーパスから同じ意味の英語を探索• 英語の文法に合わせて自然な英語に並び替え• 文字を自然な音声に変換

日本語の音声・文字コーパス

日本語と英語の対訳辞書・対訳コーパス

英語の音声コーパス

サーバ内の処理「駅はどこですか」

翻訳アプリ

音声入力

VoiceTra

音声出力

ネットワーク上のサーバへ、入力された音声を送信

ネットワーク上のサーバから翻訳された音声が戻ってくる「Where is the Station?」
コーパス：自然言語の文章を品詞など文の構造の注釈をつけて構造化したものを大規模に集積したもの

最近の動き ～ 成田空港及び鉄道事業者（京急・りんかい線・上信電鉄）～
成田空港

京急電鉄

ターミナル内の巡回案内スタッフが「iPad」を活用して、フライト情
報や施設情報等を案内。多言語音声翻訳アプリ「NariTra」も活用し、中国や韓国からの来客にも案内を行っている。

品川駅、羽田空港国際線ターミナル駅の改札、忘れ物センター
で片言での対応が困難な場合や、インフォメーションセンターで
英・中・韓いずれも話さない旅行者の対応に使用している。

成田国際空港のホームページでアプリを紹介
Google PlayやApp storeでダウンロード可能【出典】 成田空港ホームページ

羽田空港国際線ターミナル駅（改札、インフォメーションセンター）【出典】 京急電鉄より提供

品川駅

りんかい線

上信電鉄

東京テレポート駅、国際展示場駅の窓口において、筆談
アプリ等と併せて乗客案内に使用している。

富岡製糸場の世界遺産登録で、外国人の乗客が増加したことに対応するため、高崎駅及び上州富岡駅で使用している。

↑翻訳アプリ↑筆談アプリ【出典】 同社ホームページ【出典】 同社ホームページ

現在、世界的な規模でデータドリブン・イノベーションが進行している

GE’s Digital Industrial Journey

OIL & GAS
•
•
•
•
•

Maximize Production
Predictive Maintenance
Remote Collaboration
Reduced Risk
Environmental Control

POWER GENERATION
•
•
•
•
•

AVIATIONAVIATION•••••

Maximize Fuel Use
Risk Management
Predictive Maintenance
Efficient Operations
Customer Satisfaction

GE Digital

Maximize Production
Longer Repair Intervals
Reduce Emissions
Predictive MaintenanceLonger Asset Life

•
•
•
•
•

RAIL
•
•
•
•
•

Maximize Fuel Use
Enhanced Operation
Network Velocity
Predictive MaintenanceSupplier Collaboration

WIND

POWER DISTRIBUTION
Revenue Protection
Meter HealthPower Quality
Load Forecasting
Predictive Maintenance

•
•
•
•

HEALTHCARE
•
•
•
•
•

Patient Experience
Improved Hand Hygiene
Cost Reduction
Efficient Operations
Regulatory Compliance

Maximize Farm PowerWind Wake Protection
Outage Detection
Continuous Operation

WATER
•
•
•
•

MANUFACTURING
•
•
•
•
•

Cost Reduction
Consumer Protection
Efficient Operations
Regulatory Compliance
Predictive MaintenanceOperational Integrity
Minimize Water Use
Control Emissions
Minimize Cost

MINING••••

13

Maximize Production
Efficient Operations
Safe Operations
Predictive Maintenance

提供：ＧＥ Digital, 2016

CML – an open Ecosystem, which offers the framework to connects all
relevant partners (e.g. cities, mobility providers, car manufactures, etc.)

Unrestricted © Siemens AG 2016

MOBILITYSERVICES
Customisation

APPLICATIONSProvider AProvider D
Car
Car

Provider A Provider B
Wearable Wearable

Data/ Process

Provider C
Smart Watch

Provider A
Provider B
Provider D
Smart DeviceSmart Device Smart Device

Mobility Service
Companies

Smart City

Provider A
Computer

Additional Services
Payment
TravelSmart
Home

PARTNER

Provider D
Computer

Shopping
Media
Lifestyle

Core Services

PLATFORM

011
01011
111

Security

Accounting

Performance
Management

Identity
Management

Data
Management

DATA
Traffic Info

Car Data

Maps

SubwayTrain

Car Sharing

Bike Sharing

Parking

提供：ＳＩＥＭＡＮＳ, 2016

IBMのコグニティブ・コンピューティング
知識を活用しビジネス課題を解決
Watson ソリューション フレームワーク
活用シーン

考える

照会応答

探索・発見

(Engagement)(Discovery)

見る

会話

聴く
話す

Conversation

Watsonの提供する機能文書変換

Document Conversion

回答と評価

Retrieve & Rank

Watson Explorer(Decision)

トレードオフ分析

発話分類

Natural Language Classifier読む

意思決定支援音声認識

Speech to Text

音声合成

Text to Speech

画像認識

Visual Recognition

評判分析

Trade off Analysis

AlchemyLanguage

関係抽出

AlchemyLanguage

性格分析

Personality insights

語調分析

AlchemyLanguage

Tone analysis

機械翻訳

文書分類

AlchemyLanguage

概念抽出

Knowledge
StudioExploration& Discovery

他の文書解析

AlchemyLanguage

実体抽出

AlchemyLanguage

Machine Translation

ニュース分析

・・・・

AlchemyDataNews

自然言語処理、知識表現・知識ベースの構築・分析・探索機能、機械学習

知識ベース
個別領域文献企業内データ

概念体系・辞書

文脈情報

専門家の
知見

※Watson Developer Cloudのサイトから、最新の追加サービスと更新をご確認ください。
26

https://www.ibm.com/smarterplanet/us/en/ibmwatson/developercloud© 2016 International Business Machines Corporation

IBMのコグニティブ・コンピューティング(例)Personality Insights（性格分析）

特定人物のパーソナリティ特性を分析

Personality Insightsは、言語学的分析とパーソナリティ理論を応用し、テキストデータから、その人物の特徴を推測します。

Personality
Insights

デモ例(ダルビッシュ選手)

自然言語から性格・行動・感情を読みとる(パーソナリティ分析例)• 高い自己評価、自信• 外向的• やや熱くなりやすい• 他者への支援を重要視• SNSは金曜日の午後(Source)https://personality-insights-livedemo.mybluemix.net/

お客さまサービス、マーケティング、セールス支援、人材の採用・育成・指導などへ活用
27© 2016 International Business Machines Corporation

Dr. Rita Colwell (全米科学財団元長官)• Across the science and engineering enterprise,boundaries are increasingly difficult to distinguishbetween and among disciplines, especiallyinformation technology, nanotechnology, and many
areas embracing biocomplexity, the complexity of life
itself.
• But it is true also for the social sciences in this new
era of “ Big Data”, when computational capacity
reaches beyond imagination.

• The most exciting areas are in these fuzzyconnections between disciplines whereknowledge in one field answers questions inanother field.
東京大学平成25年度大学院入学式（武道館、2013年4月12日）祝辞より

16か国から24名の研究者が招集され、検討が行われた（2014―2016年）。
日本からは佐藤一郎教授（ＮＩＩ）と須藤修（Univ. of Tokyo）が参画した。

History of making
big bets

I believe

over the next decade…
intelligence will becomeambient... made possible byan ever-growing network ofconnected devices, incredible
computing capacity from thecloud, insights from big data,and intelligence frommachine learning.

Satya NadellaCEO, Microsoft

提供：Microsoft, 2016

Satya Nadella, MS CEO, states on AI, 2016
マイクロソフトＡＩ開発原則を発表
人間の代替よりも人間の能力拡張。
雇用対策は今から議論しなければならない。
大きな変化はすぐ近くに来ている。
総務省AIネットワーク化検討会議中間報告（座長：須藤）でＡＩ開発原則案発表、2016年４月
高市総務大臣ＡＩ開発原則発表、Ｇ７情報通信大臣会合（２０１６年4月、高松市）
Partnership on AI, Tenetsを発表（2016年9月28日）

AI の民主化
AI がより身近な存在に
AI のスーパーコンピューター化
圧倒的な AI のパワーを提供

パーソナルアシスタント（Cortana）

チャットボット（BOT Framework)

認識API（Cognitive Services)
翻訳API(Micsrosoft Translator)

機械学習と開発環境（Azure Machine
Learning Studio)

36

深層学習フレームワーク（Cognitive Toolkit)

Microsoft が提供するデータ解析・機械
学習サービス
Vision, Speech, Languageなどのトレーニング済みの認識モデル使用のサービスをAPIとして提供
一般的に使用される学習アルゴリズムをモジュールとしてIDE環境でデザイン、容易なサービス展開
既存のデータベースとの連携の中で一般的なアルゴリズムによるデータ解析を提供
大規模データを活用する深層学習・強化学習用フ レ
ームワーク

7

Source ： Dr. Greg Corrado, Principal
Scientist,
Co-founder of Google Brain

Partnership on AI のTenetsについて
正式名称： Partnership on Artificial Intelligence to Benefit People and Society
設
立： 2016年9月28日（水）構成企業： Amazon、DeepMind/Google、Facebook、IBM、Microsoft
暫定共同議長： エリック・ホロヴィッツ（Microsoft技術フェロー）及びムスタファ・スレイマン（DeepMind共同創業者）【五社連合の設立時に公表した「信条」（Tenets）と、ＡＩネットワーク化検討会議が「AI開発原則」につき掲げる８項目との対応関係（未定稿）】

信条（Tenets）①AI技術ができるだけ多くの人々に裨益し、能力を与えるよう努める②一般市民を啓蒙し、及び傾聴するほか、積極的にステークホルダーを関与させて、焦点に対する意見を求め、我々の活動を周知させ、疑問に対処する③AIの倫理的、社会的、経済的及び法的影響に関するオープンな研究と対話を約束する

AI開発原則の８項目①透明性の原則②利用者支援の原則④AIの研究開発の努力は、広範なステークホルダーの積極的な関与を得るとともに、彼らに説明可能なものとすることが必要である③制御可能性の原則⑤領域固有の懸念及び機会が理解され対処されることの確保に資するよう、ビジネスコミュニ
ティのステークホルダーに関与させ、その代表者の参画を得る④セキュリティ確保の原則⑥ AIの便益を最大化し、AI技術の潜在的な課題に対処するため
ａ. 個人のプライバシーとセキュリティの保護に取り組む
b. AIの発展により影響を受け得るすべての当事者の利益を理解し、尊重するよう努める
c. AIの研究と技術のコミュニティが、AI技術がより広い社会に及ぼし得る潜在的影響について社会的責任を負い、敏感であり、直接関与し続けることを確保する
d. AIの研究と技術を頑健で（robust）、信頼し得て（reliable）、信用に値する（trustworthy）
ものとするとともに、堅牢な制約（secure constraint）の範囲内とすることを確保する
e. 国際条約や人権に反するAI技術の開発と利用に反対するとともに、危害を与えない
セーフガードと技術を推進する⑦AIシステムの動作は、その技術を説明するため、人々の理解と解釈が可能なものであることが重要である⑧上記の目標の達成に資するよう、AIの科学者や技術者間の協力、信用及び開放性の文化を創造するよう努める⑤安全保護の原則⑥プライバシー保護の原則⑦倫理の原則⑧アカウンタビリティの原則

総務省

ＡＩネットワーク社会推進会議
議長：須藤

修

顧問：
安西祐一郎（慶応大学元塾長）
長尾 真（京都大学元総長）
西尾章治郎（大阪大学総長）
濱田純一（東京大学元総長）＜開発原則＞と＜影響評価＞に焦点を当てて検討を行っている。

開会の辞
平成２９年３月１３日
ＡＩネットワーク社会推進会議長
東京大学大学院情報学環教授

須藤 修

沿革
平成２７年（２０１５年）１月 （設置の発表）
インテリジェント化が加速するＩＣＴの未来像に関する研究会
平成２７年（２０１５年）６月３０日「報告書２０１５」

平成２８年（２０１６年）２月 （設置の発表）

ＡＩネットワーク化検討会議
ウインズ

４月１５日

中間報告書「ＡＩネットワーク化が拓く智連社会（ＷＩＮＳ）」（４月２９日・３０日 Ｇ７香川・高松情報通信大臣会合）
平成２８年（２０１６年）６月２０日 報告書２０１６「ＡＩネットワーク化の影響とリスク」
平成２８年（２０１６年）１０月 （設置の発表）

ＡＩネットワーク社会推進会議

ＡＩの便益及びリスクに関連する検討の動向
総務省「ＡＩネットワーク社会推進会議」、
ＩＥＥＥ 「自律的システムの設計における「ＡＩネットワーク化検討会議」等
倫理的考慮に関するグローバル・（2015年1月～）
イニシアティブ」 (2016年4月～)
報告書2015（2015年6月）（検討会議）中間報告書（2016年4月）
人工知能学会倫理委員会
報告書2016（2016年6月）（2014年9月～)
Ｇ７情報通信大臣会合「人工知能学会倫理指針」(2017年２月)(2016年4月)
ＯＥＣＤ技術予測フォーラム(2016年11月)
欧州議会法務委員会 (2015年1月～)「ロボティクスに関する民事法的規則に関する委員会への勧告」(2017年2月)

ＦＬＩ(2014年3月～)「アシロマＡＩ原則」(2017年2月)
ホワイトハウス（2016年5月～12月）
報告書 「人工知能の未来に備えて」(2016年10月)
報告書「自動化及び経済」(2016年12月)

「ＡＩネットワーク化」

ＡＩネットワーク化「ＡＩネットワーク化」とは、次の①及び②を総称する概念。
① 「ＡＩネットワーク」 （注）の構築② 「ＡＩネットワーク」の高度化【②の例】 複数のＡＩネットワークがインターネット等情報
通信ネットワークを介して連携（注） 「ＡＩネットワーク」（Networked AI System）とは、

インターネット等情報通信ネットワークと接続された
ＡＩシステムを構成要素として含むシステムをいうもの。
（備考） 従来の資料においては、「ＡＩネットワークシステム」（“AI Network System”）と呼称。

「ＡＩネットワーク化」の進展段階

１．ＡＩシステムが、他のＡＩシステムとは連携せずに、インターネットその他の情報通信ネットワークを介して単独で機能。

２．複数のＡＩシステム相互間のネットワークが形成され、ネットワーク上のＡＩシステムが相互に連携して協調。
ウインズ

３．センサーやアクチュエータを構成要素として含むＡＩネットワーク
が人間の身体又は脳と連携することを通じて、人間の潜在的能力が拡張。

４．人間とＡＩネットワークが共生し、人間社会のあらゆる場面においてシームレスに連携。

情報通信ネットワークのアーキテクチャから見た「ＡＩネットワーク化」
ＡＩネットワーク化の進展を通じて、ＡＩネットワークは、情報通信ネットワークの各レイヤに浸透し、空間の境界（例 サイバー空間と物理空間との間の境界、国境）を越えて、他のＡＩシステム又は他の種類のシステムと連携して調整することが可能となる。
クラウド
サーバ
コア
ネットワーク

インターネット
AI
AI

AI

エッジ
サーバ
端末
デバイス

ヒト（個人・団体）・モノ・コトのデータ・情報・知識

人間の「包摂」 （“Inclusiveness”）

 ＡＩネットワーク化の進展に伴い、社会のあらゆる場面において、社会の構成員がＡＩネットワーク（又はＡＩネットワークサービス（注））を利用できることを前提として、様々な物、サービスや社会のシステムが提供されるようになるものと見込まれる。
（注） 「ＡＩネットワークサービス」とは、ＡＩネットワークの機能を他人の用に供するサービスをいう。

 そのような社会において、個人又は団体が当該社会の構成員として振る舞うためには、自らがＡＩネットワーク（又はAIネットワークサービ
ス）の利用者となることが不可避となろう。

 そのような社会において人間の「包摂」（“Inclusiveness”）を確保する
ためには、 当該社会には、あらゆる個人又は団体に対し、ＡＩネット
ワーク（又はＡＩネットワークサービス）の利用者となり、安心して安全に利用できる状況を確保することが期待されよう。

 したがって、そのような社会においては、人間の「包摂」の問題として、
ＡＩネットワーク（又はＡＩネットワークサービス）の（既存の又は潜在的な）利用者の利益が保護されることが期待されよう。

ＡＩネットワーク化のグローバルなガバナンスの必要性
 ＡＩネットワーク化の進展に伴い、ＡＩシステムの便益及びリスクは、- ＡＩシステム相互間又はＡＩシステムと他のシステムの連携- いわゆる「ネットワーク効果」
により、拡大。

 ネットワークに接続されないＡＩシステムの便益及びリスクは、基本的に、当該ＡＩシステムが所在する場所から即座に波及することがない。
 これに対し、ＡＩネットワーク（ネットワークに接続されているＡＩシステム）の便益及びリスクは、 空間を越えて、特に国境を越えて、即座に波及することがあり得るもの。
 そもそも、ＡＩネットワーク化自体が国境を越えて進展するもの。
 したがって、ＡＩネットワーク化及びネットワーク化され得るＡＩシステムのガバナンスについては、国際的又はグローバルな問題として検討し、議論することが必要。

ＡＩネットワーク化のガバナンスの観点
１．ＡＩネットワーク化の進展の前提をなすもの
 ＡＩシステムに関するイノベーティブな研究開発
 ＡＩシステム又はＡＩネットワークサービス（注）の提供に関する公正な競争（注） 「ＡＩネットワークサービス」とは、ＡＩネットワークの機能を他人の用に供するサービスをいう。

イノベーティブな研究開発及び公正な競争を確保する観点から、ＡＩネットワーク化のガバナンスは、一般に、技術的特性及びステークホルダ（開発者、プロバイダ、最終利用者、第三者）間の責任分担を勘案して、非規制的かつ非拘束的なものとすべき。

２．ガバナンスの趣旨
 ＡＩネットワーク化の健全な進展の促進
 ＡＩネットワークの便益の増進
 ＡＩネットワークのリスクの軽減
３．ガバナンスの目的
 利用者の利益の保護（社会における人間の「包摂」の問題として）

 リスクの顕在化並びに第三者及び社会への波及の抑制
 これらを通じた人間中心の社会「智連社会」の形成

ＡＩネットワーク化が社会・経済にもたらす便益の例（１／３）
分野

便益の例

公共インフラ-公共インフラに関する需要と供給のリアルタイムでのデータの収集・分析により、異常気象、災害など急な環境変化にも即時に対応-メンテナンスのオートメーション化により、効率化を実現

防災-災害の影響のリアルタイムでの予測の高度化と、それらと連動した避難誘導の実現

スマートシティ-街全体において街頭カメラの活用やエネルギーマネジメントの実現により、効率的で、快適かつ安全な街の実現

行政-ＡＩシステムによるオープンデータの分析結果の活用により、行政の水準の向上-個人や企業から発信される情報等を活用した将来予測の実現により、より精緻な政策の立案が可能に公共

生活-身体、室内のセンサーやロボットを活用することにより、各人の生活パターンに沿った生活支援(パー 家事等雑務支援が実現
ソナルアシスト) -人間との自然な会話が可能なＡＩシステムが出現

豊かさ創造-３Ｄプリンター等を利用したパーソナルファブリケーションが普及することにより、製品・サービスの利用者によるカスタマイズが一般化-センサやメディアの発達により出会い支援や体験共有が高度化することにより、人とのつながり方が質的に変化

ＡＩネットワーク化が社会・経済にもたらす便益の例（２／３）
分野

便益の例

産業
分野共通（コーポ
レート業務等)-バックオフィス業務等単純作業の自動化が進み、個人適応された自動化（自分代行秘書サービス等）の実現

農林水産- 自動栽培や農業用ドローン、インテリジェントファーミング等の実現による、生産効率の向上や収穫量の拡大

製造-製造プロセスとサプライチェーンのスマート化により、動的な需給バランスに対応した生産最適化や高度な多品種変量生産（マスカスタマイゼーション）が実現-利用者の稼働データの分析により、デジタルマーケティングや、付加価値が高い
アフターサービス・メンテナンスサービスが実現-製品の設計段階からの自動化の実現により、開発作業が効率化・高速化

運輸・物流-自動運転レベルの向上により、事故の減少、渋滞の解消、環境負荷の低減、地方や高齢者等の交通難民の解消

卸売・小売-インテリジェントコマースや購買レコメンデーション等個々の顧客のデータのきめ
細かい分析結果の活用が進み、消費が喚起

ＡＩネットワーク化が社会・経済にもたらす便益の例（３／３）
分野

便益の例

金融・保険

-リスク評価の精緻化等により、商品・サービスの高度化・多様化-トレーディング、ローン審査、与信管理の自動化が普及

医療・介護-患者のバイタルデータによる発病予測や遺伝子情報による健康管理等の実現により、健康寿命が延伸-研究論文の自動分析の実現により、研究や新薬開発が加速

教育・研究-教科の学習からキャリアの設計に至るまで、個人に応じたきめ細かい教育が進展-優れた実演家や熟練技術者、クリエイター等の「暗黙知」の「形式知」化により、教育
内容のアーカイブ化が実現し、教育の質が向上

サービス業-警備業務や、店舗におけるバックヤードの作業、コールセンターにおける応答の業
務等のうち、比較的単純な作業について、ロボット等による自動化の進展-不動産の適正価格の自動評価等の実現により、不動産取引の円滑化

建設-危険作業や苦渋作業へのロボット技術の導入等により、建築現場が女性、高齢者等にとって従事しやすいものに変化-建造物の劣化度がわかるセンサや、データの高度な解析による新しい機能性材料の開発により、建築物の安全性が向上

ＡＩネットワーク化によるリスク（１／２）
1. ＡＩネットワークの機能に関するリスク：
ＡＩネットワークに期待される機能が適正に発揮されないリスク

2. 法制度・権利利益に関するリスク
ＡＩネットワークにより権利利益等が侵害されるリスク* 両者の側面を併せ持つリスクも存在 （例:事故のリスク）

リスクの種類例

ＡＩネットワークの機能に関するリスク
セキュリティに関するリスク-ＡＩシステムに対するハッキングやサイバー攻撃-ＡＩシステムに対する攻撃が秘かに行われ、被害に気づかないこと-情報通信ネットワーク上に多種多様なＡＩシステムが混在することにより、ＡＩシ
ステムが正常に動作せず、意図しない事象が発生

情報通信ネットワーク
に関するリスク-情報通信ネットワークの不具合によりＡＩシステムが正常に動作せず、意図しない事象が発生-クラウド等におけるデータ漏洩・消失やシステム障害

不透明化のリスク-ＡＩのアルゴリズム等が不透明化し、人間にＡＩシステムの適正な制御が困難化
ないし不可能化

制御喪失のリスク-ＡＩシステムが暴走し、人間による制御が困難化ないし不可能化

ＡＩネットワーク化によるリスク（２／２）
リスクの種類例

法制度・権利利益に関するリスク
事故のリスク
犯罪のリスク
消費者等の権利利益に関するリスク
プライバシー・個人情報に関するリスク-自動運転車やロボット等の自律的判断に基づく動作による事故-ＡＩシステムを悪用したマルウェアによる犯罪-自律型兵器のテロ等犯罪への悪用-ＡＩシステムが適正に利活用されないことにより消費者、青少年、高齢者等の権利利益が毀損-ＡＩシステムによる個人情報の収集・利活用が不透明化することにより、個人情報のコントロールが困難化-ＡＩシステムが人々の信念、健康、将来の行動等を推論することにより、プライ
バシーが侵害-ＡＩシステムが人間の意思決定過程を見えない形で操作することにより、個人
人間の尊厳と個人の自 の自律が侵害律に関するリスク-ＡＩシステムが一定の分野で人間を上回る知能を持つことにより、人間中心主
義的な価値体系が動揺
民主主義と統治機構に関するリスク- AIシステムによる投票等国民の行動の操作-ＡＩシステムを国家の統治に利活用する場合における意思決定過程の不透明化や責任の所在の曖昧化

ＡＩ開発原則の素案

Ⅰ

ＡＩネットワークの機能に関する原則(1) 主にＡＩネットワーク化の健全な進展の促進及びＡＩネットワークの便益の増進に関連する原則① 連携の原則(2) 主にＡＩネットワークのリスクの抑制に関連する原則② 透明性の原則③ 制御可能性の原則④ セキュリティの原則⑤ 安全の原則⑥ プライバシーの原則⑦ 倫理の原則(3) (1)及び(2)に掲げる原則を補完する原則

Ⅱ⑧

利用者支援の原則

Ⅰに掲げる各原則に関連し、開発者がステークホルダに対し果たすことが期待される原則⑨

アカウンタビリティの原則

ＡＩネットワークの利活用のガバナンス
相互に補完ネットワーク化され得るＡＩシステムのＲ＆Ｄのガバナンス

ＡＩネットワークの利活用の
ガバナンス

【対象者】

【対象者】

ネットワーク化され得るＡＩシステム（注）のＲ＆Ｄを行う者

ＡＩネットワーク（ネットワーク化されたＡＩシステム（注））を利用する者（注）情報通信ネットワークに接続することができる
ＡＩシステム（注）情報通信ネットワークに接続されたＡＩシステム- 開発者、システムインテグレータ- ＡＩネットワークサービスのプロバイダ- 自らが開発するＡＩシステムを用いてＡＩネットワークサービスを提供する
プロバイダ- ＡＩネットワーク又はＡＩネットワーク
サービスの最終利用者

ＡＩネットワーク化のガバナンスにおけるステークホルダの参加
 ＡＩネットワーク化に関するステークホルダの例は、次のとおり。
- ＡＩのソフトウェアの研究者・プログラマ- ネットワーク化され得るＡＩシステムの研究者・開発者- システムインテグレータ、サービスプロバイダ- 最終利用者（個人、団体）- 関連する第三者- 政府（例 ＡＩネットワークの最終利用者がその機能を用に供して提供するサービスの顧客）- 国際機関
- 市民社会（例 非営利団体）
 ＡＩネットワーク化のガバナンスの過程においては、関係するステークホルダの参加及び当該ステークホルダ相互間のコミュニケーションを確保して、コンセンサスを形成するとともにベストプラクティスを共有することが強く期待されよう。