情報テクノロジーの進展がもたらす近未来 社 会 の 姿 を 考 え るシリーズ

A I ネットワーク化 の恵 沢とリスク
福 田 雅 樹 大阪大学大学院法学研究科教授◆

る各種の変化の中でも、AIシステムの利活

1．AIネットワーク化とは用の進展は、第四次産業革命を特徴付けるものと見られている。

今世紀の初頭以来、ディープラーニング

AIシステムの中には他のシステムと連携等機械学習の進化、インターネット、IoT等させずに単独で利活用され得るものもある。

による膨大なデータの流通及び蓄積の増大、しかしながら、AIシステムがその入力され通信の高速化、コンピュータの計算能力のたデータ、情報又は知識（以下「データ等」向上等に伴ってAIの研究開発が加速度的にという。
）を操作して得られるデータ等に基進み、その利活用できる領域が飛躍的に拡づく出力をする機能をその通有性とするもがることをはじめとして、3Dプリンティング、のであることに加えて、AIのほとんどの分野ナノテクノロジー等多岐にわたる分野におで利用されているとされる機械学習がそのけるイノベーションが同時並行的に進展し入力されるデータ等が増えるにつれてそのつつある。

性能が向上し得るものであることから、AIこれら多岐にわたる分野における変化がシステムの多くは、インターネット等情報融合することにより、従来人間がその知能通信ネットワークと接続され、当該情報通又は肉体を用いて携わってきた様々な営為信ネットワークを介して、そのデータ等のがAIを実装するシステム（以下「AIシステ入力元又は出力先となる他のシステムと連ム」という。
）等により補完され、代替され、携させて利活用されるようになるものと展又は高度化若しくは拡張されていくととも望されている。に、空間を越えて相互に連動するようになAIシステムがこのような形で利活用されり、第四次産業革命がもたらされるものとる場合には、当該AIシステム、当該情報通展望されている。第四次産業革命を牽引す

信ネットワーク及び当該他のシステムから

14

TASC MONTHLY no.511

なるネットワークの形成を観念することがて調整するAIシステムが出現し、さらにはで き る。 こ の ネ ッ ト ワ ー ク の こ と を「AI複数のAIネットワークの動作を取りまとめネ ッ ト ワ ー ク 」 と い い、 社 会 に お い てAI

るAIネットワークが出現するようになるとネットワークの形成及び形成されたAIネッも展望されている。

トワークの高度化が進展し、AIネットワー

また、AIシステムとの連携の相手は、機クが広く利活用されるようになる事象を総械からなるシステムだけとは限らない。セ

称して「AIネットワーク化」という。

ンサ、ロボット等実空間において動作する

AIネットワーク化は、決して遠い未来のデバイスを端末設備とするAIネットワーク絵空事ではない。AIシステムとクラウドやと人体の器官系とを連携させることにより、エッジのシステム、IoTのデバイス、最終利人体の機能の不全を補完し、又は人体の機用者が操作する端末機器その他の機械から能を拡張させることも展望されている。

なるシステムであってAIを実装しないものとがインターネット等情報通信ネットワー◆クを介して互いに連携するAIネットワーク

2．AIネットワーク化の恵沢の形成及びその利活用は、社会の様々な分野において目下急速に進展しつつある。

AIシステムをインターネット等と接続し、しかしながら、AIネットワーク化の真骨他のシステムと連携させるAIネットワーク頂は、その次の段階にある。今後、技術のの構成要素として利活用する場合には、単発展、需要の高度化等が進むにつれて、複独のAIシステムを他のシステムと連携させ数のAIシステムの機能を組み合わせて利活ずに利活用する場合には得られない便益を用 す べ く、 複 数 のAIシ ス テ ム が イ ン タ ー得ることができる。例えば、連携の内容にネット等を介して相互に連携するAIネット応じて、当該他のシステムから出力されるワークが形成され、さらには複数のAIネッデータ等を用いて当該AIシステムを利活用トワークがインターネット等を介して相互し、 又 は 当 該AIシ ス テ ム か ら 出 力 さ れ るに連携する「AIネットワークのネットワー

データ等を当該他のシステムの動作のためク」（これまたAIネットワークである。
）がに提供すること、当該AIシステムを介して形成されるようになるものと展望されてい当該他のシステムを操作すること、当該他る。複数のAIシステムの動作を取りまとめのシステムからの操作を受けて当該AIシス

15

シリーズ

AI ネ ットワ ー ク 化 の 恵 沢 とリス ク

テムを利活用すること等が可能となるもの

品の動作又は複数の役務の提供若しくは業と展望されている。

務の実施の態様を空間を越えて連動させる

特に注目すべきは、複数のAIシステムをこと等が可能となる。その恵沢として、こ相互に連携させて利活用する場合に得られれら空間を越えた動的な調整又は連動を前る便益である。例えば、各AIシステムの学提とする新たな製品又は役務の提供に関す習の結果を動的に共有すること、複数のAIるビジネスモデルの出現及びその動的な展システムをして一の課題について協働させ開、複数の業務又は事業の垣根を超えた融ること、機能を互いに異にする複数のAIシ合、製造業のサービス業化等産業構造の変ステムを組み合わせて高度な機能を実現す革等が進んでいくことが期待されよう。
さらに、社会においては、AIネットワーること等が可能となるものと展望されている。

ク化の進展に伴う技術的又は経済的な状況

これらの便益は、AIシステムとの連携のの変化に応じて、各人が即座に知り得るこ相手となるシステムが増えるにつれて高まと及び即座になし得ることの範囲が拡大し、り得るものである。特に、機械学習の機能それぞれの水準も高度なものとなるとともを 有 す るAIシ ス テ ム 等 利 活 用 の 過 程 に おに、その反射として、各人が自ら知っておいて入力されるデータ等が増えるにつれてかざるを得ないこと及び自ら手を下さざる性能が向上するAIシステムから得られる便を得ないことの範囲が縮減するという恵沢益は、その連携の相手となるシステムが増が連鎖的にもたらされ得るものと展望されえることに伴い入力されるデータ等が増える。その結果として、従来の技術的又は経るにつれてその性能自体が向上することに済的な制約の下において各人が即座に知りよっても更に高まり得るものである。前者

得ること及び即座になし得ることの範囲及はいわゆるネットワーク効果、後者はいわび水準の限界を前提として形成されてきたゆるデータネットワーク効果である。

各人相互間の関係（ネットワーク）の総体

AIシ ス テ ム を 他 の シ ス テ ム と 連 携 さ せ

ないし当該関係においてなされるコミュニて利活用することにより得られる便益を活ケーションの総体、すなわち、従来の社会

かせば、経済においては、製品の動作又はそのものが、AIネットワーク化の進展を通役務の提供若しくは業務の実施の態様を空じて、AIネットワーク社会ともいうべきも間を越えて動的に調整すること、複数の製のへと変容していくものと展望される。

16

TASC MONTHLY no.511

なお、AIネットワーク化の進展を通じて社間接につながる様々な情報通信ネットワー

会・経済にもたらされる恵沢の副作用としク上に混在し、様々な属性の個人又は団体て、これまで人間が自らの知能又は肉体をがこれら様々なAIシステムを他の様々なシ用いて行ってきた活動がAIネットワークにステムと連携させるAIネットワークを形成代替されることによる技術的失業の増加等

し、様々な目的のために様々なデータ等を負のインパクトももたらされる可能性も懸入出力させて様々な方法で利活用し、相互念されている。AIネットワーク化が社会・経に影響を及ぼし得るという複雑な状況が生済にもたらす恵沢を豊かなものとするととじ、しかも、当該状況が連鎖的に変化し続もに負のインパクトを抑制することは、今けていくようになる。
このような中、AIネットワークの構成要素後の課題となる。に不具合が生じた場合、AIネットワーク上◆を流通するデータ等に誤り又は偏りがあっ

3．AIネットワーク化のリスクた場合、AIネットワークの構成要素たるシステム相互間又は複数のAIネットワーク相機械学習の機能を有するAI等その利活用互間において目的の競合又は対立があったの過程において入力されるデータ等からの場合、AIネットワーク又はAIネットワーク学習等により自らの出力又はプログラムを上のデータ等を取り扱う者に過失又は他人将来に向けて継続的に変化させる機能を有を害する意図に基づく行為があった場合そするAIについては、その利活用の過程におの他他人の権利利益を侵害する結果を招くける学習等による出力又はプログラムの変態様での利活用があった場合等には、あら化に起因して予見、理解、検証又は制御がかじめ適切な手立てを講じておくことを怠困難な事象が生ずるおそれがあるため、従れば、AI固有の特徴並びにAIネットワーク来の情報通信技術とは異なる特別の留意がの形成及び利活用をめぐる複雑な状況及び求められることが指摘されている。

その連鎖的な変化と相俟って、利用者又はま た、AIネ ッ ト ワ ー ク 化 が 進 展 し て い

第三者が不測の不利益を被るおそれがあると指摘されている。

けば、用途、機能、性能、新旧、学習したデータ等様々な面を異にするAIシステムがこれら利用者又は第三者が不測の不利益インターネット等を介して相互に直接又はを被るおそれは、構築主義的リスク観（将17シリーズ

AI ネ ットワ ー ク 化 の 恵 沢 とリス ク

来生 ず るかも し れない望 ましくな い事 象によるアップデートの懈怠に伴い本人又は（と人々が認識するもの）をもってリスクと第三者の権利利益が損なわれるリスク、AIする立場）におけるリスクとして捉えられネットワークを通じた個人情報の収集又は得るものである。AIネットワーク化の進展

利活 用 が不 透 明化 して 個人 情 報の コ ントに伴いもたらされ得るリスクは、観念的にロールが困難となるリスク、AIネットワー

は、AIネットワークの機能上の理由によっクを用いたプロファイリングによりプライて利用者が意図しない事象が生ずるリスク

バシーが侵害されるリスク、AIネットワー

及びAIネットワークの利活用の仕方に伴いクから得られるデータ等が操作され、人間利用者若しくは第三者の権利利益又は社会の意思決定、感情等が見えない形で操作さの法的な仕組みが害されるリスクとに大別れるリスク、社会における人種・性別等にされ得る。

係る偏りを反映した入力に応じて出力され前 者 の リ ス ク の 例 と し て は、AIネ ッ トたデータ等に依拠することに起因して意図

ワ ー ク の 入 出 力 を 予 見 し、 理 解 し、 検 証せざる差別が生ずるリスク、投票等が左右し、又は説明することが困難となるリスク、されるリスク、AIネットワークを国等の統ファームウェアの乗っ取りによるAIの暴走治に用いる場合に意思決定過程が不透明化等によりAIネットワークの動作を制御するするリスク等が挙げられる。

ことが困難となるリスク、AIネットワーク

これらリスクを懼れるあまりに、リスクがハッキング、サイバー攻撃等を受けて不自体を完全に封ずることを目指すと、AIネッ正に操作されるリスク、AIネットワーク上トワークの形成及び利活用そのものを封じにおける多種多様なAIシステムの混在、情てしまい、AIネットワーク化の恵沢も得られ

報通信ネットワークの不具合等に伴い利用ないこととなりかねない。これでは、角を者が意図しない事象が生ずるリスク等が挙矯めて牛を殺すこととなる。リスクに対すげられる。

る向き合い方としては、リスク自体を完全後者のリスクの例としては、AIネットワーに封ずることを目指すのではなく、リスククが入出力するデータ等の誤りに起因しての顕在化及び波及並びにその不利益に関し、事故が生ずるリスク、AIを悪用したマルウェ

これらの蓋然性、規模、予防又は回復の難

ア等による犯罪がAIネットワークを通じて易等を的確に評価し、当該不利益を合理的なされるリスク、リテラシーを欠く利用者に抑制することを基本とする方向で具体的

18

TASC MONTHLY no.511

かつ漸進的に検討を進めていくことが必要

ネットワーク全体を視野に入れた解決策がであろう。

選択肢として明示的に俎上に上ってくる。
これらのことに鑑みると、AI又はAIシステ◆

ムの利活用がもたらし得る恵沢及びリスク

4．今後の課題を検討する際の視座をめぐる課題については、これを単に単独のAI又は単独のAIシステムをめぐる課題とAIが利活用される際にはAIネットワークして捉えるのではなく、広くAIネットワーの構成要素として利活用されることが多くクの形成及び利活用をめぐる課題、すなわなり、しかも、AIがAIネットワークの構成ち、AIネットワーク化の進展をめぐる課題と要素として利活用される場合には、個々のして捉えることが適切であると考えられる。

AIシステムが単独で利活用される場合にはAIネットワーク化の進展をめぐる課題は、得られない恵沢が得られる一方で、個々のこれを産業、金融、交通、教育、医療・介AIシステムが単独で利活用される場合より護等社会の構成員が活動する個々の分野にも多岐にわたるリスクがもたらされ、そのおける個別的な事情に応じた課題と、社会顕在化又は波及に伴う不利益が懸念される。

全体におけるAIネットワーク化の進展の在また、今後開発されるAIについてはそのり方をめぐる分野共通的ないし分野横断的透明性や制御可能性を求めることが容易でな課題とに大別できよう。そのうち、個々ないことが指摘されているが、単独のAI又の 分 野に お ける 個別 的 な課 題に つ いて は、は単独のAIシステムに着目するだけでは対当該分野の個別的な事情に応じて当該分野処しにくいリスクをめぐる課題をAIネット自体の課題の一部として検討されるべきもワークの形成及び利活用をめぐるリスクをのと考えられる。

めぐる課題として捉えることとすれば、AI社会全体におけるAIネットワーク化の進の動作をネットワークを介して人間又は他展の在り方に関する分野共通的ないし分野のシステム（特に他のAIシステム）が監視

横 断 的 な 課 題 と し て は、 第 一 にAIネ ッ ト

し又は制御すること、ブロックチェーン等ワーク化の進展が社会・経済にもたらす恵信頼を確保するための他の仕組みと組み合沢を全体として豊かなものとするとともにわせること、リスクを顕在化させたAIシス

リスクの顕在化又は波及に伴う利用者又はテムをネットワークから切り離すこと等AI第三者の不利益を抑制すること、第二に社

19

シリーズ

AI ネ ットワ ー ク 化 の 恵 沢 とリス ク

会のすべての構成員がAIネットワーク化のなわち、利用者の利益（利用者となること進展状況に応じてその恵沢を享受できるよができることの利益を含む。以下同じ。
）をう、 社 会 に お け る そ の 構 成 員 の 包 摂 をAI保護することが必要となろう。けだし、AIネットワーク化の進展状況に応じて確保すネットワーク化が進展していくにつれて、AIることが挙げられよう。

ネットワークを利活用できることを前提とAIネットワーク化の進展がもたらす恵沢

して様々な製品や役務が供給されたり、社を全体として豊かなものとするとともにリ会の仕組みが形成されたりすることが増えスクの顕在化又は波及に伴う不利益を抑制ていき、個人又は団体が社会の構成員としすることのためには、AIネットワークの円滑て活動するためにはAIネットワークの利用かつ健全な形成及び利活用を確保すること者となることを余儀なくするようになるも（リスクの顕在化若しくは波及自体又はこれのと見られるからである。

らに伴う不利益を抑制するためにAIシステ

ここでいう「利用者の利益」とは、AIネッムの開発又はAIネットワークの形成若しくトワークを上記のような形で利活用できるは利活用に関し講ぜられる措置の実効性を状況にあることという利益そのものをいう確保することを含む。
）が必要となる。このものであり、AIネットワークを利活用するほか、特に当該恵沢を豊かなものとするたことの結果として得られる経済的な利益をめには、当該不利益又は当該恵沢の副作用いうものではない。前者の利益は社会におとしてもたらされる負のインパクトを忌避けるその構成員の包摂を確保することの必して社会においてAIネットワーク化が受容要性というAIネットワーク化固有の規範的されなくなることを回避することが必要とな見地から保護すべきものであるのに対し、なる。

後者の利益は一般競争法を中心とする競争社会におけるその構成員の包摂をAIネッ秩序を通じて得られるべきものである。

トワーク化の進展状況に応じて確保していAIネットワークの円滑かつ健全な形成及くことのためには、社会の構成員の誰しもび利活用を確保するとともに利用者の利益がその希望するAIネットワークをその機能を 保 護 し、 か つ、 社 会 に お け るAIネ ッ トに応じた手頃かつ公平な条件で安心して安ワーク化の受容を確保するためには、AIネッ

全に利活用できる状況をAIネットワーク化

ト ワ ー ク 化 の 進 展 の 動 向、AIネ ッ ト ワ ーの進展状況に応じて確保していくこと、す

ク の 性 質（ 公 衆 必 需 性、 ネ ッ ト ワ ー ク 効20

TASC MONTHLY no.511

果、データネットワーク効果等）、AIネット

AIネットワーク社会推進会議等において関ワークにおいて取り扱われるデータ等の性連する検討が進められており、国際場裏で質（公衆必需性、関係者のプライバシー等

は、平成28年に開催されたG7香川・高松情

権利利益との関係等）、リスクの顕在化及び報通信大臣会合における我が国の総務大臣

波及並びにその不利益の性質（蓋然性、規からの提案を契機として、OECD等において模、予防又は回復の難易等）等に応じて、AI関連する検討が進められている。

システムの研究開発並びにAIネットワーク

第二に、AIネットワークの形成及び利活の形成及び利活用に当たり留意されるべき用が少なくとも現時点においては揺籃期に事項に関する規範及びその実効性の確保にあること及びAIの分野の動向が専門家によ関する枠組みを形成していくこと、法制度る予測をも頻繁に塗り替えざるを得ない程等社会の仕組みをAIネットワーク化の進展急速なものであることから、これらの課題に対応し得るものとするよう調整していくを検討するに当たっては、リスクの顕在化こと等が課題となろう。

又は波及に伴う不利益のうち事後的な措置

これらの課題の各論を具体的に説明するによる回復が困難なものの抑制に関するこ

紙幅は残されていないので、本稿の結びにとを除き、柔軟性を重視し、非規制的かつ代えて、これらの課題を検討するに当たっ

非拘束的なソフトローによるガバナンスのて留意すべき事項として次の三点を指摘し形成を志向するアプローチによることを基ておく。

本とすべきものと考えられる。

第一に、AIネットワークを利活用するこ第三に、AIネットワークの形成及び利活用とにより得られる恵沢及びAIネットワークが揺籃期にある現時点からこれらの課題にのリスクが顕在化することに伴う不利益が、関し検討を進めていくことは時期尚早であAIシステムが所在する場所如何にかかわらるとする批判があり得ようが、AIの分野のず、時には国境を越え、即座にもたらされ動向の速さに鑑みると、時期尚早であるこ得るものであることから、これらの課題をとを理由として検討を進めずにいると、気検討するに当たっては、関係機関の協調のが付けば既成事実が急速に形成されてしま下、国際的に共有される枠組みの形成を志い、手遅れとなりかねないことから、これ向すべきものと考えられる。この国際的にらの課題の検討については、拙速を避ける共有される枠組みの形成に関し、国内ではべきであるとしても、手遅れになることが21

シリーズAI ネ ットワ ー ク 化 の 恵 沢 とリス ク

ないよう、注意深く漸進的に、不断の見直

人 工 知 能 学 会「 人 工 知 能 研 究 」（http://www.aigakkai.or.jp/whatsai/AIresearch.html）〔平成30年5月31日最終閲覧〕

しを前提として早々から着実に進めていくべきものと考えられる。

アーノルド・トインビー（桑原武夫ほか訳）『図説歴史の研究』（学習研究社、昭50）

参考文献『社会の経済』（文二クラス・ルーマン（春日淳一訳）

福田雅樹「AIネットワーク化の展望と課題」情報通信眞堂、平3）

学会誌35巻2号63-71頁（平29）

中山竜一「互恵性と責任の政治学―リスク現実化の福田雅樹「『AIネットワーク化』およびそのガバナン「前」と「後」―」立命館言語文化研究26巻4号143-

ス―『智連社会』に向けた法・政策の視座」福田雅樹

152頁（平27）＝林秀弥＝成原慧編『AIがつなげる社会―AIネット

堀浩一「人工知能の研究開発をどう進めるか」情報管ワーク時代の法・政策』2-44頁（弘文堂、平29）

理58巻4号250-258頁（平27）

AIネットワーク社会推進会議「報告書2017―AIネッ

中川裕志「シンギュラリティ以前―人工知能と社会―トワーク化に関する国際的な議論の推進に向けて―」

改 訂 版 」26-28頁（ 平 成28年4月4日 ）<https://www.
slideshare.net/hirsoshnakagawa3/ss-64699644>〔 平成30年５月31日最終閲覧〕（総務省情報通信政策研究所、平29）

AIネットワーク化検討会議「報告書2016 AIネット
ワーク化の影響とリスク―智連社会（WINS）の実現

ケヴィン・ケリー（服部桂訳）『＜インターネット＞に向けた課題―」（総務省情報通信政策研究所、平28）の次に来るもの―未来を決める12の法則』（NHK出版、

AIネットワーク化検討会議「中間報告書 AIネット
ワーク化が拓く智連社会（WINS）―第四次産業革命平28）
中西崇文『シンギュラリティは怖くない―ちょっと落（総務省情報通信政策研究を超えた社会に向けて―」

ちついて人工知能について考えよう』（草思社、平29）

所、平28）

人工知能学会監修・松尾豊編『人工知能とは』（近代KLAUS SCHWAB, THE FOURTH INDUSTRIAL REVOLUTION (2016)

科学社、平28）

プロフィール…………………………………………………
ふくだ・まさき 1970年生まれ。大阪大学大学院法学研究科教授、同研究科附属法政実務連携センター長、理化学研究所革新知能統合研究センター客員主管研究員。京都大学法学部卒業、東京大学大学院学際情報学府博士後期課程修了（博士（学際情報学））。早稲田大学大学院国際情報通信研究科准教授、内閣官房内閣人事局企画官、総務省情報通信政策研究所調査研究部長等を経て現職。専門は、情報通信法。

22