資料５－２
別紙２

ＡＩネットワーク化の進展に伴い形成される
エコシステムの展望

別紙２－１ ＡＩの利活用の展望
別紙２－２ ケーススタディ
別紙２－３ ＡＩネットワーク化の進展において想定される課題（ネットワーク化の観点から）

ＡＩネットワーク化の進展に伴い形成されるエコシステムの展望について① ＡＩの利活用に着目し、主として利用者の視点から、ＡＩの利用シーンを展望する。
ＡＩの利用シーンの展望に当たっては、次のように利用シーンを分類することとする。
＜ＡＩの利用シーンの分類＞
エンドユーザー

宅外
個人の
利用者
宅内

利用者としての企業

都市部における
利用

地方部における
利用

家庭内における利用

企業における利用② 上記①の利用シーンをもとに、いくつかの事例に関するケーススタディを行い、ＡＩの利活用による便益及び課題を整理する。
ケース①：完全自動運転
ケース②：医療診断
ケース③：人事評価・採用

ケース④：金融（保険）
ケース⑤：行政③ 上記①の利用シーンを展望する中で、主としてＡＩネットワーク化の健全な進展を阻害し得る要因（ネットワーク化
により生ずる（増幅する）課題）を考察する。
（注）上記③については、主にＡＩネットワーク化の進展段階２（複数のＡＩシステム相互間のネットワークが形成され、ネットワーク上のＡＩシステムが相互に連携して協調する段階）を想定している。また、上記②において整理する課題についても、
ネットワーク化により生ずる（増幅する）課題も含まれており、上記③の課題と重複するものもある。
1

課題の整理①■ 別紙２－２「ケーススタディ」及び別紙２－３「ＡＩネットワーク化の進展において想定される課題（ネットワーク
化の観点から）」において、ＡＩの利活用の促進やＡＩネットワーク化の健全な進展のための課題を次のように整理した。また、それぞれの課題が、ＡＩ利活用原則案の主としてどの原則に対応するかを示している。
なお、これらの課題の解決に当たっては、基本的に社会的な観点、技術的な観点の両面からのアプローチが必要であるものと考えられる。
【主として生命・身体の安全、権利・利益等を守るための課題】〇 生命・身体・財産の安全に関する課題（事故の防止など）：安全→⇒①適正利用の原則、④安全の原則

どのように事故が発生しないようにするか、また、事故が生じた場合にどのように対応すべきか（責任の在り方を含む。）
について検討が必要ではないか。

〇 ＡＩによる判断の正当性や公平性に関する課題（差別、生命倫理との関係など）：正当性・公平性⇒→②適正学習の原則、⑦尊厳・自律の原則、⑧公平性の原則

どのようにＡＩによる判断の正当性や公平性を確保し差別的な取扱いがなされないようにするか、データの適正性・正確性
や人間の介在の在り方を含めて検討が必要ではないか。

〇 プライバシーに関する課題（プライバシーの尊重、プロファイリングなど）：プライバシー→⇒⑥プライバシーの原則

どのようにプライバシーを尊重するのか、本人同意の在り方やプロファイリングの在り方などを含めて検討が必要ではないか。

【主として人間とＡＩとの関係等に関する課題】〇 人間とＡＩとの役割分担等に関する課題（人間の判断の介在、関係者間の協力など）：役割分担⇒→

どのような場合に人間の判断を介在させるべきか、その介在の要否の基準を含めて検討が必要ではないか。また、安心して安全にＡＩを利活用するために、どのように関係者が協力すべきかについて検討が必要ではないか。

〇 ＡＩに対する受容性に関する課題（利用者に対する説明責任など）：受容性→①適正利用の原則、③連携の原則⇒⑩アカウンタビリティの原則

どのように利用者・社会のＡＩの信頼性を醸成すべきかについて検討が必要ではないか。
2

課題の整理②【主として技術的な観点からの解決が求められる課題】〇 ＡＩの判断のブラックボックス化に関する課題（事故が発生した場合の原因究明など）：ブラックボックス化⇒→

どのような場合に、どの程度ＡＩの判断の根拠・理由を明らかにすべきかについて検討が必要ではないか。

〇 セキュリティに関する課題（ハッキング対策など）：セキュリティ→⇒⑤セキュリティの原則

どのようにセキュリティを確保すべきかについて検討が必要ではないか。

〇 ＡＩ間の連携に関する課題（ＡＩ間の交渉・調整など）：連携→⑨透明性の原則⇒③連携の原則どのようにＡＩ間の円滑な交渉・調整を実現するか、データ形式やプロトコル等の観点も含めて検討が必要ではないか。

【主としてデータに関する課題】〇 ＡＩが学習するデータに関する課題（データの正確性など）：データ→⇒③適正学習の原則

どのようにデータの適正性・正確性を担保するか、また、どのように適切なデータを確保するかについて検討が必要ではな
いか。

（注）このほか、ＡＩの利活用を促進するための教育・人材育成の在り方、事故等による被害者の救済の在り方、ＡＩの利活用を促進するための法制度等の在り方などについて検討が必要ではないか。
＜凡例＞
全 ： 人間の生命・身体・財産の安全に関する課題・ 安・ ブラックボックス化 ： ＡＩの判断のブラックボックス化に関する課題

・ 正当性・公正性 ： ＡＩによる判断の正当性や公正性に関する課題

・ セ キ ュ リ テ ィ ： セキュリティに関する課題

・ プ ラ イ バ シ ー ： プライバシーに関する課題・ 連

・ 役 割 分 担 ： 人間とＡＩとの役割分担等に関する課題

・ デ

・ 受

容

性 ： ＡＩに対する受容性に関する課題

携 ： ＡＩ間の連携に関する課題ータ ： ＡＩが学習するデータに関する課題3別紙２－１

ＡＩの利活用の展望○○○○

都市部におけるＡＩの利用シーン
地方部におけるＡＩの利用シーン
家庭内におけるＡＩの利用シーン
企業におけるＡＩの利用シーン

都市部におけるＡＩの利用シーン（例）移動介護 混雑を回避した最適な移動手段・ルートの選択が可能となるほか、完全自動運転の実現により、移動時間の有効活用を図ることなどができる。

完全自動ロボットによる介護支援

AI

AI

AI

AI

自動運転車による介護施設への送迎

長距離トラック・バスの自動運転の実現による深夜労働から解放

完全自動運転の実現
移動時間の有効利用

AI

AI
AI

最適な移動手段・ルートの提案、
リアルタイムでの調整

趣味・嗜好、予算等に応じた最適な旅行計画の提案、手続きの実施、
天候等に応じたリアルタイムでの調整

 自動運転車での送迎により介護施設への移動が容易になるほか、介護ロ
ボットの活用等により人手不足を補うことができる。

AI

AI

最適なケアプランの提案・作成リタイア後の再就職支援、
生涯学習支援ＡＩスピーカーや執事ロボットの活用
学校、塾、家庭での学習の連携により、自身の能力、適性等に応じた学習コンテンツの提供

脳チップによる現地における歴史の直接的な疑似体験

AI

AI

AI
多言語翻訳による外国人とのコミュニケーションの円滑化

 最適な旅行計画の提案が可能となり、チケットの手配等の自動化も可能となるほか、言語に悩むことなく快適に観光を楽しむことができる。

技能習得のための最適なコンテンツの提供

 学校、塾、家庭などが連携し、最適な学習コンテンツが提供されるほか、就職・転職等に必要な技能を習得するための最適なコンテンツが提供される。

観光・旅行：既に実用化されているもの
AI
近い将来実現しそうなもの

AI

AI

教育・人材育成
AI ：中期的に実現しそうなもの

AI ：遠い将来に実現しそうなもの（注）想定される利活用のうち、いくつかの例を記載
現行制度等を前提とせずに利活用の可能性を展望して記載

1

地方部におけるＡＩの利用シーン（例）移動医療 自動運転の実現により、高齢者等が病院や買物などに行く交通手段が確保されるほか、路線バスなどの交通網の維持（廃止回避）が可能となる。
路線バスの自動運転化により、運転手不足等の問題が解消

AI

自動運転車の実現により、高齢者等の外出が容易に可能（移動手段の確保）

AI

専門医がいない地域
における画像診断等を用いた遠隔医療AI

AI

AI

 専門医がいない地域でも、遠隔医療による診断等が可能となるほか、薬剤師が少ない地域では、調剤の自動化により、近所で薬の入手が可能となる。

ＡＩシステム間の調整による緊急搬送における専門医とのマッチング、最適なルートの設定
AI

AI
調剤の自動化

自動運転タクシーによる快適な観光

自走式トラクターやドローンによる
耕耘、種まき等の作業の自動化

ＡＩスピーカーや執事ロボットの活用
地域の特性に応じたまちづくり（災害に強いまち、
高齢者に優しいまち等）を提案

AI

AI

AI

AI

天候や海水温等に応じた魚群探知の高精度化

 農業や漁業等における作業の自動化や効率化・高度化により、従事者の人
手不足や高齢化に対処することができる。

趣味・嗜好に応じた地域内、都市部や海外の人々とのマッチング、交流 地域の特性に応じた街づくりが可能となるほか、地域内外との交流が活発となり、コミュニティの活性化に貢献することができる。

仕事：既に実用化されているもの
AI
近い将来実現しそうなもの

AI

各地域社会の状況・特性に応じたイベントの企画・参加勧奨

作物の生育状況のモニタリングや収穫量の予測
AI

AI

コミュニティ
AI ：中期的に実現しそうなもの

AI ：遠い将来に実現しそうなもの（注）想定される利活用のうち、いくつかの例を記載
現行制度等を前提とせずに利活用の可能性を展望して記載

2

家庭内におけるＡＩの利用シーン（例）医療家事 健康情報や生活情報等から病気発症の予測、生活改善・疾病予防の提案を行うほか、自宅に居ながら遠隔で医師の診断を受けることができる。
生活改善、疾病予防の提案
遠隔での診断AI

 料理や掃除が自動化されるほか、買物も自動化（執事ロボットによる自動注
文、ドローンによる自宅への自動配送）することができる。

食材や日用品などの在庫状況に応じた自動注文、自動配送

健康情報や生活情報等を活用した健康状態の推定、病気発症の予測AI

AI

AI

生活者の嗜好に基づくレシピの提案
料理の自動化

AI

AI

AI

AI

体内のＡＩチップによる病気（異常）
の早期発見

自動清掃

生活情報等の活用
による高齢者や子供の見守り

財産、性格等に応じた資産運用の提案、
家計簿情報等に基づく節約術の提案

ＡＩスピーカーや執事ロボットの活用

AI

AI

嗜好に応じた娯楽コンテンツの提供（脳チップによる直接的な疑似体験）適性、能力等に応じた進路（就職先）の提案、マッチング

AI

AI

AI

性格等に応じた結婚相手像の提案、マッチング

人の在・不在、居場所に応じたエアコンの運転や温度・湿度の自動調整

 遠方の高齢者や外出時の子供の見守りが可能となるほか、仮想現実（ＶＲ）を活用した高度な疑似体験が可能となる。

 結婚、就職など人生の転機となる出来事において最適な提案が可能となる
ほか、資産運用や節約術の提案が可能となる。

安全・快適な居住環境：既に実用化されているもの
AI
近い将来実現しそうなもの

AI

豊かな人生
AI ：中期的に実現しそうなもの

AI ：遠い将来に実現しそうなもの（注）想定される利活用のうち、いくつかの例を記載
現行制度等を前提とせずに利活用の可能性を展望して記載

3

企業におけるＡＩの利用シーン（例）ヒトモノ 最適な人材配置や採用（外部人材の登用を含む。）等が可能となるほか、従業員のモチベーションの向上等が期待できる。

 リソース等に応じた最適な生産計画の提案や自動調整が可能となるほか、物流全体の効率化・自動化が可能となる。
集荷・仕分け・梱包等の自動化能力、適性等に応じた最適な人材配置、処遇の提案
AIAI
従業員の健康管理、
生活改善の提案

AI

AI

ネットワークを介したＡＩシステム間の調整による物流全体の最適化

AIAI
在庫状況、原料価格の変動等に応じた生産計画の提案、自動調整

有能な人材採用の支援

AI

事業の将来性、マーケット動向等を勘案した最適な投資判断の提案、支援
市場予測
様々な領域の予測・分析を踏まえた事業経営の支援（戦略の方向性の提案、事業者が抱える課題や経営者が見落としている点の指摘等）

AI

AI
定型的な業務の省人化、無人化によるコスト削減

契約における価格の自動交渉

 定型的な業務のコストが削減できるほか、成長分野への積極的な投資などが可能となる。

トレンドを先取りしたマーケ
ティングや顧客の属性・特性に応じた効果的な広告
の提供

経営支援

 保有する情報の可視化、様々な外部の情報（市場動向、他社の動向など）を含めた多角的な分析により、最適な経営判断の支援が可能となる。

カネ：既に実用化されているもの
AI
近い将来実現しそうなもの

顧客調査 他社動向情報
AI ：中期的に実現しそうなもの

AI ：遠い将来に実現しそうなもの（注）想定される利活用のうち、いくつかの例を記載
現行制度等を前提とせずに利活用の可能性を展望して記載

4

別紙２－２

ケーススタディケース①：完全自動運転
ケース②：医療診断
ケース③：人事評価・採用
ケース④：金融（保険）
ケース⑤：行政ケース①：完全自動運転想定される便益（例）〇 人間は運転する必要がなく、自動車での移動において、移動時間を有効に活用することができるようになる。
〇 高齢者や障害者の方にとって、手軽に移動することができる手段が確保されることなり、病院や買物などに容易に出かけることができる
ようになる。
〇 深夜や早朝などにおける長距離トラックや長距離バスの運転をする必要がなく、働き方やワーク・ライフ・バランスを見直すことなどができるようになる。
〇 特に地方部などにおける路線バスの運転手不足などの問題を改善することができ、路線の廃止・縮小を回避することができるようになる。

想定される課題（例）〇 自動運転車間で交渉・調整が成立しない場合、車線変更や合流等が適切に行うことができないおそれがある。［連携］【類似ケース】 サプライチェーン全体で最適化の調整している場合、各社のＡＩシステム間で適切な交渉・調整が成立しないと最適化が実現できないおそれがある。
〇 ＡＩシステムがハッキング等された場合、そのＡＩシステムを実装している自動運転車が正常に機能しなくなるだけではなく、ネットワークを介して、次々と他の自動運転車にも影響が及び、事故や交通の混乱が生ずるおそれがある。［連携、セキュリティ、安全］【類似ケース】 食材や日用品などの自動注文ＡＩシステムがハッキング等された場合、注文の量が過剰又は過少に変更されたり、架空の注文や不正な注文などが行われたりするおそれがある。
〇 長期間ＡＩソフトのアップデート等をしなかった場合や学習したことがない（想定できない）場面に遭遇した場合、自動運転車が周囲の状況を正しく認識することができず、障害物等を誤って認識してしまい、事故を起こすおそれがある。［セキュリティ、安全］【類似ケース】 ＡＩシステムの点検・修理を怠っていたため、ドローン間の連携が適切に行うことができず、衝突したり、墜落したりして、利用者や第三者に危害を及ぼすおそれがある。
〇 自動運転車が事故を起こしてしまった場合、ＡＩがどのように判断をしたのか検証できないと、責任の所在を明らかにできず、適切な責任分配がなされないおそれがある。［安全、ブラックボックス化］【類似ケース】 緊急救命で救急車と医療機関等の間でリソース配分等の調整を行うケースにおいて、順番が劣後され症状が悪化した場
合、AIの判断の検証、責任の所在、被害者救済が問題となるおそれがある。
（注）想定される便益及び課題のうち、いくつかの例を記載

1

ケース②：医療診断
想定される便益（例）〇 画像診断により、病気の早期発見、見落としの改善につながるとともに、医師の負担が軽減されるようになる。
〇 遠隔診断により、専門医がいない地域（特に地方部）でも適切な診断を受けることができるとともに、医師不足・偏在などの問題の解決に貢献することができるようになる。
〇 遠隔診断により、自宅でかかりつけ医や専門医などの診断・診療を受けることがきるようになる。
〇 体内に埋めたＡＩチップが身体に関する情報を集め、分析することにより、異常や病気を早期に発見することができるようになる。

想定される課題（例）〇 ＡＩの診断の精度、人々のＡＩに対する信頼等を踏まえると、診断をＡＩの判断のみに委ねる場合、患者の理解が得られないおそれがある。

［役割分担、受容性］【類似ケース】 人事評価や採用の可否をAIの判断のみに委ねる場合、従業員や求職者の理解が得られないおそれがある。
〇 ＡＩが誤診した結果、適切な治療が行われずに患者の症状が悪化してしまった場合、なぜ誤診したのか、ＡＩがどのような判断をしたのか説明ができないと、患者や家族などの理解が得られないおそれがある。［ブラックボックス化、受容性］【類似ケース】 人事評価や採用において、ＡＩが不利益な判断（低い評価、不採用）をした場合、AIがなぜそのような判断をしたのか説明ができないと、対象者の理解が得られないおそれがある。
〇 ＡＩシステムがハッキング等され、患者の医療データが流出した場合、ネットワークを介して次々と他のＡＩシステムにデータが共有されるとともに、様々なデータと統合されることにより、個人が特定され、重大なプライバシー侵害が生ずるおそれがある。［プライバシー、セキュ

リティ、連携］【類似ケース】 結婚相手をマッチングするＡＩシステムがハッキング等された場合、プロフィール（パーソナルデータ）が、ＡＩシステム間の連携により、本人の同意なく自動的にパーソナルデータが流通し、プライバシーが侵害されたり、悪用されたりするおそれがある。
〇 体内にＡＩチップを埋め込む利活用については、生命倫理の観点等から慎重な検討が求められるおそれがある。［正当性・公正性］【類似ケース】 脳にＡＩチップを埋めて脳に直接働きかけるような利活用や体内にＡＩチップを埋めて人間の運動能力を増幅させるような利活用については、生命倫理等の観点等から慎重な検討が求められるおそれがある。
（注）想定される便益及び課題のうち、いくつかの例を記載

2

ケース③：人事評価・採用想定される便益（例）〇 ＡＩを活用したマッチングにより、求職者は適性や能力等に応じた就職先を選ぶことができ、採用側は求めるニーズに合致した有能な人材を登用することができるようになる。
〇 採用プロセスにおけるＡＩの利活用により、統一的な基準で評価を行うことができる（評価のバラツキを抑えることができる。）ようになる。
〇 採用側の選考作業の負担を大幅に軽減・効率化することができ、人間は他の業務に注力することができるようになる。
〇 従業員の適性や能力、希望等に応じた最適な人材配置を提案することができるようになる。
〇 ＡＩが従業員の業績等を評価することにより、評価のバラツキを抑えることができ、また、評価に応じた細やかな処遇を提案することができるようになる。

想定される課題（例）〇 人事評価や採用の可否をＡＩの判断のみに委ねる場合、従業員や求職者の理解が得られないおそれがある。（再掲）［役割分担、受容性］【類似ケース】 融資（住宅ローン等）の可否等をＡＩの判断のみに委ねる場合、申込者の理解が得られないおそれがある。
〇 採用においてＡＩを利活用する場合、過去の採用された者のデータを学習することにより、過去の採用された者と同じような人材ばかりが評価され、時代の変化に応じた適切な採用がなされなくなる（多様性の確保が困難になる）おそれがある。［データ］【類似ケース】 利用者の趣味・嗜好に応じてＡＩが料理のレシピを提案する場合、いつも特定のレシピが採用されると、これを学習すること
により、ますます同じようなレシピが提案されることとなり、他のレシピが提案されなくなるおそれがある。
〇 カメラ映像や各種センサー等から得られる働きぶりなどに関するデータを用いてＡＩを利活用したモニタリングを行う場合、労働強化につながったり、従業員が必要以上のプレッシャーを感じて健康を損なったりするおそれがある。［その他］【類似ケース】 犯罪捜査や裁判において、ＳＮＳ等の情報を用いてＡＩを利活用する場合、思想や信条等を理由として不利益な扱いを受けるおそれがある。
〇 人事評価や採用においてＡＩを利活用する場合、人種、国籍、信条等を理由として不利益な判断（低い評価、不採用）がなされるおそれがある。［正当性・公正性］【類似ケース】 裁判や犯罪捜査においてＡＩを利活用する場合、人種、年齢、職業等を理由として不利益な判断がなされるおそれがある。
（注）想定される便益及び課題のうち、いくつかの例を記載

3

ケース④：金融（保険）想定される便益（例）〇 健康状態や自動車の運転の巧拙（急発進、急ブレーキの多寡など）等に応じて、保険料率等が異なる商品（生命保険、自動車保険）を提供することができるようになる。
〇 ゲノム情報等に応じて、各人にカスタマイズした商品（生命保険）を提供することができるようになる。
〇 自動車事故が起きた際に、現場の写真・画像から瞬時に保険金を算出することができ、保険金の支払いまでの期間を短縮することができるようになる。
〇 保険金の支払いに際して、帳票や診断書等を自動で読み込み、査定等に必要な手続きを行うことにより、事務を効率化することができるようになる。

想定される課題（例）〇 当人の知らないところで健康や自動車の運転に関するデータが取得されたり、同意していない目的のために活用されたりして、プライバ
シーが侵害されるおそれがある。［プライバシー］【類似ケース】 当人が気づかずに防犯カメラ等により画像が撮影（データが取得）され、本人の同意なしに様々な分析（ビッグデータ解析）に活用されたり、プロファイリングに使われたりして、プライバシーが侵害されるおそれがある。
〇 健康状態や自動車の運転の巧拙等に応じた新しい商品について、ＡＩがどのような根拠に基づいて保険料を算出したのか説明できないと、適正な保険料であるかを判断することができず、新しい商品を提供することができないおそれがある。［ブラックボックス化］【類似ケース】 店舗やイベントの来客数等をＡＩが予測するサービスについて、ＡＩがどのような根拠に基づいて予測したのか説明できないと、当該サービスの利用者の信頼を得ることができず、利用してもらえないおそれがある。
〇 ゲノム情報を解析されることにより、現在は健康であっても将来的に病気を発症する可能性が高いと判断されると、保険に加入することができなくなるおそれがある。［正当性・公正性］【類似ケース】 顔の画像や声を解析されることにより、外見ではわからない精神的な疾患等に該当する可能性が高いと判断されると、就職や転職などで不利な扱いを受けるおそれがある。
〇 適切なデータで学習していなかったり、学習するデータ量が十分でなく、画像認識や文字認識の精度が低い場合、適正な保険金を算出できなかったり、適切に査定できなかったりするおそれがある。［データ］【類似ケース】 適切なデータで学習していない等の理由により、災害予測の精度が十分でない場合、警戒情報の発信が行われなかった
り、遅れたりするおそれがある。
（注）想定される便益及び課題のうち、いくつかの例を記載

4

ケース⑤：行政
想定される便益（例）〇 給付金や補助金等の申請に関し、申請書に不備等がないか確認するとともに、支給の条件を満たしているか必要な情報と照合し、支給の可否を判断することにより、手続きの期間の短縮、業務の効率化に貢献することができるようになる。
〇 年金や児童手当などに関し、対象者の生活情報等と照合（生存の確認等）することにより、不正受給を防止することができるようになる。
〇 道路や橋などのインフラの故障予測や異常検知に応じて修理ロボットが自動で修理を行うことができるようになり、安心して安全に使うことができるとともに、人間では作業が困難な場所でも安全に修理を行うことができるようになる。
〇 災害対応において、災害予測（二次災害を含む。）を行い、警戒情報を発信するとともに、被害状況や地域の事情等に応じた復旧計画を提案するなど、被害の最小化、早期の復旧を支援することができるようになる。

想定される課題（例）〇 給付金や補助金等の申請に関し、ＡＩによって支給が認められないと判断された場合、ＡＩがなぜそのような判断をしたのか説明ができな
いと、対象者の理解が得られないおそれがある。［ブラックボックス化、受容性］【類似ケース】 ＡＩの判断をもとに、融資（住宅ローン等）を受けることができなかった場合、ＡＩがなぜ融資を認めなかったのか説明ができないと、申込者の理解が得られないおそれがある。（再掲）〇 年金や児童手当、失業手当などの受給資格の確認を行う場合、生存等の確認のために生活情報等（電気や水道の使用状況等）を用いることの同意を得ることができず、このような利活用ができないおそれがある。［プライバシー、受容性］【類似ケース】 地域全体で電力やガス等の需給バランスの最適化に向けた調整を行う場合、情報提供に同意を得ることができない住民がいると、全体としての最適化が実現できないおそれがある。
〇 適切なデータで学習していない等の理由により、災害予測の精度が十分でない場合、警戒情報の発信が行われなかったり、遅れたりす
るおそれがある。（再掲）［データ、安全］【類似ケース】 ウェアラブル端末からの健康情報や生活情報等を用いた健康状態の推定において、適切なデータで学習していない等の理由により、その精度が十分でない場合、病気の前兆を見逃してしまうおそれがある。
〇 ＡＩが行った確認・判断等の根拠がわからない場合、行政が行う決定・処分の理由がわからず、不服申立てを行うに当たり適切な主張を行うことができなかったり、情報公開請求をしても適切な情報を得ることができなかったりするおそれがある。［ブラックボックス化、受容性］【類似ケース】 金融機関等の事業者が利活用するＡＩの判断がブラックボックス化すると、顧客への説明や監督官庁の検査・監査等に適切に対応できないおそれがある。
（注）想定される便益及び課題のうち、いくつかの例を記載

5

別紙２－３

ＡＩネットワーク化の進展において想定される課題（ネットワーク化の観点から）○○○個別の事業者のトラブル等がシステム全体に波及するおそれ
ＡＩシステム間の連携・調整が成立しないなどのおそれ
ＡＩの判断・意思決定を検証できないおそれ（ネットワーク化により、システム全体としてブラックボックス化するおそれ）○ 少数のＡＩの影響力が強くなりすぎるなどのおそれ（少数のＡＩの判断によって企業や個人が不利な立場になるなどのおそれ）○ 領域横断での情報の共有と特定の基盤的なＡＩへの情報の集中によるプライバシー侵害のおそれ○ ＡＩが想定外の動作を行うなどのおそれＡＩネットワーク化の進展において想定される課題（ネットワーク化の観点から）◆ ＡＩネットワーク化の特徴として、「様々な事業者間における多種多様なAIの接続（複雑な連携）」、「様々な事業者の多種多様な
ＡＩを取りまとめる基盤的なＡＩの構築（情報や権限の集中）」、「様々な事業者間における多種多様なＡＩによる情報の連携（情報の共有・拡散）」が挙げられる。
このような特徴を活かして、新しいサービスの開発・提供、最適化や効率化、コスト削減などが可能となる一方で、ネットワークという観点に着目した場合、次のような課題（ＡＩネットワーク化の健全な進展を阻害し得る要因）に留意すべきである。

ＡＩネットワーク化の特徴

ネットワーク化の観点から想定される課題（例）
個別の事業者のトラブル等がシステム全体に波及するおそれ様々な事業者間における多種多様なＡＩの接続（複雑な連携）

様々な事業者の多種多様なＡＩを取りまとめる基盤的なＡＩの構築（情報や権限の集中）

様々な事業者間における多種多様なＡＩによる情報の連携（情報の共有・拡散）ＡＩシステム間の連携・調整が成立しないなどのおそれ
ＡＩの判断・意思決定を検証できないおそれ（ネットワーク化により、システム全体としてブラックボックス化するおそれ）
少数のＡＩの影響力が強くなりすぎるなどのおそれ（少数のＡＩの判断によって企業や個人が不利な立場になるなどのおそれ）領域横断での情報の共有と特定の基盤的なＡＩへの情報の集中によるプライバシー侵害のおそれＡＩが想定外の動作を行うなどのおそれ1

個別の事業者のトラブル等がシステム全体に波及するおそれ◆ ＡＩシステムが相互に連携して、協調・調整することになるため、例えば、ある事業者において、ハッキングやシステム障害等により一部のＡＩシステムが正常に機能しなくなった場合や災害等により通信が遮断された場合、あるいは、ある一部のＡＩシステムの判断・予測等に誤りが生じた場合や虚偽又は不適切なデータが流通した場合などに、他のＡＩシステムに次々に影響が波及し、ネットワーク全体が正常に機能しなくなったり、期待された効果（適切な判断・予測、マッチング等）が得られなくなったりするおそれがある。
【個別の事業者のトラブル等がシステム全体に波及するおそれ（例）】
ユーザー

利用者

利用者

利用者

利用者

デバイス
（自動運転車）

自動車

自動車

自動車

自動車

①ハッキング等により、正常に機能しない

アプリケーション（ＡＩシステム）

信号システム
ＡＩ

物体識別
ＡＩ

リスク予測
ＡＩ

車体制御
ＡＩ

〇 セキュリティ対策等が不十分な事業者が提供しているＡＩシステムを活用した自動運転車がハッキングされた場合、連携している別のＡＩシステムが誤作動又は機能不全に陥り、交通事故や交通障害等が発生するおそれがある。［連携、セキュリティ、安全］〇 サプライチェーン全体として最適化を調整している場合、ある事業者のＡＩシステムが生産量等を誤って予測した場合や虚偽のデー
タを流通させた場合、全体としての最適化が実現できない（在庫不足／過剰在庫、原材料不足等）おそれがある。［連携、データ］〇 被災地の緊急救命において、救急車や医療機関等の間でリソース配分の最適化の調整を行う場合、ある医療機関のＡＩシステムが通信の遮断により機能不全に陥ると、適切な情報共有、リソース配分が実現されず、適切な救命活動ができなくなるおそれがある。

［連携、安全］

ルート設定
ＡＩ②連携先のＡＩシステム
が正常に機能しなくなる
開発者/
プロバイダ

Ａ社

Ｂ社

Ｃ社

Ｄ社
2

ＡＩシステム間の連携・調整が成立しないなどのおそれ◆ ＡＩシステム間で交渉を行い、連携・調整するケースにおいて、それぞれのＡＩシステムが自らの目的の達成を優先して調整が成立しなかったり、適切な交渉の権限を有していないことにより取引が成立しなかったりするおそれがある。また、交渉相手のＡＩシステムが交渉の機能を有していなかったり、交渉に関するプロトコル等が異なったりする場合にも、ＡＩシステム間の連携・調整が成立しない。さらに、ＡＩシステム間の連携・調整が成立したとしても、社会的に望ましい結果にならない（デジタル・カルテル等）
おそれがある。

【ＡＩシステム間の連携・調整が成立しないなどのおそれ（例）】自動運転車Ｂ

自動運転車Ａ〇 自動運転車が車線変更する場合において、Ａ社の自動運
転車が車線変更先を走行しているＢ社の自動運転車に減速するよう要求しても、Ｂ社の自動運転車は「なるべく早く目的地に着く」という設定をされていると、減速の要求に応じないというケースが想定される。さらに、車線が減少する場面においては、事故につながるおそれがある。［連携、安全］〇 ＡＩシステム間で売買契約等における価格交渉を行う場合
において、交渉相手のＡＩシステムが、交渉の権限を有していないにもかかわらず、権限を有しているかのように振る舞
うことにより、適切な取引が成立せず、不測の損害を被るケースが想定される。［連携］②急いでいることを理由に要求を拒否

自動運転車Ａ

自動運転車Ｂ①減速を要求〇 競争関係にある事業者が、それぞれ提供するサービスの価格設定に関し交渉を行う場合において、共通するアルゴ
リズムを使用していると、協調的価格設定（デジタル・カルテ
ル）を通じて競争が制限されるなどのケースが想定される。

［連携］※早く目的地に着くという設定
3

ＡＩの判断・意思決定を検証できないおそれ◆ ＡＩシステムが相互に連携して、協調・調整することになるため、複数のＡＩシステムが連携して判断、意思決定を行う場面が想定される。このような場合、複雑な意思決定プロセスになる可能性が高く、また、意思決定プロセス自体がブラックボックス化して、ＡＩシステムが行った判断・意思決定の正誤、精度の検証、トラブル時の原因究明や被害者の救済が困難になるおそれがある。

ユーザー
企業a

ユーザー

ユーザー
企業b

ユーザー
企業c

②誤った生産計画が策定され、ユーザー企業aに被害が発生①連携して生産計画を調整

アプリケーション（ＡＩシステム）

調達計画
システムa
（Ａ社が構築）③問合せ

開発者/プロバイダ

生産計画
システムb
（Ｂ社が構築）物流計画
システムc（Ｃ社が構築）Ｂ社〇 サプライチェーン全体として最適化に向けた調整を行っているケースにおいて、個々のＡＩシステムは、それぞれ最適化を目指して調整するものの、何らかの要因で全体最適とならなかった場合、原因を検証・特定することができないおそれがある。［連携、ブラックボックス化］〇 様々な情報（顧客情報、市場動向等）をもとにＡＩシステム
が経営判断を支援しているケースにおいて、それぞれの情
報が他の情報の前提となっているような場合、調整自体が複雑となり、人間では、そのプロセスを把握することが困難になるおそれがある。［連携、ブラックボックス化］〇 複数のＡＩシステムが連携してサービスを提供しているケースにおいて、事故等により損害が発生した場合、被害者が、どのＡＩシステムにより損害がもたらされたのか立証することができず、適切な救済を受けることができないおそれがある。［連携、ブラックボックス化、安全］

自社が構築したシステムをサポート

Ａ社【ＡＩの判断・意思決定を検証できないおそれ（例）】

Ｃ社④他社のシステムのことがわからず原因が特定できない
4少数のＡＩの影響力が強くなりすぎるなどおそれ◆ ＡＩネットワークのエコシステムにおいては、データに関するネットワーク効果が働きやすいと考えられる。このため、ある特定のＡＩシステムにデータ等が集中することとなり、その結果として、基盤的なＡＩシステムが存在する構造が想定される。
◆ このような構造において、例えば、「ヒト」の評価や採用のベースとなる基盤的なＡＩシステムが独占的・寡占的に提供された場
合に、基盤的なＡＩシステムの判断によって、企業や個人が不利な立場になるおそれがある。また、基盤的なＡＩシステムの開発者が、基盤的なＡＩシステムとつながっている様々なアプリケーション（個別のＡＩシステム）の判断を意図的にコントロールし、特定の企業や個人を不利な立場に陥れることができる可能性がある。
ユーザー

利用者a

利用者b

利用者c

利用者d

〇 採用（就職）時に不合格となった場合に、他社の採用においても不合格が続いたり、別の会社に就職しても昇格・昇給が遅れたり、転職時にも良い評価が得られないなど不利な立場に陥るおそれがある。［連携、正当性・公正性］③不利益な判断により、不利な立場に陥る

アプリケーション（個別のAIシステム）

採用審査
システム

人事評価
システム

【少数のＡＩシステムの影響力が強くなりすぎるおそれ（例）】

転職・人材紹介システム②利用者aに関する評価を共有〇 融資の申込みを断られた場合に、どの金融機関等からも融資が受けられずに事業の存続が困難に陥るおそれがある。［連携、正当性・公正性］〇 入国審査で、誤ってテロリストや犯罪者と認定されてしまった場合に、他国にも入国できなかったり、差別的な扱いを受けるおそれがある。［連携、正当性・公平性］①利用者aについて不利益な判断
能力評価

基盤的な
ＡＩシステム

健康評価

評価ＡＩシステム
性格評価

将来性評価

開発者/プロバイダ

Ａ社
5プライバシー侵害のおそれ◆ ＡＩネットワークのエコシステムにおいて、領域横断的なデータ取引所の構築、大量のデータを保有し他者に提供するデータブ
ローカー、様々なデータの統合／プロファイリングを行う事業者の登場が想定される。
◆ このような状況において、意図しない形で、かつ、本人の知らないところでプライバシー性の高い情報が拡散するおそれがある
ほか、様々な情報の統合／プロファイリング等により、個人が特定されプライバシーが侵害されるおそれがある。また、あるＡＩシ
ステムがハッキング等された場合に、ネットワークを通じて他のＡＩシステムにおいて情報が共有される（流出する）おそれがある。

ユーザー

利用者

利用者

医療サービスを利用（データ提供）趣味・嗜好分析
ＡＩ

アプリケーション（ＡＩシステム）【プライバシー侵害のおそれ（例）】

利用者

診断ＡＩ

利用者

ＡＩシステム間でデータ共有自動発注ＡＩ

データ統合／プロファイリング

医療データ

生活データ

プライバシー］〇 データ取引所等から集められた様々なパーソナルデータ
が統合／プロファイリングされることにより、個人が特定され、個人に紐付いた行動履歴等が明らかになるおそれがある。

［連携、プライバシー］

レコメンドＡＩ

健康管理ＡＩ〇 ＡＩシステム間の調整により、本人同意なく、自動的に個人情報、パーソナルデータが流通するおそれがある。［連携、〇 あるＡＩシステムがハッキング等された場合、ネットワーク
を通じて即座に他のＡＩシステムに情報が共有され、もともと保有している情報と統合することにより、個人が特定される
おそれがある。 ［連携、プライバシー、セキュリティ］

個人が特定され、行動履歴等が明らかになるおそれ

資産情報

データ取引所
位置情報

購買データ
6

ＡＩが想定外の動作を行うなどのおそれ◆ ＡＩシステムがネットワークを形成し、複数のＡＩシステムが相互に連携して機能することが想定される。このような構造において、
どのＡＩシステムがどのような機能を果たしているのか把握することが困難になるおそれがある。また、ＡＩシステムがネットワーク
化されることにより想定外の動作を行うおそれがあるとともに、想定外の不具合が生ずるおそれがある。
◆ ＡＩシステムがネットワーク化されることにより、同じデータが共有されることで、ＡＩシステムの判断の傾向が画一的になるおそれがある。他方で、ＡＩシステムの判断の前提となっているよう条件が成立しなくなった場合、ネットワークにつながっている全てのＡＩシステムが影響を受け、適切な判断を行うことができなくなるおそれがある。
温度の管理は、
執事ロボットＡＩの判断？or 空調機ＡＩの判断？
執事ロボットＡＩ【ＡＩが想定外の動作を行うなどのおそれ（例）】〇 家庭内の執事ロボットや空調機などの家電が連携して快適な住環境を確保（例えば、室温の管理）する場合、全体を統制する執事ロボットの判断なのか、個々の家電（空調機）の判断なのかがわからず、仮にそれぞれの判断が相反す
ると不具合が生ずるおそれがある。［連携、ブラックボックス

化、受容性］
冷蔵庫
ＡＩ

掃除機
ＡＩ

○ ＡＩシステムを用いて株式や外貨取引等を行う場合、極めて短時間で様々なＡＩシステム間で交渉・調整することが想定され、どのような交渉・調整が行われたのか人間が把握することが困難になるおそれがある。［連携、ブラックボック

ス化、受容性］
料理ロボットＡＩ

空調機
ＡＩ○ 経済予測を行う場合や店舗の来客数の予測を行う場合に、前提となるデータ（ＧＤＰ速報や金利、天気や通行量など）が共有されることで、ＡＩシステムの判断の傾向が画一的になるおそれがある。［連携、データ］

食材の自動注文は、
冷蔵庫ＡＩの判断？or 料理ロボットＡＩの判断？or 執事ロボットＡＩの判断？
それぞれのＡＩシステムが異なる判断をしたら？？
7