資料２

渥美坂井法律事務所・外国法共同事業
弁護士(日本国・ニューヨーク州)

三部 裕幸

2018年5月22日©2018 Atsumi & Sakai All Rights Reserved

はじめに• 本調査について– 本年2月～3月、英独仏における事業者等を訪問し、AIの利活用等について聞き取り調査（インタビュー）を実施致しました。
– また、その後、電話・Skypeにより追加のインタビューを行いました。
– 利活用原則の議論にも関わる重要な点であると思われますので、AIネットワーク社会推進会議における議論に供するため事実を報告する目的で、本書を作成させていただ
きました。
©2018 Atsumi & Sakai All Rights Reserved2

はじめに• 本書について– 本書は、上記事実報告の目的で作成したに過ぎません。そのため、次の点をご了承いただければと思います。

• インタビュー先の方々から、本書においてインタビューの要旨を記載し開示することについて許可が得られていない場合がございます。その場合、あくまでインタビューに応じてくださったご担当者の方の個人的な意見ということになりますので、国名・属性については記載するものの、個別の事業者等の名称・当該ご担当者のご芳名の記載は差し控えました。
• 当社会推進会議事務局・弊職・弊事務所において、本書に記載されている見解について何らかの立場を採る（賛同する、反対する、など）という趣旨ではございません。
• インタビューは英語で行いましたが、本書における翻訳
では、ニュアンスを含めインタビュー先の方々が述べたかった事項を適切に表現できているとは限りません。
©2018 Atsumi & Sakai All Rights Reserved3

英国1 Clara Durodié氏• 経歴– 金融（アセット・ウェルスマネジメント）実務に従事– 2014年、ニューロサイエンス、AI、ウェルスマネジメントの交錯する分野での研究（PhD）を志向して研究活動の道へ– AIの選択、利用、実現についてのアドバイザリー業務を行うべきとの助言を受け、
Cognitive Finance Group社を設立。現在、同社ファウンダー兼CEO©2018 Atsumi & Sakai All Rights Reserved4

英国1 Clara Durodié氏• 経歴– 受賞・講義・講演多数。例を挙げると：• 2016年以降Top 100 Women in Fintechに選出• オックスフォード大学のオンラインFintech講座• Money20/20 Singapore conference、Sibos、Finnovate UK、 Finnovate Europe、Finnovate
Asia in Hong Kong、そして日本のFin/Sum及びReg/Sumでの各講演– 英国All Party Parliamentary Group AI（APPG AI）のad hoc advisor等として政策形成にも関与– 金融サービスにおけるAIの利用に関する書籍を執筆中©2018 Atsumi & Sakai All Rights Reserved5

英国1 Clara Durodié氏• 利活用の在り方の例– フロントオフィス• キャピタルマーケットでのアルゴリズムトレーディン• 顧客のエンゲージメント– ミドルオフィス• 人事• 詐欺的取引の防止のための監視– バックオフィス• 顧客の音声のテキスト化とそれに対する対応• ペーパーワークのデジタル化– コンプライアンス、リスクマネジメント©2018 Atsumi & Sakai All Rights Reserved
6

英国1 Clara Durodié氏• 制御可能性– 人間を守り、助け、人間性に資するものとしてデザインすべき• AIから何が現れるかをコントロールするのが難しくとも、「スイッチオフ」ができる最終的な決定者が人間であるべき。
• 人間中心の価値のためにデザインすべき• 「アルゴリズムには親がある」との主張がある。ア
ルゴリズムの内容を決める開発者のデザインが大切• 「キルスイッチ」を導入することには賛成する。問題はそれに誰がアクセスできるかという点である（HFTに関連して実際に検討が進められている）• 透明性– 開発と、その際にどのような技術を使うかという点の関係を意識することが重要になる©2018 Atsumi & Sakai All Rights Reserved

7

英国1 Clara Durodié氏• 公平性– バイアスと考えられる事例が見られる– デザインが重要に• データをどこから取得したか及びデータの質についての追跡可能性の担保• リスクモデル• セキュリティ– 「キルスイッチ」とそれに誰がアクセスできるかという問題と並んで重要だが、現時点で明確な答えはない。少なくとも情報のアップデートと検証を続けることが必要©2018 Atsumi & Sakai All Rights Reserved

8

英国1 Clara Durodié氏• プライバシー・個人情報保護– データ主体の同意（それが取消可能であることを含む）と、透明性（信頼）が重要• セキュリティ– 「キルスイッチ」とそれに誰がアクセスできるかという問題と並んで重要だが、現時点で明確な答えはない。少なくとも情報のアップデートと検証を続けることが必要• AI利活用の促進– AIへの信頼が失われれば、AIの促進はままならないであろう。その意味で、同意、透明性、人間中心の価値という点を促進していく必要あり– その役割は全ての者が負うべき©2018 Atsumi & Sakai All Rights Reserved

9

英国1 Clara Durodié氏• 責任– 法的責任については言及を差し控える– 「アルゴリズムには親がある」– 開発した主体のみならず、顧客へのサービスのためにAIを実装・利用する企業の在り方も大切• 雇用・労働とAI– 二つの問題がある• AIがどれだけ雇用・労働の負担を減らせるか• AIが従業員をどのように”reskill”できるか©2018 Atsumi & Sakai All Rights Reserved

10英国1 Clara Durodié氏• AI開発ガイドライン案– 共鳴する。明確であり、かつ議論の継続のためのよい枠組みを整えているものと考える。
– 原則を採用したユースケースとAIベンダーを公表することが有益ではないか• 非拘束的・非規制的なソフトローの国際的な共有– そのようなソフトローが共有されれば、金融サービスコミュニティ全体に資する– 「ガイドライン」ではなく「原則」という言葉を使うべきだ©2018 Atsumi & Sakai All Rights Reserved

11

英国2 Acronotics社• 経歴– Robotic Process Automation（RPA）
及びAIの世界で有名になりつつあるスタートアップ企業であり、英国のみならず欧州と北米でもサービスを提供– ロンドン大学でも講演を行っている– 回答者は同社のDirectorのAmit Bhagat氏©2018 Atsumi & Sakai All Rights Reserved
12英国2 Acronotics社•

利活用の在り方の例– ビジネスプロセスの自動化ソリューションを、欧州及び世界全体にお届けするためにAI技術を利用– 機械学習の利用例
••
•
•
•
•
•

金融における顧客にパーソナライズしたソリューションの提供
チャットボット
与信におけるクライアントの返済能力の分析
詐欺やマネーロンダリングの防止
ポートフォリオマネジメント
アルゴリズムトレーディング
保険の請求処理や市場分析など– 自然言語生成の利用例• 書くタスクの自動化（財務レポート、投資サマリー、スポーツの試合のサマリーなど）• 個人にパーソナライズしたコミュニケーション補助（電子メールの作成、投資家の嗜好に応じた説明など）• ビジネスインテリジェンスのプラットフォームにおける自動的な言語生成など©2018 Atsumi & Sakai All Rights Reserved13

英国2 Acronotics社• 透明性– インプットされる情報とそれに基づくAIの意思決定の全てを記録し、どのデータがどのように使われたかを特定できるようにすることで対応• 制御可能性– 最終的な意思決定は、複雑性・規模・ス
ピードに関する要素に応じて人が行う– AIシステムを取り除く又は使わないという選択ができる©2018 Atsumi & Sakai All Rights Reserved

14

英国2 Acronotics社• 公平性– ビジネスプロセスにおいてAIシステムを使う場合に決定的な要素である– できるだけ多くのデータに基づく綿密な学習とテストをすることができる– 一貫して正確な意思決定が達せられる場合に限り、システムを実施すべき• プライバシー・個人情報保護– 実施するAIシステムに関する機関が設定するデータセキュリティ及びプライバシーのガイドラインに従うことで達成する©2018 Atsumi & Sakai All Rights Reserved15

英国2 Acronotics社• AI利活用の促進– 企業においては、AI利活用は、ビジネスのリーダーが促進すべき– 一般的なAIへの恐れ、AI利用による職の喪失や制御可能性の喪失などが促進を妨げる要因となり得る• 責任– AIシステムの実施の際に、データの適切なトレーサビリティを計画しビルトインすることが必要– それ以上に回答することは困難©2018 Atsumi & Sakai All Rights Reserved

16

英国2 Acronotics社• 雇用・労働とAI– 職の喪失の問題に関して、適切なサポート体制を社会が作り、個々人がその変化を知ることができるようにするとともに、未来の職に求められるスキルを学習できるだけの機会を提供することが必要である– この対策は、社会に多くの問題を引き起こすことへの恐れや逆上（fear and frenzy）といった雰囲気を作ることなく行われる– 企業はこの移行をサポートし、政府はスムーズな移行を確保するための政策を作る必要がある©2018 Atsumi & Sakai All Rights Reserved

17

英国2 Acronotics社• AI開発ガイドライン案– 一般論として、アプローチについて同意する。

• 非拘束的・非規制的なソフトローの国際的な共有– 重要なイニシアティブであり、政策や枠組みが決められて実施されるよう、OECD諸国の政府によって真剣に検討されるべきであると考える©2018 Atsumi & Sakai All Rights Reserved18ドイツ1 企業
• 利活用の在り方の例– 社内のビジネスプロセスの自動化の分野でAIを使おうと試みている。企業秘密であり、また検討中なので、詳細については申し上げられない。
– ドイツ全体の動向としては、AIやIndustry 4.0に関連した話題はホットトピックであり、影響も大きい。あるセクターは既にかなり進んでおり（例えば、自動車）、他のセクターはもっと順応しなければと試みている（例えば、化学品の製造、医薬品）。
– 一般論としては、最近、（4.0ではなく）“Industry 5.0”について話す声を聴く。そこでは、人間こそがシステムの中心にあるべきだという考えに立ち返ろうとしている©2018 Atsumi & Sakai All Rights Reserved19ドイツ1 企業
• 透明性・制御可能性・公平性・セキュリ
ティ・プライバシー・個人情報保護、責任– 回答が難しいものばかりであるので、回答を差し控えたい。

• 労働・雇用への影響– 一定の影響はあると思われる。
– ただ、その一方で、Industry 5.0の動きが本格化すれば、それは労働者が機会に置き換えられるという恐れ・不安の解消につながるのではないか。
©2018 Atsumi & Sakai All Rights Reserved20ドイツ2 金融業界の企業• 利活用の在り方の例– まだ検討し始めたばかりであるのが実情– 社債や株式の売買自体にAIを導入したり、アセットマネジメントにおいて価格が変動し安定しないところについてAIに市場の同じパターンなどを見出させて安定的に運用したりするといった使い方もあり得ると思われる。
– 社内の質問に対して、社内データバンクを作り、回答ないしリコメンドをAIに出させるという使い方もあり得る。
– Profit Marginが減少する中で、新しいビジネスモデル開発へのAI利用もあり得るか。
©2018 Atsumi & Sakai All Rights Reserved21

ドイツ2 金融業界の企業• 透明性– ブラックボックスについては今後検討していきたいが、判断内容について説明できるAIというのも将来的には開発されるのではないか– 使われる情報とその結果について記録していくことには賛成である• 制御可能性– 全ての、あるいは大多数の業者が、同じAIを使っていると、フラッシュクラッシュのような問題が起きやすくなると思う。人やニーズに応じて違ったものを使うこと、使う余地を残していくことが大切ではないか– 使われ方や使われる場面によっては、キルスイッチなどによる対応は不要となり得る。場面を考える必要がある©2018 Atsumi & Sakai All Rights Reserved22ドイツ2 金融業界の企業• 公平性– 不公平・差別的な判断については、人間が行っていたとしてもあり得る問題ではあるが、AIの場合どのような配慮が必要なのかについては関心がある• プライバシー・個人情報保護– データプロテクションについては法律が厳しいため、それに従う限りは大きな問題は生じないのではないかと思うが、今後の検討課題である©2018 Atsumi & Sakai All Rights Reserved23ドイツ2 金融業界の企業• 雇用・労働とAI– 必ずしもAIやデジタル化が職を奪うということではなく、ビジネスを効率化していくということはいつもあり得ることである– 現時点でどのような影響があるかはわからない。悲観的な見方もあり得るものと思う。
ベーシックインカムについても考慮が必要かもしれない。
– 教育が重要となる。その意味で政府の役割も大切に©2018 Atsumi & Sakai All Rights Reserved24ドイツ3 研究機関1• 利活用の在り方の例– AIは既にドイツの多くの産業において広く利活用されている。製造、自動車、農業、マルチチャネルのコミュニケーション、管理、コールセンターサポート、ロジスティクスなどがその例である。
– 数年で大きな成長のインパクトを個人的には見込んでいる。産業の側での専門家の需要からも将来の拡大を認識できる。

©2018 Atsumi & Sakai All Rights Reserved25ドイツ3 研究機関1• 透明性・制御可能性・公平性・セキュリ
ティ・プライバシー・個人情報保護– ドイツのみならず欧州全体で、社会の様々なところで最近議論されている。
– ドイツ政府は、これらの問題を、“digitaltransformation”担当省の設置により解決しようとしている– 欧州は、28の別々の法システムを持つ別々の国々のアクションについて統一的な動きをしようと試みているが、簡単ではない©2018 Atsumi & Sakai All Rights Reserved26ドイツ3 研究機関1• 責任– 様々な専門家が、各分野について、また政府への提言について検討している• 雇用・労働とAI– AIの潜在力及び関連するビジネス上のオプションのため、新しい職を既に創り出しているとの研究がある©2018 Atsumi & Sakai All Rights Reserved27

ドイツ4 研究機関2• 利活用の在り方の例– 自動運転のために利活用しようとしている。
• イメージセグメンテーションでの利活用、通常のドライバーの行動のニューラルネットワークでの検討などを行っており、その際にディープラーニング等を活用している• 完全にリサーチ段階のものとしては、たとえば音の認識（警察車両が近づく際の音の認識など）といった、最近問題意識が持たれてきたことにも取り組もうとしている©2018 Atsumi & Sakai All Rights Reserved28

ドイツ4 研究機関2• 透明性・制御可能性・セキュリティ– 自動運転車を市場に出すためには、一方で、機能の安全性を証明する必要があり、シナリオのもと、テストを経る必要がある• 道路に出す以上は、人によるコントロールが不要なものを目指さなければならない。その意味で、そうなるまでは、AIの利活用の安全性を確認し続けるべきであると考える。

– 他方で、AIの意思決定や原因の予測・探求は困難であり、そのためのメカニズムづくりもこれからである。その意味で、AIを自動運転の意思決定そのものに使うことについては、現時点では安全とは言えない。そのため、完全自動運転を行うことは、現時点では不可能であろう– いわゆるレベル3の自動運転は、• 交通渋滞対応や駐車を行う場合に自動運転から人の運転にスイッチするということであればあり得るかもしれない。
• 高速道路などでの緊急の状況では無理では。
©2018 Atsumi & Sakai All Rights Reserved29

ドイツ4 研究機関2• セキュリティ（サイバーセキュリティ）– 現時点ではあまり大きなトピックになっていないと思われるが、レベル3～4の自動運転を実現する段階
ではより努力が払われるべきである– 外からの侵害の対処（ハッキングへの対処、ファイアーウォールなど）だけではなく、内側からのコントロール（ロボットタクシーが導入された場合における同乗者の保護など）も考える必要• プライバシー・個人情報保護– EUとドイツの国内法に注意が必要– AIの学習に利用するデータに、同意していない個人の個人情報が含まれないように注意している。例えば自動運転車に対して同意するわけではない歩行者の顔を記録・保存してはならないという制約がある©2018 Atsumi & Sakai All Rights Reserved30

ドイツ4 研究機関2• AI利活用の促進– AIが安全であることが大切であるため、政府が安全性を確保するための役割が大切• 安全について言えば、現時点での研究状況からすると、5年後に達成できればよい方であると思われる。

– 研究の現状（例えば研究機関における研究者の不足、メソドロジーの研究不足など）阻害要因になるのではないか©2018 Atsumi & Sakai All Rights Reserved31

ドイツ4 研究機関2• 責任– レベル3の自動走行がドイツでは昨年から適法となった。
– しかし、誰が責任を負うかを明らかにするため、データをログとして残すことが重要。
そのために、センサーのデータと乗り物のダイナミックデータの収集・保存をすることが大切になる– なお、「誰が責任を負うかを明らかにする」ために、「AI自体がどのように働いたかを説明する」ことができる必要は必ずしもない。
©2018 Atsumi & Sakai All Rights Reserved32

ドイツ4 研究機関2• 雇用・労働とAI– 雇用がAIによって奪い取られるだけということはない。新しい職が作られる。しかし、その具体的な内容について回答することは困難である。

©2018 Atsumi & Sakai All Rights Reserved33フランス Bridge A1• 経歴– 欧州の企業のオペレーションに関し、IT/AIの利用を含めたコンサルティングサービスを提供している会社。フランスには重点を置いているとのことである。
– 回答者はSpecialist Shared Service
Centers & BPOのGabor Arkosy氏©2018 Atsumi & Sakai All Rights Reserved34フランス Bridge A1• 利活用の在り方の例– 銀行・保険• コンプライアンス目的での利用、自動での詐欺的取引の検知、パターンを読み取ることによるリスクレベルに応じた融資や期限の利益喪失等のリコメンドなどがあり得る。

– 自動運転• 責任に関わる複雑性が残る以上、個人的には現時点で描かれているシナリオは楽観的すぎると感じる。

– 医療・医薬品分野• チャンスが多いだろうが、私は情報を持っていない。

– その他の利活用• 旅行・輸送への利活用（たとえば、チケットのプライシング）などがあり得ると考える。
©2018 Atsumi & Sakai All Rights Reserved35フランス Bridge A1• 透明性– 人間の行うことでも証明できないことがある。同じデータでも使われる時期・時間帯によっては別の判断に至ることがある。

• 例：陪審員による刑罰が、ランチ後には軽くなる傾向にあるなど– 困難だが、AIの教育とケースの積み重ねが必要である。これも、人間の場合に、例えば名医師になるためには蓄積が必要というのと同じである。

©2018 Atsumi & Sakai All Rights Reserved36フランス Bridge A1• 公平性– 各分野での検討が必要と思う。具体的には：• 法廷などでは、人口比よりも多く非白人が不利益を受けている。人種のプロファイリングは法律で禁止されているが、実際の立証は困難である。
• 同様に、Originや人種を含む統計自体フランスでは許されないし、氏名で刑事事件の情報・学歴等の学問上の情報を推知することにも問題がある。

• プライバシー・個人情報保護– GDPRへの着目は必要– また、匿名化が大切になる一方で、大規模にデータを集積する会社に保存されているデータをターゲットマーケティングに活用されてしまうなどの問題もあり得、その意味で、データが第三者に売られる・流出することについてはリスクと認識する必要があると思う。
©2018 Atsumi & Sakai All Rights Reserved37

フランス Bridge A1• AI利活用の促進– プライベートセクターが中心的な役割を担うべきである。公的な立場の方々にAIの利益やリスクについて伝えていく必要がある。

• 雇用・労働とAI– 職を奪われることに対する恐れがフランスでは強い。それは、人間が技術に置き換えられてきた歴史にもよるだろう。また、金融の場合、マニュアルを使っての仕事から、より取引に重点を置いた仕事の仕方に変わっていく。そうした変化はより速くなっている。
– 教育システム自体を変えるべきであるし、人生の見方そのものを変えていく必要がある。
©2018 Atsumi & Sakai All Rights Reserved38フランス Bridge A1• 非拘束的・非規制的なソフトローの国際的な共有– 歓迎する。ポジティブに捉えたい。

©2018 Atsumi & Sakai All Rights Reserved
39

ご清聴ありがとうございました

渥美坂井法律事務所・外国法共同事業
弁護士

三部

裕幸

（第二東京弁護士会所属）
E-Mail: hiroyuki.sanbe@aplaw.jp
Tel: 03-5501-2276©2018 Atsumi & Sakai All Rights Reserved40