第4回金融資本市場のあり方に関する産官学フォーラム「金融取引におけるＡＩ活用の論点と課題」

投資判断におけるアルゴリズム・AIの利用と法的責任

2 0 1 9 年 2 月 2 2 日
日本銀行金融研究所
鹿島 みかり１．背景

近年、ディープ・ラーニングなど機械学習や人工知能（AI）に関する技術が大きく発展しており、金融分野においても、今後の利用拡大が注目されている。



2017年には、金融安定理事会（FSB）が、“Artificial Intelligence and Machine
Learning in Financial Services”と題する報告書を公表。

 こうした技術の利用が金融システムの効率化をもたらす可能性がある一方、その利用に伴う監査可能性（auditability）や説明可能性（interpretability）の欠如がリスクとなりうる旨指摘。また、法的課題の検討の必要性にも言及。
現状、アルゴリズム・AIが、証券市場における高速取引等を行う場面で広く利用されているほか、AIを活用した投資信託等も登場している。また、ロボ・アドバイザーが普及すれば、アルゴリズム・AIを利用した取引は、一般人にとってより身近な存在となる可能性。



投資判断にアルゴリズム・AIが利用された場合、法的にどのような課題が生じるかを整理しておくことが、法的安定性や健全な金融市場の発展の観点から喫緊の課題。

2２.アルゴリズム・AIの利用を巡る法律問題研究会＜メンバー＞（座長）

有吉尚哉

弁護士（西村あさひ法律事務所）

井上聡

弁護士（長島・大野・常松法律事務所）

加藤貴仁

東京大学教授加毛明

東京大学准教授

神作裕之

東京大学教授神田秀樹

学習院大学教授佐伯仁志

東京大学教授道垣内 弘人

東京大学教授森下

上智大学教授哲朗3＜ご参考＞過去の法律問題研究会の検討テーマ
投資判断におけるアルゴリズム・AIの利用と法的責任（2018）
証券決済制度と分散台帳技術 （2017）
金融規制の適用範囲のあり方 （2016）
振替証券・電子記録債権の導入を踏まえた法解釈論の再検討 （2015）
顧客保護の観点からの預かり資産を巡る法制度のあり方 （2013）
株主利益の観点からの法規整の枠組みの今日的意義 （2011）
金融取引の展開と信認の諸相 （2010）
取引法の観点からみた資金決済に関する諸問題 （2009）

担保の機能再論―新しい担保モデルを探る― （2008）
金融機関のグループ化を巡る法律問題 （2005）

4３.検討の視点
 投資判断に次のようなかたちでアルゴリズム・AIを利用する場合、法の適用関係を巡り、さまざまな論点が生じる可能性。
 アルゴリズム・AIを利用して自動で取引を行い、個々の投資判断の時点で人間の判断が介在しない場合
 判断根拠を人間が理解することが困難な場合―― 特にディープ・ラーニング（脳の学習メカニズムをモデル化したニューラル・ネットワークを用いた手法）を利用する場合には、 こうした判断根拠のブラックボックス化が生じやすいとされる。

※投資判断に利用されうるアルゴリズム・AIには、様々な種類がある。例えば…


どのような場合にどのような取引を行うかの条件（投資判断基準）を、人間が網羅的に記述したもの



投資判断基準を人間が設定するのではなく、一定のデータの学習に基づいて、コンピュータが自ら設定するもの（機械学習）



機械学習の中でも、近時注目されているディープ・ラーニングを利用したもの
5

４.主な検討項目
投資運用業者の顧客に対する義務

不公正取引規制 説明義務………………………….下記５．

 相場操縦規制…......................... 下記６．

 善管注意義務…………………….下記５．

 インサイダー取引規制.................下記７．

システムベンダーの義務
 合意どおりのAIを提供する義務…下記５．

既存の法解釈の枠組みで処理可能立法的解決が必要となりうる

6

５.投資運用業者等と顧客の損失分担（１）投資運用業者の責任

投資運用業者の運用から損失が生じた場合、顧客は①や②のように主張して投資運用業者に損害賠償を求めることがありうる。

①「投資運用業者からリスク等について十分な説明がなかった」（説明義務違反）②「投資運用業者が十分な注意を払った運用を行わなかった」（善管注意義務違反）

投資一任

運用
金融市場

顧客

（２）システムベンダーの責任

顧客に対し損害賠償義務を負う投資運用業者は、アルゴリズム・AIに問題があったとして、システムベンダーに責任を追及することが考えられる。

損失

投資運用業者

投資判断のためのアルゴリズム・AIの開発委託「アルゴリズム・AIに問題があった」

システムベンダー
7

５.投資運用業者等と顧客の損失分担（１）投資運用業者の責任①アルゴリズム・AIの利用と説明義務違反
Question

ディープ・ラーニングのように、判断過程がブラックボックス化するアルゴリズム・AIを利用する場合、顧客に対する説明義務の観点から問題は生じないか？

説明すべき点（主要なもの）
投資対象のリスク

元本欠損が生ずるおそれや当初元本を上回る損失が生ずるおそれ等。

運用の基本方針

例えば、「一定の投資対象につき、運用資産ごとのリスク・リターンや相関係数に基づき、分散投資を行う」等。

⇒ どのような情報をどのように重みづけして考慮するかの説
明までは不要。
人間が投資判断をする場合と同じ問題

AIの限界や前提条件
AIの利用を謳う場合、AI
へ の過 度の 期待か ら、それが万能であるかのように顧客が誤解する等の懸念。こうした顧客の誤解を正すための説明。

アルゴリズム・AI利用に伴う問題
8

５.投資運用業者等と顧客の損失分担 （１）投資運用業者の責任②アルゴリズム・AIの利用と善管注意義務違反
Question ディープ・ラーニングのように、判断過程がブラックボックス化するアルゴリズム・AIを利用する場合、善管注意義務違反の有無はどのような枠組みで判断すべきか？

「投資判断基準の合理性」に着目 → 困難

アルゴリズム・AIが設定した投資判断基準を理解することが困難な場合、その条件の合理性に着目して義務違反を判断することが困難。

「当該アルゴリズム・AIを用いて投資判断をすることの合理性」に着目


学習用データの範囲やデータの加工プロセス、テスト用データを用いた検証や試験的な運用の結果等のさまざまな事情を基に判断。

―― しかし、この判断も容易ではない。
投資運用業者が確実に責任を回避したい場合には、当該アルゴリズム・AIの特徴や限界を顧客に十分に説明し、それを踏まえた責任について合意する必要

9

５.投資運用業者等と顧客の損失分担（２）システムベンダーの責任
基本的考え方 当事者の合意したとおりのシステムが構築されていればシステムベンダーに責任はなく、合意したとおりのシステムとなっていなければシステムベンダーは責任を負う。
適用上の問題 データの学習により投資判断基準が形成され、その基準が人間に理解困難な場合、合意されたシステムが何であるかが不明確になりやすい。
 人間には不合理に思える判断がされた場合に、システムベンダーはそれも想定の範囲内と考えていたが、投資運用業者はそうした判断は回避されることを期待していた等。
 専門的な知識を有するシステムベンダー側が、当該アルゴリズム・AIの特徴や限界を説明しておくことが望ましい。そうした説明が不十分な場合には、システムベンダーの責任が認められやすくなる可能性。
⇒ システムベンダーによる丁寧な説明が、より重要となる。

10

６.アルゴリズム・AIの利用と相場操縦規制（１）相場操縦規制の要件と制裁刑事罰、課徴金

金融市場

取引主体要件①相場を変動させる可能性のある売買取引等を行ったこと（変動取引）②作為的相場形成（見せ玉など）により、投資者を取引に誘い込む目的（誘引目的）

11

６.アルゴリズム・AIの利用と相場操縦規制（２）アルゴリズム・AI利用時の問題：誘引目的の欠如
誘引目的を持ってプログラムを構築

自然の需給に反する相場を作出

金融市場規制に違反する

自己勘定取引

取引主体

アルゴリズム・AI

誘引目的なくプログラムを構築

取引が相場に与えるインパクトを継続的に学習・分析した結果、自然の需給に反する相場を作出

金融市場規制に違反しない

自己勘定取引

取引主体

アルゴリズム・AI



取引が相場に与えるインパクトを継続的に学習・分析するアルゴリズム・AIを利用するような場合、自然の需給に反する相場を作出する取引が行われたとしても、取引主体には誘引目的がないことが考えられる。

人間であれば誘引目的が推認されるような取引態様であっても、アルゴリズム・AIには誘引目的がないために規制対象とならないとすると、市場の公正性が害されないか？
12

６.アルゴリズム・AIの利用と相場操縦規制（３）現行法による対処の可能性とその限界
金融商品取引業者等に対する規制
 金融商品取引法上、金融商品取引業者等には、作為的相場形成を防止するための売買管理義務が法律上定められている。
 アルゴリズム・AIによる作為的相場形成があれば、売買管理義務違反として、業務改善命令等により対応することが可能。
 もっとも、上記義務への違反には、刑事罰や課徴金の賦課が認められない。
（人間が相場操縦行為を行う場合との比較において、エンフォースメント手段が限定的）

その他事業法人や個人に対する規制
 対応するための規制は存在しない。

13

６.アルゴリズム・AIの利用と相場操縦規制（４）立法的解決の可能性と課題考えられる立法対応
 金融商品取引業者等のみならず、市場取引を行う者一般に対する規制として、自然の需給に基づかない相場を作出する取引が行われないようにアルゴリズム・AIを構築・管理することを義務付けることが考えられる。
 こうしたアルゴリズム・AIの構築・管理義務違反につき、刑事罰や課徴金を定めることを検討してもよいのではないか。

立法化にあたっての課題

 従来、規制される相場操縦の範囲は、誘引目的の有無によって画されてきた。
 誘引目的から離れて、アルゴリズム・AIの構築・管理義務により対応する場合、防止されるべき行為を客観的に画する必要。
 立法化にあたっては、客観的要件をいかに表現するかの検討が必須。

14

７．アルゴリズム・AIの利用とインサイダー取引規制（1）インサイダー取引規制の概要
上場会社甲役員等A

上場会社甲に関する未公表重要事実の伝達

法人乙役員等B
未公表重要事実の伝達
役員等C

 上場会社甲に関する未公表重要事実（例えば新製品または新技術の企業化等）が公表されるまで、次の者は甲の株式を売買してはならない。
 甲に関する未公表重要事実を職務に関し知った役員等A
 Aから上記重要事実の伝達を受けた役員等B
 職務上上記伝達を受けた役員等Bが所属する法人乙の他の役員等であり、職務に関し上記重要事実を知ったC

 違反者には、刑事罰や課徴金による制裁がある。
15

７．アルゴリズム・AIの利用とインサイダー取引規制（２）取引責任者は重要事実を知らないが、アルゴリズム・AIに重要事実が与えられた場合
Question
 法人乙の取引責任者Cは、重要事実を知らずに、アルゴリズム・AIを利用して取引を行っていたが、アルゴリズム・AIに重要事実が与えられていた
場合、インサイダー取引規制に違反するか。
上場会社甲役員等A

重要事実の伝達

法人乙重要事実を保存

役員等B社内データベース
アルゴリズム・AIに与えられるデータ

金融市場

取引 アルゴリズム・責任者C
AI

自己勘定取引16

７．アルゴリズム・AIの利用とインサイダー取引規制（２）取引責任者は重要事実を知らないが、アルゴリズム・AIに重要事実が与えられた場合①取引責任者Cの責任
 取引責任者Cは、重要事実を知らない以上、インサイダー取引規制に違反しない。
 取引責任者Cが、アルゴリズム・AIに重要事実が与えられていることを知っていても、重要事実の内容を知らない以上は、インサイダー取引規制違反にはならないと解される。

上場会社甲役員等A

重要事実の伝達

法人乙重要事実を保存

役員等B

社内
データベースアルゴリズム・AIに与えられるデータ

金融市場

取引 アルゴリズム・責任者C
AI

自己勘定取引17

７．アルゴリズム・AIの利用とインサイダー取引規制（２）取引責任者は重要事実を知らないが、アルゴリズム・AIに重要事実が与えられた場合②法人乙の責任 刑事罰は、一般に個人に対して科されるものであるため、原則として法人乙に刑事罰を科すことはできない。
 課徴金は、法人が「重要事実を知って取引をしてはいけない」というルールに違反すれば、法人に課すことができる。しかし、これまで 「法人が重要事実を知って取引をした場合」とは、結局、「法人の役員等が重要事実を知って取引をした場合」であると考えられてきた。この考え方では、取引責任者Cが重要事実を知らない以上、法人乙も課徴金を課されないこととなる。
 アルゴリズム・AIに重要事実が与えられるような仕組みを法人乙が構築していた場合に、「法人乙が重要事実を知って取引をした」と評価し、課徴金の対象となると解釈できるかは慎重な検討が必要。
上場会社甲役員等A重要事実の伝達

法人乙重要事実を保存

役員等B

社内
データベースアルゴリズム・AIに与えられるデータ

金融市場

取引 アルゴリズム・
AI
責任者C

自己勘定取引18

７．アルゴリズム・AIの利用とインサイダー取引規制（２）取引責任者は重要事実を知らないが、アルゴリズム・AIに重要事実が与えられた場合③その他の現行法による対処の可能性とその限界
金融商品取引業者等に対する規制
 金融商品取引法上、金融商品取引業者等には、重要事実等にかかわる不公正な取引を防止するために必要かつ適切な措置を講じる義務がある。
 アルゴリズム・AIに重要事実が与えられる場合、本義務違反として、業務改善命令等により対応することが可能。
 もっとも、上記義務への違反には、刑事罰や課徴金が認められない。
（人間がインサイダー取引を行う場合との比較においては、エンフォース
メント手段が限定的）
その他事業法人に対する規制
 対応するための規制は存在しない。

19

７．アルゴリズム・AIの利用とインサイダー取引規制（２）取引責任者は重要事実を知らないが、アルゴリズム・AIに重要事実が与えられた場合④立法的解決の可能性

 金融商品取引業者等のみならず、市場取引を行うもの一般に対する規制として、投資判断を行うアルゴリズム・AIに重要事実が与えられないような仕組みを構築・管理することを義務付けることが考えられる。
 こうしたアルゴリズム・AIの構築・管理違反につき、刑事罰や課徴金を定めることを検討してもよいのではないか。

20

８．総括
✓ 投資運用業者の説明義務
 人間が運用する場合と同程度の説明が必要（運用の基本方針等を説明できなければ、義務違反）。
→ どの情報をどの程度考慮するかといった詳細な説明は不要。

✓ 相場操縦規制
 AIが機械学習等により相場操縦的な行為を行っても、 「誘引目的」なく利用している限り、規制違反を問えない。

✓ 投資運用業者の善管注意義務✓ インサイダー取引規制 判断根拠が人間に理解できない場合、「判断内容の合理性」により義務違反を判断することが困難。
→ 学習用データの範囲や加工プロセス等を踏まえ、「利用の合理性」を判断。

 AIに未公表重要事実が与えられた場合でも、取引行為者が未公表重要事実を知らない限り、規制違反を問えない可能性。

✓ システムベンダーの責任 AIの特徴や限界を説明する必要。
客観的に判断可能（既存の法解釈の枠組みで処理可能）

AIを利用する場合には、「行為者の主観的要件」が満たされない可能性（立法的解決が必要となりうる）

 主観的要件が関係する場面では、AIと人間で、異なる法的帰結となりうる。
 現行法の解釈だけでなく、立法論も提示。
21

９.本報告書のインプリケーション 金融機関によるAI利用の拡大が見込まれる中、リスク管理面で留意すべき点を提示。
 AI利用時には、本来規制されるべき不公正取引が、現行法では十分に規制できず、ひいては、市場の公正性や適正な価格形成に影響しうる可能性を指摘。

以上22