2024.5.28 金融財政事情 掲載

金融機関における AI 利用の促進に向けた論点整理
実証実験でコンプラ違反確認業務での活用可能性について検証

アンダーソン・毛利・友常法律事務所外国法共同事業 アソシエイト弁護士（前金融庁総合政策局リスク分析総括課イノベーション推進室室長補佐）
小牧 俊
金融庁総合政策局リスク分析総括課イノベーション推進室 室長補佐
清水 秋帆
さまざまな産業分野で AI（人工知能）に関連する技術の利用機会が創出されており、特に生成 AI の発展は目覚ましい。AI は、少子高齢化に伴う労働力の低下等の社会課題の解決に資する非常に有用な技術である。だが、その利用分野と形態によっては新たな社会的リスクが生じる恐れがあるため、慎重な検討が求められる。
本稿では、金融機関が AI を利用する際の論点を整理した上で、取り組みを後押しするための実証実験の内容について紹介する。
AI 導入での説明責任や外部委託のリスク金融機関がその業務に AI を利用することによって、コストの削減、業務効率化や収益性の向上およびリスク管理の改善等が期待される。だが、AI がもたらすリスクや課題も存在する。特に、金融機関の業務は高度の公共性を有することから、それらが大きな社会的影響を与える恐れがある。
具体的には、まず説明責任に関する課題である。ディープラーニングを用いた高度な機械学習（ML）モデルの AI は、膨大なデータを学習し自動的に答えを導きだすというメリットがある。一方で、人間が学習の方向性や内容をコントロールできず、AI が導き出した回答の過程を容易に理解できないという問題（ブラックボックス問題）がある。
金融機関は規制当局の検査・監督を受けているため、AI を利用する場合は、法令や監督指針に則した説明責任を果たす必要がある。金融機関が自らの利用する AIの学習プロセスや判断根拠を説明できない場合、規制当局や利用者などの第三者が取引の意思決定プロセスを把握することが困難となる恐れがある。そうなれば、金融機関の業務の透明性は損なわれ得る。
外部委託時の各リスクへの対応も必要になる。金融機関は、AI の開発・運用等のノウハウを自ら有しておらず、その開発や運用を比較的小規模の開発会社に委託することが多い。このような場合、外部のクラウドを利用するケースが多く、データプライバ

1

2024.5.28 金融財政事情 掲載

シーやサイバーセキュリティーの問題およびオペレーショナルリスクが生じる恐れがある。
例えば銀行は、業務を外部委託する場合に、委託業務の的確な遂行を確保するための措置を講じなければならない。そのため、AI の開発等を外部の会社に委託する場合は、これらのリスクを踏まえて法令上の外部委託措置を講じる必要がある。
信用の低下につながる公平性や倫理の問題公平性や倫理の問題も避けて通れないだろう。一般に、AI の性能は学習段階におけるデータセットの量や質に依存することから、学習済みのモデルにバイアスが生じ、AI による回答が差別的なものとなってしまう恐れがある。そのため、AI が導いた回答を人々がうのみにする状況が続くと、既存の情報に含まれる偏見を増幅し、さらに不公平や差別的な回答が拡大し得る。
海外で AI の公平性が問題となった有名な例として、夫婦間のクレジットカード利用限度額に 20 倍もの差異が生じた事例がある。夫が自身と妻の利用限度額に 20 倍もの開きがあるのは不公平な性差別だと主張する SNS への投稿を契機に、金融当局を巻き込むかたちで社会的な議論が生じた1。この事例も示すとおり、公平性が欠如し倫理的懸念がある AI サービスを開発運用した場合、当該金融機関の信用を低下させる恐れがある。
こうした AI がもたらすさまざまなリスクに対処するためには、それを管理するためのガバナンス態勢を構築し、管理プロセスを定める必要がある。ガバナンス構造に不確実性が認められる場合には、訴訟リスクが増大する恐れがある。
総務省および経済産業省は今年 4 月、AI 事業者ガイドライン（第 1.0 版）を公表した。同ガイドラインは、企業における対策の方向をリスクベースアプローチの考えに基づき記載しており、金融機関が今後 AI を開発・利用するに当たり参考になるものと考えられる。
金融庁が支援する実証実験の成果
こうした問題意識を踏まえて、金融庁の「Fintech 実証実験ハブ」2において支援決定された案件のうち、「AI を用いたコンプライアンス業務の効率化に向けた実証実験」について紹介する。
1

日本経済新聞電子版「アップルカード、審査正確性で論議 性差別的の主張も」（19 年 11 月 13日）
2
金融庁は 17 年 9 月、事業者が前例のない実証実験を行おうとする際に抱きがちな懸念を払拭することを目的として Fintech 実証実験ハブを設置した。現在に至るまでに 8 件の支援決定および実証実験の結果を公表している。
https://www.fsa.go.jp/news/29/sonota/20170921/20170921.html
22024.5.28 金融財政事情 掲載

本実証実験の対象は、金融機関による金融商品販売時における説明内容のコンプライアンス違反チェックおよび顧客からの苦情等の抽出に係る応接記録等の確認業務（コンプラ違反確認業務）である。AI を活用することで、当該業務を効率化・高度化できるかについて検証を行った。
具体的には、①AI がすべての応接記録を解析し、コンプライアンスリスクの高い順に記録を並び替え、担当者がリスクの高い記録から優先的に確認する方法と、②①のような優先順位付けを行わない確認方法（現行方法）で対照実験を行った。これにより、リスクのある記録の検出率や確認に係る時間を比較した（図表）。

本実証実験の結果、AI を活用する方法は、現行方法に比し、コンプラ違反確認業務の精度は同等以上を維持した上で、短時間で、より多くの業務を完了した。すなわ
ち、AI の活用がコンプラ違反確認業務の効率化・高度化に資する可能性があることが示された。
また、本実証実験の主な目的である法的論点の整理は次のとおりである。本実証
実験は、金融機関がコンプラ違反確認業務において、AI による判定基準や学習済みモデルの確認周期を独自に設定した上で、当該 AI による一次確認を行うものである。
この運用が、法令ならびに主要行等向けの総合的な監督指針および金融商品取引業者等向けの総合的な監督指針（以下、監督指針等）の規定に抵触しないか問題となった。
この点、適切な運用がなされていれば、法令および監督指針等上、金融機関によるコンプラ違反確認業務に関し、AI による一次確認を介することに特段問題はないと考えられる旨を金融庁は回答した。適切な運用とは、具体的には、AI による判定基準や学習済みモデルの信頼性に関する検証を合理的な方法・間隔で行うこと等を指す。

3

2024.5.28 金融財政事情 掲載

すなわち、法令および監督指針等が規定するコンプラ違反確認業務に係る内部管理態勢について、合理的な方法で設定した判断基準によって適切な運用がなされれば、AI を用いた一次的なチェックは認められる。この金融庁の回答は、AI を用いた態勢構築の一手段を示したものとして意義があると考えられる。
ただし、当該回答は本実証実験当時の判断であることに留意されたい。実際の AI利用に当たっては、AI の具体的な内容や利用する業務の内容等を踏まえた上で、個別具体的な事情を踏まえ最終的な判断を行う必要がある。
＊ ＊ ＊金融庁が 2022 年 7 月に新設したイノベーション推進室では、実証実験ハブのほか、「Fintech サポートデスク」の運営も行っている。これは 15 年 12 月、フィンテックに関する一元的な相談・情報交換窓口として設置された。新たな事業を検討中の事業者からの金融法令に関する相談や、意見交換の要望も受け付けている。
これまでの問い合わせおよび相談件数は、23 年 12 月末時点で累計 2,128 件に上る。サポートデスクでは、送金や暗号資産、証券分野といった金融庁所管法令にかかる法令照会のみならず、初期的な相談から個別具体的な相談まで幅広く受け付けている。AI の開発や運用を進めるに当たり懸念や課題等がある場合には、積極的に連絡してもらいたい。

こまき しゅん19 年弁護士登録、22 年 8 月～24 年 3 月金融庁総合政策局リスク分析総括課イノベーション推進室室長補佐（総合政策局総合政策課兼務）。主な著作に『NFT の教科書』（共著、朝日新聞出版、21 年）。
しみず あきほ19 年弁護士登録、20 年 1 月～22 年 8 月 TMI 総合法律事務所にてアソシエイト弁護士として勤務。総合政策局総合政策課兼務。

4