内部監査人協会（ＩＩＡ）情報グローバルな視点と洞察特別版−ＡＩ 第３部

ＩＩＡの人工知能監査フレームワーク
実務への適用

パートＢ

内部監査人協会（ＩＩＡ）
訳者：堺咲 子
内部監査財団（Internal Audit Foundation） 評議員
インフィニティコンサルティング 代表
ＣＩＡ，ＣＣＳＡ，ＣＦＳＡ，ＣＲＭＡ，ＣＰＡ（ＵＳＡ）目次 �� 20
ＩＩＡのＡＩ監査『フレームワーク』

ブラックボックス…………………………… 22

人的要因�������������� 20

ガバナンス…………………………………… 22

倫理………………………………………… 20

成果測定……………………………………… 22

アルゴリズムバイアス…………………… 20

最後に………………………………………… 23

意味理解…………………………………… 21

諮問委員会

ＩＩＡアラブ首長国連邦

ＩＩＡマレーシア

CIA, CCSA, CRMA
カレム・オベイド氏

CIA, CCSA, CFSA, CGAP, CRMAＩＩＡ北米

ヌル・ハヤティ・バハルディン氏

ＩＩＡアフリカ地域連合

CIA, CRMA, CPA
キャロライン・セイント氏

CIA, QIAL

ＩＩＡコロンビア

レセディ・レセテディ氏

ＩＩＡオランダ

CIA, CCSA, CRMA
アナ・クリスティーナ・ザンブラノ・プレシアド氏

CIA, CCSA, CGAP
ハンス・ニューランド氏

Copyright © 2017 by The Institute of Internal Auditors, Inc., (“The IIA”) strictly reserved. Any reproduction ofThe IIA name or logo will carry the U.S. federal trademark registration symbol ®. No parts of this material may be
reproduced in any form without the written permission of The IIA.
Permission has been obtained from the copyright holder, The Institute of Internal Auditors, 1035 Greenwood Blvd.,
Suite 401 Lake Mary, FL 32746, U.S.A., to publish this translation. No part of this document may be reproduced,
stored in any retrieval system, or transmitted in any form, or by any means electronic, mechanical, photocopying,recording, or otherwise, without prior written permission of The IIA.

18

月刊監査研究2018．4（No.533）

内部監査人協会（ＩＩＡ）情報センサーからの情報を記録するだろう。

注
本文書は３部シリーズの第３部である。
詳細は「人工知能－内部監査の専門家が考慮すべきこと」（編集注：『月刊監査研究』2018年２月号掲載）および「ＩＩＡの人
工知能監査フレームワーク－実務への適用パートA」（編集注：『月刊監査研究』2018年３月号掲載）を参照。

これらの動きは、ナイトスコープ２社のK５警備ロボット「スティーブ」が転倒して勤務中に噴水に落ちた時３や、別のK５ロボットがカリフォルニア州マウンテンビューの通りをパトロール中に41歳の男性に暴行された時４や、スタンフォードのショッピングセンターで警備ロボットが暴走して１歳４か月の幼児を轢いたと非難された時のような、最近の事件の結果を受けて起こったものである。なお、関係者の怪我は全て軽傷だった。

はじめに人工知能の倫理については何百ものレポー想像して欲しい。倫理委員会や調査委員会

トがあるが、大部分は軽い内容であり、人間の面前に、ロボットが、または少なくともそを第一に考えるという面白みのないものばかの頭脳がいるところを。それは起こり得るのりである、と「バックチャネル」編集者のスである。ザ・ガーディアン紙 によると、ロコット・ローゼンバーグ氏は書いている。ロボットが公共空間に入って人間と一緒に働きーゼンバーグ氏は、ニューヨーク大学のAI始めているので安全対策の必要性が一層高まNow研究所が最近公表した「信頼できる公平ってきている、と学者たちは主張している。

な結果を保証することなくＡＩで社会を再構科学者たちは、ロボットが自らの意思決定を築しようと試みているハイテク産業」に関す追跡するための「倫理的ブラックボックス」

るレポート５ から引用している。１つのレポを装備して、事故が起こった時に行動を「説ート６は、「ＡＩを倫理基準で縛ろうとした今明」できるようにしようと試みている。

までの努力は大失敗しているので、ＡＩの新１

オックスフォード大学の教授たちは、航空

しい倫理的枠組みは、強力な産業的、行政的、機墜落事故調査にブラックボックスやコック軍事的利害を持つ者がＡＩを設計して採用すピットのボイスレコーダーを持ち込んで、悲る際に責任を負うように、個人の責任を超え劇から得た安全上の重大な教訓としている航たものにする必要がある」と結論づけている。

空業界の例と規則にロボット工学企業も倣う

著者の意見によると、ＡＩシステムは警備活べきだ、と主張している。ロボットに装備さ動、教育、ヘルスケア、その他多様で脆弱なれた倫理的ブラックボックスは、ロボットの分野で導入されており、「アルゴリズムの失敗

意思決定、その意思決定の根拠、ロボットのが人命を脅かすこともあり得る」。

動き、さらにカメラ、マイク、距離計などの１

訳者注：https://www.theguardian.com/science/2017/jul/19/give-robots-an-ethical-black-box-to-track-and-explaindecisions-say-scientists

２

訳者注：https://www.knightscope.com/about/

３

訳者注：https://www.theguardian.com/technology/2017/jul/18/robot-cop-found-face-down-office-block-fountain

４

訳者注：http://abc7news.com/technology/police-drunk-man-knocked-down-300-pound-robot-in-mountainview/1915713/

５

訳者注：https://assets.contentful.com/8wprhhvnpfc0/1A9c3ZTCZa2KEYM64Wsc2a/8636557c5fb14f2b74b2be64c3c
e0c78/_AI_Now_Institute_2017_Report_.pdf

６

訳者注：https://www.wired.com/story/ai-experts-want-to-end-black-box-algorithms-in-government/

月刊監査研究2018．4（No.533）

19

内部監査人協会（ＩＩＡ）情報

ＩＩＡのＡＩ監査『フレームワーク』

能監査フレームワーク−実務への適用 パートＡ」で説明した。本文書では、人的要因（倫理、ブラックボックス）とガバナンス（成果測定）に関連する目的、および活動または手続を説明する。

AI戦略

人的要因

ガバナンス

倫理とブラックボックスを含む人的要因

人的要因

は、期待した結果を提供しようとするＡＩの能力に支障を来す人的ミスのリスクを取り上「人工知能−内部監査の専門家が考慮すべげている。

きこと」で説明した通り、ＡＩにおける内部監査の役割は「人工知能が短期、中期、また倫理は長期の価値を創造する組織の能力に否定的

人的ミスや偏った判断（ともに意図的であまたは肯定的な影響を与える程度を評価し、ってもなくても）をする人間によって開発さ理解し、伝達するのに役立つこと」である。

れたアルゴリズムは、そのアルゴリズムの性内部監査がこの役割を果たす手助けとし能に影響する。人的要因として以下を検討すて、内部監査人は組織に合わせてＡＩ関連のること。

アドバイザリー、アシュアランス、またはア■ 意図的でない人間の判断の偏りがＡＩ設計

ドバイザリーとアシュアランスが融合したサに影響する、というリスクが特定され管理ービスを提供する際にＩＩＡのＡＩ監査『フされているか。

レームワーク』を活用することができる。こ■ ＡＩの結果が元の目的を反映していることの『フレームワーク』は、ＡＩ戦略、ガバナを確かめるために効果的にテストされていンス、人的要因の３つの包括的な要素と、７るか。

つの構成要素であるサイバーレジリエンス、ＡＩ能力、データ品質、データアーキテクチ
ャとインフラストラクチャ、成果測定、倫理、ブラックボックスで構成されている。

■ 技術的な複雑さを考慮すると、ＡＩには透明性があるか。
■ ＡＩのアウトプットは合法的に、倫理的に、責任ある形で使用されているか。

内部監査は『フレームワーク』を使って組織のＡＩ活動に関連するアドバイザリー、アアルゴリズムバイアス

シュアランス、またはアドバイザリーとアシマッキンゼー社の最近のレポートによると、ュアランスが融合した内部監査サービスを提企業はビジネス上の意思決定に機械学習を素供する際に、多くの監査目的またはコントロ早く適用している。そのプログラムは、頻繁ール目的、および活動または手続を考慮すべに更新される大規模なデータセットを扱うたきである。
『フレームワーク』の戦略（サイめの複雑なアルゴリズムを設定する。しかし、バーレジリエンス、ＡＩ能力）とガバナンス

アルゴリズムバイアスが見落とされてチェッ（データアーキテクチャとインフラストラククされないままになっていると、機械学習チャ、データ品質）に関連する目的、およびの目的に影響を及ぼす可能性があり危険であ活動または手続については、「ＩＩＡの人工知る（マッキンゼー社の「Controlling machine-20

月刊監査研究2018．4（No.533）

内部監査人協会（ＩＩＡ）情報learning algorithms and their biases７」を参ばならない。マッキンゼー社のレポートで述照）。

べられているように、「ＡＩ時代における意

例えば信用格付では、延滞や債務不履行な味理解は、マシンにできることとできないこ

く長期間融資を維持している顧客は通常「低とを理解することから始まる。例えばマシンリスク」と判断される。しかし、この顧客のは、ある種の診断を人間よりも正確に行える住宅ローンが期限付きの相当な優遇税制に支可能性がある。しかし、患者がその意味を理えられてきたことは知られていない可能性が解して影響に対処するのを支えるのは、看護ある。やがて債務不履行が急増しそうなこと師や医師やセラピストの責任である。それこは、貸付機関の統計的リスクモデルでは説明そが知識と意味理解との違いである」。このされない可能性がある。適切なデータにアクレポートによると、コーディング、分析、デセスして専門家の助言を受ければ、機械学習ータサイエンスなどのハードスキルはＡＩにの予測モデルはデータの中の隠れたパターンとって重要だが、協力、共感、意味理解なを見つけてそのような急増をなくせるかもしどのソフトスキルも重要である（「McKinseyれない。さらにビジネス上の意思決定以外でQuarterly 2017 Number 4」56−61頁参照）。

は、アルゴリズムバイアスが市民に問題や不安を与えるような間違いを起こす可能性がある。例えば、グーグル社のフォトサービスや類似のサービスは、人間、物体、風景を識別するために使用されるが、人種に関する配慮が欠けていた場合や、将来の犯罪者を予測する８ ためのリスクアセスメントに使用されたソフトウェアが偏った判断を示した場合は、非常に恐ろしい状況になり得る。

ＩＩＡが示した関連する目的、および活動または手続は、監査計画を規定するもの
ではないが、示した例は監査目的またはコントロール目的の特定、およびＡＩ監査の計画と実施に役立つはずである。
ＡＩ監査は、ＩＩＡの「基準2200：内部監査（アシュアランスおよびコンサルティング）の個々の業務に対する計画の策定」に適合すべきである。ＡＩ監査計画と意味理解マシンにできることには限界があるので、人間はＡＩのアウトプットを理解できなけれ

ＡＩ監査目的および手続は、組織のニーズに合わせて常にカスタマイズすべきである。

倫理に関連する目的、および活動または手続
監査目的またはコントロール目的

活動または手続組織のＡＩ活動の成果に意図しないバイアスがな ＡＩ活動の意図した結果（戦略目標）をレビューいというアシュアランスを提供する。

して実際の結果と比較する。差異が検出された場合はバイアスが原因であるかを判断する。

組織はＡＩのアウトプットの「意味理解」ができ ＡＩのアウトプットとそのアウトプットから得らる。

れた意味をレビューする。

７

訳者注：https://www.mckinsey.com/business-functions/risk/our-insights/controlling-machine-learning-algorithmsand-their-biases

８

訳者注：https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

月刊監査研究2018．4（No.533）

21

内部監査人協会（ＩＩＡ）情報

法的責任に沿ったものとなるように支援すブラックボックス

る。

メリアム・ウェブスター社のオンライン辞本シリーズの第２部「ＩＩＡの人工知能監書によると、ブラックボックスとは「大抵は査フレームワーク−実務への適用 パートＡ」

複雑な電子装置であり、その内部メカニズム

では、ガバナンスに関連してアカウンタビリは通常ユーザーから隠されているかユーザー

ティ、責任、監督、規制の遵守、データアーには不可解である。広義には、不可解で未知キテクチャとインフラストラクチャ、データの内部機能やメカニズムを持つもの」である。

品質を取り上げた。本文書では成果測定を取組織がタイプⅢやタイプⅣのＡＩ技術（自習り上げる。

や相互通信できるマシンやプラットフォームを利用する技術）に移行するにつれて、アルゴリズムがどのように動いているかが分かり成果測定にくくなったり理解できなくなったりする。

内部監査は、組織のＡＩ施策の成果を測定組織のＡＩ活動がより高度化するにつれて、するために不可欠な位置づけにある。計画段

ブラックボックスはより大きな課題になる。

階で内部監査は、経営陣と取締役会にとって十分で信頼性の高い関連性のある有用な情報を提供するような指標を定める方法についてガバナンス助言することができる。ただし、内部監査はＡＩガバナンスとは、組織のＡＩ活動を指ＡＩ成果指標の設定や所有の責任を負っては示、管理、監視するために導入された構造、ならない。ＡＩが導入されている組織の内部プロセス、手続を指す。組織のＡＩガバナン

監査は、ＡＩに関する第１のディフェンスラスの形式と構造は、当該組織の個々の特性にインのコントロールと第２のディフェンスラよって異なる。ＡＩガバナンスは、インの監督についてアシュアランスを提供す■ アカウンタビリティ、責任、監督体制を確べきである。内部監査のＡＩ能力を実証するには、ＡＩ監査にロボット工学によるプロセ立する。
■ ＡＩ責任者が必要なスキルと専門知識を確ス自動化などのＡＩ技術を使用すること以上に良い方法はないだろう。

保するのを支援する。
■ ＡＩ活動やＡＩに関連する意思決定と活動が、組織の価値観、および倫理的、社会的、ブラックボックスに関連する目的、および活動または手続
監査目的またはコントロール目的

活動または手続「ブラックボックス」データ（例：根底にあるア ＡＩの開発と導入に関する方針、プロセス、手続ルゴリズム、内部機能、ＡＩを可能にするメカニ をレビューして、ブラックボックスデータが特定ズム）に対する組織の理解度を評価する。

されているかを検証する。
ＡＩの成果の責任者にインタビューして、ブラックボックスデータを理解しており説明できるということを検証する。

22

月刊監査研究2018．4（No.533）

内部監査人協会（ＩＩＡ）情報

成果測定に関連する目的、および活動または手続監査目的またはコントロール目的

活動または手続ＡＩ指標の設定方法について助言する。

ＡＩ指標の設定責任者のための作業部会のファシリテーションを行う。十分で信頼性の高い関連性のある有用な情報という用語の重要性と意味を伝える。

ＡＩの脆弱性に関するストレステストを行う。

極端な状況でＡＩがどのように機能するかを判断するために、銀行業界で使用されるストレステスト技法を適用する。

ＡＩ関連監査の結果を伝達する。

ＡＩ関連監査の結果を以下に適合するように伝達する。
■ ＩＩＡ基準2400：結果の伝達■ ＩＩＡ基準2410：伝達の規準■ ＩＩＡ基準2420：伝達の品質■ ＩＩＡ基準2421：誤謬および脱漏■ Ｉ ＩＡ基準2430：「『内部監査の専門職的実施の国際基準』に適合して実施された」旨の表現の使用■ Ｉ ＩＡ基準2431：「基準」等に不適合な場合の内部監査（アシュアランスおよびコンサルティング）の個々の業務の開示■ ＩＩＡ基準2440：内部監査の結果の周知

ＡＩに関する第１のディフェンスラインのコント ＡＩ関連監査にロボット工学や他のＡＩを積極的ロールと第２のディフェンスラインの監督につい に活用する。てアシュアランスを提供する。
によって開発された技術であろうと、内部監

最後に査は第１と第２のディフェンスラインと連携

内部監査の専門家は、次のデジタル領域フして取締役会と上級経営者に助言する準備をロンティアになり得る人工知能に後れを取るすべきであり、さらにＡＩのリスクマネジメことはできない。内部監査人はこれに備えてント、ガバナンス、コントロールに対するアＡＩの基本、内部監査が果たせる役割と果たシュアランスを提供すべきである。内部監査すべき役割、およびＡＩのリスクと機会を理人はこれらの課題に対処するために、ＩＩＡ解しなければならない。の人工知能監査の『フレームワーク』を活用

組織のＡＩ技術と活動が、進んだ技術を使すべきである。って社内で開発されたものであろうと第三者

月刊監査研究2018．4（No.533）

23