AIを安全に拡張するためには - データサイエンティストが果たす役割とは

私たちの多くは、人間による偏見の結果としてデータに生じうる問題、すなわち、結果の格差、不公平な政策、機会損失などが、数え上げればきりがないことをよく理解しています。AIの力がセンシティブな状況に適用される際に、私たちは機械学習と偏り（バイアス）の混合が生み出す危険性が心配することになります。では、どうすればいいのでしょうか？

[責任あるAI](https://pages.dataiku.com/white-paper-responsible-ai-myths)とは、意図しない結果の可能性に適切に対処しながら、組織がAIモデル開発のパイプラインを構築するためのフレームワークです。モデル構築に携わるデータサイエンティストは、結果が意図しないものになることをあまりコントロールできないように感じるかもしれませんが、そんなことはありません。

このブログは、Dataiku Product Daysのセッションをまとめたものです。当該セッションでは、DataikuのJacqueline Kuo（ソリューションエンジニア）、Sibongile Toure（データサイエンティスト）、Andy Samant（シニアデータサイエンティスト）が、責任あるAIにどう取り組むか、このようなプロジェクト目標のためにDataikuのさまざまな機能や技術をどう利用できるかについて、デモを交えて紹介しました。

[*→セッションはこちらからご覧いただけます。*](https://blog.dataiku.com/cs/c/?cta_guid=22419377-6b3b-40f5-a2d3-398312deecb4&signature=AAH58kFbNZ2DEidphlVoy6IIVEoVA6el_A&pageId=80534955918&placement_guid=9ec3f632-0448-477a-a98f-ac694478dbbc&click=fb50c557-b4ea-40bb-a176-8c77e38a2971&hsutk=7cf29593dfb8dfaddb981500e9719055&canon=https%3A%2F%2Fblog.dataiku.com%2Fscaling-ai-safely-role-of-data-scientists&utm_referrer=https%3A%2F%2Fblog.dataiku.com%2F&portal_id=2123903&redirect_url=APefjpG1hjgynMtFOL4CQcT2818i6hWbJhiSoQVO3rkbqzBlgMYUsuIBTlLBn2m1JwL8cpBgCQJhfFGjVB3ygfBNenn-7kXrUgwA0b1l8Bi-qiNK1cSaAwLuNsiecWhNdmqfGADf3SaoTQ9qAZZa46X_4O7vPqRYTMTa5uUQ_YpkxWrvQQc2Re698f3SDrShXZylkDwADZ7a9lnwVI3OKziWfoTF0EWhxA3oWmFtGZaQd7a-RJ19AhCk3cvr3JcvrWJfRki0dIq4SvtwauMGPg3NbEEYxbo-r3RVE3vwaqBzMEWejmJ_GPEC8H3RZhD2zvlwgSosgRL4UDTtFD4dQpnjHU1qJvYDqyvia45Pp4Z0aWHlfl2ArSc&__hstc=186155446.7cf29593dfb8dfaddb981500e9719055.1646211075169.1659609201167.1659611412758.389&__hssc=186155446.4.1659611412758&__hsfp=2597505851&contentType=blog-post)


## AIパイプラインの構築とは
AIパイプラインの構築には多くの段階がありますが、まずはデータサイエンティストにとって最も不可欠な部分である「構築」について見てみましょう。
![Screen Shot 2022-07-28 at 1.04.15 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/02f1a656-f472-32c5-aadf-e38de70fd059.png)


パイプラインの構築ステップの中には、主に3つのステージがあります。

- データ処理（クレンジングと特徴量の作り込み） 
- モデル構築（モデルを作る） 
- レポーティング（パフォーマンスを調べる） 

この3つのカテゴリーにおいて、バイアスをキャッチするためには、モデルのセンシティブなカテゴリーや属性を意識することが重要です。このプロジェクトの例では、以下の3つの段階を通して、これらの要素を警戒する方法を見てみましょう。
![KITCHEN.00_03_15_39.Still013.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/4c5bf121-dd85-0a28-7a9c-343c082e9859.jpeg)

## クーポン交換プロジェクト
買い物をした後、メールや受信ボックスにクーポンが送られてくることがよくあります。このプロジェクトでは、クーポンが偏った形で送られていないか、データサイエンスチームがデータを調査してみました。

##### プロジェクトの目的

- 顧客がクーポンを利用するかどうかを予測する。
- 各年齢層で(モデルに基づいて)クーポンを受け取る機会が同じであることを確認する。

#### データ 

- 顧客の特徴 
- 顧客の売上 
- クーポンの属性 
- センシティブ属性(年齢層) 
-　ターゲット変数：クーポン引換状況

## データのクリーニング
はじめのデータの確認後、チームは簡単なクレンジングとフィルタリングを行い、ひとつめのモデルを作成しました。バイアスを特定するための主な指標として、再現率（真陽性の数➗（真陽性の数＋偽陰性の数で割ったもの））に焦点を当てることにしました。プロジェクトフローをゾーンに分割することで、プロジェクトをさまざまな部分に分けて整理することができます。

![Screen Shot 2022-07-29 at 1.13.18 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/9e8a72e0-d35b-2827-2ea4-5a560c1603b4.png)
![Screen Shot 2022-07-26 at 4.01.53 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/f08de390-e384-bd11-6a6b-b3efe588623a.png)

次に、混同行列をチェックして偽陰性の数を軽減することに焦点を当てました。サブポピュレーション分析をもとに、モデルが年齢層を超えて公平に機能しているかどうかを確認しました。
![Screen Shot 2022-07-29 at 9.54.04 AM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/28f1cbd6-d61c-4eee-a6ed-e59262d8c803.png)
![Screen Shot 2022-07-29 at 2.42.55 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/4f57fea1-2431-1c97-3bde-ce1e2b42f57e.png)

## 説明性について調べる
もし年齢層によって大きな差がある場合は、モデルに偏りがあるかも知れません。この例では、70歳以上の年齢層で再現率が低いことが極めて顕著でした。

さらに調査するために、データサイエンティストは個々の説明性のレコードを調べ、[ICE法](https://doc.dataiku.com/dss/9.0/_downloads/f7b380e6d003253efce5dc2f8e1d25f2/individual-explanations-methods.pdf)を用いて、極端な確率に最も影響する特徴量の説明性を計算しました。
![Screen Shot 2022-07-26 at 4.11.05 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/77f55002-7bdf-e61b-9101-59b07e225a03.png)

## モデルの公平性の評価
モデルの公平性を数学的、社会的の2つの角度から評価する必要があります。

- 数学的な公平さ: 公平な予測は、センシティブ属性に依存しない
- 社会的な公平性: 公平なモデルのパフォーマンスは、さまざまなグループ間でも一貫しており、その結果は望ましい意図と一致する

この観点から、チームはDataikuのモデル公平レポートを使って、4つの異なる主要な指標をチェックしました：人口統計学的パリティ、均等化オッズ、機会均等、予測率パリティです。

**人口統計学的パリティ**は、センシティブなグループと有利なグループの間の陽性予測の割合（陽性率）を測定します。この指標では、陽性予測が真か偽かは考慮されず、各グループの陽性予測率のみが考慮されます。
![Screen Shot 2022-07-26 at 4.17.30 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/99e42407-7f2f-a249-0150-e0270c719cc5.png)

ある年齢層が優先されていないことを確認するために、各年齢層で陽性率（分配されるクーポン）が等しいことを確認したいと思います。

**均等化オッズ**は、真陽性率と偽陽性率がすべてのグループ間で等しいかどうかを測定します。これは、分類器が陽性を正しく予測する能力と、陽性を誤って予測する可能性について評価するものです。この2つの率を比較し、グループ間で等しいかどうかを確認します。実際にビジネス用途に適用する場合、これは、マーケティングがあまりにも多くの費用を費やし、クーポンを利用していない人々にクーポンを送っている可能性があるかどうかを判断するのに役立ちます。
![Screen Shot 2022-07-26 at 4.20.29 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/80e721aa-a13f-8533-43ae-09ec6229af31.png)

**機会均等**は、すべてのグループにわたる真の陽性率（または再現性）を測定します。これは、モデルが、グループ間で等しくクーポンを利用する顧客を正しく分類し、すべての顧客にクーポンを受け取る機会（すなわち、このプロジェクトで最も重要なメトリック）を等しく与えることを意味します。
![Screen Shot 2022-07-26 at 4.23.25 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/2f0e33ae-6b34-b0f6-979b-1d33ba131881.png)

最後に、**予測率パリティ**は、全グループの適合率を測定します。
![Screen Shot 2022-07-26 at 4.28.44 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/804a487d-38e1-0649-8793-c778aa0bc3b6.png)

では、社会的な公平性を重視する視点で見てみましょう。Dataikuのwhat-if分析ツールを使うと、モデルのさまざまな値を切り替えることができ、個々の変更がモデル全体の予測にどのような影響を与えるかを簡単に確認することができます。この例では、年齢層を操作すると、すぐに予測値が変化することに気づきました。大きなバイアスがかかっているようですね。
![Screen Shot 2022-07-29 at 1.39.21 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/3f8fa76f-e395-4564-7f4b-c9a89efe1684.png)

![Screen Shot 2022-07-26 at 4.32.05 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/ed8f57a7-ab23-f5e5-9105-c84b793db888.png)

## テイク2：どう改善するか？
![Screen Shot 2022-07-26 at 4.34.30 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/b56c68d7-6c39-fd7c-d2dc-f9409e94f2c5.png)

バイアスの少ない新しいモデルを作るために、データサイエンティストはプロジェクトの原点に立ち返り、バイアスの原因となる問題点をデータセットから取り除くことを考えました。これには、年齢をモードの特徴量から削除することも含まれますが、測定目的のためにデータセットの列として含めることは変わりません。ここはダッシュボードを検討すべきタイミングと言えるでしょう。ダッシュボードは、あらゆる種類のユーザーペルソナやエンドユーザーにデータを提できる、アクセスしやすい方法です。

早速、チームはひとつめのモデルでは年齢層によるパフォーマンスの差が顕著であることに注目し、新しいモデルを検討しました。
![Screen Shot 2022-07-26 at 4.37.36 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/f1c977e7-d563-7cfe-3dad-8cc964b72afb.png)

2番目のモデルがどの年齢層でもより一貫性があり、少し公平であることがわかりました。また、偽陽性率もより近しくなっています。しかし、まだバイアスの懸念があったため、クレジットカードの種類、配偶者の有無、賃貸の有無、子供の数など、他の特徴についても調べることにししました。

![Screen Shot 2022-07-26 at 4.38.31 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/e269aa1c-4528-2c95-c1e1-9773f6354e77.png)

2番目のモデルでは、特徴量のうち年齢と直接関係するものがいくつかあり、その結果、観察された格差が大きくなっている可能性があるとわかりました。これらの特徴量が実際に互いに関連しているのか、それとも独立しているのかを確認するために、Dataikuの統計タブにあるカイ二乗検定を実行しました。

![Screen Shot 2022-07-26 at 4.42.14 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/d4654b93-9570-8f40-250a-565991261aea.png)

この検定では、年齢層とクレジットカードの種類を調べたところ、直感的に納得できる関係を検出することができたそうです。その結果、この特徴量も削除することが決定されました。そして、さらに検証を続けた結果、同じ理由で、3番目のモデルでは、家族のサイズと収入の大きさも削除されました。


## 三度目の正直： バイアスの少ない最終モデル

![Screen Shot 2022-07-26 at 4.45.55 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/fc0eb61b-44e8-7351-665f-4ed0daa6d4ea.png)

このプロジェクトではモデル開発の3回目で、データサイエンティストが各年齢層で偽陽性がますます小さくなっていることを確認することができました。このモデルは完璧ではありませんが、Dataikuのツールのおかげで、どの特徴量を捨てるべきかを特定できるようになり、バイアスが少なくなっています。

## これだけでは終わらない

Dataikuでできることは、上述のようにモデルの開発を改善されたかたちで繰り返せるということだけではありません。メトリクス、チェック、シナリオを使用して、作成したモデルのパフォーマンスを長期にわたって追跡することもできます。

![Screen Shot 2022-07-26 at 4.49.09 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/83e38bff-8146-efca-e5a0-e6fa1670a139.png)

メトリックスとチェックは密接に関係しており、データセットを検査し、時間の経過とともにモデルの進化を追跡できます。シナリオ機能では、モデルのメトリクスとチェックに関連するジョブをスケジュールすることが可能です。フローにシームレスに統合された検出ツールにより、自動的にバイアスを発見するアラートを設定することができます。

クーポン引換プロジェクトでは、データサイエンティストはカスタム　のpythonメトリックと、その指定値が特定の閾値を超えたときに表示される確認機能を作成しました。

![Screen Shot 2022-07-26 at 4.52.15 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/dfbb1eef-f651-8de4-f144-21c8def086b8.png)

![Screen Shot 2022-07-26 at 4.54.39 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/b30aade7-8f09-eabc-2363-aca505182157.png)


## 大規模にAIを管理することと、重要なポイント 
なぜそれが重要なのかでしょうか？バイアスを抑えることは、より明白な理由（悪いAIという見出しから外れること）だけでなく、急速に進化する技術領域におけるAIアプリケーションの長期的な健全性といった、より微妙な理由からも非常に重要です。

[AIシステムのより大きなリスク](https://pages.dataiku.com/black-box-vs-explainable-ai-how-to-reduce-business-risk-and-infuse-transparency)を理解することは、あらゆる業界のあらゆる組織のAIリーダーにとって最優先事項です。組織が取り組むべき相互に関連する3つのコンセプトは以下の通りです。

- AIガバナンス（リスクとコントロール） 
- MLOps（プロジェクト・ライフサイクル・マネジメント） 
- 責任あるAI（透明性と公平性） 

とはいえ、データリーダーだけで終わるわけにはいきません。データサイエンティストは、上記の例で示したように、モデル構築プロセスに透明性のあるレポートとモデルの公平性のベストプラクティスを組み込み、AIの拡大に伴うこれら3要素において、その役割を果たす必要があります。また、データサイエンスチームは、AIガバナンスチームと連携し、AIパイプライン全体を通してプロジェクトの目標に沿って調整する必要があります。

＜図＞
![Screen Shot 2022-07-26 at 5.38.23 PM.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/20400bd6-71d2-74c0-2392-0932b7021fdc.png)


データサイエンティストは、AI活用を拡大しようとする組織全体の計画における単なるオプションプレーヤーではありません。より公平なモデルのためにバイアスを減らすことへの彼らの貢献は、責任あるAI、[MLOps](https://pages.dataiku.com/oreilly-responsible-ai)、[AIガバナンス](https://pages.dataiku.com/ai-governance-capgemini)の中核的な一面です。しかし、バイアスを認識し、公平なモデルを構築する上で彼らの役割を果たすためには、データサイエンスチームが自由に使える適切なツールが必要です（少なくとも、それは大いに役立ちます）。だからこそ、Dataikuが提供するバイアスを識別し理解するのためのサポートは大きなゲームチェンジャーとなります。


## Dataikuの責任あるAI
DataikuのデータサイエンティストによるDataikuのクーポン引換プロジェクトの詳細については、[Dataiku Product Daysのセッション](https://content.dataiku.com/responsible-ai-dataiku-product-days?lb_email=tomoko.matsunaga@dataiku.com)をご覧ください。



原文：[*Scaling AI Safely — What Role Does a Data Scientist Play?*](https://blog.dataiku.com/scaling-ai-safely-role-of-data-scientists)