Purview で AI 活用のためのデータセキュリティを強化しよう！

# はじめに

✨🎄🎅 **メリークリスマス** 🎅🎄✨

本記事は **Microsoft Security Advent Calender 2024** に参加しています。

https://qiita.com/advent-calendar/2024/microsoft-security

Advent Calender ということで、最近11月に開催された Microsoft Ignite 2024 の **Microsoft Purview** 関連のアップデートの一部をご紹介しようと思います😊

周囲からお聞きする生成 AI 関連の懸念や、Microsoft Ignite 2024 をはじめとするマイクロソフトの最近のメッセージを聞いていても、AIの発展に伴ってデータセキュリティの重要性がどんどん増しているように感じるので、**「AI×データセキュリティ」** というテーマで書いてみたいと思います🎁✨

:::note warn
記載の内容は **2024 年 12 月現在** の情報であり GA (一般提供) 前の製品も含まれるため今後仕様などが変更になる可能性がございます。最新の内容については Microsoft Learn などの公式ドキュメントをご確認ください。
本記事は個人的な見解であり、正しい見解や実装、ライセンスに関するご相談はMicrosoft社にお問い合わせください。また、一部製品のPRも含まれますので予めご了承ください。　
:::

# Microsoft Purview とは？

Microsoft Purview は、**データ分野に関わるセキュリティ、ガバナンス、コンプライアンスを担保するための包括的なソリューション**  で、Microsoft 365 E3 や E5 のライセンスなどを通じて利用することができます。

https://www.microsoft.com/ja-jp/security/business/microsoft-purview?msockid=38196edde920610621857bf7e8026022


Microsoftのセキュリティ製品というと Entra ID や Defender を思い浮かべる方が多いと思いますが、M365 のセキュリティ＆コンプライアンス製品の全体像を以下とすると、

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/da07a8f9-6e03-a1e5-cfe5-fb3ffcadbf90.png)


黒塗り以外の部分をカバーするのが ✨**Microsoft Purview**✨ となります。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/031f128d-8de2-9833-29cb-b39bfa9213e9.png)


上の画像の通り、主要なものとしては以下のような機能が含まれています。※これがすべてではありません

- **Microsoft Purview Information Protection**
    - 機密情報の特定、情報の分類、ラベル付け、ファイル単位の保護（暗号化）
    - データライフサイクル管理（データの保持・消去の管理など）
- **Microsoft Purview Data Loss Prevention (DLP)**
    - クラウド、エンドポイント(USB,印刷等)、アプリケーション経由のデータ損失防止
- **Microsoft Purview Insider Risk Management (IRM)**
    - 機密情報へのアクセスやデータ漏洩などのポリシー違反をもとにリスクの高いユーザを検出

暗号化やDLP単体の利用に留まらず、これらの機能を"連携"し、いろんな角度からデータを守っていくことが出来るのが Microsoft Purview の特徴です。

# 生成 AI 元年から2年 🤖

2022年11月、GPT-3.5 を搭載した対話型生成AIサービスである " ChatGPT " が登場しました。リリースして５日後にはユーザー数が100万人を突破し、２か月後には1億人に達するなど、世界中で急速に普及し大きな影響を与えたというのは記憶に新しいと思います。

一般の方にも広く生成 AI が利用されるようになってきた生成 AI 元年と言われる2022年から Mictosoft としても AI 関連のサービスをリリースしてきているのですが、今回の Ignite では特にたくさんの機能が発表されたと感じています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/8fa75e04-a5cb-836d-7dd4-3341b8236326.png)




IT 部門やセキュリティ部門の方においては、生成 AI のセキュリティ上/法律上のリスク評価からガイドライン策定などで忙しい期間だったのではないでしょうか。まだまだ今後の方針を検討されている企業も多いと感じます。


## 生成AI利活用におけるセキュリティ上の懸念

では、実際どのような懸念事項があるでしょうか🤔

生成 AI ( Google Gemini, chatGPT, M365 Copilot などの SaaS の生成 AI ) を利用する上での企業のセキュリティ上の懸念事項を **AI Governance、Data Leak、Compliance、Oversharnig**  の４つに分けてみました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/6a913299-e51a-ca0d-47f1-7ba6947d0350.png)

かなり簡略化した図となっていますが、これだけで「わかる～！」となってくれる方も多いかなと思います。

ここから、課題の説明と各課題に対応するソリューションを同時に紹介していこうと思います！

## AI Governance🔍

まずは、AI ガバナンスの課題です。
社内の AI 利活用ルールを定めて満足していないでしょうか（上からですみません）
ポリシーを定めたあとは、社内全体における生成 AI の利用状況やポリシー違反の状況、規制要件対応など、包括的な利用データを可視化する必要がありますがなかなか集約するのは難しかったのではないかと思います。

:::note warn
- 社内全体におけるAI利用の状態が不明瞭…
- どのようなAIを、どれくらい、どのように利用しているのか？
- EU AI ActやNIST AI RMFなどのAIの規制要件対応は出来ているか？
:::

### 🎁DSPM for AI

2024年5月から AI Hub という名前でPublic Previewされていた機能なのですが、
この度、**DSPM for AI** という機能で全体的な利用の可視化＆是正対応をすることが出来るようになりました

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/0ae38922-c450-c3f6-d4f0-b2ad0c57e29d.png)

こちらのダッシュボードですが、E5 Complianceをご契約の企業では、<ins>既にPurviewポータルから閲覧できる状態</ins>になっているかと思いますのでぜひご覧ください。
また、可視化したあとは、リスクに対して必要となるAI関連のポリシー作成をすることが出来ます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/e6da9865-4f56-ea3d-97c2-6b378ab24dd8.png)

3rd Party AI の利用状況を可視化するポリシーがあり、ユーザ影響もないので、まずはポリシーをONにしてみると良いかなと思います👍（Purviewポータル>DSPM for AI>レポート>合計訪問回数（その他のAIアプリ）からONにしてください）

わたしのデモ環境なのでデータが少ないですが、ONにしていただくと数日後にはデータが反映されてくるはずです（わくわく）（どんなAIが利用されているか知りたいですよね）

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/cb3fdcc1-0d63-795d-ea31-a2fb0193f68c.png)


#### 参考
https://learn.microsoft.com/ja-jp/purview/ai-microsoft-purview


## Data Leak😢

次に、情報漏洩の課題です。

従業員がどのような生成 AI にどれくらいアクセスしているか把握していますか。
大量にあるAIサービスの中にはインプットしたデータを学習して第三者にアウトプットしてしまうものも含まれているので、そういった危険な AI サービスへのアクセスはコントロールする必要があるかもしれません。

:::note warn
- 許可していないAIの利用をブロック出来ているか？
- ファイルアップロード防止などの制御を出来ているか？
:::

### 🎁EDLP, MDE/MDA

長かったので略語ですみません。こちらはもともとある機能ですが、Micosoftが保有する「AIサイトリスト」を利用し、**Endpoint DLP(EDLP), Microsoft Defender for Cloud Apps(MDA), Microsoft Defender for Endpoint(MDE)** でAIサイトへのアクセスなどを制御することが出来ます。

:::note 
　**できること**
- AIサイトへの機密情報(SIT)のコピー＆ペースト、ファイルアップロードのコントロール
- AIサイトへのアクセスコントロール
:::

#### 参考

https://learn.microsoft.com/ja-jp/purview/ai-microsoft-purview-supported-sites


## Compliance👦

次に、コンプライアンスの課題です。AIの導入推進をしている部署では、自社の利活用の状況やユースケースなどを把握する必要があります。
また、AI の利活用ルールにおいて倫理的な利用や著作権への配慮などを定めている企業が多いかと思いますが、性善説で運用していないでしょうか。

:::note warn
- AI導入推進を担当する部署は、自社の利活用状況、ユースケースを認識できているか？
- コンプライアンス違反となる利用はないか？
- AIへの攻撃や著作権侵害などの不適切な利用はないか？
:::

### 🎁DSPM for AI & Communication Compliance(CC)
さきほど登場した **DSPM for AI** で Copilot との対話内容 (プロンプト) 、アクセス数、機密情報のやり取りの数などを確認できるようになり、 **Communication Compliance** で脅威のあるプロンプトを検知することが出来るようになりました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/b50e341b-ec3a-0e57-9c1d-d59e2a9dc3f1.png)

Communication Complianceは、もともとメールやTeamsチャットの対話内容に含まれるハラスメントなどを検知/監査するものですが、今回 監視対象に M365 Copilot が追加されました。

また、事前に機械学習でトレーニングされている「トレーニング可能な分類子」というものがあり、ハラスメントや医療データなどを検知することが出来るのですが、その分類子に以下２つの分類子が追加された形となります。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/789abb01-8ec2-9515-0455-b76e8156a590.png)

もちろん M365 Copilot は著作権侵害となるアウトプットをしないように制御＆プロンプトインジェクション対策は出来ているのですが、こういった行動を試みるユーザは今後内部不正を起こす可能性が高いとして、IRM (Insider Risk Managementというサービス) のユーザリスク値に追加するといったことも可能になります。

#### 参考
https://techcommunity.microsoft.com/blog/microsoftsecurityandcompliance/new-purview-communication-compliance-features-for-copilot-and-insider-risk-manag/4296775

https://learn.microsoft.com/ja-jp/purview/communication-compliance-policies?tabs=purview-portal

https://learn.microsoft.com/ja-jp/azure/ai-services/content-safety/concepts/jailbreak-detection



## Oversharnig（主にM365 Copilot）👁　

最後に **Oversharing（過剰共有）** の課題です。

M365 Copilot は社内データの検索を得意とし、参照元となるデータのアクセス権限や共有設定を継承します。Microsoftの、"プラットフォーマーである" という強みを活かした唯一無二で便利な AI ✨である反面、企業側の責任領域であるアクセス権限管理/共有設定管理を怠ることによる、 **Oversharing（過剰共有）** の課題があります。

例えば、社内の一部にしか公開すべきでないデータを誤って社内全体から検索できるSharePointサイトに配置していた場合、Copilotから参照される可能性があります。（SharePointの検索からもアクセスできるので、Copilotに限った話ではなく新しい問題でもないのですが…）

また、知的財産や営業秘密、個人情報などの、**「正確であることが求められる情報」** がAIによって情報を追加されたり加工された状態でアウトプットされることを懸念する声もあるかと思います。

:::note warn
- M365 Copilot が参照するSharePointサイトのアクセス権限/共有設定は適切か？
- AIを通して情報を追加されたり加工された状態でアウトプットされたくない情報もあるのでコントロールしたい
:::

### 🎁Oversharing Report

**DSPM for AI**のページから作成できる、**Oversharing Report** という機能で過剰共有の状態を可視化＆是正対応がシームレスに実行できるようになりました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/4b8ef3e0-0deb-b821-cc57-9f6f8804998f.png)

SharePointサイトの過剰共有や機密情報の状態を可視化したあとは、必要となる是正対応をしていきましょう。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/023b5809-3692-9735-8db2-143ab07a0657.png)


### 🎁DLP for M365 Copilot

また、**DLP for M365 Copilot** によって、<ins>特定の秘密度ラベルがついたファイルがCopilotからアクセスされないように制御する</ins>ことが可能になりました。
こちら、待望の機能でリリースを待っていた方も多かったのではないでしょうか？🐰

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/576001/5f269086-7cdf-fc3c-587b-1bda769865e2.png)


この機能を利用するために必要となる **「秘密度ラベル」** は、ファイル単位で情報を分類/暗号化するための機能ですが、分類/暗号化のためだけではなく、今回の発表でますます重要性が高まってきたのかなと思います。

すべてのファイルにラベル付けするとなると少しハードルが高いかもしれませんが、この機会に重要情報だけにラベルをつけてみるというのも良いかもしれませんね👍

------
まだまだたくさんあるのですが、以上が今回ご紹介したかった内容となります。

# さいごに

気になる機能はありましたでしょうか？企業側のニーズに合わせて AI 関連の機能がかなり充実してきたなと感じます。

セキュリティ部門の方にとっては、重要ではあるものの、着手するタイミングに迷う、情報保護やDLP、データライフサイクル管理などの **「データセキュリティ」** の分野ですが、AIの課題の追い風もあり、今後の必要性を感じて検討される企業が多くなってきているのかなと感じます。

:::note
Purview で AI 活用のためのデータセキュリティを強化しよう！
:::

ということで、今回は AI 関連にフォーカスしてご説明しましたが、Microsoft Purview には面白い機能がまだまだたくさんあるので、興味を持っていただけると幸いです🐰✨

年末のお忙しい時期ではありますが、良いお年をお過ごしください🎍🌅
　
## References

そもそも Purview がどんなブランドなのか知りたい方はこちら👇

https://www.microsoft.com/ja-jp/security/business/microsoft-purview?msockid=38196edde920610621857bf7e8026022

AI関連の Ignite Update に関する Tech Blog はこちら👇

https://techcommunity.microsoft.com/blog/microsoftsecurityandcompliance/accelerate-ai-adoption-with-next-gen-security-and-governance-capabilities/4296064

Purview の技術的な公式ドキュメントはこちら👇

https://learn.microsoft.com/ja-jp/purview/purview