Watson Knowledge Catalog for CP4DaaS　　　　　　　Metadata Enrichment 機能について

## はじめに
- 当記事では、Watson Knowledge Catalog for CP4DaaSで使用できるMetadata Enrichment機能について説明を記載しています。
- 当記事の説明や画面キャプチャは2022年6月時点のものです。
- 本機能のマニュアルは以下をご参照ください。
    - https://dataplatform.cloud.ibm.com/docs/content/wsj/governance/metadata-enrichment.html?context=cpdaas&audience=wdp&locale=en
## 前提作業
- プラットフォーム接続にDb2接続を作成
- カタログおよびプロジェクトの作成、それぞれに管理者権限の追加
- カテゴリーの作成、管理者権限の追加
- ビジネス用語（日本語）の登録
- Db2 on Cloud環境へのテーブル作成とデータ投入
    - メタデータ（表名、列名）：英語
    - 投入データ：日本語
- プロジェクトからメタデータインポート
    - インポート先：プロジェクト
## Metadata Enrichment実施の流れ
1. プロジェクトを開き、資産タブから「新規資産」 > 「メタデータのエンリッチメント」をクリックします。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/0c5e4ae9-99ec-2104-6b51-c64ad661db38.png)

1. 詳細を定義します。
    - Enrichmentの名前、説明（任意）、タグ（任意）を指定します。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/d1314be1-9927-e18f-9afe-81acb15331ea.png)
1. データ・スコープを設定します。
    - 当記事では、前提作業で作成したメタデータのインポートを対象としました。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/0f7e45df-068e-aa05-5a7c-c6a6622e278f.png)
1. 各オプションを指定します。
    - エンリッチ対象
        - 「プロファイル・データ」、「品質の分析」、「用語の割り当て」を選択
    - カテゴリー
        - [uncategorized]および前提作業で作成したカテゴリーを選択
    - サンプリング
        - 「基本」を選択![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/e789ae7a-e13b-2b7c-e6aa-96b706e65243.png)
1. スケジュールおよびEnrichment再実行時のデータ・スコープを設定します。
    - スケジュール
        - オフに設定
        - 再実行時のデータ・スコープ
            - 「すべてのデータ資産」（デフォルト）を選択![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/e4e2e33a-26e9-5f57-7dc3-44541db159b9.png)

1. 各設定を確認し、「作成」をクリックします。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/2bb54ee9-746e-a2c8-e16f-bf14282b1ad2.png)
1. Enrichmentが完了すると、エンリッチ状況が「完了」となります。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/1c8bcd2f-3cbf-3758-5060-f6afc59d518e.png)
## Metadata Enrichmentの結果
- プロファイル・データ
    - プロジェクト内のテーブルの「プロファイル」タブから、データクラスや統計情報（行数、最大値、最小値、フォーマット等）を確認することができます。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/e126dc29-b2c4-acf1-1559-a13dbb2cdb64.png)
- 品質の分析
    - 「データ品質」列から、表および列のスコアを確認することができます。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/738df925-7a4a-764b-1790-7f9491031276.png)
        ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/b74d4d27-c137-4ea1-be26-2fbd9f851db6.png)
    - また、「データ品質の詳細の表示」からデータ品質違反を確認することができます。
        - データ品質違反に関するマニュアルは以下になります。
            - Data quality violations：https://dataplatform.cloud.ibm.com/docs/content/wsj/governance/quality_violations.html?context=cpdaas&audience=wdp&locale=en
        - 今回の検証では、以下4種類の違反が検出されました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/877fefa1-3fe6-ae04-d2b1-91673cc6e932.png)
        - 今回利用したDb2のデータ（エクセル表）と結果を照らし合わせてみます。違反が検出されたデータと違反の種類は以下になります。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/a69fcf05-89c2-557e-8c50-49fefa0527a5.png)
        - Unexpected missing valuesに関しては、今回の検証で使用したデータの総件数が20件のため、Enrichmentの「デフォルトの設定」より、NULLしきい値を5％(デフォルト値)から10％に変更したことで、検出されました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/51bf5012-6307-a35c-52c9-0d391b564d94.png)
- 用語の割り当て
    - 「ビジネス用語」列から、表や列に割り当てられたビジネス用語を確認することができます。
        - 今回の検証は、初回のMetadata Enrichmentであり、メタデータは英語、ビジネス用語は日本語のため、データクラスマッチングによる割り当てのみ自動で行われました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/40dc2951-60f7-fb5f-1c0a-fd52dbbd5db8.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/2e87e546-51d4-bd44-114f-4f8e84b529c5.png)
    - 自動でビジネス用語が割り当てられなかった資産に関しては手動でビジネス用語の割り当てを行います。
        - 表への割り当て手順は以下になります。
            - 画面右側の「ガバナンス」タブより「ビジネス用語の割り当て」をクリックします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/3703aee5-f859-59c6-8c48-a874055ed177.png)
            - 割り当てたいビジネス用語を選択し、「割り当て」をクリックします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/a6847c5e-1542-f6c8-8f88-147ad798cb98.png)
            - 「ビジネス用語」列に手動で割り当てたビジネス用語が表示されます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/3e40a80a-5f8c-c640-4d79-6296d1d50d34.png)
        - 列への割り当ても同様の手順で行います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/78325d88-dca2-9539-7485-be18ff5e5c55.png)
## ReviewおよびカタログへのPublish
- Enrichment結果の確認後、結果をReviewし、カタログへのPublishを行います。
    - Review
        - 資産の画面で、「レビュー済みのマークを付ける」を選択します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/558bccfd-4606-7853-7de5-99291a18e7d5.png)
        - 「レビュー状況」にチェックが付きます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/bea87982-44de-6d8e-9533-719681b3885c.png)
        - 列のReviewも同様の手順で行います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/cd4b0b3e-22bf-602d-f901-c31fa3bd5fbd.png)
    - Publish
        - Publishしたい資産を選択して「公開」をクリックします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/a720808c-fcdb-9a92-b2c1-90b4cdb2591b.png)
        - 「ターゲット」で、前提作業で作成したカタログを選択し、「公開」をクリックします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/40b3de73-12f7-3e41-c2f9-85d36b4dc8db.png)
        - カタログに対象資産が追加されていることが確認できます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/aae79ed8-3cd7-9bf7-75f9-4b77a43ae287.png)
        - また、カタログから、表や列にビジネス用語がついていることも確認できます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/ec3d2839-52a5-d26c-51c8-0293cc88f102.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2726759/0b066d80-1398-5885-401c-1d76bb471643.png)
## まとめ
- Metadata Enrichmentを使用することで、データの統計情報の把握や品質の分析、用語の割り当てを行うことができました。
- また、Enrichmentの結果をReviewし、カタログにPublishすることができました。