[IDMC]これからはじめる”CDIR-Cloud Data Ingestion and Replication(旧名 Mass Ingestion)”

## はじめに
Informatica Intelligent Data Management Cloud(IDMC/旧称IICS)でのちょっとしたTipsを纏めていきます。日々の活動の中で検証した結果記録であり、忘れやすい自分のためのメモですが、少しでも皆様のお役に立てればと思い公開していきます。記述方法など試行錯誤しており随時更新するかもしれません。

## ”CDIR - Cloud Data Ingestion and Replication(旧名 Mass Ingestion)"とは
SAPやSalesforceのデータ、またOracleやSQL Server等に蓄積されたデータを活用する為にDatalakeやDWHへコピーしたいという場合に、Informaticaでは特別使いやすい機能をご用意しています。それが”CDIR - Cloud Data Ingestion and Replication(旧名 Mass Ingestion)"です。昨今の大量なデータを素早く利活用するためには夜間バッチなどを待たずにリアルタイムでどんどん分析基盤に回していきたいですよね、と言う用途に答える物で、データソースにより以下の4種の機能を用意しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/371b7d05-2bd9-b86b-6d52-7c324b675cf6.png)

| 機能                                            |略称 |用途    |
|:-----------------|:------------------|:------------------|
|アプリケーション取り込みおよびレプリケーションタスク|CDIR APP|SAPやSalesforce等アプリケーションデータのレプリケーション・取り込み。|
|データベース取り込みおよびレプリケーションタスク|CDIR DB|OracleやSQLServer等のRDBMS系データのレプリケーション・取り込み|
|ファイル取り込みおよびレプリケーションタスク|CDIR File|CSVやJson/Parquet等のファイルデータのレプリケーション・取り込み|
|ストリーミング取り込みおよびレプリケーションタスク|CDIR Streaming|ストリーミングデータの継続取り込みレプリケーション|

:::note info
過去にCDIR(MassIngestion)に関する記事を書いてます。こちらも是非参照ください。
[とっても便利なMass Ingestionの効果的な使い所](https://qiita.com/asekine-infajp/items/b7143c3cf12d92f7c3a5)
[IDMC Cloud Mass Ingestion Database を使ってみた](https://qiita.com/asekine-infajp/items/92027a74fd06de5e1369)
:::

## 事前準備1 ： SecureAgentGroupにて必要なサービスを設定

:::note warn 
CDIRは大量データを一気に処理できるサービスであるためSecureAgentに求められる必要最低要件が高めに設定されています。マニュアルをご確認ください。
[マニュアル Data Ingestion and Replication](https://docs.informatica.com/ja_jp/integration-cloud/data-ingestion-and-replication/current-version.html)
:::

各CDIRを実行するためにはSecureAgentで該当のサービスが起動している必要があります。
- 管理者メニュー->ランタイム環境にて、利用するSecureAgentグループのメニューから「サービス、コネクタの有効化または無効化」をクリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/ca5f988e-50b0-19a2-ea08-9d94d9fab7ea.png)
- 利用するCDIRのサービスにチェックを入れ OKを押します
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/a49af66e-ae2e-768e-7051-a3ed9be51918.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/e61d6bca-d658-09f3-6b48-7998975c8f5e.png)

- 管理者メニュー->ランタイム環境から、該当のSecureAgent名のリンクをクリックし、サービスの詳細・稼働状況にて該当のSecureAgentでサービスが起動完了し「稼働中」となる事を確認してください。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/d71678e5-7c8b-6961-6099-2a91d096b8f6.png)

## 事前準備2 ： ユーザ権限/ロールの確認・付与

該当ユーザに対し、CDIRタスクを作成したり実行するための権限を付与します。
必要な権限はロール設定画面の ”Data Ingestion” サービスにすべて纏められています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/7f220f11-34e4-2dce-02ab-633d72f5dc2e.png)

尚、デフォルトで用意されているロール”デザイナ”にはすべての権限が付与されていますので、こちらを利用するのも良いと思います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/f3f1b696-972d-a875-47cb-60892dce9ba8.png)

例) ユーザにデザイナロールを割り当てる
- 管理者->ユーザーの該当ユーザ名をクリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/b01e7c19-19c3-2b1f-73cf-63476563bfc9.png)
- ”デザイナ”ロールを割り当てる
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2985453/c667e808-d903-b9df-9117-d5027dac4511.png)

これでCDIRを利用するための準備が整いました。

:::note info
追記：
このあとにCDIR(MassIngestion)-APPでデータを取得する記事を記事を書きましたので是非参照ください。
[[IDMC]IDMCのレプリケーション機能”CDIR”でMarketoのデータをリアルタイムで簡単レプリケーション(差分も)](https://qiita.com/asekine-infajp/items/518113b4f997131e0d1f)
:::

## まとめ
IDMCは単なるETLツールでは無く、上記のようなレプリケーション機能やAPIマネジメントなども実装できます。是非ご活用ください。簡単ですが以上です。

###### 検索用
Informatica / IDMC / Intelligent Data Management Cloud / IICS / Data Integration / CDI / CMI / CDIR / Mass Ingestion / CDQ / CDP / Profiling / CDGC / CDMP / CLAIRE / AI / SecureAgent / ランタイム / マスインジェスチョン / マルケト / Marketo / Snowflake / Google Big Query / GCP / Azure