OCI Generative AI Agents のマルチモーダル解析機能を試してみた

## はじめに
OCI Generative AI AgentsのObject Storageを利用したデータソースにマルチモーダル解析機能が2024年12月18日に実装されました。
本機能を利用してチャートやグラフの情報がどの程度解析できるか検証してみました。

## OCI Generative AI Agentsについて
OCI Generative AI Agentsの基本的な機能については下記にまとめていただいています。

https://qiita.com/msasakaw/items/219c58ecdf98b4bfb743

今回はこちらで紹介いただいている、データソースをObject Storageとして利用したAgentの拡張機能の検証となります。

## つかいかた
今回は総務省の令和６年度情報通信白書のグラフが読めるかを試していこうかと思います。

https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/pdf/index.html

ダウンロードしたPDFをナレッジベース用のバケツにアップロードします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/12d38703-560f-9d4c-bb1e-0a3899289cb3.png)

### ナレッジベースが無い場合
OCI Generative AI Agents > Knowledge Bases > Create knowledge base
を選択し、ナレッジベースを作成します。
ナレッジベース名や、必要事項を記入した後、下記手順でデータソースを作成します。

Specify Data Sourceを選択し、名前と説明を入力します。
Enable multi-modal parsing のチェックを有効にすることで、マルチモーダル解析機能が利用できます。
先ほどpdfをアップロードしたバケツとファイルを選択し、Createをクリックして作成します。
（現在はpdfとtxtのみ対応しています）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/498a1170-e9c3-2360-f0c6-79633e0380d9.png)

### 既にナレッジベースがある場合、
Knowledge Bases > <ナレッジベース名> > データソースのリンクをクリック > [Edit] 
で利用できる、データソースの変更から Enable multi-modal parsingを有効にできます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/b9a77457-729f-d2d4-c84f-f429b4367842.png)

### ナレッジベースをAgentに紐づけ
ナレッジベースの作成が完了したら、Agentにナレッジベースを紐づけます。
OCI Generative AI Agents > Agents > [Edit]
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/5190d158-8c7d-3cb6-39c4-1cee81f2182d.png)

### チャットの実行
[Launch Chat]からチャットを実行します。
ChatGPTの１億ユーザー達成の期間について言及されていたので、比較としてInstagramがどれくらいの期間で1億ユーザー達成したかを聞いてみます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/47854f43-293e-b2e2-b9b7-13e898b010cb.png)
30か月。と、やけにぶっきらぼうな答え方ですが、View citationsをクリックすると情報源を表示できます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/2bed9a68-a45f-b0ef-9a29-9ac7ee7a11f0.png)
51pに記載があるようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/1d1d89c6-d698-ef77-5131-a977c49290d4.png)
たしかに30か月のようですね。

続いて世界のICTの市場規模について聞いてみましょう。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/2c9ac17c-5dc4-13b7-5d6d-32ba35bf3a22.png)
117,118ページに記載があるようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/78396f84-224d-006e-56e7-00f49ce98102.png)
単位はあっていますが、数値がずれていて、直近３年が前半に来ていますね。５年という指定が難しかったのでしょうか。
解答に至るための情報源を確認することができるので、念のため確認するのがよいかと思います。

続いてOracle Cloudの市場での立ち位置について聞いてみましょう。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/153ad28a-9fc0-8bdd-7afd-6eaefb955966.png)
citationsの1に記載されているページ番号を確認したところ、Source textの内容も無く、関係のない内容のページでした。
citationsの2以降に記載されている、172,173ページには下記のような記載があり、こちらを情報源にしていると思われます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2893065/e02c7e7c-b090-1f4a-7b8c-974e8acc60c5.png)
まだリリースして間もないからか、不安定な感じは否めませんね。


## まとめ
少し不安定な部分もありますが、PDFのグラフを読み取れるようになっていることがわかりました。
~~今回はテキストを含むグラフからのデータ抽出でしたので、すべて画像のグラフの場合は別途検証が必要だと考えられます。~~ 検証したところ、2025年1月現在、画像のみのpdfファイルからはOCRのように読み取ることはできないようです。
性能と精度についてはまだ発展途上という感じは否めませんが、今後のアップデート次第でかなり使えるものになる予感がしています。