【お知らせ(2019/1月)】Watson Discovery の新機能のベータ公開に伴い、一部UIパネルの操作が変わりました(＋ちょっとだけSDUのご紹介)


皆様が「あれ？」と迷われるといけないので記事にしました。

# TL;DR(要は)

[Watson DiscoveryのRelease Note](https://console.bluemix.net/docs/services/discovery/release-notes.html#release-notes)によると、2019/1/22付けでSDU(Smart Document Understanding)という新機能のベータがリリースされました

- それに伴い、**UIパネルの操作が一部変わります！**
- 具体的には、コレクションの構成に関し「機能」は同じですが「定義の方法」が変わりました
- **新規にコレクションを作るときのお話**です。既存のコレクションは影響ありません。

# 操作上で変わったところ
## 今まで
![image](https://qiita-image-store.s3.amazonaws.com/0/108535/31dbc32a-72a6-42ed-4d1d-937aeba95805.png)

Watson Discoveryでの「[構成](https://qiita.com/ishida330/items/b823d7c5b55806f04242#%E6%A7%8B%E6%88%90configuration)」とは、文書の集まりである「コレクション」に対する**文書変換と索引付けのルール定義**です。具体的にはエンリッチメントの種類などを定義します。今まではコレクション作成時にデフォルトまたは独自の構成を定義し、名前を付けて保存できました。

### 今後は、「構成」の定義箇所が変わります

既存のコレクションには影響ありませんが**新規に**コレクションを作成する場合、**構成**の指定方法が変更に[^1]なっています。

[^1]: 勝手にある日突然に一斉でUI変えるの、やめてほしいんですけど。。変更がドキュメントにもないし事前や事後の告知もないし、、皆様におかれましては驚かせてすいませんです。。。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/6c925f95-fef2-775c-42c5-d0f6b782c76e.png)
具体的には上記のパネルから「構成」を切り替えたり、定義することはできなくなっています。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/4fe7322b-66fe-caa8-e533-19ee5b6ba1f4.png)

かわりに、今後は「**コレクションに最低一件、データを投入すれば**[^2]」(←これ、重要！）右上に「**Data Settings**」のアイコンが表示されますので、ここから構成の設定を行うようになりました。

[^2]: ゼロ件だとDataSettingsのアイコンが表示されませんので、ご注意ください

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/01a7cb7a-f3c7-1f7b-ef24-a15539ba62be.png)
上記のようにベータ機能であるSDU機能の設定があります。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/4abb2cea-b5b5-193e-910d-2a590b29a2dd.png)
エンリッチメントのタブもあり、ここから従来同様にエンリッチメントを追加・削除できます。
- 従来のように**「名前を付けて保存する」ことはできなく**なりました。(まあ、あまり影響ないかと[^3]思いますが）

[^3]: 構成を保存して他のコレクションの定義時に再利用できる、っても、そもそもそんなに何度もやる作業でもないし、元々の定義作業もエンリッチを選ぶ程度なので、手間が省けてうれしいわけでもないかと。

# 新機能(ベータ)のSDU(Smart Document Understanding)って何?

:blue_book: [Smart Document Understanding](https://console.bluemix.net/docs/services/discovery/sdu.html#sdu)に解説がありますが、要は

### 非構造化データ（文書）照会の課題

- 非構造化データの文書にはノイズ[^5]が多い
- 照会の対象としたい範囲が限定的
- 情報がPDFやExcelの表（テーブル）の形に埋め込まれている場合がある

ために照会結果にゴミが混じったり、表の中身が検索できない、などで照会結果の精度に問題あり、というケースがままあります


[^5]: 目次、フッター、コピーライト、索引など

### SDUとは

- ドキュメントからカスタム・フィールドを抽出するための新しい方法
- 文書の構造を手軽にアノテーションしていくことで、抽出の精度を向上させる
- 新しい文書のタイプとしてパワポ(ppt)、Excel、イメージ(PNG, TIFF, JPG)[^4]をサポート
- 表の中身やイメージ内の文字も検出

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/5dad3759-163a-8a1e-f513-b17c85ab5def.png)

上記のように文書を表示しながら「ここ、タイトルだよ～」や「ここは質問だよ～」と対話式に教えてあげると、それを動的に学んで、**よしなにメタデータを抜いてくれたり、(文書中の索引など）照会で重要でないところは無視してくれたり、章別に文書を区切ってくれたりする、**、って話で、「[Watson Knowlegde Studio](https://qiita.com/ishida330/items/b823d7c5b55806f04242#wks%E3%82%92%E7%94%A8%E3%81%84%E3%81%9F%E3%82%AB%E3%82%B9%E3%82%BF%E3%83%A0%E3%82%A8%E3%83%B3%E3%83%AA%E3%83%83%E3%83%81%E3%83%A1%E3%83%B3%E3%83%88)」の簡易版のようなもの？と思ってます。下のアニメーションを見ていただけばおわかりのように、一番の利点は「**ITに詳しくない普通のユーザーさんでも文書構造のトレーニングができ、結果として照会精度を改善できる**」ところかと思います。

:one: アノテートする文書を選びます
:two: 文書のイメージ
:three:左の文書イメージに対応するセクション
:four: ラベル。デフォルト提供はタイトル、サブタイトル、ヘダー、などの文書構造
:five: カスタム・ラベル。「PartsNo」など、好きなラベルを[^4]付けられる

![SDU-3.gif](https://qiita-image-store.s3.amazonaws.com/0/108535/45d49295-6905-1977-8d33-ac8b28aa0d26.gif)

上のような感じで一連のセクションにラベルを割り当てることでアノテーションを行います。まさにWatson Knowledge Studioの機能を落として簡単にしたもの、って感じですね。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/2fc505c2-0bf7-2199-bf32-c084ad3d1685.png)

上記は4ページの日本語FAQの文書の例ですが、2ページ分をQuestion/Answerでアノテーションして「Submit Pages」ボタンを押したら、3ページ目からは不完全で間違いもあるものの、何もしていないのにQuestion/Answerのフィールドを認識し始めました。フィードバックを動的に学んでいるようです。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/acd168bd-f756-c020-d7a0-ac2714987e1a.png)

認識の間違いを直して４ページ分を完成させ、「Apply changes to collection」ボタンを押すと改めてドキュメントのアップロードを指示されます。

![image](https://qiita-image-store.s3.amazonaws.com/0/108535/59e90b6b-f43e-eb96-36ff-1f80287f84f4.png)

ここで便宜的に同じ内容で別ファイル名の文書をアップしてみたら、今度はQuestionやAnswerのメタデータが識別されていました。ということは、文書中の検索範囲をQuestionやAnswerに限定した条件検索ができることになります。（目次やヘダー・フッター部分のキーワードはヒットしないので、検索の精度が上がるはず。アドバンス・プランでカスタム・フィールドを使えば、検索対象をそのフィールドだけに限定できるようになる、ってことですね）

[^4]: Advanced_plan限定の機能です。残念ながらLite_Planではお試しいただけません

以上です。