# 美馬 秀樹
MIMA Hideki

京都大学学術情報メディアセンター

中村 覚
NAKAMURA Satoru

東京大学

# 
# 中澤 毎明 NAKAZAWA Toshiaki 東京大学

抄録: 本稿では、ビョンドブック（以下、BB と略）機能を支える要素技術の設計と開発について述べる。BB のプロトタイプ制作 にあたっては、必要な要素技術について検討を行い、実験、評価を目的として可能なものの実装を進めた。具体的には、1）コレ クション機能、2）カテゴライズ機能、3）テーマ抽出機能、4）マイクロコンテンッの最適配置機能、5）コンテンツ間のリンク推定機能、6）インターネット情報の取り达み機能、7）翻訳／著者と読者の共同編集機能、及び8）ユーザーアクションからの自動知識獲得機能、が挙げられる。これらの技術はいずれもデジタルアーカイブ全体の機能向上に役立つことを念頭において設計し、開発を進めたものである。

Abstract: In this paper, the design and development of the elemental technologies that support functionaly of the Beyond Book (BB) are described. Specifically, the following functions were implemented: 1) collection, 2) categorization, 3) theme extraction, 4) optimal placement of micro-contents, 5) link estimation among contents, 6) Internet information linkage, 7) translation / collaborative editing, and 8) automatic knowledge acquisition based on user actions. All of these technologies were designed and implemented with the intention of improvement to the overall functionality of digital archives.

キーワード : マイクロコンテンツ、クラスタリング、テーマ抽出、TEI、機械翻訳、共同編集、知識獲得

Keywords: Microcontent, clustering, theme extraction, TEI, machine translation, collaborative editing, knowledge acquisition

## 1. デジタルコンテンツのテーマ生成とテーマ に応じたクラスターの生成

本節では、BB の機能要件(2)オープン化・ネットワーク化・インタラクティブ性（第 2 部第 1 章参照） の実現において、これを支える要素技術として実装を行った機能群 (第2部の図 1 内、制作フロー図の (4)、(6)、 (7)に相当）について述べる。これらはすべて今回のプロトタイプ制作のために新たに設計、開発したものである。

本要件に対する具体的な機能として以下を考える。 コレクション機能
—読書のモチベーションを向上するキーワードや用語 (例：日本酒)、著者、タイトル、分類等の属性に対し、関連するマイクロコンテンツを選択する。

・シソーラス等の利用により同義語や類義語、表記摇れに対する処理（形態的なゆれ、意味的なゆれ、同義性、類義性を吸収し、同じ対象を検索可能とする処理）が行われていることが望ましい。 カテゴライズ機能

$\cdot$コレクションにより選択されたコンテンツ群に対し、内容テクストを分析することで、さらに意味の関連のあるコンテンツにカテゴライズする機能

## テーマ抽出機能

—カテゴライズと合わせて意味を補完するキーワードや用語（例：日本酒×ペアリング）を抽出する機能

-コレクション機能と同様に、同義語、類義語、表記摇れに対する処理が行われること、またテーマに対する曖昧性の解消（テーマが同じコレクションに対して、追加で異なるテーマを抽出することで、それらの差異を明確にする機能）ができることが望ましい。

マイクロコンテンツの最適配置機能

—関連性の高いコンテンツ、同じカテゴリーのコンテンツが近くに配置されるよう、座標を決定する機能

コンテンツ間のリンク推定機能

-一本道と分岐路の割合が $7: 3$ 程度になることが望ましい。

$\cdot$コレクション内のすべてのページがつながっていること（ほかのカテゴリーに渡ることができる）

上記の機能要件に対し、これらを実現するシステムとその構成を図 1 に示す。

図1 システム構成

以下に、それぞれの機能に関し詳述する。

自動用語抽出エンジン（TermEngine）

入力となるテクストに対し、概念の包含性を基に用語としての妥当性を判断する C/NC-value 手法を行い、専門用語を自動抽出する機能である。C/NC-value 手法 ${ }^{[1]}$ の特徴は分野依存性が低く、様々な分野のテクストから高精度に用語の抽出が可能となることにある。本システムは日英両言語のテクストの解析に辞書の切り替えなしに対応できる。

類似度計算エンジン（SimEngine）

TermEngine により抽出された用語とその頻度の情報を用いて、コンテンツ間の関連性を定量的に計算するためのモジュールである。本エンジンは、高度な拡張性を有し、計算手法を独自に定義、プラグインすることで容易に拡張が行える機構を備えている。過去の研究では、関連度の計算にVSM（Vector Space Model）に
おけるコサイン内積や平均相互情報量を利用した階層化クラスタリング、クラスター間の関連度計算に WARD 法 - 重心法 ・群平均法 - 最短 (長) 距離法等の一般的手法、また、クラスターの認識に BronKerboschによる最大クリーク探索を用いるもの等、様々な手法を実装し、実験評価したが、現状では、計算速度と精度とのバランスを取り、階層化クラスタリング及び関連度の計算にVSM におけるコサイン内積を利用したものを採用した。任意に指定されたクラスター階層の情報により、その階層でのカテゴリを抽出し、カテゴリに属するコンテンツの情報と共に出力を行うことを可能としている。なお，各コンテンツのべクトル化に関しては、word2vec、dos2vec 等の手法により処理を行う方向でさらに研究を進めている。可視化関連エンジン（VizEngine）

SimEngine により得られたコンテンツ間の関連性を基に、コンテンツの全体像を可視化し、俯瞰可能とする機能である。本可視化における座標計算では、グラフ理論を基に、各コンテンツをノード（点）に割り当て、またノード間の関連性の大きさをリンク重みとしたグラフ構造で表現し、このグラフ構造に対するバネモデルを利用することで、それぞれのノードの最適配置の計算を行う。加えて、SimEngineにより抽出された各カテゴリ内のコンテンツに含まれる用語をTermEngine の結果から抽出し、DF (Document Frequency; 各用語を含むコンテンツの数）を基としたスコア付けを行うことで、各カテゴリのテーマを抽出する。また、カテゴリのテーマに同じものが存在する場合は、次スコアの用語をサブテーマとして加えることで、カテゴリのテーマの曖昧性解消を行う。

全文検索エンジン（IREngine）：

キーワードや、属性－值対の入力に対し、関連するコンテンツを高速で検索し、検索結果として出力する。現在のシステムでの標準全文検索エンジン (IR Engine) としては、Solrを採用し、シソーラスを利用した類似検索にも対応する[2][3]。

本システムに対し、いくつかの書籍データを基にマイクロコンテンツを作成し、予備的に実験、評価を行なった。実験の結果として、概ね良好なカテゴリ抽出及びテーマ抽出が行えることが確認できたが、利用目的により、テーマの選定の難しさや配置の難しさがあることも浮き彫りになった。これは、本システムが用語の頻度統計を基にした機構であることより、基本的には、データ数がその精度に大きく影響していると考えられる。また、テクストの言語統計のような、コンテンツとしての基本的な統計情報に加えて、利用者側

のコンテンツ利用目的の情報などをいかに読書支援に反映させるか、つまり「アダプテーション」の枠組みをいかに実現するかも考える必要がある。具体的には、利用者の趣味嗜好等の情報や既有知識、過去のコレクションに指定されたキーワードや利用履歷等のデータをいかに取得し、新たなコレクションやカテゴライズまたテーマ抽出に反映させるか等に対し、さらに研究開発を進める必要がある。これらに関しては、第 4 節で詳述する。加えて、実際に「どのように読書を進めているか」、それに対し「どのようにグラフを生成するのが最適か」など、実際にグラフを眺めながらシミュレーションや評価ができる環境を用意することも今後の分析手法のさらなる向上や、読書支援の新たなアイディアを検討しやすくするためには重要な要素となる。

他方、テーマ抽出や関連性の抽出の精度に関し、深層学習を利用した分析の実験評価も並行して進めているが、深層学習においては、さらに学習のためのデー 夕量が問題になる。また、学習内容の全貌が掴みにくい深層学習による予測のみでは、利用者への直感的な分かりやすさ（例えば、どうしてこのテーマが選ばれたのか等）に問題が生じる。やはり「〜繋がり」のようなわかりやすいテーマ選択やその可視化も重要であろう。また、コンテンツ間の関連のわかりやすさに関しては、実際の AI 系サービスでよく利用される「おすすめ度」や、協調性フィルタリングによる「この商品を買った人が他にチェックしている商品」等、利用者の認識しやすい形態に変換し、可視化を行うことで理解を促す工夫も必要である。さらに、つながりの形成に寄与したキーワードをハイライトするなど、UX (User eXperience) の観点からも解決できる部分が多くあると考えられる。

## 2. インターネット情報の取り込み

BB のデジタルコンテンッの利活用に向けて、外部サイトとの関連付けを行なった。具体的には、人文学向けのテクストの構造化ルールを定める TEI（Text Encoding Initiative）を利用し、テクスト中に登場するキーワードの構造化を行なった。キーワードの選定にあたっては、書籍の巻末にまとめられていた索引情報を利用した。

これらの各キーワードに関する情報や関連サイトへのリンクをRDF（Resource Description Framework）を用いて記述した。具体的には、Wikipedia、Twitter および Google ショッピングに対して、当該キーワードで検索するリンクを付与した。

これらのデータを利用したプロトタイプ（図2）の開発に当たっては、OSSである TEI Publisher ${ }^{[4]}$ と Virtuoso ${ }^{[5]}$ 利用した。TEI Publisher はTEIファイルの管理や公開を行うためのアプリケーション、Virtuoso は DBpedia や Japan Search でも導入実績のある RDF ストアである。

## 3. 翻訳／著者と読者の共同編集機能

$\mathrm{BB}$ のマイクロコンテンツのさらなる活用方法の検討を目的として、日英テクストの並列表示と、Google ドキュメントを用いた共同編集環境の試作を行なった (図3)。

日英テクストの並列表では、機械翻訳を用いて作成した英文テクストについて、TEIを用いて元テクストとの対応づけを行なった。また上述した TEI Publisher を用いて、日英の対応箇所がハイライトされるテクストの閲覧環境を合わせて構築した。

共同編集環境の構築にあたっては、Google Docs API を用いて、XMLファイルで構造化されたコンテンッをドキュメントの形で再構成した。Google ドキュメ

図2 TElとRDFを用いた外部サイトとの関連付け

図3 翻訳/共同編集環境

ントとして作成することにより、複数人によるリアルタイムの共同作業や、コメントの共有などによる編集が可能となった。これらの機能を発展させることにより、本取り組みを通じた新たなコンテンツの拡充等にもつなげていきたい。

## 4. ユーザーアクションからの自動知識獲得

BB 利用者の学習体験をより充実したものにするためには、利用者が読んでいるコンテンツに関連したコンテンツを提案する機能が必須となる。このような機能の実現のためには、コンテンッ中に存在するさまざまな概念や用語の間の関係が記述されたシソーラス （類義関係や上位下位関係が記述された辞書）やタクソノミー (分類体系) などの知識体系を用意しておく必要がある。このような知識があるとコンテンツ推薦だけでなく、検索キーワードの推薦、コンテンツの構造化・体系化などが行える。

しかしこのような言語資源はあらかじめ完全なものを人手で構築しておくことはほぼ不可能である。特に専門用語などは次々と新しいものが出現し、一般用語であっても時代の流れとともにその使われ方が徐々に変化するため、これらすべてを言語資源として整備することが難しいためである。そこで自動的にこれらの知識を獲得することを考える。

自動獲得の情報源として利用可能なものとして、「利用者からの検索キーワード入力」や「提示したコンテンツに対する利用者の反応」などがある。例えば検索キーワードとして複数のキーワードが入力された場合、それらにはなんらかの関係が存在するはずである。具体的にどのような関係なのかは、コンテンツを解析すればある程度判定可能と考えられる。またキー
ワードの入力順序も情報源となる可能性がある。

提示したコンテンツに対する利用者の反応も有用な情報源である。例えば検索キーワードに対して提示したコンテンツを読者が時間をかけて読んたととると、 そのコンテンツと検索キーワードは関係が深い（検索キーワードがコンテンツの内容をよく表している）と考えることができ、コンテンツに検索キーワードを夕グとして付与することなどが可能である。これにより、別の人が検索をしたときに優先的にタグが振られたコンテンツを表示したり、コンテンツのグループ化といったことが可能となる。

このように知識の自動獲得とユーザーアクションの解析のサイクル化によって次第に高精度で網羅的な知識が構築できると考えられるが、今回の試作ではその具体的な手法を適用するまでには至らなかった。

(第 1 章を美馬秀樹、第 2 章・第 3 章を中村覚、第 4 章を中澤敏明が分担執筆した。)

## 註・参考文献

[1] H. Mima, S. Ananiadou, An application and evaluation of the C/ $\mathrm{NC}$-value approach for the automatic term recognition of multiword units in Japanese, Int. J. on Terminology 6/2, 2001, pp.175194.

[2] H. Mima, S. Ananiadou, K. Matsushima, Terminology-based Knowledge Mining for New Knowledge Discovery, ACM Transactions on Asian Language Information Processing (TALIP), 2006, Vol. 5 (1), pp.74-88.

[3] 美馬秀樹. 自然言語処理と可視化を利用した履修選択支援システムの実用化. 情報処理学会論文誌（コンピュータと教育. vol. 6, no. 2, p.38-51 (JUNE 2020)).

[4] TEI Publisher. https://teipublisher.com/ (参照 2021-07-25).

[5] Virtuoso. https://virtuoso.openlinksw.com/ (参照 2021-07-25).