DEIM Forum 2023 1b-5-5

レビューの要約を目的とした単語の意味領域に基づく上位語選択
渡辺一生†

楠和馬††

吉丸 直希††

波多野賢治†† 同志社大学文化情報学部 〒 610–0394 京都府京田辺市多々羅都谷 1–3†† 同志社大学大学院文化情報学研究科 〒 610–0394 京都府京田辺市多々羅都谷 1–3
E-mail: †cgjd0306@mail4.doshisha.ac.jp, ††{kusu,yoshimaru}@mil.doshisha.ac.jp,†khatano@mail.doshisha.ac.jp
あらまし Web 上に存在する文書から情報を取得する機会が増加しており，膨大な数の文書全てに目を通すことは困難であるため，それらを要約する技術が求められている．既存研究ではレビュー文書に出現する重要語に対してクラスタリングを行い，クラスタ全体を表す代表語を人手で選択してラベルとして付与することで要約を実現している．
しかし，レビュー文書によって適切な観点は異なるため人手による解釈は現実的ではない．そこで本研究では，単語の意味的広さを領域で表現可能な Word2Box を用いて単語集合に対して適切な観点を選択する手法を提案する．各単語の領域の重なりに基づき単語集合に対して上位語を選択する．
キーワード 情報抽出，文書要約，観点推定や教師あり学習を用いる方法が採用されている [3]．しかし，評

1 はじめにインターネット技術の発達に伴い，Web 上に存在する膨大な数の文書には有用な情報が多く存在しており，それら文書の中から情報要求に合う文書を探し出す要求が高まっている．例えば，オンラインショッピングサイトや飲食店の口コミサイトなどに投稿されているレビューには，基本的には実際に商品を購入して使用した経験に基づいて記述されるため，購入検討者にとって有用な情報を含んでいる．しかし，膨大な数のレビューが投稿されている場合，全てのレビューに目を通すことは困難であり，レビューを閲覧するユーザが求めている情報を発見するまでに時間や労力が必要である．Yang らは，ユーザが意思決定を行う際，複数のレビューを閲覧することを前提として研究を行っている [1]．つまり，ユーザは意思決定を行う際に一つのレビューではなく複数のレビューを参照するため，閲覧負担が発生する可能性が高い．そのため，膨大な数のレビューから商品の購入を検討しているユーザにとって有用な情報を整理して提示することで，レビューを閲覧する際の負担を軽減することが求められている．レビューから商品の情報を効率的に把握するために有効な手法として，レビューを評価観点に基づいて分類する手法がある [2]．評価観点とは，レビューで述べられている評価対象への評価内容をカテゴリ化したものである．評価
対象がレストランだった場合，「料理」，「サービス」，「立地」などの評価観点が考えられる．例えば，「この店の接客は良かった．
」というレビュー文があった場合，「接客」という単語はレストランの「サービス」という観点に関係するため，このレビュー文は「サービス」の観点に分類される．このようにレビューを評価観点ごとに分類すれば，ユーザは欲しい情報を効率良く取得することが可能となる．
レビューから評価観点を抽出し，レビューを分類する研究が価対象によって適切な評価観点は異なるため，人手による観点の抽出ルールを作成することや教師あり学習のための正解デー
タを準備することは人的コストを要することが問題である．
この問題を解決するために，教師なし学習を用いて評価観点の抽出を行い，抽出した評価観点に基づいてレビュー文の分類を行う手法が提案された [4]．しかし，He らの手法は教師なし学習を用いて評価観点の抽出に要する人的コストを削減できるとしているが，作成された単語集合に対して人手で意味解釈を行っているため完全な自動化には至っていない．また，作成された単語集合の数が増加するにつれて人手による評価観点名の付与が困難になるため，レビューから得られた単語集合に対して適切な評価観点名を機械的に付与可能にする必要がある．
単語集合の意味解釈を行う際の人手による負担を軽減するための手法として，単語間の上位語・下位語の概念構造に基づく上位語を用いる手法が存在する [5]．この手法では各単語集合に対して複数の代表語を抽出して，WordNet 1 などの外部リソースから代表語の上位語を取得して単語集合に対してラベルとして付与する．その結果，付与された上位語によって単語集合の意味解釈が容易になったことが報告されている．しかし，WordNet のような人手によって作成された辞書ベースの外部リソースは，辞書を更新するコストが高く，現在ではその更新が行われていないため，把握できない概念関係が増加していく．
そこで本研究では，Word2Box [6] を用いて単語集合に対して適切なラベルとなる上位語を選択する手法を提案する．

Word2Box とは，教師なし学習によって単語の意味的広さを領域で表現する手法である．そのため，単語の概念関係や多義性，概念的な広がりを視覚的に把握することが可能になる．本研究は，Word2Box の特質を活用することで，人手による単語の意味解釈の処理を不要としつつ，文書の要約に必要な観点を文単数多く行われている．評価観点の抽出方法には，ルールベース
1：WordNet, https://wordnet.princeton.edu/, （2023/2/23 閲覧）散表現 ewi を作成する．図中の E は各単語の分散表現からなる単語埋め込み行列である．次に，図中の ai は，文の評価観点を捉えるために単語 wi が注目すべき正しい単語である確率と解釈することができる重みである．重み ai は，単語ベクトル ewiと各単語ごとの埋め込み平均を用いて計算される．そして，重み ai によって重み付けされた ewi の加重平均によって，文のベクトル Zs を作成する．Zs は評価観点を捉えるうえで重要な単語とそうではない単語をフィルタリングすることができる．
文（sentence）のベクトル Zs を K 次元に圧縮を行い，K 個の評価観点（topic）ベクトルに対する重みベクトルである pt を
図 1 ABAE の構造求める．K は評価観点の数であり，事前に定義をする必要がある．pt は入力されたレビュー文がどの評価観点に属するのかを位で付与することを可能にしている．
本稿は，一つのレビュー文に対して一つの観点ラベルを予測することを目的としている．実際のレビュー文書は複数の観点で構成されている場合も多いため，本研究はレビュー文書の要約自動化を行うための前段階的位置づけである．

表した確率である．最後に，K 次元に圧縮を行った Zs を再構成したベクトルである rs を作成する．rs は pt によって求めた評価観点ベクトル行列 T を線形結合したものである．
このように，ABAE はフィルタリングされた文の埋め込みZs をその再構成ベクトル rs にできるだけ歪みを少なく変換することを目的とした次元削減と再構成のプロセスにより，評価2 関連研究観点を表す上で重要な語の情報を保持することができる．

ABAE は評価観点ごとにベクトルを学習して，学習から得

本節では，本研究と関連する評価観点推定の既存研究と，既られたベクトルに基づき，各評価観点に属する重要語を抽出し，存研究の問題点について説明する．また，既存研究の問題点を単語集合を作成する．この単語集合に対して人手で意味解釈を踏まえて，本研究の提案手法に関連する研究について説明する．

行い，評価観点名のラベルを付与する．ここでの評価観点名はまず，2. 1 で教師なし学習で評価観点の抽出を行った研究の事前にデータセットによって定義されている評価観点名から選説明および問題点について述べる．次に，2. 2 で本研究と目的択する．しかし，人手による意味解釈は作成される単語集合のが一致している単語集合の機械的な意味解釈に取り組んだ研究数が増加するにつれて人手による時間的・金銭的・労働的コスについて説明を行う．さらに，2. 3 で単語の分散表現を領域でトが大きくなるため困難になるが，He らの手法では評価観点表現することを可能にした Word2Box について述べる．これ抽出の完全な自動化には至っていない．

までの単語埋め込み手法では，単語間の概念構造までは把握できなかったが，単語の概念を領域で捉えることを実現できたため，単語間の概念構造を把握できるようになっている．

2. 2 単語集合の意味解釈に関する研究
Tseng らは，単語集合に対して意味解釈を容易にするために，与えられた単語集合に対して機械的に意味を捉えることを

2. 1 評価観点抽出に関する研究可能にする手法として，単語間の概念構造に基づく上位語を付レビューを閲覧する際にかかる負担の問題を解決することを与することを提案している [5]．この手法では，まず単語集合を目的として評価観点抽出の研究が行われていた．評価観点抽出

作成する際に用いたベクトル表現から各単語の重みを計算し，の既存手法ではルールベースや教師あり学習を用いているため，重みに基づいて複数の代表語を抽出する．次に，各代表語に対評価観点の抽出ルールの作成や学習のためのデータ整備にコスして WordNet を用いて単語間の概念構造における上位語を求トがかかる．He らは既存手法で生じる問題を解決するために，め，単語集合全体を表現しているラベルとして付与を行ってい

教師なし手法による評価観点抽出を行い，レビュー文書から抽る．その結果，単語集合の意味解釈が容易になったことを報告出された評価観点に基づいてレビューを分類する手法を提案している．

している [4]．この手法を Attention-based Aspect Extraction（ABAE）という．

ここで，単語間の概念構造における上位語・下位語の関係について説明する．単語間では上位下位の概念関係を持っている

ABAE は Word2Vec モデル [7] による単語の分散表現を用いものがある．例えば，「家具」と「椅子」という単語の間には上て，意味的に類似している単語同士を埋め込み空間内で近くに位下位の概念関係が存在する．
「家具」という単語は「椅子」と配置する．また，学習過程でアテンション機構によりレビューいう単語を概念的に包含しているため，「椅子」にとっての概念文における評価観点と無関係な単語のフィルタリングを行うこ構造における上位語である．上位語は下位語をより抽象的に表とで評価観点を表している重要な語の情報を保持することがで現した単語であり，下位語は上位語よりも具体的に表現した単きる．

語である．

図 1 に ABAE のモデル構造の概要を示す．まず，レビュー

この手法で用いられている WordNet は単語間の概念構造にを構成する各単語 wi に対して，Word2Vec モデルを用いて分基づいた上位下位の関係を記載した辞書データベースである．

この図では最小の座標である A.z と B.z，最大の座標であるA.Z と B.Z から，A と B の領域表現を獲得している．つまり，長方形の左下の角と右上の角の座標から領域を求め，面積などを計算することが可能である．

Word2Box は Box Embeddings を教師なし学習によって取得する手法である．Box Embeddings を取得するための教師なし学習にはテキストデータが多数収録されたデータセットの単語の分布に基づいて学習される．本研究の提案手法では 2. 2項の主張に基づいて上位語を文のラベルとして付与するため，Word2Box が適していると考えた．
ここで，Word2Box の学習方法について説明する．まず，テキストデータセットの一文から，ある単語を中心語として設定する．次に，同じ文中で中心語の周辺に出現する単語を文脈語として設定する．そして，Box Embeddings に変換した際に中心語と文脈語の領域表現における重なり部分が大きくなるように学習を行う．また，適当な単語をサンプリングして中心語と

図 2 Box Embeddings の実装イメージ置き換えを行い，負例を作成する．置き換えを行った負例の単
しかし， WordNet を用いる手法では辞書に含まれていない単語と文脈語は Box Embeddings の領域表現における重なり部語に対して概念関係を取得できないという問題がある．また，分が小さくなるように学習を行う．Word2Box は単語の多義性

WordNet における登録単語数の問題から，一つの単語で複数や概念的な広がりを表現することが可能な Box Embeddingsの意味を持つような多義語に対して考慮することができず誤っを，特殊な教師データを必要とせずに取得することができるたて特定される場合があるという問題も報告されている [8]．このめ，本研究ではこの手法に基づいて提案を行った．

ことから，WordNet のような辞書型のデータベースを用いずに，単語間の概念構造に基づく上位下位の関係を取得する必要がある．

3 提案手法
本研究では，一つのレビュー文で述べられている評価観点を2. 3 単語間の概念構造に基づいた領域表現に関する研究
本研究で単語間の概念構造を把握する際に用いた Word2Box

機械的に抽出することを目的としている．評価観点を機械的に抽出するためには，2. 2 の主張から上位語を取得する必要がある．したがって，提案手法では教師なし学習によって単語間のという手法について紹介する [6]．
単語の分散表現はベクトルで表現されることが一般的とされ概念構造を把握可能な Word2Box を活用した．本研究では文ており，Word2Vec などの単語ベクトルを生成するモデルではに出現する単語の概念構造を把握したうえで，上位語を選択す単語をユークリッド空間上の点として捉えていた．しかし，単る手法を提案する．そして，選択された上位語を文の観点ラベ

語をベクトルで表現すると概念構造における単語間の包含関ルとして付与することで機械的な評価観点の抽出を行う．

係などが表現できないことが問題点とされている．この問題点

3. 1 文の主題を捉えるための方法を解決するために単語を長方形の領域で表現したものが BoxEmbeddings である [9]．
Box Embeddings は領域の広さや領域同士の重なりから意味的な広がりや単語間の包含関係を捉えることができる．概念構
造における上位・下位関係がある単語ペアを Box Embeddingsで表現した場合，上位語の領域表現が下位語の領域表現を含むように表示される．

Box Embeddings は n 次元空間における領域表現を n 個の始点と終点のペア中の最小，最大座標で表現できる．Box Em-beddings によって獲得できる，ある集合 X の要素 x の領域表
現は，以下の式のように直積で定義することができる．

Box(x) :=n∏−+−++[x−i , xi ] = [x1 , x1 ] × · · · × [xn , xn ]ここでは，Word2Box を用いて文で述べられている評価観点を推定する際に，文で中心の話題となっている主題をどのように捉えるかということについて説明する．
まず，Word2Box は学習データにおける単語の出現する分布から BoxEmbeddings を作成している．教師なし学習を行った Word2Box は学習元データセット内に出現した全単語に対して Box Embeddings を取得することが可能である．ここで出力される Box Embeddings は長方形で表現した際の左下の角の座標と右上の角の座標で出力される．例として Word2Box
で “Apple” という単語の Box Embedding を取得した際に得られる出力を式 (2) に示す．

(1)

Box(“Apple′′ ) = [[0.1345, 0.7966], [0.3894, 1.1778]]

(2)

i=1

図 2 は，Box Embeddings から得られる領域表現のイメージである．

式 (2) のように Word2Box によって長方形で表現する際の左下の角と右上の角にあたる点の座標を取得することができ，単語を領域で表現することが可能である．単語ごとに出力され

図4
図3

出現単語の重なり領域

出現単語の重なり領域

る領域の広さはデータセット内の単語の出現回数に基づいており，単語の多義性を表現している．概念構造における上位語は下位語よりも多義性があり，出現回数が多くなるため出力される長方形の領域は広くなる．
また，意味が類似している単語ほど出現する文脈語が似ていることから，Box Embeddings 上で得られる座標が近くなるため領域同士の重なりが生まれる．このことから，文の出現単語間で領域同士の重なり数が多くなっている部分が文で中心的に述べられている主題を表現していると考えた．そのため，提案手法では出現単語間で生成される重なり領域が集中している部
図5分に注目する．

重なり領域を含んでいる語 A,B

提案手法を説明するにあたって評価観点を推定したい文を Sとおき，その中で出現する単語を w = w1 , · · · , wn とする．図有効であるという主張に基づいた上で，文中に出現した単語か3 は出現単語を Word2Box によって領域で表した例で，斜線

ら Word2Box における領域表現を用いて，適切な上位語を選部分が最も重なり数が多い領域である．今回は簡易的に説明を択する手法について説明する．
出現単語間で生成される重なりの数が最大の領域部分が文の行うため n = 3 の場合を想定する．
まず，出現単語間で重なり領域が存在するかを確認する．

主題であることは前述したとおりである．Word2Box では，多Word2Box では，式 (3) のように単語ごとに領域表現における義性が高い単語であるほど，領域表現が広くなるように学習が左下の角と右上の角の座標が与えられる．

行われているため，文の主題を表している領域部分を含んでいる領域表現の単語が，文 S における相応しい上位語であると考

wi = [[lxi , lyi ], [rxi , ryi ]](3)

この座標から二単語間の重なり領域を求める．そして，全ての重なり領域を求めた後，重なり数が最も多い領域を求める．
重なり数が最も多い領域の座標は，出現単語間の重なり領域における各座標 lx，ly ，rx，ry の最頻値から求めることができる．

えた．上位語を決める際，文の主題を表す領域に対して上位語を表す領域の面積が大きすぎると，階層関係が離れているため適切な上位語とは見なせない．そのため，領域面積同士の差を見ることで適切な階層の上位語を推定する必要がある．
これを踏まえて，上位語を取得するための方法を説明する．
上位語を決定するまでの全体の流れは，Algorithm 1 に示す．

重なり数を考慮する際に注意する点は，重なり数の最大値が提案手法の詳細を図 5 を用いて説明する．まず，文 S の出複数存在する場合である．図 4 のように三つの単語が重なって現単語 wi に対して Word2Box を用いて領域表現を取得する．

いる領域が二つ存在する時，文で述べられている主題が二つに次に，3. 1 で述べたように文で述べられている主題を捉えるた分かれているため，どちらの領域を考慮するのかという問題がめに重なり数が最大になる領域を取得する．この領域を l とす生じる．そのため，上位語を推定するためにどの領域に基づくる．図 5 では，w1 , w2 , w3 の三単語が重なっている斜線部分のかを選択する必要がある．本研究では，意味が類似しているが，重なり数が最大となる領域 l である．

単語同士の重なりが大きくなるという Word2Box の特徴に基づいて，最大重なり数の領域が複数ある場合，領域の面積が大きい方を考慮するとした．

次に，Word2Box で取得可能な全ての領域表現から l と重なりがある単語を取得して上位語候補とする．上位語候補の領域面積を mj とする．図 5 では，m1 と m2 の領域表現が l と重なっているため，この二単語が上位語候補となる．本稿では，

3. 2 上位語の推定
ここでは，2. 2 項で説明した単語集合の意味解釈に上位語が上位語候補の中から適切な上位語を一語選択することを目的としている．上位語候補の中から，適切な上位語を選択するため

表1

Algorithm 1 提案手法の流れ
大まかな観点Input : 文 s
Output : 上位語 wsup

Art

1: B = Word2Box で取得可能な領域表現集合を全て取得
2: Bs = 文 s に出現する単語の領域表現集合

Building

3: W = 文から出現単語を抽出

foreach: 文の出現単語 w in W:Event

4: 文の出現単語 w の領域表現 bw を作成
5: 領域表現の集合 Bs に bw を追加

Location

6: l = Box 集合から最多な重なり領域を導出

8:

Organizationbc.score = 式 (4)Personに，上位語候補の面積に対してどれだけ l の領域を含んでいpainting，written art
hospital，hotel，library，restaurant，sports facility，theater
war，disaster，election，protest，sports event
bodies of water，GPE，island，mountain，park，roadnewspaper， political party，religion，
show organization，
sports league，sports team

9: 式 (4) によって求められる bcṡcore が最小の bc ∈ Bc を適切な上位語として決定

細かな観点

broadcast，ﬁlm，music，company，education，government，

7: Bc = Bs 集合の要素を除く l と重なっている B の部分集合を取得

foreach: bc in Bc:

評価実験で使用した観点

Product

medical，actor，artist，athlete，director，politician，scholar，soldier
airplane，car，food，game，ship，software，train，weapon

るのかを求める．l と上位語候補が重なっている部分の面積をlmj として，式 4 で差を求める．
mj − l mj

こで，今回評価実験を行う際に用いたデータセットは A Few-(4)shot Named Entity Recognition Dataset（Few-NERD）である [11]．Few-NERD は主に固有表現抽出タスクで用いること

図 5 の上位語候補である m1 と m2 は l の領域を全て含んでを目的に作成されたデータセットである．文で述べられているいるため，lm1 と lm2 は l の面積と同じである．そして，式 (4)

話題を認識して手動でアノテーションされたデータであるため，の計算を行い，差が最も少ないものを上位語として文 S に付文の主題を捉えるという点で本研究の評価実験で用いることが与する．図 5 の例では，重なり領域と面積の差が少ない m1 が可能と考えた．大まかな観点と細かな観点のラベルが文単位で上位語として選択され，文 S にラベルとして付与される．

付与されたデータであり，Wikipedia から 188,238 文を取得し，4,601,160 語から構成されている．

4 評価実験

今回，評価実験で使用したデータは Few-NERD の中で大ま

本節では，提案手法である文の観点ラベルを付与する手法のかな観点として付与されている 7 種類の観点と細かな観点とし有効性を確認するために行った，文単位で観点の分類精度を測て付与されている 47 種類の観点を用いた．実際に用いた観点る評価実験について説明する．の詳細は表 1 に示す．Few-NERD を用いた理由は，観点の粒

まず，4. 1 で提案手法で用いた Word2Box の学習について度による推定精度の違いを確認するためである．

説明する．4. 2 で評価実験で使用したデータセットについて説

また，評価実験を行う際に，一文に対して複数の観点が付与明を行い，4. 3 で評価実験の方法について述べる．そして，4. 4

されているものは含まず，一文に対して単一のラベルが付与さで結果と考察について述べる．

れているデータのみをテストデータとして使用する．

4. 1 Word2Box の学習

4. 3 評 価 方 法

2. 3 で説明した Box Embeddings を取得するための教師なし

評価実験では，Few-NERD で定義されている観点を候補と学習に用いるデータについて説明する．今回，学習に用いたデーなる語として，それぞれで Box Embeddings を求め，文に出タは WikiText-103 である [10]．WikiText-103 は，Wikipedia

現する単語との重なり領域に基づいて，文の観点を表現していの記事から構成されており，豊富な語彙が収録されたコーパるラベルとして候補から一語選択している．

スである．本データを学習に用いる際に，まず WikiText-103

提案手法の有効性を示すために，ベースラインとして 2. 1 でコーパス中の 1,158,870 文に対して前処理を行った．前処理で紹介した ABAE を用いる．比較手法で用いる ABAE は，観は句読点の削除，全ての単語を小文字に変換，出現回数が 100点のベクトルを作成する必要があるため，Few-NERD データ回未満であるトークンの削除，数字の削除を行った．上記の処セットから 65,000 件のデータを学習用データとして，七つの理を施したデータセットを学習データとして学習を行う．

観点ベクトルを作成した．そして，学習によって作成された七つの観点ベクトルに基づいて作成された重要語の単語集合を見

4. 2 使用データて，意味解釈を行いどのベクトルがどの観点を表しているのか

本研究で行う観点抽出は文単位で行うため，評価実験ではを人手で意味解釈を行った．意味解釈を行った観点ベクトルに一文ごとにその文が何の観点を持っている文なのか識別でき基づいて，文単位でどの観点に属するかを判定し，ラベルを付るラベルが付与されたデータセットを用いる必要がある．そ与する．

表2

んど同程度の精度である．また，細かな観点を推定した際の比較実験の結果

Macro-F1 Micro-F1

Micro-F1 値はベースラインを上回っているが，Macro-F1 値ベースライン

0.150

0.168は下回る結果になった．提案手法とベースラインはほとんど同

提案手法

0.153

0.177程度の精度であるが，どちらも精度としては極めて低い結果に表3なった．

比較実験の結果提案手法で精度が低くなっている要因として考えられること

Macro-F1 Micro-F1
ベースライン

0.027

0.034

は，Few-NERD で付与されているラベルの単語で上位語とし提案手法

0.021

0.039て適切なものではないものが存在しているということが挙げられる．Few-NERD によって付与されている観点ラベルを上

Few-NERD から 4,600 件をテストデータとして評価を行った．

位語候補として扱っているが，観点によって出力される領域表

提案手法と比較手法それぞれで付与された観点が Few-NERD

現の面積が極端に小さい語が存在する．Word2Box では領域によって付与されている正解ラベルと一致しているかを評価す

面積の広さが多義性を表現しているため，面積が小さい観点る．評価指標には適合率，再現率，各ラベルの F1 値から計算さラベルの語は上位語として適切ではない．これらのことから，れる Macro-F1 値，Micro-F1 値を用いて，評価を行う．正解

Few-NERD で付与されている観点ラベルは文で主題として述ラベルを正しく予測できたものが True Positive（TP），正解べられている話題を表しているが，必ずしも出現単語の上位語ラベルではない文を誤って正解ラベルと予測したものが Falseとして機能するラベルではないということである．

Positive（FP），正解ラベルの文を正解ラベルではないと予

これは，Few-NERD が上位語を用いて文の主題を推定する

測してしまったものが False Negative（FN）である．適合率

本研究のタスクと合っていないことから生じた問題である．そ（Precision）は，予測したラベルの中で実際に正解ラベルを予のため，データセットを変更して追加で実験を行い，結果に応測できた割合で，式 (5) のように計算できる．再現率（Recall）

じて新たに提案手法を改良するための考察を行う必要がある．

は実際に正解ラベルが正解となるものの中で，正解を予測できた割合で，式 (6) のように計算できる．F1 値（F1-score）は適合率と再現率の調和平均であるため，式 (7) のように求めることができる．

5 おわりに
本研究では，文書を閲覧する際にかかる負担を軽減するために行われる文書要約において重要である，文書の観点抽出手

Precision =TP
TP + FP法に関する提案を行った．具体的には，教師なし学習によって(5)

Box Embeddings と呼ばれる領域表現を取得することができる
Word2Box という手法を用いて，文に出現する単語間の領域表

TP
Recall =TP + FN(6)

現の重なりから概念構造における上位語を選択し，観点のラベルとして付与を行った．評価実験では，提案手法が人手による

2 × Precision × Recall
F1-score =(7)Precision + Recall
Macro-F1 値は，分類モデル全体を評価するための指標であ

意味解釈処理を行うことなしに既存研究をわずかに上回る分類る．観点集合を T とした時に各観点 t の F1 値を Ft とする．

データセットのラベルが上位語として機能していないことが問Macro-F1 値は各観点の F1 値を平均したものであるため，式題だと考える．したがって，評価実験は比較対象として用いた(8) で求めることができる．観点集合の要素数 |T | は表 1 の通ABAE で使用されていた Citysearch コーパス [12] が妥当であり，大まかな観点の場合 7 であり，細かな観点は 47 である．

ると考えられる．Citysearch コーパスはレストランレビューに

1 ∑Macro-F1 =Ft|T | t∈T(8)

Micro-F1 値は，観点間のデータ偏りを考慮した評価指標である．Micro-F1 値は各観点の結果をまとめて計算するため，適合率の平均と再現率の平均を用いて，式 (7) の計算を行うことで求めることができる．

4. 4 結果と考察精度が得られることを確認した．
今後の課題は，4. 4 で述べた，評価実験で用いた Few-NERD対して文単位で評価観点ラベルが付与されたデータであり，評価観点を推定する今回のタスクに適しているからである．
また，今回の評価実験では提案手法の分類精度を既存手法と比較するため，ラベル候補からラベルを選択する形式とした．しかし，文書要約を行う際は候補からの選択ではなく Word2Boxから取得可能な全単語からラベルを付与することが求められる．
そのため，候補がない状態で選択された上位語が観点として適切なものか評価を行うことも今後の課題とする．

表 2 に 7 種類の観点を分類した際の Macro-F1 値と Micro-F1値を示す．次に，表 3 に 47 種類の観点を分類した際の Macro-F1値と Micro-F1 値を示す．
提案手法で大まかな観点を推定した際の Macro-F1 値とMicro-F1 値は，ベースラインよりもわずかに高いが，ほと謝辞本研究の一部は JSPS 科研費 JP19H04218 の助成を受けたものである．ここに記して謝意を表す．

文

献[1] Min Yang, Qiang Qu, Ying Shen, Qiao Liu, Wei Zhao, andJia Zhu. Aspect and Sentiment Aware Abstractive Review
Summarization. In Proceedings of the 27th International
Conference on Computational Linguistics, pp. 1110–1120,
2018.
[2] Ziyu Guan, Long Chen, Wei Zhao, Yi Zheng, Shulong Tan,and Deng Cai. Weakly-Supervised Deep Learning for Customer Review Sentiment Classiﬁcation. In Proceedings ofthe Twenty-Fifth International Joint Conference on Artiﬁcial Intelligence, pp. 3719–3725, 2016.
[3] Qian Liu, Zhiqiang Gao, Bing Liu, and Yuanlin Zhang. Automated Rule Selection for Aspect Extraction in Opinion
Mining. In Proceedings of the 24th International Conference on Artiﬁcial Intelligence, pp. 1291–1297, 2015.
[4] Ruidan He, Wee Sun Lee, Hwee Tou Ng, and DanielDahlmeier. An Unsupervised Neural Attention Model for
Aspect Extraction. In Proceedings of the 55th Annual
Meeting of the Association for Computational Linguistics,Vol. 1, pp. 388–397, 2017.
[5] Yuen-Hsien Tseng, Chi-Jen Lin, Hsiu-Han Chen, and Yu-I
Lin. Toward Generic Title Generation for Clustered Documents. In Information Retrieval Technology, pp. 145–157,2006.
[6] Shib Dasgupta, Michael Boratko, Siddhartha Mishra,
Shriya Atmakuri, Dhruvesh Patel, Xiang Li, and Andrew
McCallum. Word2Box: Capturing Set-Theoretic Semantics of Words using Box Embeddings. In Proceedings of the60th Annual Meeting of the Association for ComputationalLinguistics, Vol. 1, pp. 2263–2276, 2022.
[7] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg S Corrado,and Jeﬀ Dean. Distributed Representations of Words andPhrases and their Compositionality. In Proceedings of the26th International Conference on Neural Information Processing Systems, Vol. 2, pp. 3111–3119, 2013.
[8] 山田一郎, 呉鍾勳, 鳥澤健太郎, 黒田航, 風間淳一, 村田真樹.
Wikipedia を利用した日本語 WordNet への用語追加の検討. 言語処理学会年次大会発表論文集, Vol. 16, pp. 948–951, 2010.
[9] Tejas Chheda, Purujit Goyal, Trang Tran, Dhruvesh Patel,Michael Boratko, Shib Sankar Dasgupta, and Andrew McCallum. Box Embeddings: An open-source library for representation learning using geometric structures. In Conferenceon Empirical Methods in Natural Language Processing, pp.
203–211, 2021.
[10] Stephen Merity, Caiming Xiong, James Bradbury, andRichard Socher. Pointer Sentinel Mixture Models. In International Conference on Learning Representations, pp.
1–15, 2016.
[11] Ning Ding, Guangwei Xu, Yulin Chen, Xiaobin Wang,Xu Han, Pengjun Xie, Haitao Zheng, and Zhiyuan Liu. FewNERD: A Few-shot Named Entity Recognition Dataset. InProceedings of the 59th Annual Meeting of the Associationfor Computational Linguistics and the 11th International
Joint Conference on Natural Language Processing, Vol. 1,pp. 3198–3213, 2021.
[12] Gayatree Ganu, Noémie Elhadad, and Amélie Marian. Beyond the Stars: Improving Rating Predictions using Review
Text Content. In International Workshop on the Web andDatabases, Vol. 9, pp. 1–6, 2009.