\section{はじめに}
\label{sec:intro}近年，膨大な電子化された情報の中から必要な情報を検索する技術の必要性が高まっている．インターネットの爆発的な普及に伴って，ユーザが求める情報を持つwwwサーバを検索するシステムが，実際，数多く出現してきている．しかし，これらの検索システムのほとんどは，ユーザが入力した検索キーワードそのものを含むテキスト(に対応したwwwサーバ)を検索するシステムである．検索キーワードに意味的に類似している単語まで考慮した\footnote{単に，キーワードを同義語・類義語のリストを使って展開する従来手法では，不十分であり，類似の度合に従って文書を整列させて上位のものだけユーザに提示出来なくてはならない．キーワード「画家」に対して，同義語「画伯」や類義語「イラストレーター」,「デザイナー」や上位概念である「絵描き」,「芸術家」などまでも含むものを検索し，類似度順に出力することが望まれる．}検索(以下，類似検索と呼ぶ)は出来ない．一方，シソーラスに基づく意味的類似性を使った，翻訳，解析，文書検索などの研究が行なわれてきている．ただ，これらの先行研究には(1)シソーラスの階層構造が平衡していると仮定しているという問題と(2)単語の多義性の解消を行なっていないという問題があった．本論文では，階層構造が平衡していないシソーラスにも適用できる，より一般的な単語間の意味的類似度を提案する．本提案では各単語が担う概念間の最下位共通上位概念が有する下位概念の総数が少ないほど，単語間の類似度が大きくなる．筆者らは，この意味的類似度と大規模シソーラスの一つであるEDRシソーラスを使って，類似検索システムを実装した．さらに，精度を向上させるために，単語の多義解消手法をこの検索システムに導入した．本類似検索システムは，単語間の物理的近さと単語の重要度を用いた拡張論理型の従来システムに基づいている．この従来システムとの比較実験を行ない，意味的類似性と多義解消を用いた提案の類似検索手法\footnote{本手法では，類義語を検索可能にすることによって再現率を上げ，その範囲内で，多義によるノイズを排除し適合率を上げることを目指している．さらに再現率を重視する場合には関連語まで含めて検索することが必要と考えられる．}によって再現率・適合率が向上したことを確認した．以下，\ref{sec:method}節で，提案した意味的類似度，採用した多義解消手法，それらを用いた類似検索，ベースとなる拡張論理型検索について示し，\ref{sec:experiment}節で前節で述べた類似検索手法による適合率・再現率の改善及び多義解消手法の比較について示し，\ref{sec:conclusion}節でまとめる．
\section{類似検索}
\label{sec:method}提案する文書検索手法は，各文書に対して質問との関連度を求め，関連度の大きい順に文書を整列させる．先ず，意味的類似度計算法と多義解消法について述べ，さらに，これらを組み込むベースとなる従来システムの関連度及び検索手順について説明する．\subsection{意味的類似度}\label{sec:sim-word-main}単語間の意味的類似度は，単語に付与されている概念間の関係に基づいて計算する．まず，オンラインのシソーラスを概観し，次に，概念間・単語間の類似度について説明する．\subsubsection{シソーラス}\label{sec:thesaurus}オンラインのシソーラスには，分類語彙表\cite{Kokugoken64}，角川類語新辞典\cite{Ohno81}，Rogetシソーラス\cite{Chapman77}，WordNet\cite{Miller90}，EDR電子化辞書\cite{EDR93}の概念辞書(以下，EDRシソーラスと称する)などがあり，いずれも概念を上位・下位の関係で階層的に構成している．これらのシソーラスの特徴\footnote{角川類語新辞典は1981年版，分類語彙表は1964年版，EDR概念辞書は評価版2.1版，WordNetはVersion1.5，RogetシソーラスはVersion1.02に関するデータである．}を表\ref{tbl:thesaurus}に示す．WordNetとEDRシソーラスは比較的規模が大きい．また，EDRシソーラスは，概念の階層関係が，日本語・英語共通となっており両言語で利用できる．\begin{table}[htb]\caption{各種シソーラスの特徴}\label{tbl:thesaurus}\small\begin{center}\renewcommand{\arraystretch}{}\begin{tabular}{|c||c|c|r|r|c|l|}\hlineシソーラス&階層構造&階層数&概念数&単語数&言語\\\hline\hline分類語彙表&平衡&5&約1,000&約33,000&日本語\\\hline角川類語新辞典&平衡&3&約1,000&約50,000&日本語\\\hlineRogetシソーラス&平衡&3&約1,000&約40,000&英語\\\hline\hlineWordNet&非平衡&10&約91,000&約120,000&英語\\\hlineEDRシソーラス&非平衡&18&約450,000\footnotemark\hspace*{-0.45em}&約200,000&日本語・英語\\\hline\end{tabular}\end{center}\end{table}\footnotetext{「中間ノード」(下位概念をもつノード)の数は約6,000\cite{Ogino95}であるが，ここでの概念数は末端概念を含み，かつ，多重継承を別に数えた数字である．}また，シソーラスはその階層構造によって2種類に分けることができる．\begin{itemize}\item分類語彙表,角川類語新辞典,Rogetシソーラスのように，ルート概念から末端概念までの階層の深さがほぼ一定である．\itemWordNet，EDRシソーラスのように，階層の深さが一定でない．\end{itemize}本論文ではそれぞれ「平衡シソーラス」，「非平衡シソーラス」と呼ぶことにする．\subsubsection{概念間の類似度}\label{sec:sim-con}先行研究\cite{Sato90,Sumita92,Kurohashi92,Mima96}では「平衡シソーラス」を扱っている．例えば，隅田ら\cite{Sumita92}は，平衡シソーラス上での概念間の類似度を用例に基づく翻訳に応用している．そこでは，階層の深さが一定であることを利用して，最下位の共通上位概念の位置に基づいて類似度を決定している．本論文では，EDRシソーラスのような「非平衡シソーラス」にも適用可能な概念間の{\dg類似度}を定義する．\begin{itemize}\item各概念に対して，その概念の{\dg具体度}を割り当てる(詳細は後述)．具体度は，0から$NL-1$までの$NL$個の値の中で，下位になるほど大きな値をとる．図\ref{fig:similarity}に$NL$が9の場合を示す．\item概念$A,B$の間の類似度$Sim$は，$A$と$B$の相対的な位置関係(3種類)に応じて，具体度を使って次のように定義する．$A,B$の最下位共通上位概念を$C$とし，その$C$の具体度を\\$LC$とする．\begin{itemize}\item$A$と$B$が同じ場合($C=A=B$)，$Sim=1.0$．\item$C$が$A$でも$B$でもない場合，$Sim=LC/NL$．\item$A$が$B$の上位概念の場合($C=A$)またはその逆の場合($C=B$)，\\$Sim=$$(LC+1)/NL$．\end{itemize}\end{itemize}\begin{figure}[bht]\vspace*{0mm}\centerline{\vspace*{-2.5mm}\epsfile{file=similarity+.eps,scale=1.0}}\vspace*{3mm}\caption[]{非平衡シソーラスにおける概念間の意味的類似度の例\\($Sim$:概念$A,B$の間の類似度,$C$:$A$と$B$の最下位の共通上位概念)}\label{fig:similarity}\end{figure}従って，類似度$Sim$は，0,1/$NL$,2/$NL$,$\cdots$,$(NL-1)/NL$,1の離散値をとり，0は最も似ていないことを意味し，1は最も似ていることを意味する．\paragraph{具体度の割り当て}「下位概念(末端までの概念すべて)の総数が少ない概念ほど，概念の具体度が高い」という考えで具体度を割り当てる．深さが$NL-1$(ルート概念の深さを0とする)で，各概念から下位概念への分岐数が一定で，概念数が原非平衡シソーラスに近い仮想の平衡シソーラスを想定する．各概念の具体度の割り当て手順を次に示す．\begin{enumerate}\item原非平衡シソーラスの概念数$TC$を求める\hspace{-0.2mm}(但し，\hspace{-0.5mm}$TC$は2以上とする)．\hspace{-0.5mm}直上位の概念を複数持つ概念は，その数だけ別個の概念が存在していると考えて，概念数を求める．\item$NL(\ge2)$を任意に決める．\item各概念から下位概念への分岐数$NB$を，次式を満たす最小の自然数とする．\begin{eqnarray*}TC\leq\displaystyle\sum_{k=0}^{NL-1}NB^k\end{eqnarray*}\item階層の深さが$NL-1$(ルート概念の深さを0とする)で，各概念から下位概念への分岐数$NB$である平衡シソーラスを想定する．\hspace{-0.5mm}平衡シソーラスにおいて，深さが$d$の概念の下位概念の総数$TLD(d)$は次式となる．\begin{eqnarray*}TLD(d)=\left\{\begin{array}{ll}\displaystyle\sum_{k=1}^{NL-1-d}NB^k&(d<NL-1)\\0&(d=NL-1)\end{array}\right.\end{eqnarray*}\item原非平衡シソーラスの各概念に対して，\begin{enumerate}\itemその概念の下位概念総数$TLC$を求める．\item$TLC\leqTLD(d)$である最小の$d$をその概念に{\dg具体度}として割り当てる．\end{enumerate}\end{enumerate}概念数$TC$が45万であるEDRの非平衡シソーラスに対して，\hspace{-0.3mm}実験では，\hspace{-0.3mm}具体度の数$NL$を9に，$NB$は5とした\footnote{シソーラスが与えられたときの，NLとNBの選択には幅がある．以下の2点を考慮し，EDRシソーラス(概念数45万)に対して$NL$=9,$NB$=5とした．角川類語辞典は$NL$=4,$NB$=10で，分類語彙表は$NL$=6,$NB$=4である．また，$NB$を大きくすると，元のシソーラスの概念数とのズレが大きくなりがちである．}．図\ref{fig:thesaurus_level}に，この時の仮想平衡シソーラスにおける深さ$d$と下位概念総数$TLC$の関係を示す．\subsubsection{単語間の類似度}\label{sec:sim-word-sub}単語$w1$,$w2$間の類似度$Sim(w1,w2)$は次のように求める．\begin{itemize}\item単語(見出しと品詞)一致の場合，類似度は$(NL+1)/NL$とする．\item単語一致以外の場合，類似度は，2単語の概念のすべての組合せに対する2概念間の類似度の最大値とする．\end{itemize}\begin{figure}[ht]\vspace*{12mm}\centerline{\epsfile{file=thesaurus_level+.eps,scale=1.0}}\vspace*{5mm}\caption{仮想平衡シソーラスにおける深さと下位概念総数}\label{fig:thesaurus_level}\vspace*{10mm}\end{figure}\subsection{多義解消手法}多くの単語は多義である．すなわち，複数の概念を持っている．\ref{sec:sim-word-sub}節で述べたように，単語間の類似度は，概念のすべての組合せにおける類似度の最大値としている．この場合，実際にその文書で用いられている概念と異なった概念に基づく類似度が高くなることにより，誤って関連文書として検索されてしまうことがある．実際に文書中で使われている概念を同定することができれば，検索の精度は向上できる．そこで，単語の多義を解消する手法を導入することにした．多義解消の手法は多数提案されているが，本論文では，(1)情報検索に適用され逆効果であったと報告されているVoorheesの手法と(2)典型的な少数の多義語に関して高精度な結果が報告されてはいるが，情報検索といった実際的な応用における効果が検証されていないYarowskyの手法を取り上げる．両手法は他の多くの手法とは違って正解データを仮定しないという点で，大規模な制限のないテキストを扱う情報検索に向いた手法である．\subsubsection{Voorheesの手法}\label{sec:voorhees-apply}\vspace*{-1mm}Voorheesは，次に述べる多義解消法を提案し，文書検索の実験を行なっている\cite{Voorhees93}．文書$D$中の単語$dt$の各概念に対して，{\boldmath$hood$}(その概念を含み，単語$dt$の他の概念を含まない最も上位の概念)を求めた後，式(\ref{eqn:score-voorhees})で定義される{\dg差異}を求め，差異が正(の最大)\footnote{\topsep=0mm\topskip=0mm\partopsep=0mm\parskip=0mm\parsep=0mmVoorheesはシソーラスとしてWordNetを使い，多義解消された単語の概念をベクトル要素としたベクトル空間モデルに基づいた手法により文書検索を行なっている．一方，筆者らはEDRシソーラスを使い，意味的類似度を使った拡張論理型検索手法により文書検索を行なっている．また，前者は名詞だけを対象とし，後者はストップリストに属さない単語全体を対象としている．この二つのシステムは相違点が多く，それぞれの検索結果を直接比較することはできない．しかし，本研究において，以下のことを確認した．\begin{itemize}\topsep=0mm\partopsep=0mm\parskip=0mm\parsep=0mm\itemsep=0mm\itemVoorheesの多義解消手法は，誤った選択をすることが多く，概念を高精度に「1つ」に絞り込めるほど性能が良いとはいえない．ただ，差異による{\dg絞り込み条件を「正の最大」から「正」に変更}すれば，副作用少なく「尤もらしくない」概念の数を減らすことは出来る．今回の実験で正解を含む率では，前者は後者の1/2から1/3と著しく悪かった．\itemまた，本類似検索法のように多義性を許容する場合には，この程度の性能でも情報検索の検索精度を向上できる．\end{itemize}}である概念を単語$dt$の概念として選択する\footnote{さらに，本実験では以下の変更を行なった．\begin{itemize}\topsep=0mm\partopsep=0mm\parskip=0mm\parsep=0mm\itemsep=0mm\itemEDRのシソーラスがWordNetに比べて，分類の粒度が細かい(深さが約2倍，概念数が約5倍)であることを考慮して，概念の中で似ている概念をまとめるために，各概念をある具体度(本実験では6以下とした)の上位概念に置き換える．\item抽象的すぎる概念まで含むことを避けるため$hood$もある具体度(本実験では3以上とした)によって制限する．\end{itemize}}．\begin{eqnarray}差異&=&\displaystyle\frac{hood下の概念を持つ単語の文書D内出現数}{文書Dの延べ語数}\nonumber\\[1ex]&-&\frac{hood下の概念を持つ単語の全文書内出現数}{全文書の延べ語数}\label{eqn:score-voorhees}\end{eqnarray}\subsubsection{Yarowskyの手法}\label{sec:yarowsky-apply}\vspace*{-1mm}Yarowskyは，Rogetシソーラスと大量のコーパスを用いて多義解消の実験を行なっている\cite{Yarowsky92}．文書中の単語$dt$の多義解消手法の概要は次のとおりである．コーパス中の各単語に対して，前後$W$語ずつ合計$2W$語(文脈と呼ぶ)を抽出し，単語$dt$が属するシソーラス中の概念$C$毎に，単語$dt$の文脈中の単語のうち式(\ref{eqn:score-yarowsky1})があるしきい値$Y$以上の単語$ct$に対して，式(\ref{eqn:score-yarowsky2})の$Score$を求め，$Score$が正(の最大)\footnote{Voorheesの手法の変更と同様に$Score$による{\dg絞り込み条件を「正の最大」から「正」に変更}した．}となる概念を単語$dt$の概念としている\footnote{さらに，本実験では以下の変更を行なった．\begin{itemize}\topsep=0mm\partopsep=0mm\parskip=0mm\parsep=0mm\itemsep=0mm\itemYarowskyは，しきい値$Y$を1.0と設定しているが，これだと特定文脈中での出現確率が全文脈中の出現確率に近い単語も$Score$に寄与することになる．筆者らは特定文脈中での出現の度合が顕著な単語だけを選択した方が多義解消の精度が良くなると考え，しきい値$Y$を2.0と大きく設定した．\item概念をVoorheesの手法における$hood$に置き換えた．EDRシソーラスの概念は，特に最下位概念はそのほとんどが非常に具体的な概念であるため，各概念に属する単語の文脈は非常にスパースとなるからである．\item本実験では文脈幅$W$を4とした．以下に精度と速度の両面から理由を述べる．\begin{itemize}\item精度\begin{itemize}\itemYarowsky等\cite{Yarowsky92,Gale93}は特に名詞に関して広い文脈($W$=50)の有用性を主張しているが，同時に狭い文脈($W$=6)の有用性も認めている．可能なら広い文脈を使った方が良いという主張である．但し，彼らの実験では，狭い文脈に対する広い文脈のgainは，86\%から90\%への4\%に過ぎなかった．また，本実験では，動詞や形容詞など，名詞以外の語も対象としている．\item予備実験では，$W$=4と$W$=5とで結果に大きな差は生じなかった．\item本検索実験では，Yarowsky等\cite{Yarowsky92,Gale93}と違って，文脈幅はストップワードを省いて数えることになるので，文脈幅の値が同じなら，実質的には本論文の文脈の方が広い．\end{itemize}\item速度\begin{itemize}\itemYarowskyの手続きは文脈幅に依存して大変な処理時間がかかるので，$W$=4で本実験を行なった．今回の実験で多義解消に要した時間はDECAlphaStation6005/333上で約330時間(2週間)である．\itemYarowskyの実験が広い文脈幅で実施出来たのは，特定の単語だけを扱っているからである．一方本実験は文書数約3,000の中に含まれる全て多義語を対象としている．\end{itemize}\end{itemize}\end{itemize}}．\begin{eqnarray}Score&=&\sum_{ct}\log\frac{Pr(ct|C)}{Pr(ct)}\label{eqn:score-yarowsky2}\\[1ex]&&Cに属する単語の文脈中の\nonumber\\[0zh]\frac{Pr(ct|C)}{Pr(ct)}&=&\frac{単語ctの出現確率}{単語ctの全文脈中の出現確率}\label{eqn:score-yarowsky1}\end{eqnarray}\subsubsection{多義解消の例}Voorheesの多義解消の例として，後述のベンチマークテスト中の文書番号1719の文書(図\ref{fig:disamb-voo-exm-doc})中の単語``evaluating''の結果を表\ref{tbl:disamb-voo-exm-res}に，Yarowskyの多義解消の例として，同テスト中の文書番号1411の文書(図\ref{fig:disamb-yar-exm-doc})中の単語``formulas''の結果を表\ref{tbl:disamb-yar-exm-res}に示す．表中，「概念」の欄に示している文字列は，EDRシソーラスに記述されている概念説明である\footnote{EDRシソーラスの各概念には，少なくても英語概念説明または日本語概念説明のいずれかが付与されている．しかし，必ずしも，両者が付与されているとは限らないので，表には基本的に英語概念説明を記し，英語概念説明が付与されていないものについては日本語概念説明を記している．}．「文書(または文脈)内貢献語」は，Voorheesの手法では$hood$下の概念をもつ文書内の単語を，Yarowskyの手法では文脈中の単語のうち\ref{sec:yarowsky-apply}節の式(\ref{eqn:score-yarowsky1})のしきい値$Y$が2.0以上の単語を示す．\begin{figure}[ht]\begin{center}\fbox{\begin{minipage}{120mm}\renewcommand{\baselinestretch}{}\tt\vspace*{1.2ex}\hspace*{0.5em}...........................................................\\Real-timedataprocessingsystemsastypifiedbytheautomated\\airlinereservationsystemarediscussedinthispaper.\\Criteriafor\underline{evaluating}performancearedescribed;amethodology\\forcalculatingandoptimizingisoutlined;andthemethodis\\[-0.5ex]\hspace*{0.5em}...........................................................\\[-2ex]\end{minipage}}\vspace*{-1ex}\end{center}\caption{単語``evaluating''が出現する文書(文書番号1719)}\label{fig:disamb-voo-exm-doc}\end{figure}\begin{table}[ht]\caption{Voorheesの手法による単語``evaluating''の多義解消}\label{tbl:disamb-voo-exm-res}\small\begin{center}\vspace*{-1ex}\renewcommand{\arraystretch}{}\begin{tabular}{|l|r|p{70mm}|}\hline\multicolumn{1}{|c|}{概念}&\multicolumn{1}{|c|}{スコア}&\multicolumn{1}{|c|}{文書内貢献語}\\\hline\hline``評価する''&{\dg0.123}&calculation,calculating,cost,outlined,types,optimizing,optimization\\\hline``{\dgtheactofcalculating}''&{\dg0.079}&calculation,calculating\\\hline``いろいろな思考的活動''&-0.063&typified,illustrated,reservation\\\hline\end{tabular}\end{center}\end{table}\begin{figure}[ht]\begin{center}\fbox{\begin{minipage}{120mm}\renewcommand{\baselinestretch}{}\tt\vspace*{1.2ex}\hspace*{0.5em}...........................................................\\Foreachstatistic,thealgorithmincludedtheusualcomputing\\formulas,correctionduetoanaccumulatederrorterm,anda\\recursivecomputationofthecurrentvalueofthestatistic.\\Theusualcomputing\underline{formulas}werealsoevaluatedindouble\\precision.Largeerrorswerenotedforsomecalculationusing\\[-0.5ex]\hspace*{0.5em}...........................................................\\[-2ex]\end{minipage}}\vspace*{-1ex}\end{center}\caption{単語``formulas''が出現する文書(文書番号1411)}\label{fig:disamb-yar-exm-doc}\end{figure}\begin{table}[ht]\caption{Yarowskyの手法による単語``formulas''の多義解消}\label{tbl:disamb-yar-exm-res}\small\begin{center}\vspace*{-1ex}\renewcommand{\arraystretch}{}\begin{tabular}{|l|r|l|}\hline\multicolumn{1}{|c|}{概念}&\multicolumn{1}{|c|}{スコア}&\multicolumn{1}{|c|}{文脈内貢献語}\\\hline\hline``数や記号の組合せからなる式''&3.033&value,evaluate\\\hline``規則''&0.000&\\\hline``nourishmentforaperson'sbody''&0.000&\\\hline``書物''&0.000&\\\hline``agroupofwordsthatexpressacompletethought''&0.000&\\\hline``伝達内容''&0.000&\\\hline``情報媒体''&0.000&\\\hline``抽象的生産物''&0.000&\\\hline\end{tabular}\end{center}\end{table}\subsection{拡張論理型検索}\label{sec:process}本論文では，前節までに説明した意味的類似度計算法と多義解消法の有効性を検証するため，その手法を従来の拡張論理型検索システムに組み込む．拡張論理型検索システムは論理型の質問を受理し，この質問と文書間の関連度によって文書を整列させて出力する．関連度は以下に述べる「物理的な近さ」と「単語の重要度」と前節までの「意味的類似度」とから計算される．\subsubsection{単語間の物理的近さ}\label{sec:nearness}質問中に複合語が指定された場合は，その複合語中の各単語(または最も類似している単語)の文書中の物理的近さを，質問・文書間の関連度に反映させる\cite{Oi95}．物理的近さは，例えば，複合語が``parallelalgorithm''の場合，``parallel''と``algorithm''それぞれに類似した単語が文書中に出現しているとき，その類似した単語間の物理的距離が近いほど大きい値になるよう定義する．この尺度は，質問中の複合語と文書間の関連度の乗数(\ref{sec:similarity}節参照)として用いる．物理的近さ$PN$の定義式を次に示す．\begin{eqnarray}PN&=&c_1\times\frac{\displaystyle1}{\displaystyle\frac{\displaystylec_1-1}{\displaystylec_2}\times(Dis+1-N)+1}\label{eqn:nearness}\end{eqnarray}ここで\footnote{$PN$は複合語の構成単語に類似した語が現れた時に，その間の物理的距離に反比例させて重み付けするための乗数である．隣接している時に最大値2をとり，物理的距離が10で1とした．物理的距離が10より小さいものは複合語として扱い，大きいものは複合語と見倣さないということになる．$c_1$=2,$c_2$=10とした背景は以上の通りであるが，このパラメータの最適化は今後の検討課題の一つである．}，\begin{center}\begin{tabular}[t]{rp{115mm}}$c_1,c_2$:&定数(実験時の設定値は$c_1=2$,$c_2=10$)\\$Dis$:&(類似)単語間の物理的距離(単語間に存在する単語数+1)の最小値．\\$N$:&複合語の単語数．\end{tabular}\end{center}\subsubsection{単語の文書毎の重要度}\label{sec:term-weight}単語の重要度に関しては様々な尺度が提案されている．本実験では，単語の文書内の出現頻度と全文書中の出現文書数に基づいた重要度\cite{Turtle91}を使う．文書$D$内の単語$dt$の重要度$w$は，次のように定義される．\begin{eqnarray}w&=&\displaystyle\frac{tf}{max\_tf}\times\frac{\log{\frac{\displaystyleND}{\displaystylef}}}{\log{ND}}\label{eqn:weight}\end{eqnarray}ここで，\begin{center}\begin{tabular}[t]{rl}$tf$:&文書$D$内の単語$dt$の出現頻度．\\$max\_tf$:&文書$D$内の単語の出現頻度の最大．\\$f$:&単語$dt$が出現している文書の数．\\$ND$:&全文書数．\end{tabular}\end{center}\subsubsection{質問・文書間の関連度}\paragraph{質問}\label{sec:query}本手法では，次に示すような論理型質問$Q$を受理する．\begin{eqnarray}Q&=&q_1\|\q_2\|\\cdots\|\q_K\label{eqn:query}\\[0.5ex]q&=&\underbrace{qt_{11},\cdots,qt_{1N_1}}_{}\&\cdots\&\underbrace{qt_{M1},\cdots,qt_{MN_M}}_{}\label{eqn:query-and}\\[-1.5ex]&&\hspace*{1.3zw}質問語~qc_1\hspace*{6zw}質問語~qc_M\nonumber\end{eqnarray}ここで，`$|$'と`\&'はそれぞれ`{\smallOR}'と`{\smallAND}'のオペレーションを表す．この形式は，$K$個の$q$が\\`{\smallOR}'オペレーションで結合され，\hspace{-0.4mm}各$q$は$M$個の質問語$qc$(単語または複合語)\hspace{-0.03mm}が`{\smallAND}'オペレー\\ションで結合され，各質問語$qc_i$は$N_{i}$個の単語$qt$から成っている．\vspace*{-1mm}\paragraph{関連度}\label{sec:similarity}\vspace*{-1mm}質問$Q$と文書$D$との間の関連度$Rel(Q,D)$は次式のように定義する．\begin{eqnarray}Rel(Q,D)&=&max\{Rel(q_1,D),Rel(q_2,D),\cdots,Rel(q_K,D)\}\label{eqn:sim-qda}\\[1ex]Rel(q,D)&=&\frac{\displaystyle\sum_{i=1}^{M}\sum_{j=1}^{N_i}{\left\{Rel(qt_{ij},D)\timesPN(qc_i,D)\right\}}^2}{\displaystyle\sum_{i=1}^{M}\sum_{j=1}^{N_i}\left\{Rel(qt_{ij},D)\timesPN(qc_i,D)\right\}}\nonumber\\[1ex]Rel(qt,D)&=&max(w_1,w_2,\cdots,w_L)\timesmax\left\{Sim(qt,dt)\right\}\nonumber\end{eqnarray}ここで，\begin{center}\begin{tabular}[t]{rp{110mm}}$L$:&$qt$に最も類似している単語($Sim(qt,dt)$が最大の単語)の数．\\$w$:&$qt$に最も類似している単語の重要度．\\$PN(qc,D)$:&文書$D$内での，\hspace{-0.3mm}$qc$中の各$qt$に最も類似している単語間の物理的近さ\hspace{-0.2mm}(\ref{sec:nearness}節の式(\ref{eqn:nearness}))．\\$Sim(qt,dt)$:&質問$Q$中の1つの単語$qt$と文書中の1つの単語$dt$との間の類似度(\ref{sec:sim-word-sub}節)．\end{tabular}\end{center}$Rel(Q,D)$の計算は，$q_1,q_2,\cdots,q_K$のうち，少なくとも1つの$q$に含まれる単語それぞれに対して{\dg類似している単語}が出現している文書に対してのみ行なう．「類似している単語」とは，あらかじめ指定されたしきい値$T$に対して{\boldmath$Sim(qt,dt)\ge$}{\boldmath$T$}である単語$dt$を意味する．$Rel(q,D)$は，\hspace{-0.3mm}単に$q$中の単語$qt_{ij}$すべてに対する$Rel(qt_{ij},D)\timesPN(qc_i,D)$の値の平均とするよりも，$Rel(qt_{ij},D)\timesPN(qc_i,D)$が大きい値ほどその値の重要度が大きくなるようになっている．\subsubsection{検索手順}\label{sec:step}実際の検索処理に先だって，(a)質問中の単語への概念の付与\footnote{本実験では予め筆者が手作業で付与した．システム運用時には，ユーザとシステムが会話的に決定することを仮定している．}，(b)全文書に対するインデックスファイル(各文書の見出し語・品詞からなる各ペアに対して，文書番号，重要度，出現位置が付与されたファイル)の作成を行なった．インデックスファイルの作成手順は次のようになる．\begin{enumerate}\renewcommand{\labelenumi}{}\item文書の中から，ストップリスト(冠詞や前置詞など文書検索にとって重要と考えられない単語のリスト)に属する単語を除き，すべてのアルファベットを小文字化する\cite{FoxC92}．\item形態素解析\footnote{本論文の実験では，\cite{Karp92}の形態素解析プログラムを使用した．}により，各単語に対して，見出し語・品詞の可能なペア，出現位置の情報を付与する．\item類似検索の場合は，ここで，見出し語・品詞の各ペアに対してシソーラスに従って，取りうる概念を付与する．この概念集合に対して，多義解消を行なう．\item\ref{sec:term-weight}節の式(\ref{eqn:weight})に従って，各文書の見出し語・品詞の各ペア対して，重要度を計算し付与する．\end{enumerate}質問に対する検索処理手順は次のとおり．\begin{enumerate}\item質問を\ref{sec:query}節の式(\ref{eqn:query}),(\ref{eqn:query-and})の形に変換する．\item式(\ref{eqn:query})の少なくとも1つの$q$中の単語$qt$それぞれに対して，\\$Sim(qt,dt)\geT(しきい値)$を満たす単語$dt$が出現している文書を検索する．\item検索された文書毎に，質問・文書間の関連度$Rel(Q,D)$を\ref{sec:similarity}節の式(\ref{eqn:sim-qda})から求める．\item検索された文書を関連度順に整列させる．\end{enumerate}
\section{実験}
label{sec:experiment}ここでは，非平衡シソーラスにも適用できる意味的類似度と単語の多義解消を組み合わせた提案の類似検索手法を従来の検索法と比較し，適合率・再現率の向上を確認する．また，適合率向上に貢献した多義解消法の精度に関する実験結果について示す．\subsection{ベンチマークテスト}情報検索システム評価用ベンチマークテストの1つにFoxのVirginiaDisk\cite{FoxE90}がある．実験では，その中のCACMと呼ばれるセットを使った．CACMには，コンピュータサイエンスに関する3,204の文書(タイトルとアブストラクト，1文書当たり約125語)，3種類の質問セット(自然言語文からなる{\smallNLQ},ブーリアン形式の{\smallBLQ1,BLQ2})，質問ごとの関連文書の文書番号が含まれている．各質問セットには64個の質問が含まれている．{\smallNLQ}はオリジナルの質問セットで，{\smallBLQ1,BLQ2}は{\smallNLQ}を基にして作られている．実験では，{\smallNLQ}の質問文中の単語が比較的多く使われている{\smallBLQ2}の中で，{\smallNOT}オペレーションを含むものと正解の関連文書がないものを除く47個の質問に複合語を指定する変更を加えたもの(以下では，変更版{\smallBLQ2}と呼ぶ)を用いた．{\smallNLQ},{\smallBLQ2},変更版{\smallBLQ2}の質問番号35の質問内容を下に示す．変更版{\smallBLQ2}において，シングルクウォート(')で囲まれた部分が1つの質問語を表している．{\parindent=0mm[NLQ]\begin{verbatim}Probabilisticalgorithmsespeciallythosedealingwithalgebraicandsymbolicmanipulation.Someexamples:Rabiin,"Probabilisticalgorithmonfinitefield",SIAM.Waztch,"Probabilistictestingofpolynomialidentities",SIAM.\end{verbatim}[BLQ2]\begin{verbatim}#q35=#and('probabilistic','algorithm',#or('algebraic','symbolic'),'manipulation');\end{verbatim}[変更版BLQ2]\begin{verbatim}#q35=#and('probabilisticalgorithm',#or('algebraicmanipulation','symbolicmanipulation'));\end{verbatim}}\subsection{評価方法および実験条件}\label{sec:evaluation}評価は，情報検索の分野で一般的に使われている{\dg再現率}と{\dg適合率}を用いた．再現率および適合率は次式で定義される．\begin{eqnarray}再現率&=&\frac{ランクN位までの検索文書中の関連文書数}{関連文書数}\label{eqn:rec-pre-1}\\[1ex]適合率&=&\frac{ランクN位までの検索文書中の関連文書数}{ランクN位までの検索文書数}\label{eqn:rec-pre-2}\end{eqnarray}再現率・適合率グラフは次に示す手順で作成した．\begin{enumerate}\item式(\ref{eqn:rec-pre-1}),(\ref{eqn:rec-pre-2})の値$N$を任意に複数個決める．\item質問ごとに，式(\ref{eqn:rec-pre-1}),(\ref{eqn:rec-pre-2})により$N$における再現率と適合率を求める．\item$N$における再現率と適合率の全質問に対する平均を求め，プロットする．\end{enumerate}次節の結果では，$N$を10,20,30,$\cdots$,200に設定した．表\ref{tbl:experiment-condition}に示した条件設定\footnote{本論文で提案した方法は多くのパラメータを含んでいる．表\ref{tbl:experiment-condition}にまとめてある設定は，経験的に定めたものであり，パラメータの最適値を求めることは，今後の課題の一つである．}の元で，表\ref{tbl:experiment-method}に示す4種類の手法{\bfWM},{\bfAM},{\bfDM(Voo)},{\bfDM(Yar)}を比較し，非平衡シソーラスにも適用できる意味的類似度と単語の多義解消を組み合わせた提案の類似検索手法{\bfDM(Voo)}及び{\bfDM(Yar)}の有効性を確認する．\subsection{実験結果}ここでは多義解消を伴った類似検索の有効性と多義解消法の比較について述べる．\subsubsection{文書検索の比較}図\ref{fig:recall-precision-th-99}--\ref{fig:recall-precision-th-69}は，検索時にシステムが許容する単語間の類似度を制御するためのしきい値$T$(\ref{sec:similarity}，\ref{sec:step}節参照)が，高い方から順に，9/9,8/9,7/9,6/9の場合の再現率・適合率グラフである．\begin{table}[t]\caption{実験条件}\label{tbl:experiment-condition}\small\begin{center}\renewcommand{\arraystretch}{}\begin{tabular}{|l|c|}\hline\multicolumn{1}{|c|}{項目(関連する節)}&設定\\\hline\hlineシソーラスの具体度の$NL$(\ref{sec:sim-con}節)&9\\\hline\hline概念の粒度を制限するための具体度(\ref{sec:voorhees-apply}節)&6以下\\\hline$hood$の粒度を制限するための具体度(\ref{sec:voorhees-apply}節)&3以上\\\hline\hline文脈幅$W$(\ref{sec:yarowsky-apply}節)&{4}\\\hline単語$ct$を選択するためのしきい値$Y$(\ref{sec:yarowsky-apply}節)&{2.0}\\\hlineYarowskyの手法で使用したコーパス(\ref{sec:yarowsky-apply}節)&TIPSTERのZIFF文書\footnotemark\\\hline\hline物理的近さの定義式の定数$c_1$(\ref{sec:nearness}節)&2\\\hline物理的近さの定義式の定数$c_2$(\ref{sec:nearness}節)&10\\\hline\end{tabular}\end{center}\end{table}\footnotetext{Yarowskyの手法において使用したコーパス「TIPSTERのZIFF文書」は，米国ARPA(AdvancedResearchProjectsAgency)が主導した情報検索のプロジェクトTIPSTERで使われてた文書の1つである．ZIFF文書の総単語数は約9,600万語であるが，Yarowskyの手法は使用するコーパスのサイズが大きくなると処理時間も増えていくので，実験では多義解消の処理時間を短縮するためにそのうちの約800万語を使用した．}\begin{table}[t]\vspace{-6mm}\caption{比較した4種類の手法}\label{tbl:experiment-method}\small\begin{center}\renewcommand{\arraystretch}{}\begin{tabular}{|c||c|c|c|c|c|}\hline&\multicolumn{5}{|c|}{使用する尺度または多義解消手法}\\\cline{2-6}手法名&意味的類似度&Voorheesの&Yarowskyの&物理的近さ&単語の重要度\\[-0.2zh]&\small(\ref{sec:sim-word-main}節)&手法\small(\ref{sec:voorhees-apply}節)&手法\small(\ref{sec:yarowsky-apply}節)&\small(\ref{sec:nearness}節)&\small(\ref{sec:term-weight}節)\\\hline\hline{\bfWM}&&&&○&○\\\hline\hline{\bfAM}&○&&&○&○\\\hline\hline{\bfDM(Voo)}&○&○&&○&○\\\hline{\bfDM(Yar)}&○&&○&○&○\\\hline\end{tabular}\end{center}\end{table}\vspace*{-1mm}\begin{itemize}\itemいずれのしきい値$T$においても，{\dg\bfAMは，WMと比べて，適合率は減少しているが再現率は向上している．}適合率減少の原因の1つに単語の多義性がある．単語間の類似度を求める際にすべての概念を考慮しているので，実際に文書中で使われている概念とは異なる概念に起因して多くの非関連文書が検索されてしまうのである．\item{\dg\bf多義解消手法を導入したDMをAMと比べた場合，概ね，再現率は若干減少しながらも適合率が改善している．}これは，AMで検索されていた非関連文書がDMでは多義解消の効果により検索されなくなったためである．但し，$T$=7/9(図\ref{fig:recall-precision-th-79}),$T$=6/9(図\ref{fig:recall-precision-th-69})では，多義解消の失敗の影響で再現率が減少しているのが目立つ．\item{\dg\bfDMをWMと比べると，ある程度しきい値$T$が大きい場合には，大略，再現率・適合率ともに向上している．}\footnote{一方，\ref{sec:evaluation}節の評価方法の他に，再現率=適合率となる値についても求めた．\cite{Salton83a}のp.164--172に従って，$T$=9/9における質問全体に対する再現率ごとの平均を求めた結果，再現率=適合率となる値は，DM(Voo),DM(Yar),AM,WMの順に，0.220,0.220,0.225,0.230となった．また，再現率0.1を境として，より低い再現率では，適合率の高い方から，DM(Voo),DM(Yar),WM,AMの順になり，より高い再現率では，WM,AM,DM(Voo),DM(Yar)の順となった．}\end{itemize}\clearpage\begin{figure}[ht]\centerline{\epsfile{file=new_tr_99.ps,scale=1.0}}\caption{再現率・適合率[しきい値$T$=9/9]}\label{fig:recall-precision-th-99}\end{figure}\begin{figure}\centerline{\epsfile{file=new_tr_89.ps,scale=1.0}}\caption{再現率・適合率[しきい値$T$=8/9]}\label{fig:recall-precision-th-89}\end{figure}\begin{figure}\centerline{\epsfile{file=new_tr_79.ps,scale=1.0}}\caption{再現率・適合率[しきい値$T$=7/9]}\label{fig:recall-precision-th-79}\end{figure}\begin{figure}\centerline{\epsfile{file=new_tr_69.ps,scale=1.0}}\caption{再現率・適合率[しきい値$T$=6/9]}\label{fig:recall-precision-th-69}\end{figure}\clearpage\subsubsection{多義解消法の比較}\label{sec:vy}Voorheesの多義解消の文書検索における有効性に関しては，Voorheesの報告とは逆に，Voorheesの手法を若干変更し，類似検索に適用して，その有効性を確認できた．また，Yarowskyの手法も，同程度の有効性が確認できた．但し，しきい値$T$が9/9の時にはDM(Voo)の方が\\性能が良く，しきい値$T$が8/9以下ではDM(Yar)の方が性能が良く，しきい値$T$が小さくなれ\\ばなるほど両者とも性能が悪くなる．次に，多義解消手法単独の精度\footnote{処理時間の観点からは，Yarowskyの手法はVoorheesの手法に比べ劣っている．Yarowskyの手法の処理時間は，文脈の幅，学習コーパス，検索文書中の多義語の量と多義の度合などに支配される．実装に依存するので，参考に過ぎないが，800万語のZIFF文書をコーパスとして多義解消に要した時間はDECAlphaStation6005/333上で約330時間(2週間)であった．一方，Voorheesの手法の場合の多義解消時間は検索文書中の多義語の量と多義の度合などに支配されており，約3時間であった．}について述べる．図\ref{fig:recall-precision-th-99}に対応する$T$=9/9と図\ref{fig:recall-precision-th-69}に対応する$T$=6/9の条件を代表として取り上げ，質問中の単語と類似している関連文書内の単語\footnote{参考のために，$T$=6/9のDA(Yar)の多義解消結果における単語(出現形と頻度)を3つに分類して示す．\begin{itemize}\topsep=0mm\partopsep=0mm\parskip=0mm\parsep=0mm\itemsep=0mm\item選択され成功した語(延べ34語)\\appropriate1,calculation1,computer2,described3,describes1,dictionary4,divide1,fitting3,formulas1,gauging1,loop1,loops1,management1,measurements1,patterns1,person1,picture1,pictures4,procedure1,retrieving1,secure1,serial1,transmitting1.\item選択はされたが失敗した語(延べ21語)\\analysis1,capacity2,compare1,computer1,entries1,entry1,evaluate1,handling1,loop1,measurement1,operate1,operating1,picture1,representation1,serial2,set2,shared1,utilization1.\item選択されなかった語(延べ50語)\\allocate1,allocating1,allocation6,applications1,computer2,described5,describes1,describing1,dictionaries3,directory1,divided1,entries1,evaluating2,fitting1,hardware1,management3,measure1,measuring1,operated1,operating2,organization2,pattern1,programmers1,representation3,serial1,set1,shared1,sharing3,time1.\end{itemize}}(延べ数は前者が59，後者が105である)の多義解消の結果を調べた(表\ref{tbl:disamb-result9/9},\ref{tbl:disamb-result6/9})．{\small\begin{table}[h]\caption{多義解消結果[しきい値$T$=9/9]}\label{tbl:disamb-result9/9}\small\begin{center}\renewcommand{\arraystretch}{}\tabcolsep=1.5mm\begin{tabular}{|c||c|c||c|c||c|c|c|}\hline&A:選択単語&A/59:&B:成功単語&B/A:&C:選択前&D:選択後&D/C:多義\\[-0.2zh]\raisebox{0.8zh}[0pt]{手法}&延べ数&選択率&延べ数&成功率&概念数&概念数&圧縮率\\\hline\hlineDA(Voo)&59&1.00&39&0.66&644&354&0.55\\\hlineDA(Yar)&45&0.76&23&0.51&581&202&0.35\\\hline\end{tabular}\end{center}\end{table}\vspace{-3mm}\begin{table}[h]\caption{多義解消結果[しきい値$T$=6/9]}\label{tbl:disamb-result6/9}\small\begin{center}\renewcommand{\arraystretch}{}\tabcolsep=1.5mm\begin{tabular}{|c||c|c||c|c||c|c|c|}\hline&A:選択単語&A/105:&B:成功単語&B/A:&C:選択前&D:選択後&D/C:多義\\[-0.2zh]\raisebox{0.8zh}[0pt]{手法}&延べ数&選択率&延べ数&成功率&概念数&概念数&圧縮率\\\hline\hlineDA(Voo)&104&0.99&73&0.70&938&530&0.57\\\hlineDA(Yar)&55&0.52&34&0.62&672&142&0.21\\\hline\end{tabular}\end{center}\end{table}}選択単語は1つ以上の概念を選択できた単語である．選択率は多義解消手続きの汎用性を示す．成功単語は選択した概念の中に正解概念(文書中で使われている概念)が含まれている単語である．成功率は多義解消が働いた場合の精度を示す．本実験ではスコアが正である概念を選択しているので，選択され排除されない概念数が多ければ成功率も高くなりうるので，多義解消手続きで選択され排除されない概念の割合も考えなくてはならない．これを多義圧縮率と呼ぶことにする．いずれのしきい値の場合でも，選択率，成功率ともに，Voorheesの手法，DA(Voo)が優っており，逆に，多義圧縮率はYarowskyの手法，DA(Yar)が優っている．選択率と成功率が同じなら，多義圧縮率によって検索への効果が決まるが，それ以外は単純に比較できない．多義解消法の性能が必ずしも高くなくても，検索性能は上げられることがわかったが，両者の関係は必ずしも単純ではなく，今後さらに検討を続ける必要がある．
\section{おわりに}
label{sec:conclusion}本論文では，シソーラスが平衡または非平衡，どちらの場合にも適用できる意味的類似度を提案した．本提案では各単語が担う概念間の最下位共通上位概念が有する下位概念の総数が少ないほど，大きくなるように単語間の類似度を決定する．さらに，この類似度と多義解消を用いた類似検索手法を提案した．比較実験により，本類似検索手法は従来の検索手法に比べて，適合率・再現率ともに改善していることを確認した．今後の研究課題としては，本手法で用いたパラメータの最適化，応用や言語やシソーラスを変えた場合の有効性の検証，多義解消アルゴリズムの高精度化・高速化，未知語対策または応用への適用を目指したシソーラスの拡張・修正・生成手法などがある．\acknowledgment本研究ではEDR電子化辞書の英語単語辞書・概念辞書(評価版第2.1版)を使用している．関係各位に深謝する．\bibliographystyle{jnlpbbl}\bibliography{jpaper81}\clearpage\begin{biography}\biotitle{略歴}\bioauthor{大井耕三}{1984年同志社大学工学部電子工学科卒業．同年，三洋電機(株)入社．1992年より4年間，エイ・ティ・アール自動翻訳電話研究所・音声翻訳通信研究所に出向．現在，三洋電機(株)ハイパーメディア研究所にて，自然言語処理・自然音声合成の研究開発に従事．情報処理学会会員．}\bioauthor{隅田英一郎}{1982年電気通信大学大学院計算機科学専攻修士課程修了．エイ・ティ・アール音声翻訳通信研究所主任研究員．自然言語処理，並列処理，機械翻訳，情報検索の研究に従事．情報処理学会，電子情報通信学会各会員．}\bioauthor{飯田仁}{1972年早稲田大学理工学部数学科卒業．74年同大学院修士課程(数学専攻)修了．同年日本電信電話公社武蔵野電気通信研究所入社．日本電信電話株式会社基礎研究所を経て86年4月よりエイ・ティ・アール自動翻訳電話研究所に出向．同研究所終了に伴い93年3月よりエイ・ティ・アール音声翻訳通信研究所に再出向．現在，音声対話の理解・翻訳の研究に従事．平成7年度科学技術庁長官賞受賞．言語処理学会，情報処理学会，電子情報通信学会，人工知能学会，日本認知科学会，ACL各会員．}\bioreceived{受付}\biorevised{再受付}\bioaccepted{採録}\end{biography}\end{document}