\section{研究背景}
label{first}元来から日本は，外来語を受け入れやすい環境にあるといわれており，数多くの外国の言葉を片仮名として表記し，そのまま使用している．近年になり，今まで以上にグローバル化が進展すると共に，外来語が益々増加する中，外来語の発音を片仮名表記にしないケースが見受けられる．特に，英語の場合，外国語の表記をそのまま利用することも増えてきている．また，英単語などの頭文字をつなげて表記する，いわゆる略語もよく利用されるようになっている．例えば，「IC」といった英字略語がそれにあたる．しかし，英字略語は英単語の頭文字から構成される表現であるため，まったく別のことを表現しているにも関わらず，同じ表記になることが多い．先の英字略語「IC」には，「集積回路」という意味や高速道路などの「インターチェンジ」という意味がある．さらには，ある業界では，これらとはまた別の意味で使用されることもある．このように，英字略語は便利な反面，いわゆる一般的な単語よりも非常に多くの意味を有する多義性の問題を持つ．そのため，英字略語が利用されている情報は，すべての人が容易に，また，正確に把握できるとは言い難い．そこで，例えば，新聞記事などでは，記事の中で最初に英字略語が使用される箇所において，括弧書きでその意味を日本語で併記する処理をとっていることが多い．しかし，よく知られている英字略語にはそのような処置がとられていないなど，完全に対処されているわけではない．また，記事中の最初の箇所にのみ上記のような処置がとられており，それ以降はその意味が併記されていないことが多い．そのため，記事の途中から文書を読んだり，関連する記事が複数のページに渡って掲載されている時に先頭のページではない部分から記事を読んだりした場合には，最初にその英字略語が出現した箇所を探さなくてはならず，解読にはひと手間が必要となり，理解の妨げとなる．さらに，一般的な文章の場合では，このように英字略語の意味を併記するという処置をとる方が珍しいと言える．
\section{関連研究}
label{positioning}上記を踏まえて本論文では，英字略語の意味を推定する方法について提案する．本研究と同様の主旨の研究には，\cite{okazaki:07}の研究が報告されている．この方法では，新聞記事などの文章では，英字略語の意味を括弧書きで併記する表現に着目し，英字略語の意味の自動推定を実現している．しかし，すべての英字略語に対してこのような表現が適用されているわけではない．そのため，うまく自動推定できない場合がある．また，\cite{yoshida:05}では，片仮名表記の外来語を英語に復元した後に，辞書を用いて日本語訳を獲得する方法が提案されている．しかし，本方法では，対象が片仮名に限定されており，かつ，多義性を有する語彙には対応できない問題がある．さらに，\cite{M.Stevenson:09}や\cite{N.Okazaki:10}は，英字略語が頻出する生物医学の分野に着目し，医学関連のデータベースから抽出したデータセットをもとに作成したコーパスやクラスタリング技術を適用することに加え，語の共起情報を有効に活用することで，英字略語の意味を推定している．しかし，本方法は医学領域に特化した情報源を利用しているからこそ，語の共起情報が生物医学に関する英字略語の曖昧性解消に対して有効に機能していることに加えて，英字略語の意味を推定する教師データを自動生成するために大規模な文書集合を必要とすることから，汎用的に活用することは難しい．また，英字略語を対象としているわけではないが，単語（語義）の曖昧性を解消する方法が研究されている．\cite{R.Mihalcea:07}は，Wikipediaにおける各記事の参照情報であるハイパーリンクを利用することで，一般的な単語と当該単語を含む文章を入力した際に，当該単語の曖昧性を解消し，意味推定を実現している．本方法は品詞情報を利用して意味推定を実施しており，有効に機能する単語が限定（当該論文では曖昧性を有する普通名詞の意味推定を実施）されるという問題がある．他には，文章内の単語を知識ベースのエントリにマッピングすることで曖昧性を解消する技術(EntityDisambiguation)として，\cite{Y.Sun:15}はWikipediaから収集した情報をもとにニューラルネットワークを構築し，入力単語と入力文書のペアとエントリ間の類似性を判断している．しかし，本方法は2つのニューラルネットワークのトレーニング及びメンテナンスが必要であり，対象領域などに応じた適切な運用が要求される．一方，従来の情報検索でよく用いられるベクトル空間モデル\cite{G.Salton:75}などでは，文書における単語の出現頻度や統計情報などを利用して単語と文書間の類似性を判断している．このような方法は単語と文書内の各単語の表記が一致しない場合は関連性がないとの仮定に基づいている．そのため，多義性を持つ単語をはじめ，表記揺れや類義性を持つような単語に対して意味の推定を行うことは困難である．そこで，本論文では，多義性を有する英字略語に対して，意味の推定を実現する方法を提案する．提案方法では，我々がすでに提案している，あらゆる語彙の意味的な近さを判断できるメカニズムを組み合わせ，英字略語の意味を推定する．具体的には，ある概念から様々な概念を連想する語彙の概念化処理が可能な概念ベース\cite{kojima:02,hirose:02,okumura:07}，及び，世界で最も収録語数が多いとされるWikipedia(ウィキメディア財団)\nocite{Wikipedia}を使用する．さらに，概念化した語彙の意味的な近さを判断するため，関連度計算\cite{watabe:06}，または，EarthMover'sDistanceを応用した文章間関連度計算方法\cite{fujie:09}を用いる．これらを用いて英字略語の多義性を解消し，英字略語の本来の意味を推定する．この技術により，英字略語の意味を理解しやすくすることができ，情報検索や自動要約，情報推薦や自動翻訳など多くのアプリケーションの性能向上に加え，知能を有するロボットの研究開発における自然な知的対話の実現に寄与することも期待できる．
\section{提案方法の概要}
\label{concept}図\ref{fig:concept}に提案方法である英字略語の意味推定方法の概略図を示す．\begin{figure}[b]\begin{center}\includegraphics{24-3ia2f1.eps}\end{center}\caption{英字略語の意味推定方法の概略図}\label{fig:concept}\end{figure}英字略語が含まれる文章を入力として，入力文章から英字略語を抽出する．当該英字略語をWikipediaで検索し，意味が1つであれば，その意味を出力する．意味が複数ある場合には，それらの意味と入力文章との意味的な近さを判断し，最も近いと判断した意味を決定する．この際，当該意味と英字略語（が含まれる文章）の意味的な近さを判断するために，語彙の概念化を行う．なお，ここで述べる「意味」とは，英字略語の意味を表現する語，つまり，英字略語のもととなっている英単語の日本語での表現を「意味」と定義している．例えば，前述した英字略語「IC」の意味を推定する場合，「集積回路」や「インターチェンジ」という語を「意味」として出力する．\ref{technology}章では，本論文において使用した要素技術として，語彙を概念化する方法と，概念化した語彙の意味的な近さを判断する方法に関して詳細に説明する．
\section{使用要素技術}
\label{technology}\subsection{語彙の概念化処理}\label{conceptualization}\subsubsection{概念ベース}\label{concept_base}概念ベース\cite{kojima:02,hirose:02,okumura:07}とは，複数の電子化国語辞書などの見出し語を概念，その語義文に使用されている自立語を概念の意味特徴を表す属性と定義して構築された大規模なデータベースである．本論文で使用した概念ベースは自動的に概念および属性を構築した後，人間の常識に沿った属性の追加や削除を人手で行ったものであり，概念数は約9万語である．概念ベースでは，ある概念$A$は$m$個の属性$a_i$とその属性の重要性を表す重み$w_i$の対によって構成されており，以下のように表現することができる．ここで，属性$a_i$を概念$A$の一次属性と呼ぶ．\[\text{概念A}=\{(a_1,w_1),(a_2,w_2),\cdots,(a_m,w_m)\}\]概念ベースの大きな特徴として，属性である単語は概念として必ず定義されている点がある．これにより，概念$A$の一次属性である属性$a_i$を概念とみなし，更に属性を導くことができる．概念$a_i$から導かれた属性$a_{\mathit{ij}}$を，元の概念$A$の二次属性と呼ぶ．概念ベースの具体例を表\ref{table:concept_ex}に示す．\begin{table}[b]\caption{概念ベースの例}\label{table:concept_ex}\input{02table01.txt}\end{table}例えば，表\ref{table:concept_ex}のように，概念「医者」の一次属性である「患者」は，概念「患者」としても定義されている．また，この概念「患者」の一次属性である「病人，看病，治療，…」は，元の概念「医者」の二次属性ということになる．このように，概念ベースにより概念の意味特徴を定義し，連鎖できる構造を利用することで語彙の意味の近さを評価できる．詳細は\ref{evaluation_approach}節で説明する．\subsubsection{未定義語の概念化}\label{unknown_word}前節で述べた通り，概念ベースは複数の電子化国語辞書などを用いて構築されており，大規模かつ品質が高いというメリットがある．しかし，すべての語彙を網羅できていないという欠点もある．そのため，概念ベースに登録されていない未定義語は概念化されておらず，意味の近さを評価することはできない．そこで，未定義語については，Web上の言語情報を利用し，自動的に概念化すること\cite{tsuji:04,goto:08}で対処する．具体的には，Web検索エンジン(Google,Inc.)\nocite{google}により未定義語をキーワードとして情報検索し，検索結果の上位100件の検索結果ページの内容を取得する．その内容から概念ベースに登録されている自立語のみを抽出し，それらを未定義語の一次属性とする．また，一次属性に対する重みは，情報検索の分野で広く用いられている$\mathit{tf}\cdot\mathit{idf}$\cite{tokunaga:99}の考え方を応用することで算出する．語の網羅性である$\mathit{tf}$値は，検索結果ページ$A$中に出現する自立語$\mathit{Word}_{\mathit{A}}$の出現頻度$\mathit{tfreq}\allowbreak(\mathit{Word}_{\mathit{A}},A)$を，検索結果ページ$A$中のすべての自立語の語数$\mathit{tnum}(A)$で割ることで算出される．算出式は以下のようになる．\[\mathit{tf}(\mathit{Word}_{A},A)=\frac{\mathit{tfreq}(\mathit{Word}_{A},A)}{\mathit{tnum}(A)}\]次に，語の特定性である$\mathit{idf}$値は，StaticsWeb-InverseDocumentFrequency($\mathit{SWeb\mathchar`-idf}$)値を用いる\cite{tsuji:04,goto:08}．$\mathit{idf}$値の算出には，対象となる全文書空間の情報が必要になる．しかし，Webを利用する場合，Web上のすべての情報が必要ということになり，正確な$\mathit{idf}$値を算出することは現実的には不可能である．そこで，無作為に選択した固有名詞1,000個をそれぞれキーワードとして，Web検索エンジン(Google,Inc.)\nocite{google}で検索する．続いて，検索結果の上位10件の検索結果ページの内容を取得する．そして，それらの内容に含まれるすべての自立語の集合を疑似的なWebの全情報空間とみなし$\mathit{SWeb\mathchar`-idf}$値を算出する．$\mathit{SWeb\mathchar`-idf}$値の算出式は以下のように定義される．ここで$N$は固有名詞1,000個を検索キーワードとした際の各検索結果上位10件の合計ページ数($N=10,000$)，$\mathit{df}(\mathit{Word}_{A})$は$\mathit{Word}_{A}$が出現する検索結果ページ数である．\[\mathit{SWeb\mathchar`-idf}(\mathit{Word}_{A})=\log\frac{N}{\mathit{df}(\mathit{Word}_{A})}\]この10,000ページから，複数の電子化国語辞書などから概念を抽出したデータベースである概念ベースの収録語数である約9万語を超える単語数が得られたことから，獲得した10,000ページをWebの全情報空間とみなしている．なお，固有名詞の選び方を変えても$\mathit{SWeb\mathchar`-idf}$値に大きな変化は見られないことが報告されている\cite{tsuji:04}．以上に示した式より，自立語$\mathit{Word}_{A}$へ付与する重み$w$は次の式で定義される．\[w=\mathit{tf}(\mathit{Word}_{A},A)\cdot\mathit{SWeb\mathchar`-idf}(\mathit{Word}_{A})\]つまり，ある自立語の重みは，網羅性を表す$\mathit{tf}$値と特定性を表す$\mathit{SWeb\mathchar`-idf}$値を掛け合わせることで与えられる．Web上の言語情報を利用するため，品質は概念ベースより劣るというデメリットはあるが，すべての語彙を概念化できるという大きなメリットがある．また，\cite{tsuji:04,goto:08}などの研究成果から，Web情報を利用して未定義語を概念化する方法の有効性が確認されており，本論文での処理においても十分な性能を確保していると考えられる．\subsection{意味的関連性評価方法}\label{evaluation_approach}\subsubsection{関連度計算}\label{DoA}関連度計算とは，概念と概念の関連の強さを定量的に評価する計算である．概念間にある関連性を定量的に評価する方法として，ベクトル空間モデルが広く用いられている．しかし，本論文では，概念を定義する属性集合とその重みを含めた一致度に基づいた関連度計算方式を利用する．これは，関連度計算方式が有限ベクトル空間によるベクトル空間モデルよりも良好な結果が得られるという報告がなされているためである\cite{watabe:01}．本論文では，重み比率付き関連度計算方式を使用する\cite{watabe:06}．任意の概念$A$，$B$について，それぞれ一次属性を$a_i$，$b_j$とし，対応する重みを$u_i$，$v_j$とする．また，概念$A$，$B$の属性数を$L$個，$M$個$(L\leqM)$とする．なお，各概念の一次属性の重みは，その総和が1.0となるよう正規化している．\begin{align*}A&=\{(a_i,u_i)\;\;|\;\;i=1〜L\}\\B&=\{(b_j,v_j)\;\;|\;\;j=1〜M\}\end{align*}このとき，重み比率付き一致度(DegreeofMatch)は以下のように定義される．ここで，$\mathit{DoM}(A,B)$は概念$A$，$B$の重み比率付き一致度である．\begin{align*}\mathit{DoM}(A,B)&=\sum_{a_i=b_j}^{}\min(u_i,v_j)\\\min(\alpha,\beta)&=\left\{\begin{array}{ll}\alpha&(\beta>\alpha)\\\beta&(\alpha\geq\beta)\end{array}\right.\end{align*}この定義は，概念$A$，$B$に対し，$a_i=b_j$となる属性（概念$A$，$B$に共通する属性）があった場合，共通する属性の重みの共通部分，つまり，小さい重み分のみ一致するという考えに基づいている．次に，属性数が少ない方の概念を$A$とし$(L\leqM)$，概念$A$の属性を基準とする．\[A=\{(a_1,u_1),\cdots,(a_i,u_i),\cdots,(a_L,u_L)\}\]そして，概念$B$の属性を，概念$A$の各属性との重み比率付き一致度$\mathit{DoM}(a_i,b_\mathit{xi})$の和が最大になるように並び替える．\[B_x=\{(b_{x1},v_{x1}),\cdots,(b_\mathit{xi},v_\mathit{xi}),\cdots,(b_\mathit{xL},v_\mathit{xL})\}\]これによって，概念$A$の一次属性と概念$B$の一次属性の対応する組を決める．対応にあふれた概念$B$の属性は無視する．ただし，一次属性同士が一致するものがある場合（概念表記が同じ：$a_i=b_j$）は別扱いにする．これは概念ベースには約9万語の概念が存在し，属性が一致することは稀であるという考えに基づく．従って，一致した属性の扱いを別にすることで，属性が一致した場合を大きく評価する．具体的には，対応する属性の重み$u_i$，$v_j$の大きさを重みの小さい方にそろえる．このとき，重みの大きい方はその値から小さい方の重みを引き，もう一度，他の属性と対応をとる．例えば，$a_i=b_j$で$u_i=v_j+\alpha$とすれば，対応を決定する箇所は$(a_i,v_j)$と$(b_j,v_j)$であり，$(a_i,\alpha)$はもう一度他の属性と対応させる．このように対応を決め，対応がとれた属性の組み合わせの数を$T$個とする．重み比率付き関連度とは，重み比率付き一致度を比較する概念の各属性間で算出し，その和の最大値を求めることで計算する．重み比率付き関連度(DegreeofAssociation)は以下の式で定義される．ここで，$\mathit{DoA}(A,B)$は概念$A$，$B$の重み比率付き関連度である．\[\mathit{DoA}(A,B)=\sum_{i=1}^{T}\{\mathit{DoM}(a_i,b_\mathit{xi})\cdot(u_i+v_\mathit{xi})\cdot(\min(u_i,v_\mathit{xi})/\max(u_i,v_\mathit{xi}))/2\}\]以下，重み比率付き一致度を一致度，重み比率付き関連度を関連度と略し，この関連度\cite{watabe:06}を用いる．関連度は概念間の関連の強さを0〜1の間の連続値で表す．\subsubsection{EarthMover'sDistance}\label{EMD}前節において，概念間の関連の強さを評価する方法として関連度計算について説明した．関連度計算は関連性が高い順に属性の対応をとることで計算を行う，つまり，1対1で対応をとる方法である．そのため，両概念に対して，少ない方の属性数分しか対応がとれない．例えば，概念$A$が持つ属性が3語，概念$B$が持つ属性が100語であった場合，概念$B$の属性97語は計算の対象外となる．そこで，本論文では，両概念の属性数に差がある状況にも対応するため，関連度計算に加えて，M対Nで対応をとることができるEarthMover'sDistance(EMD)を用いて意味的な関連性を評価する方法を利用する．EMDを用いた意味的な関連性評価方法は，ヒッチコック型輸送問題\cite{A.J.Hoffman:63}（需要地の需要を満たすように供給地から輸送を行う際の最小輸送コストを解く問題）で計算される距離尺度であるEMDを概念間の関連性評価に適用したものである．EMDは，2つの概念間の関連性を定量的に表現することが可能であり，\cite{fujie:09}の研究によりその有用性が報告されている．EMDとは，2つの離散分布があるとき，一方からもう一方の分布への変換を行う際の最小コストを指す．離散分布は当該分布を構成する要素と重みの対の集合で表現される．コスト算出の際には，変換前の離散分布の要素が持つ重みを供給量，変換先の離散分布の要素が持つ重みを需要量と考え，要素間の距離を供給量，需要量にしたがって重みを運送すると考える．できるだけ短い距離で，かつ，需要量に対して効率的に重みを運送する経路がEMDとなる．これを概念間の関連性評価に適応させる場合，概念の一次属性を要素として捉え，一次属性の集合を離散分布と考える．ある概念の離散分布を違う概念の離散分布へ変換すると考えると，その際のコストが最小となる概念が元の概念に最も近い概念となることから，概念間の関連性評価へ適用することが可能となる．EMDを用いた意味的な関連性評価方法について，図\ref{fig:EMD}に示す簡略図を用いて説明する．ある概念$A$と$B$があったとき，概念$A$を概念$B$に変換する際のコストを考える．それぞれの概念をそれらの一次属性$a_i$，$b_j$の離散分布と考える．EMDでは変換コストの算出を行う際に離散分布を構成する要素同士の距離を用いる．EMDを用いた意味的な関連性評価方法では，この距離を一次属性同士の関連性であると考え，一致度によってこれを求める．\begin{figure}[b]\begin{center}\includegraphics{24-3ia2f2.eps}\end{center}\caption{EMDを用いた意味的な関連性評価方法}\label{fig:EMD}\end{figure}属性$a_i$，$b_j$の距離$\mathit{dis}(a_i,b_j)$は次の式で表される．一致度は関連性が高いと値が大きくなる．また，一致度の最大値は1であるため，1から一致度を引いた値を距離としている．\[\mathit{dis}(a_i,b_j)=1-\mathit{DoM}(a_i,b_j)\]ここで，図\ref{fig:EMD}の例における$a_1$と$b_1$の間の変換コスト$\mathit{cost}(a_1,b_1)$は次の式で算出される．これは$a_1$と$b_1$の距離に重みを掛けたものである．$a_1$と$b_1$が持つ重みは同じく0.3であるため供給量と需要量が合致し，$a_1$からの重みの運送はこの時点で終了する．\[\mathit{cost}(a_1,b_1)=\mathit{dis}(a_1,b_1)\cdot0.3\]同様にコストの計算を行い，最終的にすべての運送経路のコストを足し合わせたものがEMDとなる．図\ref{fig:EMD}の例では概念$A$，$B$間のEMDは次のように表される．\[\mathit{EMD}(A,B)=\mathit{cost}(a_1,b_1)+\mathit{cost}(a_2,b_2)+\mathit{cost}(a_2,b_3)\]以上の式で算出されたEMDの最小値を最適化計算で求め，概念間の関連性（意味的な近さ）を算出している．
\section{英字略語の意味推定方法}
\label{proposal_method}\subsection{英字略語の抽出}\label{extract}本論文で提案する英語略語の意味推定方法の処理対象として扱う英字略語は，英単語の頭文字から構成される表記とする．例えば，商品の型番や「W杯」のように記号や数字，日本語などアルファベット以外の文字が混じる表記の場合，それらは英字略語ではないものとする．また，1文字で構成される英字略語の場合，英単語の頭文字ではなく，例えば，S字カーブの「S」のように，アルファベットの形状などに起因する意味で使用されることがある．本研究は，語彙の意味に着目し，多義性を有する英字略語の意味推定を目的としている．また，英字略語は大文字のアルファベットで構成されることが多いため，本論文では，2文字以上の大文字アルファベットのみで構成されている語を英字略語として扱うこととする．入力として受け付ける情報は，英字略語が含まれている文章とし，その文章から2文字以上の大文字アルファベットの羅列を英字略語として抽出する．\subsection{Wikipediaによる意味候補の検索}\label{search}\ref{extract}節で抽出した英字略語をWikipedia(ウィキメディア財団)で検索する．検索の結果，当該英字略語を説明する意味が1つであった場合には，その意味を出力する．意味を複数有する場合には，次節で述べる意味的な近さに基づく多義性の解消を行うため，それぞれの意味を概念化する．概念化には，\ref{concept_base}節で述べた概念ベースと\ref{unknown_word}節で述べたWebを用いた未定義語の概念化方法を用いる．今回，\ref{experiment_condition}節にあるように，英字略語の概念化は新聞記事を用いて実施しているため，Wikipediaから取得した意味候補の概念化も新聞記事を利用して実施したいが，各意味候補が新聞記事に含まれているとは限らない．一方，Wikipedia内の情報は辞書的に構成されており，新聞記事内の情報とは系統が異なる．そこで，今回は新聞記事と同様に雑多な情報から構成されるWeb情報を利用して意味候補の概念化を実施することにした．一例として，英字略語「IC」をWikipediaで検索した際の結果を表\ref{table:IC}に示す．英字略語「IC」の場合，13種類の意味を有していた．\begin{table}[b]\caption{英字略語「IC」をWikipediaで検索した際の結果}\label{table:IC}\input{02table02.txt}\end{table}\begin{table}[b]\caption{Wikipediaから英字略語の意味候補を取得する規則}\label{table:rule}\input{02table03.txt}\end{table}\begin{table}[b]\caption{設定したストップワードのリスト}\label{table:stopword}\input{02table04.txt}\end{table}Wikipediaから抽出した意味には，当該意味を説明・補助する情報（例えば，表\ref{table:IC}の3番における「-」以降の記述）が含まれるが，当該情報は意味の概念化処理における雑音となる．そこで，Wikipediaから抽出した意味に表\ref{table:rule}に示した規則を上から順に適用することで雑音を削除する．さらに，Wikipediaに掲載されている意味の中には，商品の型番やある種のコードなど英字略語ではないアルファベットの羅列（表\ref{table:IC}の例では10番と11番）が多数含まれているため，表\ref{table:stopword}に示したストップワードを適用することで当該意味を削除した上で意味候補を取得する．\subsection{英字略語の多義性解消}\label{resolution}\ref{search}節で検索した英字略語が複数の意味を有した場合，その多義性を解消する必要がある．具体的には，\ref{search}節で概念化された意味候補と入力された英字略語を含む文章との意味的な近さを評価することで実現する．この際，概念化された意味候補と英字略語の意味的な近さを評価するため，英字略語も概念化する必要がある．入力された文章に含まれる自立語をすべて抽出し，それを英字略語の一次属性と見立てる．これにより，英字略語を疑似的に概念化できる．なお，英字略語の一次属性とした自立語の中には概念ベースに登録されている語と登録されていない語（未定義語）が存在する．未定義語については，\ref{unknown_word}節で説明した方法により概念化を行う．この処理により，英字略語を概念とし，一次，二次へと属性を展開することができ，意味的な近さを評価することが可能になる．なお，英字略語を疑似的に概念化する際，一次属性として抽出した自立語が未定義語であった場合，当該一次属性に対する重みは，\ref{unknown_word}節で説明した未定義語の概念化における属性への重み付けの考え方と同様にして付与する．具体的には，語の網羅性である$\mathit{tf}$値は，入力された文章$A$中に出現する自立語$\mathit{Word}_A$の出現頻度$\mathit{tfreq}(Word_A,A)$を文章$A$中のすべての自立語の語数$\mathit{tnum}_A$で割ったもので算出される．算出式は以下のようになる．\[\mathit{tf}(\mathit{Word}_A,A)=\frac{\mathit{tfreq}(\mathit{Word}_A,A)}{\mathit{tnum}_A}\]語の特定性である$\mathit{idf}$値は$\mathit{SWeb\mathchar`-idf}$ではなくStaticsArticle-InverseDocumentFrequency($\mathit{SA\mathchar`-idf}$)を用いる．これは，疑似的な全文章空間の情報として，$\mathit{tf}$値を算出する際に使用した文章と同じカテゴリ，ジャンルである文章集合を利用する必要があるためである．$\mathit{SA\mathchar`-idf}$値の算出式は以下のように定義される．ここで，$N$は利用する文章集合の全文章数，$\mathit{df}(\mathit{Word}_A)$はその文章集合の中で$\mathit{Word}_A$が出現する文章数である．\[\mathit{SA\mathchar`-idf}(\mathit{Word}_A)=\log\frac{N}{\mathit{df}(\mathit{Word}_A)}\]以上に示した式より，自立語$\mathit{Word}_A$へ付与する重み$w$は次の式で定義される．\[w=\mathit{tf}(\mathit{Word}_A,A)\cdot\mathit{SA\mathchar`-idf}(\mathit{Word}_A)\]このように，概念化された英字略語と意味候補との意味的な近さを\ref{evaluation_approach}節で説明した語彙の意味的な近さを評価する方法により評価する．その結果，最も意味的に近いと判断された意味候補を英字略語の意味とする．
\section{評価実験}
\label{evaluation_experiment}\subsection{実験条件}\label{experiment_condition}本論文では，新聞記事から英字略語を抽出し，当該英字略語が含まれている記事を入力文章とすることで評価を実施した．今回使用した新聞記事は全国紙1か月分（約12,000記事）であり，2文字以上の大文字アルファベットの羅列が含まれる記事は約3,700記事であった．当該約3,700記事から表\ref{table:stopword}に示したストップワードに該当する略語として意味がない文字列を含む記事を人手で削除した上で，無作為に129記事を抽出し，評価実験データとして使用した．なお，その中で，表記が異なる英字略語の数は58個であった．つまり，129種類の英字略語の意味と58種類の英字略語の表記が含まれる記事を評価実験データとして使用した．また，当該58個の英字略語の表記をWikipediaで検索し，表\ref{table:rule}と表\ref{table:stopword}に示した規則を適用した結果，707個の意味を取得できた（1つの英字略語の表記につき，平均で12.2個，最少で2個，最多で29個の意味が存在）．提案方法により推定した英字略語の意味が，当該英字略語を含む新聞記事における意味と一致した場合を正答として評価した．なお，意味の一致に関する判定は人手で実施しており，Wikipediaから取得した意味候補の中に正解となる候補が複数含まれることもある（例えば，表\ref{table:IC}における7番と8番の候補「インターシティ」は両方ともヨーロッパにおける都市間列車を指しており，どちらを選択しても正解と判定している）．今回は評価の簡略化のため，英字略語として扱う2文字以上の大文字アルファベットの羅列が1つ含まれる記事を評価対象としている．\ref{resolution}節で述べた通り，入力した文章を用いて英字略語を疑似的に概念化する際には，\ref{unknown_word}節での考え方に基づき属性に重み付けを行う．今回の実験における入力対象は新聞記事である．そのため，概念ベースに登録されていない未定義語である一次属性に対する重み付けに必要な$\mathit{SA\mathchar`-idf}$値の算出には，1か月分の新聞記事集合を使用した．この1か月分の新聞記事集合から，概念ベースの収録語数である約9万語を超える単語数が得られたことから，当該集合を疑似的な全文章空間の情報とみなしている．\subsection{比較方法}\label{comparative_approach}本節では，本論文における提案方法の比較に使用するベクトル空間モデル\cite{G.Salton:75}について述べる．ベクトル空間モデルは，情報検索の分野で幅広く利用されている検索モデルである．各語の重みから構成されるベクトルとして入力語と文書をそれぞれ表現し，二つのベクトルの成す角度の余弦によって類似度を計算する点に特徴がある．ベクトル空間モデルにおいて使用される重みにはいくつかの種類があるが，本評価では，情報検索の分野で広く用いられている$\mathit{tf}\cdot\mathit{idf}$\cite{tokunaga:99}を使用する．\ref{search}節で概念化された英字略語を含む入力文章を$q$，同様に概念化された意味候補を$d_i$，両者における自立語の語の総数（異なり）を$M$とすれば，入力文章$q$と意味候補$d_i$はそれぞれ以下のような$M$次元のベクトルで表現できる．\begin{align*}q&=(w_{q1},w_{q2},\cdots,w_\mathit{qM})\\d_i&=(w_{i1},w_{i2},\cdots,w_\mathit{iM})\end{align*}入力文章$q$に対する意味候補$d_i$の得点$s_q(d_i)$は二つのベクトルの余弦により求まる．式を以下に示す．\[s_q(d_i)=\frac{\sum_{j=1}^{M}w_\mathit{ij}w_\mathit{qj}}{\sqrt[]{\mathstrut{\sum_{j=1}^{M}{w_\mathit{ij}^2}}}\:\:\sqrt[]{\mathstrut{\sum_{j=1}^{M}{w_\mathit{qj}^2}}}}\]\subsection{評価結果}\label{result}本論文では，提案方法に対して，以下に示す3種類の入力文章(A，B，C)および3種類の関連性評価方法(1，2，3)，つまり，合計9パターンの評価を行った．\begin{itembox}[c]{評価方法（入力文章）}\begin{itemize}\item(A)英字略語を含む記事全体\item(B)英字略語を含む一文とその前後一文\item(C)英字略語を含む一文のみ\end{itemize}\end{itembox}\begin{itembox}[c]{評価方法（関連性評価方法）}\begin{itemize}\item(1)関連度計算（関連度）\item(2)EarthMover'sDistance(EMD)\item(3)ベクトル空間モデル(VSM)\end{itemize}\end{itembox}評価結果を表\ref{table:result}に示す．表\ref{table:result}における数値は正答率を示す．なお，\ref{positioning}章で紹介した先行研究\cite{okazaki:07,yoshida:05}は，適用可能な英字略語に制約条件（英字略語の意味を括弧書きで併記することが必要，片仮名表記が必要）がある．今回の評価で使用した129記事に対して，当該先行研究が適用できた英字略語はそれぞれ35\%程度であったため，これらの先行研究の正答率は最高でも35\%程度となる．\begin{table}[b]\caption{評価結果}\label{table:result}\input{02table05.txt}\end{table}表\ref{table:result}より，関連度計算はベクトル空間モデルよりも正答率が5--8\%高く，EMDはベクトル空間モデルよりも正答率が8--12\%高くなっており，提案方法が既存方法であるベクトル空間モデルよりも優れた結果を示した．また，EMDは関連度計算よりも3--4\%と若干ではあるが高い正答率を獲得した．他には，入力文章が長い（入力情報量が多い）ほど高い正答率を得ていることが分かる．意味推定結果の一例を図\ref{fig:result_sample_no1}，図\ref{fig:result_sample_no2}，図\ref{fig:result_sample_no3}に示す．\begin{figure}[t]\includegraphics{24-3ia2f3.eps}\caption{英字略語の意味推定結果一例（その1）}\label{fig:result_sample_no1}\end{figure}\begin{figure}[t]\includegraphics{24-3ia2f4.eps}\caption{英字略語の意味推定結果一例（その2）}\label{fig:result_sample_no2}\end{figure}\begin{figure}[t]\includegraphics{24-3ia2f5.eps}\caption{英字略語の意味推定結果一例（その3）}\label{fig:result_sample_no3}\end{figure}図\ref{fig:result_sample_no1}では，英字略語AFCに対して，Wikipediaから取得した13個の意味候補から，9つのすべてのパターンにおいて正しい意味を推定できており，英字略語の意味を十分に理解できていることが分かる．次に，図\ref{fig:result_sample_no2}では，英字略語HDに対して，20個の意味候補から，入力文章に英字略語を含む記事全体を使用した場合（パターン(A)）は正しい意味を推定できた一方，推定に失敗したパターンがある．具体的には，ベクトル空間モデルを使用し，かつ，入力文章に英字略語を含む一文とその前後一文または英字略語を含む一文のみを使用した場合（パターン(B)-(3)，パターン(C)-(3)）と，関連度計算を使用し，かつ，入力文章に英字略語を含む一文のみを使用した場合（パターン(C)-(1)）に失敗している．前者（パターン(B)-(3)，パターン(C)-(3)）は，単語の表記をもとに関連性を判断するベクトル空間モデルより，単語の意味を考慮して関連性を判断する関連度計算やEMDが有効に機能したためだと考えらえる．後者（パターン(C)-(1)）は，関連性の高い属性を1対1で対応をとって計算を行うために他の関連性の高い属性を除外する可能性がある関連度計算より，すべての属性を計算に利用するEMDが有効に機能したことが考えられる．最後に，図\ref{fig:result_sample_no3}では，英字略語FBに対して，16個の意味候補から，9つのすべてのパターンにおいて正しい意味を推定することができなかった．これは，入力文章に金銭に関連する語が多く含まれていたため，正しい意味である「フェイスブック」より金銭に関連する意味候補である「政府短期証券」のほうが意味的に近いと判定されたためだと考えられる．Wikipediaは現存する辞書の中で収録語数が最も多いとされるが，提案方法は，処理の拠り所である辞書に登録されていない単語には対応できないという問題がある．これは，辞書を使用する以上，避けられない問題である．ただし，評価実験で使用したデータとは異なる100件の新聞記事を無作為に調査した結果，Wikipediaに登録されていない英字略語の出現頻度は約4.5\%であった．よって，新聞記事に登場するような比較的一般的な英字略語を対象とする場合，Wikipediaに未登録の語があることに起因する正答率の低下は5\%程度であると考えられる．なお，今回実施した評価に関しては，Wikipediaに登録されていない英字略語は評価実験データから除外している．
\section{まとめ}
\label{conclusion}本論文では，英単語の頭文字から構成される表現である英字略語に焦点を当て，その意味を推定する方法について提案した．提案方法では，英字略語の意味推定を未知語の意味推定とみなし，語彙の概念化方法と語彙の意味的な近さを評価できる関連性評価方法を使用する．さらに，英字略語ゆえの情報の欠如をWikipediaを辞書として用いて補完することで，英字略語の多義性を解消し，英字略語の本来の意味を推定することを実現した．提案方法に対して，129件の新聞記事を入力文章として評価を行った．評価結果より，最高で80\%近い正答率を示したことに加え，表記に頼る比較方法より良好な結果を得ることができた．本論文で提案した技術により，英字略語の意味を理解しやすくすることができ，情報検索や自動要約など多くのアプリケーションの性能向上や知能ロボットの研究開発における自然な知的対話の実現に寄与することができると考えられる．今後の研究課題としては，近年，盛んに研究が行われているWord2Vec\cite{T.Mikolov:13}のようなニューラルネットワークを応用したベクトルモデルを適用する方法の検討が考えられる．ベクトルモデルを構築するために使用する情報源を適切に選択・構築することで，概念ベースそのものを拡張（性能向上）できる可能性がある．このような検討により，語彙の概念化処理を発展させ，より円滑な自然言語処理の実現が期待できる．\acknowledgment本研究の一部は，JSPS科研費16K00311の助成を受けたものです．\bibliographystyle{jnlpbbl_1.5}\begin{thebibliography}{}\bibitem[\protect\BCAY{藤江\JBA渡部\JBA河岡}{藤江\Jetal}{2009}]{fujie:09}藤江悠五\JBA渡部広一\JBA河岡司\BBOP2009\BBCP.\newblock概念ベースとEarthMover'sDistanceを用いた文書検索.\\newblock\Jem{自然言語処理},{\Bbf16}(3),\mbox{\BPGS\25--49}.\bibitem[\protect\BCAY{{Google,~Inc.}}{{Google,~Inc.}}{}]{google}{Google,~Inc.}\newblock\BBOQGoogle.\BBCQ\\newblock\Turl{http://www.google.co.jp}.\bibitem[\protect\BCAY{後藤\JBA土屋\JBA渡部\JBA河岡}{後藤\Jetal}{2008}]{goto:08}後藤和人\JBA土屋誠司\JBA渡部広一\JBA河岡司\BBOP2008\BBCP.\newblockWebを用いた未知語検索キーワードのシソーラスノードへの割付け手法.\\newblock\Jem{自然言語処理},{\Bbf15}(3),\mbox{\BPGS\91--113}.\bibitem[\protect\BCAY{広瀬\JBA渡部\JBA河岡}{広瀬\Jetal}{2002}]{hirose:02}広瀬幹規\JBA渡部広一\JBA河岡司\BBOP2002\BBCP.\newblock概念間ルールと属性としての出現頻度を考慮した概念ベースの自動精錬手法.\\newblock\Jem{信学技報},{\BbfNLC2001-93},\mbox{\BPGS\109--116}.\bibitem[\protect\BCAY{Hoffman}{Hoffman}{1963}]{A.J.Hoffman:63}Hoffman,A.~J.\BBOP1963\BBCP.\newblock\BBOQOnSimpleLinearProgramingProblems.\BBCQ\\newblockIn{\BemProceedingsofthe7thSymposiuminPureMathematicsoftheAMS},\lowercase{\BVOL}~7,\mbox{\BPGS\317--323}.\bibitem[\protect\BCAY{小島\JBA渡部\JBA河岡}{小島\Jetal}{2002}]{kojima:02}小島一秀\JBA渡部広一\JBA河岡司\BBOP2002\BBCP.\newblock連想システムのための概念ベース構成法—属性信頼度の考え方に基づく属性重みの決定.\\newblock\Jem{自然言語処理},{\Bbf9}(5),\mbox{\BPGS\93--110}.\bibitem[\protect\BCAY{Mihalcea}{Mihalcea}{2007}]{R.Mihalcea:07}Mihalcea,R.\BBOP2007\BBCP.\newblock\BBOQUsingWikipediaforAutomatricWordSenseDisambiguation.\BBCQ\\newblockIn{\BemProceedingsofNAACLHLT},\mbox{\BPGS\196--203}.\bibitem[\protect\BCAY{Mikolov,Chen,Corrado,\BBA\Dean}{Mikolovet~al.}{2013}]{T.Mikolov:13}Mikolov,T.,Chen,K.,Corrado,G.,\BBA\Dean,J.\BBOP2013\BBCP.\newblock\BBOQEfficientEstimationofWordRepresentationsinVectorSpace.\BBCQ\\newblock{\BemarXivpreprint},{\BbfarXiv:1301.3781},\mbox{\BPGS\1--12}.\bibitem[\protect\BCAY{岡崎\JBA石塚}{岡崎\JBA石塚}{2007}]{okazaki:07}岡崎直観\JBA石塚満\BBOP2007\BBCP.\newblock日本語新聞記事からの略語抽出.\\newblock\Jem{第21回人工知能学会全国大会論文集},{\Bbf2G4-4},\mbox{\BPGS\1--3}.\bibitem[\protect\BCAY{Okazaki,Ananiadou,\BBA\Tsujii}{Okazakiet~al.}{2010}]{N.Okazaki:10}Okazaki,N.,Ananiadou,S.,\BBA\Tsujii,J.\BBOP2010\BBCP.\newblock\BBOQBuildingaHigh-qualitySenseInventoryforImprovedAbbreviationDisambiguation.\BBCQ\\newblock{\BemBioinformatics},{\Bbf26}(9),\mbox{\BPGS\1246--1253}.\bibitem[\protect\BCAY{奥村\JBA土屋\JBA渡部\JBA河岡}{奥村\Jetal}{2007}]{okumura:07}奥村紀之\JBA土屋誠司\JBA渡部広一\JBA河岡司\BBOP2007\BBCP.\newblock概念間の関連度計算のための大規模概念ベースの構築.\\newblock\Jem{自然言語処理},{\Bbf14}(5),\mbox{\BPGS\41--64}.\bibitem[\protect\BCAY{Salton,Wong,\BBA\Yang}{Saltonet~al.}{1975}]{G.Salton:75}Salton,G.,Wong,A.,\BBA\Yang,C.~S.\BBOP1975\BBCP.\newblock\BBOQAVectorSpaceModelforAutomaticIndexing.\BBCQ\\newblock{\BemCommunicationsoftheACM},{\Bbf18}(11),\mbox{\BPGS\613--620}.\bibitem[\protect\BCAY{Stevenson,Guo,Amri,\BBA\Gaizauskas}{Stevensonet~al.}{2009}]{M.Stevenson:09}Stevenson,M.,Guo,Y.,Amri,A.~A.,\BBA\Gaizauskas,R.\BBOP2009\BBCP.\newblock\BBOQDisambiguationofBiomedicalAbbreviations.\BBCQ\\newblockIn{\BemProceedingsoftheWorkshoponBioNLP},\mbox{\BPGS\71--79}.\bibitem[\protect\BCAY{Sun,Lin,Tang,Yang,\BBA\Wang}{Sunet~al.}{2015}]{Y.Sun:15}Sun,Y.,Lin,L.,Tang,D.,Yang,N.,\BBA\Wang,X.\BBOP2015\BBCP.\newblock\BBOQModelingMention,ContextandEntitywithNeuralNetworksforEntityDisambiguation.\BBCQ\\newblockIn{\BemProceedingsofthe24thInternationalJointConferenceonArtificialIntelligence(IJCAI2015)},\mbox{\BPGS\1333--1339}.\bibitem[\protect\BCAY{徳永}{徳永}{1999}]{tokunaga:99}徳永健伸\BBOP1999\BBCP.\newblock\Jem{情報検索と言語処理}.\newblock東京大学出版会.\bibitem[\protect\BCAY{辻\JBA渡部\JBA河岡}{辻\Jetal}{2004}]{tsuji:04}辻泰希\JBA渡部広一\JBA河岡司\BBOP2004\BBCP.\newblockwwwを用いた概念ベースにない新概念およびその属性獲得手法.\\newblock\Jem{第18回人工知能学会全国大会論文集},{\Bbf2D1-02},\mbox{\BPGS\1--4}.\bibitem[\protect\BCAY{渡部\JBA河岡}{渡部\JBA河岡}{2001}]{watabe:01}渡部広一\JBA河岡司\BBOP2001\BBCP.\newblock常識的判断のための概念間の関連度評価モデル.\\newblock\Jem{自然言語処理},{\Bbf8}(2),\mbox{\BPGS\39--54}.\bibitem[\protect\BCAY{渡部\JBA奥村\JBA河岡}{渡部\Jetal}{2006}]{watabe:06}渡部広一\JBA奥村紀之\JBA河岡司\BBOP2006\BBCP.\newblock概念の意味属性と共起情報を用いた関連度計算方式.\\newblock\Jem{自然言語処理},{\Bbf13}(1),\mbox{\BPGS\53--74}.\bibitem[\protect\BCAY{ウィキメディア財団}{ウィキメディア財団}{}]{Wikipedia}ウィキメディア財団.\newblockウィキペディアフリー百科事典.\\newblock\Turl{https://jp.wikipedia.org}.\bibitem[\protect\BCAY{吉田\JBA遠間\JBA増山\JBA酒井}{吉田\Jetal}{2005}]{yoshida:05}吉田辰巳\JBA遠間雄二\JBA増山繁\JBA酒井浩之\BBOP2005\BBCP.\newblock可読性の向上を目的とした片仮名表記外来語の換言知識獲得.\\newblock\Jem{電子情報通信学会論文誌},{\BbfJ88-D-II}(7),\mbox{\BPGS\1237--1245}.\end{thebibliography}\clearpage\begin{biography}\bioauthor{後藤和人}{2008年同志社大学大学院工学研究科博士前期課程修了．同年，日本電信電話株式会社入社．知識情報処理等の研究に従事．電子情報通信学会会員．}\bioauthor{土屋誠司}{2007年同志社大学大学院工学研究科博士後期課程修了．工学博士．2017年同志社大学理工学部教授．意味解釈等の研究に従事．言語処理，人工知能，情報処理，電子情報通信，日本認知科学会各会員．}\bioauthor{渡部広一}{1987年北海道大学大学院工学研究科博士後期課程中途退学．工学博士．2006年同志社大学工学部教授．概念処理等の研究に従事．言語処理，人工知能，情報処理，電子情報通信，システム制御情報，精密工学会各会員．}\end{biography}\biodate\end{document}