\section{はじめに}
\label{sec1}自然言語処理システムにおいては,処理する言語に関する情報をどれほど豊かにそなえているかが，そのシステムの性能に大きな影響を与える.とくに分かち書きをしない日本語では,その形態素解析だけのためにも膨大な量の辞書データをそろえる必要がある.しかし,辞書データの蓄積は,自動的に行うことが困難であり,人手による膨大な時間と労力を必要とする.幸い,最近では公開の辞書データの入手も可能となってきたが,それでもなお,新しい文法体系を試みるような場合には,その辞書を用意するのに手間がかかりすぎて,本題の研究にかかれないことがおきる.本稿では,辞書データがほとんどない状態から始めても,大量の日本語テキストを与えることで,形態素に関する辞書データを自動的に蓄積する方法を与えることを目的とする.具体的には,形態素に関する種々の規則と,統計的知識を利用して,未知の形態素の切出しとその品詞,活用種類,活用形などの推定を行う.推定するたびにその信頼性を評価し,大量のテキストを走査するうちに十分高い信頼性を得るに至ったものを,正しい形態素として辞書に登録する.現在までに,計算機によって自動的に辞書情報を獲得するいくつかの研究が行われてきている\cite{Kokuritu,Suzuki}.また,べた書き日本語文の形態素解析における曖昧さと未知語の問題を統計的手段によって解決しようとする試みもある\cite{Nagata,Simomura}.文献\cite{Nagata}では,品詞のtrigramを用いて言語を統計モデル化し,効率的な2-passN-best探索アルゴリズムを採用している.また,字種のtrigramを利用して未知語処理を行っている.文献\cite{Simomura}では,単語をノードとする木の最小コストパス探索問題として形態素解析をモデル化している.その上で,実際に単語接続確率モデルに基づいてコストを設定し形態素解析を実現している.ここでの研究の目的は,辞書データがほとんどないところから始めても未知語が獲得していける方法を提供することにある.実際に実験システムを構成して,比較的簡易な機構によって目的が達成できることを確認した.本論文の構成は次のようになっている.まず初めに,2章でシステムの概要について述べる.3章,4章では,形態素の連接関係に着目し,形態素と形態素属性を獲得する方法について説明する.5章では,獲得した情報を保管し,十分な信頼性をもつに至ったとき辞書に登録する方式を説明する.最後に,6章で,本手法による実験結果を提示し,まとめを行う.
\section{システム概要と統計知識}
\subsection{システム概要}\label{system_info}本システムは,日本語の形態素に関する,構成規則,連接規則および連接確率表をもって日本語の入力テキストの解析を行い,形態素とその属性を自動的に抽出する.抽出した情報は,2種類の辞書に分けて管理する.\begin{itemize}\item完全情報辞書:信頼できる情報として確定した形態素を保管する.予め,確定したものとしての形態素が登録してあってもよい.それぞれの形態素とその形態素属性(品詞,活用種類,活用形)の各項目が記録してある.完全情報辞書は,入力テキストの解析においても利用する.\item不完全情報辞書:抽出した形態素の候補を保管する.完全情報辞書と同様の項目に加えて,その信頼性を示す評価値が記録してある.\end{itemize}システムは,大きく辞書情報推定処理と辞書再構成処理とからなり,入力テキストの文ごとに解析を行う.辞書情報推定処理は,組み込みの規則・表と完全情報辞書を用いて文を形態素(候補)に分割した上で,未知(完全情報辞書にない)の形態素候補に対してその形態素属性を推定する.このとき,その推定の信頼性についての評価値も計算する.辞書再構成処理は,得られた未知の形態素についての情報と評価値を不完全情報辞書に付加する.すでに登録されている候補については,登録されている評価値を改訂する.この結果,評価値が基準値以上となった形態素は,不完全情報辞書から完全情報辞書に移動する.図\ref{fig:overview}に処理の概要を示す.\begin{figure*}[tb]\epsfile{file=park1.eps,scale=1.0}\caption{処理の概要}\label{fig:overview}\end{figure*}\subsection{形態素体系}\label{morpheme_taikei}本システムにおいては,形態素に関してつぎの体系を採用した.\begin{itemize}\item字種構成:形態素は,ひらがな,カタカナ,漢字,漢字＋ひらがな\footnote{漢字の並びの後ろにひらがなの並びがくるものをいう.},英字,数字,記号のいずれかの字種だけで構成される.\item品詞分類:形態素の品詞は,動詞,形容詞,形容動詞,助動詞(活用する品詞)と,名詞,副詞,連体詞,接続詞,感動詞,助詞,接辞,特殊(活用しない品詞)に分類する.助詞は,さらに格助詞,接続助詞,副助詞,引用助詞,連用助詞,終助詞に分類する.\item活用種類:動詞の活用種類は,五段活用,上一段活用,下一段活用,カ行変格活用,サ行変格活用のいずれかとする.前3者には,活用行の別が伴う.\item活用形:活用形は,未然形,連用形,終止形,連体形,仮定形,命令形(ただし,形容詞と形容動詞は命令形をとらない.)の６種類とする.\end{itemize}この体系で日本語の形態素すべてが扱えるわけではない.たとえば,字種構成の規則からは「は握」などの混ぜ書き語が扱えない.これは,完全情報辞書にごく少数の登録しかない状態から始めて自動的に形態素情報を抽出させるという目的から,体系の完全性を期すよりも,入力テキストの解析が有効に行え,実質的に多くの形態素とその属性が自動抽出できることの方を優先させたことによる.また,形態素について,ここに示した品詞,活用に関する属性以外の属性は考えない.たとえば,名詞を固有名詞,一般名詞などに分類することはしない.同じ形態素が複数の活用形に対応することがある.\{行く\}は、終止形にも連体形にも対応する.さらに同じ形態素が複数の活用種類(活用行)に対応することもある.\{行っ\}は、\{行く\}\hspace{0.3mm}(か\hspace{0.2mm}行\hspace{0.2mm}五\hspace{0.2mm}段)にも\{行う\}(わ\hspace{0.2mm}行\hspace{0.2mm}五\hspace{0.2mm}段)\hspace{0.3mm}にも対応する.そこで,\hspace{0.2mm}本システムでは,\hspace{0.2mm}形\hspace{0.2mm}態\hspace{0.2mm}素の品\hspace{0.2mm}詞が活用するものであるときは,その活用に関する属性を集合として取り扱うことにした.辞書についても,活用に関する属性は一般に集合として登録しておく.\subsection{連接規則と初期辞書設定}\label{init_info}上で述べた形態素の体系は,形態素どうしの連接についての規則も包含する.活用形はその直後に来る形態素の品詞をある程度限定するし,助動詞や助詞はその直前に来る品詞や活用形を限定する.とくに助動詞・助詞による限定は,個々の助動詞・助詞に強く依存する.さらに助動詞の活用形は,個々の助動詞によって異なる.そこで本システムでは,初期の完全情報辞書には少なくともすべての助動詞・助詞を登録しておく\footnote{ここでいう助動詞には,\{ある\},\{なる\}などのいわゆる補助動詞を含める.助動詞・助詞を含め全部で約100語になる.}ことを前提とした.これに加えて,助動詞についてはその活用形と直前に来る品詞や活用形の制限を,助詞についてはその分類ごとに直前に来る活用形の制限を,プログラムに組み込んだ.また,他の活用語についても活用形による直後に来る品詞の部分的な制限をプログラムに組み込んだ.これらの規則の組込みだけでは尽くせない連接がある.たとえば,名詞どうしが連接しうるし,副詞と名詞が連接しうる.本システムでは,形態素レベルでの連接関係だけで辞書情報を得ることを目的とする.そこで,これらの連接関係については,日本語についての統計知識を連接確率表の形で組み込むこととした.\subsection{確率表の組込み}形態素についての統計知識は,字種構成に関するものと,連接関係に関するものを,つぎのような確率表の形にしてシステムに組み込んだ.\begin{itemize}\item形態素の字種カテゴリーからみた品詞の確率表(表\ref{tab:char_type_matrix}),\item後方の助詞からみた前方品詞の連接確率表(表\ref{tab:particle_connect_matrix}),\item後方の品詞からみた前方品詞の連接確率表(表\ref{tab:connect_matrix}),\item前方の品詞からみた後方品詞の連接確率表(表\ref{tab:connect_before_matrix})\end{itemize}前3者は属性の推定に用い,最後のものは推定結果の信頼性評価に用いる.\begin{table}\begin{center}\caption{\bf形態素を構成する字種からみた品詞の分布}\label{tab:char_type_matrix}\tiny\def\arraystretch{}\begin{tabular}{l|r|r|r|r|r|r|r|r|r|r|r|r|r}\hline\hline{構成字種}&\multicolumn{13}{c}{品詞}\\\cline{2-14}{分類}&\multicolumn{1}{c|}{名詞}&\multicolumn{1}{c|}{動詞}&\multicolumn{1}{c|}{形容詞}&\multicolumn{1}{c|}{形容動詞}&\multicolumn{1}{c|}{副詞}&\multicolumn{1}{c|}{連体詞}&\multicolumn{1}{c|}{接続詞}&\multicolumn{1}{c|}{感動詞}&\multicolumn{1}{c|}{助詞}&\multicolumn{1}{c|}{助動詞}&\multicolumn{1}{c|}{接辞}&\multicolumn{1}{c|}{特殊}&\multicolumn{1}{c}{合計2}\\\hlineひらがな&0.101&0.137&0.009&0.002&0.027&0.016&0.007&0&0.552&0.11&0.038&0&0.468\\\hlineカタカナ&1&0&0&0&0&0&0&0&0&0&0&0&0.019\\\hline漢字&0.949&0.002&0.002&0.001&0.006&0.001&0&0&0&0&0.04&0&0.293\\\hline漢字+ひらがな&0.159&0.557&0.129&0.084&0.032&0.009&0&0&0&0&0.03&0&0.083\\\hline英数字&1&0&0&0&0&0&0&0&0&0&0&0&0.017\\\hline記号&0&0&0&0&0&0&0&0&0&0&0&1&0.121\\\hline合計1&0.378&0.111&0.015&0.008&0.017&0.008&0.004&0&0.259&0.052&0.032&0.121&1\\\hline\end{tabular}\end{center}\end{table}\begin{table}\begin{center}\caption{\bf助詞と他品詞間の連接関係(後方の品詞を基準とする)}\label{tab:particle_connect_matrix}\tiny\def\arraystretch{}\begin{tabular}{l|r|r|r|r|r|r|r|r|r|r|r|r}\hline\hline{連接元助詞}&\multicolumn{12}{c}{連接元助詞の前に連接する品詞}\\\cline{2-13}&\multicolumn{1}{c|}{名詞}&\multicolumn{1}{c|}{動詞}&\multicolumn{1}{c|}{形容詞}&\multicolumn{1}{c|}{形容動詞}&\multicolumn{1}{c|}{副詞}&\multicolumn{1}{c|}{連体詞}&\multicolumn{1}{c|}{接続詞}&\multicolumn{1}{c|}{感動詞}&\multicolumn{1}{c|}{助詞}&\multicolumn{1}{c|}{助動詞}&\multicolumn{1}{c|}{接辞}&\multicolumn{1}{c}{特殊}\\\hline格助詞&0.887&0.013&0.001&0&0&0&0&0&0.023&0.005&0.037&0.034\\\hline接続助詞&0.541&0.291&0.007&0.002&0.001&0&0&0&0.061&0.036&0.038&0.023\\\hline副助詞&0.702&0.031&0.004&0.005&0.02&0&0&0&0.159&0.035&0.032&0.013\\\hline引用助詞&0&0.361&0.012&0.007&0&0&0&0&0.005&0.311&0.043&0.261\\\hline連用助詞&0.903&0.016&0&0&0&0&0&0&0.021&0&0.035&0.023\\\hline終助詞&0.35&0.157&0.035&0.01&0&0&0&0&0.031&0.205&0.211&0\\\hline\end{tabular}\end{center}\end{table}\begin{table}\begin{center}\caption{\bf品詞間の連接関係(後方の品詞を基準とする)}\label{tab:connect_matrix}\tiny\def\arraystretch{}\begin{tabular}{l|r|r|r|r|r|r|r|r|r|r|r|r}\hline\hline{連接元品詞}&\multicolumn{12}{c}{連接元品詞の前に連接する品詞}\\\cline{2-13}&\multicolumn{1}{c|}{名詞}&\multicolumn{1}{c|}{動詞}&\multicolumn{1}{c|}{形容詞}&\multicolumn{1}{c|}{形容動詞}&\multicolumn{1}{c|}{副詞}&\multicolumn{1}{c|}{連体詞}&\multicolumn{1}{c|}{接続詞}&\multicolumn{1}{c|}{感動詞}&\multicolumn{1}{c|}{助詞}&\multicolumn{1}{c|}{助動詞}&\multicolumn{1}{c|}{接辞}&\multicolumn{1}{c}{特殊}\\\hline名詞&0.315&0.064&0.018&0.013&0.02&0.022&0.002&0&0.324&0.046&0.03&0.148\\\hline動詞&0.188&0.038&0.016&0.014&0.036&0.002&0.002&0&0.636&0.033&0.011&0.024\\\hline形容詞&0.016&0.049&0.008&0.006&0.078&0.007&0.002&0&0.696&0.029&0.002&0.106\\\hline形容動詞&0.009&0.05&0.005&0.01&0.075&0.009&0.003&0&0.575&0.045&0.012&0.207\\\hline副詞&0.01&0.064&0.004&0.004&0.029&0.009&0&0&0.531&0.048&0.006&0.294\\\hline連体詞&0.002&0.027&0.006&0.003&0.043&0.004&0.004&0&0.479&0.037&0.003&0.391\\\hline接続詞&0&0&0&0&0&0&0&0&0&0&0&1\\\hline感動詞&0&0&0&0&0&0&0&0&0&0&0&1\\\hline助詞&0.748&0.095&0.003&0.002&0.004&0&0&0&0.058&0.023&0.038&0.028\\\hline助動詞&0.275&0.594&0.013&0.003&0&0&0&0&0.019&0.051&0.039&0.006\\\hline接辞&0.506&0.208&0.015&0.004&0.002&0.002&0&0&0.198&0.05&0&0.016\\\hline特殊&0.208&0.18&0.044&0.01&0.022&0.002&0.022&0&0.252&0.175&0.071&0.014\\\hline\end{tabular}\end{center}\end{table}\begin{table}\begin{center}\caption{\bf品詞間の連接関係(前方の品詞を基準とする)}\label{tab:connect_before_matrix}\tiny\def\arraystretch{}\begin{tabular}{l|r|r|r|r|r|r|r|r|r|r|r|r}\hline\hline{連接元品詞}&\multicolumn{12}{c}{連接元品詞の前に連接する品詞}\\\cline{2-13}&\multicolumn{1}{c|}{名詞}&\multicolumn{1}{c|}{動詞}&\multicolumn{1}{c|}{形容詞}&\multicolumn{1}{c|}{形容動詞}&\multicolumn{1}{c|}{副詞}&\multicolumn{1}{c|}{連体詞}&\multicolumn{1}{c|}{接続詞}&\multicolumn{1}{c|}{感動詞}&\multicolumn{1}{c|}{助詞}&\multicolumn{1}{c|}{助動詞}&\multicolumn{1}{c|}{接辞}&\multicolumn{1}{c}{特殊}\\\hline名詞&0.29&0.201&0.407&0.559&0.405&0.904&0.189&0&0.437&0.312&0.327&0.699\\\hline動詞&{\bf0.055}&{\bf0.037}&0.114&0.183&{\bf0.236}&0.025&0.066&0&0.27&0.071&0.037&0.035\\\hline形容詞&{\bf0.001}&{\bf0.006}&0.008&0.01&{\bf0.067}&0.012&0.007&0&0.039&0.008&0.001&0.021\\\hline形容動詞&0&0.003&0.003&0.009&0.034&0.008&0.006&0&0.017&0.007&0.003&0.022\\\hline副詞&0&0.008&0.004&0.006&0.024&0.015&0.004&0&0.029&0.013&0.003&0.057\\\hline連体詞&0&0.001&0.002&0.002&0.015&0.002&0.007&0&0.011&0.004&0.001&0.03\\\hline接続詞&0&0&0&0&0&0&0&0&0&0&0&0.005\\\hline感動詞&0&0&0&0&0&0&0&0&0&0&0&0\\\hline助詞&0.512&0.222&0.054&0.054&0.063&0.006&0.005&0&0.058&0.114&0.307&0.099\\\hline助動詞&0.037&{\bf0.276}&{\bf0.046}&0.021&0&0&0&0&0.004&0.051&0.063&0.004\\\hline接辞&0.04&0.057&0.031&0.014&0.003&0.005&0&0&0.023&0.029&0&0.007\\\hline特殊&0.064&0.187&0.332&0.14&0.151&0.021&0.716&1&0.112&0.391&0.259&0.021\\\hline\end{tabular}\end{center}\end{table}これらの統計知識は,入手可能であった朝日新聞の91年1月から6月までの社説\footnote{電子ブック「朝日新聞--天声人語・社説増補改訂版(英訳付)」(株)紀伊國屋書店・日本アソシエーツ(株)を用いた.}(総文字数884,696,総形態数241,573)を日本語総体とみなして我々自らで算出したものである.これは,日本語全般にわたるこれらの統計知識として確立したものを入手することができなかったことによる,止むを得ない処置であった.(確立した統計知識が得られないこともあって,先に述べたような,簡略化した形態素体系を採用することにもなった.)なお,文頭の形態素には先行する形態素がない,文末の形態素には後続する形態素がないという特殊性から,表\ref{tab:connect_matrix}と表\ref{tab:connect_before_matrix}は,たんなる転置行列にはなっていない.この統計知識の算出にあたっては,極力人手を省くため,公開されているJUMAN\footnote{京都大学・奈良先端科学技術大学院大学で開発されたものである.}を利用した.ただし,JUMANが採用している形態素体系は,本システムで想定したものとは若干異なるので,その差異を自動的に変換するプログラムを用意して算出を行った.JUMANは,また,その辞書にない形態素を未定義語と分類してしまう.そこで,JUMANの解析結果を人手によって調べ,未定義語となったものについてそれぞれその辞書に追加登録を行い,改めて統計をとった上で算出を行った.(同時に,その辞書について発見した誤りについても,訂正を行った.)
\section{形態素への分割}
\label{word}文を形態素に分割する処理では,辞書引きに依存するのがふつうである.しかし,本システムは,辞書がほとんど整備されていなくても使えることを目的としているから,字種によって,まず文の1次分割を行う.1次分割では,文を左から右へと走査する.得られた分割それぞれについて,辞書引きを援用しながら右から左へと走査しながら2次分割を行う.これは,辞書に助詞・助動詞が少なくとも入っているという前提を活かすためである.\subsection{分割アルゴリズム}\label{jishukiri}文の形態素(候補)への分割は,つぎの手順による.\begin{enumerate}\item1次分割：字種が変化する位置だけに着目して,文を左から右へ走査し,2度目の変化点ごとに分割していく.ただし,記号の前後では.これにかかわらず必ず分割する.また,2度目の変化点で,漢字からひらがなへと変化する場合は,その次の変化点で分割する.\item2次分割：1次分割で得た区分ごとに処理を行う.区分内を右から左に走査しながら,つぎの条件を満たす最長の部分ごとに分割していく.\begin{itemize}\item完全情報辞書に一致する形態素があれば,その最長のもの\itemなければ,字種構成の規則(~\ref{morpheme_taikei}節参照)で許される最長のもの\end{itemize}\end{enumerate}例として,「アジア外交の変革を求めた」に本アルゴリズムを適用してみる.ここでは,助詞・助動詞だけが完全情報辞書に入っていると仮定しておく.まず,1次分割によって,つぎのように分割される.$$「アジア外交の\mid変革を\mid求めた」$$区分「アジア外交の」に対する2次分割は,つぎのようになる.まず末尾からの部分列$$\{の\},\{交の\},\{外交の\},\{ア外交の\},...$$に対して辞書引きを行う.ここでは,助詞\{の\}が完全情報辞書にあるので,これを切り離す.次に$$\{交\},\{外交\},\{ア外交\},...$$に対して辞書引きを行うが,いずれも辞書にない.字種構成の規則(カタカナ＋漢字の構成を認めていない)から最長の\{外交\}を切り離す.残った部分列\{アジア\}に対しても,同様に走査するが,途中での切離しは生じない.こうして,$$「アジア\mid外交\midの」$$という,形態素(候補)への分割が終わる.同様に,「変革$\mid$を」(助詞\{を\}が辞書にある),「求め$\mid$た」(助動詞\{た\}が辞書にある)という分割を得る.こうして,$$「アジア\mid外交\midの\mid変革\midを\mid求め\midた」$$の計7個の形態素(候補)が得られる.1次分割で得られる区分の末尾にはひらがなが並ぶことが多い.その部分での2次分割が円滑に行えるように助動詞・助詞の辞書登録を必須の条件にした.また,手近な例文で試行錯誤を行い,接続詞,連体詞などの,かな書きされ,1次分割結果の区分の先頭に現れやすい活用しない単語約100語を選定して,これらも完全情報辞書に最初から登録しておくこととした.\subsection{形態素の確定マーク}分割アルゴリズムによって得た形態素(候補)のうち,つぎのものだけに確定マークをつけておく.\begin{itemize}\item完全情報辞書から直接に得たもの\item字種が,カタカナ,漢字,英字,数字,記号のいずれか1つだけで構成されるもの\end{itemize}確定マークは,辞書再構成処理で不完全情報辞書から形態素候補を取り除く際に補助情報として利用する.確定マークがつかないのは,ひらがな,漢字＋ひらがなの字種構成になっているものに限られる.「アジア$\mid$外交$\mid$の$\mid$変革$\mid$を$\mid$求め$\mid$た」の例では,\{求め\}だけに確定マークがつかず,他のものにはすべて確定マークがつく.
\section{形態素属性の推定}
\label{grammar}形態素への分割によって得られた形態素のうち,未知の(完全情報辞書になかった)ものの形態素属性を,既知の(完全情報辞書にあった)形態素の属性などから推定する.属性推定は,品詞の推定を主とし,活用に関する属性はその補助として行う.未知の形態素に対して推定される形態素情報は,ふつう何種類にも及ぶ.推定が終わると,得られた形態素情報に対して,それぞれ評価値を計算する.図\ref{fig:pers_fig}にその流れを示す.\begin{figure*}[tb]\epsfile{file=park2.eps,scale=1.0}\caption{形態素属性推定の流れ}\label{fig:pers_fig}\end{figure*}\subsection{属性推定アルゴリズム}文の分割で得られた形態素(候補)列について,文末から文頭への方向に属性推定作業を進める.推定は,既知の形態素から始めて次の既知の形態素に至るまでの,未知形態素の列ごとに行う.必要なら,文末に既知の形態素としての句点(品詞は特殊)を仮定する.推定は,つぎの手順による.\begin{enumerate}\item形態素の字種がカタカナ,英字,数字で構成されていれば,品詞を名詞として推定を終える.記号で構成されていれば,品詞を特殊として推定を終える.\itemその他の字種構成の場合は,表~\ref{tab:char_type_matrix}から確率$0$でない品詞(助詞・助動詞は除く)だけを候補とする.その上で,直後の形態素が助詞であれば,表~\ref{tab:particle_connect_matrix}を調べて確率が$0$の品詞を候補から除外する.\item品詞候補として活用するものがある場合には,形態素の語尾を調べ,活用種類・活用形を推定する.この結果と両立しえない品詞候補は除外する.\itemそれぞれの品詞候補と直後の形態素の品詞との連接を調べ,規則から許されないものは除外する.このとき,活用する品詞候補については,前段で得た活用種類・活用形も含めて調べる.とくに直後の形態素が助詞・助動詞であればその個々の規則を適用する.\item残った品詞候補について,候補3選規則(\ref{narrowing}節参照)を適用して高々3つに絞り込む.\end{enumerate}最後の2段階は,直後の形態素が未知のものであれば,そこで推定された品詞ごとに施す.それらの結果すべてを一括して推定結果とする.したがって,推定結果が4つ以上になることもありえる.\subsubsection{候補3選規則}\label{narrowing}それまでに得られた複数の品詞候補の中から,直後の形態素の品詞との連接確率(表~\ref{tab:connect_matrix})を利用して,高々3つに候補を絞り込むためのつぎの規則を候補3選規則とよぶ.\begin{itemize}\item候補3選規則:表~\ref{tab:connect_matrix}での値が高いものから順に2つを選ぶ.第3位のものの確率が$0.1$以上であれば,これも選ぶ.\end{itemize}確率が$0$のものは,対象外とする.したがって,候補3選規則を適用した結果,残る候補が1つになることもある.\subsection{属性推定の例}「事$\mid$は$\mid$少し$\mid$動き$\mid$そうだ」を例に,属性推定の様子を示す.ここで,\{は\}と\{そうだ\}は,それぞれ助詞,助動詞として既知である.推定作業は,「少し$\mid$動き」と「事」についてそれぞれ起きる.\begin{enumerate}\item\{動き\}についての推定から始める.直後の形態素が助詞でないから,その字種構成から名詞,動詞,形容詞,形容動詞などが品詞候補となる.語尾\{き\}からか行五段(連用)・か行上一段(未然,連用)・か行変格(連用)の動詞,または形容詞・形容動詞の語幹と推定できる.そこで,直後の形態素\{そうだ\}との連接を調べる.助動詞\{そうだ\}は,終止形,連用形,語幹にだけ連接するから,品詞候補は動詞(連用形),形容詞(語幹),形容動詞(語幹)だけになる.候補3選規則を適用して,動詞(連用形),形容詞(語幹)と推定する.\item\{少し\}について推定する.字種構成,語尾から候補は,名詞,動詞(さ行五段(連用)・さ行変格(連用)),形容詞(語幹),形容動詞(語幹)などとなる.直後の形態素\{動き\}を動詞とすれば,語幹には連接しないから形容詞,形容動詞は除外でき,さらに候補3選規則を適用して名詞,動詞と推定する.同様に\{動き\}を形容詞とすれば,副詞,動詞と推定することになる.一括して,名詞,動詞(連用),副詞と推定する.\item\{事\}について推定する.直後の形態素が格助詞\{は\}であることから,名詞,動詞,形容詞が候補となり,字種構成からも除外はおきない.語尾からは,動詞が除外され,形容詞(語幹)と推定できる.\{は\}は形容詞語幹に接続しないことから,形容詞が除外される.候補3選規則を適用して(するまでもないが),名詞と推定する.\end{enumerate}この例からもわかるように,活用に関する推定は,\begin{itemize}\item形態素自身の形(語尾)からの推定\itemそれに対する連接による限定\end{itemize}の2段階からなる.後者はその出現位置に依存する情報であり,前者は依存しない情報である.そこで,システム内では,前者で得た情報をそのまま保持し,その特定出現位置について除外されたものにはその旨を示す除外マークをつけておくという記録方式をとった.\subsection{評価値の算出}推定された形態素属性については,それぞれの品詞ごとにその推定の信頼性を示す評価値を算出する.切り出された形態素の字種構成が,カタカナ,英字,数字,記号の場合には,その評価値を1.0とする.残る字種構成の形態素に対する評価値の算出に当たっては,品詞$N$の直後に品詞$M$が現れる確率$T[N,M]$を与えた表\ref{tab:connect_before_matrix}を利用する.いま,切り出された形態素$A$に対して推定された品詞が$M_1,M_2,...,M_n$の$n$種類あったとする.また,$A$の後ろに一番近く位置する,完全情報辞書に登録されている形態素が$D$であり,その品詞が$M$であったとする.このとき,各品詞$M_j$に対する評価値$E_j$をつぎのようにして求める.\begin{itemize}\item$A$が$D$の直前にある場合\\$T[M_i,M]$を正規化した値を,評価値$E_i$とする.$$E_i=\frac{T[M_i,M]}{\sum_{i=1}^nT[M_i,M]}$$\item$A$が他の形態素$B$の直前にある場合\\ここで,$B$は完全情報辞書にない形態素である.$B$に対して推定された品詞が$N_1,N_2,...,N_k$であり,その評価値が$F_1,F_2,...,F_k$としてすでに計算できているとしよう.このとき,$A$の各品詞$M_i$に対して,つぎの一時値$P_i$を計算する.$$P_i=\max_{1\leqj\leqk}T[M_i,N_j]\timesF_j$$この一時値$P_i$を正規化したものを評価値$E_i$とする.$$E_i=\frac{P_i}{\sum_{i=1}^nP_i}$$\end{itemize}上の計算方法は,帰納的に与えてあることに注意する.これから,$A$と$D$の間に,複数の未知の形態素$B_1,B_2,...$が並んでいる場合にも,それぞれの推定された品詞に対する評価値を計算することができる.しかしながら,形態素候補の切り出し方からして,複数が並ぶ例には,ほどんど出会わない.「少し$\mid$動き$\mid$\そうだ」を例にとって,評価値の計算を示す.\{そうだ\}は助動詞であり,そこからの形態素情報推定によって,\{動き\}は動詞,形容詞,\{少し\}は名詞,動詞,副詞と品詞が推定されている.すると,\{動き\}についての評価値は,表\ref{tab:connect_before_matrix}からつぎのようになる.\begin{description}\item動詞:$0.276/(0.276+0.046)=0.857$\item形容詞:$0.046/(0.276+0.046)=0.143$\end{description}\{少し\}については,まず一時値がつぎのようになる.\begin{description}\item名詞:$\max(0.055\times0.857,\hspace*{0.4cm}0.001\times0.143)=0.047$\item動詞:$\max(0.037\times0.857,\hspace*{0.4cm}0.006\times0.143)=0.032$\item副詞:$\max(0.236\times0.857,\hspace*{0.4cm}0.067\times0.143)=0.202$\end{description}これから,評価値は,つぎのように求められる.\begin{description}\item名詞:$0.047/(0.047+0.032+0.202)=0.167$\item動詞:$0.032/(0.047+0.032+0.202)=0.114$\item副詞:$0.202/(0.047+0.032+0.202)=0.719$\end{description}
\section{辞書再構成処理}
形態素情報推定で得られた,形態素とその形態素情報,およびその評価値は,不完全情報辞書に追加登録する(形態素に対する確定マーク,活用に対する除外マークは,無視する.).このとき,同じ形態素と形態素情報がすでに登録されているなら,評価値の改定を行う.その上で,登録された評価値を調べ,十分に高い評価値をもつ形態素と形態素情報は,完全情報辞書に移動する.逆に,あまりに低い評価値しかもたないものは,不完全情報辞書から削除する.\subsection{評価値の改定}\label{sin_hyouka}推定された形態素とその形態素情報が,すでに不完全辞書に登録されている場合には,登録されている評価値$E_{old}$を,推定から得た評価値$E_{estimate}$を用いて計算したつぎの値$E_{new}$に改定する.\begin{center}$E_{new}=E_{old}+E_{estimate}-(E_{old}\timesE_{estimate})$\end{center}ここで,$0\leqE_{new}\leq1$であり,しかも$E_{new}\geqE_{old}$かつ$E_{new}\geqE_{estimate}$となることに注意されたい.実際,\begin{center}$(1-E_{new})=(1-E_{old})\times(1-E_{estimate})$\end{center}であり,$(1-E_{old})$,$(1-E_{estimate})$がそれぞれの評価での「不確かさ」を示す.したがって,改定した評価値$E_{new}$での「不確かさ」$(1-E_{new})$は,その両者の「不確かさ」の積に減少する.\vspace{-0,5mm}\subsection{形態素の移動と削除}\vspace{-0,5mm}不完全情報辞書に登録された,形態素とその形態素情報に対する評価値が,一定の基準値$E_{upper}$に達した場合には,その形態素と形態素情報の組を完全情報辞書に移動する.このとき,同じ形態素で,異なる形態素情報と組になったものが不完全情報辞書の中にあれば,それらをすべて削除する.本システムでは,$E_{upper}=0.85$とした.この値は,少量のデータ\footnote{朝日新聞社説の1ヶ月分}について予備実験を行い,システム全体での形態素獲得の成功率がもっとも高くなるように選んだものである.一方で,システムの辞書保守の効率を高めるためには,評価値が一定の基準値$E_{lower}$に満たない形態素と形態素情報の組を不完全情報辞書から削除したい.しかしながら,その字種構成などから形態素そのものは確実だと思われるものは残したい.そこで,形態素切り出しが確定マークをもたないものを追加登録した際に,なお改定評価値が$E_{lower}$に満たない,形態素と形態素属性の組は,不完全情報辞書から削除することにした.本システムでは,$E_{lower}=0.1$とした.この値は,少量のデータ\footnote{朝日新聞社説の1ヶ月分}について予備実験を行い,システム全体での辞書保守の手間が実用的な範囲に収まり,しかも形態素獲得の成功率が高くなるように選定したものである.\vspace{-0,5mm}
\section{実験結果及び考察}
\label{experiment}\vspace{-0,5mm}以上のような考えに従ったシステムを実験的に試作し,その性能評価を行った.試作システムは,CとKCL(KyotoCommonLisp)を用いて,Sun4(SPARCstation2)の上に開発した.評価のための実験では,完全情報辞書を,システムの最低要件である助詞・助動詞と,約100語の活用をもたない,かながき形態素だけに初期設定した.用いたテストデータは,朝日新聞の社説6ヶ月分であり,その形態素総数は約240,000であり,異なる15,532の形態素が完全情報辞書に新たに得られた.その結果を詳細に評価するため,さらにつぎのことを行った.システムに手を加えて辞書再構成処理を取り除き,形態素の切出しとその形態素属性の推定だけを行い,その結果それぞれ(形態素に対する確定マーク,活用に関する除外マークも含む)をファイルに書き出すように改めた.この改造システムに先に獲得した完全情報辞書を与えて,同じ入力テキストのもとで走らせた.その出力ファイルの内容を,入力テキストと逐一照合して,形態素とその形態素情報が一意的に決定または推定され,しかもそれが正しいものを推定成功として数えた.このとき,活用する品詞については,その活用形が一意的に推定できていれば(活用種類が一意的になっていなくても),推定成功とした.\begin{table}\begin{center}\caption{\bf推定実験結果}\label{tab:exp_result}\begin{tabular}{l|r|r|r}\hline\hline{品詞}&\multicolumn{1}{c|}{総形態素数}&\multicolumn{1}{c|}{推定形態素数}&\multicolumn{1}{c}{推定成功率(\%)}\\\hline活用品詞&32,475&29,389&90.5\\\hlineその他&209,098&199,061&95.2\\\hline合計&241,573&228,450&94.6\\\hline\end{tabular}\end{center}\end{table}結果を表\ref{tab:exp_result}に示す.システムは,241,573形態素中228,450形態素について正しくその形態素属性を推定した(成功率94.6\%).とくに活用品詞類に対しての成功率は90.5\%であり,その他の品詞に対する成功率は95.2\%であった.日本語全般の各種確率表を算出するのに用いたのと同じデータを用いて評価を行ったのは,大量のテキストを対象としようとすると,その評価を行うのに目視によるのでは手間がかかりすぎることを恐れたためである.朝日新聞社説については,連接確率を求める際に,目視によって確認した形態素の切出しとその形態素情報がすでにファイルの形で用意できている.それを利用したのである.しかし,このために,用いた各種確率表が,よく日本語全般を代表しているかどうかの評価があいまいになってしまった.現在,UNIXのオンラインマニュアル(日本語版)を材料として比較実験を進めている.この結果については改めて報告したい.本システムの方式では,一般に形態素が長単位となり,複合語についての扱いが難しくなる.そこで,漢字が連接してできる複合語は,それ自体,1個の独立した形態素として扱った.このため,たとえば\{市街\}がすでに辞書に登録されているときに出現した\{長野市街\}が2個の形態素に切り分けられてしまうことが起きる(上の実験では,推定に失敗したとして評価した).\{長野\}が形態素として獲得できるものの,\{長野市街\}はついに形態素として獲得されることがない,という問題を抱え込んでしまった.(逆に\{長野市街\}が先に出現し,後から\{市街\}が出現した場合には,\{長野市街\},\{長野\},\{市街\}のすべてが形態素として獲得できる.)本システムでは,(切り出された)形態素をそれぞれ個別に扱い,その相互関係については属性推定に利用するだけである.このために,複合語についての問題が生じるし,活用種類の推定が十分にできないという問題も生じる.これらに対処するためには,獲得した形態素どうしについて先頭部分が共通であるものの相互の関連を調べる機能を追加する必要がある.そうすることで,\{動く\}が獲得された時点で\{動き\}の活用種類を「か行五段活用」と限定することも可能になるであろう.今回の実験システムでは,入力テキストを1回だけ走査することに終始した.これは,上の問題を解決する対策をとってからでなければ,2回3回と走査してみても大きな成果が見込めなかったからである.同じ複数回の走査を行うのであれば,まず入力テキストについての各種統計をとった上で,その結果も加味した推定を行うことでテキストの分野依存性に対処することも試みてみたい.これらは,いずれも今後の課題である.しかしながら,実験の結果は,ほとんど辞書が整備されていない環境でも形態素とその属性を自動獲得できるシステムを提供する,という目的からすると,十分に満足のいくものであった.とくに,これだけ簡易なシステム構成であっても,助詞・助動詞に着目することで多くの情報が自動的に獲得できることが示せた点に満足している.\begin{thebibliography}{10}\bibitem[\protect\BCAY{Nagata}{Nagata}{1994}]{Nagata}MasaakiNAGATA.\BBOP1994\BBCP.\newblock``AStochasticJapaneseMorphologicalAnalyzerUsingaForward-DPBackward-A$^{\ast}$N-BestSearchAlgorithm."\newblock{\emProc.ofthe15thInternationalConferenceonComputationalLinguistics},201--207.\bibitem[\protect\BCAY{Kokuritu}{Kokuritu}{1992}]{Kokuritu}国立国語研究所.\BBOP1992\BBCP.\newblock``電子計算機と国語研究."\newblock国立国語研究所.\bibitem[\protect\BCAY{Uchida}{Uchida}{1989}]{Uchida}内田裕士.\BBOP1989\BBCP.\newblock``テキストからの日本語辞書データの抽出."\newblock{人工知能学会第3回全国大会}.\bibitem[\protect\BCAY{Utsuro}{Utsuro}{1993}]{Utsuro}宇津宮武仁,松本裕治,長尾眞.\BBOP1993\BBCP.\newblock``二言語対訳コーパスからの動詞の格フレーム獲得."\newblock{\em情報処理学会論文誌},34(5),913--924.\bibitem[\protect\BCAY{Sirahi}{Sirahi}{1985}]{Sirahi}白井克彦,林良彦,平田裕一,久保田淳市.\BBOP1985\BBCP.\newblock``係り受け解析のための辞書の構成とその学習機能."\newblock{\em情報処理学会論文誌},26(4),706--714.\bibitem[\protect\BCAY{Park}{Park}{1993}]{Park}朴哲済,筧捷彦.\BBOP1993\BBCP.\newblock``接続関係を利用した辞書情報の獲得と日本語解析システムへの適用."\newblock{\em自然言語処理における実動シンポジウム論文集},電子情報通信学会及び日本ソフトウェア科学会,119--126.\bibitem[\protect\BCAY{Suzuki}{Suzuki}{1994}]{Suzuki}鈴木哲也,朴哲済,中山康徳,谷口清継,筧捷彦.\BBOP1994\BBCP.\newblock``信頼度評価に基づく活用形の推定."\newblock{日本ソフトウェア科学会第11回大会}.\bibitem[\protect\BCAY{Simomura}{Simomura}{1992}]{Simomura}下村秀樹,並木美太郎,中川正樹,高橋延匡.\BBOP1992\BBCP.\newblock``最小コストパス探索モデルの形態素解析に基づく日本語誤り検出の一方式."\newblock{\em情報処理学会論文誌},33(4),457--464.\end{thebibliography}\begin{biography}\biotitle{略歴}\bioauthor{朴哲済}{1986年韓国延世大学校数学科卒業．1991年早稲田大学大学院理工学研究科情報科学専攻修士課程修了.1995年同大学院博士課程研究指導認定退学．同年，韓国浦項工科大学情報通信研究所研究員.1996年より現代情報技術（株）応用情報技術研究所責任研究員．人工知能,自然言語処理，機械翻訳等の研究に従事．日本情報処理学会,言語処理学会,韓国情報科学会,情報処理学会等の会員.}\newpage\bioauthor{筧捷彦}{1968年東京大学工学部計数工学科卒業．1970年同大学院修士課程修了.同大学助手，立大講師・助教授を経て，1986年より早稲田大学理工学部教授．プログラミング言語の設計・実現・環境構成等の研究に従事．情報処理学会,日本ソフトウェア科学会各理事.}\bioreceived{受付}\bioaccepted{採録}\end{biography}\end{document}