\section{はじめに}
\label{sec:introduction}よく知られているように，人間が英語を日本語に翻訳するとき，英語の代名詞を日本語の代名詞としては表現せず，ゼロ代名詞化したり他の表現に置き換えたりすることが多い．これに対して，従来の英日機械翻訳システムでは，多くの場合，英語の代名詞はそのまま日本語の代名詞に訳される．このように代名詞を直訳すると，英文が伝えている意味と異なる意味を伝える訳文が生成されたり，文意は同じでも不自然で読みにくい訳文が生成されてしまうという問題が生じる．従って，品質の高い英日機械翻訳システムを実現するためには，ゼロ代名詞化する必要のある代名詞や他の表現に置き換えるべき代名詞を直訳しないようにすることが重要な課題となる．直訳すべきでない代名詞を認識することは一見単純であるように思えるが，ゼロ代名詞化や他の表現への書き換えには様々な要因が絡んでいるため，代名詞を直訳してもよい場合とそうでない場合をどのように区別すればよいかはそれほど自明なことではない．なお，本稿では，紛れない限り，人称代名詞と限定的機能を持つ所有代名詞\cite{Quirk85}を単に代名詞と呼ぶ．ゼロ代名詞化に関する工学的な研究は，滑川ら\cite{Namekawa99}や宮ら\cite{Miya00}による報告がある程度で，これまであまり行なわれていない．宮らの方法では，機械翻訳システムの出力文から代名詞を消すかそのまま残すかの二値の判定が，代名詞とそれに付属する助詞の表記に着目して人手で記述した規則に基づいて行なわれる．しかし，二値の判定では次の文(J\ref{SENT:scold})のような場合に適切に対処できない．文(J\ref{SENT:scold})には，``she''が``Mary''を指しているという文(E\ref{SENT:scold})の文意を伝えないという問題がある\cite{Kanzaki94}．この問題に対処するために，文(J\ref{SENT:scold})から「彼女」を消すと「家を出る」の主語が「メアリー」であるのか「ジョン」であるのかが曖昧になるという問題が新たに生じる．主語の曖昧さが生じるのを抑え，かつ文(E\ref{SENT:scold})と同じ文意を伝えるためには，文(J\ref{SENT:scold}'')のように「彼女」を「自分」に置き換える必要がある．\begin{SENT3}\sentEMaryscoldedJohnbefore{\itshe}lefthome.\sentJ彼女が家を出る前に，メアリーはジョンを叱った．\NewsentJ$\phi_{she}$家を出る前に，メアリーはジョンを叱った．\YAJ自分が家を出る前に，メアリーはジョンを叱った．\label{SENT:scold}\end{SENT3}また，代名詞をどのように書き換えるかは様々な要因によって決まるため，複雑に関連し合う要因を人手で整理し，その結果に基づいて規則を記述するより，統計的帰納学習法を利用して事例集から規則を自動的に作成するほうが適切であると考えられる．このようなことから本稿では，1)代名詞を消すか残すかの二値の判定ではなく，消すか残すかあるいは他の表現に置き換えるかの多値の判定を行ない，2)規則の記述を人手で行なうのではなく，決定木学習アルゴリズムを利用して事例集から規則を自動的に作成する方法を示す．以下，代名詞を直訳するとどのような問題が生じるかを\ref{sec:problems}\,節で整理する．次に\ref{sec:decision_tree}\,節で決定木学習に簡単に触れる．\ref{sec:corpus}\,節では決定木学習に必要な正解付きコーパスの作成について述べ，\ref{sec:feats}\,節で決定木学習に使用した属性について説明する．\ref{sec:experiment}\,節では，提案手法の有効性を検証するために行なった実験の結果について考察する．
\section{代名詞の日英対照比較}
\label{sec:problems}英語の代名詞を日本語の代名詞に直訳したときに生じる問題として，英文では代名詞がある名詞句を指していないのに，訳文では指しているように解釈されてしまうという問題と，その逆に，英文では代名詞がある名詞句を指しているのに，訳文ではそのように解釈できないという問題がある．本節では，後者の問題について検討する．\subsection{後方照応(語順逆転)}英語では代名詞による後方照応が可能であるのに対して，日本語では基本的に不可能である\cite{Kanzaki94}．このため，次の文(E\ref{SENT:bank-cataphora})では``he''は``John''を指していると解釈されるのに対して，文(J\ref{SENT:bank-cataphora})では「彼」が「ジョン」を指しているとは解釈されない．\begin{SENT}\sentEWhen{\ithe}arrived,Johnwentstraighttothebank.\sentJ彼が着くと、ジョンは、銀行にまっすぐ行った。\label{SENT:bank-cataphora}\end{SENT}また，英語では前方照応であっても，日本語に翻訳するときに主節と従属節の順序を逆転させると，文(J\ref{SENT:bank-anaphora})のような不適格な訳文となる．文(J\ref{SENT:bank-cataphora})や文(J\ref{SENT:bank-anaphora})を適格文にするには，文(J\ref{SENT:bank-anaphora}')のように代名詞「彼」をゼロ代名詞化する必要がある．\begin{SENT2}\sentEJohnwentstraighttothebankwhen{\ithe}arrived.\sentJ彼が着くと、ジョンは、銀行にまっすぐ行った。\NewsentJ$\phi_{he}$着くと、ジョンは、銀行にまっすぐ行った。\label{SENT:bank-anaphora}\end{SENT2}後方照応は限られた条件の下でしか用いられず使用頻度も低いため，あまり問題にならないともいえるが，従来の機械翻訳システムによる処理では主節と従属節の順序の逆転は頻繁に生じるため，代名詞に対する適切な書き換えが重要となる．\subsection{総称名詞句と不定代名詞}\label{sec:problem:indef_pron}英語の代名詞は総称的に使われている名詞句を指すことができるのに対して，日本語の代名詞は総称的名詞句を指すことはできない\cite{Kanzaki94}．例えば，次の文(E\ref{SENT:indef-pron})を機械翻訳システムで処理すると，文(J\ref{SENT:indef-pron})のように翻訳される．\begin{SENT2}\sentEBythetimetheaverageAmericanreachestheageof70,{\ithe}consumes13tonsofbeef.\sentJ平均的米国人は70歳に達する時までに、彼は、13トンの牛肉を消費する。\NewsentJ平均的米国人は70歳に達する時までに、$\phi_{he}$13トンの牛肉を消費する。\label{SENT:indef-pron}\end{SENT2}文(E\ref{SENT:indef-pron})において，``theaverageAmerican''は特定の人物を指しているのではなく総称的な意味で用いられているが，``he''は``theaverageAmerican''を指していると解釈できる．これに対して，文(J\ref{SENT:indef-pron})では「彼」が「平均的米国人」を指しているとは解釈されにくい．不適格文(J\ref{SENT:indef-pron})を適格文にするには，文(J\ref{SENT:indef-pron}')のように代名詞「彼」をゼロ代名詞化しなければならない．総称名詞句と同じく，``nobody''や``everyone''などの不定代名詞も英語では代名詞によって指示されるが日本語では指示されない．従って，次の文(J\ref{SENT:everyone})は，文(J\ref{SENT:everyone}')のように，代名詞「彼」をゼロ代名詞化するかあるいは再帰代名詞「自分」に置き換える必要がある．\begin{SENT2}\sentEEveryoneloves{\ithis}mother.\sentJ全ての人は、彼の母親を愛する。\NewsentJ全ての人は、$\{\phi_{his},自分の\}$母親を愛する。\label{SENT:everyone}\end{SENT2}\subsection{伝達文の話法}\label{sec:problem:narration}英語では話法が比較的確立されており直接話法と間接話法の対立が形式上明確であるのに対して，日本語では厳密な間接話法は事実上不可能である\cite{Anzai83}．このため，英語の間接話法は，日本語では直接話法あるいはそれに近い形式で表現される．このとき，英語の代名詞を直訳すると，不適格なあるいは不自然な訳文になることがある．例えば，次の文(E\ref{SENT:narration})を機械翻訳システムで翻訳した文(J\ref{SENT:narration})は，引用符が存在しないだけで実質的には直接話法になっている．このとき，代名詞``he''を直訳することは不適切である．代名詞「彼」をゼロ代名詞化するか「私」に置き換えると，日本語として自然な文(J\ref{SENT:narration}')が得られる．\begin{SENT2}\sentEJohnsaid{\ithe}usuallygetsupat6o'clock.\sentJジョンは、彼がいつも6時に起きると言った。\NewsentJジョンは、$\{\phi_{he},私は\}$いつも6時に起きると言った。\label{SENT:narration}\end{SENT2}話法の問題は，伝達文の出現頻度が比較的低い技術文書を対象としている限りあまり生じないが，本研究では，伝達文の出現頻度が比較的高い新聞記事を主な対象としているため，被伝達部に現れる代名詞を適切に翻訳することが重要な課題となる．\subsection{theyの訳}\label{sec:problem:they}三人称複数の代名詞``they''，``their''，``them''を直訳するとき，少なくとも「彼ら」か「それら」に訳し分けなければならない．この訳し分けの手がかりになるのは共起的意味制約や照応関係であるが，従来の機械翻訳システムではこれらの手がかりが必ずしも有効に活用できていないため，訳し分けの精度は十分高いとはいえない．実際，実験に用いたシステムでは，文(E\ref{SENT:they-artists})のように``they''が人間を表わす表現を指していると考えられるときでも「それら」と訳されることが多く，次の文(J\ref{SENT:they-artists})のような不自然な訳文となる．文(J\ref{SENT:they-artists})のような翻訳では，おそらく先行文中に存在する人間を表わす表現を「それら」が指しているとは解釈されない．文(J\ref{SENT:they-artists})の主節の主語の「それら」はゼロ代名詞化すると主語の曖昧さが生じる可能性があるので，「彼ら」に置き換えなければならない．\begin{SENT2}\sentE{\itThey}gatheredtodiscusswhattodotopreventenvironmentaldestruction.\sentJそれらは、公害を防ぐために何をするかを議論するために、集まった。\NewsentJ彼らは、公害を防ぐために何をするかを議論するために、集まった。\label{SENT:they-artists}\end{SENT2}
\section{決定木学習の利用}
\label{sec:decision_tree}本研究では，代名詞の書き換えを実現するために，統計的帰納学習手法の一つである決定木学習を利用する．代名詞をどのようなときにどのように書き換えればよいかを決定する要因は，多岐に渡っており複雑に関連し合っていると考えられる．書き換えに関連する様々な要因を人手で明示的にかつ統一的に記述することは容易ではない．これに対して，決定木による方法では，様々な要因の統合と重要な要因の選別が自動的に行なわれる．決定木学習にはC4.5\cite{Quinlan92}を利用する．C4.5は，事例を一般化することによって決定木の形式で分類モデルを帰納的に作成する．事例は，あらかじめ定められた属性とクラスによって表現される．決定木は，クラスを表わす終端節点と，一つの属性を調べるテストに対応する非終端節点(判別節点)から成り，根節点から終端節点に向けて判別節点でのテストの結果に従って，終端節点に対応するクラスに事例を分類する．C4.5による決定木の作成は，事例の集合$T$を$n$個の部分集合に分割するテスト$X$を利得比基準に従って選択することによって行なわれる．利得比基準では，$T$をテスト$X$で分割することによって得られる情報量を，$T$を$n$個の部分集合に分割することによって得られる全情報量で割った値(利得比)を最大にするようなテスト$X$が選ばれる．
\section{正解付きコーパスの作成}
\label{sec:corpus}\subsection{作成の基本方針}\label{sec:corpus:policy}不適切な代名詞をどのように書き換えるべきかを人手で判断し，書き換え方を示すラベルを付与したコーパスを次のような方針で作成した．ラベルは決定木学習のクラスに対応する．\begin{enumerate}\item代名詞を書き換えるか否か，書き換える場合どのように書き換えるかは，文意の正しさはもちろん，文意の曖昧さや文の簡潔さ，自然さなどの条件も考慮に入れて決定しなければならない．これらすべての条件を満たす書き換え方が常に存在するとは限らず，いくつかの条件は満たすが他の条件は満たさないような書き換えしかできないこともある．このようなときには，文意の正しさが保たれる書き換えと文意の曖昧さが生じない書き換えを優先する．すなわち，原文の文意と訳文の文意が異なったり，原文には存在しない曖昧さが訳文で生じてしまったりするような書き換えは，たとえその書き換えによって文の簡潔さや自然さが増すとしても行なわない．\itemある代名詞をどのように書き換えればよいかは，その代名詞を含む文がどのような文脈で用いられているかを参照しなければ確定できない場合と，その文の情報だけでほぼ確実に判断できる場合がある．特に，代名詞を消すか残すかに関しては，ある特定の先行文が存在すれば消すことができる(消しても文意が曖昧にならない)が，そのような先行文が存在しなければ消すことはできない(消すと曖昧になる)ということが起こりやすい．今回のコーパス作成では，先行文が存在しないという条件の下で適切な書き換えになるようにする．\end{enumerate}\subsection{代名詞に付与するラベル}\label{sec:corpus:label}代名詞の書き換え方を示すラベルとして，[残]，[消]，[換(私)]，[換(我々)]，[換(彼ら)]，[換(自分)]の六種類を設けた．ラベル[残]は，着目している代名詞を書き換えると，意味的に不適格になるか，文意の曖昧さが増すか，文の不自然さが増すときに付与する．[消]は，代名詞を消しても意味的に適格であり，曖昧さが生じず，文の自然さが増すときに付与する．[換(私)]，[換(我々)]，[換(彼ら)]，[換(自分)]は，それぞれ，代名詞を括弧内の語(「私」など)に置き換えると意味的に適格であり，曖昧さが生じず，より自然であるときに付与する．[換]は，代名詞を消しても残しても不適切である場合に対処するために設けたラベルであり，[換(私)]と[換(我々)]は\ref{sec:problem:narration}\,節で述べた話法の問題の解決を，また[換(彼ら)]は\ref{sec:problem:they}\,節で述べた``they''の訳語の問題の解決を主に目指している．ある一つの代名詞に対して複数通りのラベル付けができることがある．例えば，「私は，彼が私を助けてくれた恩を忘れはしない．」という文において，「私を」は消しても「自分を」に置き換えてもよい．このようなときには，次の優先順位に従ってラベル付けを行なうことにした．\[[消]>[残]>[換]\]\subsection{作成された正解付きコーパスの諸元}\label{sec:corpus:spec}正解付きコーパス作成用の資料には英字新聞記事300記事を用いた．この300記事は4240文から成るが，このうち代名詞を含む文は1845文であった．この1845文を我々の機械翻訳システムで処理して得られた訳文から，代名詞の問題を除けば文法的にも意味的にも適格である文を選別し，1015文を得た．1015文には合計で1350個の代名詞が出現していたが，1015文のうち代名詞を一つだけ含む文が734文(72.3\%)，二つ含む文が218文(21.5\%)と，ほとんどの文が代名詞を一つか二つ含む文であった．最も多い場合，一文に五つ含まれていた．1015文における各代名詞の出現頻度と各代名詞に付与されたラベルの分布を表\ref{tab:pron-freq-label}\,に示す．「彼」，「それ」「それら」で出現した全代名詞の75.2\%を占めている．また，「あなた」は全く出現していなかった．設定したラベルのうち「我々」への置き換えを示すラベル[換(我々)]は付与する必要がなかった．ラベル[消]や[残]の数に比べ[換]の件数が少ないが，これは\ref{sec:corpus:label}\,節で述べたラベルの優先順位を設けたことに一因がある．表\ref{tab:pron-freq-label}\,において，「それら自身」，「彼自身」，「それ自身」は再帰代名詞``{\itoneself}''の訳ではなく，``{\itone's}own''の訳であり，これらに付与されているラベル[消]は，全体を消すのではなく，それぞれ「それら」，「彼」，「それ」を消し「自身」は残すことを意味する．\begin{table}[htbp]\caption{各代名詞の出現頻度と付与したラベルの分布}\label{tab:pron-freq-label}\begin{center}\begin{tabular}{|l||r|r|r|r|r|r|r|}\hline&\multicolumn{1}{c|}{[消]}&\multicolumn{1}{|c}{[残]}&\multicolumn{1}{|c}{[換(私)]}&\multicolumn{1}{|c}{[換(我々)]}&\multicolumn{1}{|c}{[換(彼ら)]}&\multicolumn{1}{|c|}{[換(自分)]}&\multicolumn{1}{c|}{計}\\\hline\hline彼&212&263&12&0&0&19&506\\それ&161&109&0&0&0&0&270\\それら&158&22&0&0&58&1&239\\我々&28&99&0&0&0&1&128\\私&54&56&0&0&0&1&111\\彼女&21&21&1&0&0&2&45\\彼ら&1&24&0&0&0&0&25\\それら自身&7&0&0&0&3&0&10\\自分&6&2&0&0&0&0&8\\彼自身&3&0&0&0&0&0&3\\それ自身&3&0&0&0&0&0&3\\私自身&0&1&0&0&0&0&1\\それら双方共&0&1&0&0&0&0&1\\\hline&654&598&13&0&61&24&1350\\\multicolumn{1}{|c||}{\raisebox{1.5ex}[0pt]{計}}&(48.4\%)&(44.3\%)&(1.0\%)&(0.0\%)&(4.5\%)&(1.8\%)&(100\%)\\\hline\end{tabular}\end{center}\end{table}\subsection{正解付きコーパス作成に要する労力}決定木学習による代名詞書き換えにおける課題の一つは，代名詞に関する英日比較対照コーパスをいかにして作成するかである．現在のところ，大規模で一貫性のある正解付きコーパスはほとんど整備されていない．正解付きコーパスの作成に必要な作業は，対訳コーパスの作成と，代名詞への正解ラベルの付与の二つの作業であるが，一般にこれらは両方とも労力を要する作業である．対訳コーパスには，本研究では，人手で作成したものではなく，機械翻訳システムで作成したものを利用している．なぜならば，機械翻訳システムからの出力文に含まれる不適切な代名詞を書き換えることが本研究の目的であるため，決定木学習に必要な属性は，人間による訳文から得られる属性ではなく，機械翻訳システムによる訳文から得られる属性であるからである．このように，人手による対訳コーパスを必要としない本研究では，正解ラベルの付与の労力だけで済む．正解付きコーパスの作成に今回要した労力は，およそ1.6人月であった．
\section{着目した属性}
\label{sec:feats}決定木学習による代名詞の書き換えでは，学習に用いる属性としてどのような情報を取り入れるかが重要である．代名詞の書き換えには，文の情報構造(旧情報と新情報の区別)や結束性，視点なども関連している\cite{Kuno78,Kuno83,Mizutani83,Kamio85,Hinds86,Takami97}．しかし，現状の技術レベルではこれらを直接利用することは容易でないので，これらに関連し現状の技術レベルで扱える情報を利用せざるを得ない．また，日英機械翻訳などにおいてゼロ代名詞をどのようにして復元するかが課題となっており，様々な手法が提案されている\cite{Fujisawa93,Kudo93,Nakaiwa93,Dosaka94,Ehara96,Murata96,Nakaiwa96}が，これらの手法で利用されている情報も属性として有効である可能性が高い．このようなことから本稿では，書き換えに影響しうる属性として，表\ref{tab:feats}\,に示す13種類の属性に着目した．これらの属性には構文レベルのものや照応レベルのものも含まれているが，構文解析や照応解析は行なわずに，「茶筅」\cite{Matsumoto99}による形態素解析の結果に基づいて，後述する単純な方法で正解付きコーパスから求めた．表\ref{tab:feats}\,の「属性数」欄は作成した正解付きコーパスに実際に出現した属性値の数であり，「属性値」欄は値の例である．\begin{table}[htbp]\caption{着目した属性の一覧}\label{tab:feats}\begin{center}\begin{tabular}{|l|r|p{0.6\textwidth}|}\hline\multicolumn{1}{|c|}{属性名}&\multicolumn{1}{c|}{属性数}&\multicolumn{1}{c|}{属性値(一部)}\\\hline\hline\PRON&14&それ，その，それら，それら自身，それら双方共，それ自身，我々，私，私自身，自分，彼，彼ら，彼自身，彼女\\\FZKG&25&から，が，と，と共に，に，において，にとっての，には，によって，に関する，に対して，の，のうちの，のために\\\COORD&2&有，無\\\GVNRSEM&69&111，112，113，114，115，116，117，118，119，120，121，122，123，124，125，126，127，128，130，131，132，133，未定義\\\GVNRFZKG&45&から，が，で，と，と共に，に，において，における，について，にもかかわらず，意志形,基本形,連用テ接続,連用ニ接続,連用形\\\CLSTYPE&4&主節，伝達節，従属節，対象外\\\CLSENDB&48&\Q{が}，\Q{けれども}，\Q{て}，\Q{と,と}，\Q{と,ので,て}，\Q{と,ので}，\Q{と,のに,と}，\Q{と,連用形}，\Q{と}，\Q{ので}，\Q{ば,連用形}，\Q{連用形,て}，\Q{連用形,ば}，\Q{連用形,連用形}，\Q{連用形}，無\\\CLSENDF&65&\Q{けれども,と}，\Q{て}，\Q{で,と}，\Q{と,て}，\Q{と,と,と,連用形}，\Q{と,と,ば}，\Q{と,と}，\Q{と,連用形,と}，\Q{と}，\Q{ので,と}，\Q{ので}，\Q{ば}，\Q{連用形,と}，\Q{連用形,ば}，\Q{連用形}，無\\\INDEFPRON&3&だれ，全て，無\\\SAMEPRONB&40&\Q{[消]我々}，\Q{[消]我々,[消]我々}，\Q{[消]それ}，\Q{[消]それら}，\Q{[残]私}，\Q{[残]我々,[消]我々,[消]我々}，\Q{[残]我々}，\Q{[消]彼}，\Q{[消]彼,[残]彼}，\Q{[消]彼女}，\Q{[残]彼}，\Q{[残]それ}，無\\\SAMEPRONF&41&\Q{[消]それ}，\Q{[消]それら}，\Q{[消]私}，\Q{[消]我々}，\Q{[消]我々,[残]我々,[換(自分)]我々}，\Q{[消]彼}，\Q{[消]彼,[消]彼}，\Q{[消]彼女}，\Q{[換(自分)]彼}，\Q{[換(自分)]我々}，\Q{[残]それ}，\Q{[残]我々}，\Q{[残]我々,[換(自分)]我々}，無\\\ANAPH&4&成立，不成立，先行名詞無，文脈外\\\CONJ&15&けれども，しかし，しかしながら，そこで，そして，それでも，それに，だが，なぜなら，にもかかわらず，または，もしくは，一方，従って，無\\\hline\end{tabular}\end{center}\end{table}以下，各属性について，その属性に着目した理由と，それを文から抽出する方法について述べる．\paragraph{\PRON}表\ref{tab:pron-freq-label}\,からわかるように，適切な書き換えの傾向は代名詞毎に異なる．例えば，「それら」はほとんどの場合書き換える必要があるのに対して，「我々」や「彼ら」は書き換えられにくい．従って，代名詞の表記は書き換え方を分類する手がかりとして利用できる可能性がある．\paragraph{\FZKG}一般に，旧情報は省略されやすく，新情報は省略されにくいことが知られている\cite{Kuno78}．旧情報と新情報を区別する手がかりの一つとして助詞がある．助詞「は」には旧情報を示す一機能があり，助詞「が」には新情報を示す機能がある．このようにゼロ代名詞化は助詞の影響を受けるため，代名詞に付属する助詞の表記を属性として取り入れる．\paragraph{\COORD}次の文(J\ref{SENT:coord})における「彼」や「私」のように代名詞が等位句の構成要素になっているとき，その代名詞をゼロ代名詞化してはならない．従って，代名詞が等位句の構成要素になっているかどうかを，助詞「と」が直前に存在するかどうかで判断する．なお，「彼」が等位句の構成要素になっているかどうかは，属性「\FZKG」によって判断できる．\begin{SENT}\sentEHeandIwentthere.\sentJ彼と私は、そこに行った。\label{SENT:coord}\end{SENT}\paragraph{\GVNRSEMと\GVNRFZKG}代名詞の書き換えには，「\PRON」や「\FZKG」のような形態素語彙レベルの情報だけでなく，構文レベルの情報，例えば代名詞が係っている用言や体言に関する情報も重要である．特に用言には，待遇表現\cite{Mizutani83}や受給表現のようにゼロ代名詞を復元するために有効な情報が含まれている．これらの情報は，「伺う」や「いらっしゃる」のような動詞から得られる場合と，「致します」や「下さい」のような助動詞(相当表現)から得られる場合\cite{Kudo93,Nakaiwa96}があるが，属性「\GVNRSEM」は前者を対象とし，属性「\GVNRFZKG」は後者を対象とする．ここで，代名詞がどの用言あるいは体言に係っているかを正確に認識するためには構文解析を行なう必要がある．しかし，本稿では，次のような簡単な手順で近似的に認識する．代名詞が体言に係りうるとき，最も近い体言に係るものとし，その体言の意味標識を属性「\GVNRSEM」の値とし，その体言に付属する助詞の表記を属性「\GVNRFZKG」の値とする．代名詞が用言に係りうるときは，代名詞に付属する助詞が「は」でありその直後に読点「，」が存在するとき最も遠い用言に係るものとし，それ以外は最も近い用言に係るものとする．意味標識としては，分類語彙表\cite{NLRI84}の意味コードの上位三桁を利用する．用言あるいは体言の意味コードが分類語彙表に記述されていないとき，属性「\GVNRSEM」の値は未定義とする．\paragraph{\CLSTYPE}\ref{sec:problem:narration}\,節で述べたように，英語の間接話法の被伝達節で使用されている代名詞は，日本語では「私」などに置き換える必要がある．従って，代名詞が被伝達節に属しているかどうかが代名詞書き換えの手がかりになる．また，代名詞が属している節が被伝達節でないときでも，主節か(被伝達節以外の)従属節かの区別は有用であると考えられる．代名詞が属する節の種類についても正確な認識には構文解析が必要であるが，次のような簡単な手順で近似的に認識する．代名詞が属している節が被伝達節かどうかは，引用の助詞「と」や引用符が代名詞より文末側に存在するかどうかで判断する．代名詞が属している節が主節か従属節の判断は次のように行なう．もし，代名詞に付属する助詞が「は」でありその直後に読点「，」が存在すれば，主節に属するものとする．さもなければ，代名詞より文末側に存在する用言の数が一つだけならば主節に属するものとし，複数ならば従属節に属するものとする．ただし，この区別は代名詞が用言に係っているときにのみ行ない，体言に係っているときは対象外とする．\paragraph{\CLSEND}久野の考察\cite{Kuno83}によれば，次の文(J\ref{SENT:yamada})の適格性が低いのに対して文(J\ref{SENT:yamada}')が適格である理由の一つは，「ので」と「間に」の違いにある．文(J\ref{SENT:yamada}')では，因果関係を表わす「ので」の存在によって，「山田」を「批判した」の目的語とする蓋然性が高くなっている．これに対して，「間に」によって従属節と主節が結び付けられている文(J\ref{SENT:yamada})では，主節で「山田」を目的語とする蓋然性はそれほど高くない．\begin{JSENT}\sentJ山田がアメリカに行っている間に，私が学会で$\phi_{山田}$批判した．\sentJJ山田が久し振りで帰って来たので，$\phi_{山田}$夕食に招いた．\label{SENT:yamada}\end{JSENT}このように従属節の接続形が代名詞の書き換えに影響を及ぼすことから，着目している代名詞より文頭側あるいは文末側にどのような従属節の接続形が存在するかを属性として取り入れる．\paragraph{\INDEFPRON}\ref{sec:problem:indef_pron}\,節で述べたように，日本語で総称名詞句や不定代名詞を指せるのはゼロ代名詞か再帰代名詞「自分」である．このことを考慮して，着目している代名詞より文頭側に不定代名詞が存在するかどうか，存在する場合それはどのような不定代名詞かを属性として取り入れる．総称名詞句は，その認識が容易ではないため，本稿では対象外とする\footnote{総称名詞句の認識に村田の手法\cite{Murata96}を利用することが考えられる．しかし，村田の手法では構文構造が正しく得られることが前提になっているのに対して，本稿ではごく簡単な処理によって得られる属性を利用する方針であるため，総称名詞句は対象外とする．}．\paragraph{\SAMEPRON}ある代名詞をどのように書き換えるかには，それと同じ代名詞が文のどの位置に存在しており，かつそれらがどのように書き換えられるかも関連している可能性がある．次の文(J\ref{SENT:he})において文頭の「彼」を消す理由の一つは，(主節の主語である)「彼」が後方に存在しており，それが残されることであろう．\begin{SENT2}\sentE{\itHe}does{\ithis}workwhen{\ithe}feelslikedoing{\itit}.\sentJ彼がそれをしたいと思うとき、彼は、彼の仕事をする。\NewsentJ$\phi_{he}$$\phi_{it}$したいと思うとき、彼は、$\phi_{his}$仕事をする。\label{SENT:he}\end{SENT2}表\ref{tab:feats}\,の「\SAMEPRONB」と「\SAMEPRONF」の属性値はそれぞれ，着目している代名詞より文頭側，文末側に存在する同一代名詞のリストを表わしている．各代名詞に付与されているラベルは，その代名詞に対する書き換えを示す．例えば\Q{[残]我々,[換(自分)]我々}は，残される「我々」と「自分」に置き換えられる「我々」がこの順に存在することを意味する．\paragraph{\ANAPH}藤沢らの調査\cite{Fujisawa93}によれば，明示されている代名詞の先行詞は代名詞が含まれている文の直前の文に現れることが最も多いのに対して，ゼロ代名詞の先行詞はゼロ代名詞が存在する文と同じ文に現れることが最も多い．このことから，逆に，代名詞とその先行詞が同じ文に存在すれば，代名詞をゼロ代名詞化する必要性が高いとも考えられる．照応に関する属性値は，照応成立，照応不成立，先行名詞無，文脈外照応とする．代名詞が一人称か二人称であるときは，先行名詞を指さない文脈外照応であるとみなす．代名詞が三人称であり先行名詞が存在するとき，分類語彙表の意味コードを利用して照応の成立，不成立を次のような簡単な手順で判定する．代名詞が人間を指せる「彼」，「彼女」，「彼ら」であるとき，人間を表わす分類語彙表の意味コード120，121，123，124を持つ先行名詞が存在すれば照応成立とみなす．代名詞が人間以外を指せる「それ」，「それら」であるときは，上記以外の意味コードを持つ先行名詞が存在すれば照応成立とみなす．先行名詞の意味コードが分類語彙表で未定義であるときは照応不成立とする．着目している代名詞と同一の代名詞が存在するときはそれとの間で照応が成立するとみなす．\paragraph{\CONJ}代名詞の書き換えには，同一文内の照応だけでなく，先行文との関係も影響を及ぼす．二つの文をつなぐ言語的手段の一つとして，先行文との修辞的関係\cite{Cohen84,Mann84,Knott94}を表わす接続表現の使用がある\cite{Halliday76}．このような先行文との修辞的関係を考慮に入れ，文頭に存在する接続詞の表記を属性として取り入れる．
\section{実験と考察}
\label{sec:experiment}代名詞書き換えの有効性を検証するために，次の五種類の実験を行なった．決定木学習アルゴリズムにはC4.5をオプションなしで利用した．いずれの実験でも十分割の交差検定を行なった．\begin{LIST}\item[\bf実験1]代名詞を消すか残すかの二クラスでの実験\item[\bf実験2]代名詞を消すか残すか他の表現に置き換えるかの五クラスでの実験\item[\bf実験3]各クラスの事例数をほぼ同数にしての実験(五クラス)\item[\bf実験4]各属性の効果を確認するための実験(五クラス)\item[\bf実験5]代名詞毎の実験(五クラス)\end{LIST}\subsection{[消]/[残]の二クラスでの実験}\label{sec:experiment:binary}まず予備的な実験として，宮ら\cite{Miya00}の設定と同じく，代名詞を消すか残すかを分類する場合について精度を調べる実験を行なった．実験に用いた事例は，作成した1350事例のうちラベル[消]または[残]が付与されている1252事例である．誤分類率は，十分割の交差検定の平均で，訓練事例に対して6.4\%，試験事例に対して21.8\%であった．試験事例に対する正誤行列を表\ref{tab:confusion_matrix1}\,に示す．表中の数値は，十分割の交差検定による結果の和である．表\ref{tab:confusion_matrix1}\,より，正しく分類された事例は，消すべき代名詞が正しく消された564件と，残すべき代名詞が正しく残された437件である．他方，誤って分類された事例は，残すべき代名詞が誤って消された161件と，消すべき代名詞が誤って残された90件である．誤りのうち前者の場合は，曖昧さの増大につながり翻訳品質に悪影響を及ぼす．これに対して後者の場合は，翻訳品質は現状維持となり，実用上新たな悪影響は出ないと考えてよい．このことから，提案手法で[消]/[残]の二クラスの分類を行なった場合の真の精度は79.9\%((564+437)/1252)，実用精度は87.1\%((564+437+90)/1252)となる．実験に用いた1252事例のうち，代名詞を消すべき事例は654件，残すべき事例は598件である(表\ref{tab:pron-freq-label}\,参照)ので，単純な多数決基準に従って分類したときの誤分類率は47.8\%(598/1252)である．この値を基準誤分類率とみなせば，提案手法は有効であると考えられる．実験条件が異なるので単純な比較はできないが，宮らの実験結果では人手で記述した規則の精度が85.8\%であることから，決定木学習によってほぼ同程度の精度が達成できているといえる．\begin{table}[htbp]\caption{[消]/[残]での分類精度}\label{tab:confusion_matrix1}\begin{center}\begin{tabular}{|rr|rr|l|}\hline\multicolumn{2}{|c|}{(a)}&\multicolumn{2}{c|}{(b)}&$\leftarrow$classifiedas\\\hline\hline564&(45.0\%)&90&(7.2\%)&(a):[消]\\161&(12.9\%)&437&(34.9\%)&(b):[残]\\\hline\end{tabular}\end{center}\end{table}\vspace{6pt}\subsection{[消]/[残]/[換(私)]/[換(彼ら)]/[換(自分)]の五クラスでの実験}\label{sec:experiment:trinary}本節では，代名詞を消しても残しておいても不適切な翻訳に対処するために他の表現に置き換えるというクラスを設定した場合の実験結果について考察する．実験対象は1350事例である．誤分類率は，十分割の交差検定の平均で，訓練事例に対して9.2\%，試験事例に対して29.2\%であった．試験事例に対する正誤行列を表\ref{tab:confusion_matrix2}\,に示す．表\ref{tab:confusion_matrix2}\,より，提案手法で[消]/[残]/[換(私)]/[換(彼ら)]/[換(自分)]の五クラスの分類を行なった場合，真の精度は72.2\%((566+409)/1350)である．また，[残]に分類された事例は翻訳品質に新たな悪影響を及ぼさないので，実用精度は80.1\%((566+409+87+1+13+5)/1350)になる．表\ref{tab:confusion_matrix2}\,を見てまず気付くことは，新たに導入したクラス[換]に分類されるべき事例が一件も正しく分類されていないことである．クラス[換]の全事例が誤って分類された原因は，表\ref{tab:pron-freq-label}\,に示したように，このクラスの事例数がクラス[消]や[残]の事例数に比べて極端に少なかったため，適切な学習ができなかったことあると考えられる．この点に関しては，クラス分布の偏りが少ない場合にどの程度の分類精度が得られるのかを確認するための実験を\ref{sec:experiment:same_num_of_class}\,節で別途行なう．\begin{table}[htbp]\caption{[消]/[残]/[換]での分類精度}\label{tab:confusion_matrix2}\begin{center}\begin{tabular}{|r|r|r|r|r|l|}\hline\multicolumn{1}{|c|}{(a)}&\multicolumn{1}{c|}{(b)}&\multicolumn{1}{|c|}{(c)}&\multicolumn{1}{c|}{(d)}&\multicolumn{1}{|c|}{(e)}&$\leftarrow$classifiedas\\\hline\hline566&87&0&0&1&(a):[消]\\187&409&1&1&0&(b):[残]\\12&1&0&0&0&(c):[換(私)]\\48&13&0&0&0&(d):[換(彼ら)]\\19&5&0&0&0&(e):[換(自分)]\\\hline\end{tabular}\end{center}\end{table}十分割の交差検定によって作成された十本の決定木のうちの一本の一部を図\ref{fig:d-tree}\,に示す．図\ref{fig:d-tree}\,の決定木では，属性「\CLSTYPE」が最も重要であり，「\PRON」，「\FZKG」が次に重要であるとみなされている．十本のうち七本の決定木で，このように，「\CLSTYPE」が根節点に配置され，「\PRON」，「\FZKG」，「\ANAPH」，「\SAMEPRONB」がその子節点に配置されていた．残り三本の決定木では，根節点に配置された属性は「\FZKG」であり，その子節点に配置されたのは，「\SAMEPRONB」，「\CLSENDB」，「\CLSENDF」，「\ANAPH」，「\PRON」，「\GVNRSEM」であった．宮らは代名詞と助詞の表記に着目して規則を記述しているが，これら形態素語彙レベルの属性以外に，「\CLSTYPE」などの構文レベルの属性や「\ANAPH」などの照応レベルの属性も重要であることを，実験で得られた決定木の形状は示唆している．ただし，今回の実験では構文レベルの属性値と照応レベルの属性値は近似的な方法で決定しているが，これら重要視された属性の値をより正確に求め今後さらに検証を行なう必要がある．\ref{sec:feats}\,節で設定した属性のうち最も重要視されなかった属性は，「\COORD」と「\INDEFPRON」であった．「\COORD」と「\INDEFPRON」以外は全ての決定木に現れたが，「\COORD」は1本の決定木にしか現れず，「\INDEFPRON」はどの決定木にも現れなかった．これらが重要視されなかった理由は，等位句，不定代名詞がコーパス中にそれぞれ20個と少数しか存在しなかったことにあると考えられる．\begin{figure}[tbhp]\begin{DTREE}{0.9\textwidth}\begin{verbatim}節タイプ=主節:|代名詞の表記=我々:[残](15.0)|代名詞の表記=私:[残](11.0/1.0)|代名詞の表記=彼ら:[残](19.0)|代名詞の表記=彼女:[残](7.0)|代名詞の表記=それ:||接続表現=しかし:[消](4.0)||接続表現=そして:[残](7.0)||接続表現=なぜなら:[残](1.0):::||接続表現=無:|||係り先の意味コード=114:[残](1.0)|||係り先の意味コード=116:[消](1.0)::::|代名詞の表記=それら:||従属節の接続形(文頭側)=<ば>:[換(彼ら)](4.0)||従属節の接続形(文頭側)=<連用形>:[消](1.0):::|代名詞の表記=彼:||係り先の意味コード=231:[残](106.0):::節タイプ=従属節:|代名詞の付属語=において:[消](1.0)|代名詞の付属語=に対して:[換(自分)](1.0)|代名詞の付属語=のように:[残](1.0)|代名詞の付属語=の後:[消](1.0)|代名詞の付属語=は:[残](3.0)::|代名詞の付属語=が:||同一代名詞(文末側)=<[消]それら>:[消](3.0/1.0)||同一代名詞(文末側)=<[消]彼>:[消](8.0):::|代名詞の付属語=に:||係り先の付属語=こと:[換(自分)](1.0)||係り先の付属語=ば:[残](5.0):::|代名詞の付属語=を:||代名詞の表記=それ:[消](2.0/1.0)||代名詞の表記=それら:[換(彼ら)](1.0):::\end{verbatim}\end{DTREE}\caption{作成された決定木の一部}\label{fig:d-tree}\end{figure}\subsection{クラス分布の偏りを排除した実験}\label{sec:experiment:same_num_of_class}\ref{sec:experiment:trinary}\,節の実験で見られたクラス分布の偏りの影響を抑えるために，各クラスの数をほぼ同じになるように，クラス[消]が付与されている事例とクラス[残]が付与されている事例からそれぞれ50事例ずつを無作為に抽出し，これらの事例とクラス[換]の全事例を合わせた198事例を対象として実験を行なった．この場合の誤分類率は，十分割の交差検定の平均で，訓練事例に対して7.6\%，試験事例に対して35.3\%であった．\ref{sec:experiment:trinary}\,節での実験結果(訓練事例：9.2\%，試験事例：29.2\%)に比べると試験事例に対する誤分類率が高くなっているが，これは事例数が少ないことが主な原因であろう．試験事例に対する正誤行列を表\ref{tab:confusion_matrix3}\,に示す．クラス[換(私)]と[換(自分)]の正解率は十分高いとはいえないが，\ref{sec:experiment:trinary}\,節での結果に比べると改善されている．また，クラス[換(彼ら)]は全事例が正しく分類されている．このことから，クラス[換]に関する事例を今後重点的に収集していくことが，全体の精度向上に有効である．\begin{table}[htbp]\caption{[消]/[残]/[換]での分類精度(ほぼ同じ事例数)}\label{tab:confusion_matrix3}\begin{center}\begin{tabular}{|r|r|r|r|r|l|}\hline\multicolumn{1}{|c|}{(a)}&\multicolumn{1}{c|}{(b)}&\multicolumn{1}{|c|}{(c)}&\multicolumn{1}{c|}{(d)}&\multicolumn{1}{|c|}{(e)}&$\leftarrow$classifiedas\\\hline\hline24&6&5&12&3&(a):[消]\\9&32&3&3&3&(b):[残]\\1&3&3&0&6&(c):[換(私)]\\0&0&0&61&0&(d):[換(彼ら)]\\4&5&5&1&9&(e):[換(自分)]\\\hline\end{tabular}\end{center}\end{table}\subsection{各属性の有効性を調べる実験}本節では，着目した個々の属性が分類精度にどの程度寄与しているかを調べる．各属性を利用しないときに誤分類率がどのように変化するかを表\ref{tab:feats-effect}\,に示す．表\ref{tab:feats-effect}\,より，精度に悪影響を及ぼしている属性は存在しないことがわかる．特に分類に有効な属性は，「\PRON」，「\GVNRSEM」，「\GVNRFZKG」，「\CLSENDF」である．属性「\PRON」の有効性が高いことから，宮らが「\PRON」を手がかりにしていることは適切であるといえる．属性「\GVNRSEM」の値は分類語彙表に基づいて与えたが，1350事例のうち220事例(16.3\%)で，代名詞の係り先である用言や体言の意味コードが分類語彙表に記述されていないため，「\GVNRSEM」の値が未定義となっていた．これらに対して適切な意味コードを与えることができれば，精度向上につながる可能性が高い．他方，分類精度の向上に寄与していない属性は，「\COORD」，「\INDEFPRON」，「\SAMEPRONB」である．このうち，「\COORD」と「\INDEFPRON」が寄与しなかった理由は，事例数が少なかったことにある．「\SAMEPRONB」が寄与しなかった理由は，\ref{sec:corpus:spec}\,節で示したように，代名詞を一つしか含まない文がコーパス全体の72.3\%を占めており，これらの文から作成される事例では「\SAMEPRONB」の値がすべて同じ「無」になるため，有効に働かなかったのではないかと考えられる．しかし，「\SAMEPRONB」が精度向上にまったく寄与していないのに対して，「\SAMEPRONF」は若干寄与している．この差がなぜ生じたかについては今後の検討課題である．\begin{table}[htbp]\caption{各属性の有効性}\label{tab:feats-effect}\begin{center}\begin{tabular}{|l||r|}\hline\multicolumn{1}{|c||}{属性}&\multicolumn{1}{c|}{誤分類率}\\\hline\hline全属性&9.2\%\\\PRON&11.0\%\\\FZKG&9.6\%\\\COORD&9.2\%\\\GVNRSEM&10.4\%\\\GVNRFZKG&10.0\%\\\CLSTYPE&9.6\%\\\CLSENDB&9.9\%\\\CLSENDF&10.2\%\\\ANAPH&9.3\%\\\SAMEPRONB&9.2\%\\\SAMEPRONF&9.5\%\\\CONJ&9.7\%\\\INDEFPRON&9.2\%\\\hline\end{tabular}\end{center}\end{table}\subsection{代名詞毎の実験}分類精度は代名詞の種類によっても異なると予想される．そこで，表\ref{tab:pron-freq-label}\,に示した代名詞のうち，出現頻度が高い「彼」，「それ」，「それら」，「我々」，「私」の五種類の代名詞について，代名詞毎に実験を行なった．結果を表\ref{tab:pron-freq-result}\,に示す．基準誤分類率は，出現頻度が最も高いクラスを選んだときの誤分類率である．表\ref{tab:pron-freq-result}\,を見ると，代名詞「それら」と「私」に対する分類精度が特に悪い．「それら」に関しては，適切に分類できないクラス[換]の多さが高い誤分類率の原因である．「私」に関しては，分類に有効であろうと当初考えていた手がかり(属性値)が適切に得られなかったことに原因がある．「私」に関する有力な手がかりの一つは受給表現や待遇表現であり，これらは「\GVNRSEM」や「\GVNRFZKG」の値として反映されるものと考えていた．ところが，実験に用いた機械翻訳システムからの出力文にはこれらの表現が含まれていなかった．今後，他のシステムからの出力文を用いてこれらの表現の有効性を検証していく必要がある．\begin{table}[htbp]\caption{代名詞毎の誤分類率}\label{tab:pron-freq-result}\begin{center}\begin{tabular}{|l||r|r|r|}\hline&\multicolumn{2}{|c|}{誤分類率}&\\\cline{2-3}\multicolumn{1}{|c||}{\raisebox{1.5ex}[0pt]{代名詞}}&\multicolumn{1}{c|}{訓練事例}&\multicolumn{1}{|c|}{試験事例}&\multicolumn{1}{c|}{\raisebox{1.5ex}[0pt]{基準誤分類率}}\\\hline\hline彼&8.2\%&24.7\%&48.0\%\\それ&8.0\%&28.5\%&40.4\%\\それら&13.1\%&35.1\%&33.9\%\\我々&4.6\%&14.8\%&22.7\%\\私&13.0\%&47.7\%&49.5\%\\\hline\end{tabular}\end{center}\end{table}
\section{おわりに}
本稿では，従来の英日機械翻訳システムにおける代名詞翻訳の問題点を挙げ，それらを解決する方法を提案した．すなわち，従来研究と異なり，1)不適切な代名詞を消すか残すかあるいは他の表現に置き換えるかの判定を行ない，2)決定木学習アルゴリズムを利用して事例集から規則を自動的に作成する方法を示した．評価実験を通じて明らかになった主要な点は，1)人手で記述した規則の精度と同程度の精度が得られることと，2)ゼロ代名詞化に関する言語学的制約だけでなく，ゼロ代名詞の復元に関する手がかりも，ゼロ代名詞化を含む代名詞書き換えの可否を判断するための手がかりとして利用できることである．今後の課題として，次のような点が残されている．\begin{LIST}\item[\bf機械翻訳システムとの密な結合]提案手法は，既存の機械翻訳システムから独立した後編集と位置付けることができるが，既存システムの生成部に組み込むことも可能である．一般に生成部では目的言語の構文木を参照することができるので，提案手法を既存システムの内部に組み込むことによって正確な構文情報を得ることが可能になり，分類精度の向上が期待される．今後この点に関して検討を行なっていく．\item[\bf用言属性の拡張]今回の実験では，代名詞が係っている用言に関する属性として用言の意味コードと用言に付属している助動詞(相当表現)を用いたが，今後は結合価フレームも用言の属性として取り入れていく必要がある．なぜならば，代名詞がゼロ代名詞化されるかどうかは，代名詞に付属している助詞の表記と用言の結合価フレームによって判断しなければならないこともあるからである．例えば，助詞「に」をとることが明らかな用言のとき，「に」格の代名詞をゼロ代名詞化しても，それを復元することは比較的容易であるので，ゼロ代名詞化されやすい．これに対して，「に」をとることが明らかでない用言のときは，「に」格の代名詞のゼロ代名詞化は起こりにくいものと考えられる．\item[\bfテキスト属性の導入]今回の正解付きコーパス作成では，代名詞をどのように書き換えるかの判断を，先行文が存在しないという条件の下で行なった．しかし，一文単位では代名詞の存在が不自然でなくとも，代名詞を含む文が連続して出現すると，日本語テキストして不自然になることもある．従って，テキストレベルでの属性を取り入れる必要がある．このとき，一文内で観察される現象に比べて，複数の文から成るテキストにおいて初めて観察される現象の頻度が低くなることは避けられない．このため，テキストレベルの属性の信頼性を保つためには，非常に大規模なコーパスが必要となる．\end{LIST}\acknowledgment議論に参加頂いた英日機械翻訳グループの諸氏に感謝します．また，本稿の改善に有益なコメントを下さった査読者の方に感謝いたします．\vspace{6pt}\bibliographystyle{jnlpbbl}\bibliography{delpron}\clearpage\begin{biography}\biotitle{略歴}\bioauthor{吉見毅彦}{1987年電気通信大学大学院計算機科学専攻修士課程修了．1987年よりシャープ(株)にて機械翻訳システムの研究開発に従事．1999年神戸大学大学院自然科学研究科博士課程修了．}\bioreceived{受付}\bioaccepted{採録}\end{biography}\end{document}