\section{はじめに}
\label{sec:intro}日本語文は，通常，漢字や平仮名，片仮名，算用数字などの文字種により構成されるが，幼児向け書籍や外国人日本語初学者による作文などにおいて，平仮名のみで書かれる文も多々存在する．本論文では，平仮名のみで書かれた日本語文（以下，平仮名文）に対する形態素解析について述べる．これまでに，日本語形態素解析器として，JUMAN\cite{juman}，ChaSen\cite{chasen}，MeCab\footnote{\url{https://taku910.github.io/mecab/}}\cite{kudo-etal-2004-applying}，KyTea\footnote{\url{http://www.phontron.com/kytea/}}\cite{neubig-etal-2011-pointwise}などが開発されており，新聞記事文など，様々な文字種で書かれた漢字仮名まじり文に対して高い解析精度が達成されている．しかし，平仮名文は，漢字仮名まじり文と比べて，考えられる単語候補が増大するなど，はるかに曖昧性が多いため\cite{nagao-nlp}，例え，これら従来の解析器を平仮名文だけからなるコーパスで学習し直したとしても，これらによる平仮名文の解析精度は大きく低下することが報告されている\cite{moriyama-2018}．一方，平仮名を主な対象とした形態素解析に関する研究もいくつか存在する\cite{kudo-etal-hiragana-2018,picturebook,moriyama-2018,izutsu-komiya-2021}．その一つとして，我々の先行研究\cite{moriyama-2018}では，Kudoらの日本語形態素解析\cite{kudo-etal-2004-applying}を拡張し，RNNLM(ReccurentNeuralNetworkLanguageModel)との統合を行うことにより，平仮名文に対して高い解析精度を実現しており，その精度は従来の形態素解析器が漢字仮名まじり文に対して達成している精度に匹敵している．しかし，この手法の解析時間は一般的な計算機において平均7秒/文を超えており，前述した従来の著名な形態素解析器と比べて桁違いに遅い．応用システムに依存して必要な解析速度は決まるため一概には言えないが，外国人日本語初学者の独習支援システムなどにおいて，1文ごとに処理結果を出力することが想定される場合，我々の先行研究の手法には解析速度に関して実用上の問題が存在しているといえる．この手法では，Kudoらの手法\cite{kudo-etal-2004-applying}の枠組みを採用しており，ラティス上の最適経路を推定する必要があるが，各ノードに対してRNNLMが与えるスコアは，どの経路を通ったかによって異なるため，ビタビアルゴリズムを単純に適用することはできない．すなわち，経路ごとにRNNLMによるスコアを繰り返し計算する必要があり，漢字仮名まじり文よりも一般に長くなる平仮名文では特に，多くの解析時間がかかると考えられる．また，その多くが平仮名で構成されている絵本のテキストを対象とした研究\cite{picturebook}では，対象ドメインのデータでNeubigらの点予測による形態素解析手法(KyTea)\cite{neubig-etal-2011-pointwise}を学習し直すことの有効性が報告されている．Neubigらの手法\cite{neubig-etal-2011-pointwise}は，形態素解析を単語分割と品詞推定に分けて段階的に処理し，各処理において，文字境界あるいは単語ごとに点予測を文頭から順に繰り返すため，1文の文字数や単語数に対する線形時間で処理できると考えられる．実際，我々の先行研究\cite{moriyama-2018}において，Neubigらの手法の平仮名文に対する解析時間は一般的な計算機上で平均4.30ミリ秒/文であることを確認しており，従来の形態素解析器の漢字仮名まじり文に対する解析時間と同程度である．また，我々の先行研究において，Neubigらの手法の平仮名文に対する解析精度は，我々の先行研究における提案手法に次いで高いことを確認しており\cite{moriyama-2018}，平仮名文に対する形態素解析手法としてNeubigらの手法は有力視できる．しかし，Neubigらの手法による平仮名文の形態素解析精度は，単語境界のみの判定基準で95.62\%，すべての形態素情報が一致するという判定基準で93.28\%であったのに対して，我々の先行研究の手法はそれぞれ順に98.68\%，95.52\%であり，大きな差がある\cite{moriyama-2018}．Neubigらの手法(KyTea)は，推定箇所の前後の情報を用いて線形SVMあるいはロジスティック回帰により推定するが，ある一定の窓幅内に存在する局所的な情報しか利用できていない．Neubigらの手法は，漢字仮名まじり文に対しては高精度で解析できるのに対して，平仮名文に対してはその解析精度が大きく減少していた\cite{moriyama-2018}．それに対し，我々の先行研究の手法\cite{moriyama-2018}では，RNNLMから得られるスコアを取り入れることにより，大域的な情報を活用することができており，平仮名文に対する解析精度の向上に寄与したものと考えられる．このことは，平仮名文の曖昧性解消には大域的な情報が効果的であることを示唆している．そこで本論文では，平仮名文に対する高精度かつ実用的な速度での解析を目指し，RNN(ReccurentNeuralNetwork)とロジスティック回帰を用いた平仮名文の逐次的な形態素解析手法を提案する．提案手法では，平仮名文に対する形態素解析の高速化を図るため，Neubigらの手法\cite{neubig-etal-2011-pointwise}の枠組みを採用し，単語境界の推定は文字境界ごとに，形態素情報の推定は単語ごとに，文頭から逐次的に実行する．また，平仮名文に対する逐次的な形態素解析の高精度化を図るため，Neubigらの手法\cite{neubig-etal-2011-pointwise}の枠組みにおいて，局所的な情報だけでなく，大域的な情報を加味し，平仮名文独特の高い曖昧性の解消を試みる．具体例には，各時点において，Neubigらの手法においてロジスティック回帰が局所的な情報のみを用いて推定した結果と，RNNが大域的な情報を考慮して推定した結果とを組み合わせることが，平仮名文の逐次的な形態素解析の高精度化において有効であることを示す．さらに，漢字仮名まじり文の形態素解析と比べて，平仮名文の形態素解析では特に，大域的な情報を考慮することが効果的であることを示す．RNNを日本語形態素解析に用いた関連研究として，KitagawaとKomachiの日本語単語分割\cite{kitagawa-komachi-2018-long}がある．KitagawaとKomachiの手法は，RNNを用いて逐次的に単語境界か否かを判定するものであり，Neubigらの手法に比肩する解析精度を達成している．しかし，解析対象は漢字仮名まじり文であり，平仮名文ではない．また，単語分割のみを行っており，品詞などの形態素情報の推定には取り組んでいない．それに対し，Tolmachevらは，単語分割と形態素情報推定をRNNを用いて逐次的に行う手法を提案している\cite{tolmachev-etal-2019-shrinking}．しかし，この手法の解析対象も漢字仮名まじり文であり，平仮名文ではない．その他，Moritaらは，RNNLMを用いたラティスに基づく日本語形態素解析手法を提案している\cite{morita-etal-2015-morphological}．この手法(JUMAN++ver.~1)は，我々の先行研究の手法と同様に，多くの解析時間がかかるという問題があったが，Tolmachevらによって新たなビームサーチ法が施され，JUMAN++ver.~2では解析時間の短縮化が図られている\cite{tolmachev-etal-2018-juman}．しかしながら，この研究の解析対象も漢字仮名まじり文であり平仮名文ではない．また，公開中のJUMAN++では，ユーザが形態素定義を変更し平仮名文で学習し直すことは容易ではないと考えられる．一方，平仮名文の形態素解析にRNNを用いた研究として，井筒らはBi-LSTMCRFに基づく手法を提案しているが，その解析精度は，MeCabと比べて低く，改善の余地が残されている\cite{izutsu-komiya-2021}．なお，日本語以外の言語として中国語に対しても，RNNなどの深層学習を用いた形態素解析手法が様々提案されており，その有効性が報告されているが\cite{chen-etal-2015-long,ma-hovy-2016-end,ma-etal-2018}，日本語に対する有効性は明らかではない．以下，2章では提案手法の詳細を紹介する．3章では，平仮名文を対象とした形態素解析実験を実施し，提案手法の有効性を示す．4章では，3章の実験結果の分析や，漢字仮名まじり文に対する形態素解析実験に基づいて，提案手法の特徴を考察する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{RNNとロジスティック回帰を用いた平仮名文の逐次的な形態素解析}
本研究では，平仮名文に対する高精度かつ実用的な速度での解析を実現するために，RNNとロジスティック回帰を用いた平仮名文の逐次的な形態素解析手法を提案する．具体的には，Neubigらの点予測による手法\cite{neubig-etal-2011-pointwise}においてロジスティック回帰\footnote{Neubigらの点予測による手法\cite{neubig-etal-2011-pointwise}を実装したKyTeaでは，分類器として線形SVMとロジスティック回帰を選択可能だが，ロジスティック回帰が与える確率を提案手法では用いる．}が与える確率と，新たに構築したRNNが与える確率とを線形結合したスコアを用いて，文頭から逐次的に解析する．また，提案手法は，Neubigらの手法\cite{neubig-etal-2011-pointwise}と同様に，形態素解析を単語境界の推定と形態素情報の推定とに分けて段階的に処理する（図1参照）．なお，形態素情報の推定では，品詞（大分類），品詞（細分類），活用型，活用形，見出し語の漢字仮名表記，読み，の6種類の情報を独立に推定する\footnote{本研究の実装では，これら6種類の形態素情報の推定を逐次的に行っているが，並列処理することも考えられる．}．ここで，本研究では，平仮名文を対象とするため，見出し語の漢字仮名表記を原形の代わりに推定している．これは，我々の先行研究\cite{moriyama-2018}と同様に，平仮名文の同音異義語の識別を考慮するためである．以下では，提案手法における単語境界の推定と形態素情報の推定をそれぞれ順に説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[t]\begin{center}\includegraphics{29-2ia4f1.pdf}\end{center}\caption{提案手法の処理手順}\label{flow}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{単語境界の推定}\label{ws}単語境界の推定では，Neubigらの手法\cite{neubig-etal-2011-pointwise}と同様に，1文を構成する文字列$\mbox{\boldmath$x$}=c_1c_2\cdotsc_n$を入力とし，各文字間に単語境界の有無を示す単語境界タグ$\mbox{\boldmath$t$}=t_1t_2\cdotst_{n-1}$を出力する．ここで，単語境界タグ$t_i$は，文字$c_i$と$c_{i+1}$の間に単語境界が存在するとき1，存在しないとき0をとる．また，提案手法では，各文字間に単語境界が存在するか否かを文頭から順に判定し，その判定をすべての文字境界について繰り返す．提案手法ではまず，ロジスティック回帰とRNNとをそれぞれ用いて，各文字間に単語境界が存在する確率と存在しない確率を推定する．その後，両者が推定した2つの確率を線形結合し，その値に基づいて，単語境界の有無を判定する．すなわち，文字$c_i$と$c_{i+1}$の単語境界の有無$t_i$を式(\ref{wb-eq})により推定する．\begin{eqnarray}\label{wb-eq}t_i=\argmax_{v\in\{0,1\}}\left((1-\alpha)P_{lr}(t_i=v)+\alphaP_{rnn}(t_i=v)\right)\end{eqnarray}ここで，$P_{lr}(t_i=v)$はタグ$t_i$が$v$である確率をロジスティック回帰により推定した値，同様に，$P_{rnn}(t_i=v)$はRNNにより推定した値を表す．また，$\alpha(0\le\alpha\le1)$は補完係数であり，パラメータ調整用の開発データを用いて実験的に決定する．以下では，ロジスティック回帰とRNNの各々による単語境界の推定について述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{ロジスティック回帰による単語境界の推定}\label{ws-lr}確率$P_{lr}(t_i)$を算出する際にロジスティック回帰で用いる素性は，タグ位置$i$の前後$m$文字からなる長さ$2m$の文字列中から得られる，文字n-gramと文字種n-gramである．これらの素性はNeubigらの手法\cite{neubig-etal-2011-pointwise}の単語分割にて用いられている素性と同様であるが，本研究では平仮名文を扱っているため，文字種は，平仮名(H)，数字(N)，その他(O)の3種とする．例えば，図\ref{flow}の入力文「しかし、はってんとじょうこくからのひはんがつよい。」において，$i=3,m=3$とし，1-gramから3-gramまで使用するとすると，$P_{lr}(t_3)$を算出する際の素性は以下となる．\begin{itemize}\item文字1-gram：し$|$か$|$し$|$、$|$は$|$っ\item文字2-gram：しか$|$かし$|$し、$|$、は$|$はっ\item文字3-gram：しかし$|$かし、$|$し、は$|$、はっ\item文字種1-gram：H$|$H$|$H$|$O$|$H$|$H\item文字種2-gram：HH$|$HH$|$HO$|$OH$|$HH\item文字種3-gram：HHH$|$HHO$|$HOH$|$OHH\end{itemize}なお，Neubigらの手法では辞書素性を用いることも可能であり，提案手法においても原理的には使用可能であるが，簡単化のため本研究では使用していない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{RNNによる単語境界の推定}\label{ws-rnn}確率$P_{rnn}(t_i)$を算出する際に用いるRNNの概要を図\ref{ws-RNN}に示す．まず，\ref{ws-lr}節で述べた文字n-gramや文字種n-gramのすべての素性の各々をEmbeddingを通し分散表現とする．次に，各素性のEmbeddingを連結したベクトルをRNNの入力とし，順方向のLSTM(LongShort-TermMemory)\cite{LSTM}により変換する．最後に，線形変換とSoftmax関数を適用し，2次元の出力を得る．この出力は単語境界の有無の確率分布を表す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.2\begin{figure}[t]\begin{center}\includegraphics{29-2ia4f2.pdf}\end{center}\caption{単語境界推定のためのRNNの概要}\label{ws-RNN}\vspace{-1\Cvs}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%なお，Embeddingの事前学習は実施しておらず，学習開始時点ではEmbeddingは乱数により無作為に初期化し，Embeddingを含むモデル全体をend-to-endで学習させている．提案手法と同様に，RNNを用いた日本語分割手法としてKitagawaとKomachiの手法\cite{kitagawa-komachi-2018-long}があるが，提案手法とは，タグを付与する対象とタグの種類数（出力層の次元数）に違いがある．KitagawaとKomachiの研究では，各文字に対して，'B'，'I'，'E'，'S'（順に，「単語の先頭」，「単語の内部」，「単語の末尾」，「一文字からなる単語」）の4種類のタグを付与すべく，RNNが設計されている．それに対し，提案手法では，ロジスティック回帰が与える確率$P_{lr}(t_i)$との線形結合を行うため，各文字境界に対して，単語境界の有無の2種類のタグを付与するべく，RNNを設計している．また，両手法とも，Neubigらの手法\cite{neubig-etal-2011-pointwise}を参考として，文字n-gramや文字種n-gramをRNNの入力に利用するが，タグを付与する対象が異なっているため，その取り方は完全に一致しているわけではない．提案手法では，ロジスティック回帰が与える確率$P_{lr}(t_i)$との線形結合を行うため，Neubigらの手法\cite{neubig-etal-2011-pointwise}と同一の素性としている．なお，\ref{ws-lr}節と同様に，提案手法においても辞書素性を使用可能であるが，本研究では簡単化のため使用していない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{形態素情報の推定}形態素情報の推定では，\ref{ws}節の単語境界の推定によって単語に分割された1文を入力とし，各単語の6種類の形態素情報（品詞（大分類），品詞（細分類），活用型，活用形，見出し語の漢字仮名表記，読み）をそれぞれ推定する（図\ref{flow}参照）．6種類の各形態素情報を推定する枠組みは同一であり，それぞれ独立に実行される．そのため以下では，品詞（大分類）の推定方法のみを取り上げ説明する．また，本節では品詞（大分類）を品詞と略称する．品詞の推定では，1文を構成する単語列$\mbox{\boldmath$w$}=w_1w_2\cdotsw_k$を入力とし，各単語の品詞ラベル$\mbox{\boldmath$l$}=l_1l_2\cdotsl_k$を出力する．ここで，$l_j$は，単語$w_j$の品詞ラベルである．また，本手法では，各単語の品詞ラベルを文頭から順に判定し，その判定を文末まで繰り返す．品詞の推定においても，単語境界推定と同様に，まず，ロジスティック回帰とRNNとをそれぞれ用いて，各単語が各品詞ラベルを持つ確率を推定する．その後，両者が推定した2つの確率を線形結合し，その値に基づいて，各単語の品詞ラベルを判定する．品詞の推定は多値分類問題となるが，各単語に対して品詞を推定する際，各単語が取り得る品詞ラベルの種類数をどのように考えるかによって，多値分類器の構成方法には2つの方法が考えられる\cite{mori-etal-2011-nlp}．一つは，品詞ラベルをすべて集めた集合を$L$とするとき，すべての語彙に対して，$|L|$値分類問題を解く1つのモデルを作る方法であり，全体モデルと呼ばれる．もう一つは，ある単語$w_j$が実際に取り得るラベルは$L$の部分集合$L_j$であることを考慮し，各語彙に対してその語彙だけのためのモデルを作る方法であり，個別モデルと呼ばれる\footnote{\url{http://www.phontron.com/kytea/train-ja.html}}．本研究では，ロジスティック回帰による推定とRNNによる推定とで異なるモデルを採用する．すなわち，ロジスティック回帰による推定ではNeubigらの手法\cite{neubig-etal-2011-pointwise,mori-etal-2011-nlp}と同様に個別モデルを採用し，RNNによる推定では訓練データ量がスパースとなることを考慮し全体モデルを採用する．個別モデルが語彙ごとにモデルを使い分けるのに対し，全体モデルはすべての単語で共通のモデルを使用することから，多くの場合，個別モデルにより分類するクラス数は，全体モデルにより分類するクラス数より小さくなる．そのため，両者が推定した確率値を線形結合する際には，ロジスティック回帰（個別モデル）により分類するクラス数に基づき，RNN（全体モデル）が推定した確率値を補正する．具体的には，単語$w_j$の品詞ラベル$l_j$を式(\ref{ma-ketugou})により推定する．\begin{eqnarray}\label{ma-ketugou}l_j=\argmax_{v\inL_j}\left((1-\beta)P^{個}_{lr}(l_j=v)+\beta\frac{P^{全}_{rnn}(l_j=v)}{\Sigma_{v\inL_j}P^{全}_{rnn}(l_j=v)}\right)\end{eqnarray}ここで，$P^{個}_{lr}(l_j=v)$は単語$w_j$の品詞ラベルが$v$である確率をロジスティック回帰（個別モデル）により推定した値を，同様に，$P^{全}_{rnn}(l_j=v)$はRNN（全体モデル）により推定した値をそれぞれ表す．$L_j$は，単語$w_j$が取り得る品詞ラベルを集めた集合を表し\footnote{実際には訓練データにおいて各単語に付与されているラベルを集めている．}，$\Sigma_{v\inL_j}P^{個}_{lr}(l_j=v)=1$となる．なお，品詞ラベルをすべて集めた集合$L$に関しては，$\Sigma_{v\inL}P^{全}_{rnn}(l_j=v)=1$が成り立つ．ここで，$|L_j|\le|L|$であるため，式(\ref{ma-ketugou})では，$P^{全}_{rnn}(l_j=v)$を補正した上で，$P^{個}_{lr}(l_j=v)$との線形結合を行っている．なお，$\beta(0\le\beta\le1)$は補完係数であり，パラメータ調整用の開発データを用いて実験的に決定する．$\beta$は，図\ref{flow}に示す6種類の各形態素情報で個別に設定できるが，本研究では予備実験により同一の値を設定している（\ref{comparison-method}節参照）．以下では，ロジスティック回帰とRNNの各々による品詞の推定を説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{ロジスティック回帰による品詞の推定}\label{ma-lr}確率$P^{個}_{lr}(l_j)$を算出する際にロジスティック回帰で用いる素性は，Neubigらの手法\cite{neubig-etal-2011-pointwise}の品詞推定にて用いられている素性と同様である．具体的には，推定する単語$w_j$の直前の$m$文字からなる文字列$\mbox{\boldmath$c_-$}$と直後の$m$文字からなる文字列$\mbox{\boldmath$c_+$}$の連結$\mbox{\boldmath$c_-c_+$}$に含まれる，文字n-gramと文字種n-gramである．ただし，本研究では平仮名文を扱っているため，文字種は，平仮名(H)，数字(N)，その他(O)の3種である．例えば，図\ref{flow}における単語境界推定の出力文「しかし/、/はってん/とじょう/こく/から/の/ひはん/が/つよい/。」において，$j=3,m=3$とし，1-gramから3-gramまで使用するとすると，$P^{個}_{lr}(l_3)$を算出する際の素性は，文字列「かし、とじょ」から得られ，以下となる．\begin{itemize}\item文字1-gram：か$|$し$|$、$|$と$|$じ$|$ょ\item文字2-gram：かし$|$し、$|$、と$|$とじ$|$じょ\item文字3-gram：かし、$|$し、と$|$、とじ$|$とじょ\item文字種1-gram：H$|$H$|$O$|$H$|$H$|$H\item文字種2-gram：HH$|$HO$|$OH$|$HH$|$HH\item文字種3-gram：HHO$|$HOH$|$OHH$|$HHH\end{itemize}ロジスティック回帰による品詞推定モデルは，個別モデルに基づくため語彙ごとに作る．なお，Neubigらの手法では，推定対象の単語が訓練データに出現せず，辞書に出現する場合は，その単語の辞書情報をそのまま出力するという形で辞書を利用しているが，簡単化のため本研究では使用していない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.3\begin{figure}[b]\vspace{-1\Cvs}\begin{center}\includegraphics{29-2ia4f3.pdf}\end{center}\caption{形態素情報推定のためのRNNの概要}\label{ma-RNN}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{RNNによる品詞の推定}確率$P^{全}_{rnn}(l_j)$を算出する際に用いるRNNの概要を図\ref{ma-RNN}に示す．\pagebreakまず，\ref{ma-lr}節で述べた文字n-gramと文字種n-gramのすべての素性に加えて，推定対象の単語を抽出し，その各々をEmbeddingを通し分散表現とする．本研究では，Neubigらの手法\cite{neubig-etal-2011-pointwise}の全体モデルの場合と同様に，推定対象の単語そのものを分類器の素性として利用する．次に，\ref{ma-lr}節で述べた文字n-gramと文字種n-gramのすべてと推定対象の単語の各Embeddingを連結したベクトルをRNNの入力とし，順方向のLSTMにより変換する．最後に，線形変換とSoftmax関数を適用し，$|L|$次元の出力を得る．この出力は品詞ラベルの確率分布を表す．なお，\ref{ws-rnn}節と同様に，Embeddingの事前学習は実施しておらず，学習開始時点ではEmbeddingは乱数により無作為に初期化し，訓練データの正解の単語境界情報を用いて，Embeddingを含むモデル全体をend-to-endで学習させている．また，前述したように，RNNによる品詞推定は全体モデルに基づくため，各単語に対して適用されるモデルは共通である．また，\ref{ma-lr}節と同様に，簡単化のため本研究では辞書を使用していない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{評価実験}
\label{sec:experiment}平仮名文の形態素解析における提案手法の有効性を確認するため，従来手法との比較実験を実施した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\input{04table01.tex}\caption{実験データ}\label{experimental-data}\vspace{-1\Cvs}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験データ}\label{ex-data}実験では，京都大学テキストコーパスVersion4.0の各見出し語を平仮名に置換したものを利用する\footnote{京都大学テキストコーパスの読みは，その作成マニュアル\cite{kcmanual}において基本的に修正されていないことが言及されており，その一部に誤りが含まれている．例えば，「１９９４」の読みが「いちきゅうきゅうよん」となっている誤りが確認されている\cite{moriyama-2018}．}．コーパスは38,400文，972,894単語，2,320,340文字からなり，これを訓練データ，開発データ及びテストデータに分割して使用する．詳細を表\ref{experimental-data}に示す．1月17日の一般記事（社説以外の記事）を開発データとし，1月12日から1月16日の5日分の一般記事のうち，1日分をテストデータとする実験を5回実施する．各回における訓練データは，当該テストデータと開発データを除くすべてを使用することとした．例えば，1月16日の一般記事をテストデータとする場合，訓練データは1月1日から1月15日の一般記事と1月から12月の社説記事となる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{比較手法}\label{comparison-method}提案手法（以下，[LR+RNN]と記す）との比較のため，以下7つの比較手法を設けた．\begin{itemize}\item{[MeCab]}：形態素解析器MeCab(ver.~0.996)を用いる手法．MeCabのモデルの学習にはseed辞書，設定ファイル及びコーパスを用意する必要がある\footnote{\url{https://taku910.github.io/mecab/learn.html}}．seed辞書は\ref{ex-data}節で述べた訓練データの語彙から作成した．素性抽出テンプレート等の設定ファイルは，MeCabの配布辞書のひとつであり，京都大学テキストコーパスの品詞体系に従うJUMAN辞書のものと同一とした．ただし，JUMAN辞書の設定では学習時に正解を判定する条件を形態素情報のうち活用形までの一致としているため，ひらがな文の解析に則すよう形態素情報すべての一致を正解とするよう設定を変更している．コーパスは\ref{ex-data}節で述べた訓練データをMeCabのフォーマットに修正して作成した．ハイパーパラメータCは1.0を指定し，コーパス中に出現する素性は，頻度によるフィルタをかけず，すべて使用した．\item{[KyTea]}：形態素解析器KyTea(ver.~0.4.6)を用いる手法．本実験の訓練データを使い，一から学習したモデルを用いる．訓練時のオプションは``-full''と``-model''のみを指定し，辞書を使用せず，分類器はデフォルトの線形SVMとしている．また，解析時のオプションは``-model''のみを指定している．\item{[CRFs+RNNLM]}：我々の先行研究手法\cite{moriyama-2018}．なお，使用されている訓練データは本実験の訓練データと同一である．\item{[CRFs]}：[CRFs+RNNLM]において，補間係数$\alpha$を0とし，CRFsが与える確率のみを用いて推定する手法．\item{[RNNLM]}：[CRFs+RNNLM]において，補間係数$\alpha$を1とし，RNNLMが与える確率のみを用いて推定する手法．\item{[LR]}：提案手法[LR+RNN]において，補間係数$\alpha,\beta$をともに0とする手法．\item{[RNN]}：提案手法[LR+RNN]において，補間係数$\alpha,\beta$をともに1とする手法．\end{itemize}これら7つの比較手法と提案手法の違いを表\ref{method-feature}に整理して示す．これらの手法は，判定アルゴリズムが逐次的であるか，ラティスベースであるかの違い，また，スコア算出器や分類器として，局所情報を素性とする機械学習のみを用いるのか，大域情報を考慮できるRNNのみを用いるのか，両者を用いるのかという違いの2つの観点で整理できる．[LR+RNN]における単語分割推定と形態素情報推定の際に使用したRNNのハイパーパラメータを表\ref{hyperparameters}に示す．このうち，対象単語のEmbedding次元数は形態素情報推定のためのRNNのみに関わるハイパーパラメータであり，その他は，単語分割推定と形態素情報推定の両方でともに同じ値を用いた．なお，Adamの各パラメータは推奨値とした．また，エポック数は，開発データ上でのF値が収束するまでとした．提案手法及び上記7つの比較手法のモデルの学習は，\ref{ex-data}節で述べた訓練データのみを用いて行った．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table2\begin{table}[t]\input{04table02.tex}\caption{提案手法と比較手法の特徴}\label{method-feature}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table3\begin{table}[t]\input{04table03.tex}\caption{RNNのハイパーパラメータ}\label{hyperparameters}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%提案手法における補完係数$\alpha$と$\beta$は，表\ref{experimental-data}のテストデータごとに訓練データが変わるため，それぞれの訓練データごとに，開発データにおいてF値を最も高くする$\alpha$と$\beta$を0から1まで0.1刻みで探索し，それらを採用した．ただし，$\beta$の探索は正解の単語分割を与えた上で実施し，また，$\beta$は6種類の形態素情報共通とした．表\ref{tab:weight}の上2行に，本実験において採用した補完係数$\alpha$と$\beta$を示す．また，単語境界推定と形態素情報推定のいずれにおいても，提案手法で用いる素性を決定する際の窓幅は$m=3$とし，n-gramは1-gramから3-gramまで使用した．提案手法はscikit-learn\cite{scikit-learn}，及び，PyTorch\cite{NEURIPS2019_9015}，PyTorch-lgnite\cite{pytorch-ignite}を使いPythonで実装した．なお，我々の先行研究手法[CRFs+RNNLM]もPythonで実装している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table4\begin{table}[t]\input{04table04.tex}\caption{3章と4.4節の各実験における[LR+RNN]の補完係数$\alpha$と$\beta$}\label{tab:weight}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{評価指標}解析時間の評価では，プログラムの実行時間をbashのtimeにより計測し，1文あたりの平均解析時間を算出した．なお，推論時のプログラムはすべて，CPU:IntelCorei5-6500，RAM:8.0GBを搭載したマシン上で実行し，GPUは使用していない．また，解析精度の評価には適合率，再現率及びF値を使用する．それぞれの計算式は以下の通りである．\[Precision=\frac{\mbox{Numberofcorrectmorphemes}}{\mbox{Numberofpredictedmorphemes}}\]\[Recall=\frac{\mbox{Numberofcorrectmorphemes}}{\mbox{Numberofgroundtruthmorphemes}}\]\[F=\frac{2*Precision*Recall}{Precision+Recall}\]我々の先行研究\cite{moriyama-2018}と同じく，評価基準は次の5つを設けた．\begin{itemize}\itemlevel0：単語分割が正解．\itemlevel1：level0に加え品詞（大分類）が正解．\itemlevel2：level1に加え品詞（細分類）が正解．\itemlevel3：level2に加え活用型と活用形が正解．\itemlevel4：level3に加え見出し語の漢字仮名表記と読みが正解．\end{itemize}level4の正解は同音異義語の識別の成功に相当する．なお，上述の各評価指標の値は5回の実験結果の平均をとったものとする．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table5\begin{table}[t]\input{04table05.tex}\caption{実験結果}\label{experimental-result}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験結果}\label{sec:experimental-result}実験結果を表\ref{experimental-result}に示す\footnote{[RNNLM]が[CRFs+RNNLM]より遅いのは単語数がより多い経路を[RNNLM]が選択する傾向が強かったためである．}．提案手法[LR+RNN]は，我々の先行研究手法[CRFs+RNNLM]と比較して，100倍以上高速になっている．表\ref{method-feature}に両者の違いを示した通り，[CRFs+RNNLM]はラティス上の経路ごとにRNNLMによるスコア計算を繰り返し計算する必要があるのに対し，[LR+RNN]は，文字列長あるいは単語長だけRNNを適用すればよく，計算量を大きく抑えることができる．この点が提案手法の高速化を実現できた主要因と考えられる．その他の要因として，[CRFs+RNNLM]はLSTMの各層の隠れ状態の次元数が1500であるの対して，[LR+RNN]は約1/8の200であり，RNNのモデルサイズを小さくすることができた点も考えられる．一方，提案手法[LR+RNN]の解析時間は，[MeCab]や[KyTea]には及ばなかった．ただし，提案手法がPythonで実装されているのに対し，[MeCab]や[KyTea]はC++で実装されており，同一言語で各手法を実装すれば，各手法の解析時間の差は表\ref{experimental-result}の結果より縮まると考えられる．また，本実験では図\ref{flow}の6種類の形態素情報の推定を逐次的に行っているが，これらを並列処理することにより，更なる高速化が期待できる．いずれにしろ，提案手法の更なる高速化は今後の課題である．次に，解析精度に目を向けると，提案手法[LR+RNN]は，単語分割性能を示すlevel0と，最も厳しい評価基準であるlevel4のF値において，最高値を達成しており，level4のF値において2番目に高い値を示した[CRFs+RNNLM]を有意に上回った($p<0.05$)\footnote{1月12日から1月16日の5つのテストデータに対する結果に基づき，対応のあるt検定を実施し確認した．なお，本実験結果の検定はすべて同じ方法で実施した．}．提案手法[LR+RNN]は，我々の先行研究手法[CRFs+RNNLM]と比較し，同程度以上の高い解析精度を達成しつつ，解析時間を大幅に削減できていることを確認した．また，[KyTea]や[MeCab]とそれぞれ比較した場合，提案手法[LR+RNN]は全levelにおいて有意に上回った（いずれも$p<0.01$）．提案手法は，平仮名文を対象とする場合において，代表的な日本語形態素解析器を上回る高い解析精度を達成していることを確認した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{考察}
本章では，前章の実験結果に基づき，平仮名文の形態素解析における提案手法の特徴を考察する．具体的には，[CRFs+RNNLM]や[KyTea]，[LR]，[RNN]による各解析精度との比較を通じて，提案手法の利点や誤り傾向について述べる．また，漢字仮名まじり文に対して提案手法を適用し，平仮名文に対する解析との違いについて考察する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{提案手法と[CRFs+RNNLM]の比較}\label{subsec:comparison-cfrs_rnnlm}本節では，提案手法[LR+RNN]と我々の先行研究手法[CRFs+RNNLM]の解析結果に基づき，表\ref{method-feature}に示す両者の違いが解析精度に及ぼす影響を考察する．まず，単語分割を意味するlevel0や，最も厳しい評価基準であるlevel4のF値において，提案手法[LR+RNN]が[CRFs+RNNLM]を有意に上回った原因を考察する．表\ref{experimental-result}の適合率に着目すると，level0やlevel4において，[CRFs+RNNLM]が提案手法を著しく下回っていることがわかる．図\ref{crfs+rnnlm_failure}に，[CRFs+RNNLM]の適合率を著しく低下させている例を示す．平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．いずれの例も訓練データに出現しない未知語が入力文に含まれており，提案手法と[CRFs+RNNLM]がいずれも形態素解析に失敗した例となっているが，[CRFs+RNNLM]は未知語を構成する文字列を細かく刻み単語分割していることがわかる．そのため，適合率の分母が増加し，適合率を押し下げたものと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.4\begin{figure}[t]\resizebox{\textwidth}{!}{%\begin{tabular}{l|l}\thlineAnnotation&開会/式/の/後/、/アイス/ダンス/の/コンパルソリー/の/２/課題/を/行い/、\\&/都築/奈加子/・/ユーリス/・/ラズグリャエフ/組/が/首位/に/立った/。\\\hline[LR+RNN]&開会/式/の/後/、/UNK/の/UNK/の/に/課題/を/行い/、\\&/UNK/過去/・/UNK/・/UNK/含み/が/首位/に/立った/。\\\hline[CRFs+RNNLM]&開会/式/の/あと/、/愛す/ダンス/の/今/パ/る/そり/UNK/の/二/過大/を/行い/、\\&/都筑/中/コ/・/ユー/利/ス/・/裸/図/具/李/UNK/含み/が/首位/に/立った/。\\\hline\hlineAnnotation&今季/から/ガンバ/大阪/の/指揮/を/執る/ジークフリート/・/ヘルト/\\&新/監督/が/１３/日/、/ヨシップ/・/クゼ/、/フリードリッヒ/・/コンシリア/\\&両/新/コーチ/と/新/加入/の/ＦＷ/ハンス/・/ヒルハウス/、/ＭＦ/\\&スクリーニャ/・/ビエツコスラブ/と/ともに/来/日/した/。\\\hline[LR+RNN]&今季/から/ガンバ/大阪/の/式/を/UNK/UNK/・/減る/と/新/監督/が/\\&１３/日/、/UNK/・/UNK/、/UNK/UNK/・/UNK/両親/コーチ/と/\\&新/加入/の/ＦＷ/ハンス/・/UNK/薄/、/UNK/・/UNK/と/ともに/来/日/した/。\\\hline[CRFs+RNNLM]&今/季/から/ガンバ/大阪/の/指揮/を/取る/児/UNK/区/フリー/と/・/経る/と/\\&新/感得/が/１３/日/、/よし/UNK/・/区/是/、/フリー/取り/UNK/・/今/シリア/\\&良心/コーチ/と/新/加入/の/ＦＷ/ハンス/・/昼/ハウス/、/ＭＦ/\\&ス/繰り/UNK/に/UNK/・/微/越/古/スラブ/と/ともに/来/日/した/。\\\hline\hlineAnnotation&後半/は/オロチ/の/七/つ/の/分身/が/現れる/スペクタクルで/、\\&/橋之助/が/スサノオ/を/豪快に/、/丑之助/が/稲田姫/を/かれんに/演じた/。\\\hline[LR+RNN]&後半/は/UNK/の/七/つ/の/分身/が/現れる/UNK/で/、\\&/UNK/が/UNK/を/UNK/に/、/牛/の/UNK/姫/を/UNK/に/演じた/。\\\hline[CRFs+RNNLM]&後半/は/お/ろ/地/の/七/つ/の/分身/が/現れる/す/UNK/他/くる/で/、/\\&波斯/の/す/けが/す/さ/の/尾/を/格/階/に/、/牛/の/す/気/が/維/灘/姫/を/\\&課/連/に/演じた/。\\\hline\hlineAnnotation&文章/の/端正/、/物語/上手/、/時代/考証/の/確か/さ/、/下級/武士/や/市井/\\&の/人々/へ/の/優しい/視点/、/英雄/嫌い/など/藤沢/周平/の/魅力/を/\\&次々/に/解き明かして/いく/。\\\hline[LR+RNN]&文章/の/UNK/、/物語/上手/、/時代/交渉/の/確か/さ/、/UNK/や/姿勢/\\&の/人々/へ/の/やさしい/視点/、/英雄/嫌い/など/藤沢/UNK/の/魅力/を/\\&次々/に/UNK/いく/。\\\hline[CRFs+RNNLM]&文/相/の/短/製/、/物語/上手/、/時代/公傷/の/確か/さ/、/加/休部/市/や/市井/\\&の/人々/へ/の/やさしい/支店/、/英雄/嫌い/など/藤沢/臭/塀/の/魅力/を/\\&次々/に/とき/あかし/テイク/。\\\hline\hline\multicolumn{2}{l}{※平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．}\\\multicolumn{2}{l}{※UNKは未知語を意味する．}\\\end{tabular}}%\caption{未知語が含まれる文に対する提案手法と[CRFs+RNNLM]の解析例}\label{crfs+rnnlm_failure}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%[CRFs+RNNLM]は，言語モデルによって算出される次の単語の生起確率を用いているため，ラティス上において，未知語が含まれるパスはスコアが著しく低くなり選択されにくくなる．そのため，未知語を構成する文字列を細かく刻み，訓練データに存在した単語に分割したパスが選択されることになると考えられる．なお，ラティスベースの形態素解析を行う[MeCab]や[CRFs]，[RNNLM]も同様に，level0の適合率が低く，その中でも言語モデルを利用する[RNNLM]の低下は著しいことが確認できるが，これらも同様の理由が考えられる．一方，提案手法[LR+RNN]は，逐次的に判定するため，未知語を構成する文字列を未知語1語として判定する傾向が強いと考えられる．また，提案手法は，表層形を元にRNNにより推定を行うため，入力文の一部に未知語があった場合でも他の箇所へ影響は少なく，未知語に対してある程度頑健と考えられる．\ref{sec:experiment}章の実験では，\ref{ex-data}節で述べた通り，新聞記事を日付ごとに分割して実験データを作成しており，テストデータには訓練データに出現しない未知語が比較的多く含まれる形となっている．そのことも提案手法[LR+RNN]に有利に働いたものと考えられる．なお，本研究では，新聞記事全体から文単位でランダムにサンプリングして別の実験データを作成し，未知語が含まれる割合が低下したテストデータに対しても評価実験を実施しており，\ref{sec:experiment}章の実験結果との比較からも，提案手法[LR+RNN]の未知語に対する頑健性を確認している（詳細は付録\ref{appendixA}を参照されたい）．次に，level0やlevel4の解析において，[CRFs+RNNLM]は成功しているものの，提案手法が失敗した例を考察する．そのような例を図\ref{ws-failure}に示す．%上の2例がlevel0での失敗例，その下2例がlevel4での失敗例である．平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．最初の例では，「三/党（さん/とう）」が正解であるのに対し，提案手法は「山刀（さんとう）」と解析誤りを犯しているが，[CRFs+RNNLM]は正解と同一の単語分割及び漢字仮名表記の推定に成功している．[CRFs+RNNLM]はビームサーチを用いているものの，RNNLMをラティス上の経路ごとに適用するため，一部の後方文脈を考慮できる．そのため，後方の「政局」を考慮して，「三/党（さん/とう）」の解析に成功したものと考えられる．それに対して，提案手法は逐次的に単語境界を判定しているため，順方向LSTMにより前方の大域的な情報を考慮しているといえども，後方の「政局」を考慮できず，この解析に失敗している．上から2例目も同様に考察できる．また，上から3例目と4例目では，提案手法は単語分割に成功しているものの，漢字仮名表記の推定，すなわち，同音異義語の識別に失敗している．これらの例でも，後方文脈を考慮できないことにより，提案手法が失敗しているものと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.5\begin{figure}[b]\resizebox{\textwidth}{!}{%\begin{tabular}{l|l}\thlineAnnotation&三/党/が/こういう/状況/なら/政局/は/安定/できる/。\\\hline[CRFs+RNNLM]&三/党/が/こういう/状況/なら/政局/は/安定/できる/。\\\hline[LR+RNN]&山刀/が/こういう/状況/なら/政局/は/安定/できる/。\\\hline\hlineAnnotation&第/三/巻/「/ヨーロッパ/文明/と/の/対話/」/は/五/月/に/刊行/さ/れる/予定/。\\\hline[CRFs+RNNLM]&第/三/巻/「/ヨーロッパ/文明/と/の/対話/」/は/五/月/に/刊行/さ/れる/予定/。\\\hline[LR+RNN]&第/山間/「/ヨーロッパ/文明/と/の/対話/」/は/五/月/に/刊行/さ/れる/予定/。\\\hline\hlineAnnotation&この/日/は/別の/校舎/で/通常/の/授業/が/行わ/れて/いた/が/、/学生/に/\\&混乱/は/なかった/。\\\hline[CRFs+RNNLM]&この/日/は/別の/校舎/で/通常/の/授業/が/行わ/れて/いた/が/、/学生/に/\\&混乱/は/なかった/。\\\hline[LR+RNN]&この/日/は/別の/公社/で/通常/の/授業/が/行わ/れて/いた/が/、/学生/に/\\&混乱/は/なかった/。\\\hline\hlineAnnotation&正解/は/大学/入試/センター/発表/。\\\hline[CRFs+RNNLM]&正解/は/大学/入試/センター/発表/。\\\hline[LR+RNN]&政界/は/大学/入試/センター/発表/。\\\hline\hline\multicolumn{2}{l}{※平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．}\\\end{tabular}}%\caption{提案手法が失敗し，[CRFs+RNNLM]が成功した例}\label{ws-failure}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%提案手法は，高速化を図るために逐次的な単語分割手法を採用しており，高速性を犠牲にしないためには，逐次的に判定を行う枠組みにおいて単語分割精度を向上させる方策を考える必要がある．例えば，大域的な情報をより強く考慮するため，双方向LSTM\cite{BLSTM}やAttention\cite{NIPS2017_attention}などの活用が考えられるが，その改善策については今後の課題である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{提案手法と[KyTea]の比較}本節では，提案手法[LR+RNN]と，[KyTea]の解析結果に基づき，表\ref{method-feature}に示す両者の違いが解析精度に及ぼす影響を考察する．表\ref{experimental-result}における提案手法[LR+RNN]と[KyTea]の各levelのF値を詳細に見ると，level0において2.44ポイントの差が生じ，その差がlevel1～4においてそのまま引き継がれ2.09～2.35ポイント差となっている．このことから，提案手法が全levelのF値において[KyTea]より有意に上回ったのは，単語分割によって生じた精度差が主な原因であり，その差が形態素情報の推定まで引きずられたためと考えられ，形態素情報の推定では両手法に精度差はほとんどないという仮説が考えられる．そこで，この仮説を検証するため，正解の単語分割に基づいて，提案手法と[KyTea]で形態素情報を推定するという追加実験を実施した．実験設定は，\ref{sec:experiment}章と同様であり，提案手法と[KyTea]の形態素情報推定機構の入力に，正解の単語分割を与えている点のみが異なる．表\ref{additional-experimental-result}に追加実験の結果を示す．なお，正解の単語分割結果を与えているため，正解率で評価している（適合率・再現率・F値はいずれも正解率と同値となる）．両者を比較すると，各levelでその差はほとんどなく，この結果は上記の仮説を支持するものと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table6\begin{table}[b]\input{04table06.tex}\caption{正解の単語分割に基づく提案手法と[KyTea]の形態素情報推定結果}\label{additional-experimental-result}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%一方，単語分割level0のF値において，提案手法と[KyTea]との間に有意差が生じた原因は，大域的な情報を考慮しているか否かにあると考えられる．図\ref{ws-correct}に，単語分割において，提案手法は成功し，[KyTea]は失敗した例を示す．平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．1つ目の例では，「しょうちく（松竹）」が正解であるのに対し，[KyTea]は「しょう/ちく（小/地区）」と解析誤りを犯しているが，提案手法は正解と同一の解析に成功している．提案手法と[KyTea]はいずれも逐次的に単語境界の判定を行うが，提案手法は，「えんげき（演劇）」や「げきじょう（劇場）」といった前方に位置する大域的な情報をRNNにより考慮することができ，「しょうちく（松竹）」の解析に成功したものと考えられる．その他の例についても，同様の考察ができる．提案手法は，逐次的な手法を採用しているため，1文全体の最適経路を求める[CRFs+RNNLM]と比べると大域的な判断を一部犠牲にしていることになるものの，RNNを組み合わせることにより，大域的な情報を考慮することに成功していると考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.6\begin{figure}[t]\begin{center}\begin{tabular}{l|l}\thlineAnnotation&－/－/早大/の/演劇/博物/館/、/国立/劇場/の/資料/室/、/松竹/の/大谷/図書/\\&館/程度/で/、/民間/の/劇場/併設/は/全国/で/例/が/ない/、/と/思い/ます/。\\\hline[LR+RNN]&－/－/早大/の/演劇/博物/館/、/国立/劇場/の/資料/室/、/松竹/の/大谷/図書/\\&館/程度/で/、/民間/の/劇場/併設/は/全国/で/例/が/ない/、/と/思い/ます/。\\\hline[KyTea]&－/－/早大/の/演劇/博物/館/、/国立/劇場/の/資料/室/、/小/地区/の/大谷/と/署/\\&館/程度/で/、/民間/の/UNK/は/全国/で/例/が/ない/、/と/思い/ます/。\\\hline\hlineAnnotation&この/日/の/五百/メートル/は/宮部/保範/、/行範/の/兄弟/が/３６/秒/台/を/\\&マーク/した/後/の/滑走/。\\\hline[LR+RNN]&この/日/の/五百/メートル/は/宮部/保範/、/行範/の/兄弟/が/３６/秒/台/を/\\&マーク/した/後/の/滑走/。\\\hline[KyTea]&この/日/の/五百/メートル/は/宮部/保範/、/行範/の/強/大/が/３６/秒/台/を/\\&マーク/した/後/の/滑走/。\\\hline\hlineAnnotation&国際/線/は/、/福岡/―/ホノルル/、/札幌/―/ホノルル/、/\\&成田/―/アムステルダム/線/を/増便/し/、/それぞれ/一/日/一/便/に/する/。\\\hline[LR+RNN]&国際/線/は/、/福岡/―/ホノルル/、/札幌/―/ホノルル/、/\\&成田/―/アムステルダム/線/を/増便/し/、/それぞれ/一/日/一/便/に/する/。\\\hline[KyTea]&国際/線/は/、/福岡/―/補/UNK/、/札幌/―/捕/UNK/、/\\&UNK/アムステルダム/線/を/増便/し/、/それぞれ/一/日/一/便/に/する/。\\\hline\hlineAnnotation&党/幹部/の/新党/準備/会/参加/者/は/「/除名/すれば/党/分裂/が/鮮明に/なり/\\&村山/政権/の/基盤/が/揺らぐ/。/除名/さ/れれば/新/会派/は/野党/に/回ら/ざる/\\&を/得/ない/」/と/けん制/する/。\\\hline[LR+RNN]&党/幹部/の/新党/準備/会/参加/者/は/「/除名/すれば/党/分裂/が/鮮明に/なり/\\&村山/政権/の/基盤/が/揺らぐ/。/除名/さ/れれば/新/会派/は/野党/に/回ら/ざる/\\&を/得/ない/」/と/けん制/する/。\\\hline[KyTea]&党/幹部/の/新党/準備/会/参加/者/は/「/除名/すれば/党/分裂/が/鮮明に/なり/\\&村山/政権/の/基盤/が/揺らぐ/。/除名/さ/れれば/新/会/は/UNK/に/\\&回ら/ざる/を/得/ない/」/と/けん制/する/。\\\hline\hline\multicolumn{2}{l}{※平仮名文の解析を便宜上，漢字仮名表記で記載していることに注意されたい．}\\\multicolumn{2}{l}{※UNKは未知語を意味する．}\end{tabular}\end{center}\caption{単語分割において，[KyTea]が失敗し，提案手法が成功した例}\label{ws-correct}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{提案手法と[LR]及び[RNN]の比較}本節では，提案手法[LR+RNN]と，提案手法を構成する[LR]及び[RNN]の3つの手法による推定結果を比較し，提案手法の誤り傾向と，その誤りの削減可能性について考察する．表\ref{error-overlapping}に，推定対象箇所のうち，各手法が各levelの評価基準に照らして誤った箇所の数と，その誤り箇所の重なり数を示す．ここで，単語境界推定の評価は，\ref{sec:experiment}章の実験結果に基づいたものであるが，形態素情報推定の評価は，各手法の間で推定対象箇所をそろえるため，正解の単語境界を各手法の入力として再実験\footnote{入力以外の実験設定は\ref{sec:experiment}章の実験と同一である．}した結果に基づいたものである．そのため，単語境界推定時と形態素情報推定時の推定対象箇所の総数は，各手法で同数であり，それぞれ，表\ref{experimental-data}に示す5つのテストデータの合計文字数421,760と合計単語数175,981である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table7\begin{table}[t]\input{04table07.tex}\caption{提案手法[LR+RNN]と[LR]，[RNN]の各手法が誤った箇所の数と，その誤り箇所の重複}\label{error-overlapping}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%どのlevelにおいても，{[LR]}と{[RNN]}の共通の誤り数と，{[LR+RNN]}と[LR]と[RNN]の共通の誤り数に差はほとんどなく，[LR]と[RNN]がいずれも誤った箇所は，[LR+RNN]でも誤っていることが分かる．[LR]と[RNN]のどちらもが誤っていたとしても，どちらかの手法において下位候補が第1位候補と大差なく高い確率値を持ってる場合などにおいて，式(1)の$\alpha$や式(2)の$\beta$の選び方によっては原理的に正解できる可能性はある．しかし，[LR]と[RNN]のいずれもが誤るような箇所は，\ref{subsec:comparison-cfrs_rnnlm}節で述べた通り，後方文脈などの大域的な情報を考慮する必要のある場合が多いと考えられ，線形結合の補完係数を変更するだけで正解に導くことは難しいと考えられる．一方，[LR+RNN]の誤りのうち，[LR]と[RNN]のどちらか一方が正解しているものについては，推定対象箇所ごとに$\alpha$や$\beta$を適切に選ぶことができれば正解できる可能性があると言える．例えば，単語境界推定において，[LR]と[RNN]のどちらか一方が正解していたものを[LR+RNN]で正解できたとすると，level0のF値は94.37から96.37まで改善することができる．より適切な$\alpha$や$\beta$の設定方法の検討は今後の課題である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{漢字仮名まじり文に対する解析精度との比較}\label{sec:mix-kanji-experiment}\ref{sec:intro}章で述べたように，平仮名文の形態素解析は，漢字仮名まじり文と比べて，一般に難しいタスクであり，その解析精度が大きく低下することが知られている．本節では，その解析精度の低下を提案手法がどの程度，抑制できているかを確認するため，我々の先行研究\cite{moriyama-2018}と同様に，漢字仮名まじり文に対する形態素解析実験を実施し，平仮名文に対する実験結果と比較する．漢字仮名まじり文に対する実験の設定を述べる．実験データには，平仮名文コーパスに変換する前のオリジナルの京都大学テキストコーパスを，表\ref{experimental-data}と同様に，訓練データ，開発データ，テストデータに分割したものを用い，\ref{sec:experiment}章と同様の実験を5回実施した．\ref{sec:experiment}章の実験との違いは，実験データが平仮名文コーパスに変換されているか否かのみである．また，我々の先行研究\cite{moriyama-2018}と同様に，{[KyTea]}や{[MeCab]}，{[CRFs+RNNLM]}のほか，JUMAN++(ver.1.02)を用いる手法（以下，{[JUMAN++]}）\footnote{JUMAN++は，形態素定義を変更したデータで学習し直すことは難しく，提案手法との公平な比較ができないため，平仮名文での比較は断念したが，参考のため，漢字仮名まじり文に対しては解析実験を実施した．}でも形態素解析を実行し，提案手法と比較した．なお，提案手法{[LR+RNN]}，{[KyTea]}，{[MeCab]}，{[CRFs+RNNLM]}は，表\ref{experimental-data}の訓練データ（ただし，当該箇所のオリジナルの京都大学テキストコーパス）により学習し直したものを利用し，{[JUMAN++]}はJUMAN++(ver.1.02)をデフォルトのまま利用した．また，提案手法の補完係数については，\ref{comparison-method}節と同様の方法で，開発データを用いて新たに決定した．表\ref{tab:weight}の下2行に，本実験において採用した補完係数$\alpha$と$\beta$を示す．その他の実験設定は，\ref{sec:experiment}章と同一とした．表\ref{tab:comparison}に漢字仮名まじり文と平仮名文の形態素解析結果（F値）を示す．下4行の平仮名文の形態素解析精度は，比較の簡単化のために，表\ref{experimental-result}の値を再掲載したものである．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table8\begin{table}[b]\input{04table08.tex}\caption{漢字仮名まじり文と平仮名文の形態素解析結果（F値）の比較}\label{tab:comparison}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%解析対象が漢字仮名まじり文から平仮名文に変わった時の各手法の解析精度の低下に着目すると，提案手法の落ち込みは，{[CRFs+RNNLM]}と比べると大きいものの，提案手法と同様に逐次的な解析を行う{[KyTea]}と比べると小さいことがわかる．提案手法は，RNNにより大域的な情報を考慮することによって，平仮名文における曖昧性の一部を解消することに成功し，解析精度の低下を抑制できているものと考えられる．ここで，提案手法における，式(1)の補完係数$\alpha$に着目する．表\ref{tab:weight}を見ると，平仮名文を対象とした場合の最適な補完係数の値は，特に$\alpha$において，漢字仮名まじり文を対象とした場合より，大きくなる傾向が読み取れる．図\ref{fig:hiragana-kanji-alpha-plots}に，\ref{sec:experiment}章や本節の実験において，$\alpha$を0から1まで0.1刻みで変化させたときの，開発データにおけるlevel0のF値をプロットしたグラフを示す．「$\alpha\_112$」は1月12日をテストデータとするときの訓練データで学習したモデルにおいて$\alpha$を探索した結果を示す．平仮名文を対象とした場合のグラフのピークが漢字仮名まじり文を対象とした場合と比べて右に寄っていることが分かる．このことは，漢字仮名まじり文と比べて，平仮名文の曖昧性解消には，RNNによる大域的な情報をより強く考慮することが重要であることを示唆している．提案手法は，RNNによる大域的な情報を考慮する度合いを強めることにより，平仮名文に対する解析精度の低下を抑制しているものと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.7\begin{figure}[t]\begin{center}\includegraphics{29-2ia4f4.pdf}\end{center}\caption{\ref{sec:experiment}章（左図：平仮名文対象）と本節（右図：漢字仮名まじり文対象）の実験における$\alpha$の探索}\label{fig:hiragana-kanji-alpha-plots}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%一方，漢字仮名まじり文に対する解析精度は，参考までに実施した[JUMAN++]を除き\footnote{[JUMAN++]はJUMAN++(ver.1.02)を再学習することなく，デフォルトのまま使用しており，テストデータ部分を含む形で京都大学テキストコーパス全体を訓練データとして用いていると考えられ，単純に比較することはできない．}，すべてのlevelにおいて，提案手法{[LR+RNN]}と[KyTea]が拮抗し，どちらかが最も高いF値を達成している．どのlevelにおいても，提案手法{[LR+RNN]}と[KyTea]との有意差は認められなかった（いずれのlevelも$p>0.05$）．上述したように，漢字仮名まじり文を解析する際の補完係数の値は0に近づいており，その分だけ，{[LR+RNN]}が手法として，{[LR]}に近づいているといえる．{[LR]}と{[KyTea]}は，用いた機械学習手法に違いがあるだけであり，提案手法と{[KyTea]}の間の差も小さくなっているものと思われる．漢字仮名まじり文に対する提案手法の有効性に関する検証は今後の課題としたい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}
本論文では，RNNとロジスティック回帰を用いた平仮名文の逐次的な形態素解析手法を提案した．平仮名文に対する形態素解析実験の結果，単語分割と形態素情報のすべての一致を正解として測定したF値において，提案手法は88.22となり，従来手法{[CRFs+RNNLM]}の87.70を上回る解析精度を達成した．また提案手法は，従来手法{[CRFs+RNNLM]}と比べて100倍以上の高速化を実現していることを確認した．さらに，漢字仮名まじり文に対する解析実験との比較の結果，漢字仮名まじり文と比べて，平仮名文の解析では，大域的な情報がより効果を発揮することを確認した．今後は，双方向LSTM\cite{BLSTM}やAttention\cite{NIPS2017_attention}などの導入を検討し，平仮名文に対する形態素解析精度の向上を図る予定である．また，更なる高速化についても検討したい．さらに，漢字仮名まじり文に対する提案手法の効果について検証を進め，漢字仮名まじり文に対する形態素解析精度の向上にも取り組みたい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\acknowledgment本研究の提案手法の実装には，scikit-learn及びPyTorch，PyTorch-lgniteを利用した．評価には京都大学テキストコーパス，KyTea，MeCab，JUMAN++を利用した．これらの開発に携わった方々に感謝する．本研究は，一部，科学研究費補助金基盤研究(C)No.19K12127により実施した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\bibliographystyle{jnlpbbl_1.6}\bibliography{04refs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\appendix
\section{ランダムサンプリングデータを用いた評価実験}
label{appendixA}本付録では，新聞記事全体から文単位でランダムにサンプリングすることにより，\ref{ex-data}節とは別の実験データを作成し，その実験データを用いて，\ref{sec:experiment}章と同様の評価実験を実施した結果を示す．ランダムサンプリングして実験データを作成した場合は，日付ごとに分割して作成した場合と比べて，テストデータに未知語が含まれる割合は低下することになる．\ref{sec:experiment}章の実験結果との比較を行うことにより，未知語割合が提案手法や比較手法に与える影響を考察する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験概要}実験データは，\ref{ex-data}節と同じく，京都大学テキストコーパスVersion4.0の各見出し語を平仮名に置換したものを利用し作成した．コーパス全体に含まれる38,400文（972,894単語，2,320,340文字）から，文単位でランダムに各1,000文をサンプリングしてテストデータおよび開発データを作成し，残りの36,400文を訓練データとする実験を5回実施する．各回の訓練データ，開発データおよびテストデータの詳細を表\ref{experimental-data2}に示す．また，表\ref{tab:oov}に，本付録，及び，\ref{sec:experiment}章の実験における各テストデータに含まれる未知語（各訓練データに出現しない単語）の割合を示す．その他の実験環境や比較手法，評価指標については\ref{sec:experiment}章の実験と同じである．ただし，本実験における提案手法[LR+RNN]の補完係数$\alpha,\beta$は表\ref{tab:weight2}の通りである．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table9\begin{table}[t]\input{04table09.tex}\caption{ランダムサンプリングにより作成した実験データ}\label{experimental-data2}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table10\begin{table}[t]\input{04table10.tex}\caption{ランダムサンプリングデータ及び日付に基づく分割データの各テストデータにおける未知語の割合}\label{tab:oov}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table11\begin{table}[t]\input{04table11.tex}\caption{ランダムサンプリングデータを用いた実験における[LR+RNN]の補完係数$\alpha$と$\beta$}\label{tab:weight2}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table12\begin{table}[t]\input{04table12.tex}\caption{ランダムサンプリングデータに対する実験結果}\label{experimental-result2}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験結果}実験結果を表\ref{experimental-result2}に示す．\ref{sec:experiment}章の実験結果の適合率，再現率，F値（表\ref{experimental-result}）は，本付録の実験結果（表\ref{experimental-result2}）と比べると，全ての手法で全てのlevelにおいて低い値となっている．上述した通り，\ref{sec:experiment}章の実験データは，本付録の実験データと比べて，テストデータに未知語が含まれる割合が増加しており（表\ref{tab:oov}参照），全体的に精度が低下したものと考えられる．特に，ラティスベースの[MeCab]や[CRFs]，[RNNLM]，[CRFs+RNNLM]のlevel0の適合率に着目すると，表\ref{experimental-result2}と比べて表\ref{experimental-result}の値は著しく低下しており，テストデータに未知語が含まれる割合が増えると，ラティスベースの形態素解析手法の適合率が低下するという，\ref{subsec:comparison-cfrs_rnnlm}節で述べた考察を確認できる．同様に，[CRFs+RNNLM]と提案手法[LR+RNN]のlevel0のF値に着目すると，[CRFs+RNNLM]では95.89から93.37へと大きく低下するのに対して，[LR+RNN]は95.98から94.37へと低下するものの，その下げ幅が小さくなっており，提案手法の未知語への頑健性を確認できる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{biography}\bioauthor{森山柊平}{%2016年東京電機大学工学部第二部情報通信工学科卒業．2018年同大学大学院未来科学研究科情報メディア学専攻修士課程修了．ヴイエムウェア株式会社を経て，現在，Idein株式会社に在職．自然言語処理に関する研究，エッジデバイス向けの画像認識システムの開発に従事．}\bioauthor{大野誠寛}{%2003年名古屋大学工学部電気電子・情報工学科卒業．2007年名古屋大学大学院情報科学研究科博士後期課程修了．博士（情報科学）．同年同大大学院国際開発研究科助教．2011年同大情報基盤センター助教．2017年より東京電機大学未来科学部情報メディア学科准教授．この間，日本学術振興会特別研究員．自然言語処理，音声言語処理の研究に従事．言語処理学会，情報処理学会，電子情報通信学会，各会員．}\end{biography}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\biodate\end{document}