\section{はじめに}
機械学習に基づく言語処理システムは，一般に，訓練に用いたテキストドメインと，実際に運用ないし評価を行うテキストドメインが異なる場合に精度が低下する．この，訓練時と運用・評価時のテキストドメインの異なりによる精度低下を防ぐという課題を，ドメイン適応問題と呼ぶ．以下では，訓練に用いるデータのテキストドメインを適応元ドメイン，運用ないし評価を行うデータのテキストドメインを適応先ドメインと呼ぶ．ドメイン適応が必要になる理由は，端的にいえば，訓練データと評価データが同一分布からのサンプルであるという統計的機械学習の基本的な前提が破られていることにある．このため，最も基本的なドメイン適応手段は，適応先ドメインのアノテーション付きコーパスを訓練データに追加してモデルを訓練しなおすこと，すなわち，いわゆる追加訓練によって，訓練データと評価データの分布を近づけることである．このように，追加訓練という明らかな解決法が存在するドメイン適応問題を，ことさら問題として取り上げるのには主に2つの理由がある．ひとつは工学的あるいは経済的な理由である．我々が言語処理技術を適用したいテキストドメインが多様であるのに対して，既に存在するアノテーション付きデータのドメインは限られており，かつ，ターゲットとなるドメインごとに新たにアノテーションを行うことには大きなコストが必要となる．また，単純な追加訓練を超えるドメイン適応技法の中には，大量に存在する適応先ドメインの生テキストを活用することでアノテーションのコストを抑えることを狙うものもあるが，本稿で取り上げる適応先ドメインの一つである教科書テキストのように，そもそも，生テキストですら大量に存在する訳ではないドメインもある．このため，既存のアノテーション付きデータに比べ相対的に少量しか存在しない適応先ドメインデータをどのように活用するかは，重要な技術課題となる．ドメイン適応問題が重要である2つ目の理由は，単一言語のデータには，明らかにテキストドメインを超えた共通性が存在するという点にある．例えば，教科書テキストを解析したい場合でも，モデルを新聞テキストで訓練することには，当然ある程度の有効性がある．簡単にいえば，「どちらも日本語だから」そのようなことが可能になるわけであり，およそ全てのドメイン適応技術はこの前提に基づいているが，しかし我々は「日本語とは何か」ということの数理的・統計的な表現を知った上でこれを行っている訳では当然ない．逆に言えば，ドメイン適応課題とは，あるタスクの精度向上という目的を通じた間接的な形であれ，「日本語とは何か・日本語テキストに共通するものは何か」の理解に近づくための一つの試みであるといえる．以上の2つの理由のいずれからも，最も基本的なドメイン適応手段である追加訓練が，どのような例に対して有効で，どのような例に対してそうでないのかを知ることには大きな意義がある．それを知るための基本的な方法は，追加訓練によって改善された誤りとそうでないものを一つ一つ観察し分類してゆくことだが，これを通じて，追加訓練によって全体として何が起こっているのかを把握することは必ずしも容易でない．そこで本稿では，追加訓練の効果を俯瞰的に観察・分析するための一手法を提示し，日本語係り受け解析タスクにおける追加訓練を例として，その効果の分析を行った結果を報告する．本研究における分析手法は，追加訓練前後の係り受け誤り例の収集・係り受け誤りの埋め込み・埋め込みのクラスタリングの3つのステップに分けられる．係り受け誤りの埋め込みは，クラスタリングを行うための前処理のステップであり，ニューラルネットに基づく係り受け解析器の内部状態を用いて，係り受け誤りを密な実数ベクトルで表現する．解析器の内部状態を用いることで，データにもとづいて導出された，係り受け解析タスクにおいて重要な特徴を抽出した表現に基づくクラスタリングを行うことができ，いわば，「解析器の視点」からの追加訓練の効果の分析が行えると期待できる．次に，こうして得られた埋め込みをクラスタリングすることで追加訓練の効果を俯瞰的に観察・分析する．具体的には，クラスタリング結果に対していくつかの統計的・定量的分析を行い，高次元の空間の点として表現された誤りの分布と，追加訓練による誤りの解消・発生の様子を観察する．さらに，適応先ドメインごとに，追加訓練の効果が特徴的に表れているクラスタや，効果が見られないクラスタに着目してその内容を観察することで，追加訓練の効果に関わるドメインごとの特徴を分析する．この際，一つ一つの誤り例だけでなく，まずクラスタとしてまとめて観察することで，追加訓練によって改善しやすい誤りや，ドメインごとに発生しやすい誤りを見出すことが容易になると考えられる．さらに，追加訓練の効果やドメイン間の差について，クラスタに含まれる誤りの観察をもとに仮説を立て，コーパス上の統計量にもとづきそれを検証することで，ドメイン適応の有効性に関わるテキストドメインの特徴を把握し，よりよい追加訓練手法のための基礎的な知見を得ることが期待できる．本稿では，適応元ドメインとして新聞記事，適応先ドメインとして理科教科書および特許文書を用いて上記の分析を行った結果を報告する．追加訓練の効果が特に強く認められたクラスタの誤りを詳細に分析した結果，「{$X$}は+{$V_1$}スル+{$N$}は/が/を+{$V_2$}スル」「{$X$}は+{$V_1$}スルと+{$V_2$}スル」（「{$V_k$}スル」は用言，{$N$}は体言）など，どのドメインにも出現する文型に対して，正しい構造の分布がドメイン間で異なることが学習されたためであると分かった．追加訓練が効果を上げる理由としては，大きく分けて，(a)適応元ドメインでは稀な構文が新たに学習されること，および，(b)表層的には類似した文型に対する正しい構文構造（の分布）が，適応元ドメインと適応先ドメインで異なることが学習されることの2つが考えられる．本研究の分析の結果からは，後者が追加訓練の主要な効果であることが示唆される．なお，本研究における分析手法は追加訓練と誤りの収集が可能な解析器であればニューラル解析器に限らず適用することができる．例えば，{\cite{weko_192738_1}}では\eijiSVM\Eijiを用いた解析器である\eijiCaboCha\Eiji{\cite{cabocha}}に対する追加訓練の影響を，ニューラル解析器から得られる埋め込み表現とクラスタリングを用いて分析している．ただし，本稿では誤り収集と埋め込み表現の作成は同じ解析器で行った．以下，\ref{sec:related_works}節で関連研究についてまとめ，\ref{sec:teian}節で分析手法について詳述する．\ref{sec:zikken}節で実験結果を述べ，\ref{sec:owarini}節でまとめと今後の展望を述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%2
\section{関連研究\label{sec:related_works}}
ドメイン適応問題に対する研究は数多くあるが，それらは大きく分けると2つのアプローチに分けられる．一つ目のアプローチは効果的な学習法に関するものである．このアプローチは少量しかない適応先ドメインデータの情報をより強く反映し，正しく解析を行うため，一般的な機械学習のプロセスの一部を変更するものである．例えばDaum\'{e}IIIら\cite{daume2006domain}は学習時の適応先ドメインデータの重みを適応元ドメインデータと変える方法を提案した．Daum\'{e}III\cite{daume2009frustratingly}は両方のドメインに共通の情報と固有の情報とを素性表現を使って工夫して学習する方法を提案した．McCloskyら\cite{mcclosky2010automatic}は複数の適応元ドメインの重みつき和によって適応先ドメインを表現する手法を提案した．Wangら\cite{wang-etal-2017-sentence}は適応先ドメインに類似した適応元ドメインデータだけをモデルの内部表現を用いて選択，訓練に用いる手法を提案した．Satoら\cite{sato-etal-2017-adversarial}は両方のドメイン共通の情報と固有の情報を敵対的学習を用いて分離し，訓練を行った．二つ目のアプローチは効率的な適応先データの収集法に関するものである．アノテーションされた適応先データは少ないが，生の適応先データは大量に利用できるという場合に利用できる手法で，生の適応先データのうち最も精度上昇に寄与するデータを選択し，そのデータを訓練データに追加するというものである．この手法はアクティブラーニングと呼ばれ，この手法を用いても適応先ドメインのアノテーションコストを減少できると期待できる（例えば{\cite{marcheggiani2014experimental,li2016active}など）．}また，本研究はニューラルモデルの挙動について，特に追加訓練の効果に焦点を当てて説明しようとする研究とも位置付けられるが，複雑なニューラルモデルの挙動を様々な側面から理解しようとする試みは近年注目を集めている．例えば，Kohら\cite{influence}は損失関数の微分を用いて特定の訓練例や特定の素性が出力に与える影響を調べた．Tenneyら\cite{tenney-etal-2019-bert}は最終的な決定に対して\eijiBidirectional\Eiji\eijiEncoder\Eiji\eijiRepresentations\Eiji\eijifrom\Eiji\eijiTransformers\Eiji\eiji(BERT)\Eiji\cite{devlin-etal-2019-bert}の各層がもたらす寄与と，各層を追加することによる精度上昇量をもとにBERTの各層の振る舞いを調べた．本研究では特に追加訓練の効果を理解することを目的として係り受け誤りの分類・分析を行うが，より一般に，係り受け誤りの分類・分析を通した性能の改善に関しては先行研究が存在する．例えば，金山{\cite{weko_48179_1}}は，係り受け誤りについての調査から誤りの共通点を見出し，正解と誤りを区別する素性を追加することで誤りを減少させた．河原ら{\cite{ws_pnn03_parsing}}は，係り受け誤りをいくつかのパターンに分類し，それぞれのパターンについての対処法を述べ，さらに現在の性能評価の問題点や後続のタスクへの影響についても議論した．これらの先行研究は主として特定のドメインにおける係り受け誤りの改善を目的としているが，本研究ではドメインごとの差から生じる誤りや，追加訓練による誤り傾向の変化の分析を目的とする点でこれらと異なる．また，先行研究では誤りを人手で分類しているが，本研究は解析器の内部状態を用いて自動的に分類している．これによって，人手での分類が困難なほど多数の係り受け誤りを俯瞰的に観察することが可能になる．さらに，人の目を通して把握した文型や言語現象の類似性ではなく，解析器の内部状態を基に誤りを自動分類することで，データからの学習の効果と結びつけやすい形で誤りが分類できると期待できる．以上のように，ドメイン適応問題に関する研究やニューラルモデルの挙動について説明する研究，および誤り分析に関する研究は多く存在するが，ドメイン適応問題において追加訓練が解析結果にもたらす影響について，単なる精度の向上ではなく，その内実を理解することを目的とした研究は少ない．本研究は，これを目的として誤り傾向の変化を定性的・定量的に分析したものである．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f1.eps}\end{center}\caption{分析の流れのブロック図}\label{fig:zentaizou}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%3
\section{分析手法\label{sec:teian}}
本節では分析手法について述べる．図\ref{fig:zentaizou}に分析の流れのブロック図を示す．以降ではそれぞれのブロックについて詳しく述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%3.1\subsection{係り受け解析器\label{subsec:parser}}はじめに，本研究で用いる係り受け解析器について述べる．これは図\ref{fig:zentaizou}の誤り収集・誤り埋め込みブロックで用いられる．本研究で用いるモデルは，松野ら\cite{neuralgraph}のものをベースとしている．松野らのモデルとの相違点については本項の最後にまとめる．本研究で用いる係り受け解析器を図\ref{fig:parser}に示す．この解析器は大きく文節埋め込み層（図下側）とスコア計算層（図上側）に分けられる．さらに文節埋め込み層は以下の3ステップに分けられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.2\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f2.eps}\end{center}\caption{解析器の構成}\label{fig:parser}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{1.形態素層}形態素の素性表現ベクトル列$\bm{x}^{word}_i$に対しBi-directionalLong-ShortTermMemory(BiLSTM)を適用することで，各形態素を文脈を考慮した埋め込み表現$(\overleftarrow{\bm{y}}^{word}_i,\overrightarrow{\bm{y}}^{word}_i)$に変換する．\begin{align}(\overleftarrow{\bm{y}}^{word}_i,\overrightarrow{\bm{y}}^{word}_i)={\rmBiLSTM}^{word}(\bm{x}^{word}_i)\end{align}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{2.差分層}$\overleftarrow{\bm{y}}^{word}=(\overleftarrow{\bm{y}}^{word}_0,\dots,\overleftarrow{\bm{y}}^{word}_{M+1}),\overrightarrow{\bm{y}}^{word}=(\overrightarrow{\bm{y}}^{word}_0,\dots,\overrightarrow{\bm{y}}^{word}_{M+1})$（$M$は形態素数）に対し，文節に属する形態素の情報が入力される前の情報と全ての情報が入力された後の情報の差分を取ることで文節を表す表現$\bm{x}^{chunk}=(\bm{x}^{chunk}_1,\dots,\bm{x}^{chunk}_C)$（$C$は文節数）を求める．$t$番目の文節が$i$番目の形態素から$j$番目の形態素で構成されているとき，$\bm{x}^{chunk}$は以下のように計算される．ただし，{$\oplus$はベクトルの結合を表す．}\pagebreak\begin{align}\overleftarrow{\bm{x}}_t^{chunk}&=\overleftarrow{\bm{y}}_i^{word}-\overleftarrow{\bm{y}}_{j+1}^{word}\\\overrightarrow{\bm{x}}_t^{chunk}&=\overrightarrow{\bm{y}}_{j}^{word}-\overrightarrow{\bm{y}}_{i-1}^{word}\\\bm{x}_t^{chunk}&=\overleftarrow{\bm{x}}_t^{chunk}\oplus\overrightarrow{\bm{x}}_t^{chunk}\end{align}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{3.文節層}$\bm{x}^{chunk}$をBiLSTMに通すことで周辺の文脈も含んだ文節の情報を表す表現\\$\bm{y}^{chunk}=(\bm{y}^{chunk}_0,\dots,\bm{y}^{chunk}_{C+1})$（以降，文節埋め込み表現）にする．\begin{align}(\overleftarrow{\bm{y}}_t^{chunk},\overrightarrow{\bm{y}}_t^{chunk})&={\rmBiLSTM}^{chunk}(\bm{x}^{chunk}_t)\\\bm{y}_t^{chunk}&=\overleftarrow{\bm{y}}_t^{chunk}\oplus\overrightarrow{\bm{y}}_t^{chunk}\end{align}スコア計算層では{$t$番目の文節と{$u$}番目の文節}$(t<u)$について，それらの文節埋め込み表現$\bm{y}_t^{chunk},$$\bm{y}_u^{chunk}$を多層パーセプトロンに入力することで，2文節間の係り受け関係スコアを計算する．$t$番目の文節が$u$番目の文節に係る時の係り受け関係スコア$s_{t,u}$は以下のように計算される．\begin{align}s_{t,u}&={\rmMLP}(\bm{y}_t^{chunk}\oplus\bm{y}_u^{chunk}\oplus[\:{\rmI}(u-t=1),{\rmI}(u-t\le5)\:])\\{\rmI}(x)&=\begin{cases}1&(x\:{\rmis}\:{\rmtrue})\\0&(x\:{\rmis}\:{\rmfalse})\end{cases}\end{align}$\mathrm{I}(u-t=1)$は文節間距離が1であるかという素性を，{${\rmI}(u-t\le5)$}は文節間距離が5以下であるかという素性を表す．文節間距離素性は係り受け解析において大きな役割を果たすため，精度を向上させる目的でこのタイミングで明示的に導入する．文節間距離素性の境界値の設定（1,2〜5,6以上）は\eijiCaboCha\Eijiの実装に従ったものである．このスコア計算モデルと，遷移ベース係り受け解析アルゴリズムである内元ら\cite{maximumentropy}のアルゴリズムを用いて係り受け解析を行う．内元らのアルゴリズムは，ある係り文節に対し受け文節となりうる全ての文節\footnote{1.係り文節より後ろに存在すること，2.非交差条件を満たすこと，の2つを満たす文節．}について係り受け関係スコアを計算し，最もスコアが高い文節を受け文節と決めるということを後ろの文節から順に繰り返すことで構文木を構築する．正しい係り受け文節ペアを入力した時のスコアが他のペアを入力した時のスコアより高くなるようにするため，損失関数${\rmloss}$を以下のように定義し，訓練を行った．\begin{align}{\rmloss}=-\sum_{u'\in\mathcal{C}_t}\log\frac{\exp(s_{t,u})}{\exp(s_{t,u})+\exp(s_{t,u'})}\end{align}ただし，$t$は係り文節，$u$は正しい受け文節，$\mathcal{C}_t$は受け文節の候補集合を表す．係り受け解析器の追加訓練を行う際は，適応元ドメインのデータで訓練したパラメータを初期値とし，適応先ドメインのデータによる訓練を行った．本研究における分析では，追加訓練前後の誤り傾向の変化を，文節埋め込みの空間内でどの領域に配置される誤りが減少あるいは増加したか，という観点から捉える．また，この観察を複数の適応先ドメインに渡って行う．各適応先ドメインでの追加訓練の前後で文節埋め込み自体が変化すると，そのような形で誤りの変化を観察することはできない．そのため，文節埋め込み層のパラメータは固定し，スコア計算層のパラメータのみ学習するようにした．本研究で用いるモデルと松野らのモデルでは，係り受け関係スコアの計算法および解析アルゴリズムが異なる．松野らは文節埋め込み表現に対し，係り文節／受け文節専用の多層パーセプトロンを適用したあとでBiaffine変換を用いることで，係り受け関係スコアを計算している．\eijiBiaffine\Eiji変換は最大で2つの要素の組み合わせ素性を用いた回帰を行えるが，隠れ層1層の多層パーセプトロンでも，隠れ層のユニット数が十分であれば実質的に同じように組み合わせ素性を用いて回帰を行うことができる{\cite{Cybenko1989}}．そのため，表現力は同等（以上）であると考えられる．そこで本研究では多層パーセプトロンを用いた図\ref{fig:parser}の構成で解析を行った．また解析アルゴリズムとして松野らはグラフベース解析アルゴリズムを使っている．グラフベース解析アルゴリズムの典型例は，係り受けが非交差という条件の下で2文節間の係り受けスコアの和を最大化する構文木を求めるものである．このような手法では，非交差制約によって，ある2つの文節間の係り受けスコアの変化が構文木全体の形状に影響する場合がある．このため，係り受け関係スコアと構文木上で生じる誤りの関係が遷移ベースの解析法ほど明確でない．そこで本研究では遷移ベースのアルゴリズムを用いる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%3.2\subsection{係り受け誤りの収集・埋め込み}\label{subsec:syusyu}この項では，図\ref{fig:zentaizou}の誤り収集・誤り埋め込みブロックについて述べる．本研究の目的は追加訓練の前後における係り受けの誤り方の変化の分析である．そのために，表\ref{tab:syusyubunrui}に示す3種類の係り受け誤りの例を収集する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\caption{係り受け誤りの分類}\label{tab:syusyubunrui}\input{01table01.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{a.適応元ドメインにおける誤りの収集}適応元ドメインのデータを訓練データと評価データが1:1になるように分割し，訓練データを用いてモデルを訓練する．得られたモデルを用いて評価データを解析した際の誤りを用いる．適応元ドメインはデータ量が多く，かつ，標準的な日本語をある程度代表するテキストドメインだと仮定しているため，この誤りをクラスタリングした結果を分析（{\ref{subsec:clustering}}項）における誤りタイプの基準として用いる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{b.追加訓練前の適応先ドメイン誤りの収集}追加訓練前の適応先ドメインの解析誤りとして，aで得られたモデルを用いて，適応先ドメインのデータ全てを解析した際の誤りを用いる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\noindent\textbf{c.追加訓練後の適応先ドメイン誤りの収集}追加訓練後の適応先ドメインの解析誤りとして，aで得られたモデルを4分割交差検証の要領で追加訓練・評価する．つまり適応先ドメインのデータを4つに分割し，そのうちの3つを用いて追加訓練によりモデルを作成，残り1つのデータを解析する，というプロセスを，評価に用いるデータを順番に入れ替えながら4回行い，得られた誤りを用いる．これらの誤りのうち，bを追加訓練前誤り，cを追加訓練後誤りと呼ぶ．なお，追加訓練後の解析器を用いて適応元ドメインのデータを解析した際の誤りは使用しない．その理由は，本研究の対象が追加訓練前後における適応先ドメインの解析誤りの変化であり，適応元ドメインの解析誤りの変化には興味がないためである．上のようにして得られた係り受け誤りはそのままでは数値的な取り扱いが難しい．そのため，数値表現に変換する．係り受け誤りには係り文節$b_1$，本来$b_1$が係るべき正しい受け文節$b_2$，解析器が誤って出力した受け文節$b'_2$という3つの主たる要素がある．本研究では係り受け誤り埋め込み表現を$b_1,b_2,b'_2$それぞれの文節の文節埋め込み表現（\ref{subsec:parser}項）と距離素性を結合したものと定義する．距離素性は係り文節が文の先頭から$a$番目に，正しい受け文節が$b$番目に，誤って選択した受け文節が$c$番目に存在するときの，${\rmI}(b-a=1),{\rmI}(b-a\le5),{\rmI}(c-a=1),{\rmI}(c-a\le5)$の値を結合させたベクトルである．係り受け誤り埋め込み表現はベクトルなので，数値的な取り扱いが容易になり，次項のクラスタリングを行えるようになる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%3.3\subsection{クラスタリング・定量的分析}\label{subsec:clustering}この項では図\ref{fig:zentaizou}のクラスタリング・分析ブロックについて述べる．係り受け誤りは一つ一つ見ることである程度誤りの原因が推測できるものの，そのような分析のみでは全体としての傾向は掴みにくい．そこで俯瞰的に分析するためにクラスタリングを行う．クラスタリングアルゴリズムとしてはデータ件数の多さを考慮し，k-means法を用いる．k-means法では，データのみならず初期値によっても結果が変化するため，追加訓練前誤りと追加訓練後誤りを独立してクラスタリングしてしまうと，得られるクラスタ集合の間で一対一の対応関係が自然に見いだせるとは限らない．その場合，追加訓練前後の比較が難しくなるため，それを防ぐために以下のようにクラスタリングを行う．\begin{enumerate}\item適応元ドメイン誤り（表\ref{tab:syusyubunrui}のa）のみを用いてk-means法でクラスタリングする．\item適応先ドメイン誤り（表\ref{tab:syusyubunrui}のb,c）のそれぞれの埋め込み表現を，手順1で得られたクラスタのうち，最もクラスタ重心が近いものに割り当てる．\end{enumerate}以上の手順は，まず数の多い適応元ドメインにおける誤りを，クラスタリングを通じてグループ化することで誤りタイプを定め，次に追加訓練前後それぞれの適応先ドメイン誤りを，近い誤りタイプに分類していくことを意図している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4
\section{実験}
\label{sec:zikken}\ref{sec:teian}節で述べた分析手法に基づき，追加訓練の効果を調べる実験を行った．本節ではその詳細と分析結果について述べる．以下，\ref{subsec:data}項で利用したデータ，\ref{subsec:syusyukekka}項で係り受け誤りの収集結果について述べ，\ref{subsec:bunnseki}項で係り受け誤りのクラスタリング結果に基づく定量的分析についてまとめ，\ref{subsec:saranarubunnseki}項で，いくつかのクラスタの観察を通じて，追加訓練におけるドメインごとの特徴を分析した結果について述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table2\begin{table}[b]\caption{適応元ドメイン・適応先ドメインの統計}\label{tab:toukei}\input{01table02.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.1\subsection{利用データ}\label{subsec:data}追加訓練の効果を調べるためのデータとして以下の3種類の係り受けアノテーション付きコーパスを用いた．\begin{itemize}\item京都大学テキストコーパス\cite{kyotocorpus}（以下，新聞記事）\\1995年1月1日から17日までの毎日新聞の記事にアノテーションを付与したもの．\item東京書籍「新編新しい科学（中学1年生，中学2年生）」（以下，理科教科書）\\中学1年生向け，中学2年生向けの理科の教科書にアノテーションを付与したもの．\item特許文書\\高分子化合物に関する特許の実施例の箇所にアノテーションを付与したもの．\end{itemize}これらのうち，新聞記事を適応元ドメイン，理科教科書および特許文書を適応先ドメインとして扱う．それぞれのコーパスの統計情報を表\ref{tab:toukei}に示す．表からわかるように，適応先ドメインの量は適応元ドメインよりも少量（10\%未満）である．また新聞記事や理科教科書と比べると，特許文書の方が文が長いということがわかる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.2\subsection{係り受け誤りの収集結果}\label{subsec:syusyukekka}\ref{subsec:parser}項で述べた解析器を，以下のようにハイパーパラメータを設定して訓練した．入力は形態素の品詞（4レベル）・活用形・活用タイプのそれぞれを20次元の埋め込み層に通したものと，形態素の基本形\footnote{訓練データにおいて出現回数1回以下の基本形はUNKトークンに置き換えた．}を200次元の埋め込み層に通したものを結合した320次元のベクトルの系列とした．形態素層・文節層のBiLSTMは隠れ層が1層300次元のものを用いた．訓練アルゴリズムは学習係数0.01のAdaGradで，ミニバッチサイズは32文，重み減衰係数は$10^{-5}$とした．訓練中の勾配爆発を抑えるため，勾配のノルムは5に制限した．エポック数は最大32エポックだが，各エポックの結果のうちで評価データにおける損失が最も少ないものを最終結果とした．実装にはChainer\cite{tokui2015chainer}を用いた．なお，訓練および誤りの収集いずれにおいても，単語区切り・品詞・文節区切りは正解データのものを用いた．追加訓練では\ref{subsec:syusyu}項で述べたように4分割交差検証の要領で訓練を行ったが，理科教科書と特許文書では分割の方法を変えて訓練した．具体的には理科教科書（および新聞記事の訓練・評価データ）の分割は文単位で行い，特許文書は文書単位で行った．その理由は，同じ特許文書内では，物質の生成手順をパラメータを変えて繰り返す記述など，極めて類似した文が連続することが多く，それらが訓練データと評価データに分かれると正しく汎化性能を評価できないと考えたためである．追加訓練前後の解析器の精度および収集できた係り受け誤りの数を表\ref{tab:syusyukekka}に示す\footnote{表の「文節単位精度」の計算において文末文節は対象外とし，文末から1つ前の文節は対象とした．また「文単位精度」の計算において文節数が1の文は対象外とした．}．理科教科書・特許文書それぞれについて追加訓練の前後を比較すると，文節単位精度が3ポイント以上向上していることから，追加訓練には効果があることが確認できる．また，追加訓練前の理科教科書の文節単位精度と比べて特許文書の文節単位精度は2.5ポイントほど低いことから，特許文書の解析には新聞記事での訓練だけでは不足することが多いと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table3\begin{table}[b]\vspace{-0.5\Cvs}\caption{解析器の精度および収集できた係り受け誤りの数}\label{tab:syusyukekka}\input{01table03.tex}\vspace{-0.5\Cvs}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.3\subsection{係り受け誤りのクラスタリングと分析}\label{subsec:bunnseki}前項で収集した係り受け誤りを\ref{subsec:syusyu}項で述べた手法で埋め込み表現に変換した．\pagebreakそれらをクラスタ数30として\ref{subsec:clustering}項で述べた手法を用いてクラスタリングした．係り受け誤りをクラスタリングしたものを主成分分析を用いて平面上にプロットした結果を図\ref{fig:news}から図\ref{fig:patent}に示す\footnote{図では見やすさのためクラスタ数10としてクラスタリングした時の分布を示す．小さい点が係り受け誤りを，大きい丸がクラスタ重心を表す．}．以降では，得られたクラスタを用いて定量的分析を行っていく．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.3and4\begin{figure}[b]\setlength{\captionwidth}{198pt}\begin{tabular}{cc}\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f3.eps}\end{center}\hangcaption{新聞記事の係り受け誤り埋め込み表現を平面にプロットした図}\label{fig:news}\end{minipage}&\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f4.eps}\end{center}\hangcaption{図\ref{fig:news}のクラスタ集合を3つのまとまりに分割した図}\label{fig:news_app}\end{minipage}\end{tabular}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.5and6\begin{figure}[b]\setlength{\captionwidth}{198pt}\begin{tabular}{cc}\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f5.eps}\end{center}\hangcaption{理科教科書（追加訓練前）の係り受け誤り埋め込み表現を平面にプロットした図}\label{fig:notext}\end{minipage}&\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f6.eps}\end{center}\hangcaption{理科教科書（追加訓練後）の係り受け誤り埋め込み表現を平面にプロットした図}\label{fig:text}\end{minipage}\end{tabular}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.7and8\begin{figure}[b]\setlength{\captionwidth}{198pt}\begin{tabular}{cc}\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f7.eps}\end{center}\hangcaption{特許文書（追加訓練前）の係り受け誤り埋め込み表現を平面にプロットした図}\label{fig:nopatent}\end{minipage}&\begin{minipage}{198pt}\begin{center}\includegraphics{27-1ia1f8.eps}\end{center}\hangcaption{特許文書（追加訓練後）の係り受け誤り埋め込み表現を平面にプロットした図}\label{fig:patent}\end{minipage}\end{tabular}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.9\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f9.eps}\end{center}\caption{図\ref{fig:news_app}のそれぞれのまとまりに属する各誤りを構成する3つの文節の品詞の組の分布}\label{fig:error_pattern}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.3.1\subsubsection{クラスタ集合の傾向の分析}図\ref{fig:news}を観察すると，図\ref{fig:news_app}のようにいくつかのクラスタをまとめることで，大きく3つの誤りタイプに分割できそうである．以降では左のまとまり（赤）を\mr,中央のまとまり（緑）を\mg,右のまとまり（青）を\mbと呼ぶ．このように3つに分割した群が係り受け誤りの特徴をどのように反映しているか調べるため，それぞれの群の係り受け誤りに対して，＜係り文節の最後の単語\footnote{記号は除く．}の品詞，正しい受け文節の最初の単語\footnote{記号，接頭詞は除く．誤って選択した受け文節も同じ．}の品詞，誤って選択した受け文節の最初の単語の品詞＞の3つ組を作成し，分布を調べた．その結果を図\ref{fig:error_pattern}に示す\footnote{スペースの都合上，どのまとまりにおいてもまとまり全体の1\%未満しか含まれていなかった3つ組はまとめて「その他」とした．}．\mbは\mr,\mgと大きく異なっており，正しい受け文節と誤った受け文節がともに名詞であるパターンが多かった．\mrと\mgについては似た分布となっているが，\mrは3つ組のうち2つが動詞である誤りが\mgよりも相対的に多くなり，それ以外では\mgより少なくなっているという特徴があった．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.10\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f10.eps}\end{center}\caption{図\ref{fig:news_app}のそれぞれのまとまりに属する各誤りを構成する文節の読点の有無の分布}\label{fig:error_touten}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.11\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f11.eps}\end{center}\hangcaption{図\ref{fig:news_app}のそれぞれのまとまりに属する各誤りの係り文節〜正しい受け文節／係り文節〜誤った受け文節間距離の分布．ただし，$=1$は距離が1であることを，$\le5$は距離が2--5であることを，$\ge6$は距離が6以上であることを表す．}\label{fig:error_bunsetu_distance}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%他にも係り受け関係に影響を与える要素である読点の有無と文節間距離を調べるため，図\ref{fig:news_app}のそれぞれのまとまりに属する誤りに対し，係り文節／正しい受け文節／誤った受け文節が読点を含んでいるかどうかの3つ組の分布（図\ref{fig:error_touten}）および＜係り文節から正しい受け文節までの文節間距離，係り文節から誤った受け文節までの文節間距離＞の2つ組の分布（図\ref{fig:error_bunsetu_distance}）を調べた．\mbは全ての文節に読点が無いパターンが相対的に多く，距離が短い係り受け関係に偏っていた．\mrは\mgと比べると係り文節に読点があるパターンが相対的に多く，距離が6以上の係り受け関係に偏っていた．以上で調べた品詞，読点の有無，および文節間の距離は係り受け誤り埋め込みの分布と完全に対応しているわけではないものの，それらと係り受け誤りの空間内でのまとまりに関連性があったことから，埋め込み表現は係り受け誤りの構文的な特徴をある程度捉えていると考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.12\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f12.eps}\end{center}\caption{新聞記事・理科教科書・特許文書のそれぞれの誤りについての正規化距離の分布}\label{fig:distance}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.3.2\subsubsection{正規化距離による分析}図\ref{fig:news}から図\ref{fig:patent}を見ると，少なくとも第1，第2主成分のなす平面上では，新聞記事誤りの分布から大きく離れた位置には適応先ドメイン誤りが存在しないことがわかる．理科教科書と特許文書の誤りについて，新聞記事誤りの分布との違いをより詳しく見るため，誤りからそれが属するクラスタの重心までの正規化距離のヒストグラムを作成した．ここでいう誤り$e$の正規化距離とは，誤り$e$の所属するクラスタを$C$,$C$の重心を$c$,$C$に属する新聞記事誤りの集合を$N$として以下のように計算される値である．\begin{align}\frac{||e-c||}{\sqrt{\frac{\sum_{n\inN}||n-c||^2}{|N|}}}\end{align}すなわち誤りから最寄りのクラスタ重心までの距離を，クラスタを等方的正規分布からの標本と見たときの分散の平方根で正規化したものである．その結果を図\ref{fig:distance}に示す．また，それぞれのドメインについての正規化距離の平均を表\ref{tab:distance}に示す．この図や表から新聞記事誤りと比べて理科教科書誤りは重心に近い傾向が，特許文書誤りは重心から遠い位置($\ge1.2$)にも存在する傾向があり，ドメインごとに特徴があることが確認できる．また追加訓練前後を比較すると，理科教科書誤りは訓練によってより重心に近い側に偏る傾向があり，特許文書誤りは訓練によってより重心から遠い側に偏る傾向があることがわかる．しかし，どちらの適応先ドメインでも，かつ，追加訓練の前後いずれにおいても，誤りからクラスタ重心までの距離は新聞記事誤りに比べて極端に遠いものが多い訳ではないことが分かる．このことから，適応先ドメインにおける誤りは，解析器の内部状態が新聞記事上では起こらなかったような状態（いわば解析器にとって「未知の内部状態」）になったために起こったわけではなく，新聞テキストと適応先ドメインのテキストは，解析器内の中間表現としては類似しているが，解析器が取るべき正しいアクションが異なっているために誤りが生じていることが示唆される．よって，新聞記事誤りを基準として適応先ドメイン誤りを分類することで，おおまかには構造的に類似した誤りのクラスタが得られると予想される．さらに詳細には，「解析器の視点」からは類似しているように見えるものの，本来は新聞と適応先ドメインで異なる特徴をもつ誤りのグループが見いだせる場合があると予想される．実際に\S\ref{subsubsec:cluster13}でそのような例を示す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table4\begin{table}[t]\caption{新聞記事・理科教科書・特許文書のそれぞれの正規化距離の平均}\label{tab:distance}\input{01table04.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.3.3\subsubsection{適応先ドメイン比による分析}理科教科書・特許文書の各クラスタを定量的に分析するための指標として，適応先ドメイン誤り比を定義する．これはそれぞれのクラスタに対し式(\ref{eq:tekiousakiwariai})で定義される値で，この値が大きいほど適応先ドメインに固有の誤りタイプだと考えられる．適応元ドメイン誤りの数で割る理由は，どのドメインにも大量に存在する誤りタイプではなく，適応先ドメインに特徴的に多い誤りタイプを見るためには基準となるドメイン（適応元ドメイン）で正規化したほうが良いためである．\begin{align}適応先ドメイン比=\frac{\#適応先ドメインから得られた誤り}{\#適応元ドメインから得られた誤り}\label{eq:tekiousakiwariai}\end{align}理科教科書・特許文書それぞれについての適応先ドメイン比を図\ref{fig:text_property},図\ref{fig:patent_property}に示す．追加訓練前後の適応先ドメイン比を比べると，ほとんどすべてのドメインで追加訓練を行うことで減少していることがわかる．しかし減少量はクラスタごとに異なるので，改善しやすい係り受け誤りと改善しにくい係り受け誤りがあることも確認できる．また理科教科書と特許文書で適応先ドメイン比が高いクラスタが異なっていることからは，ドメインごとに誤りの分布に特徴があることが確認できる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.13\begin{figure}[t]\begin{center}\includegraphics{27-1ia1f13.eps}\end{center}\caption{理科教科書解析誤りの各クラスタにおける適応先ドメイン比}\label{fig:text_property}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.14\begin{figure}[t]\begin{center}\includegraphics{27-1ia1f14.eps}\end{center}\caption{特許文書解析誤りの各クラスタにおける適応先ドメイン比}\label{fig:patent_property}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.3.4\subsubsection{追加訓練の前後における各クラスタに属する誤りの数の比較}最後に理科教科書，特許文書の各クラスタについて追加訓練で変化しなかった／解消された／新たに発生した誤りの数を表\ref{tab:error_move}に示す\footnote{（追加訓練前の誤り数）＝（変化しなかった誤り数）＋（解消された誤り数），（追加訓練後の誤り数）＝（変化しなかった誤り数）＋（新たに発生した誤り数）と計算できる．}．新たに発生した誤りの数と変化しなかった誤りの数の比はどちらのドメインにおいてもほぼ{$1:2$}であるが，新たに発生した誤りの数と解消された誤りの数の比はドメインごとに異なっていることがわかる（理科教科書{$\rightarrow1:2.37$},特許文書{$\rightarrow1:1.85$}）\footnote{この差は，ドメインの性質の違いと追加訓練に用いたデータ量の違いの効果が混合して生ずるものと考えられる．それぞれの効果の内訳を調べることは今後の課題とする．}．表中で特に多くの誤りが解消されたクラスタ13に属する理科教科書誤りどうしは，互いの類似性が高く，頻出する構文だと予想される．これは一般に機械学習は似通っていて，かつ大量に存在する誤りをより積極的に解消する傾向があるためである．実際にそうであるかは\S\ref{subsubsec:cluster13}で検討する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table5\begin{table}[t]\caption{追加訓練による各クラスタに属する誤りの数の変化}\label{tab:error_move}\input{01table05.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4\subsection{クラスタリング結果に基づくエラー分析}\label{subsec:saranarubunnseki}この項では前項で作成したクラスタのうち，クラスタ5,10,13,24についてさらに詳しく分析を行う．これらのクラスタを選択した理由は，クラスタ5やクラスタ13は理科教科書において適応先ドメイン比が大きく減少するという特徴を，クラスタ10は理科教科書と特許文書のいずれにおいても適応先ドメイン比があまり減少しないという特徴を，クラスタ24はどちらのドメインにおいても適応先ドメイン比が減少するという特徴を持っていたためである．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4.1\subsubsection{クラスタ5（理科教科書で大きくエラーが減少）}クラスタ5について，その誤り例を以下に示す．ただし\dbun{…}は係り文節を，\chbun{…}は正しい受け文節を，\whbun{…}はシステムが誤って選択した受け文節を表す．\vspace{0.5\Cvs}\stringquote{新聞記事-5：\\この/ため/ポストが/見つかるまでの/\dbun{間、}/研究生などと/して/\\大学に/\chbun{残る}/人が/\whbun{少なくない。}\\理科教科書-5：\\また，/震度の/\dbun{分布も，}/震央を/中心に/した/同心円状に/\whbun{なる}/ことが/\chbun{多い。}\\特許文書-5：\\表１〜/表３から、/実施例/１〜６の/\dbun{熱可塑性樹脂組成物は、}/\\長期にわたって/優れた/耐加水分解性および/耐熱性を/\chbun{有する}/ことが/\whbun{分かった。}}\vspace{0.5\Cvs}\noindentクラスタ5に属する誤りは，正しい受け文節と誤った受け文節がともに用言で，文中で先に出現する文節が連体修飾節であるものが多く見られた．この場合，係り文節の意味的に係る範囲が連体修飾節内で収まっているならば連体修飾節の末尾文節を受け文節とすべきだが，収まっていないならばより後ろの文節を受け文節とする必要がある．クラスタ5に属する誤りの多くはその判定を誤った結果発生したものだと考えられる．例えば理科教科書では，「…/こと＋助詞（が，は等）/(わかる｜多い｜ある｜できる)」という形の文が2,460文中274文と頻出する．この文型では文中で前方に出現するガ格文節が「こと」の直前の連体修飾節と文末文節のどちらに係るのか，一般には文脈や語彙の情報から判定する必要がある．一方，理科教科書の文であるという前提があれば，「Xは/…/Vスル/ことが/わかる」のように文末の用言によって正しい受け文節（「わかる」）がほぼ決まるものもある．この「…/こと＋助詞/用言」という文型において判定を誤ったパターンは追加訓練前は43個であったが，22個解消し5個新たに発生することにより追加訓練後は26個になった．表\ref{tab:error_move}からわかるように，理科教科書で追加訓練によって解消されたクラスタ5の誤りは計123個あり，上記の「…/こと＋助詞/用言」という文型以外のものも含まれる．他の誤りも同様に，一般的には文脈や語彙の情報を必要とする連体修飾節と後続の用言の間での受け文節の選択において，被修飾体言（上記の文型における「こと」）と後続の用言の組合せなどを手掛かりに，ドメイン特有の傾向が学習されたものと考えられる．また，他の要因の可能性として受け文節の曖昧さの問題も挙げられる．例えば，クラスタ5に属する誤りの中には以下のようにアノテーションエラーあるいは本質的に判断が難しいと思われる例も存在した．\vspace{0.5\Cvs}\stringquote{A.\\これに対して，/光を/当てた/\dbun{ときに}/植物に/\whbun{とりこまれる}/気体も/\chbun{ある。}\\B.\\その/\dbun{ほかに}/体外へ/\whbun{排出される}/物の/ひとつとして/尿が/\chbun{ある。}}\vspace{0.5\Cvs}\noindentこのような場合に，理科教科書のアノテーションでは後方の用言が受け文節として選ばれる傾向が見受けられ，これが追加訓練の結果に影響を及ぼしている可能性もある．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4.2\subsubsection{クラスタ10（理科教科書・特許文書ともに誤りが減少しない）}クラスタ10について，その例を以下に示す．\vspace{0.5\Cvs}\stringquote{新聞記事-10：\\それに/より/貸手、/借り手および/\dbun{天下り経営者や}/\chbun{行政の}/\whbun{責任が}/明確になり、/\\二度と/失敗しない/ための/数々の/教訓が/国民全体に/共有されるはずだ。\\理科教科書-10：\\ある/\dbun{温度の}/\whbun{１ｍ$^3$の}/\chbun{空気に}/ふくまれる/水蒸気の/質量が，/\\その/温度での/飽和水蒸気量に対して/どれくらいの/割合かを/百分率で/表す。\\特許文書-10：\\上記の/粉体/１００ｍｇを/内径/\dbun{１０．００ｍｍの}/\chbun{円形の}/\whbun{ダイスに}/充填し、/\\ダイス内部の/気圧を/減圧した/上で、/５ｔ／ｃｍ$^2$の/荷重を/かけ、/\\圧着温度/１４０℃で/１分間/圧着した。}\vspace{0.5\Cvs}\noindentクラスタ10に属する誤りは，係り文節が体言に接続する句であり，正しい受け文節と誤った受け文節が「AのB」のように両方とも体言句かつそれらが係り受け関係になっているという特徴を持つものが多かった．このタイプはさらに(a)並列関係の接続先の判断誤りと(b)連体の「の」の接続先の判断誤りに分けられる．例えば，新聞記事-10は(a)の誤りで，「天下り経営者や」と「責任が」は語句の意味を考えなければ接続できるが，常識的には並列関係にならないと考えられる．理科教科書-10は(b)の誤りで，「温度」と「１ｍ$^3$」はどちらも空気の属性であり，いずれも「空気」を修飾しうるという知識があれば正しく判定できる．しかし特許文書-10において「１０．００ｍｍ」は「円形」と「ダイス」どちらの属性としても考えられるので，文脈に依存する判定を行う必要もある．いずれのタイプの判断も意味的あるいは語彙レベルの知識を要し，少量の追加訓練データからはそのような知識は得られなかったため，誤りは大きくは改善しなかったと考えられる．特許文書におけるクラスタ10の誤りが理科教科書より多かった理由は，このタイプの構文の出現回数が多かったためだと推測される．この構文は一文に多くの内容を含めることができる一方，使いすぎると文の読みにくさにつながると考えられる．理科教科書では対象読者を考慮し「AのBのC」のような連体修飾の連続を控えているが，特許文書では一文で多くのことを表すために連体修飾句を多用したと考えられる．この仮説を検証するため，新聞記事・理科教科書・特許文書を正しく解析するときに，受け文節が体言句\footnote{サ変接続以外の名詞で始まる文節とする．}かつ受け文節候補の中に体言句が2つ以上存在するという状況（係り$\rightarrow$体言vs体言）の回数をカウントした．その結果を表\ref{tab:taigencount}に示す．この結果から，特許文書では複数の体言句の中から正しい受け文節を選択しなければならない場合が多く，その結果誤りも増えたと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table6\begin{table}[t]\caption{（係り$\rightarrow$体言vs体言）状態での判定の回数と全判定回数}\label{tab:taigencount}\input{01table06.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4.3\subsubsection{クラスタ13（理科教科書で大きくエラーが減少）}\label{subsubsec:cluster13}クラスタ13について，その例を以下に示す．\vspace{0.5\Cvs}\stringquote{新聞記事-13：\\立証負担が/軽く、/証拠も/そろえやすい/\dbun{ことから}/東京地検は/\\「製造の/企て」に/\chbun{絞り込んだと}/\whbun{聞く。}\\理科教科書-13：\\ドルトンは，/１９世紀の/\dbun{初めごろ，}/物質は/それ以上/分割する/ことの/できない/\\小さな/粒子で/\whbun{できていると}/\chbun{考えた。}}\vspace{0.5\Cvs}\noindentクラスタ13に属する誤りは正しい受け文節と誤った受け文節の一方が引用の助詞を含む「〜と」という形の文節で，他方がそれに後続する用言である場合が多かった．評価データにおけるこのパターンの出現数を，正しい受け文節が(a)引用の「と」を含む文節であるか，(b)用言文節かに分類しつつ集計した．その結果を表\ref{tab:cluster13plus}に示す．新聞記事では正しい受け文節が引用の「と」を含む文節である回数が用言文節である回数の2倍弱であるが，理科教科書では8割以上の場合に正しい受け文節が用言文節となっている．これは，理科教科書には用語の定義を行う「Xを/Xは+Ｙと+いう」などの形の文が多く含まれるためであり，「Xを/Ｘは」の受け文節が用言文節に大きく偏っていることを追加訓練で学習した結果，図\ref{fig:text_property}のように係り受け誤りが大きく減少したと考えられる．また特許文書においてはそもそもこの文型の出現数が少なかったことが，図\ref{fig:patent_property}のクラスタ13の適応先ドメイン比が小さい理由だということがわかる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table7\begin{table}[b]\hangcaption{評価データにおける「…/係り文節/…/…と/用言」という文型を含む文の数（出現数）と正しい受け文節}\label{tab:cluster13plus}\input{01table07.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4.4\subsubsection{クラスタ24（理科教科書，特許文書ともにエラーが減少）}クラスタ24について，その例を以下に示す．\vspace{0.5\Cvs}\stringquote{新聞記事-24：\\ところが/阪神大震災では/一番/重要な/情報収集が/\dbun{遅れ、}/自衛隊の/初動問題に/\\\whbun{代表されるように}/首相官邸だけでなく/政府全体の/対応が/後手に/\chbun{回った。}\\理科教科書-24：\\炭酸水素ナトリウムを/加熱すると，/３種類の/物質に/\dbun{分かれ，}/\\酸化銀を/\whbun{加熱すると，}/２種類の/物質に/\chbun{分かれた。}\\特許文書-24：\\次いで、/圧力を/常圧から/１３．３ｋＰａに/\dbun{し、}/加熱槽温度を/１９０℃まで/１時間で/\\\chbun{上昇させながら、}/発生する/フェノールを/反応容器外へ/\whbun{抜き出した。}}\vspace{0.5\Cvs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.15\begin{figure}[b]\begin{center}\includegraphics{27-1ia1f15.eps}\end{center}\caption{3つの節が並んでいるときの係り受け解析の誤り方}\label{fig:cluster24plus}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%クラスタ24に属する誤りは係り文節・正しい受け文節・誤った受け文節のすべてが節の末尾の用言文節であるというパターンが多かった．3つの節が並んでいるとき，係り受け誤りの構造には図\ref{fig:cluster24plus}の(a),(b)の2種類が存在する．(a)の構造は本来は単純に並列された構造を出力すべきだが，階層的な構造を出力したことを表し，(b)の構造は先頭の節が後ろの2つの節の両方と意味的に関係を持つため階層的な構造を出力すべきだが，単純に並列された構造を出力したことを表す\footnote{複数の文節に意味的に係る場合はその中で最も右側の文節を受け文節とすることが京都大学テキストコーパスのアノテーション基準に記述されており，理科教科書および特許文書のアノテーションでもこれに従っている．}．(a),(b)のような誤りを回避するには，本来であれば節同士の関係性を認識する必要がある．節同士の関係を認識することは意味的な判断を要する比較的難しいタスクだと考えられるが，今回使用した理科教科書・特許文書のどちらも係り受け誤りが減少している．その理由はドメインごとの構文の出現分布の偏りにあると推測できる．そこで実際にクラスタ24に属する係り受け誤りについて誤り方で分類し，その出現数を調べた．その結果を表\ref{tab:cluster24plus}に示す．ただし誤り方が「並列構造認識失敗」とは図{\ref{fig:cluster24plus}における}(a)のタイプの誤り方を表し，「階層構造認識失敗」は(b)のタイプの誤り方を表す．理科教科書・特許文書の共通点として，一方のパターンに偏っていた係り受け誤りが追加訓練を行うことで改善されているということが挙げられる．このことから，追加訓練の主な効果の一つは，このような誤り方の偏りを減らすことであると示唆される．ところで，理科教科書と特許文書では偏り方が反対になっている．追加訓練前において理科教科書は誤り方が「階層構造認識失敗」である誤り（例：理科教科書-24）が多い．その理由は，理科教科書は複数の関連したことを述べるために階層的な並列構造を取ることが多いが，階層的と認識できなかったことが多かったからだと考えられる．それとは対照的に追加訓練前において特許文書は誤り方が「並列構造認識失敗」である誤り（例：特許文書-24）が多い．その理由は，特許文書は物質の生成手順など手続きを述べた文が多く，単純に並列接続した構文が多いが，並列的と認識できなかったことが多かったからだと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table8\begin{table}[t]\caption{クラスタ24に属する係り受け誤りにおける誤り方の分布}\label{tab:cluster24plus}\input{01table08.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%4.4.5\subsubsection{共通点を見出すことができなかったクラスタ}クラスタ2に属する誤りの例を以下に示す．\vspace{0.5\Cvs}\stringquote{新聞記事-2\\ＦＲＢは/「穏やかな/調整」と/しているが、/金融政策の/基調は、/一年以上/続いた/\\予防的引き締めから/\dbun{緩和へ}/\whbun{大きく}/舵が/\chbun{切り替えられたと}/いえよう。\\\newpage理科教科書-2\\これまでに，/分解や/化合，/酸化や/還元などの/化学変化について/学習したが，/\\化学変化の/なかには/加熱したり，/電流を/流したりしなくても，/\\\dbun{図１のように，}/溶液を/\whbun{混ぜ合わせる}/ことで，/反応が/\chbun{起こる}/ものも/ある。\\特許文書-2\\また、/４０ｍｌビーカーに/酸化チタン/(ＴｉＯ$_2$)と/酸化セリウム/(ＣｅＯ$_2$)と/\\ジクロロメタン/２０ｍｌ/入れて、/\\酸化チタンが/ポリブタジエンに対して/２０ｗｔ％に/なると共に/\\酸化セリウムを/\dbun{ポリブタジエンに対して}/\whbun{５０ｗｔ％に}/\chbun{なるように}/調製した。}\vspace{0.5\Cvs}\noindentクラスタ2は理科教科書・特許文書の両方について適応先ドメイン比が減少しないという特徴を持っているが，このクラスタに属する誤りの共通点を見出すことはできなかった．そもそも追加訓練が効果をもたらさないクラスタには少なくとも2種類あると考えられる．ひとつはクラスタ10の「AのBのC」の構造のようなタイプで，意味を考えないとどうしても正しくできない例が一定数残り，追加訓練の効果が小さい場合である．もう一つはこのクラスタ2のように，おそらく，そもそも類似の例が少なく，様々な誤りが埋め込み上は近くなってしまっている場合である．前者は人間が見れば共通点を見出すことができるが，後者は人間が見ても共通点を見出すことができない．後者のように，低頻度かつ多種の誤りが混じっている場合には，本研究でのクラスタリングに基づく分析手法を通じて誤りの特徴を捉えることは難しいと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%5
\section{おわりに}
\label{sec:owarini}ドメイン適応問題は現実の様々な場面に出現するもので，機械学習に基づく言語処理技術の実用において重要な課題である．ドメイン適応問題の解決法の一つに追加訓練があるが，「なぜ」うまくいくのか，その理由を調べた研究は少なく明確には解明されていなかった．本研究では日本語係り受け解析に焦点を当て，追加訓練の影響の俯瞰的な調査を通して，ドメイン適応問題に対する知見を得るための分析を行った．本研究における分析手法の特徴は二つあり，一つは解析器の内部状態を用いることで「解析器の視点から」分析を行えること，もう一つはドメインの特徴を探す際に，クラスタリングを用いることで，詳細に調べるべき誤りの集合を発見しやすくなり，効率的に分析を行えることである．本研究では，新聞記事を適応元ドメイン，理科教科書・特許文書を適応先ドメインとする実験を行った．まず，得られたクラスタに対し正規化距離や適応先ドメイン比などの指標を用いた定量的分析を行うことで，クラスタが係り受け誤りの構造をある程度反映していること，ドメインごとに誤りが固有の分布を持つこと，およびクラスタによって追加訓練の効果に差があることなどがわかった．これらによって，クラスタに基づく分析が，適応先ドメインの異なりによる精度低下の理由の違いや，分野適応の効果を誤りの構造に即して理解するための手段として妥当であることの前提が確認できた．次に，いくつかのクラスタについてそのクラスタを構成する誤りを観察したところ，クラスタ10,13などのように誤りの共通点を見出すことができたクラスタがあった．そのようなクラスタについて仮説を立て検証を行うことで，追加訓練による適応先ドメイン比の変化などの特徴を説明することができた．さらに，本来は意味を考慮しなければ正しく解析できない文型でも，構造の出現頻度に偏りがあれば学習されること，および出現頻度に偏りが生まれる原因には，ドメインに頻出する定型句（クラスタ13：「〜を〜という」）や，ドメインごとの文体の異なり（クラスタ24：並列的vs階層的）などがあることがわかった．これらの分析結果から，ドメインが異なることによって引き起こされる精度低下は，解析器の視点では似た形に見える文型でも，ドメインによって正解となる構造の出現頻度の偏り方が異なることが大きな原因であることが示唆される．適応元ドメインデータをいくら増やしても，同じドメインである限り正解の構造の頻度の偏り方は変化しないため，上で述べたような適応先ドメインに特徴的な構文は同じように誤り続ける．したがって適応元ドメインのデータのみで訓練された解析器が，適応先ドメインに特徴的な構文を全て正しく解析することは難しいことがわかる．逆に言えば，適応先ドメインデータを用いた追加訓練の主要な効果は，このドメイン固有の頻度の偏り方を学習することにあると考えられる．その意味では適応先ドメインを何らかの手法で近似して訓練を行う手法は，適応先ドメイン固有の構文の頻度を相対的に増やしている点で正しいアプローチと言える．しかし，適応元ドメインと適応先ドメインで正しい構造の分布が大きく異なる文型に対しては，訓練例の重みを変えるなどの手法によるドメイン適応技術には限界があるものと考えられる．今回用いた手法は，ドメイン適応技術の限界となりうる，表層的には類似しているがドメインごとに固有な構造の分布を持つ文型を見つける手がかりを得るためにも有用だと考えられる．さらに，今後の展望として機械で自動的にクラスタの特徴を発見できれば，クラスタを用いたアクティブラーニングへの応用が考えられる．一方で，本研究における分析手法を用いても，類似例が少なく解析器自体がうまく埋め込むことができない誤りが集まったと思しきクラスタなど，共通点を見出すことができず分析を行えなかったクラスタも存在していた．頻度が小さい多種の誤りから共通点を見つけ出すことは本研究の今後の課題である．その他，誤りではなく正しかった例も用いた調査・分析や，得られた知見を基にしたドメイン適応技術の開発が今後の課題として挙げられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\acknowledgment本研究では，JSPS科研費16H01819で開発された教科書アノテーションデータの提供を受けた．ここに記して謝意を表する．また本研究はJST，さきがけ，JPMJPR175Aの支援を受けたものであり，特許文書に関する分析は名古屋大学と富士通研究所の共同研究の成果である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\bibliographystyle{jnlpbbl_1.5}\bibliography{01refs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{biography}\bioauthor{原拓也}{%2018年名古屋大学工学部電気電子・情報工学科卒業．同年，名古屋大学工学研究科博士前期課程に進学．}\bioauthor{松崎拓也}{%2002年東京大学工学部システム創成学科卒業．2007年同大大学院情報理工学系研究科にて博士号（情報理工学）取得．同大学助教，国立情報学研究所特任准教授，名古屋大学准教授を経て，2019年より東京理科大学理学部准教授．言語処理学会，人工知能学会，情報処理学会各会員．}\bioauthor{横野光}{%2003年岡山大学工学部情報工学科卒業．2008年同大大学院自然科学研究科産業創成工学専攻単位取得退学．東京工業大学精密工学研究所研究員，国立情報学研究所特任研究員，同研究所特任助教を経て，2016年より株式会社富士通研究所研究員．博士（工学）．意味解析の研究に従事．情報処理学会，人工知能学会，言語処理学会各会員．}\bioauthor{佐藤理史}{%1988年京都大学大学院工学研究科博士後期課程電気工学第二専攻研究指導認定退学．京都大学工学部助手，北陸先端科学技術大学院大学助教授，京都大学大学院情報学研究科助教授を経て，2005年より名古屋大学大学院工学研究科教授．工学博士．言語処理学会，人工知能学会，情報処理学会，日本認知科学会，ACM各会員．}\end{biography}\biodate\end{document}