機械学習に基づく言語処理システムは，一般に，訓練に用いたテキストドメインと，実際に運用ないし評価を行うテキストドメインが異なる場合に精度が低下する．この，訓練時と運用・評価時のテキストドメインの異なりによる精度低下を防ぐという課題を，ドメイン適応問題と呼ぶ．以下では，訓練に用いるデータのテキストドメインを適応元ドメイン，運用ないし評価を行うデータのテキストドメインを適応先ドメインと呼ぶ．ドメイン適応が必要になる理由は，端的にいえば，訓練データと評価データが同一分布からのサンプルであるという統計的機械学習の基本的な前提が破られていることにある．このため，最も基本的なドメイン適応手段は，適応先ドメインのアノテーション付きコーパスを訓練データに追加してモデルを訓練しなおすこと，すなわち，いわゆる追加訓練によって，訓練データと評価データの分布を近づけることである．このように，追加訓練という明らかな解決法が存在するドメイン適応問題を，ことさら問題として取り上げるのには主に2つの理由がある．ひとつは工学的あるいは経済的な理由である．我々が言語処理技術を適用したいテキストドメインが多様であるのに対して，既に存在するアノテーション付きデータのドメインは限られており，かつ，ターゲットとなるドメインごとに新たにアノテーションを行うことには大きなコストが必要となる．また，単純な追加訓練を超えるドメイン適応技法の中には，大量に存在する適応先ドメインの生テキストを活用することでアノテーションのコストを抑えることを狙うものもあるが，本稿で取り上げる適応先ドメインの一つである教科書テキストのように，そもそも，生テキストですら大量に存在する訳ではないドメインもある．このため，既存のアノテーション付きデータに比べ相対的に少量しか存在しない適応先ドメインデータをどのように活用するかは，重要な技術課題となる．ドメイン適応問題が重要である2つ目の理由は，単一言語のデータには，明らかにテキストドメインを超えた共通性が存在するという点にある．例えば，教科書テキストを解析したい場合でも，モデルを新聞テキストで訓練することには，当然ある程度の有効性がある．簡単にいえば，「どちらも日本語だから」そのようなことが可能になるわけであり，およそ全てのドメイン適応技術はこの前提に基づいているが，しかし我々は「日本語とは何か」ということの数理的・統計的な表現を知った上でこれを行っている訳では当然ない．逆に言えば，ドメイン適応課題とは，あるタスクの精度向上という目的を通じた間接的な形であれ，「日本語とは何か・日本語テキストに共通するものは何か」の理解に近づくための一つの試みであるといえる．以上の2つの理由のいずれからも，最も基本的なドメイン適応手段である追加訓練が，どのような例に対して有効で，どのような例に対してそうでないのかを知ることには大きな意義がある．それを知るための基本的な方法は，追加訓練によって改善された誤りとそうでないものを一つ一つ観察し分類してゆくことだが，これを通じて，追加訓練によって全体として何が起こっているのかを把握することは必ずしも容易でない．そこで本稿では，追加訓練の効果を俯瞰的に観察・分析するための一手法を提示し，日本語係り受け解析タスクにおける追加訓練を例として，その効果の分析を行った結果を報告する．本研究における分析手法は，追加訓練前後の係り受け誤り例の収集・係り受け誤りの埋め込み・埋め込みのクラスタリングの3つのステップに分けられる．係り受け誤りの埋め込みは，クラスタリングを行うための前処理のステップであり，ニューラルネットに基づく係り受け解析器の内部状態を用いて，係り受け誤りを密な実数ベクトルで表現する．解析器の内部状態を用いることで，データにもとづいて導出された，係り受け解析タスクにおいて重要な特徴を抽出した表現に基づくクラスタリングを行うことができ，いわば，「解析器の視点」からの追加訓練の効果の分析が行えると期待できる．次に，こうして得られた埋め込みをクラスタリングすることで追加訓練の効果を俯瞰的に観察・分析する．具体的には，クラスタリング結果に対していくつかの統計的・定量的分析を行い，高次元の空間の点として表現された誤りの分布と，追加訓練による誤りの解消・発生の様子を観察する．さらに，適応先ドメインごとに，追加訓練の効果が特徴的に表れているクラスタや，効果が見られないクラスタに着目してその内容を観察することで，追加訓練の効果に関わるドメインごとの特徴を分析する．この際，一つ一つの誤り例だけでなく，まずクラスタとしてまとめて観察することで，追加訓練によって改善しやすい誤りや，ドメインごとに発生しやすい誤りを見出すことが容易になると考えられる．さらに，追加訓練の効果やドメイン間の差について，クラスタに含まれる誤りの観察をもとに仮説を立て，コーパス上の統計量にもとづきそれを検証することで，ドメイン適応の有効性に関わるテキストドメインの特徴を把握し，よりよい追加訓練手法のための基礎的な知見を得ることが期待できる．本稿では，適応元ドメインとして新聞記事，適応先ドメインとして理科教科書および特許文書を用いて上記の分析を行った結果を報告する．追加訓練の効果が特に強く認められたクラスタの誤りを詳細に分析した結果，「{$X$}は+{$V_1$}スル+{$N$}は/が/を+{$V_2$}スル」「{$X$}は+{$V_1$}スルと+{$V_2$}スル」（「{$V_k$}スル」は用言，{$N$}は体言）など，どのドメインにも出現する文型に対して，正しい構造の分布がドメイン間で異なることが学習されたためであると分かった．追加訓練が効果を上げる理由としては，大きく分けて，(a)適応元ドメインでは稀な構文が新たに学習されること，および，(b)表層的には類似した文型に対する正しい構文構造（の分布）が，適応元ドメインと適応先ドメインで異なることが学習されることの2つが考えられる．本研究の分析の結果からは，後者が追加訓練の主要な効果であることが示唆される．なお，本研究における分析手法は追加訓練と誤りの収集が可能な解析器であればニューラル解析器に限らず適用することができる．例えば，{\cite{weko_192738_1}}では\eijiSVM\Eijiを用いた解析器である\eijiCaboCha\Eiji{\cite{cabocha}}に対する追加訓練の影響を，ニューラル解析器から得られる埋め込み表現とクラスタリングを用いて分析している．ただし，本稿では誤り収集と埋め込み表現の作成は同じ解析器で行った．以下，\ref{sec:related_works}節で関連研究についてまとめ，\ref{sec:teian}節で分析手法について詳述する．\ref{sec:zikken}節で実験結果を述べ，\ref{sec:owarini}節でまとめと今後の展望を述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%2