\section{はじめに}
\label{sec:intro}\textbf{UniversalDependencies(UD)}\cite{nivre-etal-2016-universal}は，言語横断的に品詞・形態論情報・依存構造をアノテーションする枠組およびコーパスである．UDプロジェクトの研究目標として，多言語の統語解析器開発，言語横断的な言語処理技術の開発，さらには類型論的な言語分析\cite{de_marneffe_universal_2021}などがあげられている．UDでは，データ構造やアノテーション作業を単純化するため，またくだけた文や特殊な構造に対して頑健な表現を実現するために，句構造(phrasestructure)ではなく，\figref{fig:jp_ud1}のような語の間の依存関係と依存関係ラベルで表現する依存構造を採用している．UDのガイドラインを基に，現代語のみならず，古語・消滅危機言語・クレオール・手話などを含めた100言語以上の依存構造アノテーションデータが構築され，公開されている\footnote{\url{https://universaldependencies.org/}}．2022年8月現在でも，言語横断性を高めるためにUDの基準について活発にGitHub\footnote{\url{https://github.com/UniversalDependencies/docs/issues}}上やワークショップで議論され，ラベルの統廃合が行われながらもアノテーションやガイドラインが更新し続けられている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{30-1ia1f1.pdf}\end{center}\hangcaption{日本語UDの例．「文節係り受け構造」で採用されている単位「文節」（枠で囲んである単位）とは異なり「自立語（内容語）」と「付属語（機能語）」を分解した単語単位をUDでは想定する．UPOSがUDの定義する品詞,XPOSは言語依存の品詞（日本語UDではUnidic品詞.図の例では品詞の詳細を略するときがある.）}\label{fig:jp_ud1}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%このUDの枠組では，依存構造関係を付与する基本単位として，音韻的な単位や文字・形態素ではない\textbf{構文的な語(syntacticword)}を語として用いることを規定している．英語やフランス語といった空白を用いて分かち書きをする言語においては（縮約形態などを除いて）空白を語の単位認定として用いることが多い．一方，語の境界を空白などで明示しない東アジアの言語においては，どのような単位を構文的な語に規定すべきかという問題があり，これらの言語では，一度語の基本単位を定義してから，UDを構築している．現代中国語\cite{xia2000-chinese-pen-tree,leung-etal-2016-developing}や韓国語のUD\cite{chun-etal-2018-building}，トルコ語・古チュルク語\cite{kayadelen-etal-2020-gold,derin-harada-2021-universal}などでも，言語ごとにコーパスや形態素解析などによって語の単位認定を行い，UDの言語資源が構築されている．UDJapanese（日本語UD）Version2.6以降では，その基本単位として\textbf{国語研短単位}（ShortUnitWord,SUW:以下\textbf{短単位}）を採用している\cite{_universal_asahara_2019}．短単位は『現代日本語書き言葉均衡コーパス』(BCCWJ)\cite{maekawa2014balanced}・『日本語日常会話コーパス』(CEJC)\cite{koiso-EtAl:2022:LREC}をはじめとした形態論情報つきコーパスでも単位として採用されている．短単位に基づく形態素解析用辞書として，約97万語からなるUniDic\cite{den2007unidic}も公開されている．また，170万語規模の単語埋め込みNWJC2vec\cite{Asahara2018NWJC2VecWE}でも短単位が使われており，短単位を基準として言語処理に必要な基本的な言語資源が多く整備されている．この短単位に基づく言語資源の豊富さから，実用上は短単位に基づく処理が好まれる傾向にあった．しかし，グレゴリー・プリングルによるブログ記事\footnote{\url{http://www.cjvlang.com/Spicks/udjapanese.html}}や\citeA{murawaki2019definition}では，単位として短単位を採用している既存のUDJapaneseコーパスは「形態素」単位であり，UDの原則にあげられる「基本単位を構文的な語とする」という点において不適切であることを指摘している．国語研においては，形態論情報に基づいて単位認定し，「可能性に基づく品詞体系」が付与されている短単位とは別に，文節に基づいて単位認定し，「用法に基づく品詞体系」が付与されている\textbf{国語研長単位}（LongUnitWord,LUW:以下\textbf{長単位}）を規定している．しかし，長単位に基づくコーパスの構築は，短単位に基づくコーパスの構築より長時間の作業を要する\footnote{これは,短単位と比較すると,自動解析の精度が担保されておらず,長単位のアノテーション修正の作業ができる人材も少ないなどといった理由が挙げられる.}という問題がある．言語資源としては，BCCWJやCEJCには長単位に基づいた形態論情報が付与されているとはいえ，短単位と比べると利用可能な言語資源やツールが少ないため，長単位に基づく依存構造が解析器によって生成できるのかという問題もある．日本語における語の単位認定の検証のためには，実際に短単位のみではなく，長単位に基づく日本語UD言語資源を整備することが必要である．本研究では，長単位に基づく日本語UDの言語資源を整備したので報告する．UD全体と日本語における単位認定について説明しながら，既存の言語資源・解析器によって長単位に基づく日本語UDの構造が生成しやすいかを短単位UDと比較して検討する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{UniversalDependenciesと日本語の単位認定}
\label{sec:issue}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{UniversalDependenciesによる単位認定}\label{sec:ud_wrd}\textbf{UniversalDependencies(UD)}\cite{nivre-etal-2016-universal}は，言語横断的に品詞，形態論情報，依存構造を付与するための枠組およびコーパスである．UDの枠組として，品詞体系(UPOS)はGoogleUniversalPart-of-speechTags\cite{petrov:2012:lrec}を，形態論情報(FEATS)はIntersetinterlinguaformorphosyntactictagsets\cite{Zeman2008}を，依存関係ラベル(DEPREL)はUniversalStanfordDependencies\cite{demarneffe:2014:LREC}を基に構成されている．さらにUDでは，多言語横断の枠組の実現のために，すべての構文構造を\figref{fig:jp_ud1}のように語の間の依存関係と依存関係ラベルで表現する．そのため，依存関係を表すための\textbf{「語(words)」の単位認定}が重要になる．UDのガイドラインでは,この「語」の単位について，語同士は依存関係が成立しているという前提でアノーテションすることを求めている．さらに,「語は\textbf{構文的な語(syntacticword)}である」と定義しており，構文的な語は形態素ではないと説明している．形態論的な特徴は語の属性としてアノテーションし，語を形態素に分割しない．これは，音韻論上他の語に依存する拘束形態素であっても統語的に独立した語（スペイン語の``d\'{a}melo''$\rightarrow$``damelo''）や縮約形態(``au''$\rightarrow$``\`{a}le'')を元の個別の単位に分解したいという理由に基づく\footnote{\url{https://universaldependencies.org/docs/u/overview/tokenization.html}}．このようなUDの規定する語を本稿では「構文的な語」として説明する.語の分割が空白により規定できる言語については，より細かく分割すべき接語(clitics)やまとめあげるべき数的表現・略語(``20000''や``e.g.'')に対して適切なドキュメンテーションを行うことが求められている．日本語や一部の東アジア諸言語では，空白を用いずに記述するため，明示的な空白を用いた単位認定が困難である．UDのアノテーションを作成するうえで単位認定は非常に重要であるため，言語またはツリーバンクごとにアノテーションする単位を規定している．たとえば，日本語と同様に空白による境界のない現代中国語\cite{xia2000-chinese-pen-tree,leung-etal-2016-developing}や韓国語のUD\cite{chun-etal-2018-building}では，既存の単語分割コーパスに基づいて単位を規定している．古チュルク語を含むトルコ語\cite{kayadelen-etal-2020-gold,derin-harada-2021-universal}のUDは，語の境界を表す空白は存在するものの，日本語と同じく膠着語であり，動詞などは接尾辞を付着させて文法関係を示している．そのため空白だけではなく，さらにUDの示す構文的な語に合うように接尾辞などを区切り，単位認定を行っている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{日本語の単位認定}\label{sec:suwluw_dec1}日本語は，形態論的変化が豊富でありながら，語境界に空白を使わない言語である．日本語における単位は分析手法に応じて定義される傾向にあり，自明な語境界があるわけではない．また，日本語の単位認定は工学的にも重要と考えられており，形態素解析の研究が自然言語処理の分野で盛んに行われていた．日本語の形態素解析では，内部的に辞書を用いて解析が行われることがほとんどであり，さまざまな種類の辞書が構築されて公開されている．日本語の形態素解析用辞書としては，IPADIC辞書\footnote{\url{https://ja.osdn.net/projects/ipadic/}},JUMAN辞書\footnote{\url{https://nlp.ist.i.kyoto-u.ac.jp/?JUMAN}}，Sudachi辞書\cite{TAKAOKA18.8884,sakamoto_sudachi_2018}，IPA辞書から新語を拡張した辞書mecab-ipadic-NEologd\cite{sato2017mecabipadicneologdnlp2017}なども公開されている．日本語UDは，他言語UDと同様に，既存の辞書やコーパスを利用してUDの形式に自動変換することを目指している．語境界を新たに認定するよりも，既存の単位に基づいて品詞などの対応を取るほうがUDの基準の変更に追随するためにも望ましい．日本語UDでは，Version2.6より，UniDic\cite{den2007unidic}の語彙項目の単位，すなわち\textbf{国語研短単位（短単位）}を単位とする方針とした\cite{_universal_asahara_2019}．本稿で報告する長単位UDの\textbf{国語研長単位（長単位）}も，短単位と同様に設計されたものである．次節では，短単位と長単位といった国語研による語の単位認定について説明をする．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{国語研による語の単位認定}\label{sec:suwluw_dec}国語研短単位や国語研長単位は，語彙調査のために制定された単位である\cite{weko_1373_1}．\figref{fig:example}で示す通り，短単位は最小単位から，長単位は文節から規定されている．この節では最小単位，短単位，文節，長単位の説明をする．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.2\begin{figure}[b]\begin{center}\includegraphics{30-1ia1f2.pdf}\end{center}\hangcaption{最小単位，短単位，長単位，文節の例（BCCWJのPB33\_00032より）．\ref{sec:suwluw_dec}節でも説明する通り，最小単位から短単位，文節から長単位が規定されている．}\label{fig:example}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%国立国語研究所では，現代語において意味を持つ最小の単位のことを\textbf{最小単位}と定義する．最小単位はその語種に基づき定義される．日本語は，漢語・和語・外来語・固有名詞・数値表現・記号などの語種からなる．漢語は1文字1語とし，和語・外来語・固有名詞はそのもっとも短い単位を1語とする．数値表現は十進の位取りで発音できる単位に分割する．記号は1文字1語とする．このような操作的な規則に則り，最小単位を制定している．\textbf{短単位}は，この最小単位に基づき，同じ語種同士の1回結合までを1単位として定義する．\figref{fig:example}の例では，「学」と「年」はそれぞれ漢語であり，結合した「学年」を1短単位とする．和語である「用い」と付属語である「られ」を結合しないで，それぞれを1短単位とする．短単位は，基準が分かりやすく，ゆれが少ないという特徴があり，頻度の計数にふさわしい単位とされている．この短単位に対してUniDic体系に基づく形態論情報（品詞・活用型・活用形・語形・語彙素）が定義される．短単位に付与されるUniDic品詞は「可能性に基づく品詞」であり，その語彙素（表層形）がなりうるすべての品詞用法を考慮したものである．たとえば，「日曜」などの単位は文脈によって「名詞-一般」にも「副詞-一般」にもなりえるため，「名詞-副詞可能」といった品詞を定義する．短単位は語彙分析を目的としており，文脈に依存した用法を考慮した品詞を定義していない．一方\textbf{長単位}は，まず\textbf{文節}境界を認定したのちに，文節内の短単位要素の結合により認定する単語単位である．文節は日本語における係り受け構造（依存構造）情報における基本単位に適した境界として採用されており，この文節を基に係り受け構造の整備が行われている\cite{asahara2018dep}．日本語の文節単位の係り受け構造は，係り受けが交差せず，倒置などをのぞいて右主辞であり，簡単なアルゴリズムで組み上げられるという性質を持つ．しかしながら，文節自体には品詞が設定されておらず，文節間同士の依存関係も基本的に定義されていない.そのため,文節のみでは,直接UDに変換するための情報が本質的に欠けている．文節は，1つの自立語と接頭辞・接尾辞・助詞・助動詞などの複数の付属語から構成されるとし，その各要素を長単位として認定する．\figref{fig:example}の文節「用いられている」は，長単位自立語と「用い」と長単位付属語「られ」「ている」により構成される．長単位の規程集\cite{weko_2862_1}では，長単位としてみなす複合辞(Multi-wordExpressions)が認定されており，複合辞をなす機能表現は1単位とする．また長単位には，文脈によりどのような統語的なふるまいかについて曖昧性解消を行った「用法に基づく品詞」が付与される．長単位は，文節を基に「用法に基づく品詞」が付与可能な自立語構成素と付属語への分割を行った単位とも言える．短単位と比較すると，長単位は依存構造の基本単位である文節を基準とした単位のため,構文的な語に近いと考えられる．また，たとえば，短単位における品詞「名詞-副詞可能」は，長単位においては文脈に基づき「名詞-一般」もしくは「副詞-一般」のいずれの用法なのかを判別して付与するため，統語上における品詞の曖昧性も解消できている可能性が高い．さらに，短単位は前述のとおり，形態素に基いているのみで，膠着語としての性質を考慮していない．そのため，接尾の語により品詞が変化する場合に対応できないものがある．これは\citeA{_universal_asahara_2019}でも問題としてあげられている点である．これは長単位の区切り方で解消することができると考えられる．\figref{fig:example2}に短単位と長単位の違いの1例をあげる．上が短単位，下が長単位の例である．\figref{fig:example2}から分かるように短単位は「力強さ」を「力強」「さ」，「両立する」が「両立」「する」の2つに認定されており，長単位ではそれぞれ「力強さ」「両立する」という1つの長単位として認定されている．接尾辞の「さ」は前にくる形容詞を名詞化するため，統語的には「力強さ」で名詞と品詞認定されるべきだが，短単位では実現できていない．長単位では「力強さ」を1長単位とし，「名詞」と認定されている．また，短単位では「両立」と「する」で分かれてしまっているため，「する」によって動詞化されていることを確認する必要がでてくる．実際\textbf{UD\_Japanese-BCCWJ}では「する」が名詞に接続されているかをプログラムで抽出して判定した後，UPOSの\utag{VERB}を付与するような変換規則を設けている\cite{omura-asahara-2018-ud}．一方で,「両立する」として1つの長単位として認定すれば，長単位の品詞体系から,自然と動詞として品詞認定できる．このように長単位は文脈上の品詞の曖昧性を解消しているため，短単位と比べて,UDの示す構文的な語に近いと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.3\begin{figure}[b]\begin{center}\includegraphics{30-1ia1f3.pdf}\end{center}\hangcaption{例文「打感と力強さが両立する」.上が短単位の例,下が長単位の例である．（BCCWJのPM41\_00172より一部抜粋）短単位の場合,「両立」だけではなく,「する」まで参照してから「\utag{VERB}」を付与する規則を設けている.}\label{fig:example2}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\input{01table01.tex}\hangcaption{各単位認定で利用できる言語資源・解析器．N/Aは存在しない，あるいは計算できないことを示している．}\label{tab:lravail}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{日本語の単位認定について利用できる言語資源・解析器}統語解析では，統計的機械学習や深層学習により自動解析器を構築するものが多く，そのため，学習時に利用する言語資源の豊かさは重要な点である．前述した最小単位・短単位・長単位・文節について，\tabref{tab:lravail}に各単位認定で利用できる言語資源・解析器について示す．表中TTRはBCCWJ中の総語数に対する異なり語数の比率(TypeTokenRatio)であり，この値が高いほど，その単位の出現確率が小さくなることを意味する．最小単位は，現在のところ公開されている言語資源・解析器は存在しない．短単位は，形態素解析器MeCab\cite{kudo-etal-2004-applying}と形態素解析用辞書UniDicを用いることにより生成される．ほかにも\citeA{Asahara2018NWJC2VecWE}によって公開されたNWJC2vecなどの単語埋め込みが利用できる．長単位・文節については，TTRの大きさからも分かる通り，語彙が膨大であるため辞書は存在しない．しかし,長単位は,短単位から構成規則により生成が可能なため，中・長単位解析器Comainu\cite{kozawa2014comainujp}やVaporetto\cite{akabe2022}といった解析器などにより生成することができる．文節は,CaboCha\cite{cabocha}などのツールでも解析ができる.TTRが大きいほど単語埋め込みの構築の難易度も高くなることが\citeA{Asahara2018NWJC2VecWE}によって指摘されており，長単位や文節について単語埋め込みは構築されていない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{これまでの日本語UniversalDependenciesの歴史}2023年1月までに，現代日本語UDリソースとして7種類のコーパスが公開されている．これまで公開された日本語UDを\tabref{tab:status}に示す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table2\begin{table}[b]\input{01table02.tex}\caption{公開現代日本語UDのコーパス.SUWは短単位,LUWは長単位の略称である.}\label{tab:status}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\textbf{UD\_Japanese-KTC}\cite{tanaka_universal_2016}は京都大学テキストコーパスを元に作られたUDコーパスである．\textbf{UD\_Japanese-KTC}は長単位に近い単語境界で単語を構成しており，人手によって句構造木が付与され，その句構造木に基づいてUDの依存構造木を構築している．現在UDプロジェクトではVersion2が公開されているが，\textbf{UD\_Japanese-KTC}についてはVersion1でメンテナンスが止まっている．\textbf{UD\_Japanese-BCCWJ}\cite{omura-asahara-2018-ud}はBCCWJに基づいたUDコーパスである．Version2.2より公開された．BCCWJでは短単位・長単位・文節および文節単位の係り受け構造の情報が提供されている．\textbf{UD\_Japanese-BCCWJ}はこのBCCWJからの形態素情報および係り受け構造を元に\citeA{omura-asahara-2018-ud}らが提案している規則によって，短単位に基づく依存構造木へと自動変換されたものである．\textbf{UD\_Japanese-GSD}と\textbf{UD\_Japanese-PUD}はVersion1.4までGoogle\cite{mcdonald-etal-2013-universal}が管理し，Version2.0から2.5まではIBMの単語分割器\cite{kanayama-etal-2000-hybrid}により単語分割し，修正したものであった．Version2.6より国立国語研究所がメンテナンスおよび公開しているコーパスである．あらかじめ\textbf{UD\_Japanese-GSD}のVersion1.4の権利者の許諾を得て，さらに交渉によりライセンスをCCBY-NC-SAからCCBY-SAに変更したうえで，Version1.4データの例文を元に，国立国語研究所にて国語研短単位形態論情報と文節係り受け情報を人手により付与している．UDの依存構造木については，文節係り受け木から\citeA{omura-asahara-2018-ud}らの規則によって\textbf{UD\_Japanese-BCCWJ}と同様に変換したものである．今回，さらに\textbf{UD\_Japanese-GSD},\textbf{UD\_Japanese-PUD},\textbf{UD\_Japanese-BCCWJ}の例文に基づき，長単位に基づく日本語UDコーパスを構築した．BCCWJには長単位形態論情報が付与されていたが，新たに\textbf{UD\_Japanese-GSD}と\textbf{UD\_Japanese-PUD}にも長単位形態論情報を付与した．次節では，長単位に基づく日本語UDコーパスの構築について紹介する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{長単位に基づく日本語UniversalDependencies}
\label{sec:luwud}UDの理念に即した単位に基づく日本語の言語資源を構築すべく，我々は長単位を単位認定とした日本語UDコーパスを開発した．\textbf{UD\_Japanese-GSD},\textbf{UD\_Japanese-PUD}に対して，新たに国語研長単位形態論情報を付与し，UDのVersion2.9（2021年11月）から，BCCWJ,GSD,PUDの長単位に基づく日本語UDを，\textbf{UD\_Japanese-BCCWJLUW}\footnote{\url{https://github.com/UniversalDependencies/UD_Japanese-BCCWJLUW/}},\textbf{UD\_Japanese-GSDLUW}\footnote{\url{https://github.com/UniversalDependencies/UD_Japanese-GSDLUW/}},\textbf{UD\_Japanese-PUDLUW}\footnote{\url{https://github.com/UniversalDependencies/UD_Japanese-PUDLUW/}}として公開した．2023年1月現在Version2.11が最新版である．前節で説明したとおり，\textbf{UD\_Japanese-GSD}と\textbf{UD\_Japanese-PUD}は，Version2.6公開時に国語研長単位に基づく形態論情報（単語境界・品詞・語彙素）と文節に基づく係り受け構造を人手により整備した．さらに，国語研長単位に基づく形態論情報（単語境界・品詞・語彙素）の整備を継続して進めてきた．長単位整備時に，長単位と短単位でデータに一貫性の不備があった場合は，短単位形態論情報もさらに修正した．そしてこの国語研短単位・長単位形態論情報が付与された文節係り受けデータGSD,PUDを\citeA{omura-asahara-2018-ud}の提案した規則によって，文節係り受け構造から，長単位に基づくUD基準の依存構造コーパスに変換し，\textbf{UD\_Japanese-GSDLUW}と\textbf{UD\_Japanese-PUDLUW}を構築した．\textbf{UD\_Japanese-GSD}と\textbf{UD\_Japanese-PUD}の元となっているこの文節係り受けコーパスは拡張CaboCha形式\cite{matuyosi2014extend}ファイルのオープンデータとして公開\footnote{\url{https://github.com/udjapanese/UD-Japanese-GSDPUD-Cabocha}}されている．BCCWJは短単位の境界と品詞，長単位の境界と品詞が整備されており，\citeA{asahara2018dep}のデータを組み合わせることで文節係り受けデータも獲得できる．そこからGSDとPUDと同様に\citeA{omura-asahara-2018-ud}の規則によって変換を行い\textbf{UD\_Japanese-BCCWJLUW}を構築した．この\citeA{omura-asahara-2018-ud}らの変換規則は短単位と長単位の語彙素や品詞，形態的な特徴に基づいたものである．\figref{fig:exp-ud}に\citeA{omura-asahara-2018-ud}らの変換規則の一部\footnote{詳細な規則の一覧は\url{https://udjapanese.github.io/UD_converion_table/index.html}に記載している.}と例を掲載している.例文にアノーテションされた短単位と長単位の語彙素や品詞・係り受け構造から,単語間依存構造と情報を抽出し,\figref{fig:exp-ud}の下部の表で示しているような規則を単語ごとに適応している.適応結果から得られたUPOSおよびDEPRELのラベル付与することでUDの依存構造を生成している.\citeA{omura-asahara-2018-ud}らの変換規則は,Unidic品詞だけではなく,文節や係り受け構造も参照しつつ変換されている.日本語におけるUPOSとDEPRELについての説明は文献\cite{_universal_asahara_2019}を参照すること.%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.4\begin{figure}[b]\begin{center}\includegraphics{30-1ia1f4.pdf}\end{center}\hangcaption{係り受け構造からUD構造への変換規則の例.上記は規則の一部でかつ説明を簡略化したものである.（上記の例はUDJapanese-GSDLUW中のdev-s63)}\label{fig:exp-ud}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\citeA{omura-asahara-2018-ud}の時点では，変換規則は短単位のみの変換を想定していた.長単位UDコーパス構築に際して,長単位のための追加の規則が必要か検討したものの，既存の変換規則が長単位の規則を内包していたことが分かった\footnote{これは短単位に基づく日本語UDであっても，短単位品詞が「可能性に基づく品詞」の場合，実際は長単位品詞を用いて用法の曖昧性解消を行っていたためである．}．そのため，長単位UDでも，Version2.10時点で，そのまま数点の規則の変更のみ\footnote{UDの言語資源を公開するにあたってvalidator(\url{https://universaldependencies.org/validation-rules.html})を通す必要がある．UDのvalidator側の更新に合わせて，規則の精緻化やvalidatorに必要な例外規定の整備をリリース毎に行うため都度変更は発生することが多い．}で，長単位でも同じように適応している．\tabref{tab:luwstatic}に構築した長単位UDの文数・文節・単語の統計情報を示している．比較のために短単位UDの統計情報も掲載している．長単位は1語以上の短単位により構成されているため，\tabref{tab:luwstatic}から分かるように，長単位の語数は短単位の語数より少ない．しかしながら，ほとんどの語において短単位と長単位は1対1対応している.BCCWJにおいては81.3\%が，GSDにおいては79.0\%が，短単位と長単位が同一単位となっている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table3\begin{table}[b]\vspace{-0.5\Cvs}\input{01table03.tex}\hangcaption{日本語長単位ベースUDの統計情報.（文数・文節数・単語数，比較のために短単位ベースUDの数値も掲載）}\label{tab:luwstatic}\vspace{-0.5\Cvs}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\tabref{tab:luwstatic2}と\tabref{tab:luwstatic3}には日本語UDのUPOSとDEPRELのコーパスごとの頻度割合を示している．短単位と長単位を比較すると，\tabref{tab:luwstatic2}から，長単位のUPOSは\utag{PROPN}，\utag{SCONJ}，\utag{SYM}や\utag{NOUN}の割合が減少していることが分かる．\tabref{tab:luwstatic3}から，長単位のDEPRELは\dt{compound}，\dt{fixed}，\dt{nummod},\dt{mark}などの割合が減少しているのが分かる．いずれも複合名詞や複合動詞でよく用いられていたアノテーションであり，長単位で1単位となった際に消える関係のため減少する．一方で長単位の\utag{AUX}や\utag{ADP}，\dt{aux}，\dt{case}などの割合が増えているのは，短単位が結合して1長単位が格助詞や助動詞といった付属語に変化したためである．たとえば,\figref{fig:exp-ud2}の事例で説明すると,「吉田」「あや子」は長単位の場合,複合名詞「吉田あや子」と変化するため,「吉田」「あや子」を結んでいた\dt{compound}が消えている.また長単位「ている」は短単位の場合「て」「いる」の2単語で\dt{mark}と\dt{fixed}を用いているが,長単位「ている」と結合されたことで「助動詞」となるため,UPOSが\utag{AUX}に変化し,\dt{aux}が付与される．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table4\begin{table}[p]\input{01table04.tex}\caption{日本語UDVersion2.10の統計情報.（UPOSの割合）}\label{tab:luwstatic2}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table5\begin{table}[p]\input{01table05.tex}\caption{日本語UDVersion2.10の統計情報.（DEPRELの割合）}\label{tab:luwstatic3}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.5\begin{figure}[t]\begin{center}\includegraphics{30-1ia1f5.pdf}\end{center}\hangcaption{UDJapanese-GSD/GSDLUW中のtrain-s1430の事例.上が短単位,下が長単位である.長単位になると\dt{compound}と\dt{fixed}の関係がなくなる.また,「ている」のように結合し助動詞(\utag{AUX})に変化している.}\label{fig:exp-ud2}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{オープンソース解析器による比較実験}
この節では短単位および長単位という単位の異なる日本語UDコーパスについて，公開されている解析器により統語解析を行う．正解率に基づき，どの段階の構造が，どの程度再現可能かを調査する．統語解析の解析結果を比較することにより，短単位と長単位による解析精度の違い，長単位の再現度の困難さなどを確認することが目的である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験設定}この実験では短単位UDと長単位UDの比較のため,短単位のUDである\textbf{UD\_Japanese-GSD}と長単位のUDである\textbf{UD\_Japanese-GSDLUW}（いずれもVersion2.10）を用いた．GSDデータはCoNLL-2017のSharedTaskにも用いられていた経緯から，訓練・開発・評価データに分割されており，実験データの設定もこの分割に基づいて実施した．\figref{fig:progress1}に統語解析の流れを示す．生文を入力してから単語分割,品詞付与とレンマ推定をし,依存構造解析を行う形\footnote{日本語では単語分割と品詞付与およびレンマ推定,すなわち形態素解析として同時に行われるものが多いが,本稿ではUDPipeのフェイズに合わせた形で説明する．}で統語解析を行い,UDを生成する.解析器としてはUDPipe,MeCab,Comainuを用いた．UDPipeでは単語分割,品詞推定+レンマ推定,依存構造解析を行い,MeCabとComainuは単語分割および品詞推定(XPOSまで)を行う.UDでは言語依存の品詞をXPOSとして指定できるため,日本語UDではUnidic品詞（国語研短単位形態論情報,国語研長単位形態論情報）を提供している.%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.6\begin{figure}[t]\begin{center}\includegraphics{30-1ia1f6.pdf}\end{center}\caption{本実験における統語解析の流れ．この3段階の流れはUDPipeのモデルに合わせている．}\label{fig:progress1}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%UDPipe\cite{udpipe:2017}は，生文あるいはUDコーパスを入力として単語分割，品詞付与+レンマ推定，依存構造解析ができる解析器である．UDPipeではそれぞれの段階ごとにモデルを学習し構築している．UDPipeはニューラルネットモデルをフェイズごとに組み合わせて実装されており，単語分割にはBidirectionalLSTMartificialneuralnetwork\cite{graves_framewise_2005}を，品詞付与+レンマ推定にはMorphoDiTa\cite{strakova14}を，依存構造解析にはParsito\cite{straka_parsing_2015}が使われている．\textbf{UD\_Japanese-GSD},\textbf{UD\_Japanese-GSDLUW}の訓練データ(Version2.10)を用いてUDPipeVersion1.2.0により訓練したモデルを用いる\footnote{UDPipeの最新版はversion2系列であるが，2022年6月時点でモデルを学習するインターフェースなどが見当たらず，また単語分割の機能は実装されていないため，利便性からUDPipeversion1.2.0を用いている．}．UDPipeでは，単語埋め込みを依存構造解析段階でのみ使用することができるため，単語埋め込みとして，短単位に基づく単語埋め込みNWJC2vecを用いた．なおNWJC2vecは短単位で構築されているが,短単位と長単位では共通する形態素も存在するため,影響をみるために,長単位のモデルでもNWJC2vecを用いている.本実験でのNWJC2vecは300次元のSkip-gramのモデルを使用した．MeCab\cite{kudo-etal-2004-applying}は国語研短単位形態論情報（単語分割，品詞付与+レンマ推定）を付与するために用いる．利用したバージョンはMeCab-0.996とUniDic-2.1.0であった．Comainu\cite{kozawa2014comainujp}は国語研長単位形態論情報（単語分割，品詞付与+レンマ推定）を付与するために用いる．利用したバージョンは0.72であった．なお，Comainuは内部でMeCabを呼び出して利用しており，MeCabの解析結果もComainuの結果から引用している．MeCabもComainuもすでに訓練されたモデルをそのまま用いた\footnote{これはComainu-0.72によりGSDを用いてモデルを訓練し用いた結果と付属モデルでの解析結果を比較した際，主に品詞推定において再訓練したものが著しく低かったためである．これはComainuの付属モデルに用いた訓練テキスト量がGSDのテキスト量よりも多いためと考えられ，また品詞体系も差異があるため完全な比較が難しい．我々の目的とする再現性の比較には不要と判断した．}．評価も\figref{fig:progress1}に示す3つの段階「単語分割」「品詞付与+レンマ推定」「依存構造解析」の段階での比較で行った．1つ目は未解析文を入力にしたすべての解析（単語分割，品詞付与+レンマ推定，依存構造解析）を行うものである．2つ目は正解の単語分割(Gold)を入力にして品詞付与+レンマ推定・依存構造解析を行うものである．3つ目は正解の単語分割(Gold)と正解の品詞タグ(Gold)を入力に依存構造解析のみを行うものである．評価プログラムにはCoNLL2018SharedTaskにて使用された評価スクリプト\footnote{\url{https://universaldependencies.org/conll18/evaluation.html}}を用いた．このスクリプトは出力結果と正解同士の結果を内部でアライメントし，その一致率を求めた上で，単語分割，品詞付与，レンマ推定，依存構造解析結果それぞれについてのF値を出力する．本稿の実験結果もこのF値を正解率として示している．以降は各段階に焦点を当てて結果と考察を示すが,全体の結果は付録\ref{sec:app}の\tabref{tab:resfull}を参考にされたい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table6\begin{table}[b]\input{01table06.tex}\caption{実験結果：単語分割および品詞タグ付け＋レンマ推定.各項目はF値を表している.}\label{tab:result1}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{単語分割および品詞付与+レンマ推定}\tabref{tab:result1}に単語分割および品詞タグ付け＋レンマ推定の結果を示す．Wordsは単語分割のF値，UPOSはUD品詞付与のF値，XPOSはUniDic品詞付与のF値，Lemmasはレンマ（UniDic語彙素）推定のF値である．なお，品詞付与+レンマ推定についてはXPOSとUPOSのそれぞれの正解率を求めているが，MeCabとComainuではXPOSのみ生成し，UPOSのみUDPipeで出力する形になっている．また示しているComainuの結果は短単位の解析誤りが含まれている．まず，単語分割においてはMeCabとComainuを比較すると，長単位(LUW)のほうが正解率が高く\footnote{うまく分割できてないものの大半が「数字表現」である．日本語UDコーパスでは数字表現を前処理で統合しひとつの数字表現としており，UniDicでは短単位・長単位関係なく数字表現は1桁ずつ分割するという違いがあり，その結果，単語数が多くなる短単位が多少評価が不利になっている．そのためこの正解率は参考程度となる．}，品詞付与の正解率もUPOS,XPOSともに長単位のほうが高い．また,UDPipeとMeCabとComainuを比較すると，MeCabとComainuのほうが精度が高く,XPOSが特に高い.日本語形態素解析では,辞書などを用いながらUniDic品詞(XPOS)を推定することに特化しているため，XPOSのほうが汎化の高いUPOSよりも性能が高くなる傾向にある．次に，UDPipeを用いた場合の短単位(SUW)と長単位(LUW)を比較すると，単語分割において短単位のほうが正解率が高いことが分かった．品詞タグ付けやレンマ推定においても，短単位のほうが高いことが分かる．前述の通り短単位は短く揺れが少ない傾向にあるため，辞書知識を用いないUDPipeにおいて，短単位のほうが正解率が高いのは直感的である．全体として分割精度が低いと後続の結果にも影響がでるため，短単位のほうが結果として正解率が高くなっていると考えられる．単語分割を正解とした入力を与えた場合には，XPOSにおいては長単位のほうが短単位よりも正解率が高いことが分かった．これは辞書を用いずに文脈のみで機械学習により推定する場合には，「可能性に基づく品詞」の推定が困難で，「用法に基づく品詞」のほうがより推定しやすいことによる．レンマ推定においては，一貫して数字表現や複合辞の語彙素の復元が難しく，長単位のほうが正解率が低い．レンマ推定の際，Goldデータの場合と解析器によるものを比較すれば3--4\%も落ちていることが分かり，単語分割の正確性は重要であることが伺える．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{依存構造解析}\tabref{tab:result_dep}に依存構造解析結果を示す．評価指標としてUAS，LAS，CLAS，MLAS，BLEXを示している．NWJC2vecを利用していないものと利用したものの結果について\textbf{(UDPipe)w/ovec}と\textbf{(UDPipe)w/vec}にて示している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table7\begin{table}[t]\input{01table07.tex}\caption{実験結果：依存構造解析の結果.各項目はF値を表している.}\label{tab:result_dep}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%UAS(UnlabeledAttachmentScore)は，親への依存関係(dependencyattachment)が正しい場合に正解として，正解率を評価する指標である．LAS(LabeledAttachmentScore)は，単語の係り先と親への依存関係ラベル(universaldependencylabel)が正しい場合に正解として，正解率を評価する指標である．CLAS(Content-WordLabeledAttachmentScore)は，LASの評価において，機能語(functionalwords)から自立語(contentwords)への依存関係の重みを0にしたものである．つまり，自立語の評価を主とした指標である．自立語と認定される依存関係は29種として定義されている\footnote{この29種類はnsubjobjiobjcsubjccompxcompoblvocativeexpldislocatedadvcladvmoddiscoursenmodapposnummodaclamodconjfixedflatcompoundlistparataxisorphangoeswithreparandumrootdepとなっている．}のみとする．MLAS(Morphology-AwareLabeledAttachmentScore)は，CLASの拡張であり,親への依存関係のみならず，子の機能語の依存関係がすべて対応しており，いくつかの形態論的属性(FEATS)も正しい場合に正解として，正解率を評価する指標である．この指標での依存関係は係り先と関係ラベルが一致しているものだけを評価する.ただし内容語でも機能語でもない関係ラベルのものは除かれて評価されている．BLEX(BilexicalDependencyScore)は，MLASと似た指標だが，形態論的属性(FEATS)の代わりにレンマ(LEMMA)が一致している場合に正解とする．その際，子の機能語の依存関係は評価しない．なお，出力と正解データで単語分割の区切りが一対一となるとは限らないため,一致率ではなく，F値として評価する．まず，UAS,LASを確認する．単語分割にUDPipeを用いたものを除いて，長単位のほうが短単位よりもUAS,LASともによいことが分かる．これは，品詞付与のときも同様であるが，UDPipeの単語分割の性能の差が依存構造解析に残っていることに基づく．単語分割に正解を与えた場合(Token:Gold)，いずれの場合も依存構造解析の性能において0.73--2.47\%程度，短単位よりも長単位のほうが性能がよかった．また品詞に正解を与えた場合(Token:Gold,POS:Gold)も,短単位よりも長単位のほうが性能がよかった．これは，依存構造解析の単位として，長単位の分割および長単位に付与されているUPOSのほうが，構文解析しやすいことが示唆される.定性的にも，短単位に付与されている「可能性に基づく品詞体系」は依存構造を推定するための情報として曖昧な品詞体系であり，長単位に付与されている「用法に基づく品詞体系」が有効と考えられる．CLAS,MLAS,BLEXを確認すると，短単位のほうが長単位よりも正解率がよい．とくにBLEXは，レンマ解析結果の正解も必要なため，より長単位の評価に厳しい結果となっている．これはCLAS,MLAS,BLEXにおける自立語認定される語が，短単位のほうが長単位よりも比率が多いことに起因している．とくに短単位では長単位のときに1語と認定されているものが複数の語となり，かつその依存関係（\dt{compound}や\dt{fixed}）も自立語として正解率に集計されている．実際，\textbf{UD\_Japanese-GSD}で自立語として認定される語の割合は103769/217954=0.4761，\textbf{UD\_Japanese-GSDLUW}で自立語として認定される語の割合は66116/174543=0.3788となっており，短単位のほうが自立語認定された語の割合が1割程度多い．これが，正解率に影響している可能性が高い．自立語の依存構造が正しく認定されているかを確認するために，文節中の自立語同士の依存関係のみを抽出し，結果を出した\footnote{具体的には文節内自立語主辞のみに限定した．これは日本語UDのMISC列にある\texttt{BunsetuPositionType}の\texttt{SEM\_HEAD}を抽出することと同値である．}．短単位UDと長単位UDの文節の数はほとんど一致しており，文節中には自立語はひとつと定義されているので，この結果は日本語の係り受け構造解析とほぼ同様の結果となる．それぞれの評価指標を計算しなおすと\tabref{tab:result33}のようになった．解析器がその単語が主辞かどうかを判定しないため，語の認定がずれている結果は正確に評価できない．そのため，語が一致しているもののみに限定している．短単位と比べて長単位のほうが自立語の依存構造においては解析精度がよいことが分かる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table8\begin{table}[b]\input{01table08.tex}\hangcaption{実験結果：文節内自立語主辞の依存構造解析結果(F値)．\tabref{tab:result_dep}の一部に対して文節内自立語主辞の依存関係のみで再評価した結果．CoNLL2018SharedTaskのCLAS,MLAS,BLEXの定義と異なるため`-C`を付与している．}\label{tab:result33}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\tabref{tab:embeddings}に，単語埋め込みNWJC2vecを用いた際に，どの程度依存構造解析の正解率が向上するかについて示す．\tabref{tab:result_dep}のw/vecとw/ovecの差分を示したものである．短単位に基づくNWJC2vecは，短単位の依存構造解析正解率を0.73-1.65\%程度向上させる．一方，長単位の依存構造解析正解率は0.01--0.23\%程度しか向上させることができない．NWJC2vecは短単位に基づき構築された単語埋め込みである．これは依存構造解析において，単語単位が揃っている単語埋め込みは正解率の向上に貢献することを示唆している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table9\begin{table}[t]\input{01table09.tex}\caption{実験結果：単語埋め込みの利用による依存構造解析正解率の向上.（\tabref{tab:result_dep}に基づく）}\label{tab:embeddings}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}
本稿では日本語UDにおける単語分かち書きの問題について，国語研短単位と国語研長単位という単語単位を比較することで検討を行った．日本語分かち書き基準として以前より採用されていた国語研短単位について紹介するとともに，UDが掲げる理念に即した単位認定「構文的な語」にふさわしい単位として国語研長単位があることを紹介した．実際に，長単位に基づく現代日本語のUDリソース\textbf{UD\_Japanese-BCCWJLUW},\textbf{UD\_Japanese-GSDLUW},\textbf{UD\_Japanese-PUDLUW}を構築し，共有・公開を行った．さらに長単位に基づく日本語UDについて，公開されているツール・言語資源および\textbf{UD\_Japanese-GSDLUW}を用いて，その再構成可能性について検討を行った．結果，既存の形態素解析器MeCab・Comainuとともに短単位に基づく単語埋め込みNWJC2vecを用いた設定において，短単位と長単位とで最終的な係り受けの性能において差がないことを確認した．構文的な語としての長単位の出力が実応用的に有用であり，UDの枠組にふさわしいものであるかについてはまだ議論の余地が残っている．さらに，類型論の研究を考えた場合に，他言語においても同様の「構文的な語」を規定できるかという問題がある．今後他言語を含めた有用性を検証する必要があると考えられる．検討事項があるとはいえ，今回の取組みにより，既存のアノテーション情報を元に短単位の日本語UDコーパスと長単位の日本語UDコーパスを構築することが可能となった．本基準を用いると，たとえば，短単位・長単位形態論情報・文節係り受けなどが付与されていれば，短単位・長単位に基づく『日本語日常会話コーパス』(CEJC)などもUD対応することが可能であろう．今後拡張CaboCha形式の日本語コーパスをUD基準に変換するプログラムもオープンソースソフトウェアとして公開予定である．また公開された長単位の日本語UDコーパスを元に\citeA{matuda2022}や\citeA{yasuoka2022}の研究のような\pagebreak長単位解析系のツールの開発なども取り組まれている．長単位の日本語UDコーパスによって，日本語の語の単位認定について，より進んだ研究が取り組まれることを期待する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\acknowledgment本研究の実施にあたって，松田寛氏・金山博氏・宮尾祐介氏・田中貴秋氏・松本裕治氏・伊藤薫氏の助言を受けました．ここに記して謝意を表します．本研究は国立国語研究所コーパス開発センター共同研究プロジェクト（2016--2021）・基幹型共同研究プロジェクト（2022--2027）「アノテーションデータを用いた実証的計算心理言語学」の成果です．また，科研費17H00917,18H05521の支援を受けました．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\bibliographystyle{jnlpbbl_1.7}\bibliography{01refs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\appendix
\section{依存構造解析の全体表}
\label{sec:app}本稿で行った実験結果の全体表\tabref{tab:resfull}を付録として掲載する.この表は本稿の\tabref{tab:result1}と\tabref{tab:result_dep}を統合したものである.%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table10\begin{table}[p]\begin{center}\rotatebox[origin=c]{90}{%\begin{minipage}{571pt}\setlength{\captionwidth}{571pt}\input{01table10.tex}\hangcaption{実験結果：統語解析全体の結果.すべてF値で示している.Goldが正解データを与えた場合である.単語分割の結果は後続の結果（品詞付与+レンマ推定,依存構造解析）にも影響を与え,正解データを与えた場合のほうが結果がよくなることが分かる.}\label{tab:resfull}\end{minipage}}%\end{center}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\clearpage%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{biography}\bioauthor{大村舞}{%国立国語研究所プロジェクト非常勤研究員．}\bioauthor{若狭絢}{%国立国語研究所プロジェクト非常勤研究員．}\bioauthor{浅原正幸}{%国立国語研究所・東京外国語大学教授．}\end{biography}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\biodate\clearpage\clearpage\end{document}