言語処理学会 第30回年次大会 発表論文集（2024年3月）

言語学的に妥当な日本語 CCG ツリーバンクの構築と評価
富田朝 1 谷中瞳 2 戸次大介 1
1 お茶の水女子大学 2 東京大学
{tomita.asa,bekki}@is.ocha.ac.jp
hyanaka@is.s.u-tokyo.ac.jp

概要
日本語 CCG パーザが日本語を正しく分析する
ためには、パーザの学習・評価に用いられる日本語 CCG ツリーバンクの言語学的妥当性を向上させる必要がある。しかし、既存の日本語 CCG ツリーバンクである日本語 CCGbank には誤った分析が含まれていることが指摘されており、日本語 CCG ツリーバンクの新たな構築アルゴリズムが提案されている。本研究では、CCG ツリーバンクを構築するアルゴリズムを実装し、特に複合動詞を含む文に対して正しい統語構造を出力できるようにアルゴリズムを改良した。さらに、13,653 文からなる日本語 CCG
ツリーバンクである lightblue CCGbank を構築し、ツリーバンクの統語構造と意味表示に対して、人手で評価を行った。

1

はじめにツリーバンクは、大規模なテキストに統語構造が付与されたデータセットである。特に形式統語論に基づいたツリーバンクは、パーザの学習・評価用データセットとしても利用され、パーザ技術の発展に貢献している。形式統語論の理論に基づいて構築された英語のツリーバンクとして、文脈自由文法に基づいた Penn Treebank [1] や、組合せ範疇文法(Combinatory Categorial Grammar, CCG [2, 3]) に基づいた CCGbank [4] などが挙げられる。また、日本語のツリーバンクとしては、AB 文法に合成規則を加えた理論（ABC 文法）に基づいた ABC ツリーバン
ク [5] や、句構造文法に基づいた係り受け構造のツリーバンクから自動変換することによって構築された日本語 CCGbank [6] などがある。とくに、日本語CCGbank の構築は、日本語 CCG パーザの研究にも影響を与えており、Jigg [7] や depccg [8] などの日本語 CCG パーザが開発されるに至った。さらに、これらの CCG パーザは ccg2lambda [9] をはじめとした、意味解析・推論システムに活用されている。
近年では深層学習を用いた手法の発展によって高精度な CCG パーザが実現しつつあるが、CCG パー
ザの精度が高いということが、そのパーザが言語学的に妥当な統語構造を出力していることを意味するわけではないことに注意したい。ここで、言語学的に妥当な統語構造とは、日本語文法の形式理論 [10]に基づき、構成的に正しい意味表示を導出できるような統語構造を指す。CCG パーザの評価は、CCGツリーバンクの評価用データをどれくらい再現できるか、という観点から行われる。しかし、正解とされる CCG ツリーバンクが言語学的な誤りを含んでいる場合、CCG ツリーバンクの統語構造を再現できるほど評価値としてのパーザの精度は高くなるが、そのパーザが言語学的に妥当な統語構造を出力できているとはいえない。実際に、既存の日本語 CCGパーザの学習・評価データとして使われている日本語 CCGbank は、受身・使役の分析に誤りが含まれていることが指摘されている [11]。したがって、言語学的に妥当な CCG パーザの実現には言語学的に妥当な CCG ツリーバンクの構築が必要となる。
富田ら [12] は、CCG に基づく統語・意味解析器である lightblue [13] と ABC ツリーバンクを組み合わせることで言語学的に妥当な日本語 CCG ツリーバンクを構築するアルゴリズムを提案している。しかし、この研究で提案されたアルゴリズムにはいくつかの課題が残されている。そこで本研究では、富田ら [12] のアルゴリズムの課題のうち、複合動詞の解析に焦点をあてて、アルゴリズムの改良を行う。そして、改良したアルゴリズムに基づいてツリーバンクを再構築する。再構築によって得られたツリーバンクは、日本語 CCG 統語・意味解析器 lightblue を用いて得られたことから、lightblue CCGbank と名付ける。さらに、lightblue CCGbank の統語構造と意味表示について評価を行い、言語学的な妥当性の考察とエラー分析を行う。

― 396 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

煽り
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜
𝑆\𝑆pro< 𝐵2𝑇/(𝑇\𝑁 𝑃𝑔𝑎|𝑜 )𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜>
𝑆\𝑁 𝑃𝑔𝑎
𝑆/𝑆\𝑁 𝑃𝑔𝑎

図1

cont-mod𝑆/𝑆\𝑆<𝐵

𝑆\𝑁 𝑃𝑔𝑎pro
立て𝑇/(𝑇\𝑁 𝑃𝑔𝑎|𝑜 )𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜>
𝑆\𝑁 𝑃𝑔𝑎> 𝑆𝑥

𝑆\𝑁 𝑃𝑔𝑎

た𝑆\𝑁 𝑃𝑔𝑎 \(𝑆\𝑁 𝑃𝑔𝑎 )背景2.1

lightblue の基本仕様<図 2 アルゴリズム改良後の複合
動詞「煽り立て」の統語構造

複合動詞「煽り立て」の統語構造

2

煽り立てた
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜
𝑆\𝑁 𝑃𝑔𝑎 \(𝑆\𝑁 𝑃𝑔𝑎 )<𝐵
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜

部を、ABC ツリーバンクから抽出した用言の統語情報で上書きすることで語彙項目をアップデートする。最後に、新しい語彙項目を用いて lightblue で入lightblue [13] は CCG による日本語の文法理論 [10]に基づいて開発された統語・意味解析器である。
lightblue は格フレームを付与した Juman[14] の辞書
約 8 万語に、機能語約 800 語を加えた辞書と、CCGの組合せ規則に基づいて統語解析を行う。受け取っ力文をパーズすることで、正しい統語構造と意味表示からなる出力が得られる。

3

ツリーバンク構築アルゴリズム

3.1

アルゴリズムの改良

た入力文の部分文字列をなす全ての語彙項目を

富田ら [12] の手法では、(1) のような複合動詞を辞書から取得し、それらを用いて Left-corner chart

含む文において、図 1 のように、2 つの動詞が分割parsing [15] を行う。その後、CCG の統語構造と依して解析されてしまうという課題がある。

存型意味論 (Dependent Type Semantics, DTS) [16] に基(1)づく意味表示を解析結果として出力する。

急進派の発言は、国民の不安を煽り立てた2）

lightblue で使用されている用言の語彙項目の格フ

複合動詞には、「煽り立てる」のようにまとめて一レームは、コーパスから自動獲得されたものであるため、誤りが含まれている。したがって、lightblue語とされるものと、「食べ始める」のように動詞との格フレームの誤りをどのように減らすかが課題とものがある。機械的にこれらを区別することは難しして残されている。

いため、本研究では、全ての複合動詞について、一2.2

動詞性接尾語（補助動詞）の二語が合成されている語となるようにアルゴリズムを改良する。

富田らによる提案手法

ABC ツリーバンクでは一語の複合動詞として扱

富田ら [12] では、ABC ツリーバンク [5] と lightblue

われているが、lightblue の辞書には登録されていなを用いて日本語 CCG ツリーバンクを構築する手法が提案された。ABC ツリーバンクは、句構造文法でい複合動詞も存在する。このとき、アルゴリズム内で lightblue の語彙項目と ABC ツリーバンクの用言記述されているけやきツリーバンク1）を変換して構の表層形とのマッピングを適切に行うことができ築されたツリーバンクであり、項構造をはじめとしず、誤った解析が行われてしまう。そこで、複合動た統語情報が人手でアノテーションされている。自詞のリストをあらかじめ用意し、lightblue でパーズ動変換のみによって構築されたツリーバンクと比較する際に以下の操作を行うことで、複合動詞を一語して、言語学的に妥当な統語情報が多く含まれていとして解析できるように改良した。

ることが特徴として挙げられるが、品詞や活用形に関する統語情報が不十分であるという課題がある。

1. ABC ツリーバンクから抽出した用言のリストの中に、複合動詞のリストに含まれている要素

そこで富田ら [12] の手法では、lightblue の用言の語彙項目に含まれる格フレームの誤りを減らすた
めに、ABC ツリーバンクの用言の項構造で lightblueがあるかを判定する
2. 複合動詞が存在した場合、lightblue の用言のテンプレートを用いて複合動詞の語彙項目を作成の辞書の情報を上書きする。具体的にはまず、ABCツリーバンクから、文とその文に含まれる用言の統語情報を抽出する。その後、抽出した文を lightblueする
3. lightblue の chart parsing で用いる用言の語彙項目を、2 節で作成した語彙項目で上書きするに入力し、統語解析を行う。獲得した語彙項目の一
1） https://github.com/ajb129/KeyakiTreebank

2） ABCTreebankID:3 dict vv-lexicon― 397 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

4. 新しい情報で上書きされた語彙項目を用いて表1

lightblue の chart parsing を行う

未登録語、統語範疇

この操作を加えたアルゴリズムで (1) の「煽り立統語構造のエラーてた」をパーズした結果を図 2 に示す。「煽り立て」という複合動詞がガ格名詞とヲ格名詞を必須格とす意味表示のエラーる一語の動詞として扱われるようになり、正しい統語構造を導出できているといえる。

ツリーバンクのエラーの分類
分類
該当数

18

複合動詞

4

その他統語構造30

漢字のエラー7

しかし、(2) の文のように、正しい統語構造を得る

56 文のうち、統語構造と意味表示の両方が妥当であると判断できた木は 19 文で、全体の 33% であっことができないケースも存在する。(2) の統語構造た。妥当でない文に対しては、その文に含まれるエは、付録の図 5 に示す。

ラーを以下の３つに分類した。

(2)

3）
彼はじっととまって、あたりを見廻した。

1. 辞書に未登録の機能語があり、付与されている統語範疇が妥当でない複合動詞「見廻る」を分割して解析すると、「彼がじっととまって、あたりを見」た後に「廻す」をい

2. 複合動詞を分割して解析しているう動作をおこなった、という意味になる。「見廻す」

3. その他の統語構造のエラーが含まれているの主語は彼であるにもかかわらず、この解析ではまた、意味表示の評価として、正しい漢字を割り「彼」のスコープは「見」までとなり、廻るの主語は空範疇となるため誤りである。この文を正しく解析当てられているか、という観点も加えて評価した。

できない原因については 4.2.2 節で詳しく述べる。

3.2

lightblue CCGbank の構築

エラー分類の結果を表 1 に示す。

4.2

考察

ABC ツリーバンクのファイルはジャンル別に分受身、使役を含む文
日本語 CCGbank は、受身・使役の分析に誤りが含類されており、それぞれのジャンルから最大 5 ファまれている。そこで本節では、lightblue CCGbank にイルずつをランダムに抽出し、15,137 文を抽出しおいて受身・使役の分析がどのように改善されたのた。lightblue の chart parsing は、𝑂 (𝑛3 ) の計算量を要かについて議論する。lightblue CCGbank には、(3)、するため、文が長くなるとパーズに時間がかかる。

(4) のような受身・使役文が含まれている。

4.2.1

そこで本論文では 50 文字以上の文は対象外とし、(3)

太郎は先生に絵をほめられた4）ダムに抽出した 15,137 文のうち 50 文字以上の文は(4)

私は猫に魚を食べさせた5）1,482 文と全体の 10%に満たないため、前述の制約

これらの文に対応する CCG 統語構造を図 3 に示を設けても構築アルゴリズムのスケーラビリティは保証されると判断できる。抽出した文のジャンル別

す。受身・使役の動詞性接尾語「れ」「せ」には、統の分類は付録の表 2 に示す。

[11] で指摘されていた日本語 CCGbank の課題を解

計 13,653 文のツリーバンクを構築した。なお、ラン4

ツリーバンクの評価と考察

4.1

評価決できていることがわかる。
4.2.2

ツリーバンクの言語学的な妥当性を自動で評価することは困難であるため、人手で評価する必要がある。しかし、CCG 統語構造や、DTS の意味表示を人手で評価することはコストの高い作業であり、今回得られた 13,653 文の全てについて評価を行うには膨大な時間を要する。そこで、lightblue CCGbank の各ジャンルから 4 文ずつをランダムに抽出して得られた 56 文に対して、人手で妥当性の評価を行った。
3） ABCTreebankID: 1089 aozora Harada-1960

語範疇 𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖 \(𝑆\𝑁 𝑃𝑔𝑎 ) が付与されており、エラー分析本節では評価結果から特定された、統語構造に関する 3 種類のエラーについて、具体例を参照して議論する。
未登録の機能語に由来するエラー(5)

国際関係の仕事に今ついてるのね。6）(5) では、終助詞「ね」が「寝る」という動詞の語幹
4） ABCTreebankID:413 textbook kisonihongo5） ABCTreebankID: 693 textbook purple intermediate6） ABCTreebankID: 68 spoken JF10― 398 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

絵∃
𝑇/(𝑇\𝑁 𝑃𝑛𝑐 )/𝑁𝑇/(𝑇\𝑁 𝑃𝑛𝑐 )

ほめ魚𝑁

ら食べさ
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜𝑆\𝑆𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜を>
𝑇/(𝑇\𝑁 𝑃𝑜 )\𝑁 𝑃𝑛𝑐>
𝑇/(𝑇\𝑁 𝑃𝑜 )𝑆\𝑁 𝑃𝑔𝑎< 𝐵2>

れせ𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖 \(𝑆\𝑁 𝑃𝑔𝑎 )𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖<た𝑆\𝑆𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖

𝐵2

図 3 受身の文 (3) と使役の文 (4) の統語構造の一部

pro𝑇/(𝑇\𝑁 𝑃𝑔𝑎 )𝑆会い
𝑆\𝑁 𝑃𝑔𝑎

cont-mod𝑆/𝑆\𝑆>

𝑆/𝑆

きのうの午後私に𝑇/(𝑇\𝑁 𝑃𝑛𝑖 )似𝑆\𝑁 𝑃𝑔𝑎 𝑁 𝑃𝑛𝑖<𝑆\𝑁 𝑃𝑔𝑎 𝑁 𝑃𝑛𝑖
𝑆\𝑁 𝑃𝑔𝑎> 𝐵𝑥2

cont-mod𝑆/𝑆\𝑆>

𝑆/𝑆\𝑁 𝑃𝑔𝑎
𝑆\𝑁 𝑃𝑔𝑎

図4<𝐵

来た
𝑆\𝑁 𝑃𝑔𝑎> 𝑆𝑥(6) の統語構造の一部として解析された。これは lightblue の辞書に終助詞動詞の「似る」の語幹として解析されている。ひらの「ね」が登録されていないことが原因と考えられがな一文字の助詞が動詞として扱われてしまうエる。このエラーを改善するためには、終助詞「ね」を lightblue の辞書に追加し、適切な制限を設ける必

ラーは多く、一文字のひらがなに対して動詞を割り当てる際に制限を設ける必要がある。

要がある。
複合動詞のエラー

複合動詞のエラーとして、(2)おわりに5で紹介した「見廻し」に加えて、「消し去る」「言い本研究では、言語学的に妥当かつ詳細な統語情報聞かせ」「申し上げる」といった複合動詞の解析にを有する日本語 CCG ツリーバンクの構築を目指し誤りが含まれていた。これらは、図 1 のエラーのよて、複合動詞の扱いを中心にツリーバンクを構築す

うな動詞同士が連用節として結合されてしまうといるアルゴリズムの改良を行なった。改良したアルうエラーではなく、「見」と「廻し」が結合されるよゴリズムを用いて 13,653 文の日本語 CCG ツリーバりも前に、「見」の前にある「あたりを」というヲ格ンクである lightblue CCGbank を構築し、得られた名詞と結合してしまうことで引き起こされているエCCG 統語構造と DTS 意味表示について人手で評価ラーであった。

を行った。評価の結果、既存の日本語 CCGBank のエラーの原因として、改良したアルゴリズムに課題の一つである受身・使役に関して正しい分析

よって「見廻し」という語彙項目を新しく追加することは実現できたももの、chart parsing の際に、新しに基づく CCG 統語構造を導出できている傾向が示唆された。一方で、今回改良したアルゴリズムはく作成した語彙項目の優先順位が低くなってしまっすべての複合動詞については有効でないことがわていることなどが挙げられる。今後、さらなる分析かった。

を行い、すべての複合動詞に対して有効なアルゴリズムを構築していく必要がある。
統語構造のエラー

今後、ツリーバンク構築アルゴリズムのさらなる改良や、lightblue の辞書の拡張を進めることで、統語構造のエラーの例としCCG ツリーバンクの改善を行う。また、構築したて、(6) が挙げられる。(6) の統語構造を図 4 に示す。

lightblue CCGbank は後日研究利用可能な形式で公開(6)する予定である。

太郎は、きのうの午後私に会いに来た。7）

このエラーでは、「会いに来た」の格助詞「に」が、
7） 787 textbook kisonihongo― 399 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

ものである。

[12] 富田朝, 谷中瞳, 戸次大介. 言語学的に妥当な CCG ツリーバンク構築の試み. 人工知能学会全国大会論文集, Vol. JSAI2023, pp. 2E6GS605–2E6GS605, 2023.
[13] Daisuke Bekki and Ai Kawazoe. Implementing variablevectors in a CCG parser. In Logical Aspects of Com-

参考文献

putational Linguistics. Celebrating 20 Years of LACL
(1996–2016), pp. 52–67, Berlin, Heidelberg, 12 2016.

謝辞
本研究は JSPS 科研費 JP20K19868 の支援を受けた[1] Mitchell P. Marcus, Beatrice Santorini, and Mary Ann
Marcinkiewicz. Building a large annotated corpus of English: The Penn Treebank. Computational Linguistics,
Vol. 19, No. 2, pp. 313–330, 1993.
[2] Mark Steedman. Surface Structure and Interpretation.
The MIT Press, Cambridge, 1996.
[3] Mark Steedman. The Syntactic Process. MIT Press,
2000.
[4] Julia Hockenmaier and Mark Steedman. CCGbank: Acorpus of CCG derivations and dependency structures extracted from the Penn Treebank. Computational Linguistics, Vol. 33, No. 3, pp. 355–396, 2007.
[5] Yusuke Kubota, Koji Mineshima, Noritsugu Hayashi,and Shinya Okano. Development of a general-purpose
categorial grammar treebank. In Proceedings of theSpringer Berlin Heidelberg.
[14] Daisuke Kawahara and Sadao Kurohashi. Case frame compilation from the web using high-performance computing.
In Proceedings of the Fifth International Conferenceon Language Resources and Evaluation (LREC’06),
Genoa, Italy, May 2006. European Language Resources
Association (ELRA).
[15] Klaas Sikkel. Left-Corner chart parsing, pp. 201–220.
Springer Berlin Heidelberg, Berlin, Heidelberg, 1997.
[16] Daisuke Bekki and Koji Mineshima. Context-passing andUnderspeciﬁcation in Dependent Type Semantics. 2017.

Twelfth Language Resources and Evaluation Conference, pp. 5195–5201, Marseille, France, May 2020.

European Language Resources Association.
[6] Sumire Uematsu, Takuya Matsuzaki, Hiroki Hanaoka,
Yusuke Miyao, and Hideki Mima. Integrating multiple
dependency corpora for inducing wide-coverage JapaneseCCG resources. In Proceedings of the 51st Annual
Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1042–1051,Soﬁa, Bulgaria, August 2013. Association for Computational Linguistics.
[7] Hiroshi Noji and Yusuke Miyao. Jigg: A framework foran easy natural language processing pipeline. In Proceedings of ACL-2016 System Demonstrations, pp.
103–108, Berlin, Germany, August 2016. Association for
Computational Linguistics.
[8] Masashi Yoshikawa, Hiroshi Noji, and Yuji Matsumoto.
A* CCG parsing with a supertag and dependency factoredmodel. In Proceedings of the 55th Annual Meeting of
the Association for Computational Linguistics (Volume 1: Long Papers), pp. 277–287, Vancouver, Canada,July 2017. Association for Computational Linguistics.
[9] Pascual Martı́nez-Gómez, Koji Mineshima, Yusuke
Miyao, and Daisuke Bekki. ccg2lambda: A compositional semantics system. In Proceedings of ACL-2016
System Demonstrations, pp. 85–90, Berlin, Germany,August 2016. Association for Computational Linguistics.
[10] 戸次大介. 日本語文法の形式理論. くろしお出版,2010.
[11] Daisuke Bekki and Hitomi Yanaka. Is Japanese CCGBank empirically correct? A case study of passive andcausative constructions. In Proceedings of the 21stInternational Workshop on Treebanks and Linguistic Theories (TLT, GURT/SyntaxFest 2023), pp. 32–36,

Washington, D.C., March 2023. Association for Computational Linguistics.

― 400 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

付録
表2

ジャンル

ツリーバンクのジャンルと文の数

ABC ツリーバンク 50 字以上の文の文の数の文の数

aozora

1773

590

1183

bible

1652

220

1430

book expert

50

441

dict lexicon

2640

42636

diet kaigiroku

486

112

374

ﬁction921

44877

law337

128

209

misc335

59

276

news443

103

340

non-ﬁction

223

87

126

spoken570

11559

ted talk

605

54

551

textbook

4880

104870wikipedia

222

51

171

計

15137

1482

13653

じっと \emp
𝑆/𝑆
彼は𝑇/(𝑇\𝑁 𝑃𝑔𝑎|𝑜 )CCG ツリーバンク

とまって∃ あたりを見
te-mod𝑆\𝑁 𝑃𝑔𝑎
𝑆/𝑆\𝑆𝑇/(𝑇\𝑁 𝑃𝑜 )𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑜><𝐵
𝑆/𝑆\𝑁 𝑃𝑔𝑎
𝑆\𝑁 𝑃𝑔𝑎> 𝑆𝑥
𝑆\𝑁 𝑃𝑔𝑎
cont-mod> 𝐵𝑥
𝑆\𝑁 𝑃𝑔𝑎
𝑆/𝑆\𝑆<𝐵
𝑆/𝑆\𝑁 𝑃𝑔𝑎>
𝑆/𝑆
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖
WRAP
𝑆¯

廻した
𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖
𝑆\𝑆𝑆\𝑁 𝑃𝑔𝑎 \𝑁 𝑃𝑛𝑖< 𝐵2> 𝐵𝑥2

図 5 (2) の統語構造― 401 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).