言語処理学会 第24回年次大会 発表論文集 (2018年3月)

近代の歴史的資料を対象とした機械学習による文境界推定
白井良介 † 松村雪桜 † 小木曽智信 ‡ 小町守 †
首都大学東京 † 国立国語研究所 ‡shirai-ryosuke@ed.tmu.ac.jp, matsumura-yukio@ed.tmu.ac.jp,
togiso@ninjal.ac.jp, komachi@tmu.ac.jp

1

はじめに『太陽コーパス』のみを用いて学習したモデル、『太陽コーパス』に『太陽』と同時代の資料を加えて学習し文境界推定はあらゆる自然言語処理の分野においてたモデルを用いて、文境界推定との異なり具合と、近必要不可欠となる要素技術である。形態素解析や固有代語への文境界推定の精度を確認した。機械学習の手表現抽出、係り受け解析などのタスクでは、文書では法としては条件付き確率場（CRF）[1] を使用し、文境なくそれぞれの文に対して解析を行うため、正しい文界推定の閾値を調整することで、適合率と再現率のト

境界が定まっていることが前提になっている。

レードオフをコントロールすることができる。また、現代の日本語の書き言葉においては “。” やエクスベースライン（ルールベース）の適合率 95.0%・再現クラメーションマーク、クエスチョンマークが手がか率 33.5%の精度から、適合率 86.1%・再現率 71.0%とりとなっているため文境界の付与が容易である。その適合率は少々下がってしまったが再現率を大幅に上げ一方で、ウェブのテキストのように自由記述形式のもることができた。提案手法の文境界の閾値を適合率がのや、話し言葉の書き起こし、また歴史的資料におい95.0%になる値に調整したところ、再現率が 41.9%となり、ベースラインと比較して同じ適合率でも高い再現率を出すことができた。ては手がかりが曖昧であり、ルールベースで文境界を付与することが困難な場合が存在する。特に、近代の歴史的資料に対して文境界を付与することは近代語の知識のある専門家の手に依らなければ難しく、膨大な量の資料の前に作業がなかなか進まないでいるのが現

2関連研究状である。現在、近代の歴史的資料に対しては専門家現代の書き言葉を対象にした文境界推定は、いくつらによる人手のアノテーションが行われているが、まか研究が行われている。例えば、英語では文境界を表だアノテーションのなされていない膨大な量の資料がすピリオドと “Mr.” などのように文境界を表さないピ存在する。アノテーションは専門家らの知識を前提とリオドが存在するため、書き言葉に対する文境界推定して成り立っており、ルールベースでの学習は困難でを行う必要がある [2]。
日本語の文境界推定の研究として行われているのは、ある。
そこで、本研究では、近代の歴史的資料を対象に機推定の対象として主にウェブテキストのような自由記械学習による文境界推定を行う。ルールベース以上に述形式の書き言葉を対象としたもの [7] や話し言葉の複雑な素性を扱うことができる機械学習を用いた文境書き起こしを対象としたもの [9] である。これらは日界推定を行うことで、膨大な量の資料に対して一次的本語の書き言葉の文境界を表す “。” などの目印が必なアノテーションを施すことができるということが本ずしも付与されていないため、文境界の推定が必要で研究の貢献である。また、近代の歴史的資料を対象にある。本研究の対象である近代の歴史的資料についてした機械学習による文境界推定を行うのは本研究が初も、文境界の手かがりとなるものが必ずしも存在しなめてである。

いため、ウェブテキストやスピーチの書き起こしと同本研究で文境界推定を行う資料は、1895 年（明治 28様に文境界推定を行うことが必要である。

年）から 1928 年（昭和 3 年）に博文館より発行された総合雑誌『太陽』を対象とし、データは『太陽コーパス』[4] の文語コアデータを用いた。“。” で文境界を付与するルールベースのものをベースラインとし、― 1023 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

表 1: 近代の歴史的資料における 4 つの文パターン
パターンと例文（文境界を “ | ” で示す）
現代語パターン:
例:“、” と “。” が現代語の書き言葉と同じように付与されている| 一は歐羅巴の海岸線が甚だ複雜なる事にして、一は其上に位する國民の種類の甚だ夥多なる事なり。|“。” パターン:例:“、” パターン:“。” を “、” の役割としても付与している| おや。二個貰ツたのか。 |“、” を “。” の役割としても付与している全 “、” パターン
段落終わりのみ “。” を付与している例外パターンも存在する

例 1:| 記者曰、君は徳太郎と稱し、慶應三年十二月を以て江戸芝神明町に生る、|

例 2:| 豈に戒めざる可けんや、 | 豈に懼れざる可けんや。 | （段落終）“。”・“、” なしパターン:
例:

コーパス

そもそも “、” と “。” が付与されていない| 請ふ其の昨年度の形勢を觀察せん | 今昨年五月末日に於ける船舶の統計は左の如し |表 2: 各近代語コーパスにおける文パターンの割合と統計情報
現代語
“。”
“、”
“。”・“、” 短単位数

文書数

文数

『太陽コーパス』文語

30.8%

3 文のみ

35.7%

33.4%

71,85033

3,686『明六雑誌コーパス』

0.0%

0.0%

3.3%

96.7%

179,522

198

9,563

『国民之友コーパス』

11.0%

1 文のみ

21.8%

67.1%

32,15424

1,479『女性雑誌コーパス』文語

30.2%

2 文のみ

31.7%

38.7%

39,77964

2,148

3 機械学習を用いた文境界推定

表 3: 素性テンプレート
観測するトークン

本研究では、文境界推定を文頭の形態素に対応する

N-gram

B ラベルと文頭でない形態素に対応する I ラベルを予

uni-gram

xt−2 , xt−1 , xt , xt+1 , xt+2

測する BI ラベルの系列ラベリング問題としてとらえ、

bi-gramxt−2 xt−1 , xt−1 xt , xt xt+1 , xt+1 xt+2

機械学習を行った。

tri-gram

xt−2 xt−1 xt , xt−1 xt xt+1 , xt xt+1 xt+2

3.1 文パターンの統一

室関係者の名前を記す際には敬意を表して該当する用近代の歴史的資料において文境界を推定することが語の前に空白を付する（闕字）” ということと、段落は困難な理由としては、4 つのパターンの文の記述が混じめの全角スペースに B ラベルが振られていた場合、在していることが挙げられる。表 1 に『太陽コーパ

次に出現する本来は文頭になるべき形態素に I ラベルス』の文語コアデータにおける各パターンの例文を示が振られているということを考慮したためである。そし、表 2 に今回実験に用いた各コーパスにおけるデーの場合、文頭の全角スペースに振られていた B ラベル

タ内での割合と統計情報を示した。現代語パターン以については次に出現する形態素に付与し直すことで対外にも “。” パターンと “、” パターン、そして “。”・応した。

“、” なしパターンが存在し、後者の 3 パターンはルールベースで解析することができない。
『太陽コーパス』

3.2 素性テンプレート

以外のコーパスについては 4.1 節で詳しく述べる。

素性テンプレートには近代文語 UniDic [5] で定義さ表 1 に示したように、近代語コーパスでは “、” とれる素性のうち、1. 書字形出現形 (orth)、2. 品詞 (pos)、“。” が文書中に混在しており、またその役割も一様で3. 活用形 (cForm)、4. 語彙素表記 (lemma) の 4 種類をはないために 4 番目の “。”・“、” なしパターンに統用いた。

一し、“、” と “。” を全て取り除くこととした。

それぞれ、現在のトークンを xt としたとき、現在のまた、文中に出現する全角スペースを取り除いた。
これは歴史的資料によく見られる決まり事である、‘‘皇トークンと前後 2 トークンずつの uni-gram、bi-gram、tri-gram を利用する。詳しくは表 3 に示した。

― 1024 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

手法

表 4: 文境界推定 実験結果
学習データ
適合率

再現率

F値

ルールベース

−

95.0%

33.5%

49.5

CRF

『太陽』のみ

79.7%

66.5%

72.5

CRF

+ 3 コーパス

86.1%

71.0%

77.8

4 近代語に対する文境界推定実験
近代語の文境界推定において、コーパスの形態素に対して系列ラベリングを適用し、様々な学習データのパターンから『太陽コーパス』のコアデータのうち文語データにおける文境界推定の性能を比較した。形態
図 1: 適合率 - 再現率曲線素として近代文語 UniDic の短単位 [3] を用いた。評価には再現率、適合率、F 値を用いた。実装は CRF++

1を使用した。実験時のパラメータにはデフォルト値を用いた。

4.3 実験結果
表 4 に結果を示し、図 1 に適合率 - 再現率曲線を4.1 データ示した。実験の結果、ベースラインと比較して『太陽実験対象の近代語資料として『太陽』の人手で修正コーパス』のみを用いた実験で 3.9 ポイント高い F 値が行われているコアデータを用いた。
『太陽コーパス』を得ることができ、『太陽コーパス』に 3 種のコーパには文語・口語の両データが存在するが、近代の資料スを追加した実験では 9.3 ポイント高い F 値を得るこには文語体で記述されたものが多いことを考慮して、とができた。

より多くの資料に対して文境界を推定できるモデルを構築するために文語データのみを用いて 5 分割交差検証を行った。5 分割は全 35 文書からなる文語データ

5 考察・エラー分析をランダムに 7 文書ずつ抽出することにより行った。

ルールベースを用いた実験結果の再現率が最も低

また、学習データの不足を考慮して、追加の学習

く、近代の資料に対しては現代語と同じような手法でデータとして『太陽コーパス』と同じく近代語コーパ

は文境界推定のカバー率を上げるのが難しいことがわスである、『明六雑誌コーパス』[8]『国民之友コーパ

かる。近代語では動詞 “有り” 等のラ行変格活用の語

ス』[8]『女性雑誌コーパス』[6] の 3 種を用いることが頻出するが、現代語であればともに “有る” となるにした。
『女性雑誌コーパス』については、『太陽コー

終止形と連体形がそれぞれ 有り と “有る” で異なるパス』と同様に文語・口語の両データが存在するため、一方、終止形と連用形がともに “有り” で同形となる。

文語データのみを用いた。それぞれのコーパスの総短

そのため、文境界認定の上では現代語とは異なって、単位数と総文数を表 2 に示した。

中止と終止の区別が付けづらいという特徴がある。
いずれの実験結果でも適合率に比べて再現率が低く、

4.2 手法文境界があるべき場所を正しく検出するのは難しいとベースラインとして “。” を文境界と認定する手法いう結果となった。

を用いたルールベースの実験を行った。ルールベース

学習用データとして『太陽』のみを用いた実験結果の実験の際には、3.1 節で述べた “。”・“、” の除去はと、『太陽』・『明六雑誌』・『国民之友』・『女性雑誌』を行なっていない。また、提案手法として前節で述べた

用いた実験結果では、後者の方が適合率・再現率・F系列ラベリングを用いて実験を行った。評価には B ラ値のいずれにおいても高くなっている。『太陽コーパ

ベル推定の適合率、再現率、F 値を用いた。また、各ス』文語データのみを用いた時の学習曲線を図 1 に示

文書の最初のトークンが B ラベルであることは自明なす。この曲線が示すようにまだ伸びしろがあり、同じので、該当するトークンは評価対象から外した。

く近代の文語体で書かれているデータを追加することで再現率を上げることができた。

1 https://taku910.github.io/crfpp/― 1025 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

6 おわりに

表 5: FN の頻出のエラー 5 件
間違えたトークン 全 FN に占める割合

本研究では、近代語の歴史的資料に対する CRF をと9.0%用いた機械学習による文境界推定を行った。専門家に同

2.1%

よるアノテーションを待っている膨大な量のデータに其 （其の）1.7%付与することができる一次的な文境界としての活用が今0.9%期待される。

是 （此れ）

0.8%

今後の課題としては、今回の研究では “。”・“、” をすべて取り去って文境界推定を行ったが、“。”・“、”もっとも精度が高い全コーパスを学習に用いた実の両方、あるいは片方のみが付与されているものと付験結果の中で生じた全エラー 1,486 個のうち、false与されていないものに分け、付与されているものにつnegative が 1,133 個（76.2%）、false positive が 353 個

いては “。”・“、” でない箇所は文境界とならないとい（23.8%）であった。再現率を高くするために改善が必う制約を設けることで、5 節で述べた “波蘭統監に任要な false negative（FN）の中から割合の高いものをずと | ” のような “。”・“、” が付与されていない箇所

表 5 に示す。その際、“其” は “其の” という連体詞と、でのエラーを除くことができると考えられる。

‘‘其れ” という代名詞の両方で “其” という同じ表記であるため、連体詞の “其の” であることを括弧で示した。同様の理由で “是” は “此処” という代名詞と “此付記れ” という代名詞の区別を括弧で示した。

本研究は国立国語研究所の共同研究プロジェクト

個別のトークンとして最も割合の高い、“と” は、‘‘夫れは君の意見に任せる | と言ひます” のように直前が「通時コーパスの構築と日本語史研究の新展開」の研究成果の一部を報告したものである。

文境界となり “と” が B ラベルになる場合と、“波蘭統監に任ずと | ”、“狩野氏と志筑氏” のように直前が文境界とならず “と” が I ラベルになる場合があり、‘‘任せる”、“任ず” のように終止形の後ろに “と” が出現する場合でも推定するラベルに異なりがある。“波蘭統監に任ずと | ” のような終止形で終わる文では、終わったあとの文末に “と” を終端記号のように付与している

参考文献[1] John D. Lafferty, Andrew McCallum, and Fernando C. N.
Pereira. Conditional random fields: Probabilistic models
for segmenting and labeling sequence data. In Proceedingsof ICML, pp. 282–289, 2001.

詞など様々な用例があり、品詞推定によってこれらの[2] Jonathon Read, Rebecca Dridan, Stephan Oepen, and Lars
Jørgen SOLBERG Solberg. Sentence boundary detection:
A long solved problem? In Proceedings of COLING, 2012.

用例は区別できるが、品詞の同定にも曖昧性がある。

[3] 近藤明日子. 近代文語 UniDic 短単位規定集 Ver.1.1. 2016.

2 番目に割合の高い “同” は、‘‘同世紀”、“同教授” の[4] 国立国語研究所. 『太陽コーパス―雑誌「太陽」日本語データベース―』. 博文館新社, 2005.

ことが特徴である。“と” には格助詞、接続助詞、係助ように前述のものと同じという意味で使用されていることが多いが、“同” ＋日付で小見出しとして B ラベルになるパターンが存在し、そこで揺れが生じたと考えられる。残りの頻出エラーである “其”、“今”、“是”
については、はっきりとしたエラーの傾向が発見できず、出現回数の多い短単位であるため必然的にエラーの発生数が多くなってしまい、合計した結果、エラー頻出率の上位に入ってしまった可能性があると考えられる。
また、学習データでの出現回数が極めて少ない短単位で起こるエラーが 61%にもなる。そのため、同時代の学習データを増やし半教師あり学習によって再現率を改善していくことが期待される。

[5] 小木曽智信, 小町守, 松本裕治. 歴史的日本語資料を対象とした形態素解析. 自然言語処理, Vol. 20, No. 5, pp.
727–748, 2013.
[6] 田中牧郎. 『近代女性雑誌コーパス』の概要. 日本学術振興会科学研究費補助金研究成果報告書 基盤研究 (B)「20 世紀初期総合雑誌コーパス」の構築による確立期現代語の高精度な記述』pp.55-62, 2006.
[7] 福岡健太, 松本裕治. Support vector machines を用いた日本語書き言葉の文境界推定. 言語処理学会年次大会発表
論文集, pp. 1221–1224, 2005.
[8] 近藤明日子. 『明六雑誌コーパス』『国民之友コーパス』の構築. 日本語の研究, Vol. 12, No. 4, pp. 167–174, 2016.
[9] 下岡和也, 内元清貴, 河原達也, 井佐原均. 日本語話し言
葉の係り受け解析と文境界推定の相互作用による高精度化. 自然言語処理, Vol. 12, No. 3, pp. 3–17, 2005.

― 1026 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.