テキスト中の場所表現認識と係り受けに基づく緯度経度推定ツールの開発
大野けやき 1

西村太一 1 亀甲博貴 2 森信介 22 京都大学 学術情報メディアセンター{ohno.keyaki.57r,nishimura.taichi.43x}@st.kyoto-u.ac.jp{kameko,forest}@i.kyoto-u.ac.jp

1 京都大学大学院 情報学研究科

概要

精度の向上のためには膨大な学習データが必要である．後段の緯度経度推定は，文脈を考慮して場所文献中の地名の緯度経度を自動推定することは，文献調査を必要とする研究等の場面において有益で表現が示す緯度経度を推定する作業であり，曖昧性解消タスクの一つである．具体的には，地名や緯度ある．緯度経度を推定する課題は，地名を認識する経度，人口等が収録されている地理辞典から適切なステップと認識した地名の緯度経度を推定するスデータを選ぶ方法が一般的である．この方法では曖テップの 2 段階で実現される．この後段のステップ

昧性解消アルゴリズムと地理辞典を分けて開発できについて，単語間の係り受け構造を利用して推定精るため，地理辞典として有志のデータベースを利用度向上を図る手法を提案する．本手法を組み込んだしたり，利用者専用のデータベースを利用したりで緯度経度推定ツールを鉱山に関する記事に適用し，き，応用の幅が広い．しかしながら，地理辞典に同係り受け構造を利用することで推定精度が向上する

じ表記の異なる場所が収録されている場合やある場ことを確認した．

所表現が全く収録されていない場合に精度が落ちて1はじめにしまう問題がある．
本研究では，後段の緯度経度推定タスクに着目

行政区画や施設を表す言葉は，ある場所を表す表し，精度向上を目的として単語間の係り受け構造を現＝場所表現として用いられる．文献調査を必要と利用する手法を提案する．係り受けは言語の構造であり，テキストの内容に依らず存在する．したがっする研究等において，ある場所について記された文献を探したい場面はしばしばある．ところが，場所て，係り受け構造を利用する手法は，テキストの分表現は時間と共に変わることがあり，また，その付野を限定せずに幅広いテキストに利用できる．この

近の人々の間だけで使われることも多いため，想定普遍性は，ある場所に関するあらゆる文献を集めたする文献に合わせて適切な場所表現を使い分けたりい地域研究などにおいて必須の条件である．

複数使ったりしなければならない (表現の一意性が本手法を組み込んだ緯度経度推定システムを鉱山ない問題)．また，ある 2 つの場所表現が示す場所がに関する英語記事に適用した結果，係り受け構造を実世界上でどれほど近いかまたは同じなのかが，一利用することで推定精度が向上することが分かっ見して分からないため，対象付近の情報を探しそびた．また，精度向上の要因となった場所表現を調べれる可能性がある (関連性が不明瞭な問題)．このよることにより，テキスト中の場所表現と地理辞典上うな問題を避けるため，文字の場所表現ではなく緯の表現との間にはそれなりの差があることがあるこ

度経度で場所を取り扱うことは有用であり，テキスとが示唆された．

ト中の場所表現が示す緯度経度を推定する課題は従来より研究されてきた [1, 2, 3, 4, 5]．
この推定課題は，場所表現認識と緯度経度推定の2 ステップからなる．前段の場所表現認識は系列ラ2

緯度経度推定ツール

2.1

課題設定ベリングの一つである．CRF [6] 等の利用により，本研究が対象とする緯度経度推定ツールは，式 1

効率的に機械学習ができるようになった一方，認識に示すような 2 段階のタスク構成になっており，入力テキストに緯度経度が挿入されたテキストを出力• 文字列が見出し語の場合: 20 点 + 別名の数する．

×1点′𝑡 = 𝐹𝑁 𝐸 𝑅 (𝑡)𝑡 ′′ = 𝐹𝑁 𝐸 𝐿 (𝑡 ′ )• 文字列が見出し語ではないが別名に含まれ(1)る場合: 別名の数× 1 点
このスコアリングは，重要な地名ほどたくさん

ただし，𝐹𝑁 𝐸 𝑅 , 𝐹𝑁 𝐸 𝐿 はそれぞれ場所表現推定器，の別名が収録されているという考えのもと設定緯度経度推定器である．また，𝑡, 𝑡 ′ , 𝑡 ′′ はそれぞれ入した．

力テキスト，場所表現かどうかのタグ付きテキス

3. 場所表現の文字列と一致するデータが無かった

ト，タグおよび緯度経度付きのテキストである．テ

場合は，具体的な緯度経度は出力せず，代わりキストは一般にまとまった複数文である．下記に具体例を示す．タグの L は場所表現を，O はそれ以外の表現を表している．
𝑡: 岩手の清水寺へ行く．
𝑡 ′ : 岩手/L-B の/O 清水/L-B 寺/L-I へ/O 行く/O ．/O𝑡 ′′ : 岩手/L-B(39.60000, 141.35000) の/O
清 水/L-B(39.37035, 141.03056) 寺/L-I(39.37035,141.03056) へ/O 行く/O ．/O

2.2

場所表現認識テキスト中の場所表現認識には，場所表現をアノテーションしたテキストを用いて学習した場所表現推定器を用いた．この推定器は，BERT [7] とCRF [6] と点予測 [8] を組み合わせたものである．推定器の詳細は付録に示した．Stanford NLP Group のStanza1）[9] を用いて入力テキストをトーカナイズし，この推定器で各トークンに IOB2 形式のタグを付与した．すなわち各トークンには下記のいずれかのタグが付与される．

2.3に推定失敗の旨を表す記号を出力する．

係り受け構造の利用

3

本研究では，上記の緯度経度推定ツールに，単語間の係り受け構造を利用する手法を 2 つ追加する．
これらの手法は，係り受け木構造上で上下関係のある 2 つの場所表現が実世界上で包含または近接した位置関係にあり，木構造のより頂点に近い場所表現の方が詳細な情報を有している (実世界上でより狭い領域を表している) という仮定に基づいている．
3.2 節では地理辞典上の複数候補から適切なデータを選択する工夫を，3.3 節では地理辞典上にデータが収録されていない場合の改善策を述べる．

3.1

Universal Dependencies

テキスト中の単語間の係り受けを表すものとして，本研究では Universal Dependencies3）(以下，UD)を用いる．UD は，特定の言語に依存することなくL-B :場所表現の最初のトークン

普遍的な係り受け構造を表そうとする取り組みであり，100 以上の言語に対応している．緯度経度推定

L-I :場所表現の 2 つ目以降のトークンツールは，利用者が詳しくない言語圏のテキストに

O :場所表現ではないトークン対しても用いられうることを考え，幅広い言語に対

緯度経度推定ベースラインとなる緯度経度推定手法は，原ら [4]の手法を参考にした．
1. 特別に用意した地名-緯度経度辞典がある場合
は，場所表現の文字列と一致するデータがあるか検索し，あればその緯度経度を出力する．
2. 場 所 表 現 の 文 字 列 を 地 理 辞 典 GeoNames2）で検索し，見出し語 (name) または別名 (alternatenames) のいずれかに一致するデータがあった
場合，それらの中から下記のスコアが最も高いデータの緯度経度を出力する．
1） https://stanfordnlp.github.io/stanza/
2） https://www.geonames.org/

応している UD に着目した．UD 解析ツールとして，Stanza [9] を用いた．

3.2

文構造の利用文の係り受け構造から，ある単語と意味的に関連の強い単語を推測することができる．例えば，「岩手の清水寺から京都の清水寺へ行く．」という文を考えると，1 つ目の清水寺は岩手と関係していて，2 つ目と清水寺は京都と関係している．この関係はUD にも表れ，例ではそれぞれの清水寺から岩手や京都に係っている (図 1)．場所表現間の係り受けの場合，たいていは狭い領域を表す場所表現からそれを補足説明する知名度の高い場所表現に向かって係
3） https://universaldependencies.org/

り受け構造が存在する．
岩手の 清水 寺

ツールへの実装として，以下の手順をベースライからン手法に追加した．複数トークンからなる場所表現が地理辞典に収録されていなかった場合，そのトー京都 の 清水寺 へ 行く 。

クン数より 1 少ない部分トークン列で再度ベースラインの手法により緯度経度推定を行う．この際，必図 1 文の係り受け構造

然的に複数の部分トークン列で辞書引きを行うことになるが，複数で地理辞典のデータにヒットした場

ツールへの実装として，以下の手順をベースライ合は，その中から下記で求めるスコアの大きい部分ン手法に追加した．まず，ベースラインの手順に先立ち，入力文に対する係り受け木構造を推定し，そトークン列に対する辞書引き結果を優先して出力をれぞれの場所表現に対して自身より下層に別の場所

1. 元の場所表現に対する係り受け木構造を考え，選択する．

表現が存在するか確認しておく．存在すればその別各要素 (トークン) に対して子孫要素が何層あるの場所表現を，自身が参照すべき参照表現として設かスコアを付ける定する．その後，ベースラインの手順に沿って緯度2. その部分トークン列に含まれるトークンの上記スコアを合算する (図 3)

経度推定を行うが，以下の点が異なる．
1. 参照表現が設定さている場合には，その参照表現の緯度経度推定を先に行う

いずれの部分トークン列でも地理辞典のデータがヒットしなければ，さらにこの手順を繰り返す．

2. その参照表現に対して具体的な緯度経度が推定

01020
大阪 府 大阪 市 中央

できた場合には，ベースライン手法のスコアリングに関わらす，参照表現の推定緯度経度に最6も近い緯度経度の候補を出力する

10

例えば図 1 の例では，清水寺の緯度経度推定に先立って岩手や京都の緯度経度推定を行い，それらに近い清水寺の緯度経度を出力する．

3.3

表現構造の利用304
区 日本 橋図3

部分トークン列のスコアリング

実験

4

提案手法を組み込んだ緯度経度推定ツールを鉱山

複数単語からなる一つの場所表現についても，そに関する英語記事に適用し評価を行った．評価対象の構造を考えることができる．例えば「京都三条」という場所表現は，京都と三条という 2 つの地名かは 2 つで，場所表現アノテーション済みテキストに対する緯度経度推定と，何もアノテーションされてらなり，かつ，三条の場所を示す表現である．このいないテキストに対する場所表現認識 + 緯度経度推ような複合場所表現は，そのままの文字列で地理辞定の全自動タスクである．

典に収録されていな場合が多いため，この例であれば「京都三条」を「三条」と読み換えて地理辞典を4.1

コーパス検索する必要がある．この様な構造解析を行う際，評価には鉱山に関する専門記事を用いた．2.2 節

対象言語を限定しないためには，文字列の表面的なで述べた場所表現推定器の学習には，同様の専門記構造ではなく意味的な構造に着目するのが望まし
い．複合場所表現においても，表現内に登場する地事に加え，データ不足を補うために一般ニュース記

名間にそれらが示す領域の包含・近接関係が存在事は人手でアノテーションを行い，ロイター通信のし，前節と同様の係り受け構造が存在する (図 2)．

記事は CoNLL2003 [10] から LOC タグが付与されてよって，ある場所表現内の係り受け構造の頂点とないるトークンを含む文を抽出して用いた．

る単語は，その場所表現の核になる (最も狭い領域を表す地名) 単語だと推測できる．
京都 三条

図2

表現内の係り受け構造事も用いた (表 1)．AFP 通信と MINING.COM の記4.2

評価指標

緯度経度推定については，推定した緯度経度と正解緯度経度の誤差が 𝑋 km 以内に収まっている場所
表現を合格とし，全場所表現中の何件が合格したか学習データ (場所表現認識器)

手法

精度

再現率

F1 値

一般記事

AFP 通信982 /263

ベースライン

0.31

0.39

0.34

一般記事

ロイター通信7140 /1106

提案手法

0.34

0.43

0.38

専門記事

MINING.COM

181 /91

表 3 全自動タスクの精度 (誤差 5 km 以内を合格)

80 /52

じ文字列で異なる場所を示しているいわゆる曖昧地

評価データ
専門記事

MINING.COM

表 1 コーパスの場所表現数 (のべ / 重複なし)を表す “𝑋 km 正確度”を用いた．全自動タスクについては，上記と同様に合格をもって推定値が正解値と一致したとみなし，精度，再現率，F1 値を用いて評価した．これらの計算式は付録に示した．

4.3

名に対してである．例えば実験では，アリゾナ州のエイボンデールとペンシルベニア州のエイボンデー
ルの区別に効果があった．しかしながら，そもそも地理辞典に 0 または 1 件しかデータが収録されていないような場所表現に対しては効果がない．一方，表現構造の利用が効果を発揮するのは，場所表現のそのままの文字列が地理辞典に収録されていない場

結果

場所表現アノテーション済みテキストに対する緯度経度推定精度を図 4 および表 2 に示す．図の横軸は，左側は線形で右側は対数軸になっている．係り受け構造を利用する手法 (提案手法) はベースラインと比べて精度が向上し，例えば 5 km 正確度が 0.11向上した．

面である．例えば実験では「New Castle County, Del」
といった州，群，市などが併記された複合場所表現に対して効果を発揮していた．文構造の利用が効果を発揮する曖昧地名と表現構造の利用が効果を発揮する複合場所表現の出現頻度を考えると，後者の方が多いため，今回の実験では表現構造の利用による効果が比較的大きかったと考えられる．
また同時に，後者の頻度が多いということは，地理辞典に収録されていない場所表現が多いということを意味している．このことは，地理辞典を利用する緯度経度推定に限界があることを示唆しており，地理辞典への依存度が小さい手法が実用上望ましいと考えられる．

6終わりに
本研究では，テキスト中の場所表現に対する緯度

図 4 緯度経度推定タスクの精度

経度推定タスクにおいて，単語間の係り受け構造を手法

5 km 正確度利用することでより尤もらしい緯度経度を推定するベースライン

0.40

手法を提案し，その手法を組み込んだ緯度経度推定+文構造の利用のみ0.40

ツールを開発した．実験により，提案手法は緯度経+表現構造の利用のみ

0.50

度推定精度を向上させることを確認した．今後は，提案手法 (両方)

0.51

地理辞典に収録されていない場所も出力できるよう

表 2 緯度経度推定タスクの精度に，提案手法に加えて地理辞典を用いない方法も融場所表現認識 + 緯度経度推定の全自動タスクの精度 (5 km 合格) を表 3 に示した．提案手法は，わずかながらいずれの指標でもベースラインを上回った．

5

考察
文構造の利用と表現構造の利用のうち，推定精度の向上はほぼ後者の寄与であった．これは 2 つの手合したような緯度経度推定手法を検討する．

7

謝辞
本研究は JSPS 科研費 JP21H04376 の助成を受けたものです．

参考文献

法がもたらす効果の違いに関係していると考えられ[1] Michael Speriosu and Jason Baldridge. Text-driven toponym resolution using indirect supervision. In Proceed-る．まず，文構造の利用が効果を発揮するのは，同ings of the 51st Annual Meeting of the Association

for Computational Linguistics, 2013.
[2] Takashi Awamura, Daisuke Kawahara, Eiji Aramaki, Tomohide Shibata, and Sadao Kurohashi. Location namedisambiguation exploiting spatial proximity and temporalconsistency. In Proceedings of the 3rd International
Workshop on Natural Language Processing for Social Media, 2015.

[3] Davy Weissenbacher, Arjun Magge, Karen O’Connor,Matthew Scotch, and Graciela Gonzalez-Hernandez.
SemEval-2019 task 12: Toponym resolution in scientiﬁcpapers. In Proceedings of the 13th International Workshop on Semantic Evaluation, 2019.
[4] Shoichiro Hara, Akira Kubo, Masato Matsuzaki, Hirotaka
Kameko, and Shinsuke Mori. Development of methods
to extract place names and estimate their places from web
newspaper articles. In Paciﬁc Neighborhood Consortium Annual Conference and Joint Meetings, 2021.
[5] Maithrreye Srinivasan and Davood Raﬁei. Location-aware
named entity disambiguation. In Proceedings of the30th ACM International Conference on Information& Knowledge Management, 2021.

[6] John Laﬀerty, Andrew McCallum, and Fernando CN
Pereira. Conditional random ﬁelds: Probabilistic models for segmenting and labeling sequence data. In Proceedings of the 18th International Conference onMachine Learning, 2001.

[7] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina
Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings ofthe Conference of the North American Chapter of theAssociation for Computational Linguistics: HumanLanguage Technologies, 2019.

[8] Tetsuro Sasada, Shinsuke Mori, Tatsuya Kawahara, andYoko Yamakata. Named entity recognizer trainable frompartially annotated data. In Proceedings of the 14th
International Conference of the Paciﬁc Associationfor Computational Linguistics, 2016.

[9] Peng Qi, Yuhao Zhang, Yuhui Zhang, Jason Bolton, andChristopher D. Manning. Stanza: A Python naturallanguage processing toolkit for many human languages.
In Proceedings of the 58th Annual Meeting of theAssociation for Computational Linguistics: SystemDemonstrations, 2020.

[10] Erik F. Tjong Kim Sang and Fien De Meulder. Introduction
to the CoNLL-2003 shared task: Language-independent
named entity recognition. In Proceedings of the 7thConference on Natural Language Learning at HLTNAACL, 2003.

A

付録 (Appendix)

A.1

場所表現推定器ある．𝐿𝑜𝑠𝑠 = 𝐿𝑜𝑠𝑠𝐶 𝑅𝐹 + 𝐿𝑜𝑠𝑠 𝑃𝑜𝑖𝑛𝑡 𝑤𝑖𝑠𝑒
BERT モデルは Hugging Face により提供されている
事前学習済みモデル bert-base-uncased4）を用いた．

場所表現認識に用いた推定器は，図 5 に示すような構造になっており，下記の手順で場所表現タグを推定する．

A.2

評価指標の計算式

推定緯度経度と正解緯度経度の誤差が 𝑋 km 以内に収まっている場所表現を合格としてO

L-B

CRF 誤差L-I

𝑋 km 正確度 =精度点予測誤差

CRF

=

再現率 =

…

viBvi Dvi+1B vi+1D

vi+2B vi+2D…
F1 値 =

BERT

タグ辞書層 (1層)A.3

誤差 𝑋 km 以内の空間表現数
アノテーション空間表現数
合格の空間表現数
ツールが認識した空間表現数
合格の空間表現数
評価データ中の空間表現数[] −1( 精度 ) −1 + ( 再現率 ) −1
2

対象とした場所表現

場所表現の基準は原らの基準 [4] を参考にした．
...

を

京都

三条 ...

図 5 場所表現推定器

1. BERT モデルを用いて，トークン列の各トークン (𝑤) を 768 次元のベクトルに埋め込む．学習

この基準では場所表現を，大きく 2 つに分類している．それは，「京都」や「市役所」といったそれ自体がある絶対的な場所を示している表現 (以下，絶対表現) と，「〜の 10 km 東」といった絶対表現が示す場所を参照して別の場所を示している表現 (以下，の際は，テキストのまとまりに関係なく文毎相対表現) である．絶対表現はさらに，「京都」のよに入力する．推定の際は，段落毎に入力する．

うな固有名詞と「市役所」のような一般名詞に分け[𝑣 1𝐵 , ..., 𝑣 𝑛𝐵 ] = 𝐵𝐸 𝑅𝑇 ( [𝑤 1 , ..., 𝑤 𝑛 ])られる．絶対表現が示す場所は文脈によって決定さ

2. あるトークンが場所表現か否か，すなわちタれるべき曖昧性を含んでいる場合もあるが，高々有グとして L-B，L-I がそれぞれありうるかを記

限個の絶対位置を示しているという点で相対表現

したタグ辞書に従い，上記ベクトルに 32 次元とは区別される．一方相対表現は，「(欧州から見た)増結する．例えば，三条が L-B としても L-I と極東」といったように絶対表現が省略される場合もしてもありうると記されていた場合には，L-Bあるが，ほとんどは絶対表現に付随して用いられ，タグに対応する 32 次元のベクトルと L-I タグ絶対表現が示す場所をずらす機能がある．に対応する 32 次元のベクトルの和を (1) に増本研究の緯度経度推定ツールでは，場所表現の結する．タグ辞書に登録されていないトーク

内，絶対表現に着目し自動認識を行った．これは原ンの場合，もしくは O タグとして登録されてらの基準において，L タグで表される表現である．

いた場合，このベクトルは零ベクトルである．
𝑣 𝑖𝐷 = 𝑑𝑖𝑐𝑡𝑖𝑜𝑛𝑎𝑟 𝑦(𝑤 𝑖 )特に，固有名詞の絶対表現のみを取り扱うことにした．これは，一般名詞の絶対表現が用いられる場合

3. CRF モデルを用いて，この 800 次元のベクトルは，そのテキスト内で既に固有名詞により同じ場所列からタグ列を推定する．学習の際は，CRF モが記述されている場合がほとんどであるため，固有デルおよびその下層の BERT モデル，辞書層を名詞の絶対表現さえ把握すれば，テキスト中の絶対学習する．この際，CRF 損失関数とその中の観表現が示す場所をほぼ全て把握できるからである．

測素性部分だけの損失関数を合わせた損失関数を最小化するように学習する．これは，テキス
トの一部 (特に場所表現) だけをアノテーションした学習データも利用できるようにするためで

4） https://huggingface.co/bert-base-uncased