# 国内におけるドメイン依存の固有表現抽出の応用技術の調査

福田 美穂 $\dagger$ ・関根聡 $\dagger \dagger$
}

一般ドメインでの固有表現抽出が高い精度を実現するようになった今, 研究の目標 は化学や医療, 金融などさまざまなドメインでの固有表現抽出技術の精緻化へとシ フトしている。そこで本論文では，ドメイン依存の固有表現抽出技術応用に関する 近年の国内研究動向を報告したい。技術に重点を置いた分析は他文献に譲り，具体的な問題を抱えるさまざまなドメインの読者を念頭に「どのようなドメインでどの ような対象に対してどのように固有表現抽出が行われているか」を調査した．4つの 学会大会論文および 3 つの学会論文誌からドメイン依存の固有表現抽出技術に関す る論文を調査したところ，該当する論文のうち約半数が，化学ドメインにおける新規商品開発等支援のための化学物質名・化学物質間関係抽出を主題としていた. そ の他のドメインは，医療，金融，機械加工，文学，食など多岐にわたり，多様な抽出目的・抽出対象を確認できた。技術的には機械学習を使った手法が主流となって おり，とくに本論文の調査期間では BiLSTM-CRF およびBERT を使う事例が大勢 を占めているが，それらを補完する目的で辞書等の言語資源を組み合わせる手法も 多く見られている。

キーワード：固有表現抽出
## A Survey of Domain-Specific Named-Entity Recognition in Japanese

\author{
Miho Fukuda ${ }^{\dagger}$ and Satoshi Sekine ${ }^{\dagger \dagger}$
}

\begin{abstract}
Named-entity recognition (NER) technologies have been developed for the general knowledge domain, and the extension of NER to specific domains has now become a topic of active research. In this paper, we provide a survey of recent studies on domain-specific NER technologies for the Japanese language. We focus on aspects of different applications such as their targets and purposes as well as the knowledge domains considered. Our results show that chemistry is the most fundamental knowledge domain represented in these works, along with medical, financial, machining, literature, and food domains. Most of the systems included in the survey utilized machine learning methods such as BiLSTM-CRF and BERT, though some studies used rules and dictionaries in addition to these approaches.
\end{abstract}

Key Words: Named Entity Recognition


## 1 はじめに

固有表現は情報抽出技術の進展に伴った概念の形成以降，定義および抽出技術の確立が進んできた，現在，一般ドメインにおける人名，地名，組織名などについては，大量のトレーニングデータが用意されていれば，深層学習を活用した技術により，かなり高い精度での抽出が可能となっている（岩倉 2015）。一般ドメインだけでなく, 本論文で紹介する化学, 医療・薬事,企業情報・金融, 機械加工・交通・文学 (小説) ・食・土産品などの幅広いドメインにおいて固有表現抽出技術の応用が強く求められている. 本論文では, このようにドメインに依存した固有表現の定義や抽出技術についての研究動向を調査し, 実際に特定ドメインにおける固有表現抽出を試みる技術者の一助となることを目的に現状をまとめた。その際，各研究で使われている技術や手法の詳細を分析するのではなく, どのドメインでどのような対象の抽出が何のために試みられているのかといった，技術応用のあり方を探ることに重点を置いた.

現状を調査するにあたり，以下 4 つの学会大会誌および 3 つの学会論文誌での発表論文を参照し，その中からドメイン依存の固有表現抽出をテーマとしたものを抽出した. 該当したのは,総論文数数千件のうち 52 件であった.

$\cdot$ 言語処理学会年次大会（2019 年～2022 年）

$\cdot$「自然言語処理」(2018 年 1 月 2021 年 12 月)

・情報処理学会 NL 研究会（2018 年 5 月 2021 年 9 月）

・情報処理学会論文誌（2018 年 1 月 2021 年 12 月）
- 人工知能学会全国大会 (2018 年 2021 年)

$\cdot$ 人工知能学会論文誌 $(2018$ 年 1 月 2021 年 12 月)

・電子情報通信学会テキストアナリティクス・シンポジウム（2011 年 7 月～2021 年 11 月）

## 2 ドメインごとの状況

上記のようにドメイン依存の固有表現抽出をテーマとする論文を調査し，内容をドメインごとに分類した。その結果，化学ドメインの論文が最多の 25 件であり，その後医療・薬事ドメインと企業情報・金融ドメインが同数の各 5 件であった。また「ドメイン」としては $1 \sim 3$ 件程度の研究でも，それらを合計すると 17 件となった。それぞれのドメインの特徴と, 代表的な研究例を以下に紹介する.

## 2.1 化学ドメイン

過去 3 年間で固有表現抽出の応用研究がもっとも活発に行われているのは化学ドメインであり，全体の 52 件中 25 件が該当した。 中でも化学物質名やそれらの関係抽出タスクが多い. 化
学物質名は 2015 年時点で 2 分 30 秒に 1 件新たに CAS (Chemical Abstracts Service) に登録されているとされ（岩倉・吉川 2020），人手での処理が困難であり，機械で自動的にリスト化したいというニーズが高い.

ニーズの高さや事例の多さを反映し，化学ドメインに依存したデータセットなどの資源が複数公開されている。固有表現抽出を含めた情報抽出タスクのデータセットとしては, CHEMDNER (Krallinger et al. 2015), CHEMPROT (Krallinger et al. 2017), ChEMU (He et al. 2020) などがあり, 固有表現抽出にも活用可能な BERT モデルとしては, 化学関連の文献から事前学習した BioBERT (Lee et al. 2019) や SciBERT (Beltagy et al. 2019) といったものがある. 化学物質データベースとしては PubChem (Kim et al. 2016) や ChEBI (Degtyarenko et al. 2008) などが広く利用可能であり，固有表現抽出のための知識として活用されている.

化学ドメインにおいては, 化学物質の種類が多いため, ひとつひとつの出現頻度が低いことが課題のひとつである。学習デー夕中の出現頻度が低い, または存在しない化学物質名が大量に存在するため，固有表現抽出の再現率が下がるといった影響を受けやすくなっている。そのため何らかの辞書を利用または新たに構築することで精度低下を防ぐ試みがおこなわれている。

たとえば，深層学習（BiLSTM + CRF モデル）に外部知識源 (WikiData, PubChem, ChEBI) から作成した化合物辞書と日本化学物質辞書を組み合わせることで，原材料と製造方法の抽出精度を高めた手法がある（邊土名他 2019）。これは日本語版 Wikipedia の化合物記事から，化合物の原材料・製造方法を抽出する手法を検討したものである。化合物の原材料・製造方法は，

 \\

表 1 化学ドメインの固有表現抽出タスクで利用可能な資源
化合物の 6 属性（原材料・製造方法・種類・別名・用途・特性）の中でもパターンでの抽出がほぼ不可能で, 文脈を考慮する必要もあるため, 抽出が難しいとされている，だが本手法では,辞書の利用により適合率を $2 \sim 10$ ポイント, 再現率を $8 \sim 26$ ポイント向上させることができた.現在広く使われている手法をべースに，その欠点を補完する研究も行われている。新城ら (2021) は化学論文から化学物質間の相互作用等の関係を自動抽出する手法として, BioBERTを基礎としてその精度を高める方法を検討した．BioBERT は大量のラベル付きデータを必要とするが，ラベル付けに専門知識が必要となるため，コーパスの構築にコストがかかる。また関係抽出タスクでは構文情報が手がかりになると期待されるが，BERT はそれを利用しておらず， しかも単に構文解析結果を利用するだけでは処理効率が下がる懸念がある。そのため新城らは, CHEMPROT などのラベル付きデータおよび PubMed にラベルを付与したデータで固有表現抽出器・関係抽出器の学習を行った。また，PubMed に構文情報が反映される形でラベルを付与したため, 大幅に効率を高められる。評価の結果, この手法では BioBERT より高い精度が得られ，また構文解析結果を用いる手法より最大 29 倍高速に処理できることが示された.

学習データ確保に対するアプローチとして, Distant Supervision (DS) による夕グ付与の自動化が注目されている (Yang et al. 2018). 化学物質名の固有表現認識においては, 何らかの辞書データとテキストを照合させることで，辞書に登録された化学物質名部分を正解とする学習データを作成できる。辰巳ら (2019) はさらに，そのような DSを用いた固有表現抽出手法の主な課題は (1) 化学辞書には「water」のような一般用語が多く混在するため抽出時にノイズが多くなる, (2) 化学ドメインには略称や表記摇れが多いため学習データの再現率が低くなる，の二つであるとし，その解決手法を提案した，手法には 3 つのサブタスクがあり，すなわち (1) DS データ作成, (2) ノイズ除去, (3) コーパス拡張である。(1) では化学物質名辞書を CTD (Comparative Toxicogenomics Database), MeSH (Medical Subject Headings), PubChem,一般用語集である Google 10,000 Englishの複数の組み合わせで作成した結果, PubChem から Google 10,000 English を取り除いた単語集合で最も高い適合率を得る一方, PubChem と MeSH, CTD の組み合わせにより最も高い再現率を得た。またDSデー夕作成において対象文献の出版年度とカテゴリを評価データである ChemdNER とそろえることでさらに F1 值を向上させた.

(2) では NER の予測モデルに基づくノイズ除去を行い, 適合率, 再現率, F1 値を向上させた.

(3) ではDS データの特定単語を辞書単語と入れ替えたデー夕を追加することでコーパス拡張を行い，文数を約 3〜7倍（条件により変化）程度に増加させた.

深層学習モデルが必ずしも高精度な結果を出すわけではない. 牧野ら (2020)による，無機材料文献から材料合成プロセスを抽出する研究では, 深層学習モデル (BERT) とデータセット観察により得たルールモデルを比較している．性能評価実験の結果, マクロ $\mathrm{F}$ 値の比較で前者が $0.546 \pm 0.006$, 後者が 0.888 と, より高精度な結果を出した. ただし前者が正しく抽出した関係で後者が誤っている例もあり，両方を組み合わせる方法を検討する必要があるとされている．
化学ドメインの中でも, 抽出したい化合物の内容はさまざまである. 山口ら (2021) は超電導材料に関する情報を文献抄録から効率よく抽出するシステム構築を目指し，固有表現・関係・ イベントを抽出するモデル (DyGIE++) と, 主題材料分類モデル (Longformer), およびこれらを統合しスロット抽出するルールベースモジュールを作成した。その結果，固有表現・関係・ イベント抽出モデルは $\mathrm{F}$ 值が 72.9 から 96.7 と高い性能を示し, 主題材料分類モデルでも $\mathrm{F}$ 值は平均 83.9 となった. スロット抽出モジュールも併せたシステム全体としては F 值は 64.7 を実現した。

## 2.2 医療・薬事ドメイン

化学ドメインに次いで事例が多かったのは医療・薬事ドメインと金融・企業情報ドメインで, いずれも調査対象の論文中 5 件が該当した。本項ではまず医療・薬事ドメインについて述べる. このドメインにおける固有表現抽出の応用先は, 電子カルテの分析や, 薬剤情報抽出, SNS からの障害情報抽出などがあり, 抽出元テキストや抽出した情報の利用目的・利用者が化学分野より多様である.

電子カルテ分析に関しては 2 件の研究があり，1 件は分析技術開発の基盤となるコーパス構築をテーマとしたもの，1件は臨床現場で医師をサポートするためのシステムをテーマとしたものであった．前者は約 45,000 の症例報告文書の中で，病名および症状が記述された部分を人手で抽出しタグを付与したものである（荒牧他 2018）、コーパス自体だけでなく，その過程で議論された病名・症状の定義やタグの付与指針, コーパスを使って開発した病名抽出器も公開されている.

電子カルテ分析に関するもう 1 件の研究は, 電子カルテの自由記述部分から医師の判断のサポートに役立つ情報の抽出を試みたものである（加藤他 2019）．電子カルテは近年多くの医療現場で導入され，数値データや画像データを対象とした研究例は多いが，自然言語による自由記述部分は解析が難しく, 研究が少ないのが現状である。患者のプライバシー保護のため, 電子カルテの実データを研究で利用するにも制限がある．そこで加藤らは，抗がん剤の副作用として皮膚障害を持つ患者の模擬電子カルテを作成し, その自由記述部分から抽出する「<bodyregion>手指</bodyregion＞に<symptoms>亀裂</symptoms>が出来ます」のような表現に基づいて皮膚障害の重症度を判定する手法を提案した。キーワードと辞書（医療参考書等を元にした 550 語）を利用した機械学習 (SVM) の手法に加え、ルールベースの手法も構築し, 性能を比較した. 評価の結果, 疾患の種類によって機械学習の方が正確度が高い場合とルールベースの方が高い場合があったが，いずれも正確度 7 割前後と人間と同程度の性能を実現できた.

なお生命科学関連では英語の論文抄録を対象にした GENIA コーパス (Kim et al. 2003, 2008) がよく利用されており，BioNLP や BioCreative といった国際ワークショップ等での固有表現抽出やイベント抽出タスクでも活用されている.
薬事関係では，新規薬剤開発コスト低減のために医薬品添付文書の活用を目指す研究が見られた（小島他 2020），新規商品開発の参考とすることを意図した固有表現抽出の応用例は化学ドメインでもよく見られるが, 本研究は医薬品添付文書に着目した点が特徴的である. 医薬品添付文書には製薬の参考にできる詳細な情報が記述されていることが多く，PDF 形式ながら公開されているため，構造化して利用できる状態になれば有用と考えられる。ただ自然言語で書かれておりほとんどタグ付けされていないため，活用が進んでいない，小島らは医薬品添付文書にはテキストを含む PDF と付随する SGML の形で構造化されたデータがある点に注目した. SGMLのデータからは，「有効成分」「禁忌」「臨床成績の表」といったクエリと，それとぺアで抽出すべきテキスト（たとえば「有効成分」に対しては「リセドロン酸ナトリウム水和物 $86.1 \mathrm{mg}$ ）のような夕グの代替データが抽出できる。小島らはそのデータと PDF から抽出したテキストをマッチングさせることでデータセットを構築した。この方法によって構築した 2018 年分のデータを使って BiLSTM を含むネットワークでの学習を行い, 2019 年分データでモデルを検証した。その結果, クエリと回答の厳密一致でも正答率 0.56 という性能を実現した.

## 2.3 企業情報・金融ドメイン

前述の通り，企業情報・金融ドメインでも，調查対象中 5 件の論文が該当した．投資家やそれを顧客とする金融機関にとって，各企業が発表する決算資料等の文書や新聞記事等の分析は,文書量が膨大であることから大きな負担となっている。また投資家に限らず，たとえば得意先・取引先の状況を把握するために，新聞記事等を元に企業情報を効率よく理解したいというニー ズは高い。それらの作業を効率化するべく, 決算資料や新聞記事からの情報抽出の試みが多く見られている（坂地他 2020）.

該当の 5 件中 2 件は，名刺管理サービス「Sansan」に付帯するニュース配信の中での固有表現抽出を目的とするものだった。そのうち 1 件はニュース記事から「企業活動の中で生まれたモノやサービスを表す名称」（たとえば商品名, サービス名, 運営する施設名, キャンペーン名など）を抽出する手法を検討したものである（奥田・高橋 2020）、その手法では, ニュース記事のタイトルと本文から鉤括弧（「」および『』）内の文字列を抽出し，それが抽出目的の企業キー ワードであるかの判定を，BiLSTM-CRF に Contextual String Embeddings (CSE) を組み合わせて行った．実験の結果，ふたつのべースライン手法（1. すべての鉤括弧内文字列をキーワー ドとした場合， 2. 鉤括弧前後 10 単語の Bag-of-Words 表現を用いたSVMによる二値分類の場合）と比べて適合率・再現率ともに高く, F 値は 0.83 となり，提案手法の効果を確認できた.

柳井ら (2020) は有価証券報告書や有価証券届出書等の金融分野の開示文書から「売上高」$\cdot$「自己資本比率」等の経営指標の表現を抽出する手法を提案した。これらの文書では「○○を運用上のベンチマークとして」「○○を対象指数として」など一定パターンの記述が多用されるため, 構文木の木構造のパターンマッチを行う StruAP (Structure-based Abstract Pattern) を提
案し, 木構造パターンを 62 件定義することで, 目的とする経営指標の抽出を試みた. 30 社の有価証券報告書から経営指標を抽出したところ, 文書単位での再現率 $80 \%$, 適合率 $93.7 \%$ という結果となった.

## 2.4 その他

本稿の調査対象の中では, 上記の分野以外に, 食ドメインで 3 件, 機械加工・交通・文学 (小説）・土産品といったドメインで各 2 件ずつ論文が発表されていた。他にも，会議録からの法律名抽出や将棋解説文からの固有表現抽出，陸上競技ブログからの活動記録抽出など，「ドメイン」 として分類すれば各 1 件となるものの, 特色ある研究テーマが発表されている.

食ドメインでは，消費者がインターネットに書き込むレストランレビューをマーケティングに利用することの実現可能性を探るべく，レビュー上の食べ物・飲み物表現を抽出する試みがあった（新堂他 2018）「どのような食べ物・飲み物がトレンドであるかを把握する夕スク」を仮定し, 個々の食べ物・飲み物とその性質（味，香り，形状等）を詳細に描写する表現（例：「香り高くのど越し抜群のおいしい十割そば」）の抽出を目指した. 食べログのレビューデータから, 店舗ジャンルごとに同数のレビューを抽出し, 食べ物・飲み物表現に対し人手でタグ付けし, ナイーブな CRFベースのモデルと BiLSTM-CNNs-CRF ベースのモデルを作り比較した.結果として, 前者のモデルでは再現率が低くなる傾向があり, 後者では再現率が改善したが適合率が若干低下するといった知見が得られ，今後のマーケティング利用に向けた基礎を作ることができた。

同じく食ドメインで，レシピからの固有表現抽出に必要な教師デー夕を低コストに補完する方法の検討もなされた（平松他 2018; 原島 2019）.そのような手法としては既存の辞書などの言語資源が使われることが多いが，単に解析対象のテキストと辞書内の表現をマッチングするような手法では辞書に含まれる表現しかカバーできない。そこで，レシピ内の表現を既存の料理オントロジーの属性ラベル（「材料一魚介」「調味料」など）に分類し，その結果を固有表現抽出器に入力することとした。これによって直接辞書に含まれない表現まで分類ができ，その後の固有表現抽出の性能をさらに高められる。固有表現抽出に BiLSTM-CRF を用い，上記の単語分類器を組み合わせた提案手法と固有表現抽出器のみの手法などを比較した結果, 提案手法の性能が他の手法を上回った。ほかにもレシピ関係では，「風邪に効く食材を使った料理」のレシピを紹介するシステムを作るために，掲示板のテキストから食材と効能の対を抽出する手法を使った研究も見られた（角谷他 2019）.

機械加工ドメインでは，技術文書内に記述される機械加工因子とそれら同士の関係（A が増すと B も増すなど）を抽出する手法が提案された（稲熊他 2021）。機械加工分野では高齢化により技術継承が急がれており, 中でも熟練を要する工程策定業務の継承が課題となっている.工程策定には，「切削速度が増加すると切削速度が増す」といった機械加工因子（切削速度・切
削温度など）間の関係の知見が必要となる。機械加工因子用語は，たとえば「切削加工」に「切削」と「加工」が含まれ，「切削加工」は「切削」という過程における「加工」という方法である，といった入れ子構造がある。また機械加工因子用語の間に，「切削速度が増加すると切削温度が増す」といった関係が記述されている場合があり，そこには「増加する」「増す」のように 「トリガワード（「物理量を示す二用語間の変化を表す単語」と定義）がよく使われている。そこでこの研究では, 用語の入れ子構造およびトリガワードを考慮しながら, 用語と関係の同時抽出を行っている。その結果, 用語抽出と関係抽出を別々に行うよりもマルチタスク学習モデルの方が高精度を得ることができた.

文学ドメインにおいては，ライトノベルのような創作テキストを「銀髪赤目の少年」や「長身のメイド」といった登場人物の特徴に踏み込んで探索できる機能へのニーズがあるとして, 小説から人物情報を抽出する手法の提案があった（岡・安藤 2021）.小説本文内で, 登場人物の名前や性別, 年齢や容姿といった表現に夕グ付けし, BiLSTM-CRF をべースとした複数のモデルで学習を行い性能を評価した。性能が最良となったモデル (BiLSTM-CRF) では, 性別や年齢などの表現で高い F1 值（それぞれ $95.95,92.62$ ）となっただけでなく，人物関係（例：兄，相棒）や職業・立場（例：竜飼い, 最高権限者）といったより多様な表現でも 80 以上の高い F1 値を達成できた。

土産品ドメインでは「現地でしか購入できない土産」の情報をWebから収集するシステムの構築を目指し，ブログから土産名・店名を抽出するモデルが提案された（池田・安藤 2019）。具体的には，Yahoo!ブログの菓子・デザートカテゴリを土産名で検索し，ヒットした記事に対し人手でタグ付けしたうえで, 深層学習モデル（BiLSTM-CRF や Char-BiLSTM-CRF など）と CRF モデルを用いて固有表現抽出を行った。その結果, 前者は学習デー夕に含まれる固有表現に対し，後者は学習データに出現しない固有表現に対し，それぞれ有効であることが確認できた。

法律ドメインでは，会議録中の法律名をWikipedia の項目に結びつける試みがあった（桧森他 2020）．法律名には「特定複合観光施設区域の整備の推進に関する法律」を「カジノ解禁法」「IR 推進法」と呼ぶなど，人手でも判断が難しい表記摇れがありうる。そのため，表記摇れも含めてあらゆるメンションを「法律名を表す語句」と定義し, 言及抽出及び曖昧性解消の両方を同時に行うこととした. 国会・地方議会会議録 10 日分に対し人手でタグ付けし, BERTで固有表現抽出モデルを作成してメンションを抽出，それをWikipedia 記事に結びつけることで曖昧性解消を行っている。

小売ドメインにおいては， EC サイトの商品タイトルから商品名を抽出する手法が提案された (張 2019). EC サイトでは, 各小売店が自社の取り扱い商品を検索結果の上位に表示させるため, 商品名に加えて「純正品」「送料無料」といった文言や商品の品番などの情報が付加されることが多く，ユーザーやサイト運営者にとってはわかりにくいことがある．そういった付加情報は多くが名詞や名詞句の羅列であり，一般的な文章とは構造が異なる．そこで当該研究で

は, TF-IDF や CRF, BiLSTM-CRF といった手法で商品タイトルから商品名を抽出し, その精度を比較している。

科学ドメインの論文から，数值表現を通じて技術トレンドを抽出しようとする試みもあった (黒土他 2020). 本研究では「半導体の集積度は 18 カ月ごとに 2 倍になる」とした「ムーアの法則」に見られるように，技術的な傾向を数値表現から読み取れる可能性に着目した．数値表現の抽出にはルールベースの StruAP (Structure-based Abstract Pattern) というツールを用い，「dialectic constant」と「10.2」のような，項目名と数値表現のペアを抽出した.

## 3 考察

以上を踏まえ，国内におけるドメイン依存の固有表現抽出の全体的な傾向を 2 点述べる。ひとつは固有表現抽出を行う目的の類型であり，もうひとつは技術的な傾向である.

## 3.1 固有表現抽出を行う目的の類型

上に取り上げた事例において，文書からの固有表現抽出を行う目的はさまざまだが，大別すれば (1) 多様な固有表現そのものをより網羅的にまたは大量に獲得しようとするものと, (2) 抽出した固有表現を通じて何らかの知見を得ようとするものに分けられる．以下にそれぞれの傾向を述べる.

## 3.1.1多様な固有表現そのものを網羅的／大量に獲得しようとする研究

本稿で対象とした論文では, 化学分野の固有表現抽出の多くがこれにあたる。化学分野では,日々大量に追加される化合物名を自動的に知識として蓄積して新薬開発に活用するといったことへのニーズが高く, そのための研究が数多く行われている。また企業情報ドメインではニュー ス記事から新たなモノやサービスの名称を抽出する研究を行ったが, これも発生する固有表現そのものの把握を目的とする研究だと言えるだろう.

この類型では，目的とする固有表現が含まれるようなテキスト集合をいかに確保し，それをいかに効率よく, 精度高く処理するかが課題となる場合が多い. その際, 作成した知識を整理するためにも，知識作成に使うモデルの精度を高めるためにも，同義語や表記摇れの取り扱いが重要となる。また抽出したい固有表現はどのようなものなのか, 抽出後にどのように使うのかといった細かな定義も必要である。固有表現定義の例は, 上記の医療テキストコーパス構築の研究で詳細に見ることができる.

## 3.1.2 抽出した固有表現を通じて何らかの知見を得ようとする研究

固有表現抽出タスクにプラスして, 固有表現同士の関係を抽出しようとする研究もよく見られる。本稿の中では, 化学物質の相互作用関係抽出や, 機械加工因子の関係抽出がそれにあたる.ここでも，抽出したい関係の定義や，それらを含む文書の確保などが課題となる。

大量の文書を効率よく理解するために，文書の要点として固有表現を抽出しようとする研究も複数見られた。たとえばカルテにおける疾患の重症度，金融文書における経営指標，小説における登場人物の属性といったものである。この類型では多くの場合, 抽出元の文書群は企業内などに蓄積されていて新たに入手する必要はないため, 課題としては「要点」となる情報がどのようなものかといった定義や, その抽出処理の具体化, 効率化が挙げられる.

抽出した固有表現から，企業・組織のマーケティング活動に活用できるような社会的傾向を読み取ろうとする方向も検討されている．たとえば新堂らによる食べ物・飲み物表現の抽出の研究では，レストラン・レビューのテキストデータを分析してマーケティングに活用することを目指している。このようなシステムでは，抽出した情報を見たユーザーの何らかの意志決定 （たとえば，「香り高い十割そば」が話題たから，レストランのメニューに入れる，または Web サイトで取り上げる，など）に役立つことが求められる。抽出した表現を企業の意志決定の根拠とするためには, 抽出元文書が適切かどうかの評価や, 文書の出現時期や地域などテキスト外の情報を含めた分析，可視化の方法など，システム全体としての設計に工夫が求められるたろう。

## 3.2 固有表現抽出の技術

はじめにで述べたとおり, 技術の詳細な分析は本論文の主眼ではないが, この調査で分かった技術的な特徴をここで紹介する，固有表現抽出夕スクの技術的手法としては，機械学習を使うものが主流となり, 本稿の調查対象期間ではとくに BiLSTM の出力を CRF で処理した, BiLSTM-CRF が使われることが多かった，BiLSTM-CRF では，まず入力単語を事前学習した単語ベクトルに変換する。次に BiLSTM が，そのベクトル列を入力として各単語に対し，固有表現らしさの点数からなるべクトルを出力する．最後に CRF がそのべクトル群を入力とし， ラベル間の依存性を考慮し, 最適な固有表現のラベルを予測する。その精度をさらに高めるため, あるいは BiLSTM-CRF で必要な学習データの作成コストを下げるために, 辞書等の言語資源を使うなど，さまざまな手法が組み合わされている。またBERT を使う手法も本稿で数件紹介しているが，直近の研究ではさらに大勢を占めるようになっている.

ただし機械学習を使わなければ固有表現抽出ができないわけではなく, 学習デー夕が少ない場合や定形表現が多い場合などは， パターンマッチのようなルールベースの手法で課題解決できる場合もある．本稿の中でも，たとえば加藤らの電子カルテからの皮䖉障害重症度判定の研究では, 疾患の種類によってはルールベースの方が機械学習より高精度な結果となることがあっ

た.また柳井らの金融文書からの経営指標抽出では, 定形表現が多用されるドメインであるため，構文木のパターンマッチが有効であった.

こうした技術的な詳細については, 文献（岩倉・関根 2020）を参照されたい。また実際に利用できるツールが，Githubなどの技術共有サイトでダウンロード可能になっていることが多いため, 誰でも既存の研究を基盤としながら各自の課題に合ったシステムを作っていくことができる。

## まとめ

本論文では, 過去数年の国内におけるドメイン依存の固有表現抽出技術の研究動向を調査し,各ドメインにおける応用のあり方を概観した。とくに研究が活発な化学ドメインでは, 新規材料開発などを目的とする化学物質名抽出タスク，またはそれらの関係抽出タスクが多く見られ，研究を効率よく進められるようなデータベース，モデル等の資源も整備されている．医療・薬事ドメインでは，医療者支援や薬剤開発の効率化など，より多様な目的での固有表現抽出が確認され, 企業情報・金融ドメインでは, 膨大な企業情報を効率良く理解するための応用が見られた. その他, 機械加工・交通・文学・食といった多様なドメインでの技術応用を俯瞰し, 固有表現抽出の幅広く深い展開が確認できた。抽出した固有表現の使い方としても，固有表現そのものをリスト化するだけでなく, 固有表現間の関係を捉えたり, 傾向を分析したりといった多様な方向性が確認できた，技術面では，本論文での調査対象期間は BiLSTM-CRF と BERT が主流となっていたが，今後も各タスクに合わせたさらなる精緻化が期待される.

## 参考文献

荒牧英治, 若宮翔子, 矢野憲, 永井宥之, 岡久太郎, 伊藤薫 (2018). 病名アノテーションが付与された医療テキスト・コーパスの構築. 自然言語処理, 2018, 25 (1), pp. 119-152. [E. Aramaki et al. (2018). Development of the Clinical Corpus with Disease Name Annotation. Journal of Natural Language Processing, 25 (1), pp. 119-152.]

Beltagy, I., Lo, K., and Cohan, A. (2019). "SciBERT: A Pretrained Language Model for Scientific Text." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 3615-3620.

Degtyarenko, K., de Matos, P., Ennis, M., Hastings, J., Zbinden, M., McNaught, A., Alcántara, R., Darsow, M., Guedj, M., and Ashburner, M. (2008). "ChEBI: A Database and Ontology for Chemical Entities of Biological Interest." Nucleic Acids Research, 2008, 36 (Database
issue), D344-D350.

原島純 (2019). レシピサービスと情報処理. 人工知能, $\mathbf{3 4}$ (1), pp. 3-8. [J. Harashima (2019).

Recipe Service and Information Processing. Journal of the Japanese Society for Artificial Intelligence, 34 (1), pp. 3-8.]

He, J., Nguyen, D. Q., Akhondi, S. A., Druckenbrodt, C., Thorne, C., Hoessel, R., Afzal, Z., Zhai, Z., Fang, B., Yoshikawa, H., Albahem, A., Cavedon, L., Cohn, T., Baldwin, T., and Verspoor, K. (2020). "Overview of ChEMU 2020: Named Entity Recognition and Event Extraction of Chemical Reactions from Patents." In Experimental IR Meets Multilinguality, Multimodality, and Interaction. Proceedings of the 11th International Conference of the CLEF Association, Vol. 12260. Lecture Notes in Computer Science.

邊土名朝飛, 野中尋史, 小林暁雄, 関根聡 (2019). 外部知識源を使用した Wikipedia からの化合物情報抽出. 言語処理学会第 25 回年次大会発表論文集, pp. 791-794. [A. Hentona et al. (2019). Gaibu Chishikigen wo Shiyo shita Wikipedia karano Kagobutsu Joho Chushutsu. Proceedings of the 25th Annual Meeting of the Association for Natural Language Processing, pp. 791-794.]

桧森拓真, 木村泰知, 荒木健治 (2020). 会議録に含まれる法律名を対象とした End-to-End のエンティティリンキングの性能評価. 言語処理学会第 26 回年次大会発表論文集, pp. 367-370.

[T. Himori et al. Kaigiroku ni Fukumareru Horitsumei wo Taisho to shita End-to-End no Entitirinkingu no Seino Hyoka. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 367-370.]

平松淳, 若林啓, 原島純 (2018). 文字分散表現に基づく単語分類情報を用いたレシピ固有表現抽

出. 研究報告自然言語処理 (NL), 2018-NL-237 (7), pp. 1-6. [M. Hiramatsu et al. (2018).

Recipe Named Entity Recognition based on Word Classification Results using Characterbased Distributed Representations. IPSJ SIG Technical Reports, 2018-NL-237 (7), pp. 1-6.]池田流弥, 安藤一秋 (2019). 固有表現抽出によるブログテキストからの品名・店名抽出. 研究報告

自然言語処理 (NL), 2019-NL-243 (5), pp. 1-8. [R. Ikeda and K. Ando (2019). Extraction of Food Product and Shop Names from Blog Text using Named Entity Recognition. IPSJ SIG Technical Reports, 2019-NL-243 (5), pp. 1-8.]

稲熊陸, 小島大, 東孝幸, 三輪誠, 古谷克司, 佐々木裕 (2021). 機械加工文書における用語入れ子構造とトリガワードを考慮した用語関係同時抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 396-399. [R. Inaguma et al. (2021). Kikai Kako Bunsho niokeru Yogo Ireko Kozo to Torigawado wo Koryo shita Yogo Kankei Doji Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 396-399.]岩倉友哉 (2015). 固有表現抽出におけるエラー分析. 言語処理学会年次大会第 21 回年次大会ワーク

ショップ：自然言語処理におけるエラー分析. [T. Iwakura (2015). Koyu Hyogen Chushutsu niokeru Era Bunseki. The Workshop at the 21st Annual Meeting of the Association for Natural Language Processing.]

岩倉友哉, 関根聡 (2020). 情報抽出 ・固有表現抽出のための基礎知識. 近代科学社. [T. Iwakura and S. Sekine (2020). Joho Chushutsu $\cdot$ Koyu Hyogen Chushutsu notameno Kisochishiki. Kindai Kagakusha.]

岩倉友哉, 吉川和 (2020). 化学分野への言語処理の応用. 自然言語処理, 27 (4), pp. 969-973. [T.

Iwakura and H. Yoshikawa (2020). Natural Language Processing Application to the Chemical Domain. Journal of Natural Language Processing, 27 (4), pp. 969-973.]

加藤由美, 平川聡史, 梶山晃平, 堀口裕正, 狩野芳伸 (2019). 電子カルテ自由記述部分からの皮膚疾患における重症度抽出. 言語処理学会第 25 回年次大会発表論文集, pp. 280-283. [Y. Kato et al. (2019). Denshi Karute Jiyu Kijutsu Bubun karano Hifu Shikkan niokeru Jushodo Chushutsu. Proceedings of the 25th Annual Meeting of the Association for Natural Language Processing, pp. 280-283.]

Kim, J. D., Ohta, T., Tateisi, Y., and Tsujii, J. (2003). "GENIA Corpus-Semantically Annotated Corpus for Bio-textmining." Bioinformatics, 19 (Suppl 1), i180-i182.

Kim, J. D., Ohta, T., and Tsujii, J. (2008). "Corpus Annotation for Mining Biomedical Events from Literature." BMC Bioinformatics, 9, 10.

Kim, S., Thiessen, P. A., Bolton, E. E., Chen, J., Fu, G., Gindulyte, A., Han, L., He, J., He, S., Shoemaker, B. A., and Wang, J., Yu, B., Zhang, J., and Bryant, S. H. (2016). "PubChem Substance and Compound databases." Nucleic Acids Research, 44 (D1), D1202-D1213.小島諒介, 岩田浩明, 中津井雅彦, 奥野恭史 (2020). 医薬品添付文書からの薬剤情報抽出システム.言語処理学会第 26 回年次大会発表論文集, pp. 1057-1060. [R. Kojima et al. (2020). Iyakuhin Tempu Bunsho karano Yakuzai Joho Chushutsu Shisutemu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 1057-1060.]

Krallinger, M., Rabal, O., Akhondi, S., Pérez, M., Santamaría, J., Rodríguez, Gael Pérez, Tsatsaronis, G., Intxaurrondo, A., Lopez, J. A., Nandal, U., Buel, E. V., Chandrasekhar, A., Rodenburg, M., Lægreid, A., Doornenbal, M. A., Oyarzábal, J., Lourenço, A., and Valencia, A. (2017). "Overview of the Biocreative VI Chemical-Protein Interaction Track." In Proceedings of the 6th BioCreative Challenge Evaluation Workshop, Vol. 1, pp. 141-146.

Krallinger, M., Rabal, O., Leitner, F., Vázquez, M., Salgado, D., Lu, Z., Leaman, R., Lu, Y., Ji, D., Lowe, D. M., Sayle, R. A., Batista-Navarro, R. T., Rak, R., Huber, T., Rocktäschel, T., Matos, S., Campos, D., Tang, B., Xu, H., Munkhdalai, T., Ryu, K. H., Ramanan, S. V., Nathan, S., Žitnik, S., Bajec, M., Weber, L., Irmer, M., Akhondi, S. A., Kors, J. A., Xu, S.,

An, X., Kumar Sikdar, U., Ekbal, A., Yoshioka, M., Dieb, T. M., Choi, M., Verspoor, K., Khabsa, M., Lee Giles, C., Liu, H., Ravikumar, K. E., Lamurias, A., Coute, F. M., Dai, H. J., Tzong-Han Tsai, R., Ata, C., Can, T., Usié Chimenos, A., Alves, R., Segura-Bedmar, I., Martínez, P., Oyarzabal, J., and Valencia, A. (2015). "The Chemdner Corpus of Chemicals and Drugs and Its Annotation Principles." Journal of Cheminformatics, 7 (Suppl 1), S2.

黒土健三, 森本康嗣, 佐藤美沙, 柳井孝介 (2020). 構文解析情報を用いたテキストからの数値情報の抽出. 人工知能学会第 34 回全国大会論文集, 1E4-GS-9-02. [K. Kurotsuchi et al. (2020). Development for Extracting Numerical Information Using Parsing Information. Proceedings of the 34th Annual Conference of the Japanese Society for Artificial Intelligence, 1E4-GS-902.]

Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., and Kang, J. (2019). "BioBERT: A Pre-trained Biomedical Language Representation Model for Biomedical Text Mining." Bioinformatics, 36 (4), pp. 1234-1240.

牧野晃平, 國吉房貴, 小澤順, 三輪誠 (2020). 無機材料文献からの合成プロセス抽出のための関係抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 1045-1048. [K. Makino et al. (2020). Muki Zairyo Bunken karano Gosei Purosesu Chushutsu notameno Kankei Chushutsu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 1045-1048.]

岡裕二, 安藤一秋 (2021). 小説あらすじを用いて学習した系列ラベリングモデルによる小説本文からの人物情報抽出の性能検証. 言語処理学会第 27 回年次大会発表論文集, pp. 16341638. [Y. Oka and K. Ando (2021). Shosetsu Arasuji wo Mochiite Gakushu shita Keiretsu Raberingu Moderu niyoru Shosetsu Hombun Karano Jimbutsu Joho Chushutsu no Seino Kensho. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 1634-1638.]

奥田裕樹, 高橋寞治 (2020). ニュース記事からの企業キーワード抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 193-196. [Y. Okuda and K. Takahashi (2020). Company Keyword Extraction from News Articles. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 193-196.]

坂地泰紀, 和泉潔, 酒井浩之 (2020). 金融・経済ドメインを対象とした言語処理. 自然言語処理, 27

(4), pp. 951-955. [H. Sakaji et al. (2020). Language Processing for Finance and Economics. Journal of Natural Language Processing, 27, pp. 951-955.]

新堂安孝, 友利涼, 富田紘平, 兼村厚範, 森信介 (2018). レストラン・レビューにおける食べ物・飲み物表現の抽出. 信学技報, 118 (210), pp. 97-102. [Y. Shindoh et al. (2018). Detection of Food and Drink Expressions in Restaurant Review Services. IEICE Technical Report, 118

(210), pp. 97-102.]

新城大希, 德永健伸, 牧野拓哉, 岩倉友哉 (2021). 構文情報とラベルなしデータを用いた化学分野の関係抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 890-894. [T. Shinjo et al. (2021). Kobun Joho to Raberu Nashi Deta wo Mochiita Kagaku Bunya no Kankei Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 890-894.]

角谷和俊, 難波英嗣, 牛尼剛聡, 若宮翔子, 王元元, 河合由起子 (2019). 料理レシピデータのメディア特性分析と利活用. 人工知能, 34 (1), pp. 32-40. [K. Sumiya et al. (2019). Media Characteristic Analysis and Its Applications for Cooking Recipes. Journal of Japanese Society for Artificial Intelligence, 34 (1), pp. 32-40.]

辰巳守祐, 後藤啓介, 進藤裕之, 松本裕治 (2019). 辞書を用いたコーパス拡張による化学ドメインの Distantly Supervised 固有表現認識. 研究報告自然言語処理 (NL), 2019-NL-241 (7), pp. 1-7. [S. Tatsumi et al. (2019). Data Augmented Distantly Supervised Named Entity Recognition in Chemical Domain. IPSJ SIG Technical Reports, 2019-NL-241 (7), pp. 1-7.]山口京佑, 旭良司, 佐々木裕 (2021). 文献抄録中の主題材料に着目した超伝導材料に関する情報抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 1809-1814. [K. Yamaguchi et al. (2021). Bunken Shorokuchu no Shudai Zairyo ni Chakumoku shita Chodendo Zairyo ni Kansuru Joho Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 1809-1814.]

柳井孝介, 佐藤美沙, 十河泰弘, 山脇功一, 渋谷淳 (2020). StruAP を用いた金融分野の開示文書からの情報抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 311-314. [K. Yanai et al. (2020). StruAP wo Mochiita Kinyu Bunya no Kaiji Bunsho karano Joho Chushutsu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 311-314.]

Yang, Y., Chen, W., Li, Z., He, Z., and Zhang, M. (2018). "Distantly Supervised NER with Partial Annotation Learning and Reinforcement Learning." In Proceedings of the 27th International Conference on Computational Linguistics, pp. 2159-2169.

張培楠 (2019), EC サイトにおける商品タイトルからの商品名抽出. 人工知能学会第 33 回全国大会論文集, 4Rin1-23. [P. Zhang (2019). Product Name Extraction from Product Entries on Electronic Commerce Pages. Proceedings of the 33rd Annual Conference of the Japanese Society for Artificial Intelligence, 4Rin1-23.]

## 付録

本論文執筆のために洗い出したドメイン依存の固有表現抽出に関連する論文は, 論文内で紹介したもの以外も含めると 52 件あった。それらの論文について, 課題設定・着眼点や手法, 抽出する対象等をまとめたリストを，以下に公開する.

https://github.com/mihonti/NESurvey2023/blob/983245d36de3e03dd4f270da590eb5a66 bdc5d2c/NEpapers_2023.pdf

## 略歴

福田美穂：1997 年東京大学文学部卒業. ニフティ株式会社にて自然言語処理技術を使ったクチコミ分析サービスの企画・運営に携わる。同社を退職後, フリーランスとして主に情報技術関連ニュース記事等を翻訳，執筆.

関根聡: 1992 年英国マンチェスター大学計算言語学部修士号. 1998 年ニュー ヨーク大学コンピューターサイエンス学部博士号. その後, ニューヨーク大学研究准教授に就任. 松下電業産業株式会社 (現パナソニック), SONY CSL, マイクロソフトリサーチ，楽天技術研究所ニューヨークなどでの研究職を歴任. 専門は自然言語処理. 特に情報抽出, 固有表現抽出, 質問応答, 情報アクセス, 知識構築の研究に従事. 情報処理学会自然言語処理研究会主査, その他役職多数. 複数の企業の技術顧問なども兼任.