# 実世界参照による分野特有の固有表現認識の精度向上

友利 涼 $十$ 二宮 崇㠹・森 信介怰

本稿では, 将棋の解説文に対する固有表現を題材として, テキスト情報に加えて実世界情報を参照する固有表現認識を提案する。この題材での実世界情報は，固有表現認識の対象となる解説文が言及している将棋の局面である. 局面は, 盤面上の駒 の配置と持ち駒であり，すべての可能な盤面状態がこれによって記述できる。提案手法では，まず各局面の情報をディープニューラルネットワークの学習方法の 1 つ である stacked auto-encoderを用いて事前学習を行う. 次に, 事前学習の結果をテ キスト情報と組み合わせて固有表現認識モデルを学習する。提案手法を評価するた めに, 条件付き確率場による方法等との比較実験を行った。実験の結果, 提案手法 は他の手法よりも高い精度を示し，実世界情報を用いることにより固有表現認識の 精度向上が可能であることが示された。

キーワード：実世界参照，ニューラルネットワーク，固有表現認識
## Improvement in Domain-Specific Named Entity Recognition by Utilizing the Real-World Data

\author{
Suzushi Tomori ${ }^{\dagger}$, Takashi Ninomiya ${ }^{\dagger \dagger}$ and Shinsuke Mori ${ }^{\dagger \dagger}$
}

In this paper, we propose a method that utilizes real-world data to improve named entity recognition (NER) for a particular domain. Our proposed method integrates a stacked auto-encoder (SAE) and a text-based deep neural network for achieving NER. Initially, we train the SAE using real-world data, then the entire deep neural network from sentences annotated with named entities (NEs) and accompanied by real world information. In our experiments, we chose Japanese chess as our subject. The dataset consists of pairs of a game state and commentary sentences about it annotated with game-specific NE tags. We conducted NER experiments and verified that referring to real-world data improves the NER accuracy.

Key Words: Real World Information, Neural Network, Named Entity Recognition

近年, 情報化技術の発展により, インターネット上やデータベース上にはテキストとそのテキストに付随する実世界情報が大量に存在している。実世界情報を用いる自然言語処理の研究


として，テキストを用いて画像を検索する研究 (Karpathy, Joulin, and Li 2014) や画像の解説文を生成する研究 (Socher, Karpathy, Le, Manning, and Ng 2014) などが行われている. また，実世界情報を用いることで言語モデルの性能を向上させる研究 (Kiros, Salakhutdinov, and Zemel 2014）も行われており，実世界情報の活用は自然言語処理の基礎技術の精度向上に有効たと考えられる。そこで本稿では実世界情報とテキスト情報を素性として入力した際の固有表現認識を提案する。

本稿では，将棋の解説文に対する固有表現認識を題材として，テキスト情報に加えて実世界情報を参照する固有表現認識器を提案する。固有表現とは, 文書の単語列に人名や地名など約 8 種類の定義 (Tjong Kim Sang and De Meulder 2003) を行ったものが一般的であるが，近年では医療の専門用語を定義したバイオ固有表現 (Settles 2004) なども提案されており, 本研究では将棋解説コーパス (Mori, Richardson, Ushiku, Sasada, Kameko, and Tsuruoka 2016) で定義される将棋固有表現を扱う。将棋解説コーパスは, 将棋の解説文に対して単語分割と固有表現夕グが人手で与えられた注釈つきテキストデータであり，各解説文には解説の対象となる将棋の局面情報が対応付けされている，局面は，盤面上の駒の配置と持ち駒であり，すべての可能な盤面状態がこれによって記述できる。本研究では局面情報を実世界情報として用いる．提案手法では，まず各局面の情報をディープニューラルネットワークの学習方法の 1 つである stacked auto-encoder (SAE) を用いて事前学習を行う，次に，事前学習の結果をテキスト情報と組み合わせて固有表現を学習する。提案手法を評価するために, 条件付き確率場による方法等との比較実験を行い，実世界情報を用いることにより固有表現認識の精度向上が可能であることを示す. 将棋の固有表現認識の精度が向上すると, 文書から戦型名や囲い名などを自動的に抽出でき，将棋解説文の自動生成のための基礎技術となる。また，一般の固有表現認識を高い精度で行えるようになると質問応答や文の自動生成などの高度な応用の基礎技術となる.

## 2 関連研究

本章では, まず本研究で扱う固有表現認識について述べる。 その後, 実世界情報を用いた自然言語処理の研究について述べる. 最後に将棋の局面情報を用いた自然言語処理の先行研究について述べる.

## 2.1 固有表現認識

本稿で行う固有表現認識は自然言語処理の重要な応用の一つである。一般的な固有表現認識は，対象を新聞記事，固有表現として人名，地名，組織名等を扱った研究が広く行われている (Tjong Kim Sang and De Meulder 2003; Ratinov and Roth 2009). 固有表現認識は, ある系列 (単語列) の各要素（各単語）に適切なラベル列を付与する問題である系列ラベリング問題と

して解かれることが一般的である。サポートベクターマシンや最大エントロピーモデルなどを用いた様々な手法が提案されており (Borthwick 1999; Tjong Kim Sang and De Meulder 2003; Finkel, Grenager, and Manning 2005)，条件付き確率場 (CRF) による系列ラベリング (Lafferty, McCallum, and Pereira 2001) がよく用いられる. また，近年では染層学習を用いて解く手法が提案されており，Bi-directional LSTM を用いて解く手法が CoNLL 2003 コーパス (Tjong Kim Sang and De Meulder 2003) において最高精度を記録している (Ma and Hovy 2016). 系列ラベリング問題として固有表現認識を解く際に，BIO タグ体系を用いて各単語のタグを学習することが多い. BIO の B (Begin) はある固有表現の最初の単語, I (Intermediate) は同種の固有表現の継続, O (Other) はいずれの固有表現でもないことを意味する. 固有表現が $J$ 種類ある場合, 固有表現ごとに B夕グと I夕グが存在し，どの固有表現でもない単語には O が対応するので, BIO タグ数は $2 J+1$ 種類存在する。各単語にはいずれか 1 種類のタグが付与されるが, BIO タグ系列には接続制約がある。例えば，固有表現がI夕グから始まってはいけない．また，BIO夕グ体系の他にも，同種の固有表現の終端を表す $\mathrm{E}(\mathrm{End}) や 1$ 単語からなる固有表現を表す S (Single) のタグを加えた BIESO タグ体系で記述されることもある.

## 2.2 実世界情報を用いた自然言語処理

実世界情報を用いた自然言語処理の研究はいくつか存在するが，その多くは教師なし学習を用いてマルチモーダルなべクトル表現を獲得する手法である. それらに対し, 本研究はテキストに付随した実世界情報を用いて固有表現認識を直接解く。

Bruni らは，テキストのベクトルと画像のベクトル表現の一種である Bag-of-Visual-Words に特異値分解 (SVD) を用いることでマルチモーダルなべクトルを獲得する手法を提案した (Bruni, Tran, and Baroni 2014). 似た手法を用いて音情報を用いたべクトルを獲得する研究がある (Lopopolo and van Miltenburg 2015). これはテキスト側のベクトルは潜在的意味解析 (LSA) を用いて獲得し, 音情報のべクトルは Bag-of-Audio-Words を用いた. Ngiam らや Srivastava and Salakhutdinov は教師なし学習のニューラルネットワークである deep restricted Boltzmann machines を用いて，マルチモーダルなベクトルを獲得する手法を提案した (Ngiam, Khosla, Kim， Nam, Lee, and Ng 2011; Srivastava and Salakhutdinov 2012). これはテキストとそのテキストに対応した画像，またはテキストとそのテキストに対応した音情報などのぺアから学習し，隠れ層から分散表現を獲得する手法である．また，Ngiam らはマルチモーダルなべクトルを獲得した後, 獲得したべクトルを入力として用いて, 音声認識や画像検索などの教師あり学習を行う手法を提案した (Ngiam et al. 2011). Silberer and Lapata は深層学習を用いてマルチモーダルなべクトルを獲得する手法を提案した (Silberer and Lapata 2014).

単語の分散表現にマルチモーダル情報を用いる研究がある. 単語の分散表現とは, 自然言語処理においてよく用いられる低次元の実数値べクトルであり, word2vec (Mikolov, Chen, Corrado, and

Dean 2013a; Mikolov, Sutskever, Chen, Corrado, and Dean 2013b) がよく用いられる. Lazaridou らは word2vec を拡張し, 画像情報と組み合わせる手法を提案した (Lazaridou, Pham, and Baroni 2015). Kiela and Clark も同様に word2vec を音情報と組み合わせる手法を提案した (Kiela and Clark 2015).

## 2.3 将棋の局面を用いた自然言語処理

Kameko らは，将棋の局面に将棋解説文が付与された将棋解説コーパスを用いて，ニューラルネットワークを応用した将棋解説文のための単語分割手法を提案している (Kameko, Mori, and Tsuruoka 2015). この手法は，まず将棋局面情報を入力とするニューラルネットワークを用いることで将棋用語辞書を獲得し, 得られた将棋用語辞書を用いて単語分割を行うことで単語分割の精度向上を実現している。具体的には，将棋用語辞書を作成するために，まず確率的単語分割手法により確率的に単語分割されたコーパスを生成する。次に, 将棋局面情報を入力とし,確率的コーパスの単語を出力とするフイードフォワード型のニューラルネットワークを学習し,学習されたニューラルネットワークを用いて単語候補をスコア付けし抽出することで, 将棋用語辞書が得られる。本研究と彼らの研究との違いは次の通りである。(1) 彼らは局面の素性に, コンピュータ将棋プログラムを用いて作成した複雑な素性を用いているが, 本研究では単純な駒の位置情報のみを素性として用いていること, (2) 彼らは将棋の局面との対応により事前に獲得しておいた語彙を参照し単語分割しているが, 本研究では将棋の局面との対応を直接参照して固有表現認識を行うことが挙げられる。

## 3 将棋解説コーパス

将棋は 2 人で行うボードゲームで $9 \times 9$ のマスの盤面と成った駒も含めて 14 種類の駒を用いる．盤面上の駒の配置と持ち駒からゲームの状態に関するすべての情報が得られる完全情報ゲームである。将棋にはプロ制度があり, 日々多数のプロ間の対局が行われている．多くの対局には，対局者以外のプロが解説を行い，その解説文がインターネットで配信されている.

本稿で用いる将棋解説コーパス (Mori et al. 2016) は, 将棋の解説文に対して単語分割と固有表現夕グが人手で与えられた注釈つきテキストデータである。固有表現は, 将棋の解説に特化されており，表 1 のように 21 種類が定義されている. 出現割合はコーパス中に出現する各固有表現の割合を示す. 実際のアノテーションは, BIO2 形式であり, 各単語ごとに $\mathrm{BIO}$ 夕グが 1 つ付与されており，夕グの種類数は 43 種類 $(21 \times 2+1=43)$ ある.

各解説文には, 解説の対象となる局面が対応付けされており, ほとんどの解説文は局面に関するコメントをしているが，局面に関係のないコメント（対局者に関する情報など）も少量含まれる，局面の情報は，解説文が言及する実世界情報とみなすことができ，これを参照するこ
表 1 将棋の固有表現の種類とその意味

とによる固有表現認識が本稿の中心となるアイデアである.

## 4 提案手法

将棋解説文の固有表現認識を行うために用いたフィードフォワード型のニューラルネットワー クと実世界情報（将棋の局面）の事前学習について説明する.

## 4.1 ニューラルネットワークの構成

図 1 は実世界を参照する固有表現認識のニューラルネットワークの全体図である。テキストの素性は, 左側の入力層に $\left(f_{1}^{t}, f_{2}^{t}, \ldots, f_{n}^{t}\right)$ として入力する. 図の右下の 5 つの層は実世界に関するニューラルネットワークであり， $\left(f_{1}^{r}, f_{2}^{r}, \ldots, f_{m}^{r}\right)$ に実世界情報の素性を入力する. 図の上側のニューラルネットワークでテキスト情報と実世界情報を統合して固有表現認識を行う。実世

Real-world-input

図 1 実世界を参照する固有表現認識のためのディープニューラルネットワーク

界に関するニューラルネットワークの中間層の層数については開発データを用いて調整する ${ }^{1}$. このネットワークは出力層において，注目している単語が属する各夕グの確率を出力する.

## 4.2 実世界情報の事前学習の入力とテキストの入力

実世界情報は, 図 1 の右下に示されるニューラルネットワークの入力として参照される。本研究では実世界情報として, 図 2 に示すように盤面上の全てのマス $(9 \times 9)$ における先手と後手を区別した駒の種類 $(2 \times 14)$ の有無に対応する 2,268 次元 $(2,268=9 \times 9 \times 2 \times 14)$ のバイナリ素性と, 持ち駒を記述する先手と後手の 7 種類の駒の個数に対応する 14 次元 $(14=7 \times 2)$ の整数素性の合計 2,282 次元の素性を用いる.

表 2 に実験で用いたテキスト素性を示す。 $w_{i}$ は現在着目し, タグを推定している単語であり,単語の素性には 1-of- $k$ 表現を用いた. $\operatorname{type}(w)$ は $w$ の文字の種類, 平仮名, 片仮名, 漢字, 数字，記号やそれらの組み合わせを表し, $\operatorname{pos}(w)$ は $w$ の品詞を表す.

## 4.3 実世界情報の事前学習

本研究では事前学習手法の一つであるSAE を用いて実世界情報の事前学習を行う。図 3 の左側のように，まず 3 層のニューラルネットワークの入力層と出力層に同じ実世界情報を与え，


図 2 将棋盤面の素性

表 2 タグを推定している $w_{i}$ のテキスト素性

図 3 Stacked auto-encoder
入力されたべクトルと同じベクトルを出力として予測するニューラルネットワークを学習する. このとき中間層の次元数を入力層よりも少ない次元数とすることで, 中間層において次元圧縮された実世界情報を得ることができる，次に図 3 の中央のように，出力層を取り除き，新しい中間層を 1 つ増やしたネットワークを再定義する。その後，先ほど得られた中間層（下から 2 層目）のベクトルと同じベクトルを出力層で予測するニューラルネットワークを学習する。このとき，新しく定義しなおした部分（上から 3 層）の重みのみを更新していく，同様に，層を積み重ねることで，より深く一般化された特徵量 $\left(a_{1}, a_{2}, \ldots, a_{l}\right)$ を学習することができる。本研究では，実世界情報のみを用いて事前学習を行うこととする.

## 4.4 テキスト情報と実世界情報の統合

事前学習後, テキスト情報側のニューラルネットワークと実世界情報側のニューラルネットワークを統合し, 固有表現認識タスク用にファインチューニングを行う。固有表現認識器のネットワークは出力層において, タグの種類数のユニット（本研究では 43 個）が存在する．学習の際には，テキスト側の素性とそのテキストに対応する実世界情報側の素性を入力とし，各単語の正解の BIO タグの尤度が最大になるように, 図 1 に示されているニューラルネットワーク全体が最適化される。具体的には, 中間層の活性化関数には標準シグモイド関数を用い, 出力層ではソフトマックス関数を用いて各夕グの確率を出力し, 損失関数には交差エントロピー誤差を用いる。したがって, 固有表現認識のための中間層だけでなく, 事前学習された実世界情報側のニューラルネットワークも同時に調整される。

## 4.5 最適タグ列の探索

固有表現認識は各単語に対する BIO 夕グを推定することで実現されるが，各単語ごとに確率が最も高い BIO タグを出力すると, 推定した固有表現がI タグから始まってしまう場合など, BIO 夕グ制約を満たさない場合がある。本研究では BIO夕グ制約を満たすために，各夕グの推定確率を用いて, ビタビアルゴリズムを適用し, 制約を満たす遷移のみからなる確率最大の BIO タグ列を探索する。

## 5 評価実験

提案手法の有効性を確認するために，固有表現認識の実験を行った。この章では，まず評価の方法を説明する．その後，実験設定を説明し，それぞれの結果を提示する。

## 5.1 評価の方法

評価の方法として以下のように定義される再現率と適合率, $\mathrm{F}$ 値を用いる（式 (1) 参照）。ここで正解数は図 4 のように, 将棋解説コーパスに出現する実際の固有表現とシステムが出力し

た固有表現の始点と終点が完全に一致した数である.これらに加えて各単語のタグ一致率も調ベた.

$
\begin{aligned}
\text { 再現率 } & =\frac{\text { 正解数 }}{\text { コーパスに出現する固有表現の総数 }} \\
\text { 適合率 } & =\frac{\text { システム正解数 }}{\text { シズ出力した固有表現の総数 }} \\
\mathrm{F} \text { 値 } & =\frac{2 \cdot \text { 適合率 } \cdot \text { 再現率 }}{\text { 適合率 }+ \text { 再現率 }}
\end{aligned}
$

## 5.2 実験設定

実験には将棋解説コーパスを用いた ( 3 章参照)，表 3 に実験で用いたコーパスの詳細を示す. まず，将棋の局面情報のみを用いて事前学習を行い，学習されたネットワークを用いて固有表現認識器を構築した。表 4 に局面を事前学習する際に用いた各層の次元数を示す. 今回の実験では, 中間層の層数 $0 \sim 5$ 層に設定し, それぞれの中間層での次元数は固定して実験を行った.中間層の次元数は開発セットを用いて, $\mathrm{F}$ 值が最も高くなるよう調整し，今回は中間層の層数を 4 層にした。また, 既存手法として, 条件付き確率場 (CRF) (Lafferty et al. 2001) と実世界

正解データ： この/O あと/O 三/St-B 間/St-I 飛車/St-I に/O対/O し/O $\ldots$

出力結果 : この/O あと/O 三/St-B 間/St-I 飛車/St-I に/O 対/O L/O … この/O あと/O 三/Cs-B 間/Cs-I 飛車/Cs-I に/O対/O L/O $\ldots$... $\times$ この/O あと/O 三/St-B 間/St-I 飛車/O に/O 対/O L/O $\ldots$... この/O あと/O 三/St-B 間/St-I 飛車/St-I に/St-I 対/O L/O

図 4 評価方法

表 3 将棋解説コーパスの諸元

表 4 将棋盤面埋め迄みに用いたニューラルネットワークの各層の次元数

情報を用いないディープニューラルネットワーク（テキスト情報のみを用いたディープニュー ラルネットワーク）を提案手法と比較した. このとき従来手法と提案手法では同じテキスト素性を用いており，ハイパーパラメータは開発セットを用いて調整した。テキスト素性では各単語の品詞情報も用いるが, 将棋解説コーパスは単語分割は与えられているが各単語の品詞情報は与えられていない. そのため, KyTeaを用いて品詞推定を行った.

## 5.3 実験結果

表 5 に実験の結果を示す。提案手法の有効性を示すために従来手法の「CRF」（条件付き確率場）「DNN」（ディープニューラルネットワーク）を比較対象とした.「局面」は局面の参照 (4.3，4.4 節参照）を示しており，「DNN + 局面」は提案手法である．表 5 より「CRF」よりも「DNN」が精度が高く, ディープニューラルネットワークが固有表現認識に効果的であることが分かる。また，いずれの従来手法よりも提案手法の精度が高く, 実世界情報を用いることで,「CRF」，「DNN」よりも「DNN + 局面」の方がそれぞれ 1.57 ポイント， 0.64 ポイント高かった. 提案手法の BIO タグ推定精度は「CRF」と「DNN」の精度に対して，マクネマー検定において有意水準 $1 \%$ で統計的に有意差があった. これより，テキスト情報と実世界情報を用いた提案手法の有効性が確認できる.

将棋解説コーパスを詳しくみると, 各単語に対する O夕グ（どの固有表現でもない単語）の割合は約 $68 \%$ であり, 固有表現は $\mathrm{Pi}$ （駒名）や Ot（その他重要な表現）などが多く出現する.「DNN」での出力と「DNN + 局面」の出力を比較し局面を参照することによる精度向上を分析すると, 正解は Ot の単語に対し, 「DNN」では不正解でO タグを出力しているが,「DNN + 局面」では適切に Ot を出力する例が多数あり, 局面を参照することにより, 不正解から正解に変化した固有表現の約 $1 / 3$ が Otに関する単語であった。例えば，「応手」や「効果」,「バリケード」などが提案手法では正しくOt と認識されていた.「と金」や「と」は歩が成った駒を指し, 提案手法では正しく $\mathrm{Pi}$ と認識できた例があった. これは実世界情報としてその駒に対する素性が効いていると考えられ，と金の局面素性を発火させずに入力した際には Pi に分類する確率が低下した。また,「DNN」の適合率に比べ, 「DNN + 局面」の適合率は減少している.

表 5 固有表現認識の結果



図 5 事前学習の際, 層数を変化させたときの精度（F 値）

これは, 出力が一致せず，どちらの出力も不正解の固有表現が 12 個存在したが，そのほとんどについて「DNN」では O タグを出力しており，「DNN + 局面」では何らかの固有表現夕グを出力しているためである。例えば，St（戦型名）の固有表現「橋本流」に対し，「DNN」では $\mathrm{O}$ を出力し，「DNN + 局面」では Ot を出力していた.

局面情報を事前学習した際のSAEの中間層の層数を変化させた場合の精度（F 値）の変化を図 5 に示す. 中間層 0 層のときは事前学習せずに局面情報を入力とした場合の精度である。図 5 より, 中間層 $0 \sim 1$ 層のときはテキスト情報のみを用いた「DNN」よりも精度が低く, 中間層 $2 \sim 5$ 層のときに「DNN」よりも精度が高くなった. これより, ある程度次元圧縮された局面情報が有効であることがわかる.

局面情報は精度を向上させたが，その差はわずかである。それは，固有表現インスタンスの多くは $\mathrm{Tu}$ （手番）や $\mathrm{Pi}$ (駒名), Po（位置）であるが，それらはテキストのみの情報でも高精度で認識することができており, 局面情報を加えることで精度向上が見达める St (戦型) や $\mathrm{Ca}$ (囲い) のインスタンスは割合が少ないためと考えられる.

## 6 おわりに

本稿では, 新たな固有表現認識の解法として, 実世界情報の参照を提案した，提案手法では，全体の枠組みとしてディープニューラルネットワークを用いる。まず実世界情報だけを用いて SAE の事前学習を行い，これをテキスト情報のみを参照する通常の固有表現認識器と統合し，統合されたニューラルネットワークの再学習を行う.

実験では，将棋解説に駒の配置という実世界情報と固有表現タグが付与された将棋解説コー パスを用いた。将棋解説コーパスに対する固有表現認識の精度評価を行い，既存手法に対する
優位性や実世界情報参照の効果を実験的に示した。

本稿で提案した実世界情報を参照する固有表現認識の手法は，将棋解説コーパスのように実世界情報と固有表現タグが付与されたコーパスが利用可能であれば，実世界情報の素性とテキスト素性を同時に入力することができるため，他ドメインの固有表現認識にも適用することが可能である．また，入力される実世界情報によってはネットワークの構造を変更する必要がある (画像情報の入力には畳み込みニューラルネットワークを用いる等). 例えば，ニュース記事とそれに付随した画像情報を参照することにより，一般の固有表現認識の精度向上が期待できる。

## 謝 辞

本研究の一部は, The 54th Annual Meeting of the Association for Computational Linguistics (ACL 2016) で発表したものである (Tomori, Ninomiya, and Mori 2016).

本研究は JSPS 科研費 26540190 及び 25280084 の助成を受けたものである。ここに謝意を表する。

## 参考文献

Borthwick, A. E. (1999). A Maximum Entropy Approach to Named Entity Recognition. Ph.D. thesis, New York, NY, USA. AAI9945252.

Bruni, E., Tran, N. K., and Baroni, M. (2014). "Multimodal Distributional Semantics." Journal of Artificial Intelligence Research, 49, pp. 1-47.

Finkel, J. R., Grenager, T., and Manning, C. (2005). "Incorporating Non-local Information into Information Extraction Systems by Gibbs Sampling." In Proceedings of the 43rd Annual Meeting on Association for Computational Linguistics, pp. 363-370.

Kameko, H., Mori, S., and Tsuruoka, Y. (2015). "Can Symbol Grounding Improve Low-Level NLP? Word Segmentation as a Case Study." In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 2298-2303, Lisbon, Portugal. Association for Computational Linguistics.

Karpathy, A., Joulin, A., and Li, F. F. (2014). "Deep Fragment Embeddings for Bidirectional Image Sentence Mapping." In Ghahramani, Z., Welling, M., Cortes, C., Lawrence, N., and Weinberger, K. (Eds.), Advances in Neural Information Processing Systems 27, pp. 1889-1897. Curran Associates, Inc.

Kiela, D. and Clark, S. (2015). "Multi- and Cross-Modal Semantics Beyond Vision: Grounding in Auditory Perception." In Proceedings of the 2015 Conference on Empirical Methods in Nat-
ural Language Processing, pp. 2461-2470, Lisbon, Portugal. Association for Computational Linguistics.

Kiros, R., Salakhutdinov, R., and Zemel, R. (2014). "Multimodal Neural Language Models." In Proceedings of the 31st International Conference on Machine Learning, pp. 595-603.

Lafferty, J. D., McCallum, A., and Pereira, F. C. N. (2001). "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data." In Proceedings of the 18th International Conference on Machine Learning, ICML '01, pp. 282-289, San Francisco, CA, USA. Morgan Kaufmann Publishers Inc.

Lazaridou, A., Pham, N. T., and Baroni, M. (2015). "Combining Language and Vision with a Multimodal Skip-gram Model." In Proceedings of the 2015 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 153-163.

Lopopolo, A. and van Miltenburg, E. (2015). "Sound-based distributional models." In Proceedings of the 11th International Conference on Computational Semantics, pp. 70-75.

Ma, X. and Hovy, E. (2016). "End-to-end Sequence Labeling via Bi-directional LSTM-CNNsCRF." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1064-1074.

Mikolov, T., Chen, K., Corrado, G., and Dean, J. (2013a). "Efficient Estimation of Word Representations in Vector Space." In arXiv preprint arXiv:1301.3781.

Mikolov, T., Sutskever, I., Chen, K., Corrado, G. S., and Dean, J. (2013b). "Distributed Representations of Words and Phrases and Their Compositionality." Advances in Neural Information Processing Systems, 26, pp. 3111-3119.

Mori, S., Richardson, J., Ushiku, A., Sasada, T., Kameko, H., and Tsuruoka, Y. (2016). "A Japanese Chess Commentary Corpus." In Proceedings of the 10th International Conference on Language Resources and Evaluation, pp. 1415-1420.

Ngiam, J., Khosla, A., Kim, M., Nam, J., Lee, H., and Ng, A. (2011). "Multimodal Deep Learning." In Proceedings of the 28th International Conference on Machine Learning, pp. 689-696.

Ratinov, L. and Roth, D. (2009). "Design Challenges and Misconceptions in Named Entity Recognition." In Proceedings of the 13th Conference on Computational Natural Language Learning, CoNLL '09, pp. 147-155.

Settles, B. (2004). "Biomedical Named Entity Recognition Using Conditional Random Fields and Rich Feature Sets." In Proceedings of the International Joint Workshop on Natural Language Processing in Biomedicine and its Applications, pp. 33-38.

Silberer, C. and Lapata, M. (2014). "Learning Grounded Meaning Representations with Autoen-
coders." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 721-732.

Socher, R., Karpathy, A., Le, Q. V., Manning, C. D., and Ng, A. Y. (2014). "Grounded Compositional Semantics for Finding and Describing Images with Sentences." Transactions of the Association for Computational Linguistics, 2, pp. 207-218.

Srivastava, N. and Salakhutdinov, R. (2012). "Multimodal Learning with Deep Boltzmann Machines." In Advances in Neural Information Processing Systems 25, pp. 2222-2230.

Tjong Kim Sang, E. F. and De Meulder, F. (2003). "Introduction to the CoNLL-2003 Shared Task: Language-independent Named Entity Recognition." In Proceedings of the 7th Conference on Natural Language Learning at HLT-NAACL 2003-Volume 4, CoNLL '03, pp. 142-147.

Tomori, S., Ninomiya, T., and Mori, S. (2016). "Domain Specific Named Entity Recognition Referring to the Real World by Deep Neural Networks." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers), pp. 236-242.

## 略歴

友利涼：2016 年愛媛大学工学部卒業. 同年より京都大学大学院情報学研究科修士課程在学.

二宮崇：2001 年東京大学大学院理学系研究科情報科学専攻博士課程修了. 同年より科学技術振興事業団研究員. 2006 年より東京大学情報基盤センター講師。2010 年より愛媛大学大学院理工学研究科准教授, 2017 年同教授. 東京大学博士 (理学). 言語処理学会, 情報処理学会, 人工知能学会, 電子情報通信学会, 日本データベース学会, ACL 各会員.

森信介：1998 年京都大学大学院工学研究科電子通信工学専攻博士後期課程修了. 同年,日本アイ・ビー・エム株式会社入社. 2007 年より京都大学学術情報メディアセンター准教授, 2016 年同教授. 京都大学博士 (工学). 1997 年情報処理学会山下記念研究賞受賞. 2010 年, 2013 年情報処理学会論文賞受賞. 2010 年第 58 回電気科学技術奨励賞受賞. 言語処理学会, 情報処理学会, 日本データベース学会, ACL 各会員.