論文読み. 4 Multimodal Word Distributions (ACL 2017)

## はじめに
 `Multimodal Word Distributions`という論文を読んだのでまとめていきます。

## 1. 対象とするトピック
### 1.1 キーワード
 `Word Embedding` [論文](https://www.aclweb.org/anthology/P17-1151.pdf)

### 1.2 Abstract

> Word embeddings provide point representations of words containing useful semantic information. We introduce multimodal word distributions formed from Gaussian mixtures, for multiple word meanings, entailment, and rich uncertainty information. To learn these distributions, we propose an energy-based max-margin objective. We show that the resulting approach captures uniquely expressive semantic information, and outperforms alternatives, such as word2vec skip-grams, and Gaussian embeddings, on benchmark datasets such as word similarity and entailment.

### 1.3 経緯
　[前回の記事](https://qiita.com/ryuji0123/items/bb2545f790edfc851172)で紹介したように、ガウス分布によって単語を埋め込むという新しい手法が誕生しました。この手法は一定の効果を示しましたが、単一のガウス分布では表現力に限界があります。例えば、多義語は単一のガウス分布では埋め込めません。以下は論文内での例 (bank) です。
> For example, one mode of the word ‘bank’ could overlap with distributions for words such as ‘finance’ and ‘money’, and another mode could overlap with the distributions for ‘river’ and ‘creek’.

　そこで、この論文では複数のガウス分布の線形和を用いて形成される混合ガウス分布へと埋め込む方法を拡張させようと試みています。なお、論文中では単一のガウス分布を`unimodal distribution`、混合ガウス分布を`multimodal distribution`と呼称しています。以降では識別のために単一ガウス分布と混合ガウス分布という単語で両者を呼称します。

### 1.4 先行研究
　Luke Vilnis and Andrew McCallum. 2014. Word representations via gaussian embedding. CoRR abs/1412.6623.

## 2. 理論
### 2.1 モデル
　前述した通り、単語を空間上に混合ガウス分布として埋め込むことが基本方針です。以下では具体的な定義を示します。

### 2.2 Word Representation
　最初に単語を示す混合ガウス分布の式を示します。単語`w`の混合ガウス分布`f`は以下の式でmc示されます。
<img width="462" alt="スクリーンショット 2020-04-05 15.35.24.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/79060c6c-494d-56a5-fe97-2b16e011be08.png">
<img width="157" alt="スクリーンショット 2020-04-05 15.36.47.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/73b7cb23-db60-8232-8259-3ff5d816e849.png">

　平均や分散などの基本的なノーテーションはお馴染みですね。これらのパラメータの意味は先行研究で用いられている単一ガウス分布の場合と同様です。なお、混合ガウス分布での埋め込みと単一ガウス分布での埋め込みとの違いは下図の通りです。上が混合ガウス分布を用いた場合を図示しています。下が単一ガウス分布を用いた場合を図示しています。
<img width="528" alt="スクリーンショット 2020-04-05 15.56.18.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/7dba8b4a-bcb6-15d7-2ecc-58c8921ad387.png">
　rockのような多義語を単一ガウス分布で埋め込むと図のように分布の広がりが大きくなってしまうことがわかります。
　
### 2.3 Energy-based Max-Margin Objective
　先行研究と同様に、類似した単語の組みを入力とした時の出力値がそうでない単語の組みを入力とした時の出力値よりも大きくなるようなエネルギー関数を利用します。損失関数は単語wと類似した単語cおよび類似していない単語c'を引数に取ります。そしてエネルギー関数を用いて定義されます。
<img width="478" alt="スクリーンショット 2020-04-05 16.11.25.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/82687f88-4d74-59ad-2c56-deacbff68ae2.png">
なお、Eはエネルギー関数でmはマージンです。損失関数は先行研究と同様で`max-margin loss`と呼ばれるものです。

### 2.4 Energy Function
　単語同士の類似度を測るために、単語を埋め込んだ分布同士の類似度を測り方を決定します。分布に含まれる分散の情報を活かすために、以下で示される`expected likelihood kernel`を提案し類似度の計算に利用しています。
　まず一般の関数での分布間の内積計算を確認します。`Hilbert space L2`において、分布間の内積は以下のように計算されます。
<img width="401" alt="スクリーンショット 2020-04-05 16.22.11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/92ec5154-6118-97f0-4f53-03c484ad6f80.png">
　混合ガウス分布においては$f, g$およびエネルギー関数$E$の対数が以下のように計算されます。
<img width="526" alt="スクリーンショット 2020-04-05 16.23.59.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/ab40b44c-c74d-bc95-7edb-472a2668c359.png">

　$\xi_{i,j}$が単語$w_f$の$i$番目の意味と単語$w_g$の$j$番目の意味との類似度を示しています。なお、この`expected likelihood kernel`以外にも`maximum cosine similarity`や`minimum euclidean distance`といった類似度の指標が論文では提示されていました。

## 3. 実験
　いくつか実験が行われていました。次節以降で抜粋したものを紹介します。

### 3.1 Qualitative Evaluation
　論文のモチベーションにも繋がっている多義語についての定性的評価が行われています。結果は下図の通りです。上の表が混合ガウス分布を用いた結果です。下の表が単一ガウス分布を用いた結果です。coは`component`の短縮です。上の表において、混合ガウス分布を分離した場合の構成要素を示します。
<img width="529" alt="スクリーンショット 2020-04-05 16.50.52.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/5cc6cd66-fe64-4c81-860a-9c42827bea2c.png">
　混合ガウス分布を用いた場合は、多義語において構成要素ごとに異なる意味を持つ単語の近傍に位置することがわかります。

### 3.2 Word Entailment
　多義語以外にも単語の含意関係について実験が行われています。具体的には、単語$w_1$ならば単語$w_2$であるという含意関係が成立するかしないかを識別する実験です。先行研究では非対称な類似度を測るために用いられていた`KL divergence`やF1値を用いて単語間の含意関係についての定量的評価が行われています。なおこの論文では`KL divergence`は以下の式で定義される`minimum KL divergence`として利用されています。
<img width="271" alt="スクリーンショット 2020-04-05 17.25.34.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/855ed3aa-27fb-15b0-53ec-cc4a8b555ab1.png">

　以下に実験結果を示します。
<img width="395" alt="スクリーンショット 2020-04-05 17.05.12.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/426293/1167acb8-d566-86ca-900a-e7efa718f290.png">
　先行研究(`Word to Gauss`)よりも提案手法(`Word to Gaussian Mixture`)の方が優れていることがわかります。

#### KL divergenceについての補足
　`KL divergence`は非対称な距離であり、今回の単語間の含意関係のように分布同士の関係が特定の方向性を持たない場合に有効です。例えば、単語$w_1$ならば$w_2$という関係が成り立つ場合でも逆は成立しません。後者は前者の意味全てを含みますが、全く同じ単語でない限り逆の関係はありえないからです。このように入力の順序等によって距離が変化して欲しい場合は距離の対称性は邪魔になります。そこで非対称な距離が必要となります。その一つが`KL divergence`です。　

## 参考文献
- Ben Athiwaratkun, Andrew Gordon Wilson (2017). Multimodal Word Distributions, https://www.aclweb.org/anthology/P17-1151.pdf
- ryuji0123 (2020). 論文読み. 3 Luke Vilnis, Andrew McCallum. Word Representations via Gaussian Embedding (ICLR 2015), https://qiita.com/ryuji0123/items/bb2545f790edfc851172
- Liyuan Xu (2017). Multimodal Word Distributions, https://www.slideshare.net/liyuanxu1/multimodal-word-distribution